kernel32: Add tests for FormatMessageA/W.
[wine] / dlls / kernel32 / tests / module.c
1 /*
2  * Unit tests for module/DLL/library API
3  *
4  * Copyright (c) 2004 Eric Pouech
5  *
6  * This library is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * This library is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this library; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA 02110-1301, USA
19  */
20
21 #include "wine/test.h"
22 #include <windows.h>
23
24 static BOOL is_unicode_enabled = TRUE;
25
26 static BOOL cmpStrAW(const char* a, const WCHAR* b, DWORD lenA, DWORD lenB)
27 {
28     WCHAR       aw[1024];
29
30     DWORD len = MultiByteToWideChar( AreFileApisANSI() ? CP_ACP : CP_OEMCP, 0,
31                                      a, lenA, aw, sizeof(aw) / sizeof(aw[0]) );
32     if (len != lenB) return FALSE;
33     return memcmp(aw, b, len * sizeof(WCHAR)) == 0;
34 }
35
36 static void testGetModuleFileName(const char* name)
37 {
38     HMODULE     hMod;
39     char        bufA[MAX_PATH];
40     WCHAR       bufW[MAX_PATH];
41     DWORD       len1A, len1W = 0, len2A, len2W = 0;
42
43     hMod = (name) ? GetModuleHandle(name) : NULL;
44
45     /* first test, with enough space in buffer */
46     memset(bufA, '-', sizeof(bufA));
47     len1A = GetModuleFileNameA(hMod, bufA, sizeof(bufA));
48     ok(len1A > 0, "Getting module filename for handle %p\n", hMod);
49
50     if (is_unicode_enabled)
51     {
52         memset(bufW, '-', sizeof(bufW));
53         len1W = GetModuleFileNameW(hMod, bufW, sizeof(bufW) / sizeof(WCHAR));
54         ok(len1W > 0, "Getting module filename for handle %p\n", hMod);
55     }
56
57     ok(len1A == strlen(bufA), "Unexpected length of GetModuleFilenameA (%d/%d)\n", len1A, lstrlenA(bufA));
58
59     if (is_unicode_enabled)
60     {
61         ok(len1W == lstrlenW(bufW), "Unexpected length of GetModuleFilenameW (%d/%d)\n", len1W, lstrlenW(bufW));
62         ok(cmpStrAW(bufA, bufW, len1A, len1W), "Comparing GetModuleFilenameAW results\n");
63     }
64
65     /* second test with a buffer too small */
66     memset(bufA, '-', sizeof(bufA));
67     len2A = GetModuleFileNameA(hMod, bufA, len1A / 2);
68     ok(len2A > 0, "Getting module filename for handle %p\n", hMod);
69
70     if (is_unicode_enabled)
71     {
72         memset(bufW, '-', sizeof(bufW));
73         len2W = GetModuleFileNameW(hMod, bufW, len1W / 2);
74         ok(len2W > 0, "Getting module filename for handle %p\n", hMod);
75         ok(cmpStrAW(bufA, bufW, len2A, len2W), "Comparing GetModuleFilenameAW results with buffer too small\n" );
76         ok(len1W / 2 == len2W, "Correct length in GetModuleFilenameW with buffer too small (%d/%d)\n", len1W / 2, len2W);
77     }
78
79     ok(len1A / 2 == len2A || 
80        len1A / 2 == len2A + 1, /* Win9x */
81        "Correct length in GetModuleFilenameA with buffer too small (%d/%d)\n", len1A / 2, len2A);
82 }
83
84 static void testGetModuleFileName_Wrong(void)
85 {
86     char        bufA[MAX_PATH];
87     WCHAR       bufW[MAX_PATH];
88
89     /* test wrong handle */
90     if (is_unicode_enabled)
91     {
92         bufW[0] = '*';
93         ok(GetModuleFileNameW((void*)0xffffffff, bufW, sizeof(bufW) / sizeof(WCHAR)) == 0, "Unexpected success in module handle\n");
94         ok(bufW[0] == '*', "When failing, buffer shouldn't be written to\n");
95     }
96
97     bufA[0] = '*';
98     ok(GetModuleFileNameA((void*)0xffffffff, bufA, sizeof(bufA)) == 0, "Unexpected success in module handle\n");
99     ok(bufA[0] == '*' ||
100        bufA[0] == 0 /* Win9x */,
101        "When failing, buffer shouldn't be written to\n");
102 }
103
104 static void testLoadLibraryA(void)
105 {
106     HMODULE hModule, hModule1;
107     FARPROC fp;
108
109     SetLastError(0xdeadbeef);
110     hModule = LoadLibraryA("kernel32.dll");
111     ok( hModule != NULL, "kernel32.dll should be loadable\n");
112     ok( GetLastError() == 0xdeadbeef, "GetLastError should be 0xdeadbeef but is %d\n", GetLastError());
113
114     fp = GetProcAddress(hModule, "CreateFileA");
115     ok( fp != NULL, "CreateFileA should be there\n");
116     ok( GetLastError() == 0xdeadbeef, "GetLastError should be 0xdeadbeef but is %d\n", GetLastError());
117
118     SetLastError(0xdeadbeef);
119     hModule1 = LoadLibraryA("kernel32   ");
120     /* Only winNT does this */
121     if (GetLastError() != ERROR_DLL_NOT_FOUND)
122     {
123         ok( hModule1 != NULL, "\"kernel32   \" should be loadable\n");
124         ok( GetLastError() == 0xdeadbeef, "GetLastError should be 0xdeadbeef but is %d\n", GetLastError());
125         ok( hModule == hModule1, "Loaded wrong module\n");
126         FreeLibrary(hModule1);
127     }
128     FreeLibrary(hModule);
129 }
130
131 static void testNestedLoadLibraryA(void)
132 {
133     static const char dllname[] = "shell32.dll";
134     char path1[MAX_PATH], path2[MAX_PATH];
135     HMODULE hModule1, hModule2, hModule3;
136
137     /* This is not really a Windows conformance test, but more a Wine
138      * regression test. Wine's builtin dlls can be loaded from multiple paths,
139      * and this test tries to make sure that Wine does not get confused and
140      * really unloads the Unix .so file at the right time. Failure to do so
141      * will result in the dll being unloadable.
142      * This test must be done with a dll that can be unloaded, which means:
143      * - it must not already be loaded
144      * - it must not have a 16-bit counterpart
145      */
146     GetWindowsDirectory(path1, sizeof(path1));
147     strcat(path1, "\\system\\");
148     strcat(path1, dllname);
149     hModule1 = LoadLibraryA(path1);
150     if (!hModule1)
151     {
152         /* We must be on Windows NT, so we cannot test */
153         return;
154     }
155
156     GetWindowsDirectory(path2, sizeof(path2));
157     strcat(path2, "\\system32\\");
158     strcat(path2, dllname);
159     hModule2 = LoadLibraryA(path2);
160     if (!hModule2)
161     {
162         /* We must be on Windows 9x, so we cannot test */
163         ok(FreeLibrary(hModule1), "FreeLibrary() failed\n");
164         return;
165     }
166
167     /* The first LoadLibrary() call may have registered the dll under the
168      * system32 path. So load it, again, under the '...\system\...' path so
169      * Wine does not immediately notice that it is already loaded.
170      */
171     hModule3 = LoadLibraryA(path1);
172     ok(hModule3 != NULL, "LoadLibrary(%s) failed\n", path1);
173
174     /* Now fully unload the dll */
175     ok(FreeLibrary(hModule3), "FreeLibrary() failed\n");
176     ok(FreeLibrary(hModule2), "FreeLibrary() failed\n");
177     ok(FreeLibrary(hModule1), "FreeLibrary() failed\n");
178     ok(GetModuleHandle(dllname) == NULL, "%s was not fully unloaded\n", dllname);
179
180     /* Try to load the dll again, if refcounting is ok, this should work */
181     hModule1 = LoadLibraryA(path1);
182     ok(hModule1 != NULL, "LoadLibrary(%s) failed\n", path1);
183     if (hModule1 != NULL)
184         ok(FreeLibrary(hModule1), "FreeLibrary() failed\n");
185 }
186
187 static void testLoadLibraryA_Wrong(void)
188 {
189     HMODULE hModule;
190
191     /* Try to load a nonexistent dll */
192     SetLastError(0xdeadbeef);
193     hModule = LoadLibraryA("non_ex_pv.dll");
194     ok( !hModule, "non_ex_pv.dll should be not loadable\n");
195     ok( GetLastError() == ERROR_MOD_NOT_FOUND || GetLastError() == ERROR_DLL_NOT_FOUND, 
196         "Expected ERROR_MOD_NOT_FOUND or ERROR_DLL_NOT_FOUND (win9x), got %d\n", GetLastError());
197
198     /* Just in case */
199     FreeLibrary(hModule);
200 }
201
202 static void testGetProcAddress_Wrong(void)
203 {
204     FARPROC fp;
205
206     SetLastError(0xdeadbeef);
207     fp = GetProcAddress(NULL, "non_ex_call");
208     ok( !fp, "non_ex_call should not be found\n");
209     ok( GetLastError() == ERROR_PROC_NOT_FOUND || GetLastError() == ERROR_INVALID_HANDLE,
210         "Expected ERROR_PROC_NOT_FOUND or ERROR_INVALID_HANDLE(win9x), got %d\n", GetLastError());
211
212     SetLastError(0xdeadbeef);
213     fp = GetProcAddress((HMODULE)0xdeadbeef, "non_ex_call");
214     ok( !fp, "non_ex_call should not be found\n");
215     ok( GetLastError() == ERROR_MOD_NOT_FOUND || GetLastError() == ERROR_INVALID_HANDLE,
216         "Expected ERROR_MOD_NOT_FOUND or ERROR_INVALID_HANDLE(win9x), got %d\n", GetLastError());
217 }
218
219 static void testLoadLibraryEx(void)
220 {
221     CHAR path[MAX_PATH];
222     HMODULE hmodule;
223     HANDLE hfile;
224
225     hfile = CreateFileA("testfile.dll", GENERIC_READ | GENERIC_WRITE,
226                         FILE_SHARE_READ | FILE_SHARE_WRITE,
227                         NULL, CREATE_ALWAYS, FILE_ATTRIBUTE_NORMAL, 0);
228     ok(hfile != INVALID_HANDLE_VALUE, "Expected a valid file handle\n");
229
230     /* NULL lpFileName */
231     SetLastError(0xdeadbeef);
232     hmodule = LoadLibraryExA(NULL, NULL, 0);
233     ok(hmodule == 0, "Expected 0, got %p\n", hmodule);
234     ok(GetLastError() == ERROR_MOD_NOT_FOUND ||
235        GetLastError() == ERROR_INVALID_PARAMETER, /* win9x */
236        "Expected ERROR_MOD_NOT_FOUND or ERROR_INVALID_PARAMETER, got %d\n",
237        GetLastError());
238
239     /* empty lpFileName */
240     SetLastError(0xdeadbeef);
241     hmodule = LoadLibraryExA("", NULL, 0);
242     ok(hmodule == 0, "Expected 0, got %p\n", hmodule);
243     ok(GetLastError() == ERROR_MOD_NOT_FOUND ||
244        GetLastError() == ERROR_DLL_NOT_FOUND, /* win9x */
245        "Expected ERROR_MOD_NOT_FOUND or ERROR_DLL_NOT_FOUND, got %d\n",
246        GetLastError());
247
248     /* hFile is non-NULL */
249     SetLastError(0xdeadbeef);
250     hmodule = LoadLibraryExA("testfile.dll", hfile, 0);
251     ok(hmodule == 0, "Expected 0, got %p\n", hmodule);
252     ok(GetLastError() == ERROR_SHARING_VIOLATION ||
253        GetLastError() == ERROR_INVALID_PARAMETER || /* win2k3 */
254        GetLastError() == ERROR_FILE_NOT_FOUND, /* win9x */
255        "Unexpected last error, got %d\n", GetLastError());
256
257     /* try to open a file that is locked */
258     SetLastError(0xdeadbeef);
259     hmodule = LoadLibraryExA("testfile.dll", NULL, 0);
260     ok(hmodule == 0, "Expected 0, got %p\n", hmodule);
261     todo_wine
262     {
263         ok(GetLastError() == ERROR_SHARING_VIOLATION ||
264            GetLastError() == ERROR_FILE_NOT_FOUND, /* win9x */
265            "Expected ERROR_SHARING_VIOLATION or ERROR_FILE_NOT_FOUND, got %d\n",
266            GetLastError());
267     }
268
269     /* lpFileName does not matter */
270     SetLastError(0xdeadbeef);
271     hmodule = LoadLibraryExA(NULL, hfile, 0);
272     ok(hmodule == 0, "Expected 0, got %p\n", hmodule);
273     ok(GetLastError() == ERROR_MOD_NOT_FOUND ||
274        GetLastError() == ERROR_INVALID_PARAMETER, /* win2k3 */
275        "Expected ERROR_MOD_NOT_FOUND or ERROR_INVALID_PARAMETER, got %d\n",
276        GetLastError());
277
278     CloseHandle(hfile);
279
280     /* load empty file */
281     SetLastError(0xdeadbeef);
282     hmodule = LoadLibraryExA("testfile.dll", NULL, LOAD_LIBRARY_AS_DATAFILE);
283     ok(hmodule == 0, "Expected 0, got %p\n", hmodule);
284     todo_wine
285     {
286         ok(GetLastError() == ERROR_FILE_INVALID ||
287            GetLastError() == ERROR_BAD_FORMAT, /* win9x */
288            "Expected ERROR_FILE_INVALID or ERROR_BAD_FORMAT, got %d\n",
289            GetLastError());
290     }
291
292     DeleteFileA("testfile.dll");
293
294     GetSystemDirectoryA(path, MAX_PATH);
295     if (path[lstrlenA(path) - 1] != '\\')
296         lstrcatA(path, "\\");
297     lstrcatA(path, "kernel32.dll");
298
299     /* load kernel32.dll with an absolute path */
300     SetLastError(0xdeadbeef);
301     hmodule = LoadLibraryExA(path, NULL, LOAD_LIBRARY_AS_DATAFILE);
302     ok(hmodule != 0, "Expected valid module handle\n");
303     ok(GetLastError() == 0xdeadbeef ||
304        GetLastError() == ERROR_SUCCESS, /* win9x */
305        "Expected 0xdeadbeef or ERROR_SUCCESS, got %d\n", GetLastError());
306
307     CloseHandle(hmodule);
308
309     /* load kernel32.dll with no path */
310     SetLastError(0xdeadbeef);
311     hmodule = LoadLibraryExA("kernel32.dll", NULL, LOAD_LIBRARY_AS_DATAFILE);
312     ok(hmodule != 0, "Expected valid module handle\n");
313     ok(GetLastError() == 0xdeadbeef ||
314        GetLastError() == ERROR_SUCCESS, /* win9x */
315        "Expected 0xdeadbeef or ERROR_SUCCESS, got %d\n", GetLastError());
316
317     CloseHandle(hmodule);
318
319     GetCurrentDirectoryA(MAX_PATH, path);
320     if (path[lstrlenA(path) - 1] != '\\')
321         lstrcatA(path, "\\");
322     lstrcatA(path, "kernel32.dll");
323
324     /* load kernel32.dll with an absolute path that does not exist */
325     SetLastError(0xdeadbeef);
326     hmodule = LoadLibraryExA(path, NULL, LOAD_LIBRARY_AS_DATAFILE);
327     todo_wine
328     {
329         ok(hmodule == 0, "Expected 0, got %p\n", hmodule);
330     }
331     ok(GetLastError() == ERROR_FILE_NOT_FOUND ||
332        broken(GetLastError() == ERROR_INVALID_HANDLE),  /* nt4 */
333        "Expected ERROR_FILE_NOT_FOUND, got %d\n", GetLastError());
334 }
335
336 START_TEST(module)
337 {
338     WCHAR filenameW[MAX_PATH];
339
340     /* Test if we can use GetModuleFileNameW */
341
342     SetLastError(0xdeadbeef);
343     GetModuleFileNameW(NULL, filenameW, MAX_PATH);
344     if (GetLastError() == ERROR_CALL_NOT_IMPLEMENTED)
345     {
346         win_skip("GetModuleFileNameW not existing on this platform, skipping W-calls\n");
347         is_unicode_enabled = FALSE;
348     }
349
350     testGetModuleFileName(NULL);
351     testGetModuleFileName("kernel32.dll");
352     testGetModuleFileName_Wrong();
353
354     testLoadLibraryA();
355     testNestedLoadLibraryA();
356     testLoadLibraryA_Wrong();
357     testGetProcAddress_Wrong();
358     testLoadLibraryEx();
359 }