Remove some Unicode->ANSI cross-calls in crypt functions.
[wine] / dlls / advapi32 / tests / crypt.c
1 /*
2  * Unit tests for crypt functions
3  *
4  * Copyright (c) 2004 Michael Jung
5  *
6  * This library is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * This library is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this library; if not, write to the Free Software
18  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
19  */
20
21 #include <stdarg.h>
22
23 #include "windef.h"
24 #include "winbase.h"
25 #include "wincrypt.h"
26 #include "winerror.h"
27 #include "winreg.h"
28
29 #include "wine/test.h"
30
31 static const char szRsaBaseProv[] = MS_DEF_PROV_A;
32 static const char szNonExistentProv[] = "Wine Nonexistent Cryptographic Provider v11.2";
33 static const char szKeySet[] = "wine_test_keyset";
34 static const char szBadKeySet[] = "wine_test_bad_keyset";
35 #define NON_DEF_PROV_TYPE 999
36
37 static HMODULE hadvapi32;
38 static BOOL (WINAPI *pCryptAcquireContextA)(HCRYPTPROV*,LPCSTR,LPCSTR,DWORD,DWORD);
39 static BOOL (WINAPI *pCryptEnumProviderTypesA)(DWORD, DWORD*, DWORD, DWORD*, LPSTR, DWORD*);
40 static BOOL (WINAPI *pCryptEnumProvidersA)(DWORD, DWORD*, DWORD, DWORD*, LPSTR, DWORD*);
41 static BOOL (WINAPI *pCryptGetDefaultProviderA)(DWORD, DWORD*, DWORD, LPSTR, DWORD*);
42 static BOOL (WINAPI *pCryptReleaseContext)(HCRYPTPROV, DWORD);
43 static BOOL (WINAPI *pCryptSetProviderExA)(LPCSTR, DWORD, DWORD*, DWORD);
44 static BOOL (WINAPI *pCryptCreateHash)(HCRYPTPROV, ALG_ID, HCRYPTKEY, DWORD, HCRYPTHASH*);
45 static BOOL (WINAPI *pCryptDestroyHash)(HCRYPTHASH);
46 static BOOL (WINAPI *pCryptGenRandom)(HCRYPTPROV, DWORD, BYTE*);
47 static BOOL (WINAPI *pCryptContextAddRef)(HCRYPTPROV, DWORD*, DWORD dwFlags);
48 static BOOL (WINAPI *pCryptGenKey)(HCRYPTPROV, ALG_ID, DWORD, HCRYPTKEY*);
49 static BOOL (WINAPI *pCryptDestroyKey)(HCRYPTKEY);
50 static BOOL (WINAPI *pCryptDecrypt)(HCRYPTKEY, HCRYPTHASH, BOOL, DWORD, BYTE*, DWORD*);
51 static BOOL (WINAPI *pCryptDeriveKey)(HCRYPTPROV, ALG_ID, HCRYPTHASH, DWORD, HCRYPTKEY*);
52 static BOOL (WINAPI *pCryptDuplicateHash)(HCRYPTHASH, DWORD*, DWORD, HCRYPTHASH*);
53 static BOOL (WINAPI *pCryptDuplicateKey)(HCRYPTKEY, DWORD*, DWORD, HCRYPTKEY*);
54 static BOOL (WINAPI *pCryptEncrypt)(HCRYPTKEY, HCRYPTHASH, BOOL, DWORD, BYTE*, DWORD*, DWORD);
55 static BOOL (WINAPI *pCryptExportKey)(HCRYPTKEY, HCRYPTKEY, DWORD, DWORD, BYTE*, DWORD*);
56 static BOOL (WINAPI *pCryptGetHashParam)(HCRYPTHASH, DWORD, BYTE*, DWORD*, DWORD);
57 static BOOL (WINAPI *pCryptGetKeyParam)(HCRYPTKEY, DWORD, BYTE*, DWORD*, DWORD);
58 static BOOL (WINAPI *pCryptGetProvParam)(HCRYPTPROV, DWORD, BYTE*, DWORD*, DWORD);
59 static BOOL (WINAPI *pCryptGetUserKey)(HCRYPTPROV, DWORD, HCRYPTKEY*);
60 static BOOL (WINAPI *pCryptHashData)(HCRYPTHASH, BYTE*, DWORD, DWORD);
61 static BOOL (WINAPI *pCryptHashSessionKey)(HCRYPTHASH, HCRYPTKEY, DWORD);
62 static BOOL (WINAPI *pCryptImportKey)(HCRYPTPROV, BYTE*, DWORD, HCRYPTKEY, DWORD, HCRYPTKEY*);
63 static BOOL (WINAPI *pCryptSignHashW)(HCRYPTHASH, DWORD, LPCWSTR, DWORD, BYTE*, DWORD*);
64 static BOOL (WINAPI *pCryptSetHashParam)(HCRYPTKEY, DWORD, BYTE*, DWORD);
65 static BOOL (WINAPI *pCryptSetKeyParam)(HCRYPTKEY, DWORD, BYTE*, DWORD);
66 static BOOL (WINAPI *pCryptSetProvParam)(HCRYPTPROV, DWORD, BYTE*, DWORD);
67 static BOOL (WINAPI *pCryptVerifySignatureW)(HCRYPTHASH, BYTE*, DWORD, HCRYPTKEY, LPCWSTR, DWORD);
68
69 static void init_function_pointers(void)
70 {
71     hadvapi32 = GetModuleHandleA("advapi32.dll");
72
73     if(hadvapi32)
74     {
75         pCryptAcquireContextA = (void*)GetProcAddress(hadvapi32, "CryptAcquireContextA");
76         pCryptEnumProviderTypesA = (void*)GetProcAddress(hadvapi32, "CryptEnumProviderTypesA");
77         pCryptEnumProvidersA = (void*)GetProcAddress(hadvapi32, "CryptEnumProvidersA");
78         pCryptGetDefaultProviderA = (void*)GetProcAddress(hadvapi32, "CryptGetDefaultProviderA");
79         pCryptReleaseContext = (void*)GetProcAddress(hadvapi32, "CryptReleaseContext");
80         pCryptSetProviderExA = (void*)GetProcAddress(hadvapi32, "CryptSetProviderExA");
81         pCryptCreateHash = (void*)GetProcAddress(hadvapi32, "CryptCreateHash");
82         pCryptDestroyHash = (void*)GetProcAddress(hadvapi32, "CryptDestroyHash");
83         pCryptGenRandom = (void*)GetProcAddress(hadvapi32, "CryptGenRandom");
84         pCryptContextAddRef = (void*)GetProcAddress(hadvapi32, "CryptContextAddRef");
85         pCryptGenKey = (void*)GetProcAddress(hadvapi32, "CryptGenKey");
86         pCryptDestroyKey = (void*)GetProcAddress(hadvapi32, "CryptDestroyKey");
87         pCryptDecrypt = (void*)GetProcAddress(hadvapi32, "CryptDecrypt");
88         pCryptDeriveKey = (void*)GetProcAddress(hadvapi32, "CryptDeriveKey");
89         pCryptDuplicateHash = (void*)GetProcAddress(hadvapi32, "CryptDuplicateHash");
90         pCryptDuplicateKey = (void*)GetProcAddress(hadvapi32, "CryptDuplicateKey");
91         pCryptEncrypt = (void*)GetProcAddress(hadvapi32, "CryptEncrypt");
92         pCryptExportKey = (void*)GetProcAddress(hadvapi32, "CryptExportKey");
93         pCryptGetHashParam = (void*)GetProcAddress(hadvapi32, "CryptGetHashParam");
94         pCryptGetKeyParam = (void*)GetProcAddress(hadvapi32, "CryptGetKeyParam");
95         pCryptGetProvParam = (void*)GetProcAddress(hadvapi32, "CryptGetProvParam");
96         pCryptGetUserKey = (void*)GetProcAddress(hadvapi32, "CryptGetUserKey");
97         pCryptHashData = (void*)GetProcAddress(hadvapi32, "CryptHashData");
98         pCryptHashSessionKey = (void*)GetProcAddress(hadvapi32, "CryptHashSessionKey");
99         pCryptImportKey = (void*)GetProcAddress(hadvapi32, "CryptImportKey");
100         pCryptSignHashW = (void*)GetProcAddress(hadvapi32, "CryptSignHashW");
101         pCryptSetHashParam = (void*)GetProcAddress(hadvapi32, "CryptSetHashParam");
102         pCryptSetKeyParam = (void*)GetProcAddress(hadvapi32, "CryptSetKeyParam");
103         pCryptSetProvParam = (void*)GetProcAddress(hadvapi32, "CryptSetProvParam");
104         pCryptVerifySignatureW = (void*)GetProcAddress(hadvapi32, "CryptVerifySignatureW");
105     }
106 }
107
108 static void init_environment(void)
109 {
110         HCRYPTPROV hProv;
111         
112         /* Ensure that container "wine_test_keyset" does exist */
113         if (!pCryptAcquireContextA(&hProv, szKeySet, szRsaBaseProv, PROV_RSA_FULL, 0))
114         {
115                 pCryptAcquireContextA(&hProv, szKeySet, szRsaBaseProv, PROV_RSA_FULL, CRYPT_NEWKEYSET);
116         }
117         pCryptReleaseContext(hProv, 0);
118
119         /* Ensure that container "wine_test_keyset" does exist in default PROV_RSA_FULL type provider */
120         if (!pCryptAcquireContextA(&hProv, szKeySet, NULL, PROV_RSA_FULL, 0))
121         {
122                 pCryptAcquireContextA(&hProv, szKeySet, NULL, PROV_RSA_FULL, CRYPT_NEWKEYSET);
123         }
124         pCryptReleaseContext(hProv, 0);
125
126         /* Ensure that container "wine_test_bad_keyset" does not exist. */
127         if (pCryptAcquireContextA(&hProv, szBadKeySet, szRsaBaseProv, PROV_RSA_FULL, 0))
128         {
129                 pCryptReleaseContext(hProv, 0);
130                 pCryptAcquireContextA(&hProv, szBadKeySet, szRsaBaseProv, PROV_RSA_FULL, CRYPT_DELETEKEYSET);
131         }
132 }
133
134 static void clean_up_environment(void)
135 {
136         HCRYPTPROV hProv;
137
138         /* Remove container "wine_test_keyset" */
139         if (pCryptAcquireContextA(&hProv, szKeySet, szRsaBaseProv, PROV_RSA_FULL, 0))
140         {
141                 pCryptReleaseContext(hProv, 0);
142                 pCryptAcquireContextA(&hProv, szKeySet, szRsaBaseProv, PROV_RSA_FULL, CRYPT_DELETEKEYSET);
143         }
144
145         /* Remove container "wine_test_keyset" from default PROV_RSA_FULL type provider */
146         if (pCryptAcquireContextA(&hProv, szKeySet, NULL, PROV_RSA_FULL, 0))
147         {
148                 pCryptReleaseContext(hProv, 0);
149                 pCryptAcquireContextA(&hProv, szKeySet, NULL, PROV_RSA_FULL, CRYPT_DELETEKEYSET);
150         }
151 }
152
153 static void test_acquire_context(void)
154 {
155         BOOL result;
156         HCRYPTPROV hProv;
157
158         /* Provoke all kinds of error conditions (which are easy to provoke). 
159          * The order of the error tests seems to match Windows XP's rsaenh.dll CSP,
160          * but since this is likely to change between CSP versions, we don't check
161          * this. Please don't change the order of tests. */
162         result = pCryptAcquireContextA(&hProv, NULL, NULL, 0, 0);
163         ok(!result && GetLastError()==NTE_BAD_PROV_TYPE, "%ld\n", GetLastError());
164         
165         result = pCryptAcquireContextA(&hProv, NULL, NULL, 1000, 0);
166         ok(!result && GetLastError()==NTE_BAD_PROV_TYPE, "%ld\n", GetLastError());
167
168         result = pCryptAcquireContextA(&hProv, NULL, NULL, NON_DEF_PROV_TYPE, 0);
169         ok(!result && GetLastError()==NTE_PROV_TYPE_NOT_DEF, "%ld\n", GetLastError());
170         
171         result = pCryptAcquireContextA(&hProv, szKeySet, szNonExistentProv, PROV_RSA_FULL, 0);
172         ok(!result && GetLastError()==NTE_KEYSET_NOT_DEF, "%ld\n", GetLastError());
173
174         result = pCryptAcquireContextA(&hProv, szKeySet, szRsaBaseProv, NON_DEF_PROV_TYPE, 0);
175         ok(!result && GetLastError()==NTE_PROV_TYPE_NO_MATCH, "%ld\n", GetLastError());
176         
177         /* This test fails under Win2k SP4:
178            result = TRUE, GetLastError() == ERROR_INVALID_PARAMETER
179         SetLastError(0xdeadbeef);
180         result = pCryptAcquireContextA(NULL, szKeySet, szRsaBaseProv, PROV_RSA_FULL, 0);
181         ok(!result && GetLastError()==ERROR_INVALID_PARAMETER, "%d/%ld\n", result, GetLastError());
182         */
183         
184         /* Last not least, try to really acquire a context. */
185         hProv = 0;
186         SetLastError(0xdeadbeef);
187         result = pCryptAcquireContextA(&hProv, szKeySet, szRsaBaseProv, PROV_RSA_FULL, 0);
188         ok(result && (GetLastError() == ERROR_ENVVAR_NOT_FOUND || GetLastError() == ERROR_SUCCESS || GetLastError() == ERROR_RING2_STACK_IN_USE || GetLastError() == NTE_FAIL), "%d/%ld\n", result, GetLastError());
189
190         if (hProv) 
191                 pCryptReleaseContext(hProv, 0);
192
193         /* Try again, witch an empty ("\0") szProvider parameter */
194         hProv = 0;
195         SetLastError(0xdeadbeef);
196         result = pCryptAcquireContextA(&hProv, szKeySet, "", PROV_RSA_FULL, 0);
197         ok(result && (GetLastError() == ERROR_ENVVAR_NOT_FOUND || GetLastError() == ERROR_SUCCESS  || GetLastError() == ERROR_RING2_STACK_IN_USE || GetLastError() == NTE_FAIL), "%d/%ld\n", result, GetLastError());
198
199         if (hProv) 
200                 pCryptReleaseContext(hProv, 0);
201 }
202
203 static void test_incorrect_api_usage(void)
204 {
205     BOOL result;
206     HCRYPTPROV hProv, hProv2;
207     HCRYPTHASH hHash, hHash2;
208     HCRYPTKEY hKey, hKey2;
209     BYTE temp;
210     DWORD dwLen, dwTemp;
211
212     /* This is to document incorrect api usage in the 
213      * "Uru - Ages beyond Myst Demo" installer as reported by Paul Vriens.
214      *
215      * The installer destroys a hash object after having released the context 
216      * with which the hash was created. This is not allowed according to MSDN, 
217      * since CryptReleaseContext destroys all hash and key objects belonging to 
218      * the respective context. However, while wine used to crash, Windows is more 
219      * robust here and returns an ERROR_INVALID_PARAMETER code.
220      */
221     
222     result = pCryptAcquireContextA(&hProv, szBadKeySet, szRsaBaseProv, 
223                                    PROV_RSA_FULL, CRYPT_NEWKEYSET);
224     ok (result, "%08lx\n", GetLastError());
225     if (!result) return;
226
227     result = pCryptCreateHash(hProv, CALG_SHA, 0, 0, &hHash);
228     ok (result, "%ld\n", GetLastError());
229     if (!result) return;
230
231     result = pCryptGenKey(hProv, CALG_RC4, 0, &hKey);
232     ok (result, "%ld\n", GetLastError());
233     if (!result) return;
234
235     result = pCryptGenKey(hProv, CALG_RC4, 0, &hKey2);
236     ok (result, "%ld\n", GetLastError());
237     if (!result) return;
238
239     result = pCryptDestroyKey(hKey2);
240     ok (result, "%ld\n", GetLastError());
241
242     dwTemp = CRYPT_MODE_ECB;    
243     result = pCryptSetKeyParam(hKey2, KP_MODE, (BYTE*)&dwTemp, sizeof(DWORD));
244     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
245     
246     result = pCryptAcquireContextA(&hProv2, szBadKeySet, NULL, PROV_RSA_FULL, 
247                                    CRYPT_DELETEKEYSET);
248     ok (result, "%ld\n", GetLastError());
249     if (!result) return;
250     
251     result = pCryptReleaseContext(hProv, 0);
252     ok (result, "%ld\n", GetLastError());
253     if (!result) return;
254
255     result = pCryptReleaseContext(hProv, 0);
256     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
257
258     result = pCryptGenRandom(hProv, 1, &temp);
259     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
260
261 #ifdef CRASHES_ON_NT40
262     result = pCryptContextAddRef(hProv, NULL, 0);
263     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
264 #endif
265
266     result = pCryptCreateHash(hProv, CALG_SHA, 0, 0, &hHash2);
267     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
268
269     dwLen = 1;
270     result = pCryptDecrypt(hKey, (HCRYPTHASH)NULL, TRUE, 0, &temp, &dwLen);
271     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
272
273     dwLen = 1;
274     result = pCryptEncrypt(hKey, (HCRYPTHASH)NULL, TRUE, 0, &temp, &dwLen, 1);
275     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
276
277     result = pCryptDeriveKey(hProv, CALG_RC4, hHash, 0, &hKey2);
278     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
279
280 #ifdef CRASHES_ON_NT40
281     result = pCryptDuplicateHash(hHash, NULL, 0, &hHash2);
282     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
283
284     result = pCryptDuplicateKey(hKey, NULL, 0, &hKey2);
285     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
286 #endif
287
288     dwLen = 1;
289     result = pCryptExportKey(hKey, (HCRYPTPROV)NULL, 0, 0, &temp, &dwLen);
290     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
291
292     result = pCryptGenKey(hProv, CALG_RC4, 0, &hKey2);
293     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
294
295     dwLen = 1;
296     result = pCryptGetHashParam(hHash, 0, &temp, &dwLen, 0);
297     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
298
299     dwLen = 1;
300     result = pCryptGetKeyParam(hKey, 0, &temp, &dwLen, 0);
301     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
302
303     dwLen = 1;
304     result = pCryptGetProvParam(hProv, 0, &temp, &dwLen, 0);
305     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
306     
307     result = pCryptGetUserKey(hProv, 0, &hKey2);
308     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
309
310     result = pCryptHashData(hHash, &temp, 1, 0);
311     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
312
313     result = pCryptHashSessionKey(hHash, hKey, 0);
314     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
315
316     result = pCryptImportKey(hProv, &temp, 1, (HCRYPTKEY)NULL, 0, &hKey2);
317     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
318
319     dwLen = 1;
320     result = pCryptSignHashW(hHash, 0, NULL, 0, &temp, &dwLen);
321     ok (!result && (GetLastError() == ERROR_INVALID_PARAMETER ||
322         GetLastError() == ERROR_CALL_NOT_IMPLEMENTED), "%ld\n", GetLastError());
323
324     result = pCryptSetKeyParam(hKey, 0, &temp, 1);
325     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
326
327     result = pCryptSetHashParam(hHash, 0, &temp, 1);
328     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
329
330     result = pCryptSetProvParam(hProv, 0, &temp, 1);
331     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
332
333     result = pCryptVerifySignatureW(hHash, &temp, 1, hKey, NULL, 0);
334     ok (!result && (GetLastError() == ERROR_INVALID_PARAMETER ||
335         GetLastError() == ERROR_CALL_NOT_IMPLEMENTED), "%ld\n", GetLastError());
336
337     result = pCryptDestroyHash(hHash);
338     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
339     
340     result = pCryptDestroyKey(hKey);
341     ok (!result && GetLastError() == ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
342 }
343
344 static BOOL FindProvRegVals(DWORD dwIndex, DWORD *pdwProvType, LPSTR *pszProvName, 
345                             DWORD *pcbProvName, DWORD *pdwProvCount)
346 {
347         HKEY hKey;
348         HKEY subkey;
349         DWORD size = sizeof(DWORD);
350         
351         if (RegOpenKey(HKEY_LOCAL_MACHINE, "Software\\Microsoft\\Cryptography\\Defaults\\Provider", &hKey))
352                 return FALSE;
353         
354         RegQueryInfoKey(hKey, NULL, NULL, NULL, pdwProvCount, pcbProvName, 
355                                  NULL, NULL, NULL, NULL, NULL, NULL);
356         (*pcbProvName)++;
357         
358         if (!(*pszProvName = ((LPSTR)LocalAlloc(LMEM_ZEROINIT, *pcbProvName))))
359                 return FALSE;
360         
361         RegEnumKeyEx(hKey, dwIndex, *pszProvName, pcbProvName, NULL, NULL, NULL, NULL);
362         (*pcbProvName)++;
363
364         RegOpenKey(hKey, *pszProvName, &subkey);
365         RegQueryValueEx(subkey, "Type", NULL, NULL, (LPBYTE)pdwProvType, &size);
366         
367         RegCloseKey(subkey);
368         RegCloseKey(hKey);
369         
370         return TRUE;
371 }
372
373 static void test_enum_providers(void)
374 {
375         /* expected results */
376         CHAR *pszProvName = NULL;
377         DWORD cbName;
378         DWORD dwType;
379         DWORD provCount;
380         DWORD dwIndex = 0;
381         
382         /* actual results */
383         CHAR *provider = NULL;
384         DWORD providerLen;
385         DWORD type;
386         DWORD count;
387         DWORD result;
388         DWORD notNull = 5;
389         DWORD notZeroFlags = 5;
390         
391         if(!pCryptEnumProvidersA)
392         {
393             trace("skipping CryptEnumProviders tests\n");
394             return;
395         }
396         
397         if (!FindProvRegVals(dwIndex, &dwType, &pszProvName, &cbName, &provCount))
398         {
399             trace("could not find providers in registry, skipping the test\n");
400             return;
401         }
402         
403         /* check pdwReserved flag for NULL */
404         result = pCryptEnumProvidersA(dwIndex, &notNull, 0, &type, NULL, &providerLen);
405         ok(!result && GetLastError()==ERROR_INVALID_PARAMETER, "%ld\n", GetLastError());
406         
407         /* check dwFlags == 0 */
408         result = pCryptEnumProvidersA(dwIndex, NULL, notZeroFlags, &type, NULL, &providerLen);
409         ok(!result && GetLastError()==NTE_BAD_FLAGS, "%ld\n", GetLastError());
410         
411         /* alloc provider to half the size required
412          * cbName holds the size required */
413         providerLen = cbName / 2;
414         if (!(provider = ((LPSTR)LocalAlloc(LMEM_ZEROINIT, providerLen))))
415                 return;
416
417         result = pCryptEnumProvidersA(dwIndex, NULL, 0, &type, provider, &providerLen);
418         ok(!result && GetLastError()==ERROR_MORE_DATA, "expected %i, got %ld\n",
419                 ERROR_MORE_DATA, GetLastError());
420
421         LocalFree(provider);
422
423         /* loop through the providers to get the number of providers 
424          * after loop ends, count should be provCount + 1 so subtract 1
425          * to get actual number of providers */
426         count = 0;
427         while(pCryptEnumProvidersA(count++, NULL, 0, &type, NULL, &providerLen))
428                 ;
429         count--;
430         ok(count==provCount, "expected %i, got %i\n", (int)provCount, (int)count);
431         
432         /* loop past the actual number of providers to get the error
433          * ERROR_NO_MORE_ITEMS */
434         for (count = 0; count < provCount + 1; count++)
435                 result = pCryptEnumProvidersA(count, NULL, 0, &type, NULL, &providerLen);
436         ok(!result && GetLastError()==ERROR_NO_MORE_ITEMS, "expected %i, got %ld\n", 
437                         ERROR_NO_MORE_ITEMS, GetLastError());
438         
439         /* check expected versus actual values returned */
440         result = pCryptEnumProvidersA(dwIndex, NULL, 0, &type, NULL, &providerLen);
441         ok(result && providerLen==cbName, "expected %i, got %i\n", (int)cbName, (int)providerLen);
442         if (!(provider = ((LPSTR)LocalAlloc(LMEM_ZEROINIT, providerLen))))
443                 return;
444                 
445         providerLen = 0xdeadbeef;
446         result = pCryptEnumProvidersA(dwIndex, NULL, 0, &type, provider, &providerLen);
447         ok(result, "expected TRUE, got %ld\n", result);
448         ok(type==dwType, "expected %ld, got %ld\n", dwType, type);
449         if (pszProvName)
450             ok(!strcmp(pszProvName, provider), "expected %s, got %s\n", pszProvName, provider);
451         ok(cbName==providerLen, "expected %ld, got %ld\n", cbName, providerLen);
452
453         LocalFree(provider);
454 }
455
456 static BOOL FindProvTypesRegVals(DWORD dwIndex, DWORD *pdwProvType, LPSTR *pszTypeName, 
457                                  DWORD *pcbTypeName, DWORD *pdwTypeCount)
458 {
459         HKEY hKey;
460         HKEY hSubKey;
461         PSTR ch;
462         
463         if (RegOpenKey(HKEY_LOCAL_MACHINE, "Software\\Microsoft\\Cryptography\\Defaults\\Provider Types", &hKey))
464                 return FALSE;
465         
466         if (RegQueryInfoKey(hKey, NULL, NULL, NULL, pdwTypeCount, pcbTypeName, NULL,
467                         NULL, NULL, NULL, NULL, NULL))
468             return FALSE;
469         (*pcbTypeName)++;
470         
471         if (!(*pszTypeName = ((LPSTR)LocalAlloc(LMEM_ZEROINIT, *pcbTypeName))))
472                 return FALSE;
473         
474         if (RegEnumKeyEx(hKey, dwIndex, *pszTypeName, pcbTypeName, NULL, NULL, NULL, NULL))
475             return FALSE;
476         (*pcbTypeName)++;
477         ch = *pszTypeName + strlen(*pszTypeName);
478         /* Convert "Type 000" to 0, etc/ */
479         *pdwProvType = *(--ch) - '0';
480         *pdwProvType += (*(--ch) - '0') * 10;
481         *pdwProvType += (*(--ch) - '0') * 100;
482         
483         if (RegOpenKey(hKey, *pszTypeName, &hSubKey))
484             return FALSE;
485         
486         if (RegQueryValueEx(hSubKey, "TypeName", NULL, NULL, NULL, pcbTypeName))
487             return FALSE;
488
489         if (!(*pszTypeName = ((LPSTR)LocalAlloc(LMEM_ZEROINIT, *pcbTypeName))))
490                 return FALSE;
491         
492         if (RegQueryValueEx(hSubKey, "TypeName", NULL, NULL, (LPBYTE)*pszTypeName, pcbTypeName))
493             return FALSE;
494         
495         RegCloseKey(hSubKey);
496         RegCloseKey(hKey);
497         
498         return TRUE;
499 }
500
501 static void test_enum_provider_types(void)
502 {
503         /* expected values */
504         DWORD dwProvType;
505         LPSTR pszTypeName = NULL;
506         DWORD cbTypeName;
507         DWORD dwTypeCount;
508         
509         /* actual values */
510         DWORD index = 0;
511         DWORD provType;
512         LPSTR typeName = NULL;
513         DWORD typeNameSize;
514         DWORD typeCount;
515         DWORD result;
516         DWORD notNull = 5;
517         DWORD notZeroFlags = 5;
518         
519         if(!pCryptEnumProviderTypesA)
520         {
521             trace("skipping CryptEnumProviderTypes tests\n");
522             return;
523         }
524         
525         if (!FindProvTypesRegVals(index, &dwProvType, &pszTypeName, &cbTypeName, &dwTypeCount))
526         {
527             trace("could not find provider types in registry, skipping the test\n");
528             return;
529         }
530         
531         /* check pdwReserved for NULL */
532         result = pCryptEnumProviderTypesA(index, &notNull, 0, &provType, typeName, &typeNameSize);
533         ok(!result && GetLastError()==ERROR_INVALID_PARAMETER, "expected %i, got %ld\n", 
534                 ERROR_INVALID_PARAMETER, GetLastError());
535         
536         /* check dwFlags == zero */
537         result = pCryptEnumProviderTypesA(index, NULL, notZeroFlags, &provType, typeName, &typeNameSize);
538         ok(!result && GetLastError()==NTE_BAD_FLAGS, "expected %i, got %ld\n",
539                 ERROR_INVALID_PARAMETER, GetLastError());
540         
541         /* alloc provider type to half the size required
542          * cbTypeName holds the size required */
543         typeNameSize = cbTypeName / 2;
544         if (!(typeName = ((LPSTR)LocalAlloc(LMEM_ZEROINIT, typeNameSize))))
545                 return;
546
547         /* This test fails under Win2k SP4:
548            result = TRUE, GetLastError() == 0xdeadbeef
549         SetLastError(0xdeadbeef);
550         result = pCryptEnumProviderTypesA(index, NULL, 0, &provType, typeName, &typeNameSize);
551         ok(!result && GetLastError()==ERROR_MORE_DATA, "expected 0/ERROR_MORE_DATA, got %d/%08lx\n",
552                 result, GetLastError());
553         */
554         
555         LocalFree(typeName);
556         
557         /* loop through the provider types to get the number of provider types 
558          * after loop ends, count should be dwTypeCount + 1 so subtract 1
559          * to get actual number of provider types */
560         typeCount = 0;
561         while(pCryptEnumProviderTypesA(typeCount++, NULL, 0, &provType, NULL, &typeNameSize))
562                 ;
563         typeCount--;
564         ok(typeCount==dwTypeCount, "expected %ld, got %ld\n", dwTypeCount, typeCount);
565         
566         /* loop past the actual number of provider types to get the error
567          * ERROR_NO_MORE_ITEMS */
568         for (typeCount = 0; typeCount < dwTypeCount + 1; typeCount++)
569                 result = pCryptEnumProviderTypesA(typeCount, NULL, 0, &provType, NULL, &typeNameSize);
570         ok(!result && GetLastError()==ERROR_NO_MORE_ITEMS, "expected %i, got %ld\n", 
571                         ERROR_NO_MORE_ITEMS, GetLastError());
572         
573
574         /* check expected versus actual values returned */
575         result = pCryptEnumProviderTypesA(index, NULL, 0, &provType, NULL, &typeNameSize);
576         ok(result && typeNameSize==cbTypeName, "expected %ld, got %ld\n", cbTypeName, typeNameSize);
577         if (!(typeName = ((LPSTR)LocalAlloc(LMEM_ZEROINIT, typeNameSize))))
578                 return;
579                 
580         typeNameSize = 0xdeadbeef;
581         result = pCryptEnumProviderTypesA(index, NULL, 0, &provType, typeName, &typeNameSize);
582         ok(result, "expected TRUE, got %ld\n", result);
583         ok(provType==dwProvType, "expected %ld, got %ld\n", dwProvType, provType);
584         if (pszTypeName)
585             ok(!strcmp(pszTypeName, typeName), "expected %s, got %s\n", pszTypeName, typeName);
586         ok(typeNameSize==cbTypeName, "expected %ld, got %ld\n", cbTypeName, typeNameSize);
587         
588         LocalFree(typeName);
589 }
590
591 static BOOL FindDfltProvRegVals(DWORD dwProvType, DWORD dwFlags, LPSTR *pszProvName, DWORD *pcbProvName)
592 {
593         HKEY hKey;
594         PSTR keyname;
595         PSTR ptr;
596         DWORD user = dwFlags & CRYPT_USER_DEFAULT;
597         
598         LPCSTR machinestr = "Software\\Microsoft\\Cryptography\\Defaults\\Provider Types\\Type XXX";
599         LPCSTR userstr = "Software\\Microsoft\\Cryptography\\Provider Type XXX";
600         
601         keyname = LocalAlloc(LMEM_ZEROINIT, (user ? strlen(userstr) : strlen(machinestr)) + 1);
602         if (keyname)
603         {
604                 user ? strcpy(keyname, userstr) : strcpy(keyname, machinestr);
605                 ptr = keyname + strlen(keyname);
606                 *(--ptr) = (dwProvType % 10) + '0';
607                 *(--ptr) = ((dwProvType / 10) % 10) + '0';
608                 *(--ptr) = (dwProvType / 100) + '0';
609         } else
610                 return FALSE;
611         
612         if (RegOpenKey((dwFlags & CRYPT_USER_DEFAULT) ?  HKEY_CURRENT_USER : HKEY_LOCAL_MACHINE ,keyname, &hKey))
613         {
614                 LocalFree(keyname);
615                 return FALSE;
616         }
617         LocalFree(keyname);
618         
619         if (RegQueryValueEx(hKey, "Name", NULL, NULL, (LPBYTE)*pszProvName, pcbProvName))
620         {
621                 if (GetLastError() != ERROR_MORE_DATA)
622                         SetLastError(NTE_PROV_TYPE_ENTRY_BAD);
623                 return FALSE;
624         }
625         
626         if (!(*pszProvName = LocalAlloc(LMEM_ZEROINIT, *pcbProvName)))
627                 return FALSE;
628         
629         if (RegQueryValueEx(hKey, "Name", NULL, NULL, (LPBYTE)*pszProvName, pcbProvName))
630         {
631                 if (GetLastError() != ERROR_MORE_DATA)
632                         SetLastError(NTE_PROV_TYPE_ENTRY_BAD);
633                 return FALSE;
634         }
635         
636         RegCloseKey(hKey);
637         
638         return TRUE;
639 }
640
641 static void test_get_default_provider(void)
642 {
643         /* expected results */
644         DWORD dwProvType = PROV_RSA_FULL;
645         DWORD dwFlags = CRYPT_MACHINE_DEFAULT;
646         LPSTR pszProvName = NULL;
647         DWORD cbProvName;
648         
649         /* actual results */
650         DWORD provType = PROV_RSA_FULL;
651         DWORD flags = CRYPT_MACHINE_DEFAULT;
652         LPSTR provName = NULL;
653         DWORD provNameSize;
654         DWORD result;
655         DWORD notNull = 5;
656         
657         if(!pCryptGetDefaultProviderA)
658         {
659             trace("skipping CryptGetDefaultProvider tests\n");
660             return;
661         }
662         
663         if(!FindDfltProvRegVals(dwProvType, dwFlags, &pszProvName, &cbProvName))
664         {
665             trace("could not find default provider in registry, skipping the test\n");
666             return;
667         }
668         
669         /* check pdwReserved for NULL */
670         result = pCryptGetDefaultProviderA(provType, &notNull, flags, provName, &provNameSize);
671         ok(!result && GetLastError()==ERROR_INVALID_PARAMETER, "expected %i, got %ld\n",
672                 ERROR_INVALID_PARAMETER, GetLastError());
673         
674         /* check for invalid flag */
675         flags = 0xdeadbeef;
676         result = pCryptGetDefaultProviderA(provType, NULL, flags, provName, &provNameSize);
677         ok(!result && GetLastError()==NTE_BAD_FLAGS, "expected %ld, got %ld\n",
678                 NTE_BAD_FLAGS, GetLastError());
679         flags = CRYPT_MACHINE_DEFAULT;
680         
681         /* check for invalid prov type */
682         provType = 0xdeadbeef;
683         result = pCryptGetDefaultProviderA(provType, NULL, flags, provName, &provNameSize);
684         ok(!result && (GetLastError() == NTE_BAD_PROV_TYPE ||
685                        GetLastError() == ERROR_INVALID_PARAMETER),
686                 "expected NTE_BAD_PROV_TYPE or ERROR_INVALID_PARAMETER, got %ld/%ld\n",
687                 result, GetLastError());
688         provType = PROV_RSA_FULL;
689         
690         SetLastError(0);
691         
692         /* alloc provName to half the size required
693          * cbProvName holds the size required */
694         provNameSize = cbProvName / 2;
695         if (!(provName = LocalAlloc(LMEM_ZEROINIT, provNameSize)))
696                 return;
697         
698         result = pCryptGetDefaultProviderA(provType, NULL, flags, provName, &provNameSize);
699         ok(!result && GetLastError()==ERROR_MORE_DATA, "expected %i, got %ld\n",
700                 ERROR_MORE_DATA, GetLastError());
701                 
702         LocalFree(provName);
703         
704         /* check expected versus actual values returned */
705         result = pCryptGetDefaultProviderA(provType, NULL, flags, NULL, &provNameSize);
706         ok(result && provNameSize==cbProvName, "expected %ld, got %ld\n", cbProvName, provNameSize);
707         provNameSize = cbProvName;
708         
709         if (!(provName = LocalAlloc(LMEM_ZEROINIT, provNameSize)))
710                 return;
711         
712         provNameSize = 0xdeadbeef;
713         result = pCryptGetDefaultProviderA(provType, NULL, flags, provName, &provNameSize);
714         ok(result, "expected TRUE, got %ld\n", result);
715         if(pszProvName)
716             ok(!strcmp(pszProvName, provName), "expected %s, got %s\n", pszProvName, provName);
717         ok(provNameSize==cbProvName, "expected %ld, got %ld\n", cbProvName, provNameSize);
718
719         LocalFree(provName);
720 }
721
722 static void test_set_provider_ex(void)
723 {
724         DWORD result;
725         DWORD notNull = 5;
726         
727         /* results */
728         LPSTR pszProvName = NULL;
729         DWORD cbProvName;
730         
731         if(!pCryptGetDefaultProviderA || !pCryptSetProviderExA)
732         {
733             trace("skipping CryptSetProviderEx tests\n");
734             return;
735         }
736
737         /* check pdwReserved for NULL */
738         result = pCryptSetProviderExA(MS_DEF_PROV, PROV_RSA_FULL, &notNull, CRYPT_MACHINE_DEFAULT);
739         ok(!result && GetLastError()==ERROR_INVALID_PARAMETER, "expected %i, got %ld\n",
740                 ERROR_INVALID_PARAMETER, GetLastError());
741
742         /* remove the default provider and then set it to MS_DEF_PROV/PROV_RSA_FULL */
743         result = pCryptSetProviderExA(MS_DEF_PROV, PROV_RSA_FULL, NULL, CRYPT_MACHINE_DEFAULT | CRYPT_DELETE_DEFAULT);
744         ok(result, "%ld\n", GetLastError());
745
746         result = pCryptSetProviderExA(MS_DEF_PROV, PROV_RSA_FULL, NULL, CRYPT_MACHINE_DEFAULT);
747         ok(result, "%ld\n", GetLastError());
748         
749         /* call CryptGetDefaultProvider to see if they match */
750         result = pCryptGetDefaultProviderA(PROV_RSA_FULL, NULL, CRYPT_MACHINE_DEFAULT, NULL, &cbProvName);
751         if (!(pszProvName = LocalAlloc(LMEM_ZEROINIT, cbProvName)))
752                 return;
753
754         result = pCryptGetDefaultProviderA(PROV_RSA_FULL, NULL, CRYPT_MACHINE_DEFAULT, pszProvName, &cbProvName);
755         ok(result && !strcmp(MS_DEF_PROV, pszProvName), "expected %s, got %s\n", MS_DEF_PROV, pszProvName);
756         ok(result && cbProvName==(strlen(MS_DEF_PROV) + 1), "expected %i, got %ld\n", (strlen(MS_DEF_PROV) + 1), cbProvName);
757
758         LocalFree(pszProvName);
759 }
760
761 START_TEST(crypt)
762 {
763         init_function_pointers();
764         if(pCryptAcquireContextA && pCryptReleaseContext) {
765         init_environment();
766         test_acquire_context();
767         test_incorrect_api_usage();
768         clean_up_environment();
769         }
770         
771         test_enum_providers();
772         test_enum_provider_types();
773         test_get_default_provider();
774         test_set_provider_ex();
775 }