git.oblomov.eu Git - wine/blob - dlls/rsaenh/implglue.c

   1 /*
   2  * dlls/rsaenh/implglue.c
   3  * Glueing the RSAENH specific code to the crypto library
   4  *
   5  * Copyright (c) 2004, 2005 Michael Jung
   6  *
   7  * based on code by Mike McCormack and David Hammerton
   8  *
   9  * This library is free software; you can redistribute it and/or
  10  * modify it under the terms of the GNU Lesser General Public
  11  * License as published by the Free Software Foundation; either
  12  * version 2.1 of the License, or (at your option) any later version.
  13  *
  14  * This library is distributed in the hope that it will be useful,
  15  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  16  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  17  * Lesser General Public License for more details.
  18  *
  19  * You should have received a copy of the GNU Lesser General Public
  20  * License along with this library; if not, write to the Free Software
  21  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  22  */
  23 #include "config.h"
  24
  25 #include "wine/port.h"
  26 #include "wine/library.h"
  27 #include "wine/debug.h"
  28
  29 #include "windef.h"
  30 #include "wincrypt.h"
  31
  32 #include "implglue.h"
  33
  34 #include <stdio.h>
  35
  36 WINE_DEFAULT_DEBUG_CHANNEL(crypt);
  37
  38 /* Function prototypes copied from dlls/advapi32/crypt_md4.c */
  39 VOID WINAPI MD4Init( MD4_CTX *ctx );
  40 VOID WINAPI MD4Update( MD4_CTX *ctx, const unsigned char *buf, unsigned int len );
  41 VOID WINAPI MD4Final( MD4_CTX *ctx );
  42 /* Function prototypes copied from dlls/advapi32/crypt_md5.c */
  43 VOID WINAPI MD5Init( MD5_CTX *ctx );
  44 VOID WINAPI MD5Update( MD5_CTX *ctx, const unsigned char *buf, unsigned int len );
  45 VOID WINAPI MD5Final( MD5_CTX *ctx );
  46 /* Function prototypes copied from dlls/advapi32/crypt_sha.c */
  47 VOID WINAPI A_SHAInit(PSHA_CTX Context);
  48 VOID WINAPI A_SHAUpdate(PSHA_CTX Context, PCHAR Buffer, UINT BufferSize);
  49 VOID WINAPI A_SHAFinal(PSHA_CTX Context, PULONG Result);
  50
  51 BOOL init_hash_impl(ALG_ID aiAlgid, HASH_CONTEXT *pHashContext)
  52 {
  53     switch (aiAlgid)
  54     {
  55         case CALG_MD2:
  56             md2_init(&pHashContext->md2);
  57             break;
  58
  59         case CALG_MD4:
  60             MD4Init(&pHashContext->md4);
  61             break;
  62
  63         case CALG_MD5:
  64             MD5Init(&pHashContext->md5);
  65             break;
  66
  67         case CALG_SHA:
  68             A_SHAInit(&pHashContext->sha);
  69             break;
  70     }
  71
  72     return TRUE;
  73 }
  74
  75 BOOL update_hash_impl(ALG_ID aiAlgid, HASH_CONTEXT *pHashContext, CONST BYTE *pbData,
  76                       DWORD dwDataLen)
  77 {
  78     switch (aiAlgid)
  79     {
  80         case CALG_MD2:
  81             md2_process(&pHashContext->md2, pbData, dwDataLen);
  82             break;
  83
  84         case CALG_MD4:
  85             MD4Update(&pHashContext->md4, pbData, dwDataLen);
  86             break;
  87
  88         case CALG_MD5:
  89             MD5Update(&pHashContext->md5, pbData, dwDataLen);
  90             break;
  91
  92         case CALG_SHA:
  93             A_SHAUpdate(&pHashContext->sha, (PCHAR)pbData, dwDataLen);
  94             break;
  95
  96         default:
  97             SetLastError(NTE_BAD_ALGID);
  98             return FALSE;
  99     }
 100
 101     return TRUE;
 102 }
 103
 104 BOOL finalize_hash_impl(ALG_ID aiAlgid, HASH_CONTEXT *pHashContext, BYTE *pbHashValue)
 105 {
 106     switch (aiAlgid)
 107     {
 108         case CALG_MD2:
 109             md2_done(&pHashContext->md2, pbHashValue);
 110             break;
 111
 112         case CALG_MD4:
 113             MD4Final(&pHashContext->md4);
 114             memcpy(pbHashValue, pHashContext->md4.digest, 16);
 115             break;
 116
 117         case CALG_MD5:
 118             MD5Final(&pHashContext->md5);
 119             memcpy(pbHashValue, pHashContext->md5.digest, 16);
 120             break;
 121
 122         case CALG_SHA:
 123             A_SHAFinal(&pHashContext->sha, (PULONG)pbHashValue);
 124             break;
 125
 126         default:
 127             SetLastError(NTE_BAD_ALGID);
 128             return FALSE;
 129     }
 130
 131     return TRUE;
 132 }
 133
 134 BOOL duplicate_hash_impl(ALG_ID aiAlgid, CONST HASH_CONTEXT *pSrcHashContext,
 135                          HASH_CONTEXT *pDestHashContext)
 136 {
 137     memcpy(pDestHashContext, pSrcHashContext, sizeof(HASH_CONTEXT));
 138
 139     return TRUE;
 140 }
 141
 142 BOOL new_key_impl(ALG_ID aiAlgid, KEY_CONTEXT *pKeyContext, DWORD dwKeyLen)
 143 {
 144     switch (aiAlgid)
 145     {
 146         case CALG_RSA_KEYX:
 147         case CALG_RSA_SIGN:
 148             if (rsa_make_key((int)dwKeyLen, 65537, &pKeyContext->rsa) != CRYPT_OK) {
 149                 SetLastError(NTE_FAIL);
 150                 return FALSE;
 151             }
 152             return TRUE;
 153     }
 154
 155     return TRUE;
 156 }
 157
 158 BOOL free_key_impl(ALG_ID aiAlgid, KEY_CONTEXT *pKeyContext)
 159 {
 160     switch (aiAlgid)
 161     {
 162         case CALG_RSA_KEYX:
 163         case CALG_RSA_SIGN:
 164             rsa_free(&pKeyContext->rsa);
 165     }
 166
 167     return TRUE;
 168 }
 169
 170 BOOL setup_key_impl(ALG_ID aiAlgid, KEY_CONTEXT *pKeyContext, DWORD dwKeyLen, DWORD dwSaltLen,
 171                     BYTE *abKeyValue)
 172 {
 173     switch (aiAlgid)
 174     {
 175         case CALG_RC4:
 176             rc4_start(&pKeyContext->rc4);
 177             rc4_add_entropy(abKeyValue, dwKeyLen + dwSaltLen, &pKeyContext->rc4);
 178             rc4_ready(&pKeyContext->rc4);
 179             break;
 180
 181         case CALG_RC2:
 182             rc2_setup(abKeyValue, dwKeyLen + dwSaltLen, dwKeyLen << 3, 0, &pKeyContext->rc2);
 183             break;
 184
 185         case CALG_3DES:
 186             des3_setup(abKeyValue, 24, 0, &pKeyContext->des3);
 187             break;
 188
 189         case CALG_3DES_112:
 190             memcpy(abKeyValue+16, abKeyValue, 8);
 191             des3_setup(abKeyValue, 24, 0, &pKeyContext->des3);
 192             break;
 193
 194         case CALG_DES:
 195             des_setup(abKeyValue, 8, 0, &pKeyContext->des);
 196             break;
 197     }
 198
 199     return TRUE;
 200 }
 201
 202 BOOL duplicate_key_impl(ALG_ID aiAlgid, CONST KEY_CONTEXT *pSrcKeyContext,
 203                         KEY_CONTEXT *pDestKeyContext)
 204 {
 205     switch (aiAlgid)
 206     {
 207         case CALG_RC4:
 208         case CALG_RC2:
 209         case CALG_3DES:
 210         case CALG_3DES_112:
 211         case CALG_DES:
 212             memcpy(pDestKeyContext, pSrcKeyContext, sizeof(KEY_CONTEXT));
 213             break;
 214         case CALG_RSA_KEYX:
 215         case CALG_RSA_SIGN:
 216             pDestKeyContext->rsa.type = pSrcKeyContext->rsa.type;
 217             mp_init_copy(&pDestKeyContext->rsa.e, &pSrcKeyContext->rsa.e);
 218             mp_init_copy(&pDestKeyContext->rsa.d, &pSrcKeyContext->rsa.d);
 219             mp_init_copy(&pDestKeyContext->rsa.N, &pSrcKeyContext->rsa.N);
 220             mp_init_copy(&pDestKeyContext->rsa.p, &pSrcKeyContext->rsa.p);
 221             mp_init_copy(&pDestKeyContext->rsa.q, &pSrcKeyContext->rsa.q);
 222             mp_init_copy(&pDestKeyContext->rsa.qP, &pSrcKeyContext->rsa.qP);
 223             mp_init_copy(&pDestKeyContext->rsa.dP, &pSrcKeyContext->rsa.dP);
 224             mp_init_copy(&pDestKeyContext->rsa.dQ, &pSrcKeyContext->rsa.dQ);
 225             break;
 226
 227         default:
 228             SetLastError(NTE_BAD_ALGID);
 229             return FALSE;
 230     }
 231
 232     return TRUE;
 233 }
 234
 235 static inline void reverse_bytes(BYTE *pbData, DWORD dwLen) {
 236     BYTE swap;
 237     DWORD i;
 238
 239     for (i=0; i<dwLen/2; i++) {
 240         swap = pbData[i];
 241         pbData[i] = pbData[dwLen-i-1];
 242         pbData[dwLen-i-1] = swap;
 243     }
 244 }
 245
 246 BOOL encrypt_block_impl(ALG_ID aiAlgid, KEY_CONTEXT *pKeyContext, CONST BYTE *in, BYTE *out,
 247                         DWORD enc)
 248 {
 249     unsigned long inlen, outlen;
 250     BYTE *in_reversed = NULL;
 251     int key;
 252
 253     switch (aiAlgid) {
 254         case CALG_RC2:
 255             if (enc) {
 256                 rc2_ecb_encrypt(in, out, &pKeyContext->rc2);
 257             } else {
 258                 rc2_ecb_decrypt(in, out, &pKeyContext->rc2);
 259             }
 260             break;
 261
 262         case CALG_3DES:
 263         case CALG_3DES_112:
 264             if (enc) {
 265                 des3_ecb_encrypt(in, out, &pKeyContext->des3);
 266             } else {
 267                 des3_ecb_decrypt(in, out, &pKeyContext->des3);
 268             }
 269             break;
 270
 271         case CALG_DES:
 272             if (enc) {
 273                 des_ecb_encrypt(in, out, &pKeyContext->des);
 274             } else {
 275                 des_ecb_decrypt(in, out, &pKeyContext->des);
 276             }
 277             break;
 278
 279         case CALG_RSA_KEYX:
 280         case CALG_RSA_SIGN:
 281             outlen = inlen = (mp_count_bits(&pKeyContext->rsa.N)+7)/8;
 282             if (enc) {
 283                 if (aiAlgid == CALG_RSA_SIGN) {
 284                     key = PK_PRIVATE;
 285                 } else {
 286                     key = PK_PUBLIC;
 287                 }
 288                 if (rsa_exptmod(in, inlen, out, &outlen, key, &pKeyContext->rsa) != CRYPT_OK) {
 289                     SetLastError(NTE_FAIL);
 290                     return FALSE;
 291                 }
 292                 reverse_bytes(out, outlen);
 293             } else {
 294                 if (aiAlgid == CALG_RSA_SIGN) {
 295                     key = PK_PUBLIC;
 296                 } else {
 297                     key = PK_PRIVATE;
 298                 }
 299                 in_reversed = HeapAlloc(GetProcessHeap(), 0, inlen);
 300                 if (!in_reversed) {
 301                     SetLastError(NTE_NO_MEMORY);
 302                     return FALSE;
 303                 }
 304                 memcpy(in_reversed, in, inlen);
 305                 reverse_bytes(in_reversed, inlen);
 306                 if (rsa_exptmod(in_reversed, inlen, out, &outlen, key, &pKeyContext->rsa) != CRYPT_OK) {
 307                     HeapFree(GetProcessHeap(), 0, in_reversed);
 308                     SetLastError(NTE_FAIL);
 309                     return FALSE;
 310                 }
 311                 HeapFree(GetProcessHeap(), 0, in_reversed);
 312             }
 313             break;
 314
 315         default:
 316             SetLastError(NTE_BAD_ALGID);
 317             return FALSE;
 318     }
 319
 320     return TRUE;
 321 }
 322
 323 BOOL encrypt_stream_impl(ALG_ID aiAlgid, KEY_CONTEXT *pKeyContext, BYTE *stream, DWORD dwLen)
 324 {
 325     switch (aiAlgid) {
 326         case CALG_RC4:
 327             rc4_read(stream, dwLen, &pKeyContext->rc4);
 328             break;
 329
 330         default:
 331             SetLastError(NTE_BAD_ALGID);
 332             return FALSE;
 333     }
 334
 335     return TRUE;
 336 }
 337
 338 BOOL gen_rand_impl(BYTE *pbBuffer, DWORD dwLen)
 339 {
 340     int dev_random;
 341
 342     /* FIXME: /dev/urandom does not provide random numbers of a sufficient
 343      * quality for cryptographic applications. /dev/random is much better,
 344      * but it blocks if the kernel has not yet collected enough entropy for
 345      * the request, which will suspend the calling thread for an indefinite
 346      * amount of time. */
 347     dev_random = open("/dev/urandom", O_RDONLY);
 348     if (dev_random != -1)
 349     {
 350         if (read(dev_random, pbBuffer, dwLen) == (ssize_t)dwLen)
 351         {
 352             close(dev_random);
 353             return TRUE;
 354         }
 355         close(dev_random);
 356     }
 357     SetLastError(NTE_FAIL);
 358     return FALSE;
 359 }
 360
 361 BOOL export_public_key_impl(BYTE *pbDest, KEY_CONTEXT *pKeyContext, DWORD dwKeyLen,DWORD *pdwPubExp)
 362 {
 363     mp_to_unsigned_bin(&pKeyContext->rsa.N, pbDest);
 364     reverse_bytes(pbDest, dwKeyLen);
 365     *pdwPubExp = (DWORD)mp_get_int(&pKeyContext->rsa.e);
 366     return TRUE;
 367 }
 368
 369 BOOL import_public_key_impl(CONST BYTE *pbSrc, KEY_CONTEXT *pKeyContext, DWORD dwKeyLen,
 370                             DWORD dwPubExp)
 371 {
 372     BYTE *pbTemp;
 373
 374     if (mp_init_multi(&pKeyContext->rsa.e, &pKeyContext->rsa.d, &pKeyContext->rsa.N,
 375                       &pKeyContext->rsa.dQ,&pKeyContext->rsa.dP,&pKeyContext->rsa.qP,
 376                       &pKeyContext->rsa.p, &pKeyContext->rsa.q, NULL) != MP_OKAY)
 377     {
 378         SetLastError(NTE_FAIL);
 379         return FALSE;
 380     }
 381
 382     pbTemp = (BYTE*)HeapAlloc(GetProcessHeap(), 0, dwKeyLen);
 383     if (!pbTemp) return FALSE;
 384     memcpy(pbTemp, pbSrc, dwKeyLen);
 385
 386     pKeyContext->rsa.type = PK_PUBLIC;
 387     reverse_bytes(pbTemp, dwKeyLen);
 388     mp_read_unsigned_bin(&pKeyContext->rsa.N, pbTemp, dwKeyLen);
 389     HeapFree(GetProcessHeap(), 0, pbTemp);
 390     mp_set_int(&pKeyContext->rsa.e, dwPubExp);
 391
 392     return TRUE;
 393 }
 394
 395 BOOL export_private_key_impl(BYTE *pbDest, KEY_CONTEXT *pKeyContext, DWORD dwKeyLen,
 396                              DWORD *pdwPubExp)
 397 {
 398     mp_to_unsigned_bin(&pKeyContext->rsa.N, pbDest);
 399     reverse_bytes(pbDest, dwKeyLen);
 400     pbDest += dwKeyLen;
 401     mp_to_unsigned_bin(&pKeyContext->rsa.p, pbDest);
 402     reverse_bytes(pbDest, (dwKeyLen+1)>>1);
 403     pbDest += (dwKeyLen+1)>>1;
 404     mp_to_unsigned_bin(&pKeyContext->rsa.q, pbDest);
 405     reverse_bytes(pbDest, (dwKeyLen+1)>>1);
 406     pbDest += (dwKeyLen+1)>>1;
 407     mp_to_unsigned_bin(&pKeyContext->rsa.dP, pbDest);
 408     reverse_bytes(pbDest, (dwKeyLen+1)>>1);
 409     pbDest += (dwKeyLen+1)>>1;
 410     mp_to_unsigned_bin(&pKeyContext->rsa.dQ, pbDest);
 411     reverse_bytes(pbDest, (dwKeyLen+1)>>1);
 412     pbDest += (dwKeyLen+1)>>1;
 413     mp_to_unsigned_bin(&pKeyContext->rsa.qP, pbDest);
 414     reverse_bytes(pbDest, (dwKeyLen+1)>>1);
 415     pbDest += (dwKeyLen+1)>>1;
 416     mp_to_unsigned_bin(&pKeyContext->rsa.d, pbDest);
 417     reverse_bytes(pbDest, dwKeyLen);
 418     *pdwPubExp = (DWORD)mp_get_int(&pKeyContext->rsa.e);
 419
 420     return TRUE;
 421 }
 422
 423 BOOL import_private_key_impl(CONST BYTE *pbSrc, KEY_CONTEXT *pKeyContext, DWORD dwKeyLen,
 424                              DWORD dwPubExp)
 425 {
 426     BYTE *pbTemp, *pbBigNum;
 427
 428     if (mp_init_multi(&pKeyContext->rsa.e, &pKeyContext->rsa.d, &pKeyContext->rsa.N,
 429                       &pKeyContext->rsa.dQ,&pKeyContext->rsa.dP,&pKeyContext->rsa.qP,
 430                       &pKeyContext->rsa.p, &pKeyContext->rsa.q, NULL) != MP_OKAY)
 431     {
 432         SetLastError(NTE_FAIL);
 433         return FALSE;
 434     }
 435
 436     pbTemp = HeapAlloc(GetProcessHeap(), 0, 2*dwKeyLen+5*((dwKeyLen+1)>>1));
 437     if (!pbTemp) return FALSE;
 438     memcpy(pbTemp, pbSrc, 2*dwKeyLen+5*((dwKeyLen+1)>>1));
 439     pbBigNum = pbTemp;
 440
 441     pKeyContext->rsa.type = PK_PRIVATE;
 442     reverse_bytes(pbBigNum, dwKeyLen);
 443     mp_read_unsigned_bin(&pKeyContext->rsa.N, pbBigNum, dwKeyLen);
 444     pbBigNum += dwKeyLen;
 445     reverse_bytes(pbBigNum, (dwKeyLen+1)>>1);
 446     mp_read_unsigned_bin(&pKeyContext->rsa.p, pbBigNum, (dwKeyLen+1)>>1);
 447     pbBigNum += (dwKeyLen+1)>>1;
 448     reverse_bytes(pbBigNum, (dwKeyLen+1)>>1);
 449     mp_read_unsigned_bin(&pKeyContext->rsa.q, pbBigNum, (dwKeyLen+1)>>1);
 450     pbBigNum += (dwKeyLen+1)>>1;
 451     reverse_bytes(pbBigNum, (dwKeyLen+1)>>1);
 452     mp_read_unsigned_bin(&pKeyContext->rsa.dP, pbBigNum, (dwKeyLen+1)>>1);
 453     pbBigNum += (dwKeyLen+1)>>1;
 454     reverse_bytes(pbBigNum, (dwKeyLen+1)>>1);
 455     mp_read_unsigned_bin(&pKeyContext->rsa.dQ, pbBigNum, (dwKeyLen+1)>>1);
 456     pbBigNum += (dwKeyLen+1)>>1;
 457     reverse_bytes(pbBigNum, (dwKeyLen+1)>>1);
 458     mp_read_unsigned_bin(&pKeyContext->rsa.qP, pbBigNum, (dwKeyLen+1)>>1);
 459     pbBigNum += (dwKeyLen+1)>>1;
 460     reverse_bytes(pbBigNum, dwKeyLen);
 461     mp_read_unsigned_bin(&pKeyContext->rsa.d, pbBigNum, dwKeyLen);
 462     mp_set_int(&pKeyContext->rsa.e, dwPubExp);
 463
 464     HeapFree(GetProcessHeap(), 0, pbTemp);
 465     return TRUE;
 466 }