git.oblomov.eu Git - wine/blob - dlls/rsaenh/rsa.c

   1 /*
   2  * dlls/rsaenh/rsa.c
   3  * RSA public key cryptographic functions
   4  *
   5  * Copyright 2004 Michael Jung
   6  * Based on public domain code by Tom St Denis (tomstdenis@iahu.ca)
   7  *
   8  * This library is free software; you can redistribute it and/or
   9  * modify it under the terms of the GNU Lesser General Public
  10  * License as published by the Free Software Foundation; either
  11  * version 2.1 of the License, or (at your option) any later version.
  12  *
  13  * This library is distributed in the hope that it will be useful,
  14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  16  * Lesser General Public License for more details.
  17  *
  18  * You should have received a copy of the GNU Lesser General Public
  19  * License along with this library; if not, write to the Free Software
  20  * Foundation, Inc., 59 Temple Place, Suite 330, Boston, MA  02111-1307  USA
  21  */
  22
  23 /*
  24  * This file contains code from the LibTomCrypt cryptographic
  25  * library written by Tom St Denis (tomstdenis@iahu.ca). LibTomCrypt
  26  * is in the public domain. The code in this file is tailored to
  27  * special requirements. Take a look at http://libtomcrypt.org for the
  28  * original version.
  29  */
  30
  31 #include "tomcrypt.h"
  32
  33 static const struct {
  34     int mpi_code, ltc_code;
  35 } mpi_to_ltc_codes[] = {
  36    { MP_OKAY ,  CRYPT_OK},
  37    { MP_MEM  ,  CRYPT_MEM},
  38    { MP_VAL  ,  CRYPT_INVALID_ARG},
  39 };
  40
  41 /* convert a MPI error to a LTC error (Possibly the most powerful function ever!  Oh wait... no) */
  42 int mpi_to_ltc_error(int err)
  43 {
  44    int x;
  45
  46    for (x = 0; x < (int)(sizeof(mpi_to_ltc_codes)/sizeof(mpi_to_ltc_codes[0])); x++) {
  47        if (err == mpi_to_ltc_codes[x].mpi_code) {
  48           return mpi_to_ltc_codes[x].ltc_code;
  49        }
  50    }
  51    return CRYPT_ERROR;
  52 }
  53
  54 extern int gen_rand_impl(unsigned char *dst, unsigned int len);
  55
  56 static int rand_prime_helper(unsigned char *dst, int len, void *dat)
  57 {
  58     return gen_rand_impl(dst, len) ? len : 0;
  59 }
  60
  61 int rand_prime(mp_int *N, long len)
  62 {
  63    int type;
  64
  65    /* allow sizes between 2 and 256 bytes for a prime size */
  66    if (len < 16 || len > 8192) {
  67           printf("Invalid prime size!\n");
  68       return CRYPT_INVALID_PRIME_SIZE;
  69    }
  70
  71    /* get type */
  72    if (len < 0) {
  73       type = LTM_PRIME_BBS;
  74       len = -len;
  75    } else {
  76       type = 0;
  77    }
  78
  79    /* New prime generation makes the code even more cryptoish-insane.  Do you know what this means!!!
  80       -- Gir:  Yeah, oh wait, er, no.
  81     */
  82    return mpi_to_ltc_error(mp_prime_random_ex(N, mp_prime_rabin_miller_trials(len), len, type, rand_prime_helper, NULL));
  83 }
  84
  85 int rsa_make_key(int size, long e, rsa_key *key)
  86 {
  87    mp_int p, q, tmp1, tmp2, tmp3;
  88    int    err;
  89
  90    if ((size < (MIN_RSA_SIZE/8)) || (size > (MAX_RSA_SIZE/8))) {
  91       return CRYPT_INVALID_KEYSIZE;
  92    }
  93
  94    if ((e < 3) || ((e & 1) == 0)) {
  95       return CRYPT_INVALID_ARG;
  96    }
  97
  98    if ((err = mp_init_multi(&p, &q, &tmp1, &tmp2, &tmp3, NULL)) != MP_OKAY) {
  99       return mpi_to_ltc_error(err);
 100    }
 101
 102     /* make primes p and q (optimization provided by Wayne Scott) */
 103    if ((err = mp_set_int(&tmp3, e)) != MP_OKAY) { goto error; }            /* tmp3 = e */
 104
 105     /* make prime "p" */
 106    do {
 107        if ((err = rand_prime(&p, size*4)) != CRYPT_OK) { goto done; }
 108        if ((err = mp_sub_d(&p, 1, &tmp1)) != MP_OKAY)               { goto error; }  /* tmp1 = p-1 */
 109        if ((err = mp_gcd(&tmp1, &tmp3, &tmp2)) != MP_OKAY)          { goto error; }  /* tmp2 = gcd(p-1, e) */
 110    } while (mp_cmp_d(&tmp2, 1) != 0);                                                /* while e divides p-1 */
 111
 112    /* make prime "q" */
 113    do {
 114        if ((err = rand_prime(&q, size*4)) != CRYPT_OK) { goto done; }
 115        if ((err = mp_sub_d(&q, 1, &tmp1)) != MP_OKAY)               { goto error; } /* tmp1 = q-1 */
 116        if ((err = mp_gcd(&tmp1, &tmp3, &tmp2)) != MP_OKAY)          { goto error; } /* tmp2 = gcd(q-1, e) */
 117    } while (mp_cmp_d(&tmp2, 1) != 0);                                               /* while e divides q-1 */
 118
 119    /* tmp1 = lcm(p-1, q-1) */
 120    if ((err = mp_sub_d(&p, 1, &tmp2)) != MP_OKAY)                  { goto error; } /* tmp2 = p-1 */
 121                                                                    /* tmp1 = q-1 (previous do/while loop) */
 122    if ((err = mp_lcm(&tmp1, &tmp2, &tmp1)) != MP_OKAY)             { goto error; } /* tmp1 = lcm(p-1, q-1) */
 123
 124    /* make key */
 125    if ((err = mp_init_multi(&key->e, &key->d, &key->N, &key->dQ, &key->dP,
 126                      &key->qP, &key->p, &key->q, NULL)) != MP_OKAY) {
 127       goto error;
 128    }
 129
 130    if ((err = mp_set_int(&key->e, e)) != MP_OKAY)                     { goto error2; } /* key->e =  e */
 131    if ((err = mp_invmod(&key->e, &tmp1, &key->d)) != MP_OKAY)         { goto error2; } /* key->d = 1/e mod lcm(p-1,q-1) */
 132    if ((err = mp_mul(&p, &q, &key->N)) != MP_OKAY)                    { goto error2; } /* key->N = pq */
 133
 134    /* optimize for CRT now */
 135    /* find d mod q-1 and d mod p-1 */
 136    if ((err = mp_sub_d(&p, 1, &tmp1)) != MP_OKAY)                     { goto error2; } /* tmp1 = q-1 */
 137    if ((err = mp_sub_d(&q, 1, &tmp2)) != MP_OKAY)                     { goto error2; } /* tmp2 = p-1 */
 138    if ((err = mp_mod(&key->d, &tmp1, &key->dP)) != MP_OKAY)           { goto error2; } /* dP = d mod p-1 */
 139    if ((err = mp_mod(&key->d, &tmp2, &key->dQ)) != MP_OKAY)           { goto error2; } /* dQ = d mod q-1 */
 140    if ((err = mp_invmod(&q, &p, &key->qP)) != MP_OKAY)                { goto error2; } /* qP = 1/q mod p */
 141
 142    if ((err = mp_copy(&p, &key->p)) != MP_OKAY)                       { goto error2; }
 143    if ((err = mp_copy(&q, &key->q)) != MP_OKAY)                       { goto error2; }
 144
 145    /* shrink ram required  */
 146    if ((err = mp_shrink(&key->e)) != MP_OKAY)                         { goto error2; }
 147    if ((err = mp_shrink(&key->d)) != MP_OKAY)                         { goto error2; }
 148    if ((err = mp_shrink(&key->N)) != MP_OKAY)                         { goto error2; }
 149    if ((err = mp_shrink(&key->dQ)) != MP_OKAY)                        { goto error2; }
 150    if ((err = mp_shrink(&key->dP)) != MP_OKAY)                        { goto error2; }
 151    if ((err = mp_shrink(&key->qP)) != MP_OKAY)                        { goto error2; }
 152    if ((err = mp_shrink(&key->p)) != MP_OKAY)                         { goto error2; }
 153    if ((err = mp_shrink(&key->q)) != MP_OKAY)                         { goto error2; }
 154
 155    /* set key type (in this case it's CRT optimized) */
 156    key->type = PK_PRIVATE;
 157
 158    /* return ok and free temps */
 159    err       = CRYPT_OK;
 160    goto done;
 161 error2:
 162    mp_clear_multi(&key->d, &key->e, &key->N, &key->dQ, &key->dP,
 163                   &key->qP, &key->p, &key->q, NULL);
 164 error:
 165    err = mpi_to_ltc_error(err);
 166 done:
 167    mp_clear_multi(&tmp3, &tmp2, &tmp1, &p, &q, NULL);
 168    return err;
 169 }
 170
 171 void rsa_free(rsa_key *key)
 172 {
 173    mp_clear_multi(&key->e, &key->d, &key->N, &key->dQ, &key->dP,
 174                   &key->qP, &key->p, &key->q, NULL);
 175 }
 176
 177 /* compute an RSA modular exponentiation */
 178 int rsa_exptmod(const unsigned char *in,   unsigned long inlen,
 179                       unsigned char *out,  unsigned long *outlen, int which,
 180                       rsa_key *key)
 181 {
 182    mp_int        tmp, tmpa, tmpb;
 183    unsigned long x;
 184    int           err;
 185
 186    /* is the key of the right type for the operation? */
 187    if (which == PK_PRIVATE && (key->type != PK_PRIVATE)) {
 188       return CRYPT_PK_NOT_PRIVATE;
 189    }
 190
 191    /* must be a private or public operation */
 192    if (which != PK_PRIVATE && which != PK_PUBLIC) {
 193       return CRYPT_PK_INVALID_TYPE;
 194    }
 195
 196    /* init and copy into tmp */
 197    if ((err = mp_init_multi(&tmp, &tmpa, &tmpb, NULL)) != MP_OKAY)                     { return mpi_to_ltc_error(err); }
 198    if ((err = mp_read_unsigned_bin(&tmp, (unsigned char *)in, (int)inlen)) != MP_OKAY) { goto error; }
 199
 200    /* sanity check on the input */
 201    if (mp_cmp(&key->N, &tmp) == MP_LT) {
 202       err = CRYPT_PK_INVALID_SIZE;
 203       goto done;
 204    }
 205
 206    /* are we using the private exponent and is the key optimized? */
 207    if (which == PK_PRIVATE) {
 208       /* tmpa = tmp^dP mod p */
 209       if ((err = mpi_to_ltc_error(mp_exptmod(&tmp, &key->dP, &key->p, &tmpa))) != MP_OKAY)    { goto error; }
 210
 211       /* tmpb = tmp^dQ mod q */
 212       if ((err = mpi_to_ltc_error(mp_exptmod(&tmp, &key->dQ, &key->q, &tmpb))) != MP_OKAY)    { goto error; }
 213
 214       /* tmp = (tmpa - tmpb) * qInv (mod p) */
 215       if ((err = mp_sub(&tmpa, &tmpb, &tmp)) != MP_OKAY)                    { goto error; }
 216       if ((err = mp_mulmod(&tmp, &key->qP, &key->p, &tmp)) != MP_OKAY)      { goto error; }
 217
 218       /* tmp = tmpb + q * tmp */
 219       if ((err = mp_mul(&tmp, &key->q, &tmp)) != MP_OKAY)                   { goto error; }
 220       if ((err = mp_add(&tmp, &tmpb, &tmp)) != MP_OKAY)                     { goto error; }
 221    } else {
 222       /* exptmod it */
 223       if ((err = mp_exptmod(&tmp, &key->e, &key->N, &tmp)) != MP_OKAY) { goto error; }
 224    }
 225
 226    /* read it back */
 227    x = (unsigned long)mp_unsigned_bin_size(&key->N);
 228    if (x > *outlen) {
 229       err = CRYPT_BUFFER_OVERFLOW;
 230       goto done;
 231    }
 232    *outlen = x;
 233
 234    /* convert it */
 235    memset(out, 0, x);
 236    if ((err = mp_to_unsigned_bin(&tmp, out+(x-mp_unsigned_bin_size(&tmp)))) != MP_OKAY) { goto error; }
 237
 238    /* clean up and return */
 239    err = CRYPT_OK;
 240    goto done;
 241 error:
 242    err = mpi_to_ltc_error(err);
 243 done:
 244    mp_clear_multi(&tmp, &tmpa, &tmpb, NULL);
 245    return err;
 246 }