crypt32: Introduce function to encode an array of items as a set.
[wine] / dlls / crypt32 / msg.c
1 /*
2  * Copyright 2007 Juan Lang
3  *
4  * This library is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * This library is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with this library; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA 02110-1301, USA
17  */
18 #include <stdarg.h>
19 #include "windef.h"
20 #include "winbase.h"
21 #include "wincrypt.h"
22 #include "snmp.h"
23
24 #include "wine/debug.h"
25 #include "wine/exception.h"
26 #include "crypt32_private.h"
27
28 WINE_DEFAULT_DEBUG_CHANNEL(crypt);
29
30 /* Called when a message's ref count reaches zero.  Free any message-specific
31  * data here.
32  */
33 typedef void (*CryptMsgCloseFunc)(HCRYPTMSG msg);
34
35 typedef BOOL (*CryptMsgGetParamFunc)(HCRYPTMSG hCryptMsg, DWORD dwParamType,
36  DWORD dwIndex, void *pvData, DWORD *pcbData);
37
38 typedef BOOL (*CryptMsgUpdateFunc)(HCRYPTMSG hCryptMsg, const BYTE *pbData,
39  DWORD cbData, BOOL fFinal);
40
41 typedef enum _CryptMsgState {
42     MsgStateInit,
43     MsgStateUpdated,
44     MsgStateFinalized
45 } CryptMsgState;
46
47 typedef struct _CryptMsgBase
48 {
49     LONG                 ref;
50     DWORD                open_flags;
51     BOOL                 streamed;
52     CMSG_STREAM_INFO     stream_info;
53     CryptMsgState        state;
54     CryptMsgCloseFunc    close;
55     CryptMsgUpdateFunc   update;
56     CryptMsgGetParamFunc get_param;
57 } CryptMsgBase;
58
59 static inline void CryptMsgBase_Init(CryptMsgBase *msg, DWORD dwFlags,
60  PCMSG_STREAM_INFO pStreamInfo, CryptMsgCloseFunc close,
61  CryptMsgGetParamFunc get_param, CryptMsgUpdateFunc update)
62 {
63     msg->ref = 1;
64     msg->open_flags = dwFlags;
65     if (pStreamInfo)
66     {
67         msg->streamed = TRUE;
68         memcpy(&msg->stream_info, pStreamInfo, sizeof(msg->stream_info));
69     }
70     else
71     {
72         msg->streamed = FALSE;
73         memset(&msg->stream_info, 0, sizeof(msg->stream_info));
74     }
75     msg->close = close;
76     msg->get_param = get_param;
77     msg->update = update;
78     msg->state = MsgStateInit;
79 }
80
81 typedef struct _CDataEncodeMsg
82 {
83     CryptMsgBase base;
84     DWORD        bare_content_len;
85     LPBYTE       bare_content;
86 } CDataEncodeMsg;
87
88 static const BYTE empty_data_content[] = { 0x04,0x00 };
89
90 static void CDataEncodeMsg_Close(HCRYPTMSG hCryptMsg)
91 {
92     CDataEncodeMsg *msg = (CDataEncodeMsg *)hCryptMsg;
93
94     if (msg->bare_content != empty_data_content)
95         LocalFree(msg->bare_content);
96 }
97
98 static WINAPI BOOL CRYPT_EncodeContentLength(DWORD dwCertEncodingType,
99  LPCSTR lpszStructType, const void *pvStructInfo, DWORD dwFlags,
100  PCRYPT_ENCODE_PARA pEncodePara, BYTE *pbEncoded, DWORD *pcbEncoded)
101 {
102     const CDataEncodeMsg *msg = (const CDataEncodeMsg *)pvStructInfo;
103     DWORD lenBytes;
104     BOOL ret = TRUE;
105
106     /* Trick:  report bytes needed based on total message length, even though
107      * the message isn't available yet.  The caller will use the length
108      * reported here to encode its length.
109      */
110     CRYPT_EncodeLen(msg->base.stream_info.cbContent, NULL, &lenBytes);
111     if (!pbEncoded)
112         *pcbEncoded = 1 + lenBytes + msg->base.stream_info.cbContent;
113     else
114     {
115         if ((ret = CRYPT_EncodeEnsureSpace(dwFlags, pEncodePara, pbEncoded,
116          pcbEncoded, 1 + lenBytes)))
117         {
118             if (dwFlags & CRYPT_ENCODE_ALLOC_FLAG)
119                 pbEncoded = *(BYTE **)pbEncoded;
120             *pbEncoded++ = ASN_OCTETSTRING;
121             CRYPT_EncodeLen(msg->base.stream_info.cbContent, pbEncoded,
122              &lenBytes);
123         }
124     }
125     return ret;
126 }
127
128 static BOOL CRYPT_EncodeDataContentInfoHeader(CDataEncodeMsg *msg,
129  CRYPT_DATA_BLOB *header)
130 {
131     BOOL ret;
132
133     if (msg->base.streamed && msg->base.stream_info.cbContent == 0xffffffff)
134     {
135         FIXME("unimplemented for indefinite-length encoding\n");
136         header->cbData = 0;
137         header->pbData = NULL;
138         ret = TRUE;
139     }
140     else
141     {
142         struct AsnConstructedItem constructed = { 0, msg,
143          CRYPT_EncodeContentLength };
144         struct AsnEncodeSequenceItem items[2] = {
145          { szOID_RSA_data, CRYPT_AsnEncodeOid, 0 },
146          { &constructed,   CRYPT_AsnEncodeConstructed, 0 },
147         };
148
149         ret = CRYPT_AsnEncodeSequence(X509_ASN_ENCODING, items,
150          sizeof(items) / sizeof(items[0]), CRYPT_ENCODE_ALLOC_FLAG, NULL,
151          (LPBYTE)&header->pbData, &header->cbData);
152         if (ret)
153         {
154             /* Trick:  subtract the content length from the reported length,
155              * as the actual content hasn't come yet.
156              */
157             header->cbData -= msg->base.stream_info.cbContent;
158         }
159     }
160     return ret;
161 }
162
163 static BOOL CDataEncodeMsg_Update(HCRYPTMSG hCryptMsg, const BYTE *pbData,
164  DWORD cbData, BOOL fFinal)
165 {
166     CDataEncodeMsg *msg = (CDataEncodeMsg *)hCryptMsg;
167     BOOL ret = FALSE;
168
169     if (msg->base.streamed)
170     {
171         __TRY
172         {
173             if (msg->base.state != MsgStateUpdated)
174             {
175                 CRYPT_DATA_BLOB header;
176
177                 ret = CRYPT_EncodeDataContentInfoHeader(msg, &header);
178                 if (ret)
179                 {
180                     ret = msg->base.stream_info.pfnStreamOutput(
181                      msg->base.stream_info.pvArg, header.pbData, header.cbData,
182                      FALSE);
183                     LocalFree(header.pbData);
184                 }
185             }
186             if (!fFinal)
187                 ret = msg->base.stream_info.pfnStreamOutput(
188                  msg->base.stream_info.pvArg, (BYTE *)pbData, cbData,
189                  FALSE);
190             else
191             {
192                 if (msg->base.stream_info.cbContent == 0xffffffff)
193                 {
194                     BYTE indefinite_trailer[6] = { 0 };
195
196                     ret = msg->base.stream_info.pfnStreamOutput(
197                      msg->base.stream_info.pvArg, (BYTE *)pbData, cbData,
198                      FALSE);
199                     if (ret)
200                         ret = msg->base.stream_info.pfnStreamOutput(
201                          msg->base.stream_info.pvArg, indefinite_trailer,
202                          sizeof(indefinite_trailer), TRUE);
203                 }
204                 else
205                     ret = msg->base.stream_info.pfnStreamOutput(
206                      msg->base.stream_info.pvArg, (BYTE *)pbData, cbData, TRUE);
207             }
208         }
209         __EXCEPT_PAGE_FAULT
210         {
211             SetLastError(STATUS_ACCESS_VIOLATION);
212         }
213         __ENDTRY;
214     }
215     else
216     {
217         if (!fFinal)
218         {
219             if (msg->base.open_flags & CMSG_DETACHED_FLAG)
220                 SetLastError(E_INVALIDARG);
221             else
222                 SetLastError(CRYPT_E_MSG_ERROR);
223         }
224         else
225         {
226             if (!cbData)
227                 SetLastError(E_INVALIDARG);
228             else
229             {
230                 CRYPT_DATA_BLOB blob = { cbData, (LPBYTE)pbData };
231
232                 /* non-streamed data messages don't allow non-final updates,
233                  * don't bother checking whether data already exist, they can't.
234                  */
235                 ret = CryptEncodeObjectEx(X509_ASN_ENCODING, X509_OCTET_STRING,
236                  &blob, CRYPT_ENCODE_ALLOC_FLAG, NULL, &msg->bare_content,
237                  &msg->bare_content_len);
238             }
239         }
240     }
241     return ret;
242 }
243
244 static BOOL CRYPT_CopyParam(void *pvData, DWORD *pcbData, const BYTE *src,
245  DWORD len)
246 {
247     BOOL ret = TRUE;
248
249     if (!pvData)
250         *pcbData = len;
251     else if (*pcbData < len)
252     {
253         *pcbData = len;
254         SetLastError(ERROR_MORE_DATA);
255         ret = FALSE;
256     }
257     else
258     {
259         *pcbData = len;
260         memcpy(pvData, src, len);
261     }
262     return ret;
263 }
264
265 static BOOL CDataEncodeMsg_GetParam(HCRYPTMSG hCryptMsg, DWORD dwParamType,
266  DWORD dwIndex, void *pvData, DWORD *pcbData)
267 {
268     CDataEncodeMsg *msg = (CDataEncodeMsg *)hCryptMsg;
269     BOOL ret = FALSE;
270
271     switch (dwParamType)
272     {
273     case CMSG_CONTENT_PARAM:
274         if (msg->base.streamed)
275             SetLastError(E_INVALIDARG);
276         else
277         {
278             CRYPT_CONTENT_INFO info;
279             char rsa_data[] = "1.2.840.113549.1.7.1";
280
281             info.pszObjId = rsa_data;
282             info.Content.cbData = msg->bare_content_len;
283             info.Content.pbData = msg->bare_content;
284             ret = CryptEncodeObject(X509_ASN_ENCODING, PKCS_CONTENT_INFO, &info,
285              pvData, pcbData);
286         }
287         break;
288     case CMSG_BARE_CONTENT_PARAM:
289         if (msg->base.streamed)
290             SetLastError(E_INVALIDARG);
291         else
292             ret = CRYPT_CopyParam(pvData, pcbData, msg->bare_content,
293              msg->bare_content_len);
294         break;
295     default:
296         SetLastError(CRYPT_E_INVALID_MSG_TYPE);
297     }
298     return ret;
299 }
300
301 static HCRYPTMSG CDataEncodeMsg_Open(DWORD dwFlags, const void *pvMsgEncodeInfo,
302  LPSTR pszInnerContentObjID, PCMSG_STREAM_INFO pStreamInfo)
303 {
304     CDataEncodeMsg *msg;
305
306     if (pvMsgEncodeInfo)
307     {
308         SetLastError(E_INVALIDARG);
309         return NULL;
310     }
311     msg = CryptMemAlloc(sizeof(CDataEncodeMsg));
312     if (msg)
313     {
314         CryptMsgBase_Init((CryptMsgBase *)msg, dwFlags, pStreamInfo,
315          CDataEncodeMsg_Close, CDataEncodeMsg_GetParam, CDataEncodeMsg_Update);
316         msg->bare_content_len = sizeof(empty_data_content);
317         msg->bare_content = (LPBYTE)empty_data_content;
318     }
319     return (HCRYPTMSG)msg;
320 }
321
322 typedef struct _CHashEncodeMsg
323 {
324     CryptMsgBase    base;
325     HCRYPTPROV      prov;
326     HCRYPTHASH      hash;
327     CRYPT_DATA_BLOB data;
328 } CHashEncodeMsg;
329
330 static void CHashEncodeMsg_Close(HCRYPTMSG hCryptMsg)
331 {
332     CHashEncodeMsg *msg = (CHashEncodeMsg *)hCryptMsg;
333
334     CryptMemFree(msg->data.pbData);
335     CryptDestroyHash(msg->hash);
336     if (msg->base.open_flags & CMSG_CRYPT_RELEASE_CONTEXT_FLAG)
337         CryptReleaseContext(msg->prov, 0);
338 }
339
340 static BOOL CRYPT_EncodePKCSDigestedData(CHashEncodeMsg *msg, void *pvData,
341  DWORD *pcbData)
342 {
343     BOOL ret;
344     ALG_ID algID;
345     DWORD size = sizeof(algID);
346
347     ret = CryptGetHashParam(msg->hash, HP_ALGID, (BYTE *)&algID, &size, 0);
348     if (ret)
349     {
350         CRYPT_DIGESTED_DATA digestedData = { 0 };
351         char oid_rsa_data[] = szOID_RSA_data;
352
353         digestedData.version = CMSG_HASHED_DATA_PKCS_1_5_VERSION;
354         digestedData.DigestAlgorithm.pszObjId = (LPSTR)CertAlgIdToOID(algID);
355         /* FIXME: what about digestedData.DigestAlgorithm.Parameters? */
356         /* Quirk:  OID is only encoded messages if an update has happened */
357         if (msg->base.state != MsgStateInit)
358             digestedData.ContentInfo.pszObjId = oid_rsa_data;
359         if (!(msg->base.open_flags & CMSG_DETACHED_FLAG) && msg->data.cbData)
360         {
361             ret = CRYPT_AsnEncodeOctets(0, NULL, &msg->data,
362              CRYPT_ENCODE_ALLOC_FLAG, NULL,
363              (LPBYTE)&digestedData.ContentInfo.Content.pbData,
364              &digestedData.ContentInfo.Content.cbData);
365         }
366         if (msg->base.state == MsgStateFinalized)
367         {
368             size = sizeof(DWORD);
369             ret = CryptGetHashParam(msg->hash, HP_HASHSIZE,
370              (LPBYTE)&digestedData.hash.cbData, &size, 0);
371             if (ret)
372             {
373                 digestedData.hash.pbData = CryptMemAlloc(
374                  digestedData.hash.cbData);
375                 ret = CryptGetHashParam(msg->hash, HP_HASHVAL,
376                  digestedData.hash.pbData, &digestedData.hash.cbData, 0);
377             }
378         }
379         if (ret)
380             ret = CRYPT_AsnEncodePKCSDigestedData(&digestedData, pvData,
381              pcbData);
382         CryptMemFree(digestedData.hash.pbData);
383         LocalFree(digestedData.ContentInfo.Content.pbData);
384     }
385     return ret;
386 }
387
388 static BOOL CHashEncodeMsg_GetParam(HCRYPTMSG hCryptMsg, DWORD dwParamType,
389  DWORD dwIndex, void *pvData, DWORD *pcbData)
390 {
391     CHashEncodeMsg *msg = (CHashEncodeMsg *)hCryptMsg;
392     BOOL ret = FALSE;
393
394     TRACE("(%p, %d, %d, %p, %p)\n", hCryptMsg, dwParamType, dwIndex,
395      pvData, pcbData);
396
397     switch (dwParamType)
398     {
399     case CMSG_BARE_CONTENT_PARAM:
400         if (msg->base.streamed)
401             SetLastError(E_INVALIDARG);
402         else
403             ret = CRYPT_EncodePKCSDigestedData(msg, pvData, pcbData);
404         break;
405     case CMSG_CONTENT_PARAM:
406     {
407         CRYPT_CONTENT_INFO info;
408
409         ret = CryptMsgGetParam(hCryptMsg, CMSG_BARE_CONTENT_PARAM, 0, NULL,
410          &info.Content.cbData);
411         if (ret)
412         {
413             info.Content.pbData = CryptMemAlloc(info.Content.cbData);
414             if (info.Content.pbData)
415             {
416                 ret = CryptMsgGetParam(hCryptMsg, CMSG_BARE_CONTENT_PARAM, 0,
417                  info.Content.pbData, &info.Content.cbData);
418                 if (ret)
419                 {
420                     char oid_rsa_hashed[] = szOID_RSA_hashedData;
421
422                     info.pszObjId = oid_rsa_hashed;
423                     ret = CryptEncodeObjectEx(X509_ASN_ENCODING,
424                      PKCS_CONTENT_INFO, &info, 0, NULL, pvData, pcbData);
425                 }
426                 CryptMemFree(info.Content.pbData);
427             }
428             else
429                 ret = FALSE;
430         }
431         break;
432     }
433     case CMSG_COMPUTED_HASH_PARAM:
434         ret = CryptGetHashParam(msg->hash, HP_HASHVAL, (BYTE *)pvData, pcbData,
435          0);
436         break;
437     case CMSG_VERSION_PARAM:
438         if (msg->base.state != MsgStateFinalized)
439             SetLastError(CRYPT_E_MSG_ERROR);
440         else
441         {
442             DWORD version = CMSG_HASHED_DATA_PKCS_1_5_VERSION;
443
444             /* Since the data are always encoded as octets, the version is
445              * always 0 (see rfc3852, section 7)
446              */
447             ret = CRYPT_CopyParam(pvData, pcbData, (const BYTE *)&version,
448              sizeof(version));
449         }
450         break;
451     default:
452         ret = FALSE;
453     }
454     return ret;
455 }
456
457 static BOOL CHashEncodeMsg_Update(HCRYPTMSG hCryptMsg, const BYTE *pbData,
458  DWORD cbData, BOOL fFinal)
459 {
460     CHashEncodeMsg *msg = (CHashEncodeMsg *)hCryptMsg;
461     BOOL ret = FALSE;
462
463     TRACE("(%p, %p, %d, %d)\n", hCryptMsg, pbData, cbData, fFinal);
464
465     if (msg->base.streamed || (msg->base.open_flags & CMSG_DETACHED_FLAG))
466     {
467         /* Doesn't do much, as stream output is never called, and you
468          * can't get the content.
469          */
470         ret = CryptHashData(msg->hash, pbData, cbData, 0);
471     }
472     else
473     {
474         if (!fFinal)
475             SetLastError(CRYPT_E_MSG_ERROR);
476         else
477         {
478             ret = CryptHashData(msg->hash, pbData, cbData, 0);
479             if (ret)
480             {
481                 msg->data.pbData = CryptMemAlloc(cbData);
482                 if (msg->data.pbData)
483                 {
484                     memcpy(msg->data.pbData + msg->data.cbData, pbData, cbData);
485                     msg->data.cbData += cbData;
486                 }
487                 else
488                     ret = FALSE;
489             }
490         }
491     }
492     return ret;
493 }
494
495 static HCRYPTMSG CHashEncodeMsg_Open(DWORD dwFlags, const void *pvMsgEncodeInfo,
496  LPSTR pszInnerContentObjID, PCMSG_STREAM_INFO pStreamInfo)
497 {
498     CHashEncodeMsg *msg;
499     const CMSG_HASHED_ENCODE_INFO *info =
500      (const CMSG_HASHED_ENCODE_INFO *)pvMsgEncodeInfo;
501     HCRYPTPROV prov;
502     ALG_ID algID;
503
504     if (info->cbSize != sizeof(CMSG_HASHED_ENCODE_INFO))
505     {
506         SetLastError(E_INVALIDARG);
507         return NULL;
508     }
509     if (!(algID = CertOIDToAlgId(info->HashAlgorithm.pszObjId)))
510     {
511         SetLastError(CRYPT_E_UNKNOWN_ALGO);
512         return NULL;
513     }
514     if (info->hCryptProv)
515         prov = info->hCryptProv;
516     else
517     {
518         prov = CRYPT_GetDefaultProvider();
519         dwFlags &= ~CMSG_CRYPT_RELEASE_CONTEXT_FLAG;
520     }
521     msg = CryptMemAlloc(sizeof(CHashEncodeMsg));
522     if (msg)
523     {
524         CryptMsgBase_Init((CryptMsgBase *)msg, dwFlags, pStreamInfo,
525          CHashEncodeMsg_Close, CHashEncodeMsg_GetParam, CHashEncodeMsg_Update);
526         msg->prov = prov;
527         msg->data.cbData = 0;
528         msg->data.pbData = NULL;
529         if (!CryptCreateHash(prov, algID, 0, 0, &msg->hash))
530         {
531             CryptMsgClose(msg);
532             msg = NULL;
533         }
534     }
535     return (HCRYPTMSG)msg;
536 }
537
538 typedef struct _CMSG_SIGNER_ENCODE_INFO_WITH_CMS
539 {
540     DWORD                      cbSize;
541     PCERT_INFO                 pCertInfo;
542     HCRYPTPROV                 hCryptProv;
543     DWORD                      dwKeySpec;
544     CRYPT_ALGORITHM_IDENTIFIER HashAlgorithm;
545     void                      *pvHashAuxInfo;
546     DWORD                      cAuthAttr;
547     PCRYPT_ATTRIBUTE           rgAuthAttr;
548     DWORD                      cUnauthAttr;
549     PCRYPT_ATTRIBUTE           rgUnauthAttr;
550     CERT_ID                    SignerId;
551     CRYPT_ALGORITHM_IDENTIFIER HashEncryptionAlgorithm;
552     void                      *pvHashEncryptionAuxInfo;
553 } CMSG_SIGNER_ENCODE_INFO_WITH_CMS, *PCMSG_SIGNER_ENCODE_INFO_WITH_CMS;
554
555 typedef struct _CMSG_SIGNED_ENCODE_INFO_WITH_CMS
556 {
557     DWORD                             cbSize;
558     DWORD                             cSigners;
559     PCMSG_SIGNER_ENCODE_INFO_WITH_CMS rgSigners;
560     DWORD                             cCertEncoded;
561     PCERT_BLOB                        rgCertEncoded;
562     DWORD                             cCrlEncoded;
563     PCRL_BLOB                         rgCrlEncoded;
564     DWORD                             cAttrCertEncoded;
565     PCERT_BLOB                        rgAttrCertEncoded;
566 } CMSG_SIGNED_ENCODE_INFO_WITH_CMS, *PCMSG_SIGNED_ENCODE_INFO_WITH_CMS;
567
568 static BOOL CRYPT_IsValidSigner(CMSG_SIGNER_ENCODE_INFO_WITH_CMS *signer)
569 {
570     if (!signer->pCertInfo->SerialNumber.cbData)
571     {
572         SetLastError(E_INVALIDARG);
573         return FALSE;
574     }
575     if (!signer->pCertInfo->Issuer.cbData)
576     {
577         SetLastError(E_INVALIDARG);
578         return FALSE;
579     }
580     if (!signer->hCryptProv)
581     {
582         SetLastError(E_INVALIDARG);
583         return FALSE;
584     }
585     if (!CertOIDToAlgId(signer->HashAlgorithm.pszObjId))
586     {
587         SetLastError(CRYPT_E_UNKNOWN_ALGO);
588         return FALSE;
589     }
590     return TRUE;
591 }
592
593 typedef struct _CSignedEncodeMsg
594 {
595     CryptMsgBase base;
596 } CSignedEncodeMsg;
597
598 static void CSignedEncodeMsg_Close(HCRYPTMSG hCryptMsg)
599 {
600     FIXME("(%p)\n", hCryptMsg);
601 }
602
603 static BOOL CSignedEncodeMsg_GetParam(HCRYPTMSG hCryptMsg, DWORD dwParamType,
604  DWORD dwIndex, void *pvData, DWORD *pcbData)
605 {
606     FIXME("(%p, %d, %d, %p, %p)\n", hCryptMsg, dwParamType, dwIndex, pvData,
607      pcbData);
608     return FALSE;
609 }
610
611 static BOOL CSignedEncodeMsg_Update(HCRYPTMSG hCryptMsg, const BYTE *pbData,
612  DWORD cbData, BOOL fFinal)
613 {
614     FIXME("(%p, %p, %d, %d)\n", hCryptMsg, pbData, cbData, fFinal);
615     return FALSE;
616 }
617
618 static HCRYPTMSG CSignedEncodeMsg_Open(DWORD dwFlags,
619  const void *pvMsgEncodeInfo, LPSTR pszInnerContentObjID,
620  PCMSG_STREAM_INFO pStreamInfo)
621 {
622     const CMSG_SIGNED_ENCODE_INFO_WITH_CMS *info =
623      (const CMSG_SIGNED_ENCODE_INFO_WITH_CMS *)pvMsgEncodeInfo;
624     DWORD i;
625     CSignedEncodeMsg *msg;
626
627     if (info->cbSize != sizeof(CMSG_SIGNED_ENCODE_INFO) &&
628      info->cbSize != sizeof(CMSG_SIGNED_ENCODE_INFO_WITH_CMS))
629     {
630         SetLastError(E_INVALIDARG);
631         return NULL;
632     }
633     if (info->cbSize == sizeof(CMSG_SIGNED_ENCODE_INFO_WITH_CMS))
634     {
635         FIXME("CMSG_SIGNED_ENCODE_INFO with CMS fields unsupported\n");
636         return NULL;
637     }
638     for (i = 0; i < info->cSigners; i++)
639         if (!CRYPT_IsValidSigner(&info->rgSigners[i]))
640             return NULL;
641     msg = CryptMemAlloc(sizeof(CSignedEncodeMsg));
642     if (msg)
643     {
644         CryptMsgBase_Init((CryptMsgBase *)msg, dwFlags, pStreamInfo,
645          CSignedEncodeMsg_Close, CSignedEncodeMsg_GetParam,
646          CSignedEncodeMsg_Update);
647     }
648     return msg;
649 }
650
651 static inline const char *MSG_TYPE_STR(DWORD type)
652 {
653     switch (type)
654     {
655 #define _x(x) case (x): return #x
656         _x(CMSG_DATA);
657         _x(CMSG_SIGNED);
658         _x(CMSG_ENVELOPED);
659         _x(CMSG_SIGNED_AND_ENVELOPED);
660         _x(CMSG_HASHED);
661         _x(CMSG_ENCRYPTED);
662 #undef _x
663         default:
664             return wine_dbg_sprintf("unknown (%d)", type);
665     }
666 }
667
668 HCRYPTMSG WINAPI CryptMsgOpenToEncode(DWORD dwMsgEncodingType, DWORD dwFlags,
669  DWORD dwMsgType, const void *pvMsgEncodeInfo, LPSTR pszInnerContentObjID,
670  PCMSG_STREAM_INFO pStreamInfo)
671 {
672     HCRYPTMSG msg = NULL;
673
674     TRACE("(%08x, %08x, %08x, %p, %s, %p)\n", dwMsgEncodingType, dwFlags,
675      dwMsgType, pvMsgEncodeInfo, debugstr_a(pszInnerContentObjID), pStreamInfo);
676
677     if (GET_CMSG_ENCODING_TYPE(dwMsgEncodingType) != PKCS_7_ASN_ENCODING)
678     {
679         SetLastError(E_INVALIDARG);
680         return NULL;
681     }
682     switch (dwMsgType)
683     {
684     case CMSG_DATA:
685         msg = CDataEncodeMsg_Open(dwFlags, pvMsgEncodeInfo,
686          pszInnerContentObjID, pStreamInfo);
687         break;
688     case CMSG_HASHED:
689         msg = CHashEncodeMsg_Open(dwFlags, pvMsgEncodeInfo,
690          pszInnerContentObjID, pStreamInfo);
691         break;
692     case CMSG_SIGNED:
693         msg = CSignedEncodeMsg_Open(dwFlags, pvMsgEncodeInfo,
694          pszInnerContentObjID, pStreamInfo);
695         break;
696     case CMSG_ENVELOPED:
697         FIXME("unimplemented for type %s\n", MSG_TYPE_STR(dwMsgType));
698         break;
699     case CMSG_SIGNED_AND_ENVELOPED:
700     case CMSG_ENCRYPTED:
701         /* defined but invalid, fall through */
702     default:
703         SetLastError(CRYPT_E_INVALID_MSG_TYPE);
704     }
705     return msg;
706 }
707
708 typedef struct _CDecodeMsg
709 {
710     CryptMsgBase           base;
711     DWORD                  type;
712     HCRYPTPROV             crypt_prov;
713     HCRYPTHASH             hash;
714     CRYPT_DATA_BLOB        msg_data;
715     PCONTEXT_PROPERTY_LIST properties;
716 } CDecodeMsg;
717
718 static void CDecodeMsg_Close(HCRYPTMSG hCryptMsg)
719 {
720     CDecodeMsg *msg = (CDecodeMsg *)hCryptMsg;
721
722     if (msg->base.open_flags & CMSG_CRYPT_RELEASE_CONTEXT_FLAG)
723         CryptReleaseContext(msg->crypt_prov, 0);
724     CryptDestroyHash(msg->hash);
725     CryptMemFree(msg->msg_data.pbData);
726     ContextPropertyList_Free(msg->properties);
727 }
728
729 static BOOL CDecodeMsg_CopyData(CDecodeMsg *msg, const BYTE *pbData,
730  DWORD cbData)
731 {
732     BOOL ret = TRUE;
733
734     if (cbData)
735     {
736         if (msg->msg_data.cbData)
737             msg->msg_data.pbData = CryptMemRealloc(msg->msg_data.pbData,
738              msg->msg_data.cbData + cbData);
739         else
740             msg->msg_data.pbData = CryptMemAlloc(cbData);
741         if (msg->msg_data.pbData)
742         {
743             memcpy(msg->msg_data.pbData + msg->msg_data.cbData, pbData, cbData);
744             msg->msg_data.cbData += cbData;
745         }
746         else
747             ret = FALSE;
748     }
749     return ret;
750 }
751
752 static BOOL CDecodeMsg_DecodeDataContent(CDecodeMsg *msg, CRYPT_DER_BLOB *blob)
753 {
754     BOOL ret;
755     CRYPT_DATA_BLOB *data;
756     DWORD size;
757
758     ret = CryptDecodeObjectEx(X509_ASN_ENCODING, X509_OCTET_STRING,
759      blob->pbData, blob->cbData, CRYPT_DECODE_ALLOC_FLAG, NULL, (LPBYTE)&data,
760      &size);
761     if (ret)
762     {
763         ret = ContextPropertyList_SetProperty(msg->properties,
764          CMSG_CONTENT_PARAM, data->pbData, data->cbData);
765         LocalFree(data);
766     }
767     return ret;
768 }
769
770 static void CDecodeMsg_SaveAlgorithmID(CDecodeMsg *msg, DWORD param,
771  const CRYPT_ALGORITHM_IDENTIFIER *id)
772 {
773     static const BYTE nullParams[] = { ASN_NULL, 0 };
774     CRYPT_ALGORITHM_IDENTIFIER *copy;
775     DWORD len = sizeof(CRYPT_ALGORITHM_IDENTIFIER);
776
777     /* Linearize algorithm id */
778     len += strlen(id->pszObjId) + 1;
779     len += id->Parameters.cbData;
780     copy = CryptMemAlloc(len);
781     if (copy)
782     {
783         copy->pszObjId =
784          (LPSTR)((BYTE *)copy + sizeof(CRYPT_ALGORITHM_IDENTIFIER));
785         strcpy(copy->pszObjId, id->pszObjId);
786         copy->Parameters.pbData = (BYTE *)copy->pszObjId + strlen(id->pszObjId)
787          + 1;
788         /* Trick:  omit NULL parameters */
789         if (id->Parameters.cbData == sizeof(nullParams) &&
790          !memcmp(id->Parameters.pbData, nullParams, sizeof(nullParams)))
791         {
792             copy->Parameters.cbData = 0;
793             len -= sizeof(nullParams);
794         }
795         else
796             copy->Parameters.cbData = id->Parameters.cbData;
797         if (copy->Parameters.cbData)
798             memcpy(copy->Parameters.pbData, id->Parameters.pbData,
799              id->Parameters.cbData);
800         ContextPropertyList_SetProperty(msg->properties, param, (BYTE *)copy,
801          len);
802         CryptMemFree(copy);
803     }
804 }
805
806 static inline void CRYPT_FixUpAlgorithmID(CRYPT_ALGORITHM_IDENTIFIER *id)
807 {
808     id->pszObjId = (LPSTR)((BYTE *)id + sizeof(CRYPT_ALGORITHM_IDENTIFIER));
809     id->Parameters.pbData = (BYTE *)id->pszObjId + strlen(id->pszObjId) + 1;
810 }
811
812 static BOOL CDecodeMsg_DecodeHashedContent(CDecodeMsg *msg,
813  CRYPT_DER_BLOB *blob)
814 {
815     BOOL ret;
816     CRYPT_DIGESTED_DATA *digestedData;
817     DWORD size;
818
819     ret = CRYPT_AsnDecodePKCSDigestedData(blob->pbData, blob->cbData,
820      CRYPT_DECODE_ALLOC_FLAG, NULL, (CRYPT_DIGESTED_DATA *)&digestedData,
821      &size);
822     if (ret)
823     {
824         msg->type = CMSG_HASHED;
825         ContextPropertyList_SetProperty(msg->properties, CMSG_VERSION_PARAM,
826          (const BYTE *)&digestedData->version, sizeof(digestedData->version));
827         CDecodeMsg_SaveAlgorithmID(msg, CMSG_HASH_ALGORITHM_PARAM,
828          &digestedData->DigestAlgorithm);
829         ContextPropertyList_SetProperty(msg->properties,
830          CMSG_INNER_CONTENT_TYPE_PARAM,
831          (const BYTE *)digestedData->ContentInfo.pszObjId,
832          digestedData->ContentInfo.pszObjId ?
833          strlen(digestedData->ContentInfo.pszObjId) + 1 : 0);
834         if (digestedData->ContentInfo.Content.cbData)
835             CDecodeMsg_DecodeDataContent(msg,
836              &digestedData->ContentInfo.Content);
837         else
838             ContextPropertyList_SetProperty(msg->properties,
839              CMSG_CONTENT_PARAM, NULL, 0);
840         ContextPropertyList_SetProperty(msg->properties, CMSG_HASH_DATA_PARAM,
841          digestedData->hash.pbData, digestedData->hash.cbData);
842         LocalFree(digestedData);
843     }
844     return ret;
845 }
846
847 /* Decodes the content in blob as the type given, and updates the value
848  * (type, parameters, etc.) of msg based on what blob contains.
849  * It doesn't just use msg's type, to allow a recursive call from an implicitly
850  * typed message once the outer content info has been decoded.
851  */
852 static BOOL CDecodeMsg_DecodeContent(CDecodeMsg *msg, CRYPT_DER_BLOB *blob,
853  DWORD type)
854 {
855     BOOL ret;
856
857     switch (type)
858     {
859     case CMSG_DATA:
860         if ((ret = CDecodeMsg_DecodeDataContent(msg, blob)))
861             msg->type = CMSG_DATA;
862         break;
863     case CMSG_HASHED:
864         if ((ret = CDecodeMsg_DecodeHashedContent(msg, blob)))
865             msg->type = CMSG_HASHED;
866         break;
867     case CMSG_ENVELOPED:
868     case CMSG_SIGNED:
869         FIXME("unimplemented for type %s\n", MSG_TYPE_STR(type));
870         ret = TRUE;
871         break;
872     default:
873     {
874         CRYPT_CONTENT_INFO *info;
875         DWORD size;
876
877         ret = CryptDecodeObjectEx(X509_ASN_ENCODING, PKCS_CONTENT_INFO,
878          msg->msg_data.pbData, msg->msg_data.cbData, CRYPT_DECODE_ALLOC_FLAG,
879          NULL, (LPBYTE)&info, &size);
880         if (ret)
881         {
882             if (!strcmp(info->pszObjId, szOID_RSA_data))
883                 ret = CDecodeMsg_DecodeContent(msg, &info->Content, CMSG_DATA);
884             else if (!strcmp(info->pszObjId, szOID_RSA_digestedData))
885                 ret = CDecodeMsg_DecodeContent(msg, &info->Content,
886                  CMSG_HASHED);
887             else if (!strcmp(info->pszObjId, szOID_RSA_envelopedData))
888                 ret = CDecodeMsg_DecodeContent(msg, &info->Content,
889                  CMSG_ENVELOPED);
890             else if (!strcmp(info->pszObjId, szOID_RSA_signedData))
891                 ret = CDecodeMsg_DecodeContent(msg, &info->Content,
892                  CMSG_SIGNED);
893             else
894             {
895                 SetLastError(CRYPT_E_INVALID_MSG_TYPE);
896                 ret = FALSE;
897             }
898             LocalFree(info);
899         }
900     }
901     }
902     return ret;
903 }
904
905 static BOOL CDecodeMsg_Update(HCRYPTMSG hCryptMsg, const BYTE *pbData,
906  DWORD cbData, BOOL fFinal)
907 {
908     CDecodeMsg *msg = (CDecodeMsg *)hCryptMsg;
909     BOOL ret = FALSE;
910
911     TRACE("(%p, %p, %d, %d)\n", hCryptMsg, pbData, cbData, fFinal);
912
913     if (msg->base.streamed)
914     {
915         ret = CDecodeMsg_CopyData(msg, pbData, cbData);
916         FIXME("(%p, %p, %d, %d): streamed update stub\n", hCryptMsg, pbData,
917          cbData, fFinal);
918     }
919     else
920     {
921         if (!fFinal)
922             SetLastError(CRYPT_E_MSG_ERROR);
923         else
924         {
925             ret = CDecodeMsg_CopyData(msg, pbData, cbData);
926             if (ret)
927                 ret = CDecodeMsg_DecodeContent(msg, &msg->msg_data, msg->type);
928
929         }
930     }
931     return ret;
932 }
933
934 static BOOL CDecodeMsg_GetParam(HCRYPTMSG hCryptMsg, DWORD dwParamType,
935  DWORD dwIndex, void *pvData, DWORD *pcbData)
936 {
937     CDecodeMsg *msg = (CDecodeMsg *)hCryptMsg;
938     BOOL ret = FALSE;
939
940     switch (dwParamType)
941     {
942     case CMSG_TYPE_PARAM:
943         ret = CRYPT_CopyParam(pvData, pcbData, (const BYTE *)&msg->type,
944          sizeof(msg->type));
945         break;
946     case CMSG_HASH_ALGORITHM_PARAM:
947     {
948         CRYPT_DATA_BLOB blob;
949
950         ret = ContextPropertyList_FindProperty(msg->properties, dwParamType,
951          &blob);
952         if (ret)
953         {
954             ret = CRYPT_CopyParam(pvData, pcbData, blob.pbData, blob.cbData);
955             if (ret && pvData)
956                 CRYPT_FixUpAlgorithmID((CRYPT_ALGORITHM_IDENTIFIER *)pvData);
957         }
958         else
959             SetLastError(CRYPT_E_INVALID_MSG_TYPE);
960         break;
961     }
962     case CMSG_COMPUTED_HASH_PARAM:
963         if (!msg->hash)
964         {
965             CRYPT_ALGORITHM_IDENTIFIER *hashAlgoID = NULL;
966             DWORD size = 0;
967             ALG_ID algID = 0;
968
969             CryptMsgGetParam(msg, CMSG_HASH_ALGORITHM_PARAM, 0, NULL, &size);
970             hashAlgoID = CryptMemAlloc(size);
971             ret = CryptMsgGetParam(msg, CMSG_HASH_ALGORITHM_PARAM, 0,
972              hashAlgoID, &size);
973             if (ret)
974                 algID = CertOIDToAlgId(hashAlgoID->pszObjId);
975             ret = CryptCreateHash(msg->crypt_prov, algID, 0, 0, &msg->hash);
976             if (ret)
977             {
978                 CRYPT_DATA_BLOB content;
979
980                 ret = ContextPropertyList_FindProperty(msg->properties,
981                  CMSG_CONTENT_PARAM, &content);
982                 if (ret)
983                     ret = CryptHashData(msg->hash, content.pbData,
984                      content.cbData, 0);
985             }
986             CryptMemFree(hashAlgoID);
987         }
988         else
989             ret = TRUE;
990         if (ret)
991             ret = CryptGetHashParam(msg->hash, HP_HASHVAL, pvData, pcbData, 0);
992         break;
993     default:
994     {
995         CRYPT_DATA_BLOB blob;
996
997         ret = ContextPropertyList_FindProperty(msg->properties, dwParamType,
998          &blob);
999         if (ret)
1000             ret = CRYPT_CopyParam(pvData, pcbData, blob.pbData, blob.cbData);
1001         else
1002             SetLastError(CRYPT_E_INVALID_MSG_TYPE);
1003     }
1004     }
1005     return ret;
1006 }
1007
1008 HCRYPTMSG WINAPI CryptMsgOpenToDecode(DWORD dwMsgEncodingType, DWORD dwFlags,
1009  DWORD dwMsgType, HCRYPTPROV hCryptProv, PCERT_INFO pRecipientInfo,
1010  PCMSG_STREAM_INFO pStreamInfo)
1011 {
1012     CDecodeMsg *msg;
1013
1014     TRACE("(%08x, %08x, %08x, %08lx, %p, %p)\n", dwMsgEncodingType,
1015      dwFlags, dwMsgType, hCryptProv, pRecipientInfo, pStreamInfo);
1016
1017     if (GET_CMSG_ENCODING_TYPE(dwMsgEncodingType) != PKCS_7_ASN_ENCODING)
1018     {
1019         SetLastError(E_INVALIDARG);
1020         return NULL;
1021     }
1022     msg = CryptMemAlloc(sizeof(CDecodeMsg));
1023     if (msg)
1024     {
1025         CryptMsgBase_Init((CryptMsgBase *)msg, dwFlags, pStreamInfo,
1026          CDecodeMsg_Close, CDecodeMsg_GetParam, CDecodeMsg_Update);
1027         msg->type = dwMsgType;
1028         if (hCryptProv)
1029             msg->crypt_prov = hCryptProv;
1030         else
1031         {
1032             msg->crypt_prov = CRYPT_GetDefaultProvider();
1033             msg->base.open_flags &= ~CMSG_CRYPT_RELEASE_CONTEXT_FLAG;
1034         }
1035         msg->hash = 0;
1036         msg->msg_data.cbData = 0;
1037         msg->msg_data.pbData = NULL;
1038         msg->properties = ContextPropertyList_Create();
1039     }
1040     return msg;
1041 }
1042
1043 HCRYPTMSG WINAPI CryptMsgDuplicate(HCRYPTMSG hCryptMsg)
1044 {
1045     TRACE("(%p)\n", hCryptMsg);
1046
1047     if (hCryptMsg)
1048     {
1049         CryptMsgBase *msg = (CryptMsgBase *)hCryptMsg;
1050
1051         InterlockedIncrement(&msg->ref);
1052     }
1053     return hCryptMsg;
1054 }
1055
1056 BOOL WINAPI CryptMsgClose(HCRYPTMSG hCryptMsg)
1057 {
1058     TRACE("(%p)\n", hCryptMsg);
1059
1060     if (hCryptMsg)
1061     {
1062         CryptMsgBase *msg = (CryptMsgBase *)hCryptMsg;
1063
1064         if (InterlockedDecrement(&msg->ref) == 0)
1065         {
1066             TRACE("freeing %p\n", msg);
1067             if (msg->close)
1068                 msg->close(msg);
1069             CryptMemFree(msg);
1070         }
1071     }
1072     return TRUE;
1073 }
1074
1075 BOOL WINAPI CryptMsgUpdate(HCRYPTMSG hCryptMsg, const BYTE *pbData,
1076  DWORD cbData, BOOL fFinal)
1077 {
1078     CryptMsgBase *msg = (CryptMsgBase *)hCryptMsg;
1079     BOOL ret = FALSE;
1080
1081     TRACE("(%p, %p, %d, %d)\n", hCryptMsg, pbData, cbData, fFinal);
1082
1083     if (msg->state == MsgStateFinalized)
1084         SetLastError(CRYPT_E_MSG_ERROR);
1085     else
1086     {
1087         ret = msg->update(hCryptMsg, pbData, cbData, fFinal);
1088         msg->state = MsgStateUpdated;
1089         if (fFinal)
1090             msg->state = MsgStateFinalized;
1091     }
1092     return ret;
1093 }
1094
1095 BOOL WINAPI CryptMsgGetParam(HCRYPTMSG hCryptMsg, DWORD dwParamType,
1096  DWORD dwIndex, void *pvData, DWORD *pcbData)
1097 {
1098     CryptMsgBase *msg = (CryptMsgBase *)hCryptMsg;
1099
1100     TRACE("(%p, %d, %d, %p, %p)\n", hCryptMsg, dwParamType, dwIndex,
1101      pvData, pcbData);
1102     return msg->get_param(hCryptMsg, dwParamType, dwIndex, pvData, pcbData);
1103 }