msi: Fix deleting temporary rows, with tests.
[wine] / dlls / msi / table.c
1 /*
2  * Implementation of the Microsoft Installer (msi.dll)
3  *
4  * Copyright 2002-2005 Mike McCormack for CodeWeavers
5  *
6  * This library is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * This library is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this library; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA 02110-1301, USA
19  */
20
21 #include <stdarg.h>
22 #include <assert.h>
23
24 #define COBJMACROS
25 #define NONAMELESSUNION
26 #define NONAMELESSSTRUCT
27
28 #include "windef.h"
29 #include "winbase.h"
30 #include "winerror.h"
31 #include "msi.h"
32 #include "msiquery.h"
33 #include "objbase.h"
34 #include "objidl.h"
35 #include "winnls.h"
36 #include "msipriv.h"
37 #include "query.h"
38
39 #include "wine/debug.h"
40 #include "wine/unicode.h"
41
42 WINE_DEFAULT_DEBUG_CHANNEL(msidb);
43
44 #define MSITABLE_HASH_TABLE_SIZE 37
45 #define LONG_STR_BYTES 3
46
47 typedef struct tagMSICOLUMNHASHENTRY
48 {
49     struct tagMSICOLUMNHASHENTRY *next;
50     UINT value;
51     UINT row;
52 } MSICOLUMNHASHENTRY;
53
54 typedef struct tagMSICOLUMNINFO
55 {
56     LPWSTR tablename;
57     UINT   number;
58     LPWSTR colname;
59     UINT   type;
60     UINT   offset;
61     INT    ref_count;
62     MSICOLUMNHASHENTRY **hash_table;
63 } MSICOLUMNINFO;
64
65 typedef struct tagMSIORDERINFO
66 {
67     UINT *reorder;
68     UINT num_cols;
69     UINT cols[1];
70 } MSIORDERINFO;
71
72 struct tagMSITABLE
73 {
74     BYTE **data;
75     UINT row_count;
76     BYTE **nonpersistent_data;
77     UINT nonpersistent_row_count;
78     struct list entry;
79     MSICOLUMNINFO *colinfo;
80     UINT col_count;
81     BOOL persistent;
82     INT ref_count;
83     WCHAR name[1];
84 };
85
86 typedef struct tagMSITRANSFORM {
87     struct list entry;
88     IStorage *stg;
89 } MSITRANSFORM;
90
91 static const WCHAR szStringData[] = {
92     '_','S','t','r','i','n','g','D','a','t','a',0 };
93 static const WCHAR szStringPool[] = {
94     '_','S','t','r','i','n','g','P','o','o','l',0 };
95
96 /* information for default tables */
97 static WCHAR szTables[]  = { '_','T','a','b','l','e','s',0 };
98 static WCHAR szTable[]  = { 'T','a','b','l','e',0 };
99 static WCHAR szName[]    = { 'N','a','m','e',0 };
100 static WCHAR szColumns[] = { '_','C','o','l','u','m','n','s',0 };
101 static WCHAR szNumber[]  = { 'N','u','m','b','e','r',0 };
102 static WCHAR szType[]    = { 'T','y','p','e',0 };
103
104 /* These tables are written into (the .hash_table part).
105  * Do not mark them const.
106  */
107 static MSICOLUMNINFO _Columns_cols[4] = {
108     { szColumns, 1, szTable,  MSITYPE_VALID | MSITYPE_STRING | MSITYPE_KEY | 64, 0 },
109     { szColumns, 2, szNumber, MSITYPE_VALID | MSITYPE_KEY | 2,     2 },
110     { szColumns, 3, szName,   MSITYPE_VALID | MSITYPE_STRING | 64, 4 },
111     { szColumns, 4, szType,   MSITYPE_VALID | 2,                   6 },
112 };
113 static MSICOLUMNINFO _Tables_cols[1] = {
114     { szTables,  1, szName,   MSITYPE_VALID | MSITYPE_STRING | 64, 0 },
115 };
116
117 #define MAX_STREAM_NAME 0x1f
118
119 static UINT table_get_column_info( MSIDATABASE *db, LPCWSTR name,
120        MSICOLUMNINFO **pcols, UINT *pcount );
121 static void table_calc_column_offsets( MSICOLUMNINFO *colinfo, DWORD count );
122 static UINT get_tablecolumns( MSIDATABASE *db,
123        LPCWSTR szTableName, MSICOLUMNINFO *colinfo, UINT *sz);
124 static void msi_free_colinfo( MSICOLUMNINFO *colinfo, UINT count );
125
126
127 void msi_table_set_strref(UINT bytes_per_strref)
128 {
129     _Columns_cols[0].offset = 0;
130     _Columns_cols[1].offset = bytes_per_strref;
131     _Columns_cols[2].offset = _Columns_cols[1].offset + sizeof(USHORT);
132     _Columns_cols[3].offset = _Columns_cols[2].offset + bytes_per_strref;
133 }
134
135 static inline UINT bytes_per_column( const MSICOLUMNINFO *col )
136 {
137     if( MSITYPE_IS_BINARY(col->type) )
138         return 2;
139     if( col->type & MSITYPE_STRING )
140         return _Columns_cols[1].offset;
141     if( (col->type & 0xff) > 4 )
142         ERR("Invalid column size!\n");
143     return col->type & 0xff;
144 }
145
146 static int utf2mime(int x)
147 {
148     if( (x>='0') && (x<='9') )
149         return x-'0';
150     if( (x>='A') && (x<='Z') )
151         return x-'A'+10;
152     if( (x>='a') && (x<='z') )
153         return x-'a'+10+26;
154     if( x=='.' )
155         return 10+26+26;
156     if( x=='_' )
157         return 10+26+26+1;
158     return -1;
159 }
160
161 LPWSTR encode_streamname(BOOL bTable, LPCWSTR in)
162 {
163     DWORD count = MAX_STREAM_NAME;
164     DWORD ch, next;
165     LPWSTR out, p;
166
167     if( !bTable )
168         count = lstrlenW( in )+2;
169     out = msi_alloc( count*sizeof(WCHAR) );
170     p = out;
171
172     if( bTable )
173     {
174          *p++ = 0x4840;
175          count --;
176     }
177     while( count -- ) 
178     {
179         ch = *in++;
180         if( !ch )
181         {
182             *p = ch;
183             return out;
184         }
185         if( ( ch < 0x80 ) && ( utf2mime(ch) >= 0 ) )
186         {
187             ch = utf2mime(ch) + 0x4800;
188             next = *in;
189             if( next && (next<0x80) )
190             {
191                 next = utf2mime(next);
192                 if( next >= 0  )
193                 {
194                      next += 0x3ffffc0;
195                      ch += (next<<6);
196                      in++;
197                 }
198             }
199         }
200         *p++ = ch;
201     }
202     ERR("Failed to encode stream name (%s)\n",debugstr_w(in));
203     msi_free( out );
204     return NULL;
205 }
206
207 static int mime2utf(int x)
208 {
209     if( x<10 )
210         return x + '0';
211     if( x<(10+26))
212         return x - 10 + 'A';
213     if( x<(10+26+26))
214         return x - 10 - 26 + 'a';
215     if( x == (10+26+26) )
216         return '.';
217     return '_';
218 }
219
220 BOOL decode_streamname(LPCWSTR in, LPWSTR out)
221 {
222     WCHAR ch;
223     DWORD count = 0;
224
225     while ( (ch = *in++) )
226     {
227         if( (ch >= 0x3800 ) && (ch < 0x4840 ) )
228         {
229             if( ch >= 0x4800 )
230                 ch = mime2utf(ch-0x4800);
231             else
232             {
233                 ch -= 0x3800;
234                 *out++ = mime2utf(ch&0x3f);
235                 count++;
236                 ch = mime2utf((ch>>6)&0x3f);
237             }
238         }
239         *out++ = ch;
240         count++;
241     }
242     *out = 0;
243     return count;
244 }
245
246 void enum_stream_names( IStorage *stg )
247 {
248     IEnumSTATSTG *stgenum = NULL;
249     HRESULT r;
250     STATSTG stat;
251     ULONG n, count;
252     WCHAR name[0x40];
253
254     r = IStorage_EnumElements( stg, 0, NULL, 0, &stgenum );
255     if( FAILED( r ) )
256         return;
257
258     n = 0;
259     while( 1 )
260     {
261         count = 0;
262         r = IEnumSTATSTG_Next( stgenum, 1, &stat, &count );
263         if( FAILED( r ) || !count )
264             break;
265         decode_streamname( stat.pwcsName, name );
266         TRACE("stream %2d -> %s %s\n", n,
267               debugstr_w(stat.pwcsName), debugstr_w(name) );
268         n++;
269     }
270
271     IEnumSTATSTG_Release( stgenum );
272 }
273
274 UINT read_stream_data( IStorage *stg, LPCWSTR stname, BOOL table,
275                        BYTE **pdata, UINT *psz )
276 {
277     HRESULT r;
278     UINT ret = ERROR_FUNCTION_FAILED;
279     VOID *data;
280     ULONG sz, count;
281     IStream *stm = NULL;
282     STATSTG stat;
283     LPWSTR encname;
284
285     encname = encode_streamname(table, stname);
286
287     TRACE("%s -> %s\n",debugstr_w(stname),debugstr_w(encname));
288
289     r = IStorage_OpenStream(stg, encname, NULL, 
290             STGM_READ | STGM_SHARE_EXCLUSIVE, 0, &stm);
291     msi_free( encname );
292     if( FAILED( r ) )
293     {
294         WARN("open stream failed r = %08x - empty table?\n", r);
295         return ret;
296     }
297
298     r = IStream_Stat(stm, &stat, STATFLAG_NONAME );
299     if( FAILED( r ) )
300     {
301         WARN("open stream failed r = %08x!\n", r);
302         goto end;
303     }
304
305     if( stat.cbSize.QuadPart >> 32 )
306     {
307         WARN("Too big!\n");
308         goto end;
309     }
310         
311     sz = stat.cbSize.QuadPart;
312     data = msi_alloc( sz );
313     if( !data )
314     {
315         WARN("couldn't allocate memory r=%08x!\n", r);
316         ret = ERROR_NOT_ENOUGH_MEMORY;
317         goto end;
318     }
319         
320     r = IStream_Read(stm, data, sz, &count );
321     if( FAILED( r ) || ( count != sz ) )
322     {
323         msi_free( data );
324         WARN("read stream failed r = %08x!\n", r);
325         goto end;
326     }
327
328     *pdata = data;
329     *psz = sz;
330     ret = ERROR_SUCCESS;
331
332 end:
333     IStream_Release( stm );
334
335     return ret;
336 }
337
338 UINT db_get_raw_stream( MSIDATABASE *db, LPCWSTR stname, IStream **stm )
339 {
340     LPWSTR encname;
341     HRESULT r;
342
343     encname = encode_streamname(FALSE, stname);
344
345     TRACE("%s -> %s\n",debugstr_w(stname),debugstr_w(encname));
346
347     r = IStorage_OpenStream(db->storage, encname, NULL, 
348             STGM_READ | STGM_SHARE_EXCLUSIVE, 0, stm);
349     if( FAILED( r ) )
350     {
351         MSITRANSFORM *transform;
352
353         LIST_FOR_EACH_ENTRY( transform, &db->transforms, MSITRANSFORM, entry )
354         {
355             TRACE("looking for %s in transform storage\n", debugstr_w(stname) );
356             r = IStorage_OpenStream( transform->stg, encname, NULL, 
357                     STGM_READ | STGM_SHARE_EXCLUSIVE, 0, stm );
358             if (SUCCEEDED(r))
359                 break;
360         }
361     }
362
363     msi_free( encname );
364
365     return SUCCEEDED(r) ? ERROR_SUCCESS : ERROR_FUNCTION_FAILED;
366 }
367
368 UINT read_raw_stream_data( MSIDATABASE *db, LPCWSTR stname,
369                               USHORT **pdata, UINT *psz )
370 {
371     HRESULT r;
372     UINT ret = ERROR_FUNCTION_FAILED;
373     VOID *data;
374     ULONG sz, count;
375     IStream *stm = NULL;
376     STATSTG stat;
377
378     r = db_get_raw_stream( db, stname, &stm );
379     if( r != ERROR_SUCCESS)
380         return ret;
381     r = IStream_Stat(stm, &stat, STATFLAG_NONAME );
382     if( FAILED( r ) )
383     {
384         WARN("open stream failed r = %08x!\n", r);
385         goto end;
386     }
387
388     if( stat.cbSize.QuadPart >> 32 )
389     {
390         WARN("Too big!\n");
391         goto end;
392     }
393         
394     sz = stat.cbSize.QuadPart;
395     data = msi_alloc( sz );
396     if( !data )
397     {
398         WARN("couldn't allocate memory r=%08x!\n", r);
399         ret = ERROR_NOT_ENOUGH_MEMORY;
400         goto end;
401     }
402         
403     r = IStream_Read(stm, data, sz, &count );
404     if( FAILED( r ) || ( count != sz ) )
405     {
406         msi_free( data );
407         WARN("read stream failed r = %08x!\n", r);
408         goto end;
409     }
410
411     *pdata = data;
412     *psz = sz;
413     ret = ERROR_SUCCESS;
414
415 end:
416     IStream_Release( stm );
417
418     return ret;
419 }
420
421 UINT write_stream_data( IStorage *stg, LPCWSTR stname,
422                         LPCVOID data, UINT sz, BOOL bTable )
423 {
424     HRESULT r;
425     UINT ret = ERROR_FUNCTION_FAILED;
426     ULONG count;
427     IStream *stm = NULL;
428     ULARGE_INTEGER size;
429     LARGE_INTEGER pos;
430     LPWSTR encname;
431
432     encname = encode_streamname(bTable, stname );
433     r = IStorage_OpenStream( stg, encname, NULL, 
434             STGM_WRITE | STGM_SHARE_EXCLUSIVE, 0, &stm);
435     if( FAILED(r) )
436     {
437         r = IStorage_CreateStream( stg, encname,
438                 STGM_WRITE | STGM_SHARE_EXCLUSIVE, 0, 0, &stm);
439     }
440     msi_free( encname );
441     if( FAILED( r ) )
442     {
443         WARN("open stream failed r = %08x\n", r);
444         return ret;
445     }
446
447     size.QuadPart = sz;
448     r = IStream_SetSize( stm, size );
449     if( FAILED( r ) )
450     {
451         WARN("Failed to SetSize\n");
452         goto end;
453     }
454
455     pos.QuadPart = 0;
456     r = IStream_Seek( stm, pos, STREAM_SEEK_SET, NULL );
457     if( FAILED( r ) )
458     {
459         WARN("Failed to Seek\n");
460         goto end;
461     }
462
463     if (sz)
464     {
465         r = IStream_Write(stm, data, sz, &count );
466         if( FAILED( r ) || ( count != sz ) )
467         {
468             WARN("Failed to Write\n");
469             goto end;
470         }
471     }
472
473     ret = ERROR_SUCCESS;
474
475 end:
476     IStream_Release( stm );
477
478     return ret;
479 }
480
481 static void free_table( MSITABLE *table )
482 {
483     int i;
484     for( i=0; i<table->row_count; i++ )
485         msi_free( table->data[i] );
486     msi_free( table->data );
487     for( i=0; i<table->nonpersistent_row_count; i++ )
488         msi_free( table->nonpersistent_data[i] );
489     msi_free( table->nonpersistent_data );
490     if( (table->colinfo != _Tables_cols) &&
491         (table->colinfo != _Columns_cols) )
492     {
493         msi_free_colinfo( table->colinfo, table->col_count );
494         msi_free( table->colinfo );
495     }
496     msi_free( table );
497 }
498
499 static UINT msi_table_get_row_size( const MSICOLUMNINFO *cols, UINT count )
500 {
501     const MSICOLUMNINFO *last_col = &cols[count-1];
502     if (!count)
503         return 0;
504     return last_col->offset + bytes_per_column( last_col );
505 }
506
507 /* add this table to the list of cached tables in the database */
508 static UINT read_table_from_storage( MSITABLE *t, IStorage *stg )
509 {
510     BYTE *rawdata = NULL;
511     UINT rawsize = 0, i, j, row_size = 0;
512
513     TRACE("%s\n",debugstr_w(t->name));
514
515     row_size = msi_table_get_row_size( t->colinfo, t->col_count );
516
517     /* if we can't read the table, just assume that it's empty */
518     read_stream_data( stg, t->name, TRUE, &rawdata, &rawsize );
519     if( !rawdata )
520         return ERROR_SUCCESS;
521
522     TRACE("Read %d bytes\n", rawsize );
523
524     if( rawsize % row_size )
525     {
526         WARN("Table size is invalid %d/%d\n", rawsize, row_size );
527         goto err;
528     }
529
530     t->row_count = rawsize / row_size;
531     t->data = msi_alloc_zero( t->row_count * sizeof (USHORT*) );
532     if( !t->data )
533         goto err;
534
535     /* transpose all the data */
536     TRACE("Transposing data from %d rows\n", t->row_count );
537     for( i=0; i<t->row_count; i++ )
538     {
539         t->data[i] = msi_alloc( row_size );
540         if( !t->data[i] )
541             goto err;
542
543         for( j=0; j<t->col_count; j++ )
544         {
545             UINT ofs = t->colinfo[j].offset;
546             UINT n = bytes_per_column( &t->colinfo[j] );
547             UINT k;
548
549             if ( n != 2 && n != 3 && n != 4 )
550             {
551                 ERR("oops - unknown column width %d\n", n);
552                 goto err;
553             }
554
555             for ( k = 0; k < n; k++ )
556                 t->data[i][ofs + k] = rawdata[ofs*t->row_count + i * n + k];
557         }
558     }
559
560     msi_free( rawdata );
561     return ERROR_SUCCESS;
562 err:
563     msi_free( rawdata );
564     return ERROR_FUNCTION_FAILED;
565 }
566
567 void free_cached_tables( MSIDATABASE *db )
568 {
569     while( !list_empty( &db->tables ) )
570     {
571         MSITABLE *t = LIST_ENTRY( list_head( &db->tables ), MSITABLE, entry );
572
573         list_remove( &t->entry );
574         free_table( t );
575     }
576 }
577
578 static MSITABLE *find_cached_table( MSIDATABASE *db, LPCWSTR name )
579 {
580     MSITABLE *t;
581
582     LIST_FOR_EACH_ENTRY( t, &db->tables, MSITABLE, entry )
583         if( !lstrcmpW( name, t->name ) )
584             return t;
585
586     return NULL;
587 }
588
589 static UINT table_get_column_info( MSIDATABASE *db, LPCWSTR name, MSICOLUMNINFO **pcols, UINT *pcount )
590 {
591     UINT r, column_count = 0;
592     MSICOLUMNINFO *columns;
593
594     /* get the number of columns in this table */
595     column_count = 0;
596     r = get_tablecolumns( db, name, NULL, &column_count );
597     if( r != ERROR_SUCCESS )
598         return r;
599
600     /* if there's no columns, there's no table */
601     if( column_count == 0 )
602         return ERROR_INVALID_PARAMETER;
603
604     TRACE("Table %s found\n", debugstr_w(name) );
605
606     columns = msi_alloc( column_count*sizeof (MSICOLUMNINFO) );
607     if( !columns )
608         return ERROR_FUNCTION_FAILED;
609
610     r = get_tablecolumns( db, name, columns, &column_count );
611     if( r != ERROR_SUCCESS )
612     {
613         msi_free( columns );
614         return ERROR_FUNCTION_FAILED;
615     }
616
617     *pcols = columns;
618     *pcount = column_count;
619
620     return r;
621 }
622
623 UINT msi_create_table( MSIDATABASE *db, LPCWSTR name, column_info *col_info,
624                        BOOL persistent, MSITABLE **table_ret)
625 {
626     UINT r, nField;
627     MSIVIEW *tv = NULL;
628     MSIRECORD *rec = NULL;
629     column_info *col;
630     MSITABLE *table;
631     UINT i;
632
633     /* only add tables that don't exist already */
634     if( TABLE_Exists(db, name ) )
635     {
636         WARN("table %s exists\n", debugstr_w(name));
637         return ERROR_BAD_QUERY_SYNTAX;
638     }
639
640     table = msi_alloc( sizeof (MSITABLE) + lstrlenW(name)*sizeof (WCHAR) );
641     if( !table )
642         return ERROR_FUNCTION_FAILED;
643
644     table->ref_count = 1;
645     table->row_count = 0;
646     table->data = NULL;
647     table->nonpersistent_row_count = 0;
648     table->nonpersistent_data = NULL;
649     table->colinfo = NULL;
650     table->col_count = 0;
651     table->persistent = persistent;
652     lstrcpyW( table->name, name );
653
654     for( col = col_info; col; col = col->next )
655         table->col_count++;
656
657     table->colinfo = msi_alloc( table->col_count * sizeof(MSICOLUMNINFO) );
658     if (!table->colinfo)
659     {
660         free_table( table );
661         return ERROR_FUNCTION_FAILED;
662     }
663
664     for( i = 0, col = col_info; col; i++, col = col->next )
665     {
666         table->colinfo[ i ].tablename = strdupW( col->table );
667         table->colinfo[ i ].number = i + 1;
668         table->colinfo[ i ].colname = strdupW( col->column );
669         table->colinfo[ i ].type = col->type;
670         table->colinfo[ i ].offset = 0;
671         table->colinfo[ i ].ref_count = 0;
672         table->colinfo[ i ].hash_table = NULL;
673     }
674     table_calc_column_offsets( table->colinfo, table->col_count);
675
676     r = TABLE_CreateView( db, szTables, &tv );
677     TRACE("CreateView returned %x\n", r);
678     if( r )
679     {
680         free_table( table );
681         return r;
682     }
683
684     r = tv->ops->execute( tv, 0 );
685     TRACE("tv execute returned %x\n", r);
686     if( r )
687         goto err;
688
689     rec = MSI_CreateRecord( 1 );
690     if( !rec )
691         goto err;
692
693     r = MSI_RecordSetStringW( rec, 1, name );
694     if( r )
695         goto err;
696
697     r = tv->ops->insert_row( tv, rec, !persistent );
698     TRACE("insert_row returned %x\n", r);
699     if( r )
700         goto err;
701
702     tv->ops->delete( tv );
703     tv = NULL;
704
705     msiobj_release( &rec->hdr );
706     rec = NULL;
707
708     if( persistent )
709     {
710         /* add each column to the _Columns table */
711         r = TABLE_CreateView( db, szColumns, &tv );
712         if( r )
713             return r;
714
715         r = tv->ops->execute( tv, 0 );
716         TRACE("tv execute returned %x\n", r);
717         if( r )
718             goto err;
719
720         rec = MSI_CreateRecord( 4 );
721         if( !rec )
722             goto err;
723
724         r = MSI_RecordSetStringW( rec, 1, name );
725         if( r )
726             goto err;
727
728         /*
729          * need to set the table, column number, col name and type
730          * for each column we enter in the table
731          */
732         nField = 1;
733         for( col = col_info; col; col = col->next )
734         {
735             r = MSI_RecordSetInteger( rec, 2, nField );
736             if( r )
737                 goto err;
738
739             r = MSI_RecordSetStringW( rec, 3, col->column );
740             if( r )
741                 goto err;
742
743             r = MSI_RecordSetInteger( rec, 4, col->type );
744             if( r )
745                 goto err;
746
747             r = tv->ops->insert_row( tv, rec, FALSE );
748             if( r )
749                 goto err;
750
751             nField++;
752         }
753         if( !col )
754             r = ERROR_SUCCESS;
755     }
756
757 err:
758     if (rec)
759         msiobj_release( &rec->hdr );
760     /* FIXME: remove values from the string table on error */
761     if( tv )
762         tv->ops->delete( tv );
763
764     if (r == ERROR_SUCCESS)
765     {
766         list_add_head( &db->tables, &table->entry );
767         *table_ret = table;
768     }
769     else
770         free_table( table );
771
772     return r;
773 }
774
775 static UINT get_table( MSIDATABASE *db, LPCWSTR name, MSITABLE **table_ret )
776 {
777     MSITABLE *table;
778     UINT r;
779
780     /* first, see if the table is cached */
781     table = find_cached_table( db, name );
782     if( table )
783     {
784         *table_ret = table;
785         return ERROR_SUCCESS;
786     }
787
788     /* nonexistent tables should be interpreted as empty tables */
789     table = msi_alloc( sizeof (MSITABLE) + lstrlenW(name)*sizeof (WCHAR) );
790     if( !table )
791         return ERROR_FUNCTION_FAILED;
792
793     table->row_count = 0;
794     table->data = NULL;
795     table->nonpersistent_row_count = 0;
796     table->nonpersistent_data = NULL;
797     table->colinfo = NULL;
798     table->col_count = 0;
799     table->persistent = TRUE;
800     lstrcpyW( table->name, name );
801
802     /* these two tables are special - we know the column types already */
803     if( !lstrcmpW( name, szColumns ) )
804     {
805         table->colinfo = _Columns_cols;
806         table->col_count = sizeof(_Columns_cols)/sizeof(_Columns_cols[0]);
807     }
808     else if( !lstrcmpW( name, szTables ) )
809     {
810         table->colinfo = _Tables_cols;
811         table->col_count = sizeof(_Tables_cols)/sizeof(_Tables_cols[0]);
812     }
813     else
814     {
815         r = table_get_column_info( db, name, &table->colinfo, &table->col_count);
816         if (r != ERROR_SUCCESS)
817         {
818             free_table ( table );
819             return r;
820         }
821     }
822
823     r = read_table_from_storage( table, db->storage );
824     if( r != ERROR_SUCCESS )
825     {
826         free_table( table );
827         return r;
828     }
829
830     list_add_head( &db->tables, &table->entry );
831     *table_ret = table;
832     return ERROR_SUCCESS;
833 }
834
835 static UINT save_table( MSIDATABASE *db, const MSITABLE *t )
836 {
837     BYTE *rawdata = NULL, *p;
838     UINT rawsize, r, i, j, row_size;
839
840     /* Nothing to do for non-persistent tables */
841     if( !t->persistent )
842         return ERROR_SUCCESS;
843
844     TRACE("Saving %s\n", debugstr_w( t->name ) );
845
846     row_size = msi_table_get_row_size( t->colinfo, t->col_count );
847
848     rawsize = t->row_count * row_size;
849     rawdata = msi_alloc_zero( rawsize );
850     if( !rawdata )
851     {
852         r = ERROR_NOT_ENOUGH_MEMORY;
853         goto err;
854     }
855
856     p = rawdata;
857     for( i=0; i<t->col_count; i++ )
858     {
859         for( j=0; j<t->row_count; j++ )
860         {
861             UINT offset = t->colinfo[i].offset;
862
863             *p++ = t->data[j][offset];
864             *p++ = t->data[j][offset + 1];
865             if( 4 == bytes_per_column( &t->colinfo[i] ) )
866             {
867                 *p++ = t->data[j][offset + 2];
868                 *p++ = t->data[j][offset + 3];
869             }
870         }
871     }
872
873     TRACE("writing %d bytes\n", rawsize);
874     r = write_stream_data( db->storage, t->name, rawdata, rawsize, TRUE );
875
876 err:
877     msi_free( rawdata );
878
879     return r;
880 }
881
882 static void table_calc_column_offsets( MSICOLUMNINFO *colinfo, DWORD count )
883 {
884     DWORD i;
885
886     for( i=0; colinfo && (i<count); i++ )
887     {
888          assert( (i+1) == colinfo[ i ].number );
889          if (i)
890              colinfo[i].offset = colinfo[ i - 1 ].offset
891                                + bytes_per_column( &colinfo[ i - 1 ] );
892          else
893              colinfo[i].offset = 0;
894          TRACE("column %d is [%s] with type %08x ofs %d\n",
895                colinfo[i].number, debugstr_w(colinfo[i].colname),
896                colinfo[i].type, colinfo[i].offset);
897     }
898 }
899
900 static UINT get_defaulttablecolumns( LPCWSTR name, MSICOLUMNINFO *colinfo, UINT *sz)
901 {
902     const MSICOLUMNINFO *p;
903     DWORD i, n;
904
905     TRACE("%s\n", debugstr_w(name));
906
907     if (!lstrcmpW( name, szTables ))
908     {
909         p = _Tables_cols;
910         n = 1;
911     }
912     else if (!lstrcmpW( name, szColumns ))
913     {
914         p = _Columns_cols;
915         n = 4;
916     }
917     else
918         return ERROR_FUNCTION_FAILED;
919
920     /* duplicate the string data so we can free it in msi_free_colinfo */
921     for (i=0; i<n; i++)
922     {
923         if (colinfo && (i < *sz) )
924         {
925             memcpy( &colinfo[i], &p[i], sizeof(MSICOLUMNINFO) );
926             colinfo[i].tablename = strdupW( p[i].tablename );
927             colinfo[i].colname = strdupW( p[i].colname );
928         }
929         if( colinfo && (i >= *sz) )
930             break;
931     }
932     table_calc_column_offsets( colinfo, n );
933     *sz = n;
934     return ERROR_SUCCESS;
935 }
936
937 static void msi_free_colinfo( MSICOLUMNINFO *colinfo, UINT count )
938 {
939     UINT i;
940
941     for( i=0; i<count; i++ )
942     {
943         msi_free( colinfo[i].tablename );
944         msi_free( colinfo[i].colname );
945         msi_free( colinfo[i].hash_table );
946     }
947 }
948
949 static LPWSTR msi_makestring( const MSIDATABASE *db, UINT stringid)
950 {
951     return strdupW(msi_string_lookup_id( db->strings, stringid ));
952 }
953
954 static UINT read_table_int(BYTE *const *data, UINT row, UINT col, UINT bytes)
955 {
956     UINT ret = 0, i;
957
958     for (i = 0; i < bytes; i++)
959         ret += (data[row][col + i] << i * 8);
960
961     return ret;
962 }
963
964 static UINT get_tablecolumns( MSIDATABASE *db,
965        LPCWSTR szTableName, MSICOLUMNINFO *colinfo, UINT *sz)
966 {
967     UINT r, i, n=0, table_id, count, maxcount = *sz;
968     MSITABLE *table = NULL;
969
970     TRACE("%s\n", debugstr_w(szTableName));
971
972     /* first check if there is a default table with that name */
973     r = get_defaulttablecolumns( szTableName, colinfo, sz );
974     if( ( r == ERROR_SUCCESS ) && *sz )
975         return r;
976
977     r = get_table( db, szColumns, &table );
978     if( r != ERROR_SUCCESS )
979     {
980         ERR("couldn't load _Columns table\n");
981         return ERROR_FUNCTION_FAILED;
982     }
983
984     /* convert table and column names to IDs from the string table */
985     r = msi_string2idW( db->strings, szTableName, &table_id );
986     if( r != ERROR_SUCCESS )
987     {
988         WARN("Couldn't find id for %s\n", debugstr_w(szTableName));
989         return r;
990     }
991
992     TRACE("Table id is %d, row count is %d\n", table_id, table->row_count);
993
994     /* Note: _Columns table doesn't have non-persistent data */
995
996     /* if maxcount is non-zero, assume it's exactly right for this table */
997     memset( colinfo, 0, maxcount*sizeof(*colinfo) );
998     count = table->row_count;
999     for( i=0; i<count; i++ )
1000     {
1001         if( read_table_int(table->data, i, 0, db->bytes_per_strref) != table_id )
1002             continue;
1003         if( colinfo )
1004         {
1005             UINT id = read_table_int(table->data, i, _Columns_cols[2].offset, db->bytes_per_strref);
1006             UINT col = read_table_int(table->data, i, _Columns_cols[1].offset, sizeof(USHORT)) - (1<<15);
1007
1008             /* check the column number is in range */
1009             if (col<1 || col>maxcount)
1010             {
1011                 ERR("column %d out of range\n", col);
1012                 continue;
1013             }
1014
1015             /* check if this column was already set */
1016             if (colinfo[ col - 1 ].number)
1017             {
1018                 ERR("duplicate column %d\n", col);
1019                 continue;
1020             }
1021
1022             colinfo[ col - 1 ].tablename = msi_makestring( db, table_id );
1023             colinfo[ col - 1 ].number = col;
1024             colinfo[ col - 1 ].colname = msi_makestring( db, id );
1025             colinfo[ col - 1 ].type = read_table_int(table->data, i, _Columns_cols[3].offset, sizeof(USHORT)) - (1<<15);
1026             colinfo[ col - 1 ].offset = 0;
1027             colinfo[ col - 1 ].ref_count = 0;
1028             colinfo[ col - 1 ].hash_table = NULL;
1029         }
1030         n++;
1031     }
1032
1033     TRACE("%s has %d columns\n", debugstr_w(szTableName), n);
1034
1035     if (colinfo && n != maxcount)
1036     {
1037         ERR("missing column in table %s\n", debugstr_w(szTableName));
1038         msi_free_colinfo(colinfo, maxcount );
1039         return ERROR_FUNCTION_FAILED;
1040     }
1041
1042     table_calc_column_offsets( colinfo, n );
1043     *sz = n;
1044
1045     return ERROR_SUCCESS;
1046 }
1047
1048 static void msi_update_table_columns( MSIDATABASE *db, LPCWSTR name )
1049 {
1050     MSITABLE *table;
1051     UINT size, offset, old_count;
1052     int n;
1053
1054     table = find_cached_table( db, name );
1055     old_count = table->col_count;
1056     msi_free( table->colinfo );
1057     table_get_column_info( db, name, &table->colinfo, &table->col_count );
1058
1059     size = msi_table_get_row_size( table->colinfo, table->col_count );
1060     offset = table->colinfo[table->col_count - 1].offset;
1061
1062     for ( n = 0; n < table->row_count; n++ )
1063     {
1064         table->data[n] = msi_realloc( table->data[n], size );
1065         if (old_count < table->col_count)
1066             memset( &table->data[n][offset], 0, size - offset );
1067     }
1068 }
1069
1070 /* try to find the table name in the _Tables table */
1071 BOOL TABLE_Exists( MSIDATABASE *db, LPCWSTR name )
1072 {
1073     UINT r, table_id = 0, i, count;
1074     MSITABLE *table = NULL;
1075
1076     if( !lstrcmpW( name, szTables ) )
1077         return TRUE;
1078     if( !lstrcmpW( name, szColumns ) )
1079         return TRUE;
1080
1081     r = msi_string2idW( db->strings, name, &table_id );
1082     if( r != ERROR_SUCCESS )
1083     {
1084         TRACE("Couldn't find id for %s\n", debugstr_w(name));
1085         return FALSE;
1086     }
1087
1088     r = get_table( db, szTables, &table );
1089     if( r != ERROR_SUCCESS )
1090     {
1091         ERR("table %s not available\n", debugstr_w(szTables));
1092         return FALSE;
1093     }
1094
1095     count = table->row_count;
1096     for( i=0; i<count; i++ )
1097         if( table->data[ i ][ 0 ] == table_id )
1098             break;
1099
1100     if (i!=count)
1101         return TRUE;
1102
1103     count = table->nonpersistent_row_count;
1104     for( i=0; i<count; i++ )
1105         if( table->nonpersistent_data[ i ][ 0 ] == table_id )
1106             break;
1107
1108     if (i!=count)
1109         return TRUE;
1110
1111     TRACE("Searched %d tables, but %d was not found\n", count, table_id );
1112
1113     return FALSE;
1114 }
1115
1116 /* below is the query interface to a table */
1117
1118 typedef struct tagMSITABLEVIEW
1119 {
1120     MSIVIEW        view;
1121     MSIDATABASE   *db;
1122     MSITABLE      *table;
1123     MSICOLUMNINFO *columns;
1124     MSIORDERINFO  *order;
1125     UINT           num_cols;
1126     UINT           row_size;
1127     WCHAR          name[1];
1128 } MSITABLEVIEW;
1129
1130 static UINT TABLE_fetch_int( struct tagMSIVIEW *view, UINT row, UINT col, UINT *val )
1131 {
1132     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1133     UINT offset, n;
1134     BYTE **data;
1135
1136     if( !tv->table )
1137         return ERROR_INVALID_PARAMETER;
1138
1139     if( (col==0) || (col>tv->num_cols) )
1140         return ERROR_INVALID_PARAMETER;
1141
1142     /* how many rows are there ? */
1143     if( row >= tv->table->row_count + tv->table->nonpersistent_row_count )
1144         return ERROR_NO_MORE_ITEMS;
1145
1146     if( tv->columns[col-1].offset >= tv->row_size )
1147     {
1148         ERR("Stuffed up %d >= %d\n", tv->columns[col-1].offset, tv->row_size );
1149         ERR("%p %p\n", tv, tv->columns );
1150         return ERROR_FUNCTION_FAILED;
1151     }
1152
1153     if (tv->order)
1154         row = tv->order->reorder[row];
1155
1156     if (row >= tv->table->row_count)
1157     {
1158         row -= tv->table->row_count;
1159         data = tv->table->nonpersistent_data;
1160     }
1161     else
1162         data = tv->table->data;
1163
1164     n = bytes_per_column( &tv->columns[col-1] );
1165     if (n != 2 && n != 3 && n != 4)
1166     {
1167         ERR("oops! what is %d bytes per column?\n", n );
1168         return ERROR_FUNCTION_FAILED;
1169     }
1170
1171     offset = tv->columns[col-1].offset;
1172     *val = read_table_int(data, row, offset, n);
1173
1174     /* TRACE("Data [%d][%d] = %d\n", row, col, *val ); */
1175
1176     return ERROR_SUCCESS;
1177 }
1178
1179 /*
1180  * We need a special case for streams, as we need to reference column with
1181  * the name of the stream in the same table, and the table name
1182  * which may not be available at higher levels of the query
1183  */
1184 static UINT TABLE_fetch_stream( struct tagMSIVIEW *view, UINT row, UINT col, IStream **stm )
1185 {
1186     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1187     UINT ival = 0, refcol = 0, r;
1188     LPCWSTR sval;
1189     LPWSTR full_name;
1190     DWORD len;
1191     static const WCHAR szDot[] = { '.', 0 };
1192     WCHAR number[0x20];
1193
1194     if( !view->ops->fetch_int )
1195         return ERROR_INVALID_PARAMETER;
1196
1197     /*
1198      * The column marked with the type stream data seems to have a single number
1199      * which references the column containing the name of the stream data
1200      *
1201      * Fetch the column to reference first.
1202      */
1203     r = view->ops->fetch_int( view, row, col, &ival );
1204     if( r != ERROR_SUCCESS )
1205         return r;
1206
1207     /* check the column value is in range */
1208     if (ival < 0 || ival > tv->num_cols || ival == col)
1209     {
1210         ERR("bad column ref (%u) for stream\n", ival);
1211         return ERROR_FUNCTION_FAILED;
1212     }
1213
1214     if ( tv->columns[ival - 1].type & MSITYPE_STRING )
1215     {
1216         /* now get the column with the name of the stream */
1217         r = view->ops->fetch_int( view, row, ival, &refcol );
1218         if ( r != ERROR_SUCCESS )
1219             return r;
1220
1221         /* lookup the string value from the string table */
1222         sval = msi_string_lookup_id( tv->db->strings, refcol );
1223         if ( !sval )
1224             return ERROR_INVALID_PARAMETER;
1225     }
1226     else
1227     {
1228         static const WCHAR fmt[] = { '%','d',0 };
1229         sprintfW( number, fmt, ival );
1230         sval = number;
1231     }
1232
1233     len = lstrlenW( tv->name ) + 2 + lstrlenW( sval );
1234     full_name = msi_alloc( len*sizeof(WCHAR) );
1235     lstrcpyW( full_name, tv->name );
1236     lstrcatW( full_name, szDot );
1237     lstrcatW( full_name, sval );
1238
1239     r = db_get_raw_stream( tv->db, full_name, stm );
1240     if( r )
1241         ERR("fetching stream %s, error = %d\n",debugstr_w(full_name), r);
1242     msi_free( full_name );
1243
1244     return r;
1245 }
1246
1247 static UINT TABLE_set_int( MSITABLEVIEW *tv, UINT row, UINT col, UINT val )
1248 {
1249     UINT offset, n, i;
1250     BYTE **data;
1251
1252     if( !tv->table )
1253         return ERROR_INVALID_PARAMETER;
1254
1255     if( (col==0) || (col>tv->num_cols) )
1256         return ERROR_INVALID_PARAMETER;
1257
1258     if( row >= tv->table->row_count + tv->table->nonpersistent_row_count )
1259         return ERROR_INVALID_PARAMETER;
1260
1261     if( tv->columns[col-1].offset >= tv->row_size )
1262     {
1263         ERR("Stuffed up %d >= %d\n", tv->columns[col-1].offset, tv->row_size );
1264         ERR("%p %p\n", tv, tv->columns );
1265         return ERROR_FUNCTION_FAILED;
1266     }
1267
1268     msi_free( tv->columns[col-1].hash_table );
1269     tv->columns[col-1].hash_table = NULL;
1270
1271     if (row >= tv->table->row_count)
1272     {
1273         row -= tv->table->row_count;
1274         data = tv->table->nonpersistent_data;
1275     }
1276     else
1277         data = tv->table->data;
1278
1279     n = bytes_per_column( &tv->columns[col-1] );
1280     if ( n != 2 && n != 3 && n != 4 )
1281     {
1282         ERR("oops! what is %d bytes per column?\n", n );
1283         return ERROR_FUNCTION_FAILED;
1284     }
1285
1286     offset = tv->columns[col-1].offset;
1287     for ( i = 0; i < n; i++ )
1288         data[row][offset + i] = (val >> i * 8) & 0xff;
1289
1290     return ERROR_SUCCESS;
1291 }
1292
1293 static UINT TABLE_get_row( struct tagMSIVIEW *view, UINT row, MSIRECORD **rec )
1294 {
1295     MSITABLEVIEW *tv = (MSITABLEVIEW *)view;
1296
1297     if (!tv->table)
1298         return ERROR_INVALID_PARAMETER;
1299
1300     if (tv->order)
1301         row = tv->order->reorder[row];
1302
1303     return msi_view_get_row(tv->db, view, row, rec);
1304 }
1305
1306 static UINT TABLE_set_row( struct tagMSIVIEW *view, UINT row, MSIRECORD *rec, UINT mask )
1307 {
1308     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1309     UINT i, val, r = ERROR_SUCCESS;
1310
1311     if ( !tv->table )
1312         return ERROR_INVALID_PARAMETER;
1313
1314     /* test if any of the mask bits are invalid */
1315     if ( mask >= (1<<tv->num_cols) )
1316         return ERROR_INVALID_PARAMETER;
1317
1318     for ( i = 0; i < tv->num_cols; i++ )
1319     {
1320         BOOL persistent;
1321
1322         /* only update the fields specified in the mask */
1323         if ( !(mask&(1<<i)) )
1324             continue;
1325
1326         /* if row >= tv->table->row_count then it is a non-persistent row */
1327         persistent = tv->table->persistent && (row < tv->table->row_count);
1328         /* FIXME: should we allow updating keys? */
1329
1330         val = 0;
1331         if ( !MSI_RecordIsNull( rec, i + 1 ) )
1332         {
1333             if ( MSITYPE_IS_BINARY(tv->columns[ i ].type) )
1334             {
1335                 val = 1; /* refers to the first key column */
1336             }
1337             else if ( tv->columns[i].type & MSITYPE_STRING )
1338             {
1339                 LPCWSTR sval = MSI_RecordGetString( rec, i + 1 );
1340                 UINT ival, x;
1341
1342                 r = msi_string2idW(tv->db->strings, sval, &ival);
1343                 if (r == ERROR_SUCCESS)
1344                 {
1345                     TABLE_fetch_int(&tv->view, row, i + 1, &x);
1346                     if (ival == x)
1347                         continue;
1348                 }
1349
1350                 val = msi_addstringW( tv->db->strings, 0, sval, -1, 1,
1351                                       persistent ? StringPersistent : StringNonPersistent );
1352             }
1353             else if ( 2 == bytes_per_column( &tv->columns[ i ] ) )
1354             {
1355                 val = 0x8000 + MSI_RecordGetInteger( rec, i + 1 );
1356                 if ( val & 0xffff0000 )
1357                 {
1358                     ERR("field %u value %d out of range\n", i+1, val - 0x8000 );
1359                     return ERROR_FUNCTION_FAILED;
1360                 }
1361             }
1362             else
1363             {
1364                 INT ival = MSI_RecordGetInteger( rec, i + 1 );
1365                 val = ival ^ 0x80000000;
1366             }
1367         }
1368
1369         r = TABLE_set_int( tv, row, i+1, val );
1370         if ( r != ERROR_SUCCESS )
1371             break;
1372     }
1373     return r;
1374 }
1375
1376 static UINT table_create_new_row( struct tagMSIVIEW *view, UINT *num, BOOL temporary )
1377 {
1378     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1379     BYTE **p, *row;
1380     UINT sz;
1381     BYTE ***data_ptr;
1382     UINT *row_count;
1383
1384     TRACE("%p %s\n", view, temporary ? "TRUE" : "FALSE");
1385
1386     if( !tv->table )
1387         return ERROR_INVALID_PARAMETER;
1388
1389     row = msi_alloc_zero( tv->row_size );
1390     if( !row )
1391         return ERROR_NOT_ENOUGH_MEMORY;
1392
1393     if( temporary )
1394     {
1395         row_count = &tv->table->nonpersistent_row_count;
1396         data_ptr = &tv->table->nonpersistent_data;
1397         *num = tv->table->row_count + tv->table->nonpersistent_row_count;
1398     }
1399     else
1400     {
1401         row_count = &tv->table->row_count;
1402         data_ptr = &tv->table->data;
1403         *num = tv->table->row_count;
1404     }
1405
1406     sz = (*row_count + 1) * sizeof (BYTE*);
1407     if( *data_ptr )
1408         p = msi_realloc( *data_ptr, sz );
1409     else
1410         p = msi_alloc( sz );
1411     if( !p )
1412     {
1413         msi_free( row );
1414         return ERROR_NOT_ENOUGH_MEMORY;
1415     }
1416
1417     *data_ptr = p;
1418     (*data_ptr)[*row_count] = row;
1419     (*row_count)++;
1420
1421     return ERROR_SUCCESS;
1422 }
1423
1424 static UINT TABLE_execute( struct tagMSIVIEW *view, MSIRECORD *record )
1425 {
1426     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1427
1428     TRACE("%p %p\n", tv, record);
1429
1430     TRACE("There are %d columns\n", tv->num_cols );
1431
1432     return ERROR_SUCCESS;
1433 }
1434
1435 static UINT TABLE_close( struct tagMSIVIEW *view )
1436 {
1437     TRACE("%p\n", view );
1438     
1439     return ERROR_SUCCESS;
1440 }
1441
1442 static UINT TABLE_get_dimensions( struct tagMSIVIEW *view, UINT *rows, UINT *cols)
1443 {
1444     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1445
1446     TRACE("%p %p %p\n", view, rows, cols );
1447
1448     if( cols )
1449         *cols = tv->num_cols;
1450     if( rows )
1451     {
1452         if( !tv->table )
1453             return ERROR_INVALID_PARAMETER;
1454         *rows = tv->table->row_count + tv->table->nonpersistent_row_count;
1455     }
1456
1457     return ERROR_SUCCESS;
1458 }
1459
1460 static UINT TABLE_get_column_info( struct tagMSIVIEW *view,
1461                 UINT n, LPWSTR *name, UINT *type )
1462 {
1463     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1464
1465     TRACE("%p %d %p %p\n", tv, n, name, type );
1466
1467     if( ( n == 0 ) || ( n > tv->num_cols ) )
1468         return ERROR_INVALID_PARAMETER;
1469
1470     if( name )
1471     {
1472         *name = strdupW( tv->columns[n-1].colname );
1473         if( !*name )
1474             return ERROR_FUNCTION_FAILED;
1475     }
1476     if( type )
1477         *type = tv->columns[n-1].type;
1478
1479     return ERROR_SUCCESS;
1480 }
1481
1482 static UINT msi_table_find_row( MSITABLEVIEW *tv, MSIRECORD *rec, UINT *row );
1483
1484 static UINT table_validate_new( MSITABLEVIEW *tv, MSIRECORD *rec )
1485 {
1486     UINT r, row, i;
1487
1488     /* check there's no null values where they're not allowed */
1489     for( i = 0; i < tv->num_cols; i++ )
1490     {
1491         if ( tv->columns[i].type & MSITYPE_NULLABLE )
1492             continue;
1493
1494         if ( MSITYPE_IS_BINARY(tv->columns[i].type) )
1495             TRACE("skipping binary column\n");
1496         else if ( tv->columns[i].type & MSITYPE_STRING )
1497         {
1498             LPCWSTR str;
1499
1500             str = MSI_RecordGetString( rec, i+1 );
1501             if (str == NULL || str[0] == 0)
1502                 return ERROR_INVALID_DATA;
1503         }
1504         else
1505         {
1506             UINT n;
1507
1508             n = MSI_RecordGetInteger( rec, i+1 );
1509             if (n == MSI_NULL_INTEGER)
1510                 return ERROR_INVALID_DATA;
1511         }
1512     }
1513
1514     /* check there's no duplicate keys */
1515     r = msi_table_find_row( tv, rec, &row );
1516     if (r == ERROR_SUCCESS)
1517         return ERROR_FUNCTION_FAILED;
1518
1519     return ERROR_SUCCESS;
1520 }
1521
1522 static UINT TABLE_insert_row( struct tagMSIVIEW *view, MSIRECORD *rec, BOOL temporary )
1523 {
1524     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1525     UINT r, row = -1;
1526
1527     TRACE("%p %p %s\n", tv, rec, temporary ? "TRUE" : "FALSE" );
1528
1529     /* check that the key is unique - can we find a matching row? */
1530     r = table_validate_new( tv, rec );
1531     if( r != ERROR_SUCCESS )
1532         return ERROR_FUNCTION_FAILED;
1533
1534     r = table_create_new_row( view, &row, temporary );
1535     TRACE("insert_row returned %08x\n", r);
1536     if( r != ERROR_SUCCESS )
1537         return r;
1538
1539     return TABLE_set_row( view, row, rec, (1<<tv->num_cols) - 1 );
1540 }
1541
1542 static UINT TABLE_delete_row( struct tagMSIVIEW *view, UINT row )
1543 {
1544     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1545     UINT r, num_rows, num_cols, i;
1546     BYTE **data;
1547
1548     TRACE("%p %d\n", tv, row);
1549
1550     if ( !tv->table )
1551         return ERROR_INVALID_PARAMETER;
1552
1553     r = TABLE_get_dimensions( view, &num_rows, &num_cols );
1554     if ( r != ERROR_SUCCESS )
1555         return r;
1556
1557     if ( row >= num_rows )
1558         return ERROR_FUNCTION_FAILED;
1559
1560     if ( row < tv->table->row_count )
1561     {
1562         num_rows = tv->table->row_count;
1563         tv->table->row_count--;
1564         data = tv->table->data;
1565     }
1566     else
1567     {
1568         num_rows = tv->table->nonpersistent_row_count;
1569         row -= tv->table->row_count;
1570         tv->table->nonpersistent_row_count--;
1571         data = tv->table->nonpersistent_data;
1572     }
1573
1574     if ( row == num_rows - 1 )
1575         return ERROR_SUCCESS;
1576
1577     for (i = row + 1; i < num_rows; i++)
1578         memcpy(data[i - 1], data[i], tv->row_size);
1579
1580     return ERROR_SUCCESS;
1581 }
1582
1583 static UINT msi_table_update(struct tagMSIVIEW *view, MSIRECORD *rec, UINT row)
1584 {
1585     MSITABLEVIEW *tv = (MSITABLEVIEW *)view;
1586     UINT r, new_row;
1587
1588     /* FIXME: MsiViewFetch should set rec index 0 to some ID that
1589      * sets the fetched record apart from other records
1590      */
1591
1592     if (!tv->table)
1593         return ERROR_INVALID_PARAMETER;
1594
1595     r = msi_table_find_row(tv, rec, &new_row);
1596     if (r != ERROR_SUCCESS)
1597     {
1598         ERR("can't find row to modify\n");
1599         return ERROR_FUNCTION_FAILED;
1600     }
1601
1602     /* the row cannot be changed */
1603     if (row != new_row + 1)
1604         return ERROR_FUNCTION_FAILED;
1605
1606     return TABLE_set_row(view, new_row, rec, (1 << tv->num_cols) - 1);
1607 }
1608
1609 static UINT modify_delete_row( struct tagMSIVIEW *view, MSIRECORD *rec )
1610 {
1611     MSITABLEVIEW *tv = (MSITABLEVIEW *)view;
1612     UINT row, r;
1613
1614     r = msi_table_find_row(tv, rec, &row);
1615     if (r != ERROR_SUCCESS)
1616         return r;
1617
1618     return TABLE_delete_row(view, row);
1619 }
1620
1621 static UINT TABLE_modify( struct tagMSIVIEW *view, MSIMODIFY eModifyMode,
1622                           MSIRECORD *rec, UINT row)
1623 {
1624     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1625     UINT r;
1626
1627     TRACE("%p %d %p\n", view, eModifyMode, rec );
1628
1629     switch (eModifyMode)
1630     {
1631     case MSIMODIFY_DELETE:
1632         r = modify_delete_row( view, rec );
1633         break;
1634     case MSIMODIFY_VALIDATE_NEW:
1635         r = table_validate_new( tv, rec );
1636         break;
1637
1638     case MSIMODIFY_INSERT:
1639         r = table_validate_new( tv, rec );
1640         if (r != ERROR_SUCCESS)
1641             break;
1642         r = TABLE_insert_row( view, rec, FALSE );
1643         break;
1644
1645     case MSIMODIFY_INSERT_TEMPORARY:
1646         r = table_validate_new( tv, rec );
1647         if (r != ERROR_SUCCESS)
1648             break;
1649         r = TABLE_insert_row( view, rec, TRUE );
1650         break;
1651
1652     case MSIMODIFY_UPDATE:
1653         r = msi_table_update( view, rec, row );
1654         break;
1655
1656     case MSIMODIFY_REFRESH:
1657     case MSIMODIFY_ASSIGN:
1658     case MSIMODIFY_REPLACE:
1659     case MSIMODIFY_MERGE:
1660     case MSIMODIFY_VALIDATE:
1661     case MSIMODIFY_VALIDATE_FIELD:
1662     case MSIMODIFY_VALIDATE_DELETE:
1663         FIXME("%p %d %p - mode not implemented\n", view, eModifyMode, rec );
1664         r = ERROR_CALL_NOT_IMPLEMENTED;
1665         break;
1666
1667     default:
1668         r = ERROR_INVALID_DATA;
1669     }
1670
1671     return r;
1672 }
1673
1674 static UINT TABLE_delete( struct tagMSIVIEW *view )
1675 {
1676     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1677
1678     TRACE("%p\n", view );
1679
1680     tv->table = NULL;
1681     tv->columns = NULL;
1682
1683     if (tv->order)
1684     {
1685         msi_free( tv->order->reorder );
1686         msi_free( tv->order );
1687         tv->order = NULL;
1688     }
1689
1690     msi_free( tv );
1691
1692     return ERROR_SUCCESS;
1693 }
1694
1695 static UINT TABLE_find_matching_rows( struct tagMSIVIEW *view, UINT col,
1696     UINT val, UINT *row, MSIITERHANDLE *handle )
1697 {
1698     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1699     const MSICOLUMNHASHENTRY *entry;
1700
1701     TRACE("%p, %d, %u, %p\n", view, col, val, *handle);
1702
1703     if( !tv->table )
1704         return ERROR_INVALID_PARAMETER;
1705
1706     if( (col==0) || (col > tv->num_cols) )
1707         return ERROR_INVALID_PARAMETER;
1708
1709     if( !tv->columns[col-1].hash_table )
1710     {
1711         UINT i;
1712         UINT num_rows = tv->table->row_count + tv->table->nonpersistent_row_count;
1713         MSICOLUMNHASHENTRY **hash_table;
1714         MSICOLUMNHASHENTRY *new_entry;
1715
1716         if( tv->columns[col-1].offset >= tv->row_size )
1717         {
1718             ERR("Stuffed up %d >= %d\n", tv->columns[col-1].offset, tv->row_size );
1719             ERR("%p %p\n", tv, tv->columns );
1720             return ERROR_FUNCTION_FAILED;
1721         }
1722
1723         /* allocate contiguous memory for the table and its entries so we
1724          * don't have to do an expensive cleanup */
1725         hash_table = msi_alloc(MSITABLE_HASH_TABLE_SIZE * sizeof(MSICOLUMNHASHENTRY*) +
1726             num_rows * sizeof(MSICOLUMNHASHENTRY));
1727         if (!hash_table)
1728             return ERROR_OUTOFMEMORY;
1729
1730         memset(hash_table, 0, MSITABLE_HASH_TABLE_SIZE * sizeof(MSICOLUMNHASHENTRY*));
1731         tv->columns[col-1].hash_table = hash_table;
1732
1733         new_entry = (MSICOLUMNHASHENTRY *)(hash_table + MSITABLE_HASH_TABLE_SIZE);
1734
1735         for (i = 0; i < num_rows; i++, new_entry++)
1736         {
1737             UINT row_value;
1738
1739             if (view->ops->fetch_int( view, i, col, &row_value ) != ERROR_SUCCESS)
1740                 continue;
1741
1742             new_entry->next = NULL;
1743             new_entry->value = row_value;
1744             new_entry->row = i;
1745             if (hash_table[row_value % MSITABLE_HASH_TABLE_SIZE])
1746             {
1747                 MSICOLUMNHASHENTRY *prev_entry = hash_table[row_value % MSITABLE_HASH_TABLE_SIZE];
1748                 while (prev_entry->next)
1749                     prev_entry = prev_entry->next;
1750                 prev_entry->next = new_entry;
1751             }
1752             else
1753                 hash_table[row_value % MSITABLE_HASH_TABLE_SIZE] = new_entry;
1754         }
1755     }
1756
1757     if( !*handle )
1758         entry = tv->columns[col-1].hash_table[val % MSITABLE_HASH_TABLE_SIZE];
1759     else
1760         entry = (*handle)->next;
1761
1762     while (entry && entry->value != val)
1763         entry = entry->next;
1764
1765     *handle = entry;
1766     if (!entry)
1767         return ERROR_NO_MORE_ITEMS;
1768
1769     *row = entry->row;
1770
1771     if (tv->order)
1772         *row = tv->order->reorder[*row];
1773
1774     return ERROR_SUCCESS;
1775 }
1776
1777 static UINT TABLE_add_ref(struct tagMSIVIEW *view)
1778 {
1779     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1780     int i;
1781
1782     TRACE("%p %d\n", view, tv->table->ref_count);
1783
1784     for (i = 0; i < tv->table->col_count; i++)
1785     {
1786         if (tv->table->colinfo[i].type & MSITYPE_TEMPORARY)
1787             InterlockedIncrement(&tv->table->colinfo[i].ref_count);
1788     }
1789
1790     return InterlockedIncrement(&tv->table->ref_count);
1791 }
1792
1793 static UINT TABLE_remove_column(struct tagMSIVIEW *view, LPCWSTR table, UINT number)
1794 {
1795     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1796     MSIRECORD *rec = NULL;
1797     MSIVIEW *columns = NULL;
1798     UINT row, r;
1799
1800     rec = MSI_CreateRecord(2);
1801     if (!rec)
1802         return ERROR_OUTOFMEMORY;
1803
1804     MSI_RecordSetStringW(rec, 1, table);
1805     MSI_RecordSetInteger(rec, 2, number);
1806
1807     r = TABLE_CreateView(tv->db, szColumns, &columns);
1808     if (r != ERROR_SUCCESS)
1809         return r;
1810
1811     r = msi_table_find_row((MSITABLEVIEW *)columns, rec, &row);
1812     if (r != ERROR_SUCCESS)
1813         goto done;
1814
1815     r = TABLE_delete_row(columns, row);
1816     if (r != ERROR_SUCCESS)
1817         goto done;
1818
1819     msi_update_table_columns(tv->db, table);
1820
1821 done:
1822     msiobj_release(&rec->hdr);
1823     if (columns) columns->ops->delete(columns);
1824     return r;
1825 }
1826
1827 static UINT TABLE_release(struct tagMSIVIEW *view)
1828 {
1829     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1830     INT ref = tv->table->ref_count;
1831     int i;
1832     UINT r;
1833
1834     TRACE("%p %d\n", view, ref);
1835
1836     for (i = 0; i < tv->table->col_count; i++)
1837     {
1838         if (tv->table->colinfo[i].type & MSITYPE_TEMPORARY)
1839         {
1840             ref = InterlockedDecrement(&tv->table->colinfo[i].ref_count);
1841             if (ref == 0)
1842             {
1843                 r = TABLE_remove_column(view, tv->table->colinfo[i].tablename,
1844                                         tv->table->colinfo[i].number);
1845                 if (r != ERROR_SUCCESS)
1846                     break;
1847             }
1848         }
1849     }
1850
1851     ref = InterlockedDecrement(&tv->table->ref_count);
1852     if (ref == 0)
1853     {
1854         if (!tv->table->row_count)
1855         {
1856             list_remove(&tv->table->entry);
1857             free_table(tv->table);
1858             TABLE_delete(view);
1859         }
1860     }
1861
1862     return ref;
1863 }
1864
1865 static UINT TABLE_add_column(struct tagMSIVIEW *view, LPCWSTR table, UINT number,
1866                              LPCWSTR column, UINT type, BOOL hold)
1867 {
1868     MSITABLEVIEW *tv = (MSITABLEVIEW*)view;
1869     MSITABLE *msitable;
1870     MSIRECORD *rec;
1871     UINT r, i;
1872
1873     rec = MSI_CreateRecord(4);
1874     if (!rec)
1875         return ERROR_OUTOFMEMORY;
1876
1877     MSI_RecordSetStringW(rec, 1, table);
1878     MSI_RecordSetInteger(rec, 2, number);
1879     MSI_RecordSetStringW(rec, 3, column);
1880     MSI_RecordSetInteger(rec, 4, type);
1881
1882     r = TABLE_insert_row(&tv->view, rec, FALSE);
1883     if (r != ERROR_SUCCESS)
1884         goto done;
1885
1886     msi_update_table_columns(tv->db, table);
1887
1888     if (!hold)
1889         goto done;
1890
1891     msitable = find_cached_table(tv->db, table);
1892     for (i = 0; i < msitable->col_count; i++)
1893     {
1894         if (!lstrcmpW(msitable->colinfo[i].colname, column))
1895         {
1896             InterlockedIncrement(&msitable->colinfo[i].ref_count);
1897             break;
1898         }
1899     }
1900
1901 done:
1902     msiobj_release(&rec->hdr);
1903     return r;
1904 }
1905
1906 static UINT order_add_column(struct tagMSIVIEW *view, MSIORDERINFO *order, LPCWSTR name)
1907 {
1908     UINT n, r, count;
1909
1910     r = TABLE_get_dimensions(view, NULL, &count);
1911     if (r != ERROR_SUCCESS)
1912         return r;
1913
1914     if (order->num_cols >= count)
1915         return ERROR_FUNCTION_FAILED;
1916
1917     r = VIEW_find_column(view, name, &n);
1918     if (r != ERROR_SUCCESS)
1919         return r;
1920
1921     order->cols[order->num_cols] = n;
1922     TRACE("Ordering by column %s (%d)\n", debugstr_w(name), n);
1923
1924     order->num_cols++;
1925
1926     return ERROR_SUCCESS;
1927 }
1928
1929 static UINT order_compare(struct tagMSIVIEW *view, MSIORDERINFO *order,
1930                           UINT a, UINT b, UINT *swap)
1931 {
1932     UINT r, i, a_val = 0, b_val = 0;
1933
1934     *swap = 0;
1935     for (i = 0; i < order->num_cols; i++)
1936     {
1937         r = TABLE_fetch_int(view, a, order->cols[i], &a_val);
1938         if (r != ERROR_SUCCESS)
1939             return r;
1940
1941         r = TABLE_fetch_int(view, b, order->cols[i], &b_val);
1942         if (r != ERROR_SUCCESS)
1943             return r;
1944
1945         if (a_val != b_val)
1946         {
1947             if (a_val > b_val)
1948                 *swap = 1;
1949             break;
1950         }
1951     }
1952
1953     return ERROR_SUCCESS;
1954 }
1955
1956 static UINT order_mergesort(struct tagMSIVIEW *view, MSIORDERINFO *order,
1957                             UINT left, UINT right)
1958 {
1959     UINT r, i, j, temp;
1960     UINT swap = 0, center = (left + right) / 2;
1961     UINT *array = order->reorder;
1962
1963     if (left == right)
1964         return ERROR_SUCCESS;
1965
1966     /* sort the left half */
1967     r = order_mergesort(view, order, left, center);
1968     if (r != ERROR_SUCCESS)
1969         return r;
1970
1971     /* sort the right half */
1972     r = order_mergesort(view, order, center + 1, right);
1973     if (r != ERROR_SUCCESS)
1974         return r;
1975
1976     for (i = left, j = center + 1; (i <= center) && (j <= right); i++)
1977     {
1978         r = order_compare(view, order, array[i], array[j], &swap);
1979         if (r != ERROR_SUCCESS)
1980             return r;
1981
1982         if (swap)
1983         {
1984             temp = array[j];
1985             memmove(&array[i + 1], &array[i], (j - i) * sizeof(UINT));
1986             array[i] = temp;
1987             j++;
1988             center++;
1989         }
1990     }
1991
1992     return ERROR_SUCCESS;
1993 }
1994
1995 static UINT order_verify(struct tagMSIVIEW *view, MSIORDERINFO *order, UINT num_rows)
1996 {
1997     UINT i, swap, r;
1998
1999     for (i = 1; i < num_rows; i++)
2000     {
2001         r = order_compare(view, order, order->reorder[i - 1],
2002                           order->reorder[i], &swap);
2003         if (r != ERROR_SUCCESS)
2004             return r;
2005
2006         if (!swap)
2007             continue;
2008
2009         ERR("Bad order! %d\n", i);
2010         return ERROR_FUNCTION_FAILED;
2011     }
2012
2013     return ERROR_SUCCESS;
2014 }
2015
2016 static UINT TABLE_sort(struct tagMSIVIEW *view, column_info *columns)
2017 {
2018     MSITABLEVIEW *tv = (MSITABLEVIEW *)view;
2019     MSIORDERINFO *order;
2020     column_info *ptr;
2021     UINT r, i;
2022     UINT rows, cols;
2023
2024     TRACE("sorting table %s\n", debugstr_w(tv->name));
2025
2026     r = TABLE_get_dimensions(view, &rows, &cols);
2027     if (r != ERROR_SUCCESS)
2028         return r;
2029
2030     order = msi_alloc_zero(sizeof(MSIORDERINFO) + sizeof(UINT) * cols);
2031     if (!order)
2032         return ERROR_OUTOFMEMORY;
2033
2034     for (ptr = columns; ptr; ptr = ptr->next)
2035         order_add_column(view, order, ptr->column);
2036
2037     order->reorder = msi_alloc(rows * sizeof(UINT));
2038     if (!order->reorder)
2039         return ERROR_OUTOFMEMORY;
2040
2041     for (i = 0; i < rows; i++)
2042         order->reorder[i] = i;
2043
2044     r = order_mergesort(view, order, 0, rows - 1);
2045     if (r != ERROR_SUCCESS)
2046         return r;
2047
2048     r = order_verify(view, order, rows);
2049     if (r != ERROR_SUCCESS)
2050         return r;
2051
2052     tv->order = order;
2053
2054     return ERROR_SUCCESS;
2055 }
2056
2057 static const MSIVIEWOPS table_ops =
2058 {
2059     TABLE_fetch_int,
2060     TABLE_fetch_stream,
2061     TABLE_get_row,
2062     TABLE_set_row,
2063     TABLE_insert_row,
2064     TABLE_delete_row,
2065     TABLE_execute,
2066     TABLE_close,
2067     TABLE_get_dimensions,
2068     TABLE_get_column_info,
2069     TABLE_modify,
2070     TABLE_delete,
2071     TABLE_find_matching_rows,
2072     TABLE_add_ref,
2073     TABLE_release,
2074     TABLE_add_column,
2075     TABLE_remove_column,
2076     TABLE_sort,
2077 };
2078
2079 UINT TABLE_CreateView( MSIDATABASE *db, LPCWSTR name, MSIVIEW **view )
2080 {
2081     MSITABLEVIEW *tv ;
2082     UINT r, sz;
2083
2084     static const WCHAR Streams[] = {'_','S','t','r','e','a','m','s',0};
2085
2086     TRACE("%p %s %p\n", db, debugstr_w(name), view );
2087
2088     if ( !lstrcmpW( name, Streams ) )
2089         return STREAMS_CreateView( db, view );
2090
2091     sz = sizeof *tv + lstrlenW(name)*sizeof name[0] ;
2092     tv = msi_alloc_zero( sz );
2093     if( !tv )
2094         return ERROR_FUNCTION_FAILED;
2095
2096     r = get_table( db, name, &tv->table );
2097     if( r != ERROR_SUCCESS )
2098     {
2099         msi_free( tv );
2100         WARN("table not found\n");
2101         return r;
2102     }
2103
2104     TRACE("table %p found with %d columns\n", tv->table, tv->table->col_count);
2105
2106     /* fill the structure */
2107     tv->view.ops = &table_ops;
2108     tv->db = db;
2109     tv->columns = tv->table->colinfo;
2110     tv->num_cols = tv->table->col_count;
2111     tv->row_size = msi_table_get_row_size( tv->table->colinfo, tv->table->col_count );
2112
2113     TRACE("%s one row is %d bytes\n", debugstr_w(name), tv->row_size );
2114
2115     *view = (MSIVIEW*) tv;
2116     lstrcpyW( tv->name, name );
2117
2118     return ERROR_SUCCESS;
2119 }
2120
2121 UINT MSI_CommitTables( MSIDATABASE *db )
2122 {
2123     UINT r;
2124     MSITABLE *table = NULL;
2125
2126     TRACE("%p\n",db);
2127
2128     r = msi_save_string_table( db->strings, db->storage );
2129     if( r != ERROR_SUCCESS )
2130     {
2131         WARN("failed to save string table r=%08x\n",r);
2132         return r;
2133     }
2134
2135     LIST_FOR_EACH_ENTRY( table, &db->tables, MSITABLE, entry )
2136     {
2137         r = save_table( db, table );
2138         if( r != ERROR_SUCCESS )
2139         {
2140             WARN("failed to save table %s (r=%08x)\n",
2141                   debugstr_w(table->name), r);
2142             return r;
2143         }
2144     }
2145
2146     /* force everything to reload next time */
2147     free_cached_tables( db );
2148
2149     return ERROR_SUCCESS;
2150 }
2151
2152 MSICONDITION MSI_DatabaseIsTablePersistent( MSIDATABASE *db, LPCWSTR table )
2153 {
2154     MSITABLE *t;
2155     UINT r;
2156
2157     TRACE("%p %s\n", db, debugstr_w(table));
2158
2159     if (!table)
2160         return MSICONDITION_ERROR;
2161
2162     r = get_table( db, table, &t );
2163     if (r != ERROR_SUCCESS)
2164         return MSICONDITION_NONE;
2165
2166     if (t->persistent)
2167         return MSICONDITION_TRUE;
2168     else
2169         return MSICONDITION_FALSE;
2170 }
2171
2172 static UINT read_raw_int(const BYTE *data, UINT col, UINT bytes)
2173 {
2174     UINT ret = 0, i;
2175
2176     for (i = 0; i < bytes; i++)
2177         ret += (data[col + i] << i * 8);
2178
2179     return ret;
2180 }
2181
2182 static MSIRECORD *msi_get_transform_record( const MSITABLEVIEW *tv, const string_table *st,
2183                                             const BYTE *rawdata, UINT bytes_per_strref )
2184 {
2185     UINT i, val, ofs = 0;
2186     USHORT mask;
2187     MSICOLUMNINFO *columns = tv->columns;
2188     MSIRECORD *rec;
2189
2190     mask = rawdata[0] | (rawdata[1] << 8);
2191     rawdata += 2;
2192
2193     rec = MSI_CreateRecord( tv->num_cols );
2194     if( !rec )
2195         return rec;
2196
2197     TRACE("row ->\n");
2198     for( i=0; i<tv->num_cols; i++ )
2199     {
2200         if ( (mask&1) && (i>=(mask>>8)) )
2201             break;
2202         /* all keys must be present */
2203         if ( (~mask&1) && (~columns[i].type & MSITYPE_KEY) && ((1<<i) & ~mask) )
2204             continue;
2205
2206         if( (columns[i].type & MSITYPE_STRING) &&
2207             ! MSITYPE_IS_BINARY(tv->columns[i].type) )
2208         {
2209             LPCWSTR sval;
2210
2211             val = read_raw_int(rawdata, ofs, bytes_per_strref);
2212             sval = msi_string_lookup_id( st, val );
2213             MSI_RecordSetStringW( rec, i+1, sval );
2214             TRACE(" field %d [%s]\n", i+1, debugstr_w(sval));
2215             ofs += bytes_per_strref;
2216         }
2217         else
2218         {
2219             UINT n = bytes_per_column( &columns[i] );
2220             switch( n )
2221             {
2222             case 2:
2223                 val = read_raw_int(rawdata, ofs, n);
2224                 if (val)
2225                     MSI_RecordSetInteger( rec, i+1, val^0x8000 );
2226                 TRACE(" field %d [0x%04x]\n", i+1, val );
2227                 break;
2228             case 4:
2229                 val = read_raw_int(rawdata, ofs, n);
2230                 if (val)
2231                     MSI_RecordSetInteger( rec, i+1, val^0x80000000 );
2232                 TRACE(" field %d [0x%08x]\n", i+1, val );
2233                 break;
2234             default:
2235                 ERR("oops - unknown column width %d\n", n);
2236                 break;
2237             }
2238             ofs += n;
2239         }
2240     }
2241     return rec;
2242 }
2243
2244 static void dump_record( MSIRECORD *rec )
2245 {
2246     UINT i, n;
2247
2248     n = MSI_RecordGetFieldCount( rec );
2249     for( i=1; i<=n; i++ )
2250     {
2251         LPCWSTR sval = MSI_RecordGetString( rec, i );
2252
2253         if( MSI_RecordIsNull( rec, i ) )
2254             TRACE("row -> []\n");
2255         else if( (sval = MSI_RecordGetString( rec, i )) )
2256             TRACE("row -> [%s]\n", debugstr_w(sval));
2257         else
2258             TRACE("row -> [0x%08x]\n", MSI_RecordGetInteger( rec, i ) );
2259     }
2260 }
2261
2262 static void dump_table( const string_table *st, const USHORT *rawdata, UINT rawsize )
2263 {
2264     LPCWSTR sval;
2265     UINT i;
2266
2267     for( i=0; i<(rawsize/2); i++ )
2268     {
2269         sval = msi_string_lookup_id( st, rawdata[i] );
2270         MESSAGE(" %04x %s\n", rawdata[i], debugstr_w(sval) );
2271     }
2272 }
2273
2274 static UINT* msi_record_to_row( const MSITABLEVIEW *tv, MSIRECORD *rec )
2275 {
2276     LPCWSTR str;
2277     UINT i, r, *data;
2278
2279     data = msi_alloc( tv->num_cols *sizeof (UINT) );
2280     for( i=0; i<tv->num_cols; i++ )
2281     {
2282         data[i] = 0;
2283
2284         if ( ~tv->columns[i].type & MSITYPE_KEY )
2285             continue;
2286
2287         /* turn the transform column value into a row value */
2288         if ( ( tv->columns[i].type & MSITYPE_STRING ) &&
2289              ! MSITYPE_IS_BINARY(tv->columns[i].type) )
2290         {
2291             str = MSI_RecordGetString( rec, i+1 );
2292             r = msi_string2idW( tv->db->strings, str, &data[i] );
2293
2294             /* if there's no matching string in the string table,
2295                these keys can't match any record, so fail now. */
2296             if( ERROR_SUCCESS != r )
2297             {
2298                 msi_free( data );
2299                 return NULL;
2300             }
2301         }
2302         else
2303         {
2304             data[i] = MSI_RecordGetInteger( rec, i+1 );
2305             if ((tv->columns[i].type&0xff) == 2)
2306                 data[i] += 0x8000;
2307             else
2308                 data[i] += 0x80000000;
2309         }
2310     }
2311     return data;
2312 }
2313
2314 static UINT msi_row_matches( MSITABLEVIEW *tv, UINT row, const UINT *data )
2315 {
2316     UINT i, r, x, ret = ERROR_FUNCTION_FAILED;
2317
2318     for( i=0; i<tv->num_cols; i++ )
2319     {
2320         if ( ~tv->columns[i].type & MSITYPE_KEY )
2321             continue;
2322
2323         /* turn the transform column value into a row value */
2324         r = TABLE_fetch_int( &tv->view, row, i+1, &x );
2325         if ( r != ERROR_SUCCESS )
2326         {
2327             ERR("TABLE_fetch_int shouldn't fail here\n");
2328             break;
2329         }
2330
2331         /* if this key matches, move to the next column */
2332         if ( x != data[i] )
2333         {
2334             ret = ERROR_FUNCTION_FAILED;
2335             break;
2336         }
2337
2338         ret = ERROR_SUCCESS;
2339     }
2340
2341     return ret;
2342 }
2343
2344 static UINT msi_table_find_row( MSITABLEVIEW *tv, MSIRECORD *rec, UINT *row )
2345 {
2346     UINT i, r = ERROR_FUNCTION_FAILED, *data;
2347
2348     data = msi_record_to_row( tv, rec );
2349     if( !data )
2350         return r;
2351     for( i = 0; i < tv->table->row_count + tv->table->nonpersistent_row_count; i++ )
2352     {
2353         r = msi_row_matches( tv, i, data );
2354         if( r == ERROR_SUCCESS )
2355         {
2356             *row = i;
2357             break;
2358         }
2359     }
2360     msi_free( data );
2361     return r;
2362 }
2363
2364 typedef struct
2365 {
2366     struct list entry;
2367     LPWSTR name;
2368 } TRANSFORMDATA;
2369
2370 static UINT msi_table_load_transform( MSIDATABASE *db, IStorage *stg,
2371                                       string_table *st, TRANSFORMDATA *transform,
2372                                       UINT bytes_per_strref )
2373 {
2374     UINT rawsize = 0;
2375     BYTE *rawdata = NULL;
2376     MSITABLEVIEW *tv = NULL;
2377     UINT r, n, sz, i, mask;
2378     MSIRECORD *rec = NULL;
2379     UINT colcol = 0;
2380     WCHAR coltable[32];
2381     LPWSTR name;
2382
2383     if (!transform)
2384         return ERROR_SUCCESS;
2385
2386     name = transform->name;
2387
2388     coltable[0] = 0;
2389     TRACE("%p %p %p %s\n", db, stg, st, debugstr_w(name) );
2390
2391     /* read the transform data */
2392     read_stream_data( stg, name, TRUE, &rawdata, &rawsize );
2393     if ( !rawdata )
2394     {
2395         TRACE("table %s empty\n", debugstr_w(name) );
2396         return ERROR_INVALID_TABLE;
2397     }
2398
2399     /* create a table view */
2400     r = TABLE_CreateView( db, name, (MSIVIEW**) &tv );
2401     if( r != ERROR_SUCCESS )
2402         goto err;
2403
2404     r = tv->view.ops->execute( &tv->view, NULL );
2405     if( r != ERROR_SUCCESS )
2406         goto err;
2407
2408     TRACE("name = %s columns = %u row_size = %u raw size = %u\n",
2409           debugstr_w(name), tv->num_cols, tv->row_size, rawsize );
2410
2411     /* interpret the data */
2412     r = ERROR_SUCCESS;
2413     for( n=0; n < rawsize;  )
2414     {
2415         mask = rawdata[n] | (rawdata[n+1] << 8);
2416
2417         if (mask&1)
2418         {
2419             /*
2420              * if the low bit is set, columns are continuous and
2421              * the number of columns is specified in the high byte
2422              */
2423             sz = 2;
2424             for( i=0; i<tv->num_cols; i++ )
2425             {
2426                 if( (tv->columns[i].type & MSITYPE_STRING) &&
2427                     ! MSITYPE_IS_BINARY(tv->columns[i].type) )
2428                     sz += bytes_per_strref;
2429                 else
2430                     sz += bytes_per_column( &tv->columns[i] );
2431             }
2432         }
2433         else
2434         {
2435             /*
2436              * If the low bit is not set, mask is a bitmask.
2437              * Excepting for key fields, which are always present,
2438              *  each bit indicates that a field is present in the transform record.
2439              *
2440              * mask == 0 is a special case ... only the keys will be present
2441              * and it means that this row should be deleted.
2442              */
2443             sz = 2;
2444             for( i=0; i<tv->num_cols; i++ )
2445             {
2446                 if( (tv->columns[i].type & MSITYPE_KEY) || ((1<<i)&mask))
2447                 {
2448                     if( (tv->columns[i].type & MSITYPE_STRING) &&
2449                         ! MSITYPE_IS_BINARY(tv->columns[i].type) )
2450                         sz += bytes_per_strref;
2451                     else
2452                         sz += bytes_per_column( &tv->columns[i] );
2453                 }
2454             }
2455         }
2456
2457         /* check we didn't run of the end of the table */
2458         if ( (n+sz) > rawsize )
2459         {
2460             ERR("borked.\n");
2461             dump_table( st, (USHORT *)rawdata, rawsize );
2462             break;
2463         }
2464
2465         rec = msi_get_transform_record( tv, st, &rawdata[n], bytes_per_strref );
2466         if (rec)
2467         {
2468             if ( mask & 1 )
2469             {
2470                 WCHAR table[32];
2471                 DWORD sz = 32;
2472                 UINT number = MSI_NULL_INTEGER;
2473
2474                 TRACE("inserting record\n");
2475
2476                 if (!lstrcmpW(name, szColumns))
2477                 {
2478                     MSI_RecordGetStringW( rec, 1, table, &sz );
2479                     number = MSI_RecordGetInteger( rec, 2 );
2480
2481                     /*
2482                      * Native msi seems writes nul into the Number (2nd) column of
2483                      * the _Columns table, only when the columns are from a new table
2484                      */
2485                     if ( number == MSI_NULL_INTEGER )
2486                     {
2487                         /* reset the column number on a new table */
2488                         if ( lstrcmpW(coltable, table) )
2489                         {
2490                             colcol = 0;
2491                             lstrcpyW( coltable, table );
2492                         }
2493
2494                         /* fix nul column numbers */
2495                         MSI_RecordSetInteger( rec, 2, ++colcol );
2496                     }
2497                 }
2498
2499                 r = TABLE_insert_row( &tv->view, rec, FALSE );
2500                 if (r != ERROR_SUCCESS)
2501                     ERR("insert row failed\n");
2502
2503                 if ( number != MSI_NULL_INTEGER && !lstrcmpW(name, szColumns) )
2504                     msi_update_table_columns( db, table );
2505             }
2506             else
2507             {
2508                 UINT row = 0;
2509
2510                 r = msi_table_find_row( tv, rec, &row );
2511                 if (r != ERROR_SUCCESS)
2512                     ERR("no matching row to transform\n");
2513                 else if ( mask )
2514                 {
2515                     TRACE("modifying row [%d]:\n", row);
2516                     TABLE_set_row( &tv->view, row, rec, mask );
2517                 }
2518                 else
2519                 {
2520                     TRACE("deleting row [%d]:\n", row);
2521                     TABLE_delete_row( &tv->view, row );
2522                 }
2523             }
2524             if( TRACE_ON(msidb) ) dump_record( rec );
2525             msiobj_release( &rec->hdr );
2526         }
2527
2528         n += sz;
2529     }
2530
2531 err:
2532     /* no need to free the table, it's associated with the database */
2533     msi_free( rawdata );
2534     if( tv )
2535         tv->view.ops->delete( &tv->view );
2536
2537     return ERROR_SUCCESS;
2538 }
2539
2540 /*
2541  * msi_table_apply_transform
2542  *
2543  * Enumerate the table transforms in a transform storage and apply each one.
2544  */
2545 UINT msi_table_apply_transform( MSIDATABASE *db, IStorage *stg )
2546 {
2547     struct list transforms;
2548     IEnumSTATSTG *stgenum = NULL;
2549     TRANSFORMDATA *transform;
2550     TRANSFORMDATA *tables = NULL, *columns = NULL;
2551     HRESULT r;
2552     STATSTG stat;
2553     string_table *strings;
2554     UINT ret = ERROR_FUNCTION_FAILED;
2555     UINT bytes_per_strref;
2556
2557     TRACE("%p %p\n", db, stg );
2558
2559     strings = msi_load_string_table( stg, &bytes_per_strref );
2560     if( !strings )
2561         goto end;
2562
2563     r = IStorage_EnumElements( stg, 0, NULL, 0, &stgenum );
2564     if( FAILED( r ) )
2565         goto end;
2566
2567     list_init(&transforms);
2568
2569     while ( TRUE )
2570     {
2571         MSITABLEVIEW *tv = NULL;
2572         WCHAR name[0x40];
2573         ULONG count = 0;
2574
2575         r = IEnumSTATSTG_Next( stgenum, 1, &stat, &count );
2576         if ( FAILED( r ) || !count )
2577             break;
2578
2579         decode_streamname( stat.pwcsName, name );
2580         if ( name[0] != 0x4840 )
2581             continue;
2582
2583         if ( !lstrcmpW( name+1, szStringPool ) ||
2584              !lstrcmpW( name+1, szStringData ) )
2585             continue;
2586
2587         transform = msi_alloc_zero( sizeof(TRANSFORMDATA) );
2588         if ( !transform )
2589             break;
2590
2591         list_add_tail( &transforms, &transform->entry );
2592
2593         transform->name = strdupW( name + 1 );
2594
2595         if ( !lstrcmpW( transform->name, szTables ) )
2596             tables = transform;
2597         else if (!lstrcmpW( transform->name, szColumns ) )
2598             columns = transform;
2599
2600         TRACE("transform contains stream %s\n", debugstr_w(name));
2601
2602         /* load the table */
2603         r = TABLE_CreateView( db, transform->name, (MSIVIEW**) &tv );
2604         if( r != ERROR_SUCCESS )
2605             continue;
2606
2607         r = tv->view.ops->execute( &tv->view, NULL );
2608         if( r != ERROR_SUCCESS )
2609         {
2610             tv->view.ops->delete( &tv->view );
2611             continue;
2612         }
2613
2614         tv->view.ops->delete( &tv->view );
2615     }
2616
2617     /*
2618      * Apply _Tables and _Columns transforms first so that
2619      * the table metadata is correct, and empty tables exist.
2620      */
2621     ret = msi_table_load_transform( db, stg, strings, tables, bytes_per_strref );
2622     if (ret != ERROR_SUCCESS && ret != ERROR_INVALID_TABLE)
2623         goto end;
2624
2625     ret = msi_table_load_transform( db, stg, strings, columns, bytes_per_strref );
2626     if (ret != ERROR_SUCCESS && ret != ERROR_INVALID_TABLE)
2627         goto end;
2628
2629     ret = ERROR_SUCCESS;
2630
2631     while ( !list_empty( &transforms ) )
2632     {
2633         transform = LIST_ENTRY( list_head( &transforms ), TRANSFORMDATA, entry );
2634
2635         if ( lstrcmpW( transform->name, szColumns ) &&
2636              lstrcmpW( transform->name, szTables ) &&
2637              ret == ERROR_SUCCESS )
2638         {
2639             ret = msi_table_load_transform( db, stg, strings, transform, bytes_per_strref );
2640         }
2641
2642         list_remove( &transform->entry );
2643         msi_free( transform->name );
2644         msi_free( transform );
2645     }
2646
2647     if ( ret == ERROR_SUCCESS )
2648         append_storage_to_db( db, stg );
2649
2650 end:
2651     if ( stgenum )
2652         IEnumSTATSTG_Release( stgenum );
2653     if ( strings )
2654         msi_destroy_stringtable( strings );
2655
2656     return ret;
2657 }
2658
2659 void append_storage_to_db( MSIDATABASE *db, IStorage *stg )
2660 {
2661     MSITRANSFORM *t;
2662
2663     t = msi_alloc( sizeof *t );
2664     t->stg = stg;
2665     IStorage_AddRef( stg );
2666     list_add_tail( &db->transforms, &t->entry );
2667 }
2668
2669 void msi_free_transforms( MSIDATABASE *db )
2670 {
2671     while( !list_empty( &db->transforms ) )
2672     {
2673         MSITRANSFORM *t = LIST_ENTRY( list_head( &db->transforms ),
2674                                       MSITRANSFORM, entry );
2675         list_remove( &t->entry );
2676         IStorage_Release( t->stg );
2677         msi_free( t );
2678     }
2679 }