oleaut32/tests: COM cleanup for usrmarshal.c.
[wine] / dlls / winex11.drv / palette.c
1 /*
2  * X11DRV OEM bitmap objects
3  *
4  * Copyright 1994, 1995 Alexandre Julliard
5  *
6  * This library is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * This library is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this library; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA 02110-1301, USA
19  */
20
21 #include "config.h"
22
23 #include <stdarg.h>
24 #include <stdlib.h>
25 #include <string.h>
26
27 #include "windef.h"
28 #include "winbase.h"
29 #include "x11drv.h"
30 #include "wine/debug.h"
31
32 WINE_DEFAULT_DEBUG_CHANNEL(palette);
33
34 /* Palette indexed mode:
35  *      logical palette -> mapping -> pixel
36  *
37  *
38  * Windows needs contiguous color space ( from 0 to n ) but
39  * it is possible only with the private colormap. Otherwise we
40  * have to map DC palette indices to real pixel values. With
41  * private colormaps it boils down to the identity mapping. The
42  * other special case is when we have a fixed color visual with
43  * the screendepth > 8 - we abandon palette mappings altogether
44  * because pixel values can be calculated without X server
45  * assistance.
46  */
47
48 #define NB_RESERVED_COLORS     20   /* number of fixed colors in system palette */
49
50 #define PC_SYS_USED            0x80 /* palentry is used (both system and logical) */
51 #define PC_SYS_RESERVED        0x40 /* system palentry is not to be mapped to */
52
53 static PALETTEENTRY *COLOR_sysPal; /* current system palette */
54
55 static int COLOR_gapStart = 256;
56 static int COLOR_gapEnd = -1;
57 static int COLOR_gapFilled = 0;
58
59 Colormap X11DRV_PALETTE_PaletteXColormap = 0;
60 UINT16   X11DRV_PALETTE_PaletteFlags     = 0;
61
62 /* initialize to zero to handle abortive X11DRV_PALETTE_VIRTUAL visuals */
63 ColorShifts X11DRV_PALETTE_default_shifts = { {0,0,0,}, {0,0,0}, {0,0,0}, {0,0,0}, {0,0,0}, {0,0,0} };
64 static int X11DRV_PALETTE_Graymax        = 0;
65
66 static int palette_size;
67
68 /* First free dynamic color cell, 0 = full palette, -1 = fixed palette */
69 static int           X11DRV_PALETTE_firstFree = 0;
70 static unsigned char X11DRV_PALETTE_freeList[256];
71
72 static XContext palette_context;  /* X context to associate a color mapping to a palette */
73
74 static CRITICAL_SECTION palette_cs;
75 static CRITICAL_SECTION_DEBUG critsect_debug =
76 {
77     0, 0, &palette_cs,
78     { &critsect_debug.ProcessLocksList, &critsect_debug.ProcessLocksList },
79       0, 0, { (DWORD_PTR)(__FILE__ ": palette_cs") }
80 };
81 static CRITICAL_SECTION palette_cs = { &critsect_debug, -1, 0, 0, 0, 0 };
82
83 /**********************************************************************/
84
85    /* Map an EGA index (0..15) to a pixel value in the system color space.  */
86
87 int X11DRV_PALETTE_mapEGAPixel[16];
88
89 /**********************************************************************/
90
91 #define NB_COLORCUBE_START_INDEX        63
92 #define NB_PALETTE_EMPTY_VALUE          -1
93
94 /* Maps entry in the system palette to X pixel value */
95 int *X11DRV_PALETTE_PaletteToXPixel = NULL;
96
97 /* Maps pixel to the entry in the system palette */
98 int *X11DRV_PALETTE_XPixelToPalette = NULL;
99
100 /**********************************************************************/
101
102 static BOOL X11DRV_PALETTE_BuildPrivateMap( const PALETTEENTRY *sys_pal_template );
103 static BOOL X11DRV_PALETTE_BuildSharedMap( const PALETTEENTRY *sys_pal_template );
104 static void X11DRV_PALETTE_FillDefaultColors( const PALETTEENTRY *sys_pal_template );
105 static void X11DRV_PALETTE_FormatSystemPalette(void);
106 static BOOL X11DRV_PALETTE_CheckSysColor( const PALETTEENTRY *sys_pal_template, COLORREF c);
107 static int X11DRV_PALETTE_LookupSystemXPixel(COLORREF col);
108
109
110 /***********************************************************************
111  *           palette_get_mapping
112  */
113 static int *palette_get_mapping( HPALETTE hpal )
114 {
115     int *mapping;
116
117     wine_tsx11_lock();
118     if (XFindContext( gdi_display, (XID)hpal, palette_context, (char **)&mapping )) mapping = NULL;
119     wine_tsx11_unlock();
120     return mapping;
121 }
122
123
124 /***********************************************************************
125  *           palette_set_mapping
126  */
127 static void palette_set_mapping( HPALETTE hpal, int *mapping )
128 {
129     wine_tsx11_lock();
130     XSaveContext( gdi_display, (XID)hpal, palette_context, (char *)mapping );
131     wine_tsx11_unlock();
132 }
133
134
135 /***********************************************************************
136  *           COLOR_Init
137  *
138  * Initialize color management.
139  */
140 int X11DRV_PALETTE_Init(void)
141 {
142     int mask, white, black;
143     int monoPlane;
144     int *mapping;
145     PALETTEENTRY sys_pal_template[NB_RESERVED_COLORS];
146
147     TRACE("initializing palette manager...\n");
148
149     wine_tsx11_lock();
150     palette_context = XUniqueContext();
151     wine_tsx11_unlock();
152     white = WhitePixel( gdi_display, DefaultScreen(gdi_display) );
153     black = BlackPixel( gdi_display, DefaultScreen(gdi_display) );
154     monoPlane = 1;
155     for( mask = 1; !((white & mask)^(black & mask)); mask <<= 1 )
156          monoPlane++;
157     X11DRV_PALETTE_PaletteFlags = (white & mask) ? X11DRV_PALETTE_WHITESET : 0;
158     palette_size = visual->map_entries;
159
160     switch(visual->class)
161     {
162     case DirectColor:
163         X11DRV_PALETTE_PaletteFlags |= X11DRV_PALETTE_VIRTUAL;
164     case GrayScale:
165     case PseudoColor:
166         wine_tsx11_lock();
167         if (private_color_map)
168         {
169             XSetWindowAttributes win_attr;
170
171             X11DRV_PALETTE_PaletteXColormap = XCreateColormap( gdi_display, root_window,
172                                                                visual, AllocAll );
173             if (X11DRV_PALETTE_PaletteXColormap)
174             {
175                 X11DRV_PALETTE_PaletteFlags |= (X11DRV_PALETTE_PRIVATE | X11DRV_PALETTE_WHITESET);
176
177                 monoPlane = 1;
178                 for( white = palette_size - 1; !(white & 1); white >>= 1 )
179                      monoPlane++;
180
181                 if( root_window != DefaultRootWindow(gdi_display) )
182                 {
183                     win_attr.colormap = X11DRV_PALETTE_PaletteXColormap;
184                     XChangeWindowAttributes( gdi_display, root_window, CWColormap, &win_attr );
185                 }
186             }
187         } else {
188           X11DRV_PALETTE_PaletteXColormap = XCreateColormap(gdi_display, root_window,
189                                                             visual, AllocNone);
190         }
191         wine_tsx11_unlock();
192         break;
193
194     case StaticGray:
195         wine_tsx11_lock();
196         X11DRV_PALETTE_PaletteXColormap = XCreateColormap(gdi_display, root_window,
197                                                           visual, AllocNone);
198         X11DRV_PALETTE_PaletteFlags |= X11DRV_PALETTE_FIXED;
199         X11DRV_PALETTE_Graymax = (1 << screen_depth)-1;
200         wine_tsx11_unlock();
201         break;
202
203     case TrueColor:
204         X11DRV_PALETTE_PaletteFlags |= X11DRV_PALETTE_VIRTUAL;
205     case StaticColor: {
206         int *depths,nrofdepths;
207         /* FIXME: hack to detect XFree32 XF_VGA16 ... We just have
208          * depths 1 and 4
209          */
210         wine_tsx11_lock();
211         depths = XListDepths(gdi_display,DefaultScreen(gdi_display),&nrofdepths);
212         if ((nrofdepths==2) && ((depths[0]==4) || depths[1]==4)) {
213             monoPlane = 1;
214             for( white = palette_size - 1; !(white & 1); white >>= 1 )
215                 monoPlane++;
216             X11DRV_PALETTE_PaletteFlags = (white & mask) ? X11DRV_PALETTE_WHITESET : 0;
217             X11DRV_PALETTE_PaletteXColormap = XCreateColormap(gdi_display, root_window,
218                                                               visual, AllocNone);
219         }
220         else
221         {
222             X11DRV_PALETTE_PaletteXColormap = XCreateColormap(gdi_display, root_window,
223                                                               visual, AllocNone);
224             X11DRV_PALETTE_PaletteFlags |= X11DRV_PALETTE_FIXED;
225             X11DRV_PALETTE_ComputeColorShifts(&X11DRV_PALETTE_default_shifts, visual->red_mask, visual->green_mask, visual->blue_mask);
226         }
227         XFree(depths);
228         wine_tsx11_unlock();
229         break;
230       }
231     }
232
233     TRACE(" visual class %i (%i)\n",  visual->class, monoPlane);
234
235     GetPaletteEntries( GetStockObject(DEFAULT_PALETTE), 0, NB_RESERVED_COLORS, sys_pal_template );
236
237     if( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL )
238     {
239         palette_size = 0;
240     }
241     else
242     {
243         if ((mapping = HeapAlloc( GetProcessHeap(), HEAP_ZERO_MEMORY, sizeof(int) * NB_RESERVED_COLORS )))
244             palette_set_mapping( GetStockObject(DEFAULT_PALETTE), mapping );
245
246         if (X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_PRIVATE)
247             X11DRV_PALETTE_BuildPrivateMap( sys_pal_template );
248         else
249             X11DRV_PALETTE_BuildSharedMap( sys_pal_template );
250
251         /* Build free list */
252
253         if( X11DRV_PALETTE_firstFree != -1 )
254             X11DRV_PALETTE_FormatSystemPalette();
255
256         X11DRV_PALETTE_FillDefaultColors( sys_pal_template );
257         palette_size = visual->map_entries;
258     }
259
260     return palette_size;
261 }
262
263 /***********************************************************************
264  *           X11DRV_PALETTE_Cleanup
265  *
266  * Free external colors we grabbed in the FillDefaultPalette()
267  */
268 void X11DRV_PALETTE_Cleanup(void)
269 {
270   if( COLOR_gapFilled )
271   {
272       wine_tsx11_lock();
273       XFreeColors(gdi_display, X11DRV_PALETTE_PaletteXColormap,
274                   (unsigned long*)(X11DRV_PALETTE_PaletteToXPixel + COLOR_gapStart),
275                   COLOR_gapFilled, 0);
276       wine_tsx11_unlock();
277   }
278 }
279
280 /***********************************************************************
281  *              X11DRV_PALETTE_ComputeChannelShift
282  *
283  * Calculate conversion parameters for a given color mask
284  */
285 static void X11DRV_PALETTE_ComputeChannelShift(unsigned long maskbits, ChannelShift *physical, ChannelShift *to_logical)
286 {
287     int i;
288
289     if (maskbits==0)
290     {
291         physical->shift=0;
292         physical->scale=0;
293         physical->max=0;
294         to_logical->shift=0;
295         to_logical->scale=0;
296         to_logical->max=0;
297         return;
298     }
299
300     for(i=0;!(maskbits&1);i++)
301         maskbits >>= 1;
302
303     physical->shift = i;
304     physical->max = maskbits;
305
306     for(i=0;maskbits!=0;i++)
307         maskbits >>= 1;
308     physical->scale = i;
309
310     if (physical->scale>8)
311     {
312         /* On FreeBSD, VNC's default 32bpp mode is bgrabb (ffc00000,3ff800,7ff)!
313          * So we adjust the shifts to also normalize the color fields to
314          * the Win32 standard of 8 bits per color.
315          */
316         to_logical->shift=physical->shift+(physical->scale-8);
317         to_logical->scale=8;
318         to_logical->max=0xff;
319     } else {
320         to_logical->shift=physical->shift;
321         to_logical->scale=physical->scale;
322         to_logical->max=physical->max;
323     }
324 }
325
326 /***********************************************************************
327  *      X11DRV_PALETTE_ComputeColorShifts
328  *
329  * Calculate conversion parameters for a given color
330  */
331 void X11DRV_PALETTE_ComputeColorShifts(ColorShifts *shifts, unsigned long redMask, unsigned long greenMask, unsigned long blueMask)
332 {
333     X11DRV_PALETTE_ComputeChannelShift(redMask, &shifts->physicalRed, &shifts->logicalRed);
334     X11DRV_PALETTE_ComputeChannelShift(greenMask, &shifts->physicalGreen, &shifts->logicalGreen);
335     X11DRV_PALETTE_ComputeChannelShift(blueMask, &shifts->physicalBlue, &shifts->logicalBlue);
336 }
337
338 /***********************************************************************
339  *           X11DRV_PALETTE_BuildPrivateMap
340  *
341  * Allocate colorcells and initialize mapping tables.
342  */
343 static BOOL X11DRV_PALETTE_BuildPrivateMap( const PALETTEENTRY *sys_pal_template )
344 {
345     /* Private colormap - identity mapping */
346
347     XColor color;
348     int i;
349
350     if((COLOR_sysPal = HeapAlloc(GetProcessHeap(), 0, sizeof(PALETTEENTRY)*palette_size)) == NULL) {
351         WARN("Unable to allocate the system palette\n");
352         return FALSE;
353     }
354
355     TRACE("Building private map - %i palette entries\n", palette_size);
356
357       /* Allocate system palette colors */
358
359     wine_tsx11_lock();
360     for( i=0; i < palette_size; i++ )
361     {
362        if( i < NB_RESERVED_COLORS/2 )
363        {
364          color.red   = sys_pal_template[i].peRed * 65535 / 255;
365          color.green = sys_pal_template[i].peGreen * 65535 / 255;
366          color.blue  = sys_pal_template[i].peBlue * 65535 / 255;
367          COLOR_sysPal[i] = sys_pal_template[i];
368          COLOR_sysPal[i].peFlags |= PC_SYS_USED;
369        }
370        else if( i >= palette_size - NB_RESERVED_COLORS/2 )
371        {
372          int j = NB_RESERVED_COLORS + i - palette_size;
373          color.red   = sys_pal_template[j].peRed * 65535 / 255;
374          color.green = sys_pal_template[j].peGreen * 65535 / 255;
375          color.blue  = sys_pal_template[j].peBlue * 65535 / 255;
376          COLOR_sysPal[i] = sys_pal_template[j];
377          COLOR_sysPal[i].peFlags |= PC_SYS_USED;
378        }
379
380        color.flags = DoRed | DoGreen | DoBlue;
381        color.pixel = i;
382        XStoreColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &color);
383
384        /* Set EGA mapping if color is from the first or last eight */
385
386        if (i < 8)
387            X11DRV_PALETTE_mapEGAPixel[i] = color.pixel;
388        else if (i >= palette_size - 8 )
389            X11DRV_PALETTE_mapEGAPixel[i - (palette_size - 16)] = color.pixel;
390     }
391     wine_tsx11_unlock();
392
393     X11DRV_PALETTE_XPixelToPalette = X11DRV_PALETTE_PaletteToXPixel = NULL;
394
395     COLOR_gapStart = 256; COLOR_gapEnd = -1;
396
397     X11DRV_PALETTE_firstFree = (palette_size > NB_RESERVED_COLORS)?NB_RESERVED_COLORS/2 : -1;
398
399     return FALSE;
400 }
401
402 /***********************************************************************
403  *           X11DRV_PALETTE_BuildSharedMap
404  *
405  * Allocate colorcells and initialize mapping tables.
406  */
407 static BOOL X11DRV_PALETTE_BuildSharedMap( const PALETTEENTRY *sys_pal_template )
408 {
409    XColor               color;
410    unsigned long        sysPixel[NB_RESERVED_COLORS];
411    unsigned long*       pixDynMapping = NULL;
412    unsigned long        plane_masks[1];
413    int                  i, j, warn = 0;
414    int                  diff, r, g, b, bp = 0, wp = 1;
415    int                  step = 1;
416    unsigned int max = 256;
417    Colormap             defaultCM;
418    XColor               defaultColors[256];
419
420    /* Copy the first bunch of colors out of the default colormap to prevent
421     * colormap flashing as much as possible.  We're likely to get the most
422     * important Window Manager colors, etc in the first 128 colors */
423    defaultCM = DefaultColormap( gdi_display, DefaultScreen(gdi_display) );
424
425    if (copy_default_colors > 256) copy_default_colors = 256;
426    for (i = 0; i < copy_default_colors; i++)
427        defaultColors[i].pixel = (long) i;
428    wine_tsx11_lock();
429    XQueryColors(gdi_display, defaultCM, &defaultColors[0], copy_default_colors);
430    for (i = 0; i < copy_default_colors; i++)
431        XAllocColor( gdi_display, X11DRV_PALETTE_PaletteXColormap, &defaultColors[i] );
432
433    if (alloc_system_colors > 256) alloc_system_colors = 256;
434    else if (alloc_system_colors < 20) alloc_system_colors = 20;
435    TRACE("%d colors configured.\n", alloc_system_colors);
436
437    TRACE("Building shared map - %i palette entries\n", palette_size);
438
439    /* Be nice and allocate system colors as read-only */
440
441    for( i = 0; i < NB_RESERVED_COLORS; i++ )
442      {
443         color.red   = sys_pal_template[i].peRed * 65535 / 255;
444         color.green = sys_pal_template[i].peGreen * 65535 / 255;
445         color.blue  = sys_pal_template[i].peBlue * 65535 / 255;
446         color.flags = DoRed | DoGreen | DoBlue;
447
448         if (!XAllocColor( gdi_display, X11DRV_PALETTE_PaletteXColormap, &color ))
449         {
450              XColor     best, c;
451
452              if( !warn++ )
453              {
454                   WARN("Not enough colors for the full system palette.\n");
455
456                   bp = BlackPixel(gdi_display, DefaultScreen(gdi_display));
457                   wp = WhitePixel(gdi_display, DefaultScreen(gdi_display));
458
459                   max = (0xffffffff)>>(32 - screen_depth);
460                   if( max > 256 )
461                   {
462                       step = max/256;
463                       max = 256;
464                   }
465              }
466
467              /* reinit color (XAllocColor() may change it)
468               * and map to the best shared colorcell */
469
470              color.red   = sys_pal_template[i].peRed * 65535 / 255;
471              color.green = sys_pal_template[i].peGreen * 65535 / 255;
472              color.blue  = sys_pal_template[i].peBlue * 65535 / 255;
473
474              best.pixel = best.red = best.green = best.blue = 0;
475              for( c.pixel = 0, diff = 0x7fffffff; c.pixel < max; c.pixel += step )
476              {
477                 XQueryColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &c);
478                 r = (c.red - color.red)>>8;
479                 g = (c.green - color.green)>>8;
480                 b = (c.blue - color.blue)>>8;
481                 r = r*r + g*g + b*b;
482                 if( r < diff ) { best = c; diff = r; }
483              }
484
485              if( XAllocColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &best) )
486                  color.pixel = best.pixel;
487              else color.pixel = (i < NB_RESERVED_COLORS/2)? bp : wp;
488         }
489
490         sysPixel[i] = color.pixel;
491
492         TRACE("syscolor(%x) -> pixel %i\n", *(const COLORREF*)(sys_pal_template+i),
493               (int)color.pixel);
494
495         /* Set EGA mapping if color in the first or last eight */
496
497         if (i < 8)
498             X11DRV_PALETTE_mapEGAPixel[i] = color.pixel;
499         else if (i >= NB_RESERVED_COLORS - 8 )
500             X11DRV_PALETTE_mapEGAPixel[i - (NB_RESERVED_COLORS-16)] = color.pixel;
501      }
502    wine_tsx11_unlock();
503
504    /* now allocate changeable set */
505
506    if( !(X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED) )
507      {
508         int c_min = 0, c_max = palette_size, c_val;
509
510         TRACE("Dynamic colormap...\n");
511
512         /* let's become the first client that actually follows
513          * X guidelines and does binary search...
514          */
515
516         if((pixDynMapping = HeapAlloc(GetProcessHeap(), 0, sizeof(long)*palette_size)) == NULL) {
517             WARN("Out of memory while building system palette.\n");
518             return FALSE;
519         }
520
521         wine_tsx11_lock();
522         /* comment this out if you want to debug palette init */
523         XGrabServer(gdi_display);
524
525         while( c_max - c_min > 0 )
526           {
527              c_val = (c_max + c_min)/2 + (c_max + c_min)%2;
528
529              if( !XAllocColorCells(gdi_display, X11DRV_PALETTE_PaletteXColormap, False,
530                                    plane_masks, 0, pixDynMapping, c_val) )
531                  c_max = c_val - 1;
532              else
533                {
534                  XFreeColors(gdi_display, X11DRV_PALETTE_PaletteXColormap, pixDynMapping, c_val, 0);
535                  c_min = c_val;
536                }
537           }
538
539         if( c_min > alloc_system_colors - NB_RESERVED_COLORS)
540             c_min = alloc_system_colors - NB_RESERVED_COLORS;
541
542         c_min = (c_min/2) + (c_min/2);          /* need even set for split palette */
543
544         if( c_min > 0 )
545           if( !XAllocColorCells(gdi_display, X11DRV_PALETTE_PaletteXColormap, False,
546                                 plane_masks, 0, pixDynMapping, c_min) )
547             {
548               WARN("Inexplicable failure during colorcell allocation.\n");
549               c_min = 0;
550             }
551
552         palette_size = c_min + NB_RESERVED_COLORS;
553
554         XUngrabServer(gdi_display);
555         wine_tsx11_unlock();
556
557         TRACE("adjusted size %i colorcells\n", palette_size);
558      }
559    else if( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL )
560         {
561           /* virtual colorspace - ToPhysical takes care of
562            * color translations but we have to allocate full palette
563            * to maintain compatibility
564            */
565           palette_size = 256;
566           TRACE("Virtual colorspace - screendepth %i\n", screen_depth);
567         }
568    else palette_size = NB_RESERVED_COLORS;      /* system palette only - however we can alloc a bunch
569                                          * of colors and map to them */
570
571    TRACE("Shared system palette uses %i colors.\n", palette_size);
572
573    /* set gap to account for pixel shortage. It has to be right in the center
574     * of the system palette because otherwise raster ops get screwed. */
575
576    if( palette_size >= 256 )
577      { COLOR_gapStart = 256; COLOR_gapEnd = -1; }
578    else
579      { COLOR_gapStart = palette_size/2; COLOR_gapEnd = 255 - palette_size/2; }
580
581    X11DRV_PALETTE_firstFree = ( palette_size > NB_RESERVED_COLORS &&
582                       (X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL || !(X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED)) )
583                      ? NB_RESERVED_COLORS/2 : -1;
584
585    COLOR_sysPal = HeapAlloc(GetProcessHeap(),0,sizeof(PALETTEENTRY)*256);
586    if(COLOR_sysPal == NULL) {
587        ERR("Unable to allocate the system palette!\n");
588        HeapFree(GetProcessHeap(), 0, pixDynMapping);
589        return FALSE;
590    }
591
592    /* setup system palette entry <-> pixel mappings and fill in 20 fixed entries */
593
594    if (screen_depth <= 8)
595    {
596        X11DRV_PALETTE_XPixelToPalette = HeapAlloc( GetProcessHeap(), 0, 256 * sizeof(int) );
597        if(X11DRV_PALETTE_XPixelToPalette == NULL) {
598            ERR("Out of memory: XPixelToPalette!\n");
599            HeapFree(GetProcessHeap(), 0, pixDynMapping);
600            return FALSE;
601        }
602        for( i = 0; i < 256; i++ )
603            X11DRV_PALETTE_XPixelToPalette[i] = NB_PALETTE_EMPTY_VALUE;
604    }
605
606    /* for hicolor visuals PaletteToPixel mapping is used to skip
607     * RGB->pixel calculation in X11DRV_PALETTE_ToPhysical().
608     */
609
610    X11DRV_PALETTE_PaletteToXPixel = HeapAlloc(GetProcessHeap(),0,sizeof(int)*256);
611    if(X11DRV_PALETTE_PaletteToXPixel == NULL) {
612        ERR("Out of memory: PaletteToXPixel!\n");
613        HeapFree(GetProcessHeap(), 0, pixDynMapping);
614        return FALSE;
615    }
616
617    for( i = j = 0; i < 256; i++ )
618    {
619       if( i >= COLOR_gapStart && i <= COLOR_gapEnd )
620       {
621          X11DRV_PALETTE_PaletteToXPixel[i] = NB_PALETTE_EMPTY_VALUE;
622          COLOR_sysPal[i].peFlags = 0;   /* mark as unused */
623          continue;
624       }
625
626       if( i < NB_RESERVED_COLORS/2 )
627       {
628         X11DRV_PALETTE_PaletteToXPixel[i] = sysPixel[i];
629         COLOR_sysPal[i] = sys_pal_template[i];
630         COLOR_sysPal[i].peFlags |= PC_SYS_USED;
631       }
632       else if( i >= 256 - NB_RESERVED_COLORS/2 )
633       {
634         X11DRV_PALETTE_PaletteToXPixel[i] = sysPixel[(i + NB_RESERVED_COLORS) - 256];
635         COLOR_sysPal[i] = sys_pal_template[(i + NB_RESERVED_COLORS) - 256];
636         COLOR_sysPal[i].peFlags |= PC_SYS_USED;
637       }
638       else if( pixDynMapping )
639              X11DRV_PALETTE_PaletteToXPixel[i] = pixDynMapping[j++];
640            else
641              X11DRV_PALETTE_PaletteToXPixel[i] = i;
642
643       TRACE("index %i -> pixel %i\n", i, X11DRV_PALETTE_PaletteToXPixel[i]);
644
645       if( X11DRV_PALETTE_XPixelToPalette )
646           X11DRV_PALETTE_XPixelToPalette[X11DRV_PALETTE_PaletteToXPixel[i]] = i;
647    }
648
649    HeapFree(GetProcessHeap(), 0, pixDynMapping);
650
651    return TRUE;
652 }
653
654 /***********************************************************************
655  *      Colormap Initialization
656  */
657 static void X11DRV_PALETTE_FillDefaultColors( const PALETTEENTRY *sys_pal_template )
658 {
659  /* initialize unused entries to what Windows uses as a color
660   * cube - based on Greg Kreider's code.
661   */
662
663   int i = 0, idx = 0;
664   int red, no_r, inc_r;
665   int green, no_g, inc_g;
666   int blue, no_b, inc_b;
667
668   if (palette_size <= NB_RESERVED_COLORS)
669         return;
670   while (i*i*i < (palette_size - NB_RESERVED_COLORS)) i++;
671   no_r = no_g = no_b = --i;
672   if ((no_r * (no_g+1) * no_b) < (palette_size - NB_RESERVED_COLORS)) no_g++;
673   if ((no_r * no_g * (no_b+1)) < (palette_size - NB_RESERVED_COLORS)) no_b++;
674   inc_r = (255 - NB_COLORCUBE_START_INDEX)/no_r;
675   inc_g = (255 - NB_COLORCUBE_START_INDEX)/no_g;
676   inc_b = (255 - NB_COLORCUBE_START_INDEX)/no_b;
677
678   wine_tsx11_lock();
679
680   idx = X11DRV_PALETTE_firstFree;
681
682   if( idx != -1 )
683     for (blue = NB_COLORCUBE_START_INDEX; blue < 256 && idx; blue += inc_b )
684      for (green = NB_COLORCUBE_START_INDEX; green < 256 && idx; green += inc_g )
685       for (red = NB_COLORCUBE_START_INDEX; red < 256 && idx; red += inc_r )
686       {
687          /* weird but true */
688
689          if( red == NB_COLORCUBE_START_INDEX && green == red && blue == green ) continue;
690
691          COLOR_sysPal[idx].peRed = red;
692          COLOR_sysPal[idx].peGreen = green;
693          COLOR_sysPal[idx].peBlue = blue;
694
695          /* set X color */
696
697          if( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL )
698          {
699             ColorShifts *shifts = &X11DRV_PALETTE_default_shifts;
700             if (shifts->physicalRed.max != 255) no_r = (red * shifts->physicalRed.max) / 255;
701             if (shifts->physicalGreen.max != 255) no_g = (green * shifts->physicalGreen.max) / 255;
702             if (shifts->physicalBlue.max != 255) no_b = (blue * shifts->physicalBlue.max) / 255;
703
704             X11DRV_PALETTE_PaletteToXPixel[idx] = (no_r << shifts->physicalRed.shift) | (no_g << shifts->physicalGreen.shift) | (no_b << shifts->physicalBlue.shift);
705          }
706          else if( !(X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED) )
707          {
708            XColor color;
709            color.pixel = (X11DRV_PALETTE_PaletteToXPixel)? X11DRV_PALETTE_PaletteToXPixel[idx] : idx;
710            color.red = COLOR_sysPal[idx].peRed << 8;
711            color.green = COLOR_sysPal[idx].peGreen << 8;
712            color.blue =  COLOR_sysPal[idx].peBlue << 8;
713            color.flags = DoRed | DoGreen | DoBlue;
714            XStoreColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &color);
715          }
716          idx = X11DRV_PALETTE_freeList[idx];
717       }
718
719   /* try to fill some entries in the "gap" with
720    * what's already in the colormap - they will be
721    * mappable to but not changeable. */
722
723   if( COLOR_gapStart < COLOR_gapEnd && X11DRV_PALETTE_XPixelToPalette )
724   {
725     XColor      xc;
726     int         r, g, b, max;
727
728     max = alloc_system_colors - (256 - (COLOR_gapEnd - COLOR_gapStart));
729     for ( i = 0, idx = COLOR_gapStart; i < 256 && idx <= COLOR_gapEnd; i++ )
730       if( X11DRV_PALETTE_XPixelToPalette[i] == NB_PALETTE_EMPTY_VALUE )
731         {
732           xc.pixel = i;
733
734           XQueryColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &xc);
735           r = xc.red>>8; g = xc.green>>8; b = xc.blue>>8;
736
737           if( xc.pixel < 256 && X11DRV_PALETTE_CheckSysColor( sys_pal_template, RGB(r, g, b)) &&
738               XAllocColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &xc) )
739           {
740              X11DRV_PALETTE_XPixelToPalette[xc.pixel] = idx;
741              X11DRV_PALETTE_PaletteToXPixel[idx] = xc.pixel;
742            *(COLORREF*)(COLOR_sysPal + idx) = RGB(r, g, b);
743              COLOR_sysPal[idx++].peFlags |= PC_SYS_USED;
744              if( --max <= 0 ) break;
745           }
746         }
747     COLOR_gapFilled = idx - COLOR_gapStart;
748   }
749   wine_tsx11_unlock();
750 }
751
752
753 /***********************************************************************
754  *           X11DRV_IsSolidColor
755  *
756  * Check whether 'color' can be represented with a solid color.
757  */
758 BOOL X11DRV_IsSolidColor( COLORREF color )
759 {
760     int i;
761     const PALETTEENTRY *pEntry = COLOR_sysPal;
762
763     if (color & 0xff000000) return TRUE;  /* indexed color */
764
765     if (!color || (color == 0xffffff)) return TRUE;  /* black or white */
766
767     if (X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL) return TRUE;  /* no palette */
768
769     EnterCriticalSection( &palette_cs );
770     for (i = 0; i < palette_size ; i++, pEntry++)
771     {
772         if( i < COLOR_gapStart || i > COLOR_gapEnd )
773             if ((GetRValue(color) == pEntry->peRed) &&
774                 (GetGValue(color) == pEntry->peGreen) &&
775                 (GetBValue(color) == pEntry->peBlue))
776             {
777                 LeaveCriticalSection( &palette_cs );
778                 return TRUE;
779             }
780     }
781     LeaveCriticalSection( &palette_cs );
782     return FALSE;
783 }
784
785
786 /***********************************************************************
787  *           X11DRV_PALETTE_ToLogical
788  *
789  * Return RGB color for given X pixel.
790  */
791 COLORREF X11DRV_PALETTE_ToLogical(X11DRV_PDEVICE *physDev, int pixel)
792 {
793     XColor color;
794
795 #if 0
796     /* truecolor visual */
797
798     if (screen_depth >= 24) return pixel;
799 #endif
800
801     /* check for hicolor visuals first */
802
803     if ( (X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED) && !X11DRV_PALETTE_Graymax )
804     {
805          ColorShifts *shifts = &X11DRV_PALETTE_default_shifts;
806
807          if(physDev->color_shifts)
808              shifts = physDev->color_shifts;
809
810          color.red = (pixel >> shifts->logicalRed.shift) & shifts->logicalRed.max;
811          if (shifts->logicalRed.scale<8)
812              color.red=  color.red   << (8-shifts->logicalRed.scale) |
813                          color.red   >> (2*shifts->logicalRed.scale-8);
814          color.green = (pixel >> shifts->logicalGreen.shift) & shifts->logicalGreen.max;
815          if (shifts->logicalGreen.scale<8)
816              color.green=color.green << (8-shifts->logicalGreen.scale) |
817                          color.green >> (2*shifts->logicalGreen.scale-8);
818          color.blue = (pixel >> shifts->logicalBlue.shift) & shifts->logicalBlue.max;
819          if (shifts->logicalBlue.scale<8)
820              color.blue= color.blue  << (8-shifts->logicalBlue.scale)  |
821                          color.blue  >> (2*shifts->logicalBlue.scale-8);
822                  return RGB(color.red,color.green,color.blue);
823     }
824
825     /* check if we can bypass X */
826
827     if ((screen_depth <= 8) && (pixel < 256) &&
828         !(X11DRV_PALETTE_PaletteFlags & (X11DRV_PALETTE_VIRTUAL | X11DRV_PALETTE_FIXED)) ) {
829         COLORREF ret;
830         EnterCriticalSection( &palette_cs );
831         ret = *(COLORREF *)(COLOR_sysPal + (X11DRV_PALETTE_XPixelToPalette ? X11DRV_PALETTE_XPixelToPalette[pixel]: pixel)) & 0x00ffffff;
832         LeaveCriticalSection( &palette_cs );
833         return ret;
834     }
835
836     wine_tsx11_lock();
837     color.pixel = pixel;
838     XQueryColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &color);
839     wine_tsx11_unlock();
840     return RGB(color.red >> 8, color.green >> 8, color.blue >> 8);
841 }
842
843
844 /***********************************************************************
845  *           X11DRV_SysPaletteLookupPixel
846  */
847 static int X11DRV_SysPaletteLookupPixel( COLORREF col, BOOL skipReserved )
848 {
849     int i, best = 0, diff = 0x7fffffff;
850     int r,g,b;
851
852     for( i = 0; i < palette_size && diff ; i++ )
853     {
854         if( !(COLOR_sysPal[i].peFlags & PC_SYS_USED) ||
855             (skipReserved && COLOR_sysPal[i].peFlags  & PC_SYS_RESERVED) )
856             continue;
857
858         r = COLOR_sysPal[i].peRed - GetRValue(col);
859         g = COLOR_sysPal[i].peGreen - GetGValue(col);
860         b = COLOR_sysPal[i].peBlue - GetBValue(col);
861
862         r = r*r + g*g + b*b;
863
864         if( r < diff ) { best = i; diff = r; }
865     }
866     return best;
867 }
868
869  
870 static inline BOOL colour_is_brighter(RGBQUAD c1, RGBQUAD c2)
871 {
872     return (c1.rgbRed * c1.rgbRed + c1.rgbGreen * c1.rgbGreen + c1.rgbBlue * c1.rgbBlue) > 
873         (c2.rgbRed * c2.rgbRed + c2.rgbGreen * c2.rgbGreen + c2.rgbBlue * c2.rgbBlue);
874 }
875
876 /***********************************************************************
877  *           X11DRV_PALETTE_GetColor
878  *
879  * Resolve PALETTEINDEX/PALETTERGB/DIBINDEX COLORREFs to an RGB COLORREF.
880  */
881 COLORREF X11DRV_PALETTE_GetColor( X11DRV_PDEVICE *physDev, COLORREF color )
882 {
883     HPALETTE             hPal = GetCurrentObject(physDev->hdc, OBJ_PAL );
884     unsigned char        spec_type = color >> 24;
885     unsigned             idx = color & 0xffff;
886     PALETTEENTRY         entry;
887     RGBQUAD              quad;
888
889     switch(spec_type)
890     {
891       case 2:  /* PALETTERGB */
892         idx = GetNearestPaletteIndex( hPal, color );
893         /* fall through to PALETTEINDEX */
894
895       case 1: /* PALETTEINDEX */
896         if (!GetPaletteEntries( hPal, idx, 1, &entry ))
897         {
898             WARN("PALETTEINDEX(%x) : idx %d is out of bounds, assuming black\n", color, idx);
899             return 0;
900         }
901         return RGB( entry.peRed, entry.peGreen, entry.peBlue );
902
903       case 0x10: /* DIBINDEX */
904         if( GetDIBColorTable( physDev->hdc, idx, 1, &quad ) != 1 ) {
905             WARN("DIBINDEX(%x) : idx %d is out of bounds, assuming black\n", color , idx);
906             return 0;
907         }
908         return RGB( quad.rgbRed, quad.rgbGreen, quad.rgbBlue );
909
910       default:
911         color &= 0xffffff;
912         /* fall through to RGB */
913
914       case 0: /* RGB */
915         return color;
916     }
917 }
918
919 /***********************************************************************
920  *           X11DRV_PALETTE_ToPhysical
921  *
922  * Return the physical color closest to 'color'.
923  */
924 int X11DRV_PALETTE_ToPhysical( X11DRV_PDEVICE *physDev, COLORREF color )
925 {
926     WORD                 index = 0;
927     HPALETTE             hPal = GetCurrentObject(physDev->hdc, OBJ_PAL );
928     unsigned char        spec_type = color >> 24;
929     int *mapping = palette_get_mapping( hPal );
930     PALETTEENTRY entry;
931     ColorShifts *shifts = &X11DRV_PALETTE_default_shifts;
932
933     if(physDev->color_shifts)
934         shifts = physDev->color_shifts;
935
936     if ( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED )
937     {
938         /* there is no colormap limitation; we are going to have to compute
939          * the pixel value from the visual information stored earlier
940          */
941
942         unsigned        long red, green, blue;
943         unsigned        idx = color & 0xffff;
944
945         switch(spec_type)
946         {
947           case 0x10: /* DIBINDEX */
948             color = X11DRV_PALETTE_GetColor( physDev, color );
949             break;
950                 
951           case 1: /* PALETTEINDEX */
952             if (!GetPaletteEntries( hPal, idx, 1, &entry ))
953             {
954                 WARN("PALETTEINDEX(%x) : idx %d is out of bounds, assuming black\n", color, idx);
955                 return 0;
956             }
957             if (mapping) return mapping[idx];
958             color = RGB( entry.peRed, entry.peGreen, entry.peBlue );
959             break;
960
961           default:
962             color &= 0xffffff;
963             /* fall through to RGB */
964
965           case 0: /* RGB */
966             if (physDev->depth == 1)
967             {
968                 int white = 1;
969                 RGBQUAD table[2];
970
971                 if (GetDIBColorTable( physDev->hdc, 0, 2, table ) == 2)
972                 {
973                     if(!colour_is_brighter(table[1], table[0])) white = 0;
974                 }
975                 return (((color >> 16) & 0xff) +
976                         ((color >> 8) & 0xff) + (color & 0xff) > 255*3/2) ? white : 1 - white;
977             }
978
979         }
980
981         red = GetRValue(color); green = GetGValue(color); blue = GetBValue(color);
982
983         if (X11DRV_PALETTE_Graymax)
984         {
985             /* grayscale only; return scaled value */
986             return ( (red * 30 + green * 59 + blue * 11) * X11DRV_PALETTE_Graymax) / 25500;
987         }
988         else
989         {
990             /* scale each individually and construct the TrueColor pixel value */
991             if (shifts->physicalRed.scale < 8)
992                 red = red >> (8-shifts->physicalRed.scale);
993             else if (shifts->physicalRed.scale > 8)
994                 red = red << (shifts->physicalRed.scale-8) |
995                       red >> (16-shifts->physicalRed.scale);
996             if (shifts->physicalGreen.scale < 8)
997                 green = green >> (8-shifts->physicalGreen.scale);
998             else if (shifts->physicalGreen.scale > 8)
999                 green = green << (shifts->physicalGreen.scale-8) |
1000                         green >> (16-shifts->physicalGreen.scale);
1001             if (shifts->physicalBlue.scale < 8)
1002                 blue =  blue >> (8-shifts->physicalBlue.scale);
1003             else if (shifts->physicalBlue.scale > 8)
1004                 blue =  blue << (shifts->physicalBlue.scale-8) |
1005                         blue >> (16-shifts->physicalBlue.scale);
1006
1007             return (red << shifts->physicalRed.shift) | (green << shifts->physicalGreen.shift) | (blue << shifts->physicalBlue.shift);
1008         }
1009     }
1010     else
1011     {
1012         if (!mapping)
1013             WARN("Palette %p is not realized\n", hPal);
1014
1015         switch(spec_type)       /* we have to peruse DC and system palette */
1016         {
1017             default:
1018                 color &= 0xffffff;
1019                 /* fall through to RGB */
1020
1021             case 0:  /* RGB */
1022                 if (physDev->depth == 1)
1023                 {
1024                     int white = 1;
1025                     RGBQUAD table[2];
1026
1027                     if (GetDIBColorTable( physDev->hdc, 0, 2, table ) == 2)
1028                     {
1029                         if(!colour_is_brighter(table[1], table[0]))
1030                             white = 0;
1031                     }
1032                     return (((color >> 16) & 0xff) +
1033                             ((color >> 8) & 0xff) + (color & 0xff) > 255*3/2) ? white : 1 - white;
1034                 }
1035
1036                 EnterCriticalSection( &palette_cs );
1037                 index = X11DRV_SysPaletteLookupPixel( color, FALSE);
1038                 if (X11DRV_PALETTE_PaletteToXPixel) index = X11DRV_PALETTE_PaletteToXPixel[index];
1039                 LeaveCriticalSection( &palette_cs );
1040
1041                 /* TRACE(palette,"RGB(%lx) -> pixel %i\n", color, index);
1042                  */
1043                 break;
1044             case 1:  /* PALETTEINDEX */
1045                 index = color & 0xffff;
1046                 if (!GetPaletteEntries( hPal, index, 1, &entry ))
1047                     WARN("PALETTEINDEX(%x) : index %i is out of bounds\n", color, index);
1048                 else if (mapping) index = mapping[index];
1049
1050                 /*  TRACE(palette,"PALETTEINDEX(%04x) -> pixel %i\n", (WORD)color, index);
1051                  */
1052                 break;
1053             case 2:  /* PALETTERGB */
1054                 index = GetNearestPaletteIndex( hPal, color );
1055                 if (mapping) index = mapping[index];
1056                 /* TRACE(palette,"PALETTERGB(%lx) -> pixel %i\n", color, index);
1057                  */
1058                 break;
1059         }
1060     }
1061     return index;
1062 }
1063
1064 /***********************************************************************
1065  *           X11DRV_PALETTE_LookupPixel
1066  */
1067 int X11DRV_PALETTE_LookupPixel(ColorShifts *shifts, COLORREF color )
1068 {
1069     unsigned char spec_type = color >> 24;
1070
1071     /* Only accept RGB which has spec_type = 0 */
1072     if(spec_type)
1073         return 0;
1074
1075     color &= 0xffffff;
1076
1077     if ( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED )
1078     {
1079         unsigned long red, green, blue;
1080         red = GetRValue(color); green = GetGValue(color); blue = GetBValue(color);
1081
1082         if (X11DRV_PALETTE_Graymax)
1083         {
1084             /* grayscale only; return scaled value */
1085             return ( (red * 30 + green * 59 + blue * 11) * X11DRV_PALETTE_Graymax) / 25500;
1086         }
1087         else
1088         {
1089             /* No shifts are set in case of 1-bit */
1090             if(!shifts) shifts = &X11DRV_PALETTE_default_shifts;
1091
1092             /* scale each individually and construct the TrueColor pixel value */
1093             if (shifts->physicalRed.scale < 8)
1094                 red = red >> (8-shifts->physicalRed.scale);
1095             else if (shifts->physicalRed.scale > 8)
1096                 red = red << (shifts->physicalRed.scale-8) |
1097                       red >> (16-shifts->physicalRed.scale);
1098             if (shifts->physicalGreen.scale < 8)
1099                 green = green >> (8-shifts->physicalGreen.scale);
1100             else if (shifts->physicalGreen.scale > 8)
1101                 green = green << (shifts->physicalGreen.scale-8) |
1102                         green >> (16-shifts->physicalGreen.scale);
1103             if (shifts->physicalBlue.scale < 8)
1104                 blue =  blue >> (8-shifts->physicalBlue.scale);
1105             else if (shifts->physicalBlue.scale > 8)
1106                 blue =  blue << (shifts->physicalBlue.scale-8) |
1107                         blue >> (16-shifts->physicalBlue.scale);
1108
1109             return (red << shifts->physicalRed.shift) | (green << shifts->physicalGreen.shift) | (blue << shifts->physicalBlue.shift);
1110         }
1111     }
1112     else
1113     {
1114         WORD index;
1115         HPALETTE hPal = GetStockObject(DEFAULT_PALETTE);
1116         int *mapping = palette_get_mapping( hPal );
1117
1118         if (!mapping)
1119             WARN("Palette %p is not realized\n", hPal);
1120
1121         EnterCriticalSection( &palette_cs );
1122         index = X11DRV_SysPaletteLookupPixel( color, FALSE);
1123         if (X11DRV_PALETTE_PaletteToXPixel)
1124             index = X11DRV_PALETTE_PaletteToXPixel[index];
1125         LeaveCriticalSection( &palette_cs );
1126         return index;
1127     }
1128 }
1129
1130
1131 /***********************************************************************
1132  *           X11DRV_PALETTE_LookupSystemXPixel
1133  */
1134 static int X11DRV_PALETTE_LookupSystemXPixel(COLORREF col)
1135 {
1136  int            i, best = 0, diff = 0x7fffffff;
1137  int            size = palette_size;
1138  int            r,g,b;
1139
1140  for( i = 0; i < size && diff ; i++ )
1141     {
1142       if( i == NB_RESERVED_COLORS/2 )
1143       {
1144         int newi = size - NB_RESERVED_COLORS/2;
1145         if (newi>i) i=newi;
1146       }
1147
1148       r = COLOR_sysPal[i].peRed - GetRValue(col);
1149       g = COLOR_sysPal[i].peGreen - GetGValue(col);
1150       b = COLOR_sysPal[i].peBlue - GetBValue(col);
1151
1152       r = r*r + g*g + b*b;
1153
1154       if( r < diff ) { best = i; diff = r; }
1155     }
1156
1157  return (X11DRV_PALETTE_PaletteToXPixel)? X11DRV_PALETTE_PaletteToXPixel[best] : best;
1158 }
1159
1160 /***********************************************************************
1161  *           X11DRV_PALETTE_FormatSystemPalette
1162  */
1163 static void X11DRV_PALETTE_FormatSystemPalette(void)
1164 {
1165  /* Build free list so we'd have an easy way to find
1166   * out if there are any available colorcells.
1167   */
1168
1169   int i, j = X11DRV_PALETTE_firstFree = NB_RESERVED_COLORS/2;
1170
1171   COLOR_sysPal[j].peFlags = 0;
1172   for( i = NB_RESERVED_COLORS/2 + 1 ; i < 256 - NB_RESERVED_COLORS/2 ; i++ )
1173     if( i < COLOR_gapStart || i > COLOR_gapEnd )
1174       {
1175         COLOR_sysPal[i].peFlags = 0;  /* unused tag */
1176         X11DRV_PALETTE_freeList[j] = i;   /* next */
1177         j = i;
1178       }
1179   X11DRV_PALETTE_freeList[j] = 0;
1180 }
1181
1182 /***********************************************************************
1183  *           X11DRV_PALETTE_CheckSysColor
1184  */
1185 static BOOL X11DRV_PALETTE_CheckSysColor( const PALETTEENTRY *sys_pal_template, COLORREF c)
1186 {
1187   int i;
1188   for( i = 0; i < NB_RESERVED_COLORS; i++ )
1189        if( c == (*(const COLORREF*)(sys_pal_template + i) & 0x00ffffff) )
1190            return 0;
1191   return 1;
1192 }
1193
1194
1195 /***********************************************************************
1196  *           X11DRV_LookupSysPaletteExact
1197  */
1198 static int X11DRV_LookupSysPaletteExact( BYTE r, BYTE g, BYTE b )
1199 {
1200     int i;
1201     for( i = 0; i < palette_size; i++ )
1202     {
1203         if( COLOR_sysPal[i].peFlags & PC_SYS_USED )  /* skips gap */
1204             if( COLOR_sysPal[i].peRed == r &&
1205                 COLOR_sysPal[i].peGreen == g &&
1206                 COLOR_sysPal[i].peBlue == b )
1207                 return i;
1208     }
1209     return -1;
1210 }
1211
1212
1213 /***********************************************************************
1214  *              RealizePalette    (X11DRV.@)
1215  */
1216 UINT X11DRV_RealizePalette( X11DRV_PDEVICE *physDev, HPALETTE hpal, BOOL primary )
1217 {
1218     char flag;
1219     int  index;
1220     UINT i, iRemapped = 0;
1221     int *prev_mapping, *mapping;
1222     PALETTEENTRY entries[256];
1223     WORD num_entries;
1224
1225     if (X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL) return 0;
1226
1227     if (!GetObjectW( hpal, sizeof(num_entries), &num_entries )) return 0;
1228
1229     /* initialize palette mapping table */
1230     prev_mapping = palette_get_mapping( hpal );
1231     if (prev_mapping)
1232         mapping = HeapReAlloc( GetProcessHeap(), 0, prev_mapping, sizeof(int)*num_entries);
1233     else 
1234         mapping = HeapAlloc( GetProcessHeap(), 0, sizeof(int)*num_entries);
1235
1236     if(mapping == NULL) {
1237         ERR("Unable to allocate new mapping -- memory exhausted!\n");
1238         return 0;
1239     }
1240     palette_set_mapping( hpal, mapping );
1241
1242     if (num_entries > 256)
1243     {
1244         FIXME( "more than 256 entries not supported\n" );
1245         num_entries = 256;
1246     }
1247     if (!(num_entries = GetPaletteEntries( hpal, 0, num_entries, entries ))) return 0;
1248
1249     /* reset dynamic system palette entries */
1250
1251     EnterCriticalSection( &palette_cs );
1252     if( primary && X11DRV_PALETTE_firstFree != -1)
1253          X11DRV_PALETTE_FormatSystemPalette();
1254
1255     for (i = 0; i < num_entries; i++)
1256     {
1257         index = -1;
1258         flag = PC_SYS_USED;
1259
1260         /* Even though the docs say that only one flag is to be set,
1261          * they are a bitmask. At least one app sets more than one at
1262          * the same time. */
1263         if ( entries[i].peFlags & PC_EXPLICIT ) {
1264             /* palette entries are indices into system palette */
1265             index = *(WORD*)&entries[i];
1266             if( index > 255 || (index >= COLOR_gapStart && index <= COLOR_gapEnd) )
1267             {
1268                 WARN("PC_EXPLICIT: idx %d out of system palette, assuming black.\n", index);
1269                 index = 0;
1270             }
1271             if( X11DRV_PALETTE_PaletteToXPixel ) index = X11DRV_PALETTE_PaletteToXPixel[index];
1272         } else {
1273             if ( entries[i].peFlags & PC_RESERVED ) {
1274                 /* forbid future mappings to this entry */
1275                 flag |= PC_SYS_RESERVED;
1276             }
1277             
1278             if (! (entries[i].peFlags & PC_NOCOLLAPSE) ) {
1279                 /* try to collapse identical colors */
1280                 index = X11DRV_LookupSysPaletteExact( entries[i].peRed, entries[i].peGreen, entries[i].peBlue );
1281             }
1282
1283             if( index < 0 )
1284             {
1285                 if( X11DRV_PALETTE_firstFree > 0 )
1286                 {
1287                     XColor color;
1288                     index = X11DRV_PALETTE_firstFree;  /* ought to be available */
1289                     X11DRV_PALETTE_firstFree = X11DRV_PALETTE_freeList[index];
1290
1291                     color.pixel = (X11DRV_PALETTE_PaletteToXPixel) ? X11DRV_PALETTE_PaletteToXPixel[index] : index;
1292                     color.red = entries[i].peRed << 8;
1293                     color.green = entries[i].peGreen << 8;
1294                     color.blue = entries[i].peBlue << 8;
1295                     color.flags = DoRed | DoGreen | DoBlue;
1296                     wine_tsx11_lock();
1297                     XStoreColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &color);
1298                     wine_tsx11_unlock();
1299
1300                     COLOR_sysPal[index] = entries[i];
1301                     COLOR_sysPal[index].peFlags = flag;
1302                     X11DRV_PALETTE_freeList[index] = 0;
1303
1304                     if( X11DRV_PALETTE_PaletteToXPixel ) index = X11DRV_PALETTE_PaletteToXPixel[index];
1305                 }
1306                 else if ( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL )
1307                 {
1308                     index = X11DRV_PALETTE_LookupPixel( physDev->color_shifts, RGB( entries[i].peRed, entries[i].peGreen, entries[i].peBlue ));
1309                 }
1310
1311                 /* we have to map to existing entry in the system palette */
1312
1313                 index = X11DRV_SysPaletteLookupPixel( RGB( entries[i].peRed, entries[i].peGreen, entries[i].peBlue ),
1314                                                       TRUE );
1315             }
1316
1317             if( X11DRV_PALETTE_PaletteToXPixel ) index = X11DRV_PALETTE_PaletteToXPixel[index];
1318         }
1319
1320         if( !prev_mapping || mapping[i] != index ) iRemapped++;
1321         mapping[i] = index;
1322
1323         TRACE("entry %i (%x) -> pixel %i\n", i, *(COLORREF*)&entries[i], index);
1324
1325     }
1326     LeaveCriticalSection( &palette_cs );
1327     return iRemapped;
1328 }
1329
1330
1331 /***********************************************************************
1332  *              UnrealizePalette    (X11DRV.@)
1333  */
1334 BOOL X11DRV_UnrealizePalette( HPALETTE hpal )
1335 {
1336     int *mapping = palette_get_mapping( hpal );
1337
1338     if (mapping)
1339     {
1340         wine_tsx11_lock();
1341         XDeleteContext( gdi_display, (XID)hpal, palette_context );
1342         wine_tsx11_unlock();
1343         HeapFree( GetProcessHeap(), 0, mapping );
1344     }
1345     return TRUE;
1346 }
1347
1348
1349 /***********************************************************************
1350  *              GetSystemPaletteEntries   (X11DRV.@)
1351  */
1352 UINT X11DRV_GetSystemPaletteEntries( X11DRV_PDEVICE *physDev, UINT start, UINT count,
1353                                      LPPALETTEENTRY entries )
1354 {
1355     UINT i;
1356
1357     if (!entries) return palette_size;
1358     if (start >= palette_size) return 0;
1359     if (start + count >= palette_size) count = palette_size - start;
1360
1361     EnterCriticalSection( &palette_cs );
1362     for (i = 0; i < count; i++)
1363     {
1364         entries[i].peRed   = COLOR_sysPal[start + i].peRed;
1365         entries[i].peGreen = COLOR_sysPal[start + i].peGreen;
1366         entries[i].peBlue  = COLOR_sysPal[start + i].peBlue;
1367         entries[i].peFlags = 0;
1368         TRACE("\tidx(%02x) -> RGB(%08x)\n", start + i, *(COLORREF*)(entries + i) );
1369     }
1370     LeaveCriticalSection( &palette_cs );
1371     return count;
1372 }
1373
1374
1375 /***********************************************************************
1376  *              GetNearestColor   (X11DRV.@)
1377  */
1378 COLORREF X11DRV_GetNearestColor( X11DRV_PDEVICE *physDev, COLORREF color )
1379 {
1380     unsigned char spec_type = color >> 24;
1381     COLORREF nearest;
1382
1383     if (!palette_size) return color;
1384
1385     if (spec_type == 1 || spec_type == 2)
1386     {
1387         /* we need logical palette for PALETTERGB and PALETTEINDEX colorrefs */
1388
1389         UINT index;
1390         PALETTEENTRY entry;
1391         HPALETTE hpal = GetCurrentObject( physDev->hdc, OBJ_PAL );
1392
1393         if (!hpal) hpal = GetStockObject( DEFAULT_PALETTE );
1394
1395         if (spec_type == 2) /* PALETTERGB */
1396             index = GetNearestPaletteIndex( hpal, color );
1397         else  /* PALETTEINDEX */
1398             index = LOWORD(color);
1399
1400         if (!GetPaletteEntries( hpal, index, 1, &entry ))
1401         {
1402             WARN("RGB(%x) : idx %d is out of bounds, assuming NULL\n", color, index );
1403             if (!GetPaletteEntries( hpal, 0, 1, &entry )) return CLR_INVALID;
1404         }
1405         color = RGB( entry.peRed,  entry.peGreen, entry.peBlue );
1406     }
1407     color &= 0x00ffffff;
1408     EnterCriticalSection( &palette_cs );
1409     nearest = (0x00ffffff & *(COLORREF*)(COLOR_sysPal + X11DRV_SysPaletteLookupPixel(color, FALSE)));
1410     LeaveCriticalSection( &palette_cs );
1411
1412     TRACE("(%06x): returning %06x\n", color, nearest );
1413     return nearest;
1414 }
1415
1416
1417 /***********************************************************************
1418  *              RealizeDefaultPalette    (X11DRV.@)
1419  */
1420 UINT X11DRV_RealizeDefaultPalette( X11DRV_PDEVICE *physDev )
1421 {
1422     UINT ret = 0;
1423
1424     if (palette_size && GetObjectType(physDev->hdc) != OBJ_MEMDC)
1425     {
1426         /* lookup is needed to account for SetSystemPaletteUse() stuff */
1427         int i, index, *mapping = palette_get_mapping( GetStockObject(DEFAULT_PALETTE) );
1428         PALETTEENTRY entries[NB_RESERVED_COLORS];
1429
1430         GetPaletteEntries( GetStockObject(DEFAULT_PALETTE), 0, NB_RESERVED_COLORS, entries );
1431         EnterCriticalSection( &palette_cs );
1432         for( i = 0; i < NB_RESERVED_COLORS; i++ )
1433         {
1434             index = X11DRV_PALETTE_LookupSystemXPixel( RGB(entries[i].peRed,
1435                                                            entries[i].peGreen,
1436                                                            entries[i].peBlue) );
1437             /* mapping is allocated in COLOR_InitPalette() */
1438             if( index != mapping[i] )
1439             {
1440                 mapping[i]=index;
1441                 ret++;
1442             }
1443         }
1444         LeaveCriticalSection( &palette_cs );
1445     }
1446     return ret;
1447 }