git.oblomov.eu Git - wine/blob - dlls/winex11.drv/palette.c

   1 /*
   2  * X11DRV OEM bitmap objects
   3  *
   4  * Copyright 1994, 1995 Alexandre Julliard
   5  *
   6  * This library is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU Lesser General Public
   8  * License as published by the Free Software Foundation; either
   9  * version 2.1 of the License, or (at your option) any later version.
  10  *
  11  * This library is distributed in the hope that it will be useful,
  12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
  13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
  14  * Lesser General Public License for more details.
  15  *
  16  * You should have received a copy of the GNU Lesser General Public
  17  * License along with this library; if not, write to the Free Software
  18  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA 02110-1301, USA
  19  */
  20
  21 #include "config.h"
  22
  23 #include <stdarg.h>
  24 #include <stdlib.h>
  25 #include <string.h>
  26
  27 #include "windef.h"
  28 #include "winbase.h"
  29 #include "x11drv.h"
  30 #include "wine/debug.h"
  31
  32 WINE_DEFAULT_DEBUG_CHANNEL(palette);
  33
  34 /* Palette indexed mode:
  35  *      logical palette -> mapping -> pixel
  36  *
  37  *
  38  * Windows needs contiguous color space ( from 0 to n ) but
  39  * it is possible only with the private colormap. Otherwise we
  40  * have to map DC palette indices to real pixel values. With
  41  * private colormaps it boils down to the identity mapping. The
  42  * other special case is when we have a fixed color visual with
  43  * the screendepth > 8 - we abandon palette mappings altogether
  44  * because pixel values can be calculated without X server
  45  * assistance.
  46  */
  47
  48 #define NB_RESERVED_COLORS     20   /* number of fixed colors in system palette */
  49
  50 #define PC_SYS_USED            0x80 /* palentry is used (both system and logical) */
  51 #define PC_SYS_RESERVED        0x40 /* system palentry is not to be mapped to */
  52
  53 static PALETTEENTRY *COLOR_sysPal; /* current system palette */
  54
  55 static int COLOR_gapStart = 256;
  56 static int COLOR_gapEnd = -1;
  57 static int COLOR_gapFilled = 0;
  58
  59 Colormap X11DRV_PALETTE_PaletteXColormap = 0;
  60 UINT16   X11DRV_PALETTE_PaletteFlags     = 0;
  61
  62 /* initialize to zero to handle abortive X11DRV_PALETTE_VIRTUAL visuals */
  63 ColorShifts X11DRV_PALETTE_default_shifts = { {0,0,0,}, {0,0,0}, {0,0,0}, {0,0,0}, {0,0,0}, {0,0,0} };
  64 static int X11DRV_PALETTE_Graymax        = 0;
  65
  66 static int palette_size;
  67
  68 /* First free dynamic color cell, 0 = full palette, -1 = fixed palette */
  69 static int           X11DRV_PALETTE_firstFree = 0;
  70 static unsigned char X11DRV_PALETTE_freeList[256];
  71
  72 static XContext palette_context;  /* X context to associate a color mapping to a palette */
  73
  74 static CRITICAL_SECTION palette_cs;
  75 static CRITICAL_SECTION_DEBUG critsect_debug =
  76 {
  77     0, 0, &palette_cs,
  78     { &critsect_debug.ProcessLocksList, &critsect_debug.ProcessLocksList },
  79       0, 0, { (DWORD_PTR)(__FILE__ ": palette_cs") }
  80 };
  81 static CRITICAL_SECTION palette_cs = { &critsect_debug, -1, 0, 0, 0, 0 };
  82
  83 /**********************************************************************/
  84
  85    /* Map an EGA index (0..15) to a pixel value in the system color space.  */
  86
  87 int X11DRV_PALETTE_mapEGAPixel[16];
  88
  89 /**********************************************************************/
  90
  91 #define NB_COLORCUBE_START_INDEX        63
  92 #define NB_PALETTE_EMPTY_VALUE          -1
  93
  94 /* Maps entry in the system palette to X pixel value */
  95 int *X11DRV_PALETTE_PaletteToXPixel = NULL;
  96
  97 /* Maps pixel to the entry in the system palette */
  98 int *X11DRV_PALETTE_XPixelToPalette = NULL;
  99
 100 /**********************************************************************/
 101
 102 static BOOL X11DRV_PALETTE_BuildPrivateMap( const PALETTEENTRY *sys_pal_template );
 103 static BOOL X11DRV_PALETTE_BuildSharedMap( const PALETTEENTRY *sys_pal_template );
 104 static void X11DRV_PALETTE_FillDefaultColors( const PALETTEENTRY *sys_pal_template );
 105 static void X11DRV_PALETTE_FormatSystemPalette(void);
 106 static BOOL X11DRV_PALETTE_CheckSysColor( const PALETTEENTRY *sys_pal_template, COLORREF c);
 107 static int X11DRV_PALETTE_LookupSystemXPixel(COLORREF col);
 108
 109
 110 /***********************************************************************
 111  *           palette_get_mapping
 112  */
 113 static int *palette_get_mapping( HPALETTE hpal )
 114 {
 115     int *mapping;
 116
 117     wine_tsx11_lock();
 118     if (XFindContext( gdi_display, (XID)hpal, palette_context, (char **)&mapping )) mapping = NULL;
 119     wine_tsx11_unlock();
 120     return mapping;
 121 }
 122
 123
 124 /***********************************************************************
 125  *           palette_set_mapping
 126  */
 127 static void palette_set_mapping( HPALETTE hpal, int *mapping )
 128 {
 129     wine_tsx11_lock();
 130     XSaveContext( gdi_display, (XID)hpal, palette_context, (char *)mapping );
 131     wine_tsx11_unlock();
 132 }
 133
 134
 135 /***********************************************************************
 136  *           COLOR_Init
 137  *
 138  * Initialize color management.
 139  */
 140 int X11DRV_PALETTE_Init(void)
 141 {
 142     int mask, white, black;
 143     int monoPlane;
 144     int *mapping;
 145     PALETTEENTRY sys_pal_template[NB_RESERVED_COLORS];
 146
 147     TRACE("initializing palette manager...\n");
 148
 149     wine_tsx11_lock();
 150     palette_context = XUniqueContext();
 151     wine_tsx11_unlock();
 152     white = WhitePixel( gdi_display, DefaultScreen(gdi_display) );
 153     black = BlackPixel( gdi_display, DefaultScreen(gdi_display) );
 154     monoPlane = 1;
 155     for( mask = 1; !((white & mask)^(black & mask)); mask <<= 1 )
 156          monoPlane++;
 157     X11DRV_PALETTE_PaletteFlags = (white & mask) ? X11DRV_PALETTE_WHITESET : 0;
 158     palette_size = visual->map_entries;
 159
 160     switch(visual->class)
 161     {
 162     case DirectColor:
 163         X11DRV_PALETTE_PaletteFlags |= X11DRV_PALETTE_VIRTUAL;
 164     case GrayScale:
 165     case PseudoColor:
 166         wine_tsx11_lock();
 167         if (private_color_map)
 168         {
 169             XSetWindowAttributes win_attr;
 170
 171             X11DRV_PALETTE_PaletteXColormap = XCreateColormap( gdi_display, root_window,
 172                                                                visual, AllocAll );
 173             if (X11DRV_PALETTE_PaletteXColormap)
 174             {
 175                 X11DRV_PALETTE_PaletteFlags |= (X11DRV_PALETTE_PRIVATE | X11DRV_PALETTE_WHITESET);
 176
 177                 monoPlane = 1;
 178                 for( white = palette_size - 1; !(white & 1); white >>= 1 )
 179                      monoPlane++;
 180
 181                 if( root_window != DefaultRootWindow(gdi_display) )
 182                 {
 183                     win_attr.colormap = X11DRV_PALETTE_PaletteXColormap;
 184                     XChangeWindowAttributes( gdi_display, root_window, CWColormap, &win_attr );
 185                 }
 186             }
 187         } else {
 188           X11DRV_PALETTE_PaletteXColormap = XCreateColormap(gdi_display, root_window,
 189                                                             visual, AllocNone);
 190         }
 191         wine_tsx11_unlock();
 192         break;
 193
 194     case StaticGray:
 195         wine_tsx11_lock();
 196         X11DRV_PALETTE_PaletteXColormap = XCreateColormap(gdi_display, root_window,
 197                                                           visual, AllocNone);
 198         X11DRV_PALETTE_PaletteFlags |= X11DRV_PALETTE_FIXED;
 199         X11DRV_PALETTE_Graymax = (1 << screen_depth)-1;
 200         wine_tsx11_unlock();
 201         break;
 202
 203     case TrueColor:
 204         X11DRV_PALETTE_PaletteFlags |= X11DRV_PALETTE_VIRTUAL;
 205     case StaticColor: {
 206         int *depths,nrofdepths;
 207         /* FIXME: hack to detect XFree32 XF_VGA16 ... We just have
 208          * depths 1 and 4
 209          */
 210         wine_tsx11_lock();
 211         depths = XListDepths(gdi_display,DefaultScreen(gdi_display),&nrofdepths);
 212         if ((nrofdepths==2) && ((depths[0]==4) || depths[1]==4)) {
 213             monoPlane = 1;
 214             for( white = palette_size - 1; !(white & 1); white >>= 1 )
 215                 monoPlane++;
 216             X11DRV_PALETTE_PaletteFlags = (white & mask) ? X11DRV_PALETTE_WHITESET : 0;
 217             X11DRV_PALETTE_PaletteXColormap = XCreateColormap(gdi_display, root_window,
 218                                                               visual, AllocNone);
 219         }
 220         else
 221         {
 222             X11DRV_PALETTE_PaletteXColormap = XCreateColormap(gdi_display, root_window,
 223                                                               visual, AllocNone);
 224             X11DRV_PALETTE_PaletteFlags |= X11DRV_PALETTE_FIXED;
 225             X11DRV_PALETTE_ComputeColorShifts(&X11DRV_PALETTE_default_shifts, visual->red_mask, visual->green_mask, visual->blue_mask);
 226         }
 227         XFree(depths);
 228         wine_tsx11_unlock();
 229         break;
 230       }
 231     }
 232
 233     TRACE(" visual class %i (%i)\n",  visual->class, monoPlane);
 234
 235     GetPaletteEntries( GetStockObject(DEFAULT_PALETTE), 0, NB_RESERVED_COLORS, sys_pal_template );
 236
 237     if( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL )
 238     {
 239         palette_size = 0;
 240     }
 241     else
 242     {
 243         if ((mapping = HeapAlloc( GetProcessHeap(), HEAP_ZERO_MEMORY, sizeof(int) * NB_RESERVED_COLORS )))
 244             palette_set_mapping( GetStockObject(DEFAULT_PALETTE), mapping );
 245
 246         if (X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_PRIVATE)
 247             X11DRV_PALETTE_BuildPrivateMap( sys_pal_template );
 248         else
 249             X11DRV_PALETTE_BuildSharedMap( sys_pal_template );
 250
 251         /* Build free list */
 252
 253         if( X11DRV_PALETTE_firstFree != -1 )
 254             X11DRV_PALETTE_FormatSystemPalette();
 255
 256         X11DRV_PALETTE_FillDefaultColors( sys_pal_template );
 257         palette_size = visual->map_entries;
 258     }
 259
 260     return palette_size;
 261 }
 262
 263 /***********************************************************************
 264  *           X11DRV_PALETTE_Cleanup
 265  *
 266  * Free external colors we grabbed in the FillDefaultPalette()
 267  */
 268 void X11DRV_PALETTE_Cleanup(void)
 269 {
 270   if( COLOR_gapFilled )
 271   {
 272       wine_tsx11_lock();
 273       XFreeColors(gdi_display, X11DRV_PALETTE_PaletteXColormap,
 274                   (unsigned long*)(X11DRV_PALETTE_PaletteToXPixel + COLOR_gapStart),
 275                   COLOR_gapFilled, 0);
 276       wine_tsx11_unlock();
 277   }
 278 }
 279
 280 /***********************************************************************
 281  *              X11DRV_PALETTE_ComputeChannelShift
 282  *
 283  * Calculate conversion parameters for a given color mask
 284  */
 285 static void X11DRV_PALETTE_ComputeChannelShift(unsigned long maskbits, ChannelShift *physical, ChannelShift *to_logical)
 286 {
 287     int i;
 288
 289     if (maskbits==0)
 290     {
 291         physical->shift=0;
 292         physical->scale=0;
 293         physical->max=0;
 294         to_logical->shift=0;
 295         to_logical->scale=0;
 296         to_logical->max=0;
 297         return;
 298     }
 299
 300     for(i=0;!(maskbits&1);i++)
 301         maskbits >>= 1;
 302
 303     physical->shift = i;
 304     physical->max = maskbits;
 305
 306     for(i=0;maskbits!=0;i++)
 307         maskbits >>= 1;
 308     physical->scale = i;
 309
 310     if (physical->scale>8)
 311     {
 312         /* On FreeBSD, VNC's default 32bpp mode is bgrabb (ffc00000,3ff800,7ff)!
 313          * So we adjust the shifts to also normalize the color fields to
 314          * the Win32 standard of 8 bits per color.
 315          */
 316         to_logical->shift=physical->shift+(physical->scale-8);
 317         to_logical->scale=8;
 318         to_logical->max=0xff;
 319     } else {
 320         to_logical->shift=physical->shift;
 321         to_logical->scale=physical->scale;
 322         to_logical->max=physical->max;
 323     }
 324 }
 325
 326 /***********************************************************************
 327  *      X11DRV_PALETTE_ComputeColorShifts
 328  *
 329  * Calculate conversion parameters for a given color
 330  */
 331 void X11DRV_PALETTE_ComputeColorShifts(ColorShifts *shifts, unsigned long redMask, unsigned long greenMask, unsigned long blueMask)
 332 {
 333     X11DRV_PALETTE_ComputeChannelShift(redMask, &shifts->physicalRed, &shifts->logicalRed);
 334     X11DRV_PALETTE_ComputeChannelShift(greenMask, &shifts->physicalGreen, &shifts->logicalGreen);
 335     X11DRV_PALETTE_ComputeChannelShift(blueMask, &shifts->physicalBlue, &shifts->logicalBlue);
 336 }
 337
 338 /***********************************************************************
 339  *           X11DRV_PALETTE_BuildPrivateMap
 340  *
 341  * Allocate colorcells and initialize mapping tables.
 342  */
 343 static BOOL X11DRV_PALETTE_BuildPrivateMap( const PALETTEENTRY *sys_pal_template )
 344 {
 345     /* Private colormap - identity mapping */
 346
 347     XColor color;
 348     int i;
 349
 350     if((COLOR_sysPal = HeapAlloc(GetProcessHeap(), 0, sizeof(PALETTEENTRY)*palette_size)) == NULL) {
 351         WARN("Unable to allocate the system palette\n");
 352         return FALSE;
 353     }
 354
 355     TRACE("Building private map - %i palette entries\n", palette_size);
 356
 357       /* Allocate system palette colors */
 358
 359     wine_tsx11_lock();
 360     for( i=0; i < palette_size; i++ )
 361     {
 362        if( i < NB_RESERVED_COLORS/2 )
 363        {
 364          color.red   = sys_pal_template[i].peRed * 65535 / 255;
 365          color.green = sys_pal_template[i].peGreen * 65535 / 255;
 366          color.blue  = sys_pal_template[i].peBlue * 65535 / 255;
 367          COLOR_sysPal[i] = sys_pal_template[i];
 368          COLOR_sysPal[i].peFlags |= PC_SYS_USED;
 369        }
 370        else if( i >= palette_size - NB_RESERVED_COLORS/2 )
 371        {
 372          int j = NB_RESERVED_COLORS + i - palette_size;
 373          color.red   = sys_pal_template[j].peRed * 65535 / 255;
 374          color.green = sys_pal_template[j].peGreen * 65535 / 255;
 375          color.blue  = sys_pal_template[j].peBlue * 65535 / 255;
 376          COLOR_sysPal[i] = sys_pal_template[j];
 377          COLOR_sysPal[i].peFlags |= PC_SYS_USED;
 378        }
 379
 380        color.flags = DoRed | DoGreen | DoBlue;
 381        color.pixel = i;
 382        XStoreColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &color);
 383
 384        /* Set EGA mapping if color is from the first or last eight */
 385
 386        if (i < 8)
 387            X11DRV_PALETTE_mapEGAPixel[i] = color.pixel;
 388        else if (i >= palette_size - 8 )
 389            X11DRV_PALETTE_mapEGAPixel[i - (palette_size - 16)] = color.pixel;
 390     }
 391     wine_tsx11_unlock();
 392
 393     X11DRV_PALETTE_XPixelToPalette = X11DRV_PALETTE_PaletteToXPixel = NULL;
 394
 395     COLOR_gapStart = 256; COLOR_gapEnd = -1;
 396
 397     X11DRV_PALETTE_firstFree = (palette_size > NB_RESERVED_COLORS)?NB_RESERVED_COLORS/2 : -1;
 398
 399     return FALSE;
 400 }
 401
 402 /***********************************************************************
 403  *           X11DRV_PALETTE_BuildSharedMap
 404  *
 405  * Allocate colorcells and initialize mapping tables.
 406  */
 407 static BOOL X11DRV_PALETTE_BuildSharedMap( const PALETTEENTRY *sys_pal_template )
 408 {
 409    XColor               color;
 410    unsigned long        sysPixel[NB_RESERVED_COLORS];
 411    unsigned long*       pixDynMapping = NULL;
 412    unsigned long        plane_masks[1];
 413    int                  i, j, warn = 0;
 414    int                  diff, r, g, b, bp = 0, wp = 1;
 415    int                  step = 1;
 416    unsigned int max = 256;
 417    Colormap             defaultCM;
 418    XColor               defaultColors[256];
 419
 420    /* Copy the first bunch of colors out of the default colormap to prevent
 421     * colormap flashing as much as possible.  We're likely to get the most
 422     * important Window Manager colors, etc in the first 128 colors */
 423    defaultCM = DefaultColormap( gdi_display, DefaultScreen(gdi_display) );
 424
 425    if (copy_default_colors > 256) copy_default_colors = 256;
 426    for (i = 0; i < copy_default_colors; i++)
 427        defaultColors[i].pixel = (long) i;
 428    wine_tsx11_lock();
 429    XQueryColors(gdi_display, defaultCM, &defaultColors[0], copy_default_colors);
 430    for (i = 0; i < copy_default_colors; i++)
 431        XAllocColor( gdi_display, X11DRV_PALETTE_PaletteXColormap, &defaultColors[i] );
 432
 433    if (alloc_system_colors > 256) alloc_system_colors = 256;
 434    else if (alloc_system_colors < 20) alloc_system_colors = 20;
 435    TRACE("%d colors configured.\n", alloc_system_colors);
 436
 437    TRACE("Building shared map - %i palette entries\n", palette_size);
 438
 439    /* Be nice and allocate system colors as read-only */
 440
 441    for( i = 0; i < NB_RESERVED_COLORS; i++ )
 442      {
 443         color.red   = sys_pal_template[i].peRed * 65535 / 255;
 444         color.green = sys_pal_template[i].peGreen * 65535 / 255;
 445         color.blue  = sys_pal_template[i].peBlue * 65535 / 255;
 446         color.flags = DoRed | DoGreen | DoBlue;
 447
 448         if (!XAllocColor( gdi_display, X11DRV_PALETTE_PaletteXColormap, &color ))
 449         {
 450              XColor     best, c;
 451
 452              if( !warn++ )
 453              {
 454                   WARN("Not enough colors for the full system palette.\n");
 455
 456                   bp = BlackPixel(gdi_display, DefaultScreen(gdi_display));
 457                   wp = WhitePixel(gdi_display, DefaultScreen(gdi_display));
 458
 459                   max = (0xffffffff)>>(32 - screen_depth);
 460                   if( max > 256 )
 461                   {
 462                       step = max/256;
 463                       max = 256;
 464                   }
 465              }
 466
 467              /* reinit color (XAllocColor() may change it)
 468               * and map to the best shared colorcell */
 469
 470              color.red   = sys_pal_template[i].peRed * 65535 / 255;
 471              color.green = sys_pal_template[i].peGreen * 65535 / 255;
 472              color.blue  = sys_pal_template[i].peBlue * 65535 / 255;
 473
 474              best.pixel = best.red = best.green = best.blue = 0;
 475              for( c.pixel = 0, diff = 0x7fffffff; c.pixel < max; c.pixel += step )
 476              {
 477                 XQueryColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &c);
 478                 r = (c.red - color.red)>>8;
 479                 g = (c.green - color.green)>>8;
 480                 b = (c.blue - color.blue)>>8;
 481                 r = r*r + g*g + b*b;
 482                 if( r < diff ) { best = c; diff = r; }
 483              }
 484
 485              if( XAllocColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &best) )
 486                  color.pixel = best.pixel;
 487              else color.pixel = (i < NB_RESERVED_COLORS/2)? bp : wp;
 488         }
 489
 490         sysPixel[i] = color.pixel;
 491
 492         TRACE("syscolor(%x) -> pixel %i\n", *(const COLORREF*)(sys_pal_template+i),
 493               (int)color.pixel);
 494
 495         /* Set EGA mapping if color in the first or last eight */
 496
 497         if (i < 8)
 498             X11DRV_PALETTE_mapEGAPixel[i] = color.pixel;
 499         else if (i >= NB_RESERVED_COLORS - 8 )
 500             X11DRV_PALETTE_mapEGAPixel[i - (NB_RESERVED_COLORS-16)] = color.pixel;
 501      }
 502    wine_tsx11_unlock();
 503
 504    /* now allocate changeable set */
 505
 506    if( !(X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED) )
 507      {
 508         int c_min = 0, c_max = palette_size, c_val;
 509
 510         TRACE("Dynamic colormap...\n");
 511
 512         /* let's become the first client that actually follows
 513          * X guidelines and does binary search...
 514          */
 515
 516         if((pixDynMapping = HeapAlloc(GetProcessHeap(), 0, sizeof(long)*palette_size)) == NULL) {
 517             WARN("Out of memory while building system palette.\n");
 518             return FALSE;
 519         }
 520
 521         wine_tsx11_lock();
 522         /* comment this out if you want to debug palette init */
 523         XGrabServer(gdi_display);
 524
 525         while( c_max - c_min > 0 )
 526           {
 527              c_val = (c_max + c_min)/2 + (c_max + c_min)%2;
 528
 529              if( !XAllocColorCells(gdi_display, X11DRV_PALETTE_PaletteXColormap, False,
 530                                    plane_masks, 0, pixDynMapping, c_val) )
 531                  c_max = c_val - 1;
 532              else
 533                {
 534                  XFreeColors(gdi_display, X11DRV_PALETTE_PaletteXColormap, pixDynMapping, c_val, 0);
 535                  c_min = c_val;
 536                }
 537           }
 538
 539         if( c_min > alloc_system_colors - NB_RESERVED_COLORS)
 540             c_min = alloc_system_colors - NB_RESERVED_COLORS;
 541
 542         c_min = (c_min/2) + (c_min/2);          /* need even set for split palette */
 543
 544         if( c_min > 0 )
 545           if( !XAllocColorCells(gdi_display, X11DRV_PALETTE_PaletteXColormap, False,
 546                                 plane_masks, 0, pixDynMapping, c_min) )
 547             {
 548               WARN("Inexplicable failure during colorcell allocation.\n");
 549               c_min = 0;
 550             }
 551
 552         palette_size = c_min + NB_RESERVED_COLORS;
 553
 554         XUngrabServer(gdi_display);
 555         wine_tsx11_unlock();
 556
 557         TRACE("adjusted size %i colorcells\n", palette_size);
 558      }
 559    else if( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL )
 560         {
 561           /* virtual colorspace - ToPhysical takes care of
 562            * color translations but we have to allocate full palette
 563            * to maintain compatibility
 564            */
 565           palette_size = 256;
 566           TRACE("Virtual colorspace - screendepth %i\n", screen_depth);
 567         }
 568    else palette_size = NB_RESERVED_COLORS;      /* system palette only - however we can alloc a bunch
 569                                          * of colors and map to them */
 570
 571    TRACE("Shared system palette uses %i colors.\n", palette_size);
 572
 573    /* set gap to account for pixel shortage. It has to be right in the center
 574     * of the system palette because otherwise raster ops get screwed. */
 575
 576    if( palette_size >= 256 )
 577      { COLOR_gapStart = 256; COLOR_gapEnd = -1; }
 578    else
 579      { COLOR_gapStart = palette_size/2; COLOR_gapEnd = 255 - palette_size/2; }
 580
 581    X11DRV_PALETTE_firstFree = ( palette_size > NB_RESERVED_COLORS &&
 582                       (X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL || !(X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED)) )
 583                      ? NB_RESERVED_COLORS/2 : -1;
 584
 585    COLOR_sysPal = HeapAlloc(GetProcessHeap(),0,sizeof(PALETTEENTRY)*256);
 586    if(COLOR_sysPal == NULL) {
 587        ERR("Unable to allocate the system palette!\n");
 588        HeapFree(GetProcessHeap(), 0, pixDynMapping);
 589        return FALSE;
 590    }
 591
 592    /* setup system palette entry <-> pixel mappings and fill in 20 fixed entries */
 593
 594    if (screen_depth <= 8)
 595    {
 596        X11DRV_PALETTE_XPixelToPalette = HeapAlloc( GetProcessHeap(), 0, 256 * sizeof(int) );
 597        if(X11DRV_PALETTE_XPixelToPalette == NULL) {
 598            ERR("Out of memory: XPixelToPalette!\n");
 599            HeapFree(GetProcessHeap(), 0, pixDynMapping);
 600            return FALSE;
 601        }
 602        for( i = 0; i < 256; i++ )
 603            X11DRV_PALETTE_XPixelToPalette[i] = NB_PALETTE_EMPTY_VALUE;
 604    }
 605
 606    /* for hicolor visuals PaletteToPixel mapping is used to skip
 607     * RGB->pixel calculation in X11DRV_PALETTE_ToPhysical().
 608     */
 609
 610    X11DRV_PALETTE_PaletteToXPixel = HeapAlloc(GetProcessHeap(),0,sizeof(int)*256);
 611    if(X11DRV_PALETTE_PaletteToXPixel == NULL) {
 612        ERR("Out of memory: PaletteToXPixel!\n");
 613        HeapFree(GetProcessHeap(), 0, pixDynMapping);
 614        return FALSE;
 615    }
 616
 617    for( i = j = 0; i < 256; i++ )
 618    {
 619       if( i >= COLOR_gapStart && i <= COLOR_gapEnd )
 620       {
 621          X11DRV_PALETTE_PaletteToXPixel[i] = NB_PALETTE_EMPTY_VALUE;
 622          COLOR_sysPal[i].peFlags = 0;   /* mark as unused */
 623          continue;
 624       }
 625
 626       if( i < NB_RESERVED_COLORS/2 )
 627       {
 628         X11DRV_PALETTE_PaletteToXPixel[i] = sysPixel[i];
 629         COLOR_sysPal[i] = sys_pal_template[i];
 630         COLOR_sysPal[i].peFlags |= PC_SYS_USED;
 631       }
 632       else if( i >= 256 - NB_RESERVED_COLORS/2 )
 633       {
 634         X11DRV_PALETTE_PaletteToXPixel[i] = sysPixel[(i + NB_RESERVED_COLORS) - 256];
 635         COLOR_sysPal[i] = sys_pal_template[(i + NB_RESERVED_COLORS) - 256];
 636         COLOR_sysPal[i].peFlags |= PC_SYS_USED;
 637       }
 638       else if( pixDynMapping )
 639              X11DRV_PALETTE_PaletteToXPixel[i] = pixDynMapping[j++];
 640            else
 641              X11DRV_PALETTE_PaletteToXPixel[i] = i;
 642
 643       TRACE("index %i -> pixel %i\n", i, X11DRV_PALETTE_PaletteToXPixel[i]);
 644
 645       if( X11DRV_PALETTE_XPixelToPalette )
 646           X11DRV_PALETTE_XPixelToPalette[X11DRV_PALETTE_PaletteToXPixel[i]] = i;
 647    }
 648
 649    HeapFree(GetProcessHeap(), 0, pixDynMapping);
 650
 651    return TRUE;
 652 }
 653
 654 /***********************************************************************
 655  *      Colormap Initialization
 656  */
 657 static void X11DRV_PALETTE_FillDefaultColors( const PALETTEENTRY *sys_pal_template )
 658 {
 659  /* initialize unused entries to what Windows uses as a color
 660   * cube - based on Greg Kreider's code.
 661   */
 662
 663   int i = 0, idx = 0;
 664   int red, no_r, inc_r;
 665   int green, no_g, inc_g;
 666   int blue, no_b, inc_b;
 667
 668   if (palette_size <= NB_RESERVED_COLORS)
 669         return;
 670   while (i*i*i < (palette_size - NB_RESERVED_COLORS)) i++;
 671   no_r = no_g = no_b = --i;
 672   if ((no_r * (no_g+1) * no_b) < (palette_size - NB_RESERVED_COLORS)) no_g++;
 673   if ((no_r * no_g * (no_b+1)) < (palette_size - NB_RESERVED_COLORS)) no_b++;
 674   inc_r = (255 - NB_COLORCUBE_START_INDEX)/no_r;
 675   inc_g = (255 - NB_COLORCUBE_START_INDEX)/no_g;
 676   inc_b = (255 - NB_COLORCUBE_START_INDEX)/no_b;
 677
 678   wine_tsx11_lock();
 679
 680   idx = X11DRV_PALETTE_firstFree;
 681
 682   if( idx != -1 )
 683     for (blue = NB_COLORCUBE_START_INDEX; blue < 256 && idx; blue += inc_b )
 684      for (green = NB_COLORCUBE_START_INDEX; green < 256 && idx; green += inc_g )
 685       for (red = NB_COLORCUBE_START_INDEX; red < 256 && idx; red += inc_r )
 686       {
 687          /* weird but true */
 688
 689          if( red == NB_COLORCUBE_START_INDEX && green == red && blue == green ) continue;
 690
 691          COLOR_sysPal[idx].peRed = red;
 692          COLOR_sysPal[idx].peGreen = green;
 693          COLOR_sysPal[idx].peBlue = blue;
 694
 695          /* set X color */
 696
 697          if( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL )
 698          {
 699             ColorShifts *shifts = &X11DRV_PALETTE_default_shifts;
 700             if (shifts->physicalRed.max != 255) no_r = (red * shifts->physicalRed.max) / 255;
 701             if (shifts->physicalGreen.max != 255) no_g = (green * shifts->physicalGreen.max) / 255;
 702             if (shifts->physicalBlue.max != 255) no_b = (blue * shifts->physicalBlue.max) / 255;
 703
 704             X11DRV_PALETTE_PaletteToXPixel[idx] = (no_r << shifts->physicalRed.shift) | (no_g << shifts->physicalGreen.shift) | (no_b << shifts->physicalBlue.shift);
 705          }
 706          else if( !(X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED) )
 707          {
 708            XColor color;
 709            color.pixel = (X11DRV_PALETTE_PaletteToXPixel)? X11DRV_PALETTE_PaletteToXPixel[idx] : idx;
 710            color.red = COLOR_sysPal[idx].peRed << 8;
 711            color.green = COLOR_sysPal[idx].peGreen << 8;
 712            color.blue =  COLOR_sysPal[idx].peBlue << 8;
 713            color.flags = DoRed | DoGreen | DoBlue;
 714            XStoreColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &color);
 715          }
 716          idx = X11DRV_PALETTE_freeList[idx];
 717       }
 718
 719   /* try to fill some entries in the "gap" with
 720    * what's already in the colormap - they will be
 721    * mappable to but not changeable. */
 722
 723   if( COLOR_gapStart < COLOR_gapEnd && X11DRV_PALETTE_XPixelToPalette )
 724   {
 725     XColor      xc;
 726     int         r, g, b, max;
 727
 728     max = alloc_system_colors - (256 - (COLOR_gapEnd - COLOR_gapStart));
 729     for ( i = 0, idx = COLOR_gapStart; i < 256 && idx <= COLOR_gapEnd; i++ )
 730       if( X11DRV_PALETTE_XPixelToPalette[i] == NB_PALETTE_EMPTY_VALUE )
 731         {
 732           xc.pixel = i;
 733
 734           XQueryColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &xc);
 735           r = xc.red>>8; g = xc.green>>8; b = xc.blue>>8;
 736
 737           if( xc.pixel < 256 && X11DRV_PALETTE_CheckSysColor( sys_pal_template, RGB(r, g, b)) &&
 738               XAllocColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &xc) )
 739           {
 740              X11DRV_PALETTE_XPixelToPalette[xc.pixel] = idx;
 741              X11DRV_PALETTE_PaletteToXPixel[idx] = xc.pixel;
 742            *(COLORREF*)(COLOR_sysPal + idx) = RGB(r, g, b);
 743              COLOR_sysPal[idx++].peFlags |= PC_SYS_USED;
 744              if( --max <= 0 ) break;
 745           }
 746         }
 747     COLOR_gapFilled = idx - COLOR_gapStart;
 748   }
 749   wine_tsx11_unlock();
 750 }
 751
 752
 753 /***********************************************************************
 754  *           X11DRV_IsSolidColor
 755  *
 756  * Check whether 'color' can be represented with a solid color.
 757  */
 758 BOOL X11DRV_IsSolidColor( COLORREF color )
 759 {
 760     int i;
 761     const PALETTEENTRY *pEntry = COLOR_sysPal;
 762
 763     if (color & 0xff000000) return TRUE;  /* indexed color */
 764
 765     if (!color || (color == 0xffffff)) return TRUE;  /* black or white */
 766
 767     if (X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL) return TRUE;  /* no palette */
 768
 769     EnterCriticalSection( &palette_cs );
 770     for (i = 0; i < palette_size ; i++, pEntry++)
 771     {
 772         if( i < COLOR_gapStart || i > COLOR_gapEnd )
 773             if ((GetRValue(color) == pEntry->peRed) &&
 774                 (GetGValue(color) == pEntry->peGreen) &&
 775                 (GetBValue(color) == pEntry->peBlue))
 776             {
 777                 LeaveCriticalSection( &palette_cs );
 778                 return TRUE;
 779             }
 780     }
 781     LeaveCriticalSection( &palette_cs );
 782     return FALSE;
 783 }
 784
 785
 786 /***********************************************************************
 787  *           X11DRV_PALETTE_ToLogical
 788  *
 789  * Return RGB color for given X pixel.
 790  */
 791 COLORREF X11DRV_PALETTE_ToLogical(X11DRV_PDEVICE *physDev, int pixel)
 792 {
 793     XColor color;
 794
 795 #if 0
 796     /* truecolor visual */
 797
 798     if (screen_depth >= 24) return pixel;
 799 #endif
 800
 801     /* check for hicolor visuals first */
 802
 803     if ( (X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED) && !X11DRV_PALETTE_Graymax )
 804     {
 805          ColorShifts *shifts = &X11DRV_PALETTE_default_shifts;
 806
 807          if(physDev->color_shifts)
 808              shifts = physDev->color_shifts;
 809
 810          color.red = (pixel >> shifts->logicalRed.shift) & shifts->logicalRed.max;
 811          if (shifts->logicalRed.scale<8)
 812              color.red=  color.red   << (8-shifts->logicalRed.scale) |
 813                          color.red   >> (2*shifts->logicalRed.scale-8);
 814          color.green = (pixel >> shifts->logicalGreen.shift) & shifts->logicalGreen.max;
 815          if (shifts->logicalGreen.scale<8)
 816              color.green=color.green << (8-shifts->logicalGreen.scale) |
 817                          color.green >> (2*shifts->logicalGreen.scale-8);
 818          color.blue = (pixel >> shifts->logicalBlue.shift) & shifts->logicalBlue.max;
 819          if (shifts->logicalBlue.scale<8)
 820              color.blue= color.blue  << (8-shifts->logicalBlue.scale)  |
 821                          color.blue  >> (2*shifts->logicalBlue.scale-8);
 822                  return RGB(color.red,color.green,color.blue);
 823     }
 824
 825     /* check if we can bypass X */
 826
 827     if ((screen_depth <= 8) && (pixel < 256) &&
 828         !(X11DRV_PALETTE_PaletteFlags & (X11DRV_PALETTE_VIRTUAL | X11DRV_PALETTE_FIXED)) ) {
 829         COLORREF ret;
 830         EnterCriticalSection( &palette_cs );
 831         ret = *(COLORREF *)(COLOR_sysPal + (X11DRV_PALETTE_XPixelToPalette ? X11DRV_PALETTE_XPixelToPalette[pixel]: pixel)) & 0x00ffffff;
 832         LeaveCriticalSection( &palette_cs );
 833         return ret;
 834     }
 835
 836     wine_tsx11_lock();
 837     color.pixel = pixel;
 838     XQueryColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &color);
 839     wine_tsx11_unlock();
 840     return RGB(color.red >> 8, color.green >> 8, color.blue >> 8);
 841 }
 842
 843
 844 /***********************************************************************
 845  *           X11DRV_SysPaletteLookupPixel
 846  */
 847 static int X11DRV_SysPaletteLookupPixel( COLORREF col, BOOL skipReserved )
 848 {
 849     int i, best = 0, diff = 0x7fffffff;
 850     int r,g,b;
 851
 852     for( i = 0; i < palette_size && diff ; i++ )
 853     {
 854         if( !(COLOR_sysPal[i].peFlags & PC_SYS_USED) ||
 855             (skipReserved && COLOR_sysPal[i].peFlags  & PC_SYS_RESERVED) )
 856             continue;
 857
 858         r = COLOR_sysPal[i].peRed - GetRValue(col);
 859         g = COLOR_sysPal[i].peGreen - GetGValue(col);
 860         b = COLOR_sysPal[i].peBlue - GetBValue(col);
 861
 862         r = r*r + g*g + b*b;
 863
 864         if( r < diff ) { best = i; diff = r; }
 865     }
 866     return best;
 867 }
 868
 869
 870 static inline BOOL colour_is_brighter(RGBQUAD c1, RGBQUAD c2)
 871 {
 872     return (c1.rgbRed * c1.rgbRed + c1.rgbGreen * c1.rgbGreen + c1.rgbBlue * c1.rgbBlue) >
 873         (c2.rgbRed * c2.rgbRed + c2.rgbGreen * c2.rgbGreen + c2.rgbBlue * c2.rgbBlue);
 874 }
 875
 876 /***********************************************************************
 877  *           X11DRV_PALETTE_GetColor
 878  *
 879  * Resolve PALETTEINDEX/PALETTERGB/DIBINDEX COLORREFs to an RGB COLORREF.
 880  */
 881 COLORREF X11DRV_PALETTE_GetColor( X11DRV_PDEVICE *physDev, COLORREF color )
 882 {
 883     HPALETTE             hPal = GetCurrentObject(physDev->dev.hdc, OBJ_PAL );
 884     unsigned char        spec_type = color >> 24;
 885     unsigned             idx = color & 0xffff;
 886     PALETTEENTRY         entry;
 887     RGBQUAD              quad;
 888
 889     switch(spec_type)
 890     {
 891       case 2:  /* PALETTERGB */
 892         idx = GetNearestPaletteIndex( hPal, color );
 893         /* fall through to PALETTEINDEX */
 894
 895       case 1: /* PALETTEINDEX */
 896         if (!GetPaletteEntries( hPal, idx, 1, &entry ))
 897         {
 898             WARN("PALETTEINDEX(%x) : idx %d is out of bounds, assuming black\n", color, idx);
 899             return 0;
 900         }
 901         return RGB( entry.peRed, entry.peGreen, entry.peBlue );
 902
 903       case 0x10: /* DIBINDEX */
 904         if( GetDIBColorTable( physDev->dev.hdc, idx, 1, &quad ) != 1 ) {
 905             WARN("DIBINDEX(%x) : idx %d is out of bounds, assuming black\n", color , idx);
 906             return 0;
 907         }
 908         return RGB( quad.rgbRed, quad.rgbGreen, quad.rgbBlue );
 909
 910       default:
 911         color &= 0xffffff;
 912         /* fall through to RGB */
 913
 914       case 0: /* RGB */
 915         return color;
 916     }
 917 }
 918
 919 /***********************************************************************
 920  *           X11DRV_PALETTE_ToPhysical
 921  *
 922  * Return the physical color closest to 'color'.
 923  */
 924 int X11DRV_PALETTE_ToPhysical( X11DRV_PDEVICE *physDev, COLORREF color )
 925 {
 926     WORD                 index = 0;
 927     HPALETTE             hPal = GetCurrentObject(physDev->dev.hdc, OBJ_PAL );
 928     unsigned char        spec_type = color >> 24;
 929     int *mapping = palette_get_mapping( hPal );
 930     PALETTEENTRY entry;
 931     ColorShifts *shifts = &X11DRV_PALETTE_default_shifts;
 932
 933     if(physDev->color_shifts)
 934         shifts = physDev->color_shifts;
 935
 936     if ( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED )
 937     {
 938         /* there is no colormap limitation; we are going to have to compute
 939          * the pixel value from the visual information stored earlier
 940          */
 941
 942         unsigned        long red, green, blue;
 943         unsigned        idx = color & 0xffff;
 944
 945         switch(spec_type)
 946         {
 947           case 0x10: /* DIBINDEX */
 948             color = X11DRV_PALETTE_GetColor( physDev, color );
 949             break;
 950
 951           case 1: /* PALETTEINDEX */
 952             if (!GetPaletteEntries( hPal, idx, 1, &entry ))
 953             {
 954                 WARN("PALETTEINDEX(%x) : idx %d is out of bounds, assuming black\n", color, idx);
 955                 return 0;
 956             }
 957             if (mapping) return mapping[idx];
 958             color = RGB( entry.peRed, entry.peGreen, entry.peBlue );
 959             break;
 960
 961           default:
 962             color &= 0xffffff;
 963             /* fall through to RGB */
 964
 965           case 0: /* RGB */
 966             if (physDev->depth == 1)
 967             {
 968                 int white = 1;
 969                 RGBQUAD table[2];
 970
 971                 if (GetDIBColorTable( physDev->dev.hdc, 0, 2, table ) == 2)
 972                 {
 973                     if(!colour_is_brighter(table[1], table[0])) white = 0;
 974                 }
 975                 return (((color >> 16) & 0xff) +
 976                         ((color >> 8) & 0xff) + (color & 0xff) > 255*3/2) ? white : 1 - white;
 977             }
 978
 979         }
 980
 981         red = GetRValue(color); green = GetGValue(color); blue = GetBValue(color);
 982
 983         if (X11DRV_PALETTE_Graymax)
 984         {
 985             /* grayscale only; return scaled value */
 986             return ( (red * 30 + green * 59 + blue * 11) * X11DRV_PALETTE_Graymax) / 25500;
 987         }
 988         else
 989         {
 990             /* scale each individually and construct the TrueColor pixel value */
 991             if (shifts->physicalRed.scale < 8)
 992                 red = red >> (8-shifts->physicalRed.scale);
 993             else if (shifts->physicalRed.scale > 8)
 994                 red = red << (shifts->physicalRed.scale-8) |
 995                       red >> (16-shifts->physicalRed.scale);
 996             if (shifts->physicalGreen.scale < 8)
 997                 green = green >> (8-shifts->physicalGreen.scale);
 998             else if (shifts->physicalGreen.scale > 8)
 999                 green = green << (shifts->physicalGreen.scale-8) |
1000                         green >> (16-shifts->physicalGreen.scale);
1001             if (shifts->physicalBlue.scale < 8)
1002                 blue =  blue >> (8-shifts->physicalBlue.scale);
1003             else if (shifts->physicalBlue.scale > 8)
1004                 blue =  blue << (shifts->physicalBlue.scale-8) |
1005                         blue >> (16-shifts->physicalBlue.scale);
1006
1007             return (red << shifts->physicalRed.shift) | (green << shifts->physicalGreen.shift) | (blue << shifts->physicalBlue.shift);
1008         }
1009     }
1010     else
1011     {
1012         if (!mapping)
1013             WARN("Palette %p is not realized\n", hPal);
1014
1015         switch(spec_type)       /* we have to peruse DC and system palette */
1016         {
1017             default:
1018                 color &= 0xffffff;
1019                 /* fall through to RGB */
1020
1021             case 0:  /* RGB */
1022                 if (physDev->depth == 1)
1023                 {
1024                     int white = 1;
1025                     RGBQUAD table[2];
1026
1027                     if (GetDIBColorTable( physDev->dev.hdc, 0, 2, table ) == 2)
1028                     {
1029                         if(!colour_is_brighter(table[1], table[0]))
1030                             white = 0;
1031                     }
1032                     return (((color >> 16) & 0xff) +
1033                             ((color >> 8) & 0xff) + (color & 0xff) > 255*3/2) ? white : 1 - white;
1034                 }
1035
1036                 EnterCriticalSection( &palette_cs );
1037                 index = X11DRV_SysPaletteLookupPixel( color, FALSE);
1038                 if (X11DRV_PALETTE_PaletteToXPixel) index = X11DRV_PALETTE_PaletteToXPixel[index];
1039                 LeaveCriticalSection( &palette_cs );
1040
1041                 /* TRACE(palette,"RGB(%lx) -> pixel %i\n", color, index);
1042                  */
1043                 break;
1044             case 1:  /* PALETTEINDEX */
1045                 index = color & 0xffff;
1046                 if (!GetPaletteEntries( hPal, index, 1, &entry ))
1047                     WARN("PALETTEINDEX(%x) : index %i is out of bounds\n", color, index);
1048                 else if (mapping) index = mapping[index];
1049
1050                 /*  TRACE(palette,"PALETTEINDEX(%04x) -> pixel %i\n", (WORD)color, index);
1051                  */
1052                 break;
1053             case 2:  /* PALETTERGB */
1054                 index = GetNearestPaletteIndex( hPal, color );
1055                 if (mapping) index = mapping[index];
1056                 /* TRACE(palette,"PALETTERGB(%lx) -> pixel %i\n", color, index);
1057                  */
1058                 break;
1059         }
1060     }
1061     return index;
1062 }
1063
1064 /***********************************************************************
1065  *           X11DRV_PALETTE_LookupPixel
1066  */
1067 int X11DRV_PALETTE_LookupPixel(ColorShifts *shifts, COLORREF color )
1068 {
1069     unsigned char spec_type = color >> 24;
1070
1071     /* Only accept RGB which has spec_type = 0 */
1072     if(spec_type)
1073         return 0;
1074
1075     color &= 0xffffff;
1076
1077     if ( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_FIXED )
1078     {
1079         unsigned long red, green, blue;
1080         red = GetRValue(color); green = GetGValue(color); blue = GetBValue(color);
1081
1082         if (X11DRV_PALETTE_Graymax)
1083         {
1084             /* grayscale only; return scaled value */
1085             return ( (red * 30 + green * 59 + blue * 11) * X11DRV_PALETTE_Graymax) / 25500;
1086         }
1087         else
1088         {
1089             /* No shifts are set in case of 1-bit */
1090             if(!shifts) shifts = &X11DRV_PALETTE_default_shifts;
1091
1092             /* scale each individually and construct the TrueColor pixel value */
1093             if (shifts->physicalRed.scale < 8)
1094                 red = red >> (8-shifts->physicalRed.scale);
1095             else if (shifts->physicalRed.scale > 8)
1096                 red = red << (shifts->physicalRed.scale-8) |
1097                       red >> (16-shifts->physicalRed.scale);
1098             if (shifts->physicalGreen.scale < 8)
1099                 green = green >> (8-shifts->physicalGreen.scale);
1100             else if (shifts->physicalGreen.scale > 8)
1101                 green = green << (shifts->physicalGreen.scale-8) |
1102                         green >> (16-shifts->physicalGreen.scale);
1103             if (shifts->physicalBlue.scale < 8)
1104                 blue =  blue >> (8-shifts->physicalBlue.scale);
1105             else if (shifts->physicalBlue.scale > 8)
1106                 blue =  blue << (shifts->physicalBlue.scale-8) |
1107                         blue >> (16-shifts->physicalBlue.scale);
1108
1109             return (red << shifts->physicalRed.shift) | (green << shifts->physicalGreen.shift) | (blue << shifts->physicalBlue.shift);
1110         }
1111     }
1112     else
1113     {
1114         WORD index;
1115         HPALETTE hPal = GetStockObject(DEFAULT_PALETTE);
1116         int *mapping = palette_get_mapping( hPal );
1117
1118         if (!mapping)
1119             WARN("Palette %p is not realized\n", hPal);
1120
1121         EnterCriticalSection( &palette_cs );
1122         index = X11DRV_SysPaletteLookupPixel( color, FALSE);
1123         if (X11DRV_PALETTE_PaletteToXPixel)
1124             index = X11DRV_PALETTE_PaletteToXPixel[index];
1125         LeaveCriticalSection( &palette_cs );
1126         return index;
1127     }
1128 }
1129
1130
1131 /***********************************************************************
1132  *           X11DRV_PALETTE_LookupSystemXPixel
1133  */
1134 static int X11DRV_PALETTE_LookupSystemXPixel(COLORREF col)
1135 {
1136  int            i, best = 0, diff = 0x7fffffff;
1137  int            size = palette_size;
1138  int            r,g,b;
1139
1140  for( i = 0; i < size && diff ; i++ )
1141     {
1142       if( i == NB_RESERVED_COLORS/2 )
1143       {
1144         int newi = size - NB_RESERVED_COLORS/2;
1145         if (newi>i) i=newi;
1146       }
1147
1148       r = COLOR_sysPal[i].peRed - GetRValue(col);
1149       g = COLOR_sysPal[i].peGreen - GetGValue(col);
1150       b = COLOR_sysPal[i].peBlue - GetBValue(col);
1151
1152       r = r*r + g*g + b*b;
1153
1154       if( r < diff ) { best = i; diff = r; }
1155     }
1156
1157  return (X11DRV_PALETTE_PaletteToXPixel)? X11DRV_PALETTE_PaletteToXPixel[best] : best;
1158 }
1159
1160 /***********************************************************************
1161  *           X11DRV_PALETTE_FormatSystemPalette
1162  */
1163 static void X11DRV_PALETTE_FormatSystemPalette(void)
1164 {
1165  /* Build free list so we'd have an easy way to find
1166   * out if there are any available colorcells.
1167   */
1168
1169   int i, j = X11DRV_PALETTE_firstFree = NB_RESERVED_COLORS/2;
1170
1171   COLOR_sysPal[j].peFlags = 0;
1172   for( i = NB_RESERVED_COLORS/2 + 1 ; i < 256 - NB_RESERVED_COLORS/2 ; i++ )
1173     if( i < COLOR_gapStart || i > COLOR_gapEnd )
1174       {
1175         COLOR_sysPal[i].peFlags = 0;  /* unused tag */
1176         X11DRV_PALETTE_freeList[j] = i;   /* next */
1177         j = i;
1178       }
1179   X11DRV_PALETTE_freeList[j] = 0;
1180 }
1181
1182 /***********************************************************************
1183  *           X11DRV_PALETTE_CheckSysColor
1184  */
1185 static BOOL X11DRV_PALETTE_CheckSysColor( const PALETTEENTRY *sys_pal_template, COLORREF c)
1186 {
1187   int i;
1188   for( i = 0; i < NB_RESERVED_COLORS; i++ )
1189        if( c == (*(const COLORREF*)(sys_pal_template + i) & 0x00ffffff) )
1190            return 0;
1191   return 1;
1192 }
1193
1194
1195 /***********************************************************************
1196  *           X11DRV_LookupSysPaletteExact
1197  */
1198 static int X11DRV_LookupSysPaletteExact( BYTE r, BYTE g, BYTE b )
1199 {
1200     int i;
1201     for( i = 0; i < palette_size; i++ )
1202     {
1203         if( COLOR_sysPal[i].peFlags & PC_SYS_USED )  /* skips gap */
1204             if( COLOR_sysPal[i].peRed == r &&
1205                 COLOR_sysPal[i].peGreen == g &&
1206                 COLOR_sysPal[i].peBlue == b )
1207                 return i;
1208     }
1209     return -1;
1210 }
1211
1212
1213 /***********************************************************************
1214  *              RealizePalette    (X11DRV.@)
1215  */
1216 UINT X11DRV_RealizePalette( PHYSDEV dev, HPALETTE hpal, BOOL primary )
1217 {
1218     X11DRV_PDEVICE *physDev = get_x11drv_dev( dev );
1219     char flag;
1220     int  index;
1221     UINT i, iRemapped = 0;
1222     int *prev_mapping, *mapping;
1223     PALETTEENTRY entries[256];
1224     WORD num_entries;
1225
1226     if (X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL) return 0;
1227
1228     if (!GetObjectW( hpal, sizeof(num_entries), &num_entries )) return 0;
1229
1230     /* initialize palette mapping table */
1231     prev_mapping = palette_get_mapping( hpal );
1232     if (prev_mapping)
1233         mapping = HeapReAlloc( GetProcessHeap(), 0, prev_mapping, sizeof(int)*num_entries);
1234     else
1235         mapping = HeapAlloc( GetProcessHeap(), 0, sizeof(int)*num_entries);
1236
1237     if(mapping == NULL) {
1238         ERR("Unable to allocate new mapping -- memory exhausted!\n");
1239         return 0;
1240     }
1241     palette_set_mapping( hpal, mapping );
1242
1243     if (num_entries > 256)
1244     {
1245         FIXME( "more than 256 entries not supported\n" );
1246         num_entries = 256;
1247     }
1248     if (!(num_entries = GetPaletteEntries( hpal, 0, num_entries, entries ))) return 0;
1249
1250     /* reset dynamic system palette entries */
1251
1252     EnterCriticalSection( &palette_cs );
1253     if( primary && X11DRV_PALETTE_firstFree != -1)
1254          X11DRV_PALETTE_FormatSystemPalette();
1255
1256     for (i = 0; i < num_entries; i++)
1257     {
1258         index = -1;
1259         flag = PC_SYS_USED;
1260
1261         /* Even though the docs say that only one flag is to be set,
1262          * they are a bitmask. At least one app sets more than one at
1263          * the same time. */
1264         if ( entries[i].peFlags & PC_EXPLICIT ) {
1265             /* palette entries are indices into system palette */
1266             index = *(WORD*)&entries[i];
1267             if( index > 255 || (index >= COLOR_gapStart && index <= COLOR_gapEnd) )
1268             {
1269                 WARN("PC_EXPLICIT: idx %d out of system palette, assuming black.\n", index);
1270                 index = 0;
1271             }
1272             if( X11DRV_PALETTE_PaletteToXPixel ) index = X11DRV_PALETTE_PaletteToXPixel[index];
1273         } else {
1274             if ( entries[i].peFlags & PC_RESERVED ) {
1275                 /* forbid future mappings to this entry */
1276                 flag |= PC_SYS_RESERVED;
1277             }
1278
1279             if (! (entries[i].peFlags & PC_NOCOLLAPSE) ) {
1280                 /* try to collapse identical colors */
1281                 index = X11DRV_LookupSysPaletteExact( entries[i].peRed, entries[i].peGreen, entries[i].peBlue );
1282             }
1283
1284             if( index < 0 )
1285             {
1286                 if( X11DRV_PALETTE_firstFree > 0 )
1287                 {
1288                     XColor color;
1289                     index = X11DRV_PALETTE_firstFree;  /* ought to be available */
1290                     X11DRV_PALETTE_firstFree = X11DRV_PALETTE_freeList[index];
1291
1292                     color.pixel = (X11DRV_PALETTE_PaletteToXPixel) ? X11DRV_PALETTE_PaletteToXPixel[index] : index;
1293                     color.red = entries[i].peRed << 8;
1294                     color.green = entries[i].peGreen << 8;
1295                     color.blue = entries[i].peBlue << 8;
1296                     color.flags = DoRed | DoGreen | DoBlue;
1297                     wine_tsx11_lock();
1298                     XStoreColor(gdi_display, X11DRV_PALETTE_PaletteXColormap, &color);
1299                     wine_tsx11_unlock();
1300
1301                     COLOR_sysPal[index] = entries[i];
1302                     COLOR_sysPal[index].peFlags = flag;
1303                     X11DRV_PALETTE_freeList[index] = 0;
1304
1305                     if( X11DRV_PALETTE_PaletteToXPixel ) index = X11DRV_PALETTE_PaletteToXPixel[index];
1306                 }
1307                 else if ( X11DRV_PALETTE_PaletteFlags & X11DRV_PALETTE_VIRTUAL )
1308                 {
1309                     index = X11DRV_PALETTE_LookupPixel( physDev->color_shifts, RGB( entries[i].peRed, entries[i].peGreen, entries[i].peBlue ));
1310                 }
1311
1312                 /* we have to map to existing entry in the system palette */
1313
1314                 index = X11DRV_SysPaletteLookupPixel( RGB( entries[i].peRed, entries[i].peGreen, entries[i].peBlue ),
1315                                                       TRUE );
1316             }
1317
1318             if( X11DRV_PALETTE_PaletteToXPixel ) index = X11DRV_PALETTE_PaletteToXPixel[index];
1319         }
1320
1321         if( !prev_mapping || mapping[i] != index ) iRemapped++;
1322         mapping[i] = index;
1323
1324         TRACE("entry %i (%x) -> pixel %i\n", i, *(COLORREF*)&entries[i], index);
1325
1326     }
1327     LeaveCriticalSection( &palette_cs );
1328     return iRemapped;
1329 }
1330
1331
1332 /***********************************************************************
1333  *              UnrealizePalette    (X11DRV.@)
1334  */
1335 BOOL X11DRV_UnrealizePalette( HPALETTE hpal )
1336 {
1337     int *mapping = palette_get_mapping( hpal );
1338
1339     if (mapping)
1340     {
1341         wine_tsx11_lock();
1342         XDeleteContext( gdi_display, (XID)hpal, palette_context );
1343         wine_tsx11_unlock();
1344         HeapFree( GetProcessHeap(), 0, mapping );
1345     }
1346     return TRUE;
1347 }
1348
1349
1350 /***********************************************************************
1351  *              GetSystemPaletteEntries   (X11DRV.@)
1352  */
1353 UINT X11DRV_GetSystemPaletteEntries( PHYSDEV dev, UINT start, UINT count, LPPALETTEENTRY entries )
1354 {
1355     UINT i;
1356
1357     if (!entries) return palette_size;
1358     if (start >= palette_size) return 0;
1359     if (start + count >= palette_size) count = palette_size - start;
1360
1361     EnterCriticalSection( &palette_cs );
1362     for (i = 0; i < count; i++)
1363     {
1364         entries[i].peRed   = COLOR_sysPal[start + i].peRed;
1365         entries[i].peGreen = COLOR_sysPal[start + i].peGreen;
1366         entries[i].peBlue  = COLOR_sysPal[start + i].peBlue;
1367         entries[i].peFlags = 0;
1368         TRACE("\tidx(%02x) -> RGB(%08x)\n", start + i, *(COLORREF*)(entries + i) );
1369     }
1370     LeaveCriticalSection( &palette_cs );
1371     return count;
1372 }
1373
1374
1375 /***********************************************************************
1376  *              GetNearestColor   (X11DRV.@)
1377  */
1378 COLORREF X11DRV_GetNearestColor( PHYSDEV dev, COLORREF color )
1379 {
1380     unsigned char spec_type = color >> 24;
1381     COLORREF nearest;
1382
1383     if (!palette_size) return color;
1384
1385     if (spec_type == 1 || spec_type == 2)
1386     {
1387         /* we need logical palette for PALETTERGB and PALETTEINDEX colorrefs */
1388
1389         UINT index;
1390         PALETTEENTRY entry;
1391         HPALETTE hpal = GetCurrentObject( dev->hdc, OBJ_PAL );
1392
1393         if (!hpal) hpal = GetStockObject( DEFAULT_PALETTE );
1394
1395         if (spec_type == 2) /* PALETTERGB */
1396             index = GetNearestPaletteIndex( hpal, color );
1397         else  /* PALETTEINDEX */
1398             index = LOWORD(color);
1399
1400         if (!GetPaletteEntries( hpal, index, 1, &entry ))
1401         {
1402             WARN("RGB(%x) : idx %d is out of bounds, assuming NULL\n", color, index );
1403             if (!GetPaletteEntries( hpal, 0, 1, &entry )) return CLR_INVALID;
1404         }
1405         color = RGB( entry.peRed,  entry.peGreen, entry.peBlue );
1406     }
1407     color &= 0x00ffffff;
1408     EnterCriticalSection( &palette_cs );
1409     nearest = (0x00ffffff & *(COLORREF*)(COLOR_sysPal + X11DRV_SysPaletteLookupPixel(color, FALSE)));
1410     LeaveCriticalSection( &palette_cs );
1411
1412     TRACE("(%06x): returning %06x\n", color, nearest );
1413     return nearest;
1414 }
1415
1416
1417 /***********************************************************************
1418  *              RealizeDefaultPalette    (X11DRV.@)
1419  */
1420 UINT X11DRV_RealizeDefaultPalette( PHYSDEV dev )
1421 {
1422     UINT ret = 0;
1423
1424     if (palette_size && GetObjectType(dev->hdc) != OBJ_MEMDC)
1425     {
1426         /* lookup is needed to account for SetSystemPaletteUse() stuff */
1427         int i, index, *mapping = palette_get_mapping( GetStockObject(DEFAULT_PALETTE) );
1428         PALETTEENTRY entries[NB_RESERVED_COLORS];
1429
1430         GetPaletteEntries( GetStockObject(DEFAULT_PALETTE), 0, NB_RESERVED_COLORS, entries );
1431         EnterCriticalSection( &palette_cs );
1432         for( i = 0; i < NB_RESERVED_COLORS; i++ )
1433         {
1434             index = X11DRV_PALETTE_LookupSystemXPixel( RGB(entries[i].peRed,
1435                                                            entries[i].peGreen,
1436                                                            entries[i].peBlue) );
1437             /* mapping is allocated in COLOR_InitPalette() */
1438             if( index != mapping[i] )
1439             {
1440                 mapping[i]=index;
1441                 ret++;
1442             }
1443         }
1444         LeaveCriticalSection( &palette_cs );
1445     }
1446     return ret;
1447 }