avifil32: Don't leak the buffer on HeapReAlloc() failure in AVIFILE_AddFrame().
[wine] / dlls / winex11.drv / brush.c
1 /*
2  * X11DRV brush objects
3  *
4  * Copyright 1993, 1994  Alexandre Julliard
5  *
6  * This library is free software; you can redistribute it and/or
7  * modify it under the terms of the GNU Lesser General Public
8  * License as published by the Free Software Foundation; either
9  * version 2.1 of the License, or (at your option) any later version.
10  *
11  * This library is distributed in the hope that it will be useful,
12  * but WITHOUT ANY WARRANTY; without even the implied warranty of
13  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
14  * Lesser General Public License for more details.
15  *
16  * You should have received a copy of the GNU Lesser General Public
17  * License along with this library; if not, write to the Free Software
18  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA 02110-1301, USA
19  */
20
21 #include "config.h"
22
23 #include <stdlib.h>
24
25 #include "wine/winbase16.h"
26 #include "x11drv.h"
27 #include "wine/debug.h"
28
29 WINE_DEFAULT_DEBUG_CHANNEL(gdi);
30
31 static const char HatchBrushes[][8] =
32 {
33     { 0x00, 0x00, 0x00, 0xff, 0x00, 0x00, 0x00, 0x00 }, /* HS_HORIZONTAL */
34     { 0x08, 0x08, 0x08, 0x08, 0x08, 0x08, 0x08, 0x08 }, /* HS_VERTICAL   */
35     { 0x01, 0x02, 0x04, 0x08, 0x10, 0x20, 0x40, 0x80 }, /* HS_FDIAGONAL  */
36     { 0x80, 0x40, 0x20, 0x10, 0x08, 0x04, 0x02, 0x01 }, /* HS_BDIAGONAL  */
37     { 0x08, 0x08, 0x08, 0xff, 0x08, 0x08, 0x08, 0x08 }, /* HS_CROSS      */
38     { 0x81, 0x42, 0x24, 0x18, 0x18, 0x24, 0x42, 0x81 }, /* HS_DIAGCROSS  */
39 };
40
41   /* Levels of each primary for dithering */
42 #define PRIMARY_LEVELS  3
43 #define TOTAL_LEVELS    (PRIMARY_LEVELS*PRIMARY_LEVELS*PRIMARY_LEVELS)
44
45  /* Dithering matrix size  */
46 #define MATRIX_SIZE     8
47 #define MATRIX_SIZE_2   (MATRIX_SIZE*MATRIX_SIZE)
48
49   /* Total number of possible levels for a dithered primary color */
50 #define DITHER_LEVELS   (MATRIX_SIZE_2 * (PRIMARY_LEVELS-1) + 1)
51
52   /* Dithering matrix */
53 static const int dither_matrix[MATRIX_SIZE_2] =
54 {
55      0, 32,  8, 40,  2, 34, 10, 42,
56     48, 16, 56, 24, 50, 18, 58, 26,
57     12, 44,  4, 36, 14, 46,  6, 38,
58     60, 28, 52, 20, 62, 30, 54, 22,
59      3, 35, 11, 43,  1, 33,  9, 41,
60     51, 19, 59, 27, 49, 17, 57, 25,
61     15, 47,  7, 39, 13, 45,  5, 37,
62     63, 31, 55, 23, 61, 29, 53, 21
63 };
64
65   /* Mapping between (R,G,B) triples and EGA colors */
66 static const int EGAmapping[TOTAL_LEVELS] =
67 {
68     0,  /* 000000 -> 000000 */
69     4,  /* 00007f -> 000080 */
70     12, /* 0000ff -> 0000ff */
71     2,  /* 007f00 -> 008000 */
72     6,  /* 007f7f -> 008080 */
73     6,  /* 007fff -> 008080 */
74     10, /* 00ff00 -> 00ff00 */
75     6,  /* 00ff7f -> 008080 */
76     14, /* 00ffff -> 00ffff */
77     1,  /* 7f0000 -> 800000 */
78     5,  /* 7f007f -> 800080 */
79     5,  /* 7f00ff -> 800080 */
80     3,  /* 7f7f00 -> 808000 */
81     8,  /* 7f7f7f -> 808080 */
82     7,  /* 7f7fff -> c0c0c0 */
83     3,  /* 7fff00 -> 808000 */
84     7,  /* 7fff7f -> c0c0c0 */
85     7,  /* 7fffff -> c0c0c0 */
86     9,  /* ff0000 -> ff0000 */
87     5,  /* ff007f -> 800080 */
88     13, /* ff00ff -> ff00ff */
89     3,  /* ff7f00 -> 808000 */
90     7,  /* ff7f7f -> c0c0c0 */
91     7,  /* ff7fff -> c0c0c0 */
92     11, /* ffff00 -> ffff00 */
93     7,  /* ffff7f -> c0c0c0 */
94     15  /* ffffff -> ffffff */
95 };
96
97 #define PIXEL_VALUE(r,g,b) \
98     X11DRV_PALETTE_mapEGAPixel[EGAmapping[((r)*PRIMARY_LEVELS+(g))*PRIMARY_LEVELS+(b)]]
99
100 static const COLORREF BLACK = RGB(0, 0, 0);
101 static const COLORREF WHITE = RGB(0xff, 0xff, 0xff);
102
103 /***********************************************************************
104  *           BRUSH_DitherColor
105  */
106 static Pixmap BRUSH_DitherColor( COLORREF color, int depth)
107 {
108     /* X image for building dithered pixmap */
109     static XImage *ditherImage = NULL;
110     static COLORREF prevColor = 0xffffffff;
111     unsigned int x, y;
112     Pixmap pixmap;
113     GC gc = get_bitmap_gc(depth);
114
115     if (!ditherImage)
116     {
117         ditherImage = X11DRV_DIB_CreateXImage( MATRIX_SIZE, MATRIX_SIZE, depth );
118         if (!ditherImage) 
119         {
120             ERR("Could not create dither image\n");
121             return 0;
122         }
123     }
124
125     wine_tsx11_lock();
126     if (color != prevColor)
127     {
128         int r = GetRValue( color ) * DITHER_LEVELS;
129         int g = GetGValue( color ) * DITHER_LEVELS;
130         int b = GetBValue( color ) * DITHER_LEVELS;
131         const int *pmatrix = dither_matrix;
132
133         for (y = 0; y < MATRIX_SIZE; y++)
134         {
135             for (x = 0; x < MATRIX_SIZE; x++)
136             {
137                 int d  = *pmatrix++ * 256;
138                 int dr = ((r + d) / MATRIX_SIZE_2) / 256;
139                 int dg = ((g + d) / MATRIX_SIZE_2) / 256;
140                 int db = ((b + d) / MATRIX_SIZE_2) / 256;
141                 XPutPixel( ditherImage, x, y, PIXEL_VALUE(dr,dg,db) );
142             }
143         }
144         prevColor = color;
145     }
146
147     pixmap = XCreatePixmap( gdi_display, root_window, MATRIX_SIZE, MATRIX_SIZE, depth );
148     XPutImage( gdi_display, pixmap, gc, ditherImage, 0, 0,
149                0, 0, MATRIX_SIZE, MATRIX_SIZE );
150     wine_tsx11_unlock();
151
152     return pixmap;
153 }
154
155
156 /***********************************************************************
157  *           BRUSH_DitherMono
158  */
159 static Pixmap BRUSH_DitherMono( COLORREF color )
160 {
161     /* This makes the spray work in Win 3.11 pbrush.exe */
162     /* FIXME. Extend this basic selection of dither patterns */
163     static const char gray_dither[][2] = {{ 0x1, 0x0 }, /* DKGRAY */
164                                           { 0x2, 0x1 }, /* GRAY */
165                                           { 0x1, 0x3 }, /* LTGRAY */
166     };                                      
167     int gray = (30 * GetRValue(color) + 59 * GetGValue(color) + 11 * GetBValue(color)) / 100;
168     int idx = gray * (sizeof gray_dither/sizeof gray_dither[0] + 1)/256 - 1;
169     Pixmap pixmap;
170
171     TRACE("color=%06x -> gray=%x\n", color, gray);
172
173     wine_tsx11_lock();
174     pixmap = XCreateBitmapFromData( gdi_display, root_window, 
175                                     gray_dither[idx],
176                                     2, 2 );
177     wine_tsx11_unlock();
178     return pixmap;
179 }
180
181 /***********************************************************************
182  *           BRUSH_SelectSolidBrush
183  */
184 static void BRUSH_SelectSolidBrush( X11DRV_PDEVICE *physDev, COLORREF color )
185 {
186     if ((physDev->depth > 1) && (screen_depth <= 8) && !X11DRV_IsSolidColor( color ))
187     {
188           /* Dithered brush */
189         physDev->brush.pixmap = BRUSH_DitherColor( color, physDev->depth );
190         physDev->brush.fillStyle = FillTiled;
191         physDev->brush.pixel = 0;
192     }
193     else if (physDev->depth == 1 && color != WHITE && color != BLACK)
194     {
195         physDev->brush.pixel = 0;
196         physDev->brush.pixmap = BRUSH_DitherMono( color );
197         physDev->brush.fillStyle = FillTiled;
198     }
199     else
200     {
201           /* Solid brush */
202         physDev->brush.pixel = X11DRV_PALETTE_ToPhysical( physDev, color );
203         physDev->brush.fillStyle = FillSolid;
204     }
205 }
206
207
208 /***********************************************************************
209  *           BRUSH_SelectPatternBrush
210  */
211 static BOOL BRUSH_SelectPatternBrush( X11DRV_PDEVICE *physDev, HBITMAP hbitmap )
212 {
213     BITMAP bitmap;
214     X_PHYSBITMAP *physBitmap = X11DRV_get_phys_bitmap( hbitmap );
215
216     if (!physBitmap || !GetObjectW( hbitmap, sizeof(bitmap), &bitmap )) return FALSE;
217
218     if ((physDev->depth == 1) && (physBitmap->pixmap_depth != 1))
219     {
220         wine_tsx11_lock();
221         /* Special case: a color pattern on a monochrome DC */
222         physDev->brush.pixmap = XCreatePixmap( gdi_display, root_window,
223                                                bitmap.bmWidth, bitmap.bmHeight, 1);
224         /* FIXME: should probably convert to monochrome instead */
225         XCopyPlane( gdi_display, physBitmap->pixmap, physDev->brush.pixmap,
226                     get_bitmap_gc(1), 0, 0, bitmap.bmWidth, bitmap.bmHeight, 0, 0, 1 );
227         wine_tsx11_unlock();
228     }
229     else
230     {
231         /* XRender is needed because of possible depth conversion */
232         X11DRV_XRender_CopyBrush(physDev, physBitmap, bitmap.bmWidth, bitmap.bmHeight);
233     }
234
235     if (physBitmap->pixmap_depth > 1)
236     {
237         physDev->brush.fillStyle = FillTiled;
238         physDev->brush.pixel = 0;  /* Ignored */
239     }
240     else
241     {
242         physDev->brush.fillStyle = FillOpaqueStippled;
243         physDev->brush.pixel = -1;  /* Special case (see DC_SetupGCForBrush) */
244     }
245     return TRUE;
246 }
247
248
249 /***********************************************************************
250  *           SelectBrush   (X11DRV.@)
251  */
252 HBRUSH CDECL X11DRV_SelectBrush( X11DRV_PDEVICE *physDev, HBRUSH hbrush )
253 {
254     LOGBRUSH logbrush;
255     HBITMAP hBitmap;
256     BITMAPINFO * bmpInfo;
257
258     if (!GetObjectA( hbrush, sizeof(logbrush), &logbrush )) return 0;
259
260     TRACE("hdc=%p hbrush=%p\n", physDev->hdc,hbrush);
261
262     if (physDev->brush.pixmap)
263     {
264         wine_tsx11_lock();
265         XFreePixmap( gdi_display, physDev->brush.pixmap );
266         wine_tsx11_unlock();
267         physDev->brush.pixmap = 0;
268     }
269     physDev->brush.style = logbrush.lbStyle;
270     if (hbrush == GetStockObject( DC_BRUSH ))
271         logbrush.lbColor = GetDCBrushColor( physDev->hdc );
272
273     switch(logbrush.lbStyle)
274     {
275       case BS_NULL:
276         TRACE("BS_NULL\n" );
277         break;
278
279       case BS_SOLID:
280         TRACE("BS_SOLID\n" );
281         BRUSH_SelectSolidBrush( physDev, logbrush.lbColor );
282         break;
283
284       case BS_HATCHED:
285         TRACE("BS_HATCHED\n" );
286         physDev->brush.pixel = X11DRV_PALETTE_ToPhysical( physDev, logbrush.lbColor );
287         wine_tsx11_lock();
288         physDev->brush.pixmap = XCreateBitmapFromData( gdi_display, root_window,
289                                                        HatchBrushes[logbrush.lbHatch], 8, 8 );
290         wine_tsx11_unlock();
291         physDev->brush.fillStyle = FillStippled;
292         break;
293
294       case BS_PATTERN:
295         TRACE("BS_PATTERN\n");
296         if (!BRUSH_SelectPatternBrush( physDev, (HBITMAP)logbrush.lbHatch )) return 0;
297         break;
298
299       case BS_DIBPATTERN:
300         TRACE("BS_DIBPATTERN\n");
301         if ((bmpInfo = GlobalLock( (HGLOBAL)logbrush.lbHatch )))
302         {
303             int size = bitmap_info_size( bmpInfo, logbrush.lbColor );
304             hBitmap = CreateDIBitmap( physDev->hdc, &bmpInfo->bmiHeader,
305                                         CBM_INIT, ((char *)bmpInfo) + size,
306                                         bmpInfo,
307                                         (WORD)logbrush.lbColor );
308             BRUSH_SelectPatternBrush( physDev, hBitmap );
309             DeleteObject( hBitmap );
310             GlobalUnlock( (HGLOBAL)logbrush.lbHatch );
311         }
312
313         break;
314     }
315     return hbrush;
316 }
317
318
319 /***********************************************************************
320  *           SetDCBrushColor (X11DRV.@)
321  */
322 COLORREF CDECL X11DRV_SetDCBrushColor( X11DRV_PDEVICE *physDev, COLORREF crColor )
323 {
324     if (GetCurrentObject(physDev->hdc, OBJ_BRUSH) == GetStockObject( DC_BRUSH ))
325         BRUSH_SelectSolidBrush( physDev, crColor );
326
327     return crColor;
328 }