d3dcompiler_43/tests: Make some variables unsigned.
[wine] / dlls / d3d10core / shader.c
1 /*
2  * Copyright 2009 Henri Verbeet for CodeWeavers
3  *
4  * This library is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * This library is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with this library; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA 02110-1301, USA
17  *
18  */
19
20 #include "config.h"
21 #include "wine/port.h"
22
23 #include "d3d10core_private.h"
24
25 WINE_DEFAULT_DEBUG_CHANNEL(d3d10core);
26
27 static HRESULT shdr_handler(const char *data, DWORD data_size, DWORD tag, void *ctx)
28 {
29     struct d3d10_shader_info *shader_info = ctx;
30     HRESULT hr;
31
32     switch(tag)
33     {
34         case TAG_OSGN:
35             hr = shader_parse_signature(data, data_size, shader_info->output_signature);
36             if (FAILED(hr)) return hr;
37             break;
38
39         case TAG_SHDR:
40             shader_info->shader_code = (const DWORD *)data;
41             break;
42
43         default:
44             FIXME("Unhandled chunk %s\n", debugstr_an((const char *)&tag, 4));
45             break;
46     }
47
48     return S_OK;
49 }
50
51 static HRESULT shader_extract_from_dxbc(const void *dxbc, SIZE_T dxbc_length, struct d3d10_shader_info *shader_info)
52 {
53     HRESULT hr;
54
55     shader_info->shader_code = NULL;
56     memset(shader_info->output_signature, 0, sizeof(*shader_info->output_signature));
57
58     hr = parse_dxbc(dxbc, dxbc_length, shdr_handler, shader_info);
59     if (!shader_info->shader_code) hr = E_FAIL;
60
61     if (FAILED(hr))
62     {
63         ERR("Failed to parse shader, hr %#x\n", hr);
64         shader_free_signature(shader_info->output_signature);
65     }
66
67     return hr;
68 }
69
70 HRESULT shader_parse_signature(const char *data, DWORD data_size, struct wined3d_shader_signature *s)
71 {
72     struct wined3d_shader_signature_element *e;
73     unsigned int string_data_offset;
74     unsigned int string_data_size;
75     const char *ptr = data;
76     char *string_data;
77     unsigned int i;
78     DWORD count;
79
80     read_dword(&ptr, &count);
81     TRACE("%u elements\n", count);
82
83     skip_dword_unknown(&ptr, 1);
84
85     e = HeapAlloc(GetProcessHeap(), 0, count * sizeof(*e));
86     if (!e)
87     {
88         ERR("Failed to allocate input signature memory.\n");
89         return E_OUTOFMEMORY;
90     }
91
92     /* 2 DWORDs for the header, 6 for each element. */
93     string_data_offset = 2 * sizeof(DWORD) + count * 6 * sizeof(DWORD);
94     string_data_size = data_size - string_data_offset;
95     string_data = HeapAlloc(GetProcessHeap(), 0, string_data_size);
96     if (!string_data)
97     {
98         ERR("Failed to allocate string data memory.\n");
99         HeapFree(GetProcessHeap(), 0, e);
100         return E_OUTOFMEMORY;
101     }
102     memcpy(string_data, data + string_data_offset, string_data_size);
103
104     for (i = 0; i < count; ++i)
105     {
106         UINT name_offset;
107
108         read_dword(&ptr, &name_offset);
109         e[i].semantic_name = string_data + (name_offset - string_data_offset);
110         read_dword(&ptr, &e[i].semantic_idx);
111         read_dword(&ptr, &e[i].sysval_semantic);
112         read_dword(&ptr, &e[i].component_type);
113         read_dword(&ptr, &e[i].register_idx);
114         read_dword(&ptr, &e[i].mask);
115
116         TRACE("semantic: %s, semantic idx: %u, sysval_semantic %#x, "
117                 "type %u, register idx: %u, use_mask %#x, input_mask %#x\n",
118                 debugstr_a(e[i].semantic_name), e[i].semantic_idx, e[i].sysval_semantic,
119                 e[i].component_type, e[i].register_idx, (e[i].mask >> 8) & 0xff, e[i].mask & 0xff);
120     }
121
122     s->elements = e;
123     s->element_count = count;
124     s->string_data = string_data;
125
126     return S_OK;
127 }
128
129 void shader_free_signature(struct wined3d_shader_signature *s)
130 {
131     HeapFree(GetProcessHeap(), 0, s->string_data);
132     HeapFree(GetProcessHeap(), 0, s->elements);
133 }
134
135 /* IUnknown methods */
136
137 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_QueryInterface(ID3D10VertexShader *iface,
138         REFIID riid, void **object)
139 {
140     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
141
142     if (IsEqualGUID(riid, &IID_ID3D10VertexShader)
143             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
144             || IsEqualGUID(riid, &IID_IUnknown))
145     {
146         IUnknown_AddRef(iface);
147         *object = iface;
148         return S_OK;
149     }
150
151     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
152
153     *object = NULL;
154     return E_NOINTERFACE;
155 }
156
157 static ULONG STDMETHODCALLTYPE d3d10_vertex_shader_AddRef(ID3D10VertexShader *iface)
158 {
159     struct d3d10_vertex_shader *This = (struct d3d10_vertex_shader *)iface;
160     ULONG refcount = InterlockedIncrement(&This->refcount);
161
162     TRACE("%p increasing refcount to %u\n", This, refcount);
163
164     if (refcount == 1)
165     {
166         IWineD3DVertexShader_AddRef(This->wined3d_shader);
167     }
168
169     return refcount;
170 }
171
172 static ULONG STDMETHODCALLTYPE d3d10_vertex_shader_Release(ID3D10VertexShader *iface)
173 {
174     struct d3d10_vertex_shader *This = (struct d3d10_vertex_shader *)iface;
175     ULONG refcount = InterlockedDecrement(&This->refcount);
176
177     TRACE("%p decreasing refcount to %u\n", This, refcount);
178
179     if (!refcount)
180     {
181         IWineD3DVertexShader_Release(This->wined3d_shader);
182     }
183
184     return refcount;
185 }
186
187 /* ID3D10DeviceChild methods */
188
189 static void STDMETHODCALLTYPE d3d10_vertex_shader_GetDevice(ID3D10VertexShader *iface, ID3D10Device **device)
190 {
191     FIXME("iface %p, device %p stub!\n", iface, device);
192 }
193
194 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_GetPrivateData(ID3D10VertexShader *iface,
195         REFGUID guid, UINT *data_size, void *data)
196 {
197     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
198             iface, debugstr_guid(guid), data_size, data);
199
200     return E_NOTIMPL;
201 }
202
203 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_SetPrivateData(ID3D10VertexShader *iface,
204         REFGUID guid, UINT data_size, const void *data)
205 {
206     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
207             iface, debugstr_guid(guid), data_size, data);
208
209     return E_NOTIMPL;
210 }
211
212 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_SetPrivateDataInterface(ID3D10VertexShader *iface,
213         REFGUID guid, const IUnknown *data)
214 {
215     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
216
217     return E_NOTIMPL;
218 }
219
220 static const struct ID3D10VertexShaderVtbl d3d10_vertex_shader_vtbl =
221 {
222     /* IUnknown methods */
223     d3d10_vertex_shader_QueryInterface,
224     d3d10_vertex_shader_AddRef,
225     d3d10_vertex_shader_Release,
226     /* ID3D10DeviceChild methods */
227     d3d10_vertex_shader_GetDevice,
228     d3d10_vertex_shader_GetPrivateData,
229     d3d10_vertex_shader_SetPrivateData,
230     d3d10_vertex_shader_SetPrivateDataInterface,
231 };
232
233 static void STDMETHODCALLTYPE d3d10_vertex_shader_wined3d_object_destroyed(void *parent)
234 {
235     struct d3d10_vertex_shader *shader = parent;
236     shader_free_signature(&shader->output_signature);
237     HeapFree(GetProcessHeap(), 0, shader);
238 }
239
240 static const struct wined3d_parent_ops d3d10_vertex_shader_wined3d_parent_ops =
241 {
242     d3d10_vertex_shader_wined3d_object_destroyed,
243 };
244
245 HRESULT d3d10_vertex_shader_init(struct d3d10_vertex_shader *shader, struct d3d10_device *device,
246         const void *byte_code, SIZE_T byte_code_length)
247 {
248     struct d3d10_shader_info shader_info;
249     HRESULT hr;
250
251     shader->vtbl = &d3d10_vertex_shader_vtbl;
252     shader->refcount = 1;
253
254     shader_info.output_signature = &shader->output_signature;
255     hr = shader_extract_from_dxbc(byte_code, byte_code_length, &shader_info);
256     if (FAILED(hr))
257     {
258         ERR("Failed to extract shader, hr %#x.\n", hr);
259         return hr;
260     }
261
262     hr = IWineD3DDevice_CreateVertexShader(device->wined3d_device, shader_info.shader_code,
263             &shader->output_signature, shader, &d3d10_vertex_shader_wined3d_parent_ops, &shader->wined3d_shader);
264     if (FAILED(hr))
265     {
266         WARN("Failed to create wined3d vertex shader, hr %#x.\n", hr);
267         shader_free_signature(&shader->output_signature);
268         return hr;
269     }
270
271     return S_OK;
272 }
273
274 /* IUnknown methods */
275
276 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_QueryInterface(ID3D10GeometryShader *iface,
277         REFIID riid, void **object)
278 {
279     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
280
281     if (IsEqualGUID(riid, &IID_ID3D10GeometryShader)
282             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
283             || IsEqualGUID(riid, &IID_IUnknown))
284     {
285         IUnknown_AddRef(iface);
286         *object = iface;
287         return S_OK;
288     }
289
290     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
291
292     *object = NULL;
293     return E_NOINTERFACE;
294 }
295
296 static ULONG STDMETHODCALLTYPE d3d10_geometry_shader_AddRef(ID3D10GeometryShader *iface)
297 {
298     struct d3d10_geometry_shader *This = (struct d3d10_geometry_shader *)iface;
299     ULONG refcount = InterlockedIncrement(&This->refcount);
300
301     TRACE("%p increasing refcount to %u\n", This, refcount);
302
303     return refcount;
304 }
305
306 static ULONG STDMETHODCALLTYPE d3d10_geometry_shader_Release(ID3D10GeometryShader *iface)
307 {
308     struct d3d10_geometry_shader *This = (struct d3d10_geometry_shader *)iface;
309     ULONG refcount = InterlockedDecrement(&This->refcount);
310
311     TRACE("%p decreasing refcount to %u\n", This, refcount);
312
313     if (!refcount)
314     {
315         IWineD3DGeometryShader_Release(This->wined3d_shader);
316     }
317
318     return refcount;
319 }
320
321 /* ID3D10DeviceChild methods */
322
323 static void STDMETHODCALLTYPE d3d10_geometry_shader_GetDevice(ID3D10GeometryShader *iface, ID3D10Device **device)
324 {
325     FIXME("iface %p, device %p stub!\n", iface, device);
326 }
327
328 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_GetPrivateData(ID3D10GeometryShader *iface,
329         REFGUID guid, UINT *data_size, void *data)
330 {
331     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
332             iface, debugstr_guid(guid), data_size, data);
333
334     return E_NOTIMPL;
335 }
336
337 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_SetPrivateData(ID3D10GeometryShader *iface,
338         REFGUID guid, UINT data_size, const void *data)
339 {
340     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
341             iface, debugstr_guid(guid), data_size, data);
342
343     return E_NOTIMPL;
344 }
345
346 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_SetPrivateDataInterface(ID3D10GeometryShader *iface,
347         REFGUID guid, const IUnknown *data)
348 {
349     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
350
351     return E_NOTIMPL;
352 }
353
354 static const struct ID3D10GeometryShaderVtbl d3d10_geometry_shader_vtbl =
355 {
356     /* IUnknown methods */
357     d3d10_geometry_shader_QueryInterface,
358     d3d10_geometry_shader_AddRef,
359     d3d10_geometry_shader_Release,
360     /* ID3D10DeviceChild methods */
361     d3d10_geometry_shader_GetDevice,
362     d3d10_geometry_shader_GetPrivateData,
363     d3d10_geometry_shader_SetPrivateData,
364     d3d10_geometry_shader_SetPrivateDataInterface,
365 };
366
367 static void STDMETHODCALLTYPE d3d10_geometry_shader_wined3d_object_destroyed(void *parent)
368 {
369     struct d3d10_geometry_shader *shader = parent;
370     shader_free_signature(&shader->output_signature);
371     HeapFree(GetProcessHeap(), 0, shader);
372 }
373
374 static const struct wined3d_parent_ops d3d10_geometry_shader_wined3d_parent_ops =
375 {
376     d3d10_geometry_shader_wined3d_object_destroyed,
377 };
378
379 HRESULT d3d10_geometry_shader_init(struct d3d10_geometry_shader *shader, struct d3d10_device *device,
380         const void *byte_code, SIZE_T byte_code_length)
381 {
382     struct d3d10_shader_info shader_info;
383     HRESULT hr;
384
385     shader->vtbl = &d3d10_geometry_shader_vtbl;
386     shader->refcount = 1;
387
388     shader_info.output_signature = &shader->output_signature;
389     hr = shader_extract_from_dxbc(byte_code, byte_code_length, &shader_info);
390     if (FAILED(hr))
391     {
392         ERR("Failed to extract shader, hr %#x.\n", hr);
393         return hr;
394     }
395
396     hr = IWineD3DDevice_CreateGeometryShader(device->wined3d_device, shader_info.shader_code,
397             &shader->output_signature, shader, &d3d10_geometry_shader_wined3d_parent_ops, &shader->wined3d_shader);
398     if (FAILED(hr))
399     {
400         WARN("Failed to create wined3d vertex shader, hr %#x.\n", hr);
401         shader_free_signature(&shader->output_signature);
402         return hr;
403     }
404
405     return S_OK;
406 }
407
408 /* IUnknown methods */
409
410 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_QueryInterface(ID3D10PixelShader *iface,
411         REFIID riid, void **object)
412 {
413     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
414
415     if (IsEqualGUID(riid, &IID_ID3D10PixelShader)
416             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
417             || IsEqualGUID(riid, &IID_IUnknown))
418     {
419         IUnknown_AddRef(iface);
420         *object = iface;
421         return S_OK;
422     }
423
424     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
425
426     *object = NULL;
427     return E_NOINTERFACE;
428 }
429
430 static ULONG STDMETHODCALLTYPE d3d10_pixel_shader_AddRef(ID3D10PixelShader *iface)
431 {
432     struct d3d10_pixel_shader *This = (struct d3d10_pixel_shader *)iface;
433     ULONG refcount = InterlockedIncrement(&This->refcount);
434
435     TRACE("%p increasing refcount to %u\n", This, refcount);
436
437     if (refcount == 1)
438     {
439         IWineD3DPixelShader_AddRef(This->wined3d_shader);
440     }
441
442     return refcount;
443 }
444
445 static ULONG STDMETHODCALLTYPE d3d10_pixel_shader_Release(ID3D10PixelShader *iface)
446 {
447     struct d3d10_pixel_shader *This = (struct d3d10_pixel_shader *)iface;
448     ULONG refcount = InterlockedDecrement(&This->refcount);
449
450     TRACE("%p decreasing refcount to %u\n", This, refcount);
451
452     if (!refcount)
453     {
454         IWineD3DPixelShader_Release(This->wined3d_shader);
455     }
456
457     return refcount;
458 }
459
460 /* ID3D10DeviceChild methods */
461
462 static void STDMETHODCALLTYPE d3d10_pixel_shader_GetDevice(ID3D10PixelShader *iface, ID3D10Device **device)
463 {
464     FIXME("iface %p, device %p stub!\n", iface, device);
465 }
466
467 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_GetPrivateData(ID3D10PixelShader *iface,
468         REFGUID guid, UINT *data_size, void *data)
469 {
470     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
471             iface, debugstr_guid(guid), data_size, data);
472
473     return E_NOTIMPL;
474 }
475
476 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_SetPrivateData(ID3D10PixelShader *iface,
477         REFGUID guid, UINT data_size, const void *data)
478 {
479     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
480             iface, debugstr_guid(guid), data_size, data);
481
482     return E_NOTIMPL;
483 }
484
485 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_SetPrivateDataInterface(ID3D10PixelShader *iface,
486         REFGUID guid, const IUnknown *data)
487 {
488     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
489
490     return E_NOTIMPL;
491 }
492
493 static const struct ID3D10PixelShaderVtbl d3d10_pixel_shader_vtbl =
494 {
495     /* IUnknown methods */
496     d3d10_pixel_shader_QueryInterface,
497     d3d10_pixel_shader_AddRef,
498     d3d10_pixel_shader_Release,
499     /* ID3D10DeviceChild methods */
500     d3d10_pixel_shader_GetDevice,
501     d3d10_pixel_shader_GetPrivateData,
502     d3d10_pixel_shader_SetPrivateData,
503     d3d10_pixel_shader_SetPrivateDataInterface,
504 };
505
506 static void STDMETHODCALLTYPE d3d10_pixel_shader_wined3d_object_destroyed(void *parent)
507 {
508     struct d3d10_pixel_shader *shader = parent;
509     shader_free_signature(&shader->output_signature);
510     HeapFree(GetProcessHeap(), 0, shader);
511 }
512
513 static const struct wined3d_parent_ops d3d10_pixel_shader_wined3d_parent_ops =
514 {
515     d3d10_pixel_shader_wined3d_object_destroyed,
516 };
517
518 HRESULT d3d10_pixel_shader_init(struct d3d10_pixel_shader *shader, struct d3d10_device *device,
519         const void *byte_code, SIZE_T byte_code_length)
520 {
521     struct d3d10_shader_info shader_info;
522     HRESULT hr;
523
524     shader->vtbl = &d3d10_pixel_shader_vtbl;
525     shader->refcount = 1;
526
527     shader_info.output_signature = &shader->output_signature;
528     hr = shader_extract_from_dxbc(byte_code, byte_code_length, &shader_info);
529     if (FAILED(hr))
530     {
531         ERR("Failed to extract shader, hr %#x.\n", hr);
532         return hr;
533     }
534
535     hr = IWineD3DDevice_CreatePixelShader(device->wined3d_device, shader_info.shader_code,
536             &shader->output_signature, shader, &d3d10_pixel_shader_wined3d_parent_ops, &shader->wined3d_shader);
537     if (FAILED(hr))
538     {
539         WARN("Failed to create wined3d pixel shader, hr %#x.\n", hr);
540         shader_free_signature(&shader->output_signature);
541         return hr;
542     }
543
544     return S_OK;
545 }