msxml3: Add some useful traces and demangle some parameter names.
[wine] / dlls / d3d10core / shader.c
1 /*
2  * Copyright 2009 Henri Verbeet for CodeWeavers
3  *
4  * This library is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * This library is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with this library; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA 02110-1301, USA
17  *
18  */
19
20 #include "config.h"
21 #include "wine/port.h"
22 #include <assert.h>
23
24 #include "d3d10core_private.h"
25
26 WINE_DEFAULT_DEBUG_CHANNEL(d3d10core);
27
28 static HRESULT shdr_handler(const char *data, DWORD data_size, DWORD tag, void *ctx)
29 {
30     struct d3d10_shader_info *shader_info = ctx;
31     HRESULT hr;
32
33     switch(tag)
34     {
35         case TAG_OSGN:
36             hr = shader_parse_signature(data, data_size, shader_info->output_signature);
37             if (FAILED(hr)) return hr;
38             break;
39
40         case TAG_SHDR:
41             shader_info->shader_code = (const DWORD *)data;
42             break;
43
44         default:
45             FIXME("Unhandled chunk %s\n", debugstr_an((const char *)&tag, 4));
46             break;
47     }
48
49     return S_OK;
50 }
51
52 static HRESULT shader_extract_from_dxbc(const void *dxbc, SIZE_T dxbc_length, struct d3d10_shader_info *shader_info)
53 {
54     HRESULT hr;
55
56     shader_info->shader_code = NULL;
57     memset(shader_info->output_signature, 0, sizeof(*shader_info->output_signature));
58
59     hr = parse_dxbc(dxbc, dxbc_length, shdr_handler, shader_info);
60     if (!shader_info->shader_code) hr = E_INVALIDARG;
61
62     if (FAILED(hr))
63     {
64         ERR("Failed to parse shader, hr %#x\n", hr);
65         shader_free_signature(shader_info->output_signature);
66     }
67
68     return hr;
69 }
70
71 HRESULT shader_parse_signature(const char *data, DWORD data_size, struct wined3d_shader_signature *s)
72 {
73     struct wined3d_shader_signature_element *e;
74     unsigned int string_data_offset;
75     unsigned int string_data_size;
76     const char *ptr = data;
77     char *string_data;
78     unsigned int i;
79     DWORD count;
80
81     read_dword(&ptr, &count);
82     TRACE("%u elements\n", count);
83
84     skip_dword_unknown(&ptr, 1);
85
86     e = HeapAlloc(GetProcessHeap(), 0, count * sizeof(*e));
87     if (!e)
88     {
89         ERR("Failed to allocate input signature memory.\n");
90         return E_OUTOFMEMORY;
91     }
92
93     /* 2 DWORDs for the header, 6 for each element. */
94     string_data_offset = 2 * sizeof(DWORD) + count * 6 * sizeof(DWORD);
95     string_data_size = data_size - string_data_offset;
96     string_data = HeapAlloc(GetProcessHeap(), 0, string_data_size);
97     if (!string_data)
98     {
99         ERR("Failed to allocate string data memory.\n");
100         HeapFree(GetProcessHeap(), 0, e);
101         return E_OUTOFMEMORY;
102     }
103     memcpy(string_data, data + string_data_offset, string_data_size);
104
105     for (i = 0; i < count; ++i)
106     {
107         UINT name_offset;
108
109         read_dword(&ptr, &name_offset);
110         e[i].semantic_name = string_data + (name_offset - string_data_offset);
111         read_dword(&ptr, &e[i].semantic_idx);
112         read_dword(&ptr, &e[i].sysval_semantic);
113         read_dword(&ptr, &e[i].component_type);
114         read_dword(&ptr, &e[i].register_idx);
115         read_dword(&ptr, &e[i].mask);
116
117         TRACE("semantic: %s, semantic idx: %u, sysval_semantic %#x, "
118                 "type %u, register idx: %u, use_mask %#x, input_mask %#x\n",
119                 debugstr_a(e[i].semantic_name), e[i].semantic_idx, e[i].sysval_semantic,
120                 e[i].component_type, e[i].register_idx, (e[i].mask >> 8) & 0xff, e[i].mask & 0xff);
121     }
122
123     s->elements = e;
124     s->element_count = count;
125     s->string_data = string_data;
126
127     return S_OK;
128 }
129
130 void shader_free_signature(struct wined3d_shader_signature *s)
131 {
132     HeapFree(GetProcessHeap(), 0, s->string_data);
133     HeapFree(GetProcessHeap(), 0, s->elements);
134 }
135
136 static inline struct d3d10_vertex_shader *impl_from_ID3D10VertexShader(ID3D10VertexShader *iface)
137 {
138     return CONTAINING_RECORD(iface, struct d3d10_vertex_shader, ID3D10VertexShader_iface);
139 }
140
141 /* IUnknown methods */
142
143 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_QueryInterface(ID3D10VertexShader *iface,
144         REFIID riid, void **object)
145 {
146     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
147
148     if (IsEqualGUID(riid, &IID_ID3D10VertexShader)
149             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
150             || IsEqualGUID(riid, &IID_IUnknown))
151     {
152         IUnknown_AddRef(iface);
153         *object = iface;
154         return S_OK;
155     }
156
157     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
158
159     *object = NULL;
160     return E_NOINTERFACE;
161 }
162
163 static ULONG STDMETHODCALLTYPE d3d10_vertex_shader_AddRef(ID3D10VertexShader *iface)
164 {
165     struct d3d10_vertex_shader *This = impl_from_ID3D10VertexShader(iface);
166     ULONG refcount = InterlockedIncrement(&This->refcount);
167
168     TRACE("%p increasing refcount to %u\n", This, refcount);
169
170     if (refcount == 1)
171         wined3d_shader_incref(This->wined3d_shader);
172
173     return refcount;
174 }
175
176 static ULONG STDMETHODCALLTYPE d3d10_vertex_shader_Release(ID3D10VertexShader *iface)
177 {
178     struct d3d10_vertex_shader *This = impl_from_ID3D10VertexShader(iface);
179     ULONG refcount = InterlockedDecrement(&This->refcount);
180
181     TRACE("%p decreasing refcount to %u\n", This, refcount);
182
183     if (!refcount)
184         wined3d_shader_decref(This->wined3d_shader);
185
186     return refcount;
187 }
188
189 /* ID3D10DeviceChild methods */
190
191 static void STDMETHODCALLTYPE d3d10_vertex_shader_GetDevice(ID3D10VertexShader *iface, ID3D10Device **device)
192 {
193     FIXME("iface %p, device %p stub!\n", iface, device);
194 }
195
196 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_GetPrivateData(ID3D10VertexShader *iface,
197         REFGUID guid, UINT *data_size, void *data)
198 {
199     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
200             iface, debugstr_guid(guid), data_size, data);
201
202     return E_NOTIMPL;
203 }
204
205 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_SetPrivateData(ID3D10VertexShader *iface,
206         REFGUID guid, UINT data_size, const void *data)
207 {
208     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
209             iface, debugstr_guid(guid), data_size, data);
210
211     return E_NOTIMPL;
212 }
213
214 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_SetPrivateDataInterface(ID3D10VertexShader *iface,
215         REFGUID guid, const IUnknown *data)
216 {
217     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
218
219     return E_NOTIMPL;
220 }
221
222 static const struct ID3D10VertexShaderVtbl d3d10_vertex_shader_vtbl =
223 {
224     /* IUnknown methods */
225     d3d10_vertex_shader_QueryInterface,
226     d3d10_vertex_shader_AddRef,
227     d3d10_vertex_shader_Release,
228     /* ID3D10DeviceChild methods */
229     d3d10_vertex_shader_GetDevice,
230     d3d10_vertex_shader_GetPrivateData,
231     d3d10_vertex_shader_SetPrivateData,
232     d3d10_vertex_shader_SetPrivateDataInterface,
233 };
234
235 static void STDMETHODCALLTYPE d3d10_vertex_shader_wined3d_object_destroyed(void *parent)
236 {
237     struct d3d10_vertex_shader *shader = parent;
238     shader_free_signature(&shader->output_signature);
239     HeapFree(GetProcessHeap(), 0, shader);
240 }
241
242 static const struct wined3d_parent_ops d3d10_vertex_shader_wined3d_parent_ops =
243 {
244     d3d10_vertex_shader_wined3d_object_destroyed,
245 };
246
247 HRESULT d3d10_vertex_shader_init(struct d3d10_vertex_shader *shader, struct d3d10_device *device,
248         const void *byte_code, SIZE_T byte_code_length)
249 {
250     struct d3d10_shader_info shader_info;
251     HRESULT hr;
252
253     shader->ID3D10VertexShader_iface.lpVtbl = &d3d10_vertex_shader_vtbl;
254     shader->refcount = 1;
255
256     shader_info.output_signature = &shader->output_signature;
257     hr = shader_extract_from_dxbc(byte_code, byte_code_length, &shader_info);
258     if (FAILED(hr))
259     {
260         ERR("Failed to extract shader, hr %#x.\n", hr);
261         return hr;
262     }
263
264     hr = wined3d_shader_create_vs(device->wined3d_device, shader_info.shader_code,
265             &shader->output_signature, shader, &d3d10_vertex_shader_wined3d_parent_ops, &shader->wined3d_shader, 4);
266     if (FAILED(hr))
267     {
268         WARN("Failed to create wined3d vertex shader, hr %#x.\n", hr);
269         shader_free_signature(&shader->output_signature);
270         hr = E_INVALIDARG;
271         return hr;
272     }
273
274     return S_OK;
275 }
276
277 struct d3d10_vertex_shader *unsafe_impl_from_ID3D10VertexShader(ID3D10VertexShader *iface)
278 {
279     if (!iface)
280         return NULL;
281     assert(iface->lpVtbl == &d3d10_vertex_shader_vtbl);
282
283     return impl_from_ID3D10VertexShader(iface);
284 }
285
286 static inline struct d3d10_geometry_shader *impl_from_ID3D10GeometryShader(ID3D10GeometryShader *iface)
287 {
288     return CONTAINING_RECORD(iface, struct d3d10_geometry_shader, ID3D10GeometryShader_iface);
289 }
290
291 /* IUnknown methods */
292
293 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_QueryInterface(ID3D10GeometryShader *iface,
294         REFIID riid, void **object)
295 {
296     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
297
298     if (IsEqualGUID(riid, &IID_ID3D10GeometryShader)
299             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
300             || IsEqualGUID(riid, &IID_IUnknown))
301     {
302         IUnknown_AddRef(iface);
303         *object = iface;
304         return S_OK;
305     }
306
307     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
308
309     *object = NULL;
310     return E_NOINTERFACE;
311 }
312
313 static ULONG STDMETHODCALLTYPE d3d10_geometry_shader_AddRef(ID3D10GeometryShader *iface)
314 {
315     struct d3d10_geometry_shader *This = impl_from_ID3D10GeometryShader(iface);
316     ULONG refcount = InterlockedIncrement(&This->refcount);
317
318     TRACE("%p increasing refcount to %u\n", This, refcount);
319
320     return refcount;
321 }
322
323 static ULONG STDMETHODCALLTYPE d3d10_geometry_shader_Release(ID3D10GeometryShader *iface)
324 {
325     struct d3d10_geometry_shader *This = impl_from_ID3D10GeometryShader(iface);
326     ULONG refcount = InterlockedDecrement(&This->refcount);
327
328     TRACE("%p decreasing refcount to %u\n", This, refcount);
329
330     if (!refcount)
331         wined3d_shader_decref(This->wined3d_shader);
332
333     return refcount;
334 }
335
336 /* ID3D10DeviceChild methods */
337
338 static void STDMETHODCALLTYPE d3d10_geometry_shader_GetDevice(ID3D10GeometryShader *iface, ID3D10Device **device)
339 {
340     FIXME("iface %p, device %p stub!\n", iface, device);
341 }
342
343 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_GetPrivateData(ID3D10GeometryShader *iface,
344         REFGUID guid, UINT *data_size, void *data)
345 {
346     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
347             iface, debugstr_guid(guid), data_size, data);
348
349     return E_NOTIMPL;
350 }
351
352 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_SetPrivateData(ID3D10GeometryShader *iface,
353         REFGUID guid, UINT data_size, const void *data)
354 {
355     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
356             iface, debugstr_guid(guid), data_size, data);
357
358     return E_NOTIMPL;
359 }
360
361 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_SetPrivateDataInterface(ID3D10GeometryShader *iface,
362         REFGUID guid, const IUnknown *data)
363 {
364     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
365
366     return E_NOTIMPL;
367 }
368
369 static const struct ID3D10GeometryShaderVtbl d3d10_geometry_shader_vtbl =
370 {
371     /* IUnknown methods */
372     d3d10_geometry_shader_QueryInterface,
373     d3d10_geometry_shader_AddRef,
374     d3d10_geometry_shader_Release,
375     /* ID3D10DeviceChild methods */
376     d3d10_geometry_shader_GetDevice,
377     d3d10_geometry_shader_GetPrivateData,
378     d3d10_geometry_shader_SetPrivateData,
379     d3d10_geometry_shader_SetPrivateDataInterface,
380 };
381
382 static void STDMETHODCALLTYPE d3d10_geometry_shader_wined3d_object_destroyed(void *parent)
383 {
384     struct d3d10_geometry_shader *shader = parent;
385     shader_free_signature(&shader->output_signature);
386     HeapFree(GetProcessHeap(), 0, shader);
387 }
388
389 static const struct wined3d_parent_ops d3d10_geometry_shader_wined3d_parent_ops =
390 {
391     d3d10_geometry_shader_wined3d_object_destroyed,
392 };
393
394 HRESULT d3d10_geometry_shader_init(struct d3d10_geometry_shader *shader, struct d3d10_device *device,
395         const void *byte_code, SIZE_T byte_code_length)
396 {
397     struct d3d10_shader_info shader_info;
398     HRESULT hr;
399
400     shader->ID3D10GeometryShader_iface.lpVtbl = &d3d10_geometry_shader_vtbl;
401     shader->refcount = 1;
402
403     shader_info.output_signature = &shader->output_signature;
404     hr = shader_extract_from_dxbc(byte_code, byte_code_length, &shader_info);
405     if (FAILED(hr))
406     {
407         ERR("Failed to extract shader, hr %#x.\n", hr);
408         return hr;
409     }
410
411     hr = wined3d_shader_create_gs(device->wined3d_device, shader_info.shader_code,
412             &shader->output_signature, shader, &d3d10_geometry_shader_wined3d_parent_ops, &shader->wined3d_shader, 4);
413     if (FAILED(hr))
414     {
415         WARN("Failed to create wined3d geometry shader, hr %#x.\n", hr);
416         shader_free_signature(&shader->output_signature);
417         hr = E_INVALIDARG;
418         return hr;
419     }
420
421     return S_OK;
422 }
423
424 static inline struct d3d10_pixel_shader *impl_from_ID3D10PixelShader(ID3D10PixelShader *iface)
425 {
426     return CONTAINING_RECORD(iface, struct d3d10_pixel_shader, ID3D10PixelShader_iface);
427 }
428
429 /* IUnknown methods */
430
431 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_QueryInterface(ID3D10PixelShader *iface,
432         REFIID riid, void **object)
433 {
434     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
435
436     if (IsEqualGUID(riid, &IID_ID3D10PixelShader)
437             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
438             || IsEqualGUID(riid, &IID_IUnknown))
439     {
440         IUnknown_AddRef(iface);
441         *object = iface;
442         return S_OK;
443     }
444
445     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
446
447     *object = NULL;
448     return E_NOINTERFACE;
449 }
450
451 static ULONG STDMETHODCALLTYPE d3d10_pixel_shader_AddRef(ID3D10PixelShader *iface)
452 {
453     struct d3d10_pixel_shader *This = impl_from_ID3D10PixelShader(iface);
454     ULONG refcount = InterlockedIncrement(&This->refcount);
455
456     TRACE("%p increasing refcount to %u\n", This, refcount);
457
458     if (refcount == 1)
459         wined3d_shader_incref(This->wined3d_shader);
460
461     return refcount;
462 }
463
464 static ULONG STDMETHODCALLTYPE d3d10_pixel_shader_Release(ID3D10PixelShader *iface)
465 {
466     struct d3d10_pixel_shader *This = impl_from_ID3D10PixelShader(iface);
467     ULONG refcount = InterlockedDecrement(&This->refcount);
468
469     TRACE("%p decreasing refcount to %u\n", This, refcount);
470
471     if (!refcount)
472         wined3d_shader_decref(This->wined3d_shader);
473
474     return refcount;
475 }
476
477 /* ID3D10DeviceChild methods */
478
479 static void STDMETHODCALLTYPE d3d10_pixel_shader_GetDevice(ID3D10PixelShader *iface, ID3D10Device **device)
480 {
481     FIXME("iface %p, device %p stub!\n", iface, device);
482 }
483
484 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_GetPrivateData(ID3D10PixelShader *iface,
485         REFGUID guid, UINT *data_size, void *data)
486 {
487     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
488             iface, debugstr_guid(guid), data_size, data);
489
490     return E_NOTIMPL;
491 }
492
493 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_SetPrivateData(ID3D10PixelShader *iface,
494         REFGUID guid, UINT data_size, const void *data)
495 {
496     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
497             iface, debugstr_guid(guid), data_size, data);
498
499     return E_NOTIMPL;
500 }
501
502 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_SetPrivateDataInterface(ID3D10PixelShader *iface,
503         REFGUID guid, const IUnknown *data)
504 {
505     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
506
507     return E_NOTIMPL;
508 }
509
510 static const struct ID3D10PixelShaderVtbl d3d10_pixel_shader_vtbl =
511 {
512     /* IUnknown methods */
513     d3d10_pixel_shader_QueryInterface,
514     d3d10_pixel_shader_AddRef,
515     d3d10_pixel_shader_Release,
516     /* ID3D10DeviceChild methods */
517     d3d10_pixel_shader_GetDevice,
518     d3d10_pixel_shader_GetPrivateData,
519     d3d10_pixel_shader_SetPrivateData,
520     d3d10_pixel_shader_SetPrivateDataInterface,
521 };
522
523 static void STDMETHODCALLTYPE d3d10_pixel_shader_wined3d_object_destroyed(void *parent)
524 {
525     struct d3d10_pixel_shader *shader = parent;
526     shader_free_signature(&shader->output_signature);
527     HeapFree(GetProcessHeap(), 0, shader);
528 }
529
530 static const struct wined3d_parent_ops d3d10_pixel_shader_wined3d_parent_ops =
531 {
532     d3d10_pixel_shader_wined3d_object_destroyed,
533 };
534
535 HRESULT d3d10_pixel_shader_init(struct d3d10_pixel_shader *shader, struct d3d10_device *device,
536         const void *byte_code, SIZE_T byte_code_length)
537 {
538     struct d3d10_shader_info shader_info;
539     HRESULT hr;
540
541     shader->ID3D10PixelShader_iface.lpVtbl = &d3d10_pixel_shader_vtbl;
542     shader->refcount = 1;
543
544     shader_info.output_signature = &shader->output_signature;
545     hr = shader_extract_from_dxbc(byte_code, byte_code_length, &shader_info);
546     if (FAILED(hr))
547     {
548         ERR("Failed to extract shader, hr %#x.\n", hr);
549         return hr;
550     }
551
552     hr = wined3d_shader_create_ps(device->wined3d_device, shader_info.shader_code,
553             &shader->output_signature, shader, &d3d10_pixel_shader_wined3d_parent_ops, &shader->wined3d_shader, 4);
554     if (FAILED(hr))
555     {
556         WARN("Failed to create wined3d pixel shader, hr %#x.\n", hr);
557         shader_free_signature(&shader->output_signature);
558         hr = E_INVALIDARG;
559         return hr;
560     }
561
562     return S_OK;
563 }
564
565 struct d3d10_pixel_shader *unsafe_impl_from_ID3D10PixelShader(ID3D10PixelShader *iface)
566 {
567     if (!iface)
568         return NULL;
569     assert(iface->lpVtbl == &d3d10_pixel_shader_vtbl);
570
571     return impl_from_ID3D10PixelShader(iface);
572 }