d3d9: Implement IDirect3DVertexBuffer9 private data handling on top of wined3d_resource.
[wine] / dlls / d3d10core / shader.c
1 /*
2  * Copyright 2009 Henri Verbeet for CodeWeavers
3  *
4  * This library is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * This library is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with this library; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA 02110-1301, USA
17  *
18  */
19
20 #include "config.h"
21 #include "wine/port.h"
22
23 #include "d3d10core_private.h"
24
25 WINE_DEFAULT_DEBUG_CHANNEL(d3d10core);
26
27 static HRESULT shdr_handler(const char *data, DWORD data_size, DWORD tag, void *ctx)
28 {
29     struct d3d10_shader_info *shader_info = ctx;
30     HRESULT hr;
31
32     switch(tag)
33     {
34         case TAG_OSGN:
35             hr = shader_parse_signature(data, data_size, shader_info->output_signature);
36             if (FAILED(hr)) return hr;
37             break;
38
39         case TAG_SHDR:
40             shader_info->shader_code = (const DWORD *)data;
41             break;
42
43         default:
44             FIXME("Unhandled chunk %s\n", debugstr_an((const char *)&tag, 4));
45             break;
46     }
47
48     return S_OK;
49 }
50
51 static HRESULT shader_extract_from_dxbc(const void *dxbc, SIZE_T dxbc_length, struct d3d10_shader_info *shader_info)
52 {
53     HRESULT hr;
54
55     shader_info->shader_code = NULL;
56     memset(shader_info->output_signature, 0, sizeof(*shader_info->output_signature));
57
58     hr = parse_dxbc(dxbc, dxbc_length, shdr_handler, shader_info);
59     if (!shader_info->shader_code) hr = E_FAIL;
60
61     if (FAILED(hr))
62     {
63         ERR("Failed to parse shader, hr %#x\n", hr);
64         shader_free_signature(shader_info->output_signature);
65     }
66
67     return hr;
68 }
69
70 HRESULT shader_parse_signature(const char *data, DWORD data_size, struct wined3d_shader_signature *s)
71 {
72     struct wined3d_shader_signature_element *e;
73     unsigned int string_data_offset;
74     unsigned int string_data_size;
75     const char *ptr = data;
76     char *string_data;
77     unsigned int i;
78     DWORD count;
79
80     read_dword(&ptr, &count);
81     TRACE("%u elements\n", count);
82
83     skip_dword_unknown(&ptr, 1);
84
85     e = HeapAlloc(GetProcessHeap(), 0, count * sizeof(*e));
86     if (!e)
87     {
88         ERR("Failed to allocate input signature memory.\n");
89         return E_OUTOFMEMORY;
90     }
91
92     /* 2 DWORDs for the header, 6 for each element. */
93     string_data_offset = 2 * sizeof(DWORD) + count * 6 * sizeof(DWORD);
94     string_data_size = data_size - string_data_offset;
95     string_data = HeapAlloc(GetProcessHeap(), 0, string_data_size);
96     if (!string_data)
97     {
98         ERR("Failed to allocate string data memory.\n");
99         HeapFree(GetProcessHeap(), 0, e);
100         return E_OUTOFMEMORY;
101     }
102     memcpy(string_data, data + string_data_offset, string_data_size);
103
104     for (i = 0; i < count; ++i)
105     {
106         UINT name_offset;
107
108         read_dword(&ptr, &name_offset);
109         e[i].semantic_name = string_data + (name_offset - string_data_offset);
110         read_dword(&ptr, &e[i].semantic_idx);
111         read_dword(&ptr, &e[i].sysval_semantic);
112         read_dword(&ptr, &e[i].component_type);
113         read_dword(&ptr, &e[i].register_idx);
114         read_dword(&ptr, &e[i].mask);
115
116         TRACE("semantic: %s, semantic idx: %u, sysval_semantic %#x, "
117                 "type %u, register idx: %u, use_mask %#x, input_mask %#x\n",
118                 debugstr_a(e[i].semantic_name), e[i].semantic_idx, e[i].sysval_semantic,
119                 e[i].component_type, e[i].register_idx, (e[i].mask >> 8) & 0xff, e[i].mask & 0xff);
120     }
121
122     s->elements = e;
123     s->element_count = count;
124     s->string_data = string_data;
125
126     return S_OK;
127 }
128
129 void shader_free_signature(struct wined3d_shader_signature *s)
130 {
131     HeapFree(GetProcessHeap(), 0, s->string_data);
132     HeapFree(GetProcessHeap(), 0, s->elements);
133 }
134
135 /* IUnknown methods */
136
137 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_QueryInterface(ID3D10VertexShader *iface,
138         REFIID riid, void **object)
139 {
140     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
141
142     if (IsEqualGUID(riid, &IID_ID3D10VertexShader)
143             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
144             || IsEqualGUID(riid, &IID_IUnknown))
145     {
146         IUnknown_AddRef(iface);
147         *object = iface;
148         return S_OK;
149     }
150
151     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
152
153     *object = NULL;
154     return E_NOINTERFACE;
155 }
156
157 static ULONG STDMETHODCALLTYPE d3d10_vertex_shader_AddRef(ID3D10VertexShader *iface)
158 {
159     struct d3d10_vertex_shader *This = (struct d3d10_vertex_shader *)iface;
160     ULONG refcount = InterlockedIncrement(&This->refcount);
161
162     TRACE("%p increasing refcount to %u\n", This, refcount);
163
164     if (refcount == 1)
165         wined3d_shader_incref(This->wined3d_shader);
166
167     return refcount;
168 }
169
170 static ULONG STDMETHODCALLTYPE d3d10_vertex_shader_Release(ID3D10VertexShader *iface)
171 {
172     struct d3d10_vertex_shader *This = (struct d3d10_vertex_shader *)iface;
173     ULONG refcount = InterlockedDecrement(&This->refcount);
174
175     TRACE("%p decreasing refcount to %u\n", This, refcount);
176
177     if (!refcount)
178         wined3d_shader_decref(This->wined3d_shader);
179
180     return refcount;
181 }
182
183 /* ID3D10DeviceChild methods */
184
185 static void STDMETHODCALLTYPE d3d10_vertex_shader_GetDevice(ID3D10VertexShader *iface, ID3D10Device **device)
186 {
187     FIXME("iface %p, device %p stub!\n", iface, device);
188 }
189
190 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_GetPrivateData(ID3D10VertexShader *iface,
191         REFGUID guid, UINT *data_size, void *data)
192 {
193     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
194             iface, debugstr_guid(guid), data_size, data);
195
196     return E_NOTIMPL;
197 }
198
199 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_SetPrivateData(ID3D10VertexShader *iface,
200         REFGUID guid, UINT data_size, const void *data)
201 {
202     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
203             iface, debugstr_guid(guid), data_size, data);
204
205     return E_NOTIMPL;
206 }
207
208 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_SetPrivateDataInterface(ID3D10VertexShader *iface,
209         REFGUID guid, const IUnknown *data)
210 {
211     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
212
213     return E_NOTIMPL;
214 }
215
216 static const struct ID3D10VertexShaderVtbl d3d10_vertex_shader_vtbl =
217 {
218     /* IUnknown methods */
219     d3d10_vertex_shader_QueryInterface,
220     d3d10_vertex_shader_AddRef,
221     d3d10_vertex_shader_Release,
222     /* ID3D10DeviceChild methods */
223     d3d10_vertex_shader_GetDevice,
224     d3d10_vertex_shader_GetPrivateData,
225     d3d10_vertex_shader_SetPrivateData,
226     d3d10_vertex_shader_SetPrivateDataInterface,
227 };
228
229 static void STDMETHODCALLTYPE d3d10_vertex_shader_wined3d_object_destroyed(void *parent)
230 {
231     struct d3d10_vertex_shader *shader = parent;
232     shader_free_signature(&shader->output_signature);
233     HeapFree(GetProcessHeap(), 0, shader);
234 }
235
236 static const struct wined3d_parent_ops d3d10_vertex_shader_wined3d_parent_ops =
237 {
238     d3d10_vertex_shader_wined3d_object_destroyed,
239 };
240
241 HRESULT d3d10_vertex_shader_init(struct d3d10_vertex_shader *shader, struct d3d10_device *device,
242         const void *byte_code, SIZE_T byte_code_length)
243 {
244     struct d3d10_shader_info shader_info;
245     HRESULT hr;
246
247     shader->vtbl = &d3d10_vertex_shader_vtbl;
248     shader->refcount = 1;
249
250     shader_info.output_signature = &shader->output_signature;
251     hr = shader_extract_from_dxbc(byte_code, byte_code_length, &shader_info);
252     if (FAILED(hr))
253     {
254         ERR("Failed to extract shader, hr %#x.\n", hr);
255         return hr;
256     }
257
258     hr = wined3d_shader_create_vs(device->wined3d_device, shader_info.shader_code,
259             &shader->output_signature, shader, &d3d10_vertex_shader_wined3d_parent_ops, &shader->wined3d_shader);
260     if (FAILED(hr))
261     {
262         WARN("Failed to create wined3d vertex shader, hr %#x.\n", hr);
263         shader_free_signature(&shader->output_signature);
264         return hr;
265     }
266
267     return S_OK;
268 }
269
270 static inline struct d3d10_geometry_shader *impl_from_ID3D10GeometryShader(ID3D10GeometryShader *iface)
271 {
272     return CONTAINING_RECORD(iface, struct d3d10_geometry_shader, ID3D10GeometryShader_iface);
273 }
274
275 /* IUnknown methods */
276
277 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_QueryInterface(ID3D10GeometryShader *iface,
278         REFIID riid, void **object)
279 {
280     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
281
282     if (IsEqualGUID(riid, &IID_ID3D10GeometryShader)
283             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
284             || IsEqualGUID(riid, &IID_IUnknown))
285     {
286         IUnknown_AddRef(iface);
287         *object = iface;
288         return S_OK;
289     }
290
291     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
292
293     *object = NULL;
294     return E_NOINTERFACE;
295 }
296
297 static ULONG STDMETHODCALLTYPE d3d10_geometry_shader_AddRef(ID3D10GeometryShader *iface)
298 {
299     struct d3d10_geometry_shader *This = impl_from_ID3D10GeometryShader(iface);
300     ULONG refcount = InterlockedIncrement(&This->refcount);
301
302     TRACE("%p increasing refcount to %u\n", This, refcount);
303
304     return refcount;
305 }
306
307 static ULONG STDMETHODCALLTYPE d3d10_geometry_shader_Release(ID3D10GeometryShader *iface)
308 {
309     struct d3d10_geometry_shader *This = impl_from_ID3D10GeometryShader(iface);
310     ULONG refcount = InterlockedDecrement(&This->refcount);
311
312     TRACE("%p decreasing refcount to %u\n", This, refcount);
313
314     if (!refcount)
315         wined3d_shader_decref(This->wined3d_shader);
316
317     return refcount;
318 }
319
320 /* ID3D10DeviceChild methods */
321
322 static void STDMETHODCALLTYPE d3d10_geometry_shader_GetDevice(ID3D10GeometryShader *iface, ID3D10Device **device)
323 {
324     FIXME("iface %p, device %p stub!\n", iface, device);
325 }
326
327 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_GetPrivateData(ID3D10GeometryShader *iface,
328         REFGUID guid, UINT *data_size, void *data)
329 {
330     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
331             iface, debugstr_guid(guid), data_size, data);
332
333     return E_NOTIMPL;
334 }
335
336 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_SetPrivateData(ID3D10GeometryShader *iface,
337         REFGUID guid, UINT data_size, const void *data)
338 {
339     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
340             iface, debugstr_guid(guid), data_size, data);
341
342     return E_NOTIMPL;
343 }
344
345 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_SetPrivateDataInterface(ID3D10GeometryShader *iface,
346         REFGUID guid, const IUnknown *data)
347 {
348     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
349
350     return E_NOTIMPL;
351 }
352
353 static const struct ID3D10GeometryShaderVtbl d3d10_geometry_shader_vtbl =
354 {
355     /* IUnknown methods */
356     d3d10_geometry_shader_QueryInterface,
357     d3d10_geometry_shader_AddRef,
358     d3d10_geometry_shader_Release,
359     /* ID3D10DeviceChild methods */
360     d3d10_geometry_shader_GetDevice,
361     d3d10_geometry_shader_GetPrivateData,
362     d3d10_geometry_shader_SetPrivateData,
363     d3d10_geometry_shader_SetPrivateDataInterface,
364 };
365
366 static void STDMETHODCALLTYPE d3d10_geometry_shader_wined3d_object_destroyed(void *parent)
367 {
368     struct d3d10_geometry_shader *shader = parent;
369     shader_free_signature(&shader->output_signature);
370     HeapFree(GetProcessHeap(), 0, shader);
371 }
372
373 static const struct wined3d_parent_ops d3d10_geometry_shader_wined3d_parent_ops =
374 {
375     d3d10_geometry_shader_wined3d_object_destroyed,
376 };
377
378 HRESULT d3d10_geometry_shader_init(struct d3d10_geometry_shader *shader, struct d3d10_device *device,
379         const void *byte_code, SIZE_T byte_code_length)
380 {
381     struct d3d10_shader_info shader_info;
382     HRESULT hr;
383
384     shader->ID3D10GeometryShader_iface.lpVtbl = &d3d10_geometry_shader_vtbl;
385     shader->refcount = 1;
386
387     shader_info.output_signature = &shader->output_signature;
388     hr = shader_extract_from_dxbc(byte_code, byte_code_length, &shader_info);
389     if (FAILED(hr))
390     {
391         ERR("Failed to extract shader, hr %#x.\n", hr);
392         return hr;
393     }
394
395     hr = wined3d_shader_create_gs(device->wined3d_device, shader_info.shader_code,
396             &shader->output_signature, shader, &d3d10_geometry_shader_wined3d_parent_ops, &shader->wined3d_shader);
397     if (FAILED(hr))
398     {
399         WARN("Failed to create wined3d vertex shader, hr %#x.\n", hr);
400         shader_free_signature(&shader->output_signature);
401         return hr;
402     }
403
404     return S_OK;
405 }
406
407 /* IUnknown methods */
408
409 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_QueryInterface(ID3D10PixelShader *iface,
410         REFIID riid, void **object)
411 {
412     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
413
414     if (IsEqualGUID(riid, &IID_ID3D10PixelShader)
415             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
416             || IsEqualGUID(riid, &IID_IUnknown))
417     {
418         IUnknown_AddRef(iface);
419         *object = iface;
420         return S_OK;
421     }
422
423     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
424
425     *object = NULL;
426     return E_NOINTERFACE;
427 }
428
429 static ULONG STDMETHODCALLTYPE d3d10_pixel_shader_AddRef(ID3D10PixelShader *iface)
430 {
431     struct d3d10_pixel_shader *This = (struct d3d10_pixel_shader *)iface;
432     ULONG refcount = InterlockedIncrement(&This->refcount);
433
434     TRACE("%p increasing refcount to %u\n", This, refcount);
435
436     if (refcount == 1)
437         wined3d_shader_incref(This->wined3d_shader);
438
439     return refcount;
440 }
441
442 static ULONG STDMETHODCALLTYPE d3d10_pixel_shader_Release(ID3D10PixelShader *iface)
443 {
444     struct d3d10_pixel_shader *This = (struct d3d10_pixel_shader *)iface;
445     ULONG refcount = InterlockedDecrement(&This->refcount);
446
447     TRACE("%p decreasing refcount to %u\n", This, refcount);
448
449     if (!refcount)
450         wined3d_shader_decref(This->wined3d_shader);
451
452     return refcount;
453 }
454
455 /* ID3D10DeviceChild methods */
456
457 static void STDMETHODCALLTYPE d3d10_pixel_shader_GetDevice(ID3D10PixelShader *iface, ID3D10Device **device)
458 {
459     FIXME("iface %p, device %p stub!\n", iface, device);
460 }
461
462 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_GetPrivateData(ID3D10PixelShader *iface,
463         REFGUID guid, UINT *data_size, void *data)
464 {
465     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
466             iface, debugstr_guid(guid), data_size, data);
467
468     return E_NOTIMPL;
469 }
470
471 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_SetPrivateData(ID3D10PixelShader *iface,
472         REFGUID guid, UINT data_size, const void *data)
473 {
474     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
475             iface, debugstr_guid(guid), data_size, data);
476
477     return E_NOTIMPL;
478 }
479
480 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_SetPrivateDataInterface(ID3D10PixelShader *iface,
481         REFGUID guid, const IUnknown *data)
482 {
483     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
484
485     return E_NOTIMPL;
486 }
487
488 static const struct ID3D10PixelShaderVtbl d3d10_pixel_shader_vtbl =
489 {
490     /* IUnknown methods */
491     d3d10_pixel_shader_QueryInterface,
492     d3d10_pixel_shader_AddRef,
493     d3d10_pixel_shader_Release,
494     /* ID3D10DeviceChild methods */
495     d3d10_pixel_shader_GetDevice,
496     d3d10_pixel_shader_GetPrivateData,
497     d3d10_pixel_shader_SetPrivateData,
498     d3d10_pixel_shader_SetPrivateDataInterface,
499 };
500
501 static void STDMETHODCALLTYPE d3d10_pixel_shader_wined3d_object_destroyed(void *parent)
502 {
503     struct d3d10_pixel_shader *shader = parent;
504     shader_free_signature(&shader->output_signature);
505     HeapFree(GetProcessHeap(), 0, shader);
506 }
507
508 static const struct wined3d_parent_ops d3d10_pixel_shader_wined3d_parent_ops =
509 {
510     d3d10_pixel_shader_wined3d_object_destroyed,
511 };
512
513 HRESULT d3d10_pixel_shader_init(struct d3d10_pixel_shader *shader, struct d3d10_device *device,
514         const void *byte_code, SIZE_T byte_code_length)
515 {
516     struct d3d10_shader_info shader_info;
517     HRESULT hr;
518
519     shader->vtbl = &d3d10_pixel_shader_vtbl;
520     shader->refcount = 1;
521
522     shader_info.output_signature = &shader->output_signature;
523     hr = shader_extract_from_dxbc(byte_code, byte_code_length, &shader_info);
524     if (FAILED(hr))
525     {
526         ERR("Failed to extract shader, hr %#x.\n", hr);
527         return hr;
528     }
529
530     hr = wined3d_shader_create_ps(device->wined3d_device, shader_info.shader_code,
531             &shader->output_signature, shader, &d3d10_pixel_shader_wined3d_parent_ops, &shader->wined3d_shader);
532     if (FAILED(hr))
533     {
534         WARN("Failed to create wined3d pixel shader, hr %#x.\n", hr);
535         shader_free_signature(&shader->output_signature);
536         return hr;
537     }
538
539     return S_OK;
540 }