hlink/tests: Sign compare fix.
[wine] / dlls / d3d10core / shader.c
1 /*
2  * Copyright 2009 Henri Verbeet for CodeWeavers
3  *
4  * This library is free software; you can redistribute it and/or
5  * modify it under the terms of the GNU Lesser General Public
6  * License as published by the Free Software Foundation; either
7  * version 2.1 of the License, or (at your option) any later version.
8  *
9  * This library is distributed in the hope that it will be useful,
10  * but WITHOUT ANY WARRANTY; without even the implied warranty of
11  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the GNU
12  * Lesser General Public License for more details.
13  *
14  * You should have received a copy of the GNU Lesser General Public
15  * License along with this library; if not, write to the Free Software
16  * Foundation, Inc., 51 Franklin St, Fifth Floor, Boston, MA 02110-1301, USA
17  *
18  */
19
20 #include "config.h"
21 #include "wine/port.h"
22
23 #include "d3d10core_private.h"
24
25 WINE_DEFAULT_DEBUG_CHANNEL(d3d10core);
26
27 static HRESULT shdr_handler(const char *data, DWORD data_size, DWORD tag, void *ctx)
28 {
29     struct d3d10_shader_info *shader_info = ctx;
30     char tag_str[5];
31     HRESULT hr;
32
33     switch(tag)
34     {
35         case TAG_OSGN:
36             hr = shader_parse_signature(data, data_size, shader_info->output_signature);
37             if (FAILED(hr)) return hr;
38             break;
39
40         case TAG_SHDR:
41             shader_info->shader_code = (const DWORD *)data;
42             break;
43
44         default:
45             memcpy(tag_str, &tag, 4);
46             tag_str[4] = '\0';
47             FIXME("Unhandled chunk %s\n", tag_str);
48             break;
49     }
50
51     return S_OK;
52 }
53
54 HRESULT shader_extract_from_dxbc(const void *dxbc, SIZE_T dxbc_length, struct d3d10_shader_info *shader_info)
55 {
56     HRESULT hr;
57
58     shader_info->shader_code = NULL;
59     memset(shader_info->output_signature, 0, sizeof(*shader_info->output_signature));
60
61     hr = parse_dxbc(dxbc, dxbc_length, shdr_handler, shader_info);
62     if (!shader_info->shader_code) hr = E_FAIL;
63
64     if (FAILED(hr))
65     {
66         ERR("Failed to parse shader, hr %#x\n", hr);
67         shader_free_signature(shader_info->output_signature);
68     }
69
70     return hr;
71 }
72
73 HRESULT shader_parse_signature(const char *data, DWORD data_size, struct wined3d_shader_signature *s)
74 {
75     struct wined3d_shader_signature_element *e;
76     unsigned int string_data_offset;
77     unsigned int string_data_size;
78     const char *ptr = data;
79     char *string_data;
80     unsigned int i;
81     DWORD count;
82
83     read_dword(&ptr, &count);
84     TRACE("%u elements\n", count);
85
86     skip_dword_unknown(&ptr, 1);
87
88     e = HeapAlloc(GetProcessHeap(), 0, count * sizeof(*e));
89     if (!e)
90     {
91         ERR("Failed to allocate input signature memory.\n");
92         return E_OUTOFMEMORY;
93     }
94
95     /* 2 DWORDs for the header, 6 for each element. */
96     string_data_offset = 2 * sizeof(DWORD) + count * 6 * sizeof(DWORD);
97     string_data_size = data_size - string_data_offset;
98     string_data = HeapAlloc(GetProcessHeap(), 0, string_data_size);
99     if (!string_data)
100     {
101         ERR("Failed to allocate string data memory.\n");
102         HeapFree(GetProcessHeap(), 0, e);
103         return E_OUTOFMEMORY;
104     }
105     memcpy(string_data, data + string_data_offset, string_data_size);
106
107     for (i = 0; i < count; ++i)
108     {
109         UINT name_offset;
110
111         read_dword(&ptr, &name_offset);
112         e[i].semantic_name = string_data + (name_offset - string_data_offset);
113         read_dword(&ptr, &e[i].semantic_idx);
114         read_dword(&ptr, &e[i].sysval_semantic);
115         read_dword(&ptr, &e[i].component_type);
116         read_dword(&ptr, &e[i].register_idx);
117         read_dword(&ptr, &e[i].mask);
118
119         TRACE("semantic: %s, semantic idx: %u, sysval_semantic %#x, "
120                 "type %u, register idx: %u, use_mask %#x, input_mask %#x\n",
121                 e[i].semantic_name, e[i].semantic_idx, e[i].sysval_semantic, e[i].component_type,
122                 e[i].register_idx, (e[i].mask >> 8) & 0xff, e[i].mask & 0xff);
123     }
124
125     s->elements = e;
126     s->element_count = count;
127     s->string_data = string_data;
128
129     return S_OK;
130 }
131
132 void shader_free_signature(struct wined3d_shader_signature *s)
133 {
134     HeapFree(GetProcessHeap(), 0, s->string_data);
135     HeapFree(GetProcessHeap(), 0, s->elements);
136 }
137
138 /* IUnknown methods */
139
140 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_QueryInterface(ID3D10VertexShader *iface,
141         REFIID riid, void **object)
142 {
143     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
144
145     if (IsEqualGUID(riid, &IID_ID3D10VertexShader)
146             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
147             || IsEqualGUID(riid, &IID_IUnknown))
148     {
149         IUnknown_AddRef(iface);
150         *object = iface;
151         return S_OK;
152     }
153
154     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
155
156     *object = NULL;
157     return E_NOINTERFACE;
158 }
159
160 static ULONG STDMETHODCALLTYPE d3d10_vertex_shader_AddRef(ID3D10VertexShader *iface)
161 {
162     struct d3d10_vertex_shader *This = (struct d3d10_vertex_shader *)iface;
163     ULONG refcount = InterlockedIncrement(&This->refcount);
164
165     TRACE("%p increasing refcount to %u\n", This, refcount);
166
167     return refcount;
168 }
169
170 static ULONG STDMETHODCALLTYPE d3d10_vertex_shader_Release(ID3D10VertexShader *iface)
171 {
172     struct d3d10_vertex_shader *This = (struct d3d10_vertex_shader *)iface;
173     ULONG refcount = InterlockedDecrement(&This->refcount);
174
175     TRACE("%p decreasing refcount to %u\n", This, refcount);
176
177     if (!refcount)
178     {
179         HeapFree(GetProcessHeap(), 0, This);
180     }
181
182     return refcount;
183 }
184
185 /* ID3D10DeviceChild methods */
186
187 static void STDMETHODCALLTYPE d3d10_vertex_shader_GetDevice(ID3D10VertexShader *iface, ID3D10Device **device)
188 {
189     FIXME("iface %p, device %p stub!\n", iface, device);
190 }
191
192 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_GetPrivateData(ID3D10VertexShader *iface,
193         REFGUID guid, UINT *data_size, void *data)
194 {
195     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
196             iface, debugstr_guid(guid), data_size, data);
197
198     return E_NOTIMPL;
199 }
200
201 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_SetPrivateData(ID3D10VertexShader *iface,
202         REFGUID guid, UINT data_size, const void *data)
203 {
204     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
205             iface, debugstr_guid(guid), data_size, data);
206
207     return E_NOTIMPL;
208 }
209
210 static HRESULT STDMETHODCALLTYPE d3d10_vertex_shader_SetPrivateDataInterface(ID3D10VertexShader *iface,
211         REFGUID guid, const IUnknown *data)
212 {
213     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
214
215     return E_NOTIMPL;
216 }
217
218 const struct ID3D10VertexShaderVtbl d3d10_vertex_shader_vtbl =
219 {
220     /* IUnknown methods */
221     d3d10_vertex_shader_QueryInterface,
222     d3d10_vertex_shader_AddRef,
223     d3d10_vertex_shader_Release,
224     /* ID3D10DeviceChild methods */
225     d3d10_vertex_shader_GetDevice,
226     d3d10_vertex_shader_GetPrivateData,
227     d3d10_vertex_shader_SetPrivateData,
228     d3d10_vertex_shader_SetPrivateDataInterface,
229 };
230
231 /* IUnknown methods */
232
233 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_QueryInterface(ID3D10GeometryShader *iface,
234         REFIID riid, void **object)
235 {
236     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
237
238     if (IsEqualGUID(riid, &IID_ID3D10GeometryShader)
239             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
240             || IsEqualGUID(riid, &IID_IUnknown))
241     {
242         IUnknown_AddRef(iface);
243         *object = iface;
244         return S_OK;
245     }
246
247     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
248
249     *object = NULL;
250     return E_NOINTERFACE;
251 }
252
253 static ULONG STDMETHODCALLTYPE d3d10_geometry_shader_AddRef(ID3D10GeometryShader *iface)
254 {
255     struct d3d10_geometry_shader *This = (struct d3d10_geometry_shader *)iface;
256     ULONG refcount = InterlockedIncrement(&This->refcount);
257
258     TRACE("%p increasing refcount to %u\n", This, refcount);
259
260     return refcount;
261 }
262
263 static ULONG STDMETHODCALLTYPE d3d10_geometry_shader_Release(ID3D10GeometryShader *iface)
264 {
265     struct d3d10_geometry_shader *This = (struct d3d10_geometry_shader *)iface;
266     ULONG refcount = InterlockedDecrement(&This->refcount);
267
268     TRACE("%p decreasing refcount to %u\n", This, refcount);
269
270     if (!refcount)
271     {
272         HeapFree(GetProcessHeap(), 0, This);
273     }
274
275     return refcount;
276 }
277
278 /* ID3D10DeviceChild methods */
279
280 static void STDMETHODCALLTYPE d3d10_geometry_shader_GetDevice(ID3D10GeometryShader *iface, ID3D10Device **device)
281 {
282     FIXME("iface %p, device %p stub!\n", iface, device);
283 }
284
285 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_GetPrivateData(ID3D10GeometryShader *iface,
286         REFGUID guid, UINT *data_size, void *data)
287 {
288     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
289             iface, debugstr_guid(guid), data_size, data);
290
291     return E_NOTIMPL;
292 }
293
294 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_SetPrivateData(ID3D10GeometryShader *iface,
295         REFGUID guid, UINT data_size, const void *data)
296 {
297     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
298             iface, debugstr_guid(guid), data_size, data);
299
300     return E_NOTIMPL;
301 }
302
303 static HRESULT STDMETHODCALLTYPE d3d10_geometry_shader_SetPrivateDataInterface(ID3D10GeometryShader *iface,
304         REFGUID guid, const IUnknown *data)
305 {
306     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
307
308     return E_NOTIMPL;
309 }
310
311 const struct ID3D10GeometryShaderVtbl d3d10_geometry_shader_vtbl =
312 {
313     /* IUnknown methods */
314     d3d10_geometry_shader_QueryInterface,
315     d3d10_geometry_shader_AddRef,
316     d3d10_geometry_shader_Release,
317     /* ID3D10DeviceChild methods */
318     d3d10_geometry_shader_GetDevice,
319     d3d10_geometry_shader_GetPrivateData,
320     d3d10_geometry_shader_SetPrivateData,
321     d3d10_geometry_shader_SetPrivateDataInterface,
322 };
323
324 /* IUnknown methods */
325
326 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_QueryInterface(ID3D10PixelShader *iface,
327         REFIID riid, void **object)
328 {
329     TRACE("iface %p, riid %s, object %p\n", iface, debugstr_guid(riid), object);
330
331     if (IsEqualGUID(riid, &IID_ID3D10PixelShader)
332             || IsEqualGUID(riid, &IID_ID3D10DeviceChild)
333             || IsEqualGUID(riid, &IID_IUnknown))
334     {
335         IUnknown_AddRef(iface);
336         *object = iface;
337         return S_OK;
338     }
339
340     WARN("%s not implemented, returning E_NOINTERFACE\n", debugstr_guid(riid));
341
342     *object = NULL;
343     return E_NOINTERFACE;
344 }
345
346 static ULONG STDMETHODCALLTYPE d3d10_pixel_shader_AddRef(ID3D10PixelShader *iface)
347 {
348     struct d3d10_pixel_shader *This = (struct d3d10_pixel_shader *)iface;
349     ULONG refcount = InterlockedIncrement(&This->refcount);
350
351     TRACE("%p increasing refcount to %u\n", This, refcount);
352
353     return refcount;
354 }
355
356 static ULONG STDMETHODCALLTYPE d3d10_pixel_shader_Release(ID3D10PixelShader *iface)
357 {
358     struct d3d10_pixel_shader *This = (struct d3d10_pixel_shader *)iface;
359     ULONG refcount = InterlockedDecrement(&This->refcount);
360
361     TRACE("%p decreasing refcount to %u\n", This, refcount);
362
363     if (!refcount)
364     {
365         IWineD3DPixelShader_Release(This->wined3d_shader);
366         shader_free_signature(&This->output_signature);
367         HeapFree(GetProcessHeap(), 0, This);
368     }
369
370     return refcount;
371 }
372
373 /* ID3D10DeviceChild methods */
374
375 static void STDMETHODCALLTYPE d3d10_pixel_shader_GetDevice(ID3D10PixelShader *iface, ID3D10Device **device)
376 {
377     FIXME("iface %p, device %p stub!\n", iface, device);
378 }
379
380 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_GetPrivateData(ID3D10PixelShader *iface,
381         REFGUID guid, UINT *data_size, void *data)
382 {
383     FIXME("iface %p, guid %s, data_size %p, data %p stub!\n",
384             iface, debugstr_guid(guid), data_size, data);
385
386     return E_NOTIMPL;
387 }
388
389 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_SetPrivateData(ID3D10PixelShader *iface,
390         REFGUID guid, UINT data_size, const void *data)
391 {
392     FIXME("iface %p, guid %s, data_size %u, data %p stub!\n",
393             iface, debugstr_guid(guid), data_size, data);
394
395     return E_NOTIMPL;
396 }
397
398 static HRESULT STDMETHODCALLTYPE d3d10_pixel_shader_SetPrivateDataInterface(ID3D10PixelShader *iface,
399         REFGUID guid, const IUnknown *data)
400 {
401     FIXME("iface %p, guid %s, data %p stub!\n", iface, debugstr_guid(guid), data);
402
403     return E_NOTIMPL;
404 }
405
406 const struct ID3D10PixelShaderVtbl d3d10_pixel_shader_vtbl =
407 {
408     /* IUnknown methods */
409     d3d10_pixel_shader_QueryInterface,
410     d3d10_pixel_shader_AddRef,
411     d3d10_pixel_shader_Release,
412     /* ID3D10DeviceChild methods */
413     d3d10_pixel_shader_GetDevice,
414     d3d10_pixel_shader_GetPrivateData,
415     d3d10_pixel_shader_SetPrivateData,
416     d3d10_pixel_shader_SetPrivateDataInterface,
417 };