x86, mm: dont use non-temporal stores in pagecache accesses
[linux-2.6] / drivers / gpu / drm / drm_agpsupport.c
1 /**
2  * \file drm_agpsupport.c
3  * DRM support for AGP/GART backend
4  *
5  * \author Rickard E. (Rik) Faith <faith@valinux.com>
6  * \author Gareth Hughes <gareth@valinux.com>
7  */
8
9 /*
10  * Copyright 1999 Precision Insight, Inc., Cedar Park, Texas.
11  * Copyright 2000 VA Linux Systems, Inc., Sunnyvale, California.
12  * All Rights Reserved.
13  *
14  * Permission is hereby granted, free of charge, to any person obtaining a
15  * copy of this software and associated documentation files (the "Software"),
16  * to deal in the Software without restriction, including without limitation
17  * the rights to use, copy, modify, merge, publish, distribute, sublicense,
18  * and/or sell copies of the Software, and to permit persons to whom the
19  * Software is furnished to do so, subject to the following conditions:
20  *
21  * The above copyright notice and this permission notice (including the next
22  * paragraph) shall be included in all copies or substantial portions of the
23  * Software.
24  *
25  * THE SOFTWARE IS PROVIDED "AS IS", WITHOUT WARRANTY OF ANY KIND, EXPRESS OR
26  * IMPLIED, INCLUDING BUT NOT LIMITED TO THE WARRANTIES OF MERCHANTABILITY,
27  * FITNESS FOR A PARTICULAR PURPOSE AND NONINFRINGEMENT.  IN NO EVENT SHALL
28  * VA LINUX SYSTEMS AND/OR ITS SUPPLIERS BE LIABLE FOR ANY CLAIM, DAMAGES OR
29  * OTHER LIABILITY, WHETHER IN AN ACTION OF CONTRACT, TORT OR OTHERWISE,
30  * ARISING FROM, OUT OF OR IN CONNECTION WITH THE SOFTWARE OR THE USE OR
31  * OTHER DEALINGS IN THE SOFTWARE.
32  */
33
34 #include "drmP.h"
35 #include <linux/module.h>
36
37 #if __OS_HAS_AGP
38
39 #include <asm/agp.h>
40
41 /**
42  * Get AGP information.
43  *
44  * \param inode device inode.
45  * \param file_priv DRM file private.
46  * \param cmd command.
47  * \param arg pointer to a (output) drm_agp_info structure.
48  * \return zero on success or a negative number on failure.
49  *
50  * Verifies the AGP device has been initialized and acquired and fills in the
51  * drm_agp_info structure with the information in drm_agp_head::agp_info.
52  */
53 int drm_agp_info(struct drm_device *dev, struct drm_agp_info *info)
54 {
55         DRM_AGP_KERN *kern;
56
57         if (!dev->agp || !dev->agp->acquired)
58                 return -EINVAL;
59
60         kern = &dev->agp->agp_info;
61         info->agp_version_major = kern->version.major;
62         info->agp_version_minor = kern->version.minor;
63         info->mode = kern->mode;
64         info->aperture_base = kern->aper_base;
65         info->aperture_size = kern->aper_size * 1024 * 1024;
66         info->memory_allowed = kern->max_memory << PAGE_SHIFT;
67         info->memory_used = kern->current_memory << PAGE_SHIFT;
68         info->id_vendor = kern->device->vendor;
69         info->id_device = kern->device->device;
70
71         return 0;
72 }
73
74 EXPORT_SYMBOL(drm_agp_info);
75
76 int drm_agp_info_ioctl(struct drm_device *dev, void *data,
77                        struct drm_file *file_priv)
78 {
79         struct drm_agp_info *info = data;
80         int err;
81
82         err = drm_agp_info(dev, info);
83         if (err)
84                 return err;
85
86         return 0;
87 }
88
89 /**
90  * Acquire the AGP device.
91  *
92  * \param dev DRM device that is to acquire AGP.
93  * \return zero on success or a negative number on failure.
94  *
95  * Verifies the AGP device hasn't been acquired before and calls
96  * \c agp_backend_acquire.
97  */
98 int drm_agp_acquire(struct drm_device * dev)
99 {
100         if (!dev->agp)
101                 return -ENODEV;
102         if (dev->agp->acquired)
103                 return -EBUSY;
104         if (!(dev->agp->bridge = agp_backend_acquire(dev->pdev)))
105                 return -ENODEV;
106         dev->agp->acquired = 1;
107         return 0;
108 }
109
110 EXPORT_SYMBOL(drm_agp_acquire);
111
112 /**
113  * Acquire the AGP device (ioctl).
114  *
115  * \param inode device inode.
116  * \param file_priv DRM file private.
117  * \param cmd command.
118  * \param arg user argument.
119  * \return zero on success or a negative number on failure.
120  *
121  * Verifies the AGP device hasn't been acquired before and calls
122  * \c agp_backend_acquire.
123  */
124 int drm_agp_acquire_ioctl(struct drm_device *dev, void *data,
125                           struct drm_file *file_priv)
126 {
127         return drm_agp_acquire((struct drm_device *) file_priv->minor->dev);
128 }
129
130 /**
131  * Release the AGP device.
132  *
133  * \param dev DRM device that is to release AGP.
134  * \return zero on success or a negative number on failure.
135  *
136  * Verifies the AGP device has been acquired and calls \c agp_backend_release.
137  */
138 int drm_agp_release(struct drm_device * dev)
139 {
140         if (!dev->agp || !dev->agp->acquired)
141                 return -EINVAL;
142         agp_backend_release(dev->agp->bridge);
143         dev->agp->acquired = 0;
144         return 0;
145 }
146 EXPORT_SYMBOL(drm_agp_release);
147
148 int drm_agp_release_ioctl(struct drm_device *dev, void *data,
149                           struct drm_file *file_priv)
150 {
151         return drm_agp_release(dev);
152 }
153
154 /**
155  * Enable the AGP bus.
156  *
157  * \param dev DRM device that has previously acquired AGP.
158  * \param mode Requested AGP mode.
159  * \return zero on success or a negative number on failure.
160  *
161  * Verifies the AGP device has been acquired but not enabled, and calls
162  * \c agp_enable.
163  */
164 int drm_agp_enable(struct drm_device * dev, struct drm_agp_mode mode)
165 {
166         if (!dev->agp || !dev->agp->acquired)
167                 return -EINVAL;
168
169         dev->agp->mode = mode.mode;
170         agp_enable(dev->agp->bridge, mode.mode);
171         dev->agp->enabled = 1;
172         return 0;
173 }
174
175 EXPORT_SYMBOL(drm_agp_enable);
176
177 int drm_agp_enable_ioctl(struct drm_device *dev, void *data,
178                          struct drm_file *file_priv)
179 {
180         struct drm_agp_mode *mode = data;
181
182         return drm_agp_enable(dev, *mode);
183 }
184
185 /**
186  * Allocate AGP memory.
187  *
188  * \param inode device inode.
189  * \param file_priv file private pointer.
190  * \param cmd command.
191  * \param arg pointer to a drm_agp_buffer structure.
192  * \return zero on success or a negative number on failure.
193  *
194  * Verifies the AGP device is present and has been acquired, allocates the
195  * memory via alloc_agp() and creates a drm_agp_mem entry for it.
196  */
197 int drm_agp_alloc(struct drm_device *dev, struct drm_agp_buffer *request)
198 {
199         struct drm_agp_mem *entry;
200         DRM_AGP_MEM *memory;
201         unsigned long pages;
202         u32 type;
203
204         if (!dev->agp || !dev->agp->acquired)
205                 return -EINVAL;
206         if (!(entry = drm_alloc(sizeof(*entry), DRM_MEM_AGPLISTS)))
207                 return -ENOMEM;
208
209         memset(entry, 0, sizeof(*entry));
210
211         pages = (request->size + PAGE_SIZE - 1) / PAGE_SIZE;
212         type = (u32) request->type;
213         if (!(memory = drm_alloc_agp(dev, pages, type))) {
214                 drm_free(entry, sizeof(*entry), DRM_MEM_AGPLISTS);
215                 return -ENOMEM;
216         }
217
218         entry->handle = (unsigned long)memory->key + 1;
219         entry->memory = memory;
220         entry->bound = 0;
221         entry->pages = pages;
222         list_add(&entry->head, &dev->agp->memory);
223
224         request->handle = entry->handle;
225         request->physical = memory->physical;
226
227         return 0;
228 }
229 EXPORT_SYMBOL(drm_agp_alloc);
230
231
232 int drm_agp_alloc_ioctl(struct drm_device *dev, void *data,
233                         struct drm_file *file_priv)
234 {
235         struct drm_agp_buffer *request = data;
236
237         return drm_agp_alloc(dev, request);
238 }
239
240 /**
241  * Search for the AGP memory entry associated with a handle.
242  *
243  * \param dev DRM device structure.
244  * \param handle AGP memory handle.
245  * \return pointer to the drm_agp_mem structure associated with \p handle.
246  *
247  * Walks through drm_agp_head::memory until finding a matching handle.
248  */
249 static struct drm_agp_mem *drm_agp_lookup_entry(struct drm_device * dev,
250                                            unsigned long handle)
251 {
252         struct drm_agp_mem *entry;
253
254         list_for_each_entry(entry, &dev->agp->memory, head) {
255                 if (entry->handle == handle)
256                         return entry;
257         }
258         return NULL;
259 }
260
261 /**
262  * Unbind AGP memory from the GATT (ioctl).
263  *
264  * \param inode device inode.
265  * \param file_priv DRM file private.
266  * \param cmd command.
267  * \param arg pointer to a drm_agp_binding structure.
268  * \return zero on success or a negative number on failure.
269  *
270  * Verifies the AGP device is present and acquired, looks-up the AGP memory
271  * entry and passes it to the unbind_agp() function.
272  */
273 int drm_agp_unbind(struct drm_device *dev, struct drm_agp_binding *request)
274 {
275         struct drm_agp_mem *entry;
276         int ret;
277
278         if (!dev->agp || !dev->agp->acquired)
279                 return -EINVAL;
280         if (!(entry = drm_agp_lookup_entry(dev, request->handle)))
281                 return -EINVAL;
282         if (!entry->bound)
283                 return -EINVAL;
284         ret = drm_unbind_agp(entry->memory);
285         if (ret == 0)
286                 entry->bound = 0;
287         return ret;
288 }
289 EXPORT_SYMBOL(drm_agp_unbind);
290
291
292 int drm_agp_unbind_ioctl(struct drm_device *dev, void *data,
293                          struct drm_file *file_priv)
294 {
295         struct drm_agp_binding *request = data;
296
297         return drm_agp_unbind(dev, request);
298 }
299
300 /**
301  * Bind AGP memory into the GATT (ioctl)
302  *
303  * \param inode device inode.
304  * \param file_priv DRM file private.
305  * \param cmd command.
306  * \param arg pointer to a drm_agp_binding structure.
307  * \return zero on success or a negative number on failure.
308  *
309  * Verifies the AGP device is present and has been acquired and that no memory
310  * is currently bound into the GATT. Looks-up the AGP memory entry and passes
311  * it to bind_agp() function.
312  */
313 int drm_agp_bind(struct drm_device *dev, struct drm_agp_binding *request)
314 {
315         struct drm_agp_mem *entry;
316         int retcode;
317         int page;
318
319         if (!dev->agp || !dev->agp->acquired)
320                 return -EINVAL;
321         if (!(entry = drm_agp_lookup_entry(dev, request->handle)))
322                 return -EINVAL;
323         if (entry->bound)
324                 return -EINVAL;
325         page = (request->offset + PAGE_SIZE - 1) / PAGE_SIZE;
326         if ((retcode = drm_bind_agp(entry->memory, page)))
327                 return retcode;
328         entry->bound = dev->agp->base + (page << PAGE_SHIFT);
329         DRM_DEBUG("base = 0x%lx entry->bound = 0x%lx\n",
330                   dev->agp->base, entry->bound);
331         return 0;
332 }
333 EXPORT_SYMBOL(drm_agp_bind);
334
335
336 int drm_agp_bind_ioctl(struct drm_device *dev, void *data,
337                        struct drm_file *file_priv)
338 {
339         struct drm_agp_binding *request = data;
340
341         return drm_agp_bind(dev, request);
342 }
343
344 /**
345  * Free AGP memory (ioctl).
346  *
347  * \param inode device inode.
348  * \param file_priv DRM file private.
349  * \param cmd command.
350  * \param arg pointer to a drm_agp_buffer structure.
351  * \return zero on success or a negative number on failure.
352  *
353  * Verifies the AGP device is present and has been acquired and looks up the
354  * AGP memory entry. If the memory it's currently bound, unbind it via
355  * unbind_agp(). Frees it via free_agp() as well as the entry itself
356  * and unlinks from the doubly linked list it's inserted in.
357  */
358 int drm_agp_free(struct drm_device *dev, struct drm_agp_buffer *request)
359 {
360         struct drm_agp_mem *entry;
361
362         if (!dev->agp || !dev->agp->acquired)
363                 return -EINVAL;
364         if (!(entry = drm_agp_lookup_entry(dev, request->handle)))
365                 return -EINVAL;
366         if (entry->bound)
367                 drm_unbind_agp(entry->memory);
368
369         list_del(&entry->head);
370
371         drm_free_agp(entry->memory, entry->pages);
372         drm_free(entry, sizeof(*entry), DRM_MEM_AGPLISTS);
373         return 0;
374 }
375 EXPORT_SYMBOL(drm_agp_free);
376
377
378
379 int drm_agp_free_ioctl(struct drm_device *dev, void *data,
380                        struct drm_file *file_priv)
381 {
382         struct drm_agp_buffer *request = data;
383
384         return drm_agp_free(dev, request);
385 }
386
387 /**
388  * Initialize the AGP resources.
389  *
390  * \return pointer to a drm_agp_head structure.
391  *
392  * Gets the drm_agp_t structure which is made available by the agpgart module
393  * via the inter_module_* functions. Creates and initializes a drm_agp_head
394  * structure.
395  */
396 struct drm_agp_head *drm_agp_init(struct drm_device *dev)
397 {
398         struct drm_agp_head *head = NULL;
399
400         if (!(head = drm_alloc(sizeof(*head), DRM_MEM_AGPLISTS)))
401                 return NULL;
402         memset((void *)head, 0, sizeof(*head));
403         head->bridge = agp_find_bridge(dev->pdev);
404         if (!head->bridge) {
405                 if (!(head->bridge = agp_backend_acquire(dev->pdev))) {
406                         drm_free(head, sizeof(*head), DRM_MEM_AGPLISTS);
407                         return NULL;
408                 }
409                 agp_copy_info(head->bridge, &head->agp_info);
410                 agp_backend_release(head->bridge);
411         } else {
412                 agp_copy_info(head->bridge, &head->agp_info);
413         }
414         if (head->agp_info.chipset == NOT_SUPPORTED) {
415                 drm_free(head, sizeof(*head), DRM_MEM_AGPLISTS);
416                 return NULL;
417         }
418         INIT_LIST_HEAD(&head->memory);
419         head->cant_use_aperture = head->agp_info.cant_use_aperture;
420         head->page_mask = head->agp_info.page_mask;
421         head->base = head->agp_info.aper_base;
422         return head;
423 }
424
425 /** Calls agp_allocate_memory() */
426 DRM_AGP_MEM *drm_agp_allocate_memory(struct agp_bridge_data * bridge,
427                                      size_t pages, u32 type)
428 {
429         return agp_allocate_memory(bridge, pages, type);
430 }
431
432 /** Calls agp_free_memory() */
433 int drm_agp_free_memory(DRM_AGP_MEM * handle)
434 {
435         if (!handle)
436                 return 0;
437         agp_free_memory(handle);
438         return 1;
439 }
440
441 /** Calls agp_bind_memory() */
442 int drm_agp_bind_memory(DRM_AGP_MEM * handle, off_t start)
443 {
444         if (!handle)
445                 return -EINVAL;
446         return agp_bind_memory(handle, start);
447 }
448
449 /** Calls agp_unbind_memory() */
450 int drm_agp_unbind_memory(DRM_AGP_MEM * handle)
451 {
452         if (!handle)
453                 return -EINVAL;
454         return agp_unbind_memory(handle);
455 }
456
457 /**
458  * Binds a collection of pages into AGP memory at the given offset, returning
459  * the AGP memory structure containing them.
460  *
461  * No reference is held on the pages during this time -- it is up to the
462  * caller to handle that.
463  */
464 DRM_AGP_MEM *
465 drm_agp_bind_pages(struct drm_device *dev,
466                    struct page **pages,
467                    unsigned long num_pages,
468                    uint32_t gtt_offset,
469                    u32 type)
470 {
471         DRM_AGP_MEM *mem;
472         int ret, i;
473
474         DRM_DEBUG("\n");
475
476         mem = drm_agp_allocate_memory(dev->agp->bridge, num_pages,
477                                       type);
478         if (mem == NULL) {
479                 DRM_ERROR("Failed to allocate memory for %ld pages\n",
480                           num_pages);
481                 return NULL;
482         }
483
484         for (i = 0; i < num_pages; i++)
485                 mem->memory[i] = phys_to_gart(page_to_phys(pages[i]));
486         mem->page_count = num_pages;
487
488         mem->is_flushed = true;
489         ret = drm_agp_bind_memory(mem, gtt_offset / PAGE_SIZE);
490         if (ret != 0) {
491                 DRM_ERROR("Failed to bind AGP memory: %d\n", ret);
492                 agp_free_memory(mem);
493                 return NULL;
494         }
495
496         return mem;
497 }
498 EXPORT_SYMBOL(drm_agp_bind_pages);
499
500 void drm_agp_chipset_flush(struct drm_device *dev)
501 {
502         agp_flush_chipset(dev->agp->bridge);
503 }
504 EXPORT_SYMBOL(drm_agp_chipset_flush);
505
506 #endif /* __OS_HAS_AGP */