ide: cleanup ide-dma.c
[linux-2.6] / drivers / s390 / cio / cmf.c
1 /*
2  * linux/drivers/s390/cio/cmf.c
3  *
4  * Linux on zSeries Channel Measurement Facility support
5  *
6  * Copyright 2000,2006 IBM Corporation
7  *
8  * Authors: Arnd Bergmann <arndb@de.ibm.com>
9  *          Cornelia Huck <cornelia.huck@de.ibm.com>
10  *
11  * original idea from Natarajan Krishnaswami <nkrishna@us.ibm.com>
12  *
13  * This program is free software; you can redistribute it and/or modify
14  * it under the terms of the GNU General Public License as published by
15  * the Free Software Foundation; either version 2, or (at your option)
16  * any later version.
17  *
18  * This program is distributed in the hope that it will be useful,
19  * but WITHOUT ANY WARRANTY; without even the implied warranty of
20  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
21  * GNU General Public License for more details.
22  *
23  * You should have received a copy of the GNU General Public License
24  * along with this program; if not, write to the Free Software
25  * Foundation, Inc., 675 Mass Ave, Cambridge, MA 02139, USA.
26  */
27
28 #include <linux/bootmem.h>
29 #include <linux/device.h>
30 #include <linux/init.h>
31 #include <linux/list.h>
32 #include <linux/module.h>
33 #include <linux/moduleparam.h>
34 #include <linux/slab.h>
35 #include <linux/timex.h>        /* get_clock() */
36
37 #include <asm/ccwdev.h>
38 #include <asm/cio.h>
39 #include <asm/cmb.h>
40 #include <asm/div64.h>
41
42 #include "cio.h"
43 #include "css.h"
44 #include "device.h"
45 #include "ioasm.h"
46 #include "chsc.h"
47
48 /*
49  * parameter to enable cmf during boot, possible uses are:
50  *  "s390cmf" -- enable cmf and allocate 2 MB of ram so measuring can be
51  *               used on any subchannel
52  *  "s390cmf=<num>" -- enable cmf and allocate enough memory to measure
53  *                     <num> subchannel, where <num> is an integer
54  *                     between 1 and 65535, default is 1024
55  */
56 #define ARGSTRING "s390cmf"
57
58 /* indices for READCMB */
59 enum cmb_index {
60  /* basic and exended format: */
61         cmb_ssch_rsch_count,
62         cmb_sample_count,
63         cmb_device_connect_time,
64         cmb_function_pending_time,
65         cmb_device_disconnect_time,
66         cmb_control_unit_queuing_time,
67         cmb_device_active_only_time,
68  /* extended format only: */
69         cmb_device_busy_time,
70         cmb_initial_command_response_time,
71 };
72
73 /**
74  * enum cmb_format - types of supported measurement block formats
75  *
76  * @CMF_BASIC:      traditional channel measurement blocks supported
77  *                  by all machines that we run on
78  * @CMF_EXTENDED:   improved format that was introduced with the z990
79  *                  machine
80  * @CMF_AUTODETECT: default: use extended format when running on a machine
81  *                  supporting extended format, otherwise fall back to
82  *                  basic format
83  */
84 enum cmb_format {
85         CMF_BASIC,
86         CMF_EXTENDED,
87         CMF_AUTODETECT = -1,
88 };
89
90 /*
91  * format - actual format for all measurement blocks
92  *
93  * The format module parameter can be set to a value of 0 (zero)
94  * or 1, indicating basic or extended format as described for
95  * enum cmb_format.
96  */
97 static int format = CMF_AUTODETECT;
98 module_param(format, bool, 0444);
99
100 /**
101  * struct cmb_operations - functions to use depending on cmb_format
102  *
103  * Most of these functions operate on a struct ccw_device. There is only
104  * one instance of struct cmb_operations because the format of the measurement
105  * data is guaranteed to be the same for every ccw_device.
106  *
107  * @alloc:      allocate memory for a channel measurement block,
108  *              either with the help of a special pool or with kmalloc
109  * @free:       free memory allocated with @alloc
110  * @set:        enable or disable measurement
111  * @read:       read a measurement entry at an index
112  * @readall:    read a measurement block in a common format
113  * @reset:      clear the data in the associated measurement block and
114  *              reset its time stamp
115  * @align:      align an allocated block so that the hardware can use it
116  */
117 struct cmb_operations {
118         int  (*alloc)  (struct ccw_device *);
119         void (*free)   (struct ccw_device *);
120         int  (*set)    (struct ccw_device *, u32);
121         u64  (*read)   (struct ccw_device *, int);
122         int  (*readall)(struct ccw_device *, struct cmbdata *);
123         void (*reset)  (struct ccw_device *);
124         void *(*align) (void *);
125 /* private: */
126         struct attribute_group *attr_group;
127 };
128 static struct cmb_operations *cmbops;
129
130 struct cmb_data {
131         void *hw_block;   /* Pointer to block updated by hardware */
132         void *last_block; /* Last changed block copied from hardware block */
133         int size;         /* Size of hw_block and last_block */
134         unsigned long long last_update;  /* when last_block was updated */
135 };
136
137 /*
138  * Our user interface is designed in terms of nanoseconds,
139  * while the hardware measures total times in its own
140  * unit.
141  */
142 static inline u64 time_to_nsec(u32 value)
143 {
144         return ((u64)value) * 128000ull;
145 }
146
147 /*
148  * Users are usually interested in average times,
149  * not accumulated time.
150  * This also helps us with atomicity problems
151  * when reading sinlge values.
152  */
153 static inline u64 time_to_avg_nsec(u32 value, u32 count)
154 {
155         u64 ret;
156
157         /* no samples yet, avoid division by 0 */
158         if (count == 0)
159                 return 0;
160
161         /* value comes in units of 128 µsec */
162         ret = time_to_nsec(value);
163         do_div(ret, count);
164
165         return ret;
166 }
167
168 /*
169  * Activate or deactivate the channel monitor. When area is NULL,
170  * the monitor is deactivated. The channel monitor needs to
171  * be active in order to measure subchannels, which also need
172  * to be enabled.
173  */
174 static inline void cmf_activate(void *area, unsigned int onoff)
175 {
176         register void * __gpr2 asm("2");
177         register long __gpr1 asm("1");
178
179         __gpr2 = area;
180         __gpr1 = onoff ? 2 : 0;
181         /* activate channel measurement */
182         asm("schm" : : "d" (__gpr2), "d" (__gpr1) );
183 }
184
185 static int set_schib(struct ccw_device *cdev, u32 mme, int mbfc,
186                      unsigned long address)
187 {
188         int ret;
189         int retry;
190         struct subchannel *sch;
191         struct schib *schib;
192
193         sch = to_subchannel(cdev->dev.parent);
194         schib = &sch->schib;
195         /* msch can silently fail, so do it again if necessary */
196         for (retry = 0; retry < 3; retry++) {
197                 /* prepare schib */
198                 stsch(sch->schid, schib);
199                 schib->pmcw.mme  = mme;
200                 schib->pmcw.mbfc = mbfc;
201                 /* address can be either a block address or a block index */
202                 if (mbfc)
203                         schib->mba = address;
204                 else
205                         schib->pmcw.mbi = address;
206
207                 /* try to submit it */
208                 switch(ret = msch_err(sch->schid, schib)) {
209                         case 0:
210                                 break;
211                         case 1:
212                         case 2: /* in I/O or status pending */
213                                 ret = -EBUSY;
214                                 break;
215                         case 3: /* subchannel is no longer valid */
216                                 ret = -ENODEV;
217                                 break;
218                         default: /* msch caught an exception */
219                                 ret = -EINVAL;
220                                 break;
221                 }
222                 stsch(sch->schid, schib); /* restore the schib */
223
224                 if (ret)
225                         break;
226
227                 /* check if it worked */
228                 if (schib->pmcw.mme  == mme &&
229                     schib->pmcw.mbfc == mbfc &&
230                     (mbfc ? (schib->mba == address)
231                           : (schib->pmcw.mbi == address)))
232                         return 0;
233
234                 ret = -EINVAL;
235         }
236
237         return ret;
238 }
239
240 struct set_schib_struct {
241         u32 mme;
242         int mbfc;
243         unsigned long address;
244         wait_queue_head_t wait;
245         int ret;
246         struct kref kref;
247 };
248
249 static void cmf_set_schib_release(struct kref *kref)
250 {
251         struct set_schib_struct *set_data;
252
253         set_data = container_of(kref, struct set_schib_struct, kref);
254         kfree(set_data);
255 }
256
257 #define CMF_PENDING 1
258
259 static int set_schib_wait(struct ccw_device *cdev, u32 mme,
260                                 int mbfc, unsigned long address)
261 {
262         struct set_schib_struct *set_data;
263         int ret;
264
265         spin_lock_irq(cdev->ccwlock);
266         if (!cdev->private->cmb) {
267                 ret = -ENODEV;
268                 goto out;
269         }
270         set_data = kzalloc(sizeof(struct set_schib_struct), GFP_ATOMIC);
271         if (!set_data) {
272                 ret = -ENOMEM;
273                 goto out;
274         }
275         init_waitqueue_head(&set_data->wait);
276         kref_init(&set_data->kref);
277         set_data->mme = mme;
278         set_data->mbfc = mbfc;
279         set_data->address = address;
280
281         ret = set_schib(cdev, mme, mbfc, address);
282         if (ret != -EBUSY)
283                 goto out_put;
284
285         if (cdev->private->state != DEV_STATE_ONLINE) {
286                 /* if the device is not online, don't even try again */
287                 ret = -EBUSY;
288                 goto out_put;
289         }
290
291         cdev->private->state = DEV_STATE_CMFCHANGE;
292         set_data->ret = CMF_PENDING;
293         cdev->private->cmb_wait = set_data;
294
295         spin_unlock_irq(cdev->ccwlock);
296         if (wait_event_interruptible(set_data->wait,
297                                      set_data->ret != CMF_PENDING)) {
298                 spin_lock_irq(cdev->ccwlock);
299                 if (set_data->ret == CMF_PENDING) {
300                         set_data->ret = -ERESTARTSYS;
301                         if (cdev->private->state == DEV_STATE_CMFCHANGE)
302                                 cdev->private->state = DEV_STATE_ONLINE;
303                 }
304                 spin_unlock_irq(cdev->ccwlock);
305         }
306         spin_lock_irq(cdev->ccwlock);
307         cdev->private->cmb_wait = NULL;
308         ret = set_data->ret;
309 out_put:
310         kref_put(&set_data->kref, cmf_set_schib_release);
311 out:
312         spin_unlock_irq(cdev->ccwlock);
313         return ret;
314 }
315
316 void retry_set_schib(struct ccw_device *cdev)
317 {
318         struct set_schib_struct *set_data;
319
320         set_data = cdev->private->cmb_wait;
321         if (!set_data) {
322                 WARN_ON(1);
323                 return;
324         }
325         kref_get(&set_data->kref);
326         set_data->ret = set_schib(cdev, set_data->mme, set_data->mbfc,
327                                   set_data->address);
328         wake_up(&set_data->wait);
329         kref_put(&set_data->kref, cmf_set_schib_release);
330 }
331
332 static int cmf_copy_block(struct ccw_device *cdev)
333 {
334         struct subchannel *sch;
335         void *reference_buf;
336         void *hw_block;
337         struct cmb_data *cmb_data;
338
339         sch = to_subchannel(cdev->dev.parent);
340
341         if (stsch(sch->schid, &sch->schib))
342                 return -ENODEV;
343
344         if (scsw_fctl(&sch->schib.scsw) & SCSW_FCTL_START_FUNC) {
345                 /* Don't copy if a start function is in progress. */
346                 if ((!(scsw_actl(&sch->schib.scsw) & SCSW_ACTL_SUSPENDED)) &&
347                     (scsw_actl(&sch->schib.scsw) &
348                      (SCSW_ACTL_DEVACT | SCSW_ACTL_SCHACT)) &&
349                     (!(scsw_stctl(&sch->schib.scsw) & SCSW_STCTL_SEC_STATUS)))
350                         return -EBUSY;
351         }
352         cmb_data = cdev->private->cmb;
353         hw_block = cmbops->align(cmb_data->hw_block);
354         if (!memcmp(cmb_data->last_block, hw_block, cmb_data->size))
355                 /* No need to copy. */
356                 return 0;
357         reference_buf = kzalloc(cmb_data->size, GFP_ATOMIC);
358         if (!reference_buf)
359                 return -ENOMEM;
360         /* Ensure consistency of block copied from hardware. */
361         do {
362                 memcpy(cmb_data->last_block, hw_block, cmb_data->size);
363                 memcpy(reference_buf, hw_block, cmb_data->size);
364         } while (memcmp(cmb_data->last_block, reference_buf, cmb_data->size));
365         cmb_data->last_update = get_clock();
366         kfree(reference_buf);
367         return 0;
368 }
369
370 struct copy_block_struct {
371         wait_queue_head_t wait;
372         int ret;
373         struct kref kref;
374 };
375
376 static void cmf_copy_block_release(struct kref *kref)
377 {
378         struct copy_block_struct *copy_block;
379
380         copy_block = container_of(kref, struct copy_block_struct, kref);
381         kfree(copy_block);
382 }
383
384 static int cmf_cmb_copy_wait(struct ccw_device *cdev)
385 {
386         struct copy_block_struct *copy_block;
387         int ret;
388         unsigned long flags;
389
390         spin_lock_irqsave(cdev->ccwlock, flags);
391         if (!cdev->private->cmb) {
392                 ret = -ENODEV;
393                 goto out;
394         }
395         copy_block = kzalloc(sizeof(struct copy_block_struct), GFP_ATOMIC);
396         if (!copy_block) {
397                 ret = -ENOMEM;
398                 goto out;
399         }
400         init_waitqueue_head(&copy_block->wait);
401         kref_init(&copy_block->kref);
402
403         ret = cmf_copy_block(cdev);
404         if (ret != -EBUSY)
405                 goto out_put;
406
407         if (cdev->private->state != DEV_STATE_ONLINE) {
408                 ret = -EBUSY;
409                 goto out_put;
410         }
411
412         cdev->private->state = DEV_STATE_CMFUPDATE;
413         copy_block->ret = CMF_PENDING;
414         cdev->private->cmb_wait = copy_block;
415
416         spin_unlock_irqrestore(cdev->ccwlock, flags);
417         if (wait_event_interruptible(copy_block->wait,
418                                      copy_block->ret != CMF_PENDING)) {
419                 spin_lock_irqsave(cdev->ccwlock, flags);
420                 if (copy_block->ret == CMF_PENDING) {
421                         copy_block->ret = -ERESTARTSYS;
422                         if (cdev->private->state == DEV_STATE_CMFUPDATE)
423                                 cdev->private->state = DEV_STATE_ONLINE;
424                 }
425                 spin_unlock_irqrestore(cdev->ccwlock, flags);
426         }
427         spin_lock_irqsave(cdev->ccwlock, flags);
428         cdev->private->cmb_wait = NULL;
429         ret = copy_block->ret;
430 out_put:
431         kref_put(&copy_block->kref, cmf_copy_block_release);
432 out:
433         spin_unlock_irqrestore(cdev->ccwlock, flags);
434         return ret;
435 }
436
437 void cmf_retry_copy_block(struct ccw_device *cdev)
438 {
439         struct copy_block_struct *copy_block;
440
441         copy_block = cdev->private->cmb_wait;
442         if (!copy_block) {
443                 WARN_ON(1);
444                 return;
445         }
446         kref_get(&copy_block->kref);
447         copy_block->ret = cmf_copy_block(cdev);
448         wake_up(&copy_block->wait);
449         kref_put(&copy_block->kref, cmf_copy_block_release);
450 }
451
452 static void cmf_generic_reset(struct ccw_device *cdev)
453 {
454         struct cmb_data *cmb_data;
455
456         spin_lock_irq(cdev->ccwlock);
457         cmb_data = cdev->private->cmb;
458         if (cmb_data) {
459                 memset(cmb_data->last_block, 0, cmb_data->size);
460                 /*
461                  * Need to reset hw block as well to make the hardware start
462                  * from 0 again.
463                  */
464                 memset(cmbops->align(cmb_data->hw_block), 0, cmb_data->size);
465                 cmb_data->last_update = 0;
466         }
467         cdev->private->cmb_start_time = get_clock();
468         spin_unlock_irq(cdev->ccwlock);
469 }
470
471 /**
472  * struct cmb_area - container for global cmb data
473  *
474  * @mem:        pointer to CMBs (only in basic measurement mode)
475  * @list:       contains a linked list of all subchannels
476  * @num_channels: number of channels to be measured
477  * @lock:       protect concurrent access to @mem and @list
478  */
479 struct cmb_area {
480         struct cmb *mem;
481         struct list_head list;
482         int num_channels;
483         spinlock_t lock;
484 };
485
486 static struct cmb_area cmb_area = {
487         .lock = __SPIN_LOCK_UNLOCKED(cmb_area.lock),
488         .list = LIST_HEAD_INIT(cmb_area.list),
489         .num_channels  = 1024,
490 };
491
492 /* ****** old style CMB handling ********/
493
494 /*
495  * Basic channel measurement blocks are allocated in one contiguous
496  * block of memory, which can not be moved as long as any channel
497  * is active. Therefore, a maximum number of subchannels needs to
498  * be defined somewhere. This is a module parameter, defaulting to
499  * a resonable value of 1024, or 32 kb of memory.
500  * Current kernels don't allow kmalloc with more than 128kb, so the
501  * maximum is 4096.
502  */
503
504 module_param_named(maxchannels, cmb_area.num_channels, uint, 0444);
505
506 /**
507  * struct cmb - basic channel measurement block
508  * @ssch_rsch_count: number of ssch and rsch
509  * @sample_count: number of samples
510  * @device_connect_time: time of device connect
511  * @function_pending_time: time of function pending
512  * @device_disconnect_time: time of device disconnect
513  * @control_unit_queuing_time: time of control unit queuing
514  * @device_active_only_time: time of device active only
515  * @reserved: unused in basic measurement mode
516  *
517  * The measurement block as used by the hardware. The fields are described
518  * further in z/Architecture Principles of Operation, chapter 17.
519  *
520  * The cmb area made up from these blocks must be a contiguous array and may
521  * not be reallocated or freed.
522  * Only one cmb area can be present in the system.
523  */
524 struct cmb {
525         u16 ssch_rsch_count;
526         u16 sample_count;
527         u32 device_connect_time;
528         u32 function_pending_time;
529         u32 device_disconnect_time;
530         u32 control_unit_queuing_time;
531         u32 device_active_only_time;
532         u32 reserved[2];
533 };
534
535 /*
536  * Insert a single device into the cmb_area list.
537  * Called with cmb_area.lock held from alloc_cmb.
538  */
539 static int alloc_cmb_single(struct ccw_device *cdev,
540                             struct cmb_data *cmb_data)
541 {
542         struct cmb *cmb;
543         struct ccw_device_private *node;
544         int ret;
545
546         spin_lock_irq(cdev->ccwlock);
547         if (!list_empty(&cdev->private->cmb_list)) {
548                 ret = -EBUSY;
549                 goto out;
550         }
551
552         /*
553          * Find first unused cmb in cmb_area.mem.
554          * This is a little tricky: cmb_area.list
555          * remains sorted by ->cmb->hw_data pointers.
556          */
557         cmb = cmb_area.mem;
558         list_for_each_entry(node, &cmb_area.list, cmb_list) {
559                 struct cmb_data *data;
560                 data = node->cmb;
561                 if ((struct cmb*)data->hw_block > cmb)
562                         break;
563                 cmb++;
564         }
565         if (cmb - cmb_area.mem >= cmb_area.num_channels) {
566                 ret = -ENOMEM;
567                 goto out;
568         }
569
570         /* insert new cmb */
571         list_add_tail(&cdev->private->cmb_list, &node->cmb_list);
572         cmb_data->hw_block = cmb;
573         cdev->private->cmb = cmb_data;
574         ret = 0;
575 out:
576         spin_unlock_irq(cdev->ccwlock);
577         return ret;
578 }
579
580 static int alloc_cmb(struct ccw_device *cdev)
581 {
582         int ret;
583         struct cmb *mem;
584         ssize_t size;
585         struct cmb_data *cmb_data;
586
587         /* Allocate private cmb_data. */
588         cmb_data = kzalloc(sizeof(struct cmb_data), GFP_KERNEL);
589         if (!cmb_data)
590                 return -ENOMEM;
591
592         cmb_data->last_block = kzalloc(sizeof(struct cmb), GFP_KERNEL);
593         if (!cmb_data->last_block) {
594                 kfree(cmb_data);
595                 return -ENOMEM;
596         }
597         cmb_data->size = sizeof(struct cmb);
598         spin_lock(&cmb_area.lock);
599
600         if (!cmb_area.mem) {
601                 /* there is no user yet, so we need a new area */
602                 size = sizeof(struct cmb) * cmb_area.num_channels;
603                 WARN_ON(!list_empty(&cmb_area.list));
604
605                 spin_unlock(&cmb_area.lock);
606                 mem = (void*)__get_free_pages(GFP_KERNEL | GFP_DMA,
607                                  get_order(size));
608                 spin_lock(&cmb_area.lock);
609
610                 if (cmb_area.mem) {
611                         /* ok, another thread was faster */
612                         free_pages((unsigned long)mem, get_order(size));
613                 } else if (!mem) {
614                         /* no luck */
615                         ret = -ENOMEM;
616                         goto out;
617                 } else {
618                         /* everything ok */
619                         memset(mem, 0, size);
620                         cmb_area.mem = mem;
621                         cmf_activate(cmb_area.mem, 1);
622                 }
623         }
624
625         /* do the actual allocation */
626         ret = alloc_cmb_single(cdev, cmb_data);
627 out:
628         spin_unlock(&cmb_area.lock);
629         if (ret) {
630                 kfree(cmb_data->last_block);
631                 kfree(cmb_data);
632         }
633         return ret;
634 }
635
636 static void free_cmb(struct ccw_device *cdev)
637 {
638         struct ccw_device_private *priv;
639         struct cmb_data *cmb_data;
640
641         spin_lock(&cmb_area.lock);
642         spin_lock_irq(cdev->ccwlock);
643
644         priv = cdev->private;
645
646         if (list_empty(&priv->cmb_list)) {
647                 /* already freed */
648                 goto out;
649         }
650
651         cmb_data = priv->cmb;
652         priv->cmb = NULL;
653         if (cmb_data)
654                 kfree(cmb_data->last_block);
655         kfree(cmb_data);
656         list_del_init(&priv->cmb_list);
657
658         if (list_empty(&cmb_area.list)) {
659                 ssize_t size;
660                 size = sizeof(struct cmb) * cmb_area.num_channels;
661                 cmf_activate(NULL, 0);
662                 free_pages((unsigned long)cmb_area.mem, get_order(size));
663                 cmb_area.mem = NULL;
664         }
665 out:
666         spin_unlock_irq(cdev->ccwlock);
667         spin_unlock(&cmb_area.lock);
668 }
669
670 static int set_cmb(struct ccw_device *cdev, u32 mme)
671 {
672         u16 offset;
673         struct cmb_data *cmb_data;
674         unsigned long flags;
675
676         spin_lock_irqsave(cdev->ccwlock, flags);
677         if (!cdev->private->cmb) {
678                 spin_unlock_irqrestore(cdev->ccwlock, flags);
679                 return -EINVAL;
680         }
681         cmb_data = cdev->private->cmb;
682         offset = mme ? (struct cmb *)cmb_data->hw_block - cmb_area.mem : 0;
683         spin_unlock_irqrestore(cdev->ccwlock, flags);
684
685         return set_schib_wait(cdev, mme, 0, offset);
686 }
687
688 static u64 read_cmb(struct ccw_device *cdev, int index)
689 {
690         struct cmb *cmb;
691         u32 val;
692         int ret;
693         unsigned long flags;
694
695         ret = cmf_cmb_copy_wait(cdev);
696         if (ret < 0)
697                 return 0;
698
699         spin_lock_irqsave(cdev->ccwlock, flags);
700         if (!cdev->private->cmb) {
701                 ret = 0;
702                 goto out;
703         }
704         cmb = ((struct cmb_data *)cdev->private->cmb)->last_block;
705
706         switch (index) {
707         case cmb_ssch_rsch_count:
708                 ret = cmb->ssch_rsch_count;
709                 goto out;
710         case cmb_sample_count:
711                 ret = cmb->sample_count;
712                 goto out;
713         case cmb_device_connect_time:
714                 val = cmb->device_connect_time;
715                 break;
716         case cmb_function_pending_time:
717                 val = cmb->function_pending_time;
718                 break;
719         case cmb_device_disconnect_time:
720                 val = cmb->device_disconnect_time;
721                 break;
722         case cmb_control_unit_queuing_time:
723                 val = cmb->control_unit_queuing_time;
724                 break;
725         case cmb_device_active_only_time:
726                 val = cmb->device_active_only_time;
727                 break;
728         default:
729                 ret = 0;
730                 goto out;
731         }
732         ret = time_to_avg_nsec(val, cmb->sample_count);
733 out:
734         spin_unlock_irqrestore(cdev->ccwlock, flags);
735         return ret;
736 }
737
738 static int readall_cmb(struct ccw_device *cdev, struct cmbdata *data)
739 {
740         struct cmb *cmb;
741         struct cmb_data *cmb_data;
742         u64 time;
743         unsigned long flags;
744         int ret;
745
746         ret = cmf_cmb_copy_wait(cdev);
747         if (ret < 0)
748                 return ret;
749         spin_lock_irqsave(cdev->ccwlock, flags);
750         cmb_data = cdev->private->cmb;
751         if (!cmb_data) {
752                 ret = -ENODEV;
753                 goto out;
754         }
755         if (cmb_data->last_update == 0) {
756                 ret = -EAGAIN;
757                 goto out;
758         }
759         cmb = cmb_data->last_block;
760         time = cmb_data->last_update - cdev->private->cmb_start_time;
761
762         memset(data, 0, sizeof(struct cmbdata));
763
764         /* we only know values before device_busy_time */
765         data->size = offsetof(struct cmbdata, device_busy_time);
766
767         /* convert to nanoseconds */
768         data->elapsed_time = (time * 1000) >> 12;
769
770         /* copy data to new structure */
771         data->ssch_rsch_count = cmb->ssch_rsch_count;
772         data->sample_count = cmb->sample_count;
773
774         /* time fields are converted to nanoseconds while copying */
775         data->device_connect_time = time_to_nsec(cmb->device_connect_time);
776         data->function_pending_time = time_to_nsec(cmb->function_pending_time);
777         data->device_disconnect_time =
778                 time_to_nsec(cmb->device_disconnect_time);
779         data->control_unit_queuing_time
780                 = time_to_nsec(cmb->control_unit_queuing_time);
781         data->device_active_only_time
782                 = time_to_nsec(cmb->device_active_only_time);
783         ret = 0;
784 out:
785         spin_unlock_irqrestore(cdev->ccwlock, flags);
786         return ret;
787 }
788
789 static void reset_cmb(struct ccw_device *cdev)
790 {
791         cmf_generic_reset(cdev);
792 }
793
794 static void * align_cmb(void *area)
795 {
796         return area;
797 }
798
799 static struct attribute_group cmf_attr_group;
800
801 static struct cmb_operations cmbops_basic = {
802         .alloc  = alloc_cmb,
803         .free   = free_cmb,
804         .set    = set_cmb,
805         .read   = read_cmb,
806         .readall    = readall_cmb,
807         .reset      = reset_cmb,
808         .align      = align_cmb,
809         .attr_group = &cmf_attr_group,
810 };
811
812 /* ******** extended cmb handling ********/
813
814 /**
815  * struct cmbe - extended channel measurement block
816  * @ssch_rsch_count: number of ssch and rsch
817  * @sample_count: number of samples
818  * @device_connect_time: time of device connect
819  * @function_pending_time: time of function pending
820  * @device_disconnect_time: time of device disconnect
821  * @control_unit_queuing_time: time of control unit queuing
822  * @device_active_only_time: time of device active only
823  * @device_busy_time: time of device busy
824  * @initial_command_response_time: initial command response time
825  * @reserved: unused
826  *
827  * The measurement block as used by the hardware. May be in any 64 bit physical
828  * location.
829  * The fields are described further in z/Architecture Principles of Operation,
830  * third edition, chapter 17.
831  */
832 struct cmbe {
833         u32 ssch_rsch_count;
834         u32 sample_count;
835         u32 device_connect_time;
836         u32 function_pending_time;
837         u32 device_disconnect_time;
838         u32 control_unit_queuing_time;
839         u32 device_active_only_time;
840         u32 device_busy_time;
841         u32 initial_command_response_time;
842         u32 reserved[7];
843 };
844
845 /*
846  * kmalloc only guarantees 8 byte alignment, but we need cmbe
847  * pointers to be naturally aligned. Make sure to allocate
848  * enough space for two cmbes.
849  */
850 static inline struct cmbe *cmbe_align(struct cmbe *c)
851 {
852         unsigned long addr;
853         addr = ((unsigned long)c + sizeof (struct cmbe) - sizeof(long)) &
854                                  ~(sizeof (struct cmbe) - sizeof(long));
855         return (struct cmbe*)addr;
856 }
857
858 static int alloc_cmbe(struct ccw_device *cdev)
859 {
860         struct cmbe *cmbe;
861         struct cmb_data *cmb_data;
862         int ret;
863
864         cmbe = kzalloc (sizeof (*cmbe) * 2, GFP_KERNEL);
865         if (!cmbe)
866                 return -ENOMEM;
867         cmb_data = kzalloc(sizeof(struct cmb_data), GFP_KERNEL);
868         if (!cmb_data) {
869                 ret = -ENOMEM;
870                 goto out_free;
871         }
872         cmb_data->last_block = kzalloc(sizeof(struct cmbe), GFP_KERNEL);
873         if (!cmb_data->last_block) {
874                 ret = -ENOMEM;
875                 goto out_free;
876         }
877         cmb_data->size = sizeof(struct cmbe);
878         spin_lock_irq(cdev->ccwlock);
879         if (cdev->private->cmb) {
880                 spin_unlock_irq(cdev->ccwlock);
881                 ret = -EBUSY;
882                 goto out_free;
883         }
884         cmb_data->hw_block = cmbe;
885         cdev->private->cmb = cmb_data;
886         spin_unlock_irq(cdev->ccwlock);
887
888         /* activate global measurement if this is the first channel */
889         spin_lock(&cmb_area.lock);
890         if (list_empty(&cmb_area.list))
891                 cmf_activate(NULL, 1);
892         list_add_tail(&cdev->private->cmb_list, &cmb_area.list);
893         spin_unlock(&cmb_area.lock);
894
895         return 0;
896 out_free:
897         if (cmb_data)
898                 kfree(cmb_data->last_block);
899         kfree(cmb_data);
900         kfree(cmbe);
901         return ret;
902 }
903
904 static void free_cmbe(struct ccw_device *cdev)
905 {
906         struct cmb_data *cmb_data;
907
908         spin_lock_irq(cdev->ccwlock);
909         cmb_data = cdev->private->cmb;
910         cdev->private->cmb = NULL;
911         if (cmb_data)
912                 kfree(cmb_data->last_block);
913         kfree(cmb_data);
914         spin_unlock_irq(cdev->ccwlock);
915
916         /* deactivate global measurement if this is the last channel */
917         spin_lock(&cmb_area.lock);
918         list_del_init(&cdev->private->cmb_list);
919         if (list_empty(&cmb_area.list))
920                 cmf_activate(NULL, 0);
921         spin_unlock(&cmb_area.lock);
922 }
923
924 static int set_cmbe(struct ccw_device *cdev, u32 mme)
925 {
926         unsigned long mba;
927         struct cmb_data *cmb_data;
928         unsigned long flags;
929
930         spin_lock_irqsave(cdev->ccwlock, flags);
931         if (!cdev->private->cmb) {
932                 spin_unlock_irqrestore(cdev->ccwlock, flags);
933                 return -EINVAL;
934         }
935         cmb_data = cdev->private->cmb;
936         mba = mme ? (unsigned long) cmbe_align(cmb_data->hw_block) : 0;
937         spin_unlock_irqrestore(cdev->ccwlock, flags);
938
939         return set_schib_wait(cdev, mme, 1, mba);
940 }
941
942
943 static u64 read_cmbe(struct ccw_device *cdev, int index)
944 {
945         struct cmbe *cmb;
946         struct cmb_data *cmb_data;
947         u32 val;
948         int ret;
949         unsigned long flags;
950
951         ret = cmf_cmb_copy_wait(cdev);
952         if (ret < 0)
953                 return 0;
954
955         spin_lock_irqsave(cdev->ccwlock, flags);
956         cmb_data = cdev->private->cmb;
957         if (!cmb_data) {
958                 ret = 0;
959                 goto out;
960         }
961         cmb = cmb_data->last_block;
962
963         switch (index) {
964         case cmb_ssch_rsch_count:
965                 ret = cmb->ssch_rsch_count;
966                 goto out;
967         case cmb_sample_count:
968                 ret = cmb->sample_count;
969                 goto out;
970         case cmb_device_connect_time:
971                 val = cmb->device_connect_time;
972                 break;
973         case cmb_function_pending_time:
974                 val = cmb->function_pending_time;
975                 break;
976         case cmb_device_disconnect_time:
977                 val = cmb->device_disconnect_time;
978                 break;
979         case cmb_control_unit_queuing_time:
980                 val = cmb->control_unit_queuing_time;
981                 break;
982         case cmb_device_active_only_time:
983                 val = cmb->device_active_only_time;
984                 break;
985         case cmb_device_busy_time:
986                 val = cmb->device_busy_time;
987                 break;
988         case cmb_initial_command_response_time:
989                 val = cmb->initial_command_response_time;
990                 break;
991         default:
992                 ret = 0;
993                 goto out;
994         }
995         ret = time_to_avg_nsec(val, cmb->sample_count);
996 out:
997         spin_unlock_irqrestore(cdev->ccwlock, flags);
998         return ret;
999 }
1000
1001 static int readall_cmbe(struct ccw_device *cdev, struct cmbdata *data)
1002 {
1003         struct cmbe *cmb;
1004         struct cmb_data *cmb_data;
1005         u64 time;
1006         unsigned long flags;
1007         int ret;
1008
1009         ret = cmf_cmb_copy_wait(cdev);
1010         if (ret < 0)
1011                 return ret;
1012         spin_lock_irqsave(cdev->ccwlock, flags);
1013         cmb_data = cdev->private->cmb;
1014         if (!cmb_data) {
1015                 ret = -ENODEV;
1016                 goto out;
1017         }
1018         if (cmb_data->last_update == 0) {
1019                 ret = -EAGAIN;
1020                 goto out;
1021         }
1022         time = cmb_data->last_update - cdev->private->cmb_start_time;
1023
1024         memset (data, 0, sizeof(struct cmbdata));
1025
1026         /* we only know values before device_busy_time */
1027         data->size = offsetof(struct cmbdata, device_busy_time);
1028
1029         /* conver to nanoseconds */
1030         data->elapsed_time = (time * 1000) >> 12;
1031
1032         cmb = cmb_data->last_block;
1033         /* copy data to new structure */
1034         data->ssch_rsch_count = cmb->ssch_rsch_count;
1035         data->sample_count = cmb->sample_count;
1036
1037         /* time fields are converted to nanoseconds while copying */
1038         data->device_connect_time = time_to_nsec(cmb->device_connect_time);
1039         data->function_pending_time = time_to_nsec(cmb->function_pending_time);
1040         data->device_disconnect_time =
1041                 time_to_nsec(cmb->device_disconnect_time);
1042         data->control_unit_queuing_time
1043                 = time_to_nsec(cmb->control_unit_queuing_time);
1044         data->device_active_only_time
1045                 = time_to_nsec(cmb->device_active_only_time);
1046         data->device_busy_time = time_to_nsec(cmb->device_busy_time);
1047         data->initial_command_response_time
1048                 = time_to_nsec(cmb->initial_command_response_time);
1049
1050         ret = 0;
1051 out:
1052         spin_unlock_irqrestore(cdev->ccwlock, flags);
1053         return ret;
1054 }
1055
1056 static void reset_cmbe(struct ccw_device *cdev)
1057 {
1058         cmf_generic_reset(cdev);
1059 }
1060
1061 static void * align_cmbe(void *area)
1062 {
1063         return cmbe_align(area);
1064 }
1065
1066 static struct attribute_group cmf_attr_group_ext;
1067
1068 static struct cmb_operations cmbops_extended = {
1069         .alloc      = alloc_cmbe,
1070         .free       = free_cmbe,
1071         .set        = set_cmbe,
1072         .read       = read_cmbe,
1073         .readall    = readall_cmbe,
1074         .reset      = reset_cmbe,
1075         .align      = align_cmbe,
1076         .attr_group = &cmf_attr_group_ext,
1077 };
1078
1079 static ssize_t cmb_show_attr(struct device *dev, char *buf, enum cmb_index idx)
1080 {
1081         return sprintf(buf, "%lld\n",
1082                 (unsigned long long) cmf_read(to_ccwdev(dev), idx));
1083 }
1084
1085 static ssize_t cmb_show_avg_sample_interval(struct device *dev,
1086                                             struct device_attribute *attr,
1087                                             char *buf)
1088 {
1089         struct ccw_device *cdev;
1090         long interval;
1091         unsigned long count;
1092         struct cmb_data *cmb_data;
1093
1094         cdev = to_ccwdev(dev);
1095         count = cmf_read(cdev, cmb_sample_count);
1096         spin_lock_irq(cdev->ccwlock);
1097         cmb_data = cdev->private->cmb;
1098         if (count) {
1099                 interval = cmb_data->last_update -
1100                         cdev->private->cmb_start_time;
1101                 interval = (interval * 1000) >> 12;
1102                 interval /= count;
1103         } else
1104                 interval = -1;
1105         spin_unlock_irq(cdev->ccwlock);
1106         return sprintf(buf, "%ld\n", interval);
1107 }
1108
1109 static ssize_t cmb_show_avg_utilization(struct device *dev,
1110                                         struct device_attribute *attr,
1111                                         char *buf)
1112 {
1113         struct cmbdata data;
1114         u64 utilization;
1115         unsigned long t, u;
1116         int ret;
1117
1118         ret = cmf_readall(to_ccwdev(dev), &data);
1119         if (ret == -EAGAIN || ret == -ENODEV)
1120                 /* No data (yet/currently) available to use for calculation. */
1121                 return sprintf(buf, "n/a\n");
1122         else if (ret)
1123                 return ret;
1124
1125         utilization = data.device_connect_time +
1126                       data.function_pending_time +
1127                       data.device_disconnect_time;
1128
1129         /* shift to avoid long long division */
1130         while (-1ul < (data.elapsed_time | utilization)) {
1131                 utilization >>= 8;
1132                 data.elapsed_time >>= 8;
1133         }
1134
1135         /* calculate value in 0.1 percent units */
1136         t = (unsigned long) data.elapsed_time / 1000;
1137         u = (unsigned long) utilization / t;
1138
1139         return sprintf(buf, "%02ld.%01ld%%\n", u/ 10, u - (u/ 10) * 10);
1140 }
1141
1142 #define cmf_attr(name) \
1143 static ssize_t show_##name(struct device *dev, \
1144                            struct device_attribute *attr, char *buf)    \
1145 { return cmb_show_attr((dev), buf, cmb_##name); } \
1146 static DEVICE_ATTR(name, 0444, show_##name, NULL);
1147
1148 #define cmf_attr_avg(name) \
1149 static ssize_t show_avg_##name(struct device *dev, \
1150                                struct device_attribute *attr, char *buf) \
1151 { return cmb_show_attr((dev), buf, cmb_##name); } \
1152 static DEVICE_ATTR(avg_##name, 0444, show_avg_##name, NULL);
1153
1154 cmf_attr(ssch_rsch_count);
1155 cmf_attr(sample_count);
1156 cmf_attr_avg(device_connect_time);
1157 cmf_attr_avg(function_pending_time);
1158 cmf_attr_avg(device_disconnect_time);
1159 cmf_attr_avg(control_unit_queuing_time);
1160 cmf_attr_avg(device_active_only_time);
1161 cmf_attr_avg(device_busy_time);
1162 cmf_attr_avg(initial_command_response_time);
1163
1164 static DEVICE_ATTR(avg_sample_interval, 0444, cmb_show_avg_sample_interval,
1165                    NULL);
1166 static DEVICE_ATTR(avg_utilization, 0444, cmb_show_avg_utilization, NULL);
1167
1168 static struct attribute *cmf_attributes[] = {
1169         &dev_attr_avg_sample_interval.attr,
1170         &dev_attr_avg_utilization.attr,
1171         &dev_attr_ssch_rsch_count.attr,
1172         &dev_attr_sample_count.attr,
1173         &dev_attr_avg_device_connect_time.attr,
1174         &dev_attr_avg_function_pending_time.attr,
1175         &dev_attr_avg_device_disconnect_time.attr,
1176         &dev_attr_avg_control_unit_queuing_time.attr,
1177         &dev_attr_avg_device_active_only_time.attr,
1178         NULL,
1179 };
1180
1181 static struct attribute_group cmf_attr_group = {
1182         .name  = "cmf",
1183         .attrs = cmf_attributes,
1184 };
1185
1186 static struct attribute *cmf_attributes_ext[] = {
1187         &dev_attr_avg_sample_interval.attr,
1188         &dev_attr_avg_utilization.attr,
1189         &dev_attr_ssch_rsch_count.attr,
1190         &dev_attr_sample_count.attr,
1191         &dev_attr_avg_device_connect_time.attr,
1192         &dev_attr_avg_function_pending_time.attr,
1193         &dev_attr_avg_device_disconnect_time.attr,
1194         &dev_attr_avg_control_unit_queuing_time.attr,
1195         &dev_attr_avg_device_active_only_time.attr,
1196         &dev_attr_avg_device_busy_time.attr,
1197         &dev_attr_avg_initial_command_response_time.attr,
1198         NULL,
1199 };
1200
1201 static struct attribute_group cmf_attr_group_ext = {
1202         .name  = "cmf",
1203         .attrs = cmf_attributes_ext,
1204 };
1205
1206 static ssize_t cmb_enable_show(struct device *dev,
1207                                struct device_attribute *attr,
1208                                char *buf)
1209 {
1210         return sprintf(buf, "%d\n", to_ccwdev(dev)->private->cmb ? 1 : 0);
1211 }
1212
1213 static ssize_t cmb_enable_store(struct device *dev,
1214                                 struct device_attribute *attr, const char *buf,
1215                                 size_t c)
1216 {
1217         struct ccw_device *cdev;
1218         int ret;
1219         unsigned long val;
1220
1221         ret = strict_strtoul(buf, 16, &val);
1222         if (ret)
1223                 return ret;
1224
1225         cdev = to_ccwdev(dev);
1226
1227         switch (val) {
1228         case 0:
1229                 ret = disable_cmf(cdev);
1230                 break;
1231         case 1:
1232                 ret = enable_cmf(cdev);
1233                 break;
1234         }
1235
1236         return c;
1237 }
1238
1239 DEVICE_ATTR(cmb_enable, 0644, cmb_enable_show, cmb_enable_store);
1240
1241 /**
1242  * enable_cmf() - switch on the channel measurement for a specific device
1243  *  @cdev:      The ccw device to be enabled
1244  *
1245  *  Returns %0 for success or a negative error value.
1246  *
1247  *  Context:
1248  *    non-atomic
1249  */
1250 int enable_cmf(struct ccw_device *cdev)
1251 {
1252         int ret;
1253
1254         ret = cmbops->alloc(cdev);
1255         cmbops->reset(cdev);
1256         if (ret)
1257                 return ret;
1258         ret = cmbops->set(cdev, 2);
1259         if (ret) {
1260                 cmbops->free(cdev);
1261                 return ret;
1262         }
1263         ret = sysfs_create_group(&cdev->dev.kobj, cmbops->attr_group);
1264         if (!ret)
1265                 return 0;
1266         cmbops->set(cdev, 0);  //FIXME: this can fail
1267         cmbops->free(cdev);
1268         return ret;
1269 }
1270
1271 /**
1272  * disable_cmf() - switch off the channel measurement for a specific device
1273  *  @cdev:      The ccw device to be disabled
1274  *
1275  *  Returns %0 for success or a negative error value.
1276  *
1277  *  Context:
1278  *    non-atomic
1279  */
1280 int disable_cmf(struct ccw_device *cdev)
1281 {
1282         int ret;
1283
1284         ret = cmbops->set(cdev, 0);
1285         if (ret)
1286                 return ret;
1287         cmbops->free(cdev);
1288         sysfs_remove_group(&cdev->dev.kobj, cmbops->attr_group);
1289         return ret;
1290 }
1291
1292 /**
1293  * cmf_read() - read one value from the current channel measurement block
1294  * @cdev:       the channel to be read
1295  * @index:      the index of the value to be read
1296  *
1297  * Returns the value read or %0 if the value cannot be read.
1298  *
1299  *  Context:
1300  *    any
1301  */
1302 u64 cmf_read(struct ccw_device *cdev, int index)
1303 {
1304         return cmbops->read(cdev, index);
1305 }
1306
1307 /**
1308  * cmf_readall() - read the current channel measurement block
1309  * @cdev:       the channel to be read
1310  * @data:       a pointer to a data block that will be filled
1311  *
1312  * Returns %0 on success, a negative error value otherwise.
1313  *
1314  *  Context:
1315  *    any
1316  */
1317 int cmf_readall(struct ccw_device *cdev, struct cmbdata *data)
1318 {
1319         return cmbops->readall(cdev, data);
1320 }
1321
1322 /* Reenable cmf when a disconnected device becomes available again. */
1323 int cmf_reenable(struct ccw_device *cdev)
1324 {
1325         cmbops->reset(cdev);
1326         return cmbops->set(cdev, 2);
1327 }
1328
1329 static int __init init_cmf(void)
1330 {
1331         char *format_string;
1332         char *detect_string = "parameter";
1333
1334         /*
1335          * If the user did not give a parameter, see if we are running on a
1336          * machine supporting extended measurement blocks, otherwise fall back
1337          * to basic mode.
1338          */
1339         if (format == CMF_AUTODETECT) {
1340                 if (!css_general_characteristics.ext_mb) {
1341                         format = CMF_BASIC;
1342                 } else {
1343                         format = CMF_EXTENDED;
1344                 }
1345                 detect_string = "autodetected";
1346         } else {
1347                 detect_string = "parameter";
1348         }
1349
1350         switch (format) {
1351         case CMF_BASIC:
1352                 format_string = "basic";
1353                 cmbops = &cmbops_basic;
1354                 break;
1355         case CMF_EXTENDED:
1356                 format_string = "extended";
1357                 cmbops = &cmbops_extended;
1358                 break;
1359         default:
1360                 return 1;
1361         }
1362
1363         printk(KERN_INFO "cio: Channel measurement facility using %s "
1364                "format (%s)\n", format_string, detect_string);
1365         return 0;
1366 }
1367
1368 module_init(init_cmf);
1369
1370
1371 MODULE_AUTHOR("Arnd Bergmann <arndb@de.ibm.com>");
1372 MODULE_LICENSE("GPL");
1373 MODULE_DESCRIPTION("channel measurement facility base driver\n"
1374                    "Copyright 2003 IBM Corporation\n");
1375
1376 EXPORT_SYMBOL_GPL(enable_cmf);
1377 EXPORT_SYMBOL_GPL(disable_cmf);
1378 EXPORT_SYMBOL_GPL(cmf_read);
1379 EXPORT_SYMBOL_GPL(cmf_readall);