Linux-libre 3.16.85-gnu
[librecmc/linux-libre.git] / drivers / pci / pci-sysfs.c
1 /*
2  * drivers/pci/pci-sysfs.c
3  *
4  * (C) Copyright 2002-2004 Greg Kroah-Hartman <greg@kroah.com>
5  * (C) Copyright 2002-2004 IBM Corp.
6  * (C) Copyright 2003 Matthew Wilcox
7  * (C) Copyright 2003 Hewlett-Packard
8  * (C) Copyright 2004 Jon Smirl <jonsmirl@yahoo.com>
9  * (C) Copyright 2004 Silicon Graphics, Inc. Jesse Barnes <jbarnes@sgi.com>
10  *
11  * File attributes for PCI devices
12  *
13  * Modeled after usb's driverfs.c
14  *
15  */
16
17
18 #include <linux/kernel.h>
19 #include <linux/sched.h>
20 #include <linux/pci.h>
21 #include <linux/stat.h>
22 #include <linux/export.h>
23 #include <linux/topology.h>
24 #include <linux/mm.h>
25 #include <linux/fs.h>
26 #include <linux/capability.h>
27 #include <linux/security.h>
28 #include <linux/pci-aspm.h>
29 #include <linux/slab.h>
30 #include <linux/vgaarb.h>
31 #include <linux/pm_runtime.h>
32 #include <linux/of.h>
33 #include "pci.h"
34
35 static int sysfs_initialized;   /* = 0 */
36
37 /* show configuration fields */
38 #define pci_config_attr(field, format_string)                           \
39 static ssize_t                                                          \
40 field##_show(struct device *dev, struct device_attribute *attr, char *buf)                              \
41 {                                                                       \
42         struct pci_dev *pdev;                                           \
43                                                                         \
44         pdev = to_pci_dev(dev);                                         \
45         return sprintf(buf, format_string, pdev->field);                \
46 }                                                                       \
47 static DEVICE_ATTR_RO(field)
48
49 pci_config_attr(vendor, "0x%04x\n");
50 pci_config_attr(device, "0x%04x\n");
51 pci_config_attr(subsystem_vendor, "0x%04x\n");
52 pci_config_attr(subsystem_device, "0x%04x\n");
53 pci_config_attr(class, "0x%06x\n");
54 pci_config_attr(irq, "%u\n");
55
56 static ssize_t broken_parity_status_show(struct device *dev,
57                                          struct device_attribute *attr,
58                                          char *buf)
59 {
60         struct pci_dev *pdev = to_pci_dev(dev);
61         return sprintf(buf, "%u\n", pdev->broken_parity_status);
62 }
63
64 static ssize_t broken_parity_status_store(struct device *dev,
65                                           struct device_attribute *attr,
66                                           const char *buf, size_t count)
67 {
68         struct pci_dev *pdev = to_pci_dev(dev);
69         unsigned long val;
70
71         if (kstrtoul(buf, 0, &val) < 0)
72                 return -EINVAL;
73
74         pdev->broken_parity_status = !!val;
75
76         return count;
77 }
78 static DEVICE_ATTR_RW(broken_parity_status);
79
80 static ssize_t pci_dev_show_local_cpu(struct device *dev, int type,
81                                       struct device_attribute *attr, char *buf)
82 {
83         const struct cpumask *mask;
84         int len;
85
86 #ifdef CONFIG_NUMA
87         mask = (dev_to_node(dev) == -1) ? cpu_online_mask :
88                                           cpumask_of_node(dev_to_node(dev));
89 #else
90         mask = cpumask_of_pcibus(to_pci_dev(dev)->bus);
91 #endif
92         len = type ?
93                 cpumask_scnprintf(buf, PAGE_SIZE-2, mask) :
94                 cpulist_scnprintf(buf, PAGE_SIZE-2, mask);
95
96         buf[len++] = '\n';
97         buf[len] = '\0';
98         return len;
99 }
100
101 static ssize_t local_cpus_show(struct device *dev,
102                                struct device_attribute *attr, char *buf)
103 {
104         return pci_dev_show_local_cpu(dev, 1, attr, buf);
105 }
106 static DEVICE_ATTR_RO(local_cpus);
107
108 static ssize_t local_cpulist_show(struct device *dev,
109                                   struct device_attribute *attr, char *buf)
110 {
111         return pci_dev_show_local_cpu(dev, 0, attr, buf);
112 }
113 static DEVICE_ATTR_RO(local_cpulist);
114
115 /*
116  * PCI Bus Class Devices
117  */
118 static ssize_t pci_bus_show_cpuaffinity(struct device *dev, int type,
119                                         struct device_attribute *attr,
120                                         char *buf)
121 {
122         int ret;
123         const struct cpumask *cpumask;
124
125         cpumask = cpumask_of_pcibus(to_pci_bus(dev));
126         ret = type ?
127                 cpulist_scnprintf(buf, PAGE_SIZE-2, cpumask) :
128                 cpumask_scnprintf(buf, PAGE_SIZE-2, cpumask);
129         buf[ret++] = '\n';
130         buf[ret] = '\0';
131         return ret;
132 }
133
134 static ssize_t cpuaffinity_show(struct device *dev,
135                                 struct device_attribute *attr, char *buf)
136 {
137         return pci_bus_show_cpuaffinity(dev, 0, attr, buf);
138 }
139 static DEVICE_ATTR_RO(cpuaffinity);
140
141 static ssize_t cpulistaffinity_show(struct device *dev,
142                                     struct device_attribute *attr, char *buf)
143 {
144         return pci_bus_show_cpuaffinity(dev, 1, attr, buf);
145 }
146 static DEVICE_ATTR_RO(cpulistaffinity);
147
148 /* show resources */
149 static ssize_t resource_show(struct device *dev, struct device_attribute *attr,
150                              char *buf)
151 {
152         struct pci_dev *pci_dev = to_pci_dev(dev);
153         char *str = buf;
154         int i;
155         int max;
156         resource_size_t start, end;
157
158         if (pci_dev->subordinate)
159                 max = DEVICE_COUNT_RESOURCE;
160         else
161                 max = PCI_BRIDGE_RESOURCES;
162
163         for (i = 0; i < max; i++) {
164                 struct resource *res =  &pci_dev->resource[i];
165                 pci_resource_to_user(pci_dev, i, res, &start, &end);
166                 str += sprintf(str, "0x%016llx 0x%016llx 0x%016llx\n",
167                                (unsigned long long)start,
168                                (unsigned long long)end,
169                                (unsigned long long)res->flags);
170         }
171         return (str - buf);
172 }
173 static DEVICE_ATTR_RO(resource);
174
175 static ssize_t modalias_show(struct device *dev, struct device_attribute *attr,
176                              char *buf)
177 {
178         struct pci_dev *pci_dev = to_pci_dev(dev);
179
180         return sprintf(buf, "pci:v%08Xd%08Xsv%08Xsd%08Xbc%02Xsc%02Xi%02X\n",
181                        pci_dev->vendor, pci_dev->device,
182                        pci_dev->subsystem_vendor, pci_dev->subsystem_device,
183                        (u8)(pci_dev->class >> 16), (u8)(pci_dev->class >> 8),
184                        (u8)(pci_dev->class));
185 }
186 static DEVICE_ATTR_RO(modalias);
187
188 static ssize_t enable_store(struct device *dev, struct device_attribute *attr,
189                              const char *buf, size_t count)
190 {
191         struct pci_dev *pdev = to_pci_dev(dev);
192         unsigned long val;
193         ssize_t result = kstrtoul(buf, 0, &val);
194
195         if (result < 0)
196                 return result;
197
198         /* this can crash the machine when done on the "wrong" device */
199         if (!capable(CAP_SYS_ADMIN))
200                 return -EPERM;
201
202         if (!val) {
203                 if (pci_is_enabled(pdev))
204                         pci_disable_device(pdev);
205                 else
206                         result = -EIO;
207         } else
208                 result = pci_enable_device(pdev);
209
210         return result < 0 ? result : count;
211 }
212
213 static ssize_t enable_show(struct device *dev, struct device_attribute *attr,
214                             char *buf)
215 {
216         struct pci_dev *pdev;
217
218         pdev = to_pci_dev(dev);
219         return sprintf(buf, "%u\n", atomic_read(&pdev->enable_cnt));
220 }
221 static DEVICE_ATTR_RW(enable);
222
223 #ifdef CONFIG_NUMA
224 static ssize_t numa_node_show(struct device *dev, struct device_attribute *attr,
225                               char *buf)
226 {
227         return sprintf(buf, "%d\n", dev->numa_node);
228 }
229 static DEVICE_ATTR_RO(numa_node);
230 #endif
231
232 static ssize_t dma_mask_bits_show(struct device *dev,
233                                   struct device_attribute *attr, char *buf)
234 {
235         struct pci_dev *pdev = to_pci_dev(dev);
236
237         return sprintf(buf, "%d\n", fls64(pdev->dma_mask));
238 }
239 static DEVICE_ATTR_RO(dma_mask_bits);
240
241 static ssize_t consistent_dma_mask_bits_show(struct device *dev,
242                                              struct device_attribute *attr,
243                                              char *buf)
244 {
245         return sprintf(buf, "%d\n", fls64(dev->coherent_dma_mask));
246 }
247 static DEVICE_ATTR_RO(consistent_dma_mask_bits);
248
249 static ssize_t msi_bus_show(struct device *dev, struct device_attribute *attr,
250                             char *buf)
251 {
252         struct pci_dev *pdev = to_pci_dev(dev);
253
254         if (!pdev->subordinate)
255                 return 0;
256
257         return sprintf(buf, "%u\n",
258                        !(pdev->subordinate->bus_flags & PCI_BUS_FLAGS_NO_MSI));
259 }
260
261 static ssize_t msi_bus_store(struct device *dev, struct device_attribute *attr,
262                              const char *buf, size_t count)
263 {
264         struct pci_dev *pdev = to_pci_dev(dev);
265         unsigned long val;
266
267         if (kstrtoul(buf, 0, &val) < 0)
268                 return -EINVAL;
269
270         /*
271          * Bad things may happen if the no_msi flag is changed
272          * while drivers are loaded.
273          */
274         if (!capable(CAP_SYS_ADMIN))
275                 return -EPERM;
276
277         /*
278          * Maybe devices without subordinate buses shouldn't have this
279          * attribute in the first place?
280          */
281         if (!pdev->subordinate)
282                 return count;
283
284         /* Is the flag going to change, or keep the value it already had? */
285         if (!(pdev->subordinate->bus_flags & PCI_BUS_FLAGS_NO_MSI) ^
286             !!val) {
287                 pdev->subordinate->bus_flags ^= PCI_BUS_FLAGS_NO_MSI;
288
289                 dev_warn(&pdev->dev, "forced subordinate bus to%s support MSI, bad things could happen\n",
290                          val ? "" : " not");
291         }
292
293         return count;
294 }
295 static DEVICE_ATTR_RW(msi_bus);
296
297 static ssize_t bus_rescan_store(struct bus_type *bus, const char *buf,
298                                 size_t count)
299 {
300         unsigned long val;
301         struct pci_bus *b = NULL;
302
303         if (kstrtoul(buf, 0, &val) < 0)
304                 return -EINVAL;
305
306         if (val) {
307                 pci_lock_rescan_remove();
308                 while ((b = pci_find_next_bus(b)) != NULL)
309                         pci_rescan_bus(b);
310                 pci_unlock_rescan_remove();
311         }
312         return count;
313 }
314 static BUS_ATTR(rescan, (S_IWUSR|S_IWGRP), NULL, bus_rescan_store);
315
316 static struct attribute *pci_bus_attrs[] = {
317         &bus_attr_rescan.attr,
318         NULL,
319 };
320
321 static const struct attribute_group pci_bus_group = {
322         .attrs = pci_bus_attrs,
323 };
324
325 const struct attribute_group *pci_bus_groups[] = {
326         &pci_bus_group,
327         NULL,
328 };
329
330 static ssize_t dev_rescan_store(struct device *dev,
331                                 struct device_attribute *attr, const char *buf,
332                                 size_t count)
333 {
334         unsigned long val;
335         struct pci_dev *pdev = to_pci_dev(dev);
336
337         if (kstrtoul(buf, 0, &val) < 0)
338                 return -EINVAL;
339
340         if (val) {
341                 pci_lock_rescan_remove();
342                 pci_rescan_bus(pdev->bus);
343                 pci_unlock_rescan_remove();
344         }
345         return count;
346 }
347 static struct device_attribute dev_rescan_attr = __ATTR(rescan,
348                                                         (S_IWUSR|S_IWGRP),
349                                                         NULL, dev_rescan_store);
350
351 static ssize_t remove_store(struct device *dev, struct device_attribute *attr,
352                             const char *buf, size_t count)
353 {
354         unsigned long val;
355
356         if (kstrtoul(buf, 0, &val) < 0)
357                 return -EINVAL;
358
359         if (val && device_remove_file_self(dev, attr))
360                 pci_stop_and_remove_bus_device_locked(to_pci_dev(dev));
361         return count;
362 }
363 static struct device_attribute dev_remove_attr = __ATTR(remove,
364                                                         (S_IWUSR|S_IWGRP),
365                                                         NULL, remove_store);
366
367 static ssize_t dev_bus_rescan_store(struct device *dev,
368                                     struct device_attribute *attr,
369                                     const char *buf, size_t count)
370 {
371         unsigned long val;
372         struct pci_bus *bus = to_pci_bus(dev);
373
374         if (kstrtoul(buf, 0, &val) < 0)
375                 return -EINVAL;
376
377         if (val) {
378                 pci_lock_rescan_remove();
379                 if (!pci_is_root_bus(bus) && list_empty(&bus->devices))
380                         pci_rescan_bus_bridge_resize(bus->self);
381                 else
382                         pci_rescan_bus(bus);
383                 pci_unlock_rescan_remove();
384         }
385         return count;
386 }
387 static DEVICE_ATTR(rescan, (S_IWUSR|S_IWGRP), NULL, dev_bus_rescan_store);
388
389 #if defined(CONFIG_PM_RUNTIME) && defined(CONFIG_ACPI)
390 static ssize_t d3cold_allowed_store(struct device *dev,
391                                     struct device_attribute *attr,
392                                     const char *buf, size_t count)
393 {
394         struct pci_dev *pdev = to_pci_dev(dev);
395         unsigned long val;
396
397         if (kstrtoul(buf, 0, &val) < 0)
398                 return -EINVAL;
399
400         pdev->d3cold_allowed = !!val;
401         pm_runtime_resume(dev);
402
403         return count;
404 }
405
406 static ssize_t d3cold_allowed_show(struct device *dev,
407                                    struct device_attribute *attr, char *buf)
408 {
409         struct pci_dev *pdev = to_pci_dev(dev);
410         return sprintf(buf, "%u\n", pdev->d3cold_allowed);
411 }
412 static DEVICE_ATTR_RW(d3cold_allowed);
413 #endif
414
415 #ifdef CONFIG_OF
416 static ssize_t devspec_show(struct device *dev,
417                             struct device_attribute *attr, char *buf)
418 {
419         struct pci_dev *pdev = to_pci_dev(dev);
420         struct device_node *np = pci_device_to_OF_node(pdev);
421
422         if (np == NULL || np->full_name == NULL)
423                 return 0;
424         return sprintf(buf, "%s", np->full_name);
425 }
426 static DEVICE_ATTR_RO(devspec);
427 #endif
428
429 #ifdef CONFIG_PCI_IOV
430 static ssize_t sriov_totalvfs_show(struct device *dev,
431                                    struct device_attribute *attr,
432                                    char *buf)
433 {
434         struct pci_dev *pdev = to_pci_dev(dev);
435
436         return sprintf(buf, "%u\n", pci_sriov_get_totalvfs(pdev));
437 }
438
439
440 static ssize_t sriov_numvfs_show(struct device *dev,
441                                  struct device_attribute *attr,
442                                  char *buf)
443 {
444         struct pci_dev *pdev = to_pci_dev(dev);
445
446         return sprintf(buf, "%u\n", pdev->sriov->num_VFs);
447 }
448
449 /*
450  * num_vfs > 0; number of VFs to enable
451  * num_vfs = 0; disable all VFs
452  *
453  * Note: SRIOV spec doesn't allow partial VF
454  *       disable, so it's all or none.
455  */
456 static ssize_t sriov_numvfs_store(struct device *dev,
457                                   struct device_attribute *attr,
458                                   const char *buf, size_t count)
459 {
460         struct pci_dev *pdev = to_pci_dev(dev);
461         int ret;
462         u16 num_vfs;
463
464         ret = kstrtou16(buf, 0, &num_vfs);
465         if (ret < 0)
466                 return ret;
467
468         if (num_vfs > pci_sriov_get_totalvfs(pdev))
469                 return -ERANGE;
470
471         if (num_vfs == pdev->sriov->num_VFs)
472                 return count;           /* no change */
473
474         /* is PF driver loaded w/callback */
475         if (!pdev->driver || !pdev->driver->sriov_configure) {
476                 dev_info(&pdev->dev, "Driver doesn't support SRIOV configuration via sysfs\n");
477                 return -ENOSYS;
478         }
479
480         if (num_vfs == 0) {
481                 /* disable VFs */
482                 ret = pdev->driver->sriov_configure(pdev, 0);
483                 if (ret < 0)
484                         return ret;
485                 return count;
486         }
487
488         /* enable VFs */
489         if (pdev->sriov->num_VFs) {
490                 dev_warn(&pdev->dev, "%d VFs already enabled. Disable before enabling %d VFs\n",
491                          pdev->sriov->num_VFs, num_vfs);
492                 return -EBUSY;
493         }
494
495         ret = pdev->driver->sriov_configure(pdev, num_vfs);
496         if (ret < 0)
497                 return ret;
498
499         if (ret != num_vfs)
500                 dev_warn(&pdev->dev, "%d VFs requested; only %d enabled\n",
501                          num_vfs, ret);
502
503         return count;
504 }
505
506 static struct device_attribute sriov_totalvfs_attr = __ATTR_RO(sriov_totalvfs);
507 static struct device_attribute sriov_numvfs_attr =
508                 __ATTR(sriov_numvfs, (S_IRUGO|S_IWUSR|S_IWGRP),
509                        sriov_numvfs_show, sriov_numvfs_store);
510 #endif /* CONFIG_PCI_IOV */
511
512 static ssize_t driver_override_store(struct device *dev,
513                                      struct device_attribute *attr,
514                                      const char *buf, size_t count)
515 {
516         struct pci_dev *pdev = to_pci_dev(dev);
517         char *driver_override, *old, *cp;
518
519         /* We need to keep extra room for a newline */
520         if (count >= (PAGE_SIZE - 1))
521                 return -EINVAL;
522
523         driver_override = kstrndup(buf, count, GFP_KERNEL);
524         if (!driver_override)
525                 return -ENOMEM;
526
527         cp = strchr(driver_override, '\n');
528         if (cp)
529                 *cp = '\0';
530
531         device_lock(dev);
532         old = pdev->driver_override;
533         if (strlen(driver_override)) {
534                 pdev->driver_override = driver_override;
535         } else {
536                 kfree(driver_override);
537                 pdev->driver_override = NULL;
538         }
539         device_unlock(dev);
540
541         kfree(old);
542
543         return count;
544 }
545
546 static ssize_t driver_override_show(struct device *dev,
547                                     struct device_attribute *attr, char *buf)
548 {
549         struct pci_dev *pdev = to_pci_dev(dev);
550         ssize_t len;
551
552         device_lock(dev);
553         len = snprintf(buf, PAGE_SIZE, "%s\n", pdev->driver_override);
554         device_unlock(dev);
555         return len;
556 }
557 static DEVICE_ATTR_RW(driver_override);
558
559 static struct attribute *pci_dev_attrs[] = {
560         &dev_attr_resource.attr,
561         &dev_attr_vendor.attr,
562         &dev_attr_device.attr,
563         &dev_attr_subsystem_vendor.attr,
564         &dev_attr_subsystem_device.attr,
565         &dev_attr_class.attr,
566         &dev_attr_irq.attr,
567         &dev_attr_local_cpus.attr,
568         &dev_attr_local_cpulist.attr,
569         &dev_attr_modalias.attr,
570 #ifdef CONFIG_NUMA
571         &dev_attr_numa_node.attr,
572 #endif
573         &dev_attr_dma_mask_bits.attr,
574         &dev_attr_consistent_dma_mask_bits.attr,
575         &dev_attr_enable.attr,
576         &dev_attr_broken_parity_status.attr,
577         &dev_attr_msi_bus.attr,
578 #if defined(CONFIG_PM_RUNTIME) && defined(CONFIG_ACPI)
579         &dev_attr_d3cold_allowed.attr,
580 #endif
581 #ifdef CONFIG_OF
582         &dev_attr_devspec.attr,
583 #endif
584         &dev_attr_driver_override.attr,
585         NULL,
586 };
587
588 static const struct attribute_group pci_dev_group = {
589         .attrs = pci_dev_attrs,
590 };
591
592 const struct attribute_group *pci_dev_groups[] = {
593         &pci_dev_group,
594         NULL,
595 };
596
597 static struct attribute *pcibus_attrs[] = {
598         &dev_attr_rescan.attr,
599         &dev_attr_cpuaffinity.attr,
600         &dev_attr_cpulistaffinity.attr,
601         NULL,
602 };
603
604 static const struct attribute_group pcibus_group = {
605         .attrs = pcibus_attrs,
606 };
607
608 const struct attribute_group *pcibus_groups[] = {
609         &pcibus_group,
610         NULL,
611 };
612
613 static ssize_t boot_vga_show(struct device *dev, struct device_attribute *attr,
614                              char *buf)
615 {
616         struct pci_dev *pdev = to_pci_dev(dev);
617         struct pci_dev *vga_dev = vga_default_device();
618
619         if (vga_dev)
620                 return sprintf(buf, "%u\n", (pdev == vga_dev));
621
622         return sprintf(buf, "%u\n",
623                 !!(pdev->resource[PCI_ROM_RESOURCE].flags &
624                    IORESOURCE_ROM_SHADOW));
625 }
626 static struct device_attribute vga_attr = __ATTR_RO(boot_vga);
627
628 static ssize_t pci_read_config(struct file *filp, struct kobject *kobj,
629                                struct bin_attribute *bin_attr, char *buf,
630                                loff_t off, size_t count)
631 {
632         struct pci_dev *dev = to_pci_dev(container_of(kobj, struct device,
633                                                       kobj));
634         unsigned int size = 64;
635         loff_t init_off = off;
636         u8 *data = (u8 *) buf;
637
638         /* Several chips lock up trying to read undefined config space */
639         if (security_capable(filp->f_cred, &init_user_ns, CAP_SYS_ADMIN) == 0)
640                 size = dev->cfg_size;
641         else if (dev->hdr_type == PCI_HEADER_TYPE_CARDBUS)
642                 size = 128;
643
644         if (off > size)
645                 return 0;
646         if (off + count > size) {
647                 size -= off;
648                 count = size;
649         } else {
650                 size = count;
651         }
652
653         pci_config_pm_runtime_get(dev);
654
655         if ((off & 1) && size) {
656                 u8 val;
657                 pci_user_read_config_byte(dev, off, &val);
658                 data[off - init_off] = val;
659                 off++;
660                 size--;
661         }
662
663         if ((off & 3) && size > 2) {
664                 u16 val;
665                 pci_user_read_config_word(dev, off, &val);
666                 data[off - init_off] = val & 0xff;
667                 data[off - init_off + 1] = (val >> 8) & 0xff;
668                 off += 2;
669                 size -= 2;
670         }
671
672         while (size > 3) {
673                 u32 val;
674                 pci_user_read_config_dword(dev, off, &val);
675                 data[off - init_off] = val & 0xff;
676                 data[off - init_off + 1] = (val >> 8) & 0xff;
677                 data[off - init_off + 2] = (val >> 16) & 0xff;
678                 data[off - init_off + 3] = (val >> 24) & 0xff;
679                 off += 4;
680                 size -= 4;
681         }
682
683         if (size >= 2) {
684                 u16 val;
685                 pci_user_read_config_word(dev, off, &val);
686                 data[off - init_off] = val & 0xff;
687                 data[off - init_off + 1] = (val >> 8) & 0xff;
688                 off += 2;
689                 size -= 2;
690         }
691
692         if (size > 0) {
693                 u8 val;
694                 pci_user_read_config_byte(dev, off, &val);
695                 data[off - init_off] = val;
696                 off++;
697                 --size;
698         }
699
700         pci_config_pm_runtime_put(dev);
701
702         return count;
703 }
704
705 static ssize_t pci_write_config(struct file *filp, struct kobject *kobj,
706                                 struct bin_attribute *bin_attr, char *buf,
707                                 loff_t off, size_t count)
708 {
709         struct pci_dev *dev = to_pci_dev(container_of(kobj, struct device,
710                                                       kobj));
711         unsigned int size = count;
712         loff_t init_off = off;
713         u8 *data = (u8 *) buf;
714
715         if (off > dev->cfg_size)
716                 return 0;
717         if (off + count > dev->cfg_size) {
718                 size = dev->cfg_size - off;
719                 count = size;
720         }
721
722         pci_config_pm_runtime_get(dev);
723
724         if ((off & 1) && size) {
725                 pci_user_write_config_byte(dev, off, data[off - init_off]);
726                 off++;
727                 size--;
728         }
729
730         if ((off & 3) && size > 2) {
731                 u16 val = data[off - init_off];
732                 val |= (u16) data[off - init_off + 1] << 8;
733                 pci_user_write_config_word(dev, off, val);
734                 off += 2;
735                 size -= 2;
736         }
737
738         while (size > 3) {
739                 u32 val = data[off - init_off];
740                 val |= (u32) data[off - init_off + 1] << 8;
741                 val |= (u32) data[off - init_off + 2] << 16;
742                 val |= (u32) data[off - init_off + 3] << 24;
743                 pci_user_write_config_dword(dev, off, val);
744                 off += 4;
745                 size -= 4;
746         }
747
748         if (size >= 2) {
749                 u16 val = data[off - init_off];
750                 val |= (u16) data[off - init_off + 1] << 8;
751                 pci_user_write_config_word(dev, off, val);
752                 off += 2;
753                 size -= 2;
754         }
755
756         if (size) {
757                 pci_user_write_config_byte(dev, off, data[off - init_off]);
758                 off++;
759                 --size;
760         }
761
762         pci_config_pm_runtime_put(dev);
763
764         return count;
765 }
766
767 static ssize_t read_vpd_attr(struct file *filp, struct kobject *kobj,
768                              struct bin_attribute *bin_attr, char *buf,
769                              loff_t off, size_t count)
770 {
771         struct pci_dev *dev =
772                 to_pci_dev(container_of(kobj, struct device, kobj));
773
774         if (off > bin_attr->size)
775                 count = 0;
776         else if (count > bin_attr->size - off)
777                 count = bin_attr->size - off;
778
779         return pci_read_vpd(dev, off, count, buf);
780 }
781
782 static ssize_t write_vpd_attr(struct file *filp, struct kobject *kobj,
783                               struct bin_attribute *bin_attr, char *buf,
784                               loff_t off, size_t count)
785 {
786         struct pci_dev *dev =
787                 to_pci_dev(container_of(kobj, struct device, kobj));
788
789         if (off > bin_attr->size)
790                 count = 0;
791         else if (count > bin_attr->size - off)
792                 count = bin_attr->size - off;
793
794         return pci_write_vpd(dev, off, count, buf);
795 }
796
797 #ifdef HAVE_PCI_LEGACY
798 /**
799  * pci_read_legacy_io - read byte(s) from legacy I/O port space
800  * @filp: open sysfs file
801  * @kobj: kobject corresponding to file to read from
802  * @bin_attr: struct bin_attribute for this file
803  * @buf: buffer to store results
804  * @off: offset into legacy I/O port space
805  * @count: number of bytes to read
806  *
807  * Reads 1, 2, or 4 bytes from legacy I/O port space using an arch specific
808  * callback routine (pci_legacy_read).
809  */
810 static ssize_t pci_read_legacy_io(struct file *filp, struct kobject *kobj,
811                                   struct bin_attribute *bin_attr, char *buf,
812                                   loff_t off, size_t count)
813 {
814         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
815                                                       kobj));
816
817         /* Only support 1, 2 or 4 byte accesses */
818         if (count != 1 && count != 2 && count != 4)
819                 return -EINVAL;
820
821         return pci_legacy_read(bus, off, (u32 *)buf, count);
822 }
823
824 /**
825  * pci_write_legacy_io - write byte(s) to legacy I/O port space
826  * @filp: open sysfs file
827  * @kobj: kobject corresponding to file to read from
828  * @bin_attr: struct bin_attribute for this file
829  * @buf: buffer containing value to be written
830  * @off: offset into legacy I/O port space
831  * @count: number of bytes to write
832  *
833  * Writes 1, 2, or 4 bytes from legacy I/O port space using an arch specific
834  * callback routine (pci_legacy_write).
835  */
836 static ssize_t pci_write_legacy_io(struct file *filp, struct kobject *kobj,
837                                    struct bin_attribute *bin_attr, char *buf,
838                                    loff_t off, size_t count)
839 {
840         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
841                                                       kobj));
842
843         /* Only support 1, 2 or 4 byte accesses */
844         if (count != 1 && count != 2 && count != 4)
845                 return -EINVAL;
846
847         return pci_legacy_write(bus, off, *(u32 *)buf, count);
848 }
849
850 /**
851  * pci_mmap_legacy_mem - map legacy PCI memory into user memory space
852  * @filp: open sysfs file
853  * @kobj: kobject corresponding to device to be mapped
854  * @attr: struct bin_attribute for this file
855  * @vma: struct vm_area_struct passed to mmap
856  *
857  * Uses an arch specific callback, pci_mmap_legacy_mem_page_range, to mmap
858  * legacy memory space (first meg of bus space) into application virtual
859  * memory space.
860  */
861 static int pci_mmap_legacy_mem(struct file *filp, struct kobject *kobj,
862                                struct bin_attribute *attr,
863                                struct vm_area_struct *vma)
864 {
865         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
866                                                       kobj));
867
868         return pci_mmap_legacy_page_range(bus, vma, pci_mmap_mem);
869 }
870
871 /**
872  * pci_mmap_legacy_io - map legacy PCI IO into user memory space
873  * @filp: open sysfs file
874  * @kobj: kobject corresponding to device to be mapped
875  * @attr: struct bin_attribute for this file
876  * @vma: struct vm_area_struct passed to mmap
877  *
878  * Uses an arch specific callback, pci_mmap_legacy_io_page_range, to mmap
879  * legacy IO space (first meg of bus space) into application virtual
880  * memory space. Returns -ENOSYS if the operation isn't supported
881  */
882 static int pci_mmap_legacy_io(struct file *filp, struct kobject *kobj,
883                               struct bin_attribute *attr,
884                               struct vm_area_struct *vma)
885 {
886         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
887                                                       kobj));
888
889         return pci_mmap_legacy_page_range(bus, vma, pci_mmap_io);
890 }
891
892 /**
893  * pci_adjust_legacy_attr - adjustment of legacy file attributes
894  * @b: bus to create files under
895  * @mmap_type: I/O port or memory
896  *
897  * Stub implementation. Can be overridden by arch if necessary.
898  */
899 void __weak pci_adjust_legacy_attr(struct pci_bus *b,
900                                    enum pci_mmap_state mmap_type)
901 {
902 }
903
904 /**
905  * pci_create_legacy_files - create legacy I/O port and memory files
906  * @b: bus to create files under
907  *
908  * Some platforms allow access to legacy I/O port and ISA memory space on
909  * a per-bus basis.  This routine creates the files and ties them into
910  * their associated read, write and mmap files from pci-sysfs.c
911  *
912  * On error unwind, but don't propagate the error to the caller
913  * as it is ok to set up the PCI bus without these files.
914  */
915 void pci_create_legacy_files(struct pci_bus *b)
916 {
917         int error;
918
919         b->legacy_io = kzalloc(sizeof(struct bin_attribute) * 2,
920                                GFP_ATOMIC);
921         if (!b->legacy_io)
922                 goto kzalloc_err;
923
924         sysfs_bin_attr_init(b->legacy_io);
925         b->legacy_io->attr.name = "legacy_io";
926         b->legacy_io->size = 0xffff;
927         b->legacy_io->attr.mode = S_IRUSR | S_IWUSR;
928         b->legacy_io->read = pci_read_legacy_io;
929         b->legacy_io->write = pci_write_legacy_io;
930         b->legacy_io->mmap = pci_mmap_legacy_io;
931         pci_adjust_legacy_attr(b, pci_mmap_io);
932         error = device_create_bin_file(&b->dev, b->legacy_io);
933         if (error)
934                 goto legacy_io_err;
935
936         /* Allocated above after the legacy_io struct */
937         b->legacy_mem = b->legacy_io + 1;
938         sysfs_bin_attr_init(b->legacy_mem);
939         b->legacy_mem->attr.name = "legacy_mem";
940         b->legacy_mem->size = 1024*1024;
941         b->legacy_mem->attr.mode = S_IRUSR | S_IWUSR;
942         b->legacy_mem->mmap = pci_mmap_legacy_mem;
943         pci_adjust_legacy_attr(b, pci_mmap_mem);
944         error = device_create_bin_file(&b->dev, b->legacy_mem);
945         if (error)
946                 goto legacy_mem_err;
947
948         return;
949
950 legacy_mem_err:
951         device_remove_bin_file(&b->dev, b->legacy_io);
952 legacy_io_err:
953         kfree(b->legacy_io);
954         b->legacy_io = NULL;
955 kzalloc_err:
956         printk(KERN_WARNING "pci: warning: could not create legacy I/O port and ISA memory resources to sysfs\n");
957         return;
958 }
959
960 void pci_remove_legacy_files(struct pci_bus *b)
961 {
962         if (b->legacy_io) {
963                 device_remove_bin_file(&b->dev, b->legacy_io);
964                 device_remove_bin_file(&b->dev, b->legacy_mem);
965                 kfree(b->legacy_io); /* both are allocated here */
966         }
967 }
968 #endif /* HAVE_PCI_LEGACY */
969
970 #ifdef HAVE_PCI_MMAP
971
972 int pci_mmap_fits(struct pci_dev *pdev, int resno, struct vm_area_struct *vma,
973                   enum pci_mmap_api mmap_api)
974 {
975         unsigned long nr, start, size;
976         resource_size_t pci_start = 0, pci_end;
977
978         if (pci_resource_len(pdev, resno) == 0)
979                 return 0;
980         nr = vma_pages(vma);
981         start = vma->vm_pgoff;
982         size = ((pci_resource_len(pdev, resno) - 1) >> PAGE_SHIFT) + 1;
983         if (mmap_api == PCI_MMAP_PROCFS) {
984                 pci_resource_to_user(pdev, resno, &pdev->resource[resno],
985                                      &pci_start, &pci_end);
986                 pci_start >>= PAGE_SHIFT;
987         }
988         if (start >= pci_start && start < pci_start + size &&
989                         start + nr <= pci_start + size)
990                 return 1;
991         return 0;
992 }
993
994 /**
995  * pci_mmap_resource - map a PCI resource into user memory space
996  * @kobj: kobject for mapping
997  * @attr: struct bin_attribute for the file being mapped
998  * @vma: struct vm_area_struct passed into the mmap
999  * @write_combine: 1 for write_combine mapping
1000  *
1001  * Use the regular PCI mapping routines to map a PCI resource into userspace.
1002  */
1003 static int pci_mmap_resource(struct kobject *kobj, struct bin_attribute *attr,
1004                              struct vm_area_struct *vma, int write_combine)
1005 {
1006         struct pci_dev *pdev = to_pci_dev(container_of(kobj,
1007                                                        struct device, kobj));
1008         struct resource *res = attr->private;
1009         enum pci_mmap_state mmap_type;
1010         resource_size_t start, end;
1011         int i;
1012
1013         for (i = 0; i < PCI_ROM_RESOURCE; i++)
1014                 if (res == &pdev->resource[i])
1015                         break;
1016         if (i >= PCI_ROM_RESOURCE)
1017                 return -ENODEV;
1018
1019         if (res->flags & IORESOURCE_MEM && iomem_is_exclusive(res->start))
1020                 return -EINVAL;
1021
1022         if (!pci_mmap_fits(pdev, i, vma, PCI_MMAP_SYSFS)) {
1023                 WARN(1, "process \"%s\" tried to map 0x%08lx bytes at page 0x%08lx on %s BAR %d (start 0x%16Lx, size 0x%16Lx)\n",
1024                         current->comm, vma->vm_end-vma->vm_start, vma->vm_pgoff,
1025                         pci_name(pdev), i,
1026                         (u64)pci_resource_start(pdev, i),
1027                         (u64)pci_resource_len(pdev, i));
1028                 return -EINVAL;
1029         }
1030
1031         /* pci_mmap_page_range() expects the same kind of entry as coming
1032          * from /proc/bus/pci/ which is a "user visible" value. If this is
1033          * different from the resource itself, arch will do necessary fixup.
1034          */
1035         pci_resource_to_user(pdev, i, res, &start, &end);
1036         vma->vm_pgoff += start >> PAGE_SHIFT;
1037         mmap_type = res->flags & IORESOURCE_MEM ? pci_mmap_mem : pci_mmap_io;
1038         return pci_mmap_page_range(pdev, vma, mmap_type, write_combine);
1039 }
1040
1041 static int pci_mmap_resource_uc(struct file *filp, struct kobject *kobj,
1042                                 struct bin_attribute *attr,
1043                                 struct vm_area_struct *vma)
1044 {
1045         return pci_mmap_resource(kobj, attr, vma, 0);
1046 }
1047
1048 static int pci_mmap_resource_wc(struct file *filp, struct kobject *kobj,
1049                                 struct bin_attribute *attr,
1050                                 struct vm_area_struct *vma)
1051 {
1052         return pci_mmap_resource(kobj, attr, vma, 1);
1053 }
1054
1055 static ssize_t pci_resource_io(struct file *filp, struct kobject *kobj,
1056                                struct bin_attribute *attr, char *buf,
1057                                loff_t off, size_t count, bool write)
1058 {
1059         struct pci_dev *pdev = to_pci_dev(container_of(kobj,
1060                                                        struct device, kobj));
1061         struct resource *res = attr->private;
1062         unsigned long port = off;
1063         int i;
1064
1065         for (i = 0; i < PCI_ROM_RESOURCE; i++)
1066                 if (res == &pdev->resource[i])
1067                         break;
1068         if (i >= PCI_ROM_RESOURCE)
1069                 return -ENODEV;
1070
1071         port += pci_resource_start(pdev, i);
1072
1073         if (port > pci_resource_end(pdev, i))
1074                 return 0;
1075
1076         if (port + count - 1 > pci_resource_end(pdev, i))
1077                 return -EINVAL;
1078
1079         switch (count) {
1080         case 1:
1081                 if (write)
1082                         outb(*(u8 *)buf, port);
1083                 else
1084                         *(u8 *)buf = inb(port);
1085                 return 1;
1086         case 2:
1087                 if (write)
1088                         outw(*(u16 *)buf, port);
1089                 else
1090                         *(u16 *)buf = inw(port);
1091                 return 2;
1092         case 4:
1093                 if (write)
1094                         outl(*(u32 *)buf, port);
1095                 else
1096                         *(u32 *)buf = inl(port);
1097                 return 4;
1098         }
1099         return -EINVAL;
1100 }
1101
1102 static ssize_t pci_read_resource_io(struct file *filp, struct kobject *kobj,
1103                                     struct bin_attribute *attr, char *buf,
1104                                     loff_t off, size_t count)
1105 {
1106         return pci_resource_io(filp, kobj, attr, buf, off, count, false);
1107 }
1108
1109 static ssize_t pci_write_resource_io(struct file *filp, struct kobject *kobj,
1110                                      struct bin_attribute *attr, char *buf,
1111                                      loff_t off, size_t count)
1112 {
1113         return pci_resource_io(filp, kobj, attr, buf, off, count, true);
1114 }
1115
1116 /**
1117  * pci_remove_resource_files - cleanup resource files
1118  * @pdev: dev to cleanup
1119  *
1120  * If we created resource files for @pdev, remove them from sysfs and
1121  * free their resources.
1122  */
1123 static void pci_remove_resource_files(struct pci_dev *pdev)
1124 {
1125         int i;
1126
1127         for (i = 0; i < PCI_ROM_RESOURCE; i++) {
1128                 struct bin_attribute *res_attr;
1129
1130                 res_attr = pdev->res_attr[i];
1131                 if (res_attr) {
1132                         sysfs_remove_bin_file(&pdev->dev.kobj, res_attr);
1133                         kfree(res_attr);
1134                 }
1135
1136                 res_attr = pdev->res_attr_wc[i];
1137                 if (res_attr) {
1138                         sysfs_remove_bin_file(&pdev->dev.kobj, res_attr);
1139                         kfree(res_attr);
1140                 }
1141         }
1142 }
1143
1144 static int pci_create_attr(struct pci_dev *pdev, int num, int write_combine)
1145 {
1146         /* allocate attribute structure, piggyback attribute name */
1147         int name_len = write_combine ? 13 : 10;
1148         struct bin_attribute *res_attr;
1149         int retval;
1150
1151         res_attr = kzalloc(sizeof(*res_attr) + name_len, GFP_ATOMIC);
1152         if (res_attr) {
1153                 char *res_attr_name = (char *)(res_attr + 1);
1154
1155                 sysfs_bin_attr_init(res_attr);
1156                 if (write_combine) {
1157                         pdev->res_attr_wc[num] = res_attr;
1158                         sprintf(res_attr_name, "resource%d_wc", num);
1159                         res_attr->mmap = pci_mmap_resource_wc;
1160                 } else {
1161                         pdev->res_attr[num] = res_attr;
1162                         sprintf(res_attr_name, "resource%d", num);
1163                         res_attr->mmap = pci_mmap_resource_uc;
1164                 }
1165                 if (pci_resource_flags(pdev, num) & IORESOURCE_IO) {
1166                         res_attr->read = pci_read_resource_io;
1167                         res_attr->write = pci_write_resource_io;
1168                 }
1169                 res_attr->attr.name = res_attr_name;
1170                 res_attr->attr.mode = S_IRUSR | S_IWUSR;
1171                 res_attr->size = pci_resource_len(pdev, num);
1172                 res_attr->private = &pdev->resource[num];
1173                 retval = sysfs_create_bin_file(&pdev->dev.kobj, res_attr);
1174         } else
1175                 retval = -ENOMEM;
1176
1177         return retval;
1178 }
1179
1180 /**
1181  * pci_create_resource_files - create resource files in sysfs for @dev
1182  * @pdev: dev in question
1183  *
1184  * Walk the resources in @pdev creating files for each resource available.
1185  */
1186 static int pci_create_resource_files(struct pci_dev *pdev)
1187 {
1188         int i;
1189         int retval;
1190
1191         /* Expose the PCI resources from this device as files */
1192         for (i = 0; i < PCI_ROM_RESOURCE; i++) {
1193
1194                 /* skip empty resources */
1195                 if (!pci_resource_len(pdev, i))
1196                         continue;
1197
1198                 retval = pci_create_attr(pdev, i, 0);
1199                 /* for prefetchable resources, create a WC mappable file */
1200                 if (!retval && pdev->resource[i].flags & IORESOURCE_PREFETCH)
1201                         retval = pci_create_attr(pdev, i, 1);
1202
1203                 if (retval) {
1204                         pci_remove_resource_files(pdev);
1205                         return retval;
1206                 }
1207         }
1208         return 0;
1209 }
1210 #else /* !HAVE_PCI_MMAP */
1211 int __weak pci_create_resource_files(struct pci_dev *dev) { return 0; }
1212 void __weak pci_remove_resource_files(struct pci_dev *dev) { return; }
1213 #endif /* HAVE_PCI_MMAP */
1214
1215 /**
1216  * pci_write_rom - used to enable access to the PCI ROM display
1217  * @filp: sysfs file
1218  * @kobj: kernel object handle
1219  * @bin_attr: struct bin_attribute for this file
1220  * @buf: user input
1221  * @off: file offset
1222  * @count: number of byte in input
1223  *
1224  * writing anything except 0 enables it
1225  */
1226 static ssize_t pci_write_rom(struct file *filp, struct kobject *kobj,
1227                              struct bin_attribute *bin_attr, char *buf,
1228                              loff_t off, size_t count)
1229 {
1230         struct pci_dev *pdev = to_pci_dev(container_of(kobj, struct device, kobj));
1231
1232         if ((off ==  0) && (*buf == '0') && (count == 2))
1233                 pdev->rom_attr_enabled = 0;
1234         else
1235                 pdev->rom_attr_enabled = 1;
1236
1237         return count;
1238 }
1239
1240 /**
1241  * pci_read_rom - read a PCI ROM
1242  * @filp: sysfs file
1243  * @kobj: kernel object handle
1244  * @bin_attr: struct bin_attribute for this file
1245  * @buf: where to put the data we read from the ROM
1246  * @off: file offset
1247  * @count: number of bytes to read
1248  *
1249  * Put @count bytes starting at @off into @buf from the ROM in the PCI
1250  * device corresponding to @kobj.
1251  */
1252 static ssize_t pci_read_rom(struct file *filp, struct kobject *kobj,
1253                             struct bin_attribute *bin_attr, char *buf,
1254                             loff_t off, size_t count)
1255 {
1256         struct pci_dev *pdev = to_pci_dev(container_of(kobj, struct device, kobj));
1257         void __iomem *rom;
1258         size_t size;
1259
1260         if (!pdev->rom_attr_enabled)
1261                 return -EINVAL;
1262
1263         rom = pci_map_rom(pdev, &size); /* size starts out as PCI window size */
1264         if (!rom || !size)
1265                 return -EIO;
1266
1267         if (off >= size)
1268                 count = 0;
1269         else {
1270                 if (off + count > size)
1271                         count = size - off;
1272
1273                 memcpy_fromio(buf, rom + off, count);
1274         }
1275         pci_unmap_rom(pdev, rom);
1276
1277         return count;
1278 }
1279
1280 static struct bin_attribute pci_config_attr = {
1281         .attr = {
1282                 .name = "config",
1283                 .mode = S_IRUGO | S_IWUSR,
1284         },
1285         .size = PCI_CFG_SPACE_SIZE,
1286         .read = pci_read_config,
1287         .write = pci_write_config,
1288 };
1289
1290 static struct bin_attribute pcie_config_attr = {
1291         .attr = {
1292                 .name = "config",
1293                 .mode = S_IRUGO | S_IWUSR,
1294         },
1295         .size = PCI_CFG_SPACE_EXP_SIZE,
1296         .read = pci_read_config,
1297         .write = pci_write_config,
1298 };
1299
1300 static ssize_t reset_store(struct device *dev, struct device_attribute *attr,
1301                            const char *buf, size_t count)
1302 {
1303         struct pci_dev *pdev = to_pci_dev(dev);
1304         unsigned long val;
1305         ssize_t result = kstrtoul(buf, 0, &val);
1306
1307         if (result < 0)
1308                 return result;
1309
1310         if (val != 1)
1311                 return -EINVAL;
1312
1313         result = pci_reset_function(pdev);
1314         if (result < 0)
1315                 return result;
1316
1317         return count;
1318 }
1319
1320 static struct device_attribute reset_attr = __ATTR(reset, 0200, NULL, reset_store);
1321
1322 static int pci_create_capabilities_sysfs(struct pci_dev *dev)
1323 {
1324         int retval;
1325         struct bin_attribute *attr;
1326
1327         /* If the device has VPD, try to expose it in sysfs. */
1328         if (dev->vpd) {
1329                 attr = kzalloc(sizeof(*attr), GFP_ATOMIC);
1330                 if (!attr)
1331                         return -ENOMEM;
1332
1333                 sysfs_bin_attr_init(attr);
1334                 attr->size = dev->vpd->len;
1335                 attr->attr.name = "vpd";
1336                 attr->attr.mode = S_IRUSR | S_IWUSR;
1337                 attr->read = read_vpd_attr;
1338                 attr->write = write_vpd_attr;
1339                 retval = sysfs_create_bin_file(&dev->dev.kobj, attr);
1340                 if (retval) {
1341                         kfree(attr);
1342                         return retval;
1343                 }
1344                 dev->vpd->attr = attr;
1345         }
1346
1347         /* Active State Power Management */
1348         pcie_aspm_create_sysfs_dev_files(dev);
1349
1350         if (!pci_probe_reset_function(dev)) {
1351                 retval = device_create_file(&dev->dev, &reset_attr);
1352                 if (retval)
1353                         goto error;
1354                 dev->reset_fn = 1;
1355         }
1356         return 0;
1357
1358 error:
1359         pcie_aspm_remove_sysfs_dev_files(dev);
1360         if (dev->vpd && dev->vpd->attr) {
1361                 sysfs_remove_bin_file(&dev->dev.kobj, dev->vpd->attr);
1362                 kfree(dev->vpd->attr);
1363         }
1364
1365         return retval;
1366 }
1367
1368 int __must_check pci_create_sysfs_dev_files(struct pci_dev *pdev)
1369 {
1370         int retval;
1371         int rom_size = 0;
1372         struct bin_attribute *attr;
1373
1374         if (!sysfs_initialized)
1375                 return -EACCES;
1376
1377         if (pdev->cfg_size > PCI_CFG_SPACE_SIZE)
1378                 retval = sysfs_create_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1379         else
1380                 retval = sysfs_create_bin_file(&pdev->dev.kobj, &pci_config_attr);
1381         if (retval)
1382                 goto err;
1383
1384         retval = pci_create_resource_files(pdev);
1385         if (retval)
1386                 goto err_config_file;
1387
1388         if (pci_resource_len(pdev, PCI_ROM_RESOURCE))
1389                 rom_size = pci_resource_len(pdev, PCI_ROM_RESOURCE);
1390         else if (pdev->resource[PCI_ROM_RESOURCE].flags & IORESOURCE_ROM_SHADOW)
1391                 rom_size = 0x20000;
1392
1393         /* If the device has a ROM, try to expose it in sysfs. */
1394         if (rom_size) {
1395                 attr = kzalloc(sizeof(*attr), GFP_ATOMIC);
1396                 if (!attr) {
1397                         retval = -ENOMEM;
1398                         goto err_resource_files;
1399                 }
1400                 sysfs_bin_attr_init(attr);
1401                 attr->size = rom_size;
1402                 attr->attr.name = "rom";
1403                 attr->attr.mode = S_IRUSR | S_IWUSR;
1404                 attr->read = pci_read_rom;
1405                 attr->write = pci_write_rom;
1406                 retval = sysfs_create_bin_file(&pdev->dev.kobj, attr);
1407                 if (retval) {
1408                         kfree(attr);
1409                         goto err_resource_files;
1410                 }
1411                 pdev->rom_attr = attr;
1412         }
1413
1414         /* add sysfs entries for various capabilities */
1415         retval = pci_create_capabilities_sysfs(pdev);
1416         if (retval)
1417                 goto err_rom_file;
1418
1419         pci_create_firmware_label_files(pdev);
1420
1421         return 0;
1422
1423 err_rom_file:
1424         if (rom_size) {
1425                 sysfs_remove_bin_file(&pdev->dev.kobj, pdev->rom_attr);
1426                 kfree(pdev->rom_attr);
1427                 pdev->rom_attr = NULL;
1428         }
1429 err_resource_files:
1430         pci_remove_resource_files(pdev);
1431 err_config_file:
1432         if (pdev->cfg_size > PCI_CFG_SPACE_SIZE)
1433                 sysfs_remove_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1434         else
1435                 sysfs_remove_bin_file(&pdev->dev.kobj, &pci_config_attr);
1436 err:
1437         return retval;
1438 }
1439
1440 static void pci_remove_capabilities_sysfs(struct pci_dev *dev)
1441 {
1442         if (dev->vpd && dev->vpd->attr) {
1443                 sysfs_remove_bin_file(&dev->dev.kobj, dev->vpd->attr);
1444                 kfree(dev->vpd->attr);
1445         }
1446
1447         pcie_aspm_remove_sysfs_dev_files(dev);
1448         if (dev->reset_fn) {
1449                 device_remove_file(&dev->dev, &reset_attr);
1450                 dev->reset_fn = 0;
1451         }
1452 }
1453
1454 /**
1455  * pci_remove_sysfs_dev_files - cleanup PCI specific sysfs files
1456  * @pdev: device whose entries we should free
1457  *
1458  * Cleanup when @pdev is removed from sysfs.
1459  */
1460 void pci_remove_sysfs_dev_files(struct pci_dev *pdev)
1461 {
1462         int rom_size = 0;
1463
1464         if (!sysfs_initialized)
1465                 return;
1466
1467         pci_remove_capabilities_sysfs(pdev);
1468
1469         if (pdev->cfg_size > PCI_CFG_SPACE_SIZE)
1470                 sysfs_remove_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1471         else
1472                 sysfs_remove_bin_file(&pdev->dev.kobj, &pci_config_attr);
1473
1474         pci_remove_resource_files(pdev);
1475
1476         if (pci_resource_len(pdev, PCI_ROM_RESOURCE))
1477                 rom_size = pci_resource_len(pdev, PCI_ROM_RESOURCE);
1478         else if (pdev->resource[PCI_ROM_RESOURCE].flags & IORESOURCE_ROM_SHADOW)
1479                 rom_size = 0x20000;
1480
1481         if (rom_size && pdev->rom_attr) {
1482                 sysfs_remove_bin_file(&pdev->dev.kobj, pdev->rom_attr);
1483                 kfree(pdev->rom_attr);
1484         }
1485
1486         pci_remove_firmware_label_files(pdev);
1487
1488 }
1489
1490 static int __init pci_sysfs_init(void)
1491 {
1492         struct pci_dev *pdev = NULL;
1493         int retval;
1494
1495         sysfs_initialized = 1;
1496         for_each_pci_dev(pdev) {
1497                 retval = pci_create_sysfs_dev_files(pdev);
1498                 if (retval) {
1499                         pci_dev_put(pdev);
1500                         return retval;
1501                 }
1502         }
1503
1504         return 0;
1505 }
1506 late_initcall(pci_sysfs_init);
1507
1508 static struct attribute *pci_dev_dev_attrs[] = {
1509         &vga_attr.attr,
1510         NULL,
1511 };
1512
1513 static umode_t pci_dev_attrs_are_visible(struct kobject *kobj,
1514                                          struct attribute *a, int n)
1515 {
1516         struct device *dev = container_of(kobj, struct device, kobj);
1517         struct pci_dev *pdev = to_pci_dev(dev);
1518
1519         if (a == &vga_attr.attr)
1520                 if ((pdev->class >> 8) != PCI_CLASS_DISPLAY_VGA)
1521                         return 0;
1522
1523         return a->mode;
1524 }
1525
1526 static struct attribute *pci_dev_hp_attrs[] = {
1527         &dev_remove_attr.attr,
1528         &dev_rescan_attr.attr,
1529         NULL,
1530 };
1531
1532 static umode_t pci_dev_hp_attrs_are_visible(struct kobject *kobj,
1533                                             struct attribute *a, int n)
1534 {
1535         struct device *dev = container_of(kobj, struct device, kobj);
1536         struct pci_dev *pdev = to_pci_dev(dev);
1537
1538         if (pdev->is_virtfn)
1539                 return 0;
1540
1541         return a->mode;
1542 }
1543
1544 static struct attribute_group pci_dev_hp_attr_group = {
1545         .attrs = pci_dev_hp_attrs,
1546         .is_visible = pci_dev_hp_attrs_are_visible,
1547 };
1548
1549 #ifdef CONFIG_PCI_IOV
1550 static struct attribute *sriov_dev_attrs[] = {
1551         &sriov_totalvfs_attr.attr,
1552         &sriov_numvfs_attr.attr,
1553         NULL,
1554 };
1555
1556 static umode_t sriov_attrs_are_visible(struct kobject *kobj,
1557                                        struct attribute *a, int n)
1558 {
1559         struct device *dev = container_of(kobj, struct device, kobj);
1560
1561         if (!dev_is_pf(dev))
1562                 return 0;
1563
1564         return a->mode;
1565 }
1566
1567 static struct attribute_group sriov_dev_attr_group = {
1568         .attrs = sriov_dev_attrs,
1569         .is_visible = sriov_attrs_are_visible,
1570 };
1571 #endif /* CONFIG_PCI_IOV */
1572
1573 static struct attribute_group pci_dev_attr_group = {
1574         .attrs = pci_dev_dev_attrs,
1575         .is_visible = pci_dev_attrs_are_visible,
1576 };
1577
1578 static const struct attribute_group *pci_dev_attr_groups[] = {
1579         &pci_dev_attr_group,
1580         &pci_dev_hp_attr_group,
1581 #ifdef CONFIG_PCI_IOV
1582         &sriov_dev_attr_group,
1583 #endif
1584         NULL,
1585 };
1586
1587 struct device_type pci_dev_type = {
1588         .groups = pci_dev_attr_groups,
1589 };