Merge tag 'pci-v3.19-changes' of git://git.kernel.org/pub/scm/linux/kernel/git/helgaa...
[firefly-linux-kernel-4.4.55.git] / drivers / pci / pci-sysfs.c
1 /*
2  * drivers/pci/pci-sysfs.c
3  *
4  * (C) Copyright 2002-2004 Greg Kroah-Hartman <greg@kroah.com>
5  * (C) Copyright 2002-2004 IBM Corp.
6  * (C) Copyright 2003 Matthew Wilcox
7  * (C) Copyright 2003 Hewlett-Packard
8  * (C) Copyright 2004 Jon Smirl <jonsmirl@yahoo.com>
9  * (C) Copyright 2004 Silicon Graphics, Inc. Jesse Barnes <jbarnes@sgi.com>
10  *
11  * File attributes for PCI devices
12  *
13  * Modeled after usb's driverfs.c
14  *
15  */
16
17
18 #include <linux/kernel.h>
19 #include <linux/sched.h>
20 #include <linux/pci.h>
21 #include <linux/stat.h>
22 #include <linux/export.h>
23 #include <linux/topology.h>
24 #include <linux/mm.h>
25 #include <linux/fs.h>
26 #include <linux/capability.h>
27 #include <linux/security.h>
28 #include <linux/pci-aspm.h>
29 #include <linux/slab.h>
30 #include <linux/vgaarb.h>
31 #include <linux/pm_runtime.h>
32 #include <linux/of.h>
33 #include "pci.h"
34
35 static int sysfs_initialized;   /* = 0 */
36
37 /* show configuration fields */
38 #define pci_config_attr(field, format_string)                           \
39 static ssize_t                                                          \
40 field##_show(struct device *dev, struct device_attribute *attr, char *buf)                              \
41 {                                                                       \
42         struct pci_dev *pdev;                                           \
43                                                                         \
44         pdev = to_pci_dev(dev);                                         \
45         return sprintf(buf, format_string, pdev->field);                \
46 }                                                                       \
47 static DEVICE_ATTR_RO(field)
48
49 pci_config_attr(vendor, "0x%04x\n");
50 pci_config_attr(device, "0x%04x\n");
51 pci_config_attr(subsystem_vendor, "0x%04x\n");
52 pci_config_attr(subsystem_device, "0x%04x\n");
53 pci_config_attr(class, "0x%06x\n");
54 pci_config_attr(irq, "%u\n");
55
56 static ssize_t broken_parity_status_show(struct device *dev,
57                                          struct device_attribute *attr,
58                                          char *buf)
59 {
60         struct pci_dev *pdev = to_pci_dev(dev);
61         return sprintf(buf, "%u\n", pdev->broken_parity_status);
62 }
63
64 static ssize_t broken_parity_status_store(struct device *dev,
65                                           struct device_attribute *attr,
66                                           const char *buf, size_t count)
67 {
68         struct pci_dev *pdev = to_pci_dev(dev);
69         unsigned long val;
70
71         if (kstrtoul(buf, 0, &val) < 0)
72                 return -EINVAL;
73
74         pdev->broken_parity_status = !!val;
75
76         return count;
77 }
78 static DEVICE_ATTR_RW(broken_parity_status);
79
80 static ssize_t pci_dev_show_local_cpu(struct device *dev, int type,
81                                       struct device_attribute *attr, char *buf)
82 {
83         const struct cpumask *mask;
84         int len;
85
86 #ifdef CONFIG_NUMA
87         mask = (dev_to_node(dev) == -1) ? cpu_online_mask :
88                                           cpumask_of_node(dev_to_node(dev));
89 #else
90         mask = cpumask_of_pcibus(to_pci_dev(dev)->bus);
91 #endif
92         len = type ?
93                 cpumask_scnprintf(buf, PAGE_SIZE-2, mask) :
94                 cpulist_scnprintf(buf, PAGE_SIZE-2, mask);
95
96         buf[len++] = '\n';
97         buf[len] = '\0';
98         return len;
99 }
100
101 static ssize_t local_cpus_show(struct device *dev,
102                                struct device_attribute *attr, char *buf)
103 {
104         return pci_dev_show_local_cpu(dev, 1, attr, buf);
105 }
106 static DEVICE_ATTR_RO(local_cpus);
107
108 static ssize_t local_cpulist_show(struct device *dev,
109                                   struct device_attribute *attr, char *buf)
110 {
111         return pci_dev_show_local_cpu(dev, 0, attr, buf);
112 }
113 static DEVICE_ATTR_RO(local_cpulist);
114
115 /*
116  * PCI Bus Class Devices
117  */
118 static ssize_t pci_bus_show_cpuaffinity(struct device *dev, int type,
119                                         struct device_attribute *attr,
120                                         char *buf)
121 {
122         int ret;
123         const struct cpumask *cpumask;
124
125         cpumask = cpumask_of_pcibus(to_pci_bus(dev));
126         ret = type ?
127                 cpulist_scnprintf(buf, PAGE_SIZE-2, cpumask) :
128                 cpumask_scnprintf(buf, PAGE_SIZE-2, cpumask);
129         buf[ret++] = '\n';
130         buf[ret] = '\0';
131         return ret;
132 }
133
134 static ssize_t cpuaffinity_show(struct device *dev,
135                                 struct device_attribute *attr, char *buf)
136 {
137         return pci_bus_show_cpuaffinity(dev, 0, attr, buf);
138 }
139 static DEVICE_ATTR_RO(cpuaffinity);
140
141 static ssize_t cpulistaffinity_show(struct device *dev,
142                                     struct device_attribute *attr, char *buf)
143 {
144         return pci_bus_show_cpuaffinity(dev, 1, attr, buf);
145 }
146 static DEVICE_ATTR_RO(cpulistaffinity);
147
148 /* show resources */
149 static ssize_t resource_show(struct device *dev, struct device_attribute *attr,
150                              char *buf)
151 {
152         struct pci_dev *pci_dev = to_pci_dev(dev);
153         char *str = buf;
154         int i;
155         int max;
156         resource_size_t start, end;
157
158         if (pci_dev->subordinate)
159                 max = DEVICE_COUNT_RESOURCE;
160         else
161                 max = PCI_BRIDGE_RESOURCES;
162
163         for (i = 0; i < max; i++) {
164                 struct resource *res =  &pci_dev->resource[i];
165                 pci_resource_to_user(pci_dev, i, res, &start, &end);
166                 str += sprintf(str, "0x%016llx 0x%016llx 0x%016llx\n",
167                                (unsigned long long)start,
168                                (unsigned long long)end,
169                                (unsigned long long)res->flags);
170         }
171         return (str - buf);
172 }
173 static DEVICE_ATTR_RO(resource);
174
175 static ssize_t modalias_show(struct device *dev, struct device_attribute *attr,
176                              char *buf)
177 {
178         struct pci_dev *pci_dev = to_pci_dev(dev);
179
180         return sprintf(buf, "pci:v%08Xd%08Xsv%08Xsd%08Xbc%02Xsc%02Xi%02X\n",
181                        pci_dev->vendor, pci_dev->device,
182                        pci_dev->subsystem_vendor, pci_dev->subsystem_device,
183                        (u8)(pci_dev->class >> 16), (u8)(pci_dev->class >> 8),
184                        (u8)(pci_dev->class));
185 }
186 static DEVICE_ATTR_RO(modalias);
187
188 static ssize_t enable_store(struct device *dev, struct device_attribute *attr,
189                              const char *buf, size_t count)
190 {
191         struct pci_dev *pdev = to_pci_dev(dev);
192         unsigned long val;
193         ssize_t result = kstrtoul(buf, 0, &val);
194
195         if (result < 0)
196                 return result;
197
198         /* this can crash the machine when done on the "wrong" device */
199         if (!capable(CAP_SYS_ADMIN))
200                 return -EPERM;
201
202         if (!val) {
203                 if (pci_is_enabled(pdev))
204                         pci_disable_device(pdev);
205                 else
206                         result = -EIO;
207         } else
208                 result = pci_enable_device(pdev);
209
210         return result < 0 ? result : count;
211 }
212
213 static ssize_t enable_show(struct device *dev, struct device_attribute *attr,
214                             char *buf)
215 {
216         struct pci_dev *pdev;
217
218         pdev = to_pci_dev(dev);
219         return sprintf(buf, "%u\n", atomic_read(&pdev->enable_cnt));
220 }
221 static DEVICE_ATTR_RW(enable);
222
223 #ifdef CONFIG_NUMA
224 static ssize_t numa_node_store(struct device *dev,
225                                struct device_attribute *attr, const char *buf,
226                                size_t count)
227 {
228         struct pci_dev *pdev = to_pci_dev(dev);
229         int node, ret;
230
231         if (!capable(CAP_SYS_ADMIN))
232                 return -EPERM;
233
234         ret = kstrtoint(buf, 0, &node);
235         if (ret)
236                 return ret;
237
238         if (!node_online(node))
239                 return -EINVAL;
240
241         add_taint(TAINT_FIRMWARE_WORKAROUND, LOCKDEP_STILL_OK);
242         dev_alert(&pdev->dev, FW_BUG "Overriding NUMA node to %d.  Contact your vendor for updates.",
243                   node);
244
245         dev->numa_node = node;
246         return count;
247 }
248
249 static ssize_t numa_node_show(struct device *dev, struct device_attribute *attr,
250                               char *buf)
251 {
252         return sprintf(buf, "%d\n", dev->numa_node);
253 }
254 static DEVICE_ATTR_RW(numa_node);
255 #endif
256
257 static ssize_t dma_mask_bits_show(struct device *dev,
258                                   struct device_attribute *attr, char *buf)
259 {
260         struct pci_dev *pdev = to_pci_dev(dev);
261
262         return sprintf(buf, "%d\n", fls64(pdev->dma_mask));
263 }
264 static DEVICE_ATTR_RO(dma_mask_bits);
265
266 static ssize_t consistent_dma_mask_bits_show(struct device *dev,
267                                              struct device_attribute *attr,
268                                              char *buf)
269 {
270         return sprintf(buf, "%d\n", fls64(dev->coherent_dma_mask));
271 }
272 static DEVICE_ATTR_RO(consistent_dma_mask_bits);
273
274 static ssize_t msi_bus_show(struct device *dev, struct device_attribute *attr,
275                             char *buf)
276 {
277         struct pci_dev *pdev = to_pci_dev(dev);
278         struct pci_bus *subordinate = pdev->subordinate;
279
280         return sprintf(buf, "%u\n", subordinate ?
281                        !(subordinate->bus_flags & PCI_BUS_FLAGS_NO_MSI)
282                            : !pdev->no_msi);
283 }
284
285 static ssize_t msi_bus_store(struct device *dev, struct device_attribute *attr,
286                              const char *buf, size_t count)
287 {
288         struct pci_dev *pdev = to_pci_dev(dev);
289         struct pci_bus *subordinate = pdev->subordinate;
290         unsigned long val;
291
292         if (kstrtoul(buf, 0, &val) < 0)
293                 return -EINVAL;
294
295         if (!capable(CAP_SYS_ADMIN))
296                 return -EPERM;
297
298         /*
299          * "no_msi" and "bus_flags" only affect what happens when a driver
300          * requests MSI or MSI-X.  They don't affect any drivers that have
301          * already requested MSI or MSI-X.
302          */
303         if (!subordinate) {
304                 pdev->no_msi = !val;
305                 dev_info(&pdev->dev, "MSI/MSI-X %s for future drivers\n",
306                          val ? "allowed" : "disallowed");
307                 return count;
308         }
309
310         if (val)
311                 subordinate->bus_flags &= ~PCI_BUS_FLAGS_NO_MSI;
312         else
313                 subordinate->bus_flags |= PCI_BUS_FLAGS_NO_MSI;
314
315         dev_info(&subordinate->dev, "MSI/MSI-X %s for future drivers of devices on this bus\n",
316                  val ? "allowed" : "disallowed");
317         return count;
318 }
319 static DEVICE_ATTR_RW(msi_bus);
320
321 static ssize_t bus_rescan_store(struct bus_type *bus, const char *buf,
322                                 size_t count)
323 {
324         unsigned long val;
325         struct pci_bus *b = NULL;
326
327         if (kstrtoul(buf, 0, &val) < 0)
328                 return -EINVAL;
329
330         if (val) {
331                 pci_lock_rescan_remove();
332                 while ((b = pci_find_next_bus(b)) != NULL)
333                         pci_rescan_bus(b);
334                 pci_unlock_rescan_remove();
335         }
336         return count;
337 }
338 static BUS_ATTR(rescan, (S_IWUSR|S_IWGRP), NULL, bus_rescan_store);
339
340 static struct attribute *pci_bus_attrs[] = {
341         &bus_attr_rescan.attr,
342         NULL,
343 };
344
345 static const struct attribute_group pci_bus_group = {
346         .attrs = pci_bus_attrs,
347 };
348
349 const struct attribute_group *pci_bus_groups[] = {
350         &pci_bus_group,
351         NULL,
352 };
353
354 static ssize_t dev_rescan_store(struct device *dev,
355                                 struct device_attribute *attr, const char *buf,
356                                 size_t count)
357 {
358         unsigned long val;
359         struct pci_dev *pdev = to_pci_dev(dev);
360
361         if (kstrtoul(buf, 0, &val) < 0)
362                 return -EINVAL;
363
364         if (val) {
365                 pci_lock_rescan_remove();
366                 pci_rescan_bus(pdev->bus);
367                 pci_unlock_rescan_remove();
368         }
369         return count;
370 }
371 static struct device_attribute dev_rescan_attr = __ATTR(rescan,
372                                                         (S_IWUSR|S_IWGRP),
373                                                         NULL, dev_rescan_store);
374
375 static ssize_t remove_store(struct device *dev, struct device_attribute *attr,
376                             const char *buf, size_t count)
377 {
378         unsigned long val;
379
380         if (kstrtoul(buf, 0, &val) < 0)
381                 return -EINVAL;
382
383         if (val && device_remove_file_self(dev, attr))
384                 pci_stop_and_remove_bus_device_locked(to_pci_dev(dev));
385         return count;
386 }
387 static struct device_attribute dev_remove_attr = __ATTR(remove,
388                                                         (S_IWUSR|S_IWGRP),
389                                                         NULL, remove_store);
390
391 static ssize_t dev_bus_rescan_store(struct device *dev,
392                                     struct device_attribute *attr,
393                                     const char *buf, size_t count)
394 {
395         unsigned long val;
396         struct pci_bus *bus = to_pci_bus(dev);
397
398         if (kstrtoul(buf, 0, &val) < 0)
399                 return -EINVAL;
400
401         if (val) {
402                 pci_lock_rescan_remove();
403                 if (!pci_is_root_bus(bus) && list_empty(&bus->devices))
404                         pci_rescan_bus_bridge_resize(bus->self);
405                 else
406                         pci_rescan_bus(bus);
407                 pci_unlock_rescan_remove();
408         }
409         return count;
410 }
411 static DEVICE_ATTR(rescan, (S_IWUSR|S_IWGRP), NULL, dev_bus_rescan_store);
412
413 #if defined(CONFIG_PM_RUNTIME) && defined(CONFIG_ACPI)
414 static ssize_t d3cold_allowed_store(struct device *dev,
415                                     struct device_attribute *attr,
416                                     const char *buf, size_t count)
417 {
418         struct pci_dev *pdev = to_pci_dev(dev);
419         unsigned long val;
420
421         if (kstrtoul(buf, 0, &val) < 0)
422                 return -EINVAL;
423
424         pdev->d3cold_allowed = !!val;
425         pm_runtime_resume(dev);
426
427         return count;
428 }
429
430 static ssize_t d3cold_allowed_show(struct device *dev,
431                                    struct device_attribute *attr, char *buf)
432 {
433         struct pci_dev *pdev = to_pci_dev(dev);
434         return sprintf(buf, "%u\n", pdev->d3cold_allowed);
435 }
436 static DEVICE_ATTR_RW(d3cold_allowed);
437 #endif
438
439 #ifdef CONFIG_OF
440 static ssize_t devspec_show(struct device *dev,
441                             struct device_attribute *attr, char *buf)
442 {
443         struct pci_dev *pdev = to_pci_dev(dev);
444         struct device_node *np = pci_device_to_OF_node(pdev);
445
446         if (np == NULL || np->full_name == NULL)
447                 return 0;
448         return sprintf(buf, "%s", np->full_name);
449 }
450 static DEVICE_ATTR_RO(devspec);
451 #endif
452
453 #ifdef CONFIG_PCI_IOV
454 static ssize_t sriov_totalvfs_show(struct device *dev,
455                                    struct device_attribute *attr,
456                                    char *buf)
457 {
458         struct pci_dev *pdev = to_pci_dev(dev);
459
460         return sprintf(buf, "%u\n", pci_sriov_get_totalvfs(pdev));
461 }
462
463
464 static ssize_t sriov_numvfs_show(struct device *dev,
465                                  struct device_attribute *attr,
466                                  char *buf)
467 {
468         struct pci_dev *pdev = to_pci_dev(dev);
469
470         return sprintf(buf, "%u\n", pdev->sriov->num_VFs);
471 }
472
473 /*
474  * num_vfs > 0; number of VFs to enable
475  * num_vfs = 0; disable all VFs
476  *
477  * Note: SRIOV spec doesn't allow partial VF
478  *       disable, so it's all or none.
479  */
480 static ssize_t sriov_numvfs_store(struct device *dev,
481                                   struct device_attribute *attr,
482                                   const char *buf, size_t count)
483 {
484         struct pci_dev *pdev = to_pci_dev(dev);
485         int ret;
486         u16 num_vfs;
487
488         ret = kstrtou16(buf, 0, &num_vfs);
489         if (ret < 0)
490                 return ret;
491
492         if (num_vfs > pci_sriov_get_totalvfs(pdev))
493                 return -ERANGE;
494
495         if (num_vfs == pdev->sriov->num_VFs)
496                 return count;           /* no change */
497
498         /* is PF driver loaded w/callback */
499         if (!pdev->driver || !pdev->driver->sriov_configure) {
500                 dev_info(&pdev->dev, "Driver doesn't support SRIOV configuration via sysfs\n");
501                 return -ENOSYS;
502         }
503
504         if (num_vfs == 0) {
505                 /* disable VFs */
506                 ret = pdev->driver->sriov_configure(pdev, 0);
507                 if (ret < 0)
508                         return ret;
509                 return count;
510         }
511
512         /* enable VFs */
513         if (pdev->sriov->num_VFs) {
514                 dev_warn(&pdev->dev, "%d VFs already enabled. Disable before enabling %d VFs\n",
515                          pdev->sriov->num_VFs, num_vfs);
516                 return -EBUSY;
517         }
518
519         ret = pdev->driver->sriov_configure(pdev, num_vfs);
520         if (ret < 0)
521                 return ret;
522
523         if (ret != num_vfs)
524                 dev_warn(&pdev->dev, "%d VFs requested; only %d enabled\n",
525                          num_vfs, ret);
526
527         return count;
528 }
529
530 static struct device_attribute sriov_totalvfs_attr = __ATTR_RO(sriov_totalvfs);
531 static struct device_attribute sriov_numvfs_attr =
532                 __ATTR(sriov_numvfs, (S_IRUGO|S_IWUSR|S_IWGRP),
533                        sriov_numvfs_show, sriov_numvfs_store);
534 #endif /* CONFIG_PCI_IOV */
535
536 static ssize_t driver_override_store(struct device *dev,
537                                      struct device_attribute *attr,
538                                      const char *buf, size_t count)
539 {
540         struct pci_dev *pdev = to_pci_dev(dev);
541         char *driver_override, *old = pdev->driver_override, *cp;
542
543         if (count > PATH_MAX)
544                 return -EINVAL;
545
546         driver_override = kstrndup(buf, count, GFP_KERNEL);
547         if (!driver_override)
548                 return -ENOMEM;
549
550         cp = strchr(driver_override, '\n');
551         if (cp)
552                 *cp = '\0';
553
554         if (strlen(driver_override)) {
555                 pdev->driver_override = driver_override;
556         } else {
557                 kfree(driver_override);
558                 pdev->driver_override = NULL;
559         }
560
561         kfree(old);
562
563         return count;
564 }
565
566 static ssize_t driver_override_show(struct device *dev,
567                                     struct device_attribute *attr, char *buf)
568 {
569         struct pci_dev *pdev = to_pci_dev(dev);
570
571         return sprintf(buf, "%s\n", pdev->driver_override);
572 }
573 static DEVICE_ATTR_RW(driver_override);
574
575 static struct attribute *pci_dev_attrs[] = {
576         &dev_attr_resource.attr,
577         &dev_attr_vendor.attr,
578         &dev_attr_device.attr,
579         &dev_attr_subsystem_vendor.attr,
580         &dev_attr_subsystem_device.attr,
581         &dev_attr_class.attr,
582         &dev_attr_irq.attr,
583         &dev_attr_local_cpus.attr,
584         &dev_attr_local_cpulist.attr,
585         &dev_attr_modalias.attr,
586 #ifdef CONFIG_NUMA
587         &dev_attr_numa_node.attr,
588 #endif
589         &dev_attr_dma_mask_bits.attr,
590         &dev_attr_consistent_dma_mask_bits.attr,
591         &dev_attr_enable.attr,
592         &dev_attr_broken_parity_status.attr,
593         &dev_attr_msi_bus.attr,
594 #if defined(CONFIG_PM_RUNTIME) && defined(CONFIG_ACPI)
595         &dev_attr_d3cold_allowed.attr,
596 #endif
597 #ifdef CONFIG_OF
598         &dev_attr_devspec.attr,
599 #endif
600         &dev_attr_driver_override.attr,
601         NULL,
602 };
603
604 static const struct attribute_group pci_dev_group = {
605         .attrs = pci_dev_attrs,
606 };
607
608 const struct attribute_group *pci_dev_groups[] = {
609         &pci_dev_group,
610         NULL,
611 };
612
613 static struct attribute *pcibus_attrs[] = {
614         &dev_attr_rescan.attr,
615         &dev_attr_cpuaffinity.attr,
616         &dev_attr_cpulistaffinity.attr,
617         NULL,
618 };
619
620 static const struct attribute_group pcibus_group = {
621         .attrs = pcibus_attrs,
622 };
623
624 const struct attribute_group *pcibus_groups[] = {
625         &pcibus_group,
626         NULL,
627 };
628
629 static ssize_t boot_vga_show(struct device *dev, struct device_attribute *attr,
630                              char *buf)
631 {
632         struct pci_dev *pdev = to_pci_dev(dev);
633         struct pci_dev *vga_dev = vga_default_device();
634
635         if (vga_dev)
636                 return sprintf(buf, "%u\n", (pdev == vga_dev));
637
638         return sprintf(buf, "%u\n",
639                 !!(pdev->resource[PCI_ROM_RESOURCE].flags &
640                    IORESOURCE_ROM_SHADOW));
641 }
642 static struct device_attribute vga_attr = __ATTR_RO(boot_vga);
643
644 static ssize_t pci_read_config(struct file *filp, struct kobject *kobj,
645                                struct bin_attribute *bin_attr, char *buf,
646                                loff_t off, size_t count)
647 {
648         struct pci_dev *dev = to_pci_dev(container_of(kobj, struct device,
649                                                       kobj));
650         unsigned int size = 64;
651         loff_t init_off = off;
652         u8 *data = (u8 *) buf;
653
654         /* Several chips lock up trying to read undefined config space */
655         if (security_capable(filp->f_cred, &init_user_ns, CAP_SYS_ADMIN) == 0)
656                 size = dev->cfg_size;
657         else if (dev->hdr_type == PCI_HEADER_TYPE_CARDBUS)
658                 size = 128;
659
660         if (off > size)
661                 return 0;
662         if (off + count > size) {
663                 size -= off;
664                 count = size;
665         } else {
666                 size = count;
667         }
668
669         pci_config_pm_runtime_get(dev);
670
671         if ((off & 1) && size) {
672                 u8 val;
673                 pci_user_read_config_byte(dev, off, &val);
674                 data[off - init_off] = val;
675                 off++;
676                 size--;
677         }
678
679         if ((off & 3) && size > 2) {
680                 u16 val;
681                 pci_user_read_config_word(dev, off, &val);
682                 data[off - init_off] = val & 0xff;
683                 data[off - init_off + 1] = (val >> 8) & 0xff;
684                 off += 2;
685                 size -= 2;
686         }
687
688         while (size > 3) {
689                 u32 val;
690                 pci_user_read_config_dword(dev, off, &val);
691                 data[off - init_off] = val & 0xff;
692                 data[off - init_off + 1] = (val >> 8) & 0xff;
693                 data[off - init_off + 2] = (val >> 16) & 0xff;
694                 data[off - init_off + 3] = (val >> 24) & 0xff;
695                 off += 4;
696                 size -= 4;
697         }
698
699         if (size >= 2) {
700                 u16 val;
701                 pci_user_read_config_word(dev, off, &val);
702                 data[off - init_off] = val & 0xff;
703                 data[off - init_off + 1] = (val >> 8) & 0xff;
704                 off += 2;
705                 size -= 2;
706         }
707
708         if (size > 0) {
709                 u8 val;
710                 pci_user_read_config_byte(dev, off, &val);
711                 data[off - init_off] = val;
712                 off++;
713                 --size;
714         }
715
716         pci_config_pm_runtime_put(dev);
717
718         return count;
719 }
720
721 static ssize_t pci_write_config(struct file *filp, struct kobject *kobj,
722                                 struct bin_attribute *bin_attr, char *buf,
723                                 loff_t off, size_t count)
724 {
725         struct pci_dev *dev = to_pci_dev(container_of(kobj, struct device,
726                                                       kobj));
727         unsigned int size = count;
728         loff_t init_off = off;
729         u8 *data = (u8 *) buf;
730
731         if (off > dev->cfg_size)
732                 return 0;
733         if (off + count > dev->cfg_size) {
734                 size = dev->cfg_size - off;
735                 count = size;
736         }
737
738         pci_config_pm_runtime_get(dev);
739
740         if ((off & 1) && size) {
741                 pci_user_write_config_byte(dev, off, data[off - init_off]);
742                 off++;
743                 size--;
744         }
745
746         if ((off & 3) && size > 2) {
747                 u16 val = data[off - init_off];
748                 val |= (u16) data[off - init_off + 1] << 8;
749                 pci_user_write_config_word(dev, off, val);
750                 off += 2;
751                 size -= 2;
752         }
753
754         while (size > 3) {
755                 u32 val = data[off - init_off];
756                 val |= (u32) data[off - init_off + 1] << 8;
757                 val |= (u32) data[off - init_off + 2] << 16;
758                 val |= (u32) data[off - init_off + 3] << 24;
759                 pci_user_write_config_dword(dev, off, val);
760                 off += 4;
761                 size -= 4;
762         }
763
764         if (size >= 2) {
765                 u16 val = data[off - init_off];
766                 val |= (u16) data[off - init_off + 1] << 8;
767                 pci_user_write_config_word(dev, off, val);
768                 off += 2;
769                 size -= 2;
770         }
771
772         if (size) {
773                 pci_user_write_config_byte(dev, off, data[off - init_off]);
774                 off++;
775                 --size;
776         }
777
778         pci_config_pm_runtime_put(dev);
779
780         return count;
781 }
782
783 static ssize_t read_vpd_attr(struct file *filp, struct kobject *kobj,
784                              struct bin_attribute *bin_attr, char *buf,
785                              loff_t off, size_t count)
786 {
787         struct pci_dev *dev =
788                 to_pci_dev(container_of(kobj, struct device, kobj));
789
790         if (off > bin_attr->size)
791                 count = 0;
792         else if (count > bin_attr->size - off)
793                 count = bin_attr->size - off;
794
795         return pci_read_vpd(dev, off, count, buf);
796 }
797
798 static ssize_t write_vpd_attr(struct file *filp, struct kobject *kobj,
799                               struct bin_attribute *bin_attr, char *buf,
800                               loff_t off, size_t count)
801 {
802         struct pci_dev *dev =
803                 to_pci_dev(container_of(kobj, struct device, kobj));
804
805         if (off > bin_attr->size)
806                 count = 0;
807         else if (count > bin_attr->size - off)
808                 count = bin_attr->size - off;
809
810         return pci_write_vpd(dev, off, count, buf);
811 }
812
813 #ifdef HAVE_PCI_LEGACY
814 /**
815  * pci_read_legacy_io - read byte(s) from legacy I/O port space
816  * @filp: open sysfs file
817  * @kobj: kobject corresponding to file to read from
818  * @bin_attr: struct bin_attribute for this file
819  * @buf: buffer to store results
820  * @off: offset into legacy I/O port space
821  * @count: number of bytes to read
822  *
823  * Reads 1, 2, or 4 bytes from legacy I/O port space using an arch specific
824  * callback routine (pci_legacy_read).
825  */
826 static ssize_t pci_read_legacy_io(struct file *filp, struct kobject *kobj,
827                                   struct bin_attribute *bin_attr, char *buf,
828                                   loff_t off, size_t count)
829 {
830         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
831                                                       kobj));
832
833         /* Only support 1, 2 or 4 byte accesses */
834         if (count != 1 && count != 2 && count != 4)
835                 return -EINVAL;
836
837         return pci_legacy_read(bus, off, (u32 *)buf, count);
838 }
839
840 /**
841  * pci_write_legacy_io - write byte(s) to legacy I/O port space
842  * @filp: open sysfs file
843  * @kobj: kobject corresponding to file to read from
844  * @bin_attr: struct bin_attribute for this file
845  * @buf: buffer containing value to be written
846  * @off: offset into legacy I/O port space
847  * @count: number of bytes to write
848  *
849  * Writes 1, 2, or 4 bytes from legacy I/O port space using an arch specific
850  * callback routine (pci_legacy_write).
851  */
852 static ssize_t pci_write_legacy_io(struct file *filp, struct kobject *kobj,
853                                    struct bin_attribute *bin_attr, char *buf,
854                                    loff_t off, size_t count)
855 {
856         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
857                                                       kobj));
858
859         /* Only support 1, 2 or 4 byte accesses */
860         if (count != 1 && count != 2 && count != 4)
861                 return -EINVAL;
862
863         return pci_legacy_write(bus, off, *(u32 *)buf, count);
864 }
865
866 /**
867  * pci_mmap_legacy_mem - map legacy PCI memory into user memory space
868  * @filp: open sysfs file
869  * @kobj: kobject corresponding to device to be mapped
870  * @attr: struct bin_attribute for this file
871  * @vma: struct vm_area_struct passed to mmap
872  *
873  * Uses an arch specific callback, pci_mmap_legacy_mem_page_range, to mmap
874  * legacy memory space (first meg of bus space) into application virtual
875  * memory space.
876  */
877 static int pci_mmap_legacy_mem(struct file *filp, struct kobject *kobj,
878                                struct bin_attribute *attr,
879                                struct vm_area_struct *vma)
880 {
881         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
882                                                       kobj));
883
884         return pci_mmap_legacy_page_range(bus, vma, pci_mmap_mem);
885 }
886
887 /**
888  * pci_mmap_legacy_io - map legacy PCI IO into user memory space
889  * @filp: open sysfs file
890  * @kobj: kobject corresponding to device to be mapped
891  * @attr: struct bin_attribute for this file
892  * @vma: struct vm_area_struct passed to mmap
893  *
894  * Uses an arch specific callback, pci_mmap_legacy_io_page_range, to mmap
895  * legacy IO space (first meg of bus space) into application virtual
896  * memory space. Returns -ENOSYS if the operation isn't supported
897  */
898 static int pci_mmap_legacy_io(struct file *filp, struct kobject *kobj,
899                               struct bin_attribute *attr,
900                               struct vm_area_struct *vma)
901 {
902         struct pci_bus *bus = to_pci_bus(container_of(kobj, struct device,
903                                                       kobj));
904
905         return pci_mmap_legacy_page_range(bus, vma, pci_mmap_io);
906 }
907
908 /**
909  * pci_adjust_legacy_attr - adjustment of legacy file attributes
910  * @b: bus to create files under
911  * @mmap_type: I/O port or memory
912  *
913  * Stub implementation. Can be overridden by arch if necessary.
914  */
915 void __weak pci_adjust_legacy_attr(struct pci_bus *b,
916                                    enum pci_mmap_state mmap_type)
917 {
918 }
919
920 /**
921  * pci_create_legacy_files - create legacy I/O port and memory files
922  * @b: bus to create files under
923  *
924  * Some platforms allow access to legacy I/O port and ISA memory space on
925  * a per-bus basis.  This routine creates the files and ties them into
926  * their associated read, write and mmap files from pci-sysfs.c
927  *
928  * On error unwind, but don't propagate the error to the caller
929  * as it is ok to set up the PCI bus without these files.
930  */
931 void pci_create_legacy_files(struct pci_bus *b)
932 {
933         int error;
934
935         b->legacy_io = kzalloc(sizeof(struct bin_attribute) * 2,
936                                GFP_ATOMIC);
937         if (!b->legacy_io)
938                 goto kzalloc_err;
939
940         sysfs_bin_attr_init(b->legacy_io);
941         b->legacy_io->attr.name = "legacy_io";
942         b->legacy_io->size = 0xffff;
943         b->legacy_io->attr.mode = S_IRUSR | S_IWUSR;
944         b->legacy_io->read = pci_read_legacy_io;
945         b->legacy_io->write = pci_write_legacy_io;
946         b->legacy_io->mmap = pci_mmap_legacy_io;
947         pci_adjust_legacy_attr(b, pci_mmap_io);
948         error = device_create_bin_file(&b->dev, b->legacy_io);
949         if (error)
950                 goto legacy_io_err;
951
952         /* Allocated above after the legacy_io struct */
953         b->legacy_mem = b->legacy_io + 1;
954         sysfs_bin_attr_init(b->legacy_mem);
955         b->legacy_mem->attr.name = "legacy_mem";
956         b->legacy_mem->size = 1024*1024;
957         b->legacy_mem->attr.mode = S_IRUSR | S_IWUSR;
958         b->legacy_mem->mmap = pci_mmap_legacy_mem;
959         pci_adjust_legacy_attr(b, pci_mmap_mem);
960         error = device_create_bin_file(&b->dev, b->legacy_mem);
961         if (error)
962                 goto legacy_mem_err;
963
964         return;
965
966 legacy_mem_err:
967         device_remove_bin_file(&b->dev, b->legacy_io);
968 legacy_io_err:
969         kfree(b->legacy_io);
970         b->legacy_io = NULL;
971 kzalloc_err:
972         printk(KERN_WARNING "pci: warning: could not create legacy I/O port and ISA memory resources to sysfs\n");
973         return;
974 }
975
976 void pci_remove_legacy_files(struct pci_bus *b)
977 {
978         if (b->legacy_io) {
979                 device_remove_bin_file(&b->dev, b->legacy_io);
980                 device_remove_bin_file(&b->dev, b->legacy_mem);
981                 kfree(b->legacy_io); /* both are allocated here */
982         }
983 }
984 #endif /* HAVE_PCI_LEGACY */
985
986 #ifdef HAVE_PCI_MMAP
987
988 int pci_mmap_fits(struct pci_dev *pdev, int resno, struct vm_area_struct *vma,
989                   enum pci_mmap_api mmap_api)
990 {
991         unsigned long nr, start, size, pci_start;
992
993         if (pci_resource_len(pdev, resno) == 0)
994                 return 0;
995         nr = vma_pages(vma);
996         start = vma->vm_pgoff;
997         size = ((pci_resource_len(pdev, resno) - 1) >> PAGE_SHIFT) + 1;
998         pci_start = (mmap_api == PCI_MMAP_PROCFS) ?
999                         pci_resource_start(pdev, resno) >> PAGE_SHIFT : 0;
1000         if (start >= pci_start && start < pci_start + size &&
1001                         start + nr <= pci_start + size)
1002                 return 1;
1003         return 0;
1004 }
1005
1006 /**
1007  * pci_mmap_resource - map a PCI resource into user memory space
1008  * @kobj: kobject for mapping
1009  * @attr: struct bin_attribute for the file being mapped
1010  * @vma: struct vm_area_struct passed into the mmap
1011  * @write_combine: 1 for write_combine mapping
1012  *
1013  * Use the regular PCI mapping routines to map a PCI resource into userspace.
1014  */
1015 static int pci_mmap_resource(struct kobject *kobj, struct bin_attribute *attr,
1016                              struct vm_area_struct *vma, int write_combine)
1017 {
1018         struct pci_dev *pdev = to_pci_dev(container_of(kobj,
1019                                                        struct device, kobj));
1020         struct resource *res = attr->private;
1021         enum pci_mmap_state mmap_type;
1022         resource_size_t start, end;
1023         int i;
1024
1025         for (i = 0; i < PCI_ROM_RESOURCE; i++)
1026                 if (res == &pdev->resource[i])
1027                         break;
1028         if (i >= PCI_ROM_RESOURCE)
1029                 return -ENODEV;
1030
1031         if (!pci_mmap_fits(pdev, i, vma, PCI_MMAP_SYSFS)) {
1032                 WARN(1, "process \"%s\" tried to map 0x%08lx bytes at page 0x%08lx on %s BAR %d (start 0x%16Lx, size 0x%16Lx)\n",
1033                         current->comm, vma->vm_end-vma->vm_start, vma->vm_pgoff,
1034                         pci_name(pdev), i,
1035                         (u64)pci_resource_start(pdev, i),
1036                         (u64)pci_resource_len(pdev, i));
1037                 return -EINVAL;
1038         }
1039
1040         /* pci_mmap_page_range() expects the same kind of entry as coming
1041          * from /proc/bus/pci/ which is a "user visible" value. If this is
1042          * different from the resource itself, arch will do necessary fixup.
1043          */
1044         pci_resource_to_user(pdev, i, res, &start, &end);
1045         vma->vm_pgoff += start >> PAGE_SHIFT;
1046         mmap_type = res->flags & IORESOURCE_MEM ? pci_mmap_mem : pci_mmap_io;
1047
1048         if (res->flags & IORESOURCE_MEM && iomem_is_exclusive(start))
1049                 return -EINVAL;
1050
1051         return pci_mmap_page_range(pdev, vma, mmap_type, write_combine);
1052 }
1053
1054 static int pci_mmap_resource_uc(struct file *filp, struct kobject *kobj,
1055                                 struct bin_attribute *attr,
1056                                 struct vm_area_struct *vma)
1057 {
1058         return pci_mmap_resource(kobj, attr, vma, 0);
1059 }
1060
1061 static int pci_mmap_resource_wc(struct file *filp, struct kobject *kobj,
1062                                 struct bin_attribute *attr,
1063                                 struct vm_area_struct *vma)
1064 {
1065         return pci_mmap_resource(kobj, attr, vma, 1);
1066 }
1067
1068 static ssize_t pci_resource_io(struct file *filp, struct kobject *kobj,
1069                                struct bin_attribute *attr, char *buf,
1070                                loff_t off, size_t count, bool write)
1071 {
1072         struct pci_dev *pdev = to_pci_dev(container_of(kobj,
1073                                                        struct device, kobj));
1074         struct resource *res = attr->private;
1075         unsigned long port = off;
1076         int i;
1077
1078         for (i = 0; i < PCI_ROM_RESOURCE; i++)
1079                 if (res == &pdev->resource[i])
1080                         break;
1081         if (i >= PCI_ROM_RESOURCE)
1082                 return -ENODEV;
1083
1084         port += pci_resource_start(pdev, i);
1085
1086         if (port > pci_resource_end(pdev, i))
1087                 return 0;
1088
1089         if (port + count - 1 > pci_resource_end(pdev, i))
1090                 return -EINVAL;
1091
1092         switch (count) {
1093         case 1:
1094                 if (write)
1095                         outb(*(u8 *)buf, port);
1096                 else
1097                         *(u8 *)buf = inb(port);
1098                 return 1;
1099         case 2:
1100                 if (write)
1101                         outw(*(u16 *)buf, port);
1102                 else
1103                         *(u16 *)buf = inw(port);
1104                 return 2;
1105         case 4:
1106                 if (write)
1107                         outl(*(u32 *)buf, port);
1108                 else
1109                         *(u32 *)buf = inl(port);
1110                 return 4;
1111         }
1112         return -EINVAL;
1113 }
1114
1115 static ssize_t pci_read_resource_io(struct file *filp, struct kobject *kobj,
1116                                     struct bin_attribute *attr, char *buf,
1117                                     loff_t off, size_t count)
1118 {
1119         return pci_resource_io(filp, kobj, attr, buf, off, count, false);
1120 }
1121
1122 static ssize_t pci_write_resource_io(struct file *filp, struct kobject *kobj,
1123                                      struct bin_attribute *attr, char *buf,
1124                                      loff_t off, size_t count)
1125 {
1126         return pci_resource_io(filp, kobj, attr, buf, off, count, true);
1127 }
1128
1129 /**
1130  * pci_remove_resource_files - cleanup resource files
1131  * @pdev: dev to cleanup
1132  *
1133  * If we created resource files for @pdev, remove them from sysfs and
1134  * free their resources.
1135  */
1136 static void pci_remove_resource_files(struct pci_dev *pdev)
1137 {
1138         int i;
1139
1140         for (i = 0; i < PCI_ROM_RESOURCE; i++) {
1141                 struct bin_attribute *res_attr;
1142
1143                 res_attr = pdev->res_attr[i];
1144                 if (res_attr) {
1145                         sysfs_remove_bin_file(&pdev->dev.kobj, res_attr);
1146                         kfree(res_attr);
1147                 }
1148
1149                 res_attr = pdev->res_attr_wc[i];
1150                 if (res_attr) {
1151                         sysfs_remove_bin_file(&pdev->dev.kobj, res_attr);
1152                         kfree(res_attr);
1153                 }
1154         }
1155 }
1156
1157 static int pci_create_attr(struct pci_dev *pdev, int num, int write_combine)
1158 {
1159         /* allocate attribute structure, piggyback attribute name */
1160         int name_len = write_combine ? 13 : 10;
1161         struct bin_attribute *res_attr;
1162         int retval;
1163
1164         res_attr = kzalloc(sizeof(*res_attr) + name_len, GFP_ATOMIC);
1165         if (res_attr) {
1166                 char *res_attr_name = (char *)(res_attr + 1);
1167
1168                 sysfs_bin_attr_init(res_attr);
1169                 if (write_combine) {
1170                         pdev->res_attr_wc[num] = res_attr;
1171                         sprintf(res_attr_name, "resource%d_wc", num);
1172                         res_attr->mmap = pci_mmap_resource_wc;
1173                 } else {
1174                         pdev->res_attr[num] = res_attr;
1175                         sprintf(res_attr_name, "resource%d", num);
1176                         res_attr->mmap = pci_mmap_resource_uc;
1177                 }
1178                 if (pci_resource_flags(pdev, num) & IORESOURCE_IO) {
1179                         res_attr->read = pci_read_resource_io;
1180                         res_attr->write = pci_write_resource_io;
1181                 }
1182                 res_attr->attr.name = res_attr_name;
1183                 res_attr->attr.mode = S_IRUSR | S_IWUSR;
1184                 res_attr->size = pci_resource_len(pdev, num);
1185                 res_attr->private = &pdev->resource[num];
1186                 retval = sysfs_create_bin_file(&pdev->dev.kobj, res_attr);
1187         } else
1188                 retval = -ENOMEM;
1189
1190         return retval;
1191 }
1192
1193 /**
1194  * pci_create_resource_files - create resource files in sysfs for @dev
1195  * @pdev: dev in question
1196  *
1197  * Walk the resources in @pdev creating files for each resource available.
1198  */
1199 static int pci_create_resource_files(struct pci_dev *pdev)
1200 {
1201         int i;
1202         int retval;
1203
1204         /* Expose the PCI resources from this device as files */
1205         for (i = 0; i < PCI_ROM_RESOURCE; i++) {
1206
1207                 /* skip empty resources */
1208                 if (!pci_resource_len(pdev, i))
1209                         continue;
1210
1211                 retval = pci_create_attr(pdev, i, 0);
1212                 /* for prefetchable resources, create a WC mappable file */
1213                 if (!retval && pdev->resource[i].flags & IORESOURCE_PREFETCH)
1214                         retval = pci_create_attr(pdev, i, 1);
1215
1216                 if (retval) {
1217                         pci_remove_resource_files(pdev);
1218                         return retval;
1219                 }
1220         }
1221         return 0;
1222 }
1223 #else /* !HAVE_PCI_MMAP */
1224 int __weak pci_create_resource_files(struct pci_dev *dev) { return 0; }
1225 void __weak pci_remove_resource_files(struct pci_dev *dev) { return; }
1226 #endif /* HAVE_PCI_MMAP */
1227
1228 /**
1229  * pci_write_rom - used to enable access to the PCI ROM display
1230  * @filp: sysfs file
1231  * @kobj: kernel object handle
1232  * @bin_attr: struct bin_attribute for this file
1233  * @buf: user input
1234  * @off: file offset
1235  * @count: number of byte in input
1236  *
1237  * writing anything except 0 enables it
1238  */
1239 static ssize_t pci_write_rom(struct file *filp, struct kobject *kobj,
1240                              struct bin_attribute *bin_attr, char *buf,
1241                              loff_t off, size_t count)
1242 {
1243         struct pci_dev *pdev = to_pci_dev(container_of(kobj, struct device, kobj));
1244
1245         if ((off ==  0) && (*buf == '0') && (count == 2))
1246                 pdev->rom_attr_enabled = 0;
1247         else
1248                 pdev->rom_attr_enabled = 1;
1249
1250         return count;
1251 }
1252
1253 /**
1254  * pci_read_rom - read a PCI ROM
1255  * @filp: sysfs file
1256  * @kobj: kernel object handle
1257  * @bin_attr: struct bin_attribute for this file
1258  * @buf: where to put the data we read from the ROM
1259  * @off: file offset
1260  * @count: number of bytes to read
1261  *
1262  * Put @count bytes starting at @off into @buf from the ROM in the PCI
1263  * device corresponding to @kobj.
1264  */
1265 static ssize_t pci_read_rom(struct file *filp, struct kobject *kobj,
1266                             struct bin_attribute *bin_attr, char *buf,
1267                             loff_t off, size_t count)
1268 {
1269         struct pci_dev *pdev = to_pci_dev(container_of(kobj, struct device, kobj));
1270         void __iomem *rom;
1271         size_t size;
1272
1273         if (!pdev->rom_attr_enabled)
1274                 return -EINVAL;
1275
1276         rom = pci_map_rom(pdev, &size); /* size starts out as PCI window size */
1277         if (!rom || !size)
1278                 return -EIO;
1279
1280         if (off >= size)
1281                 count = 0;
1282         else {
1283                 if (off + count > size)
1284                         count = size - off;
1285
1286                 memcpy_fromio(buf, rom + off, count);
1287         }
1288         pci_unmap_rom(pdev, rom);
1289
1290         return count;
1291 }
1292
1293 static struct bin_attribute pci_config_attr = {
1294         .attr = {
1295                 .name = "config",
1296                 .mode = S_IRUGO | S_IWUSR,
1297         },
1298         .size = PCI_CFG_SPACE_SIZE,
1299         .read = pci_read_config,
1300         .write = pci_write_config,
1301 };
1302
1303 static struct bin_attribute pcie_config_attr = {
1304         .attr = {
1305                 .name = "config",
1306                 .mode = S_IRUGO | S_IWUSR,
1307         },
1308         .size = PCI_CFG_SPACE_EXP_SIZE,
1309         .read = pci_read_config,
1310         .write = pci_write_config,
1311 };
1312
1313 static ssize_t reset_store(struct device *dev, struct device_attribute *attr,
1314                            const char *buf, size_t count)
1315 {
1316         struct pci_dev *pdev = to_pci_dev(dev);
1317         unsigned long val;
1318         ssize_t result = kstrtoul(buf, 0, &val);
1319
1320         if (result < 0)
1321                 return result;
1322
1323         if (val != 1)
1324                 return -EINVAL;
1325
1326         result = pci_reset_function(pdev);
1327         if (result < 0)
1328                 return result;
1329
1330         return count;
1331 }
1332
1333 static struct device_attribute reset_attr = __ATTR(reset, 0200, NULL, reset_store);
1334
1335 static int pci_create_capabilities_sysfs(struct pci_dev *dev)
1336 {
1337         int retval;
1338         struct bin_attribute *attr;
1339
1340         /* If the device has VPD, try to expose it in sysfs. */
1341         if (dev->vpd) {
1342                 attr = kzalloc(sizeof(*attr), GFP_ATOMIC);
1343                 if (!attr)
1344                         return -ENOMEM;
1345
1346                 sysfs_bin_attr_init(attr);
1347                 attr->size = dev->vpd->len;
1348                 attr->attr.name = "vpd";
1349                 attr->attr.mode = S_IRUSR | S_IWUSR;
1350                 attr->read = read_vpd_attr;
1351                 attr->write = write_vpd_attr;
1352                 retval = sysfs_create_bin_file(&dev->dev.kobj, attr);
1353                 if (retval) {
1354                         kfree(attr);
1355                         return retval;
1356                 }
1357                 dev->vpd->attr = attr;
1358         }
1359
1360         /* Active State Power Management */
1361         pcie_aspm_create_sysfs_dev_files(dev);
1362
1363         if (!pci_probe_reset_function(dev)) {
1364                 retval = device_create_file(&dev->dev, &reset_attr);
1365                 if (retval)
1366                         goto error;
1367                 dev->reset_fn = 1;
1368         }
1369         return 0;
1370
1371 error:
1372         pcie_aspm_remove_sysfs_dev_files(dev);
1373         if (dev->vpd && dev->vpd->attr) {
1374                 sysfs_remove_bin_file(&dev->dev.kobj, dev->vpd->attr);
1375                 kfree(dev->vpd->attr);
1376         }
1377
1378         return retval;
1379 }
1380
1381 int __must_check pci_create_sysfs_dev_files(struct pci_dev *pdev)
1382 {
1383         int retval;
1384         int rom_size = 0;
1385         struct bin_attribute *attr;
1386
1387         if (!sysfs_initialized)
1388                 return -EACCES;
1389
1390         if (pdev->cfg_size < PCI_CFG_SPACE_EXP_SIZE)
1391                 retval = sysfs_create_bin_file(&pdev->dev.kobj, &pci_config_attr);
1392         else
1393                 retval = sysfs_create_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1394         if (retval)
1395                 goto err;
1396
1397         retval = pci_create_resource_files(pdev);
1398         if (retval)
1399                 goto err_config_file;
1400
1401         if (pci_resource_len(pdev, PCI_ROM_RESOURCE))
1402                 rom_size = pci_resource_len(pdev, PCI_ROM_RESOURCE);
1403         else if (pdev->resource[PCI_ROM_RESOURCE].flags & IORESOURCE_ROM_SHADOW)
1404                 rom_size = 0x20000;
1405
1406         /* If the device has a ROM, try to expose it in sysfs. */
1407         if (rom_size) {
1408                 attr = kzalloc(sizeof(*attr), GFP_ATOMIC);
1409                 if (!attr) {
1410                         retval = -ENOMEM;
1411                         goto err_resource_files;
1412                 }
1413                 sysfs_bin_attr_init(attr);
1414                 attr->size = rom_size;
1415                 attr->attr.name = "rom";
1416                 attr->attr.mode = S_IRUSR | S_IWUSR;
1417                 attr->read = pci_read_rom;
1418                 attr->write = pci_write_rom;
1419                 retval = sysfs_create_bin_file(&pdev->dev.kobj, attr);
1420                 if (retval) {
1421                         kfree(attr);
1422                         goto err_resource_files;
1423                 }
1424                 pdev->rom_attr = attr;
1425         }
1426
1427         /* add sysfs entries for various capabilities */
1428         retval = pci_create_capabilities_sysfs(pdev);
1429         if (retval)
1430                 goto err_rom_file;
1431
1432         pci_create_firmware_label_files(pdev);
1433
1434         return 0;
1435
1436 err_rom_file:
1437         if (rom_size) {
1438                 sysfs_remove_bin_file(&pdev->dev.kobj, pdev->rom_attr);
1439                 kfree(pdev->rom_attr);
1440                 pdev->rom_attr = NULL;
1441         }
1442 err_resource_files:
1443         pci_remove_resource_files(pdev);
1444 err_config_file:
1445         if (pdev->cfg_size < PCI_CFG_SPACE_EXP_SIZE)
1446                 sysfs_remove_bin_file(&pdev->dev.kobj, &pci_config_attr);
1447         else
1448                 sysfs_remove_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1449 err:
1450         return retval;
1451 }
1452
1453 static void pci_remove_capabilities_sysfs(struct pci_dev *dev)
1454 {
1455         if (dev->vpd && dev->vpd->attr) {
1456                 sysfs_remove_bin_file(&dev->dev.kobj, dev->vpd->attr);
1457                 kfree(dev->vpd->attr);
1458         }
1459
1460         pcie_aspm_remove_sysfs_dev_files(dev);
1461         if (dev->reset_fn) {
1462                 device_remove_file(&dev->dev, &reset_attr);
1463                 dev->reset_fn = 0;
1464         }
1465 }
1466
1467 /**
1468  * pci_remove_sysfs_dev_files - cleanup PCI specific sysfs files
1469  * @pdev: device whose entries we should free
1470  *
1471  * Cleanup when @pdev is removed from sysfs.
1472  */
1473 void pci_remove_sysfs_dev_files(struct pci_dev *pdev)
1474 {
1475         int rom_size = 0;
1476
1477         if (!sysfs_initialized)
1478                 return;
1479
1480         pci_remove_capabilities_sysfs(pdev);
1481
1482         if (pdev->cfg_size < PCI_CFG_SPACE_EXP_SIZE)
1483                 sysfs_remove_bin_file(&pdev->dev.kobj, &pci_config_attr);
1484         else
1485                 sysfs_remove_bin_file(&pdev->dev.kobj, &pcie_config_attr);
1486
1487         pci_remove_resource_files(pdev);
1488
1489         if (pci_resource_len(pdev, PCI_ROM_RESOURCE))
1490                 rom_size = pci_resource_len(pdev, PCI_ROM_RESOURCE);
1491         else if (pdev->resource[PCI_ROM_RESOURCE].flags & IORESOURCE_ROM_SHADOW)
1492                 rom_size = 0x20000;
1493
1494         if (rom_size && pdev->rom_attr) {
1495                 sysfs_remove_bin_file(&pdev->dev.kobj, pdev->rom_attr);
1496                 kfree(pdev->rom_attr);
1497         }
1498
1499         pci_remove_firmware_label_files(pdev);
1500
1501 }
1502
1503 static int __init pci_sysfs_init(void)
1504 {
1505         struct pci_dev *pdev = NULL;
1506         int retval;
1507
1508         sysfs_initialized = 1;
1509         for_each_pci_dev(pdev) {
1510                 retval = pci_create_sysfs_dev_files(pdev);
1511                 if (retval) {
1512                         pci_dev_put(pdev);
1513                         return retval;
1514                 }
1515         }
1516
1517         return 0;
1518 }
1519 late_initcall(pci_sysfs_init);
1520
1521 static struct attribute *pci_dev_dev_attrs[] = {
1522         &vga_attr.attr,
1523         NULL,
1524 };
1525
1526 static umode_t pci_dev_attrs_are_visible(struct kobject *kobj,
1527                                          struct attribute *a, int n)
1528 {
1529         struct device *dev = container_of(kobj, struct device, kobj);
1530         struct pci_dev *pdev = to_pci_dev(dev);
1531
1532         if (a == &vga_attr.attr)
1533                 if ((pdev->class >> 8) != PCI_CLASS_DISPLAY_VGA)
1534                         return 0;
1535
1536         return a->mode;
1537 }
1538
1539 static struct attribute *pci_dev_hp_attrs[] = {
1540         &dev_remove_attr.attr,
1541         &dev_rescan_attr.attr,
1542         NULL,
1543 };
1544
1545 static umode_t pci_dev_hp_attrs_are_visible(struct kobject *kobj,
1546                                             struct attribute *a, int n)
1547 {
1548         struct device *dev = container_of(kobj, struct device, kobj);
1549         struct pci_dev *pdev = to_pci_dev(dev);
1550
1551         if (pdev->is_virtfn)
1552                 return 0;
1553
1554         return a->mode;
1555 }
1556
1557 static struct attribute_group pci_dev_hp_attr_group = {
1558         .attrs = pci_dev_hp_attrs,
1559         .is_visible = pci_dev_hp_attrs_are_visible,
1560 };
1561
1562 #ifdef CONFIG_PCI_IOV
1563 static struct attribute *sriov_dev_attrs[] = {
1564         &sriov_totalvfs_attr.attr,
1565         &sriov_numvfs_attr.attr,
1566         NULL,
1567 };
1568
1569 static umode_t sriov_attrs_are_visible(struct kobject *kobj,
1570                                        struct attribute *a, int n)
1571 {
1572         struct device *dev = container_of(kobj, struct device, kobj);
1573
1574         if (!dev_is_pf(dev))
1575                 return 0;
1576
1577         return a->mode;
1578 }
1579
1580 static struct attribute_group sriov_dev_attr_group = {
1581         .attrs = sriov_dev_attrs,
1582         .is_visible = sriov_attrs_are_visible,
1583 };
1584 #endif /* CONFIG_PCI_IOV */
1585
1586 static struct attribute_group pci_dev_attr_group = {
1587         .attrs = pci_dev_dev_attrs,
1588         .is_visible = pci_dev_attrs_are_visible,
1589 };
1590
1591 static const struct attribute_group *pci_dev_attr_groups[] = {
1592         &pci_dev_attr_group,
1593         &pci_dev_hp_attr_group,
1594 #ifdef CONFIG_PCI_IOV
1595         &sriov_dev_attr_group,
1596 #endif
1597         NULL,
1598 };
1599
1600 struct device_type pci_dev_type = {
1601         .groups = pci_dev_attr_groups,
1602 };