powerpc/MSI: Fix race condition in tearing down MSI interrupts
[firefly-linux-kernel-4.4.55.git] / arch / powerpc / sysdev / ppc4xx_msi.c
1 /*
2  * Adding PCI-E MSI support for PPC4XX SoCs.
3  *
4  * Copyright (c) 2010, Applied Micro Circuits Corporation
5  * Authors:     Tirumala R Marri <tmarri@apm.com>
6  *              Feng Kan <fkan@apm.com>
7  *
8  * This program is free software; you can redistribute it and/or
9  * modify it under the terms of the GNU General Public License as
10  * published by the Free Software Foundation; either version 2 of
11  * the License, or (at your option) any later version.
12  *
13  * This program is distributed in the hope that it will be useful,
14  * but WITHOUT ANY WARRANTY; without even the implied warranty of
15  * MERCHANTABILITY or FITNESS FOR A PARTICULAR PURPOSE.  See the
16  * GNU General Public License for more details.
17  *
18  * You should have received a copy of the GNU General Public License
19  * along with this program; if not, write to the Free Software
20  * Foundation, Inc., 59 Temple Place, Suite 330, Boston,
21  * MA 02111-1307 USA
22  */
23
24 #include <linux/irq.h>
25 #include <linux/bootmem.h>
26 #include <linux/pci.h>
27 #include <linux/msi.h>
28 #include <linux/of_platform.h>
29 #include <linux/interrupt.h>
30 #include <linux/export.h>
31 #include <linux/kernel.h>
32 #include <asm/prom.h>
33 #include <asm/hw_irq.h>
34 #include <asm/ppc-pci.h>
35 #include <asm/dcr.h>
36 #include <asm/dcr-regs.h>
37 #include <asm/msi_bitmap.h>
38
39 #define PEIH_TERMADH    0x00
40 #define PEIH_TERMADL    0x08
41 #define PEIH_MSIED      0x10
42 #define PEIH_MSIMK      0x18
43 #define PEIH_MSIASS     0x20
44 #define PEIH_FLUSH0     0x30
45 #define PEIH_FLUSH1     0x38
46 #define PEIH_CNTRST     0x48
47
48 static int msi_irqs;
49
50 struct ppc4xx_msi {
51         u32 msi_addr_lo;
52         u32 msi_addr_hi;
53         void __iomem *msi_regs;
54         int *msi_virqs;
55         struct msi_bitmap bitmap;
56         struct device_node *msi_dev;
57 };
58
59 static struct ppc4xx_msi ppc4xx_msi;
60
61 static int ppc4xx_msi_init_allocator(struct platform_device *dev,
62                 struct ppc4xx_msi *msi_data)
63 {
64         int err;
65
66         err = msi_bitmap_alloc(&msi_data->bitmap, msi_irqs,
67                               dev->dev.of_node);
68         if (err)
69                 return err;
70
71         err = msi_bitmap_reserve_dt_hwirqs(&msi_data->bitmap);
72         if (err < 0) {
73                 msi_bitmap_free(&msi_data->bitmap);
74                 return err;
75         }
76
77         return 0;
78 }
79
80 static int ppc4xx_setup_msi_irqs(struct pci_dev *dev, int nvec, int type)
81 {
82         int int_no = -ENOMEM;
83         unsigned int virq;
84         struct msi_msg msg;
85         struct msi_desc *entry;
86         struct ppc4xx_msi *msi_data = &ppc4xx_msi;
87
88         msi_data->msi_virqs = kmalloc((msi_irqs) * sizeof(int),
89                                             GFP_KERNEL);
90         if (!msi_data->msi_virqs)
91                 return -ENOMEM;
92
93         list_for_each_entry(entry, &dev->msi_list, list) {
94                 int_no = msi_bitmap_alloc_hwirqs(&msi_data->bitmap, 1);
95                 if (int_no >= 0)
96                         break;
97                 if (int_no < 0) {
98                         pr_debug("%s: fail allocating msi interrupt\n",
99                                         __func__);
100                 }
101                 virq = irq_of_parse_and_map(msi_data->msi_dev, int_no);
102                 if (virq == NO_IRQ) {
103                         dev_err(&dev->dev, "%s: fail mapping irq\n", __func__);
104                         msi_bitmap_free_hwirqs(&msi_data->bitmap, int_no, 1);
105                         return -ENOSPC;
106                 }
107                 dev_dbg(&dev->dev, "%s: virq = %d\n", __func__, virq);
108
109                 /* Setup msi address space */
110                 msg.address_hi = msi_data->msi_addr_hi;
111                 msg.address_lo = msi_data->msi_addr_lo;
112
113                 irq_set_msi_desc(virq, entry);
114                 msg.data = int_no;
115                 write_msi_msg(virq, &msg);
116         }
117         return 0;
118 }
119
120 void ppc4xx_teardown_msi_irqs(struct pci_dev *dev)
121 {
122         struct msi_desc *entry;
123         struct ppc4xx_msi *msi_data = &ppc4xx_msi;
124         irq_hw_number_t hwirq;
125
126         dev_dbg(&dev->dev, "PCIE-MSI: tearing down msi irqs\n");
127
128         list_for_each_entry(entry, &dev->msi_list, list) {
129                 if (entry->irq == NO_IRQ)
130                         continue;
131                 hwirq = virq_to_hw(entry->irq);
132                 irq_set_msi_desc(entry->irq, NULL);
133                 irq_dispose_mapping(entry->irq);
134                 msi_bitmap_free_hwirqs(&msi_data->bitmap, hwirq, 1);
135         }
136 }
137
138 static int ppc4xx_msi_check_device(struct pci_dev *pdev, int nvec, int type)
139 {
140         dev_dbg(&pdev->dev, "PCIE-MSI:%s called. vec %x type %d\n",
141                 __func__, nvec, type);
142         if (type == PCI_CAP_ID_MSIX)
143                 pr_debug("ppc4xx msi: MSI-X untested, trying anyway.\n");
144
145         return 0;
146 }
147
148 static int ppc4xx_setup_pcieh_hw(struct platform_device *dev,
149                                  struct resource res, struct ppc4xx_msi *msi)
150 {
151         const u32 *msi_data;
152         const u32 *msi_mask;
153         const u32 *sdr_addr;
154         dma_addr_t msi_phys;
155         void *msi_virt;
156
157         sdr_addr = of_get_property(dev->dev.of_node, "sdr-base", NULL);
158         if (!sdr_addr)
159                 return -1;
160
161         mtdcri(SDR0, *sdr_addr, upper_32_bits(res.start));      /*HIGH addr */
162         mtdcri(SDR0, *sdr_addr + 1, lower_32_bits(res.start));  /* Low addr */
163
164         msi->msi_dev = of_find_node_by_name(NULL, "ppc4xx-msi");
165         if (!msi->msi_dev)
166                 return -ENODEV;
167
168         msi->msi_regs = of_iomap(msi->msi_dev, 0);
169         if (!msi->msi_regs) {
170                 dev_err(&dev->dev, "of_iomap problem failed\n");
171                 return -ENOMEM;
172         }
173         dev_dbg(&dev->dev, "PCIE-MSI: msi register mapped 0x%x 0x%x\n",
174                 (u32) (msi->msi_regs + PEIH_TERMADH), (u32) (msi->msi_regs));
175
176         msi_virt = dma_alloc_coherent(&dev->dev, 64, &msi_phys, GFP_KERNEL);
177         if (!msi_virt)
178                 return -ENOMEM;
179         msi->msi_addr_hi = upper_32_bits(msi_phys);
180         msi->msi_addr_lo = lower_32_bits(msi_phys & 0xffffffff);
181         dev_dbg(&dev->dev, "PCIE-MSI: msi address high 0x%x, low 0x%x\n",
182                 msi->msi_addr_hi, msi->msi_addr_lo);
183
184         /* Progam the Interrupt handler Termination addr registers */
185         out_be32(msi->msi_regs + PEIH_TERMADH, msi->msi_addr_hi);
186         out_be32(msi->msi_regs + PEIH_TERMADL, msi->msi_addr_lo);
187
188         msi_data = of_get_property(dev->dev.of_node, "msi-data", NULL);
189         if (!msi_data)
190                 return -1;
191         msi_mask = of_get_property(dev->dev.of_node, "msi-mask", NULL);
192         if (!msi_mask)
193                 return -1;
194         /* Program MSI Expected data and Mask bits */
195         out_be32(msi->msi_regs + PEIH_MSIED, *msi_data);
196         out_be32(msi->msi_regs + PEIH_MSIMK, *msi_mask);
197
198         dma_free_coherent(&dev->dev, 64, msi_virt, msi_phys);
199
200         return 0;
201 }
202
203 static int ppc4xx_of_msi_remove(struct platform_device *dev)
204 {
205         struct ppc4xx_msi *msi = dev->dev.platform_data;
206         int i;
207         int virq;
208
209         for (i = 0; i < msi_irqs; i++) {
210                 virq = msi->msi_virqs[i];
211                 if (virq != NO_IRQ)
212                         irq_dispose_mapping(virq);
213         }
214
215         if (msi->bitmap.bitmap)
216                 msi_bitmap_free(&msi->bitmap);
217         iounmap(msi->msi_regs);
218         of_node_put(msi->msi_dev);
219         kfree(msi);
220
221         return 0;
222 }
223
224 static int ppc4xx_msi_probe(struct platform_device *dev)
225 {
226         struct ppc4xx_msi *msi;
227         struct resource res;
228         int err = 0;
229
230         dev_dbg(&dev->dev, "PCIE-MSI: Setting up MSI support...\n");
231
232         msi = kzalloc(sizeof(struct ppc4xx_msi), GFP_KERNEL);
233         if (!msi) {
234                 dev_err(&dev->dev, "No memory for MSI structure\n");
235                 return -ENOMEM;
236         }
237         dev->dev.platform_data = msi;
238
239         /* Get MSI ranges */
240         err = of_address_to_resource(dev->dev.of_node, 0, &res);
241         if (err) {
242                 dev_err(&dev->dev, "%s resource error!\n",
243                         dev->dev.of_node->full_name);
244                 goto error_out;
245         }
246
247         msi_irqs = of_irq_count(dev->dev.of_node);
248         if (!msi_irqs)
249                 return -ENODEV;
250
251         if (ppc4xx_setup_pcieh_hw(dev, res, msi))
252                 goto error_out;
253
254         err = ppc4xx_msi_init_allocator(dev, msi);
255         if (err) {
256                 dev_err(&dev->dev, "Error allocating MSI bitmap\n");
257                 goto error_out;
258         }
259         ppc4xx_msi = *msi;
260
261         ppc_md.setup_msi_irqs = ppc4xx_setup_msi_irqs;
262         ppc_md.teardown_msi_irqs = ppc4xx_teardown_msi_irqs;
263         ppc_md.msi_check_device = ppc4xx_msi_check_device;
264         return err;
265
266 error_out:
267         ppc4xx_of_msi_remove(dev);
268         return err;
269 }
270 static const struct of_device_id ppc4xx_msi_ids[] = {
271         {
272                 .compatible = "amcc,ppc4xx-msi",
273         },
274         {}
275 };
276 static struct platform_driver ppc4xx_msi_driver = {
277         .probe = ppc4xx_msi_probe,
278         .remove = ppc4xx_of_msi_remove,
279         .driver = {
280                    .name = "ppc4xx-msi",
281                    .owner = THIS_MODULE,
282                    .of_match_table = ppc4xx_msi_ids,
283                    },
284
285 };
286
287 static __init int ppc4xx_msi_init(void)
288 {
289         return platform_driver_register(&ppc4xx_msi_driver);
290 }
291
292 subsys_initcall(ppc4xx_msi_init);