net/core/ethtool.c

   1 /*
   2  * net/core/ethtool.c - Ethtool ioctl handler
   3  * Copyright (c) 2003 Matthew Wilcox <matthew@wil.cx>
   4  *
   5  * This file is where we call all the ethtool_ops commands to get
   6  * the information ethtool needs.
   7  *
   8  * This program is free software; you can redistribute it and/or modify
   9  * it under the terms of the GNU General Public License as published by
  10  * the Free Software Foundation; either version 2 of the License, or
  11  * (at your option) any later version.
  12  */
  13
  14 #include <linux/module.h>
  15 #include <linux/types.h>
  16 #include <linux/capability.h>
  17 #include <linux/errno.h>
  18 #include <linux/ethtool.h>
  19 #include <linux/netdevice.h>
  20 #include <linux/net_tstamp.h>
  21 #include <linux/phy.h>
  22 #include <linux/bitops.h>
  23 #include <linux/uaccess.h>
  24 #include <linux/vmalloc.h>
  25 #include <linux/slab.h>
  26 #include <linux/rtnetlink.h>
  27 #include <linux/sched.h>
  28
  29 /*
  30  * Some useful ethtool_ops methods that're device independent.
  31  * If we find that all drivers want to do the same thing here,
  32  * we can turn these into dev_() function calls.
  33  */
  34
  35 u32 ethtool_op_get_link(struct net_device *dev)
  36 {
  37         return netif_carrier_ok(dev) ? 1 : 0;
  38 }
  39 EXPORT_SYMBOL(ethtool_op_get_link);
  40
  41 int ethtool_op_get_ts_info(struct net_device *dev, struct ethtool_ts_info *info)
  42 {
  43         info->so_timestamping =
  44                 SOF_TIMESTAMPING_TX_SOFTWARE |
  45                 SOF_TIMESTAMPING_RX_SOFTWARE |
  46                 SOF_TIMESTAMPING_SOFTWARE;
  47         info->phc_index = -1;
  48         return 0;
  49 }
  50 EXPORT_SYMBOL(ethtool_op_get_ts_info);
  51
  52 /* Handlers for each ethtool command */
  53
  54 #define ETHTOOL_DEV_FEATURE_WORDS       ((NETDEV_FEATURE_COUNT + 31) / 32)
  55
  56 static const char netdev_features_strings[NETDEV_FEATURE_COUNT][ETH_GSTRING_LEN] = {
  57         [NETIF_F_SG_BIT] =               "tx-scatter-gather",
  58         [NETIF_F_IP_CSUM_BIT] =          "tx-checksum-ipv4",
  59         [NETIF_F_HW_CSUM_BIT] =          "tx-checksum-ip-generic",
  60         [NETIF_F_IPV6_CSUM_BIT] =        "tx-checksum-ipv6",
  61         [NETIF_F_HIGHDMA_BIT] =          "highdma",
  62         [NETIF_F_FRAGLIST_BIT] =         "tx-scatter-gather-fraglist",
  63         [NETIF_F_HW_VLAN_TX_BIT] =       "tx-vlan-hw-insert",
  64
  65         [NETIF_F_HW_VLAN_RX_BIT] =       "rx-vlan-hw-parse",
  66         [NETIF_F_HW_VLAN_FILTER_BIT] =   "rx-vlan-filter",
  67         [NETIF_F_VLAN_CHALLENGED_BIT] =  "vlan-challenged",
  68         [NETIF_F_GSO_BIT] =              "tx-generic-segmentation",
  69         [NETIF_F_LLTX_BIT] =             "tx-lockless",
  70         [NETIF_F_NETNS_LOCAL_BIT] =      "netns-local",
  71         [NETIF_F_GRO_BIT] =              "rx-gro",
  72         [NETIF_F_LRO_BIT] =              "rx-lro",
  73
  74         [NETIF_F_TSO_BIT] =              "tx-tcp-segmentation",
  75         [NETIF_F_UFO_BIT] =              "tx-udp-fragmentation",
  76         [NETIF_F_GSO_ROBUST_BIT] =       "tx-gso-robust",
  77         [NETIF_F_TSO_ECN_BIT] =          "tx-tcp-ecn-segmentation",
  78         [NETIF_F_TSO6_BIT] =             "tx-tcp6-segmentation",
  79         [NETIF_F_FSO_BIT] =              "tx-fcoe-segmentation",
  80
  81         [NETIF_F_FCOE_CRC_BIT] =         "tx-checksum-fcoe-crc",
  82         [NETIF_F_SCTP_CSUM_BIT] =        "tx-checksum-sctp",
  83         [NETIF_F_FCOE_MTU_BIT] =         "fcoe-mtu",
  84         [NETIF_F_NTUPLE_BIT] =           "rx-ntuple-filter",
  85         [NETIF_F_RXHASH_BIT] =           "rx-hashing",
  86         [NETIF_F_RXCSUM_BIT] =           "rx-checksum",
  87         [NETIF_F_NOCACHE_COPY_BIT] =     "tx-nocache-copy",
  88         [NETIF_F_LOOPBACK_BIT] =         "loopback",
  89         [NETIF_F_RXFCS_BIT] =            "rx-fcs",
  90         [NETIF_F_RXALL_BIT] =            "rx-all",
  91 };
  92
  93 static int ethtool_get_features(struct net_device *dev, void __user *useraddr)
  94 {
  95         struct ethtool_gfeatures cmd = {
  96                 .cmd = ETHTOOL_GFEATURES,
  97                 .size = ETHTOOL_DEV_FEATURE_WORDS,
  98         };
  99         struct ethtool_get_features_block features[ETHTOOL_DEV_FEATURE_WORDS];
 100         u32 __user *sizeaddr;
 101         u32 copy_size;
 102         int i;
 103
 104         /* in case feature bits run out again */
 105         BUILD_BUG_ON(ETHTOOL_DEV_FEATURE_WORDS * sizeof(u32) > sizeof(netdev_features_t));
 106
 107         for (i = 0; i < ETHTOOL_DEV_FEATURE_WORDS; ++i) {
 108                 features[i].available = (u32)(dev->hw_features >> (32 * i));
 109                 features[i].requested = (u32)(dev->wanted_features >> (32 * i));
 110                 features[i].active = (u32)(dev->features >> (32 * i));
 111                 features[i].never_changed =
 112                         (u32)(NETIF_F_NEVER_CHANGE >> (32 * i));
 113         }
 114
 115         sizeaddr = useraddr + offsetof(struct ethtool_gfeatures, size);
 116         if (get_user(copy_size, sizeaddr))
 117                 return -EFAULT;
 118
 119         if (copy_size > ETHTOOL_DEV_FEATURE_WORDS)
 120                 copy_size = ETHTOOL_DEV_FEATURE_WORDS;
 121
 122         if (copy_to_user(useraddr, &cmd, sizeof(cmd)))
 123                 return -EFAULT;
 124         useraddr += sizeof(cmd);
 125         if (copy_to_user(useraddr, features, copy_size * sizeof(*features)))
 126                 return -EFAULT;
 127
 128         return 0;
 129 }
 130
 131 static int ethtool_set_features(struct net_device *dev, void __user *useraddr)
 132 {
 133         struct ethtool_sfeatures cmd;
 134         struct ethtool_set_features_block features[ETHTOOL_DEV_FEATURE_WORDS];
 135         netdev_features_t wanted = 0, valid = 0;
 136         int i, ret = 0;
 137
 138         if (copy_from_user(&cmd, useraddr, sizeof(cmd)))
 139                 return -EFAULT;
 140         useraddr += sizeof(cmd);
 141
 142         if (cmd.size != ETHTOOL_DEV_FEATURE_WORDS)
 143                 return -EINVAL;
 144
 145         if (copy_from_user(features, useraddr, sizeof(features)))
 146                 return -EFAULT;
 147
 148         for (i = 0; i < ETHTOOL_DEV_FEATURE_WORDS; ++i) {
 149                 valid |= (netdev_features_t)features[i].valid << (32 * i);
 150                 wanted |= (netdev_features_t)features[i].requested << (32 * i);
 151         }
 152
 153         if (valid & ~NETIF_F_ETHTOOL_BITS)
 154                 return -EINVAL;
 155
 156         if (valid & ~dev->hw_features) {
 157                 valid &= dev->hw_features;
 158                 ret |= ETHTOOL_F_UNSUPPORTED;
 159         }
 160
 161         dev->wanted_features &= ~valid;
 162         dev->wanted_features |= wanted & valid;
 163         __netdev_update_features(dev);
 164
 165         if ((dev->wanted_features ^ dev->features) & valid)
 166                 ret |= ETHTOOL_F_WISH;
 167
 168         return ret;
 169 }
 170
 171 static int __ethtool_get_sset_count(struct net_device *dev, int sset)
 172 {
 173         const struct ethtool_ops *ops = dev->ethtool_ops;
 174
 175         if (sset == ETH_SS_FEATURES)
 176                 return ARRAY_SIZE(netdev_features_strings);
 177
 178         if (ops->get_sset_count && ops->get_strings)
 179                 return ops->get_sset_count(dev, sset);
 180         else
 181                 return -EOPNOTSUPP;
 182 }
 183
 184 static void __ethtool_get_strings(struct net_device *dev,
 185         u32 stringset, u8 *data)
 186 {
 187         const struct ethtool_ops *ops = dev->ethtool_ops;
 188
 189         if (stringset == ETH_SS_FEATURES)
 190                 memcpy(data, netdev_features_strings,
 191                         sizeof(netdev_features_strings));
 192         else
 193                 /* ops->get_strings is valid because checked earlier */
 194                 ops->get_strings(dev, stringset, data);
 195 }
 196
 197 static netdev_features_t ethtool_get_feature_mask(u32 eth_cmd)
 198 {
 199         /* feature masks of legacy discrete ethtool ops */
 200
 201         switch (eth_cmd) {
 202         case ETHTOOL_GTXCSUM:
 203         case ETHTOOL_STXCSUM:
 204                 return NETIF_F_ALL_CSUM | NETIF_F_SCTP_CSUM;
 205         case ETHTOOL_GRXCSUM:
 206         case ETHTOOL_SRXCSUM:
 207                 return NETIF_F_RXCSUM;
 208         case ETHTOOL_GSG:
 209         case ETHTOOL_SSG:
 210                 return NETIF_F_SG;
 211         case ETHTOOL_GTSO:
 212         case ETHTOOL_STSO:
 213                 return NETIF_F_ALL_TSO;
 214         case ETHTOOL_GUFO:
 215         case ETHTOOL_SUFO:
 216                 return NETIF_F_UFO;
 217         case ETHTOOL_GGSO:
 218         case ETHTOOL_SGSO:
 219                 return NETIF_F_GSO;
 220         case ETHTOOL_GGRO:
 221         case ETHTOOL_SGRO:
 222                 return NETIF_F_GRO;
 223         default:
 224                 BUG();
 225         }
 226 }
 227
 228 static int ethtool_get_one_feature(struct net_device *dev,
 229         char __user *useraddr, u32 ethcmd)
 230 {
 231         netdev_features_t mask = ethtool_get_feature_mask(ethcmd);
 232         struct ethtool_value edata = {
 233                 .cmd = ethcmd,
 234                 .data = !!(dev->features & mask),
 235         };
 236
 237         if (copy_to_user(useraddr, &edata, sizeof(edata)))
 238                 return -EFAULT;
 239         return 0;
 240 }
 241
 242 static int ethtool_set_one_feature(struct net_device *dev,
 243         void __user *useraddr, u32 ethcmd)
 244 {
 245         struct ethtool_value edata;
 246         netdev_features_t mask;
 247
 248         if (copy_from_user(&edata, useraddr, sizeof(edata)))
 249                 return -EFAULT;
 250
 251         mask = ethtool_get_feature_mask(ethcmd);
 252         mask &= dev->hw_features;
 253         if (!mask)
 254                 return -EOPNOTSUPP;
 255
 256         if (edata.data)
 257                 dev->wanted_features |= mask;
 258         else
 259                 dev->wanted_features &= ~mask;
 260
 261         __netdev_update_features(dev);
 262
 263         return 0;
 264 }
 265
 266 #define ETH_ALL_FLAGS    (ETH_FLAG_LRO | ETH_FLAG_RXVLAN | ETH_FLAG_TXVLAN | \
 267                           ETH_FLAG_NTUPLE | ETH_FLAG_RXHASH)
 268 #define ETH_ALL_FEATURES (NETIF_F_LRO | NETIF_F_HW_VLAN_RX | \
 269                           NETIF_F_HW_VLAN_TX | NETIF_F_NTUPLE | NETIF_F_RXHASH)
 270
 271 static u32 __ethtool_get_flags(struct net_device *dev)
 272 {
 273         u32 flags = 0;
 274
 275         if (dev->features & NETIF_F_LRO)        flags |= ETH_FLAG_LRO;
 276         if (dev->features & NETIF_F_HW_VLAN_RX) flags |= ETH_FLAG_RXVLAN;
 277         if (dev->features & NETIF_F_HW_VLAN_TX) flags |= ETH_FLAG_TXVLAN;
 278         if (dev->features & NETIF_F_NTUPLE)     flags |= ETH_FLAG_NTUPLE;
 279         if (dev->features & NETIF_F_RXHASH)     flags |= ETH_FLAG_RXHASH;
 280
 281         return flags;
 282 }
 283
 284 static int __ethtool_set_flags(struct net_device *dev, u32 data)
 285 {
 286         netdev_features_t features = 0, changed;
 287
 288         if (data & ~ETH_ALL_FLAGS)
 289                 return -EINVAL;
 290
 291         if (data & ETH_FLAG_LRO)        features |= NETIF_F_LRO;
 292         if (data & ETH_FLAG_RXVLAN)     features |= NETIF_F_HW_VLAN_RX;
 293         if (data & ETH_FLAG_TXVLAN)     features |= NETIF_F_HW_VLAN_TX;
 294         if (data & ETH_FLAG_NTUPLE)     features |= NETIF_F_NTUPLE;
 295         if (data & ETH_FLAG_RXHASH)     features |= NETIF_F_RXHASH;
 296
 297         /* allow changing only bits set in hw_features */
 298         changed = (features ^ dev->features) & ETH_ALL_FEATURES;
 299         if (changed & ~dev->hw_features)
 300                 return (changed & dev->hw_features) ? -EINVAL : -EOPNOTSUPP;
 301
 302         dev->wanted_features =
 303                 (dev->wanted_features & ~changed) | (features & changed);
 304
 305         __netdev_update_features(dev);
 306
 307         return 0;
 308 }
 309
 310 int __ethtool_get_settings(struct net_device *dev, struct ethtool_cmd *cmd)
 311 {
 312         ASSERT_RTNL();
 313
 314         if (!dev->ethtool_ops->get_settings)
 315                 return -EOPNOTSUPP;
 316
 317         memset(cmd, 0, sizeof(struct ethtool_cmd));
 318         cmd->cmd = ETHTOOL_GSET;
 319         return dev->ethtool_ops->get_settings(dev, cmd);
 320 }
 321 EXPORT_SYMBOL(__ethtool_get_settings);
 322
 323 static int ethtool_get_settings(struct net_device *dev, void __user *useraddr)
 324 {
 325         int err;
 326         struct ethtool_cmd cmd;
 327
 328         err = __ethtool_get_settings(dev, &cmd);
 329         if (err < 0)
 330                 return err;
 331
 332         if (copy_to_user(useraddr, &cmd, sizeof(cmd)))
 333                 return -EFAULT;
 334         return 0;
 335 }
 336
 337 static int ethtool_set_settings(struct net_device *dev, void __user *useraddr)
 338 {
 339         struct ethtool_cmd cmd;
 340
 341         if (!dev->ethtool_ops->set_settings)
 342                 return -EOPNOTSUPP;
 343
 344         if (copy_from_user(&cmd, useraddr, sizeof(cmd)))
 345                 return -EFAULT;
 346
 347         return dev->ethtool_ops->set_settings(dev, &cmd);
 348 }
 349
 350 static noinline_for_stack int ethtool_get_drvinfo(struct net_device *dev,
 351                                                   void __user *useraddr)
 352 {
 353         struct ethtool_drvinfo info;
 354         const struct ethtool_ops *ops = dev->ethtool_ops;
 355
 356         memset(&info, 0, sizeof(info));
 357         info.cmd = ETHTOOL_GDRVINFO;
 358         if (ops->get_drvinfo) {
 359                 ops->get_drvinfo(dev, &info);
 360         } else if (dev->dev.parent && dev->dev.parent->driver) {
 361                 strlcpy(info.bus_info, dev_name(dev->dev.parent),
 362                         sizeof(info.bus_info));
 363                 strlcpy(info.driver, dev->dev.parent->driver->name,
 364                         sizeof(info.driver));
 365         } else {
 366                 return -EOPNOTSUPP;
 367         }
 368
 369         /*
 370          * this method of obtaining string set info is deprecated;
 371          * Use ETHTOOL_GSSET_INFO instead.
 372          */
 373         if (ops->get_sset_count) {
 374                 int rc;
 375
 376                 rc = ops->get_sset_count(dev, ETH_SS_TEST);
 377                 if (rc >= 0)
 378                         info.testinfo_len = rc;
 379                 rc = ops->get_sset_count(dev, ETH_SS_STATS);
 380                 if (rc >= 0)
 381                         info.n_stats = rc;
 382                 rc = ops->get_sset_count(dev, ETH_SS_PRIV_FLAGS);
 383                 if (rc >= 0)
 384                         info.n_priv_flags = rc;
 385         }
 386         if (ops->get_regs_len)
 387                 info.regdump_len = ops->get_regs_len(dev);
 388         if (ops->get_eeprom_len)
 389                 info.eedump_len = ops->get_eeprom_len(dev);
 390
 391         if (copy_to_user(useraddr, &info, sizeof(info)))
 392                 return -EFAULT;
 393         return 0;
 394 }
 395
 396 static noinline_for_stack int ethtool_get_sset_info(struct net_device *dev,
 397                                                     void __user *useraddr)
 398 {
 399         struct ethtool_sset_info info;
 400         u64 sset_mask;
 401         int i, idx = 0, n_bits = 0, ret, rc;
 402         u32 *info_buf = NULL;
 403
 404         if (copy_from_user(&info, useraddr, sizeof(info)))
 405                 return -EFAULT;
 406
 407         /* store copy of mask, because we zero struct later on */
 408         sset_mask = info.sset_mask;
 409         if (!sset_mask)
 410                 return 0;
 411
 412         /* calculate size of return buffer */
 413         n_bits = hweight64(sset_mask);
 414
 415         memset(&info, 0, sizeof(info));
 416         info.cmd = ETHTOOL_GSSET_INFO;
 417
 418         info_buf = kzalloc(n_bits * sizeof(u32), GFP_USER);
 419         if (!info_buf)
 420                 return -ENOMEM;
 421
 422         /*
 423          * fill return buffer based on input bitmask and successful
 424          * get_sset_count return
 425          */
 426         for (i = 0; i < 64; i++) {
 427                 if (!(sset_mask & (1ULL << i)))
 428                         continue;
 429
 430                 rc = __ethtool_get_sset_count(dev, i);
 431                 if (rc >= 0) {
 432                         info.sset_mask |= (1ULL << i);
 433                         info_buf[idx++] = rc;
 434                 }
 435         }
 436
 437         ret = -EFAULT;
 438         if (copy_to_user(useraddr, &info, sizeof(info)))
 439                 goto out;
 440
 441         useraddr += offsetof(struct ethtool_sset_info, data);
 442         if (copy_to_user(useraddr, info_buf, idx * sizeof(u32)))
 443                 goto out;
 444
 445         ret = 0;
 446
 447 out:
 448         kfree(info_buf);
 449         return ret;
 450 }
 451
 452 static noinline_for_stack int ethtool_set_rxnfc(struct net_device *dev,
 453                                                 u32 cmd, void __user *useraddr)
 454 {
 455         struct ethtool_rxnfc info;
 456         size_t info_size = sizeof(info);
 457         int rc;
 458
 459         if (!dev->ethtool_ops->set_rxnfc)
 460                 return -EOPNOTSUPP;
 461
 462         /* struct ethtool_rxnfc was originally defined for
 463          * ETHTOOL_{G,S}RXFH with only the cmd, flow_type and data
 464          * members.  User-space might still be using that
 465          * definition. */
 466         if (cmd == ETHTOOL_SRXFH)
 467                 info_size = (offsetof(struct ethtool_rxnfc, data) +
 468                              sizeof(info.data));
 469
 470         if (copy_from_user(&info, useraddr, info_size))
 471                 return -EFAULT;
 472
 473         rc = dev->ethtool_ops->set_rxnfc(dev, &info);
 474         if (rc)
 475                 return rc;
 476
 477         if (cmd == ETHTOOL_SRXCLSRLINS &&
 478             copy_to_user(useraddr, &info, info_size))
 479                 return -EFAULT;
 480
 481         return 0;
 482 }
 483
 484 static noinline_for_stack int ethtool_get_rxnfc(struct net_device *dev,
 485                                                 u32 cmd, void __user *useraddr)
 486 {
 487         struct ethtool_rxnfc info;
 488         size_t info_size = sizeof(info);
 489         const struct ethtool_ops *ops = dev->ethtool_ops;
 490         int ret;
 491         void *rule_buf = NULL;
 492
 493         if (!ops->get_rxnfc)
 494                 return -EOPNOTSUPP;
 495
 496         /* struct ethtool_rxnfc was originally defined for
 497          * ETHTOOL_{G,S}RXFH with only the cmd, flow_type and data
 498          * members.  User-space might still be using that
 499          * definition. */
 500         if (cmd == ETHTOOL_GRXFH)
 501                 info_size = (offsetof(struct ethtool_rxnfc, data) +
 502                              sizeof(info.data));
 503
 504         if (copy_from_user(&info, useraddr, info_size))
 505                 return -EFAULT;
 506
 507         if (info.cmd == ETHTOOL_GRXCLSRLALL) {
 508                 if (info.rule_cnt > 0) {
 509                         if (info.rule_cnt <= KMALLOC_MAX_SIZE / sizeof(u32))
 510                                 rule_buf = kzalloc(info.rule_cnt * sizeof(u32),
 511                                                    GFP_USER);
 512                         if (!rule_buf)
 513                                 return -ENOMEM;
 514                 }
 515         }
 516
 517         ret = ops->get_rxnfc(dev, &info, rule_buf);
 518         if (ret < 0)
 519                 goto err_out;
 520
 521         ret = -EFAULT;
 522         if (copy_to_user(useraddr, &info, info_size))
 523                 goto err_out;
 524
 525         if (rule_buf) {
 526                 useraddr += offsetof(struct ethtool_rxnfc, rule_locs);
 527                 if (copy_to_user(useraddr, rule_buf,
 528                                  info.rule_cnt * sizeof(u32)))
 529                         goto err_out;
 530         }
 531         ret = 0;
 532
 533 err_out:
 534         kfree(rule_buf);
 535
 536         return ret;
 537 }
 538
 539 static noinline_for_stack int ethtool_get_rxfh_indir(struct net_device *dev,
 540                                                      void __user *useraddr)
 541 {
 542         u32 user_size, dev_size;
 543         u32 *indir;
 544         int ret;
 545
 546         if (!dev->ethtool_ops->get_rxfh_indir_size ||
 547             !dev->ethtool_ops->get_rxfh_indir)
 548                 return -EOPNOTSUPP;
 549         dev_size = dev->ethtool_ops->get_rxfh_indir_size(dev);
 550         if (dev_size == 0)
 551                 return -EOPNOTSUPP;
 552
 553         if (copy_from_user(&user_size,
 554                            useraddr + offsetof(struct ethtool_rxfh_indir, size),
 555                            sizeof(user_size)))
 556                 return -EFAULT;
 557
 558         if (copy_to_user(useraddr + offsetof(struct ethtool_rxfh_indir, size),
 559                          &dev_size, sizeof(dev_size)))
 560                 return -EFAULT;
 561
 562         /* If the user buffer size is 0, this is just a query for the
 563          * device table size.  Otherwise, if it's smaller than the
 564          * device table size it's an error.
 565          */
 566         if (user_size < dev_size)
 567                 return user_size == 0 ? 0 : -EINVAL;
 568
 569         indir = kcalloc(dev_size, sizeof(indir[0]), GFP_USER);
 570         if (!indir)
 571                 return -ENOMEM;
 572
 573         ret = dev->ethtool_ops->get_rxfh_indir(dev, indir);
 574         if (ret)
 575                 goto out;
 576
 577         if (copy_to_user(useraddr +
 578                          offsetof(struct ethtool_rxfh_indir, ring_index[0]),
 579                          indir, dev_size * sizeof(indir[0])))
 580                 ret = -EFAULT;
 581
 582 out:
 583         kfree(indir);
 584         return ret;
 585 }
 586
 587 static noinline_for_stack int ethtool_set_rxfh_indir(struct net_device *dev,
 588                                                      void __user *useraddr)
 589 {
 590         struct ethtool_rxnfc rx_rings;
 591         u32 user_size, dev_size, i;
 592         u32 *indir;
 593         const struct ethtool_ops *ops = dev->ethtool_ops;
 594         int ret;
 595
 596         if (!ops->get_rxfh_indir_size || !ops->set_rxfh_indir ||
 597             !ops->get_rxnfc)
 598                 return -EOPNOTSUPP;
 599
 600         dev_size = ops->get_rxfh_indir_size(dev);
 601         if (dev_size == 0)
 602                 return -EOPNOTSUPP;
 603
 604         if (copy_from_user(&user_size,
 605                            useraddr + offsetof(struct ethtool_rxfh_indir, size),
 606                            sizeof(user_size)))
 607                 return -EFAULT;
 608
 609         if (user_size != 0 && user_size != dev_size)
 610                 return -EINVAL;
 611
 612         indir = kcalloc(dev_size, sizeof(indir[0]), GFP_USER);
 613         if (!indir)
 614                 return -ENOMEM;
 615
 616         rx_rings.cmd = ETHTOOL_GRXRINGS;
 617         ret = ops->get_rxnfc(dev, &rx_rings, NULL);
 618         if (ret)
 619                 goto out;
 620
 621         if (user_size == 0) {
 622                 for (i = 0; i < dev_size; i++)
 623                         indir[i] = ethtool_rxfh_indir_default(i, rx_rings.data);
 624         } else {
 625                 if (copy_from_user(indir,
 626                                   useraddr +
 627                                   offsetof(struct ethtool_rxfh_indir,
 628                                            ring_index[0]),
 629                                   dev_size * sizeof(indir[0]))) {
 630                         ret = -EFAULT;
 631                         goto out;
 632                 }
 633
 634                 /* Validate ring indices */
 635                 for (i = 0; i < dev_size; i++) {
 636                         if (indir[i] >= rx_rings.data) {
 637                                 ret = -EINVAL;
 638                                 goto out;
 639                         }
 640                 }
 641         }
 642
 643         ret = ops->set_rxfh_indir(dev, indir);
 644
 645 out:
 646         kfree(indir);
 647         return ret;
 648 }
 649
 650 static int ethtool_get_regs(struct net_device *dev, char __user *useraddr)
 651 {
 652         struct ethtool_regs regs;
 653         const struct ethtool_ops *ops = dev->ethtool_ops;
 654         void *regbuf;
 655         int reglen, ret;
 656
 657         if (!ops->get_regs || !ops->get_regs_len)
 658                 return -EOPNOTSUPP;
 659
 660         if (copy_from_user(&regs, useraddr, sizeof(regs)))
 661                 return -EFAULT;
 662
 663         reglen = ops->get_regs_len(dev);
 664         if (regs.len > reglen)
 665                 regs.len = reglen;
 666
 667         regbuf = vzalloc(reglen);
 668         if (reglen && !regbuf)
 669                 return -ENOMEM;
 670
 671         ops->get_regs(dev, &regs, regbuf);
 672
 673         ret = -EFAULT;
 674         if (copy_to_user(useraddr, &regs, sizeof(regs)))
 675                 goto out;
 676         useraddr += offsetof(struct ethtool_regs, data);
 677         if (regbuf && copy_to_user(useraddr, regbuf, regs.len))
 678                 goto out;
 679         ret = 0;
 680
 681  out:
 682         vfree(regbuf);
 683         return ret;
 684 }
 685
 686 static int ethtool_reset(struct net_device *dev, char __user *useraddr)
 687 {
 688         struct ethtool_value reset;
 689         int ret;
 690
 691         if (!dev->ethtool_ops->reset)
 692                 return -EOPNOTSUPP;
 693
 694         if (copy_from_user(&reset, useraddr, sizeof(reset)))
 695                 return -EFAULT;
 696
 697         ret = dev->ethtool_ops->reset(dev, &reset.data);
 698         if (ret)
 699                 return ret;
 700
 701         if (copy_to_user(useraddr, &reset, sizeof(reset)))
 702                 return -EFAULT;
 703         return 0;
 704 }
 705
 706 static int ethtool_get_wol(struct net_device *dev, char __user *useraddr)
 707 {
 708         struct ethtool_wolinfo wol = { .cmd = ETHTOOL_GWOL };
 709
 710         if (!dev->ethtool_ops->get_wol)
 711                 return -EOPNOTSUPP;
 712
 713         dev->ethtool_ops->get_wol(dev, &wol);
 714
 715         if (copy_to_user(useraddr, &wol, sizeof(wol)))
 716                 return -EFAULT;
 717         return 0;
 718 }
 719
 720 static int ethtool_set_wol(struct net_device *dev, char __user *useraddr)
 721 {
 722         struct ethtool_wolinfo wol;
 723
 724         if (!dev->ethtool_ops->set_wol)
 725                 return -EOPNOTSUPP;
 726
 727         if (copy_from_user(&wol, useraddr, sizeof(wol)))
 728                 return -EFAULT;
 729
 730         return dev->ethtool_ops->set_wol(dev, &wol);
 731 }
 732
 733 static int ethtool_get_eee(struct net_device *dev, char __user *useraddr)
 734 {
 735         struct ethtool_eee edata;
 736         int rc;
 737
 738         if (!dev->ethtool_ops->get_eee)
 739                 return -EOPNOTSUPP;
 740
 741         memset(&edata, 0, sizeof(struct ethtool_eee));
 742         edata.cmd = ETHTOOL_GEEE;
 743         rc = dev->ethtool_ops->get_eee(dev, &edata);
 744
 745         if (rc)
 746                 return rc;
 747
 748         if (copy_to_user(useraddr, &edata, sizeof(edata)))
 749                 return -EFAULT;
 750
 751         return 0;
 752 }
 753
 754 static int ethtool_set_eee(struct net_device *dev, char __user *useraddr)
 755 {
 756         struct ethtool_eee edata;
 757
 758         if (!dev->ethtool_ops->set_eee)
 759                 return -EOPNOTSUPP;
 760
 761         if (copy_from_user(&edata, useraddr, sizeof(edata)))
 762                 return -EFAULT;
 763
 764         return dev->ethtool_ops->set_eee(dev, &edata);
 765 }
 766
 767 static int ethtool_nway_reset(struct net_device *dev)
 768 {
 769         if (!dev->ethtool_ops->nway_reset)
 770                 return -EOPNOTSUPP;
 771
 772         return dev->ethtool_ops->nway_reset(dev);
 773 }
 774
 775 static int ethtool_get_link(struct net_device *dev, char __user *useraddr)
 776 {
 777         struct ethtool_value edata = { .cmd = ETHTOOL_GLINK };
 778
 779         if (!dev->ethtool_ops->get_link)
 780                 return -EOPNOTSUPP;
 781
 782         edata.data = netif_running(dev) && dev->ethtool_ops->get_link(dev);
 783
 784         if (copy_to_user(useraddr, &edata, sizeof(edata)))
 785                 return -EFAULT;
 786         return 0;
 787 }
 788
 789 static int ethtool_get_any_eeprom(struct net_device *dev, void __user *useraddr,
 790                                   int (*getter)(struct net_device *,
 791                                                 struct ethtool_eeprom *, u8 *),
 792                                   u32 total_len)
 793 {
 794         struct ethtool_eeprom eeprom;
 795         void __user *userbuf = useraddr + sizeof(eeprom);
 796         u32 bytes_remaining;
 797         u8 *data;
 798         int ret = 0;
 799
 800         if (copy_from_user(&eeprom, useraddr, sizeof(eeprom)))
 801                 return -EFAULT;
 802
 803         /* Check for wrap and zero */
 804         if (eeprom.offset + eeprom.len <= eeprom.offset)
 805                 return -EINVAL;
 806
 807         /* Check for exceeding total eeprom len */
 808         if (eeprom.offset + eeprom.len > total_len)
 809                 return -EINVAL;
 810
 811         data = kmalloc(PAGE_SIZE, GFP_USER);
 812         if (!data)
 813                 return -ENOMEM;
 814
 815         bytes_remaining = eeprom.len;
 816         while (bytes_remaining > 0) {
 817                 eeprom.len = min(bytes_remaining, (u32)PAGE_SIZE);
 818
 819                 ret = getter(dev, &eeprom, data);
 820                 if (ret)
 821                         break;
 822                 if (copy_to_user(userbuf, data, eeprom.len)) {
 823                         ret = -EFAULT;
 824                         break;
 825                 }
 826                 userbuf += eeprom.len;
 827                 eeprom.offset += eeprom.len;
 828                 bytes_remaining -= eeprom.len;
 829         }
 830
 831         eeprom.len = userbuf - (useraddr + sizeof(eeprom));
 832         eeprom.offset -= eeprom.len;
 833         if (copy_to_user(useraddr, &eeprom, sizeof(eeprom)))
 834                 ret = -EFAULT;
 835
 836         kfree(data);
 837         return ret;
 838 }
 839
 840 static int ethtool_get_eeprom(struct net_device *dev, void __user *useraddr)
 841 {
 842         const struct ethtool_ops *ops = dev->ethtool_ops;
 843
 844         if (!ops->get_eeprom || !ops->get_eeprom_len)
 845                 return -EOPNOTSUPP;
 846
 847         return ethtool_get_any_eeprom(dev, useraddr, ops->get_eeprom,
 848                                       ops->get_eeprom_len(dev));
 849 }
 850
 851 static int ethtool_set_eeprom(struct net_device *dev, void __user *useraddr)
 852 {
 853         struct ethtool_eeprom eeprom;
 854         const struct ethtool_ops *ops = dev->ethtool_ops;
 855         void __user *userbuf = useraddr + sizeof(eeprom);
 856         u32 bytes_remaining;
 857         u8 *data;
 858         int ret = 0;
 859
 860         if (!ops->set_eeprom || !ops->get_eeprom_len)
 861                 return -EOPNOTSUPP;
 862
 863         if (copy_from_user(&eeprom, useraddr, sizeof(eeprom)))
 864                 return -EFAULT;
 865
 866         /* Check for wrap and zero */
 867         if (eeprom.offset + eeprom.len <= eeprom.offset)
 868                 return -EINVAL;
 869
 870         /* Check for exceeding total eeprom len */
 871         if (eeprom.offset + eeprom.len > ops->get_eeprom_len(dev))
 872                 return -EINVAL;
 873
 874         data = kmalloc(PAGE_SIZE, GFP_USER);
 875         if (!data)
 876                 return -ENOMEM;
 877
 878         bytes_remaining = eeprom.len;
 879         while (bytes_remaining > 0) {
 880                 eeprom.len = min(bytes_remaining, (u32)PAGE_SIZE);
 881
 882                 if (copy_from_user(data, userbuf, eeprom.len)) {
 883                         ret = -EFAULT;
 884                         break;
 885                 }
 886                 ret = ops->set_eeprom(dev, &eeprom, data);
 887                 if (ret)
 888                         break;
 889                 userbuf += eeprom.len;
 890                 eeprom.offset += eeprom.len;
 891                 bytes_remaining -= eeprom.len;
 892         }
 893
 894         kfree(data);
 895         return ret;
 896 }
 897
 898 static noinline_for_stack int ethtool_get_coalesce(struct net_device *dev,
 899                                                    void __user *useraddr)
 900 {
 901         struct ethtool_coalesce coalesce = { .cmd = ETHTOOL_GCOALESCE };
 902
 903         if (!dev->ethtool_ops->get_coalesce)
 904                 return -EOPNOTSUPP;
 905
 906         dev->ethtool_ops->get_coalesce(dev, &coalesce);
 907
 908         if (copy_to_user(useraddr, &coalesce, sizeof(coalesce)))
 909                 return -EFAULT;
 910         return 0;
 911 }
 912
 913 static noinline_for_stack int ethtool_set_coalesce(struct net_device *dev,
 914                                                    void __user *useraddr)
 915 {
 916         struct ethtool_coalesce coalesce;
 917
 918         if (!dev->ethtool_ops->set_coalesce)
 919                 return -EOPNOTSUPP;
 920
 921         if (copy_from_user(&coalesce, useraddr, sizeof(coalesce)))
 922                 return -EFAULT;
 923
 924         return dev->ethtool_ops->set_coalesce(dev, &coalesce);
 925 }
 926
 927 static int ethtool_get_ringparam(struct net_device *dev, void __user *useraddr)
 928 {
 929         struct ethtool_ringparam ringparam = { .cmd = ETHTOOL_GRINGPARAM };
 930
 931         if (!dev->ethtool_ops->get_ringparam)
 932                 return -EOPNOTSUPP;
 933
 934         dev->ethtool_ops->get_ringparam(dev, &ringparam);
 935
 936         if (copy_to_user(useraddr, &ringparam, sizeof(ringparam)))
 937                 return -EFAULT;
 938         return 0;
 939 }
 940
 941 static int ethtool_set_ringparam(struct net_device *dev, void __user *useraddr)
 942 {
 943         struct ethtool_ringparam ringparam;
 944
 945         if (!dev->ethtool_ops->set_ringparam)
 946                 return -EOPNOTSUPP;
 947
 948         if (copy_from_user(&ringparam, useraddr, sizeof(ringparam)))
 949                 return -EFAULT;
 950
 951         return dev->ethtool_ops->set_ringparam(dev, &ringparam);
 952 }
 953
 954 static noinline_for_stack int ethtool_get_channels(struct net_device *dev,
 955                                                    void __user *useraddr)
 956 {
 957         struct ethtool_channels channels = { .cmd = ETHTOOL_GCHANNELS };
 958
 959         if (!dev->ethtool_ops->get_channels)
 960                 return -EOPNOTSUPP;
 961
 962         dev->ethtool_ops->get_channels(dev, &channels);
 963
 964         if (copy_to_user(useraddr, &channels, sizeof(channels)))
 965                 return -EFAULT;
 966         return 0;
 967 }
 968
 969 static noinline_for_stack int ethtool_set_channels(struct net_device *dev,
 970                                                    void __user *useraddr)
 971 {
 972         struct ethtool_channels channels;
 973
 974         if (!dev->ethtool_ops->set_channels)
 975                 return -EOPNOTSUPP;
 976
 977         if (copy_from_user(&channels, useraddr, sizeof(channels)))
 978                 return -EFAULT;
 979
 980         return dev->ethtool_ops->set_channels(dev, &channels);
 981 }
 982
 983 static int ethtool_get_pauseparam(struct net_device *dev, void __user *useraddr)
 984 {
 985         struct ethtool_pauseparam pauseparam = { ETHTOOL_GPAUSEPARAM };
 986
 987         if (!dev->ethtool_ops->get_pauseparam)
 988                 return -EOPNOTSUPP;
 989
 990         dev->ethtool_ops->get_pauseparam(dev, &pauseparam);
 991
 992         if (copy_to_user(useraddr, &pauseparam, sizeof(pauseparam)))
 993                 return -EFAULT;
 994         return 0;
 995 }
 996
 997 static int ethtool_set_pauseparam(struct net_device *dev, void __user *useraddr)
 998 {
 999         struct ethtool_pauseparam pauseparam;
1000
1001         if (!dev->ethtool_ops->set_pauseparam)
1002                 return -EOPNOTSUPP;
1003
1004         if (copy_from_user(&pauseparam, useraddr, sizeof(pauseparam)))
1005                 return -EFAULT;
1006
1007         return dev->ethtool_ops->set_pauseparam(dev, &pauseparam);
1008 }
1009
1010 static int ethtool_self_test(struct net_device *dev, char __user *useraddr)
1011 {
1012         struct ethtool_test test;
1013         const struct ethtool_ops *ops = dev->ethtool_ops;
1014         u64 *data;
1015         int ret, test_len;
1016
1017         if (!ops->self_test || !ops->get_sset_count)
1018                 return -EOPNOTSUPP;
1019
1020         test_len = ops->get_sset_count(dev, ETH_SS_TEST);
1021         if (test_len < 0)
1022                 return test_len;
1023         WARN_ON(test_len == 0);
1024
1025         if (copy_from_user(&test, useraddr, sizeof(test)))
1026                 return -EFAULT;
1027
1028         test.len = test_len;
1029         data = kmalloc(test_len * sizeof(u64), GFP_USER);
1030         if (!data)
1031                 return -ENOMEM;
1032
1033         ops->self_test(dev, &test, data);
1034
1035         ret = -EFAULT;
1036         if (copy_to_user(useraddr, &test, sizeof(test)))
1037                 goto out;
1038         useraddr += sizeof(test);
1039         if (copy_to_user(useraddr, data, test.len * sizeof(u64)))
1040                 goto out;
1041         ret = 0;
1042
1043  out:
1044         kfree(data);
1045         return ret;
1046 }
1047
1048 static int ethtool_get_strings(struct net_device *dev, void __user *useraddr)
1049 {
1050         struct ethtool_gstrings gstrings;
1051         u8 *data;
1052         int ret;
1053
1054         if (copy_from_user(&gstrings, useraddr, sizeof(gstrings)))
1055                 return -EFAULT;
1056
1057         ret = __ethtool_get_sset_count(dev, gstrings.string_set);
1058         if (ret < 0)
1059                 return ret;
1060
1061         gstrings.len = ret;
1062
1063         data = kmalloc(gstrings.len * ETH_GSTRING_LEN, GFP_USER);
1064         if (!data)
1065                 return -ENOMEM;
1066
1067         __ethtool_get_strings(dev, gstrings.string_set, data);
1068
1069         ret = -EFAULT;
1070         if (copy_to_user(useraddr, &gstrings, sizeof(gstrings)))
1071                 goto out;
1072         useraddr += sizeof(gstrings);
1073         if (copy_to_user(useraddr, data, gstrings.len * ETH_GSTRING_LEN))
1074                 goto out;
1075         ret = 0;
1076
1077 out:
1078         kfree(data);
1079         return ret;
1080 }
1081
1082 static int ethtool_phys_id(struct net_device *dev, void __user *useraddr)
1083 {
1084         struct ethtool_value id;
1085         static bool busy;
1086         const struct ethtool_ops *ops = dev->ethtool_ops;
1087         int rc;
1088
1089         if (!ops->set_phys_id)
1090                 return -EOPNOTSUPP;
1091
1092         if (busy)
1093                 return -EBUSY;
1094
1095         if (copy_from_user(&id, useraddr, sizeof(id)))
1096                 return -EFAULT;
1097
1098         rc = ops->set_phys_id(dev, ETHTOOL_ID_ACTIVE);
1099         if (rc < 0)
1100                 return rc;
1101
1102         /* Drop the RTNL lock while waiting, but prevent reentry or
1103          * removal of the device.
1104          */
1105         busy = true;
1106         dev_hold(dev);
1107         rtnl_unlock();
1108
1109         if (rc == 0) {
1110                 /* Driver will handle this itself */
1111                 schedule_timeout_interruptible(
1112                         id.data ? (id.data * HZ) : MAX_SCHEDULE_TIMEOUT);
1113         } else {
1114                 /* Driver expects to be called at twice the frequency in rc */
1115                 int n = rc * 2, i, interval = HZ / n;
1116
1117                 /* Count down seconds */
1118                 do {
1119                         /* Count down iterations per second */
1120                         i = n;
1121                         do {
1122                                 rtnl_lock();
1123                                 rc = ops->set_phys_id(dev,
1124                                     (i & 1) ? ETHTOOL_ID_OFF : ETHTOOL_ID_ON);
1125                                 rtnl_unlock();
1126                                 if (rc)
1127                                         break;
1128                                 schedule_timeout_interruptible(interval);
1129                         } while (!signal_pending(current) && --i != 0);
1130                 } while (!signal_pending(current) &&
1131                          (id.data == 0 || --id.data != 0));
1132         }
1133
1134         rtnl_lock();
1135         dev_put(dev);
1136         busy = false;
1137
1138         (void) ops->set_phys_id(dev, ETHTOOL_ID_INACTIVE);
1139         return rc;
1140 }
1141
1142 static int ethtool_get_stats(struct net_device *dev, void __user *useraddr)
1143 {
1144         struct ethtool_stats stats;
1145         const struct ethtool_ops *ops = dev->ethtool_ops;
1146         u64 *data;
1147         int ret, n_stats;
1148
1149         if (!ops->get_ethtool_stats || !ops->get_sset_count)
1150                 return -EOPNOTSUPP;
1151
1152         n_stats = ops->get_sset_count(dev, ETH_SS_STATS);
1153         if (n_stats < 0)
1154                 return n_stats;
1155         WARN_ON(n_stats == 0);
1156
1157         if (copy_from_user(&stats, useraddr, sizeof(stats)))
1158                 return -EFAULT;
1159
1160         stats.n_stats = n_stats;
1161         data = kmalloc(n_stats * sizeof(u64), GFP_USER);
1162         if (!data)
1163                 return -ENOMEM;
1164
1165         ops->get_ethtool_stats(dev, &stats, data);
1166
1167         ret = -EFAULT;
1168         if (copy_to_user(useraddr, &stats, sizeof(stats)))
1169                 goto out;
1170         useraddr += sizeof(stats);
1171         if (copy_to_user(useraddr, data, stats.n_stats * sizeof(u64)))
1172                 goto out;
1173         ret = 0;
1174
1175  out:
1176         kfree(data);
1177         return ret;
1178 }
1179
1180 static int ethtool_get_perm_addr(struct net_device *dev, void __user *useraddr)
1181 {
1182         struct ethtool_perm_addr epaddr;
1183
1184         if (copy_from_user(&epaddr, useraddr, sizeof(epaddr)))
1185                 return -EFAULT;
1186
1187         if (epaddr.size < dev->addr_len)
1188                 return -ETOOSMALL;
1189         epaddr.size = dev->addr_len;
1190
1191         if (copy_to_user(useraddr, &epaddr, sizeof(epaddr)))
1192                 return -EFAULT;
1193         useraddr += sizeof(epaddr);
1194         if (copy_to_user(useraddr, dev->perm_addr, epaddr.size))
1195                 return -EFAULT;
1196         return 0;
1197 }
1198
1199 static int ethtool_get_value(struct net_device *dev, char __user *useraddr,
1200                              u32 cmd, u32 (*actor)(struct net_device *))
1201 {
1202         struct ethtool_value edata = { .cmd = cmd };
1203
1204         if (!actor)
1205                 return -EOPNOTSUPP;
1206
1207         edata.data = actor(dev);
1208
1209         if (copy_to_user(useraddr, &edata, sizeof(edata)))
1210                 return -EFAULT;
1211         return 0;
1212 }
1213
1214 static int ethtool_set_value_void(struct net_device *dev, char __user *useraddr,
1215                              void (*actor)(struct net_device *, u32))
1216 {
1217         struct ethtool_value edata;
1218
1219         if (!actor)
1220                 return -EOPNOTSUPP;
1221
1222         if (copy_from_user(&edata, useraddr, sizeof(edata)))
1223                 return -EFAULT;
1224
1225         actor(dev, edata.data);
1226         return 0;
1227 }
1228
1229 static int ethtool_set_value(struct net_device *dev, char __user *useraddr,
1230                              int (*actor)(struct net_device *, u32))
1231 {
1232         struct ethtool_value edata;
1233
1234         if (!actor)
1235                 return -EOPNOTSUPP;
1236
1237         if (copy_from_user(&edata, useraddr, sizeof(edata)))
1238                 return -EFAULT;
1239
1240         return actor(dev, edata.data);
1241 }
1242
1243 static noinline_for_stack int ethtool_flash_device(struct net_device *dev,
1244                                                    char __user *useraddr)
1245 {
1246         struct ethtool_flash efl;
1247
1248         if (copy_from_user(&efl, useraddr, sizeof(efl)))
1249                 return -EFAULT;
1250
1251         if (!dev->ethtool_ops->flash_device)
1252                 return -EOPNOTSUPP;
1253
1254         efl.data[ETHTOOL_FLASH_MAX_FILENAME - 1] = 0;
1255
1256         return dev->ethtool_ops->flash_device(dev, &efl);
1257 }
1258
1259 static int ethtool_set_dump(struct net_device *dev,
1260                         void __user *useraddr)
1261 {
1262         struct ethtool_dump dump;
1263
1264         if (!dev->ethtool_ops->set_dump)
1265                 return -EOPNOTSUPP;
1266
1267         if (copy_from_user(&dump, useraddr, sizeof(dump)))
1268                 return -EFAULT;
1269
1270         return dev->ethtool_ops->set_dump(dev, &dump);
1271 }
1272
1273 static int ethtool_get_dump_flag(struct net_device *dev,
1274                                 void __user *useraddr)
1275 {
1276         int ret;
1277         struct ethtool_dump dump;
1278         const struct ethtool_ops *ops = dev->ethtool_ops;
1279
1280         if (!ops->get_dump_flag)
1281                 return -EOPNOTSUPP;
1282
1283         if (copy_from_user(&dump, useraddr, sizeof(dump)))
1284                 return -EFAULT;
1285
1286         ret = ops->get_dump_flag(dev, &dump);
1287         if (ret)
1288                 return ret;
1289
1290         if (copy_to_user(useraddr, &dump, sizeof(dump)))
1291                 return -EFAULT;
1292         return 0;
1293 }
1294
1295 static int ethtool_get_dump_data(struct net_device *dev,
1296                                 void __user *useraddr)
1297 {
1298         int ret;
1299         __u32 len;
1300         struct ethtool_dump dump, tmp;
1301         const struct ethtool_ops *ops = dev->ethtool_ops;
1302         void *data = NULL;
1303
1304         if (!ops->get_dump_data || !ops->get_dump_flag)
1305                 return -EOPNOTSUPP;
1306
1307         if (copy_from_user(&dump, useraddr, sizeof(dump)))
1308                 return -EFAULT;
1309
1310         memset(&tmp, 0, sizeof(tmp));
1311         tmp.cmd = ETHTOOL_GET_DUMP_FLAG;
1312         ret = ops->get_dump_flag(dev, &tmp);
1313         if (ret)
1314                 return ret;
1315
1316         len = (tmp.len > dump.len) ? dump.len : tmp.len;
1317         if (!len)
1318                 return -EFAULT;
1319
1320         data = vzalloc(tmp.len);
1321         if (!data)
1322                 return -ENOMEM;
1323         ret = ops->get_dump_data(dev, &dump, data);
1324         if (ret)
1325                 goto out;
1326
1327         if (copy_to_user(useraddr, &dump, sizeof(dump))) {
1328                 ret = -EFAULT;
1329                 goto out;
1330         }
1331         useraddr += offsetof(struct ethtool_dump, data);
1332         if (copy_to_user(useraddr, data, len))
1333                 ret = -EFAULT;
1334 out:
1335         vfree(data);
1336         return ret;
1337 }
1338
1339 static int ethtool_get_ts_info(struct net_device *dev, void __user *useraddr)
1340 {
1341         int err = 0;
1342         struct ethtool_ts_info info;
1343         const struct ethtool_ops *ops = dev->ethtool_ops;
1344         struct phy_device *phydev = dev->phydev;
1345
1346         memset(&info, 0, sizeof(info));
1347         info.cmd = ETHTOOL_GET_TS_INFO;
1348
1349         if (phydev && phydev->drv && phydev->drv->ts_info) {
1350                 err = phydev->drv->ts_info(phydev, &info);
1351         } else if (ops->get_ts_info) {
1352                 err = ops->get_ts_info(dev, &info);
1353         } else {
1354                 info.so_timestamping =
1355                         SOF_TIMESTAMPING_RX_SOFTWARE |
1356                         SOF_TIMESTAMPING_SOFTWARE;
1357                 info.phc_index = -1;
1358         }
1359
1360         if (err)
1361                 return err;
1362
1363         if (copy_to_user(useraddr, &info, sizeof(info)))
1364                 err = -EFAULT;
1365
1366         return err;
1367 }
1368
1369 static int ethtool_get_module_info(struct net_device *dev,
1370                                    void __user *useraddr)
1371 {
1372         int ret;
1373         struct ethtool_modinfo modinfo;
1374         const struct ethtool_ops *ops = dev->ethtool_ops;
1375
1376         if (!ops->get_module_info)
1377                 return -EOPNOTSUPP;
1378
1379         if (copy_from_user(&modinfo, useraddr, sizeof(modinfo)))
1380                 return -EFAULT;
1381
1382         ret = ops->get_module_info(dev, &modinfo);
1383         if (ret)
1384                 return ret;
1385
1386         if (copy_to_user(useraddr, &modinfo, sizeof(modinfo)))
1387                 return -EFAULT;
1388
1389         return 0;
1390 }
1391
1392 static int ethtool_get_module_eeprom(struct net_device *dev,
1393                                      void __user *useraddr)
1394 {
1395         int ret;
1396         struct ethtool_modinfo modinfo;
1397         const struct ethtool_ops *ops = dev->ethtool_ops;
1398
1399         if (!ops->get_module_info || !ops->get_module_eeprom)
1400                 return -EOPNOTSUPP;
1401
1402         ret = ops->get_module_info(dev, &modinfo);
1403         if (ret)
1404                 return ret;
1405
1406         return ethtool_get_any_eeprom(dev, useraddr, ops->get_module_eeprom,
1407                                       modinfo.eeprom_len);
1408 }
1409
1410 /* The main entry point in this file.  Called from net/core/dev.c */
1411
1412 int dev_ethtool(struct net *net, struct ifreq *ifr)
1413 {
1414         struct net_device *dev = __dev_get_by_name(net, ifr->ifr_name);
1415         void __user *useraddr = ifr->ifr_data;
1416         u32 ethcmd;
1417         int rc;
1418         u32 old_features;
1419
1420         if (!dev || !netif_device_present(dev))
1421                 return -ENODEV;
1422
1423         if (copy_from_user(&ethcmd, useraddr, sizeof(ethcmd)))
1424                 return -EFAULT;
1425
1426         /* Allow some commands to be done by anyone */
1427         switch (ethcmd) {
1428         case ETHTOOL_GSET:
1429         case ETHTOOL_GDRVINFO:
1430         case ETHTOOL_GMSGLVL:
1431         case ETHTOOL_GLINK:
1432         case ETHTOOL_GCOALESCE:
1433         case ETHTOOL_GRINGPARAM:
1434         case ETHTOOL_GPAUSEPARAM:
1435         case ETHTOOL_GRXCSUM:
1436         case ETHTOOL_GTXCSUM:
1437         case ETHTOOL_GSG:
1438         case ETHTOOL_GSSET_INFO:
1439         case ETHTOOL_GSTRINGS:
1440         case ETHTOOL_GSTATS:
1441         case ETHTOOL_GTSO:
1442         case ETHTOOL_GPERMADDR:
1443         case ETHTOOL_GUFO:
1444         case ETHTOOL_GGSO:
1445         case ETHTOOL_GGRO:
1446         case ETHTOOL_GFLAGS:
1447         case ETHTOOL_GPFLAGS:
1448         case ETHTOOL_GRXFH:
1449         case ETHTOOL_GRXRINGS:
1450         case ETHTOOL_GRXCLSRLCNT:
1451         case ETHTOOL_GRXCLSRULE:
1452         case ETHTOOL_GRXCLSRLALL:
1453         case ETHTOOL_GRXFHINDIR:
1454         case ETHTOOL_GFEATURES:
1455         case ETHTOOL_GCHANNELS:
1456         case ETHTOOL_GET_TS_INFO:
1457         case ETHTOOL_GEEE:
1458                 break;
1459         default:
1460                 if (!ns_capable(net->user_ns, CAP_NET_ADMIN))
1461                         return -EPERM;
1462         }
1463
1464         if (dev->ethtool_ops->begin) {
1465                 rc = dev->ethtool_ops->begin(dev);
1466                 if (rc  < 0)
1467                         return rc;
1468         }
1469         old_features = dev->features;
1470
1471         switch (ethcmd) {
1472         case ETHTOOL_GSET:
1473                 rc = ethtool_get_settings(dev, useraddr);
1474                 break;
1475         case ETHTOOL_SSET:
1476                 rc = ethtool_set_settings(dev, useraddr);
1477                 break;
1478         case ETHTOOL_GDRVINFO:
1479                 rc = ethtool_get_drvinfo(dev, useraddr);
1480                 break;
1481         case ETHTOOL_GREGS:
1482                 rc = ethtool_get_regs(dev, useraddr);
1483                 break;
1484         case ETHTOOL_GWOL:
1485                 rc = ethtool_get_wol(dev, useraddr);
1486                 break;
1487         case ETHTOOL_SWOL:
1488                 rc = ethtool_set_wol(dev, useraddr);
1489                 break;
1490         case ETHTOOL_GMSGLVL:
1491                 rc = ethtool_get_value(dev, useraddr, ethcmd,
1492                                        dev->ethtool_ops->get_msglevel);
1493                 break;
1494         case ETHTOOL_SMSGLVL:
1495                 rc = ethtool_set_value_void(dev, useraddr,
1496                                        dev->ethtool_ops->set_msglevel);
1497                 break;
1498         case ETHTOOL_GEEE:
1499                 rc = ethtool_get_eee(dev, useraddr);
1500                 break;
1501         case ETHTOOL_SEEE:
1502                 rc = ethtool_set_eee(dev, useraddr);
1503                 break;
1504         case ETHTOOL_NWAY_RST:
1505                 rc = ethtool_nway_reset(dev);
1506                 break;
1507         case ETHTOOL_GLINK:
1508                 rc = ethtool_get_link(dev, useraddr);
1509                 break;
1510         case ETHTOOL_GEEPROM:
1511                 rc = ethtool_get_eeprom(dev, useraddr);
1512                 break;
1513         case ETHTOOL_SEEPROM:
1514                 rc = ethtool_set_eeprom(dev, useraddr);
1515                 break;
1516         case ETHTOOL_GCOALESCE:
1517                 rc = ethtool_get_coalesce(dev, useraddr);
1518                 break;
1519         case ETHTOOL_SCOALESCE:
1520                 rc = ethtool_set_coalesce(dev, useraddr);
1521                 break;
1522         case ETHTOOL_GRINGPARAM:
1523                 rc = ethtool_get_ringparam(dev, useraddr);
1524                 break;
1525         case ETHTOOL_SRINGPARAM:
1526                 rc = ethtool_set_ringparam(dev, useraddr);
1527                 break;
1528         case ETHTOOL_GPAUSEPARAM:
1529                 rc = ethtool_get_pauseparam(dev, useraddr);
1530                 break;
1531         case ETHTOOL_SPAUSEPARAM:
1532                 rc = ethtool_set_pauseparam(dev, useraddr);
1533                 break;
1534         case ETHTOOL_TEST:
1535                 rc = ethtool_self_test(dev, useraddr);
1536                 break;
1537         case ETHTOOL_GSTRINGS:
1538                 rc = ethtool_get_strings(dev, useraddr);
1539                 break;
1540         case ETHTOOL_PHYS_ID:
1541                 rc = ethtool_phys_id(dev, useraddr);
1542                 break;
1543         case ETHTOOL_GSTATS:
1544                 rc = ethtool_get_stats(dev, useraddr);
1545                 break;
1546         case ETHTOOL_GPERMADDR:
1547                 rc = ethtool_get_perm_addr(dev, useraddr);
1548                 break;
1549         case ETHTOOL_GFLAGS:
1550                 rc = ethtool_get_value(dev, useraddr, ethcmd,
1551                                         __ethtool_get_flags);
1552                 break;
1553         case ETHTOOL_SFLAGS:
1554                 rc = ethtool_set_value(dev, useraddr, __ethtool_set_flags);
1555                 break;
1556         case ETHTOOL_GPFLAGS:
1557                 rc = ethtool_get_value(dev, useraddr, ethcmd,
1558                                        dev->ethtool_ops->get_priv_flags);
1559                 break;
1560         case ETHTOOL_SPFLAGS:
1561                 rc = ethtool_set_value(dev, useraddr,
1562                                        dev->ethtool_ops->set_priv_flags);
1563                 break;
1564         case ETHTOOL_GRXFH:
1565         case ETHTOOL_GRXRINGS:
1566         case ETHTOOL_GRXCLSRLCNT:
1567         case ETHTOOL_GRXCLSRULE:
1568         case ETHTOOL_GRXCLSRLALL:
1569                 rc = ethtool_get_rxnfc(dev, ethcmd, useraddr);
1570                 break;
1571         case ETHTOOL_SRXFH:
1572         case ETHTOOL_SRXCLSRLDEL:
1573         case ETHTOOL_SRXCLSRLINS:
1574                 rc = ethtool_set_rxnfc(dev, ethcmd, useraddr);
1575                 break;
1576         case ETHTOOL_FLASHDEV:
1577                 rc = ethtool_flash_device(dev, useraddr);
1578                 break;
1579         case ETHTOOL_RESET:
1580                 rc = ethtool_reset(dev, useraddr);
1581                 break;
1582         case ETHTOOL_GSSET_INFO:
1583                 rc = ethtool_get_sset_info(dev, useraddr);
1584                 break;
1585         case ETHTOOL_GRXFHINDIR:
1586                 rc = ethtool_get_rxfh_indir(dev, useraddr);
1587                 break;
1588         case ETHTOOL_SRXFHINDIR:
1589                 rc = ethtool_set_rxfh_indir(dev, useraddr);
1590                 break;
1591         case ETHTOOL_GFEATURES:
1592                 rc = ethtool_get_features(dev, useraddr);
1593                 break;
1594         case ETHTOOL_SFEATURES:
1595                 rc = ethtool_set_features(dev, useraddr);
1596                 break;
1597         case ETHTOOL_GTXCSUM:
1598         case ETHTOOL_GRXCSUM:
1599         case ETHTOOL_GSG:
1600         case ETHTOOL_GTSO:
1601         case ETHTOOL_GUFO:
1602         case ETHTOOL_GGSO:
1603         case ETHTOOL_GGRO:
1604                 rc = ethtool_get_one_feature(dev, useraddr, ethcmd);
1605                 break;
1606         case ETHTOOL_STXCSUM:
1607         case ETHTOOL_SRXCSUM:
1608         case ETHTOOL_SSG:
1609         case ETHTOOL_STSO:
1610         case ETHTOOL_SUFO:
1611         case ETHTOOL_SGSO:
1612         case ETHTOOL_SGRO:
1613                 rc = ethtool_set_one_feature(dev, useraddr, ethcmd);
1614                 break;
1615         case ETHTOOL_GCHANNELS:
1616                 rc = ethtool_get_channels(dev, useraddr);
1617                 break;
1618         case ETHTOOL_SCHANNELS:
1619                 rc = ethtool_set_channels(dev, useraddr);
1620                 break;
1621         case ETHTOOL_SET_DUMP:
1622                 rc = ethtool_set_dump(dev, useraddr);
1623                 break;
1624         case ETHTOOL_GET_DUMP_FLAG:
1625                 rc = ethtool_get_dump_flag(dev, useraddr);
1626                 break;
1627         case ETHTOOL_GET_DUMP_DATA:
1628                 rc = ethtool_get_dump_data(dev, useraddr);
1629                 break;
1630         case ETHTOOL_GET_TS_INFO:
1631                 rc = ethtool_get_ts_info(dev, useraddr);
1632                 break;
1633         case ETHTOOL_GMODULEINFO:
1634                 rc = ethtool_get_module_info(dev, useraddr);
1635                 break;
1636         case ETHTOOL_GMODULEEEPROM:
1637                 rc = ethtool_get_module_eeprom(dev, useraddr);
1638                 break;
1639         default:
1640                 rc = -EOPNOTSUPP;
1641         }
1642
1643         if (dev->ethtool_ops->complete)
1644                 dev->ethtool_ops->complete(dev);
1645
1646         if (old_features != dev->features)
1647                 netdev_features_change(dev);
1648
1649         return rc;
1650 }