net/ipv4/geneve.c

   1 /*
   2  * Geneve: Generic Network Virtualization Encapsulation
   3  *
   4  * Copyright (c) 2014 Nicira, Inc.
   5  *
   6  * This program is free software; you can redistribute it and/or
   7  * modify it under the terms of the GNU General Public License
   8  * as published by the Free Software Foundation; either version
   9  * 2 of the License, or (at your option) any later version.
  10  */
  11
  12 #define pr_fmt(fmt) KBUILD_MODNAME ": " fmt
  13
  14 #include <linux/kernel.h>
  15 #include <linux/types.h>
  16 #include <linux/module.h>
  17 #include <linux/errno.h>
  18 #include <linux/slab.h>
  19 #include <linux/skbuff.h>
  20 #include <linux/list.h>
  21 #include <linux/netdevice.h>
  22 #include <linux/in.h>
  23 #include <linux/ip.h>
  24 #include <linux/udp.h>
  25 #include <linux/igmp.h>
  26 #include <linux/etherdevice.h>
  27 #include <linux/if_ether.h>
  28 #include <linux/if_vlan.h>
  29 #include <linux/ethtool.h>
  30 #include <linux/mutex.h>
  31 #include <net/arp.h>
  32 #include <net/ndisc.h>
  33 #include <net/ip.h>
  34 #include <net/ip_tunnels.h>
  35 #include <net/icmp.h>
  36 #include <net/udp.h>
  37 #include <net/rtnetlink.h>
  38 #include <net/route.h>
  39 #include <net/dsfield.h>
  40 #include <net/inet_ecn.h>
  41 #include <net/net_namespace.h>
  42 #include <net/netns/generic.h>
  43 #include <net/geneve.h>
  44 #include <net/protocol.h>
  45 #include <net/udp_tunnel.h>
  46 #if IS_ENABLED(CONFIG_IPV6)
  47 #include <net/ipv6.h>
  48 #include <net/addrconf.h>
  49 #include <net/ip6_tunnel.h>
  50 #include <net/ip6_checksum.h>
  51 #endif
  52
  53 /* Protects sock_list and refcounts. */
  54 static DEFINE_MUTEX(geneve_mutex);
  55
  56 /* per-network namespace private data for this module */
  57 struct geneve_net {
  58         struct list_head        sock_list;
  59 };
  60
  61 static int geneve_net_id;
  62
  63 static inline struct genevehdr *geneve_hdr(const struct sk_buff *skb)
  64 {
  65         return (struct genevehdr *)(udp_hdr(skb) + 1);
  66 }
  67
  68 static struct geneve_sock *geneve_find_sock(struct net *net,
  69                                             sa_family_t family, __be16 port)
  70 {
  71         struct geneve_net *gn = net_generic(net, geneve_net_id);
  72         struct geneve_sock *gs;
  73
  74         list_for_each_entry(gs, &gn->sock_list, list) {
  75                 if (inet_sk(gs->sock->sk)->inet_sport == port &&
  76                     inet_sk(gs->sock->sk)->sk.sk_family == family)
  77                         return gs;
  78         }
  79
  80         return NULL;
  81 }
  82
  83 static void geneve_build_header(struct genevehdr *geneveh,
  84                                 __be16 tun_flags, u8 vni[3],
  85                                 u8 options_len, u8 *options)
  86 {
  87         geneveh->ver = GENEVE_VER;
  88         geneveh->opt_len = options_len / 4;
  89         geneveh->oam = !!(tun_flags & TUNNEL_OAM);
  90         geneveh->critical = !!(tun_flags & TUNNEL_CRIT_OPT);
  91         geneveh->rsvd1 = 0;
  92         memcpy(geneveh->vni, vni, 3);
  93         geneveh->proto_type = htons(ETH_P_TEB);
  94         geneveh->rsvd2 = 0;
  95
  96         memcpy(geneveh->options, options, options_len);
  97 }
  98
  99 /* Transmit a fully formatted Geneve frame.
 100  *
 101  * When calling this function. The skb->data should point
 102  * to the geneve header which is fully formed.
 103  *
 104  * This function will add other UDP tunnel headers.
 105  */
 106 int geneve_xmit_skb(struct geneve_sock *gs, struct rtable *rt,
 107                     struct sk_buff *skb, __be32 src, __be32 dst, __u8 tos,
 108                     __u8 ttl, __be16 df, __be16 src_port, __be16 dst_port,
 109                     __be16 tun_flags, u8 vni[3], u8 opt_len, u8 *opt,
 110                     bool xnet)
 111 {
 112         struct genevehdr *gnvh;
 113         int min_headroom;
 114         int err;
 115
 116         skb = udp_tunnel_handle_offloads(skb, !gs->sock->sk->sk_no_check_tx);
 117         if (IS_ERR(skb))
 118                 return PTR_ERR(skb);
 119
 120         min_headroom = LL_RESERVED_SPACE(rt->dst.dev) + rt->dst.header_len
 121                         + GENEVE_BASE_HLEN + opt_len + sizeof(struct iphdr)
 122                         + (skb_vlan_tag_present(skb) ? VLAN_HLEN : 0);
 123
 124         err = skb_cow_head(skb, min_headroom);
 125         if (unlikely(err)) {
 126                 kfree_skb(skb);
 127                 return err;
 128         }
 129
 130         skb = vlan_hwaccel_push_inside(skb);
 131         if (unlikely(!skb))
 132                 return -ENOMEM;
 133
 134         gnvh = (struct genevehdr *)__skb_push(skb, sizeof(*gnvh) + opt_len);
 135         geneve_build_header(gnvh, tun_flags, vni, opt_len, opt);
 136
 137         skb_set_inner_protocol(skb, htons(ETH_P_TEB));
 138
 139         return udp_tunnel_xmit_skb(gs->sock, rt, skb, src, dst,
 140                                    tos, ttl, df, src_port, dst_port, xnet);
 141 }
 142 EXPORT_SYMBOL_GPL(geneve_xmit_skb);
 143
 144 static int geneve_hlen(struct genevehdr *gh)
 145 {
 146         return sizeof(*gh) + gh->opt_len * 4;
 147 }
 148
 149 static struct sk_buff **geneve_gro_receive(struct sk_buff **head,
 150                                            struct sk_buff *skb,
 151                                            struct udp_offload *uoff)
 152 {
 153         struct sk_buff *p, **pp = NULL;
 154         struct genevehdr *gh, *gh2;
 155         unsigned int hlen, gh_len, off_gnv;
 156         const struct packet_offload *ptype;
 157         __be16 type;
 158         int flush = 1;
 159
 160         off_gnv = skb_gro_offset(skb);
 161         hlen = off_gnv + sizeof(*gh);
 162         gh = skb_gro_header_fast(skb, off_gnv);
 163         if (skb_gro_header_hard(skb, hlen)) {
 164                 gh = skb_gro_header_slow(skb, hlen, off_gnv);
 165                 if (unlikely(!gh))
 166                         goto out;
 167         }
 168
 169         if (gh->ver != GENEVE_VER || gh->oam)
 170                 goto out;
 171         gh_len = geneve_hlen(gh);
 172
 173         hlen = off_gnv + gh_len;
 174         if (skb_gro_header_hard(skb, hlen)) {
 175                 gh = skb_gro_header_slow(skb, hlen, off_gnv);
 176                 if (unlikely(!gh))
 177                         goto out;
 178         }
 179
 180         flush = 0;
 181
 182         for (p = *head; p; p = p->next) {
 183                 if (!NAPI_GRO_CB(p)->same_flow)
 184                         continue;
 185
 186                 gh2 = (struct genevehdr *)(p->data + off_gnv);
 187                 if (gh->opt_len != gh2->opt_len ||
 188                     memcmp(gh, gh2, gh_len)) {
 189                         NAPI_GRO_CB(p)->same_flow = 0;
 190                         continue;
 191                 }
 192         }
 193
 194         type = gh->proto_type;
 195
 196         rcu_read_lock();
 197         ptype = gro_find_receive_by_type(type);
 198         if (ptype == NULL) {
 199                 flush = 1;
 200                 goto out_unlock;
 201         }
 202
 203         skb_gro_pull(skb, gh_len);
 204         skb_gro_postpull_rcsum(skb, gh, gh_len);
 205         pp = ptype->callbacks.gro_receive(head, skb);
 206
 207 out_unlock:
 208         rcu_read_unlock();
 209 out:
 210         NAPI_GRO_CB(skb)->flush |= flush;
 211
 212         return pp;
 213 }
 214
 215 static int geneve_gro_complete(struct sk_buff *skb, int nhoff,
 216                                struct udp_offload *uoff)
 217 {
 218         struct genevehdr *gh;
 219         struct packet_offload *ptype;
 220         __be16 type;
 221         int gh_len;
 222         int err = -ENOSYS;
 223
 224         udp_tunnel_gro_complete(skb, nhoff);
 225
 226         gh = (struct genevehdr *)(skb->data + nhoff);
 227         gh_len = geneve_hlen(gh);
 228         type = gh->proto_type;
 229
 230         rcu_read_lock();
 231         ptype = gro_find_complete_by_type(type);
 232         if (ptype != NULL)
 233                 err = ptype->callbacks.gro_complete(skb, nhoff + gh_len);
 234
 235         rcu_read_unlock();
 236         return err;
 237 }
 238
 239 static void geneve_notify_add_rx_port(struct geneve_sock *gs)
 240 {
 241         struct sock *sk = gs->sock->sk;
 242         sa_family_t sa_family = sk->sk_family;
 243         int err;
 244
 245         if (sa_family == AF_INET) {
 246                 err = udp_add_offload(&gs->udp_offloads);
 247                 if (err)
 248                         pr_warn("geneve: udp_add_offload failed with status %d\n",
 249                                 err);
 250         }
 251 }
 252
 253 static void geneve_notify_del_rx_port(struct geneve_sock *gs)
 254 {
 255         struct sock *sk = gs->sock->sk;
 256         sa_family_t sa_family = sk->sk_family;
 257
 258         if (sa_family == AF_INET)
 259                 udp_del_offload(&gs->udp_offloads);
 260 }
 261
 262 /* Callback from net/ipv4/udp.c to receive packets */
 263 static int geneve_udp_encap_recv(struct sock *sk, struct sk_buff *skb)
 264 {
 265         struct genevehdr *geneveh;
 266         struct geneve_sock *gs;
 267         int opts_len;
 268
 269         /* Need Geneve and inner Ethernet header to be present */
 270         if (unlikely(!pskb_may_pull(skb, GENEVE_BASE_HLEN)))
 271                 goto error;
 272
 273         /* Return packets with reserved bits set */
 274         geneveh = geneve_hdr(skb);
 275
 276         if (unlikely(geneveh->ver != GENEVE_VER))
 277                 goto error;
 278
 279         if (unlikely(geneveh->proto_type != htons(ETH_P_TEB)))
 280                 goto error;
 281
 282         opts_len = geneveh->opt_len * 4;
 283         if (iptunnel_pull_header(skb, GENEVE_BASE_HLEN + opts_len,
 284                                  htons(ETH_P_TEB)))
 285                 goto drop;
 286
 287         gs = rcu_dereference_sk_user_data(sk);
 288         if (!gs)
 289                 goto drop;
 290
 291         gs->rcv(gs, skb);
 292         return 0;
 293
 294 drop:
 295         /* Consume bad packet */
 296         kfree_skb(skb);
 297         return 0;
 298
 299 error:
 300         /* Let the UDP layer deal with the skb */
 301         return 1;
 302 }
 303
 304 static struct socket *geneve_create_sock(struct net *net, bool ipv6,
 305                                          __be16 port)
 306 {
 307         struct socket *sock;
 308         struct udp_port_cfg udp_conf;
 309         int err;
 310
 311         memset(&udp_conf, 0, sizeof(udp_conf));
 312
 313         if (ipv6) {
 314                 udp_conf.family = AF_INET6;
 315         } else {
 316                 udp_conf.family = AF_INET;
 317                 udp_conf.local_ip.s_addr = htonl(INADDR_ANY);
 318         }
 319
 320         udp_conf.local_udp_port = port;
 321
 322         /* Open UDP socket */
 323         err = udp_sock_create(net, &udp_conf, &sock);
 324         if (err < 0)
 325                 return ERR_PTR(err);
 326
 327         return sock;
 328 }
 329
 330 /* Create new listen socket if needed */
 331 static struct geneve_sock *geneve_socket_create(struct net *net, __be16 port,
 332                                                 geneve_rcv_t *rcv, void *data,
 333                                                 bool ipv6)
 334 {
 335         struct geneve_net *gn = net_generic(net, geneve_net_id);
 336         struct geneve_sock *gs;
 337         struct socket *sock;
 338         struct udp_tunnel_sock_cfg tunnel_cfg;
 339
 340         gs = kzalloc(sizeof(*gs), GFP_KERNEL);
 341         if (!gs)
 342                 return ERR_PTR(-ENOMEM);
 343
 344         sock = geneve_create_sock(net, ipv6, port);
 345         if (IS_ERR(sock)) {
 346                 kfree(gs);
 347                 return ERR_CAST(sock);
 348         }
 349
 350         gs->sock = sock;
 351         gs->refcnt = 1;
 352         gs->rcv = rcv;
 353         gs->rcv_data = data;
 354
 355         /* Initialize the geneve udp offloads structure */
 356         gs->udp_offloads.port = port;
 357         gs->udp_offloads.callbacks.gro_receive  = geneve_gro_receive;
 358         gs->udp_offloads.callbacks.gro_complete = geneve_gro_complete;
 359         geneve_notify_add_rx_port(gs);
 360
 361         /* Mark socket as an encapsulation socket */
 362         tunnel_cfg.sk_user_data = gs;
 363         tunnel_cfg.encap_type = 1;
 364         tunnel_cfg.encap_rcv = geneve_udp_encap_recv;
 365         tunnel_cfg.encap_destroy = NULL;
 366         setup_udp_tunnel_sock(net, sock, &tunnel_cfg);
 367
 368         list_add(&gs->list, &gn->sock_list);
 369
 370         return gs;
 371 }
 372
 373 struct geneve_sock *geneve_sock_add(struct net *net, __be16 port,
 374                                     geneve_rcv_t *rcv, void *data,
 375                                     bool no_share, bool ipv6)
 376 {
 377         struct geneve_sock *gs;
 378
 379         mutex_lock(&geneve_mutex);
 380
 381         gs = geneve_find_sock(net, ipv6 ? AF_INET6 : AF_INET, port);
 382         if (gs) {
 383                 if (!no_share && gs->rcv == rcv)
 384                         gs->refcnt++;
 385                 else
 386                         gs = ERR_PTR(-EBUSY);
 387         } else {
 388                 gs = geneve_socket_create(net, port, rcv, data, ipv6);
 389         }
 390
 391         mutex_unlock(&geneve_mutex);
 392
 393         return gs;
 394 }
 395 EXPORT_SYMBOL_GPL(geneve_sock_add);
 396
 397 void geneve_sock_release(struct geneve_sock *gs)
 398 {
 399         mutex_lock(&geneve_mutex);
 400
 401         if (--gs->refcnt)
 402                 goto unlock;
 403
 404         list_del(&gs->list);
 405         geneve_notify_del_rx_port(gs);
 406         udp_tunnel_sock_release(gs->sock);
 407         kfree_rcu(gs, rcu);
 408
 409 unlock:
 410         mutex_unlock(&geneve_mutex);
 411 }
 412 EXPORT_SYMBOL_GPL(geneve_sock_release);
 413
 414 static __net_init int geneve_init_net(struct net *net)
 415 {
 416         struct geneve_net *gn = net_generic(net, geneve_net_id);
 417
 418         INIT_LIST_HEAD(&gn->sock_list);
 419
 420         return 0;
 421 }
 422
 423 static struct pernet_operations geneve_net_ops = {
 424         .init = geneve_init_net,
 425         .id   = &geneve_net_id,
 426         .size = sizeof(struct geneve_net),
 427 };
 428
 429 static int __init geneve_init_module(void)
 430 {
 431         int rc;
 432
 433         rc = register_pernet_subsys(&geneve_net_ops);
 434         if (rc)
 435                 return rc;
 436
 437         pr_info("Geneve driver\n");
 438
 439         return 0;
 440 }
 441 module_init(geneve_init_module);
 442
 443 static void __exit geneve_cleanup_module(void)
 444 {
 445         unregister_pernet_subsys(&geneve_net_ops);
 446 }
 447 module_exit(geneve_cleanup_module);
 448
 449 MODULE_LICENSE("GPL");
 450 MODULE_AUTHOR("Jesse Gross <jesse@nicira.com>");
 451 MODULE_DESCRIPTION("Driver for GENEVE encapsulated traffic");
 452 MODULE_ALIAS_RTNL_LINK("geneve");