include/net/xfrm.h

   1 #ifndef _NET_XFRM_H
   2 #define _NET_XFRM_H
   3
   4 #include <linux/compiler.h>
   5 #include <linux/xfrm.h>
   6 #include <linux/spinlock.h>
   7 #include <linux/list.h>
   8 #include <linux/skbuff.h>
   9 #include <linux/socket.h>
  10 #include <linux/pfkeyv2.h>
  11 #include <linux/ipsec.h>
  12 #include <linux/in6.h>
  13 #include <linux/mutex.h>
  14 #include <linux/audit.h>
  15
  16 #include <net/sock.h>
  17 #include <net/dst.h>
  18 #include <net/ip.h>
  19 #include <net/route.h>
  20 #include <net/ipv6.h>
  21 #include <net/ip6_fib.h>
  22 #include <net/flow.h>
  23
  24 #include <linux/interrupt.h>
  25
  26 #ifdef CONFIG_XFRM_STATISTICS
  27 #include <net/snmp.h>
  28 #endif
  29
  30 #define XFRM_PROTO_ESP          50
  31 #define XFRM_PROTO_AH           51
  32 #define XFRM_PROTO_COMP         108
  33 #define XFRM_PROTO_IPIP         4
  34 #define XFRM_PROTO_IPV6         41
  35 #define XFRM_PROTO_ROUTING      IPPROTO_ROUTING
  36 #define XFRM_PROTO_DSTOPTS      IPPROTO_DSTOPTS
  37
  38 #define XFRM_ALIGN8(len)        (((len) + 7) & ~7)
  39 #define MODULE_ALIAS_XFRM_MODE(family, encap) \
  40         MODULE_ALIAS("xfrm-mode-" __stringify(family) "-" __stringify(encap))
  41 #define MODULE_ALIAS_XFRM_TYPE(family, proto) \
  42         MODULE_ALIAS("xfrm-type-" __stringify(family) "-" __stringify(proto))
  43
  44 #ifdef CONFIG_XFRM_STATISTICS
  45 #define XFRM_INC_STATS(net, field)      SNMP_INC_STATS((net)->mib.xfrm_statistics, field)
  46 #define XFRM_INC_STATS_BH(net, field)   SNMP_INC_STATS_BH((net)->mib.xfrm_statistics, field)
  47 #define XFRM_INC_STATS_USER(net, field) SNMP_INC_STATS_USER((net)-mib.xfrm_statistics, field)
  48 #else
  49 #define XFRM_INC_STATS(net, field)      ((void)(net))
  50 #define XFRM_INC_STATS_BH(net, field)   ((void)(net))
  51 #define XFRM_INC_STATS_USER(net, field) ((void)(net))
  52 #endif
  53
  54 extern struct mutex xfrm_cfg_mutex;
  55
  56 /* Organization of SPD aka "XFRM rules"
  57    ------------------------------------
  58
  59    Basic objects:
  60    - policy rule, struct xfrm_policy (=SPD entry)
  61    - bundle of transformations, struct dst_entry == struct xfrm_dst (=SA bundle)
  62    - instance of a transformer, struct xfrm_state (=SA)
  63    - template to clone xfrm_state, struct xfrm_tmpl
  64
  65    SPD is plain linear list of xfrm_policy rules, ordered by priority.
  66    (To be compatible with existing pfkeyv2 implementations,
  67    many rules with priority of 0x7fffffff are allowed to exist and
  68    such rules are ordered in an unpredictable way, thanks to bsd folks.)
  69
  70    Lookup is plain linear search until the first match with selector.
  71
  72    If "action" is "block", then we prohibit the flow, otherwise:
  73    if "xfrms_nr" is zero, the flow passes untransformed. Otherwise,
  74    policy entry has list of up to XFRM_MAX_DEPTH transformations,
  75    described by templates xfrm_tmpl. Each template is resolved
  76    to a complete xfrm_state (see below) and we pack bundle of transformations
  77    to a dst_entry returned to requestor.
  78
  79    dst -. xfrm  .-> xfrm_state #1
  80     |---. child .-> dst -. xfrm .-> xfrm_state #2
  81                      |---. child .-> dst -. xfrm .-> xfrm_state #3
  82                                       |---. child .-> NULL
  83
  84    Bundles are cached at xrfm_policy struct (field ->bundles).
  85
  86
  87    Resolution of xrfm_tmpl
  88    -----------------------
  89    Template contains:
  90    1. ->mode            Mode: transport or tunnel
  91    2. ->id.proto        Protocol: AH/ESP/IPCOMP
  92    3. ->id.daddr        Remote tunnel endpoint, ignored for transport mode.
  93       Q: allow to resolve security gateway?
  94    4. ->id.spi          If not zero, static SPI.
  95    5. ->saddr           Local tunnel endpoint, ignored for transport mode.
  96    6. ->algos           List of allowed algos. Plain bitmask now.
  97       Q: ealgos, aalgos, calgos. What a mess...
  98    7. ->share           Sharing mode.
  99       Q: how to implement private sharing mode? To add struct sock* to
 100       flow id?
 101
 102    Having this template we search through SAD searching for entries
 103    with appropriate mode/proto/algo, permitted by selector.
 104    If no appropriate entry found, it is requested from key manager.
 105
 106    PROBLEMS:
 107    Q: How to find all the bundles referring to a physical path for
 108       PMTU discovery? Seems, dst should contain list of all parents...
 109       and enter to infinite locking hierarchy disaster.
 110       No! It is easier, we will not search for them, let them find us.
 111       We add genid to each dst plus pointer to genid of raw IP route,
 112       pmtu disc will update pmtu on raw IP route and increase its genid.
 113       dst_check() will see this for top level and trigger resyncing
 114       metrics. Plus, it will be made via sk->sk_dst_cache. Solved.
 115  */
 116
 117 struct xfrm_state_walk {
 118         struct list_head        all;
 119         u8                      state;
 120         union {
 121                 u8              dying;
 122                 u8              proto;
 123         };
 124         u32                     seq;
 125 };
 126
 127 /* Full description of state of transformer. */
 128 struct xfrm_state {
 129 #ifdef CONFIG_NET_NS
 130         struct net              *xs_net;
 131 #endif
 132         union {
 133                 struct hlist_node       gclist;
 134                 struct hlist_node       bydst;
 135         };
 136         struct hlist_node       bysrc;
 137         struct hlist_node       byspi;
 138
 139         atomic_t                refcnt;
 140         spinlock_t              lock;
 141
 142         struct xfrm_id          id;
 143         struct xfrm_selector    sel;
 144         struct xfrm_mark        mark;
 145
 146         u32                     genid;
 147
 148         /* Key manager bits */
 149         struct xfrm_state_walk  km;
 150
 151         /* Parameters of this state. */
 152         struct {
 153                 u32             reqid;
 154                 u8              mode;
 155                 u8              replay_window;
 156                 u8              aalgo, ealgo, calgo;
 157                 u8              flags;
 158                 u16             family;
 159                 xfrm_address_t  saddr;
 160                 int             header_len;
 161                 int             trailer_len;
 162         } props;
 163
 164         struct xfrm_lifetime_cfg lft;
 165
 166         /* Data for transformer */
 167         struct xfrm_algo_auth   *aalg;
 168         struct xfrm_algo        *ealg;
 169         struct xfrm_algo        *calg;
 170         struct xfrm_algo_aead   *aead;
 171
 172         /* Data for encapsulator */
 173         struct xfrm_encap_tmpl  *encap;
 174
 175         /* Data for care-of address */
 176         xfrm_address_t  *coaddr;
 177
 178         /* IPComp needs an IPIP tunnel for handling uncompressed packets */
 179         struct xfrm_state       *tunnel;
 180
 181         /* If a tunnel, number of users + 1 */
 182         atomic_t                tunnel_users;
 183
 184         /* State for replay detection */
 185         struct xfrm_replay_state replay;
 186
 187         /* Replay detection state at the time we sent the last notification */
 188         struct xfrm_replay_state preplay;
 189
 190         /* internal flag that only holds state for delayed aevent at the
 191          * moment
 192         */
 193         u32                     xflags;
 194
 195         /* Replay detection notification settings */
 196         u32                     replay_maxage;
 197         u32                     replay_maxdiff;
 198
 199         /* Replay detection notification timer */
 200         struct timer_list       rtimer;
 201
 202         /* Statistics */
 203         struct xfrm_stats       stats;
 204
 205         struct xfrm_lifetime_cur curlft;
 206         struct tasklet_hrtimer  mtimer;
 207
 208         /* Last used time */
 209         unsigned long           lastused;
 210
 211         /* Reference to data common to all the instances of this
 212          * transformer. */
 213         const struct xfrm_type  *type;
 214         struct xfrm_mode        *inner_mode;
 215         struct xfrm_mode        *inner_mode_iaf;
 216         struct xfrm_mode        *outer_mode;
 217
 218         /* Security context */
 219         struct xfrm_sec_ctx     *security;
 220
 221         /* Private data of this transformer, format is opaque,
 222          * interpreted by xfrm_type methods. */
 223         void                    *data;
 224 };
 225
 226 static inline struct net *xs_net(struct xfrm_state *x)
 227 {
 228         return read_pnet(&x->xs_net);
 229 }
 230
 231 /* xflags - make enum if more show up */
 232 #define XFRM_TIME_DEFER 1
 233
 234 enum {
 235         XFRM_STATE_VOID,
 236         XFRM_STATE_ACQ,
 237         XFRM_STATE_VALID,
 238         XFRM_STATE_ERROR,
 239         XFRM_STATE_EXPIRED,
 240         XFRM_STATE_DEAD
 241 };
 242
 243 /* callback structure passed from either netlink or pfkey */
 244 struct km_event {
 245         union {
 246                 u32 hard;
 247                 u32 proto;
 248                 u32 byid;
 249                 u32 aevent;
 250                 u32 type;
 251         } data;
 252
 253         u32     seq;
 254         u32     pid;
 255         u32     event;
 256         struct net *net;
 257 };
 258
 259 struct net_device;
 260 struct xfrm_type;
 261 struct xfrm_dst;
 262 struct xfrm_policy_afinfo {
 263         unsigned short          family;
 264         struct dst_ops          *dst_ops;
 265         void                    (*garbage_collect)(struct net *net);
 266         struct dst_entry        *(*dst_lookup)(struct net *net, int tos,
 267                                                xfrm_address_t *saddr,
 268                                                xfrm_address_t *daddr);
 269         int                     (*get_saddr)(struct net *net, xfrm_address_t *saddr, xfrm_address_t *daddr);
 270         struct dst_entry        *(*find_bundle)(struct flowi *fl, struct xfrm_policy *policy);
 271         void                    (*decode_session)(struct sk_buff *skb,
 272                                                   struct flowi *fl,
 273                                                   int reverse);
 274         int                     (*get_tos)(struct flowi *fl);
 275         int                     (*init_path)(struct xfrm_dst *path,
 276                                              struct dst_entry *dst,
 277                                              int nfheader_len);
 278         int                     (*fill_dst)(struct xfrm_dst *xdst,
 279                                             struct net_device *dev,
 280                                             struct flowi *fl);
 281 };
 282
 283 extern int xfrm_policy_register_afinfo(struct xfrm_policy_afinfo *afinfo);
 284 extern int xfrm_policy_unregister_afinfo(struct xfrm_policy_afinfo *afinfo);
 285 extern void km_policy_notify(struct xfrm_policy *xp, int dir, struct km_event *c);
 286 extern void km_state_notify(struct xfrm_state *x, struct km_event *c);
 287
 288 struct xfrm_tmpl;
 289 extern int km_query(struct xfrm_state *x, struct xfrm_tmpl *t, struct xfrm_policy *pol);
 290 extern void km_state_expired(struct xfrm_state *x, int hard, u32 pid);
 291 extern int __xfrm_state_delete(struct xfrm_state *x);
 292
 293 struct xfrm_state_afinfo {
 294         unsigned int            family;
 295         unsigned int            proto;
 296         __be16                  eth_proto;
 297         struct module           *owner;
 298         const struct xfrm_type  *type_map[IPPROTO_MAX];
 299         struct xfrm_mode        *mode_map[XFRM_MODE_MAX];
 300         int                     (*init_flags)(struct xfrm_state *x);
 301         void                    (*init_tempsel)(struct xfrm_state *x, struct flowi *fl,
 302                                                 struct xfrm_tmpl *tmpl,
 303                                                 xfrm_address_t *daddr, xfrm_address_t *saddr);
 304         int                     (*tmpl_sort)(struct xfrm_tmpl **dst, struct xfrm_tmpl **src, int n);
 305         int                     (*state_sort)(struct xfrm_state **dst, struct xfrm_state **src, int n);
 306         int                     (*output)(struct sk_buff *skb);
 307         int                     (*extract_input)(struct xfrm_state *x,
 308                                                  struct sk_buff *skb);
 309         int                     (*extract_output)(struct xfrm_state *x,
 310                                                   struct sk_buff *skb);
 311         int                     (*transport_finish)(struct sk_buff *skb,
 312                                                     int async);
 313 };
 314
 315 extern int xfrm_state_register_afinfo(struct xfrm_state_afinfo *afinfo);
 316 extern int xfrm_state_unregister_afinfo(struct xfrm_state_afinfo *afinfo);
 317
 318 extern void xfrm_state_delete_tunnel(struct xfrm_state *x);
 319
 320 struct xfrm_type {
 321         char                    *description;
 322         struct module           *owner;
 323         u8                      proto;
 324         u8                      flags;
 325 #define XFRM_TYPE_NON_FRAGMENT  1
 326 #define XFRM_TYPE_REPLAY_PROT   2
 327 #define XFRM_TYPE_LOCAL_COADDR  4
 328 #define XFRM_TYPE_REMOTE_COADDR 8
 329
 330         int                     (*init_state)(struct xfrm_state *x);
 331         void                    (*destructor)(struct xfrm_state *);
 332         int                     (*input)(struct xfrm_state *, struct sk_buff *skb);
 333         int                     (*output)(struct xfrm_state *, struct sk_buff *pskb);
 334         int                     (*reject)(struct xfrm_state *, struct sk_buff *, struct flowi *);
 335         int                     (*hdr_offset)(struct xfrm_state *, struct sk_buff *, u8 **);
 336         /* Estimate maximal size of result of transformation of a dgram */
 337         u32                     (*get_mtu)(struct xfrm_state *, int size);
 338 };
 339
 340 extern int xfrm_register_type(const struct xfrm_type *type, unsigned short family);
 341 extern int xfrm_unregister_type(const struct xfrm_type *type, unsigned short family);
 342
 343 struct xfrm_mode {
 344         /*
 345          * Remove encapsulation header.
 346          *
 347          * The IP header will be moved over the top of the encapsulation
 348          * header.
 349          *
 350          * On entry, the transport header shall point to where the IP header
 351          * should be and the network header shall be set to where the IP
 352          * header currently is.  skb->data shall point to the start of the
 353          * payload.
 354          */
 355         int (*input2)(struct xfrm_state *x, struct sk_buff *skb);
 356
 357         /*
 358          * This is the actual input entry point.
 359          *
 360          * For transport mode and equivalent this would be identical to
 361          * input2 (which does not need to be set).  While tunnel mode
 362          * and equivalent would set this to the tunnel encapsulation function
 363          * xfrm4_prepare_input that would in turn call input2.
 364          */
 365         int (*input)(struct xfrm_state *x, struct sk_buff *skb);
 366
 367         /*
 368          * Add encapsulation header.
 369          *
 370          * On exit, the transport header will be set to the start of the
 371          * encapsulation header to be filled in by x->type->output and
 372          * the mac header will be set to the nextheader (protocol for
 373          * IPv4) field of the extension header directly preceding the
 374          * encapsulation header, or in its absence, that of the top IP
 375          * header.  The value of the network header will always point
 376          * to the top IP header while skb->data will point to the payload.
 377          */
 378         int (*output2)(struct xfrm_state *x,struct sk_buff *skb);
 379
 380         /*
 381          * This is the actual output entry point.
 382          *
 383          * For transport mode and equivalent this would be identical to
 384          * output2 (which does not need to be set).  While tunnel mode
 385          * and equivalent would set this to a tunnel encapsulation function
 386          * (xfrm4_prepare_output or xfrm6_prepare_output) that would in turn
 387          * call output2.
 388          */
 389         int (*output)(struct xfrm_state *x, struct sk_buff *skb);
 390
 391         struct xfrm_state_afinfo *afinfo;
 392         struct module *owner;
 393         unsigned int encap;
 394         int flags;
 395 };
 396
 397 /* Flags for xfrm_mode. */
 398 enum {
 399         XFRM_MODE_FLAG_TUNNEL = 1,
 400 };
 401
 402 extern int xfrm_register_mode(struct xfrm_mode *mode, int family);
 403 extern int xfrm_unregister_mode(struct xfrm_mode *mode, int family);
 404
 405 static inline int xfrm_af2proto(unsigned int family)
 406 {
 407         switch(family) {
 408         case AF_INET:
 409                 return IPPROTO_IPIP;
 410         case AF_INET6:
 411                 return IPPROTO_IPV6;
 412         default:
 413                 return 0;
 414         }
 415 }
 416
 417 static inline struct xfrm_mode *xfrm_ip2inner_mode(struct xfrm_state *x, int ipproto)
 418 {
 419         if ((ipproto == IPPROTO_IPIP && x->props.family == AF_INET) ||
 420             (ipproto == IPPROTO_IPV6 && x->props.family == AF_INET6))
 421                 return x->inner_mode;
 422         else
 423                 return x->inner_mode_iaf;
 424 }
 425
 426 struct xfrm_tmpl {
 427 /* id in template is interpreted as:
 428  * daddr - destination of tunnel, may be zero for transport mode.
 429  * spi   - zero to acquire spi. Not zero if spi is static, then
 430  *         daddr must be fixed too.
 431  * proto - AH/ESP/IPCOMP
 432  */
 433         struct xfrm_id          id;
 434
 435 /* Source address of tunnel. Ignored, if it is not a tunnel. */
 436         xfrm_address_t          saddr;
 437
 438         unsigned short          encap_family;
 439
 440         u32                     reqid;
 441
 442 /* Mode: transport, tunnel etc. */
 443         u8                      mode;
 444
 445 /* Sharing mode: unique, this session only, this user only etc. */
 446         u8                      share;
 447
 448 /* May skip this transfomration if no SA is found */
 449         u8                      optional;
 450
 451 /* Skip aalgos/ealgos/calgos checks. */
 452         u8                      allalgs;
 453
 454 /* Bit mask of algos allowed for acquisition */
 455         u32                     aalgos;
 456         u32                     ealgos;
 457         u32                     calgos;
 458 };
 459
 460 #define XFRM_MAX_DEPTH          6
 461
 462 struct xfrm_policy_walk_entry {
 463         struct list_head        all;
 464         u8                      dead;
 465 };
 466
 467 struct xfrm_policy_walk {
 468         struct xfrm_policy_walk_entry walk;
 469         u8 type;
 470         u32 seq;
 471 };
 472
 473 struct xfrm_policy {
 474 #ifdef CONFIG_NET_NS
 475         struct net              *xp_net;
 476 #endif
 477         struct hlist_node       bydst;
 478         struct hlist_node       byidx;
 479
 480         /* This lock only affects elements except for entry. */
 481         rwlock_t                lock;
 482         atomic_t                refcnt;
 483         struct timer_list       timer;
 484
 485         struct flow_cache_object flo;
 486         u32                     priority;
 487         u32                     index;
 488         struct xfrm_mark        mark;
 489         struct xfrm_selector    selector;
 490         struct xfrm_lifetime_cfg lft;
 491         struct xfrm_lifetime_cur curlft;
 492         struct dst_entry       *bundles;
 493         struct xfrm_policy_walk_entry walk;
 494         u8                      type;
 495         u8                      action;
 496         u8                      flags;
 497         u8                      xfrm_nr;
 498         u16                     family;
 499         struct xfrm_sec_ctx     *security;
 500         struct xfrm_tmpl        xfrm_vec[XFRM_MAX_DEPTH];
 501 };
 502
 503 static inline struct net *xp_net(struct xfrm_policy *xp)
 504 {
 505         return read_pnet(&xp->xp_net);
 506 }
 507
 508 struct xfrm_kmaddress {
 509         xfrm_address_t          local;
 510         xfrm_address_t          remote;
 511         u32                     reserved;
 512         u16                     family;
 513 };
 514
 515 struct xfrm_migrate {
 516         xfrm_address_t          old_daddr;
 517         xfrm_address_t          old_saddr;
 518         xfrm_address_t          new_daddr;
 519         xfrm_address_t          new_saddr;
 520         u8                      proto;
 521         u8                      mode;
 522         u16                     reserved;
 523         u32                     reqid;
 524         u16                     old_family;
 525         u16                     new_family;
 526 };
 527
 528 #define XFRM_KM_TIMEOUT                30
 529 /* which seqno */
 530 #define XFRM_REPLAY_SEQ         1
 531 #define XFRM_REPLAY_OSEQ        2
 532 #define XFRM_REPLAY_SEQ_MASK    3
 533 /* what happened */
 534 #define XFRM_REPLAY_UPDATE      XFRM_AE_CR
 535 #define XFRM_REPLAY_TIMEOUT     XFRM_AE_CE
 536
 537 /* default aevent timeout in units of 100ms */
 538 #define XFRM_AE_ETIME                   10
 539 /* Async Event timer multiplier */
 540 #define XFRM_AE_ETH_M                   10
 541 /* default seq threshold size */
 542 #define XFRM_AE_SEQT_SIZE               2
 543
 544 struct xfrm_mgr {
 545         struct list_head        list;
 546         char                    *id;
 547         int                     (*notify)(struct xfrm_state *x, struct km_event *c);
 548         int                     (*acquire)(struct xfrm_state *x, struct xfrm_tmpl *, struct xfrm_policy *xp, int dir);
 549         struct xfrm_policy      *(*compile_policy)(struct sock *sk, int opt, u8 *data, int len, int *dir);
 550         int                     (*new_mapping)(struct xfrm_state *x, xfrm_address_t *ipaddr, __be16 sport);
 551         int                     (*notify_policy)(struct xfrm_policy *x, int dir, struct km_event *c);
 552         int                     (*report)(struct net *net, u8 proto, struct xfrm_selector *sel, xfrm_address_t *addr);
 553         int                     (*migrate)(struct xfrm_selector *sel, u8 dir, u8 type, struct xfrm_migrate *m, int num_bundles, struct xfrm_kmaddress *k);
 554 };
 555
 556 extern int xfrm_register_km(struct xfrm_mgr *km);
 557 extern int xfrm_unregister_km(struct xfrm_mgr *km);
 558
 559 /*
 560  * This structure is used for the duration where packets are being
 561  * transformed by IPsec.  As soon as the packet leaves IPsec the
 562  * area beyond the generic IP part may be overwritten.
 563  */
 564 struct xfrm_skb_cb {
 565         union {
 566                 struct inet_skb_parm h4;
 567                 struct inet6_skb_parm h6;
 568         } header;
 569
 570         /* Sequence number for replay protection. */
 571         union {
 572                 u64 output;
 573                 __be32 input;
 574         } seq;
 575 };
 576
 577 #define XFRM_SKB_CB(__skb) ((struct xfrm_skb_cb *)&((__skb)->cb[0]))
 578
 579 /*
 580  * This structure is used by the afinfo prepare_input/prepare_output functions
 581  * to transmit header information to the mode input/output functions.
 582  */
 583 struct xfrm_mode_skb_cb {
 584         union {
 585                 struct inet_skb_parm h4;
 586                 struct inet6_skb_parm h6;
 587         } header;
 588
 589         /* Copied from header for IPv4, always set to zero and DF for IPv6. */
 590         __be16 id;
 591         __be16 frag_off;
 592
 593         /* IP header length (excluding options or extension headers). */
 594         u8 ihl;
 595
 596         /* TOS for IPv4, class for IPv6. */
 597         u8 tos;
 598
 599         /* TTL for IPv4, hop limitfor IPv6. */
 600         u8 ttl;
 601
 602         /* Protocol for IPv4, NH for IPv6. */
 603         u8 protocol;
 604
 605         /* Option length for IPv4, zero for IPv6. */
 606         u8 optlen;
 607
 608         /* Used by IPv6 only, zero for IPv4. */
 609         u8 flow_lbl[3];
 610 };
 611
 612 #define XFRM_MODE_SKB_CB(__skb) ((struct xfrm_mode_skb_cb *)&((__skb)->cb[0]))
 613
 614 /*
 615  * This structure is used by the input processing to locate the SPI and
 616  * related information.
 617  */
 618 struct xfrm_spi_skb_cb {
 619         union {
 620                 struct inet_skb_parm h4;
 621                 struct inet6_skb_parm h6;
 622         } header;
 623
 624         unsigned int daddroff;
 625         unsigned int family;
 626 };
 627
 628 #define XFRM_SPI_SKB_CB(__skb) ((struct xfrm_spi_skb_cb *)&((__skb)->cb[0]))
 629
 630 /* Audit Information */
 631 struct xfrm_audit {
 632         u32     secid;
 633         uid_t   loginuid;
 634         u32     sessionid;
 635 };
 636
 637 #ifdef CONFIG_AUDITSYSCALL
 638 static inline struct audit_buffer *xfrm_audit_start(const char *op)
 639 {
 640         struct audit_buffer *audit_buf = NULL;
 641
 642         if (audit_enabled == 0)
 643                 return NULL;
 644         audit_buf = audit_log_start(current->audit_context, GFP_ATOMIC,
 645                                     AUDIT_MAC_IPSEC_EVENT);
 646         if (audit_buf == NULL)
 647                 return NULL;
 648         audit_log_format(audit_buf, "op=%s", op);
 649         return audit_buf;
 650 }
 651
 652 static inline void xfrm_audit_helper_usrinfo(uid_t auid, u32 ses, u32 secid,
 653                                              struct audit_buffer *audit_buf)
 654 {
 655         char *secctx;
 656         u32 secctx_len;
 657
 658         audit_log_format(audit_buf, " auid=%u ses=%u", auid, ses);
 659         if (secid != 0 &&
 660             security_secid_to_secctx(secid, &secctx, &secctx_len) == 0) {
 661                 audit_log_format(audit_buf, " subj=%s", secctx);
 662                 security_release_secctx(secctx, secctx_len);
 663         } else
 664                 audit_log_task_context(audit_buf);
 665 }
 666
 667 extern void xfrm_audit_policy_add(struct xfrm_policy *xp, int result,
 668                                   u32 auid, u32 ses, u32 secid);
 669 extern void xfrm_audit_policy_delete(struct xfrm_policy *xp, int result,
 670                                   u32 auid, u32 ses, u32 secid);
 671 extern void xfrm_audit_state_add(struct xfrm_state *x, int result,
 672                                  u32 auid, u32 ses, u32 secid);
 673 extern void xfrm_audit_state_delete(struct xfrm_state *x, int result,
 674                                     u32 auid, u32 ses, u32 secid);
 675 extern void xfrm_audit_state_replay_overflow(struct xfrm_state *x,
 676                                              struct sk_buff *skb);
 677 extern void xfrm_audit_state_notfound_simple(struct sk_buff *skb, u16 family);
 678 extern void xfrm_audit_state_notfound(struct sk_buff *skb, u16 family,
 679                                       __be32 net_spi, __be32 net_seq);
 680 extern void xfrm_audit_state_icvfail(struct xfrm_state *x,
 681                                      struct sk_buff *skb, u8 proto);
 682 #else
 683
 684 static inline void xfrm_audit_policy_add(struct xfrm_policy *xp, int result,
 685                                   u32 auid, u32 ses, u32 secid)
 686 {
 687 }
 688
 689 static inline void xfrm_audit_policy_delete(struct xfrm_policy *xp, int result,
 690                                   u32 auid, u32 ses, u32 secid)
 691 {
 692 }
 693
 694 static inline void xfrm_audit_state_add(struct xfrm_state *x, int result,
 695                                  u32 auid, u32 ses, u32 secid)
 696 {
 697 }
 698
 699 static inline void xfrm_audit_state_delete(struct xfrm_state *x, int result,
 700                                     u32 auid, u32 ses, u32 secid)
 701 {
 702 }
 703
 704 static inline void xfrm_audit_state_replay_overflow(struct xfrm_state *x,
 705                                              struct sk_buff *skb)
 706 {
 707 }
 708
 709 static inline void xfrm_audit_state_notfound_simple(struct sk_buff *skb,
 710                                       u16 family)
 711 {
 712 }
 713
 714 static inline void xfrm_audit_state_notfound(struct sk_buff *skb, u16 family,
 715                                       __be32 net_spi, __be32 net_seq)
 716 {
 717 }
 718
 719 static inline void xfrm_audit_state_icvfail(struct xfrm_state *x,
 720                                      struct sk_buff *skb, u8 proto)
 721 {
 722 }
 723 #endif /* CONFIG_AUDITSYSCALL */
 724
 725 static inline void xfrm_pol_hold(struct xfrm_policy *policy)
 726 {
 727         if (likely(policy != NULL))
 728                 atomic_inc(&policy->refcnt);
 729 }
 730
 731 extern void xfrm_policy_destroy(struct xfrm_policy *policy);
 732
 733 static inline void xfrm_pol_put(struct xfrm_policy *policy)
 734 {
 735         if (atomic_dec_and_test(&policy->refcnt))
 736                 xfrm_policy_destroy(policy);
 737 }
 738
 739 #ifdef CONFIG_XFRM_SUB_POLICY
 740 static inline void xfrm_pols_put(struct xfrm_policy **pols, int npols)
 741 {
 742         int i;
 743         for (i = npols - 1; i >= 0; --i)
 744                 xfrm_pol_put(pols[i]);
 745 }
 746 #else
 747 static inline void xfrm_pols_put(struct xfrm_policy **pols, int npols)
 748 {
 749         xfrm_pol_put(pols[0]);
 750 }
 751 #endif
 752
 753 extern void __xfrm_state_destroy(struct xfrm_state *);
 754
 755 static inline void __xfrm_state_put(struct xfrm_state *x)
 756 {
 757         atomic_dec(&x->refcnt);
 758 }
 759
 760 static inline void xfrm_state_put(struct xfrm_state *x)
 761 {
 762         if (atomic_dec_and_test(&x->refcnt))
 763                 __xfrm_state_destroy(x);
 764 }
 765
 766 static inline void xfrm_state_hold(struct xfrm_state *x)
 767 {
 768         atomic_inc(&x->refcnt);
 769 }
 770
 771 static __inline__ int addr_match(void *token1, void *token2, int prefixlen)
 772 {
 773         __be32 *a1 = token1;
 774         __be32 *a2 = token2;
 775         int pdw;
 776         int pbi;
 777
 778         pdw = prefixlen >> 5;     /* num of whole u32 in prefix */
 779         pbi = prefixlen &  0x1f;  /* num of bits in incomplete u32 in prefix */
 780
 781         if (pdw)
 782                 if (memcmp(a1, a2, pdw << 2))
 783                         return 0;
 784
 785         if (pbi) {
 786                 __be32 mask;
 787
 788                 mask = htonl((0xffffffff) << (32 - pbi));
 789
 790                 if ((a1[pdw] ^ a2[pdw]) & mask)
 791                         return 0;
 792         }
 793
 794         return 1;
 795 }
 796
 797 static __inline__
 798 __be16 xfrm_flowi_sport(struct flowi *fl)
 799 {
 800         __be16 port;
 801         switch(fl->proto) {
 802         case IPPROTO_TCP:
 803         case IPPROTO_UDP:
 804         case IPPROTO_UDPLITE:
 805         case IPPROTO_SCTP:
 806                 port = fl->fl_ip_sport;
 807                 break;
 808         case IPPROTO_ICMP:
 809         case IPPROTO_ICMPV6:
 810                 port = htons(fl->fl_icmp_type);
 811                 break;
 812         case IPPROTO_MH:
 813                 port = htons(fl->fl_mh_type);
 814                 break;
 815         default:
 816                 port = 0;       /*XXX*/
 817         }
 818         return port;
 819 }
 820
 821 static __inline__
 822 __be16 xfrm_flowi_dport(struct flowi *fl)
 823 {
 824         __be16 port;
 825         switch(fl->proto) {
 826         case IPPROTO_TCP:
 827         case IPPROTO_UDP:
 828         case IPPROTO_UDPLITE:
 829         case IPPROTO_SCTP:
 830                 port = fl->fl_ip_dport;
 831                 break;
 832         case IPPROTO_ICMP:
 833         case IPPROTO_ICMPV6:
 834                 port = htons(fl->fl_icmp_code);
 835                 break;
 836         default:
 837                 port = 0;       /*XXX*/
 838         }
 839         return port;
 840 }
 841
 842 extern int xfrm_selector_match(struct xfrm_selector *sel, struct flowi *fl,
 843                                unsigned short family);
 844
 845 #ifdef CONFIG_SECURITY_NETWORK_XFRM
 846 /*      If neither has a context --> match
 847  *      Otherwise, both must have a context and the sids, doi, alg must match
 848  */
 849 static inline int xfrm_sec_ctx_match(struct xfrm_sec_ctx *s1, struct xfrm_sec_ctx *s2)
 850 {
 851         return ((!s1 && !s2) ||
 852                 (s1 && s2 &&
 853                  (s1->ctx_sid == s2->ctx_sid) &&
 854                  (s1->ctx_doi == s2->ctx_doi) &&
 855                  (s1->ctx_alg == s2->ctx_alg)));
 856 }
 857 #else
 858 static inline int xfrm_sec_ctx_match(struct xfrm_sec_ctx *s1, struct xfrm_sec_ctx *s2)
 859 {
 860         return 1;
 861 }
 862 #endif
 863
 864 /* A struct encoding bundle of transformations to apply to some set of flow.
 865  *
 866  * dst->child points to the next element of bundle.
 867  * dst->xfrm  points to an instanse of transformer.
 868  *
 869  * Due to unfortunate limitations of current routing cache, which we
 870  * have no time to fix, it mirrors struct rtable and bound to the same
 871  * routing key, including saddr,daddr. However, we can have many of
 872  * bundles differing by session id. All the bundles grow from a parent
 873  * policy rule.
 874  */
 875 struct xfrm_dst {
 876         union {
 877                 struct dst_entry        dst;
 878                 struct rtable           rt;
 879                 struct rt6_info         rt6;
 880         } u;
 881         struct dst_entry *route;
 882 #ifdef CONFIG_XFRM_SUB_POLICY
 883         struct flowi *origin;
 884         struct xfrm_selector *partner;
 885 #endif
 886         u32 genid;
 887         u32 route_mtu_cached;
 888         u32 child_mtu_cached;
 889         u32 route_cookie;
 890         u32 path_cookie;
 891 };
 892
 893 #ifdef CONFIG_XFRM
 894 static inline void xfrm_dst_destroy(struct xfrm_dst *xdst)
 895 {
 896         dst_release(xdst->route);
 897         if (likely(xdst->u.dst.xfrm))
 898                 xfrm_state_put(xdst->u.dst.xfrm);
 899 #ifdef CONFIG_XFRM_SUB_POLICY
 900         kfree(xdst->origin);
 901         xdst->origin = NULL;
 902         kfree(xdst->partner);
 903         xdst->partner = NULL;
 904 #endif
 905 }
 906 #endif
 907
 908 extern void xfrm_dst_ifdown(struct dst_entry *dst, struct net_device *dev);
 909
 910 struct sec_path {
 911         atomic_t                refcnt;
 912         int                     len;
 913         struct xfrm_state       *xvec[XFRM_MAX_DEPTH];
 914 };
 915
 916 static inline struct sec_path *
 917 secpath_get(struct sec_path *sp)
 918 {
 919         if (sp)
 920                 atomic_inc(&sp->refcnt);
 921         return sp;
 922 }
 923
 924 extern void __secpath_destroy(struct sec_path *sp);
 925
 926 static inline void
 927 secpath_put(struct sec_path *sp)
 928 {
 929         if (sp && atomic_dec_and_test(&sp->refcnt))
 930                 __secpath_destroy(sp);
 931 }
 932
 933 extern struct sec_path *secpath_dup(struct sec_path *src);
 934
 935 static inline void
 936 secpath_reset(struct sk_buff *skb)
 937 {
 938 #ifdef CONFIG_XFRM
 939         secpath_put(skb->sp);
 940         skb->sp = NULL;
 941 #endif
 942 }
 943
 944 static inline int
 945 xfrm_addr_any(xfrm_address_t *addr, unsigned short family)
 946 {
 947         switch (family) {
 948         case AF_INET:
 949                 return addr->a4 == 0;
 950         case AF_INET6:
 951                 return ipv6_addr_any((struct in6_addr *)&addr->a6);
 952         }
 953         return 0;
 954 }
 955
 956 static inline int
 957 __xfrm4_state_addr_cmp(struct xfrm_tmpl *tmpl, struct xfrm_state *x)
 958 {
 959         return  (tmpl->saddr.a4 &&
 960                  tmpl->saddr.a4 != x->props.saddr.a4);
 961 }
 962
 963 static inline int
 964 __xfrm6_state_addr_cmp(struct xfrm_tmpl *tmpl, struct xfrm_state *x)
 965 {
 966         return  (!ipv6_addr_any((struct in6_addr*)&tmpl->saddr) &&
 967                  ipv6_addr_cmp((struct in6_addr *)&tmpl->saddr, (struct in6_addr*)&x->props.saddr));
 968 }
 969
 970 static inline int
 971 xfrm_state_addr_cmp(struct xfrm_tmpl *tmpl, struct xfrm_state *x, unsigned short family)
 972 {
 973         switch (family) {
 974         case AF_INET:
 975                 return __xfrm4_state_addr_cmp(tmpl, x);
 976         case AF_INET6:
 977                 return __xfrm6_state_addr_cmp(tmpl, x);
 978         }
 979         return !0;
 980 }
 981
 982 #ifdef CONFIG_XFRM
 983 extern int __xfrm_policy_check(struct sock *, int dir, struct sk_buff *skb, unsigned short family);
 984
 985 static inline int __xfrm_policy_check2(struct sock *sk, int dir,
 986                                        struct sk_buff *skb,
 987                                        unsigned int family, int reverse)
 988 {
 989         struct net *net = dev_net(skb->dev);
 990         int ndir = dir | (reverse ? XFRM_POLICY_MASK + 1 : 0);
 991
 992         if (sk && sk->sk_policy[XFRM_POLICY_IN])
 993                 return __xfrm_policy_check(sk, ndir, skb, family);
 994
 995         return  (!net->xfrm.policy_count[dir] && !skb->sp) ||
 996                 (skb_dst(skb)->flags & DST_NOPOLICY) ||
 997                 __xfrm_policy_check(sk, ndir, skb, family);
 998 }
 999
1000 static inline int xfrm_policy_check(struct sock *sk, int dir, struct sk_buff *skb, unsigned short family)
1001 {
1002         return __xfrm_policy_check2(sk, dir, skb, family, 0);
1003 }
1004
1005 static inline int xfrm4_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1006 {
1007         return xfrm_policy_check(sk, dir, skb, AF_INET);
1008 }
1009
1010 static inline int xfrm6_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1011 {
1012         return xfrm_policy_check(sk, dir, skb, AF_INET6);
1013 }
1014
1015 static inline int xfrm4_policy_check_reverse(struct sock *sk, int dir,
1016                                              struct sk_buff *skb)
1017 {
1018         return __xfrm_policy_check2(sk, dir, skb, AF_INET, 1);
1019 }
1020
1021 static inline int xfrm6_policy_check_reverse(struct sock *sk, int dir,
1022                                              struct sk_buff *skb)
1023 {
1024         return __xfrm_policy_check2(sk, dir, skb, AF_INET6, 1);
1025 }
1026
1027 extern int __xfrm_decode_session(struct sk_buff *skb, struct flowi *fl,
1028                                  unsigned int family, int reverse);
1029
1030 static inline int xfrm_decode_session(struct sk_buff *skb, struct flowi *fl,
1031                                       unsigned int family)
1032 {
1033         return __xfrm_decode_session(skb, fl, family, 0);
1034 }
1035
1036 static inline int xfrm_decode_session_reverse(struct sk_buff *skb,
1037                                               struct flowi *fl,
1038                                               unsigned int family)
1039 {
1040         return __xfrm_decode_session(skb, fl, family, 1);
1041 }
1042
1043 extern int __xfrm_route_forward(struct sk_buff *skb, unsigned short family);
1044
1045 static inline int xfrm_route_forward(struct sk_buff *skb, unsigned short family)
1046 {
1047         struct net *net = dev_net(skb->dev);
1048
1049         return  !net->xfrm.policy_count[XFRM_POLICY_OUT] ||
1050                 (skb_dst(skb)->flags & DST_NOXFRM) ||
1051                 __xfrm_route_forward(skb, family);
1052 }
1053
1054 static inline int xfrm4_route_forward(struct sk_buff *skb)
1055 {
1056         return xfrm_route_forward(skb, AF_INET);
1057 }
1058
1059 static inline int xfrm6_route_forward(struct sk_buff *skb)
1060 {
1061         return xfrm_route_forward(skb, AF_INET6);
1062 }
1063
1064 extern int __xfrm_sk_clone_policy(struct sock *sk);
1065
1066 static inline int xfrm_sk_clone_policy(struct sock *sk)
1067 {
1068         if (unlikely(sk->sk_policy[0] || sk->sk_policy[1]))
1069                 return __xfrm_sk_clone_policy(sk);
1070         return 0;
1071 }
1072
1073 extern int xfrm_policy_delete(struct xfrm_policy *pol, int dir);
1074
1075 static inline void xfrm_sk_free_policy(struct sock *sk)
1076 {
1077         if (unlikely(sk->sk_policy[0] != NULL)) {
1078                 xfrm_policy_delete(sk->sk_policy[0], XFRM_POLICY_MAX);
1079                 sk->sk_policy[0] = NULL;
1080         }
1081         if (unlikely(sk->sk_policy[1] != NULL)) {
1082                 xfrm_policy_delete(sk->sk_policy[1], XFRM_POLICY_MAX+1);
1083                 sk->sk_policy[1] = NULL;
1084         }
1085 }
1086
1087 #else
1088
1089 static inline void xfrm_sk_free_policy(struct sock *sk) {}
1090 static inline int xfrm_sk_clone_policy(struct sock *sk) { return 0; }
1091 static inline int xfrm6_route_forward(struct sk_buff *skb) { return 1; }
1092 static inline int xfrm4_route_forward(struct sk_buff *skb) { return 1; }
1093 static inline int xfrm6_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1094 {
1095         return 1;
1096 }
1097 static inline int xfrm4_policy_check(struct sock *sk, int dir, struct sk_buff *skb)
1098 {
1099         return 1;
1100 }
1101 static inline int xfrm_policy_check(struct sock *sk, int dir, struct sk_buff *skb, unsigned short family)
1102 {
1103         return 1;
1104 }
1105 static inline int xfrm_decode_session_reverse(struct sk_buff *skb,
1106                                               struct flowi *fl,
1107                                               unsigned int family)
1108 {
1109         return -ENOSYS;
1110 }
1111 static inline int xfrm4_policy_check_reverse(struct sock *sk, int dir,
1112                                              struct sk_buff *skb)
1113 {
1114         return 1;
1115 }
1116 static inline int xfrm6_policy_check_reverse(struct sock *sk, int dir,
1117                                              struct sk_buff *skb)
1118 {
1119         return 1;
1120 }
1121 #endif
1122
1123 static __inline__
1124 xfrm_address_t *xfrm_flowi_daddr(struct flowi *fl, unsigned short family)
1125 {
1126         switch (family){
1127         case AF_INET:
1128                 return (xfrm_address_t *)&fl->fl4_dst;
1129         case AF_INET6:
1130                 return (xfrm_address_t *)&fl->fl6_dst;
1131         }
1132         return NULL;
1133 }
1134
1135 static __inline__
1136 xfrm_address_t *xfrm_flowi_saddr(struct flowi *fl, unsigned short family)
1137 {
1138         switch (family){
1139         case AF_INET:
1140                 return (xfrm_address_t *)&fl->fl4_src;
1141         case AF_INET6:
1142                 return (xfrm_address_t *)&fl->fl6_src;
1143         }
1144         return NULL;
1145 }
1146
1147 static __inline__
1148 void xfrm_flowi_addr_get(struct flowi *fl,
1149                          xfrm_address_t *saddr, xfrm_address_t *daddr,
1150                          unsigned short family)
1151 {
1152         switch(family) {
1153         case AF_INET:
1154                 memcpy(&saddr->a4, &fl->fl4_src, sizeof(saddr->a4));
1155                 memcpy(&daddr->a4, &fl->fl4_dst, sizeof(daddr->a4));
1156                 break;
1157         case AF_INET6:
1158                 ipv6_addr_copy((struct in6_addr *)&saddr->a6, &fl->fl6_src);
1159                 ipv6_addr_copy((struct in6_addr *)&daddr->a6, &fl->fl6_dst);
1160                 break;
1161         }
1162 }
1163
1164 static __inline__ int
1165 __xfrm4_state_addr_check(struct xfrm_state *x,
1166                          xfrm_address_t *daddr, xfrm_address_t *saddr)
1167 {
1168         if (daddr->a4 == x->id.daddr.a4 &&
1169             (saddr->a4 == x->props.saddr.a4 || !saddr->a4 || !x->props.saddr.a4))
1170                 return 1;
1171         return 0;
1172 }
1173
1174 static __inline__ int
1175 __xfrm6_state_addr_check(struct xfrm_state *x,
1176                          xfrm_address_t *daddr, xfrm_address_t *saddr)
1177 {
1178         if (!ipv6_addr_cmp((struct in6_addr *)daddr, (struct in6_addr *)&x->id.daddr) &&
1179             (!ipv6_addr_cmp((struct in6_addr *)saddr, (struct in6_addr *)&x->props.saddr)||
1180              ipv6_addr_any((struct in6_addr *)saddr) ||
1181              ipv6_addr_any((struct in6_addr *)&x->props.saddr)))
1182                 return 1;
1183         return 0;
1184 }
1185
1186 static __inline__ int
1187 xfrm_state_addr_check(struct xfrm_state *x,
1188                       xfrm_address_t *daddr, xfrm_address_t *saddr,
1189                       unsigned short family)
1190 {
1191         switch (family) {
1192         case AF_INET:
1193                 return __xfrm4_state_addr_check(x, daddr, saddr);
1194         case AF_INET6:
1195                 return __xfrm6_state_addr_check(x, daddr, saddr);
1196         }
1197         return 0;
1198 }
1199
1200 static __inline__ int
1201 xfrm_state_addr_flow_check(struct xfrm_state *x, struct flowi *fl,
1202                            unsigned short family)
1203 {
1204         switch (family) {
1205         case AF_INET:
1206                 return __xfrm4_state_addr_check(x,
1207                                                 (xfrm_address_t *)&fl->fl4_dst,
1208                                                 (xfrm_address_t *)&fl->fl4_src);
1209         case AF_INET6:
1210                 return __xfrm6_state_addr_check(x,
1211                                                 (xfrm_address_t *)&fl->fl6_dst,
1212                                                 (xfrm_address_t *)&fl->fl6_src);
1213         }
1214         return 0;
1215 }
1216
1217 static inline int xfrm_state_kern(struct xfrm_state *x)
1218 {
1219         return atomic_read(&x->tunnel_users);
1220 }
1221
1222 static inline int xfrm_id_proto_match(u8 proto, u8 userproto)
1223 {
1224         return (!userproto || proto == userproto ||
1225                 (userproto == IPSEC_PROTO_ANY && (proto == IPPROTO_AH ||
1226                                                   proto == IPPROTO_ESP ||
1227                                                   proto == IPPROTO_COMP)));
1228 }
1229
1230 /*
1231  * xfrm algorithm information
1232  */
1233 struct xfrm_algo_aead_info {
1234         u16 icv_truncbits;
1235 };
1236
1237 struct xfrm_algo_auth_info {
1238         u16 icv_truncbits;
1239         u16 icv_fullbits;
1240 };
1241
1242 struct xfrm_algo_encr_info {
1243         u16 blockbits;
1244         u16 defkeybits;
1245 };
1246
1247 struct xfrm_algo_comp_info {
1248         u16 threshold;
1249 };
1250
1251 struct xfrm_algo_desc {
1252         char *name;
1253         char *compat;
1254         u8 available:1;
1255         union {
1256                 struct xfrm_algo_aead_info aead;
1257                 struct xfrm_algo_auth_info auth;
1258                 struct xfrm_algo_encr_info encr;
1259                 struct xfrm_algo_comp_info comp;
1260         } uinfo;
1261         struct sadb_alg desc;
1262 };
1263
1264 /* XFRM tunnel handlers.  */
1265 struct xfrm_tunnel {
1266         int (*handler)(struct sk_buff *skb);
1267         int (*err_handler)(struct sk_buff *skb, u32 info);
1268
1269         struct xfrm_tunnel *next;
1270         int priority;
1271 };
1272
1273 struct xfrm6_tunnel {
1274         int (*handler)(struct sk_buff *skb);
1275         int (*err_handler)(struct sk_buff *skb, struct inet6_skb_parm *opt,
1276                            u8 type, u8 code, int offset, __be32 info);
1277         struct xfrm6_tunnel *next;
1278         int priority;
1279 };
1280
1281 extern void xfrm_init(void);
1282 extern void xfrm4_init(int rt_hash_size);
1283 extern int xfrm_state_init(struct net *net);
1284 extern void xfrm_state_fini(struct net *net);
1285 extern void xfrm4_state_init(void);
1286 #ifdef CONFIG_XFRM
1287 extern int xfrm6_init(void);
1288 extern void xfrm6_fini(void);
1289 extern int xfrm6_state_init(void);
1290 extern void xfrm6_state_fini(void);
1291 #else
1292 static inline int xfrm6_init(void)
1293 {
1294         return 0;
1295 }
1296 static inline void xfrm6_fini(void)
1297 {
1298         ;
1299 }
1300 #endif
1301
1302 #ifdef CONFIG_XFRM_STATISTICS
1303 extern int xfrm_proc_init(struct net *net);
1304 extern void xfrm_proc_fini(struct net *net);
1305 #endif
1306
1307 extern int xfrm_sysctl_init(struct net *net);
1308 #ifdef CONFIG_SYSCTL
1309 extern void xfrm_sysctl_fini(struct net *net);
1310 #else
1311 static inline void xfrm_sysctl_fini(struct net *net)
1312 {
1313 }
1314 #endif
1315
1316 extern void xfrm_state_walk_init(struct xfrm_state_walk *walk, u8 proto);
1317 extern int xfrm_state_walk(struct net *net, struct xfrm_state_walk *walk,
1318                            int (*func)(struct xfrm_state *, int, void*), void *);
1319 extern void xfrm_state_walk_done(struct xfrm_state_walk *walk);
1320 extern struct xfrm_state *xfrm_state_alloc(struct net *net);
1321 extern struct xfrm_state *xfrm_state_find(xfrm_address_t *daddr, xfrm_address_t *saddr,
1322                                           struct flowi *fl, struct xfrm_tmpl *tmpl,
1323                                           struct xfrm_policy *pol, int *err,
1324                                           unsigned short family);
1325 extern struct xfrm_state *xfrm_stateonly_find(struct net *net, u32 mark,
1326                                                xfrm_address_t *daddr,
1327                                                xfrm_address_t *saddr,
1328                                                unsigned short family,
1329                                                u8 mode, u8 proto, u32 reqid);
1330 extern int xfrm_state_check_expire(struct xfrm_state *x);
1331 extern void xfrm_state_insert(struct xfrm_state *x);
1332 extern int xfrm_state_add(struct xfrm_state *x);
1333 extern int xfrm_state_update(struct xfrm_state *x);
1334 extern struct xfrm_state *xfrm_state_lookup(struct net *net, u32 mark,
1335                                             xfrm_address_t *daddr, __be32 spi,
1336                                             u8 proto, unsigned short family);
1337 extern struct xfrm_state *xfrm_state_lookup_byaddr(struct net *net, u32 mark,
1338                                                    xfrm_address_t *daddr,
1339                                                    xfrm_address_t *saddr,
1340                                                    u8 proto,
1341                                                    unsigned short family);
1342 #ifdef CONFIG_XFRM_SUB_POLICY
1343 extern int xfrm_tmpl_sort(struct xfrm_tmpl **dst, struct xfrm_tmpl **src,
1344                           int n, unsigned short family);
1345 extern int xfrm_state_sort(struct xfrm_state **dst, struct xfrm_state **src,
1346                            int n, unsigned short family);
1347 #else
1348 static inline int xfrm_tmpl_sort(struct xfrm_tmpl **dst, struct xfrm_tmpl **src,
1349                                  int n, unsigned short family)
1350 {
1351         return -ENOSYS;
1352 }
1353
1354 static inline int xfrm_state_sort(struct xfrm_state **dst, struct xfrm_state **src,
1355                                   int n, unsigned short family)
1356 {
1357         return -ENOSYS;
1358 }
1359 #endif
1360
1361 struct xfrmk_sadinfo {
1362         u32 sadhcnt; /* current hash bkts */
1363         u32 sadhmcnt; /* max allowed hash bkts */
1364         u32 sadcnt; /* current running count */
1365 };
1366
1367 struct xfrmk_spdinfo {
1368         u32 incnt;
1369         u32 outcnt;
1370         u32 fwdcnt;
1371         u32 inscnt;
1372         u32 outscnt;
1373         u32 fwdscnt;
1374         u32 spdhcnt;
1375         u32 spdhmcnt;
1376 };
1377
1378 extern struct xfrm_state *xfrm_find_acq_byseq(struct net *net, u32 mark,
1379                                               u32 seq);
1380 extern int xfrm_state_delete(struct xfrm_state *x);
1381 extern int xfrm_state_flush(struct net *net, u8 proto, struct xfrm_audit *audit_info);
1382 extern void xfrm_sad_getinfo(struct net *net, struct xfrmk_sadinfo *si);
1383 extern void xfrm_spd_getinfo(struct net *net, struct xfrmk_spdinfo *si);
1384 extern int xfrm_replay_check(struct xfrm_state *x,
1385                              struct sk_buff *skb, __be32 seq);
1386 extern void xfrm_replay_advance(struct xfrm_state *x, __be32 seq);
1387 extern void xfrm_replay_notify(struct xfrm_state *x, int event);
1388 extern int xfrm_state_mtu(struct xfrm_state *x, int mtu);
1389 extern int xfrm_init_state(struct xfrm_state *x);
1390 extern int xfrm_prepare_input(struct xfrm_state *x, struct sk_buff *skb);
1391 extern int xfrm_input(struct sk_buff *skb, int nexthdr, __be32 spi,
1392                       int encap_type);
1393 extern int xfrm_input_resume(struct sk_buff *skb, int nexthdr);
1394 extern int xfrm_output_resume(struct sk_buff *skb, int err);
1395 extern int xfrm_output(struct sk_buff *skb);
1396 extern int xfrm_inner_extract_output(struct xfrm_state *x, struct sk_buff *skb);
1397 extern int xfrm4_extract_header(struct sk_buff *skb);
1398 extern int xfrm4_extract_input(struct xfrm_state *x, struct sk_buff *skb);
1399 extern int xfrm4_rcv_encap(struct sk_buff *skb, int nexthdr, __be32 spi,
1400                            int encap_type);
1401 extern int xfrm4_transport_finish(struct sk_buff *skb, int async);
1402 extern int xfrm4_rcv(struct sk_buff *skb);
1403
1404 static inline int xfrm4_rcv_spi(struct sk_buff *skb, int nexthdr, __be32 spi)
1405 {
1406         return xfrm4_rcv_encap(skb, nexthdr, spi, 0);
1407 }
1408
1409 extern int xfrm4_extract_output(struct xfrm_state *x, struct sk_buff *skb);
1410 extern int xfrm4_prepare_output(struct xfrm_state *x, struct sk_buff *skb);
1411 extern int xfrm4_output(struct sk_buff *skb);
1412 extern int xfrm4_tunnel_register(struct xfrm_tunnel *handler, unsigned short family);
1413 extern int xfrm4_tunnel_deregister(struct xfrm_tunnel *handler, unsigned short family);
1414 extern int xfrm6_extract_header(struct sk_buff *skb);
1415 extern int xfrm6_extract_input(struct xfrm_state *x, struct sk_buff *skb);
1416 extern int xfrm6_rcv_spi(struct sk_buff *skb, int nexthdr, __be32 spi);
1417 extern int xfrm6_transport_finish(struct sk_buff *skb, int async);
1418 extern int xfrm6_rcv(struct sk_buff *skb);
1419 extern int xfrm6_input_addr(struct sk_buff *skb, xfrm_address_t *daddr,
1420                             xfrm_address_t *saddr, u8 proto);
1421 extern int xfrm6_tunnel_register(struct xfrm6_tunnel *handler, unsigned short family);
1422 extern int xfrm6_tunnel_deregister(struct xfrm6_tunnel *handler, unsigned short family);
1423 extern __be32 xfrm6_tunnel_alloc_spi(struct net *net, xfrm_address_t *saddr);
1424 extern void xfrm6_tunnel_free_spi(struct net *net, xfrm_address_t *saddr);
1425 extern __be32 xfrm6_tunnel_spi_lookup(struct net *net, xfrm_address_t *saddr);
1426 extern int xfrm6_extract_output(struct xfrm_state *x, struct sk_buff *skb);
1427 extern int xfrm6_prepare_output(struct xfrm_state *x, struct sk_buff *skb);
1428 extern int xfrm6_output(struct sk_buff *skb);
1429 extern int xfrm6_find_1stfragopt(struct xfrm_state *x, struct sk_buff *skb,
1430                                  u8 **prevhdr);
1431
1432 #ifdef CONFIG_XFRM
1433 extern int xfrm4_udp_encap_rcv(struct sock *sk, struct sk_buff *skb);
1434 extern int xfrm_user_policy(struct sock *sk, int optname, u8 __user *optval, int optlen);
1435 #else
1436 static inline int xfrm_user_policy(struct sock *sk, int optname, u8 __user *optval, int optlen)
1437 {
1438         return -ENOPROTOOPT;
1439 }
1440
1441 static inline int xfrm4_udp_encap_rcv(struct sock *sk, struct sk_buff *skb)
1442 {
1443         /* should not happen */
1444         kfree_skb(skb);
1445         return 0;
1446 }
1447 #endif
1448
1449 struct xfrm_policy *xfrm_policy_alloc(struct net *net, gfp_t gfp);
1450
1451 extern void xfrm_policy_walk_init(struct xfrm_policy_walk *walk, u8 type);
1452 extern int xfrm_policy_walk(struct net *net, struct xfrm_policy_walk *walk,
1453         int (*func)(struct xfrm_policy *, int, int, void*), void *);
1454 extern void xfrm_policy_walk_done(struct xfrm_policy_walk *walk);
1455 int xfrm_policy_insert(int dir, struct xfrm_policy *policy, int excl);
1456 struct xfrm_policy *xfrm_policy_bysel_ctx(struct net *net, u32 mark,
1457                                           u8 type, int dir,
1458                                           struct xfrm_selector *sel,
1459                                           struct xfrm_sec_ctx *ctx, int delete,
1460                                           int *err);
1461 struct xfrm_policy *xfrm_policy_byid(struct net *net, u32 mark, u8, int dir, u32 id, int delete, int *err);
1462 int xfrm_policy_flush(struct net *net, u8 type, struct xfrm_audit *audit_info);
1463 u32 xfrm_get_acqseq(void);
1464 extern int xfrm_alloc_spi(struct xfrm_state *x, u32 minspi, u32 maxspi);
1465 struct xfrm_state *xfrm_find_acq(struct net *net, struct xfrm_mark *mark,
1466                                  u8 mode, u32 reqid, u8 proto,
1467                                  xfrm_address_t *daddr,
1468                                  xfrm_address_t *saddr, int create,
1469                                  unsigned short family);
1470 extern int xfrm_sk_policy_insert(struct sock *sk, int dir, struct xfrm_policy *pol);
1471 extern int xfrm_bundle_ok(struct xfrm_policy *pol, struct xfrm_dst *xdst,
1472                           struct flowi *fl, int family, int strict);
1473
1474 #ifdef CONFIG_XFRM_MIGRATE
1475 extern int km_migrate(struct xfrm_selector *sel, u8 dir, u8 type,
1476                       struct xfrm_migrate *m, int num_bundles,
1477                       struct xfrm_kmaddress *k);
1478 extern struct xfrm_state * xfrm_migrate_state_find(struct xfrm_migrate *m);
1479 extern struct xfrm_state * xfrm_state_migrate(struct xfrm_state *x,
1480                                               struct xfrm_migrate *m);
1481 extern int xfrm_migrate(struct xfrm_selector *sel, u8 dir, u8 type,
1482                         struct xfrm_migrate *m, int num_bundles,
1483                         struct xfrm_kmaddress *k);
1484 #endif
1485
1486 extern int km_new_mapping(struct xfrm_state *x, xfrm_address_t *ipaddr, __be16 sport);
1487 extern void km_policy_expired(struct xfrm_policy *pol, int dir, int hard, u32 pid);
1488 extern int km_report(struct net *net, u8 proto, struct xfrm_selector *sel, xfrm_address_t *addr);
1489
1490 extern void xfrm_input_init(void);
1491 extern int xfrm_parse_spi(struct sk_buff *skb, u8 nexthdr, __be32 *spi, __be32 *seq);
1492
1493 extern void xfrm_probe_algs(void);
1494 extern int xfrm_count_auth_supported(void);
1495 extern int xfrm_count_enc_supported(void);
1496 extern struct xfrm_algo_desc *xfrm_aalg_get_byidx(unsigned int idx);
1497 extern struct xfrm_algo_desc *xfrm_ealg_get_byidx(unsigned int idx);
1498 extern struct xfrm_algo_desc *xfrm_aalg_get_byid(int alg_id);
1499 extern struct xfrm_algo_desc *xfrm_ealg_get_byid(int alg_id);
1500 extern struct xfrm_algo_desc *xfrm_calg_get_byid(int alg_id);
1501 extern struct xfrm_algo_desc *xfrm_aalg_get_byname(char *name, int probe);
1502 extern struct xfrm_algo_desc *xfrm_ealg_get_byname(char *name, int probe);
1503 extern struct xfrm_algo_desc *xfrm_calg_get_byname(char *name, int probe);
1504 extern struct xfrm_algo_desc *xfrm_aead_get_byname(char *name, int icv_len,
1505                                                    int probe);
1506
1507 struct hash_desc;
1508 struct scatterlist;
1509 typedef int (icv_update_fn_t)(struct hash_desc *, struct scatterlist *,
1510                               unsigned int);
1511
1512 static inline int xfrm_addr_cmp(xfrm_address_t *a, xfrm_address_t *b,
1513                                 int family)
1514 {
1515         switch (family) {
1516         default:
1517         case AF_INET:
1518                 return (__force u32)a->a4 - (__force u32)b->a4;
1519         case AF_INET6:
1520                 return ipv6_addr_cmp((struct in6_addr *)a,
1521                                      (struct in6_addr *)b);
1522         }
1523 }
1524
1525 static inline int xfrm_policy_id2dir(u32 index)
1526 {
1527         return index & 7;
1528 }
1529
1530 #ifdef CONFIG_XFRM
1531 static inline int xfrm_aevent_is_on(struct net *net)
1532 {
1533         struct sock *nlsk;
1534         int ret = 0;
1535
1536         rcu_read_lock();
1537         nlsk = rcu_dereference(net->xfrm.nlsk);
1538         if (nlsk)
1539                 ret = netlink_has_listeners(nlsk, XFRMNLGRP_AEVENTS);
1540         rcu_read_unlock();
1541         return ret;
1542 }
1543 #endif
1544
1545 static inline int xfrm_alg_len(struct xfrm_algo *alg)
1546 {
1547         return sizeof(*alg) + ((alg->alg_key_len + 7) / 8);
1548 }
1549
1550 static inline int xfrm_alg_auth_len(struct xfrm_algo_auth *alg)
1551 {
1552         return sizeof(*alg) + ((alg->alg_key_len + 7) / 8);
1553 }
1554
1555 #ifdef CONFIG_XFRM_MIGRATE
1556 static inline struct xfrm_algo *xfrm_algo_clone(struct xfrm_algo *orig)
1557 {
1558         return kmemdup(orig, xfrm_alg_len(orig), GFP_KERNEL);
1559 }
1560
1561 static inline struct xfrm_algo_auth *xfrm_algo_auth_clone(struct xfrm_algo_auth *orig)
1562 {
1563         return kmemdup(orig, xfrm_alg_auth_len(orig), GFP_KERNEL);
1564 }
1565
1566 static inline void xfrm_states_put(struct xfrm_state **states, int n)
1567 {
1568         int i;
1569         for (i = 0; i < n; i++)
1570                 xfrm_state_put(*(states + i));
1571 }
1572
1573 static inline void xfrm_states_delete(struct xfrm_state **states, int n)
1574 {
1575         int i;
1576         for (i = 0; i < n; i++)
1577                 xfrm_state_delete(*(states + i));
1578 }
1579 #endif
1580
1581 #ifdef CONFIG_XFRM
1582 static inline struct xfrm_state *xfrm_input_state(struct sk_buff *skb)
1583 {
1584         return skb->sp->xvec[skb->sp->len - 1];
1585 }
1586 #endif
1587
1588 static inline int xfrm_mark_get(struct nlattr **attrs, struct xfrm_mark *m)
1589 {
1590         if (attrs[XFRMA_MARK])
1591                 memcpy(m, nla_data(attrs[XFRMA_MARK]), sizeof(m));
1592         else
1593                 m->v = m->m = 0;
1594
1595         return m->v & m->m;
1596 }
1597
1598 static inline int xfrm_mark_put(struct sk_buff *skb, struct xfrm_mark *m)
1599 {
1600         if (m->m | m->v)
1601                 NLA_PUT(skb, XFRMA_MARK, sizeof(struct xfrm_mark), m);
1602         return 0;
1603
1604 nla_put_failure:
1605         return -1;
1606 }
1607
1608 #endif  /* _NET_XFRM_H */