lib/Target/ARM/ARMISelLowering.h

   1 //===-- ARMISelLowering.h - ARM DAG Lowering Interface ----------*- C++ -*-===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 // This file defines the interfaces that ARM uses to lower LLVM code into a
  11 // selection DAG.
  12 //
  13 //===----------------------------------------------------------------------===//
  14
  15 #ifndef ARMISELLOWERING_H
  16 #define ARMISELLOWERING_H
  17
  18 #include "ARMSubtarget.h"
  19 #include "llvm/Target/TargetLowering.h"
  20 #include "llvm/Target/TargetRegisterInfo.h"
  21 #include "llvm/CodeGen/FastISel.h"
  22 #include "llvm/CodeGen/SelectionDAG.h"
  23 #include "llvm/CodeGen/CallingConvLower.h"
  24 #include <vector>
  25
  26 namespace llvm {
  27   class ARMConstantPoolValue;
  28
  29   namespace ARMISD {
  30     // ARM Specific DAG Nodes
  31     enum NodeType {
  32       // Start the numbering where the builtin ops and target ops leave off.
  33       FIRST_NUMBER = ISD::BUILTIN_OP_END,
  34
  35       Wrapper,      // Wrapper - A wrapper node for TargetConstantPool,
  36                     // TargetExternalSymbol, and TargetGlobalAddress.
  37       WrapperJT,    // WrapperJT - A wrapper node for TargetJumpTable
  38
  39       CALL,         // Function call.
  40       CALL_PRED,    // Function call that's predicable.
  41       CALL_NOLINK,  // Function call with branch not branch-and-link.
  42       tCALL,        // Thumb function call.
  43       BRCOND,       // Conditional branch.
  44       BR_JT,        // Jumptable branch.
  45       BR2_JT,       // Jumptable branch (2 level - jumptable entry is a jump).
  46       RET_FLAG,     // Return with a flag operand.
  47
  48       PIC_ADD,      // Add with a PC operand and a PIC label.
  49
  50       CMP,          // ARM compare instructions.
  51       CMPZ,         // ARM compare that sets only Z flag.
  52       CMPFP,        // ARM VFP compare instruction, sets FPSCR.
  53       CMPFPw0,      // ARM VFP compare against zero instruction, sets FPSCR.
  54       FMSTAT,       // ARM fmstat instruction.
  55       CMOV,         // ARM conditional move instructions.
  56       CNEG,         // ARM conditional negate instructions.
  57
  58       BCC_i64,
  59
  60       RBIT,         // ARM bitreverse instruction
  61
  62       FTOSI,        // FP to sint within a FP register.
  63       FTOUI,        // FP to uint within a FP register.
  64       SITOF,        // sint to FP within a FP register.
  65       UITOF,        // uint to FP within a FP register.
  66
  67       SRL_FLAG,     // V,Flag = srl_flag X -> srl X, 1 + save carry out.
  68       SRA_FLAG,     // V,Flag = sra_flag X -> sra X, 1 + save carry out.
  69       RRX,          // V = RRX X, Flag     -> srl X, 1 + shift in carry flag.
  70
  71       VMOVRRD,      // double to two gprs.
  72       VMOVDRR,      // Two gprs to double.
  73
  74       EH_SJLJ_SETJMP,         // SjLj exception handling setjmp.
  75       EH_SJLJ_LONGJMP,        // SjLj exception handling longjmp.
  76       EH_SJLJ_DISPATCHSETUP,  // SjLj exception handling dispatch setup.
  77
  78       TC_RETURN,    // Tail call return pseudo.
  79
  80       THREAD_POINTER,
  81
  82       DYN_ALLOC,    // Dynamic allocation on the stack.
  83
  84       MEMBARRIER,   // Memory barrier (DMB)
  85       MEMBARRIER_MCR, // Memory barrier (MCR)
  86
  87       PRELOAD,      // Preload
  88
  89       VCEQ,         // Vector compare equal.
  90       VCEQZ,        // Vector compare equal to zero.
  91       VCGE,         // Vector compare greater than or equal.
  92       VCGEZ,        // Vector compare greater than or equal to zero.
  93       VCLEZ,        // Vector compare less than or equal to zero.
  94       VCGEU,        // Vector compare unsigned greater than or equal.
  95       VCGT,         // Vector compare greater than.
  96       VCGTZ,        // Vector compare greater than zero.
  97       VCLTZ,        // Vector compare less than zero.
  98       VCGTU,        // Vector compare unsigned greater than.
  99       VTST,         // Vector test bits.
 100
 101       // Vector shift by immediate:
 102       VSHL,         // ...left
 103       VSHRs,        // ...right (signed)
 104       VSHRu,        // ...right (unsigned)
 105       VSHLLs,       // ...left long (signed)
 106       VSHLLu,       // ...left long (unsigned)
 107       VSHLLi,       // ...left long (with maximum shift count)
 108       VSHRN,        // ...right narrow
 109
 110       // Vector rounding shift by immediate:
 111       VRSHRs,       // ...right (signed)
 112       VRSHRu,       // ...right (unsigned)
 113       VRSHRN,       // ...right narrow
 114
 115       // Vector saturating shift by immediate:
 116       VQSHLs,       // ...left (signed)
 117       VQSHLu,       // ...left (unsigned)
 118       VQSHLsu,      // ...left (signed to unsigned)
 119       VQSHRNs,      // ...right narrow (signed)
 120       VQSHRNu,      // ...right narrow (unsigned)
 121       VQSHRNsu,     // ...right narrow (signed to unsigned)
 122
 123       // Vector saturating rounding shift by immediate:
 124       VQRSHRNs,     // ...right narrow (signed)
 125       VQRSHRNu,     // ...right narrow (unsigned)
 126       VQRSHRNsu,    // ...right narrow (signed to unsigned)
 127
 128       // Vector shift and insert:
 129       VSLI,         // ...left
 130       VSRI,         // ...right
 131
 132       // Vector get lane (VMOV scalar to ARM core register)
 133       // (These are used for 8- and 16-bit element types only.)
 134       VGETLANEu,    // zero-extend vector extract element
 135       VGETLANEs,    // sign-extend vector extract element
 136
 137       // Vector move immediate and move negated immediate:
 138       VMOVIMM,
 139       VMVNIMM,
 140
 141       // Vector duplicate:
 142       VDUP,
 143       VDUPLANE,
 144
 145       // Vector shuffles:
 146       VEXT,         // extract
 147       VREV64,       // reverse elements within 64-bit doublewords
 148       VREV32,       // reverse elements within 32-bit words
 149       VREV16,       // reverse elements within 16-bit halfwords
 150       VZIP,         // zip (interleave)
 151       VUZP,         // unzip (deinterleave)
 152       VTRN,         // transpose
 153
 154       // Vector multiply long:
 155       VMULLs,       // ...signed
 156       VMULLu,       // ...unsigned
 157
 158       // Operands of the standard BUILD_VECTOR node are not legalized, which
 159       // is fine if BUILD_VECTORs are always lowered to shuffles or other
 160       // operations, but for ARM some BUILD_VECTORs are legal as-is and their
 161       // operands need to be legalized.  Define an ARM-specific version of
 162       // BUILD_VECTOR for this purpose.
 163       BUILD_VECTOR,
 164
 165       // Floating-point max and min:
 166       FMAX,
 167       FMIN,
 168
 169       // Bit-field insert
 170       BFI,
 171
 172       // Vector OR with immediate
 173       VORRIMM,
 174       // Vector AND with NOT of immediate
 175       VBICIMM,
 176
 177       // Vector load N-element structure to all lanes:
 178       VLD2DUP = ISD::FIRST_TARGET_MEMORY_OPCODE,
 179       VLD3DUP,
 180       VLD4DUP
 181     };
 182   }
 183
 184   /// Define some predicates that are used for node matching.
 185   namespace ARM {
 186     /// getVFPf32Imm / getVFPf64Imm - If the given fp immediate can be
 187     /// materialized with a VMOV.f32 / VMOV.f64 (i.e. fconsts / fconstd)
 188     /// instruction, returns its 8-bit integer representation. Otherwise,
 189     /// returns -1.
 190     int getVFPf32Imm(const APFloat &FPImm);
 191     int getVFPf64Imm(const APFloat &FPImm);
 192     bool isBitFieldInvertedMask(unsigned v);
 193   }
 194
 195   //===--------------------------------------------------------------------===//
 196   //  ARMTargetLowering - ARM Implementation of the TargetLowering interface
 197
 198   class ARMTargetLowering : public TargetLowering {
 199   public:
 200     explicit ARMTargetLowering(TargetMachine &TM);
 201
 202     virtual unsigned getJumpTableEncoding(void) const;
 203
 204     virtual SDValue LowerOperation(SDValue Op, SelectionDAG &DAG) const;
 205
 206     /// ReplaceNodeResults - Replace the results of node with an illegal result
 207     /// type with new values built out of custom code.
 208     ///
 209     virtual void ReplaceNodeResults(SDNode *N, SmallVectorImpl<SDValue>&Results,
 210                                     SelectionDAG &DAG) const;
 211
 212     virtual SDValue PerformDAGCombine(SDNode *N, DAGCombinerInfo &DCI) const;
 213
 214     virtual const char *getTargetNodeName(unsigned Opcode) const;
 215
 216     virtual MachineBasicBlock *
 217       EmitInstrWithCustomInserter(MachineInstr *MI,
 218                                   MachineBasicBlock *MBB) const;
 219
 220     /// allowsUnalignedMemoryAccesses - Returns true if the target allows
 221     /// unaligned memory accesses. of the specified type.
 222     /// FIXME: Add getOptimalMemOpType to implement memcpy with NEON?
 223     virtual bool allowsUnalignedMemoryAccesses(EVT VT) const;
 224
 225     /// isLegalAddressingMode - Return true if the addressing mode represented
 226     /// by AM is legal for this target, for a load/store of the specified type.
 227     virtual bool isLegalAddressingMode(const AddrMode &AM, const Type *Ty)const;
 228     bool isLegalT2ScaledAddressingMode(const AddrMode &AM, EVT VT) const;
 229
 230     /// isLegalICmpImmediate - Return true if the specified immediate is legal
 231     /// icmp immediate, that is the target has icmp instructions which can
 232     /// compare a register against the immediate without having to materialize
 233     /// the immediate into a register.
 234     virtual bool isLegalICmpImmediate(int64_t Imm) const;
 235
 236     /// getPreIndexedAddressParts - returns true by value, base pointer and
 237     /// offset pointer and addressing mode by reference if the node's address
 238     /// can be legally represented as pre-indexed load / store address.
 239     virtual bool getPreIndexedAddressParts(SDNode *N, SDValue &Base,
 240                                            SDValue &Offset,
 241                                            ISD::MemIndexedMode &AM,
 242                                            SelectionDAG &DAG) const;
 243
 244     /// getPostIndexedAddressParts - returns true by value, base pointer and
 245     /// offset pointer and addressing mode by reference if this node can be
 246     /// combined with a load / store to form a post-indexed load / store.
 247     virtual bool getPostIndexedAddressParts(SDNode *N, SDNode *Op,
 248                                             SDValue &Base, SDValue &Offset,
 249                                             ISD::MemIndexedMode &AM,
 250                                             SelectionDAG &DAG) const;
 251
 252     virtual void computeMaskedBitsForTargetNode(const SDValue Op,
 253                                                 const APInt &Mask,
 254                                                 APInt &KnownZero,
 255                                                 APInt &KnownOne,
 256                                                 const SelectionDAG &DAG,
 257                                                 unsigned Depth) const;
 258
 259
 260     ConstraintType getConstraintType(const std::string &Constraint) const;
 261
 262     /// Examine constraint string and operand type and determine a weight value.
 263     /// The operand object must already have been set up with the operand type.
 264     ConstraintWeight getSingleConstraintMatchWeight(
 265       AsmOperandInfo &info, const char *constraint) const;
 266
 267     std::pair<unsigned, const TargetRegisterClass*>
 268       getRegForInlineAsmConstraint(const std::string &Constraint,
 269                                    EVT VT) const;
 270     std::vector<unsigned>
 271     getRegClassForInlineAsmConstraint(const std::string &Constraint,
 272                                       EVT VT) const;
 273
 274     /// LowerAsmOperandForConstraint - Lower the specified operand into the Ops
 275     /// vector.  If it is invalid, don't add anything to Ops. If hasMemory is
 276     /// true it means one of the asm constraint of the inline asm instruction
 277     /// being processed is 'm'.
 278     virtual void LowerAsmOperandForConstraint(SDValue Op,
 279                                               char ConstraintLetter,
 280                                               std::vector<SDValue> &Ops,
 281                                               SelectionDAG &DAG) const;
 282
 283     const ARMSubtarget* getSubtarget() const {
 284       return Subtarget;
 285     }
 286
 287     /// getRegClassFor - Return the register class that should be used for the
 288     /// specified value type.
 289     virtual TargetRegisterClass *getRegClassFor(EVT VT) const;
 290
 291     /// getFunctionAlignment - Return the Log2 alignment of this function.
 292     virtual unsigned getFunctionAlignment(const Function *F) const;
 293
 294     /// getMaximalGlobalOffset - Returns the maximal possible offset which can
 295     /// be used for loads / stores from the global.
 296     virtual unsigned getMaximalGlobalOffset() const;
 297
 298     /// createFastISel - This method returns a target specific FastISel object,
 299     /// or null if the target does not support "fast" ISel.
 300     virtual FastISel *createFastISel(FunctionLoweringInfo &funcInfo) const;
 301
 302     Sched::Preference getSchedulingPreference(SDNode *N) const;
 303
 304     unsigned getRegPressureLimit(const TargetRegisterClass *RC,
 305                                  MachineFunction &MF) const;
 306
 307     bool isShuffleMaskLegal(const SmallVectorImpl<int> &M, EVT VT) const;
 308     bool isOffsetFoldingLegal(const GlobalAddressSDNode *GA) const;
 309
 310     /// isFPImmLegal - Returns true if the target can instruction select the
 311     /// specified FP immediate natively. If false, the legalizer will
 312     /// materialize the FP immediate as a load from a constant pool.
 313     virtual bool isFPImmLegal(const APFloat &Imm, EVT VT) const;
 314
 315     virtual bool getTgtMemIntrinsic(IntrinsicInfo &Info,
 316                                     const CallInst &I,
 317                                     unsigned Intrinsic) const;
 318   protected:
 319     std::pair<const TargetRegisterClass*, uint8_t>
 320     findRepresentativeClass(EVT VT) const;
 321
 322   private:
 323     /// Subtarget - Keep a pointer to the ARMSubtarget around so that we can
 324     /// make the right decision when generating code for different targets.
 325     const ARMSubtarget *Subtarget;
 326
 327     const TargetRegisterInfo *RegInfo;
 328
 329     const InstrItineraryData *Itins;
 330
 331     /// ARMPCLabelIndex - Keep track of the number of ARM PC labels created.
 332     ///
 333     unsigned ARMPCLabelIndex;
 334
 335     void addTypeForNEON(EVT VT, EVT PromotedLdStVT, EVT PromotedBitwiseVT);
 336     void addDRTypeForNEON(EVT VT);
 337     void addQRTypeForNEON(EVT VT);
 338
 339     typedef SmallVector<std::pair<unsigned, SDValue>, 8> RegsToPassVector;
 340     void PassF64ArgInRegs(DebugLoc dl, SelectionDAG &DAG,
 341                           SDValue Chain, SDValue &Arg,
 342                           RegsToPassVector &RegsToPass,
 343                           CCValAssign &VA, CCValAssign &NextVA,
 344                           SDValue &StackPtr,
 345                           SmallVector<SDValue, 8> &MemOpChains,
 346                           ISD::ArgFlagsTy Flags) const;
 347     SDValue GetF64FormalArgument(CCValAssign &VA, CCValAssign &NextVA,
 348                                  SDValue &Root, SelectionDAG &DAG,
 349                                  DebugLoc dl) const;
 350
 351     CCAssignFn *CCAssignFnForNode(CallingConv::ID CC, bool Return,
 352                                   bool isVarArg) const;
 353     SDValue LowerMemOpCallTo(SDValue Chain, SDValue StackPtr, SDValue Arg,
 354                              DebugLoc dl, SelectionDAG &DAG,
 355                              const CCValAssign &VA,
 356                              ISD::ArgFlagsTy Flags) const;
 357     SDValue LowerEH_SJLJ_SETJMP(SDValue Op, SelectionDAG &DAG) const;
 358     SDValue LowerEH_SJLJ_LONGJMP(SDValue Op, SelectionDAG &DAG) const;
 359     SDValue LowerEH_SJLJ_DISPATCHSETUP(SDValue Op, SelectionDAG &DAG) const;
 360     SDValue LowerINTRINSIC_WO_CHAIN(SDValue Op, SelectionDAG &DAG,
 361                                     const ARMSubtarget *Subtarget) const;
 362     SDValue LowerBlockAddress(SDValue Op, SelectionDAG &DAG) const;
 363     SDValue LowerGlobalAddressDarwin(SDValue Op, SelectionDAG &DAG) const;
 364     SDValue LowerGlobalAddressELF(SDValue Op, SelectionDAG &DAG) const;
 365     SDValue LowerGlobalTLSAddress(SDValue Op, SelectionDAG &DAG) const;
 366     SDValue LowerToTLSGeneralDynamicModel(GlobalAddressSDNode *GA,
 367                                             SelectionDAG &DAG) const;
 368     SDValue LowerToTLSExecModels(GlobalAddressSDNode *GA,
 369                                    SelectionDAG &DAG) const;
 370     SDValue LowerGLOBAL_OFFSET_TABLE(SDValue Op, SelectionDAG &DAG) const;
 371     SDValue LowerBR_JT(SDValue Op, SelectionDAG &DAG) const;
 372     SDValue LowerSELECT(SDValue Op, SelectionDAG &DAG) const;
 373     SDValue LowerSELECT_CC(SDValue Op, SelectionDAG &DAG) const;
 374     SDValue LowerBR_CC(SDValue Op, SelectionDAG &DAG) const;
 375     SDValue LowerFCOPYSIGN(SDValue Op, SelectionDAG &DAG) const;
 376     SDValue LowerRETURNADDR(SDValue Op, SelectionDAG &DAG) const;
 377     SDValue LowerFRAMEADDR(SDValue Op, SelectionDAG &DAG) const;
 378     SDValue LowerShiftRightParts(SDValue Op, SelectionDAG &DAG) const;
 379     SDValue LowerShiftLeftParts(SDValue Op, SelectionDAG &DAG) const;
 380     SDValue LowerFLT_ROUNDS_(SDValue Op, SelectionDAG &DAG) const;
 381     SDValue LowerBUILD_VECTOR(SDValue Op, SelectionDAG &DAG,
 382                               const ARMSubtarget *ST) const;
 383
 384     SDValue ReconstructShuffle(SDValue Op, SelectionDAG &DAG) const;
 385
 386     SDValue LowerCallResult(SDValue Chain, SDValue InFlag,
 387                             CallingConv::ID CallConv, bool isVarArg,
 388                             const SmallVectorImpl<ISD::InputArg> &Ins,
 389                             DebugLoc dl, SelectionDAG &DAG,
 390                             SmallVectorImpl<SDValue> &InVals) const;
 391
 392     virtual SDValue
 393       LowerFormalArguments(SDValue Chain,
 394                            CallingConv::ID CallConv, bool isVarArg,
 395                            const SmallVectorImpl<ISD::InputArg> &Ins,
 396                            DebugLoc dl, SelectionDAG &DAG,
 397                            SmallVectorImpl<SDValue> &InVals) const;
 398
 399     virtual SDValue
 400       LowerCall(SDValue Chain, SDValue Callee,
 401                 CallingConv::ID CallConv, bool isVarArg,
 402                 bool &isTailCall,
 403                 const SmallVectorImpl<ISD::OutputArg> &Outs,
 404                 const SmallVectorImpl<SDValue> &OutVals,
 405                 const SmallVectorImpl<ISD::InputArg> &Ins,
 406                 DebugLoc dl, SelectionDAG &DAG,
 407                 SmallVectorImpl<SDValue> &InVals) const;
 408
 409     /// IsEligibleForTailCallOptimization - Check whether the call is eligible
 410     /// for tail call optimization. Targets which want to do tail call
 411     /// optimization should implement this function.
 412     bool IsEligibleForTailCallOptimization(SDValue Callee,
 413                                            CallingConv::ID CalleeCC,
 414                                            bool isVarArg,
 415                                            bool isCalleeStructRet,
 416                                            bool isCallerStructRet,
 417                                     const SmallVectorImpl<ISD::OutputArg> &Outs,
 418                                     const SmallVectorImpl<SDValue> &OutVals,
 419                                     const SmallVectorImpl<ISD::InputArg> &Ins,
 420                                            SelectionDAG& DAG) const;
 421     virtual SDValue
 422       LowerReturn(SDValue Chain,
 423                   CallingConv::ID CallConv, bool isVarArg,
 424                   const SmallVectorImpl<ISD::OutputArg> &Outs,
 425                   const SmallVectorImpl<SDValue> &OutVals,
 426                   DebugLoc dl, SelectionDAG &DAG) const;
 427
 428     virtual bool isUsedByReturnOnly(SDNode *N) const;
 429
 430     SDValue getARMCmp(SDValue LHS, SDValue RHS, ISD::CondCode CC,
 431                       SDValue &ARMcc, SelectionDAG &DAG, DebugLoc dl) const;
 432     SDValue getVFPCmp(SDValue LHS, SDValue RHS,
 433                       SelectionDAG &DAG, DebugLoc dl) const;
 434
 435     SDValue OptimizeVFPBrcond(SDValue Op, SelectionDAG &DAG) const;
 436
 437     MachineBasicBlock *EmitAtomicCmpSwap(MachineInstr *MI,
 438                                          MachineBasicBlock *BB,
 439                                          unsigned Size) const;
 440     MachineBasicBlock *EmitAtomicBinary(MachineInstr *MI,
 441                                         MachineBasicBlock *BB,
 442                                         unsigned Size,
 443                                         unsigned BinOpcode) const;
 444
 445   };
 446
 447   enum NEONModImmType {
 448     VMOVModImm,
 449     VMVNModImm,
 450     OtherModImm
 451   };
 452
 453
 454   namespace ARM {
 455     FastISel *createFastISel(FunctionLoweringInfo &funcInfo);
 456   }
 457 }
 458
 459 #endif  // ARMISELLOWERING_H