Recognize Neon VDUP shuffles during legalization instead of selection.
[oota-llvm.git] / lib / Target / ARM / ARMISelLowering.h
1 //===-- ARMISelLowering.h - ARM DAG Lowering Interface ----------*- C++ -*-===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // This file defines the interfaces that ARM uses to lower LLVM code into a
11 // selection DAG.
12 //
13 //===----------------------------------------------------------------------===//
14
15 #ifndef ARMISELLOWERING_H
16 #define ARMISELLOWERING_H
17
18 #include "ARMSubtarget.h"
19 #include "llvm/Target/TargetLowering.h"
20 #include "llvm/CodeGen/SelectionDAG.h"
21 #include "llvm/CodeGen/CallingConvLower.h"
22 #include <vector>
23
24 namespace llvm {
25   class ARMConstantPoolValue;
26
27   namespace ARMISD {
28     // ARM Specific DAG Nodes
29     enum NodeType {
30       // Start the numbering where the builtin ops and target ops leave off.
31       FIRST_NUMBER = ISD::BUILTIN_OP_END,
32
33       Wrapper,      // Wrapper - A wrapper node for TargetConstantPool,
34                     // TargetExternalSymbol, and TargetGlobalAddress.
35       WrapperJT,    // WrapperJT - A wrapper node for TargetJumpTable
36
37       CALL,         // Function call.
38       CALL_PRED,    // Function call that's predicable.
39       CALL_NOLINK,  // Function call with branch not branch-and-link.
40       tCALL,        // Thumb function call.
41       BRCOND,       // Conditional branch.
42       BR_JT,        // Jumptable branch.
43       BR2_JT,       // Jumptable branch (2 level - jumptable entry is a jump).
44       RET_FLAG,     // Return with a flag operand.
45
46       PIC_ADD,      // Add with a PC operand and a PIC label.
47
48       CMP,          // ARM compare instructions.
49       CMPZ,         // ARM compare that sets only Z flag.
50       CMPFP,        // ARM VFP compare instruction, sets FPSCR.
51       CMPFPw0,      // ARM VFP compare against zero instruction, sets FPSCR.
52       FMSTAT,       // ARM fmstat instruction.
53       CMOV,         // ARM conditional move instructions.
54       CNEG,         // ARM conditional negate instructions.
55
56       FTOSI,        // FP to sint within a FP register.
57       FTOUI,        // FP to uint within a FP register.
58       SITOF,        // sint to FP within a FP register.
59       UITOF,        // uint to FP within a FP register.
60
61       SRL_FLAG,     // V,Flag = srl_flag X -> srl X, 1 + save carry out.
62       SRA_FLAG,     // V,Flag = sra_flag X -> sra X, 1 + save carry out.
63       RRX,          // V = RRX X, Flag     -> srl X, 1 + shift in carry flag.
64
65       FMRRD,        // double to two gprs.
66       FMDRR,        // Two gprs to double.
67
68       EH_SJLJ_SETJMP,    // SjLj exception handling setjmp.
69       EH_SJLJ_LONGJMP,   // SjLj exception handling longjmp.
70
71       THREAD_POINTER,
72
73       DYN_ALLOC,    // Dynamic allocation on the stack.
74
75       VCEQ,         // Vector compare equal.
76       VCGE,         // Vector compare greater than or equal.
77       VCGEU,        // Vector compare unsigned greater than or equal.
78       VCGT,         // Vector compare greater than.
79       VCGTU,        // Vector compare unsigned greater than.
80       VTST,         // Vector test bits.
81
82       // Vector shift by immediate:
83       VSHL,         // ...left
84       VSHRs,        // ...right (signed)
85       VSHRu,        // ...right (unsigned)
86       VSHLLs,       // ...left long (signed)
87       VSHLLu,       // ...left long (unsigned)
88       VSHLLi,       // ...left long (with maximum shift count)
89       VSHRN,        // ...right narrow
90
91       // Vector rounding shift by immediate:
92       VRSHRs,       // ...right (signed)
93       VRSHRu,       // ...right (unsigned)
94       VRSHRN,       // ...right narrow
95
96       // Vector saturating shift by immediate:
97       VQSHLs,       // ...left (signed)
98       VQSHLu,       // ...left (unsigned)
99       VQSHLsu,      // ...left (signed to unsigned)
100       VQSHRNs,      // ...right narrow (signed)
101       VQSHRNu,      // ...right narrow (unsigned)
102       VQSHRNsu,     // ...right narrow (signed to unsigned)
103
104       // Vector saturating rounding shift by immediate:
105       VQRSHRNs,     // ...right narrow (signed)
106       VQRSHRNu,     // ...right narrow (unsigned)
107       VQRSHRNsu,    // ...right narrow (signed to unsigned)
108
109       // Vector shift and insert:
110       VSLI,         // ...left
111       VSRI,         // ...right
112
113       // Vector get lane (VMOV scalar to ARM core register)
114       // (These are used for 8- and 16-bit element types only.)
115       VGETLANEu,    // zero-extend vector extract element
116       VGETLANEs,    // sign-extend vector extract element
117
118       // Vector duplicate lane (128-bit result only; 64-bit is a shuffle)
119       VDUPLANEQ,    // splat a lane from a 64-bit vector to a 128-bit vector
120
121       // Vector load/store with (de)interleaving
122       VLD2D,
123       VLD3D,
124       VLD4D,
125       VST2D,
126       VST3D,
127       VST4D,
128
129       // Vector shuffles:
130       VREV64,       // reverse elements within 64-bit doublewords
131       VREV32,       // reverse elements within 32-bit words
132       VREV16,       // reverse elements within 16-bit halfwords
133       VSPLAT0       // duplicate element 0 into all elements
134     };
135   }
136
137   /// Define some predicates that are used for node matching.
138   namespace ARM {
139     /// getVMOVImm - If this is a build_vector of constants which can be
140     /// formed by using a VMOV instruction of the specified element size,
141     /// return the constant being splatted.  The ByteSize field indicates the
142     /// number of bytes of each element [1248].
143     SDValue getVMOVImm(SDNode *N, unsigned ByteSize, SelectionDAG &DAG);
144   }
145
146   //===--------------------------------------------------------------------===//
147   //  ARMTargetLowering - ARM Implementation of the TargetLowering interface
148
149   class ARMTargetLowering : public TargetLowering {
150     int VarArgsFrameIndex;            // FrameIndex for start of varargs area.
151   public:
152     explicit ARMTargetLowering(TargetMachine &TM);
153
154     virtual SDValue LowerOperation(SDValue Op, SelectionDAG &DAG);
155
156     /// ReplaceNodeResults - Replace the results of node with an illegal result
157     /// type with new values built out of custom code.
158     ///
159     virtual void ReplaceNodeResults(SDNode *N, SmallVectorImpl<SDValue>&Results,
160                                     SelectionDAG &DAG);
161
162     virtual SDValue PerformDAGCombine(SDNode *N, DAGCombinerInfo &DCI) const;
163
164     virtual const char *getTargetNodeName(unsigned Opcode) const;
165
166     virtual MachineBasicBlock *EmitInstrWithCustomInserter(MachineInstr *MI,
167                                                   MachineBasicBlock *MBB) const;
168
169     /// isLegalAddressingMode - Return true if the addressing mode represented
170     /// by AM is legal for this target, for a load/store of the specified type.
171     virtual bool isLegalAddressingMode(const AddrMode &AM, const Type *Ty)const;
172
173     /// getPreIndexedAddressParts - returns true by value, base pointer and
174     /// offset pointer and addressing mode by reference if the node's address
175     /// can be legally represented as pre-indexed load / store address.
176     virtual bool getPreIndexedAddressParts(SDNode *N, SDValue &Base,
177                                            SDValue &Offset,
178                                            ISD::MemIndexedMode &AM,
179                                            SelectionDAG &DAG) const;
180
181     /// getPostIndexedAddressParts - returns true by value, base pointer and
182     /// offset pointer and addressing mode by reference if this node can be
183     /// combined with a load / store to form a post-indexed load / store.
184     virtual bool getPostIndexedAddressParts(SDNode *N, SDNode *Op,
185                                             SDValue &Base, SDValue &Offset,
186                                             ISD::MemIndexedMode &AM,
187                                             SelectionDAG &DAG) const;
188
189     virtual void computeMaskedBitsForTargetNode(const SDValue Op,
190                                                 const APInt &Mask,
191                                                 APInt &KnownZero,
192                                                 APInt &KnownOne,
193                                                 const SelectionDAG &DAG,
194                                                 unsigned Depth) const;
195     ConstraintType getConstraintType(const std::string &Constraint) const;
196     std::pair<unsigned, const TargetRegisterClass*>
197       getRegForInlineAsmConstraint(const std::string &Constraint,
198                                    EVT VT) const;
199     std::vector<unsigned>
200     getRegClassForInlineAsmConstraint(const std::string &Constraint,
201                                       EVT VT) const;
202
203     /// LowerAsmOperandForConstraint - Lower the specified operand into the Ops
204     /// vector.  If it is invalid, don't add anything to Ops. If hasMemory is
205     /// true it means one of the asm constraint of the inline asm instruction
206     /// being processed is 'm'.
207     virtual void LowerAsmOperandForConstraint(SDValue Op,
208                                               char ConstraintLetter,
209                                               bool hasMemory,
210                                               std::vector<SDValue> &Ops,
211                                               SelectionDAG &DAG) const;
212
213     virtual const ARMSubtarget* getSubtarget() {
214       return Subtarget;
215     }
216
217     /// getFunctionAlignment - Return the Log2 alignment of this function.
218     virtual unsigned getFunctionAlignment(const Function *F) const;
219
220   private:
221     /// Subtarget - Keep a pointer to the ARMSubtarget around so that we can
222     /// make the right decision when generating code for different targets.
223     const ARMSubtarget *Subtarget;
224
225     /// ARMPCLabelIndex - Keep track of the number of ARM PC labels created.
226     ///
227     unsigned ARMPCLabelIndex;
228
229     void addTypeForNEON(EVT VT, EVT PromotedLdStVT, EVT PromotedBitwiseVT);
230     void addDRTypeForNEON(EVT VT);
231     void addQRTypeForNEON(EVT VT);
232
233     typedef SmallVector<std::pair<unsigned, SDValue>, 8> RegsToPassVector;
234     void PassF64ArgInRegs(DebugLoc dl, SelectionDAG &DAG,
235                           SDValue Chain, SDValue &Arg,
236                           RegsToPassVector &RegsToPass,
237                           CCValAssign &VA, CCValAssign &NextVA,
238                           SDValue &StackPtr,
239                           SmallVector<SDValue, 8> &MemOpChains,
240                           ISD::ArgFlagsTy Flags);
241     SDValue GetF64FormalArgument(CCValAssign &VA, CCValAssign &NextVA,
242                                  SDValue &Root, SelectionDAG &DAG, DebugLoc dl);
243
244     CCAssignFn *CCAssignFnForNode(unsigned CC, bool Return, bool isVarArg) const;
245     SDValue LowerMemOpCallTo(SDValue Chain, SDValue StackPtr, SDValue Arg,
246                              DebugLoc dl, SelectionDAG &DAG,
247                              const CCValAssign &VA,
248                              ISD::ArgFlagsTy Flags);
249     SDValue LowerINTRINSIC_W_CHAIN(SDValue Op, SelectionDAG &DAG);
250     SDValue LowerINTRINSIC_WO_CHAIN(SDValue Op, SelectionDAG &DAG);
251     SDValue LowerGlobalAddressDarwin(SDValue Op, SelectionDAG &DAG);
252     SDValue LowerGlobalAddressELF(SDValue Op, SelectionDAG &DAG);
253     SDValue LowerGlobalTLSAddress(SDValue Op, SelectionDAG &DAG);
254     SDValue LowerToTLSGeneralDynamicModel(GlobalAddressSDNode *GA,
255                                             SelectionDAG &DAG);
256     SDValue LowerToTLSExecModels(GlobalAddressSDNode *GA,
257                                    SelectionDAG &DAG);
258     SDValue LowerGLOBAL_OFFSET_TABLE(SDValue Op, SelectionDAG &DAG);
259     SDValue LowerBR_JT(SDValue Op, SelectionDAG &DAG);
260     SDValue LowerFRAMEADDR(SDValue Op, SelectionDAG &DAG);
261     SDValue LowerDYNAMIC_STACKALLOC(SDValue Op, SelectionDAG &DAG);
262
263     SDValue EmitTargetCodeForMemcpy(SelectionDAG &DAG, DebugLoc dl,
264                                       SDValue Chain,
265                                       SDValue Dst, SDValue Src,
266                                       SDValue Size, unsigned Align,
267                                       bool AlwaysInline,
268                                       const Value *DstSV, uint64_t DstSVOff,
269                                       const Value *SrcSV, uint64_t SrcSVOff);
270     SDValue LowerCallResult(SDValue Chain, SDValue InFlag,
271                             unsigned CallConv, bool isVarArg,
272                             const SmallVectorImpl<ISD::InputArg> &Ins,
273                             DebugLoc dl, SelectionDAG &DAG,
274                             SmallVectorImpl<SDValue> &InVals);
275
276     virtual SDValue
277       LowerFormalArguments(SDValue Chain,
278                            unsigned CallConv, bool isVarArg,
279                            const SmallVectorImpl<ISD::InputArg> &Ins,
280                            DebugLoc dl, SelectionDAG &DAG,
281                            SmallVectorImpl<SDValue> &InVals);
282
283     virtual SDValue
284       LowerCall(SDValue Chain, SDValue Callee,
285                 unsigned CallConv, bool isVarArg,
286                 bool isTailCall,
287                 const SmallVectorImpl<ISD::OutputArg> &Outs,
288                 const SmallVectorImpl<ISD::InputArg> &Ins,
289                 DebugLoc dl, SelectionDAG &DAG,
290                 SmallVectorImpl<SDValue> &InVals);
291
292     virtual SDValue
293       LowerReturn(SDValue Chain,
294                   unsigned CallConv, bool isVarArg,
295                   const SmallVectorImpl<ISD::OutputArg> &Outs,
296                   DebugLoc dl, SelectionDAG &DAG);
297   };
298 }
299
300 #endif  // ARMISELLOWERING_H