[mips][msa] Added support for matching ilv[lr], ilvod, and ilvev from normal IR ...
[oota-llvm.git] / lib / Target / Mips / MipsISelLowering.h
1 //===-- MipsISelLowering.h - Mips DAG Lowering Interface --------*- C++ -*-===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // This file defines the interfaces that Mips uses to lower LLVM code into a
11 // selection DAG.
12 //
13 //===----------------------------------------------------------------------===//
14
15 #ifndef MipsISELLOWERING_H
16 #define MipsISELLOWERING_H
17
18 #include "Mips.h"
19 #include "MipsSubtarget.h"
20 #include "llvm/CodeGen/CallingConvLower.h"
21 #include "llvm/CodeGen/SelectionDAG.h"
22 #include "llvm/IR/Function.h"
23 #include "llvm/Target/TargetLowering.h"
24 #include <deque>
25 #include <string>
26
27 namespace llvm {
28   namespace MipsISD {
29     enum NodeType {
30       // Start the numbering from where ISD NodeType finishes.
31       FIRST_NUMBER = ISD::BUILTIN_OP_END,
32
33       // Jump and link (call)
34       JmpLink,
35
36       // Tail call
37       TailCall,
38
39       // Get the Higher 16 bits from a 32-bit immediate
40       // No relation with Mips Hi register
41       Hi,
42
43       // Get the Lower 16 bits from a 32-bit immediate
44       // No relation with Mips Lo register
45       Lo,
46
47       // Handle gp_rel (small data/bss sections) relocation.
48       GPRel,
49
50       // Thread Pointer
51       ThreadPointer,
52
53       // Floating Point Branch Conditional
54       FPBrcond,
55
56       // Floating Point Compare
57       FPCmp,
58
59       // Floating Point Conditional Moves
60       CMovFP_T,
61       CMovFP_F,
62
63       // FP-to-int truncation node.
64       TruncIntFP,
65
66       // Return
67       Ret,
68
69       EH_RETURN,
70
71       // Node used to extract integer from accumulator.
72       ExtractLOHI,
73
74       // Node used to insert integers to accumulator.
75       InsertLOHI,
76
77       // Mult nodes.
78       Mult,
79       Multu,
80
81       // MAdd/Sub nodes
82       MAdd,
83       MAddu,
84       MSub,
85       MSubu,
86
87       // DivRem(u)
88       DivRem,
89       DivRemU,
90       DivRem16,
91       DivRemU16,
92
93       BuildPairF64,
94       ExtractElementF64,
95
96       Wrapper,
97
98       DynAlloc,
99
100       Sync,
101
102       Ext,
103       Ins,
104
105       // EXTR.W instrinsic nodes.
106       EXTP,
107       EXTPDP,
108       EXTR_S_H,
109       EXTR_W,
110       EXTR_R_W,
111       EXTR_RS_W,
112       SHILO,
113       MTHLIP,
114
115       // DPA.W intrinsic nodes.
116       MULSAQ_S_W_PH,
117       MAQ_S_W_PHL,
118       MAQ_S_W_PHR,
119       MAQ_SA_W_PHL,
120       MAQ_SA_W_PHR,
121       DPAU_H_QBL,
122       DPAU_H_QBR,
123       DPSU_H_QBL,
124       DPSU_H_QBR,
125       DPAQ_S_W_PH,
126       DPSQ_S_W_PH,
127       DPAQ_SA_L_W,
128       DPSQ_SA_L_W,
129       DPA_W_PH,
130       DPS_W_PH,
131       DPAQX_S_W_PH,
132       DPAQX_SA_W_PH,
133       DPAX_W_PH,
134       DPSX_W_PH,
135       DPSQX_S_W_PH,
136       DPSQX_SA_W_PH,
137       MULSA_W_PH,
138
139       MULT,
140       MULTU,
141       MADD_DSP,
142       MADDU_DSP,
143       MSUB_DSP,
144       MSUBU_DSP,
145
146       // DSP shift nodes.
147       SHLL_DSP,
148       SHRA_DSP,
149       SHRL_DSP,
150
151       // DSP setcc and select_cc nodes.
152       SETCC_DSP,
153       SELECT_CC_DSP,
154
155       // Vector comparisons.
156       // These take a vector and return a boolean.
157       VALL_ZERO,
158       VANY_ZERO,
159       VALL_NONZERO,
160       VANY_NONZERO,
161
162       // These take a vector and return a vector bitmask.
163       VCEQ,
164       VCLE_S,
165       VCLE_U,
166       VCLT_S,
167       VCLT_U,
168
169       // Element-wise vector max/min.
170       VSMAX,
171       VSMIN,
172       VUMAX,
173       VUMIN,
174
175       // Vector Shuffle with mask as an operand
176       VSHF,  // Generic shuffle
177       SHF,   // 4-element set shuffle.
178       ILVEV, // Interleave even elements
179       ILVOD, // Interleave odd elements
180       ILVL,  // Interleave left elements
181       ILVR,  // Interleave right elements
182
183       // Combined (XOR (OR $a, $b), -1)
184       VNOR,
185
186       // Extended vector element extraction
187       VEXTRACT_SEXT_ELT,
188       VEXTRACT_ZEXT_ELT,
189
190       // Load/Store Left/Right nodes.
191       LWL = ISD::FIRST_TARGET_MEMORY_OPCODE,
192       LWR,
193       SWL,
194       SWR,
195       LDL,
196       LDR,
197       SDL,
198       SDR
199     };
200   }
201
202   //===--------------------------------------------------------------------===//
203   // TargetLowering Implementation
204   //===--------------------------------------------------------------------===//
205   class MipsFunctionInfo;
206
207   class MipsTargetLowering : public TargetLowering  {
208   public:
209     explicit MipsTargetLowering(MipsTargetMachine &TM);
210
211     static const MipsTargetLowering *create(MipsTargetMachine &TM);
212
213     virtual MVT getScalarShiftAmountTy(EVT LHSTy) const { return MVT::i32; }
214
215     virtual void LowerOperationWrapper(SDNode *N,
216                                        SmallVectorImpl<SDValue> &Results,
217                                        SelectionDAG &DAG) const;
218
219     /// LowerOperation - Provide custom lowering hooks for some operations.
220     virtual SDValue LowerOperation(SDValue Op, SelectionDAG &DAG) const;
221
222     /// ReplaceNodeResults - Replace the results of node with an illegal result
223     /// type with new values built out of custom code.
224     ///
225     virtual void ReplaceNodeResults(SDNode *N, SmallVectorImpl<SDValue>&Results,
226                                     SelectionDAG &DAG) const;
227
228     /// getTargetNodeName - This method returns the name of a target specific
229     //  DAG node.
230     virtual const char *getTargetNodeName(unsigned Opcode) const;
231
232     /// getSetCCResultType - get the ISD::SETCC result ValueType
233     EVT getSetCCResultType(LLVMContext &Context, EVT VT) const;
234
235     virtual SDValue PerformDAGCombine(SDNode *N, DAGCombinerInfo &DCI) const;
236
237     virtual MachineBasicBlock *
238     EmitInstrWithCustomInserter(MachineInstr *MI, MachineBasicBlock *MBB) const;
239
240     struct LTStr {
241       bool operator()(const char *S1, const char *S2) const {
242         return strcmp(S1, S2) < 0;
243       }
244     };
245
246   protected:
247     SDValue getGlobalReg(SelectionDAG &DAG, EVT Ty) const;
248
249     SDValue getAddrLocal(SDValue Op, SelectionDAG &DAG, bool HasMips64) const;
250
251     SDValue getAddrGlobal(SDValue Op, SelectionDAG &DAG, unsigned Flag) const;
252
253     SDValue getAddrGlobalLargeGOT(SDValue Op, SelectionDAG &DAG,
254                                   unsigned HiFlag, unsigned LoFlag) const;
255
256     /// This function fills Ops, which is the list of operands that will later
257     /// be used when a function call node is created. It also generates
258     /// copyToReg nodes to set up argument registers.
259     virtual void
260     getOpndList(SmallVectorImpl<SDValue> &Ops,
261                 std::deque< std::pair<unsigned, SDValue> > &RegsToPass,
262                 bool IsPICCall, bool GlobalOrExternal, bool InternalLinkage,
263                 CallLoweringInfo &CLI, SDValue Callee, SDValue Chain) const;
264
265     /// ByValArgInfo - Byval argument information.
266     struct ByValArgInfo {
267       unsigned FirstIdx; // Index of the first register used.
268       unsigned NumRegs;  // Number of registers used for this argument.
269       unsigned Address;  // Offset of the stack area used to pass this argument.
270
271       ByValArgInfo() : FirstIdx(0), NumRegs(0), Address(0) {}
272     };
273
274     /// MipsCC - This class provides methods used to analyze formal and call
275     /// arguments and inquire about calling convention information.
276     class MipsCC {
277     public:
278       enum SpecialCallingConvType {
279         Mips16RetHelperConv, NoSpecialCallingConv
280       };
281
282       MipsCC(CallingConv::ID CallConv, bool IsO32, bool IsFP64, CCState &Info,
283              SpecialCallingConvType SpecialCallingConv = NoSpecialCallingConv);
284
285
286       void analyzeCallOperands(const SmallVectorImpl<ISD::OutputArg> &Outs,
287                                bool IsVarArg, bool IsSoftFloat,
288                                const SDNode *CallNode,
289                                std::vector<ArgListEntry> &FuncArgs);
290       void analyzeFormalArguments(const SmallVectorImpl<ISD::InputArg> &Ins,
291                                   bool IsSoftFloat,
292                                   Function::const_arg_iterator FuncArg);
293
294       void analyzeCallResult(const SmallVectorImpl<ISD::InputArg> &Ins,
295                              bool IsSoftFloat, const SDNode *CallNode,
296                              const Type *RetTy) const;
297
298       void analyzeReturn(const SmallVectorImpl<ISD::OutputArg> &Outs,
299                          bool IsSoftFloat, const Type *RetTy) const;
300
301       const CCState &getCCInfo() const { return CCInfo; }
302
303       /// hasByValArg - Returns true if function has byval arguments.
304       bool hasByValArg() const { return !ByValArgs.empty(); }
305
306       /// regSize - Size (in number of bits) of integer registers.
307       unsigned regSize() const { return IsO32 ? 4 : 8; }
308
309       /// numIntArgRegs - Number of integer registers available for calls.
310       unsigned numIntArgRegs() const;
311
312       /// reservedArgArea - The size of the area the caller reserves for
313       /// register arguments. This is 16-byte if ABI is O32.
314       unsigned reservedArgArea() const;
315
316       /// Return pointer to array of integer argument registers.
317       const uint16_t *intArgRegs() const;
318
319       typedef SmallVectorImpl<ByValArgInfo>::const_iterator byval_iterator;
320       byval_iterator byval_begin() const { return ByValArgs.begin(); }
321       byval_iterator byval_end() const { return ByValArgs.end(); }
322
323     private:
324       void handleByValArg(unsigned ValNo, MVT ValVT, MVT LocVT,
325                           CCValAssign::LocInfo LocInfo,
326                           ISD::ArgFlagsTy ArgFlags);
327
328       /// useRegsForByval - Returns true if the calling convention allows the
329       /// use of registers to pass byval arguments.
330       bool useRegsForByval() const { return CallConv != CallingConv::Fast; }
331
332       /// Return the function that analyzes fixed argument list functions.
333       llvm::CCAssignFn *fixedArgFn() const;
334
335       /// Return the function that analyzes variable argument list functions.
336       llvm::CCAssignFn *varArgFn() const;
337
338       const uint16_t *shadowRegs() const;
339
340       void allocateRegs(ByValArgInfo &ByVal, unsigned ByValSize,
341                         unsigned Align);
342
343       /// Return the type of the register which is used to pass an argument or
344       /// return a value. This function returns f64 if the argument is an i64
345       /// value which has been generated as a result of softening an f128 value.
346       /// Otherwise, it just returns VT.
347       MVT getRegVT(MVT VT, const Type *OrigTy, const SDNode *CallNode,
348                    bool IsSoftFloat) const;
349
350       template<typename Ty>
351       void analyzeReturn(const SmallVectorImpl<Ty> &RetVals, bool IsSoftFloat,
352                          const SDNode *CallNode, const Type *RetTy) const;
353
354       CCState &CCInfo;
355       CallingConv::ID CallConv;
356       bool IsO32, IsFP64;
357       SpecialCallingConvType SpecialCallingConv;
358       SmallVector<ByValArgInfo, 2> ByValArgs;
359     };
360   protected:
361     SDValue lowerLOAD(SDValue Op, SelectionDAG &DAG) const;
362     SDValue lowerSTORE(SDValue Op, SelectionDAG &DAG) const;
363
364     // Subtarget Info
365     const MipsSubtarget *Subtarget;
366
367     bool HasMips64, IsN64, IsO32;
368
369   private:
370
371     MipsCC::SpecialCallingConvType getSpecialCallingConv(SDValue Callee) const;
372     // Lower Operand helpers
373     SDValue LowerCallResult(SDValue Chain, SDValue InFlag,
374                             CallingConv::ID CallConv, bool isVarArg,
375                             const SmallVectorImpl<ISD::InputArg> &Ins,
376                             SDLoc dl, SelectionDAG &DAG,
377                             SmallVectorImpl<SDValue> &InVals,
378                             const SDNode *CallNode, const Type *RetTy) const;
379
380     // Lower Operand specifics
381     SDValue lowerBR_JT(SDValue Op, SelectionDAG &DAG) const;
382     SDValue lowerBRCOND(SDValue Op, SelectionDAG &DAG) const;
383     SDValue lowerConstantPool(SDValue Op, SelectionDAG &DAG) const;
384     SDValue lowerGlobalAddress(SDValue Op, SelectionDAG &DAG) const;
385     SDValue lowerBlockAddress(SDValue Op, SelectionDAG &DAG) const;
386     SDValue lowerGlobalTLSAddress(SDValue Op, SelectionDAG &DAG) const;
387     SDValue lowerJumpTable(SDValue Op, SelectionDAG &DAG) const;
388     SDValue lowerSELECT(SDValue Op, SelectionDAG &DAG) const;
389     SDValue lowerSELECT_CC(SDValue Op, SelectionDAG &DAG) const;
390     SDValue lowerSETCC(SDValue Op, SelectionDAG &DAG) const;
391     SDValue lowerVASTART(SDValue Op, SelectionDAG &DAG) const;
392     SDValue lowerFCOPYSIGN(SDValue Op, SelectionDAG &DAG) const;
393     SDValue lowerFABS(SDValue Op, SelectionDAG &DAG) const;
394     SDValue lowerFRAMEADDR(SDValue Op, SelectionDAG &DAG) const;
395     SDValue lowerRETURNADDR(SDValue Op, SelectionDAG &DAG) const;
396     SDValue lowerEH_RETURN(SDValue Op, SelectionDAG &DAG) const;
397     SDValue lowerATOMIC_FENCE(SDValue Op, SelectionDAG& DAG) const;
398     SDValue lowerShiftLeftParts(SDValue Op, SelectionDAG& DAG) const;
399     SDValue lowerShiftRightParts(SDValue Op, SelectionDAG& DAG,
400                                  bool IsSRA) const;
401     SDValue lowerADD(SDValue Op, SelectionDAG &DAG) const;
402     SDValue lowerFP_TO_SINT(SDValue Op, SelectionDAG &DAG) const;
403
404     /// isEligibleForTailCallOptimization - Check whether the call is eligible
405     /// for tail call optimization.
406     virtual bool
407     isEligibleForTailCallOptimization(const MipsCC &MipsCCInfo,
408                                       unsigned NextStackOffset,
409                                       const MipsFunctionInfo& FI) const = 0;
410
411     /// copyByValArg - Copy argument registers which were used to pass a byval
412     /// argument to the stack. Create a stack frame object for the byval
413     /// argument.
414     void copyByValRegs(SDValue Chain, SDLoc DL,
415                        std::vector<SDValue> &OutChains, SelectionDAG &DAG,
416                        const ISD::ArgFlagsTy &Flags,
417                        SmallVectorImpl<SDValue> &InVals,
418                        const Argument *FuncArg,
419                        const MipsCC &CC, const ByValArgInfo &ByVal) const;
420
421     /// passByValArg - Pass a byval argument in registers or on stack.
422     void passByValArg(SDValue Chain, SDLoc DL,
423                       std::deque< std::pair<unsigned, SDValue> > &RegsToPass,
424                       SmallVectorImpl<SDValue> &MemOpChains, SDValue StackPtr,
425                       MachineFrameInfo *MFI, SelectionDAG &DAG, SDValue Arg,
426                       const MipsCC &CC, const ByValArgInfo &ByVal,
427                       const ISD::ArgFlagsTy &Flags, bool isLittle) const;
428
429     /// writeVarArgRegs - Write variable function arguments passed in registers
430     /// to the stack. Also create a stack frame object for the first variable
431     /// argument.
432     void writeVarArgRegs(std::vector<SDValue> &OutChains, const MipsCC &CC,
433                          SDValue Chain, SDLoc DL, SelectionDAG &DAG) const;
434
435     virtual SDValue
436       LowerFormalArguments(SDValue Chain,
437                            CallingConv::ID CallConv, bool isVarArg,
438                            const SmallVectorImpl<ISD::InputArg> &Ins,
439                            SDLoc dl, SelectionDAG &DAG,
440                            SmallVectorImpl<SDValue> &InVals) const;
441
442     SDValue passArgOnStack(SDValue StackPtr, unsigned Offset, SDValue Chain,
443                            SDValue Arg, SDLoc DL, bool IsTailCall,
444                            SelectionDAG &DAG) const;
445
446     virtual SDValue
447       LowerCall(TargetLowering::CallLoweringInfo &CLI,
448                 SmallVectorImpl<SDValue> &InVals) const;
449
450     virtual bool
451       CanLowerReturn(CallingConv::ID CallConv, MachineFunction &MF,
452                      bool isVarArg,
453                      const SmallVectorImpl<ISD::OutputArg> &Outs,
454                      LLVMContext &Context) const;
455
456     virtual SDValue
457       LowerReturn(SDValue Chain,
458                   CallingConv::ID CallConv, bool isVarArg,
459                   const SmallVectorImpl<ISD::OutputArg> &Outs,
460                   const SmallVectorImpl<SDValue> &OutVals,
461                   SDLoc dl, SelectionDAG &DAG) const;
462
463     // Inline asm support
464     ConstraintType getConstraintType(const std::string &Constraint) const;
465
466     /// Examine constraint string and operand type and determine a weight value.
467     /// The operand object must already have been set up with the operand type.
468     ConstraintWeight getSingleConstraintMatchWeight(
469       AsmOperandInfo &info, const char *constraint) const;
470
471     /// This function parses registers that appear in inline-asm constraints.
472     /// It returns pair (0, 0) on failure.
473     std::pair<unsigned, const TargetRegisterClass *>
474     parseRegForInlineAsmConstraint(const StringRef &C, MVT VT) const;
475
476     std::pair<unsigned, const TargetRegisterClass*>
477               getRegForInlineAsmConstraint(const std::string &Constraint,
478                                            MVT VT) const;
479
480     /// LowerAsmOperandForConstraint - Lower the specified operand into the Ops
481     /// vector.  If it is invalid, don't add anything to Ops. If hasMemory is
482     /// true it means one of the asm constraint of the inline asm instruction
483     /// being processed is 'm'.
484     virtual void LowerAsmOperandForConstraint(SDValue Op,
485                                               std::string &Constraint,
486                                               std::vector<SDValue> &Ops,
487                                               SelectionDAG &DAG) const;
488
489     virtual bool isLegalAddressingMode(const AddrMode &AM, Type *Ty) const;
490
491     virtual bool isOffsetFoldingLegal(const GlobalAddressSDNode *GA) const;
492
493     virtual EVT getOptimalMemOpType(uint64_t Size, unsigned DstAlign,
494                                     unsigned SrcAlign,
495                                     bool IsMemset, bool ZeroMemset,
496                                     bool MemcpyStrSrc,
497                                     MachineFunction &MF) const;
498
499     /// isFPImmLegal - Returns true if the target can instruction select the
500     /// specified FP immediate natively. If false, the legalizer will
501     /// materialize the FP immediate as a load from a constant pool.
502     virtual bool isFPImmLegal(const APFloat &Imm, EVT VT) const;
503
504     virtual unsigned getJumpTableEncoding() const;
505
506     MachineBasicBlock *emitAtomicBinary(MachineInstr *MI, MachineBasicBlock *BB,
507                     unsigned Size, unsigned BinOpcode, bool Nand = false) const;
508     MachineBasicBlock *emitAtomicBinaryPartword(MachineInstr *MI,
509                     MachineBasicBlock *BB, unsigned Size, unsigned BinOpcode,
510                     bool Nand = false) const;
511     MachineBasicBlock *emitAtomicCmpSwap(MachineInstr *MI,
512                                   MachineBasicBlock *BB, unsigned Size) const;
513     MachineBasicBlock *emitAtomicCmpSwapPartword(MachineInstr *MI,
514                                   MachineBasicBlock *BB, unsigned Size) const;
515   };
516
517   /// Create MipsTargetLowering objects.
518   const MipsTargetLowering *createMips16TargetLowering(MipsTargetMachine &TM);
519   const MipsTargetLowering *createMipsSETargetLowering(MipsTargetMachine &TM);
520 }
521
522 #endif // MipsISELLOWERING_H