Use rsqrt (X86) to speed up reciprocal square root calcs
[oota-llvm.git] / lib / Target / X86 / X86Subtarget.h
1 //===-- X86Subtarget.h - Define Subtarget for the X86 ----------*- C++ -*--===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // This file declares the X86 specific subclass of TargetSubtargetInfo.
11 //
12 //===----------------------------------------------------------------------===//
13
14 #ifndef LLVM_LIB_TARGET_X86_X86SUBTARGET_H
15 #define LLVM_LIB_TARGET_X86_X86SUBTARGET_H
16
17 #include "X86FrameLowering.h"
18 #include "X86ISelLowering.h"
19 #include "X86InstrInfo.h"
20 #include "X86SelectionDAGInfo.h"
21 #include "llvm/ADT/Triple.h"
22 #include "llvm/IR/CallingConv.h"
23 #include "llvm/Target/TargetSubtargetInfo.h"
24 #include <string>
25
26 #define GET_SUBTARGETINFO_HEADER
27 #include "X86GenSubtargetInfo.inc"
28
29 namespace llvm {
30 class GlobalValue;
31 class StringRef;
32 class TargetMachine;
33
34 /// PICStyles - The X86 backend supports a number of different styles of PIC.
35 ///
36 namespace PICStyles {
37 enum Style {
38   StubPIC,          // Used on i386-darwin in -fPIC mode.
39   StubDynamicNoPIC, // Used on i386-darwin in -mdynamic-no-pic mode.
40   GOT,              // Used on many 32-bit unices in -fPIC mode.
41   RIPRel,           // Used on X86-64 when not in -static mode.
42   None              // Set when in -static mode (not PIC or DynamicNoPIC mode).
43 };
44 }
45
46 class X86Subtarget final : public X86GenSubtargetInfo {
47
48 protected:
49   enum X86SSEEnum {
50     NoMMXSSE, MMX, SSE1, SSE2, SSE3, SSSE3, SSE41, SSE42, AVX, AVX2, AVX512F
51   };
52
53   enum X863DNowEnum {
54     NoThreeDNow, ThreeDNow, ThreeDNowA
55   };
56
57   enum X86ProcFamilyEnum {
58     Others, IntelAtom, IntelSLM
59   };
60
61   /// X86ProcFamily - X86 processor family: Intel Atom, and others
62   X86ProcFamilyEnum X86ProcFamily;
63
64   /// PICStyle - Which PIC style to use
65   ///
66   PICStyles::Style PICStyle;
67
68   /// X86SSELevel - MMX, SSE1, SSE2, SSE3, SSSE3, SSE41, SSE42, or
69   /// none supported.
70   X86SSEEnum X86SSELevel;
71
72   /// X863DNowLevel - 3DNow or 3DNow Athlon, or none supported.
73   ///
74   X863DNowEnum X863DNowLevel;
75
76   /// HasCMov - True if this processor has conditional move instructions
77   /// (generally pentium pro+).
78   bool HasCMov;
79
80   /// HasX86_64 - True if the processor supports X86-64 instructions.
81   ///
82   bool HasX86_64;
83
84   /// HasPOPCNT - True if the processor supports POPCNT.
85   bool HasPOPCNT;
86
87   /// HasSSE4A - True if the processor supports SSE4A instructions.
88   bool HasSSE4A;
89
90   /// HasAES - Target has AES instructions
91   bool HasAES;
92
93   /// HasPCLMUL - Target has carry-less multiplication
94   bool HasPCLMUL;
95
96   /// HasFMA - Target has 3-operand fused multiply-add
97   bool HasFMA;
98
99   /// HasFMA4 - Target has 4-operand fused multiply-add
100   bool HasFMA4;
101
102   /// HasXOP - Target has XOP instructions
103   bool HasXOP;
104
105   /// HasTBM - Target has TBM instructions.
106   bool HasTBM;
107
108   /// HasMOVBE - True if the processor has the MOVBE instruction.
109   bool HasMOVBE;
110
111   /// HasRDRAND - True if the processor has the RDRAND instruction.
112   bool HasRDRAND;
113
114   /// HasF16C - Processor has 16-bit floating point conversion instructions.
115   bool HasF16C;
116
117   /// HasFSGSBase - Processor has FS/GS base insturctions.
118   bool HasFSGSBase;
119
120   /// HasLZCNT - Processor has LZCNT instruction.
121   bool HasLZCNT;
122
123   /// HasBMI - Processor has BMI1 instructions.
124   bool HasBMI;
125
126   /// HasBMI2 - Processor has BMI2 instructions.
127   bool HasBMI2;
128
129   /// HasRTM - Processor has RTM instructions.
130   bool HasRTM;
131
132   /// HasHLE - Processor has HLE.
133   bool HasHLE;
134
135   /// HasADX - Processor has ADX instructions.
136   bool HasADX;
137
138   /// HasSHA - Processor has SHA instructions.
139   bool HasSHA;
140
141   /// HasSGX - Processor has SGX instructions.
142   bool HasSGX;
143
144   /// HasPRFCHW - Processor has PRFCHW instructions.
145   bool HasPRFCHW;
146
147   /// HasRDSEED - Processor has RDSEED instructions.
148   bool HasRDSEED;
149
150   /// HasSMAP - Processor has SMAP instructions.
151   bool HasSMAP;
152
153   /// IsBTMemSlow - True if BT (bit test) of memory instructions are slow.
154   bool IsBTMemSlow;
155
156   /// IsSHLDSlow - True if SHLD instructions are slow.
157   bool IsSHLDSlow;
158
159   /// IsUAMemFast - True if unaligned memory access is fast.
160   bool IsUAMemFast;
161
162   /// HasVectorUAMem - True if SIMD operations can have unaligned memory
163   /// operands. This may require setting a feature bit in the processor.
164   bool HasVectorUAMem;
165
166   /// HasCmpxchg16b - True if this processor has the CMPXCHG16B instruction;
167   /// this is true for most x86-64 chips, but not the first AMD chips.
168   bool HasCmpxchg16b;
169
170   /// UseLeaForSP - True if the LEA instruction should be used for adjusting
171   /// the stack pointer. This is an optimization for Intel Atom processors.
172   bool UseLeaForSP;
173
174   /// HasSlowDivide - True if smaller divides are significantly faster than
175   /// full divides and should be used when possible.
176   bool HasSlowDivide;
177
178   /// PadShortFunctions - True if the short functions should be padded to prevent
179   /// a stall when returning too early.
180   bool PadShortFunctions;
181
182   /// CallRegIndirect - True if the Calls with memory reference should be converted
183   /// to a register-based indirect call.
184   bool CallRegIndirect;
185   /// LEAUsesAG - True if the LEA instruction inputs have to be ready at
186   ///             address generation (AG) time.
187   bool LEAUsesAG;
188
189   /// SlowLEA - True if the LEA instruction with certain arguments is slow
190   bool SlowLEA;
191
192   /// SlowIncDec - True if INC and DEC instructions are slow when writing to flags
193   bool SlowIncDec;
194
195   /// Use the RSQRT* instructions to optimize square root calculations.
196   /// For this to be profitable, the cost of FSQRT and FDIV must be
197   /// substantially higher than normal FP ops like FADD and FMUL.
198   bool UseSqrtEst;
199
200   /// Processor has AVX-512 PreFetch Instructions
201   bool HasPFI;
202
203   /// Processor has AVX-512 Exponential and Reciprocal Instructions
204   bool HasERI;
205
206   /// Processor has AVX-512 Conflict Detection Instructions
207   bool HasCDI;
208
209   /// Processor has AVX-512 Doubleword and Quadword instructions
210   bool HasDQI;
211
212   /// Processor has AVX-512 Byte and Word instructions
213   bool HasBWI;
214
215   /// Processor has AVX-512 Vector Length eXtenstions
216   bool HasVLX;
217
218   /// stackAlignment - The minimum alignment known to hold of the stack frame on
219   /// entry to the function and which must be maintained by every function.
220   unsigned stackAlignment;
221
222   /// Max. memset / memcpy size that is turned into rep/movs, rep/stos ops.
223   ///
224   unsigned MaxInlineSizeThreshold;
225
226   /// TargetTriple - What processor and OS we're targeting.
227   Triple TargetTriple;
228
229   /// Instruction itineraries for scheduling
230   InstrItineraryData InstrItins;
231
232 private:
233   // Calculates type size & alignment
234   const DataLayout DL;
235
236   /// StackAlignOverride - Override the stack alignment.
237   unsigned StackAlignOverride;
238
239   /// In64BitMode - True if compiling for 64-bit, false for 16-bit or 32-bit.
240   bool In64BitMode;
241
242   /// In32BitMode - True if compiling for 32-bit, false for 16-bit or 64-bit.
243   bool In32BitMode;
244
245   /// In16BitMode - True if compiling for 16-bit, false for 32-bit or 64-bit.
246   bool In16BitMode;
247
248   X86SelectionDAGInfo TSInfo;
249   // Ordering here is important. X86InstrInfo initializes X86RegisterInfo which
250   // X86TargetLowering needs.
251   X86InstrInfo InstrInfo;
252   X86TargetLowering TLInfo;
253   X86FrameLowering FrameLowering;
254
255 public:
256   /// This constructor initializes the data members to match that
257   /// of the specified triple.
258   ///
259   X86Subtarget(const std::string &TT, const std::string &CPU,
260                const std::string &FS, const X86TargetMachine &TM,
261                unsigned StackAlignOverride);
262
263   const X86TargetLowering *getTargetLowering() const override {
264     return &TLInfo;
265   }
266   const X86InstrInfo *getInstrInfo() const override { return &InstrInfo; }
267   const DataLayout *getDataLayout() const override { return &DL; }
268   const X86FrameLowering *getFrameLowering() const override {
269     return &FrameLowering;
270   }
271   const X86SelectionDAGInfo *getSelectionDAGInfo() const override {
272     return &TSInfo;
273   }
274   const X86RegisterInfo *getRegisterInfo() const override {
275     return &getInstrInfo()->getRegisterInfo();
276   }
277
278   /// getStackAlignment - Returns the minimum alignment known to hold of the
279   /// stack frame on entry to the function and which must be maintained by every
280   /// function for this subtarget.
281   unsigned getStackAlignment() const { return stackAlignment; }
282
283   /// getMaxInlineSizeThreshold - Returns the maximum memset / memcpy size
284   /// that still makes it profitable to inline the call.
285   unsigned getMaxInlineSizeThreshold() const { return MaxInlineSizeThreshold; }
286
287   /// ParseSubtargetFeatures - Parses features string setting specified
288   /// subtarget options.  Definition of function is auto generated by tblgen.
289   void ParseSubtargetFeatures(StringRef CPU, StringRef FS);
290
291 private:
292   /// \brief Initialize the full set of dependencies so we can use an initializer
293   /// list for X86Subtarget.
294   X86Subtarget &initializeSubtargetDependencies(StringRef CPU, StringRef FS);
295   void initializeEnvironment();
296   void initSubtargetFeatures(StringRef CPU, StringRef FS);
297 public:
298   /// Is this x86_64? (disregarding specific ABI / programming model)
299   bool is64Bit() const {
300     return In64BitMode;
301   }
302
303   bool is32Bit() const {
304     return In32BitMode;
305   }
306
307   bool is16Bit() const {
308     return In16BitMode;
309   }
310
311   /// Is this x86_64 with the ILP32 programming model (x32 ABI)?
312   bool isTarget64BitILP32() const {
313     return In64BitMode && (TargetTriple.getEnvironment() == Triple::GNUX32 ||
314                            TargetTriple.getOS() == Triple::NaCl);
315   }
316
317   /// Is this x86_64 with the LP64 programming model (standard AMD64, no x32)?
318   bool isTarget64BitLP64() const {
319     return In64BitMode && (TargetTriple.getEnvironment() != Triple::GNUX32 &&
320                            TargetTriple.getOS() != Triple::NaCl);
321   }
322
323   PICStyles::Style getPICStyle() const { return PICStyle; }
324   void setPICStyle(PICStyles::Style Style)  { PICStyle = Style; }
325
326   bool hasCMov() const { return HasCMov; }
327   bool hasMMX() const { return X86SSELevel >= MMX; }
328   bool hasSSE1() const { return X86SSELevel >= SSE1; }
329   bool hasSSE2() const { return X86SSELevel >= SSE2; }
330   bool hasSSE3() const { return X86SSELevel >= SSE3; }
331   bool hasSSSE3() const { return X86SSELevel >= SSSE3; }
332   bool hasSSE41() const { return X86SSELevel >= SSE41; }
333   bool hasSSE42() const { return X86SSELevel >= SSE42; }
334   bool hasAVX() const { return X86SSELevel >= AVX; }
335   bool hasAVX2() const { return X86SSELevel >= AVX2; }
336   bool hasAVX512() const { return X86SSELevel >= AVX512F; }
337   bool hasFp256() const { return hasAVX(); }
338   bool hasInt256() const { return hasAVX2(); }
339   bool hasSSE4A() const { return HasSSE4A; }
340   bool has3DNow() const { return X863DNowLevel >= ThreeDNow; }
341   bool has3DNowA() const { return X863DNowLevel >= ThreeDNowA; }
342   bool hasPOPCNT() const { return HasPOPCNT; }
343   bool hasAES() const { return HasAES; }
344   bool hasPCLMUL() const { return HasPCLMUL; }
345   bool hasFMA() const { return HasFMA; }
346   // FIXME: Favor FMA when both are enabled. Is this the right thing to do?
347   bool hasFMA4() const { return HasFMA4 && !HasFMA; }
348   bool hasXOP() const { return HasXOP; }
349   bool hasTBM() const { return HasTBM; }
350   bool hasMOVBE() const { return HasMOVBE; }
351   bool hasRDRAND() const { return HasRDRAND; }
352   bool hasF16C() const { return HasF16C; }
353   bool hasFSGSBase() const { return HasFSGSBase; }
354   bool hasLZCNT() const { return HasLZCNT; }
355   bool hasBMI() const { return HasBMI; }
356   bool hasBMI2() const { return HasBMI2; }
357   bool hasRTM() const { return HasRTM; }
358   bool hasHLE() const { return HasHLE; }
359   bool hasADX() const { return HasADX; }
360   bool hasSHA() const { return HasSHA; }
361   bool hasSGX() const { return HasSGX; }
362   bool hasPRFCHW() const { return HasPRFCHW; }
363   bool hasRDSEED() const { return HasRDSEED; }
364   bool hasSMAP() const { return HasSMAP; }
365   bool isBTMemSlow() const { return IsBTMemSlow; }
366   bool isSHLDSlow() const { return IsSHLDSlow; }
367   bool isUnalignedMemAccessFast() const { return IsUAMemFast; }
368   bool hasVectorUAMem() const { return HasVectorUAMem; }
369   bool hasCmpxchg16b() const { return HasCmpxchg16b; }
370   bool useLeaForSP() const { return UseLeaForSP; }
371   bool hasSlowDivide() const { return HasSlowDivide; }
372   bool padShortFunctions() const { return PadShortFunctions; }
373   bool callRegIndirect() const { return CallRegIndirect; }
374   bool LEAusesAG() const { return LEAUsesAG; }
375   bool slowLEA() const { return SlowLEA; }
376   bool slowIncDec() const { return SlowIncDec; }
377   bool useSqrtEst() const { return UseSqrtEst; }
378   bool hasCDI() const { return HasCDI; }
379   bool hasPFI() const { return HasPFI; }
380   bool hasERI() const { return HasERI; }
381   bool hasDQI() const { return HasDQI; }
382   bool hasBWI() const { return HasBWI; }
383   bool hasVLX() const { return HasVLX; }
384
385   bool isAtom() const { return X86ProcFamily == IntelAtom; }
386   bool isSLM() const { return X86ProcFamily == IntelSLM; }
387
388   const Triple &getTargetTriple() const { return TargetTriple; }
389
390   bool isTargetDarwin() const { return TargetTriple.isOSDarwin(); }
391   bool isTargetFreeBSD() const {
392     return TargetTriple.getOS() == Triple::FreeBSD;
393   }
394   bool isTargetSolaris() const {
395     return TargetTriple.getOS() == Triple::Solaris;
396   }
397
398   bool isTargetELF() const { return TargetTriple.isOSBinFormatELF(); }
399   bool isTargetCOFF() const { return TargetTriple.isOSBinFormatCOFF(); }
400   bool isTargetMacho() const { return TargetTriple.isOSBinFormatMachO(); }
401
402   bool isTargetLinux() const { return TargetTriple.isOSLinux(); }
403   bool isTargetNaCl() const { return TargetTriple.isOSNaCl(); }
404   bool isTargetNaCl32() const { return isTargetNaCl() && !is64Bit(); }
405   bool isTargetNaCl64() const { return isTargetNaCl() && is64Bit(); }
406
407   bool isTargetWindowsMSVC() const {
408     return TargetTriple.isWindowsMSVCEnvironment();
409   }
410
411   bool isTargetKnownWindowsMSVC() const {
412     return TargetTriple.isKnownWindowsMSVCEnvironment();
413   }
414
415   bool isTargetWindowsCygwin() const {
416     return TargetTriple.isWindowsCygwinEnvironment();
417   }
418
419   bool isTargetWindowsGNU() const {
420     return TargetTriple.isWindowsGNUEnvironment();
421   }
422
423   bool isTargetCygMing() const { return TargetTriple.isOSCygMing(); }
424
425   bool isOSWindows() const { return TargetTriple.isOSWindows(); }
426
427   bool isTargetWin64() const {
428     return In64BitMode && TargetTriple.isOSWindows();
429   }
430
431   bool isTargetWin32() const {
432     return !In64BitMode && (isTargetCygMing() || isTargetKnownWindowsMSVC());
433   }
434
435   bool isPICStyleSet() const { return PICStyle != PICStyles::None; }
436   bool isPICStyleGOT() const { return PICStyle == PICStyles::GOT; }
437   bool isPICStyleRIPRel() const { return PICStyle == PICStyles::RIPRel; }
438
439   bool isPICStyleStubPIC() const {
440     return PICStyle == PICStyles::StubPIC;
441   }
442
443   bool isPICStyleStubNoDynamic() const {
444     return PICStyle == PICStyles::StubDynamicNoPIC;
445   }
446   bool isPICStyleStubAny() const {
447     return PICStyle == PICStyles::StubDynamicNoPIC ||
448            PICStyle == PICStyles::StubPIC;
449   }
450
451   bool isCallingConvWin64(CallingConv::ID CC) const {
452     return (isTargetWin64() && CC != CallingConv::X86_64_SysV) ||
453            CC == CallingConv::X86_64_Win64;
454   }
455
456   /// ClassifyGlobalReference - Classify a global variable reference for the
457   /// current subtarget according to how we should reference it in a non-pcrel
458   /// context.
459   unsigned char ClassifyGlobalReference(const GlobalValue *GV,
460                                         const TargetMachine &TM)const;
461
462   /// ClassifyBlockAddressReference - Classify a blockaddress reference for the
463   /// current subtarget according to how we should reference it in a non-pcrel
464   /// context.
465   unsigned char ClassifyBlockAddressReference() const;
466
467   /// IsLegalToCallImmediateAddr - Return true if the subtarget allows calls
468   /// to immediate address.
469   bool IsLegalToCallImmediateAddr(const TargetMachine &TM) const;
470
471   /// This function returns the name of a function which has an interface
472   /// like the non-standard bzero function, if such a function exists on
473   /// the current subtarget and it is considered prefereable over
474   /// memset with zero passed as the second argument. Otherwise it
475   /// returns null.
476   const char *getBZeroEntry() const;
477
478   /// This function returns true if the target has sincos() routine in its
479   /// compiler runtime or math libraries.
480   bool hasSinCos() const;
481
482   /// Enable the MachineScheduler pass for all X86 subtargets.
483   bool enableMachineScheduler() const override { return true; }
484
485   bool enableEarlyIfConversion() const override;
486
487   /// getInstrItins = Return the instruction itineraries based on the
488   /// subtarget selection.
489   const InstrItineraryData *getInstrItineraryData() const override {
490     return &InstrItins;
491   }
492
493   AntiDepBreakMode getAntiDepBreakMode() const override {
494     return TargetSubtargetInfo::ANTIDEP_CRITICAL;
495   }
496 };
497
498 } // End llvm namespace
499
500 #endif