[asan] Fix x86-32 asm instrumentation to preserve flags.
[oota-llvm.git] / lib / Target / X86 / AsmParser / X86AsmInstrumentation.cpp
1 //===-- X86AsmInstrumentation.cpp - Instrument X86 inline assembly C++ -*-===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9
10 #include "MCTargetDesc/X86BaseInfo.h"
11 #include "X86AsmInstrumentation.h"
12 #include "X86Operand.h"
13 #include "llvm/ADT/StringExtras.h"
14 #include "llvm/ADT/Triple.h"
15 #include "llvm/IR/Function.h"
16 #include "llvm/MC/MCContext.h"
17 #include "llvm/MC/MCInst.h"
18 #include "llvm/MC/MCInstBuilder.h"
19 #include "llvm/MC/MCInstrInfo.h"
20 #include "llvm/MC/MCParser/MCParsedAsmOperand.h"
21 #include "llvm/MC/MCStreamer.h"
22 #include "llvm/MC/MCSubtargetInfo.h"
23 #include "llvm/MC/MCTargetOptions.h"
24 #include "llvm/Support/CommandLine.h"
25
26 namespace llvm {
27 namespace {
28
29 static cl::opt<bool> ClAsanInstrumentAssembly(
30     "asan-instrument-assembly",
31     cl::desc("instrument assembly with AddressSanitizer checks"), cl::Hidden,
32     cl::init(false));
33
34 bool IsStackReg(unsigned Reg) {
35   return Reg == X86::RSP || Reg == X86::ESP || Reg == X86::SP;
36 }
37
38 std::string FuncName(unsigned AccessSize, bool IsWrite) {
39   return std::string("__sanitizer_sanitize_") + (IsWrite ? "store" : "load") +
40          (utostr(AccessSize));
41 }
42
43 class X86AddressSanitizer : public X86AsmInstrumentation {
44 public:
45   X86AddressSanitizer(const MCSubtargetInfo &STI) : STI(STI) {}
46   virtual ~X86AddressSanitizer() {}
47
48   // X86AsmInstrumentation implementation:
49   virtual void InstrumentInstruction(
50       const MCInst &Inst, SmallVectorImpl<MCParsedAsmOperand *> &Operands,
51       MCContext &Ctx, const MCInstrInfo &MII, MCStreamer &Out) override {
52     InstrumentMOV(Inst, Operands, Ctx, MII, Out);
53   }
54
55   // Should be implemented differently in x86_32 and x86_64 subclasses.
56   virtual void InstrumentMemOperandImpl(X86Operand *Op, unsigned AccessSize,
57                                         bool IsWrite, MCContext &Ctx,
58                                         MCStreamer &Out) = 0;
59
60   void InstrumentMemOperand(MCParsedAsmOperand *Op, unsigned AccessSize,
61                             bool IsWrite, MCContext &Ctx, MCStreamer &Out);
62   void InstrumentMOV(const MCInst &Inst,
63                      SmallVectorImpl<MCParsedAsmOperand *> &Operands,
64                      MCContext &Ctx, const MCInstrInfo &MII, MCStreamer &Out);
65   void EmitInstruction(MCStreamer &Out, const MCInst &Inst) {
66     Out.EmitInstruction(Inst, STI);
67   }
68
69 protected:
70   const MCSubtargetInfo &STI;
71 };
72
73 void X86AddressSanitizer::InstrumentMemOperand(
74     MCParsedAsmOperand *Op, unsigned AccessSize, bool IsWrite, MCContext &Ctx,
75     MCStreamer &Out) {
76   assert(Op && Op->isMem() && "Op should be a memory operand.");
77   assert((AccessSize & (AccessSize - 1)) == 0 && AccessSize <= 16 &&
78          "AccessSize should be a power of two, less or equal than 16.");
79
80   X86Operand *MemOp = static_cast<X86Operand *>(Op);
81   // FIXME: get rid of this limitation.
82   if (IsStackReg(MemOp->getMemBaseReg()) || IsStackReg(MemOp->getMemIndexReg()))
83     return;
84
85   InstrumentMemOperandImpl(MemOp, AccessSize, IsWrite, Ctx, Out);
86 }
87
88 void X86AddressSanitizer::InstrumentMOV(
89     const MCInst &Inst, SmallVectorImpl<MCParsedAsmOperand *> &Operands,
90     MCContext &Ctx, const MCInstrInfo &MII, MCStreamer &Out) {
91   // Access size in bytes.
92   unsigned AccessSize = 0;
93
94   switch (Inst.getOpcode()) {
95   case X86::MOV8mi:
96   case X86::MOV8mr:
97   case X86::MOV8rm:
98     AccessSize = 1;
99     break;
100   case X86::MOV16mi:
101   case X86::MOV16mr:
102   case X86::MOV16rm:
103     AccessSize = 2;
104     break;
105   case X86::MOV32mi:
106   case X86::MOV32mr:
107   case X86::MOV32rm:
108     AccessSize = 4;
109     break;
110   case X86::MOV64mi32:
111   case X86::MOV64mr:
112   case X86::MOV64rm:
113     AccessSize = 8;
114     break;
115   case X86::MOVAPDmr:
116   case X86::MOVAPSmr:
117   case X86::MOVAPDrm:
118   case X86::MOVAPSrm:
119     AccessSize = 16;
120     break;
121   default:
122     return;
123   }
124
125   const bool IsWrite = MII.get(Inst.getOpcode()).mayStore();
126   for (unsigned Ix = 0; Ix < Operands.size(); ++Ix) {
127     MCParsedAsmOperand *Op = Operands[Ix];
128     if (Op && Op->isMem())
129       InstrumentMemOperand(Op, AccessSize, IsWrite, Ctx, Out);
130   }
131 }
132
133 class X86AddressSanitizer32 : public X86AddressSanitizer {
134 public:
135   X86AddressSanitizer32(const MCSubtargetInfo &STI)
136       : X86AddressSanitizer(STI) {}
137   virtual ~X86AddressSanitizer32() {}
138
139   virtual void InstrumentMemOperandImpl(X86Operand *Op, unsigned AccessSize,
140                                         bool IsWrite, MCContext &Ctx,
141                                         MCStreamer &Out) override;
142 };
143
144 void X86AddressSanitizer32::InstrumentMemOperandImpl(
145     X86Operand *Op, unsigned AccessSize, bool IsWrite, MCContext &Ctx,
146     MCStreamer &Out) {
147   // FIXME: emit .cfi directives for correct stack unwinding.
148   EmitInstruction(Out, MCInstBuilder(X86::PUSH32r).addReg(X86::EAX));
149   {
150     MCInst Inst;
151     Inst.setOpcode(X86::LEA32r);
152     Inst.addOperand(MCOperand::CreateReg(X86::EAX));
153     Op->addMemOperands(Inst, 5);
154     EmitInstruction(Out, Inst);
155   }
156   EmitInstruction(Out, MCInstBuilder(X86::PUSH32r).addReg(X86::EAX));
157   {
158     const std::string Func = FuncName(AccessSize, IsWrite);
159     const MCSymbol *FuncSym = Ctx.GetOrCreateSymbol(StringRef(Func));
160     const MCSymbolRefExpr *FuncExpr =
161         MCSymbolRefExpr::Create(FuncSym, MCSymbolRefExpr::VK_PLT, Ctx);
162     EmitInstruction(Out, MCInstBuilder(X86::CALLpcrel32).addExpr(FuncExpr));
163   }
164   EmitInstruction(Out, MCInstBuilder(X86::POP32r).addReg(X86::EAX));
165   EmitInstruction(Out, MCInstBuilder(X86::POP32r).addReg(X86::EAX));
166 }
167
168 class X86AddressSanitizer64 : public X86AddressSanitizer {
169 public:
170   X86AddressSanitizer64(const MCSubtargetInfo &STI)
171       : X86AddressSanitizer(STI) {}
172   virtual ~X86AddressSanitizer64() {}
173
174   virtual void InstrumentMemOperandImpl(X86Operand *Op, unsigned AccessSize,
175                                         bool IsWrite, MCContext &Ctx,
176                                         MCStreamer &Out) override;
177 };
178
179 void X86AddressSanitizer64::InstrumentMemOperandImpl(X86Operand *Op,
180                                                      unsigned AccessSize,
181                                                      bool IsWrite,
182                                                      MCContext &Ctx,
183                                                      MCStreamer &Out) {
184   // FIXME: emit .cfi directives for correct stack unwinding.
185
186   // Set %rsp below current red zone (128 bytes wide) using LEA instruction to
187   // preserve flags.
188   {
189     MCInst Inst;
190     Inst.setOpcode(X86::LEA64r);
191     Inst.addOperand(MCOperand::CreateReg(X86::RSP));
192
193     const MCExpr *Disp = MCConstantExpr::Create(-128, Ctx);
194     std::unique_ptr<X86Operand> Op(
195         X86Operand::CreateMem(0, Disp, X86::RSP, 0, 1, SMLoc(), SMLoc()));
196     Op->addMemOperands(Inst, 5);
197     EmitInstruction(Out, Inst);
198   }
199   EmitInstruction(Out, MCInstBuilder(X86::PUSH64r).addReg(X86::RDI));
200   {
201     MCInst Inst;
202     Inst.setOpcode(X86::LEA64r);
203     Inst.addOperand(MCOperand::CreateReg(X86::RDI));
204     Op->addMemOperands(Inst, 5);
205     EmitInstruction(Out, Inst);
206   }
207   {
208     const std::string Func = FuncName(AccessSize, IsWrite);
209     const MCSymbol *FuncSym = Ctx.GetOrCreateSymbol(StringRef(Func));
210     const MCSymbolRefExpr *FuncExpr =
211         MCSymbolRefExpr::Create(FuncSym, MCSymbolRefExpr::VK_PLT, Ctx);
212     EmitInstruction(Out, MCInstBuilder(X86::CALL64pcrel32).addExpr(FuncExpr));
213   }
214   EmitInstruction(Out, MCInstBuilder(X86::POP64r).addReg(X86::RDI));
215
216   // Restore old %rsp value.
217   {
218     MCInst Inst;
219     Inst.setOpcode(X86::LEA64r);
220     Inst.addOperand(MCOperand::CreateReg(X86::RSP));
221
222     const MCExpr *Disp = MCConstantExpr::Create(128, Ctx);
223     std::unique_ptr<X86Operand> Op(
224         X86Operand::CreateMem(0, Disp, X86::RSP, 0, 1, SMLoc(), SMLoc()));
225     Op->addMemOperands(Inst, 5);
226     EmitInstruction(Out, Inst);
227   }
228 }
229
230 } // End anonymous namespace
231
232 X86AsmInstrumentation::X86AsmInstrumentation() {}
233 X86AsmInstrumentation::~X86AsmInstrumentation() {}
234
235 void X86AsmInstrumentation::InstrumentInstruction(
236     const MCInst &Inst, SmallVectorImpl<MCParsedAsmOperand *> &Operands,
237     MCContext &Ctx, const MCInstrInfo &MII, MCStreamer &Out) {}
238
239 X86AsmInstrumentation *
240 CreateX86AsmInstrumentation(const MCTargetOptions &MCOptions,
241                             const MCContext &Ctx, const MCSubtargetInfo &STI) {
242   Triple T(STI.getTargetTriple());
243   const bool hasCompilerRTSupport = T.isOSLinux();
244   if (ClAsanInstrumentAssembly && hasCompilerRTSupport &&
245       MCOptions.SanitizeAddress) {
246     if ((STI.getFeatureBits() & X86::Mode32Bit) != 0)
247       return new X86AddressSanitizer32(STI);
248     if ((STI.getFeatureBits() & X86::Mode64Bit) != 0)
249       return new X86AddressSanitizer64(STI);
250   }
251   return new X86AsmInstrumentation();
252 }
253
254 } // End llvm namespace