aaf571ae9d30a9f14631eb9eb25abf04cfa28502
[oota-llvm.git] / lib / Target / X86 / AsmParser / X86AsmParser.cpp
1 //===-- X86AsmParser.cpp - Parse X86 assembly to MCInst instructions ------===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9
10 #include "MCTargetDesc/X86BaseInfo.h"
11 #include "llvm/ADT/APFloat.h"
12 #include "llvm/ADT/SmallString.h"
13 #include "llvm/ADT/SmallVector.h"
14 #include "llvm/ADT/StringSwitch.h"
15 #include "llvm/ADT/Twine.h"
16 #include "llvm/MC/MCContext.h"
17 #include "llvm/MC/MCExpr.h"
18 #include "llvm/MC/MCInst.h"
19 #include "llvm/MC/MCParser/MCAsmLexer.h"
20 #include "llvm/MC/MCParser/MCAsmParser.h"
21 #include "llvm/MC/MCParser/MCParsedAsmOperand.h"
22 #include "llvm/MC/MCRegisterInfo.h"
23 #include "llvm/MC/MCStreamer.h"
24 #include "llvm/MC/MCSubtargetInfo.h"
25 #include "llvm/MC/MCSymbol.h"
26 #include "llvm/MC/MCTargetAsmParser.h"
27 #include "llvm/Support/SourceMgr.h"
28 #include "llvm/Support/TargetRegistry.h"
29 #include "llvm/Support/raw_ostream.h"
30
31 using namespace llvm;
32
33 namespace {
34 struct X86Operand;
35
36 class X86AsmParser : public MCTargetAsmParser {
37   MCSubtargetInfo &STI;
38   MCAsmParser &Parser;
39   ParseInstructionInfo *InstInfo;
40 private:
41   MCAsmParser &getParser() const { return Parser; }
42
43   MCAsmLexer &getLexer() const { return Parser.getLexer(); }
44
45   bool Error(SMLoc L, const Twine &Msg,
46              ArrayRef<SMRange> Ranges = ArrayRef<SMRange>(),
47              bool MatchingInlineAsm = false) {
48     if (MatchingInlineAsm) return true;
49     return Parser.Error(L, Msg, Ranges);
50   }
51
52   X86Operand *ErrorOperand(SMLoc Loc, StringRef Msg) {
53     Error(Loc, Msg);
54     return 0;
55   }
56
57   X86Operand *ParseOperand();
58   X86Operand *ParseATTOperand();
59   X86Operand *ParseIntelOperand();
60   X86Operand *ParseIntelOffsetOfOperator();
61   X86Operand *ParseIntelOperator(unsigned OpKind);
62   X86Operand *ParseIntelMemOperand(unsigned SegReg, uint64_t ImmDisp,
63                                    SMLoc StartLoc);
64   X86Operand *ParseIntelBracExpression(unsigned SegReg, SMLoc SizeDirLoc,
65                                        uint64_t ImmDisp, unsigned Size);
66   X86Operand *ParseIntelVarWithQualifier(const MCExpr *&Disp,
67                                          SMLoc &IdentStart);
68   X86Operand *ParseMemOperand(unsigned SegReg, SMLoc StartLoc);
69
70   X86Operand *CreateMemForInlineAsm(const MCExpr *Disp, SMLoc Start, SMLoc End,
71                                     SMLoc SizeDirLoc, unsigned Size,
72                                     StringRef SymName);
73
74   bool ParseIntelDotOperator(const MCExpr *Disp, const MCExpr **NewDisp,
75                              SmallString<64> &Err);
76
77   bool ParseDirectiveWord(unsigned Size, SMLoc L);
78   bool ParseDirectiveCode(StringRef IDVal, SMLoc L);
79
80   bool processInstruction(MCInst &Inst,
81                           const SmallVectorImpl<MCParsedAsmOperand*> &Ops);
82
83   bool MatchAndEmitInstruction(SMLoc IDLoc, unsigned &Opcode,
84                                SmallVectorImpl<MCParsedAsmOperand*> &Operands,
85                                MCStreamer &Out, unsigned &ErrorInfo,
86                                bool MatchingInlineAsm);
87
88   /// isSrcOp - Returns true if operand is either (%rsi) or %ds:%(rsi)
89   /// in 64bit mode or (%esi) or %es:(%esi) in 32bit mode.
90   bool isSrcOp(X86Operand &Op);
91
92   /// isDstOp - Returns true if operand is either (%rdi) or %es:(%rdi)
93   /// in 64bit mode or (%edi) or %es:(%edi) in 32bit mode.
94   bool isDstOp(X86Operand &Op);
95
96   bool is64BitMode() const {
97     // FIXME: Can tablegen auto-generate this?
98     return (STI.getFeatureBits() & X86::Mode64Bit) != 0;
99   }
100   void SwitchMode() {
101     unsigned FB = ComputeAvailableFeatures(STI.ToggleFeature(X86::Mode64Bit));
102     setAvailableFeatures(FB);
103   }
104
105   /// @name Auto-generated Matcher Functions
106   /// {
107
108 #define GET_ASSEMBLER_HEADER
109 #include "X86GenAsmMatcher.inc"
110
111   /// }
112
113 public:
114   X86AsmParser(MCSubtargetInfo &sti, MCAsmParser &parser)
115     : MCTargetAsmParser(), STI(sti), Parser(parser), InstInfo(0) {
116
117     // Initialize the set of available features.
118     setAvailableFeatures(ComputeAvailableFeatures(STI.getFeatureBits()));
119   }
120   virtual bool ParseRegister(unsigned &RegNo, SMLoc &StartLoc, SMLoc &EndLoc);
121
122   virtual bool ParseInstruction(ParseInstructionInfo &Info, StringRef Name,
123                                 SMLoc NameLoc,
124                                 SmallVectorImpl<MCParsedAsmOperand*> &Operands);
125
126   virtual bool ParseDirective(AsmToken DirectiveID);
127
128   bool isParsingIntelSyntax() {
129     return getParser().getAssemblerDialect();
130   }
131 };
132 } // end anonymous namespace
133
134 /// @name Auto-generated Match Functions
135 /// {
136
137 static unsigned MatchRegisterName(StringRef Name);
138
139 /// }
140
141 static bool isImmSExti16i8Value(uint64_t Value) {
142   return ((                                  Value <= 0x000000000000007FULL)||
143           (0x000000000000FF80ULL <= Value && Value <= 0x000000000000FFFFULL)||
144           (0xFFFFFFFFFFFFFF80ULL <= Value && Value <= 0xFFFFFFFFFFFFFFFFULL));
145 }
146
147 static bool isImmSExti32i8Value(uint64_t Value) {
148   return ((                                  Value <= 0x000000000000007FULL)||
149           (0x00000000FFFFFF80ULL <= Value && Value <= 0x00000000FFFFFFFFULL)||
150           (0xFFFFFFFFFFFFFF80ULL <= Value && Value <= 0xFFFFFFFFFFFFFFFFULL));
151 }
152
153 static bool isImmZExtu32u8Value(uint64_t Value) {
154     return (Value <= 0x00000000000000FFULL);
155 }
156
157 static bool isImmSExti64i8Value(uint64_t Value) {
158   return ((                                  Value <= 0x000000000000007FULL)||
159           (0xFFFFFFFFFFFFFF80ULL <= Value && Value <= 0xFFFFFFFFFFFFFFFFULL));
160 }
161
162 static bool isImmSExti64i32Value(uint64_t Value) {
163   return ((                                  Value <= 0x000000007FFFFFFFULL)||
164           (0xFFFFFFFF80000000ULL <= Value && Value <= 0xFFFFFFFFFFFFFFFFULL));
165 }
166 namespace {
167
168 /// X86Operand - Instances of this class represent a parsed X86 machine
169 /// instruction.
170 struct X86Operand : public MCParsedAsmOperand {
171   enum KindTy {
172     Token,
173     Register,
174     Immediate,
175     Memory
176   } Kind;
177
178   SMLoc StartLoc, EndLoc;
179   SMLoc OffsetOfLoc;
180   StringRef SymName;
181   bool AddressOf;
182
183   struct TokOp {
184     const char *Data;
185     unsigned Length;
186   };
187
188   struct RegOp {
189     unsigned RegNo;
190   };
191
192   struct ImmOp {
193     const MCExpr *Val;
194   };
195
196   struct MemOp {
197     unsigned SegReg;
198     const MCExpr *Disp;
199     unsigned BaseReg;
200     unsigned IndexReg;
201     unsigned Scale;
202     unsigned Size;
203   };
204
205   union {
206     struct TokOp Tok;
207     struct RegOp Reg;
208     struct ImmOp Imm;
209     struct MemOp Mem;
210   };
211
212   X86Operand(KindTy K, SMLoc Start, SMLoc End)
213     : Kind(K), StartLoc(Start), EndLoc(End) {}
214
215   StringRef getSymName() { return SymName; }
216
217   /// getStartLoc - Get the location of the first token of this operand.
218   SMLoc getStartLoc() const { return StartLoc; }
219   /// getEndLoc - Get the location of the last token of this operand.
220   SMLoc getEndLoc() const { return EndLoc; }
221   /// getLocRange - Get the range between the first and last token of this
222   /// operand.
223   SMRange getLocRange() const { return SMRange(StartLoc, EndLoc); }
224   /// getOffsetOfLoc - Get the location of the offset operator.
225   SMLoc getOffsetOfLoc() const { return OffsetOfLoc; }
226
227   virtual void print(raw_ostream &OS) const {}
228
229   StringRef getToken() const {
230     assert(Kind == Token && "Invalid access!");
231     return StringRef(Tok.Data, Tok.Length);
232   }
233   void setTokenValue(StringRef Value) {
234     assert(Kind == Token && "Invalid access!");
235     Tok.Data = Value.data();
236     Tok.Length = Value.size();
237   }
238
239   unsigned getReg() const {
240     assert(Kind == Register && "Invalid access!");
241     return Reg.RegNo;
242   }
243
244   const MCExpr *getImm() const {
245     assert(Kind == Immediate && "Invalid access!");
246     return Imm.Val;
247   }
248
249   const MCExpr *getMemDisp() const {
250     assert(Kind == Memory && "Invalid access!");
251     return Mem.Disp;
252   }
253   unsigned getMemSegReg() const {
254     assert(Kind == Memory && "Invalid access!");
255     return Mem.SegReg;
256   }
257   unsigned getMemBaseReg() const {
258     assert(Kind == Memory && "Invalid access!");
259     return Mem.BaseReg;
260   }
261   unsigned getMemIndexReg() const {
262     assert(Kind == Memory && "Invalid access!");
263     return Mem.IndexReg;
264   }
265   unsigned getMemScale() const {
266     assert(Kind == Memory && "Invalid access!");
267     return Mem.Scale;
268   }
269
270   bool isToken() const {return Kind == Token; }
271
272   bool isImm() const { return Kind == Immediate; }
273
274   bool isImmSExti16i8() const {
275     if (!isImm())
276       return false;
277
278     // If this isn't a constant expr, just assume it fits and let relaxation
279     // handle it.
280     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
281     if (!CE)
282       return true;
283
284     // Otherwise, check the value is in a range that makes sense for this
285     // extension.
286     return isImmSExti16i8Value(CE->getValue());
287   }
288   bool isImmSExti32i8() const {
289     if (!isImm())
290       return false;
291
292     // If this isn't a constant expr, just assume it fits and let relaxation
293     // handle it.
294     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
295     if (!CE)
296       return true;
297
298     // Otherwise, check the value is in a range that makes sense for this
299     // extension.
300     return isImmSExti32i8Value(CE->getValue());
301   }
302   bool isImmZExtu32u8() const {
303     if (!isImm())
304       return false;
305
306     // If this isn't a constant expr, just assume it fits and let relaxation
307     // handle it.
308     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
309     if (!CE)
310       return true;
311
312     // Otherwise, check the value is in a range that makes sense for this
313     // extension.
314     return isImmZExtu32u8Value(CE->getValue());
315   }
316   bool isImmSExti64i8() const {
317     if (!isImm())
318       return false;
319
320     // If this isn't a constant expr, just assume it fits and let relaxation
321     // handle it.
322     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
323     if (!CE)
324       return true;
325
326     // Otherwise, check the value is in a range that makes sense for this
327     // extension.
328     return isImmSExti64i8Value(CE->getValue());
329   }
330   bool isImmSExti64i32() const {
331     if (!isImm())
332       return false;
333
334     // If this isn't a constant expr, just assume it fits and let relaxation
335     // handle it.
336     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
337     if (!CE)
338       return true;
339
340     // Otherwise, check the value is in a range that makes sense for this
341     // extension.
342     return isImmSExti64i32Value(CE->getValue());
343   }
344
345   bool isOffsetOf() const {
346     return OffsetOfLoc.getPointer();
347   }
348
349   bool needAddressOf() const {
350     return AddressOf;
351   }
352
353   bool isMem() const { return Kind == Memory; }
354   bool isMem8() const {
355     return Kind == Memory && (!Mem.Size || Mem.Size == 8);
356   }
357   bool isMem16() const {
358     return Kind == Memory && (!Mem.Size || Mem.Size == 16);
359   }
360   bool isMem32() const {
361     return Kind == Memory && (!Mem.Size || Mem.Size == 32);
362   }
363   bool isMem64() const {
364     return Kind == Memory && (!Mem.Size || Mem.Size == 64);
365   }
366   bool isMem80() const {
367     return Kind == Memory && (!Mem.Size || Mem.Size == 80);
368   }
369   bool isMem128() const {
370     return Kind == Memory && (!Mem.Size || Mem.Size == 128);
371   }
372   bool isMem256() const {
373     return Kind == Memory && (!Mem.Size || Mem.Size == 256);
374   }
375
376   bool isMemVX32() const {
377     return Kind == Memory && (!Mem.Size || Mem.Size == 32) &&
378       getMemIndexReg() >= X86::XMM0 && getMemIndexReg() <= X86::XMM15;
379   }
380   bool isMemVY32() const {
381     return Kind == Memory && (!Mem.Size || Mem.Size == 32) &&
382       getMemIndexReg() >= X86::YMM0 && getMemIndexReg() <= X86::YMM15;
383   }
384   bool isMemVX64() const {
385     return Kind == Memory && (!Mem.Size || Mem.Size == 64) &&
386       getMemIndexReg() >= X86::XMM0 && getMemIndexReg() <= X86::XMM15;
387   }
388   bool isMemVY64() const {
389     return Kind == Memory && (!Mem.Size || Mem.Size == 64) &&
390       getMemIndexReg() >= X86::YMM0 && getMemIndexReg() <= X86::YMM15;
391   }
392
393   bool isAbsMem() const {
394     return Kind == Memory && !getMemSegReg() && !getMemBaseReg() &&
395       !getMemIndexReg() && getMemScale() == 1;
396   }
397
398   bool isReg() const { return Kind == Register; }
399
400   void addExpr(MCInst &Inst, const MCExpr *Expr) const {
401     // Add as immediates when possible.
402     if (const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(Expr))
403       Inst.addOperand(MCOperand::CreateImm(CE->getValue()));
404     else
405       Inst.addOperand(MCOperand::CreateExpr(Expr));
406   }
407
408   void addRegOperands(MCInst &Inst, unsigned N) const {
409     assert(N == 1 && "Invalid number of operands!");
410     Inst.addOperand(MCOperand::CreateReg(getReg()));
411   }
412
413   void addImmOperands(MCInst &Inst, unsigned N) const {
414     assert(N == 1 && "Invalid number of operands!");
415     addExpr(Inst, getImm());
416   }
417
418   void addMem8Operands(MCInst &Inst, unsigned N) const {
419     addMemOperands(Inst, N);
420   }
421   void addMem16Operands(MCInst &Inst, unsigned N) const {
422     addMemOperands(Inst, N);
423   }
424   void addMem32Operands(MCInst &Inst, unsigned N) const {
425     addMemOperands(Inst, N);
426   }
427   void addMem64Operands(MCInst &Inst, unsigned N) const {
428     addMemOperands(Inst, N);
429   }
430   void addMem80Operands(MCInst &Inst, unsigned N) const {
431     addMemOperands(Inst, N);
432   }
433   void addMem128Operands(MCInst &Inst, unsigned N) const {
434     addMemOperands(Inst, N);
435   }
436   void addMem256Operands(MCInst &Inst, unsigned N) const {
437     addMemOperands(Inst, N);
438   }
439   void addMemVX32Operands(MCInst &Inst, unsigned N) const {
440     addMemOperands(Inst, N);
441   }
442   void addMemVY32Operands(MCInst &Inst, unsigned N) const {
443     addMemOperands(Inst, N);
444   }
445   void addMemVX64Operands(MCInst &Inst, unsigned N) const {
446     addMemOperands(Inst, N);
447   }
448   void addMemVY64Operands(MCInst &Inst, unsigned N) const {
449     addMemOperands(Inst, N);
450   }
451
452   void addMemOperands(MCInst &Inst, unsigned N) const {
453     assert((N == 5) && "Invalid number of operands!");
454     Inst.addOperand(MCOperand::CreateReg(getMemBaseReg()));
455     Inst.addOperand(MCOperand::CreateImm(getMemScale()));
456     Inst.addOperand(MCOperand::CreateReg(getMemIndexReg()));
457     addExpr(Inst, getMemDisp());
458     Inst.addOperand(MCOperand::CreateReg(getMemSegReg()));
459   }
460
461   void addAbsMemOperands(MCInst &Inst, unsigned N) const {
462     assert((N == 1) && "Invalid number of operands!");
463     // Add as immediates when possible.
464     if (const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getMemDisp()))
465       Inst.addOperand(MCOperand::CreateImm(CE->getValue()));
466     else
467       Inst.addOperand(MCOperand::CreateExpr(getMemDisp()));
468   }
469
470   static X86Operand *CreateToken(StringRef Str, SMLoc Loc) {
471     SMLoc EndLoc = SMLoc::getFromPointer(Loc.getPointer() + Str.size());
472     X86Operand *Res = new X86Operand(Token, Loc, EndLoc);
473     Res->Tok.Data = Str.data();
474     Res->Tok.Length = Str.size();
475     return Res;
476   }
477
478   static X86Operand *CreateReg(unsigned RegNo, SMLoc StartLoc, SMLoc EndLoc,
479                                bool AddressOf = false,
480                                SMLoc OffsetOfLoc = SMLoc(),
481                                StringRef SymName = StringRef()) {
482     X86Operand *Res = new X86Operand(Register, StartLoc, EndLoc);
483     Res->Reg.RegNo = RegNo;
484     Res->AddressOf = AddressOf;
485     Res->OffsetOfLoc = OffsetOfLoc;
486     Res->SymName = SymName;
487     return Res;
488   }
489
490   static X86Operand *CreateImm(const MCExpr *Val, SMLoc StartLoc, SMLoc EndLoc){
491     X86Operand *Res = new X86Operand(Immediate, StartLoc, EndLoc);
492     Res->Imm.Val = Val;
493     return Res;
494   }
495
496   /// Create an absolute memory operand.
497   static X86Operand *CreateMem(const MCExpr *Disp, SMLoc StartLoc, SMLoc EndLoc,
498                                unsigned Size = 0,
499                                StringRef SymName = StringRef()) {
500     X86Operand *Res = new X86Operand(Memory, StartLoc, EndLoc);
501     Res->Mem.SegReg   = 0;
502     Res->Mem.Disp     = Disp;
503     Res->Mem.BaseReg  = 0;
504     Res->Mem.IndexReg = 0;
505     Res->Mem.Scale    = 1;
506     Res->Mem.Size     = Size;
507     Res->SymName = SymName;
508     Res->AddressOf = false;
509     return Res;
510   }
511
512   /// Create a generalized memory operand.
513   static X86Operand *CreateMem(unsigned SegReg, const MCExpr *Disp,
514                                unsigned BaseReg, unsigned IndexReg,
515                                unsigned Scale, SMLoc StartLoc, SMLoc EndLoc,
516                                unsigned Size = 0,
517                                StringRef SymName = StringRef()) {
518     // We should never just have a displacement, that should be parsed as an
519     // absolute memory operand.
520     assert((SegReg || BaseReg || IndexReg) && "Invalid memory operand!");
521
522     // The scale should always be one of {1,2,4,8}.
523     assert(((Scale == 1 || Scale == 2 || Scale == 4 || Scale == 8)) &&
524            "Invalid scale!");
525     X86Operand *Res = new X86Operand(Memory, StartLoc, EndLoc);
526     Res->Mem.SegReg   = SegReg;
527     Res->Mem.Disp     = Disp;
528     Res->Mem.BaseReg  = BaseReg;
529     Res->Mem.IndexReg = IndexReg;
530     Res->Mem.Scale    = Scale;
531     Res->Mem.Size     = Size;
532     Res->SymName = SymName;
533     Res->AddressOf = false;
534     return Res;
535   }
536 };
537
538 } // end anonymous namespace.
539
540 bool X86AsmParser::isSrcOp(X86Operand &Op) {
541   unsigned basereg = is64BitMode() ? X86::RSI : X86::ESI;
542
543   return (Op.isMem() &&
544     (Op.Mem.SegReg == 0 || Op.Mem.SegReg == X86::DS) &&
545     isa<MCConstantExpr>(Op.Mem.Disp) &&
546     cast<MCConstantExpr>(Op.Mem.Disp)->getValue() == 0 &&
547     Op.Mem.BaseReg == basereg && Op.Mem.IndexReg == 0);
548 }
549
550 bool X86AsmParser::isDstOp(X86Operand &Op) {
551   unsigned basereg = is64BitMode() ? X86::RDI : X86::EDI;
552
553   return Op.isMem() &&
554     (Op.Mem.SegReg == 0 || Op.Mem.SegReg == X86::ES) &&
555     isa<MCConstantExpr>(Op.Mem.Disp) &&
556     cast<MCConstantExpr>(Op.Mem.Disp)->getValue() == 0 &&
557     Op.Mem.BaseReg == basereg && Op.Mem.IndexReg == 0;
558 }
559
560 bool X86AsmParser::ParseRegister(unsigned &RegNo,
561                                  SMLoc &StartLoc, SMLoc &EndLoc) {
562   RegNo = 0;
563   const AsmToken &PercentTok = Parser.getTok();
564   StartLoc = PercentTok.getLoc();
565
566   // If we encounter a %, ignore it. This code handles registers with and
567   // without the prefix, unprefixed registers can occur in cfi directives.
568   if (!isParsingIntelSyntax() && PercentTok.is(AsmToken::Percent))
569     Parser.Lex(); // Eat percent token.
570
571   const AsmToken &Tok = Parser.getTok();
572   EndLoc = Tok.getEndLoc();
573
574   if (Tok.isNot(AsmToken::Identifier)) {
575     if (isParsingIntelSyntax()) return true;
576     return Error(StartLoc, "invalid register name",
577                  SMRange(StartLoc, EndLoc));
578   }
579
580   RegNo = MatchRegisterName(Tok.getString());
581
582   // If the match failed, try the register name as lowercase.
583   if (RegNo == 0)
584     RegNo = MatchRegisterName(Tok.getString().lower());
585
586   if (!is64BitMode()) {
587     // FIXME: This should be done using Requires<In32BitMode> and
588     // Requires<In64BitMode> so "eiz" usage in 64-bit instructions can be also
589     // checked.
590     // FIXME: Check AH, CH, DH, BH cannot be used in an instruction requiring a
591     // REX prefix.
592     if (RegNo == X86::RIZ ||
593         X86MCRegisterClasses[X86::GR64RegClassID].contains(RegNo) ||
594         X86II::isX86_64NonExtLowByteReg(RegNo) ||
595         X86II::isX86_64ExtendedReg(RegNo))
596       return Error(StartLoc, "register %"
597                    + Tok.getString() + " is only available in 64-bit mode",
598                    SMRange(StartLoc, EndLoc));
599   }
600
601   // Parse "%st" as "%st(0)" and "%st(1)", which is multiple tokens.
602   if (RegNo == 0 && (Tok.getString() == "st" || Tok.getString() == "ST")) {
603     RegNo = X86::ST0;
604     Parser.Lex(); // Eat 'st'
605
606     // Check to see if we have '(4)' after %st.
607     if (getLexer().isNot(AsmToken::LParen))
608       return false;
609     // Lex the paren.
610     getParser().Lex();
611
612     const AsmToken &IntTok = Parser.getTok();
613     if (IntTok.isNot(AsmToken::Integer))
614       return Error(IntTok.getLoc(), "expected stack index");
615     switch (IntTok.getIntVal()) {
616     case 0: RegNo = X86::ST0; break;
617     case 1: RegNo = X86::ST1; break;
618     case 2: RegNo = X86::ST2; break;
619     case 3: RegNo = X86::ST3; break;
620     case 4: RegNo = X86::ST4; break;
621     case 5: RegNo = X86::ST5; break;
622     case 6: RegNo = X86::ST6; break;
623     case 7: RegNo = X86::ST7; break;
624     default: return Error(IntTok.getLoc(), "invalid stack index");
625     }
626
627     if (getParser().Lex().isNot(AsmToken::RParen))
628       return Error(Parser.getTok().getLoc(), "expected ')'");
629
630     EndLoc = Parser.getTok().getEndLoc();
631     Parser.Lex(); // Eat ')'
632     return false;
633   }
634
635   EndLoc = Parser.getTok().getEndLoc();
636
637   // If this is "db[0-7]", match it as an alias
638   // for dr[0-7].
639   if (RegNo == 0 && Tok.getString().size() == 3 &&
640       Tok.getString().startswith("db")) {
641     switch (Tok.getString()[2]) {
642     case '0': RegNo = X86::DR0; break;
643     case '1': RegNo = X86::DR1; break;
644     case '2': RegNo = X86::DR2; break;
645     case '3': RegNo = X86::DR3; break;
646     case '4': RegNo = X86::DR4; break;
647     case '5': RegNo = X86::DR5; break;
648     case '6': RegNo = X86::DR6; break;
649     case '7': RegNo = X86::DR7; break;
650     }
651
652     if (RegNo != 0) {
653       EndLoc = Parser.getTok().getEndLoc();
654       Parser.Lex(); // Eat it.
655       return false;
656     }
657   }
658
659   if (RegNo == 0) {
660     if (isParsingIntelSyntax()) return true;
661     return Error(StartLoc, "invalid register name",
662                  SMRange(StartLoc, EndLoc));
663   }
664
665   Parser.Lex(); // Eat identifier token.
666   return false;
667 }
668
669 X86Operand *X86AsmParser::ParseOperand() {
670   if (isParsingIntelSyntax())
671     return ParseIntelOperand();
672   return ParseATTOperand();
673 }
674
675 /// getIntelMemOperandSize - Return intel memory operand size.
676 static unsigned getIntelMemOperandSize(StringRef OpStr) {
677   unsigned Size = StringSwitch<unsigned>(OpStr)
678     .Cases("BYTE", "byte", 8)
679     .Cases("WORD", "word", 16)
680     .Cases("DWORD", "dword", 32)
681     .Cases("QWORD", "qword", 64)
682     .Cases("XWORD", "xword", 80)
683     .Cases("XMMWORD", "xmmword", 128)
684     .Cases("YMMWORD", "ymmword", 256)
685     .Default(0);
686   return Size;
687 }
688
689 enum InfixCalculatorTok {
690   IC_PLUS = 0,
691   IC_MINUS,
692   IC_MULTIPLY,
693   IC_DIVIDE,
694   IC_RPAREN,
695   IC_LPAREN,
696   IC_IMM,
697   IC_REGISTER
698 };
699 static const char OpPrecedence[] = {
700   0, // IC_PLUS
701   0, // IC_MINUS
702   1, // IC_MULTIPLY
703   1, // IC_DIVIDE
704   2, // IC_RPAREN
705   3, // IC_LPAREN
706   0, // IC_IMM
707   0  // IC_REGISTER
708 };
709
710 class InfixCalculator {
711   typedef std::pair< InfixCalculatorTok, int64_t > ICToken;
712   SmallVector<InfixCalculatorTok, 4> InfixOperatorStack;
713   SmallVector<ICToken, 4> PostfixStack;
714
715 public:
716   int64_t popOperand() {
717     assert (!PostfixStack.empty() && "Poped an empty stack!");
718     ICToken Op = PostfixStack.pop_back_val();
719     assert ((Op.first == IC_IMM || Op.first == IC_REGISTER)
720             && "Expected and immediate or register!");
721     return Op.second;
722   }
723   void pushOperand(InfixCalculatorTok Op, int64_t Val = 0) {
724     assert ((Op == IC_IMM || Op == IC_REGISTER) &&
725             "Unexpected operand!");
726     PostfixStack.push_back(std::make_pair(Op, Val));
727   }
728
729   void popOperator() { InfixOperatorStack.pop_back_val(); }
730   void pushOperator(InfixCalculatorTok Op) {
731     // Push the new operator if the stack is empty.
732     if (InfixOperatorStack.empty()) {
733       InfixOperatorStack.push_back(Op);
734       return;
735     }
736
737     // Push the new operator if it has a higher precedence than the operator on
738     // the top of the stack or the operator on the top of the stack is a left
739     // parentheses.
740     unsigned Idx = InfixOperatorStack.size() - 1;
741     InfixCalculatorTok StackOp = InfixOperatorStack[Idx];
742     if (OpPrecedence[Op] > OpPrecedence[StackOp] || StackOp == IC_LPAREN) {
743       InfixOperatorStack.push_back(Op);
744       return;
745     }
746
747     // The operator on the top of the stack has higher precedence than the
748     // new operator.
749     unsigned ParenCount = 0;
750     while (1) {
751       // Nothing to process.
752       if (InfixOperatorStack.empty())
753         break;
754
755       Idx = InfixOperatorStack.size() - 1;
756       StackOp = InfixOperatorStack[Idx];
757       if (!(OpPrecedence[StackOp] >= OpPrecedence[Op] || ParenCount))
758         break;
759
760       // If we have an even parentheses count and we see a left parentheses,
761       // then stop processing.
762       if (!ParenCount && StackOp == IC_LPAREN)
763         break;
764
765       if (StackOp == IC_RPAREN) {
766         ++ParenCount;
767         InfixOperatorStack.pop_back_val();
768       } else if (StackOp == IC_LPAREN) {
769         --ParenCount;
770         InfixOperatorStack.pop_back_val();
771       } else {
772         InfixOperatorStack.pop_back_val();
773         PostfixStack.push_back(std::make_pair(StackOp, 0));
774       }
775     }
776     // Push the new operator.
777     InfixOperatorStack.push_back(Op);
778   }
779   int64_t execute() {
780     // Push any remaining operators onto the postfix stack.
781     while (!InfixOperatorStack.empty()) {
782       InfixCalculatorTok StackOp = InfixOperatorStack.pop_back_val();
783       if (StackOp != IC_LPAREN && StackOp != IC_RPAREN)
784         PostfixStack.push_back(std::make_pair(StackOp, 0));
785     }
786
787     if (PostfixStack.empty())
788       return 0;
789
790     SmallVector<ICToken, 16> OperandStack;
791     for (unsigned i = 0, e = PostfixStack.size(); i != e; ++i) {
792       ICToken Op = PostfixStack[i];
793       if (Op.first == IC_IMM || Op.first == IC_REGISTER) {
794         OperandStack.push_back(Op);
795       } else {
796         assert (OperandStack.size() > 1 && "Too few operands.");
797         int64_t Val;
798         ICToken Op2 = OperandStack.pop_back_val();
799         ICToken Op1 = OperandStack.pop_back_val();
800         switch (Op.first) {
801         default:
802           report_fatal_error("Unexpected operator!");
803           break;
804         case IC_PLUS:
805           Val = Op1.second + Op2.second;
806           OperandStack.push_back(std::make_pair(IC_IMM, Val));
807           break;
808         case IC_MINUS:
809           Val = Op1.second - Op2.second;
810           OperandStack.push_back(std::make_pair(IC_IMM, Val));
811           break;
812         case IC_MULTIPLY:
813           assert (Op1.first == IC_IMM && Op2.first == IC_IMM &&
814                   "Multiply operation with an immediate and a register!");
815           Val = Op1.second * Op2.second;
816           OperandStack.push_back(std::make_pair(IC_IMM, Val));
817           break;
818         case IC_DIVIDE:
819           assert (Op1.first == IC_IMM && Op2.first == IC_IMM &&
820                   "Divide operation with an immediate and a register!");
821           assert (Op2.second != 0 && "Division by zero!");
822           Val = Op1.second / Op2.second;
823           OperandStack.push_back(std::make_pair(IC_IMM, Val));
824           break;
825         }
826       }
827     }
828     assert (OperandStack.size() == 1 && "Expected a single result.");
829     return OperandStack.pop_back_val().second;
830   }
831 };
832
833 enum IntelBracExprState {
834   IBES_PLUS,
835   IBES_MINUS,
836   IBES_MULTIPLY,
837   IBES_DIVIDE,
838   IBES_LBRAC,
839   IBES_RBRAC,
840   IBES_LPAREN,
841   IBES_RPAREN,
842   IBES_REGISTER,
843   IBES_REGISTER_STAR,
844   IBES_INTEGER,
845   IBES_INTEGER_STAR,
846   IBES_IDENTIFIER,
847   IBES_ERROR
848 };
849
850 class IntelBracExprStateMachine {
851   IntelBracExprState State;
852   unsigned BaseReg, IndexReg, TmpReg, Scale;
853   int64_t Disp;
854   InfixCalculator IC;
855 public:
856   IntelBracExprStateMachine(MCAsmParser &parser, int64_t disp) :
857     State(IBES_PLUS), BaseReg(0), IndexReg(0), TmpReg(0), Scale(1), Disp(disp){}
858
859   unsigned getBaseReg() { return BaseReg; }
860   unsigned getIndexReg() { return IndexReg; }
861   unsigned getScale() { return Scale; }
862   int64_t getDisp() { return Disp + IC.execute(); }
863   bool isValidEndState() { return State == IBES_RBRAC; }
864
865   void onPlus() {
866     switch (State) {
867     default:
868       State = IBES_ERROR;
869       break;
870     case IBES_INTEGER:
871     case IBES_RPAREN:
872       State = IBES_PLUS;
873       IC.pushOperator(IC_PLUS);
874       break;
875     case IBES_REGISTER:
876       State = IBES_PLUS;
877       // If we already have a BaseReg, then assume this is the IndexReg with a
878       // scale of 1.
879       if (!BaseReg) {
880         BaseReg = TmpReg;
881       } else {
882         assert (!IndexReg && "BaseReg/IndexReg already set!");
883         IndexReg = TmpReg;
884         Scale = 1;
885       }
886       IC.pushOperator(IC_PLUS);
887       break;
888     }
889   }
890   void onMinus() {
891     switch (State) {
892     default:
893       State = IBES_ERROR;
894       break;
895     case IBES_PLUS:
896     case IBES_LPAREN:
897       IC.pushOperand(IC_IMM);
898     case IBES_INTEGER:
899     case IBES_RPAREN:
900       State = IBES_MINUS;
901       IC.pushOperator(IC_MINUS);
902       break;
903     case IBES_REGISTER:
904       State = IBES_MINUS;
905       // If we already have a BaseReg, then assume this is the IndexReg with a
906       // scale of 1.
907       if (!BaseReg) {
908         BaseReg = TmpReg;
909       } else {
910         assert (!IndexReg && "BaseReg/IndexReg already set!");
911         IndexReg = TmpReg;
912         Scale = 1;
913       }
914       IC.pushOperator(IC_MINUS);
915       break;
916     }
917   }
918   void onRegister(unsigned Reg) {
919     switch (State) {
920     default:
921       State = IBES_ERROR;
922       break;
923     case IBES_PLUS:
924     case IBES_LPAREN:
925       State = IBES_REGISTER;
926       TmpReg = Reg;
927       IC.pushOperand(IC_REGISTER);
928       break;
929     case IBES_INTEGER_STAR:
930       assert (!IndexReg && "IndexReg already set!");
931       State = IBES_INTEGER;
932       IndexReg = Reg;
933       Scale = IC.popOperand();
934       IC.pushOperand(IC_IMM);
935       IC.popOperator();
936       break;
937     }
938   }
939   void onDispExpr() {
940     switch (State) {
941     default:
942       State = IBES_ERROR;
943       break;
944     case IBES_PLUS:
945     case IBES_MINUS:
946       State = IBES_INTEGER;
947       IC.pushOperand(IC_IMM);
948       break;
949     }
950   }
951   void onInteger(int64_t TmpInt) {
952     switch (State) {
953     default:
954       State = IBES_ERROR;
955       break;
956     case IBES_PLUS:
957     case IBES_MINUS:
958     case IBES_MULTIPLY:
959     case IBES_DIVIDE:
960     case IBES_LPAREN:
961     case IBES_INTEGER_STAR:
962       State = IBES_INTEGER;
963       IC.pushOperand(IC_IMM, TmpInt);
964       break;
965     case IBES_REGISTER_STAR:
966       assert (!IndexReg && "IndexReg already set!");
967       State = IBES_INTEGER;
968       IndexReg = TmpReg;
969       Scale = TmpInt;
970       IC.popOperator();
971       break;
972     }
973   }
974   void onStar() {
975     switch (State) {
976     default:
977       State = IBES_ERROR;
978       break;
979     case IBES_INTEGER:
980       State = IBES_INTEGER_STAR;
981       IC.pushOperator(IC_MULTIPLY);
982       break;
983     case IBES_REGISTER:
984       State = IBES_REGISTER_STAR;
985       IC.pushOperator(IC_MULTIPLY);
986       break;
987     case IBES_RPAREN:
988       State = IBES_MULTIPLY;
989       IC.pushOperator(IC_MULTIPLY);
990       break;
991     }
992   }
993   void onDivide() {
994     switch (State) {
995     default:
996       State = IBES_ERROR;
997       break;
998     case IBES_INTEGER:
999       State = IBES_DIVIDE;
1000       IC.pushOperator(IC_DIVIDE);
1001       break;
1002     }
1003   }
1004   void onLBrac() {
1005     switch (State) {
1006     default:
1007       State = IBES_ERROR;
1008       break;
1009     case IBES_RBRAC:
1010       State = IBES_PLUS;
1011       IC.pushOperator(IC_PLUS);
1012       break;
1013     }
1014   }
1015   void onRBrac() {
1016     switch (State) {
1017     default:
1018       State = IBES_ERROR;
1019       break;
1020     case IBES_RPAREN:
1021     case IBES_INTEGER:
1022       State = IBES_RBRAC;
1023       break;
1024     case IBES_REGISTER:
1025       State = IBES_RBRAC;
1026       // If we already have a BaseReg, then assume this is the IndexReg with a
1027       // scale of 1.
1028       if (!BaseReg) {
1029         BaseReg = TmpReg;
1030       } else {
1031         assert (!IndexReg && "BaseReg/IndexReg already set!");
1032         IndexReg = TmpReg;
1033         Scale = 1;
1034       }
1035       break;
1036     }
1037   }
1038   void onLParen() {
1039     switch (State) {
1040     default:
1041       State = IBES_ERROR;
1042       break;
1043     case IBES_PLUS:
1044     case IBES_MINUS:
1045     case IBES_MULTIPLY:
1046     case IBES_DIVIDE:
1047     case IBES_INTEGER_STAR:
1048     case IBES_LPAREN:
1049       State = IBES_LPAREN;
1050       IC.pushOperator(IC_LPAREN);
1051       break;
1052     }
1053   }
1054   void onRParen() {
1055     switch (State) {
1056     default:
1057       State = IBES_ERROR;
1058       break;
1059     case IBES_REGISTER:
1060     case IBES_INTEGER:
1061     case IBES_PLUS:
1062     case IBES_MINUS:
1063     case IBES_MULTIPLY:
1064     case IBES_DIVIDE:
1065     case IBES_RPAREN:
1066       State = IBES_RPAREN;
1067       IC.pushOperator(IC_RPAREN);
1068       break;
1069     }
1070   }
1071 };
1072
1073 X86Operand *X86AsmParser::CreateMemForInlineAsm(const MCExpr *Disp, SMLoc Start,
1074                                                 SMLoc End, SMLoc SizeDirLoc,
1075                                                 unsigned Size, StringRef SymName) {
1076   bool NeedSizeDir = false;
1077   bool IsVarDecl = false;
1078
1079   if (const MCSymbolRefExpr *SymRef = dyn_cast<MCSymbolRefExpr>(Disp)) {
1080     const MCSymbol &Sym = SymRef->getSymbol();
1081     // FIXME: The SemaLookup will fail if the name is anything other then an
1082     // identifier.
1083     // FIXME: Pass a valid SMLoc.
1084     unsigned tLength, tSize, tType;
1085     SemaCallback->LookupInlineAsmIdentifier(Sym.getName(), NULL, tLength, tSize,
1086                                             tType, IsVarDecl);
1087     if (!Size) {
1088       Size = tType * 8; // Size is in terms of bits in this context.
1089       NeedSizeDir = Size > 0;
1090     }
1091   }
1092
1093   // If this is not a VarDecl then assume it is a FuncDecl or some other label
1094   // reference.  We need an 'r' constraint here, so we need to create register
1095   // operand to ensure proper matching.  Just pick a GPR based on the size of
1096   // a pointer.
1097   if (!IsVarDecl) {
1098     unsigned RegNo = is64BitMode() ? X86::RBX : X86::EBX;
1099     return X86Operand::CreateReg(RegNo, Start, End, /*AddressOf=*/true, SMLoc(),
1100       SymName);
1101   }
1102
1103   if (NeedSizeDir)
1104     InstInfo->AsmRewrites->push_back(AsmRewrite(AOK_SizeDirective, SizeDirLoc,
1105                                                 /*Len*/0, Size));  
1106
1107   // When parsing inline assembly we set the base register to a non-zero value
1108   // as we don't know the actual value at this time.  This is necessary to
1109   // get the matching correct in some cases.
1110   return X86Operand::CreateMem(/*SegReg*/0, Disp, /*BaseReg*/1, /*IndexReg*/0,
1111                                /*Scale*/1, Start, End, Size, SymName);
1112 }
1113
1114 X86Operand *X86AsmParser::ParseIntelBracExpression(unsigned SegReg,
1115                                                    SMLoc SizeDirLoc,
1116                                                    uint64_t ImmDisp,
1117                                                    unsigned Size) {
1118   const AsmToken &Tok = Parser.getTok();
1119   SMLoc Start = Tok.getLoc(), End = Tok.getEndLoc();
1120
1121   // Eat '['
1122   if (getLexer().isNot(AsmToken::LBrac))
1123     return ErrorOperand(Start, "Expected '[' token!");
1124   Parser.Lex();
1125
1126   unsigned TmpReg = 0;
1127
1128   // Try to handle '[' 'Symbol' ']'
1129   if (getLexer().is(AsmToken::Identifier)) {
1130     SMLoc Loc = Tok.getLoc();
1131     if (ParseRegister(TmpReg, Loc, End)) {
1132       const MCExpr *Disp;
1133       SMLoc IdentStart = Tok.getLoc();
1134       if (getParser().parseExpression(Disp, End))
1135         return 0;
1136
1137       if (X86Operand *Err = ParseIntelVarWithQualifier(Disp, IdentStart))
1138         return Err;
1139
1140       if (getLexer().isNot(AsmToken::RBrac))
1141         return ErrorOperand(Tok.getLoc(), "Expected ']' token!");
1142
1143       if (isParsingInlineAsm()) {
1144         // Remove the '[' and ']' from the IR string.
1145         InstInfo->AsmRewrites->push_back(AsmRewrite(AOK_Skip, Start, 1));
1146         InstInfo->AsmRewrites->push_back(AsmRewrite(AOK_Skip, Tok.getLoc(), 1));
1147       }
1148       unsigned Len = Tok.getLoc().getPointer() - IdentStart.getPointer();
1149       StringRef SymName(IdentStart.getPointer(), Len);
1150       Parser.Lex(); // Eat ']'
1151       if (!isParsingInlineAsm())
1152         return X86Operand::CreateMem(Disp, Start, End, Size, SymName);
1153       return CreateMemForInlineAsm(Disp, Start, End, SizeDirLoc, Size, SymName);
1154     }
1155   }
1156
1157   // Parse [ BaseReg + Scale*IndexReg + Disp ].  We may have already parsed an
1158   // immediate displacement before the bracketed expression.
1159   bool Done = false;
1160   IntelBracExprStateMachine SM(Parser, ImmDisp);
1161
1162   // If we parsed a register, then the end loc has already been set and
1163   // the identifier has already been lexed.  We also need to update the
1164   // state.
1165   if (TmpReg)
1166     SM.onRegister(TmpReg);
1167
1168   const MCExpr *Disp = 0;
1169   while (!Done) {
1170     bool UpdateLocLex = true;
1171
1172     // The period in the dot operator (e.g., [ebx].foo.bar) is parsed as an
1173     // identifier.  Don't try an parse it as a register.
1174     if (Tok.getString().startswith("."))
1175       break;
1176
1177     switch (getLexer().getKind()) {
1178     default: {
1179       if (SM.isValidEndState()) {
1180         Done = true;
1181         break;
1182       }
1183       return ErrorOperand(Tok.getLoc(), "Unexpected token!");
1184     }
1185     case AsmToken::Identifier: {
1186       // This could be a register or a displacement expression.
1187       SMLoc Loc = Tok.getLoc();
1188       if(!ParseRegister(TmpReg, Loc, End)) {
1189         SM.onRegister(TmpReg);
1190         UpdateLocLex = false;
1191         break;
1192       } else if (!getParser().parsePrimaryExpr(Disp, End)) {
1193         SM.onDispExpr();
1194         UpdateLocLex = false;
1195         break;
1196       }
1197       return ErrorOperand(Tok.getLoc(), "Unexpected identifier!");
1198     }
1199     case AsmToken::Integer:
1200       if (isParsingInlineAsm())
1201         InstInfo->AsmRewrites->push_back(AsmRewrite(AOK_ImmPrefix,
1202                                                     Tok.getLoc()));
1203       SM.onInteger(Tok.getIntVal());
1204       break;
1205     case AsmToken::Plus:    SM.onPlus(); break;
1206     case AsmToken::Minus:   SM.onMinus(); break;
1207     case AsmToken::Star:    SM.onStar(); break;
1208     case AsmToken::Slash:   SM.onDivide(); break;
1209     case AsmToken::LBrac:   SM.onLBrac(); break;
1210     case AsmToken::RBrac:   SM.onRBrac(); break;
1211     case AsmToken::LParen:  SM.onLParen(); break;
1212     case AsmToken::RParen:  SM.onRParen(); break;
1213     }
1214     if (!Done && UpdateLocLex) {
1215       End = Tok.getLoc();
1216       Parser.Lex(); // Consume the token.
1217     }
1218   }
1219   if (isParsingInlineAsm() && Disp && isa<MCSymbolRefExpr>(Disp)) {
1220     // Remove the '[' and ']' from the IR string.
1221     InstInfo->AsmRewrites->push_back(AsmRewrite(AOK_Skip, Start, 1));
1222     InstInfo->AsmRewrites->push_back(AsmRewrite(AOK_Skip, End, 1));
1223   }
1224
1225   if (!Disp)
1226     Disp = MCConstantExpr::Create(SM.getDisp(), getContext());
1227
1228   // Parse the dot operator (e.g., [ebx].foo.bar).
1229   if (Tok.getString().startswith(".")) {
1230     SmallString<64> Err;
1231     const MCExpr *NewDisp;
1232     if (ParseIntelDotOperator(Disp, &NewDisp, Err))
1233       return ErrorOperand(Tok.getLoc(), Err);
1234     
1235     End = Tok.getEndLoc();
1236     Parser.Lex();  // Eat the field.
1237     Disp = NewDisp;
1238   }
1239
1240   int BaseReg = SM.getBaseReg();
1241   int IndexReg = SM.getIndexReg();
1242
1243   // handle [-42]
1244   if (!BaseReg && !IndexReg) {
1245     if (!SegReg)
1246       return X86Operand::CreateMem(Disp, Start, End, Size);
1247     else
1248       return X86Operand::CreateMem(SegReg, Disp, 0, 0, 1, Start, End, Size);
1249   }
1250
1251   int Scale = SM.getScale();
1252   return X86Operand::CreateMem(SegReg, Disp, BaseReg, IndexReg, Scale, Start,
1253                                End, Size);
1254 }
1255
1256 // Inline assembly may use variable names with namespace alias qualifiers.
1257 X86Operand *X86AsmParser::ParseIntelVarWithQualifier(const MCExpr *&Disp,
1258                                                      SMLoc &IdentStart) {
1259   // We should only see Foo::Bar if we're parsing inline assembly.
1260   if (!isParsingInlineAsm())
1261     return 0;
1262
1263   // If we don't see a ':' then there can't be a qualifier.
1264   if (getLexer().isNot(AsmToken::Colon))
1265     return 0;
1266
1267   bool Done = false;
1268   const AsmToken &Tok = Parser.getTok();
1269   while (!Done) {
1270     switch (getLexer().getKind()) {
1271     default:
1272       Done = true; 
1273       break;
1274     case AsmToken::Colon:
1275       getLexer().Lex(); // Consume ':'.
1276       if (getLexer().isNot(AsmToken::Colon))
1277         return ErrorOperand(Tok.getLoc(), "Expected ':' token!");
1278       getLexer().Lex(); // Consume second ':'.
1279       if (getLexer().isNot(AsmToken::Identifier))
1280         return ErrorOperand(Tok.getLoc(), "Expected an identifier token!");
1281       break;
1282     case AsmToken::Identifier:
1283       getLexer().Lex(); // Consume the identifier.
1284       break;
1285     }
1286   }
1287   size_t Len = Tok.getLoc().getPointer() - IdentStart.getPointer();
1288   StringRef Identifier(IdentStart.getPointer(), Len);
1289   MCSymbol *Sym = getContext().GetOrCreateSymbol(Identifier);
1290   MCSymbolRefExpr::VariantKind Variant = MCSymbolRefExpr::VK_None;
1291   Disp = MCSymbolRefExpr::Create(Sym, Variant, getParser().getContext());
1292   return 0;
1293 }
1294
1295 /// ParseIntelMemOperand - Parse intel style memory operand.
1296 X86Operand *X86AsmParser::ParseIntelMemOperand(unsigned SegReg,
1297                                                uint64_t ImmDisp,
1298                                                SMLoc Start) {
1299   const AsmToken &Tok = Parser.getTok();
1300   SMLoc End;
1301
1302   unsigned Size = getIntelMemOperandSize(Tok.getString());
1303   if (Size) {
1304     Parser.Lex();
1305     assert ((Tok.getString() == "PTR" || Tok.getString() == "ptr") &&
1306             "Unexpected token!");
1307     Parser.Lex();
1308   }
1309
1310   // Parse ImmDisp [ BaseReg + Scale*IndexReg + Disp ].
1311   if (getLexer().is(AsmToken::Integer)) {
1312     if (isParsingInlineAsm())
1313       InstInfo->AsmRewrites->push_back(AsmRewrite(AOK_ImmPrefix,
1314                                                   Tok.getLoc()));
1315     uint64_t ImmDisp = Tok.getIntVal();
1316     Parser.Lex(); // Eat the integer.
1317     if (getLexer().isNot(AsmToken::LBrac))
1318       return ErrorOperand(Start, "Expected '[' token!");
1319     return ParseIntelBracExpression(SegReg, Start, ImmDisp, Size);
1320   }
1321
1322   if (getLexer().is(AsmToken::LBrac))
1323     return ParseIntelBracExpression(SegReg, Start, ImmDisp, Size);
1324
1325   if (!ParseRegister(SegReg, Start, End)) {
1326     // Handel SegReg : [ ... ]
1327     if (getLexer().isNot(AsmToken::Colon))
1328       return ErrorOperand(Start, "Expected ':' token!");
1329     Parser.Lex(); // Eat :
1330     if (getLexer().isNot(AsmToken::LBrac))
1331       return ErrorOperand(Start, "Expected '[' token!");
1332     return ParseIntelBracExpression(SegReg, Start, ImmDisp, Size);
1333   }
1334
1335   const MCExpr *Disp = 0;
1336   SMLoc IdentStart = Tok.getLoc();
1337   if (getParser().parseExpression(Disp, End))
1338     return 0;
1339
1340   if (!isParsingInlineAsm())
1341     return X86Operand::CreateMem(Disp, Start, End, Size);
1342
1343   if (X86Operand *Err = ParseIntelVarWithQualifier(Disp, IdentStart))
1344     return Err;
1345
1346   unsigned Len = Tok.getLoc().getPointer() - IdentStart.getPointer();
1347   StringRef SymName(IdentStart.getPointer(), Len);
1348   return CreateMemForInlineAsm(Disp, Start, End, Start, Size, SymName);
1349 }
1350
1351 /// Parse the '.' operator.
1352 bool X86AsmParser::ParseIntelDotOperator(const MCExpr *Disp,
1353                                          const MCExpr **NewDisp,
1354                                          SmallString<64> &Err) {
1355   const AsmToken &Tok = Parser.getTok();
1356   uint64_t OrigDispVal, DotDispVal;
1357
1358   // FIXME: Handle non-constant expressions.
1359   if (const MCConstantExpr *OrigDisp = dyn_cast<MCConstantExpr>(Disp)) {
1360     OrigDispVal = OrigDisp->getValue();
1361   } else {
1362     Err = "Non-constant offsets are not supported!";
1363     return true;
1364   }
1365
1366   // Drop the '.'.
1367   StringRef DotDispStr = Tok.getString().drop_front(1);
1368
1369   // .Imm gets lexed as a real.
1370   if (Tok.is(AsmToken::Real)) {
1371     APInt DotDisp;
1372     DotDispStr.getAsInteger(10, DotDisp);
1373     DotDispVal = DotDisp.getZExtValue();
1374   } else if (Tok.is(AsmToken::Identifier)) {
1375     // We should only see an identifier when parsing the original inline asm.
1376     // The front-end should rewrite this in terms of immediates.
1377     assert (isParsingInlineAsm() && "Unexpected field name!");
1378
1379     unsigned DotDisp;
1380     std::pair<StringRef, StringRef> BaseMember = DotDispStr.split('.');
1381     if (SemaCallback->LookupInlineAsmField(BaseMember.first, BaseMember.second,
1382                                            DotDisp)) {
1383       Err = "Unable to lookup field reference!";
1384       return true;
1385     }
1386     DotDispVal = DotDisp;
1387   } else {
1388     Err = "Unexpected token type!";
1389     return true;
1390   }
1391
1392   if (isParsingInlineAsm() && Tok.is(AsmToken::Identifier)) {
1393     SMLoc Loc = SMLoc::getFromPointer(DotDispStr.data());
1394     unsigned Len = DotDispStr.size();
1395     unsigned Val = OrigDispVal + DotDispVal;
1396     InstInfo->AsmRewrites->push_back(AsmRewrite(AOK_DotOperator, Loc, Len,
1397                                                 Val));
1398   }
1399
1400   *NewDisp = MCConstantExpr::Create(OrigDispVal + DotDispVal, getContext());
1401   return false;
1402 }
1403
1404 /// Parse the 'offset' operator.  This operator is used to specify the
1405 /// location rather then the content of a variable.
1406 X86Operand *X86AsmParser::ParseIntelOffsetOfOperator() {
1407   const AsmToken &Tok = Parser.getTok();
1408   SMLoc OffsetOfLoc = Tok.getLoc();
1409   Parser.Lex(); // Eat offset.
1410   assert (Tok.is(AsmToken::Identifier) && "Expected an identifier");
1411
1412   const MCExpr *Val;
1413   SMLoc Start = Tok.getLoc(), End;
1414   if (getParser().parsePrimaryExpr(Val, End))
1415     return ErrorOperand(Start, "Unable to parse expression!");
1416
1417   // Don't emit the offset operator.
1418   InstInfo->AsmRewrites->push_back(AsmRewrite(AOK_Skip, OffsetOfLoc, 7));
1419
1420   // The offset operator will have an 'r' constraint, thus we need to create
1421   // register operand to ensure proper matching.  Just pick a GPR based on
1422   // the size of a pointer.
1423   unsigned RegNo = is64BitMode() ? X86::RBX : X86::EBX;
1424   unsigned Len = End.getPointer() - Start.getPointer();
1425   StringRef SymName(Start.getPointer(), Len);
1426   return X86Operand::CreateReg(RegNo, Start, End, /*GetAddress=*/true,
1427                                OffsetOfLoc, SymName);
1428 }
1429
1430 enum IntelOperatorKind {
1431   IOK_LENGTH,
1432   IOK_SIZE,
1433   IOK_TYPE
1434 };
1435
1436 /// Parse the 'LENGTH', 'TYPE' and 'SIZE' operators.  The LENGTH operator
1437 /// returns the number of elements in an array.  It returns the value 1 for
1438 /// non-array variables.  The SIZE operator returns the size of a C or C++
1439 /// variable.  A variable's size is the product of its LENGTH and TYPE.  The
1440 /// TYPE operator returns the size of a C or C++ type or variable. If the
1441 /// variable is an array, TYPE returns the size of a single element.
1442 X86Operand *X86AsmParser::ParseIntelOperator(unsigned OpKind) {
1443   const AsmToken &Tok = Parser.getTok();
1444   SMLoc TypeLoc = Tok.getLoc();
1445   Parser.Lex(); // Eat operator.
1446   assert (Tok.is(AsmToken::Identifier) && "Expected an identifier");
1447
1448   const MCExpr *Val;
1449   SMLoc Start = Tok.getLoc(), End;
1450   if (getParser().parsePrimaryExpr(Val, End))
1451     return 0;
1452
1453   unsigned Length = 0, Size = 0, Type = 0;
1454   if (const MCSymbolRefExpr *SymRef = dyn_cast<MCSymbolRefExpr>(Val)) {
1455     const MCSymbol &Sym = SymRef->getSymbol();
1456     // FIXME: The SemaLookup will fail if the name is anything other then an
1457     // identifier.
1458     // FIXME: Pass a valid SMLoc.
1459     bool IsVarDecl;
1460     if (!SemaCallback->LookupInlineAsmIdentifier(Sym.getName(), NULL, Length,
1461                                                  Size, Type, IsVarDecl))
1462       return ErrorOperand(Start, "Unable to lookup expr!");
1463   }
1464   unsigned CVal;
1465   switch(OpKind) {
1466   default: llvm_unreachable("Unexpected operand kind!");
1467   case IOK_LENGTH: CVal = Length; break;
1468   case IOK_SIZE: CVal = Size; break;
1469   case IOK_TYPE: CVal = Type; break;
1470   }
1471
1472   // Rewrite the type operator and the C or C++ type or variable in terms of an
1473   // immediate.  E.g. TYPE foo -> $$4
1474   unsigned Len = End.getPointer() - TypeLoc.getPointer();
1475   InstInfo->AsmRewrites->push_back(AsmRewrite(AOK_Imm, TypeLoc, Len, CVal));
1476
1477   const MCExpr *Imm = MCConstantExpr::Create(CVal, getContext());
1478   return X86Operand::CreateImm(Imm, Start, End);
1479 }
1480
1481 X86Operand *X86AsmParser::ParseIntelOperand() {
1482   const AsmToken &Tok = Parser.getTok();
1483   SMLoc Start = Tok.getLoc(), End;
1484   StringRef AsmTokStr = Tok.getString();
1485
1486   // Offset, length, type and size operators.
1487   if (isParsingInlineAsm()) {
1488     if (AsmTokStr == "offset" || AsmTokStr == "OFFSET")
1489       return ParseIntelOffsetOfOperator();
1490     if (AsmTokStr == "length" || AsmTokStr == "LENGTH")
1491       return ParseIntelOperator(IOK_LENGTH);
1492     if (AsmTokStr == "size" || AsmTokStr == "SIZE")
1493       return ParseIntelOperator(IOK_SIZE);
1494     if (AsmTokStr == "type" || AsmTokStr == "TYPE")
1495       return ParseIntelOperator(IOK_TYPE);
1496   }
1497
1498   // Immediate.
1499   if (getLexer().is(AsmToken::Integer) || getLexer().is(AsmToken::Real) ||
1500       getLexer().is(AsmToken::Minus)) {
1501     const MCExpr *Val;
1502     bool isInteger = getLexer().is(AsmToken::Integer);
1503     if (!getParser().parseExpression(Val, End)) {
1504       if (isParsingInlineAsm())
1505         InstInfo->AsmRewrites->push_back(AsmRewrite(AOK_ImmPrefix, Start));
1506       // Immediate.
1507       if (getLexer().isNot(AsmToken::LBrac))
1508         return X86Operand::CreateImm(Val, Start, End);
1509
1510       // Only positive immediates are valid.
1511       if (!isInteger) {
1512         Error(Tok.getLoc(), "expected a positive immediate "
1513               "displacement before bracketed expr.");
1514         return 0;
1515       }
1516
1517       // Parse ImmDisp [ BaseReg + Scale*IndexReg + Disp ].
1518       if (uint64_t ImmDisp = dyn_cast<MCConstantExpr>(Val)->getValue())
1519         return ParseIntelMemOperand(/*SegReg=*/0, ImmDisp, Start);
1520     }
1521   }
1522
1523   // Register.
1524   unsigned RegNo = 0;
1525   if (!ParseRegister(RegNo, Start, End)) {
1526     // If this is a segment register followed by a ':', then this is the start
1527     // of a memory reference, otherwise this is a normal register reference.
1528     if (getLexer().isNot(AsmToken::Colon))
1529       return X86Operand::CreateReg(RegNo, Start, End);
1530
1531     getParser().Lex(); // Eat the colon.
1532     return ParseIntelMemOperand(/*SegReg=*/RegNo, /*Disp=*/0, Start);
1533   }
1534
1535   // Memory operand.
1536   return ParseIntelMemOperand(/*SegReg=*/0, /*Disp=*/0, Start);
1537 }
1538
1539 X86Operand *X86AsmParser::ParseATTOperand() {
1540   switch (getLexer().getKind()) {
1541   default:
1542     // Parse a memory operand with no segment register.
1543     return ParseMemOperand(0, Parser.getTok().getLoc());
1544   case AsmToken::Percent: {
1545     // Read the register.
1546     unsigned RegNo;
1547     SMLoc Start, End;
1548     if (ParseRegister(RegNo, Start, End)) return 0;
1549     if (RegNo == X86::EIZ || RegNo == X86::RIZ) {
1550       Error(Start, "%eiz and %riz can only be used as index registers",
1551             SMRange(Start, End));
1552       return 0;
1553     }
1554
1555     // If this is a segment register followed by a ':', then this is the start
1556     // of a memory reference, otherwise this is a normal register reference.
1557     if (getLexer().isNot(AsmToken::Colon))
1558       return X86Operand::CreateReg(RegNo, Start, End);
1559
1560     getParser().Lex(); // Eat the colon.
1561     return ParseMemOperand(RegNo, Start);
1562   }
1563   case AsmToken::Dollar: {
1564     // $42 -> immediate.
1565     SMLoc Start = Parser.getTok().getLoc(), End;
1566     Parser.Lex();
1567     const MCExpr *Val;
1568     if (getParser().parseExpression(Val, End))
1569       return 0;
1570     return X86Operand::CreateImm(Val, Start, End);
1571   }
1572   }
1573 }
1574
1575 /// ParseMemOperand: segment: disp(basereg, indexreg, scale).  The '%ds:' prefix
1576 /// has already been parsed if present.
1577 X86Operand *X86AsmParser::ParseMemOperand(unsigned SegReg, SMLoc MemStart) {
1578
1579   // We have to disambiguate a parenthesized expression "(4+5)" from the start
1580   // of a memory operand with a missing displacement "(%ebx)" or "(,%eax)".  The
1581   // only way to do this without lookahead is to eat the '(' and see what is
1582   // after it.
1583   const MCExpr *Disp = MCConstantExpr::Create(0, getParser().getContext());
1584   if (getLexer().isNot(AsmToken::LParen)) {
1585     SMLoc ExprEnd;
1586     if (getParser().parseExpression(Disp, ExprEnd)) return 0;
1587
1588     // After parsing the base expression we could either have a parenthesized
1589     // memory address or not.  If not, return now.  If so, eat the (.
1590     if (getLexer().isNot(AsmToken::LParen)) {
1591       // Unless we have a segment register, treat this as an immediate.
1592       if (SegReg == 0)
1593         return X86Operand::CreateMem(Disp, MemStart, ExprEnd);
1594       return X86Operand::CreateMem(SegReg, Disp, 0, 0, 1, MemStart, ExprEnd);
1595     }
1596
1597     // Eat the '('.
1598     Parser.Lex();
1599   } else {
1600     // Okay, we have a '('.  We don't know if this is an expression or not, but
1601     // so we have to eat the ( to see beyond it.
1602     SMLoc LParenLoc = Parser.getTok().getLoc();
1603     Parser.Lex(); // Eat the '('.
1604
1605     if (getLexer().is(AsmToken::Percent) || getLexer().is(AsmToken::Comma)) {
1606       // Nothing to do here, fall into the code below with the '(' part of the
1607       // memory operand consumed.
1608     } else {
1609       SMLoc ExprEnd;
1610
1611       // It must be an parenthesized expression, parse it now.
1612       if (getParser().parseParenExpression(Disp, ExprEnd))
1613         return 0;
1614
1615       // After parsing the base expression we could either have a parenthesized
1616       // memory address or not.  If not, return now.  If so, eat the (.
1617       if (getLexer().isNot(AsmToken::LParen)) {
1618         // Unless we have a segment register, treat this as an immediate.
1619         if (SegReg == 0)
1620           return X86Operand::CreateMem(Disp, LParenLoc, ExprEnd);
1621         return X86Operand::CreateMem(SegReg, Disp, 0, 0, 1, MemStart, ExprEnd);
1622       }
1623
1624       // Eat the '('.
1625       Parser.Lex();
1626     }
1627   }
1628
1629   // If we reached here, then we just ate the ( of the memory operand.  Process
1630   // the rest of the memory operand.
1631   unsigned BaseReg = 0, IndexReg = 0, Scale = 1;
1632   SMLoc IndexLoc;
1633
1634   if (getLexer().is(AsmToken::Percent)) {
1635     SMLoc StartLoc, EndLoc;
1636     if (ParseRegister(BaseReg, StartLoc, EndLoc)) return 0;
1637     if (BaseReg == X86::EIZ || BaseReg == X86::RIZ) {
1638       Error(StartLoc, "eiz and riz can only be used as index registers",
1639             SMRange(StartLoc, EndLoc));
1640       return 0;
1641     }
1642   }
1643
1644   if (getLexer().is(AsmToken::Comma)) {
1645     Parser.Lex(); // Eat the comma.
1646     IndexLoc = Parser.getTok().getLoc();
1647
1648     // Following the comma we should have either an index register, or a scale
1649     // value. We don't support the later form, but we want to parse it
1650     // correctly.
1651     //
1652     // Not that even though it would be completely consistent to support syntax
1653     // like "1(%eax,,1)", the assembler doesn't. Use "eiz" or "riz" for this.
1654     if (getLexer().is(AsmToken::Percent)) {
1655       SMLoc L;
1656       if (ParseRegister(IndexReg, L, L)) return 0;
1657
1658       if (getLexer().isNot(AsmToken::RParen)) {
1659         // Parse the scale amount:
1660         //  ::= ',' [scale-expression]
1661         if (getLexer().isNot(AsmToken::Comma)) {
1662           Error(Parser.getTok().getLoc(),
1663                 "expected comma in scale expression");
1664           return 0;
1665         }
1666         Parser.Lex(); // Eat the comma.
1667
1668         if (getLexer().isNot(AsmToken::RParen)) {
1669           SMLoc Loc = Parser.getTok().getLoc();
1670
1671           int64_t ScaleVal;
1672           if (getParser().parseAbsoluteExpression(ScaleVal)){
1673             Error(Loc, "expected scale expression");
1674             return 0;
1675           }
1676
1677           // Validate the scale amount.
1678           if (ScaleVal != 1 && ScaleVal != 2 && ScaleVal != 4 && ScaleVal != 8){
1679             Error(Loc, "scale factor in address must be 1, 2, 4 or 8");
1680             return 0;
1681           }
1682           Scale = (unsigned)ScaleVal;
1683         }
1684       }
1685     } else if (getLexer().isNot(AsmToken::RParen)) {
1686       // A scale amount without an index is ignored.
1687       // index.
1688       SMLoc Loc = Parser.getTok().getLoc();
1689
1690       int64_t Value;
1691       if (getParser().parseAbsoluteExpression(Value))
1692         return 0;
1693
1694       if (Value != 1)
1695         Warning(Loc, "scale factor without index register is ignored");
1696       Scale = 1;
1697     }
1698   }
1699
1700   // Ok, we've eaten the memory operand, verify we have a ')' and eat it too.
1701   if (getLexer().isNot(AsmToken::RParen)) {
1702     Error(Parser.getTok().getLoc(), "unexpected token in memory operand");
1703     return 0;
1704   }
1705   SMLoc MemEnd = Parser.getTok().getEndLoc();
1706   Parser.Lex(); // Eat the ')'.
1707
1708   // If we have both a base register and an index register make sure they are
1709   // both 64-bit or 32-bit registers.
1710   // To support VSIB, IndexReg can be 128-bit or 256-bit registers.
1711   if (BaseReg != 0 && IndexReg != 0) {
1712     if (X86MCRegisterClasses[X86::GR64RegClassID].contains(BaseReg) &&
1713         (X86MCRegisterClasses[X86::GR16RegClassID].contains(IndexReg) ||
1714          X86MCRegisterClasses[X86::GR32RegClassID].contains(IndexReg)) &&
1715         IndexReg != X86::RIZ) {
1716       Error(IndexLoc, "index register is 32-bit, but base register is 64-bit");
1717       return 0;
1718     }
1719     if (X86MCRegisterClasses[X86::GR32RegClassID].contains(BaseReg) &&
1720         (X86MCRegisterClasses[X86::GR16RegClassID].contains(IndexReg) ||
1721          X86MCRegisterClasses[X86::GR64RegClassID].contains(IndexReg)) &&
1722         IndexReg != X86::EIZ){
1723       Error(IndexLoc, "index register is 64-bit, but base register is 32-bit");
1724       return 0;
1725     }
1726   }
1727
1728   return X86Operand::CreateMem(SegReg, Disp, BaseReg, IndexReg, Scale,
1729                                MemStart, MemEnd);
1730 }
1731
1732 bool X86AsmParser::
1733 ParseInstruction(ParseInstructionInfo &Info, StringRef Name, SMLoc NameLoc,
1734                  SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
1735   InstInfo = &Info;
1736   StringRef PatchedName = Name;
1737
1738   // FIXME: Hack to recognize setneb as setne.
1739   if (PatchedName.startswith("set") && PatchedName.endswith("b") &&
1740       PatchedName != "setb" && PatchedName != "setnb")
1741     PatchedName = PatchedName.substr(0, Name.size()-1);
1742
1743   // FIXME: Hack to recognize cmp<comparison code>{ss,sd,ps,pd}.
1744   const MCExpr *ExtraImmOp = 0;
1745   if ((PatchedName.startswith("cmp") || PatchedName.startswith("vcmp")) &&
1746       (PatchedName.endswith("ss") || PatchedName.endswith("sd") ||
1747        PatchedName.endswith("ps") || PatchedName.endswith("pd"))) {
1748     bool IsVCMP = PatchedName[0] == 'v';
1749     unsigned SSECCIdx = IsVCMP ? 4 : 3;
1750     unsigned SSEComparisonCode = StringSwitch<unsigned>(
1751       PatchedName.slice(SSECCIdx, PatchedName.size() - 2))
1752       .Case("eq",       0x00)
1753       .Case("lt",       0x01)
1754       .Case("le",       0x02)
1755       .Case("unord",    0x03)
1756       .Case("neq",      0x04)
1757       .Case("nlt",      0x05)
1758       .Case("nle",      0x06)
1759       .Case("ord",      0x07)
1760       /* AVX only from here */
1761       .Case("eq_uq",    0x08)
1762       .Case("nge",      0x09)
1763       .Case("ngt",      0x0A)
1764       .Case("false",    0x0B)
1765       .Case("neq_oq",   0x0C)
1766       .Case("ge",       0x0D)
1767       .Case("gt",       0x0E)
1768       .Case("true",     0x0F)
1769       .Case("eq_os",    0x10)
1770       .Case("lt_oq",    0x11)
1771       .Case("le_oq",    0x12)
1772       .Case("unord_s",  0x13)
1773       .Case("neq_us",   0x14)
1774       .Case("nlt_uq",   0x15)
1775       .Case("nle_uq",   0x16)
1776       .Case("ord_s",    0x17)
1777       .Case("eq_us",    0x18)
1778       .Case("nge_uq",   0x19)
1779       .Case("ngt_uq",   0x1A)
1780       .Case("false_os", 0x1B)
1781       .Case("neq_os",   0x1C)
1782       .Case("ge_oq",    0x1D)
1783       .Case("gt_oq",    0x1E)
1784       .Case("true_us",  0x1F)
1785       .Default(~0U);
1786     if (SSEComparisonCode != ~0U && (IsVCMP || SSEComparisonCode < 8)) {
1787       ExtraImmOp = MCConstantExpr::Create(SSEComparisonCode,
1788                                           getParser().getContext());
1789       if (PatchedName.endswith("ss")) {
1790         PatchedName = IsVCMP ? "vcmpss" : "cmpss";
1791       } else if (PatchedName.endswith("sd")) {
1792         PatchedName = IsVCMP ? "vcmpsd" : "cmpsd";
1793       } else if (PatchedName.endswith("ps")) {
1794         PatchedName = IsVCMP ? "vcmpps" : "cmpps";
1795       } else {
1796         assert(PatchedName.endswith("pd") && "Unexpected mnemonic!");
1797         PatchedName = IsVCMP ? "vcmppd" : "cmppd";
1798       }
1799     }
1800   }
1801
1802   Operands.push_back(X86Operand::CreateToken(PatchedName, NameLoc));
1803
1804   if (ExtraImmOp && !isParsingIntelSyntax())
1805     Operands.push_back(X86Operand::CreateImm(ExtraImmOp, NameLoc, NameLoc));
1806
1807   // Determine whether this is an instruction prefix.
1808   bool isPrefix =
1809     Name == "lock" || Name == "rep" ||
1810     Name == "repe" || Name == "repz" ||
1811     Name == "repne" || Name == "repnz" ||
1812     Name == "rex64" || Name == "data16";
1813
1814
1815   // This does the actual operand parsing.  Don't parse any more if we have a
1816   // prefix juxtaposed with an operation like "lock incl 4(%rax)", because we
1817   // just want to parse the "lock" as the first instruction and the "incl" as
1818   // the next one.
1819   if (getLexer().isNot(AsmToken::EndOfStatement) && !isPrefix) {
1820
1821     // Parse '*' modifier.
1822     if (getLexer().is(AsmToken::Star)) {
1823       SMLoc Loc = Parser.getTok().getLoc();
1824       Operands.push_back(X86Operand::CreateToken("*", Loc));
1825       Parser.Lex(); // Eat the star.
1826     }
1827
1828     // Read the first operand.
1829     if (X86Operand *Op = ParseOperand())
1830       Operands.push_back(Op);
1831     else {
1832       Parser.eatToEndOfStatement();
1833       return true;
1834     }
1835
1836     while (getLexer().is(AsmToken::Comma)) {
1837       Parser.Lex();  // Eat the comma.
1838
1839       // Parse and remember the operand.
1840       if (X86Operand *Op = ParseOperand())
1841         Operands.push_back(Op);
1842       else {
1843         Parser.eatToEndOfStatement();
1844         return true;
1845       }
1846     }
1847
1848     if (getLexer().isNot(AsmToken::EndOfStatement)) {
1849       SMLoc Loc = getLexer().getLoc();
1850       Parser.eatToEndOfStatement();
1851       return Error(Loc, "unexpected token in argument list");
1852     }
1853   }
1854
1855   if (getLexer().is(AsmToken::EndOfStatement))
1856     Parser.Lex(); // Consume the EndOfStatement
1857   else if (isPrefix && getLexer().is(AsmToken::Slash))
1858     Parser.Lex(); // Consume the prefix separator Slash
1859
1860   if (ExtraImmOp && isParsingIntelSyntax())
1861     Operands.push_back(X86Operand::CreateImm(ExtraImmOp, NameLoc, NameLoc));
1862
1863   // This is a terrible hack to handle "out[bwl]? %al, (%dx)" ->
1864   // "outb %al, %dx".  Out doesn't take a memory form, but this is a widely
1865   // documented form in various unofficial manuals, so a lot of code uses it.
1866   if ((Name == "outb" || Name == "outw" || Name == "outl" || Name == "out") &&
1867       Operands.size() == 3) {
1868     X86Operand &Op = *(X86Operand*)Operands.back();
1869     if (Op.isMem() && Op.Mem.SegReg == 0 &&
1870         isa<MCConstantExpr>(Op.Mem.Disp) &&
1871         cast<MCConstantExpr>(Op.Mem.Disp)->getValue() == 0 &&
1872         Op.Mem.BaseReg == MatchRegisterName("dx") && Op.Mem.IndexReg == 0) {
1873       SMLoc Loc = Op.getEndLoc();
1874       Operands.back() = X86Operand::CreateReg(Op.Mem.BaseReg, Loc, Loc);
1875       delete &Op;
1876     }
1877   }
1878   // Same hack for "in[bwl]? (%dx), %al" -> "inb %dx, %al".
1879   if ((Name == "inb" || Name == "inw" || Name == "inl" || Name == "in") &&
1880       Operands.size() == 3) {
1881     X86Operand &Op = *(X86Operand*)Operands.begin()[1];
1882     if (Op.isMem() && Op.Mem.SegReg == 0 &&
1883         isa<MCConstantExpr>(Op.Mem.Disp) &&
1884         cast<MCConstantExpr>(Op.Mem.Disp)->getValue() == 0 &&
1885         Op.Mem.BaseReg == MatchRegisterName("dx") && Op.Mem.IndexReg == 0) {
1886       SMLoc Loc = Op.getEndLoc();
1887       Operands.begin()[1] = X86Operand::CreateReg(Op.Mem.BaseReg, Loc, Loc);
1888       delete &Op;
1889     }
1890   }
1891   // Transform "ins[bwl] %dx, %es:(%edi)" into "ins[bwl]"
1892   if (Name.startswith("ins") && Operands.size() == 3 &&
1893       (Name == "insb" || Name == "insw" || Name == "insl")) {
1894     X86Operand &Op = *(X86Operand*)Operands.begin()[1];
1895     X86Operand &Op2 = *(X86Operand*)Operands.begin()[2];
1896     if (Op.isReg() && Op.getReg() == X86::DX && isDstOp(Op2)) {
1897       Operands.pop_back();
1898       Operands.pop_back();
1899       delete &Op;
1900       delete &Op2;
1901     }
1902   }
1903
1904   // Transform "outs[bwl] %ds:(%esi), %dx" into "out[bwl]"
1905   if (Name.startswith("outs") && Operands.size() == 3 &&
1906       (Name == "outsb" || Name == "outsw" || Name == "outsl")) {
1907     X86Operand &Op = *(X86Operand*)Operands.begin()[1];
1908     X86Operand &Op2 = *(X86Operand*)Operands.begin()[2];
1909     if (isSrcOp(Op) && Op2.isReg() && Op2.getReg() == X86::DX) {
1910       Operands.pop_back();
1911       Operands.pop_back();
1912       delete &Op;
1913       delete &Op2;
1914     }
1915   }
1916
1917   // Transform "movs[bwl] %ds:(%esi), %es:(%edi)" into "movs[bwl]"
1918   if (Name.startswith("movs") && Operands.size() == 3 &&
1919       (Name == "movsb" || Name == "movsw" || Name == "movsl" ||
1920        (is64BitMode() && Name == "movsq"))) {
1921     X86Operand &Op = *(X86Operand*)Operands.begin()[1];
1922     X86Operand &Op2 = *(X86Operand*)Operands.begin()[2];
1923     if (isSrcOp(Op) && isDstOp(Op2)) {
1924       Operands.pop_back();
1925       Operands.pop_back();
1926       delete &Op;
1927       delete &Op2;
1928     }
1929   }
1930   // Transform "lods[bwl] %ds:(%esi),{%al,%ax,%eax,%rax}" into "lods[bwl]"
1931   if (Name.startswith("lods") && Operands.size() == 3 &&
1932       (Name == "lods" || Name == "lodsb" || Name == "lodsw" ||
1933        Name == "lodsl" || (is64BitMode() && Name == "lodsq"))) {
1934     X86Operand *Op1 = static_cast<X86Operand*>(Operands[1]);
1935     X86Operand *Op2 = static_cast<X86Operand*>(Operands[2]);
1936     if (isSrcOp(*Op1) && Op2->isReg()) {
1937       const char *ins;
1938       unsigned reg = Op2->getReg();
1939       bool isLods = Name == "lods";
1940       if (reg == X86::AL && (isLods || Name == "lodsb"))
1941         ins = "lodsb";
1942       else if (reg == X86::AX && (isLods || Name == "lodsw"))
1943         ins = "lodsw";
1944       else if (reg == X86::EAX && (isLods || Name == "lodsl"))
1945         ins = "lodsl";
1946       else if (reg == X86::RAX && (isLods || Name == "lodsq"))
1947         ins = "lodsq";
1948       else
1949         ins = NULL;
1950       if (ins != NULL) {
1951         Operands.pop_back();
1952         Operands.pop_back();
1953         delete Op1;
1954         delete Op2;
1955         if (Name != ins)
1956           static_cast<X86Operand*>(Operands[0])->setTokenValue(ins);
1957       }
1958     }
1959   }
1960   // Transform "stos[bwl] {%al,%ax,%eax,%rax},%es:(%edi)" into "stos[bwl]"
1961   if (Name.startswith("stos") && Operands.size() == 3 &&
1962       (Name == "stos" || Name == "stosb" || Name == "stosw" ||
1963        Name == "stosl" || (is64BitMode() && Name == "stosq"))) {
1964     X86Operand *Op1 = static_cast<X86Operand*>(Operands[1]);
1965     X86Operand *Op2 = static_cast<X86Operand*>(Operands[2]);
1966     if (isDstOp(*Op2) && Op1->isReg()) {
1967       const char *ins;
1968       unsigned reg = Op1->getReg();
1969       bool isStos = Name == "stos";
1970       if (reg == X86::AL && (isStos || Name == "stosb"))
1971         ins = "stosb";
1972       else if (reg == X86::AX && (isStos || Name == "stosw"))
1973         ins = "stosw";
1974       else if (reg == X86::EAX && (isStos || Name == "stosl"))
1975         ins = "stosl";
1976       else if (reg == X86::RAX && (isStos || Name == "stosq"))
1977         ins = "stosq";
1978       else
1979         ins = NULL;
1980       if (ins != NULL) {
1981         Operands.pop_back();
1982         Operands.pop_back();
1983         delete Op1;
1984         delete Op2;
1985         if (Name != ins)
1986           static_cast<X86Operand*>(Operands[0])->setTokenValue(ins);
1987       }
1988     }
1989   }
1990
1991   // FIXME: Hack to handle recognize s{hr,ar,hl} $1, <op>.  Canonicalize to
1992   // "shift <op>".
1993   if ((Name.startswith("shr") || Name.startswith("sar") ||
1994        Name.startswith("shl") || Name.startswith("sal") ||
1995        Name.startswith("rcl") || Name.startswith("rcr") ||
1996        Name.startswith("rol") || Name.startswith("ror")) &&
1997       Operands.size() == 3) {
1998     if (isParsingIntelSyntax()) {
1999       // Intel syntax
2000       X86Operand *Op1 = static_cast<X86Operand*>(Operands[2]);
2001       if (Op1->isImm() && isa<MCConstantExpr>(Op1->getImm()) &&
2002           cast<MCConstantExpr>(Op1->getImm())->getValue() == 1) {
2003         delete Operands[2];
2004         Operands.pop_back();
2005       }
2006     } else {
2007       X86Operand *Op1 = static_cast<X86Operand*>(Operands[1]);
2008       if (Op1->isImm() && isa<MCConstantExpr>(Op1->getImm()) &&
2009           cast<MCConstantExpr>(Op1->getImm())->getValue() == 1) {
2010         delete Operands[1];
2011         Operands.erase(Operands.begin() + 1);
2012       }
2013     }
2014   }
2015
2016   // Transforms "int $3" into "int3" as a size optimization.  We can't write an
2017   // instalias with an immediate operand yet.
2018   if (Name == "int" && Operands.size() == 2) {
2019     X86Operand *Op1 = static_cast<X86Operand*>(Operands[1]);
2020     if (Op1->isImm() && isa<MCConstantExpr>(Op1->getImm()) &&
2021         cast<MCConstantExpr>(Op1->getImm())->getValue() == 3) {
2022       delete Operands[1];
2023       Operands.erase(Operands.begin() + 1);
2024       static_cast<X86Operand*>(Operands[0])->setTokenValue("int3");
2025     }
2026   }
2027
2028   return false;
2029 }
2030
2031 static bool convertToSExti8(MCInst &Inst, unsigned Opcode, unsigned Reg,
2032                             bool isCmp) {
2033   MCInst TmpInst;
2034   TmpInst.setOpcode(Opcode);
2035   if (!isCmp)
2036     TmpInst.addOperand(MCOperand::CreateReg(Reg));
2037   TmpInst.addOperand(MCOperand::CreateReg(Reg));
2038   TmpInst.addOperand(Inst.getOperand(0));
2039   Inst = TmpInst;
2040   return true;
2041 }
2042
2043 static bool convert16i16to16ri8(MCInst &Inst, unsigned Opcode,
2044                                 bool isCmp = false) {
2045   if (!Inst.getOperand(0).isImm() ||
2046       !isImmSExti16i8Value(Inst.getOperand(0).getImm()))
2047     return false;
2048
2049   return convertToSExti8(Inst, Opcode, X86::AX, isCmp);
2050 }
2051
2052 static bool convert32i32to32ri8(MCInst &Inst, unsigned Opcode,
2053                                 bool isCmp = false) {
2054   if (!Inst.getOperand(0).isImm() ||
2055       !isImmSExti32i8Value(Inst.getOperand(0).getImm()))
2056     return false;
2057
2058   return convertToSExti8(Inst, Opcode, X86::EAX, isCmp);
2059 }
2060
2061 static bool convert64i32to64ri8(MCInst &Inst, unsigned Opcode,
2062                                 bool isCmp = false) {
2063   if (!Inst.getOperand(0).isImm() ||
2064       !isImmSExti64i8Value(Inst.getOperand(0).getImm()))
2065     return false;
2066
2067   return convertToSExti8(Inst, Opcode, X86::RAX, isCmp);
2068 }
2069
2070 bool X86AsmParser::
2071 processInstruction(MCInst &Inst,
2072                    const SmallVectorImpl<MCParsedAsmOperand*> &Ops) {
2073   switch (Inst.getOpcode()) {
2074   default: return false;
2075   case X86::AND16i16: return convert16i16to16ri8(Inst, X86::AND16ri8);
2076   case X86::AND32i32: return convert32i32to32ri8(Inst, X86::AND32ri8);
2077   case X86::AND64i32: return convert64i32to64ri8(Inst, X86::AND64ri8);
2078   case X86::XOR16i16: return convert16i16to16ri8(Inst, X86::XOR16ri8);
2079   case X86::XOR32i32: return convert32i32to32ri8(Inst, X86::XOR32ri8);
2080   case X86::XOR64i32: return convert64i32to64ri8(Inst, X86::XOR64ri8);
2081   case X86::OR16i16:  return convert16i16to16ri8(Inst, X86::OR16ri8);
2082   case X86::OR32i32:  return convert32i32to32ri8(Inst, X86::OR32ri8);
2083   case X86::OR64i32:  return convert64i32to64ri8(Inst, X86::OR64ri8);
2084   case X86::CMP16i16: return convert16i16to16ri8(Inst, X86::CMP16ri8, true);
2085   case X86::CMP32i32: return convert32i32to32ri8(Inst, X86::CMP32ri8, true);
2086   case X86::CMP64i32: return convert64i32to64ri8(Inst, X86::CMP64ri8, true);
2087   case X86::ADD16i16: return convert16i16to16ri8(Inst, X86::ADD16ri8);
2088   case X86::ADD32i32: return convert32i32to32ri8(Inst, X86::ADD32ri8);
2089   case X86::ADD64i32: return convert64i32to64ri8(Inst, X86::ADD64ri8);
2090   case X86::SUB16i16: return convert16i16to16ri8(Inst, X86::SUB16ri8);
2091   case X86::SUB32i32: return convert32i32to32ri8(Inst, X86::SUB32ri8);
2092   case X86::SUB64i32: return convert64i32to64ri8(Inst, X86::SUB64ri8);
2093   case X86::ADC16i16: return convert16i16to16ri8(Inst, X86::ADC16ri8);
2094   case X86::ADC32i32: return convert32i32to32ri8(Inst, X86::ADC32ri8);
2095   case X86::ADC64i32: return convert64i32to64ri8(Inst, X86::ADC64ri8);
2096   case X86::SBB16i16: return convert16i16to16ri8(Inst, X86::SBB16ri8);
2097   case X86::SBB32i32: return convert32i32to32ri8(Inst, X86::SBB32ri8);
2098   case X86::SBB64i32: return convert64i32to64ri8(Inst, X86::SBB64ri8);
2099   }
2100 }
2101
2102 static const char *getSubtargetFeatureName(unsigned Val);
2103 bool X86AsmParser::
2104 MatchAndEmitInstruction(SMLoc IDLoc, unsigned &Opcode,
2105                         SmallVectorImpl<MCParsedAsmOperand*> &Operands,
2106                         MCStreamer &Out, unsigned &ErrorInfo,
2107                         bool MatchingInlineAsm) {
2108   assert(!Operands.empty() && "Unexpect empty operand list!");
2109   X86Operand *Op = static_cast<X86Operand*>(Operands[0]);
2110   assert(Op->isToken() && "Leading operand should always be a mnemonic!");
2111   ArrayRef<SMRange> EmptyRanges = ArrayRef<SMRange>();
2112
2113   // First, handle aliases that expand to multiple instructions.
2114   // FIXME: This should be replaced with a real .td file alias mechanism.
2115   // Also, MatchInstructionImpl should actually *do* the EmitInstruction
2116   // call.
2117   if (Op->getToken() == "fstsw" || Op->getToken() == "fstcw" ||
2118       Op->getToken() == "fstsww" || Op->getToken() == "fstcww" ||
2119       Op->getToken() == "finit" || Op->getToken() == "fsave" ||
2120       Op->getToken() == "fstenv" || Op->getToken() == "fclex") {
2121     MCInst Inst;
2122     Inst.setOpcode(X86::WAIT);
2123     Inst.setLoc(IDLoc);
2124     if (!MatchingInlineAsm)
2125       Out.EmitInstruction(Inst);
2126
2127     const char *Repl =
2128       StringSwitch<const char*>(Op->getToken())
2129         .Case("finit",  "fninit")
2130         .Case("fsave",  "fnsave")
2131         .Case("fstcw",  "fnstcw")
2132         .Case("fstcww",  "fnstcw")
2133         .Case("fstenv", "fnstenv")
2134         .Case("fstsw",  "fnstsw")
2135         .Case("fstsww", "fnstsw")
2136         .Case("fclex",  "fnclex")
2137         .Default(0);
2138     assert(Repl && "Unknown wait-prefixed instruction");
2139     delete Operands[0];
2140     Operands[0] = X86Operand::CreateToken(Repl, IDLoc);
2141   }
2142
2143   bool WasOriginallyInvalidOperand = false;
2144   MCInst Inst;
2145
2146   // First, try a direct match.
2147   switch (MatchInstructionImpl(Operands, Inst,
2148                                ErrorInfo, MatchingInlineAsm,
2149                                isParsingIntelSyntax())) {
2150   default: break;
2151   case Match_Success:
2152     // Some instructions need post-processing to, for example, tweak which
2153     // encoding is selected. Loop on it while changes happen so the
2154     // individual transformations can chain off each other.
2155     if (!MatchingInlineAsm)
2156       while (processInstruction(Inst, Operands))
2157         ;
2158
2159     Inst.setLoc(IDLoc);
2160     if (!MatchingInlineAsm)
2161       Out.EmitInstruction(Inst);
2162     Opcode = Inst.getOpcode();
2163     return false;
2164   case Match_MissingFeature: {
2165     assert(ErrorInfo && "Unknown missing feature!");
2166     // Special case the error message for the very common case where only
2167     // a single subtarget feature is missing.
2168     std::string Msg = "instruction requires:";
2169     unsigned Mask = 1;
2170     for (unsigned i = 0; i < (sizeof(ErrorInfo)*8-1); ++i) {
2171       if (ErrorInfo & Mask) {
2172         Msg += " ";
2173         Msg += getSubtargetFeatureName(ErrorInfo & Mask);
2174       }
2175       Mask <<= 1;
2176     }
2177     return Error(IDLoc, Msg, EmptyRanges, MatchingInlineAsm);
2178   }
2179   case Match_InvalidOperand:
2180     WasOriginallyInvalidOperand = true;
2181     break;
2182   case Match_MnemonicFail:
2183     break;
2184   }
2185
2186   // FIXME: Ideally, we would only attempt suffix matches for things which are
2187   // valid prefixes, and we could just infer the right unambiguous
2188   // type. However, that requires substantially more matcher support than the
2189   // following hack.
2190
2191   // Change the operand to point to a temporary token.
2192   StringRef Base = Op->getToken();
2193   SmallString<16> Tmp;
2194   Tmp += Base;
2195   Tmp += ' ';
2196   Op->setTokenValue(Tmp.str());
2197
2198   // If this instruction starts with an 'f', then it is a floating point stack
2199   // instruction.  These come in up to three forms for 32-bit, 64-bit, and
2200   // 80-bit floating point, which use the suffixes s,l,t respectively.
2201   //
2202   // Otherwise, we assume that this may be an integer instruction, which comes
2203   // in 8/16/32/64-bit forms using the b,w,l,q suffixes respectively.
2204   const char *Suffixes = Base[0] != 'f' ? "bwlq" : "slt\0";
2205
2206   // Check for the various suffix matches.
2207   Tmp[Base.size()] = Suffixes[0];
2208   unsigned ErrorInfoIgnore;
2209   unsigned ErrorInfoMissingFeature = 0; // Init suppresses compiler warnings.
2210   unsigned Match1, Match2, Match3, Match4;
2211
2212   Match1 = MatchInstructionImpl(Operands, Inst, ErrorInfoIgnore,
2213                                 isParsingIntelSyntax());
2214   // If this returned as a missing feature failure, remember that.
2215   if (Match1 == Match_MissingFeature)
2216     ErrorInfoMissingFeature = ErrorInfoIgnore;
2217   Tmp[Base.size()] = Suffixes[1];
2218   Match2 = MatchInstructionImpl(Operands, Inst, ErrorInfoIgnore,
2219                                 isParsingIntelSyntax());
2220   // If this returned as a missing feature failure, remember that.
2221   if (Match2 == Match_MissingFeature)
2222     ErrorInfoMissingFeature = ErrorInfoIgnore;
2223   Tmp[Base.size()] = Suffixes[2];
2224   Match3 = MatchInstructionImpl(Operands, Inst, ErrorInfoIgnore,
2225                                 isParsingIntelSyntax());
2226   // If this returned as a missing feature failure, remember that.
2227   if (Match3 == Match_MissingFeature)
2228     ErrorInfoMissingFeature = ErrorInfoIgnore;
2229   Tmp[Base.size()] = Suffixes[3];
2230   Match4 = MatchInstructionImpl(Operands, Inst, ErrorInfoIgnore,
2231                                 isParsingIntelSyntax());
2232   // If this returned as a missing feature failure, remember that.
2233   if (Match4 == Match_MissingFeature)
2234     ErrorInfoMissingFeature = ErrorInfoIgnore;
2235
2236   // Restore the old token.
2237   Op->setTokenValue(Base);
2238
2239   // If exactly one matched, then we treat that as a successful match (and the
2240   // instruction will already have been filled in correctly, since the failing
2241   // matches won't have modified it).
2242   unsigned NumSuccessfulMatches =
2243     (Match1 == Match_Success) + (Match2 == Match_Success) +
2244     (Match3 == Match_Success) + (Match4 == Match_Success);
2245   if (NumSuccessfulMatches == 1) {
2246     Inst.setLoc(IDLoc);
2247     if (!MatchingInlineAsm)
2248       Out.EmitInstruction(Inst);
2249     Opcode = Inst.getOpcode();
2250     return false;
2251   }
2252
2253   // Otherwise, the match failed, try to produce a decent error message.
2254
2255   // If we had multiple suffix matches, then identify this as an ambiguous
2256   // match.
2257   if (NumSuccessfulMatches > 1) {
2258     char MatchChars[4];
2259     unsigned NumMatches = 0;
2260     if (Match1 == Match_Success) MatchChars[NumMatches++] = Suffixes[0];
2261     if (Match2 == Match_Success) MatchChars[NumMatches++] = Suffixes[1];
2262     if (Match3 == Match_Success) MatchChars[NumMatches++] = Suffixes[2];
2263     if (Match4 == Match_Success) MatchChars[NumMatches++] = Suffixes[3];
2264
2265     SmallString<126> Msg;
2266     raw_svector_ostream OS(Msg);
2267     OS << "ambiguous instructions require an explicit suffix (could be ";
2268     for (unsigned i = 0; i != NumMatches; ++i) {
2269       if (i != 0)
2270         OS << ", ";
2271       if (i + 1 == NumMatches)
2272         OS << "or ";
2273       OS << "'" << Base << MatchChars[i] << "'";
2274     }
2275     OS << ")";
2276     Error(IDLoc, OS.str(), EmptyRanges, MatchingInlineAsm);
2277     return true;
2278   }
2279
2280   // Okay, we know that none of the variants matched successfully.
2281
2282   // If all of the instructions reported an invalid mnemonic, then the original
2283   // mnemonic was invalid.
2284   if ((Match1 == Match_MnemonicFail) && (Match2 == Match_MnemonicFail) &&
2285       (Match3 == Match_MnemonicFail) && (Match4 == Match_MnemonicFail)) {
2286     if (!WasOriginallyInvalidOperand) {
2287       ArrayRef<SMRange> Ranges = MatchingInlineAsm ? EmptyRanges :
2288         Op->getLocRange();
2289       return Error(IDLoc, "invalid instruction mnemonic '" + Base + "'",
2290                    Ranges, MatchingInlineAsm);
2291     }
2292
2293     // Recover location info for the operand if we know which was the problem.
2294     if (ErrorInfo != ~0U) {
2295       if (ErrorInfo >= Operands.size())
2296         return Error(IDLoc, "too few operands for instruction",
2297                      EmptyRanges, MatchingInlineAsm);
2298
2299       X86Operand *Operand = (X86Operand*)Operands[ErrorInfo];
2300       if (Operand->getStartLoc().isValid()) {
2301         SMRange OperandRange = Operand->getLocRange();
2302         return Error(Operand->getStartLoc(), "invalid operand for instruction",
2303                      OperandRange, MatchingInlineAsm);
2304       }
2305     }
2306
2307     return Error(IDLoc, "invalid operand for instruction", EmptyRanges,
2308                  MatchingInlineAsm);
2309   }
2310
2311   // If one instruction matched with a missing feature, report this as a
2312   // missing feature.
2313   if ((Match1 == Match_MissingFeature) + (Match2 == Match_MissingFeature) +
2314       (Match3 == Match_MissingFeature) + (Match4 == Match_MissingFeature) == 1){
2315     std::string Msg = "instruction requires:";
2316     unsigned Mask = 1;
2317     for (unsigned i = 0; i < (sizeof(ErrorInfoMissingFeature)*8-1); ++i) {
2318       if (ErrorInfoMissingFeature & Mask) {
2319         Msg += " ";
2320         Msg += getSubtargetFeatureName(ErrorInfoMissingFeature & Mask);
2321       }
2322       Mask <<= 1;
2323     }
2324     return Error(IDLoc, Msg, EmptyRanges, MatchingInlineAsm);
2325   }
2326
2327   // If one instruction matched with an invalid operand, report this as an
2328   // operand failure.
2329   if ((Match1 == Match_InvalidOperand) + (Match2 == Match_InvalidOperand) +
2330       (Match3 == Match_InvalidOperand) + (Match4 == Match_InvalidOperand) == 1){
2331     Error(IDLoc, "invalid operand for instruction", EmptyRanges,
2332           MatchingInlineAsm);
2333     return true;
2334   }
2335
2336   // If all of these were an outright failure, report it in a useless way.
2337   Error(IDLoc, "unknown use of instruction mnemonic without a size suffix",
2338         EmptyRanges, MatchingInlineAsm);
2339   return true;
2340 }
2341
2342
2343 bool X86AsmParser::ParseDirective(AsmToken DirectiveID) {
2344   StringRef IDVal = DirectiveID.getIdentifier();
2345   if (IDVal == ".word")
2346     return ParseDirectiveWord(2, DirectiveID.getLoc());
2347   else if (IDVal.startswith(".code"))
2348     return ParseDirectiveCode(IDVal, DirectiveID.getLoc());
2349   else if (IDVal.startswith(".att_syntax")) {
2350     getParser().setAssemblerDialect(0);
2351     return false;
2352   } else if (IDVal.startswith(".intel_syntax")) {
2353     getParser().setAssemblerDialect(1);
2354     if (getLexer().isNot(AsmToken::EndOfStatement)) {
2355       if(Parser.getTok().getString() == "noprefix") {
2356         // FIXME : Handle noprefix
2357         Parser.Lex();
2358       } else
2359         return true;
2360     }
2361     return false;
2362   }
2363   return true;
2364 }
2365
2366 /// ParseDirectiveWord
2367 ///  ::= .word [ expression (, expression)* ]
2368 bool X86AsmParser::ParseDirectiveWord(unsigned Size, SMLoc L) {
2369   if (getLexer().isNot(AsmToken::EndOfStatement)) {
2370     for (;;) {
2371       const MCExpr *Value;
2372       if (getParser().parseExpression(Value))
2373         return true;
2374
2375       getParser().getStreamer().EmitValue(Value, Size);
2376
2377       if (getLexer().is(AsmToken::EndOfStatement))
2378         break;
2379
2380       // FIXME: Improve diagnostic.
2381       if (getLexer().isNot(AsmToken::Comma))
2382         return Error(L, "unexpected token in directive");
2383       Parser.Lex();
2384     }
2385   }
2386
2387   Parser.Lex();
2388   return false;
2389 }
2390
2391 /// ParseDirectiveCode
2392 ///  ::= .code32 | .code64
2393 bool X86AsmParser::ParseDirectiveCode(StringRef IDVal, SMLoc L) {
2394   if (IDVal == ".code32") {
2395     Parser.Lex();
2396     if (is64BitMode()) {
2397       SwitchMode();
2398       getParser().getStreamer().EmitAssemblerFlag(MCAF_Code32);
2399     }
2400   } else if (IDVal == ".code64") {
2401     Parser.Lex();
2402     if (!is64BitMode()) {
2403       SwitchMode();
2404       getParser().getStreamer().EmitAssemblerFlag(MCAF_Code64);
2405     }
2406   } else {
2407     return Error(L, "unexpected directive " + IDVal);
2408   }
2409
2410   return false;
2411 }
2412
2413 // Force static initialization.
2414 extern "C" void LLVMInitializeX86AsmParser() {
2415   RegisterMCAsmParser<X86AsmParser> X(TheX86_32Target);
2416   RegisterMCAsmParser<X86AsmParser> Y(TheX86_64Target);
2417 }
2418
2419 #define GET_REGISTER_MATCHER
2420 #define GET_MATCHER_IMPLEMENTATION
2421 #define GET_SUBTARGET_FEATURE_NAME
2422 #include "X86GenAsmMatcher.inc"