lib/Target/ARM/AsmParser/ARMAsmParser.cpp

   1 //===-- ARMAsmParser.cpp - Parse ARM assembly to MCInst instructions ------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9
  10 #include "MCTargetDesc/ARMBaseInfo.h"
  11 #include "MCTargetDesc/ARMAddressingModes.h"
  12 #include "MCTargetDesc/ARMMCExpr.h"
  13 #include "llvm/MC/MCParser/MCAsmLexer.h"
  14 #include "llvm/MC/MCParser/MCAsmParser.h"
  15 #include "llvm/MC/MCParser/MCParsedAsmOperand.h"
  16 #include "llvm/MC/MCAsmInfo.h"
  17 #include "llvm/MC/MCContext.h"
  18 #include "llvm/MC/MCStreamer.h"
  19 #include "llvm/MC/MCExpr.h"
  20 #include "llvm/MC/MCInst.h"
  21 #include "llvm/MC/MCInstrDesc.h"
  22 #include "llvm/MC/MCRegisterInfo.h"
  23 #include "llvm/MC/MCSubtargetInfo.h"
  24 #include "llvm/MC/MCTargetAsmParser.h"
  25 #include "llvm/Support/MathExtras.h"
  26 #include "llvm/Support/SourceMgr.h"
  27 #include "llvm/Support/TargetRegistry.h"
  28 #include "llvm/Support/raw_ostream.h"
  29 #include "llvm/ADT/BitVector.h"
  30 #include "llvm/ADT/OwningPtr.h"
  31 #include "llvm/ADT/STLExtras.h"
  32 #include "llvm/ADT/SmallVector.h"
  33 #include "llvm/ADT/StringSwitch.h"
  34 #include "llvm/ADT/Twine.h"
  35
  36 using namespace llvm;
  37
  38 namespace {
  39
  40 class ARMOperand;
  41
  42 class ARMAsmParser : public MCTargetAsmParser {
  43   MCSubtargetInfo &STI;
  44   MCAsmParser &Parser;
  45
  46   struct {
  47     ARMCC::CondCodes Cond;    // Condition for IT block.
  48     unsigned Mask:4;          // Condition mask for instructions.
  49                               // Starting at first 1 (from lsb).
  50                               //   '1'  condition as indicated in IT.
  51                               //   '0'  inverse of condition (else).
  52                               // Count of instructions in IT block is
  53                               // 4 - trailingzeroes(mask)
  54
  55     bool FirstCond;           // Explicit flag for when we're parsing the
  56                               // First instruction in the IT block. It's
  57                               // implied in the mask, so needs special
  58                               // handling.
  59
  60     unsigned CurPosition;     // Current position in parsing of IT
  61                               // block. In range [0,3]. Initialized
  62                               // according to count of instructions in block.
  63                               // ~0U if no active IT block.
  64   } ITState;
  65   bool inITBlock() { return ITState.CurPosition != ~0U;}
  66   void forwardITPosition() {
  67     if (!inITBlock()) return;
  68     // Move to the next instruction in the IT block, if there is one. If not,
  69     // mark the block as done.
  70     unsigned TZ = CountTrailingZeros_32(ITState.Mask);
  71     if (++ITState.CurPosition == 5 - TZ)
  72       ITState.CurPosition = ~0U; // Done with the IT block after this.
  73   }
  74
  75
  76   MCAsmParser &getParser() const { return Parser; }
  77   MCAsmLexer &getLexer() const { return Parser.getLexer(); }
  78
  79   void Warning(SMLoc L, const Twine &Msg) { Parser.Warning(L, Msg); }
  80   bool Error(SMLoc L, const Twine &Msg) { return Parser.Error(L, Msg); }
  81
  82   int tryParseRegister();
  83   bool tryParseRegisterWithWriteBack(SmallVectorImpl<MCParsedAsmOperand*> &);
  84   int tryParseShiftRegister(SmallVectorImpl<MCParsedAsmOperand*> &);
  85   bool parseRegisterList(SmallVectorImpl<MCParsedAsmOperand*> &);
  86   bool parseMemory(SmallVectorImpl<MCParsedAsmOperand*> &);
  87   bool parseOperand(SmallVectorImpl<MCParsedAsmOperand*> &, StringRef Mnemonic);
  88   bool parsePrefix(ARMMCExpr::VariantKind &RefKind);
  89   bool parseMemRegOffsetShift(ARM_AM::ShiftOpc &ShiftType,
  90                               unsigned &ShiftAmount);
  91   bool parseDirectiveWord(unsigned Size, SMLoc L);
  92   bool parseDirectiveThumb(SMLoc L);
  93   bool parseDirectiveThumbFunc(SMLoc L);
  94   bool parseDirectiveCode(SMLoc L);
  95   bool parseDirectiveSyntax(SMLoc L);
  96
  97   StringRef splitMnemonic(StringRef Mnemonic, unsigned &PredicationCode,
  98                           bool &CarrySetting, unsigned &ProcessorIMod,
  99                           StringRef &ITMask);
 100   void getMnemonicAcceptInfo(StringRef Mnemonic, bool &CanAcceptCarrySet,
 101                              bool &CanAcceptPredicationCode);
 102
 103   bool isThumb() const {
 104     // FIXME: Can tablegen auto-generate this?
 105     return (STI.getFeatureBits() & ARM::ModeThumb) != 0;
 106   }
 107   bool isThumbOne() const {
 108     return isThumb() && (STI.getFeatureBits() & ARM::FeatureThumb2) == 0;
 109   }
 110   bool isThumbTwo() const {
 111     return isThumb() && (STI.getFeatureBits() & ARM::FeatureThumb2);
 112   }
 113   bool hasV6Ops() const {
 114     return STI.getFeatureBits() & ARM::HasV6Ops;
 115   }
 116   bool hasV7Ops() const {
 117     return STI.getFeatureBits() & ARM::HasV7Ops;
 118   }
 119   void SwitchMode() {
 120     unsigned FB = ComputeAvailableFeatures(STI.ToggleFeature(ARM::ModeThumb));
 121     setAvailableFeatures(FB);
 122   }
 123   bool isMClass() const {
 124     return STI.getFeatureBits() & ARM::FeatureMClass;
 125   }
 126
 127   /// @name Auto-generated Match Functions
 128   /// {
 129
 130 #define GET_ASSEMBLER_HEADER
 131 #include "ARMGenAsmMatcher.inc"
 132
 133   /// }
 134
 135   OperandMatchResultTy parseITCondCode(SmallVectorImpl<MCParsedAsmOperand*>&);
 136   OperandMatchResultTy parseCoprocNumOperand(
 137     SmallVectorImpl<MCParsedAsmOperand*>&);
 138   OperandMatchResultTy parseCoprocRegOperand(
 139     SmallVectorImpl<MCParsedAsmOperand*>&);
 140   OperandMatchResultTy parseCoprocOptionOperand(
 141     SmallVectorImpl<MCParsedAsmOperand*>&);
 142   OperandMatchResultTy parseMemBarrierOptOperand(
 143     SmallVectorImpl<MCParsedAsmOperand*>&);
 144   OperandMatchResultTy parseProcIFlagsOperand(
 145     SmallVectorImpl<MCParsedAsmOperand*>&);
 146   OperandMatchResultTy parseMSRMaskOperand(
 147     SmallVectorImpl<MCParsedAsmOperand*>&);
 148   OperandMatchResultTy parsePKHImm(SmallVectorImpl<MCParsedAsmOperand*> &O,
 149                                    StringRef Op, int Low, int High);
 150   OperandMatchResultTy parsePKHLSLImm(SmallVectorImpl<MCParsedAsmOperand*> &O) {
 151     return parsePKHImm(O, "lsl", 0, 31);
 152   }
 153   OperandMatchResultTy parsePKHASRImm(SmallVectorImpl<MCParsedAsmOperand*> &O) {
 154     return parsePKHImm(O, "asr", 1, 32);
 155   }
 156   OperandMatchResultTy parseSetEndImm(SmallVectorImpl<MCParsedAsmOperand*>&);
 157   OperandMatchResultTy parseShifterImm(SmallVectorImpl<MCParsedAsmOperand*>&);
 158   OperandMatchResultTy parseRotImm(SmallVectorImpl<MCParsedAsmOperand*>&);
 159   OperandMatchResultTy parseBitfield(SmallVectorImpl<MCParsedAsmOperand*>&);
 160   OperandMatchResultTy parsePostIdxReg(SmallVectorImpl<MCParsedAsmOperand*>&);
 161   OperandMatchResultTy parseAM3Offset(SmallVectorImpl<MCParsedAsmOperand*>&);
 162   OperandMatchResultTy parseFPImm(SmallVectorImpl<MCParsedAsmOperand*>&);
 163   OperandMatchResultTy parseVectorList(SmallVectorImpl<MCParsedAsmOperand*>&);
 164
 165   // Asm Match Converter Methods
 166   bool cvtT2LdrdPre(MCInst &Inst, unsigned Opcode,
 167                     const SmallVectorImpl<MCParsedAsmOperand*> &);
 168   bool cvtT2StrdPre(MCInst &Inst, unsigned Opcode,
 169                     const SmallVectorImpl<MCParsedAsmOperand*> &);
 170   bool cvtLdWriteBackRegT2AddrModeImm8(MCInst &Inst, unsigned Opcode,
 171                                   const SmallVectorImpl<MCParsedAsmOperand*> &);
 172   bool cvtStWriteBackRegT2AddrModeImm8(MCInst &Inst, unsigned Opcode,
 173                                   const SmallVectorImpl<MCParsedAsmOperand*> &);
 174   bool cvtLdWriteBackRegAddrMode2(MCInst &Inst, unsigned Opcode,
 175                                   const SmallVectorImpl<MCParsedAsmOperand*> &);
 176   bool cvtLdWriteBackRegAddrModeImm12(MCInst &Inst, unsigned Opcode,
 177                                   const SmallVectorImpl<MCParsedAsmOperand*> &);
 178   bool cvtStWriteBackRegAddrModeImm12(MCInst &Inst, unsigned Opcode,
 179                                   const SmallVectorImpl<MCParsedAsmOperand*> &);
 180   bool cvtStWriteBackRegAddrMode2(MCInst &Inst, unsigned Opcode,
 181                                   const SmallVectorImpl<MCParsedAsmOperand*> &);
 182   bool cvtStWriteBackRegAddrMode3(MCInst &Inst, unsigned Opcode,
 183                                   const SmallVectorImpl<MCParsedAsmOperand*> &);
 184   bool cvtLdExtTWriteBackImm(MCInst &Inst, unsigned Opcode,
 185                              const SmallVectorImpl<MCParsedAsmOperand*> &);
 186   bool cvtLdExtTWriteBackReg(MCInst &Inst, unsigned Opcode,
 187                              const SmallVectorImpl<MCParsedAsmOperand*> &);
 188   bool cvtStExtTWriteBackImm(MCInst &Inst, unsigned Opcode,
 189                              const SmallVectorImpl<MCParsedAsmOperand*> &);
 190   bool cvtStExtTWriteBackReg(MCInst &Inst, unsigned Opcode,
 191                              const SmallVectorImpl<MCParsedAsmOperand*> &);
 192   bool cvtLdrdPre(MCInst &Inst, unsigned Opcode,
 193                   const SmallVectorImpl<MCParsedAsmOperand*> &);
 194   bool cvtStrdPre(MCInst &Inst, unsigned Opcode,
 195                   const SmallVectorImpl<MCParsedAsmOperand*> &);
 196   bool cvtLdWriteBackRegAddrMode3(MCInst &Inst, unsigned Opcode,
 197                                   const SmallVectorImpl<MCParsedAsmOperand*> &);
 198   bool cvtThumbMultiply(MCInst &Inst, unsigned Opcode,
 199                         const SmallVectorImpl<MCParsedAsmOperand*> &);
 200   bool cvtVLDwbFixed(MCInst &Inst, unsigned Opcode,
 201                      const SmallVectorImpl<MCParsedAsmOperand*> &);
 202   bool cvtVLDwbRegister(MCInst &Inst, unsigned Opcode,
 203                         const SmallVectorImpl<MCParsedAsmOperand*> &);
 204   bool cvtVSTwbFixed(MCInst &Inst, unsigned Opcode,
 205                      const SmallVectorImpl<MCParsedAsmOperand*> &);
 206   bool cvtVSTwbRegister(MCInst &Inst, unsigned Opcode,
 207                         const SmallVectorImpl<MCParsedAsmOperand*> &);
 208
 209   bool validateInstruction(MCInst &Inst,
 210                            const SmallVectorImpl<MCParsedAsmOperand*> &Ops);
 211   bool processInstruction(MCInst &Inst,
 212                           const SmallVectorImpl<MCParsedAsmOperand*> &Ops);
 213   bool shouldOmitCCOutOperand(StringRef Mnemonic,
 214                               SmallVectorImpl<MCParsedAsmOperand*> &Operands);
 215
 216 public:
 217   enum ARMMatchResultTy {
 218     Match_RequiresITBlock = FIRST_TARGET_MATCH_RESULT_TY,
 219     Match_RequiresNotITBlock,
 220     Match_RequiresV6,
 221     Match_RequiresThumb2
 222   };
 223
 224   ARMAsmParser(MCSubtargetInfo &_STI, MCAsmParser &_Parser)
 225     : MCTargetAsmParser(), STI(_STI), Parser(_Parser) {
 226     MCAsmParserExtension::Initialize(_Parser);
 227
 228     // Initialize the set of available features.
 229     setAvailableFeatures(ComputeAvailableFeatures(STI.getFeatureBits()));
 230
 231     // Not in an ITBlock to start with.
 232     ITState.CurPosition = ~0U;
 233   }
 234
 235   // Implementation of the MCTargetAsmParser interface:
 236   bool ParseRegister(unsigned &RegNo, SMLoc &StartLoc, SMLoc &EndLoc);
 237   bool ParseInstruction(StringRef Name, SMLoc NameLoc,
 238                         SmallVectorImpl<MCParsedAsmOperand*> &Operands);
 239   bool ParseDirective(AsmToken DirectiveID);
 240
 241   unsigned checkTargetMatchPredicate(MCInst &Inst);
 242
 243   bool MatchAndEmitInstruction(SMLoc IDLoc,
 244                                SmallVectorImpl<MCParsedAsmOperand*> &Operands,
 245                                MCStreamer &Out);
 246 };
 247 } // end anonymous namespace
 248
 249 namespace {
 250
 251 /// ARMOperand - Instances of this class represent a parsed ARM machine
 252 /// instruction.
 253 class ARMOperand : public MCParsedAsmOperand {
 254   enum KindTy {
 255     k_CondCode,
 256     k_CCOut,
 257     k_ITCondMask,
 258     k_CoprocNum,
 259     k_CoprocReg,
 260     k_CoprocOption,
 261     k_Immediate,
 262     k_FPImmediate,
 263     k_MemBarrierOpt,
 264     k_Memory,
 265     k_PostIndexRegister,
 266     k_MSRMask,
 267     k_ProcIFlags,
 268     k_VectorIndex,
 269     k_Register,
 270     k_RegisterList,
 271     k_DPRRegisterList,
 272     k_SPRRegisterList,
 273     k_VectorList,
 274     k_ShiftedRegister,
 275     k_ShiftedImmediate,
 276     k_ShifterImmediate,
 277     k_RotateImmediate,
 278     k_BitfieldDescriptor,
 279     k_Token
 280   } Kind;
 281
 282   SMLoc StartLoc, EndLoc;
 283   SmallVector<unsigned, 8> Registers;
 284
 285   union {
 286     struct {
 287       ARMCC::CondCodes Val;
 288     } CC;
 289
 290     struct {
 291       unsigned Val;
 292     } Cop;
 293
 294     struct {
 295       unsigned Val;
 296     } CoprocOption;
 297
 298     struct {
 299       unsigned Mask:4;
 300     } ITMask;
 301
 302     struct {
 303       ARM_MB::MemBOpt Val;
 304     } MBOpt;
 305
 306     struct {
 307       ARM_PROC::IFlags Val;
 308     } IFlags;
 309
 310     struct {
 311       unsigned Val;
 312     } MMask;
 313
 314     struct {
 315       const char *Data;
 316       unsigned Length;
 317     } Tok;
 318
 319     struct {
 320       unsigned RegNum;
 321     } Reg;
 322
 323     // A vector register list is a sequential list of 1 to 4 registers.
 324     struct {
 325       unsigned RegNum;
 326       unsigned Count;
 327     } VectorList;
 328
 329     struct {
 330       unsigned Val;
 331     } VectorIndex;
 332
 333     struct {
 334       const MCExpr *Val;
 335     } Imm;
 336
 337     struct {
 338       unsigned Val;       // encoded 8-bit representation
 339     } FPImm;
 340
 341     /// Combined record for all forms of ARM address expressions.
 342     struct {
 343       unsigned BaseRegNum;
 344       // Offset is in OffsetReg or OffsetImm. If both are zero, no offset
 345       // was specified.
 346       const MCConstantExpr *OffsetImm;  // Offset immediate value
 347       unsigned OffsetRegNum;    // Offset register num, when OffsetImm == NULL
 348       ARM_AM::ShiftOpc ShiftType; // Shift type for OffsetReg
 349       unsigned ShiftImm;        // shift for OffsetReg.
 350       unsigned Alignment;       // 0 = no alignment specified
 351                                 // n = alignment in bytes (8, 16, or 32)
 352       unsigned isNegative : 1;  // Negated OffsetReg? (~'U' bit)
 353     } Memory;
 354
 355     struct {
 356       unsigned RegNum;
 357       bool isAdd;
 358       ARM_AM::ShiftOpc ShiftTy;
 359       unsigned ShiftImm;
 360     } PostIdxReg;
 361
 362     struct {
 363       bool isASR;
 364       unsigned Imm;
 365     } ShifterImm;
 366     struct {
 367       ARM_AM::ShiftOpc ShiftTy;
 368       unsigned SrcReg;
 369       unsigned ShiftReg;
 370       unsigned ShiftImm;
 371     } RegShiftedReg;
 372     struct {
 373       ARM_AM::ShiftOpc ShiftTy;
 374       unsigned SrcReg;
 375       unsigned ShiftImm;
 376     } RegShiftedImm;
 377     struct {
 378       unsigned Imm;
 379     } RotImm;
 380     struct {
 381       unsigned LSB;
 382       unsigned Width;
 383     } Bitfield;
 384   };
 385
 386   ARMOperand(KindTy K) : MCParsedAsmOperand(), Kind(K) {}
 387 public:
 388   ARMOperand(const ARMOperand &o) : MCParsedAsmOperand() {
 389     Kind = o.Kind;
 390     StartLoc = o.StartLoc;
 391     EndLoc = o.EndLoc;
 392     switch (Kind) {
 393     case k_CondCode:
 394       CC = o.CC;
 395       break;
 396     case k_ITCondMask:
 397       ITMask = o.ITMask;
 398       break;
 399     case k_Token:
 400       Tok = o.Tok;
 401       break;
 402     case k_CCOut:
 403     case k_Register:
 404       Reg = o.Reg;
 405       break;
 406     case k_RegisterList:
 407     case k_DPRRegisterList:
 408     case k_SPRRegisterList:
 409       Registers = o.Registers;
 410       break;
 411     case k_VectorList:
 412       VectorList = o.VectorList;
 413       break;
 414     case k_CoprocNum:
 415     case k_CoprocReg:
 416       Cop = o.Cop;
 417       break;
 418     case k_CoprocOption:
 419       CoprocOption = o.CoprocOption;
 420       break;
 421     case k_Immediate:
 422       Imm = o.Imm;
 423       break;
 424     case k_FPImmediate:
 425       FPImm = o.FPImm;
 426       break;
 427     case k_MemBarrierOpt:
 428       MBOpt = o.MBOpt;
 429       break;
 430     case k_Memory:
 431       Memory = o.Memory;
 432       break;
 433     case k_PostIndexRegister:
 434       PostIdxReg = o.PostIdxReg;
 435       break;
 436     case k_MSRMask:
 437       MMask = o.MMask;
 438       break;
 439     case k_ProcIFlags:
 440       IFlags = o.IFlags;
 441       break;
 442     case k_ShifterImmediate:
 443       ShifterImm = o.ShifterImm;
 444       break;
 445     case k_ShiftedRegister:
 446       RegShiftedReg = o.RegShiftedReg;
 447       break;
 448     case k_ShiftedImmediate:
 449       RegShiftedImm = o.RegShiftedImm;
 450       break;
 451     case k_RotateImmediate:
 452       RotImm = o.RotImm;
 453       break;
 454     case k_BitfieldDescriptor:
 455       Bitfield = o.Bitfield;
 456       break;
 457     case k_VectorIndex:
 458       VectorIndex = o.VectorIndex;
 459       break;
 460     }
 461   }
 462
 463   /// getStartLoc - Get the location of the first token of this operand.
 464   SMLoc getStartLoc() const { return StartLoc; }
 465   /// getEndLoc - Get the location of the last token of this operand.
 466   SMLoc getEndLoc() const { return EndLoc; }
 467
 468   ARMCC::CondCodes getCondCode() const {
 469     assert(Kind == k_CondCode && "Invalid access!");
 470     return CC.Val;
 471   }
 472
 473   unsigned getCoproc() const {
 474     assert((Kind == k_CoprocNum || Kind == k_CoprocReg) && "Invalid access!");
 475     return Cop.Val;
 476   }
 477
 478   StringRef getToken() const {
 479     assert(Kind == k_Token && "Invalid access!");
 480     return StringRef(Tok.Data, Tok.Length);
 481   }
 482
 483   unsigned getReg() const {
 484     assert((Kind == k_Register || Kind == k_CCOut) && "Invalid access!");
 485     return Reg.RegNum;
 486   }
 487
 488   const SmallVectorImpl<unsigned> &getRegList() const {
 489     assert((Kind == k_RegisterList || Kind == k_DPRRegisterList ||
 490             Kind == k_SPRRegisterList) && "Invalid access!");
 491     return Registers;
 492   }
 493
 494   const MCExpr *getImm() const {
 495     assert(Kind == k_Immediate && "Invalid access!");
 496     return Imm.Val;
 497   }
 498
 499   unsigned getFPImm() const {
 500     assert(Kind == k_FPImmediate && "Invalid access!");
 501     return FPImm.Val;
 502   }
 503
 504   unsigned getVectorIndex() const {
 505     assert(Kind == k_VectorIndex && "Invalid access!");
 506     return VectorIndex.Val;
 507   }
 508
 509   ARM_MB::MemBOpt getMemBarrierOpt() const {
 510     assert(Kind == k_MemBarrierOpt && "Invalid access!");
 511     return MBOpt.Val;
 512   }
 513
 514   ARM_PROC::IFlags getProcIFlags() const {
 515     assert(Kind == k_ProcIFlags && "Invalid access!");
 516     return IFlags.Val;
 517   }
 518
 519   unsigned getMSRMask() const {
 520     assert(Kind == k_MSRMask && "Invalid access!");
 521     return MMask.Val;
 522   }
 523
 524   bool isCoprocNum() const { return Kind == k_CoprocNum; }
 525   bool isCoprocReg() const { return Kind == k_CoprocReg; }
 526   bool isCoprocOption() const { return Kind == k_CoprocOption; }
 527   bool isCondCode() const { return Kind == k_CondCode; }
 528   bool isCCOut() const { return Kind == k_CCOut; }
 529   bool isITMask() const { return Kind == k_ITCondMask; }
 530   bool isITCondCode() const { return Kind == k_CondCode; }
 531   bool isImm() const { return Kind == k_Immediate; }
 532   bool isFPImm() const { return Kind == k_FPImmediate; }
 533   bool isImm8s4() const {
 534     if (Kind != k_Immediate)
 535       return false;
 536     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 537     if (!CE) return false;
 538     int64_t Value = CE->getValue();
 539     return ((Value & 3) == 0) && Value >= -1020 && Value <= 1020;
 540   }
 541   bool isImm0_1020s4() const {
 542     if (Kind != k_Immediate)
 543       return false;
 544     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 545     if (!CE) return false;
 546     int64_t Value = CE->getValue();
 547     return ((Value & 3) == 0) && Value >= 0 && Value <= 1020;
 548   }
 549   bool isImm0_508s4() const {
 550     if (Kind != k_Immediate)
 551       return false;
 552     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 553     if (!CE) return false;
 554     int64_t Value = CE->getValue();
 555     return ((Value & 3) == 0) && Value >= 0 && Value <= 508;
 556   }
 557   bool isImm0_255() const {
 558     if (Kind != k_Immediate)
 559       return false;
 560     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 561     if (!CE) return false;
 562     int64_t Value = CE->getValue();
 563     return Value >= 0 && Value < 256;
 564   }
 565   bool isImm0_7() const {
 566     if (Kind != k_Immediate)
 567       return false;
 568     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 569     if (!CE) return false;
 570     int64_t Value = CE->getValue();
 571     return Value >= 0 && Value < 8;
 572   }
 573   bool isImm0_15() const {
 574     if (Kind != k_Immediate)
 575       return false;
 576     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 577     if (!CE) return false;
 578     int64_t Value = CE->getValue();
 579     return Value >= 0 && Value < 16;
 580   }
 581   bool isImm0_31() const {
 582     if (Kind != k_Immediate)
 583       return false;
 584     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 585     if (!CE) return false;
 586     int64_t Value = CE->getValue();
 587     return Value >= 0 && Value < 32;
 588   }
 589   bool isImm1_16() const {
 590     if (Kind != k_Immediate)
 591       return false;
 592     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 593     if (!CE) return false;
 594     int64_t Value = CE->getValue();
 595     return Value > 0 && Value < 17;
 596   }
 597   bool isImm1_32() const {
 598     if (Kind != k_Immediate)
 599       return false;
 600     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 601     if (!CE) return false;
 602     int64_t Value = CE->getValue();
 603     return Value > 0 && Value < 33;
 604   }
 605   bool isImm0_32() const {
 606     if (Kind != k_Immediate)
 607       return false;
 608     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 609     if (!CE) return false;
 610     int64_t Value = CE->getValue();
 611     return Value >= 0 && Value < 33;
 612   }
 613   bool isImm0_65535() const {
 614     if (Kind != k_Immediate)
 615       return false;
 616     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 617     if (!CE) return false;
 618     int64_t Value = CE->getValue();
 619     return Value >= 0 && Value < 65536;
 620   }
 621   bool isImm0_65535Expr() const {
 622     if (Kind != k_Immediate)
 623       return false;
 624     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 625     // If it's not a constant expression, it'll generate a fixup and be
 626     // handled later.
 627     if (!CE) return true;
 628     int64_t Value = CE->getValue();
 629     return Value >= 0 && Value < 65536;
 630   }
 631   bool isImm24bit() const {
 632     if (Kind != k_Immediate)
 633       return false;
 634     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 635     if (!CE) return false;
 636     int64_t Value = CE->getValue();
 637     return Value >= 0 && Value <= 0xffffff;
 638   }
 639   bool isImmThumbSR() const {
 640     if (Kind != k_Immediate)
 641       return false;
 642     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 643     if (!CE) return false;
 644     int64_t Value = CE->getValue();
 645     return Value > 0 && Value < 33;
 646   }
 647   bool isPKHLSLImm() const {
 648     if (Kind != k_Immediate)
 649       return false;
 650     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 651     if (!CE) return false;
 652     int64_t Value = CE->getValue();
 653     return Value >= 0 && Value < 32;
 654   }
 655   bool isPKHASRImm() const {
 656     if (Kind != k_Immediate)
 657       return false;
 658     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 659     if (!CE) return false;
 660     int64_t Value = CE->getValue();
 661     return Value > 0 && Value <= 32;
 662   }
 663   bool isARMSOImm() const {
 664     if (Kind != k_Immediate)
 665       return false;
 666     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 667     if (!CE) return false;
 668     int64_t Value = CE->getValue();
 669     return ARM_AM::getSOImmVal(Value) != -1;
 670   }
 671   bool isARMSOImmNot() const {
 672     if (Kind != k_Immediate)
 673       return false;
 674     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 675     if (!CE) return false;
 676     int64_t Value = CE->getValue();
 677     return ARM_AM::getSOImmVal(~Value) != -1;
 678   }
 679   bool isT2SOImm() const {
 680     if (Kind != k_Immediate)
 681       return false;
 682     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 683     if (!CE) return false;
 684     int64_t Value = CE->getValue();
 685     return ARM_AM::getT2SOImmVal(Value) != -1;
 686   }
 687   bool isT2SOImmNot() const {
 688     if (Kind != k_Immediate)
 689       return false;
 690     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 691     if (!CE) return false;
 692     int64_t Value = CE->getValue();
 693     return ARM_AM::getT2SOImmVal(~Value) != -1;
 694   }
 695   bool isSetEndImm() const {
 696     if (Kind != k_Immediate)
 697       return false;
 698     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 699     if (!CE) return false;
 700     int64_t Value = CE->getValue();
 701     return Value == 1 || Value == 0;
 702   }
 703   bool isReg() const { return Kind == k_Register; }
 704   bool isRegList() const { return Kind == k_RegisterList; }
 705   bool isDPRRegList() const { return Kind == k_DPRRegisterList; }
 706   bool isSPRRegList() const { return Kind == k_SPRRegisterList; }
 707   bool isToken() const { return Kind == k_Token; }
 708   bool isMemBarrierOpt() const { return Kind == k_MemBarrierOpt; }
 709   bool isMemory() const { return Kind == k_Memory; }
 710   bool isShifterImm() const { return Kind == k_ShifterImmediate; }
 711   bool isRegShiftedReg() const { return Kind == k_ShiftedRegister; }
 712   bool isRegShiftedImm() const { return Kind == k_ShiftedImmediate; }
 713   bool isRotImm() const { return Kind == k_RotateImmediate; }
 714   bool isBitfield() const { return Kind == k_BitfieldDescriptor; }
 715   bool isPostIdxRegShifted() const { return Kind == k_PostIndexRegister; }
 716   bool isPostIdxReg() const {
 717     return Kind == k_PostIndexRegister && PostIdxReg.ShiftTy ==ARM_AM::no_shift;
 718   }
 719   bool isMemNoOffset(bool alignOK = false) const {
 720     if (!isMemory())
 721       return false;
 722     // No offset of any kind.
 723     return Memory.OffsetRegNum == 0 && Memory.OffsetImm == 0 &&
 724      (alignOK || Memory.Alignment == 0);
 725   }
 726   bool isAlignedMemory() const {
 727     return isMemNoOffset(true);
 728   }
 729   bool isAddrMode2() const {
 730     if (!isMemory() || Memory.Alignment != 0) return false;
 731     // Check for register offset.
 732     if (Memory.OffsetRegNum) return true;
 733     // Immediate offset in range [-4095, 4095].
 734     if (!Memory.OffsetImm) return true;
 735     int64_t Val = Memory.OffsetImm->getValue();
 736     return Val > -4096 && Val < 4096;
 737   }
 738   bool isAM2OffsetImm() const {
 739     if (Kind != k_Immediate)
 740       return false;
 741     // Immediate offset in range [-4095, 4095].
 742     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 743     if (!CE) return false;
 744     int64_t Val = CE->getValue();
 745     return Val > -4096 && Val < 4096;
 746   }
 747   bool isAddrMode3() const {
 748     if (!isMemory() || Memory.Alignment != 0) return false;
 749     // No shifts are legal for AM3.
 750     if (Memory.ShiftType != ARM_AM::no_shift) return false;
 751     // Check for register offset.
 752     if (Memory.OffsetRegNum) return true;
 753     // Immediate offset in range [-255, 255].
 754     if (!Memory.OffsetImm) return true;
 755     int64_t Val = Memory.OffsetImm->getValue();
 756     return Val > -256 && Val < 256;
 757   }
 758   bool isAM3Offset() const {
 759     if (Kind != k_Immediate && Kind != k_PostIndexRegister)
 760       return false;
 761     if (Kind == k_PostIndexRegister)
 762       return PostIdxReg.ShiftTy == ARM_AM::no_shift;
 763     // Immediate offset in range [-255, 255].
 764     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 765     if (!CE) return false;
 766     int64_t Val = CE->getValue();
 767     // Special case, #-0 is INT32_MIN.
 768     return (Val > -256 && Val < 256) || Val == INT32_MIN;
 769   }
 770   bool isAddrMode5() const {
 771     // If we have an immediate that's not a constant, treat it as a label
 772     // reference needing a fixup. If it is a constant, it's something else
 773     // and we reject it.
 774     if (Kind == k_Immediate && !isa<MCConstantExpr>(getImm()))
 775       return true;
 776     if (!isMemory() || Memory.Alignment != 0) return false;
 777     // Check for register offset.
 778     if (Memory.OffsetRegNum) return false;
 779     // Immediate offset in range [-1020, 1020] and a multiple of 4.
 780     if (!Memory.OffsetImm) return true;
 781     int64_t Val = Memory.OffsetImm->getValue();
 782     return (Val >= -1020 && Val <= 1020 && ((Val & 3) == 0)) ||
 783       Val == INT32_MIN;
 784   }
 785   bool isMemTBB() const {
 786     if (!isMemory() || !Memory.OffsetRegNum || Memory.isNegative ||
 787         Memory.ShiftType != ARM_AM::no_shift || Memory.Alignment != 0)
 788       return false;
 789     return true;
 790   }
 791   bool isMemTBH() const {
 792     if (!isMemory() || !Memory.OffsetRegNum || Memory.isNegative ||
 793         Memory.ShiftType != ARM_AM::lsl || Memory.ShiftImm != 1 ||
 794         Memory.Alignment != 0 )
 795       return false;
 796     return true;
 797   }
 798   bool isMemRegOffset() const {
 799     if (!isMemory() || !Memory.OffsetRegNum || Memory.Alignment != 0)
 800       return false;
 801     return true;
 802   }
 803   bool isT2MemRegOffset() const {
 804     if (!isMemory() || !Memory.OffsetRegNum || Memory.isNegative ||
 805         Memory.Alignment != 0)
 806       return false;
 807     // Only lsl #{0, 1, 2, 3} allowed.
 808     if (Memory.ShiftType == ARM_AM::no_shift)
 809       return true;
 810     if (Memory.ShiftType != ARM_AM::lsl || Memory.ShiftImm > 3)
 811       return false;
 812     return true;
 813   }
 814   bool isMemThumbRR() const {
 815     // Thumb reg+reg addressing is simple. Just two registers, a base and
 816     // an offset. No shifts, negations or any other complicating factors.
 817     if (!isMemory() || !Memory.OffsetRegNum || Memory.isNegative ||
 818         Memory.ShiftType != ARM_AM::no_shift || Memory.Alignment != 0)
 819       return false;
 820     return isARMLowRegister(Memory.BaseRegNum) &&
 821       (!Memory.OffsetRegNum || isARMLowRegister(Memory.OffsetRegNum));
 822   }
 823   bool isMemThumbRIs4() const {
 824     if (!isMemory() || Memory.OffsetRegNum != 0 ||
 825         !isARMLowRegister(Memory.BaseRegNum) || Memory.Alignment != 0)
 826       return false;
 827     // Immediate offset, multiple of 4 in range [0, 124].
 828     if (!Memory.OffsetImm) return true;
 829     int64_t Val = Memory.OffsetImm->getValue();
 830     return Val >= 0 && Val <= 124 && (Val % 4) == 0;
 831   }
 832   bool isMemThumbRIs2() const {
 833     if (!isMemory() || Memory.OffsetRegNum != 0 ||
 834         !isARMLowRegister(Memory.BaseRegNum) || Memory.Alignment != 0)
 835       return false;
 836     // Immediate offset, multiple of 4 in range [0, 62].
 837     if (!Memory.OffsetImm) return true;
 838     int64_t Val = Memory.OffsetImm->getValue();
 839     return Val >= 0 && Val <= 62 && (Val % 2) == 0;
 840   }
 841   bool isMemThumbRIs1() const {
 842     if (!isMemory() || Memory.OffsetRegNum != 0 ||
 843         !isARMLowRegister(Memory.BaseRegNum) || Memory.Alignment != 0)
 844       return false;
 845     // Immediate offset in range [0, 31].
 846     if (!Memory.OffsetImm) return true;
 847     int64_t Val = Memory.OffsetImm->getValue();
 848     return Val >= 0 && Val <= 31;
 849   }
 850   bool isMemThumbSPI() const {
 851     if (!isMemory() || Memory.OffsetRegNum != 0 ||
 852         Memory.BaseRegNum != ARM::SP || Memory.Alignment != 0)
 853       return false;
 854     // Immediate offset, multiple of 4 in range [0, 1020].
 855     if (!Memory.OffsetImm) return true;
 856     int64_t Val = Memory.OffsetImm->getValue();
 857     return Val >= 0 && Val <= 1020 && (Val % 4) == 0;
 858   }
 859   bool isMemImm8s4Offset() const {
 860     if (!isMemory() || Memory.OffsetRegNum != 0 || Memory.Alignment != 0)
 861       return false;
 862     // Immediate offset a multiple of 4 in range [-1020, 1020].
 863     if (!Memory.OffsetImm) return true;
 864     int64_t Val = Memory.OffsetImm->getValue();
 865     return Val >= -1020 && Val <= 1020 && (Val & 3) == 0;
 866   }
 867   bool isMemImm0_1020s4Offset() const {
 868     if (!isMemory() || Memory.OffsetRegNum != 0 || Memory.Alignment != 0)
 869       return false;
 870     // Immediate offset a multiple of 4 in range [0, 1020].
 871     if (!Memory.OffsetImm) return true;
 872     int64_t Val = Memory.OffsetImm->getValue();
 873     return Val >= 0 && Val <= 1020 && (Val & 3) == 0;
 874   }
 875   bool isMemImm8Offset() const {
 876     if (!isMemory() || Memory.OffsetRegNum != 0 || Memory.Alignment != 0)
 877       return false;
 878     // Immediate offset in range [-255, 255].
 879     if (!Memory.OffsetImm) return true;
 880     int64_t Val = Memory.OffsetImm->getValue();
 881     return (Val == INT32_MIN) || (Val > -256 && Val < 256);
 882   }
 883   bool isMemPosImm8Offset() const {
 884     if (!isMemory() || Memory.OffsetRegNum != 0 || Memory.Alignment != 0)
 885       return false;
 886     // Immediate offset in range [0, 255].
 887     if (!Memory.OffsetImm) return true;
 888     int64_t Val = Memory.OffsetImm->getValue();
 889     return Val >= 0 && Val < 256;
 890   }
 891   bool isMemNegImm8Offset() const {
 892     if (!isMemory() || Memory.OffsetRegNum != 0 || Memory.Alignment != 0)
 893       return false;
 894     // Immediate offset in range [-255, -1].
 895     if (!Memory.OffsetImm) return true;
 896     int64_t Val = Memory.OffsetImm->getValue();
 897     return Val > -256 && Val < 0;
 898   }
 899   bool isMemUImm12Offset() const {
 900     if (!isMemory() || Memory.OffsetRegNum != 0 || Memory.Alignment != 0)
 901       return false;
 902     // Immediate offset in range [0, 4095].
 903     if (!Memory.OffsetImm) return true;
 904     int64_t Val = Memory.OffsetImm->getValue();
 905     return (Val >= 0 && Val < 4096);
 906   }
 907   bool isMemImm12Offset() const {
 908     // If we have an immediate that's not a constant, treat it as a label
 909     // reference needing a fixup. If it is a constant, it's something else
 910     // and we reject it.
 911     if (Kind == k_Immediate && !isa<MCConstantExpr>(getImm()))
 912       return true;
 913
 914     if (!isMemory() || Memory.OffsetRegNum != 0 || Memory.Alignment != 0)
 915       return false;
 916     // Immediate offset in range [-4095, 4095].
 917     if (!Memory.OffsetImm) return true;
 918     int64_t Val = Memory.OffsetImm->getValue();
 919     return (Val > -4096 && Val < 4096) || (Val == INT32_MIN);
 920   }
 921   bool isPostIdxImm8() const {
 922     if (Kind != k_Immediate)
 923       return false;
 924     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 925     if (!CE) return false;
 926     int64_t Val = CE->getValue();
 927     return (Val > -256 && Val < 256) || (Val == INT32_MIN);
 928   }
 929   bool isPostIdxImm8s4() const {
 930     if (Kind != k_Immediate)
 931       return false;
 932     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 933     if (!CE) return false;
 934     int64_t Val = CE->getValue();
 935     return ((Val & 3) == 0 && Val >= -1020 && Val <= 1020) ||
 936       (Val == INT32_MIN);
 937   }
 938
 939   bool isMSRMask() const { return Kind == k_MSRMask; }
 940   bool isProcIFlags() const { return Kind == k_ProcIFlags; }
 941
 942   // NEON operands.
 943   bool isVecListOneD() const {
 944     if (Kind != k_VectorList) return false;
 945     return VectorList.Count == 1;
 946   }
 947
 948   bool isVecListTwoD() const {
 949     if (Kind != k_VectorList) return false;
 950     return VectorList.Count == 2;
 951   }
 952
 953   bool isVecListThreeD() const {
 954     if (Kind != k_VectorList) return false;
 955     return VectorList.Count == 3;
 956   }
 957
 958   bool isVecListFourD() const {
 959     if (Kind != k_VectorList) return false;
 960     return VectorList.Count == 4;
 961   }
 962
 963   bool isVecListTwoQ() const {
 964     if (Kind != k_VectorList) return false;
 965     //FIXME: We haven't taught the parser to handle by-two register lists
 966     // yet, so don't pretend to know one.
 967     return VectorList.Count == 2 && false;
 968   }
 969
 970   bool isVectorIndex8() const {
 971     if (Kind != k_VectorIndex) return false;
 972     return VectorIndex.Val < 8;
 973   }
 974   bool isVectorIndex16() const {
 975     if (Kind != k_VectorIndex) return false;
 976     return VectorIndex.Val < 4;
 977   }
 978   bool isVectorIndex32() const {
 979     if (Kind != k_VectorIndex) return false;
 980     return VectorIndex.Val < 2;
 981   }
 982
 983   bool isNEONi8splat() const {
 984     if (Kind != k_Immediate)
 985       return false;
 986     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 987     // Must be a constant.
 988     if (!CE) return false;
 989     int64_t Value = CE->getValue();
 990     // i8 value splatted across 8 bytes. The immediate is just the 8 byte
 991     // value.
 992     return Value >= 0 && Value < 256;
 993   }
 994
 995   bool isNEONi16splat() const {
 996     if (Kind != k_Immediate)
 997       return false;
 998     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
 999     // Must be a constant.
1000     if (!CE) return false;
1001     int64_t Value = CE->getValue();
1002     // i16 value in the range [0,255] or [0x0100, 0xff00]
1003     return (Value >= 0 && Value < 256) || (Value >= 0x0100 && Value <= 0xff00);
1004   }
1005
1006   bool isNEONi32splat() const {
1007     if (Kind != k_Immediate)
1008       return false;
1009     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1010     // Must be a constant.
1011     if (!CE) return false;
1012     int64_t Value = CE->getValue();
1013     // i32 value with set bits only in one byte X000, 0X00, 00X0, or 000X.
1014     return (Value >= 0 && Value < 256) ||
1015       (Value >= 0x0100 && Value <= 0xff00) ||
1016       (Value >= 0x010000 && Value <= 0xff0000) ||
1017       (Value >= 0x01000000 && Value <= 0xff000000);
1018   }
1019
1020   bool isNEONi32vmov() const {
1021     if (Kind != k_Immediate)
1022       return false;
1023     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1024     // Must be a constant.
1025     if (!CE) return false;
1026     int64_t Value = CE->getValue();
1027     // i32 value with set bits only in one byte X000, 0X00, 00X0, or 000X,
1028     // for VMOV/VMVN only, 00Xf or 0Xff are also accepted.
1029     return (Value >= 0 && Value < 256) ||
1030       (Value >= 0x0100 && Value <= 0xff00) ||
1031       (Value >= 0x010000 && Value <= 0xff0000) ||
1032       (Value >= 0x01000000 && Value <= 0xff000000) ||
1033       (Value >= 0x01ff && Value <= 0xffff && (Value & 0xff) == 0xff) ||
1034       (Value >= 0x01ffff && Value <= 0xffffff && (Value & 0xffff) == 0xffff);
1035   }
1036
1037   bool isNEONi64splat() const {
1038     if (Kind != k_Immediate)
1039       return false;
1040     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1041     // Must be a constant.
1042     if (!CE) return false;
1043     uint64_t Value = CE->getValue();
1044     // i64 value with each byte being either 0 or 0xff.
1045     for (unsigned i = 0; i < 8; ++i)
1046       if ((Value & 0xff) != 0 && (Value & 0xff) != 0xff) return false;
1047     return true;
1048   }
1049
1050   void addExpr(MCInst &Inst, const MCExpr *Expr) const {
1051     // Add as immediates when possible.  Null MCExpr = 0.
1052     if (Expr == 0)
1053       Inst.addOperand(MCOperand::CreateImm(0));
1054     else if (const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(Expr))
1055       Inst.addOperand(MCOperand::CreateImm(CE->getValue()));
1056     else
1057       Inst.addOperand(MCOperand::CreateExpr(Expr));
1058   }
1059
1060   void addCondCodeOperands(MCInst &Inst, unsigned N) const {
1061     assert(N == 2 && "Invalid number of operands!");
1062     Inst.addOperand(MCOperand::CreateImm(unsigned(getCondCode())));
1063     unsigned RegNum = getCondCode() == ARMCC::AL ? 0: ARM::CPSR;
1064     Inst.addOperand(MCOperand::CreateReg(RegNum));
1065   }
1066
1067   void addCoprocNumOperands(MCInst &Inst, unsigned N) const {
1068     assert(N == 1 && "Invalid number of operands!");
1069     Inst.addOperand(MCOperand::CreateImm(getCoproc()));
1070   }
1071
1072   void addCoprocRegOperands(MCInst &Inst, unsigned N) const {
1073     assert(N == 1 && "Invalid number of operands!");
1074     Inst.addOperand(MCOperand::CreateImm(getCoproc()));
1075   }
1076
1077   void addCoprocOptionOperands(MCInst &Inst, unsigned N) const {
1078     assert(N == 1 && "Invalid number of operands!");
1079     Inst.addOperand(MCOperand::CreateImm(CoprocOption.Val));
1080   }
1081
1082   void addITMaskOperands(MCInst &Inst, unsigned N) const {
1083     assert(N == 1 && "Invalid number of operands!");
1084     Inst.addOperand(MCOperand::CreateImm(ITMask.Mask));
1085   }
1086
1087   void addITCondCodeOperands(MCInst &Inst, unsigned N) const {
1088     assert(N == 1 && "Invalid number of operands!");
1089     Inst.addOperand(MCOperand::CreateImm(unsigned(getCondCode())));
1090   }
1091
1092   void addCCOutOperands(MCInst &Inst, unsigned N) const {
1093     assert(N == 1 && "Invalid number of operands!");
1094     Inst.addOperand(MCOperand::CreateReg(getReg()));
1095   }
1096
1097   void addRegOperands(MCInst &Inst, unsigned N) const {
1098     assert(N == 1 && "Invalid number of operands!");
1099     Inst.addOperand(MCOperand::CreateReg(getReg()));
1100   }
1101
1102   void addRegShiftedRegOperands(MCInst &Inst, unsigned N) const {
1103     assert(N == 3 && "Invalid number of operands!");
1104     assert(isRegShiftedReg() &&
1105            "addRegShiftedRegOperands() on non RegShiftedReg!");
1106     Inst.addOperand(MCOperand::CreateReg(RegShiftedReg.SrcReg));
1107     Inst.addOperand(MCOperand::CreateReg(RegShiftedReg.ShiftReg));
1108     Inst.addOperand(MCOperand::CreateImm(
1109       ARM_AM::getSORegOpc(RegShiftedReg.ShiftTy, RegShiftedReg.ShiftImm)));
1110   }
1111
1112   void addRegShiftedImmOperands(MCInst &Inst, unsigned N) const {
1113     assert(N == 2 && "Invalid number of operands!");
1114     assert(isRegShiftedImm() &&
1115            "addRegShiftedImmOperands() on non RegShiftedImm!");
1116     Inst.addOperand(MCOperand::CreateReg(RegShiftedImm.SrcReg));
1117     Inst.addOperand(MCOperand::CreateImm(
1118       ARM_AM::getSORegOpc(RegShiftedImm.ShiftTy, RegShiftedImm.ShiftImm)));
1119   }
1120
1121   void addShifterImmOperands(MCInst &Inst, unsigned N) const {
1122     assert(N == 1 && "Invalid number of operands!");
1123     Inst.addOperand(MCOperand::CreateImm((ShifterImm.isASR << 5) |
1124                                          ShifterImm.Imm));
1125   }
1126
1127   void addRegListOperands(MCInst &Inst, unsigned N) const {
1128     assert(N == 1 && "Invalid number of operands!");
1129     const SmallVectorImpl<unsigned> &RegList = getRegList();
1130     for (SmallVectorImpl<unsigned>::const_iterator
1131            I = RegList.begin(), E = RegList.end(); I != E; ++I)
1132       Inst.addOperand(MCOperand::CreateReg(*I));
1133   }
1134
1135   void addDPRRegListOperands(MCInst &Inst, unsigned N) const {
1136     addRegListOperands(Inst, N);
1137   }
1138
1139   void addSPRRegListOperands(MCInst &Inst, unsigned N) const {
1140     addRegListOperands(Inst, N);
1141   }
1142
1143   void addRotImmOperands(MCInst &Inst, unsigned N) const {
1144     assert(N == 1 && "Invalid number of operands!");
1145     // Encoded as val>>3. The printer handles display as 8, 16, 24.
1146     Inst.addOperand(MCOperand::CreateImm(RotImm.Imm >> 3));
1147   }
1148
1149   void addBitfieldOperands(MCInst &Inst, unsigned N) const {
1150     assert(N == 1 && "Invalid number of operands!");
1151     // Munge the lsb/width into a bitfield mask.
1152     unsigned lsb = Bitfield.LSB;
1153     unsigned width = Bitfield.Width;
1154     // Make a 32-bit mask w/ the referenced bits clear and all other bits set.
1155     uint32_t Mask = ~(((uint32_t)0xffffffff >> lsb) << (32 - width) >>
1156                       (32 - (lsb + width)));
1157     Inst.addOperand(MCOperand::CreateImm(Mask));
1158   }
1159
1160   void addImmOperands(MCInst &Inst, unsigned N) const {
1161     assert(N == 1 && "Invalid number of operands!");
1162     addExpr(Inst, getImm());
1163   }
1164
1165   void addFPImmOperands(MCInst &Inst, unsigned N) const {
1166     assert(N == 1 && "Invalid number of operands!");
1167     Inst.addOperand(MCOperand::CreateImm(getFPImm()));
1168   }
1169
1170   void addImm8s4Operands(MCInst &Inst, unsigned N) const {
1171     assert(N == 1 && "Invalid number of operands!");
1172     // FIXME: We really want to scale the value here, but the LDRD/STRD
1173     // instruction don't encode operands that way yet.
1174     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1175     Inst.addOperand(MCOperand::CreateImm(CE->getValue()));
1176   }
1177
1178   void addImm0_1020s4Operands(MCInst &Inst, unsigned N) const {
1179     assert(N == 1 && "Invalid number of operands!");
1180     // The immediate is scaled by four in the encoding and is stored
1181     // in the MCInst as such. Lop off the low two bits here.
1182     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1183     Inst.addOperand(MCOperand::CreateImm(CE->getValue() / 4));
1184   }
1185
1186   void addImm0_508s4Operands(MCInst &Inst, unsigned N) const {
1187     assert(N == 1 && "Invalid number of operands!");
1188     // The immediate is scaled by four in the encoding and is stored
1189     // in the MCInst as such. Lop off the low two bits here.
1190     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1191     Inst.addOperand(MCOperand::CreateImm(CE->getValue() / 4));
1192   }
1193
1194   void addImm1_16Operands(MCInst &Inst, unsigned N) const {
1195     assert(N == 1 && "Invalid number of operands!");
1196     // The constant encodes as the immediate-1, and we store in the instruction
1197     // the bits as encoded, so subtract off one here.
1198     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1199     Inst.addOperand(MCOperand::CreateImm(CE->getValue() - 1));
1200   }
1201
1202   void addImm1_32Operands(MCInst &Inst, unsigned N) const {
1203     assert(N == 1 && "Invalid number of operands!");
1204     // The constant encodes as the immediate-1, and we store in the instruction
1205     // the bits as encoded, so subtract off one here.
1206     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1207     Inst.addOperand(MCOperand::CreateImm(CE->getValue() - 1));
1208   }
1209
1210   void addImmThumbSROperands(MCInst &Inst, unsigned N) const {
1211     assert(N == 1 && "Invalid number of operands!");
1212     // The constant encodes as the immediate, except for 32, which encodes as
1213     // zero.
1214     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1215     unsigned Imm = CE->getValue();
1216     Inst.addOperand(MCOperand::CreateImm((Imm == 32 ? 0 : Imm)));
1217   }
1218
1219   void addPKHASRImmOperands(MCInst &Inst, unsigned N) const {
1220     assert(N == 1 && "Invalid number of operands!");
1221     // An ASR value of 32 encodes as 0, so that's how we want to add it to
1222     // the instruction as well.
1223     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1224     int Val = CE->getValue();
1225     Inst.addOperand(MCOperand::CreateImm(Val == 32 ? 0 : Val));
1226   }
1227
1228   void addT2SOImmNotOperands(MCInst &Inst, unsigned N) const {
1229     assert(N == 1 && "Invalid number of operands!");
1230     // The operand is actually a t2_so_imm, but we have its bitwise
1231     // negation in the assembly source, so twiddle it here.
1232     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1233     Inst.addOperand(MCOperand::CreateImm(~CE->getValue()));
1234   }
1235
1236   void addARMSOImmNotOperands(MCInst &Inst, unsigned N) const {
1237     assert(N == 1 && "Invalid number of operands!");
1238     // The operand is actually a so_imm, but we have its bitwise
1239     // negation in the assembly source, so twiddle it here.
1240     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1241     Inst.addOperand(MCOperand::CreateImm(~CE->getValue()));
1242   }
1243
1244   void addMemBarrierOptOperands(MCInst &Inst, unsigned N) const {
1245     assert(N == 1 && "Invalid number of operands!");
1246     Inst.addOperand(MCOperand::CreateImm(unsigned(getMemBarrierOpt())));
1247   }
1248
1249   void addMemNoOffsetOperands(MCInst &Inst, unsigned N) const {
1250     assert(N == 1 && "Invalid number of operands!");
1251     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1252   }
1253
1254   void addAlignedMemoryOperands(MCInst &Inst, unsigned N) const {
1255     assert(N == 2 && "Invalid number of operands!");
1256     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1257     Inst.addOperand(MCOperand::CreateImm(Memory.Alignment));
1258   }
1259
1260   void addAddrMode2Operands(MCInst &Inst, unsigned N) const {
1261     assert(N == 3 && "Invalid number of operands!");
1262     int32_t Val = Memory.OffsetImm ? Memory.OffsetImm->getValue() : 0;
1263     if (!Memory.OffsetRegNum) {
1264       ARM_AM::AddrOpc AddSub = Val < 0 ? ARM_AM::sub : ARM_AM::add;
1265       // Special case for #-0
1266       if (Val == INT32_MIN) Val = 0;
1267       if (Val < 0) Val = -Val;
1268       Val = ARM_AM::getAM2Opc(AddSub, Val, ARM_AM::no_shift);
1269     } else {
1270       // For register offset, we encode the shift type and negation flag
1271       // here.
1272       Val = ARM_AM::getAM2Opc(Memory.isNegative ? ARM_AM::sub : ARM_AM::add,
1273                               Memory.ShiftImm, Memory.ShiftType);
1274     }
1275     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1276     Inst.addOperand(MCOperand::CreateReg(Memory.OffsetRegNum));
1277     Inst.addOperand(MCOperand::CreateImm(Val));
1278   }
1279
1280   void addAM2OffsetImmOperands(MCInst &Inst, unsigned N) const {
1281     assert(N == 2 && "Invalid number of operands!");
1282     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1283     assert(CE && "non-constant AM2OffsetImm operand!");
1284     int32_t Val = CE->getValue();
1285     ARM_AM::AddrOpc AddSub = Val < 0 ? ARM_AM::sub : ARM_AM::add;
1286     // Special case for #-0
1287     if (Val == INT32_MIN) Val = 0;
1288     if (Val < 0) Val = -Val;
1289     Val = ARM_AM::getAM2Opc(AddSub, Val, ARM_AM::no_shift);
1290     Inst.addOperand(MCOperand::CreateReg(0));
1291     Inst.addOperand(MCOperand::CreateImm(Val));
1292   }
1293
1294   void addAddrMode3Operands(MCInst &Inst, unsigned N) const {
1295     assert(N == 3 && "Invalid number of operands!");
1296     int32_t Val = Memory.OffsetImm ? Memory.OffsetImm->getValue() : 0;
1297     if (!Memory.OffsetRegNum) {
1298       ARM_AM::AddrOpc AddSub = Val < 0 ? ARM_AM::sub : ARM_AM::add;
1299       // Special case for #-0
1300       if (Val == INT32_MIN) Val = 0;
1301       if (Val < 0) Val = -Val;
1302       Val = ARM_AM::getAM3Opc(AddSub, Val);
1303     } else {
1304       // For register offset, we encode the shift type and negation flag
1305       // here.
1306       Val = ARM_AM::getAM3Opc(Memory.isNegative ? ARM_AM::sub : ARM_AM::add, 0);
1307     }
1308     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1309     Inst.addOperand(MCOperand::CreateReg(Memory.OffsetRegNum));
1310     Inst.addOperand(MCOperand::CreateImm(Val));
1311   }
1312
1313   void addAM3OffsetOperands(MCInst &Inst, unsigned N) const {
1314     assert(N == 2 && "Invalid number of operands!");
1315     if (Kind == k_PostIndexRegister) {
1316       int32_t Val =
1317         ARM_AM::getAM3Opc(PostIdxReg.isAdd ? ARM_AM::add : ARM_AM::sub, 0);
1318       Inst.addOperand(MCOperand::CreateReg(PostIdxReg.RegNum));
1319       Inst.addOperand(MCOperand::CreateImm(Val));
1320       return;
1321     }
1322
1323     // Constant offset.
1324     const MCConstantExpr *CE = static_cast<const MCConstantExpr*>(getImm());
1325     int32_t Val = CE->getValue();
1326     ARM_AM::AddrOpc AddSub = Val < 0 ? ARM_AM::sub : ARM_AM::add;
1327     // Special case for #-0
1328     if (Val == INT32_MIN) Val = 0;
1329     if (Val < 0) Val = -Val;
1330     Val = ARM_AM::getAM3Opc(AddSub, Val);
1331     Inst.addOperand(MCOperand::CreateReg(0));
1332     Inst.addOperand(MCOperand::CreateImm(Val));
1333   }
1334
1335   void addAddrMode5Operands(MCInst &Inst, unsigned N) const {
1336     assert(N == 2 && "Invalid number of operands!");
1337     // If we have an immediate that's not a constant, treat it as a label
1338     // reference needing a fixup. If it is a constant, it's something else
1339     // and we reject it.
1340     if (isImm()) {
1341       Inst.addOperand(MCOperand::CreateExpr(getImm()));
1342       Inst.addOperand(MCOperand::CreateImm(0));
1343       return;
1344     }
1345
1346     // The lower two bits are always zero and as such are not encoded.
1347     int32_t Val = Memory.OffsetImm ? Memory.OffsetImm->getValue() / 4 : 0;
1348     ARM_AM::AddrOpc AddSub = Val < 0 ? ARM_AM::sub : ARM_AM::add;
1349     // Special case for #-0
1350     if (Val == INT32_MIN) Val = 0;
1351     if (Val < 0) Val = -Val;
1352     Val = ARM_AM::getAM5Opc(AddSub, Val);
1353     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1354     Inst.addOperand(MCOperand::CreateImm(Val));
1355   }
1356
1357   void addMemImm8s4OffsetOperands(MCInst &Inst, unsigned N) const {
1358     assert(N == 2 && "Invalid number of operands!");
1359     int64_t Val = Memory.OffsetImm ? Memory.OffsetImm->getValue() : 0;
1360     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1361     Inst.addOperand(MCOperand::CreateImm(Val));
1362   }
1363
1364   void addMemImm0_1020s4OffsetOperands(MCInst &Inst, unsigned N) const {
1365     assert(N == 2 && "Invalid number of operands!");
1366     // The lower two bits are always zero and as such are not encoded.
1367     int32_t Val = Memory.OffsetImm ? Memory.OffsetImm->getValue() / 4 : 0;
1368     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1369     Inst.addOperand(MCOperand::CreateImm(Val));
1370   }
1371
1372   void addMemImm8OffsetOperands(MCInst &Inst, unsigned N) const {
1373     assert(N == 2 && "Invalid number of operands!");
1374     int64_t Val = Memory.OffsetImm ? Memory.OffsetImm->getValue() : 0;
1375     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1376     Inst.addOperand(MCOperand::CreateImm(Val));
1377   }
1378
1379   void addMemPosImm8OffsetOperands(MCInst &Inst, unsigned N) const {
1380     addMemImm8OffsetOperands(Inst, N);
1381   }
1382
1383   void addMemNegImm8OffsetOperands(MCInst &Inst, unsigned N) const {
1384     addMemImm8OffsetOperands(Inst, N);
1385   }
1386
1387   void addMemUImm12OffsetOperands(MCInst &Inst, unsigned N) const {
1388     assert(N == 2 && "Invalid number of operands!");
1389     // If this is an immediate, it's a label reference.
1390     if (Kind == k_Immediate) {
1391       addExpr(Inst, getImm());
1392       Inst.addOperand(MCOperand::CreateImm(0));
1393       return;
1394     }
1395
1396     // Otherwise, it's a normal memory reg+offset.
1397     int64_t Val = Memory.OffsetImm ? Memory.OffsetImm->getValue() : 0;
1398     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1399     Inst.addOperand(MCOperand::CreateImm(Val));
1400   }
1401
1402   void addMemImm12OffsetOperands(MCInst &Inst, unsigned N) const {
1403     assert(N == 2 && "Invalid number of operands!");
1404     // If this is an immediate, it's a label reference.
1405     if (Kind == k_Immediate) {
1406       addExpr(Inst, getImm());
1407       Inst.addOperand(MCOperand::CreateImm(0));
1408       return;
1409     }
1410
1411     // Otherwise, it's a normal memory reg+offset.
1412     int64_t Val = Memory.OffsetImm ? Memory.OffsetImm->getValue() : 0;
1413     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1414     Inst.addOperand(MCOperand::CreateImm(Val));
1415   }
1416
1417   void addMemTBBOperands(MCInst &Inst, unsigned N) const {
1418     assert(N == 2 && "Invalid number of operands!");
1419     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1420     Inst.addOperand(MCOperand::CreateReg(Memory.OffsetRegNum));
1421   }
1422
1423   void addMemTBHOperands(MCInst &Inst, unsigned N) const {
1424     assert(N == 2 && "Invalid number of operands!");
1425     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1426     Inst.addOperand(MCOperand::CreateReg(Memory.OffsetRegNum));
1427   }
1428
1429   void addMemRegOffsetOperands(MCInst &Inst, unsigned N) const {
1430     assert(N == 3 && "Invalid number of operands!");
1431     unsigned Val =
1432       ARM_AM::getAM2Opc(Memory.isNegative ? ARM_AM::sub : ARM_AM::add,
1433                         Memory.ShiftImm, Memory.ShiftType);
1434     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1435     Inst.addOperand(MCOperand::CreateReg(Memory.OffsetRegNum));
1436     Inst.addOperand(MCOperand::CreateImm(Val));
1437   }
1438
1439   void addT2MemRegOffsetOperands(MCInst &Inst, unsigned N) const {
1440     assert(N == 3 && "Invalid number of operands!");
1441     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1442     Inst.addOperand(MCOperand::CreateReg(Memory.OffsetRegNum));
1443     Inst.addOperand(MCOperand::CreateImm(Memory.ShiftImm));
1444   }
1445
1446   void addMemThumbRROperands(MCInst &Inst, unsigned N) const {
1447     assert(N == 2 && "Invalid number of operands!");
1448     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1449     Inst.addOperand(MCOperand::CreateReg(Memory.OffsetRegNum));
1450   }
1451
1452   void addMemThumbRIs4Operands(MCInst &Inst, unsigned N) const {
1453     assert(N == 2 && "Invalid number of operands!");
1454     int64_t Val = Memory.OffsetImm ? (Memory.OffsetImm->getValue() / 4) : 0;
1455     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1456     Inst.addOperand(MCOperand::CreateImm(Val));
1457   }
1458
1459   void addMemThumbRIs2Operands(MCInst &Inst, unsigned N) const {
1460     assert(N == 2 && "Invalid number of operands!");
1461     int64_t Val = Memory.OffsetImm ? (Memory.OffsetImm->getValue() / 2) : 0;
1462     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1463     Inst.addOperand(MCOperand::CreateImm(Val));
1464   }
1465
1466   void addMemThumbRIs1Operands(MCInst &Inst, unsigned N) const {
1467     assert(N == 2 && "Invalid number of operands!");
1468     int64_t Val = Memory.OffsetImm ? (Memory.OffsetImm->getValue()) : 0;
1469     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1470     Inst.addOperand(MCOperand::CreateImm(Val));
1471   }
1472
1473   void addMemThumbSPIOperands(MCInst &Inst, unsigned N) const {
1474     assert(N == 2 && "Invalid number of operands!");
1475     int64_t Val = Memory.OffsetImm ? (Memory.OffsetImm->getValue() / 4) : 0;
1476     Inst.addOperand(MCOperand::CreateReg(Memory.BaseRegNum));
1477     Inst.addOperand(MCOperand::CreateImm(Val));
1478   }
1479
1480   void addPostIdxImm8Operands(MCInst &Inst, unsigned N) const {
1481     assert(N == 1 && "Invalid number of operands!");
1482     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1483     assert(CE && "non-constant post-idx-imm8 operand!");
1484     int Imm = CE->getValue();
1485     bool isAdd = Imm >= 0;
1486     if (Imm == INT32_MIN) Imm = 0;
1487     Imm = (Imm < 0 ? -Imm : Imm) | (int)isAdd << 8;
1488     Inst.addOperand(MCOperand::CreateImm(Imm));
1489   }
1490
1491   void addPostIdxImm8s4Operands(MCInst &Inst, unsigned N) const {
1492     assert(N == 1 && "Invalid number of operands!");
1493     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1494     assert(CE && "non-constant post-idx-imm8s4 operand!");
1495     int Imm = CE->getValue();
1496     bool isAdd = Imm >= 0;
1497     if (Imm == INT32_MIN) Imm = 0;
1498     // Immediate is scaled by 4.
1499     Imm = ((Imm < 0 ? -Imm : Imm) / 4) | (int)isAdd << 8;
1500     Inst.addOperand(MCOperand::CreateImm(Imm));
1501   }
1502
1503   void addPostIdxRegOperands(MCInst &Inst, unsigned N) const {
1504     assert(N == 2 && "Invalid number of operands!");
1505     Inst.addOperand(MCOperand::CreateReg(PostIdxReg.RegNum));
1506     Inst.addOperand(MCOperand::CreateImm(PostIdxReg.isAdd));
1507   }
1508
1509   void addPostIdxRegShiftedOperands(MCInst &Inst, unsigned N) const {
1510     assert(N == 2 && "Invalid number of operands!");
1511     Inst.addOperand(MCOperand::CreateReg(PostIdxReg.RegNum));
1512     // The sign, shift type, and shift amount are encoded in a single operand
1513     // using the AM2 encoding helpers.
1514     ARM_AM::AddrOpc opc = PostIdxReg.isAdd ? ARM_AM::add : ARM_AM::sub;
1515     unsigned Imm = ARM_AM::getAM2Opc(opc, PostIdxReg.ShiftImm,
1516                                      PostIdxReg.ShiftTy);
1517     Inst.addOperand(MCOperand::CreateImm(Imm));
1518   }
1519
1520   void addMSRMaskOperands(MCInst &Inst, unsigned N) const {
1521     assert(N == 1 && "Invalid number of operands!");
1522     Inst.addOperand(MCOperand::CreateImm(unsigned(getMSRMask())));
1523   }
1524
1525   void addProcIFlagsOperands(MCInst &Inst, unsigned N) const {
1526     assert(N == 1 && "Invalid number of operands!");
1527     Inst.addOperand(MCOperand::CreateImm(unsigned(getProcIFlags())));
1528   }
1529
1530   void addVecListOneDOperands(MCInst &Inst, unsigned N) const {
1531     assert(N == 1 && "Invalid number of operands!");
1532     Inst.addOperand(MCOperand::CreateReg(VectorList.RegNum));
1533   }
1534
1535   void addVecListTwoDOperands(MCInst &Inst, unsigned N) const {
1536     assert(N == 1 && "Invalid number of operands!");
1537     // Only the first register actually goes on the instruction. The rest
1538     // are implied by the opcode.
1539     Inst.addOperand(MCOperand::CreateReg(VectorList.RegNum));
1540   }
1541
1542   void addVecListThreeDOperands(MCInst &Inst, unsigned N) const {
1543     assert(N == 1 && "Invalid number of operands!");
1544     // Only the first register actually goes on the instruction. The rest
1545     // are implied by the opcode.
1546     Inst.addOperand(MCOperand::CreateReg(VectorList.RegNum));
1547   }
1548
1549   void addVecListFourDOperands(MCInst &Inst, unsigned N) const {
1550     assert(N == 1 && "Invalid number of operands!");
1551     // Only the first register actually goes on the instruction. The rest
1552     // are implied by the opcode.
1553     Inst.addOperand(MCOperand::CreateReg(VectorList.RegNum));
1554   }
1555
1556   void addVecListTwoQOperands(MCInst &Inst, unsigned N) const {
1557     assert(N == 1 && "Invalid number of operands!");
1558     // Only the first register actually goes on the instruction. The rest
1559     // are implied by the opcode.
1560     Inst.addOperand(MCOperand::CreateReg(VectorList.RegNum));
1561   }
1562
1563   void addVectorIndex8Operands(MCInst &Inst, unsigned N) const {
1564     assert(N == 1 && "Invalid number of operands!");
1565     Inst.addOperand(MCOperand::CreateImm(getVectorIndex()));
1566   }
1567
1568   void addVectorIndex16Operands(MCInst &Inst, unsigned N) const {
1569     assert(N == 1 && "Invalid number of operands!");
1570     Inst.addOperand(MCOperand::CreateImm(getVectorIndex()));
1571   }
1572
1573   void addVectorIndex32Operands(MCInst &Inst, unsigned N) const {
1574     assert(N == 1 && "Invalid number of operands!");
1575     Inst.addOperand(MCOperand::CreateImm(getVectorIndex()));
1576   }
1577
1578   void addNEONi8splatOperands(MCInst &Inst, unsigned N) const {
1579     assert(N == 1 && "Invalid number of operands!");
1580     // The immediate encodes the type of constant as well as the value.
1581     // Mask in that this is an i8 splat.
1582     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1583     Inst.addOperand(MCOperand::CreateImm(CE->getValue() | 0xe00));
1584   }
1585
1586   void addNEONi16splatOperands(MCInst &Inst, unsigned N) const {
1587     assert(N == 1 && "Invalid number of operands!");
1588     // The immediate encodes the type of constant as well as the value.
1589     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1590     unsigned Value = CE->getValue();
1591     if (Value >= 256)
1592       Value = (Value >> 8) | 0xa00;
1593     else
1594       Value |= 0x800;
1595     Inst.addOperand(MCOperand::CreateImm(Value));
1596   }
1597
1598   void addNEONi32splatOperands(MCInst &Inst, unsigned N) const {
1599     assert(N == 1 && "Invalid number of operands!");
1600     // The immediate encodes the type of constant as well as the value.
1601     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1602     unsigned Value = CE->getValue();
1603     if (Value >= 256 && Value <= 0xff00)
1604       Value = (Value >> 8) | 0x200;
1605     else if (Value > 0xffff && Value <= 0xff0000)
1606       Value = (Value >> 16) | 0x400;
1607     else if (Value > 0xffffff)
1608       Value = (Value >> 24) | 0x600;
1609     Inst.addOperand(MCOperand::CreateImm(Value));
1610   }
1611
1612   void addNEONi32vmovOperands(MCInst &Inst, unsigned N) const {
1613     assert(N == 1 && "Invalid number of operands!");
1614     // The immediate encodes the type of constant as well as the value.
1615     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1616     unsigned Value = CE->getValue();
1617     if (Value >= 256 && Value <= 0xffff)
1618       Value = (Value >> 8) | ((Value & 0xff) ? 0xc00 : 0x200);
1619     else if (Value > 0xffff && Value <= 0xffffff)
1620       Value = (Value >> 16) | ((Value & 0xff) ? 0xd00 : 0x400);
1621     else if (Value > 0xffffff)
1622       Value = (Value >> 24) | 0x600;
1623     Inst.addOperand(MCOperand::CreateImm(Value));
1624   }
1625
1626   void addNEONi64splatOperands(MCInst &Inst, unsigned N) const {
1627     assert(N == 1 && "Invalid number of operands!");
1628     // The immediate encodes the type of constant as well as the value.
1629     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(getImm());
1630     uint64_t Value = CE->getValue();
1631     unsigned Imm = 0;
1632     for (unsigned i = 0; i < 8; ++i, Value >>= 8) {
1633       Imm |= (Value & 1) << i;
1634     }
1635     Inst.addOperand(MCOperand::CreateImm(Imm | 0x1e00));
1636   }
1637
1638   virtual void print(raw_ostream &OS) const;
1639
1640   static ARMOperand *CreateITMask(unsigned Mask, SMLoc S) {
1641     ARMOperand *Op = new ARMOperand(k_ITCondMask);
1642     Op->ITMask.Mask = Mask;
1643     Op->StartLoc = S;
1644     Op->EndLoc = S;
1645     return Op;
1646   }
1647
1648   static ARMOperand *CreateCondCode(ARMCC::CondCodes CC, SMLoc S) {
1649     ARMOperand *Op = new ARMOperand(k_CondCode);
1650     Op->CC.Val = CC;
1651     Op->StartLoc = S;
1652     Op->EndLoc = S;
1653     return Op;
1654   }
1655
1656   static ARMOperand *CreateCoprocNum(unsigned CopVal, SMLoc S) {
1657     ARMOperand *Op = new ARMOperand(k_CoprocNum);
1658     Op->Cop.Val = CopVal;
1659     Op->StartLoc = S;
1660     Op->EndLoc = S;
1661     return Op;
1662   }
1663
1664   static ARMOperand *CreateCoprocReg(unsigned CopVal, SMLoc S) {
1665     ARMOperand *Op = new ARMOperand(k_CoprocReg);
1666     Op->Cop.Val = CopVal;
1667     Op->StartLoc = S;
1668     Op->EndLoc = S;
1669     return Op;
1670   }
1671
1672   static ARMOperand *CreateCoprocOption(unsigned Val, SMLoc S, SMLoc E) {
1673     ARMOperand *Op = new ARMOperand(k_CoprocOption);
1674     Op->Cop.Val = Val;
1675     Op->StartLoc = S;
1676     Op->EndLoc = E;
1677     return Op;
1678   }
1679
1680   static ARMOperand *CreateCCOut(unsigned RegNum, SMLoc S) {
1681     ARMOperand *Op = new ARMOperand(k_CCOut);
1682     Op->Reg.RegNum = RegNum;
1683     Op->StartLoc = S;
1684     Op->EndLoc = S;
1685     return Op;
1686   }
1687
1688   static ARMOperand *CreateToken(StringRef Str, SMLoc S) {
1689     ARMOperand *Op = new ARMOperand(k_Token);
1690     Op->Tok.Data = Str.data();
1691     Op->Tok.Length = Str.size();
1692     Op->StartLoc = S;
1693     Op->EndLoc = S;
1694     return Op;
1695   }
1696
1697   static ARMOperand *CreateReg(unsigned RegNum, SMLoc S, SMLoc E) {
1698     ARMOperand *Op = new ARMOperand(k_Register);
1699     Op->Reg.RegNum = RegNum;
1700     Op->StartLoc = S;
1701     Op->EndLoc = E;
1702     return Op;
1703   }
1704
1705   static ARMOperand *CreateShiftedRegister(ARM_AM::ShiftOpc ShTy,
1706                                            unsigned SrcReg,
1707                                            unsigned ShiftReg,
1708                                            unsigned ShiftImm,
1709                                            SMLoc S, SMLoc E) {
1710     ARMOperand *Op = new ARMOperand(k_ShiftedRegister);
1711     Op->RegShiftedReg.ShiftTy = ShTy;
1712     Op->RegShiftedReg.SrcReg = SrcReg;
1713     Op->RegShiftedReg.ShiftReg = ShiftReg;
1714     Op->RegShiftedReg.ShiftImm = ShiftImm;
1715     Op->StartLoc = S;
1716     Op->EndLoc = E;
1717     return Op;
1718   }
1719
1720   static ARMOperand *CreateShiftedImmediate(ARM_AM::ShiftOpc ShTy,
1721                                             unsigned SrcReg,
1722                                             unsigned ShiftImm,
1723                                             SMLoc S, SMLoc E) {
1724     ARMOperand *Op = new ARMOperand(k_ShiftedImmediate);
1725     Op->RegShiftedImm.ShiftTy = ShTy;
1726     Op->RegShiftedImm.SrcReg = SrcReg;
1727     Op->RegShiftedImm.ShiftImm = ShiftImm;
1728     Op->StartLoc = S;
1729     Op->EndLoc = E;
1730     return Op;
1731   }
1732
1733   static ARMOperand *CreateShifterImm(bool isASR, unsigned Imm,
1734                                    SMLoc S, SMLoc E) {
1735     ARMOperand *Op = new ARMOperand(k_ShifterImmediate);
1736     Op->ShifterImm.isASR = isASR;
1737     Op->ShifterImm.Imm = Imm;
1738     Op->StartLoc = S;
1739     Op->EndLoc = E;
1740     return Op;
1741   }
1742
1743   static ARMOperand *CreateRotImm(unsigned Imm, SMLoc S, SMLoc E) {
1744     ARMOperand *Op = new ARMOperand(k_RotateImmediate);
1745     Op->RotImm.Imm = Imm;
1746     Op->StartLoc = S;
1747     Op->EndLoc = E;
1748     return Op;
1749   }
1750
1751   static ARMOperand *CreateBitfield(unsigned LSB, unsigned Width,
1752                                     SMLoc S, SMLoc E) {
1753     ARMOperand *Op = new ARMOperand(k_BitfieldDescriptor);
1754     Op->Bitfield.LSB = LSB;
1755     Op->Bitfield.Width = Width;
1756     Op->StartLoc = S;
1757     Op->EndLoc = E;
1758     return Op;
1759   }
1760
1761   static ARMOperand *
1762   CreateRegList(const SmallVectorImpl<std::pair<unsigned, SMLoc> > &Regs,
1763                 SMLoc StartLoc, SMLoc EndLoc) {
1764     KindTy Kind = k_RegisterList;
1765
1766     if (ARMMCRegisterClasses[ARM::DPRRegClassID].contains(Regs.front().first))
1767       Kind = k_DPRRegisterList;
1768     else if (ARMMCRegisterClasses[ARM::SPRRegClassID].
1769              contains(Regs.front().first))
1770       Kind = k_SPRRegisterList;
1771
1772     ARMOperand *Op = new ARMOperand(Kind);
1773     for (SmallVectorImpl<std::pair<unsigned, SMLoc> >::const_iterator
1774            I = Regs.begin(), E = Regs.end(); I != E; ++I)
1775       Op->Registers.push_back(I->first);
1776     array_pod_sort(Op->Registers.begin(), Op->Registers.end());
1777     Op->StartLoc = StartLoc;
1778     Op->EndLoc = EndLoc;
1779     return Op;
1780   }
1781
1782   static ARMOperand *CreateVectorList(unsigned RegNum, unsigned Count,
1783                                       SMLoc S, SMLoc E) {
1784     ARMOperand *Op = new ARMOperand(k_VectorList);
1785     Op->VectorList.RegNum = RegNum;
1786     Op->VectorList.Count = Count;
1787     Op->StartLoc = S;
1788     Op->EndLoc = E;
1789     return Op;
1790   }
1791
1792   static ARMOperand *CreateVectorIndex(unsigned Idx, SMLoc S, SMLoc E,
1793                                        MCContext &Ctx) {
1794     ARMOperand *Op = new ARMOperand(k_VectorIndex);
1795     Op->VectorIndex.Val = Idx;
1796     Op->StartLoc = S;
1797     Op->EndLoc = E;
1798     return Op;
1799   }
1800
1801   static ARMOperand *CreateImm(const MCExpr *Val, SMLoc S, SMLoc E) {
1802     ARMOperand *Op = new ARMOperand(k_Immediate);
1803     Op->Imm.Val = Val;
1804     Op->StartLoc = S;
1805     Op->EndLoc = E;
1806     return Op;
1807   }
1808
1809   static ARMOperand *CreateFPImm(unsigned Val, SMLoc S, MCContext &Ctx) {
1810     ARMOperand *Op = new ARMOperand(k_FPImmediate);
1811     Op->FPImm.Val = Val;
1812     Op->StartLoc = S;
1813     Op->EndLoc = S;
1814     return Op;
1815   }
1816
1817   static ARMOperand *CreateMem(unsigned BaseRegNum,
1818                                const MCConstantExpr *OffsetImm,
1819                                unsigned OffsetRegNum,
1820                                ARM_AM::ShiftOpc ShiftType,
1821                                unsigned ShiftImm,
1822                                unsigned Alignment,
1823                                bool isNegative,
1824                                SMLoc S, SMLoc E) {
1825     ARMOperand *Op = new ARMOperand(k_Memory);
1826     Op->Memory.BaseRegNum = BaseRegNum;
1827     Op->Memory.OffsetImm = OffsetImm;
1828     Op->Memory.OffsetRegNum = OffsetRegNum;
1829     Op->Memory.ShiftType = ShiftType;
1830     Op->Memory.ShiftImm = ShiftImm;
1831     Op->Memory.Alignment = Alignment;
1832     Op->Memory.isNegative = isNegative;
1833     Op->StartLoc = S;
1834     Op->EndLoc = E;
1835     return Op;
1836   }
1837
1838   static ARMOperand *CreatePostIdxReg(unsigned RegNum, bool isAdd,
1839                                       ARM_AM::ShiftOpc ShiftTy,
1840                                       unsigned ShiftImm,
1841                                       SMLoc S, SMLoc E) {
1842     ARMOperand *Op = new ARMOperand(k_PostIndexRegister);
1843     Op->PostIdxReg.RegNum = RegNum;
1844     Op->PostIdxReg.isAdd = isAdd;
1845     Op->PostIdxReg.ShiftTy = ShiftTy;
1846     Op->PostIdxReg.ShiftImm = ShiftImm;
1847     Op->StartLoc = S;
1848     Op->EndLoc = E;
1849     return Op;
1850   }
1851
1852   static ARMOperand *CreateMemBarrierOpt(ARM_MB::MemBOpt Opt, SMLoc S) {
1853     ARMOperand *Op = new ARMOperand(k_MemBarrierOpt);
1854     Op->MBOpt.Val = Opt;
1855     Op->StartLoc = S;
1856     Op->EndLoc = S;
1857     return Op;
1858   }
1859
1860   static ARMOperand *CreateProcIFlags(ARM_PROC::IFlags IFlags, SMLoc S) {
1861     ARMOperand *Op = new ARMOperand(k_ProcIFlags);
1862     Op->IFlags.Val = IFlags;
1863     Op->StartLoc = S;
1864     Op->EndLoc = S;
1865     return Op;
1866   }
1867
1868   static ARMOperand *CreateMSRMask(unsigned MMask, SMLoc S) {
1869     ARMOperand *Op = new ARMOperand(k_MSRMask);
1870     Op->MMask.Val = MMask;
1871     Op->StartLoc = S;
1872     Op->EndLoc = S;
1873     return Op;
1874   }
1875 };
1876
1877 } // end anonymous namespace.
1878
1879 void ARMOperand::print(raw_ostream &OS) const {
1880   switch (Kind) {
1881   case k_FPImmediate:
1882     OS << "<fpimm " << getFPImm() << "(" << ARM_AM::getFPImmFloat(getFPImm())
1883        << ") >";
1884     break;
1885   case k_CondCode:
1886     OS << "<ARMCC::" << ARMCondCodeToString(getCondCode()) << ">";
1887     break;
1888   case k_CCOut:
1889     OS << "<ccout " << getReg() << ">";
1890     break;
1891   case k_ITCondMask: {
1892     static const char *MaskStr[] = {
1893       "()", "(t)", "(e)", "(tt)", "(et)", "(te)", "(ee)", "(ttt)", "(ett)",
1894       "(tet)", "(eet)", "(tte)", "(ete)", "(tee)", "(eee)"
1895     };
1896     assert((ITMask.Mask & 0xf) == ITMask.Mask);
1897     OS << "<it-mask " << MaskStr[ITMask.Mask] << ">";
1898     break;
1899   }
1900   case k_CoprocNum:
1901     OS << "<coprocessor number: " << getCoproc() << ">";
1902     break;
1903   case k_CoprocReg:
1904     OS << "<coprocessor register: " << getCoproc() << ">";
1905     break;
1906   case k_CoprocOption:
1907     OS << "<coprocessor option: " << CoprocOption.Val << ">";
1908     break;
1909   case k_MSRMask:
1910     OS << "<mask: " << getMSRMask() << ">";
1911     break;
1912   case k_Immediate:
1913     getImm()->print(OS);
1914     break;
1915   case k_MemBarrierOpt:
1916     OS << "<ARM_MB::" << MemBOptToString(getMemBarrierOpt()) << ">";
1917     break;
1918   case k_Memory:
1919     OS << "<memory "
1920        << " base:" << Memory.BaseRegNum;
1921     OS << ">";
1922     break;
1923   case k_PostIndexRegister:
1924     OS << "post-idx register " << (PostIdxReg.isAdd ? "" : "-")
1925        << PostIdxReg.RegNum;
1926     if (PostIdxReg.ShiftTy != ARM_AM::no_shift)
1927       OS << ARM_AM::getShiftOpcStr(PostIdxReg.ShiftTy) << " "
1928          << PostIdxReg.ShiftImm;
1929     OS << ">";
1930     break;
1931   case k_ProcIFlags: {
1932     OS << "<ARM_PROC::";
1933     unsigned IFlags = getProcIFlags();
1934     for (int i=2; i >= 0; --i)
1935       if (IFlags & (1 << i))
1936         OS << ARM_PROC::IFlagsToString(1 << i);
1937     OS << ">";
1938     break;
1939   }
1940   case k_Register:
1941     OS << "<register " << getReg() << ">";
1942     break;
1943   case k_ShifterImmediate:
1944     OS << "<shift " << (ShifterImm.isASR ? "asr" : "lsl")
1945        << " #" << ShifterImm.Imm << ">";
1946     break;
1947   case k_ShiftedRegister:
1948     OS << "<so_reg_reg "
1949        << RegShiftedReg.SrcReg
1950        << ARM_AM::getShiftOpcStr(ARM_AM::getSORegShOp(RegShiftedReg.ShiftImm))
1951        << ", " << RegShiftedReg.ShiftReg << ", "
1952        << ARM_AM::getSORegOffset(RegShiftedReg.ShiftImm)
1953        << ">";
1954     break;
1955   case k_ShiftedImmediate:
1956     OS << "<so_reg_imm "
1957        << RegShiftedImm.SrcReg
1958        << ARM_AM::getShiftOpcStr(ARM_AM::getSORegShOp(RegShiftedImm.ShiftImm))
1959        << ", " << ARM_AM::getSORegOffset(RegShiftedImm.ShiftImm)
1960        << ">";
1961     break;
1962   case k_RotateImmediate:
1963     OS << "<ror " << " #" << (RotImm.Imm * 8) << ">";
1964     break;
1965   case k_BitfieldDescriptor:
1966     OS << "<bitfield " << "lsb: " << Bitfield.LSB
1967        << ", width: " << Bitfield.Width << ">";
1968     break;
1969   case k_RegisterList:
1970   case k_DPRRegisterList:
1971   case k_SPRRegisterList: {
1972     OS << "<register_list ";
1973
1974     const SmallVectorImpl<unsigned> &RegList = getRegList();
1975     for (SmallVectorImpl<unsigned>::const_iterator
1976            I = RegList.begin(), E = RegList.end(); I != E; ) {
1977       OS << *I;
1978       if (++I < E) OS << ", ";
1979     }
1980
1981     OS << ">";
1982     break;
1983   }
1984   case k_VectorList:
1985     OS << "<vector_list " << VectorList.Count << " * "
1986        << VectorList.RegNum << ">";
1987     break;
1988   case k_Token:
1989     OS << "'" << getToken() << "'";
1990     break;
1991   case k_VectorIndex:
1992     OS << "<vectorindex " << getVectorIndex() << ">";
1993     break;
1994   }
1995 }
1996
1997 /// @name Auto-generated Match Functions
1998 /// {
1999
2000 static unsigned MatchRegisterName(StringRef Name);
2001
2002 /// }
2003
2004 bool ARMAsmParser::ParseRegister(unsigned &RegNo,
2005                                  SMLoc &StartLoc, SMLoc &EndLoc) {
2006   RegNo = tryParseRegister();
2007
2008   return (RegNo == (unsigned)-1);
2009 }
2010
2011 /// Try to parse a register name.  The token must be an Identifier when called,
2012 /// and if it is a register name the token is eaten and the register number is
2013 /// returned.  Otherwise return -1.
2014 ///
2015 int ARMAsmParser::tryParseRegister() {
2016   const AsmToken &Tok = Parser.getTok();
2017   if (Tok.isNot(AsmToken::Identifier)) return -1;
2018
2019   // FIXME: Validate register for the current architecture; we have to do
2020   // validation later, so maybe there is no need for this here.
2021   std::string lowerCase = Tok.getString().lower();
2022   unsigned RegNum = MatchRegisterName(lowerCase);
2023   if (!RegNum) {
2024     RegNum = StringSwitch<unsigned>(lowerCase)
2025       .Case("r13", ARM::SP)
2026       .Case("r14", ARM::LR)
2027       .Case("r15", ARM::PC)
2028       .Case("ip", ARM::R12)
2029       .Default(0);
2030   }
2031   if (!RegNum) return -1;
2032
2033   Parser.Lex(); // Eat identifier token.
2034
2035   return RegNum;
2036 }
2037
2038 // Try to parse a shifter  (e.g., "lsl <amt>"). On success, return 0.
2039 // If a recoverable error occurs, return 1. If an irrecoverable error
2040 // occurs, return -1. An irrecoverable error is one where tokens have been
2041 // consumed in the process of trying to parse the shifter (i.e., when it is
2042 // indeed a shifter operand, but malformed).
2043 int ARMAsmParser::tryParseShiftRegister(
2044                                SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2045   SMLoc S = Parser.getTok().getLoc();
2046   const AsmToken &Tok = Parser.getTok();
2047   assert(Tok.is(AsmToken::Identifier) && "Token is not an Identifier");
2048
2049   std::string lowerCase = Tok.getString().lower();
2050   ARM_AM::ShiftOpc ShiftTy = StringSwitch<ARM_AM::ShiftOpc>(lowerCase)
2051       .Case("lsl", ARM_AM::lsl)
2052       .Case("lsr", ARM_AM::lsr)
2053       .Case("asr", ARM_AM::asr)
2054       .Case("ror", ARM_AM::ror)
2055       .Case("rrx", ARM_AM::rrx)
2056       .Default(ARM_AM::no_shift);
2057
2058   if (ShiftTy == ARM_AM::no_shift)
2059     return 1;
2060
2061   Parser.Lex(); // Eat the operator.
2062
2063   // The source register for the shift has already been added to the
2064   // operand list, so we need to pop it off and combine it into the shifted
2065   // register operand instead.
2066   OwningPtr<ARMOperand> PrevOp((ARMOperand*)Operands.pop_back_val());
2067   if (!PrevOp->isReg())
2068     return Error(PrevOp->getStartLoc(), "shift must be of a register");
2069   int SrcReg = PrevOp->getReg();
2070   int64_t Imm = 0;
2071   int ShiftReg = 0;
2072   if (ShiftTy == ARM_AM::rrx) {
2073     // RRX Doesn't have an explicit shift amount. The encoder expects
2074     // the shift register to be the same as the source register. Seems odd,
2075     // but OK.
2076     ShiftReg = SrcReg;
2077   } else {
2078     // Figure out if this is shifted by a constant or a register (for non-RRX).
2079     if (Parser.getTok().is(AsmToken::Hash)) {
2080       Parser.Lex(); // Eat hash.
2081       SMLoc ImmLoc = Parser.getTok().getLoc();
2082       const MCExpr *ShiftExpr = 0;
2083       if (getParser().ParseExpression(ShiftExpr)) {
2084         Error(ImmLoc, "invalid immediate shift value");
2085         return -1;
2086       }
2087       // The expression must be evaluatable as an immediate.
2088       const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(ShiftExpr);
2089       if (!CE) {
2090         Error(ImmLoc, "invalid immediate shift value");
2091         return -1;
2092       }
2093       // Range check the immediate.
2094       // lsl, ror: 0 <= imm <= 31
2095       // lsr, asr: 0 <= imm <= 32
2096       Imm = CE->getValue();
2097       if (Imm < 0 ||
2098           ((ShiftTy == ARM_AM::lsl || ShiftTy == ARM_AM::ror) && Imm > 31) ||
2099           ((ShiftTy == ARM_AM::lsr || ShiftTy == ARM_AM::asr) && Imm > 32)) {
2100         Error(ImmLoc, "immediate shift value out of range");
2101         return -1;
2102       }
2103     } else if (Parser.getTok().is(AsmToken::Identifier)) {
2104       ShiftReg = tryParseRegister();
2105       SMLoc L = Parser.getTok().getLoc();
2106       if (ShiftReg == -1) {
2107         Error (L, "expected immediate or register in shift operand");
2108         return -1;
2109       }
2110     } else {
2111       Error (Parser.getTok().getLoc(),
2112                     "expected immediate or register in shift operand");
2113       return -1;
2114     }
2115   }
2116
2117   if (ShiftReg && ShiftTy != ARM_AM::rrx)
2118     Operands.push_back(ARMOperand::CreateShiftedRegister(ShiftTy, SrcReg,
2119                                                          ShiftReg, Imm,
2120                                                S, Parser.getTok().getLoc()));
2121   else
2122     Operands.push_back(ARMOperand::CreateShiftedImmediate(ShiftTy, SrcReg, Imm,
2123                                                S, Parser.getTok().getLoc()));
2124
2125   return 0;
2126 }
2127
2128
2129 /// Try to parse a register name.  The token must be an Identifier when called.
2130 /// If it's a register, an AsmOperand is created. Another AsmOperand is created
2131 /// if there is a "writeback". 'true' if it's not a register.
2132 ///
2133 /// TODO this is likely to change to allow different register types and or to
2134 /// parse for a specific register type.
2135 bool ARMAsmParser::
2136 tryParseRegisterWithWriteBack(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2137   SMLoc S = Parser.getTok().getLoc();
2138   int RegNo = tryParseRegister();
2139   if (RegNo == -1)
2140     return true;
2141
2142   Operands.push_back(ARMOperand::CreateReg(RegNo, S, Parser.getTok().getLoc()));
2143
2144   const AsmToken &ExclaimTok = Parser.getTok();
2145   if (ExclaimTok.is(AsmToken::Exclaim)) {
2146     Operands.push_back(ARMOperand::CreateToken(ExclaimTok.getString(),
2147                                                ExclaimTok.getLoc()));
2148     Parser.Lex(); // Eat exclaim token
2149     return false;
2150   }
2151
2152   // Also check for an index operand. This is only legal for vector registers,
2153   // but that'll get caught OK in operand matching, so we don't need to
2154   // explicitly filter everything else out here.
2155   if (Parser.getTok().is(AsmToken::LBrac)) {
2156     SMLoc SIdx = Parser.getTok().getLoc();
2157     Parser.Lex(); // Eat left bracket token.
2158
2159     const MCExpr *ImmVal;
2160     if (getParser().ParseExpression(ImmVal))
2161       return MatchOperand_ParseFail;
2162     const MCConstantExpr *MCE = dyn_cast<MCConstantExpr>(ImmVal);
2163     if (!MCE) {
2164       TokError("immediate value expected for vector index");
2165       return MatchOperand_ParseFail;
2166     }
2167
2168     SMLoc E = Parser.getTok().getLoc();
2169     if (Parser.getTok().isNot(AsmToken::RBrac)) {
2170       Error(E, "']' expected");
2171       return MatchOperand_ParseFail;
2172     }
2173
2174     Parser.Lex(); // Eat right bracket token.
2175
2176     Operands.push_back(ARMOperand::CreateVectorIndex(MCE->getValue(),
2177                                                      SIdx, E,
2178                                                      getContext()));
2179   }
2180
2181   return false;
2182 }
2183
2184 /// MatchCoprocessorOperandName - Try to parse an coprocessor related
2185 /// instruction with a symbolic operand name. Example: "p1", "p7", "c3",
2186 /// "c5", ...
2187 static int MatchCoprocessorOperandName(StringRef Name, char CoprocOp) {
2188   // Use the same layout as the tablegen'erated register name matcher. Ugly,
2189   // but efficient.
2190   switch (Name.size()) {
2191   default: break;
2192   case 2:
2193     if (Name[0] != CoprocOp)
2194       return -1;
2195     switch (Name[1]) {
2196     default:  return -1;
2197     case '0': return 0;
2198     case '1': return 1;
2199     case '2': return 2;
2200     case '3': return 3;
2201     case '4': return 4;
2202     case '5': return 5;
2203     case '6': return 6;
2204     case '7': return 7;
2205     case '8': return 8;
2206     case '9': return 9;
2207     }
2208     break;
2209   case 3:
2210     if (Name[0] != CoprocOp || Name[1] != '1')
2211       return -1;
2212     switch (Name[2]) {
2213     default:  return -1;
2214     case '0': return 10;
2215     case '1': return 11;
2216     case '2': return 12;
2217     case '3': return 13;
2218     case '4': return 14;
2219     case '5': return 15;
2220     }
2221     break;
2222   }
2223
2224   return -1;
2225 }
2226
2227 /// parseITCondCode - Try to parse a condition code for an IT instruction.
2228 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2229 parseITCondCode(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2230   SMLoc S = Parser.getTok().getLoc();
2231   const AsmToken &Tok = Parser.getTok();
2232   if (!Tok.is(AsmToken::Identifier))
2233     return MatchOperand_NoMatch;
2234   unsigned CC = StringSwitch<unsigned>(Tok.getString())
2235     .Case("eq", ARMCC::EQ)
2236     .Case("ne", ARMCC::NE)
2237     .Case("hs", ARMCC::HS)
2238     .Case("cs", ARMCC::HS)
2239     .Case("lo", ARMCC::LO)
2240     .Case("cc", ARMCC::LO)
2241     .Case("mi", ARMCC::MI)
2242     .Case("pl", ARMCC::PL)
2243     .Case("vs", ARMCC::VS)
2244     .Case("vc", ARMCC::VC)
2245     .Case("hi", ARMCC::HI)
2246     .Case("ls", ARMCC::LS)
2247     .Case("ge", ARMCC::GE)
2248     .Case("lt", ARMCC::LT)
2249     .Case("gt", ARMCC::GT)
2250     .Case("le", ARMCC::LE)
2251     .Case("al", ARMCC::AL)
2252     .Default(~0U);
2253   if (CC == ~0U)
2254     return MatchOperand_NoMatch;
2255   Parser.Lex(); // Eat the token.
2256
2257   Operands.push_back(ARMOperand::CreateCondCode(ARMCC::CondCodes(CC), S));
2258
2259   return MatchOperand_Success;
2260 }
2261
2262 /// parseCoprocNumOperand - Try to parse an coprocessor number operand. The
2263 /// token must be an Identifier when called, and if it is a coprocessor
2264 /// number, the token is eaten and the operand is added to the operand list.
2265 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2266 parseCoprocNumOperand(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2267   SMLoc S = Parser.getTok().getLoc();
2268   const AsmToken &Tok = Parser.getTok();
2269   if (Tok.isNot(AsmToken::Identifier))
2270     return MatchOperand_NoMatch;
2271
2272   int Num = MatchCoprocessorOperandName(Tok.getString(), 'p');
2273   if (Num == -1)
2274     return MatchOperand_NoMatch;
2275
2276   Parser.Lex(); // Eat identifier token.
2277   Operands.push_back(ARMOperand::CreateCoprocNum(Num, S));
2278   return MatchOperand_Success;
2279 }
2280
2281 /// parseCoprocRegOperand - Try to parse an coprocessor register operand. The
2282 /// token must be an Identifier when called, and if it is a coprocessor
2283 /// number, the token is eaten and the operand is added to the operand list.
2284 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2285 parseCoprocRegOperand(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2286   SMLoc S = Parser.getTok().getLoc();
2287   const AsmToken &Tok = Parser.getTok();
2288   if (Tok.isNot(AsmToken::Identifier))
2289     return MatchOperand_NoMatch;
2290
2291   int Reg = MatchCoprocessorOperandName(Tok.getString(), 'c');
2292   if (Reg == -1)
2293     return MatchOperand_NoMatch;
2294
2295   Parser.Lex(); // Eat identifier token.
2296   Operands.push_back(ARMOperand::CreateCoprocReg(Reg, S));
2297   return MatchOperand_Success;
2298 }
2299
2300 /// parseCoprocOptionOperand - Try to parse an coprocessor option operand.
2301 /// coproc_option : '{' imm0_255 '}'
2302 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2303 parseCoprocOptionOperand(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2304   SMLoc S = Parser.getTok().getLoc();
2305
2306   // If this isn't a '{', this isn't a coprocessor immediate operand.
2307   if (Parser.getTok().isNot(AsmToken::LCurly))
2308     return MatchOperand_NoMatch;
2309   Parser.Lex(); // Eat the '{'
2310
2311   const MCExpr *Expr;
2312   SMLoc Loc = Parser.getTok().getLoc();
2313   if (getParser().ParseExpression(Expr)) {
2314     Error(Loc, "illegal expression");
2315     return MatchOperand_ParseFail;
2316   }
2317   const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(Expr);
2318   if (!CE || CE->getValue() < 0 || CE->getValue() > 255) {
2319     Error(Loc, "coprocessor option must be an immediate in range [0, 255]");
2320     return MatchOperand_ParseFail;
2321   }
2322   int Val = CE->getValue();
2323
2324   // Check for and consume the closing '}'
2325   if (Parser.getTok().isNot(AsmToken::RCurly))
2326     return MatchOperand_ParseFail;
2327   SMLoc E = Parser.getTok().getLoc();
2328   Parser.Lex(); // Eat the '}'
2329
2330   Operands.push_back(ARMOperand::CreateCoprocOption(Val, S, E));
2331   return MatchOperand_Success;
2332 }
2333
2334 // For register list parsing, we need to map from raw GPR register numbering
2335 // to the enumeration values. The enumeration values aren't sorted by
2336 // register number due to our using "sp", "lr" and "pc" as canonical names.
2337 static unsigned getNextRegister(unsigned Reg) {
2338   // If this is a GPR, we need to do it manually, otherwise we can rely
2339   // on the sort ordering of the enumeration since the other reg-classes
2340   // are sane.
2341   if (!ARMMCRegisterClasses[ARM::GPRRegClassID].contains(Reg))
2342     return Reg + 1;
2343   switch(Reg) {
2344   default: assert(0 && "Invalid GPR number!");
2345   case ARM::R0:  return ARM::R1;  case ARM::R1:  return ARM::R2;
2346   case ARM::R2:  return ARM::R3;  case ARM::R3:  return ARM::R4;
2347   case ARM::R4:  return ARM::R5;  case ARM::R5:  return ARM::R6;
2348   case ARM::R6:  return ARM::R7;  case ARM::R7:  return ARM::R8;
2349   case ARM::R8:  return ARM::R9;  case ARM::R9:  return ARM::R10;
2350   case ARM::R10: return ARM::R11; case ARM::R11: return ARM::R12;
2351   case ARM::R12: return ARM::SP;  case ARM::SP:  return ARM::LR;
2352   case ARM::LR:  return ARM::PC;  case ARM::PC:  return ARM::R0;
2353   }
2354 }
2355
2356 // Return the low-subreg of a given Q register.
2357 static unsigned getDRegFromQReg(unsigned QReg) {
2358   switch (QReg) {
2359   default: llvm_unreachable("expected a Q register!");
2360   case ARM::Q0:  return ARM::D0;
2361   case ARM::Q1:  return ARM::D2;
2362   case ARM::Q2:  return ARM::D4;
2363   case ARM::Q3:  return ARM::D6;
2364   case ARM::Q4:  return ARM::D8;
2365   case ARM::Q5:  return ARM::D10;
2366   case ARM::Q6:  return ARM::D12;
2367   case ARM::Q7:  return ARM::D14;
2368   case ARM::Q8:  return ARM::D16;
2369   case ARM::Q9:  return ARM::D18;
2370   case ARM::Q10: return ARM::D20;
2371   case ARM::Q11: return ARM::D22;
2372   case ARM::Q12: return ARM::D24;
2373   case ARM::Q13: return ARM::D26;
2374   case ARM::Q14: return ARM::D28;
2375   case ARM::Q15: return ARM::D30;
2376   }
2377 }
2378
2379 /// Parse a register list.
2380 bool ARMAsmParser::
2381 parseRegisterList(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2382   assert(Parser.getTok().is(AsmToken::LCurly) &&
2383          "Token is not a Left Curly Brace");
2384   SMLoc S = Parser.getTok().getLoc();
2385   Parser.Lex(); // Eat '{' token.
2386   SMLoc RegLoc = Parser.getTok().getLoc();
2387
2388   // Check the first register in the list to see what register class
2389   // this is a list of.
2390   int Reg = tryParseRegister();
2391   if (Reg == -1)
2392     return Error(RegLoc, "register expected");
2393
2394   // The reglist instructions have at most 16 registers, so reserve
2395   // space for that many.
2396   SmallVector<std::pair<unsigned, SMLoc>, 16> Registers;
2397
2398   // Allow Q regs and just interpret them as the two D sub-registers.
2399   if (ARMMCRegisterClasses[ARM::QPRRegClassID].contains(Reg)) {
2400     Reg = getDRegFromQReg(Reg);
2401     Registers.push_back(std::pair<unsigned, SMLoc>(Reg, RegLoc));
2402     ++Reg;
2403   }
2404   const MCRegisterClass *RC;
2405   if (ARMMCRegisterClasses[ARM::GPRRegClassID].contains(Reg))
2406     RC = &ARMMCRegisterClasses[ARM::GPRRegClassID];
2407   else if (ARMMCRegisterClasses[ARM::DPRRegClassID].contains(Reg))
2408     RC = &ARMMCRegisterClasses[ARM::DPRRegClassID];
2409   else if (ARMMCRegisterClasses[ARM::SPRRegClassID].contains(Reg))
2410     RC = &ARMMCRegisterClasses[ARM::SPRRegClassID];
2411   else
2412     return Error(RegLoc, "invalid register in register list");
2413
2414   // Store the register.
2415   Registers.push_back(std::pair<unsigned, SMLoc>(Reg, RegLoc));
2416
2417   // This starts immediately after the first register token in the list,
2418   // so we can see either a comma or a minus (range separator) as a legal
2419   // next token.
2420   while (Parser.getTok().is(AsmToken::Comma) ||
2421          Parser.getTok().is(AsmToken::Minus)) {
2422     if (Parser.getTok().is(AsmToken::Minus)) {
2423       Parser.Lex(); // Eat the comma.
2424       SMLoc EndLoc = Parser.getTok().getLoc();
2425       int EndReg = tryParseRegister();
2426       if (EndReg == -1)
2427         return Error(EndLoc, "register expected");
2428       // Allow Q regs and just interpret them as the two D sub-registers.
2429       if (ARMMCRegisterClasses[ARM::QPRRegClassID].contains(EndReg))
2430         EndReg = getDRegFromQReg(EndReg) + 1;
2431       // If the register is the same as the start reg, there's nothing
2432       // more to do.
2433       if (Reg == EndReg)
2434         continue;
2435       // The register must be in the same register class as the first.
2436       if (!RC->contains(EndReg))
2437         return Error(EndLoc, "invalid register in register list");
2438       // Ranges must go from low to high.
2439       if (getARMRegisterNumbering(Reg) > getARMRegisterNumbering(EndReg))
2440         return Error(EndLoc, "bad range in register list");
2441
2442       // Add all the registers in the range to the register list.
2443       while (Reg != EndReg) {
2444         Reg = getNextRegister(Reg);
2445         Registers.push_back(std::pair<unsigned, SMLoc>(Reg, RegLoc));
2446       }
2447       continue;
2448     }
2449     Parser.Lex(); // Eat the comma.
2450     RegLoc = Parser.getTok().getLoc();
2451     int OldReg = Reg;
2452     Reg = tryParseRegister();
2453     if (Reg == -1)
2454       return Error(RegLoc, "register expected");
2455     // Allow Q regs and just interpret them as the two D sub-registers.
2456     bool isQReg = false;
2457     if (ARMMCRegisterClasses[ARM::QPRRegClassID].contains(Reg)) {
2458       Reg = getDRegFromQReg(Reg);
2459       isQReg = true;
2460     }
2461     // The register must be in the same register class as the first.
2462     if (!RC->contains(Reg))
2463       return Error(RegLoc, "invalid register in register list");
2464     // List must be monotonically increasing.
2465     if (getARMRegisterNumbering(Reg) <= getARMRegisterNumbering(OldReg))
2466       return Error(RegLoc, "register list not in ascending order");
2467     // VFP register lists must also be contiguous.
2468     // It's OK to use the enumeration values directly here rather, as the
2469     // VFP register classes have the enum sorted properly.
2470     if (RC != &ARMMCRegisterClasses[ARM::GPRRegClassID] &&
2471         Reg != OldReg + 1)
2472       return Error(RegLoc, "non-contiguous register range");
2473     Registers.push_back(std::pair<unsigned, SMLoc>(Reg, RegLoc));
2474     if (isQReg)
2475       Registers.push_back(std::pair<unsigned, SMLoc>(++Reg, RegLoc));
2476   }
2477
2478   SMLoc E = Parser.getTok().getLoc();
2479   if (Parser.getTok().isNot(AsmToken::RCurly))
2480     return Error(E, "'}' expected");
2481   Parser.Lex(); // Eat '}' token.
2482
2483   Operands.push_back(ARMOperand::CreateRegList(Registers, S, E));
2484   return false;
2485 }
2486
2487 // parse a vector register list
2488 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2489 parseVectorList(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2490   SMLoc S = Parser.getTok().getLoc();
2491   // As an extension (to match gas), support a plain D register or Q register
2492   // (without encosing curly braces) as a single or double entry list,
2493   // respectively.
2494   if (Parser.getTok().is(AsmToken::Identifier)) {
2495     int Reg = tryParseRegister();
2496     if (Reg == -1)
2497       return MatchOperand_NoMatch;
2498     SMLoc E = Parser.getTok().getLoc();
2499     if (ARMMCRegisterClasses[ARM::DPRRegClassID].contains(Reg)) {
2500       Operands.push_back(ARMOperand::CreateVectorList(Reg, 1, S, E));
2501       return MatchOperand_Success;
2502     }
2503     if (ARMMCRegisterClasses[ARM::QPRRegClassID].contains(Reg)) {
2504       Reg = getDRegFromQReg(Reg);
2505       Operands.push_back(ARMOperand::CreateVectorList(Reg, 2, S, E));
2506       return MatchOperand_Success;
2507     }
2508     Error(S, "vector register expected");
2509     return MatchOperand_ParseFail;
2510   }
2511
2512   if (Parser.getTok().isNot(AsmToken::LCurly))
2513     return MatchOperand_NoMatch;
2514
2515   Parser.Lex(); // Eat '{' token.
2516   SMLoc RegLoc = Parser.getTok().getLoc();
2517
2518   int Reg = tryParseRegister();
2519   if (Reg == -1) {
2520     Error(RegLoc, "register expected");
2521     return MatchOperand_ParseFail;
2522   }
2523   unsigned Count = 1;
2524   unsigned FirstReg = Reg;
2525   // The list is of D registers, but we also allow Q regs and just interpret
2526   // them as the two D sub-registers.
2527   if (ARMMCRegisterClasses[ARM::QPRRegClassID].contains(Reg)) {
2528     FirstReg = Reg = getDRegFromQReg(Reg);
2529     ++Reg;
2530     ++Count;
2531   }
2532
2533   while (Parser.getTok().is(AsmToken::Comma)) {
2534     Parser.Lex(); // Eat the comma.
2535     RegLoc = Parser.getTok().getLoc();
2536     int OldReg = Reg;
2537     Reg = tryParseRegister();
2538     if (Reg == -1) {
2539       Error(RegLoc, "register expected");
2540       return MatchOperand_ParseFail;
2541     }
2542     // vector register lists must be contiguous.
2543     // It's OK to use the enumeration values directly here rather, as the
2544     // VFP register classes have the enum sorted properly.
2545     //
2546     // The list is of D registers, but we also allow Q regs and just interpret
2547     // them as the two D sub-registers.
2548     if (ARMMCRegisterClasses[ARM::QPRRegClassID].contains(Reg)) {
2549       Reg = getDRegFromQReg(Reg);
2550       if (Reg != OldReg + 1) {
2551         Error(RegLoc, "non-contiguous register range");
2552         return MatchOperand_ParseFail;
2553       }
2554       ++Reg;
2555       Count += 2;
2556       continue;
2557     }
2558     // Normal D register. Just check that it's contiguous and keep going.
2559     if (Reg != OldReg + 1) {
2560       Error(RegLoc, "non-contiguous register range");
2561       return MatchOperand_ParseFail;
2562     }
2563     ++Count;
2564   }
2565
2566   SMLoc E = Parser.getTok().getLoc();
2567   if (Parser.getTok().isNot(AsmToken::RCurly)) {
2568     Error(E, "'}' expected");
2569     return MatchOperand_ParseFail;
2570   }
2571   Parser.Lex(); // Eat '}' token.
2572
2573   Operands.push_back(ARMOperand::CreateVectorList(FirstReg, Count, S, E));
2574   return MatchOperand_Success;
2575 }
2576
2577 /// parseMemBarrierOptOperand - Try to parse DSB/DMB data barrier options.
2578 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2579 parseMemBarrierOptOperand(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2580   SMLoc S = Parser.getTok().getLoc();
2581   const AsmToken &Tok = Parser.getTok();
2582   assert(Tok.is(AsmToken::Identifier) && "Token is not an Identifier");
2583   StringRef OptStr = Tok.getString();
2584
2585   unsigned Opt = StringSwitch<unsigned>(OptStr.slice(0, OptStr.size()))
2586     .Case("sy",    ARM_MB::SY)
2587     .Case("st",    ARM_MB::ST)
2588     .Case("sh",    ARM_MB::ISH)
2589     .Case("ish",   ARM_MB::ISH)
2590     .Case("shst",  ARM_MB::ISHST)
2591     .Case("ishst", ARM_MB::ISHST)
2592     .Case("nsh",   ARM_MB::NSH)
2593     .Case("un",    ARM_MB::NSH)
2594     .Case("nshst", ARM_MB::NSHST)
2595     .Case("unst",  ARM_MB::NSHST)
2596     .Case("osh",   ARM_MB::OSH)
2597     .Case("oshst", ARM_MB::OSHST)
2598     .Default(~0U);
2599
2600   if (Opt == ~0U)
2601     return MatchOperand_NoMatch;
2602
2603   Parser.Lex(); // Eat identifier token.
2604   Operands.push_back(ARMOperand::CreateMemBarrierOpt((ARM_MB::MemBOpt)Opt, S));
2605   return MatchOperand_Success;
2606 }
2607
2608 /// parseProcIFlagsOperand - Try to parse iflags from CPS instruction.
2609 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2610 parseProcIFlagsOperand(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2611   SMLoc S = Parser.getTok().getLoc();
2612   const AsmToken &Tok = Parser.getTok();
2613   assert(Tok.is(AsmToken::Identifier) && "Token is not an Identifier");
2614   StringRef IFlagsStr = Tok.getString();
2615
2616   // An iflags string of "none" is interpreted to mean that none of the AIF
2617   // bits are set.  Not a terribly useful instruction, but a valid encoding.
2618   unsigned IFlags = 0;
2619   if (IFlagsStr != "none") {
2620         for (int i = 0, e = IFlagsStr.size(); i != e; ++i) {
2621       unsigned Flag = StringSwitch<unsigned>(IFlagsStr.substr(i, 1))
2622         .Case("a", ARM_PROC::A)
2623         .Case("i", ARM_PROC::I)
2624         .Case("f", ARM_PROC::F)
2625         .Default(~0U);
2626
2627       // If some specific iflag is already set, it means that some letter is
2628       // present more than once, this is not acceptable.
2629       if (Flag == ~0U || (IFlags & Flag))
2630         return MatchOperand_NoMatch;
2631
2632       IFlags |= Flag;
2633     }
2634   }
2635
2636   Parser.Lex(); // Eat identifier token.
2637   Operands.push_back(ARMOperand::CreateProcIFlags((ARM_PROC::IFlags)IFlags, S));
2638   return MatchOperand_Success;
2639 }
2640
2641 /// parseMSRMaskOperand - Try to parse mask flags from MSR instruction.
2642 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2643 parseMSRMaskOperand(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2644   SMLoc S = Parser.getTok().getLoc();
2645   const AsmToken &Tok = Parser.getTok();
2646   assert(Tok.is(AsmToken::Identifier) && "Token is not an Identifier");
2647   StringRef Mask = Tok.getString();
2648
2649   if (isMClass()) {
2650     // See ARMv6-M 10.1.1
2651     unsigned FlagsVal = StringSwitch<unsigned>(Mask)
2652       .Case("apsr", 0)
2653       .Case("iapsr", 1)
2654       .Case("eapsr", 2)
2655       .Case("xpsr", 3)
2656       .Case("ipsr", 5)
2657       .Case("epsr", 6)
2658       .Case("iepsr", 7)
2659       .Case("msp", 8)
2660       .Case("psp", 9)
2661       .Case("primask", 16)
2662       .Case("basepri", 17)
2663       .Case("basepri_max", 18)
2664       .Case("faultmask", 19)
2665       .Case("control", 20)
2666       .Default(~0U);
2667
2668     if (FlagsVal == ~0U)
2669       return MatchOperand_NoMatch;
2670
2671     if (!hasV7Ops() && FlagsVal >= 17 && FlagsVal <= 19)
2672       // basepri, basepri_max and faultmask only valid for V7m.
2673       return MatchOperand_NoMatch;
2674
2675     Parser.Lex(); // Eat identifier token.
2676     Operands.push_back(ARMOperand::CreateMSRMask(FlagsVal, S));
2677     return MatchOperand_Success;
2678   }
2679
2680   // Split spec_reg from flag, example: CPSR_sxf => "CPSR" and "sxf"
2681   size_t Start = 0, Next = Mask.find('_');
2682   StringRef Flags = "";
2683   std::string SpecReg = Mask.slice(Start, Next).lower();
2684   if (Next != StringRef::npos)
2685     Flags = Mask.slice(Next+1, Mask.size());
2686
2687   // FlagsVal contains the complete mask:
2688   // 3-0: Mask
2689   // 4: Special Reg (cpsr, apsr => 0; spsr => 1)
2690   unsigned FlagsVal = 0;
2691
2692   if (SpecReg == "apsr") {
2693     FlagsVal = StringSwitch<unsigned>(Flags)
2694     .Case("nzcvq",  0x8) // same as CPSR_f
2695     .Case("g",      0x4) // same as CPSR_s
2696     .Case("nzcvqg", 0xc) // same as CPSR_fs
2697     .Default(~0U);
2698
2699     if (FlagsVal == ~0U) {
2700       if (!Flags.empty())
2701         return MatchOperand_NoMatch;
2702       else
2703         FlagsVal = 8; // No flag
2704     }
2705   } else if (SpecReg == "cpsr" || SpecReg == "spsr") {
2706     if (Flags == "all") // cpsr_all is an alias for cpsr_fc
2707       Flags = "fc";
2708     for (int i = 0, e = Flags.size(); i != e; ++i) {
2709       unsigned Flag = StringSwitch<unsigned>(Flags.substr(i, 1))
2710       .Case("c", 1)
2711       .Case("x", 2)
2712       .Case("s", 4)
2713       .Case("f", 8)
2714       .Default(~0U);
2715
2716       // If some specific flag is already set, it means that some letter is
2717       // present more than once, this is not acceptable.
2718       if (FlagsVal == ~0U || (FlagsVal & Flag))
2719         return MatchOperand_NoMatch;
2720       FlagsVal |= Flag;
2721     }
2722   } else // No match for special register.
2723     return MatchOperand_NoMatch;
2724
2725   // Special register without flags is NOT equivalent to "fc" flags.
2726   // NOTE: This is a divergence from gas' behavior.  Uncommenting the following
2727   // two lines would enable gas compatibility at the expense of breaking
2728   // round-tripping.
2729   //
2730   // if (!FlagsVal)
2731   //  FlagsVal = 0x9;
2732
2733   // Bit 4: Special Reg (cpsr, apsr => 0; spsr => 1)
2734   if (SpecReg == "spsr")
2735     FlagsVal |= 16;
2736
2737   Parser.Lex(); // Eat identifier token.
2738   Operands.push_back(ARMOperand::CreateMSRMask(FlagsVal, S));
2739   return MatchOperand_Success;
2740 }
2741
2742 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2743 parsePKHImm(SmallVectorImpl<MCParsedAsmOperand*> &Operands, StringRef Op,
2744             int Low, int High) {
2745   const AsmToken &Tok = Parser.getTok();
2746   if (Tok.isNot(AsmToken::Identifier)) {
2747     Error(Parser.getTok().getLoc(), Op + " operand expected.");
2748     return MatchOperand_ParseFail;
2749   }
2750   StringRef ShiftName = Tok.getString();
2751   std::string LowerOp = Op.lower();
2752   std::string UpperOp = Op.upper();
2753   if (ShiftName != LowerOp && ShiftName != UpperOp) {
2754     Error(Parser.getTok().getLoc(), Op + " operand expected.");
2755     return MatchOperand_ParseFail;
2756   }
2757   Parser.Lex(); // Eat shift type token.
2758
2759   // There must be a '#' and a shift amount.
2760   if (Parser.getTok().isNot(AsmToken::Hash)) {
2761     Error(Parser.getTok().getLoc(), "'#' expected");
2762     return MatchOperand_ParseFail;
2763   }
2764   Parser.Lex(); // Eat hash token.
2765
2766   const MCExpr *ShiftAmount;
2767   SMLoc Loc = Parser.getTok().getLoc();
2768   if (getParser().ParseExpression(ShiftAmount)) {
2769     Error(Loc, "illegal expression");
2770     return MatchOperand_ParseFail;
2771   }
2772   const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(ShiftAmount);
2773   if (!CE) {
2774     Error(Loc, "constant expression expected");
2775     return MatchOperand_ParseFail;
2776   }
2777   int Val = CE->getValue();
2778   if (Val < Low || Val > High) {
2779     Error(Loc, "immediate value out of range");
2780     return MatchOperand_ParseFail;
2781   }
2782
2783   Operands.push_back(ARMOperand::CreateImm(CE, Loc, Parser.getTok().getLoc()));
2784
2785   return MatchOperand_Success;
2786 }
2787
2788 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2789 parseSetEndImm(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2790   const AsmToken &Tok = Parser.getTok();
2791   SMLoc S = Tok.getLoc();
2792   if (Tok.isNot(AsmToken::Identifier)) {
2793     Error(Tok.getLoc(), "'be' or 'le' operand expected");
2794     return MatchOperand_ParseFail;
2795   }
2796   int Val = StringSwitch<int>(Tok.getString())
2797     .Case("be", 1)
2798     .Case("le", 0)
2799     .Default(-1);
2800   Parser.Lex(); // Eat the token.
2801
2802   if (Val == -1) {
2803     Error(Tok.getLoc(), "'be' or 'le' operand expected");
2804     return MatchOperand_ParseFail;
2805   }
2806   Operands.push_back(ARMOperand::CreateImm(MCConstantExpr::Create(Val,
2807                                                                   getContext()),
2808                                            S, Parser.getTok().getLoc()));
2809   return MatchOperand_Success;
2810 }
2811
2812 /// parseShifterImm - Parse the shifter immediate operand for SSAT/USAT
2813 /// instructions. Legal values are:
2814 ///     lsl #n  'n' in [0,31]
2815 ///     asr #n  'n' in [1,32]
2816 ///             n == 32 encoded as n == 0.
2817 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2818 parseShifterImm(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2819   const AsmToken &Tok = Parser.getTok();
2820   SMLoc S = Tok.getLoc();
2821   if (Tok.isNot(AsmToken::Identifier)) {
2822     Error(S, "shift operator 'asr' or 'lsl' expected");
2823     return MatchOperand_ParseFail;
2824   }
2825   StringRef ShiftName = Tok.getString();
2826   bool isASR;
2827   if (ShiftName == "lsl" || ShiftName == "LSL")
2828     isASR = false;
2829   else if (ShiftName == "asr" || ShiftName == "ASR")
2830     isASR = true;
2831   else {
2832     Error(S, "shift operator 'asr' or 'lsl' expected");
2833     return MatchOperand_ParseFail;
2834   }
2835   Parser.Lex(); // Eat the operator.
2836
2837   // A '#' and a shift amount.
2838   if (Parser.getTok().isNot(AsmToken::Hash)) {
2839     Error(Parser.getTok().getLoc(), "'#' expected");
2840     return MatchOperand_ParseFail;
2841   }
2842   Parser.Lex(); // Eat hash token.
2843
2844   const MCExpr *ShiftAmount;
2845   SMLoc E = Parser.getTok().getLoc();
2846   if (getParser().ParseExpression(ShiftAmount)) {
2847     Error(E, "malformed shift expression");
2848     return MatchOperand_ParseFail;
2849   }
2850   const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(ShiftAmount);
2851   if (!CE) {
2852     Error(E, "shift amount must be an immediate");
2853     return MatchOperand_ParseFail;
2854   }
2855
2856   int64_t Val = CE->getValue();
2857   if (isASR) {
2858     // Shift amount must be in [1,32]
2859     if (Val < 1 || Val > 32) {
2860       Error(E, "'asr' shift amount must be in range [1,32]");
2861       return MatchOperand_ParseFail;
2862     }
2863     // asr #32 encoded as asr #0, but is not allowed in Thumb2 mode.
2864     if (isThumb() && Val == 32) {
2865       Error(E, "'asr #32' shift amount not allowed in Thumb mode");
2866       return MatchOperand_ParseFail;
2867     }
2868     if (Val == 32) Val = 0;
2869   } else {
2870     // Shift amount must be in [1,32]
2871     if (Val < 0 || Val > 31) {
2872       Error(E, "'lsr' shift amount must be in range [0,31]");
2873       return MatchOperand_ParseFail;
2874     }
2875   }
2876
2877   E = Parser.getTok().getLoc();
2878   Operands.push_back(ARMOperand::CreateShifterImm(isASR, Val, S, E));
2879
2880   return MatchOperand_Success;
2881 }
2882
2883 /// parseRotImm - Parse the shifter immediate operand for SXTB/UXTB family
2884 /// of instructions. Legal values are:
2885 ///     ror #n  'n' in {0, 8, 16, 24}
2886 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2887 parseRotImm(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2888   const AsmToken &Tok = Parser.getTok();
2889   SMLoc S = Tok.getLoc();
2890   if (Tok.isNot(AsmToken::Identifier))
2891     return MatchOperand_NoMatch;
2892   StringRef ShiftName = Tok.getString();
2893   if (ShiftName != "ror" && ShiftName != "ROR")
2894     return MatchOperand_NoMatch;
2895   Parser.Lex(); // Eat the operator.
2896
2897   // A '#' and a rotate amount.
2898   if (Parser.getTok().isNot(AsmToken::Hash)) {
2899     Error(Parser.getTok().getLoc(), "'#' expected");
2900     return MatchOperand_ParseFail;
2901   }
2902   Parser.Lex(); // Eat hash token.
2903
2904   const MCExpr *ShiftAmount;
2905   SMLoc E = Parser.getTok().getLoc();
2906   if (getParser().ParseExpression(ShiftAmount)) {
2907     Error(E, "malformed rotate expression");
2908     return MatchOperand_ParseFail;
2909   }
2910   const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(ShiftAmount);
2911   if (!CE) {
2912     Error(E, "rotate amount must be an immediate");
2913     return MatchOperand_ParseFail;
2914   }
2915
2916   int64_t Val = CE->getValue();
2917   // Shift amount must be in {0, 8, 16, 24} (0 is undocumented extension)
2918   // normally, zero is represented in asm by omitting the rotate operand
2919   // entirely.
2920   if (Val != 8 && Val != 16 && Val != 24 && Val != 0) {
2921     Error(E, "'ror' rotate amount must be 8, 16, or 24");
2922     return MatchOperand_ParseFail;
2923   }
2924
2925   E = Parser.getTok().getLoc();
2926   Operands.push_back(ARMOperand::CreateRotImm(Val, S, E));
2927
2928   return MatchOperand_Success;
2929 }
2930
2931 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2932 parseBitfield(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2933   SMLoc S = Parser.getTok().getLoc();
2934   // The bitfield descriptor is really two operands, the LSB and the width.
2935   if (Parser.getTok().isNot(AsmToken::Hash)) {
2936     Error(Parser.getTok().getLoc(), "'#' expected");
2937     return MatchOperand_ParseFail;
2938   }
2939   Parser.Lex(); // Eat hash token.
2940
2941   const MCExpr *LSBExpr;
2942   SMLoc E = Parser.getTok().getLoc();
2943   if (getParser().ParseExpression(LSBExpr)) {
2944     Error(E, "malformed immediate expression");
2945     return MatchOperand_ParseFail;
2946   }
2947   const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(LSBExpr);
2948   if (!CE) {
2949     Error(E, "'lsb' operand must be an immediate");
2950     return MatchOperand_ParseFail;
2951   }
2952
2953   int64_t LSB = CE->getValue();
2954   // The LSB must be in the range [0,31]
2955   if (LSB < 0 || LSB > 31) {
2956     Error(E, "'lsb' operand must be in the range [0,31]");
2957     return MatchOperand_ParseFail;
2958   }
2959   E = Parser.getTok().getLoc();
2960
2961   // Expect another immediate operand.
2962   if (Parser.getTok().isNot(AsmToken::Comma)) {
2963     Error(Parser.getTok().getLoc(), "too few operands");
2964     return MatchOperand_ParseFail;
2965   }
2966   Parser.Lex(); // Eat hash token.
2967   if (Parser.getTok().isNot(AsmToken::Hash)) {
2968     Error(Parser.getTok().getLoc(), "'#' expected");
2969     return MatchOperand_ParseFail;
2970   }
2971   Parser.Lex(); // Eat hash token.
2972
2973   const MCExpr *WidthExpr;
2974   if (getParser().ParseExpression(WidthExpr)) {
2975     Error(E, "malformed immediate expression");
2976     return MatchOperand_ParseFail;
2977   }
2978   CE = dyn_cast<MCConstantExpr>(WidthExpr);
2979   if (!CE) {
2980     Error(E, "'width' operand must be an immediate");
2981     return MatchOperand_ParseFail;
2982   }
2983
2984   int64_t Width = CE->getValue();
2985   // The LSB must be in the range [1,32-lsb]
2986   if (Width < 1 || Width > 32 - LSB) {
2987     Error(E, "'width' operand must be in the range [1,32-lsb]");
2988     return MatchOperand_ParseFail;
2989   }
2990   E = Parser.getTok().getLoc();
2991
2992   Operands.push_back(ARMOperand::CreateBitfield(LSB, Width, S, E));
2993
2994   return MatchOperand_Success;
2995 }
2996
2997 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
2998 parsePostIdxReg(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
2999   // Check for a post-index addressing register operand. Specifically:
3000   // postidx_reg := '+' register {, shift}
3001   //              | '-' register {, shift}
3002   //              | register {, shift}
3003
3004   // This method must return MatchOperand_NoMatch without consuming any tokens
3005   // in the case where there is no match, as other alternatives take other
3006   // parse methods.
3007   AsmToken Tok = Parser.getTok();
3008   SMLoc S = Tok.getLoc();
3009   bool haveEaten = false;
3010   bool isAdd = true;
3011   int Reg = -1;
3012   if (Tok.is(AsmToken::Plus)) {
3013     Parser.Lex(); // Eat the '+' token.
3014     haveEaten = true;
3015   } else if (Tok.is(AsmToken::Minus)) {
3016     Parser.Lex(); // Eat the '-' token.
3017     isAdd = false;
3018     haveEaten = true;
3019   }
3020   if (Parser.getTok().is(AsmToken::Identifier))
3021     Reg = tryParseRegister();
3022   if (Reg == -1) {
3023     if (!haveEaten)
3024       return MatchOperand_NoMatch;
3025     Error(Parser.getTok().getLoc(), "register expected");
3026     return MatchOperand_ParseFail;
3027   }
3028   SMLoc E = Parser.getTok().getLoc();
3029
3030   ARM_AM::ShiftOpc ShiftTy = ARM_AM::no_shift;
3031   unsigned ShiftImm = 0;
3032   if (Parser.getTok().is(AsmToken::Comma)) {
3033     Parser.Lex(); // Eat the ','.
3034     if (parseMemRegOffsetShift(ShiftTy, ShiftImm))
3035       return MatchOperand_ParseFail;
3036   }
3037
3038   Operands.push_back(ARMOperand::CreatePostIdxReg(Reg, isAdd, ShiftTy,
3039                                                   ShiftImm, S, E));
3040
3041   return MatchOperand_Success;
3042 }
3043
3044 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
3045 parseAM3Offset(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3046   // Check for a post-index addressing register operand. Specifically:
3047   // am3offset := '+' register
3048   //              | '-' register
3049   //              | register
3050   //              | # imm
3051   //              | # + imm
3052   //              | # - imm
3053
3054   // This method must return MatchOperand_NoMatch without consuming any tokens
3055   // in the case where there is no match, as other alternatives take other
3056   // parse methods.
3057   AsmToken Tok = Parser.getTok();
3058   SMLoc S = Tok.getLoc();
3059
3060   // Do immediates first, as we always parse those if we have a '#'.
3061   if (Parser.getTok().is(AsmToken::Hash)) {
3062     Parser.Lex(); // Eat the '#'.
3063     // Explicitly look for a '-', as we need to encode negative zero
3064     // differently.
3065     bool isNegative = Parser.getTok().is(AsmToken::Minus);
3066     const MCExpr *Offset;
3067     if (getParser().ParseExpression(Offset))
3068       return MatchOperand_ParseFail;
3069     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(Offset);
3070     if (!CE) {
3071       Error(S, "constant expression expected");
3072       return MatchOperand_ParseFail;
3073     }
3074     SMLoc E = Tok.getLoc();
3075     // Negative zero is encoded as the flag value INT32_MIN.
3076     int32_t Val = CE->getValue();
3077     if (isNegative && Val == 0)
3078       Val = INT32_MIN;
3079
3080     Operands.push_back(
3081       ARMOperand::CreateImm(MCConstantExpr::Create(Val, getContext()), S, E));
3082
3083     return MatchOperand_Success;
3084   }
3085
3086
3087   bool haveEaten = false;
3088   bool isAdd = true;
3089   int Reg = -1;
3090   if (Tok.is(AsmToken::Plus)) {
3091     Parser.Lex(); // Eat the '+' token.
3092     haveEaten = true;
3093   } else if (Tok.is(AsmToken::Minus)) {
3094     Parser.Lex(); // Eat the '-' token.
3095     isAdd = false;
3096     haveEaten = true;
3097   }
3098   if (Parser.getTok().is(AsmToken::Identifier))
3099     Reg = tryParseRegister();
3100   if (Reg == -1) {
3101     if (!haveEaten)
3102       return MatchOperand_NoMatch;
3103     Error(Parser.getTok().getLoc(), "register expected");
3104     return MatchOperand_ParseFail;
3105   }
3106   SMLoc E = Parser.getTok().getLoc();
3107
3108   Operands.push_back(ARMOperand::CreatePostIdxReg(Reg, isAdd, ARM_AM::no_shift,
3109                                                   0, S, E));
3110
3111   return MatchOperand_Success;
3112 }
3113
3114 /// cvtT2LdrdPre - Convert parsed operands to MCInst.
3115 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3116 /// when they refer multiple MIOperands inside a single one.
3117 bool ARMAsmParser::
3118 cvtT2LdrdPre(MCInst &Inst, unsigned Opcode,
3119              const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3120   // Rt, Rt2
3121   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3122   ((ARMOperand*)Operands[3])->addRegOperands(Inst, 1);
3123   // Create a writeback register dummy placeholder.
3124   Inst.addOperand(MCOperand::CreateReg(0));
3125   // addr
3126   ((ARMOperand*)Operands[4])->addMemImm8s4OffsetOperands(Inst, 2);
3127   // pred
3128   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3129   return true;
3130 }
3131
3132 /// cvtT2StrdPre - Convert parsed operands to MCInst.
3133 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3134 /// when they refer multiple MIOperands inside a single one.
3135 bool ARMAsmParser::
3136 cvtT2StrdPre(MCInst &Inst, unsigned Opcode,
3137              const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3138   // Create a writeback register dummy placeholder.
3139   Inst.addOperand(MCOperand::CreateReg(0));
3140   // Rt, Rt2
3141   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3142   ((ARMOperand*)Operands[3])->addRegOperands(Inst, 1);
3143   // addr
3144   ((ARMOperand*)Operands[4])->addMemImm8s4OffsetOperands(Inst, 2);
3145   // pred
3146   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3147   return true;
3148 }
3149
3150 /// cvtLdWriteBackRegT2AddrModeImm8 - Convert parsed operands to MCInst.
3151 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3152 /// when they refer multiple MIOperands inside a single one.
3153 bool ARMAsmParser::
3154 cvtLdWriteBackRegT2AddrModeImm8(MCInst &Inst, unsigned Opcode,
3155                          const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3156   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3157
3158   // Create a writeback register dummy placeholder.
3159   Inst.addOperand(MCOperand::CreateImm(0));
3160
3161   ((ARMOperand*)Operands[3])->addMemImm8OffsetOperands(Inst, 2);
3162   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3163   return true;
3164 }
3165
3166 /// cvtStWriteBackRegT2AddrModeImm8 - Convert parsed operands to MCInst.
3167 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3168 /// when they refer multiple MIOperands inside a single one.
3169 bool ARMAsmParser::
3170 cvtStWriteBackRegT2AddrModeImm8(MCInst &Inst, unsigned Opcode,
3171                          const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3172   // Create a writeback register dummy placeholder.
3173   Inst.addOperand(MCOperand::CreateImm(0));
3174   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3175   ((ARMOperand*)Operands[3])->addMemImm8OffsetOperands(Inst, 2);
3176   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3177   return true;
3178 }
3179
3180 /// cvtLdWriteBackRegAddrMode2 - Convert parsed operands to MCInst.
3181 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3182 /// when they refer multiple MIOperands inside a single one.
3183 bool ARMAsmParser::
3184 cvtLdWriteBackRegAddrMode2(MCInst &Inst, unsigned Opcode,
3185                          const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3186   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3187
3188   // Create a writeback register dummy placeholder.
3189   Inst.addOperand(MCOperand::CreateImm(0));
3190
3191   ((ARMOperand*)Operands[3])->addAddrMode2Operands(Inst, 3);
3192   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3193   return true;
3194 }
3195
3196 /// cvtLdWriteBackRegAddrModeImm12 - Convert parsed operands to MCInst.
3197 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3198 /// when they refer multiple MIOperands inside a single one.
3199 bool ARMAsmParser::
3200 cvtLdWriteBackRegAddrModeImm12(MCInst &Inst, unsigned Opcode,
3201                          const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3202   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3203
3204   // Create a writeback register dummy placeholder.
3205   Inst.addOperand(MCOperand::CreateImm(0));
3206
3207   ((ARMOperand*)Operands[3])->addMemImm12OffsetOperands(Inst, 2);
3208   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3209   return true;
3210 }
3211
3212
3213 /// cvtStWriteBackRegAddrModeImm12 - Convert parsed operands to MCInst.
3214 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3215 /// when they refer multiple MIOperands inside a single one.
3216 bool ARMAsmParser::
3217 cvtStWriteBackRegAddrModeImm12(MCInst &Inst, unsigned Opcode,
3218                          const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3219   // Create a writeback register dummy placeholder.
3220   Inst.addOperand(MCOperand::CreateImm(0));
3221   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3222   ((ARMOperand*)Operands[3])->addMemImm12OffsetOperands(Inst, 2);
3223   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3224   return true;
3225 }
3226
3227 /// cvtStWriteBackRegAddrMode2 - Convert parsed operands to MCInst.
3228 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3229 /// when they refer multiple MIOperands inside a single one.
3230 bool ARMAsmParser::
3231 cvtStWriteBackRegAddrMode2(MCInst &Inst, unsigned Opcode,
3232                          const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3233   // Create a writeback register dummy placeholder.
3234   Inst.addOperand(MCOperand::CreateImm(0));
3235   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3236   ((ARMOperand*)Operands[3])->addAddrMode2Operands(Inst, 3);
3237   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3238   return true;
3239 }
3240
3241 /// cvtStWriteBackRegAddrMode3 - Convert parsed operands to MCInst.
3242 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3243 /// when they refer multiple MIOperands inside a single one.
3244 bool ARMAsmParser::
3245 cvtStWriteBackRegAddrMode3(MCInst &Inst, unsigned Opcode,
3246                          const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3247   // Create a writeback register dummy placeholder.
3248   Inst.addOperand(MCOperand::CreateImm(0));
3249   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3250   ((ARMOperand*)Operands[3])->addAddrMode3Operands(Inst, 3);
3251   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3252   return true;
3253 }
3254
3255 /// cvtLdExtTWriteBackImm - Convert parsed operands to MCInst.
3256 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3257 /// when they refer multiple MIOperands inside a single one.
3258 bool ARMAsmParser::
3259 cvtLdExtTWriteBackImm(MCInst &Inst, unsigned Opcode,
3260                       const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3261   // Rt
3262   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3263   // Create a writeback register dummy placeholder.
3264   Inst.addOperand(MCOperand::CreateImm(0));
3265   // addr
3266   ((ARMOperand*)Operands[3])->addMemNoOffsetOperands(Inst, 1);
3267   // offset
3268   ((ARMOperand*)Operands[4])->addPostIdxImm8Operands(Inst, 1);
3269   // pred
3270   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3271   return true;
3272 }
3273
3274 /// cvtLdExtTWriteBackReg - Convert parsed operands to MCInst.
3275 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3276 /// when they refer multiple MIOperands inside a single one.
3277 bool ARMAsmParser::
3278 cvtLdExtTWriteBackReg(MCInst &Inst, unsigned Opcode,
3279                       const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3280   // Rt
3281   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3282   // Create a writeback register dummy placeholder.
3283   Inst.addOperand(MCOperand::CreateImm(0));
3284   // addr
3285   ((ARMOperand*)Operands[3])->addMemNoOffsetOperands(Inst, 1);
3286   // offset
3287   ((ARMOperand*)Operands[4])->addPostIdxRegOperands(Inst, 2);
3288   // pred
3289   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3290   return true;
3291 }
3292
3293 /// cvtStExtTWriteBackImm - Convert parsed operands to MCInst.
3294 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3295 /// when they refer multiple MIOperands inside a single one.
3296 bool ARMAsmParser::
3297 cvtStExtTWriteBackImm(MCInst &Inst, unsigned Opcode,
3298                       const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3299   // Create a writeback register dummy placeholder.
3300   Inst.addOperand(MCOperand::CreateImm(0));
3301   // Rt
3302   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3303   // addr
3304   ((ARMOperand*)Operands[3])->addMemNoOffsetOperands(Inst, 1);
3305   // offset
3306   ((ARMOperand*)Operands[4])->addPostIdxImm8Operands(Inst, 1);
3307   // pred
3308   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3309   return true;
3310 }
3311
3312 /// cvtStExtTWriteBackReg - Convert parsed operands to MCInst.
3313 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3314 /// when they refer multiple MIOperands inside a single one.
3315 bool ARMAsmParser::
3316 cvtStExtTWriteBackReg(MCInst &Inst, unsigned Opcode,
3317                       const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3318   // Create a writeback register dummy placeholder.
3319   Inst.addOperand(MCOperand::CreateImm(0));
3320   // Rt
3321   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3322   // addr
3323   ((ARMOperand*)Operands[3])->addMemNoOffsetOperands(Inst, 1);
3324   // offset
3325   ((ARMOperand*)Operands[4])->addPostIdxRegOperands(Inst, 2);
3326   // pred
3327   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3328   return true;
3329 }
3330
3331 /// cvtLdrdPre - Convert parsed operands to MCInst.
3332 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3333 /// when they refer multiple MIOperands inside a single one.
3334 bool ARMAsmParser::
3335 cvtLdrdPre(MCInst &Inst, unsigned Opcode,
3336            const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3337   // Rt, Rt2
3338   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3339   ((ARMOperand*)Operands[3])->addRegOperands(Inst, 1);
3340   // Create a writeback register dummy placeholder.
3341   Inst.addOperand(MCOperand::CreateImm(0));
3342   // addr
3343   ((ARMOperand*)Operands[4])->addAddrMode3Operands(Inst, 3);
3344   // pred
3345   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3346   return true;
3347 }
3348
3349 /// cvtStrdPre - Convert parsed operands to MCInst.
3350 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3351 /// when they refer multiple MIOperands inside a single one.
3352 bool ARMAsmParser::
3353 cvtStrdPre(MCInst &Inst, unsigned Opcode,
3354            const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3355   // Create a writeback register dummy placeholder.
3356   Inst.addOperand(MCOperand::CreateImm(0));
3357   // Rt, Rt2
3358   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3359   ((ARMOperand*)Operands[3])->addRegOperands(Inst, 1);
3360   // addr
3361   ((ARMOperand*)Operands[4])->addAddrMode3Operands(Inst, 3);
3362   // pred
3363   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3364   return true;
3365 }
3366
3367 /// cvtLdWriteBackRegAddrMode3 - Convert parsed operands to MCInst.
3368 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3369 /// when they refer multiple MIOperands inside a single one.
3370 bool ARMAsmParser::
3371 cvtLdWriteBackRegAddrMode3(MCInst &Inst, unsigned Opcode,
3372                          const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3373   ((ARMOperand*)Operands[2])->addRegOperands(Inst, 1);
3374   // Create a writeback register dummy placeholder.
3375   Inst.addOperand(MCOperand::CreateImm(0));
3376   ((ARMOperand*)Operands[3])->addAddrMode3Operands(Inst, 3);
3377   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3378   return true;
3379 }
3380
3381 /// cvtThumbMultiple- Convert parsed operands to MCInst.
3382 /// Needed here because the Asm Gen Matcher can't handle properly tied operands
3383 /// when they refer multiple MIOperands inside a single one.
3384 bool ARMAsmParser::
3385 cvtThumbMultiply(MCInst &Inst, unsigned Opcode,
3386            const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3387   // The second source operand must be the same register as the destination
3388   // operand.
3389   if (Operands.size() == 6 &&
3390       (((ARMOperand*)Operands[3])->getReg() !=
3391        ((ARMOperand*)Operands[5])->getReg()) &&
3392       (((ARMOperand*)Operands[3])->getReg() !=
3393        ((ARMOperand*)Operands[4])->getReg())) {
3394     Error(Operands[3]->getStartLoc(),
3395           "destination register must match source register");
3396     return false;
3397   }
3398   ((ARMOperand*)Operands[3])->addRegOperands(Inst, 1);
3399   ((ARMOperand*)Operands[1])->addCCOutOperands(Inst, 1);
3400   // If we have a three-operand form, make sure to set Rn to be the operand
3401   // that isn't the same as Rd.
3402   unsigned RegOp = 4;
3403   if (Operands.size() == 6 &&
3404       ((ARMOperand*)Operands[4])->getReg() ==
3405         ((ARMOperand*)Operands[3])->getReg())
3406     RegOp = 5;
3407   ((ARMOperand*)Operands[RegOp])->addRegOperands(Inst, 1);
3408   Inst.addOperand(Inst.getOperand(0));
3409   ((ARMOperand*)Operands[2])->addCondCodeOperands(Inst, 2);
3410
3411   return true;
3412 }
3413
3414 bool ARMAsmParser::
3415 cvtVLDwbFixed(MCInst &Inst, unsigned Opcode,
3416               const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3417   // Vd
3418   ((ARMOperand*)Operands[3])->addVecListTwoDOperands(Inst, 1);
3419   // Create a writeback register dummy placeholder.
3420   Inst.addOperand(MCOperand::CreateImm(0));
3421   // Vn
3422   ((ARMOperand*)Operands[4])->addAlignedMemoryOperands(Inst, 2);
3423   // pred
3424   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3425   return true;
3426 }
3427
3428 bool ARMAsmParser::
3429 cvtVLDwbRegister(MCInst &Inst, unsigned Opcode,
3430                  const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3431   // Vd
3432   ((ARMOperand*)Operands[3])->addVecListTwoDOperands(Inst, 1);
3433   // Create a writeback register dummy placeholder.
3434   Inst.addOperand(MCOperand::CreateImm(0));
3435   // Vn
3436   ((ARMOperand*)Operands[4])->addAlignedMemoryOperands(Inst, 2);
3437   // Vm
3438   ((ARMOperand*)Operands[5])->addRegOperands(Inst, 1);
3439   // pred
3440   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3441   return true;
3442 }
3443
3444 bool ARMAsmParser::
3445 cvtVSTwbFixed(MCInst &Inst, unsigned Opcode,
3446               const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3447   // Create a writeback register dummy placeholder.
3448   Inst.addOperand(MCOperand::CreateImm(0));
3449   // Vn
3450   ((ARMOperand*)Operands[4])->addAlignedMemoryOperands(Inst, 2);
3451   // Vt
3452   ((ARMOperand*)Operands[3])->addVecListTwoDOperands(Inst, 1);
3453   // pred
3454   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3455   return true;
3456 }
3457
3458 bool ARMAsmParser::
3459 cvtVSTwbRegister(MCInst &Inst, unsigned Opcode,
3460                  const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3461   // Create a writeback register dummy placeholder.
3462   Inst.addOperand(MCOperand::CreateImm(0));
3463   // Vn
3464   ((ARMOperand*)Operands[4])->addAlignedMemoryOperands(Inst, 2);
3465   // Vm
3466   ((ARMOperand*)Operands[5])->addRegOperands(Inst, 1);
3467   // Vt
3468   ((ARMOperand*)Operands[3])->addVecListTwoDOperands(Inst, 1);
3469   // pred
3470   ((ARMOperand*)Operands[1])->addCondCodeOperands(Inst, 2);
3471   return true;
3472 }
3473
3474 /// Parse an ARM memory expression, return false if successful else return true
3475 /// or an error.  The first token must be a '[' when called.
3476 bool ARMAsmParser::
3477 parseMemory(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3478   SMLoc S, E;
3479   assert(Parser.getTok().is(AsmToken::LBrac) &&
3480          "Token is not a Left Bracket");
3481   S = Parser.getTok().getLoc();
3482   Parser.Lex(); // Eat left bracket token.
3483
3484   const AsmToken &BaseRegTok = Parser.getTok();
3485   int BaseRegNum = tryParseRegister();
3486   if (BaseRegNum == -1)
3487     return Error(BaseRegTok.getLoc(), "register expected");
3488
3489   // The next token must either be a comma or a closing bracket.
3490   const AsmToken &Tok = Parser.getTok();
3491   if (!Tok.is(AsmToken::Comma) && !Tok.is(AsmToken::RBrac))
3492     return Error(Tok.getLoc(), "malformed memory operand");
3493
3494   if (Tok.is(AsmToken::RBrac)) {
3495     E = Tok.getLoc();
3496     Parser.Lex(); // Eat right bracket token.
3497
3498     Operands.push_back(ARMOperand::CreateMem(BaseRegNum, 0, 0, ARM_AM::no_shift,
3499                                              0, 0, false, S, E));
3500
3501     // If there's a pre-indexing writeback marker, '!', just add it as a token
3502     // operand. It's rather odd, but syntactically valid.
3503     if (Parser.getTok().is(AsmToken::Exclaim)) {
3504       Operands.push_back(ARMOperand::CreateToken("!",Parser.getTok().getLoc()));
3505       Parser.Lex(); // Eat the '!'.
3506     }
3507
3508     return false;
3509   }
3510
3511   assert(Tok.is(AsmToken::Comma) && "Lost comma in memory operand?!");
3512   Parser.Lex(); // Eat the comma.
3513
3514   // If we have a ':', it's an alignment specifier.
3515   if (Parser.getTok().is(AsmToken::Colon)) {
3516     Parser.Lex(); // Eat the ':'.
3517     E = Parser.getTok().getLoc();
3518
3519     const MCExpr *Expr;
3520     if (getParser().ParseExpression(Expr))
3521      return true;
3522
3523     // The expression has to be a constant. Memory references with relocations
3524     // don't come through here, as they use the <label> forms of the relevant
3525     // instructions.
3526     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(Expr);
3527     if (!CE)
3528       return Error (E, "constant expression expected");
3529
3530     unsigned Align = 0;
3531     switch (CE->getValue()) {
3532     default:
3533       return Error(E, "alignment specifier must be 64, 128, or 256 bits");
3534     case 64:  Align = 8; break;
3535     case 128: Align = 16; break;
3536     case 256: Align = 32; break;
3537     }
3538
3539     // Now we should have the closing ']'
3540     E = Parser.getTok().getLoc();
3541     if (Parser.getTok().isNot(AsmToken::RBrac))
3542       return Error(E, "']' expected");
3543     Parser.Lex(); // Eat right bracket token.
3544
3545     // Don't worry about range checking the value here. That's handled by
3546     // the is*() predicates.
3547     Operands.push_back(ARMOperand::CreateMem(BaseRegNum, 0, 0,
3548                                              ARM_AM::no_shift, 0, Align,
3549                                              false, S, E));
3550
3551     // If there's a pre-indexing writeback marker, '!', just add it as a token
3552     // operand.
3553     if (Parser.getTok().is(AsmToken::Exclaim)) {
3554       Operands.push_back(ARMOperand::CreateToken("!",Parser.getTok().getLoc()));
3555       Parser.Lex(); // Eat the '!'.
3556     }
3557
3558     return false;
3559   }
3560
3561   // If we have a '#', it's an immediate offset, else assume it's a register
3562   // offset. Be friendly and also accept a plain integer (without a leading
3563   // hash) for gas compatibility.
3564   if (Parser.getTok().is(AsmToken::Hash) ||
3565       Parser.getTok().is(AsmToken::Integer)) {
3566     if (Parser.getTok().is(AsmToken::Hash))
3567       Parser.Lex(); // Eat the '#'.
3568     E = Parser.getTok().getLoc();
3569
3570     bool isNegative = getParser().getTok().is(AsmToken::Minus);
3571     const MCExpr *Offset;
3572     if (getParser().ParseExpression(Offset))
3573      return true;
3574
3575     // The expression has to be a constant. Memory references with relocations
3576     // don't come through here, as they use the <label> forms of the relevant
3577     // instructions.
3578     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(Offset);
3579     if (!CE)
3580       return Error (E, "constant expression expected");
3581
3582     // If the constant was #-0, represent it as INT32_MIN.
3583     int32_t Val = CE->getValue();
3584     if (isNegative && Val == 0)
3585       CE = MCConstantExpr::Create(INT32_MIN, getContext());
3586
3587     // Now we should have the closing ']'
3588     E = Parser.getTok().getLoc();
3589     if (Parser.getTok().isNot(AsmToken::RBrac))
3590       return Error(E, "']' expected");
3591     Parser.Lex(); // Eat right bracket token.
3592
3593     // Don't worry about range checking the value here. That's handled by
3594     // the is*() predicates.
3595     Operands.push_back(ARMOperand::CreateMem(BaseRegNum, CE, 0,
3596                                              ARM_AM::no_shift, 0, 0,
3597                                              false, S, E));
3598
3599     // If there's a pre-indexing writeback marker, '!', just add it as a token
3600     // operand.
3601     if (Parser.getTok().is(AsmToken::Exclaim)) {
3602       Operands.push_back(ARMOperand::CreateToken("!",Parser.getTok().getLoc()));
3603       Parser.Lex(); // Eat the '!'.
3604     }
3605
3606     return false;
3607   }
3608
3609   // The register offset is optionally preceded by a '+' or '-'
3610   bool isNegative = false;
3611   if (Parser.getTok().is(AsmToken::Minus)) {
3612     isNegative = true;
3613     Parser.Lex(); // Eat the '-'.
3614   } else if (Parser.getTok().is(AsmToken::Plus)) {
3615     // Nothing to do.
3616     Parser.Lex(); // Eat the '+'.
3617   }
3618
3619   E = Parser.getTok().getLoc();
3620   int OffsetRegNum = tryParseRegister();
3621   if (OffsetRegNum == -1)
3622     return Error(E, "register expected");
3623
3624   // If there's a shift operator, handle it.
3625   ARM_AM::ShiftOpc ShiftType = ARM_AM::no_shift;
3626   unsigned ShiftImm = 0;
3627   if (Parser.getTok().is(AsmToken::Comma)) {
3628     Parser.Lex(); // Eat the ','.
3629     if (parseMemRegOffsetShift(ShiftType, ShiftImm))
3630       return true;
3631   }
3632
3633   // Now we should have the closing ']'
3634   E = Parser.getTok().getLoc();
3635   if (Parser.getTok().isNot(AsmToken::RBrac))
3636     return Error(E, "']' expected");
3637   Parser.Lex(); // Eat right bracket token.
3638
3639   Operands.push_back(ARMOperand::CreateMem(BaseRegNum, 0, OffsetRegNum,
3640                                            ShiftType, ShiftImm, 0, isNegative,
3641                                            S, E));
3642
3643   // If there's a pre-indexing writeback marker, '!', just add it as a token
3644   // operand.
3645   if (Parser.getTok().is(AsmToken::Exclaim)) {
3646     Operands.push_back(ARMOperand::CreateToken("!",Parser.getTok().getLoc()));
3647     Parser.Lex(); // Eat the '!'.
3648   }
3649
3650   return false;
3651 }
3652
3653 /// parseMemRegOffsetShift - one of these two:
3654 ///   ( lsl | lsr | asr | ror ) , # shift_amount
3655 ///   rrx
3656 /// return true if it parses a shift otherwise it returns false.
3657 bool ARMAsmParser::parseMemRegOffsetShift(ARM_AM::ShiftOpc &St,
3658                                           unsigned &Amount) {
3659   SMLoc Loc = Parser.getTok().getLoc();
3660   const AsmToken &Tok = Parser.getTok();
3661   if (Tok.isNot(AsmToken::Identifier))
3662     return true;
3663   StringRef ShiftName = Tok.getString();
3664   if (ShiftName == "lsl" || ShiftName == "LSL")
3665     St = ARM_AM::lsl;
3666   else if (ShiftName == "lsr" || ShiftName == "LSR")
3667     St = ARM_AM::lsr;
3668   else if (ShiftName == "asr" || ShiftName == "ASR")
3669     St = ARM_AM::asr;
3670   else if (ShiftName == "ror" || ShiftName == "ROR")
3671     St = ARM_AM::ror;
3672   else if (ShiftName == "rrx" || ShiftName == "RRX")
3673     St = ARM_AM::rrx;
3674   else
3675     return Error(Loc, "illegal shift operator");
3676   Parser.Lex(); // Eat shift type token.
3677
3678   // rrx stands alone.
3679   Amount = 0;
3680   if (St != ARM_AM::rrx) {
3681     Loc = Parser.getTok().getLoc();
3682     // A '#' and a shift amount.
3683     const AsmToken &HashTok = Parser.getTok();
3684     if (HashTok.isNot(AsmToken::Hash))
3685       return Error(HashTok.getLoc(), "'#' expected");
3686     Parser.Lex(); // Eat hash token.
3687
3688     const MCExpr *Expr;
3689     if (getParser().ParseExpression(Expr))
3690       return true;
3691     // Range check the immediate.
3692     // lsl, ror: 0 <= imm <= 31
3693     // lsr, asr: 0 <= imm <= 32
3694     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(Expr);
3695     if (!CE)
3696       return Error(Loc, "shift amount must be an immediate");
3697     int64_t Imm = CE->getValue();
3698     if (Imm < 0 ||
3699         ((St == ARM_AM::lsl || St == ARM_AM::ror) && Imm > 31) ||
3700         ((St == ARM_AM::lsr || St == ARM_AM::asr) && Imm > 32))
3701       return Error(Loc, "immediate shift value out of range");
3702     Amount = Imm;
3703   }
3704
3705   return false;
3706 }
3707
3708 /// parseFPImm - A floating point immediate expression operand.
3709 ARMAsmParser::OperandMatchResultTy ARMAsmParser::
3710 parseFPImm(SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
3711   SMLoc S = Parser.getTok().getLoc();
3712
3713   if (Parser.getTok().isNot(AsmToken::Hash))
3714     return MatchOperand_NoMatch;
3715
3716   // Disambiguate the VMOV forms that can accept an FP immediate.
3717   // vmov.f32 <sreg>, #imm
3718   // vmov.f64 <dreg>, #imm
3719   // vmov.f32 <dreg>, #imm  @ vector f32x2
3720   // vmov.f32 <qreg>, #imm  @ vector f32x4
3721   //
3722   // There are also the NEON VMOV instructions which expect an
3723   // integer constant. Make sure we don't try to parse an FPImm
3724   // for these:
3725   // vmov.i{8|16|32|64} <dreg|qreg>, #imm
3726   ARMOperand *TyOp = static_cast<ARMOperand*>(Operands[2]);
3727   if (!TyOp->isToken() || (TyOp->getToken() != ".f32" &&
3728                            TyOp->getToken() != ".f64"))
3729     return MatchOperand_NoMatch;
3730
3731   Parser.Lex(); // Eat the '#'.
3732
3733   // Handle negation, as that still comes through as a separate token.
3734   bool isNegative = false;
3735   if (Parser.getTok().is(AsmToken::Minus)) {
3736     isNegative = true;
3737     Parser.Lex();
3738   }
3739   const AsmToken &Tok = Parser.getTok();
3740   if (Tok.is(AsmToken::Real)) {
3741     APFloat RealVal(APFloat::IEEEdouble, Tok.getString());
3742     uint64_t IntVal = RealVal.bitcastToAPInt().getZExtValue();
3743     // If we had a '-' in front, toggle the sign bit.
3744     IntVal ^= (uint64_t)isNegative << 63;
3745     int Val = ARM_AM::getFP64Imm(APInt(64, IntVal));
3746     Parser.Lex(); // Eat the token.
3747     if (Val == -1) {
3748       TokError("floating point value out of range");
3749       return MatchOperand_ParseFail;
3750     }
3751     Operands.push_back(ARMOperand::CreateFPImm(Val, S, getContext()));
3752     return MatchOperand_Success;
3753   }
3754   if (Tok.is(AsmToken::Integer)) {
3755     int64_t Val = Tok.getIntVal();
3756     Parser.Lex(); // Eat the token.
3757     if (Val > 255 || Val < 0) {
3758       TokError("encoded floating point value out of range");
3759       return MatchOperand_ParseFail;
3760     }
3761     Operands.push_back(ARMOperand::CreateFPImm(Val, S, getContext()));
3762     return MatchOperand_Success;
3763   }
3764
3765   TokError("invalid floating point immediate");
3766   return MatchOperand_ParseFail;
3767 }
3768 /// Parse a arm instruction operand.  For now this parses the operand regardless
3769 /// of the mnemonic.
3770 bool ARMAsmParser::parseOperand(SmallVectorImpl<MCParsedAsmOperand*> &Operands,
3771                                 StringRef Mnemonic) {
3772   SMLoc S, E;
3773
3774   // Check if the current operand has a custom associated parser, if so, try to
3775   // custom parse the operand, or fallback to the general approach.
3776   OperandMatchResultTy ResTy = MatchOperandParserImpl(Operands, Mnemonic);
3777   if (ResTy == MatchOperand_Success)
3778     return false;
3779   // If there wasn't a custom match, try the generic matcher below. Otherwise,
3780   // there was a match, but an error occurred, in which case, just return that
3781   // the operand parsing failed.
3782   if (ResTy == MatchOperand_ParseFail)
3783     return true;
3784
3785   switch (getLexer().getKind()) {
3786   default:
3787     Error(Parser.getTok().getLoc(), "unexpected token in operand");
3788     return true;
3789   case AsmToken::Identifier: {
3790     // If this is VMRS, check for the apsr_nzcv operand.
3791     if (!tryParseRegisterWithWriteBack(Operands))
3792       return false;
3793     int Res = tryParseShiftRegister(Operands);
3794     if (Res == 0) // success
3795       return false;
3796     else if (Res == -1) // irrecoverable error
3797       return true;
3798     if (Mnemonic == "vmrs" && Parser.getTok().getString() == "apsr_nzcv") {
3799       S = Parser.getTok().getLoc();
3800       Parser.Lex();
3801       Operands.push_back(ARMOperand::CreateToken("apsr_nzcv", S));
3802       return false;
3803     }
3804
3805     // Fall though for the Identifier case that is not a register or a
3806     // special name.
3807   }
3808   case AsmToken::LParen:  // parenthesized expressions like (_strcmp-4)
3809   case AsmToken::Integer: // things like 1f and 2b as a branch targets
3810   case AsmToken::String:  // quoted label names.
3811   case AsmToken::Dot: {   // . as a branch target
3812     // This was not a register so parse other operands that start with an
3813     // identifier (like labels) as expressions and create them as immediates.
3814     const MCExpr *IdVal;
3815     S = Parser.getTok().getLoc();
3816     if (getParser().ParseExpression(IdVal))
3817       return true;
3818     E = SMLoc::getFromPointer(Parser.getTok().getLoc().getPointer() - 1);
3819     Operands.push_back(ARMOperand::CreateImm(IdVal, S, E));
3820     return false;
3821   }
3822   case AsmToken::LBrac:
3823     return parseMemory(Operands);
3824   case AsmToken::LCurly:
3825     return parseRegisterList(Operands);
3826   case AsmToken::Hash: {
3827     // #42 -> immediate.
3828     // TODO: ":lower16:" and ":upper16:" modifiers after # before immediate
3829     S = Parser.getTok().getLoc();
3830     Parser.Lex();
3831     bool isNegative = Parser.getTok().is(AsmToken::Minus);
3832     const MCExpr *ImmVal;
3833     if (getParser().ParseExpression(ImmVal))
3834       return true;
3835     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(ImmVal);
3836     if (CE) {
3837       int32_t Val = CE->getValue();
3838       if (isNegative && Val == 0)
3839         ImmVal = MCConstantExpr::Create(INT32_MIN, getContext());
3840     }
3841     E = SMLoc::getFromPointer(Parser.getTok().getLoc().getPointer() - 1);
3842     Operands.push_back(ARMOperand::CreateImm(ImmVal, S, E));
3843     return false;
3844   }
3845   case AsmToken::Colon: {
3846     // ":lower16:" and ":upper16:" expression prefixes
3847     // FIXME: Check it's an expression prefix,
3848     // e.g. (FOO - :lower16:BAR) isn't legal.
3849     ARMMCExpr::VariantKind RefKind;
3850     if (parsePrefix(RefKind))
3851       return true;
3852
3853     const MCExpr *SubExprVal;
3854     if (getParser().ParseExpression(SubExprVal))
3855       return true;
3856
3857     const MCExpr *ExprVal = ARMMCExpr::Create(RefKind, SubExprVal,
3858                                                    getContext());
3859     E = SMLoc::getFromPointer(Parser.getTok().getLoc().getPointer() - 1);
3860     Operands.push_back(ARMOperand::CreateImm(ExprVal, S, E));
3861     return false;
3862   }
3863   }
3864 }
3865
3866 // parsePrefix - Parse ARM 16-bit relocations expression prefix, i.e.
3867 //  :lower16: and :upper16:.
3868 bool ARMAsmParser::parsePrefix(ARMMCExpr::VariantKind &RefKind) {
3869   RefKind = ARMMCExpr::VK_ARM_None;
3870
3871   // :lower16: and :upper16: modifiers
3872   assert(getLexer().is(AsmToken::Colon) && "expected a :");
3873   Parser.Lex(); // Eat ':'
3874
3875   if (getLexer().isNot(AsmToken::Identifier)) {
3876     Error(Parser.getTok().getLoc(), "expected prefix identifier in operand");
3877     return true;
3878   }
3879
3880   StringRef IDVal = Parser.getTok().getIdentifier();
3881   if (IDVal == "lower16") {
3882     RefKind = ARMMCExpr::VK_ARM_LO16;
3883   } else if (IDVal == "upper16") {
3884     RefKind = ARMMCExpr::VK_ARM_HI16;
3885   } else {
3886     Error(Parser.getTok().getLoc(), "unexpected prefix in operand");
3887     return true;
3888   }
3889   Parser.Lex();
3890
3891   if (getLexer().isNot(AsmToken::Colon)) {
3892     Error(Parser.getTok().getLoc(), "unexpected token after prefix");
3893     return true;
3894   }
3895   Parser.Lex(); // Eat the last ':'
3896   return false;
3897 }
3898
3899 /// \brief Given a mnemonic, split out possible predication code and carry
3900 /// setting letters to form a canonical mnemonic and flags.
3901 //
3902 // FIXME: Would be nice to autogen this.
3903 // FIXME: This is a bit of a maze of special cases.
3904 StringRef ARMAsmParser::splitMnemonic(StringRef Mnemonic,
3905                                       unsigned &PredicationCode,
3906                                       bool &CarrySetting,
3907                                       unsigned &ProcessorIMod,
3908                                       StringRef &ITMask) {
3909   PredicationCode = ARMCC::AL;
3910   CarrySetting = false;
3911   ProcessorIMod = 0;
3912
3913   // Ignore some mnemonics we know aren't predicated forms.
3914   //
3915   // FIXME: Would be nice to autogen this.
3916   if ((Mnemonic == "movs" && isThumb()) ||
3917       Mnemonic == "teq"   || Mnemonic == "vceq"   || Mnemonic == "svc"   ||
3918       Mnemonic == "mls"   || Mnemonic == "smmls"  || Mnemonic == "vcls"  ||
3919       Mnemonic == "vmls"  || Mnemonic == "vnmls"  || Mnemonic == "vacge" ||
3920       Mnemonic == "vcge"  || Mnemonic == "vclt"   || Mnemonic == "vacgt" ||
3921       Mnemonic == "vcgt"  || Mnemonic == "vcle"   || Mnemonic == "smlal" ||
3922       Mnemonic == "umaal" || Mnemonic == "umlal"  || Mnemonic == "vabal" ||
3923       Mnemonic == "vmlal" || Mnemonic == "vpadal" || Mnemonic == "vqdmlal")
3924     return Mnemonic;
3925
3926   // First, split out any predication code. Ignore mnemonics we know aren't
3927   // predicated but do have a carry-set and so weren't caught above.
3928   if (Mnemonic != "adcs" && Mnemonic != "bics" && Mnemonic != "movs" &&
3929       Mnemonic != "muls" && Mnemonic != "smlals" && Mnemonic != "smulls" &&
3930       Mnemonic != "umlals" && Mnemonic != "umulls" && Mnemonic != "lsls" &&
3931       Mnemonic != "sbcs" && Mnemonic != "rscs") {
3932     unsigned CC = StringSwitch<unsigned>(Mnemonic.substr(Mnemonic.size()-2))
3933       .Case("eq", ARMCC::EQ)
3934       .Case("ne", ARMCC::NE)
3935       .Case("hs", ARMCC::HS)
3936       .Case("cs", ARMCC::HS)
3937       .Case("lo", ARMCC::LO)
3938       .Case("cc", ARMCC::LO)
3939       .Case("mi", ARMCC::MI)
3940       .Case("pl", ARMCC::PL)
3941       .Case("vs", ARMCC::VS)
3942       .Case("vc", ARMCC::VC)
3943       .Case("hi", ARMCC::HI)
3944       .Case("ls", ARMCC::LS)
3945       .Case("ge", ARMCC::GE)
3946       .Case("lt", ARMCC::LT)
3947       .Case("gt", ARMCC::GT)
3948       .Case("le", ARMCC::LE)
3949       .Case("al", ARMCC::AL)
3950       .Default(~0U);
3951     if (CC != ~0U) {
3952       Mnemonic = Mnemonic.slice(0, Mnemonic.size() - 2);
3953       PredicationCode = CC;
3954     }
3955   }
3956
3957   // Next, determine if we have a carry setting bit. We explicitly ignore all
3958   // the instructions we know end in 's'.
3959   if (Mnemonic.endswith("s") &&
3960       !(Mnemonic == "cps" || Mnemonic == "mls" ||
3961         Mnemonic == "mrs" || Mnemonic == "smmls" || Mnemonic == "vabs" ||
3962         Mnemonic == "vcls" || Mnemonic == "vmls" || Mnemonic == "vmrs" ||
3963         Mnemonic == "vnmls" || Mnemonic == "vqabs" || Mnemonic == "vrecps" ||
3964         Mnemonic == "vrsqrts" || Mnemonic == "srs" ||
3965         (Mnemonic == "movs" && isThumb()))) {
3966     Mnemonic = Mnemonic.slice(0, Mnemonic.size() - 1);
3967     CarrySetting = true;
3968   }
3969
3970   // The "cps" instruction can have a interrupt mode operand which is glued into
3971   // the mnemonic. Check if this is the case, split it and parse the imod op
3972   if (Mnemonic.startswith("cps")) {
3973     // Split out any imod code.
3974     unsigned IMod =
3975       StringSwitch<unsigned>(Mnemonic.substr(Mnemonic.size()-2, 2))
3976       .Case("ie", ARM_PROC::IE)
3977       .Case("id", ARM_PROC::ID)
3978       .Default(~0U);
3979     if (IMod != ~0U) {
3980       Mnemonic = Mnemonic.slice(0, Mnemonic.size()-2);
3981       ProcessorIMod = IMod;
3982     }
3983   }
3984
3985   // The "it" instruction has the condition mask on the end of the mnemonic.
3986   if (Mnemonic.startswith("it")) {
3987     ITMask = Mnemonic.slice(2, Mnemonic.size());
3988     Mnemonic = Mnemonic.slice(0, 2);
3989   }
3990
3991   return Mnemonic;
3992 }
3993
3994 /// \brief Given a canonical mnemonic, determine if the instruction ever allows
3995 /// inclusion of carry set or predication code operands.
3996 //
3997 // FIXME: It would be nice to autogen this.
3998 void ARMAsmParser::
3999 getMnemonicAcceptInfo(StringRef Mnemonic, bool &CanAcceptCarrySet,
4000                       bool &CanAcceptPredicationCode) {
4001   if (Mnemonic == "and" || Mnemonic == "lsl" || Mnemonic == "lsr" ||
4002       Mnemonic == "rrx" || Mnemonic == "ror" || Mnemonic == "sub" ||
4003       Mnemonic == "add" || Mnemonic == "adc" ||
4004       Mnemonic == "mul" || Mnemonic == "bic" || Mnemonic == "asr" ||
4005       Mnemonic == "orr" || Mnemonic == "mvn" ||
4006       Mnemonic == "rsb" || Mnemonic == "rsc" || Mnemonic == "orn" ||
4007       Mnemonic == "sbc" || Mnemonic == "eor" || Mnemonic == "neg" ||
4008       (!isThumb() && (Mnemonic == "smull" || Mnemonic == "mov" ||
4009                       Mnemonic == "mla" || Mnemonic == "smlal" ||
4010                       Mnemonic == "umlal" || Mnemonic == "umull"))) {
4011     CanAcceptCarrySet = true;
4012   } else
4013     CanAcceptCarrySet = false;
4014
4015   if (Mnemonic == "cbnz" || Mnemonic == "setend" || Mnemonic == "dmb" ||
4016       Mnemonic == "cps" || Mnemonic == "mcr2" || Mnemonic == "it" ||
4017       Mnemonic == "mcrr2" || Mnemonic == "cbz" || Mnemonic == "cdp2" ||
4018       Mnemonic == "trap" || Mnemonic == "mrc2" || Mnemonic == "mrrc2" ||
4019       Mnemonic == "dsb" || Mnemonic == "isb" || Mnemonic == "setend" ||
4020       (Mnemonic == "clrex" && !isThumb()) ||
4021       (Mnemonic == "nop" && isThumbOne()) ||
4022       ((Mnemonic == "pld" || Mnemonic == "pli" || Mnemonic == "pldw" ||
4023         Mnemonic == "ldc2" || Mnemonic == "ldc2l" ||
4024         Mnemonic == "stc2" || Mnemonic == "stc2l") && !isThumb()) ||
4025       ((Mnemonic.startswith("rfe") || Mnemonic.startswith("srs")) &&
4026        !isThumb()) ||
4027       Mnemonic.startswith("cps") || (Mnemonic == "movs" && isThumbOne())) {
4028     CanAcceptPredicationCode = false;
4029   } else
4030     CanAcceptPredicationCode = true;
4031
4032   if (isThumb()) {
4033     if (Mnemonic == "bkpt" || Mnemonic == "mcr" || Mnemonic == "mcrr" ||
4034         Mnemonic == "mrc" || Mnemonic == "mrrc" || Mnemonic == "cdp")
4035       CanAcceptPredicationCode = false;
4036   }
4037 }
4038
4039 bool ARMAsmParser::shouldOmitCCOutOperand(StringRef Mnemonic,
4040                                SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
4041   // FIXME: This is all horribly hacky. We really need a better way to deal
4042   // with optional operands like this in the matcher table.
4043
4044   // The 'mov' mnemonic is special. One variant has a cc_out operand, while
4045   // another does not. Specifically, the MOVW instruction does not. So we
4046   // special case it here and remove the defaulted (non-setting) cc_out
4047   // operand if that's the instruction we're trying to match.
4048   //
4049   // We do this as post-processing of the explicit operands rather than just
4050   // conditionally adding the cc_out in the first place because we need
4051   // to check the type of the parsed immediate operand.
4052   if (Mnemonic == "mov" && Operands.size() > 4 && !isThumb() &&
4053       !static_cast<ARMOperand*>(Operands[4])->isARMSOImm() &&
4054       static_cast<ARMOperand*>(Operands[4])->isImm0_65535Expr() &&
4055       static_cast<ARMOperand*>(Operands[1])->getReg() == 0)
4056     return true;
4057
4058   // Register-register 'add' for thumb does not have a cc_out operand
4059   // when there are only two register operands.
4060   if (isThumb() && Mnemonic == "add" && Operands.size() == 5 &&
4061       static_cast<ARMOperand*>(Operands[3])->isReg() &&
4062       static_cast<ARMOperand*>(Operands[4])->isReg() &&
4063       static_cast<ARMOperand*>(Operands[1])->getReg() == 0)
4064     return true;
4065   // Register-register 'add' for thumb does not have a cc_out operand
4066   // when it's an ADD Rdm, SP, {Rdm|#imm0_255} instruction. We do
4067   // have to check the immediate range here since Thumb2 has a variant
4068   // that can handle a different range and has a cc_out operand.
4069   if (((isThumb() && Mnemonic == "add") ||
4070        (isThumbTwo() && Mnemonic == "sub")) &&
4071       Operands.size() == 6 &&
4072       static_cast<ARMOperand*>(Operands[3])->isReg() &&
4073       static_cast<ARMOperand*>(Operands[4])->isReg() &&
4074       static_cast<ARMOperand*>(Operands[4])->getReg() == ARM::SP &&
4075       static_cast<ARMOperand*>(Operands[1])->getReg() == 0 &&
4076       (static_cast<ARMOperand*>(Operands[5])->isReg() ||
4077        static_cast<ARMOperand*>(Operands[5])->isImm0_1020s4()))
4078     return true;
4079   // For Thumb2, add/sub immediate does not have a cc_out operand for the
4080   // imm0_4095 variant. That's the least-preferred variant when
4081   // selecting via the generic "add" mnemonic, so to know that we
4082   // should remove the cc_out operand, we have to explicitly check that
4083   // it's not one of the other variants. Ugh.
4084   if (isThumbTwo() && (Mnemonic == "add" || Mnemonic == "sub") &&
4085       Operands.size() == 6 &&
4086       static_cast<ARMOperand*>(Operands[3])->isReg() &&
4087       static_cast<ARMOperand*>(Operands[4])->isReg() &&
4088       static_cast<ARMOperand*>(Operands[5])->isImm()) {
4089     // Nest conditions rather than one big 'if' statement for readability.
4090     //
4091     // If either register is a high reg, it's either one of the SP
4092     // variants (handled above) or a 32-bit encoding, so we just
4093     // check against T3.
4094     if ((!isARMLowRegister(static_cast<ARMOperand*>(Operands[3])->getReg()) ||
4095          !isARMLowRegister(static_cast<ARMOperand*>(Operands[4])->getReg())) &&
4096         static_cast<ARMOperand*>(Operands[5])->isT2SOImm())
4097       return false;
4098     // If both registers are low, we're in an IT block, and the immediate is
4099     // in range, we should use encoding T1 instead, which has a cc_out.
4100     if (inITBlock() &&
4101         isARMLowRegister(static_cast<ARMOperand*>(Operands[3])->getReg()) &&
4102         isARMLowRegister(static_cast<ARMOperand*>(Operands[4])->getReg()) &&
4103         static_cast<ARMOperand*>(Operands[5])->isImm0_7())
4104       return false;
4105
4106     // Otherwise, we use encoding T4, which does not have a cc_out
4107     // operand.
4108     return true;
4109   }
4110
4111   // The thumb2 multiply instruction doesn't have a CCOut register, so
4112   // if we have a "mul" mnemonic in Thumb mode, check if we'll be able to
4113   // use the 16-bit encoding or not.
4114   if (isThumbTwo() && Mnemonic == "mul" && Operands.size() == 6 &&
4115       static_cast<ARMOperand*>(Operands[1])->getReg() == 0 &&
4116       static_cast<ARMOperand*>(Operands[3])->isReg() &&
4117       static_cast<ARMOperand*>(Operands[4])->isReg() &&
4118       static_cast<ARMOperand*>(Operands[5])->isReg() &&
4119       // If the registers aren't low regs, the destination reg isn't the
4120       // same as one of the source regs, or the cc_out operand is zero
4121       // outside of an IT block, we have to use the 32-bit encoding, so
4122       // remove the cc_out operand.
4123       (!isARMLowRegister(static_cast<ARMOperand*>(Operands[3])->getReg()) ||
4124        !isARMLowRegister(static_cast<ARMOperand*>(Operands[4])->getReg()) ||
4125        !isARMLowRegister(static_cast<ARMOperand*>(Operands[5])->getReg()) ||
4126        !inITBlock() ||
4127        (static_cast<ARMOperand*>(Operands[3])->getReg() !=
4128         static_cast<ARMOperand*>(Operands[5])->getReg() &&
4129         static_cast<ARMOperand*>(Operands[3])->getReg() !=
4130         static_cast<ARMOperand*>(Operands[4])->getReg())))
4131     return true;
4132
4133   // Also check the 'mul' syntax variant that doesn't specify an explicit
4134   // destination register.
4135   if (isThumbTwo() && Mnemonic == "mul" && Operands.size() == 5 &&
4136       static_cast<ARMOperand*>(Operands[1])->getReg() == 0 &&
4137       static_cast<ARMOperand*>(Operands[3])->isReg() &&
4138       static_cast<ARMOperand*>(Operands[4])->isReg() &&
4139       // If the registers aren't low regs  or the cc_out operand is zero
4140       // outside of an IT block, we have to use the 32-bit encoding, so
4141       // remove the cc_out operand.
4142       (!isARMLowRegister(static_cast<ARMOperand*>(Operands[3])->getReg()) ||
4143        !isARMLowRegister(static_cast<ARMOperand*>(Operands[4])->getReg()) ||
4144        !inITBlock()))
4145     return true;
4146
4147
4148
4149   // Register-register 'add/sub' for thumb does not have a cc_out operand
4150   // when it's an ADD/SUB SP, #imm. Be lenient on count since there's also
4151   // the "add/sub SP, SP, #imm" version. If the follow-up operands aren't
4152   // right, this will result in better diagnostics (which operand is off)
4153   // anyway.
4154   if (isThumb() && (Mnemonic == "add" || Mnemonic == "sub") &&
4155       (Operands.size() == 5 || Operands.size() == 6) &&
4156       static_cast<ARMOperand*>(Operands[3])->isReg() &&
4157       static_cast<ARMOperand*>(Operands[3])->getReg() == ARM::SP &&
4158       static_cast<ARMOperand*>(Operands[1])->getReg() == 0)
4159     return true;
4160
4161   return false;
4162 }
4163
4164 static bool isDataTypeToken(StringRef Tok) {
4165   return Tok == ".8" || Tok == ".16" || Tok == ".32" || Tok == ".64" ||
4166     Tok == ".i8" || Tok == ".i16" || Tok == ".i32" || Tok == ".i64" ||
4167     Tok == ".u8" || Tok == ".u16" || Tok == ".u32" || Tok == ".u64" ||
4168     Tok == ".s8" || Tok == ".s16" || Tok == ".s32" || Tok == ".s64" ||
4169     Tok == ".p8" || Tok == ".p16" || Tok == ".f32" || Tok == ".f64" ||
4170     Tok == ".f" || Tok == ".d";
4171 }
4172
4173 // FIXME: This bit should probably be handled via an explicit match class
4174 // in the .td files that matches the suffix instead of having it be
4175 // a literal string token the way it is now.
4176 static bool doesIgnoreDataTypeSuffix(StringRef Mnemonic, StringRef DT) {
4177   return Mnemonic.startswith("vldm") || Mnemonic.startswith("vstm");
4178 }
4179
4180 /// Parse an arm instruction mnemonic followed by its operands.
4181 bool ARMAsmParser::ParseInstruction(StringRef Name, SMLoc NameLoc,
4182                                SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
4183   // Create the leading tokens for the mnemonic, split by '.' characters.
4184   size_t Start = 0, Next = Name.find('.');
4185   StringRef Mnemonic = Name.slice(Start, Next);
4186
4187   // Split out the predication code and carry setting flag from the mnemonic.
4188   unsigned PredicationCode;
4189   unsigned ProcessorIMod;
4190   bool CarrySetting;
4191   StringRef ITMask;
4192   Mnemonic = splitMnemonic(Mnemonic, PredicationCode, CarrySetting,
4193                            ProcessorIMod, ITMask);
4194
4195   // In Thumb1, only the branch (B) instruction can be predicated.
4196   if (isThumbOne() && PredicationCode != ARMCC::AL && Mnemonic != "b") {
4197     Parser.EatToEndOfStatement();
4198     return Error(NameLoc, "conditional execution not supported in Thumb1");
4199   }
4200
4201   Operands.push_back(ARMOperand::CreateToken(Mnemonic, NameLoc));
4202
4203   // Handle the IT instruction ITMask. Convert it to a bitmask. This
4204   // is the mask as it will be for the IT encoding if the conditional
4205   // encoding has a '1' as it's bit0 (i.e. 't' ==> '1'). In the case
4206   // where the conditional bit0 is zero, the instruction post-processing
4207   // will adjust the mask accordingly.
4208   if (Mnemonic == "it") {
4209     SMLoc Loc = SMLoc::getFromPointer(NameLoc.getPointer() + 2);
4210     if (ITMask.size() > 3) {
4211       Parser.EatToEndOfStatement();
4212       return Error(Loc, "too many conditions on IT instruction");
4213     }
4214     unsigned Mask = 8;
4215     for (unsigned i = ITMask.size(); i != 0; --i) {
4216       char pos = ITMask[i - 1];
4217       if (pos != 't' && pos != 'e') {
4218         Parser.EatToEndOfStatement();
4219         return Error(Loc, "illegal IT block condition mask '" + ITMask + "'");
4220       }
4221       Mask >>= 1;
4222       if (ITMask[i - 1] == 't')
4223         Mask |= 8;
4224     }
4225     Operands.push_back(ARMOperand::CreateITMask(Mask, Loc));
4226   }
4227
4228   // FIXME: This is all a pretty gross hack. We should automatically handle
4229   // optional operands like this via tblgen.
4230
4231   // Next, add the CCOut and ConditionCode operands, if needed.
4232   //
4233   // For mnemonics which can ever incorporate a carry setting bit or predication
4234   // code, our matching model involves us always generating CCOut and
4235   // ConditionCode operands to match the mnemonic "as written" and then we let
4236   // the matcher deal with finding the right instruction or generating an
4237   // appropriate error.
4238   bool CanAcceptCarrySet, CanAcceptPredicationCode;
4239   getMnemonicAcceptInfo(Mnemonic, CanAcceptCarrySet, CanAcceptPredicationCode);
4240
4241   // If we had a carry-set on an instruction that can't do that, issue an
4242   // error.
4243   if (!CanAcceptCarrySet && CarrySetting) {
4244     Parser.EatToEndOfStatement();
4245     return Error(NameLoc, "instruction '" + Mnemonic +
4246                  "' can not set flags, but 's' suffix specified");
4247   }
4248   // If we had a predication code on an instruction that can't do that, issue an
4249   // error.
4250   if (!CanAcceptPredicationCode && PredicationCode != ARMCC::AL) {
4251     Parser.EatToEndOfStatement();
4252     return Error(NameLoc, "instruction '" + Mnemonic +
4253                  "' is not predicable, but condition code specified");
4254   }
4255
4256   // Add the carry setting operand, if necessary.
4257   if (CanAcceptCarrySet) {
4258     SMLoc Loc = SMLoc::getFromPointer(NameLoc.getPointer() + Mnemonic.size());
4259     Operands.push_back(ARMOperand::CreateCCOut(CarrySetting ? ARM::CPSR : 0,
4260                                                Loc));
4261   }
4262
4263   // Add the predication code operand, if necessary.
4264   if (CanAcceptPredicationCode) {
4265     SMLoc Loc = SMLoc::getFromPointer(NameLoc.getPointer() + Mnemonic.size() +
4266                                       CarrySetting);
4267     Operands.push_back(ARMOperand::CreateCondCode(
4268                          ARMCC::CondCodes(PredicationCode), Loc));
4269   }
4270
4271   // Add the processor imod operand, if necessary.
4272   if (ProcessorIMod) {
4273     Operands.push_back(ARMOperand::CreateImm(
4274           MCConstantExpr::Create(ProcessorIMod, getContext()),
4275                                  NameLoc, NameLoc));
4276   }
4277
4278   // Add the remaining tokens in the mnemonic.
4279   while (Next != StringRef::npos) {
4280     Start = Next;
4281     Next = Name.find('.', Start + 1);
4282     StringRef ExtraToken = Name.slice(Start, Next);
4283
4284     // Some NEON instructions have an optional datatype suffix that is
4285     // completely ignored. Check for that.
4286     if (isDataTypeToken(ExtraToken) &&
4287         doesIgnoreDataTypeSuffix(Mnemonic, ExtraToken))
4288       continue;
4289
4290     if (ExtraToken != ".n") {
4291       SMLoc Loc = SMLoc::getFromPointer(NameLoc.getPointer() + Start);
4292       Operands.push_back(ARMOperand::CreateToken(ExtraToken, Loc));
4293     }
4294   }
4295
4296   // Read the remaining operands.
4297   if (getLexer().isNot(AsmToken::EndOfStatement)) {
4298     // Read the first operand.
4299     if (parseOperand(Operands, Mnemonic)) {
4300       Parser.EatToEndOfStatement();
4301       return true;
4302     }
4303
4304     while (getLexer().is(AsmToken::Comma)) {
4305       Parser.Lex();  // Eat the comma.
4306
4307       // Parse and remember the operand.
4308       if (parseOperand(Operands, Mnemonic)) {
4309         Parser.EatToEndOfStatement();
4310         return true;
4311       }
4312     }
4313   }
4314
4315   if (getLexer().isNot(AsmToken::EndOfStatement)) {
4316     SMLoc Loc = getLexer().getLoc();
4317     Parser.EatToEndOfStatement();
4318     return Error(Loc, "unexpected token in argument list");
4319   }
4320
4321   Parser.Lex(); // Consume the EndOfStatement
4322
4323   // Some instructions, mostly Thumb, have forms for the same mnemonic that
4324   // do and don't have a cc_out optional-def operand. With some spot-checks
4325   // of the operand list, we can figure out which variant we're trying to
4326   // parse and adjust accordingly before actually matching. We shouldn't ever
4327   // try to remove a cc_out operand that was explicitly set on the the
4328   // mnemonic, of course (CarrySetting == true). Reason number #317 the
4329   // table driven matcher doesn't fit well with the ARM instruction set.
4330   if (!CarrySetting && shouldOmitCCOutOperand(Mnemonic, Operands)) {
4331     ARMOperand *Op = static_cast<ARMOperand*>(Operands[1]);
4332     Operands.erase(Operands.begin() + 1);
4333     delete Op;
4334   }
4335
4336   // ARM mode 'blx' need special handling, as the register operand version
4337   // is predicable, but the label operand version is not. So, we can't rely
4338   // on the Mnemonic based checking to correctly figure out when to put
4339   // a k_CondCode operand in the list. If we're trying to match the label
4340   // version, remove the k_CondCode operand here.
4341   if (!isThumb() && Mnemonic == "blx" && Operands.size() == 3 &&
4342       static_cast<ARMOperand*>(Operands[2])->isImm()) {
4343     ARMOperand *Op = static_cast<ARMOperand*>(Operands[1]);
4344     Operands.erase(Operands.begin() + 1);
4345     delete Op;
4346   }
4347
4348   // The vector-compare-to-zero instructions have a literal token "#0" at
4349   // the end that comes to here as an immediate operand. Convert it to a
4350   // token to play nicely with the matcher.
4351   if ((Mnemonic == "vceq" || Mnemonic == "vcge" || Mnemonic == "vcgt" ||
4352       Mnemonic == "vcle" || Mnemonic == "vclt") && Operands.size() == 6 &&
4353       static_cast<ARMOperand*>(Operands[5])->isImm()) {
4354     ARMOperand *Op = static_cast<ARMOperand*>(Operands[5]);
4355     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(Op->getImm());
4356     if (CE && CE->getValue() == 0) {
4357       Operands.erase(Operands.begin() + 5);
4358       Operands.push_back(ARMOperand::CreateToken("#0", Op->getStartLoc()));
4359       delete Op;
4360     }
4361   }
4362   // VCMP{E} does the same thing, but with a different operand count.
4363   if ((Mnemonic == "vcmp" || Mnemonic == "vcmpe") && Operands.size() == 5 &&
4364       static_cast<ARMOperand*>(Operands[4])->isImm()) {
4365     ARMOperand *Op = static_cast<ARMOperand*>(Operands[4]);
4366     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(Op->getImm());
4367     if (CE && CE->getValue() == 0) {
4368       Operands.erase(Operands.begin() + 4);
4369       Operands.push_back(ARMOperand::CreateToken("#0", Op->getStartLoc()));
4370       delete Op;
4371     }
4372   }
4373   // Similarly, the Thumb1 "RSB" instruction has a literal "#0" on the
4374   // end. Convert it to a token here.
4375   if (Mnemonic == "rsb" && isThumb() && Operands.size() == 6 &&
4376       static_cast<ARMOperand*>(Operands[5])->isImm()) {
4377     ARMOperand *Op = static_cast<ARMOperand*>(Operands[5]);
4378     const MCConstantExpr *CE = dyn_cast<MCConstantExpr>(Op->getImm());
4379     if (CE && CE->getValue() == 0) {
4380       Operands.erase(Operands.begin() + 5);
4381       Operands.push_back(ARMOperand::CreateToken("#0", Op->getStartLoc()));
4382       delete Op;
4383     }
4384   }
4385
4386   return false;
4387 }
4388
4389 // Validate context-sensitive operand constraints.
4390
4391 // return 'true' if register list contains non-low GPR registers,
4392 // 'false' otherwise. If Reg is in the register list or is HiReg, set
4393 // 'containsReg' to true.
4394 static bool checkLowRegisterList(MCInst Inst, unsigned OpNo, unsigned Reg,
4395                                  unsigned HiReg, bool &containsReg) {
4396   containsReg = false;
4397   for (unsigned i = OpNo; i < Inst.getNumOperands(); ++i) {
4398     unsigned OpReg = Inst.getOperand(i).getReg();
4399     if (OpReg == Reg)
4400       containsReg = true;
4401     // Anything other than a low register isn't legal here.
4402     if (!isARMLowRegister(OpReg) && (!HiReg || OpReg != HiReg))
4403       return true;
4404   }
4405   return false;
4406 }
4407
4408 // Check if the specified regisgter is in the register list of the inst,
4409 // starting at the indicated operand number.
4410 static bool listContainsReg(MCInst &Inst, unsigned OpNo, unsigned Reg) {
4411   for (unsigned i = OpNo; i < Inst.getNumOperands(); ++i) {
4412     unsigned OpReg = Inst.getOperand(i).getReg();
4413     if (OpReg == Reg)
4414       return true;
4415   }
4416   return false;
4417 }
4418
4419 // FIXME: We would really prefer to have MCInstrInfo (the wrapper around
4420 // the ARMInsts array) instead. Getting that here requires awkward
4421 // API changes, though. Better way?
4422 namespace llvm {
4423 extern const MCInstrDesc ARMInsts[];
4424 }
4425 static const MCInstrDesc &getInstDesc(unsigned Opcode) {
4426   return ARMInsts[Opcode];
4427 }
4428
4429 // FIXME: We would really like to be able to tablegen'erate this.
4430 bool ARMAsmParser::
4431 validateInstruction(MCInst &Inst,
4432                     const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
4433   const MCInstrDesc &MCID = getInstDesc(Inst.getOpcode());
4434   SMLoc Loc = Operands[0]->getStartLoc();
4435   // Check the IT block state first.
4436   // NOTE: In Thumb mode, the BKPT instruction has the interesting property of
4437   // being allowed in IT blocks, but not being predicable.  It just always
4438   // executes.
4439   if (inITBlock() && Inst.getOpcode() != ARM::tBKPT) {
4440     unsigned bit = 1;
4441     if (ITState.FirstCond)
4442       ITState.FirstCond = false;
4443     else
4444       bit = (ITState.Mask >> (5 - ITState.CurPosition)) & 1;
4445     // The instruction must be predicable.
4446     if (!MCID.isPredicable())
4447       return Error(Loc, "instructions in IT block must be predicable");
4448     unsigned Cond = Inst.getOperand(MCID.findFirstPredOperandIdx()).getImm();
4449     unsigned ITCond = bit ? ITState.Cond :
4450       ARMCC::getOppositeCondition(ITState.Cond);
4451     if (Cond != ITCond) {
4452       // Find the condition code Operand to get its SMLoc information.
4453       SMLoc CondLoc;
4454       for (unsigned i = 1; i < Operands.size(); ++i)
4455         if (static_cast<ARMOperand*>(Operands[i])->isCondCode())
4456           CondLoc = Operands[i]->getStartLoc();
4457       return Error(CondLoc, "incorrect condition in IT block; got '" +
4458                    StringRef(ARMCondCodeToString(ARMCC::CondCodes(Cond))) +
4459                    "', but expected '" +
4460                    ARMCondCodeToString(ARMCC::CondCodes(ITCond)) + "'");
4461     }
4462   // Check for non-'al' condition codes outside of the IT block.
4463   } else if (isThumbTwo() && MCID.isPredicable() &&
4464              Inst.getOperand(MCID.findFirstPredOperandIdx()).getImm() !=
4465              ARMCC::AL && Inst.getOpcode() != ARM::tB &&
4466              Inst.getOpcode() != ARM::t2B)
4467     return Error(Loc, "predicated instructions must be in IT block");
4468
4469   switch (Inst.getOpcode()) {
4470   case ARM::LDRD:
4471   case ARM::LDRD_PRE:
4472   case ARM::LDRD_POST:
4473   case ARM::LDREXD: {
4474     // Rt2 must be Rt + 1.
4475     unsigned Rt = getARMRegisterNumbering(Inst.getOperand(0).getReg());
4476     unsigned Rt2 = getARMRegisterNumbering(Inst.getOperand(1).getReg());
4477     if (Rt2 != Rt + 1)
4478       return Error(Operands[3]->getStartLoc(),
4479                    "destination operands must be sequential");
4480     return false;
4481   }
4482   case ARM::STRD: {
4483     // Rt2 must be Rt + 1.
4484     unsigned Rt = getARMRegisterNumbering(Inst.getOperand(0).getReg());
4485     unsigned Rt2 = getARMRegisterNumbering(Inst.getOperand(1).getReg());
4486     if (Rt2 != Rt + 1)
4487       return Error(Operands[3]->getStartLoc(),
4488                    "source operands must be sequential");
4489     return false;
4490   }
4491   case ARM::STRD_PRE:
4492   case ARM::STRD_POST:
4493   case ARM::STREXD: {
4494     // Rt2 must be Rt + 1.
4495     unsigned Rt = getARMRegisterNumbering(Inst.getOperand(1).getReg());
4496     unsigned Rt2 = getARMRegisterNumbering(Inst.getOperand(2).getReg());
4497     if (Rt2 != Rt + 1)
4498       return Error(Operands[3]->getStartLoc(),
4499                    "source operands must be sequential");
4500     return false;
4501   }
4502   case ARM::SBFX:
4503   case ARM::UBFX: {
4504     // width must be in range [1, 32-lsb]
4505     unsigned lsb = Inst.getOperand(2).getImm();
4506     unsigned widthm1 = Inst.getOperand(3).getImm();
4507     if (widthm1 >= 32 - lsb)
4508       return Error(Operands[5]->getStartLoc(),
4509                    "bitfield width must be in range [1,32-lsb]");
4510     return false;
4511   }
4512   case ARM::tLDMIA: {
4513     // If we're parsing Thumb2, the .w variant is available and handles
4514     // most cases that are normally illegal for a Thumb1 LDM
4515     // instruction. We'll make the transformation in processInstruction()
4516     // if necessary.
4517     //
4518     // Thumb LDM instructions are writeback iff the base register is not
4519     // in the register list.
4520     unsigned Rn = Inst.getOperand(0).getReg();
4521     bool hasWritebackToken =
4522       (static_cast<ARMOperand*>(Operands[3])->isToken() &&
4523        static_cast<ARMOperand*>(Operands[3])->getToken() == "!");
4524     bool listContainsBase;
4525     if (checkLowRegisterList(Inst, 3, Rn, 0, listContainsBase) && !isThumbTwo())
4526       return Error(Operands[3 + hasWritebackToken]->getStartLoc(),
4527                    "registers must be in range r0-r7");
4528     // If we should have writeback, then there should be a '!' token.
4529     if (!listContainsBase && !hasWritebackToken && !isThumbTwo())
4530       return Error(Operands[2]->getStartLoc(),
4531                    "writeback operator '!' expected");
4532     // If we should not have writeback, there must not be a '!'. This is
4533     // true even for the 32-bit wide encodings.
4534     if (listContainsBase && hasWritebackToken)
4535       return Error(Operands[3]->getStartLoc(),
4536                    "writeback operator '!' not allowed when base register "
4537                    "in register list");
4538
4539     break;
4540   }
4541   case ARM::t2LDMIA_UPD: {
4542     if (listContainsReg(Inst, 3, Inst.getOperand(0).getReg()))
4543       return Error(Operands[4]->getStartLoc(),
4544                    "writeback operator '!' not allowed when base register "
4545                    "in register list");
4546     break;
4547   }
4548   // Like for ldm/stm, push and pop have hi-reg handling version in Thumb2,
4549   // so only issue a diagnostic for thumb1. The instructions will be
4550   // switched to the t2 encodings in processInstruction() if necessary.
4551   case ARM::tPOP: {
4552     bool listContainsBase;
4553     if (checkLowRegisterList(Inst, 2, 0, ARM::PC, listContainsBase) &&
4554         !isThumbTwo())
4555       return Error(Operands[2]->getStartLoc(),
4556                    "registers must be in range r0-r7 or pc");
4557     break;
4558   }
4559   case ARM::tPUSH: {
4560     bool listContainsBase;
4561     if (checkLowRegisterList(Inst, 2, 0, ARM::LR, listContainsBase) &&
4562         !isThumbTwo())
4563       return Error(Operands[2]->getStartLoc(),
4564                    "registers must be in range r0-r7 or lr");
4565     break;
4566   }
4567   case ARM::tSTMIA_UPD: {
4568     bool listContainsBase;
4569     if (checkLowRegisterList(Inst, 4, 0, 0, listContainsBase) && !isThumbTwo())
4570       return Error(Operands[4]->getStartLoc(),
4571                    "registers must be in range r0-r7");
4572     break;
4573   }
4574   }
4575
4576   return false;
4577 }
4578
4579 bool ARMAsmParser::
4580 processInstruction(MCInst &Inst,
4581                    const SmallVectorImpl<MCParsedAsmOperand*> &Operands) {
4582   switch (Inst.getOpcode()) {
4583   // Handle the MOV complex aliases.
4584   case ARM::ASRi:
4585   case ARM::LSRi:
4586   case ARM::LSLi:
4587   case ARM::RORi: {
4588     ARM_AM::ShiftOpc ShiftTy;
4589     unsigned Amt = Inst.getOperand(2).getImm();
4590     switch(Inst.getOpcode()) {
4591     default: llvm_unreachable("unexpected opcode!");
4592     case ARM::ASRi: ShiftTy = ARM_AM::asr; break;
4593     case ARM::LSRi: ShiftTy = ARM_AM::lsr; break;
4594     case ARM::LSLi: ShiftTy = ARM_AM::lsl; break;
4595     case ARM::RORi: ShiftTy = ARM_AM::ror; break;
4596     }
4597     // A shift by zero is a plain MOVr, not a MOVsi.
4598     unsigned Opc = Amt == 0 ? ARM::MOVr : ARM::MOVsi;
4599     unsigned Shifter = ARM_AM::getSORegOpc(ShiftTy, Amt);
4600     MCInst TmpInst;
4601     TmpInst.setOpcode(Opc);
4602     TmpInst.addOperand(Inst.getOperand(0)); // Rd
4603     TmpInst.addOperand(Inst.getOperand(1)); // Rn
4604     if (Opc == ARM::MOVsi)
4605       TmpInst.addOperand(MCOperand::CreateImm(Shifter)); // Shift value and ty
4606     TmpInst.addOperand(Inst.getOperand(3)); // CondCode
4607     TmpInst.addOperand(Inst.getOperand(4));
4608     TmpInst.addOperand(Inst.getOperand(5)); // cc_out
4609     Inst = TmpInst;
4610     return true;
4611   }
4612   case ARM::t2LDMIA_UPD: {
4613     // If this is a load of a single register, then we should use
4614     // a post-indexed LDR instruction instead, per the ARM ARM.
4615     if (Inst.getNumOperands() != 5)
4616       return false;
4617     MCInst TmpInst;
4618     TmpInst.setOpcode(ARM::t2LDR_POST);
4619     TmpInst.addOperand(Inst.getOperand(4)); // Rt
4620     TmpInst.addOperand(Inst.getOperand(0)); // Rn_wb
4621     TmpInst.addOperand(Inst.getOperand(1)); // Rn
4622     TmpInst.addOperand(MCOperand::CreateImm(4));
4623     TmpInst.addOperand(Inst.getOperand(2)); // CondCode
4624     TmpInst.addOperand(Inst.getOperand(3));
4625     Inst = TmpInst;
4626     return true;
4627   }
4628   case ARM::t2STMDB_UPD: {
4629     // If this is a store of a single register, then we should use
4630     // a pre-indexed STR instruction instead, per the ARM ARM.
4631     if (Inst.getNumOperands() != 5)
4632       return false;
4633     MCInst TmpInst;
4634     TmpInst.setOpcode(ARM::t2STR_PRE);
4635     TmpInst.addOperand(Inst.getOperand(0)); // Rn_wb
4636     TmpInst.addOperand(Inst.getOperand(4)); // Rt
4637     TmpInst.addOperand(Inst.getOperand(1)); // Rn
4638     TmpInst.addOperand(MCOperand::CreateImm(-4));
4639     TmpInst.addOperand(Inst.getOperand(2)); // CondCode
4640     TmpInst.addOperand(Inst.getOperand(3));
4641     Inst = TmpInst;
4642     return true;
4643   }
4644   case ARM::LDMIA_UPD:
4645     // If this is a load of a single register via a 'pop', then we should use
4646     // a post-indexed LDR instruction instead, per the ARM ARM.
4647     if (static_cast<ARMOperand*>(Operands[0])->getToken() == "pop" &&
4648         Inst.getNumOperands() == 5) {
4649       MCInst TmpInst;
4650       TmpInst.setOpcode(ARM::LDR_POST_IMM);
4651       TmpInst.addOperand(Inst.getOperand(4)); // Rt
4652       TmpInst.addOperand(Inst.getOperand(0)); // Rn_wb
4653       TmpInst.addOperand(Inst.getOperand(1)); // Rn
4654       TmpInst.addOperand(MCOperand::CreateReg(0));  // am2offset
4655       TmpInst.addOperand(MCOperand::CreateImm(4));
4656       TmpInst.addOperand(Inst.getOperand(2)); // CondCode
4657       TmpInst.addOperand(Inst.getOperand(3));
4658       Inst = TmpInst;
4659       return true;
4660     }
4661     break;
4662   case ARM::STMDB_UPD:
4663     // If this is a store of a single register via a 'push', then we should use
4664     // a pre-indexed STR instruction instead, per the ARM ARM.
4665     if (static_cast<ARMOperand*>(Operands[0])->getToken() == "push" &&
4666         Inst.getNumOperands() == 5) {
4667       MCInst TmpInst;
4668       TmpInst.setOpcode(ARM::STR_PRE_IMM);
4669       TmpInst.addOperand(Inst.getOperand(0)); // Rn_wb
4670       TmpInst.addOperand(Inst.getOperand(4)); // Rt
4671       TmpInst.addOperand(Inst.getOperand(1)); // addrmode_imm12
4672       TmpInst.addOperand(MCOperand::CreateImm(-4));
4673       TmpInst.addOperand(Inst.getOperand(2)); // CondCode
4674       TmpInst.addOperand(Inst.getOperand(3));
4675       Inst = TmpInst;
4676     }
4677     break;
4678   case ARM::tADDi8:
4679     // If the immediate is in the range 0-7, we want tADDi3 iff Rd was
4680     // explicitly specified. From the ARM ARM: "Encoding T1 is preferred
4681     // to encoding T2 if <Rd> is specified and encoding T2 is preferred
4682     // to encoding T1 if <Rd> is omitted."
4683     if (Inst.getOperand(3).getImm() < 8 && Operands.size() == 6) {
4684       Inst.setOpcode(ARM::tADDi3);
4685       return true;
4686     }
4687     break;
4688   case ARM::tSUBi8:
4689     // If the immediate is in the range 0-7, we want tADDi3 iff Rd was
4690     // explicitly specified. From the ARM ARM: "Encoding T1 is preferred
4691     // to encoding T2 if <Rd> is specified and encoding T2 is preferred
4692     // to encoding T1 if <Rd> is omitted."
4693     if (Inst.getOperand(3).getImm() < 8 && Operands.size() == 6) {
4694       Inst.setOpcode(ARM::tSUBi3);
4695       return true;
4696     }
4697     break;
4698   case ARM::tB:
4699     // A Thumb conditional branch outside of an IT block is a tBcc.
4700     if (Inst.getOperand(1).getImm() != ARMCC::AL && !inITBlock()) {
4701       Inst.setOpcode(ARM::tBcc);
4702       return true;
4703     }
4704     break;
4705   case ARM::t2B:
4706     // A Thumb2 conditional branch outside of an IT block is a t2Bcc.
4707     if (Inst.getOperand(1).getImm() != ARMCC::AL && !inITBlock()){
4708       Inst.setOpcode(ARM::t2Bcc);
4709       return true;
4710     }
4711     break;
4712   case ARM::t2Bcc:
4713     // If the conditional is AL or we're in an IT block, we really want t2B.
4714     if (Inst.getOperand(1).getImm() == ARMCC::AL || inITBlock()) {
4715       Inst.setOpcode(ARM::t2B);
4716       return true;
4717     }
4718     break;
4719   case ARM::tBcc:
4720     // If the conditional is AL, we really want tB.
4721     if (Inst.getOperand(1).getImm() == ARMCC::AL) {
4722       Inst.setOpcode(ARM::tB);
4723       return true;
4724     }
4725     break;
4726   case ARM::tLDMIA: {
4727     // If the register list contains any high registers, or if the writeback
4728     // doesn't match what tLDMIA can do, we need to use the 32-bit encoding
4729     // instead if we're in Thumb2. Otherwise, this should have generated
4730     // an error in validateInstruction().
4731     unsigned Rn = Inst.getOperand(0).getReg();
4732     bool hasWritebackToken =
4733       (static_cast<ARMOperand*>(Operands[3])->isToken() &&
4734        static_cast<ARMOperand*>(Operands[3])->getToken() == "!");
4735     bool listContainsBase;
4736     if (checkLowRegisterList(Inst, 3, Rn, 0, listContainsBase) ||
4737         (!listContainsBase && !hasWritebackToken) ||
4738         (listContainsBase && hasWritebackToken)) {
4739       // 16-bit encoding isn't sufficient. Switch to the 32-bit version.
4740       assert (isThumbTwo());
4741       Inst.setOpcode(hasWritebackToken ? ARM::t2LDMIA_UPD : ARM::t2LDMIA);
4742       // If we're switching to the updating version, we need to insert
4743       // the writeback tied operand.
4744       if (hasWritebackToken)
4745         Inst.insert(Inst.begin(),
4746                     MCOperand::CreateReg(Inst.getOperand(0).getReg()));
4747       return true;
4748     }
4749     break;
4750   }
4751   case ARM::tSTMIA_UPD: {
4752     // If the register list contains any high registers, we need to use
4753     // the 32-bit encoding instead if we're in Thumb2. Otherwise, this
4754     // should have generated an error in validateInstruction().
4755     unsigned Rn = Inst.getOperand(0).getReg();
4756     bool listContainsBase;
4757     if (checkLowRegisterList(Inst, 4, Rn, 0, listContainsBase)) {
4758       // 16-bit encoding isn't sufficient. Switch to the 32-bit version.
4759       assert (isThumbTwo());
4760       Inst.setOpcode(ARM::t2STMIA_UPD);
4761       return true;
4762     }
4763     break;
4764   }
4765   case ARM::tPOP: {
4766     bool listContainsBase;
4767     // If the register list contains any high registers, we need to use
4768     // the 32-bit encoding instead if we're in Thumb2. Otherwise, this
4769     // should have generated an error in validateInstruction().
4770     if (!checkLowRegisterList(Inst, 2, 0, ARM::PC, listContainsBase))
4771       return false;
4772     assert (isThumbTwo());
4773     Inst.setOpcode(ARM::t2LDMIA_UPD);
4774     // Add the base register and writeback operands.
4775     Inst.insert(Inst.begin(), MCOperand::CreateReg(ARM::SP));
4776     Inst.insert(Inst.begin(), MCOperand::CreateReg(ARM::SP));
4777     return true;
4778   }
4779   case ARM::tPUSH: {
4780     bool listContainsBase;
4781     if (!checkLowRegisterList(Inst, 2, 0, ARM::LR, listContainsBase))
4782       return false;
4783     assert (isThumbTwo());
4784     Inst.setOpcode(ARM::t2STMDB_UPD);
4785     // Add the base register and writeback operands.
4786     Inst.insert(Inst.begin(), MCOperand::CreateReg(ARM::SP));
4787     Inst.insert(Inst.begin(), MCOperand::CreateReg(ARM::SP));
4788     return true;
4789   }
4790   case ARM::t2MOVi: {
4791     // If we can use the 16-bit encoding and the user didn't explicitly
4792     // request the 32-bit variant, transform it here.
4793     if (isARMLowRegister(Inst.getOperand(0).getReg()) &&
4794         Inst.getOperand(1).getImm() <= 255 &&
4795         ((!inITBlock() && Inst.getOperand(2).getImm() == ARMCC::AL &&
4796          Inst.getOperand(4).getReg() == ARM::CPSR) ||
4797         (inITBlock() && Inst.getOperand(4).getReg() == 0)) &&
4798         (!static_cast<ARMOperand*>(Operands[2])->isToken() ||
4799          static_cast<ARMOperand*>(Operands[2])->getToken() != ".w")) {
4800       // The operands aren't in the same order for tMOVi8...
4801       MCInst TmpInst;
4802       TmpInst.setOpcode(ARM::tMOVi8);
4803       TmpInst.addOperand(Inst.getOperand(0));
4804       TmpInst.addOperand(Inst.getOperand(4));
4805       TmpInst.addOperand(Inst.getOperand(1));
4806       TmpInst.addOperand(Inst.getOperand(2));
4807       TmpInst.addOperand(Inst.getOperand(3));
4808       Inst = TmpInst;
4809       return true;
4810     }
4811     break;
4812   }
4813   case ARM::t2MOVr: {
4814     // If we can use the 16-bit encoding and the user didn't explicitly
4815     // request the 32-bit variant, transform it here.
4816     if (isARMLowRegister(Inst.getOperand(0).getReg()) &&
4817         isARMLowRegister(Inst.getOperand(1).getReg()) &&
4818         Inst.getOperand(2).getImm() == ARMCC::AL &&
4819         Inst.getOperand(4).getReg() == ARM::CPSR &&
4820         (!static_cast<ARMOperand*>(Operands[2])->isToken() ||
4821          static_cast<ARMOperand*>(Operands[2])->getToken() != ".w")) {
4822       // The operands aren't the same for tMOV[S]r... (no cc_out)
4823       MCInst TmpInst;
4824       TmpInst.setOpcode(Inst.getOperand(4).getReg() ? ARM::tMOVSr : ARM::tMOVr);
4825       TmpInst.addOperand(Inst.getOperand(0));
4826       TmpInst.addOperand(Inst.getOperand(1));
4827       TmpInst.addOperand(Inst.getOperand(2));
4828       TmpInst.addOperand(Inst.getOperand(3));
4829       Inst = TmpInst;
4830       return true;
4831     }
4832     break;
4833   }
4834   case ARM::t2SXTH:
4835   case ARM::t2SXTB:
4836   case ARM::t2UXTH:
4837   case ARM::t2UXTB: {
4838     // If we can use the 16-bit encoding and the user didn't explicitly
4839     // request the 32-bit variant, transform it here.
4840     if (isARMLowRegister(Inst.getOperand(0).getReg()) &&
4841         isARMLowRegister(Inst.getOperand(1).getReg()) &&
4842         Inst.getOperand(2).getImm() == 0 &&
4843         (!static_cast<ARMOperand*>(Operands[2])->isToken() ||
4844          static_cast<ARMOperand*>(Operands[2])->getToken() != ".w")) {
4845       unsigned NewOpc;
4846       switch (Inst.getOpcode()) {
4847       default: llvm_unreachable("Illegal opcode!");
4848       case ARM::t2SXTH: NewOpc = ARM::tSXTH; break;
4849       case ARM::t2SXTB: NewOpc = ARM::tSXTB; break;
4850       case ARM::t2UXTH: NewOpc = ARM::tUXTH; break;
4851       case ARM::t2UXTB: NewOpc = ARM::tUXTB; break;
4852       }
4853       // The operands aren't the same for thumb1 (no rotate operand).
4854       MCInst TmpInst;
4855       TmpInst.setOpcode(NewOpc);
4856       TmpInst.addOperand(Inst.getOperand(0));
4857       TmpInst.addOperand(Inst.getOperand(1));
4858       TmpInst.addOperand(Inst.getOperand(3));
4859       TmpInst.addOperand(Inst.getOperand(4));
4860       Inst = TmpInst;
4861       return true;
4862     }
4863     break;
4864   }
4865   case ARM::t2IT: {
4866     // The mask bits for all but the first condition are represented as
4867     // the low bit of the condition code value implies 't'. We currently
4868     // always have 1 implies 't', so XOR toggle the bits if the low bit
4869     // of the condition code is zero. The encoding also expects the low
4870     // bit of the condition to be encoded as bit 4 of the mask operand,
4871     // so mask that in if needed
4872     MCOperand &MO = Inst.getOperand(1);
4873     unsigned Mask = MO.getImm();
4874     unsigned OrigMask = Mask;
4875     unsigned TZ = CountTrailingZeros_32(Mask);
4876     if ((Inst.getOperand(0).getImm() & 1) == 0) {
4877       assert(Mask && TZ <= 3 && "illegal IT mask value!");
4878       for (unsigned i = 3; i != TZ; --i)
4879         Mask ^= 1 << i;
4880     } else
4881       Mask |= 0x10;
4882     MO.setImm(Mask);
4883
4884     // Set up the IT block state according to the IT instruction we just
4885     // matched.
4886     assert(!inITBlock() && "nested IT blocks?!");
4887     ITState.Cond = ARMCC::CondCodes(Inst.getOperand(0).getImm());
4888     ITState.Mask = OrigMask; // Use the original mask, not the updated one.
4889     ITState.CurPosition = 0;
4890     ITState.FirstCond = true;
4891     break;
4892   }
4893   }
4894   return false;
4895 }
4896
4897 unsigned ARMAsmParser::checkTargetMatchPredicate(MCInst &Inst) {
4898   // 16-bit thumb arithmetic instructions either require or preclude the 'S'
4899   // suffix depending on whether they're in an IT block or not.
4900   unsigned Opc = Inst.getOpcode();
4901   const MCInstrDesc &MCID = getInstDesc(Opc);
4902   if (MCID.TSFlags & ARMII::ThumbArithFlagSetting) {
4903     assert(MCID.hasOptionalDef() &&
4904            "optionally flag setting instruction missing optional def operand");
4905     assert(MCID.NumOperands == Inst.getNumOperands() &&
4906            "operand count mismatch!");
4907     // Find the optional-def operand (cc_out).
4908     unsigned OpNo;
4909     for (OpNo = 0;
4910          !MCID.OpInfo[OpNo].isOptionalDef() && OpNo < MCID.NumOperands;
4911          ++OpNo)
4912       ;
4913     // If we're parsing Thumb1, reject it completely.
4914     if (isThumbOne() && Inst.getOperand(OpNo).getReg() != ARM::CPSR)
4915       return Match_MnemonicFail;
4916     // If we're parsing Thumb2, which form is legal depends on whether we're
4917     // in an IT block.
4918     if (isThumbTwo() && Inst.getOperand(OpNo).getReg() != ARM::CPSR &&
4919         !inITBlock())
4920       return Match_RequiresITBlock;
4921     if (isThumbTwo() && Inst.getOperand(OpNo).getReg() == ARM::CPSR &&
4922         inITBlock())
4923       return Match_RequiresNotITBlock;
4924   }
4925   // Some high-register supporting Thumb1 encodings only allow both registers
4926   // to be from r0-r7 when in Thumb2.
4927   else if (Opc == ARM::tADDhirr && isThumbOne() &&
4928            isARMLowRegister(Inst.getOperand(1).getReg()) &&
4929            isARMLowRegister(Inst.getOperand(2).getReg()))
4930     return Match_RequiresThumb2;
4931   // Others only require ARMv6 or later.
4932   else if (Opc == ARM::tMOVr && isThumbOne() && !hasV6Ops() &&
4933            isARMLowRegister(Inst.getOperand(0).getReg()) &&
4934            isARMLowRegister(Inst.getOperand(1).getReg()))
4935     return Match_RequiresV6;
4936   return Match_Success;
4937 }
4938
4939 bool ARMAsmParser::
4940 MatchAndEmitInstruction(SMLoc IDLoc,
4941                         SmallVectorImpl<MCParsedAsmOperand*> &Operands,
4942                         MCStreamer &Out) {
4943   MCInst Inst;
4944   unsigned ErrorInfo;
4945   unsigned MatchResult;
4946   MatchResult = MatchInstructionImpl(Operands, Inst, ErrorInfo);
4947   switch (MatchResult) {
4948   default: break;
4949   case Match_Success:
4950     // Context sensitive operand constraints aren't handled by the matcher,
4951     // so check them here.
4952     if (validateInstruction(Inst, Operands)) {
4953       // Still progress the IT block, otherwise one wrong condition causes
4954       // nasty cascading errors.
4955       forwardITPosition();
4956       return true;
4957     }
4958
4959     // Some instructions need post-processing to, for example, tweak which
4960     // encoding is selected. Loop on it while changes happen so the
4961     // individual transformations can chain off each other. E.g.,
4962     // tPOP(r8)->t2LDMIA_UPD(sp,r8)->t2STR_POST(sp,r8)
4963     while (processInstruction(Inst, Operands))
4964       ;
4965
4966     // Only move forward at the very end so that everything in validate
4967     // and process gets a consistent answer about whether we're in an IT
4968     // block.
4969     forwardITPosition();
4970
4971     Out.EmitInstruction(Inst);
4972     return false;
4973   case Match_MissingFeature:
4974     Error(IDLoc, "instruction requires a CPU feature not currently enabled");
4975     return true;
4976   case Match_InvalidOperand: {
4977     SMLoc ErrorLoc = IDLoc;
4978     if (ErrorInfo != ~0U) {
4979       if (ErrorInfo >= Operands.size())
4980         return Error(IDLoc, "too few operands for instruction");
4981
4982       ErrorLoc = ((ARMOperand*)Operands[ErrorInfo])->getStartLoc();
4983       if (ErrorLoc == SMLoc()) ErrorLoc = IDLoc;
4984     }
4985
4986     return Error(ErrorLoc, "invalid operand for instruction");
4987   }
4988   case Match_MnemonicFail:
4989     return Error(IDLoc, "invalid instruction");
4990   case Match_ConversionFail:
4991     // The converter function will have already emited a diagnostic.
4992     return true;
4993   case Match_RequiresNotITBlock:
4994     return Error(IDLoc, "flag setting instruction only valid outside IT block");
4995   case Match_RequiresITBlock:
4996     return Error(IDLoc, "instruction only valid inside IT block");
4997   case Match_RequiresV6:
4998     return Error(IDLoc, "instruction variant requires ARMv6 or later");
4999   case Match_RequiresThumb2:
5000     return Error(IDLoc, "instruction variant requires Thumb2");
5001   }
5002
5003   llvm_unreachable("Implement any new match types added!");
5004   return true;
5005 }
5006
5007 /// parseDirective parses the arm specific directives
5008 bool ARMAsmParser::ParseDirective(AsmToken DirectiveID) {
5009   StringRef IDVal = DirectiveID.getIdentifier();
5010   if (IDVal == ".word")
5011     return parseDirectiveWord(4, DirectiveID.getLoc());
5012   else if (IDVal == ".thumb")
5013     return parseDirectiveThumb(DirectiveID.getLoc());
5014   else if (IDVal == ".thumb_func")
5015     return parseDirectiveThumbFunc(DirectiveID.getLoc());
5016   else if (IDVal == ".code")
5017     return parseDirectiveCode(DirectiveID.getLoc());
5018   else if (IDVal == ".syntax")
5019     return parseDirectiveSyntax(DirectiveID.getLoc());
5020   return true;
5021 }
5022
5023 /// parseDirectiveWord
5024 ///  ::= .word [ expression (, expression)* ]
5025 bool ARMAsmParser::parseDirectiveWord(unsigned Size, SMLoc L) {
5026   if (getLexer().isNot(AsmToken::EndOfStatement)) {
5027     for (;;) {
5028       const MCExpr *Value;
5029       if (getParser().ParseExpression(Value))
5030         return true;
5031
5032       getParser().getStreamer().EmitValue(Value, Size, 0/*addrspace*/);
5033
5034       if (getLexer().is(AsmToken::EndOfStatement))
5035         break;
5036
5037       // FIXME: Improve diagnostic.
5038       if (getLexer().isNot(AsmToken::Comma))
5039         return Error(L, "unexpected token in directive");
5040       Parser.Lex();
5041     }
5042   }
5043
5044   Parser.Lex();
5045   return false;
5046 }
5047
5048 /// parseDirectiveThumb
5049 ///  ::= .thumb
5050 bool ARMAsmParser::parseDirectiveThumb(SMLoc L) {
5051   if (getLexer().isNot(AsmToken::EndOfStatement))
5052     return Error(L, "unexpected token in directive");
5053   Parser.Lex();
5054
5055   // TODO: set thumb mode
5056   // TODO: tell the MC streamer the mode
5057   // getParser().getStreamer().Emit???();
5058   return false;
5059 }
5060
5061 /// parseDirectiveThumbFunc
5062 ///  ::= .thumbfunc symbol_name
5063 bool ARMAsmParser::parseDirectiveThumbFunc(SMLoc L) {
5064   const MCAsmInfo &MAI = getParser().getStreamer().getContext().getAsmInfo();
5065   bool isMachO = MAI.hasSubsectionsViaSymbols();
5066   StringRef Name;
5067
5068   // Darwin asm has function name after .thumb_func direction
5069   // ELF doesn't
5070   if (isMachO) {
5071     const AsmToken &Tok = Parser.getTok();
5072     if (Tok.isNot(AsmToken::Identifier) && Tok.isNot(AsmToken::String))
5073       return Error(L, "unexpected token in .thumb_func directive");
5074     Name = Tok.getIdentifier();
5075     Parser.Lex(); // Consume the identifier token.
5076   }
5077
5078  if (getLexer().isNot(AsmToken::EndOfStatement))
5079     return Error(L, "unexpected token in directive");
5080   Parser.Lex();
5081
5082   // FIXME: assuming function name will be the line following .thumb_func
5083   if (!isMachO) {
5084     Name = Parser.getTok().getIdentifier();
5085   }
5086
5087   // Mark symbol as a thumb symbol.
5088   MCSymbol *Func = getParser().getContext().GetOrCreateSymbol(Name);
5089   getParser().getStreamer().EmitThumbFunc(Func);
5090   return false;
5091 }
5092
5093 /// parseDirectiveSyntax
5094 ///  ::= .syntax unified | divided
5095 bool ARMAsmParser::parseDirectiveSyntax(SMLoc L) {
5096   const AsmToken &Tok = Parser.getTok();
5097   if (Tok.isNot(AsmToken::Identifier))
5098     return Error(L, "unexpected token in .syntax directive");
5099   StringRef Mode = Tok.getString();
5100   if (Mode == "unified" || Mode == "UNIFIED")
5101     Parser.Lex();
5102   else if (Mode == "divided" || Mode == "DIVIDED")
5103     return Error(L, "'.syntax divided' arm asssembly not supported");
5104   else
5105     return Error(L, "unrecognized syntax mode in .syntax directive");
5106
5107   if (getLexer().isNot(AsmToken::EndOfStatement))
5108     return Error(Parser.getTok().getLoc(), "unexpected token in directive");
5109   Parser.Lex();
5110
5111   // TODO tell the MC streamer the mode
5112   // getParser().getStreamer().Emit???();
5113   return false;
5114 }
5115
5116 /// parseDirectiveCode
5117 ///  ::= .code 16 | 32
5118 bool ARMAsmParser::parseDirectiveCode(SMLoc L) {
5119   const AsmToken &Tok = Parser.getTok();
5120   if (Tok.isNot(AsmToken::Integer))
5121     return Error(L, "unexpected token in .code directive");
5122   int64_t Val = Parser.getTok().getIntVal();
5123   if (Val == 16)
5124     Parser.Lex();
5125   else if (Val == 32)
5126     Parser.Lex();
5127   else
5128     return Error(L, "invalid operand to .code directive");
5129
5130   if (getLexer().isNot(AsmToken::EndOfStatement))
5131     return Error(Parser.getTok().getLoc(), "unexpected token in directive");
5132   Parser.Lex();
5133
5134   if (Val == 16) {
5135     if (!isThumb())
5136       SwitchMode();
5137     getParser().getStreamer().EmitAssemblerFlag(MCAF_Code16);
5138   } else {
5139     if (isThumb())
5140       SwitchMode();
5141     getParser().getStreamer().EmitAssemblerFlag(MCAF_Code32);
5142   }
5143
5144   return false;
5145 }
5146
5147 extern "C" void LLVMInitializeARMAsmLexer();
5148
5149 /// Force static initialization.
5150 extern "C" void LLVMInitializeARMAsmParser() {
5151   RegisterMCAsmParser<ARMAsmParser> X(TheARMTarget);
5152   RegisterMCAsmParser<ARMAsmParser> Y(TheThumbTarget);
5153   LLVMInitializeARMAsmLexer();
5154 }
5155
5156 #define GET_REGISTER_MATCHER
5157 #define GET_MATCHER_IMPLEMENTATION
5158 #include "ARMGenAsmMatcher.inc"