lib/Target/ARM/Disassembler/ARMDisassembler.cpp

   1 //===- ARMDisassembler.cpp - Disassembler for ARM/Thumb ISA -----*- C++ -*-===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9
  10 #define DEBUG_TYPE "arm-disassembler"
  11
  12 #include "ARM.h"
  13 #include "ARMSubtarget.h"
  14 #include "MCTargetDesc/ARMAddressingModes.h"
  15 #include "MCTargetDesc/ARMMCExpr.h"
  16 #include "MCTargetDesc/ARMBaseInfo.h"
  17 #include "llvm/MC/EDInstInfo.h"
  18 #include "llvm/MC/MCInst.h"
  19 #include "llvm/MC/MCInstrDesc.h"
  20 #include "llvm/MC/MCExpr.h"
  21 #include "llvm/MC/MCContext.h"
  22 #include "llvm/MC/MCDisassembler.h"
  23 #include "llvm/Support/Debug.h"
  24 #include "llvm/Support/MemoryObject.h"
  25 #include "llvm/Support/ErrorHandling.h"
  26 #include "llvm/Support/TargetRegistry.h"
  27 #include "llvm/Support/raw_ostream.h"
  28
  29 using namespace llvm;
  30
  31 typedef MCDisassembler::DecodeStatus DecodeStatus;
  32
  33 namespace {
  34 /// ARMDisassembler - ARM disassembler for all ARM platforms.
  35 class ARMDisassembler : public MCDisassembler {
  36 public:
  37   /// Constructor     - Initializes the disassembler.
  38   ///
  39   ARMDisassembler(const MCSubtargetInfo &STI) :
  40     MCDisassembler(STI) {
  41   }
  42
  43   ~ARMDisassembler() {
  44   }
  45
  46   /// getInstruction - See MCDisassembler.
  47   DecodeStatus getInstruction(MCInst &instr,
  48                               uint64_t &size,
  49                               const MemoryObject &region,
  50                               uint64_t address,
  51                               raw_ostream &vStream,
  52                               raw_ostream &cStream) const;
  53
  54   /// getEDInfo - See MCDisassembler.
  55   EDInstInfo *getEDInfo() const;
  56 private:
  57 };
  58
  59 /// ThumbDisassembler - Thumb disassembler for all Thumb platforms.
  60 class ThumbDisassembler : public MCDisassembler {
  61 public:
  62   /// Constructor     - Initializes the disassembler.
  63   ///
  64   ThumbDisassembler(const MCSubtargetInfo &STI) :
  65     MCDisassembler(STI) {
  66   }
  67
  68   ~ThumbDisassembler() {
  69   }
  70
  71   /// getInstruction - See MCDisassembler.
  72   DecodeStatus getInstruction(MCInst &instr,
  73                               uint64_t &size,
  74                               const MemoryObject &region,
  75                               uint64_t address,
  76                               raw_ostream &vStream,
  77                               raw_ostream &cStream) const;
  78
  79   /// getEDInfo - See MCDisassembler.
  80   EDInstInfo *getEDInfo() const;
  81 private:
  82   mutable std::vector<unsigned> ITBlock;
  83   DecodeStatus AddThumbPredicate(MCInst&) const;
  84   void UpdateThumbVFPPredicate(MCInst&) const;
  85 };
  86 }
  87
  88 static bool Check(DecodeStatus &Out, DecodeStatus In) {
  89   switch (In) {
  90     case MCDisassembler::Success:
  91       // Out stays the same.
  92       return true;
  93     case MCDisassembler::SoftFail:
  94       Out = In;
  95       return true;
  96     case MCDisassembler::Fail:
  97       Out = In;
  98       return false;
  99   }
 100   return false;
 101 }
 102
 103
 104 // Forward declare these because the autogenerated code will reference them.
 105 // Definitions are further down.
 106 static DecodeStatus DecodeGPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 107                                    uint64_t Address, const void *Decoder);
 108 static DecodeStatus DecodeGPRnopcRegisterClass(llvm::MCInst &Inst,
 109                                                unsigned RegNo, uint64_t Address,
 110                                                const void *Decoder);
 111 static DecodeStatus DecodetGPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 112                                    uint64_t Address, const void *Decoder);
 113 static DecodeStatus DecodetcGPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 114                                    uint64_t Address, const void *Decoder);
 115 static DecodeStatus DecoderGPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 116                                    uint64_t Address, const void *Decoder);
 117 static DecodeStatus DecodeSPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 118                                    uint64_t Address, const void *Decoder);
 119 static DecodeStatus DecodeDPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 120                                    uint64_t Address, const void *Decoder);
 121 static DecodeStatus DecodeDPR_8RegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 122                                    uint64_t Address, const void *Decoder);
 123 static DecodeStatus DecodeDPR_VFP2RegisterClass(llvm::MCInst &Inst,
 124                                                 unsigned RegNo,
 125                                                 uint64_t Address,
 126                                                 const void *Decoder);
 127 static DecodeStatus DecodeQPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 128                                    uint64_t Address, const void *Decoder);
 129
 130 static DecodeStatus DecodePredicateOperand(llvm::MCInst &Inst, unsigned Val,
 131                                uint64_t Address, const void *Decoder);
 132 static DecodeStatus DecodeCCOutOperand(llvm::MCInst &Inst, unsigned Val,
 133                                uint64_t Address, const void *Decoder);
 134 static DecodeStatus DecodeSOImmOperand(llvm::MCInst &Inst, unsigned Val,
 135                                uint64_t Address, const void *Decoder);
 136 static DecodeStatus DecodeRegListOperand(llvm::MCInst &Inst, unsigned Val,
 137                                uint64_t Address, const void *Decoder);
 138 static DecodeStatus DecodeSPRRegListOperand(llvm::MCInst &Inst, unsigned Val,
 139                                uint64_t Address, const void *Decoder);
 140 static DecodeStatus DecodeDPRRegListOperand(llvm::MCInst &Inst, unsigned Val,
 141                                uint64_t Address, const void *Decoder);
 142
 143 static DecodeStatus DecodeBitfieldMaskOperand(llvm::MCInst &Inst, unsigned Insn,
 144                                uint64_t Address, const void *Decoder);
 145 static DecodeStatus DecodeCopMemInstruction(llvm::MCInst &Inst, unsigned Insn,
 146                                uint64_t Address, const void *Decoder);
 147 static DecodeStatus DecodeAddrMode2IdxInstruction(llvm::MCInst &Inst,
 148                                                   unsigned Insn,
 149                                                   uint64_t Address,
 150                                                   const void *Decoder);
 151 static DecodeStatus DecodeSORegMemOperand(llvm::MCInst &Inst, unsigned Insn,
 152                                uint64_t Address, const void *Decoder);
 153 static DecodeStatus DecodeAddrMode3Instruction(llvm::MCInst &Inst,unsigned Insn,
 154                                uint64_t Address, const void *Decoder);
 155 static DecodeStatus DecodeSORegImmOperand(llvm::MCInst &Inst, unsigned Insn,
 156                                uint64_t Address, const void *Decoder);
 157 static DecodeStatus DecodeSORegRegOperand(llvm::MCInst &Inst, unsigned Insn,
 158                                uint64_t Address, const void *Decoder);
 159
 160 static DecodeStatus DecodeMemMultipleWritebackInstruction(llvm::MCInst & Inst,
 161                                                   unsigned Insn,
 162                                                   uint64_t Adddress,
 163                                                   const void *Decoder);
 164 static DecodeStatus DecodeT2MOVTWInstruction(llvm::MCInst &Inst, unsigned Insn,
 165                                uint64_t Address, const void *Decoder);
 166 static DecodeStatus DecodeArmMOVTWInstruction(llvm::MCInst &Inst, unsigned Insn,
 167                                uint64_t Address, const void *Decoder);
 168 static DecodeStatus DecodeSMLAInstruction(llvm::MCInst &Inst, unsigned Insn,
 169                                uint64_t Address, const void *Decoder);
 170 static DecodeStatus DecodeCPSInstruction(llvm::MCInst &Inst, unsigned Insn,
 171                                uint64_t Address, const void *Decoder);
 172 static DecodeStatus DecodeT2CPSInstruction(llvm::MCInst &Inst, unsigned Insn,
 173                                uint64_t Address, const void *Decoder);
 174 static DecodeStatus DecodeAddrModeImm12Operand(llvm::MCInst &Inst, unsigned Val,
 175                                uint64_t Address, const void *Decoder);
 176 static DecodeStatus DecodeAddrMode5Operand(llvm::MCInst &Inst, unsigned Val,
 177                                uint64_t Address, const void *Decoder);
 178 static DecodeStatus DecodeAddrMode7Operand(llvm::MCInst &Inst, unsigned Val,
 179                                uint64_t Address, const void *Decoder);
 180 static DecodeStatus DecodeBranchImmInstruction(llvm::MCInst &Inst,unsigned Insn,
 181                                uint64_t Address, const void *Decoder);
 182 static DecodeStatus DecodeAddrMode6Operand(llvm::MCInst &Inst, unsigned Val,
 183                                uint64_t Address, const void *Decoder);
 184 static DecodeStatus DecodeVLDInstruction(llvm::MCInst &Inst, unsigned Val,
 185                                uint64_t Address, const void *Decoder);
 186 static DecodeStatus DecodeVSTInstruction(llvm::MCInst &Inst, unsigned Val,
 187                                uint64_t Address, const void *Decoder);
 188 static DecodeStatus DecodeVLD1DupInstruction(llvm::MCInst &Inst, unsigned Val,
 189                                uint64_t Address, const void *Decoder);
 190 static DecodeStatus DecodeVLD2DupInstruction(llvm::MCInst &Inst, unsigned Val,
 191                                uint64_t Address, const void *Decoder);
 192 static DecodeStatus DecodeVLD3DupInstruction(llvm::MCInst &Inst, unsigned Val,
 193                                uint64_t Address, const void *Decoder);
 194 static DecodeStatus DecodeVLD4DupInstruction(llvm::MCInst &Inst, unsigned Val,
 195                                uint64_t Address, const void *Decoder);
 196 static DecodeStatus DecodeNEONModImmInstruction(llvm::MCInst &Inst,unsigned Val,
 197                                uint64_t Address, const void *Decoder);
 198 static DecodeStatus DecodeVSHLMaxInstruction(llvm::MCInst &Inst, unsigned Val,
 199                                uint64_t Address, const void *Decoder);
 200 static DecodeStatus DecodeShiftRight8Imm(llvm::MCInst &Inst, unsigned Val,
 201                                uint64_t Address, const void *Decoder);
 202 static DecodeStatus DecodeShiftRight16Imm(llvm::MCInst &Inst, unsigned Val,
 203                                uint64_t Address, const void *Decoder);
 204 static DecodeStatus DecodeShiftRight32Imm(llvm::MCInst &Inst, unsigned Val,
 205                                uint64_t Address, const void *Decoder);
 206 static DecodeStatus DecodeShiftRight64Imm(llvm::MCInst &Inst, unsigned Val,
 207                                uint64_t Address, const void *Decoder);
 208 static DecodeStatus DecodeTBLInstruction(llvm::MCInst &Inst, unsigned Insn,
 209                                uint64_t Address, const void *Decoder);
 210 static DecodeStatus DecodePostIdxReg(llvm::MCInst &Inst, unsigned Insn,
 211                                uint64_t Address, const void *Decoder);
 212 static DecodeStatus DecodeCoprocessor(llvm::MCInst &Inst, unsigned Insn,
 213                                uint64_t Address, const void *Decoder);
 214 static DecodeStatus DecodeMemBarrierOption(llvm::MCInst &Inst, unsigned Insn,
 215                                uint64_t Address, const void *Decoder);
 216 static DecodeStatus DecodeMSRMask(llvm::MCInst &Inst, unsigned Insn,
 217                                uint64_t Address, const void *Decoder);
 218 static DecodeStatus DecodeDoubleRegLoad(llvm::MCInst &Inst, unsigned Insn,
 219                                uint64_t Address, const void *Decoder);
 220 static DecodeStatus DecodeDoubleRegStore(llvm::MCInst &Inst, unsigned Insn,
 221                                uint64_t Address, const void *Decoder);
 222 static DecodeStatus DecodeLDRPreImm(llvm::MCInst &Inst, unsigned Insn,
 223                                uint64_t Address, const void *Decoder);
 224 static DecodeStatus DecodeLDRPreReg(llvm::MCInst &Inst, unsigned Insn,
 225                                uint64_t Address, const void *Decoder);
 226 static DecodeStatus DecodeSTRPreImm(llvm::MCInst &Inst, unsigned Insn,
 227                                uint64_t Address, const void *Decoder);
 228 static DecodeStatus DecodeSTRPreReg(llvm::MCInst &Inst, unsigned Insn,
 229                                uint64_t Address, const void *Decoder);
 230 static DecodeStatus DecodeVLD1LN(llvm::MCInst &Inst, unsigned Insn,
 231                                uint64_t Address, const void *Decoder);
 232 static DecodeStatus DecodeVLD2LN(llvm::MCInst &Inst, unsigned Insn,
 233                                uint64_t Address, const void *Decoder);
 234 static DecodeStatus DecodeVLD3LN(llvm::MCInst &Inst, unsigned Insn,
 235                                uint64_t Address, const void *Decoder);
 236 static DecodeStatus DecodeVLD4LN(llvm::MCInst &Inst, unsigned Insn,
 237                                uint64_t Address, const void *Decoder);
 238 static DecodeStatus DecodeVST1LN(llvm::MCInst &Inst, unsigned Insn,
 239                                uint64_t Address, const void *Decoder);
 240 static DecodeStatus DecodeVST2LN(llvm::MCInst &Inst, unsigned Insn,
 241                                uint64_t Address, const void *Decoder);
 242 static DecodeStatus DecodeVST3LN(llvm::MCInst &Inst, unsigned Insn,
 243                                uint64_t Address, const void *Decoder);
 244 static DecodeStatus DecodeVST4LN(llvm::MCInst &Inst, unsigned Insn,
 245                                uint64_t Address, const void *Decoder);
 246 static DecodeStatus DecodeVMOVSRR(llvm::MCInst &Inst, unsigned Insn,
 247                                uint64_t Address, const void *Decoder);
 248 static DecodeStatus DecodeVMOVRRS(llvm::MCInst &Inst, unsigned Insn,
 249                                uint64_t Address, const void *Decoder);
 250 static DecodeStatus DecodeSwap(llvm::MCInst &Inst, unsigned Insn,
 251                                uint64_t Address, const void *Decoder);
 252 static DecodeStatus DecodeVCVTD(llvm::MCInst &Inst, unsigned Insn,
 253                                 uint64_t Address, const void *Decoder);
 254 static DecodeStatus DecodeVCVTQ(llvm::MCInst &Inst, unsigned Insn,
 255                                 uint64_t Address, const void *Decoder);
 256
 257
 258 static DecodeStatus DecodeThumbAddSpecialReg(llvm::MCInst &Inst, uint16_t Insn,
 259                                uint64_t Address, const void *Decoder);
 260 static DecodeStatus DecodeThumbBROperand(llvm::MCInst &Inst, unsigned Val,
 261                                uint64_t Address, const void *Decoder);
 262 static DecodeStatus DecodeT2BROperand(llvm::MCInst &Inst, unsigned Val,
 263                                uint64_t Address, const void *Decoder);
 264 static DecodeStatus DecodeThumbCmpBROperand(llvm::MCInst &Inst, unsigned Val,
 265                                uint64_t Address, const void *Decoder);
 266 static DecodeStatus DecodeThumbAddrModeRR(llvm::MCInst &Inst, unsigned Val,
 267                                uint64_t Address, const void *Decoder);
 268 static DecodeStatus DecodeThumbAddrModeIS(llvm::MCInst &Inst, unsigned Val,
 269                                uint64_t Address, const void *Decoder);
 270 static DecodeStatus DecodeThumbAddrModePC(llvm::MCInst &Inst, unsigned Val,
 271                                uint64_t Address, const void *Decoder);
 272 static DecodeStatus DecodeThumbAddrModeSP(llvm::MCInst &Inst, unsigned Val,
 273                                uint64_t Address, const void *Decoder);
 274 static DecodeStatus DecodeT2AddrModeSOReg(llvm::MCInst &Inst, unsigned Val,
 275                                uint64_t Address, const void *Decoder);
 276 static DecodeStatus DecodeT2LoadShift(llvm::MCInst &Inst, unsigned Val,
 277                                uint64_t Address, const void *Decoder);
 278 static DecodeStatus DecodeT2Imm8S4(llvm::MCInst &Inst, unsigned Val,
 279                                uint64_t Address, const void *Decoder);
 280 static DecodeStatus DecodeT2AddrModeImm8s4(llvm::MCInst &Inst, unsigned Val,
 281                                uint64_t Address, const void *Decoder);
 282 static DecodeStatus DecodeT2AddrModeImm0_1020s4(llvm::MCInst &Inst,unsigned Val,
 283                                uint64_t Address, const void *Decoder);
 284 static DecodeStatus DecodeT2Imm8(llvm::MCInst &Inst, unsigned Val,
 285                                uint64_t Address, const void *Decoder);
 286 static DecodeStatus DecodeT2AddrModeImm8(llvm::MCInst &Inst, unsigned Val,
 287                                uint64_t Address, const void *Decoder);
 288 static DecodeStatus DecodeThumbAddSPImm(llvm::MCInst &Inst, uint16_t Val,
 289                                uint64_t Address, const void *Decoder);
 290 static DecodeStatus DecodeThumbAddSPReg(llvm::MCInst &Inst, uint16_t Insn,
 291                                 uint64_t Address, const void *Decoder);
 292 static DecodeStatus DecodeThumbCPS(llvm::MCInst &Inst, uint16_t Insn,
 293                                 uint64_t Address, const void *Decoder);
 294 static DecodeStatus DecodeThumbBLXOffset(llvm::MCInst &Inst, unsigned Insn,
 295                                 uint64_t Address, const void *Decoder);
 296 static DecodeStatus DecodeT2AddrModeImm12(llvm::MCInst &Inst, unsigned Val,
 297                                 uint64_t Address, const void *Decoder);
 298 static DecodeStatus DecodeThumbTableBranch(llvm::MCInst &Inst, unsigned Val,
 299                                 uint64_t Address, const void *Decoder);
 300 static DecodeStatus DecodeThumb2BCCInstruction(llvm::MCInst &Inst, unsigned Val,
 301                                 uint64_t Address, const void *Decoder);
 302 static DecodeStatus DecodeT2SOImm(llvm::MCInst &Inst, unsigned Val,
 303                                 uint64_t Address, const void *Decoder);
 304 static DecodeStatus DecodeThumbBCCTargetOperand(llvm::MCInst &Inst,unsigned Val,
 305                                 uint64_t Address, const void *Decoder);
 306 static DecodeStatus DecodeThumbBLTargetOperand(llvm::MCInst &Inst, unsigned Val,
 307                                 uint64_t Address, const void *Decoder);
 308 static DecodeStatus DecodeIT(llvm::MCInst &Inst, unsigned Val,
 309                                 uint64_t Address, const void *Decoder);
 310 static DecodeStatus DecodeT2LDRDPreInstruction(llvm::MCInst &Inst,unsigned Insn,
 311                                uint64_t Address, const void *Decoder);
 312 static DecodeStatus DecodeT2STRDPreInstruction(llvm::MCInst &Inst,unsigned Insn,
 313                                uint64_t Address, const void *Decoder);
 314 static DecodeStatus DecodeT2Adr(llvm::MCInst &Inst, unsigned Val,
 315                                 uint64_t Address, const void *Decoder);
 316 static DecodeStatus DecodeT2LdStPre(llvm::MCInst &Inst, unsigned Val,
 317                                 uint64_t Address, const void *Decoder);
 318 static DecodeStatus DecodeT2ShifterImmOperand(llvm::MCInst &Inst, unsigned Val,
 319                                 uint64_t Address, const void *Decoder);
 320
 321
 322
 323 #include "ARMGenDisassemblerTables.inc"
 324 #include "ARMGenInstrInfo.inc"
 325 #include "ARMGenEDInfo.inc"
 326
 327 static MCDisassembler *createARMDisassembler(const Target &T, const MCSubtargetInfo &STI) {
 328   return new ARMDisassembler(STI);
 329 }
 330
 331 static MCDisassembler *createThumbDisassembler(const Target &T, const MCSubtargetInfo &STI) {
 332   return new ThumbDisassembler(STI);
 333 }
 334
 335 EDInstInfo *ARMDisassembler::getEDInfo() const {
 336   return instInfoARM;
 337 }
 338
 339 EDInstInfo *ThumbDisassembler::getEDInfo() const {
 340   return instInfoARM;
 341 }
 342
 343 DecodeStatus ARMDisassembler::getInstruction(MCInst &MI, uint64_t &Size,
 344                                              const MemoryObject &Region,
 345                                              uint64_t Address,
 346                                              raw_ostream &os,
 347                                              raw_ostream &cs) const {
 348   CommentStream = &cs;
 349
 350   uint8_t bytes[4];
 351
 352   assert(!(STI.getFeatureBits() & ARM::ModeThumb) &&
 353          "Asked to disassemble an ARM instruction but Subtarget is in Thumb mode!");
 354
 355   // We want to read exactly 4 bytes of data.
 356   if (Region.readBytes(Address, 4, (uint8_t*)bytes, NULL) == -1) {
 357     Size = 0;
 358     return MCDisassembler::Fail;
 359   }
 360
 361   // Encoded as a small-endian 32-bit word in the stream.
 362   uint32_t insn = (bytes[3] << 24) |
 363                   (bytes[2] << 16) |
 364                   (bytes[1] <<  8) |
 365                   (bytes[0] <<  0);
 366
 367   // Calling the auto-generated decoder function.
 368   DecodeStatus result = decodeARMInstruction32(MI, insn, Address, this, STI);
 369   if (result != MCDisassembler::Fail) {
 370     Size = 4;
 371     return result;
 372   }
 373
 374   // VFP and NEON instructions, similarly, are shared between ARM
 375   // and Thumb modes.
 376   MI.clear();
 377   result = decodeVFPInstruction32(MI, insn, Address, this, STI);
 378   if (result != MCDisassembler::Fail) {
 379     Size = 4;
 380     return result;
 381   }
 382
 383   MI.clear();
 384   result = decodeNEONDataInstruction32(MI, insn, Address, this, STI);
 385   if (result != MCDisassembler::Fail) {
 386     Size = 4;
 387     // Add a fake predicate operand, because we share these instruction
 388     // definitions with Thumb2 where these instructions are predicable.
 389     if (!DecodePredicateOperand(MI, 0xE, Address, this))
 390       return MCDisassembler::Fail;
 391     return result;
 392   }
 393
 394   MI.clear();
 395   result = decodeNEONLoadStoreInstruction32(MI, insn, Address, this, STI);
 396   if (result != MCDisassembler::Fail) {
 397     Size = 4;
 398     // Add a fake predicate operand, because we share these instruction
 399     // definitions with Thumb2 where these instructions are predicable.
 400     if (!DecodePredicateOperand(MI, 0xE, Address, this))
 401       return MCDisassembler::Fail;
 402     return result;
 403   }
 404
 405   MI.clear();
 406   result = decodeNEONDupInstruction32(MI, insn, Address, this, STI);
 407   if (result != MCDisassembler::Fail) {
 408     Size = 4;
 409     // Add a fake predicate operand, because we share these instruction
 410     // definitions with Thumb2 where these instructions are predicable.
 411     if (!DecodePredicateOperand(MI, 0xE, Address, this))
 412       return MCDisassembler::Fail;
 413     return result;
 414   }
 415
 416   MI.clear();
 417
 418   Size = 0;
 419   return MCDisassembler::Fail;
 420 }
 421
 422 namespace llvm {
 423 extern const MCInstrDesc ARMInsts[];
 424 }
 425
 426 /// tryAddingSymbolicOperand - trys to add a symbolic operand in place of the
 427 /// immediate Value in the MCInst.  The immediate Value has had any PC
 428 /// adjustment made by the caller.  If the instruction is a branch instruction
 429 /// then isBranch is true, else false.  If the getOpInfo() function was set as
 430 /// part of the setupForSymbolicDisassembly() call then that function is called
 431 /// to get any symbolic information at the Address for this instruction.  If
 432 /// that returns non-zero then the symbolic information it returns is used to
 433 /// create an MCExpr and that is added as an operand to the MCInst.  If
 434 /// getOpInfo() returns zero and isBranch is true then a symbol look up for
 435 /// Value is done and if a symbol is found an MCExpr is created with that, else
 436 /// an MCExpr with Value is created.  This function returns true if it adds an
 437 /// operand to the MCInst and false otherwise.
 438 static bool tryAddingSymbolicOperand(uint64_t Address, int32_t Value,
 439                                      bool isBranch, uint64_t InstSize,
 440                                      MCInst &MI, const void *Decoder) {
 441   const MCDisassembler *Dis = static_cast<const MCDisassembler*>(Decoder);
 442   LLVMOpInfoCallback getOpInfo = Dis->getLLVMOpInfoCallback();
 443   if (!getOpInfo)
 444     return false;
 445
 446   struct LLVMOpInfo1 SymbolicOp;
 447   SymbolicOp.Value = Value;
 448   void *DisInfo = Dis->getDisInfoBlock();
 449   if (!getOpInfo(DisInfo, Address, 0 /* Offset */, InstSize, 1, &SymbolicOp)) {
 450     if (isBranch) {
 451       LLVMSymbolLookupCallback SymbolLookUp =
 452                                             Dis->getLLVMSymbolLookupCallback();
 453       if (SymbolLookUp) {
 454         uint64_t ReferenceType;
 455         ReferenceType = LLVMDisassembler_ReferenceType_In_Branch;
 456         const char *ReferenceName;
 457         const char *Name = SymbolLookUp(DisInfo, Value, &ReferenceType, Address,
 458                                         &ReferenceName);
 459         if (Name) {
 460           SymbolicOp.AddSymbol.Name = Name;
 461           SymbolicOp.AddSymbol.Present = true;
 462           SymbolicOp.Value = 0;
 463         }
 464         else {
 465           SymbolicOp.Value = Value;
 466         }
 467         if(ReferenceType == LLVMDisassembler_ReferenceType_Out_SymbolStub)
 468           (*Dis->CommentStream) << "symbol stub for: " << ReferenceName;
 469       }
 470       else {
 471         return false;
 472       }
 473     }
 474     else {
 475       return false;
 476     }
 477   }
 478
 479   MCContext *Ctx = Dis->getMCContext();
 480   const MCExpr *Add = NULL;
 481   if (SymbolicOp.AddSymbol.Present) {
 482     if (SymbolicOp.AddSymbol.Name) {
 483       StringRef Name(SymbolicOp.AddSymbol.Name);
 484       MCSymbol *Sym = Ctx->GetOrCreateSymbol(Name);
 485       Add = MCSymbolRefExpr::Create(Sym, *Ctx);
 486     } else {
 487       Add = MCConstantExpr::Create(SymbolicOp.AddSymbol.Value, *Ctx);
 488     }
 489   }
 490
 491   const MCExpr *Sub = NULL;
 492   if (SymbolicOp.SubtractSymbol.Present) {
 493     if (SymbolicOp.SubtractSymbol.Name) {
 494       StringRef Name(SymbolicOp.SubtractSymbol.Name);
 495       MCSymbol *Sym = Ctx->GetOrCreateSymbol(Name);
 496       Sub = MCSymbolRefExpr::Create(Sym, *Ctx);
 497     } else {
 498       Sub = MCConstantExpr::Create(SymbolicOp.SubtractSymbol.Value, *Ctx);
 499     }
 500   }
 501
 502   const MCExpr *Off = NULL;
 503   if (SymbolicOp.Value != 0)
 504     Off = MCConstantExpr::Create(SymbolicOp.Value, *Ctx);
 505
 506   const MCExpr *Expr;
 507   if (Sub) {
 508     const MCExpr *LHS;
 509     if (Add)
 510       LHS = MCBinaryExpr::CreateSub(Add, Sub, *Ctx);
 511     else
 512       LHS = MCUnaryExpr::CreateMinus(Sub, *Ctx);
 513     if (Off != 0)
 514       Expr = MCBinaryExpr::CreateAdd(LHS, Off, *Ctx);
 515     else
 516       Expr = LHS;
 517   } else if (Add) {
 518     if (Off != 0)
 519       Expr = MCBinaryExpr::CreateAdd(Add, Off, *Ctx);
 520     else
 521       Expr = Add;
 522   } else {
 523     if (Off != 0)
 524       Expr = Off;
 525     else
 526       Expr = MCConstantExpr::Create(0, *Ctx);
 527   }
 528
 529   if (SymbolicOp.VariantKind == LLVMDisassembler_VariantKind_ARM_HI16)
 530     MI.addOperand(MCOperand::CreateExpr(ARMMCExpr::CreateUpper16(Expr, *Ctx)));
 531   else if (SymbolicOp.VariantKind == LLVMDisassembler_VariantKind_ARM_LO16)
 532     MI.addOperand(MCOperand::CreateExpr(ARMMCExpr::CreateLower16(Expr, *Ctx)));
 533   else if (SymbolicOp.VariantKind == LLVMDisassembler_VariantKind_None)
 534     MI.addOperand(MCOperand::CreateExpr(Expr));
 535   else
 536     assert(0 && "bad SymbolicOp.VariantKind");
 537
 538   return true;
 539 }
 540
 541 /// tryAddingPcLoadReferenceComment - trys to add a comment as to what is being
 542 /// referenced by a load instruction with the base register that is the Pc.
 543 /// These can often be values in a literal pool near the Address of the
 544 /// instruction.  The Address of the instruction and its immediate Value are
 545 /// used as a possible literal pool entry.  The SymbolLookUp call back will
 546 /// return the name of a symbol referenced by the the literal pool's entry if
 547 /// the referenced address is that of a symbol.  Or it will return a pointer to
 548 /// a literal 'C' string if the referenced address of the literal pool's entry
 549 /// is an address into a section with 'C' string literals.
 550 static void tryAddingPcLoadReferenceComment(uint64_t Address, int Value,
 551                                             const void *Decoder) {
 552   const MCDisassembler *Dis = static_cast<const MCDisassembler*>(Decoder);
 553   LLVMSymbolLookupCallback SymbolLookUp = Dis->getLLVMSymbolLookupCallback();
 554   if (SymbolLookUp) {
 555     void *DisInfo = Dis->getDisInfoBlock();
 556     uint64_t ReferenceType;
 557     ReferenceType = LLVMDisassembler_ReferenceType_In_PCrel_Load;
 558     const char *ReferenceName;
 559     (void)SymbolLookUp(DisInfo, Value, &ReferenceType, Address, &ReferenceName);
 560     if(ReferenceType == LLVMDisassembler_ReferenceType_Out_LitPool_SymAddr ||
 561        ReferenceType == LLVMDisassembler_ReferenceType_Out_LitPool_CstrAddr)
 562       (*Dis->CommentStream) << "literal pool for: " << ReferenceName;
 563   }
 564 }
 565
 566 // Thumb1 instructions don't have explicit S bits.  Rather, they
 567 // implicitly set CPSR.  Since it's not represented in the encoding, the
 568 // auto-generated decoder won't inject the CPSR operand.  We need to fix
 569 // that as a post-pass.
 570 static void AddThumb1SBit(MCInst &MI, bool InITBlock) {
 571   const MCOperandInfo *OpInfo = ARMInsts[MI.getOpcode()].OpInfo;
 572   unsigned short NumOps = ARMInsts[MI.getOpcode()].NumOperands;
 573   MCInst::iterator I = MI.begin();
 574   for (unsigned i = 0; i < NumOps; ++i, ++I) {
 575     if (I == MI.end()) break;
 576     if (OpInfo[i].isOptionalDef() && OpInfo[i].RegClass == ARM::CCRRegClassID) {
 577       if (i > 0 && OpInfo[i-1].isPredicate()) continue;
 578       MI.insert(I, MCOperand::CreateReg(InITBlock ? 0 : ARM::CPSR));
 579       return;
 580     }
 581   }
 582
 583   MI.insert(I, MCOperand::CreateReg(InITBlock ? 0 : ARM::CPSR));
 584 }
 585
 586 // Most Thumb instructions don't have explicit predicates in the
 587 // encoding, but rather get their predicates from IT context.  We need
 588 // to fix up the predicate operands using this context information as a
 589 // post-pass.
 590 MCDisassembler::DecodeStatus
 591 ThumbDisassembler::AddThumbPredicate(MCInst &MI) const {
 592   MCDisassembler::DecodeStatus S = Success;
 593
 594   // A few instructions actually have predicates encoded in them.  Don't
 595   // try to overwrite it if we're seeing one of those.
 596   switch (MI.getOpcode()) {
 597     case ARM::tBcc:
 598     case ARM::t2Bcc:
 599     case ARM::tCBZ:
 600     case ARM::tCBNZ:
 601     case ARM::tCPS:
 602     case ARM::t2CPS3p:
 603     case ARM::t2CPS2p:
 604     case ARM::t2CPS1p:
 605     case ARM::tMOVSr:
 606     case ARM::tSETEND:
 607       // Some instructions (mostly conditional branches) are not
 608       // allowed in IT blocks.
 609       if (!ITBlock.empty())
 610         S = SoftFail;
 611       else
 612         return Success;
 613       break;
 614     case ARM::tB:
 615     case ARM::t2B:
 616     case ARM::t2TBB:
 617     case ARM::t2TBH:
 618       // Some instructions (mostly unconditional branches) can
 619       // only appears at the end of, or outside of, an IT.
 620       if (ITBlock.size() > 1)
 621         S = SoftFail;
 622       break;
 623     default:
 624       break;
 625   }
 626
 627   // If we're in an IT block, base the predicate on that.  Otherwise,
 628   // assume a predicate of AL.
 629   unsigned CC;
 630   if (!ITBlock.empty()) {
 631     CC = ITBlock.back();
 632     if (CC == 0xF)
 633       CC = ARMCC::AL;
 634     ITBlock.pop_back();
 635   } else
 636     CC = ARMCC::AL;
 637
 638   const MCOperandInfo *OpInfo = ARMInsts[MI.getOpcode()].OpInfo;
 639   unsigned short NumOps = ARMInsts[MI.getOpcode()].NumOperands;
 640   MCInst::iterator I = MI.begin();
 641   for (unsigned i = 0; i < NumOps; ++i, ++I) {
 642     if (I == MI.end()) break;
 643     if (OpInfo[i].isPredicate()) {
 644       I = MI.insert(I, MCOperand::CreateImm(CC));
 645       ++I;
 646       if (CC == ARMCC::AL)
 647         MI.insert(I, MCOperand::CreateReg(0));
 648       else
 649         MI.insert(I, MCOperand::CreateReg(ARM::CPSR));
 650       return S;
 651     }
 652   }
 653
 654   I = MI.insert(I, MCOperand::CreateImm(CC));
 655   ++I;
 656   if (CC == ARMCC::AL)
 657     MI.insert(I, MCOperand::CreateReg(0));
 658   else
 659     MI.insert(I, MCOperand::CreateReg(ARM::CPSR));
 660
 661   return S;
 662 }
 663
 664 // Thumb VFP instructions are a special case.  Because we share their
 665 // encodings between ARM and Thumb modes, and they are predicable in ARM
 666 // mode, the auto-generated decoder will give them an (incorrect)
 667 // predicate operand.  We need to rewrite these operands based on the IT
 668 // context as a post-pass.
 669 void ThumbDisassembler::UpdateThumbVFPPredicate(MCInst &MI) const {
 670   unsigned CC;
 671   if (!ITBlock.empty()) {
 672     CC = ITBlock.back();
 673     ITBlock.pop_back();
 674   } else
 675     CC = ARMCC::AL;
 676
 677   const MCOperandInfo *OpInfo = ARMInsts[MI.getOpcode()].OpInfo;
 678   MCInst::iterator I = MI.begin();
 679   unsigned short NumOps = ARMInsts[MI.getOpcode()].NumOperands;
 680   for (unsigned i = 0; i < NumOps; ++i, ++I) {
 681     if (OpInfo[i].isPredicate() ) {
 682       I->setImm(CC);
 683       ++I;
 684       if (CC == ARMCC::AL)
 685         I->setReg(0);
 686       else
 687         I->setReg(ARM::CPSR);
 688       return;
 689     }
 690   }
 691 }
 692
 693 DecodeStatus ThumbDisassembler::getInstruction(MCInst &MI, uint64_t &Size,
 694                                                const MemoryObject &Region,
 695                                                uint64_t Address,
 696                                                raw_ostream &os,
 697                                                raw_ostream &cs) const {
 698   CommentStream = &cs;
 699
 700   uint8_t bytes[4];
 701
 702   assert((STI.getFeatureBits() & ARM::ModeThumb) &&
 703          "Asked to disassemble in Thumb mode but Subtarget is in ARM mode!");
 704
 705   // We want to read exactly 2 bytes of data.
 706   if (Region.readBytes(Address, 2, (uint8_t*)bytes, NULL) == -1) {
 707     Size = 0;
 708     return MCDisassembler::Fail;
 709   }
 710
 711   uint16_t insn16 = (bytes[1] << 8) | bytes[0];
 712   DecodeStatus result = decodeThumbInstruction16(MI, insn16, Address, this, STI);
 713   if (result != MCDisassembler::Fail) {
 714     Size = 2;
 715     Check(result, AddThumbPredicate(MI));
 716     return result;
 717   }
 718
 719   MI.clear();
 720   result = decodeThumbSBitInstruction16(MI, insn16, Address, this, STI);
 721   if (result) {
 722     Size = 2;
 723     bool InITBlock = !ITBlock.empty();
 724     Check(result, AddThumbPredicate(MI));
 725     AddThumb1SBit(MI, InITBlock);
 726     return result;
 727   }
 728
 729   MI.clear();
 730   result = decodeThumb2Instruction16(MI, insn16, Address, this, STI);
 731   if (result != MCDisassembler::Fail) {
 732     Size = 2;
 733
 734     // Nested IT blocks are UNPREDICTABLE.  Must be checked before we add
 735     // the Thumb predicate.
 736     if (MI.getOpcode() == ARM::t2IT && !ITBlock.empty())
 737       result = MCDisassembler::SoftFail;
 738
 739     Check(result, AddThumbPredicate(MI));
 740
 741     // If we find an IT instruction, we need to parse its condition
 742     // code and mask operands so that we can apply them correctly
 743     // to the subsequent instructions.
 744     if (MI.getOpcode() == ARM::t2IT) {
 745
 746       // (3 - the number of trailing zeros) is the number of then / else.
 747       unsigned firstcond = MI.getOperand(0).getImm();
 748       unsigned Mask = MI.getOperand(1).getImm();
 749       unsigned CondBit0 = Mask >> 4 & 1;
 750       unsigned NumTZ = CountTrailingZeros_32(Mask);
 751       assert(NumTZ <= 3 && "Invalid IT mask!");
 752       for (unsigned Pos = 3, e = NumTZ; Pos > e; --Pos) {
 753         bool T = ((Mask >> Pos) & 1) == CondBit0;
 754         if (T)
 755           ITBlock.insert(ITBlock.begin(), firstcond);
 756         else
 757           ITBlock.insert(ITBlock.begin(), firstcond ^ 1);
 758       }
 759
 760       ITBlock.push_back(firstcond);
 761     }
 762
 763     return result;
 764   }
 765
 766   // We want to read exactly 4 bytes of data.
 767   if (Region.readBytes(Address, 4, (uint8_t*)bytes, NULL) == -1) {
 768     Size = 0;
 769     return MCDisassembler::Fail;
 770   }
 771
 772   uint32_t insn32 = (bytes[3] <<  8) |
 773                     (bytes[2] <<  0) |
 774                     (bytes[1] << 24) |
 775                     (bytes[0] << 16);
 776   MI.clear();
 777   result = decodeThumbInstruction32(MI, insn32, Address, this, STI);
 778   if (result != MCDisassembler::Fail) {
 779     Size = 4;
 780     bool InITBlock = ITBlock.size();
 781     Check(result, AddThumbPredicate(MI));
 782     AddThumb1SBit(MI, InITBlock);
 783     return result;
 784   }
 785
 786   MI.clear();
 787   result = decodeThumb2Instruction32(MI, insn32, Address, this, STI);
 788   if (result != MCDisassembler::Fail) {
 789     Size = 4;
 790     Check(result, AddThumbPredicate(MI));
 791     return result;
 792   }
 793
 794   MI.clear();
 795   result = decodeVFPInstruction32(MI, insn32, Address, this, STI);
 796   if (result != MCDisassembler::Fail) {
 797     Size = 4;
 798     UpdateThumbVFPPredicate(MI);
 799     return result;
 800   }
 801
 802   MI.clear();
 803   result = decodeNEONDupInstruction32(MI, insn32, Address, this, STI);
 804   if (result != MCDisassembler::Fail) {
 805     Size = 4;
 806     Check(result, AddThumbPredicate(MI));
 807     return result;
 808   }
 809
 810   if (fieldFromInstruction32(insn32, 24, 8) == 0xF9) {
 811     MI.clear();
 812     uint32_t NEONLdStInsn = insn32;
 813     NEONLdStInsn &= 0xF0FFFFFF;
 814     NEONLdStInsn |= 0x04000000;
 815     result = decodeNEONLoadStoreInstruction32(MI, NEONLdStInsn, Address, this, STI);
 816     if (result != MCDisassembler::Fail) {
 817       Size = 4;
 818       Check(result, AddThumbPredicate(MI));
 819       return result;
 820     }
 821   }
 822
 823   if (fieldFromInstruction32(insn32, 24, 4) == 0xF) {
 824     MI.clear();
 825     uint32_t NEONDataInsn = insn32;
 826     NEONDataInsn &= 0xF0FFFFFF; // Clear bits 27-24
 827     NEONDataInsn |= (NEONDataInsn & 0x10000000) >> 4; // Move bit 28 to bit 24
 828     NEONDataInsn |= 0x12000000; // Set bits 28 and 25
 829     result = decodeNEONDataInstruction32(MI, NEONDataInsn, Address, this, STI);
 830     if (result != MCDisassembler::Fail) {
 831       Size = 4;
 832       Check(result, AddThumbPredicate(MI));
 833       return result;
 834     }
 835   }
 836
 837   Size = 0;
 838   return MCDisassembler::Fail;
 839 }
 840
 841
 842 extern "C" void LLVMInitializeARMDisassembler() {
 843   TargetRegistry::RegisterMCDisassembler(TheARMTarget,
 844                                          createARMDisassembler);
 845   TargetRegistry::RegisterMCDisassembler(TheThumbTarget,
 846                                          createThumbDisassembler);
 847 }
 848
 849 static const unsigned GPRDecoderTable[] = {
 850   ARM::R0, ARM::R1, ARM::R2, ARM::R3,
 851   ARM::R4, ARM::R5, ARM::R6, ARM::R7,
 852   ARM::R8, ARM::R9, ARM::R10, ARM::R11,
 853   ARM::R12, ARM::SP, ARM::LR, ARM::PC
 854 };
 855
 856 static DecodeStatus DecodeGPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 857                                    uint64_t Address, const void *Decoder) {
 858   if (RegNo > 15)
 859     return MCDisassembler::Fail;
 860
 861   unsigned Register = GPRDecoderTable[RegNo];
 862   Inst.addOperand(MCOperand::CreateReg(Register));
 863   return MCDisassembler::Success;
 864 }
 865
 866 static DecodeStatus
 867 DecodeGPRnopcRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 868                            uint64_t Address, const void *Decoder) {
 869   if (RegNo == 15) return MCDisassembler::Fail;
 870   return DecodeGPRRegisterClass(Inst, RegNo, Address, Decoder);
 871 }
 872
 873 static DecodeStatus DecodetGPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 874                                    uint64_t Address, const void *Decoder) {
 875   if (RegNo > 7)
 876     return MCDisassembler::Fail;
 877   return DecodeGPRRegisterClass(Inst, RegNo, Address, Decoder);
 878 }
 879
 880 static DecodeStatus DecodetcGPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 881                                    uint64_t Address, const void *Decoder) {
 882   unsigned Register = 0;
 883   switch (RegNo) {
 884     case 0:
 885       Register = ARM::R0;
 886       break;
 887     case 1:
 888       Register = ARM::R1;
 889       break;
 890     case 2:
 891       Register = ARM::R2;
 892       break;
 893     case 3:
 894       Register = ARM::R3;
 895       break;
 896     case 9:
 897       Register = ARM::R9;
 898       break;
 899     case 12:
 900       Register = ARM::R12;
 901       break;
 902     default:
 903       return MCDisassembler::Fail;
 904     }
 905
 906   Inst.addOperand(MCOperand::CreateReg(Register));
 907   return MCDisassembler::Success;
 908 }
 909
 910 static DecodeStatus DecoderGPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 911                                    uint64_t Address, const void *Decoder) {
 912   if (RegNo == 13 || RegNo == 15) return MCDisassembler::Fail;
 913   return DecodeGPRRegisterClass(Inst, RegNo, Address, Decoder);
 914 }
 915
 916 static const unsigned SPRDecoderTable[] = {
 917      ARM::S0,  ARM::S1,  ARM::S2,  ARM::S3,
 918      ARM::S4,  ARM::S5,  ARM::S6,  ARM::S7,
 919      ARM::S8,  ARM::S9, ARM::S10, ARM::S11,
 920     ARM::S12, ARM::S13, ARM::S14, ARM::S15,
 921     ARM::S16, ARM::S17, ARM::S18, ARM::S19,
 922     ARM::S20, ARM::S21, ARM::S22, ARM::S23,
 923     ARM::S24, ARM::S25, ARM::S26, ARM::S27,
 924     ARM::S28, ARM::S29, ARM::S30, ARM::S31
 925 };
 926
 927 static DecodeStatus DecodeSPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 928                                    uint64_t Address, const void *Decoder) {
 929   if (RegNo > 31)
 930     return MCDisassembler::Fail;
 931
 932   unsigned Register = SPRDecoderTable[RegNo];
 933   Inst.addOperand(MCOperand::CreateReg(Register));
 934   return MCDisassembler::Success;
 935 }
 936
 937 static const unsigned DPRDecoderTable[] = {
 938      ARM::D0,  ARM::D1,  ARM::D2,  ARM::D3,
 939      ARM::D4,  ARM::D5,  ARM::D6,  ARM::D7,
 940      ARM::D8,  ARM::D9, ARM::D10, ARM::D11,
 941     ARM::D12, ARM::D13, ARM::D14, ARM::D15,
 942     ARM::D16, ARM::D17, ARM::D18, ARM::D19,
 943     ARM::D20, ARM::D21, ARM::D22, ARM::D23,
 944     ARM::D24, ARM::D25, ARM::D26, ARM::D27,
 945     ARM::D28, ARM::D29, ARM::D30, ARM::D31
 946 };
 947
 948 static DecodeStatus DecodeDPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 949                                    uint64_t Address, const void *Decoder) {
 950   if (RegNo > 31)
 951     return MCDisassembler::Fail;
 952
 953   unsigned Register = DPRDecoderTable[RegNo];
 954   Inst.addOperand(MCOperand::CreateReg(Register));
 955   return MCDisassembler::Success;
 956 }
 957
 958 static DecodeStatus DecodeDPR_8RegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 959                                    uint64_t Address, const void *Decoder) {
 960   if (RegNo > 7)
 961     return MCDisassembler::Fail;
 962   return DecodeDPRRegisterClass(Inst, RegNo, Address, Decoder);
 963 }
 964
 965 static DecodeStatus
 966 DecodeDPR_VFP2RegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 967                             uint64_t Address, const void *Decoder) {
 968   if (RegNo > 15)
 969     return MCDisassembler::Fail;
 970   return DecodeDPRRegisterClass(Inst, RegNo, Address, Decoder);
 971 }
 972
 973 static const unsigned QPRDecoderTable[] = {
 974      ARM::Q0,  ARM::Q1,  ARM::Q2,  ARM::Q3,
 975      ARM::Q4,  ARM::Q5,  ARM::Q6,  ARM::Q7,
 976      ARM::Q8,  ARM::Q9, ARM::Q10, ARM::Q11,
 977     ARM::Q12, ARM::Q13, ARM::Q14, ARM::Q15
 978 };
 979
 980
 981 static DecodeStatus DecodeQPRRegisterClass(llvm::MCInst &Inst, unsigned RegNo,
 982                                    uint64_t Address, const void *Decoder) {
 983   if (RegNo > 31)
 984     return MCDisassembler::Fail;
 985   RegNo >>= 1;
 986
 987   unsigned Register = QPRDecoderTable[RegNo];
 988   Inst.addOperand(MCOperand::CreateReg(Register));
 989   return MCDisassembler::Success;
 990 }
 991
 992 static DecodeStatus DecodePredicateOperand(llvm::MCInst &Inst, unsigned Val,
 993                                uint64_t Address, const void *Decoder) {
 994   if (Val == 0xF) return MCDisassembler::Fail;
 995   // AL predicate is not allowed on Thumb1 branches.
 996   if (Inst.getOpcode() == ARM::tBcc && Val == 0xE)
 997     return MCDisassembler::Fail;
 998   Inst.addOperand(MCOperand::CreateImm(Val));
 999   if (Val == ARMCC::AL) {
1000     Inst.addOperand(MCOperand::CreateReg(0));
1001   } else
1002     Inst.addOperand(MCOperand::CreateReg(ARM::CPSR));
1003   return MCDisassembler::Success;
1004 }
1005
1006 static DecodeStatus DecodeCCOutOperand(llvm::MCInst &Inst, unsigned Val,
1007                                uint64_t Address, const void *Decoder) {
1008   if (Val)
1009     Inst.addOperand(MCOperand::CreateReg(ARM::CPSR));
1010   else
1011     Inst.addOperand(MCOperand::CreateReg(0));
1012   return MCDisassembler::Success;
1013 }
1014
1015 static DecodeStatus DecodeSOImmOperand(llvm::MCInst &Inst, unsigned Val,
1016                                uint64_t Address, const void *Decoder) {
1017   uint32_t imm = Val & 0xFF;
1018   uint32_t rot = (Val & 0xF00) >> 7;
1019   uint32_t rot_imm = (imm >> rot) | (imm << ((32-rot) & 0x1F));
1020   Inst.addOperand(MCOperand::CreateImm(rot_imm));
1021   return MCDisassembler::Success;
1022 }
1023
1024 static DecodeStatus DecodeSORegImmOperand(llvm::MCInst &Inst, unsigned Val,
1025                                uint64_t Address, const void *Decoder) {
1026   DecodeStatus S = MCDisassembler::Success;
1027
1028   unsigned Rm = fieldFromInstruction32(Val, 0, 4);
1029   unsigned type = fieldFromInstruction32(Val, 5, 2);
1030   unsigned imm = fieldFromInstruction32(Val, 7, 5);
1031
1032   // Register-immediate
1033   if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
1034     return MCDisassembler::Fail;
1035
1036   ARM_AM::ShiftOpc Shift = ARM_AM::lsl;
1037   switch (type) {
1038     case 0:
1039       Shift = ARM_AM::lsl;
1040       break;
1041     case 1:
1042       Shift = ARM_AM::lsr;
1043       break;
1044     case 2:
1045       Shift = ARM_AM::asr;
1046       break;
1047     case 3:
1048       Shift = ARM_AM::ror;
1049       break;
1050   }
1051
1052   if (Shift == ARM_AM::ror && imm == 0)
1053     Shift = ARM_AM::rrx;
1054
1055   unsigned Op = Shift | (imm << 3);
1056   Inst.addOperand(MCOperand::CreateImm(Op));
1057
1058   return S;
1059 }
1060
1061 static DecodeStatus DecodeSORegRegOperand(llvm::MCInst &Inst, unsigned Val,
1062                                uint64_t Address, const void *Decoder) {
1063   DecodeStatus S = MCDisassembler::Success;
1064
1065   unsigned Rm = fieldFromInstruction32(Val, 0, 4);
1066   unsigned type = fieldFromInstruction32(Val, 5, 2);
1067   unsigned Rs = fieldFromInstruction32(Val, 8, 4);
1068
1069   // Register-register
1070   if (!Check(S, DecodeGPRnopcRegisterClass(Inst, Rm, Address, Decoder)))
1071     return MCDisassembler::Fail;
1072   if (!Check(S, DecodeGPRnopcRegisterClass(Inst, Rs, Address, Decoder)))
1073     return MCDisassembler::Fail;
1074
1075   ARM_AM::ShiftOpc Shift = ARM_AM::lsl;
1076   switch (type) {
1077     case 0:
1078       Shift = ARM_AM::lsl;
1079       break;
1080     case 1:
1081       Shift = ARM_AM::lsr;
1082       break;
1083     case 2:
1084       Shift = ARM_AM::asr;
1085       break;
1086     case 3:
1087       Shift = ARM_AM::ror;
1088       break;
1089   }
1090
1091   Inst.addOperand(MCOperand::CreateImm(Shift));
1092
1093   return S;
1094 }
1095
1096 static DecodeStatus DecodeRegListOperand(llvm::MCInst &Inst, unsigned Val,
1097                                  uint64_t Address, const void *Decoder) {
1098   DecodeStatus S = MCDisassembler::Success;
1099
1100   bool writebackLoad = false;
1101   unsigned writebackReg = 0;
1102   switch (Inst.getOpcode()) {
1103     default:
1104       break;
1105     case ARM::LDMIA_UPD:
1106     case ARM::LDMDB_UPD:
1107     case ARM::LDMIB_UPD:
1108     case ARM::LDMDA_UPD:
1109     case ARM::t2LDMIA_UPD:
1110     case ARM::t2LDMDB_UPD:
1111       writebackLoad = true;
1112       writebackReg = Inst.getOperand(0).getReg();
1113       break;
1114   }
1115
1116   // Empty register lists are not allowed.
1117   if (CountPopulation_32(Val) == 0) return MCDisassembler::Fail;
1118   for (unsigned i = 0; i < 16; ++i) {
1119     if (Val & (1 << i)) {
1120       if (!Check(S, DecodeGPRRegisterClass(Inst, i, Address, Decoder)))
1121         return MCDisassembler::Fail;
1122       // Writeback not allowed if Rn is in the target list.
1123       if (writebackLoad && writebackReg == Inst.end()[-1].getReg())
1124         Check(S, MCDisassembler::SoftFail);
1125     }
1126   }
1127
1128   return S;
1129 }
1130
1131 static DecodeStatus DecodeSPRRegListOperand(llvm::MCInst &Inst, unsigned Val,
1132                                  uint64_t Address, const void *Decoder) {
1133   DecodeStatus S = MCDisassembler::Success;
1134
1135   unsigned Vd = fieldFromInstruction32(Val, 8, 4);
1136   unsigned regs = Val & 0xFF;
1137
1138   if (!Check(S, DecodeSPRRegisterClass(Inst, Vd, Address, Decoder)))
1139     return MCDisassembler::Fail;
1140   for (unsigned i = 0; i < (regs - 1); ++i) {
1141     if (!Check(S, DecodeSPRRegisterClass(Inst, ++Vd, Address, Decoder)))
1142       return MCDisassembler::Fail;
1143   }
1144
1145   return S;
1146 }
1147
1148 static DecodeStatus DecodeDPRRegListOperand(llvm::MCInst &Inst, unsigned Val,
1149                                  uint64_t Address, const void *Decoder) {
1150   DecodeStatus S = MCDisassembler::Success;
1151
1152   unsigned Vd = fieldFromInstruction32(Val, 8, 4);
1153   unsigned regs = (Val & 0xFF) / 2;
1154
1155   if (!Check(S, DecodeDPRRegisterClass(Inst, Vd, Address, Decoder)))
1156       return MCDisassembler::Fail;
1157   for (unsigned i = 0; i < (regs - 1); ++i) {
1158     if (!Check(S, DecodeDPRRegisterClass(Inst, ++Vd, Address, Decoder)))
1159       return MCDisassembler::Fail;
1160   }
1161
1162   return S;
1163 }
1164
1165 static DecodeStatus DecodeBitfieldMaskOperand(llvm::MCInst &Inst, unsigned Val,
1166                                       uint64_t Address, const void *Decoder) {
1167   // This operand encodes a mask of contiguous zeros between a specified MSB
1168   // and LSB.  To decode it, we create the mask of all bits MSB-and-lower,
1169   // the mask of all bits LSB-and-lower, and then xor them to create
1170   // the mask of that's all ones on [msb, lsb].  Finally we not it to
1171   // create the final mask.
1172   unsigned msb = fieldFromInstruction32(Val, 5, 5);
1173   unsigned lsb = fieldFromInstruction32(Val, 0, 5);
1174
1175   DecodeStatus S = MCDisassembler::Success;
1176   if (lsb > msb) Check(S, MCDisassembler::SoftFail);
1177
1178   uint32_t msb_mask = 0xFFFFFFFF;
1179   if (msb != 31) msb_mask = (1U << (msb+1)) - 1;
1180   uint32_t lsb_mask = (1U << lsb) - 1;
1181
1182   Inst.addOperand(MCOperand::CreateImm(~(msb_mask ^ lsb_mask)));
1183   return S;
1184 }
1185
1186 static DecodeStatus DecodeCopMemInstruction(llvm::MCInst &Inst, unsigned Insn,
1187                                   uint64_t Address, const void *Decoder) {
1188   DecodeStatus S = MCDisassembler::Success;
1189
1190   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
1191   unsigned CRd = fieldFromInstruction32(Insn, 12, 4);
1192   unsigned coproc = fieldFromInstruction32(Insn, 8, 4);
1193   unsigned imm = fieldFromInstruction32(Insn, 0, 8);
1194   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
1195   unsigned U = fieldFromInstruction32(Insn, 23, 1);
1196
1197   switch (Inst.getOpcode()) {
1198     case ARM::LDC_OFFSET:
1199     case ARM::LDC_PRE:
1200     case ARM::LDC_POST:
1201     case ARM::LDC_OPTION:
1202     case ARM::LDCL_OFFSET:
1203     case ARM::LDCL_PRE:
1204     case ARM::LDCL_POST:
1205     case ARM::LDCL_OPTION:
1206     case ARM::STC_OFFSET:
1207     case ARM::STC_PRE:
1208     case ARM::STC_POST:
1209     case ARM::STC_OPTION:
1210     case ARM::STCL_OFFSET:
1211     case ARM::STCL_PRE:
1212     case ARM::STCL_POST:
1213     case ARM::STCL_OPTION:
1214     case ARM::t2LDC_OFFSET:
1215     case ARM::t2LDC_PRE:
1216     case ARM::t2LDC_POST:
1217     case ARM::t2LDC_OPTION:
1218     case ARM::t2LDCL_OFFSET:
1219     case ARM::t2LDCL_PRE:
1220     case ARM::t2LDCL_POST:
1221     case ARM::t2LDCL_OPTION:
1222     case ARM::t2STC_OFFSET:
1223     case ARM::t2STC_PRE:
1224     case ARM::t2STC_POST:
1225     case ARM::t2STC_OPTION:
1226     case ARM::t2STCL_OFFSET:
1227     case ARM::t2STCL_PRE:
1228     case ARM::t2STCL_POST:
1229     case ARM::t2STCL_OPTION:
1230       if (coproc == 0xA || coproc == 0xB)
1231         return MCDisassembler::Fail;
1232       break;
1233     default:
1234       break;
1235   }
1236
1237   Inst.addOperand(MCOperand::CreateImm(coproc));
1238   Inst.addOperand(MCOperand::CreateImm(CRd));
1239   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1240     return MCDisassembler::Fail;
1241
1242   switch (Inst.getOpcode()) {
1243     case ARM::t2LDC2_OFFSET:
1244     case ARM::t2LDC2L_OFFSET:
1245     case ARM::t2LDC2_PRE:
1246     case ARM::t2LDC2L_PRE:
1247     case ARM::t2STC2_OFFSET:
1248     case ARM::t2STC2L_OFFSET:
1249     case ARM::t2STC2_PRE:
1250     case ARM::t2STC2L_PRE:
1251     case ARM::LDC2_OFFSET:
1252     case ARM::LDC2L_OFFSET:
1253     case ARM::LDC2_PRE:
1254     case ARM::LDC2L_PRE:
1255     case ARM::STC2_OFFSET:
1256     case ARM::STC2L_OFFSET:
1257     case ARM::STC2_PRE:
1258     case ARM::STC2L_PRE:
1259     case ARM::t2LDC_OFFSET:
1260     case ARM::t2LDCL_OFFSET:
1261     case ARM::t2LDC_PRE:
1262     case ARM::t2LDCL_PRE:
1263     case ARM::t2STC_OFFSET:
1264     case ARM::t2STCL_OFFSET:
1265     case ARM::t2STC_PRE:
1266     case ARM::t2STCL_PRE:
1267     case ARM::LDC_OFFSET:
1268     case ARM::LDCL_OFFSET:
1269     case ARM::LDC_PRE:
1270     case ARM::LDCL_PRE:
1271     case ARM::STC_OFFSET:
1272     case ARM::STCL_OFFSET:
1273     case ARM::STC_PRE:
1274     case ARM::STCL_PRE:
1275       imm = ARM_AM::getAM5Opc(U ? ARM_AM::add : ARM_AM::sub, imm);
1276       Inst.addOperand(MCOperand::CreateImm(imm));
1277       break;
1278     case ARM::t2LDC2_POST:
1279     case ARM::t2LDC2L_POST:
1280     case ARM::t2STC2_POST:
1281     case ARM::t2STC2L_POST:
1282     case ARM::LDC2_POST:
1283     case ARM::LDC2L_POST:
1284     case ARM::STC2_POST:
1285     case ARM::STC2L_POST:
1286     case ARM::t2LDC_POST:
1287     case ARM::t2LDCL_POST:
1288     case ARM::t2STC_POST:
1289     case ARM::t2STCL_POST:
1290     case ARM::LDC_POST:
1291     case ARM::LDCL_POST:
1292     case ARM::STC_POST:
1293     case ARM::STCL_POST:
1294       imm |= U << 8;
1295       // fall through.
1296     default:
1297       // The 'option' variant doesn't encode 'U' in the immediate since
1298       // the immediate is unsigned [0,255].
1299       Inst.addOperand(MCOperand::CreateImm(imm));
1300       break;
1301   }
1302
1303   switch (Inst.getOpcode()) {
1304     case ARM::LDC_OFFSET:
1305     case ARM::LDC_PRE:
1306     case ARM::LDC_POST:
1307     case ARM::LDC_OPTION:
1308     case ARM::LDCL_OFFSET:
1309     case ARM::LDCL_PRE:
1310     case ARM::LDCL_POST:
1311     case ARM::LDCL_OPTION:
1312     case ARM::STC_OFFSET:
1313     case ARM::STC_PRE:
1314     case ARM::STC_POST:
1315     case ARM::STC_OPTION:
1316     case ARM::STCL_OFFSET:
1317     case ARM::STCL_PRE:
1318     case ARM::STCL_POST:
1319     case ARM::STCL_OPTION:
1320       if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
1321         return MCDisassembler::Fail;
1322       break;
1323     default:
1324       break;
1325   }
1326
1327   return S;
1328 }
1329
1330 static DecodeStatus
1331 DecodeAddrMode2IdxInstruction(llvm::MCInst &Inst, unsigned Insn,
1332                               uint64_t Address, const void *Decoder) {
1333   DecodeStatus S = MCDisassembler::Success;
1334
1335   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
1336   unsigned Rt = fieldFromInstruction32(Insn, 12, 4);
1337   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
1338   unsigned imm = fieldFromInstruction32(Insn, 0, 12);
1339   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
1340   unsigned reg = fieldFromInstruction32(Insn, 25, 1);
1341   unsigned P = fieldFromInstruction32(Insn, 24, 1);
1342   unsigned W = fieldFromInstruction32(Insn, 21, 1);
1343
1344   // On stores, the writeback operand precedes Rt.
1345   switch (Inst.getOpcode()) {
1346     case ARM::STR_POST_IMM:
1347     case ARM::STR_POST_REG:
1348     case ARM::STRB_POST_IMM:
1349     case ARM::STRB_POST_REG:
1350     case ARM::STRT_POST_REG:
1351     case ARM::STRT_POST_IMM:
1352     case ARM::STRBT_POST_REG:
1353     case ARM::STRBT_POST_IMM:
1354       if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1355         return MCDisassembler::Fail;
1356       break;
1357     default:
1358       break;
1359   }
1360
1361   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt, Address, Decoder)))
1362     return MCDisassembler::Fail;
1363
1364   // On loads, the writeback operand comes after Rt.
1365   switch (Inst.getOpcode()) {
1366     case ARM::LDR_POST_IMM:
1367     case ARM::LDR_POST_REG:
1368     case ARM::LDRB_POST_IMM:
1369     case ARM::LDRB_POST_REG:
1370     case ARM::LDRBT_POST_REG:
1371     case ARM::LDRBT_POST_IMM:
1372     case ARM::LDRT_POST_REG:
1373     case ARM::LDRT_POST_IMM:
1374       if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1375         return MCDisassembler::Fail;
1376       break;
1377     default:
1378       break;
1379   }
1380
1381   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1382     return MCDisassembler::Fail;
1383
1384   ARM_AM::AddrOpc Op = ARM_AM::add;
1385   if (!fieldFromInstruction32(Insn, 23, 1))
1386     Op = ARM_AM::sub;
1387
1388   bool writeback = (P == 0) || (W == 1);
1389   unsigned idx_mode = 0;
1390   if (P && writeback)
1391     idx_mode = ARMII::IndexModePre;
1392   else if (!P && writeback)
1393     idx_mode = ARMII::IndexModePost;
1394
1395   if (writeback && (Rn == 15 || Rn == Rt))
1396     S = MCDisassembler::SoftFail; // UNPREDICTABLE
1397
1398   if (reg) {
1399     if (!Check(S, DecodeGPRnopcRegisterClass(Inst, Rm, Address, Decoder)))
1400       return MCDisassembler::Fail;
1401     ARM_AM::ShiftOpc Opc = ARM_AM::lsl;
1402     switch( fieldFromInstruction32(Insn, 5, 2)) {
1403       case 0:
1404         Opc = ARM_AM::lsl;
1405         break;
1406       case 1:
1407         Opc = ARM_AM::lsr;
1408         break;
1409       case 2:
1410         Opc = ARM_AM::asr;
1411         break;
1412       case 3:
1413         Opc = ARM_AM::ror;
1414         break;
1415       default:
1416         return MCDisassembler::Fail;
1417     }
1418     unsigned amt = fieldFromInstruction32(Insn, 7, 5);
1419     unsigned imm = ARM_AM::getAM2Opc(Op, amt, Opc, idx_mode);
1420
1421     Inst.addOperand(MCOperand::CreateImm(imm));
1422   } else {
1423     Inst.addOperand(MCOperand::CreateReg(0));
1424     unsigned tmp = ARM_AM::getAM2Opc(Op, imm, ARM_AM::lsl, idx_mode);
1425     Inst.addOperand(MCOperand::CreateImm(tmp));
1426   }
1427
1428   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
1429     return MCDisassembler::Fail;
1430
1431   return S;
1432 }
1433
1434 static DecodeStatus DecodeSORegMemOperand(llvm::MCInst &Inst, unsigned Val,
1435                                   uint64_t Address, const void *Decoder) {
1436   DecodeStatus S = MCDisassembler::Success;
1437
1438   unsigned Rn = fieldFromInstruction32(Val, 13, 4);
1439   unsigned Rm = fieldFromInstruction32(Val,  0, 4);
1440   unsigned type = fieldFromInstruction32(Val, 5, 2);
1441   unsigned imm = fieldFromInstruction32(Val, 7, 5);
1442   unsigned U = fieldFromInstruction32(Val, 12, 1);
1443
1444   ARM_AM::ShiftOpc ShOp = ARM_AM::lsl;
1445   switch (type) {
1446     case 0:
1447       ShOp = ARM_AM::lsl;
1448       break;
1449     case 1:
1450       ShOp = ARM_AM::lsr;
1451       break;
1452     case 2:
1453       ShOp = ARM_AM::asr;
1454       break;
1455     case 3:
1456       ShOp = ARM_AM::ror;
1457       break;
1458   }
1459
1460   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1461     return MCDisassembler::Fail;
1462   if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
1463     return MCDisassembler::Fail;
1464   unsigned shift;
1465   if (U)
1466     shift = ARM_AM::getAM2Opc(ARM_AM::add, imm, ShOp);
1467   else
1468     shift = ARM_AM::getAM2Opc(ARM_AM::sub, imm, ShOp);
1469   Inst.addOperand(MCOperand::CreateImm(shift));
1470
1471   return S;
1472 }
1473
1474 static DecodeStatus
1475 DecodeAddrMode3Instruction(llvm::MCInst &Inst, unsigned Insn,
1476                            uint64_t Address, const void *Decoder) {
1477   DecodeStatus S = MCDisassembler::Success;
1478
1479   unsigned Rt = fieldFromInstruction32(Insn, 12, 4);
1480   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
1481   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
1482   unsigned type = fieldFromInstruction32(Insn, 22, 1);
1483   unsigned imm = fieldFromInstruction32(Insn, 8, 4);
1484   unsigned U = ((~fieldFromInstruction32(Insn, 23, 1)) & 1) << 8;
1485   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
1486   unsigned W = fieldFromInstruction32(Insn, 21, 1);
1487   unsigned P = fieldFromInstruction32(Insn, 24, 1);
1488
1489   bool writeback = (W == 1) | (P == 0);
1490
1491   // For {LD,ST}RD, Rt must be even, else undefined.
1492   switch (Inst.getOpcode()) {
1493     case ARM::STRD:
1494     case ARM::STRD_PRE:
1495     case ARM::STRD_POST:
1496     case ARM::LDRD:
1497     case ARM::LDRD_PRE:
1498     case ARM::LDRD_POST:
1499       if (Rt & 0x1) return MCDisassembler::Fail;
1500       break;
1501     default:
1502       break;
1503   }
1504
1505   if (writeback) { // Writeback
1506     if (P)
1507       U |= ARMII::IndexModePre << 9;
1508     else
1509       U |= ARMII::IndexModePost << 9;
1510
1511     // On stores, the writeback operand precedes Rt.
1512     switch (Inst.getOpcode()) {
1513     case ARM::STRD:
1514     case ARM::STRD_PRE:
1515     case ARM::STRD_POST:
1516     case ARM::STRH:
1517     case ARM::STRH_PRE:
1518     case ARM::STRH_POST:
1519       if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1520         return MCDisassembler::Fail;
1521       break;
1522     default:
1523       break;
1524     }
1525   }
1526
1527   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt, Address, Decoder)))
1528     return MCDisassembler::Fail;
1529   switch (Inst.getOpcode()) {
1530     case ARM::STRD:
1531     case ARM::STRD_PRE:
1532     case ARM::STRD_POST:
1533     case ARM::LDRD:
1534     case ARM::LDRD_PRE:
1535     case ARM::LDRD_POST:
1536       if (!Check(S, DecodeGPRRegisterClass(Inst, Rt+1, Address, Decoder)))
1537         return MCDisassembler::Fail;
1538       break;
1539     default:
1540       break;
1541   }
1542
1543   if (writeback) {
1544     // On loads, the writeback operand comes after Rt.
1545     switch (Inst.getOpcode()) {
1546     case ARM::LDRD:
1547     case ARM::LDRD_PRE:
1548     case ARM::LDRD_POST:
1549     case ARM::LDRH:
1550     case ARM::LDRH_PRE:
1551     case ARM::LDRH_POST:
1552     case ARM::LDRSH:
1553     case ARM::LDRSH_PRE:
1554     case ARM::LDRSH_POST:
1555     case ARM::LDRSB:
1556     case ARM::LDRSB_PRE:
1557     case ARM::LDRSB_POST:
1558     case ARM::LDRHTr:
1559     case ARM::LDRSBTr:
1560       if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1561         return MCDisassembler::Fail;
1562       break;
1563     default:
1564       break;
1565     }
1566   }
1567
1568   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1569     return MCDisassembler::Fail;
1570
1571   if (type) {
1572     Inst.addOperand(MCOperand::CreateReg(0));
1573     Inst.addOperand(MCOperand::CreateImm(U | (imm << 4) | Rm));
1574   } else {
1575     if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
1576     return MCDisassembler::Fail;
1577     Inst.addOperand(MCOperand::CreateImm(U));
1578   }
1579
1580   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
1581     return MCDisassembler::Fail;
1582
1583   return S;
1584 }
1585
1586 static DecodeStatus DecodeRFEInstruction(llvm::MCInst &Inst, unsigned Insn,
1587                                  uint64_t Address, const void *Decoder) {
1588   DecodeStatus S = MCDisassembler::Success;
1589
1590   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
1591   unsigned mode = fieldFromInstruction32(Insn, 23, 2);
1592
1593   switch (mode) {
1594     case 0:
1595       mode = ARM_AM::da;
1596       break;
1597     case 1:
1598       mode = ARM_AM::ia;
1599       break;
1600     case 2:
1601       mode = ARM_AM::db;
1602       break;
1603     case 3:
1604       mode = ARM_AM::ib;
1605       break;
1606   }
1607
1608   Inst.addOperand(MCOperand::CreateImm(mode));
1609   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1610     return MCDisassembler::Fail;
1611
1612   return S;
1613 }
1614
1615 static DecodeStatus DecodeMemMultipleWritebackInstruction(llvm::MCInst &Inst,
1616                                   unsigned Insn,
1617                                   uint64_t Address, const void *Decoder) {
1618   DecodeStatus S = MCDisassembler::Success;
1619
1620   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
1621   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
1622   unsigned reglist = fieldFromInstruction32(Insn, 0, 16);
1623
1624   if (pred == 0xF) {
1625     switch (Inst.getOpcode()) {
1626       case ARM::LDMDA:
1627         Inst.setOpcode(ARM::RFEDA);
1628         break;
1629       case ARM::LDMDA_UPD:
1630         Inst.setOpcode(ARM::RFEDA_UPD);
1631         break;
1632       case ARM::LDMDB:
1633         Inst.setOpcode(ARM::RFEDB);
1634         break;
1635       case ARM::LDMDB_UPD:
1636         Inst.setOpcode(ARM::RFEDB_UPD);
1637         break;
1638       case ARM::LDMIA:
1639         Inst.setOpcode(ARM::RFEIA);
1640         break;
1641       case ARM::LDMIA_UPD:
1642         Inst.setOpcode(ARM::RFEIA_UPD);
1643         break;
1644       case ARM::LDMIB:
1645         Inst.setOpcode(ARM::RFEIB);
1646         break;
1647       case ARM::LDMIB_UPD:
1648         Inst.setOpcode(ARM::RFEIB_UPD);
1649         break;
1650       case ARM::STMDA:
1651         Inst.setOpcode(ARM::SRSDA);
1652         break;
1653       case ARM::STMDA_UPD:
1654         Inst.setOpcode(ARM::SRSDA_UPD);
1655         break;
1656       case ARM::STMDB:
1657         Inst.setOpcode(ARM::SRSDB);
1658         break;
1659       case ARM::STMDB_UPD:
1660         Inst.setOpcode(ARM::SRSDB_UPD);
1661         break;
1662       case ARM::STMIA:
1663         Inst.setOpcode(ARM::SRSIA);
1664         break;
1665       case ARM::STMIA_UPD:
1666         Inst.setOpcode(ARM::SRSIA_UPD);
1667         break;
1668       case ARM::STMIB:
1669         Inst.setOpcode(ARM::SRSIB);
1670         break;
1671       case ARM::STMIB_UPD:
1672         Inst.setOpcode(ARM::SRSIB_UPD);
1673         break;
1674       default:
1675         if (!Check(S, MCDisassembler::Fail)) return MCDisassembler::Fail;
1676     }
1677
1678     // For stores (which become SRS's, the only operand is the mode.
1679     if (fieldFromInstruction32(Insn, 20, 1) == 0) {
1680       Inst.addOperand(
1681           MCOperand::CreateImm(fieldFromInstruction32(Insn, 0, 4)));
1682       return S;
1683     }
1684
1685     return DecodeRFEInstruction(Inst, Insn, Address, Decoder);
1686   }
1687
1688   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1689     return MCDisassembler::Fail;
1690   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1691     return MCDisassembler::Fail; // Tied
1692   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
1693     return MCDisassembler::Fail;
1694   if (!Check(S, DecodeRegListOperand(Inst, reglist, Address, Decoder)))
1695     return MCDisassembler::Fail;
1696
1697   return S;
1698 }
1699
1700 static DecodeStatus DecodeCPSInstruction(llvm::MCInst &Inst, unsigned Insn,
1701                                  uint64_t Address, const void *Decoder) {
1702   unsigned imod = fieldFromInstruction32(Insn, 18, 2);
1703   unsigned M = fieldFromInstruction32(Insn, 17, 1);
1704   unsigned iflags = fieldFromInstruction32(Insn, 6, 3);
1705   unsigned mode = fieldFromInstruction32(Insn, 0, 5);
1706
1707   DecodeStatus S = MCDisassembler::Success;
1708
1709   // imod == '01' --> UNPREDICTABLE
1710   // NOTE: Even though this is technically UNPREDICTABLE, we choose to
1711   // return failure here.  The '01' imod value is unprintable, so there's
1712   // nothing useful we could do even if we returned UNPREDICTABLE.
1713
1714   if (imod == 1) return MCDisassembler::Fail;
1715
1716   if (imod && M) {
1717     Inst.setOpcode(ARM::CPS3p);
1718     Inst.addOperand(MCOperand::CreateImm(imod));
1719     Inst.addOperand(MCOperand::CreateImm(iflags));
1720     Inst.addOperand(MCOperand::CreateImm(mode));
1721   } else if (imod && !M) {
1722     Inst.setOpcode(ARM::CPS2p);
1723     Inst.addOperand(MCOperand::CreateImm(imod));
1724     Inst.addOperand(MCOperand::CreateImm(iflags));
1725     if (mode) S = MCDisassembler::SoftFail;
1726   } else if (!imod && M) {
1727     Inst.setOpcode(ARM::CPS1p);
1728     Inst.addOperand(MCOperand::CreateImm(mode));
1729     if (iflags) S = MCDisassembler::SoftFail;
1730   } else {
1731     // imod == '00' && M == '0' --> UNPREDICTABLE
1732     Inst.setOpcode(ARM::CPS1p);
1733     Inst.addOperand(MCOperand::CreateImm(mode));
1734     S = MCDisassembler::SoftFail;
1735   }
1736
1737   return S;
1738 }
1739
1740 static DecodeStatus DecodeT2CPSInstruction(llvm::MCInst &Inst, unsigned Insn,
1741                                  uint64_t Address, const void *Decoder) {
1742   unsigned imod = fieldFromInstruction32(Insn, 9, 2);
1743   unsigned M = fieldFromInstruction32(Insn, 8, 1);
1744   unsigned iflags = fieldFromInstruction32(Insn, 5, 3);
1745   unsigned mode = fieldFromInstruction32(Insn, 0, 5);
1746
1747   DecodeStatus S = MCDisassembler::Success;
1748
1749   // imod == '01' --> UNPREDICTABLE
1750   // NOTE: Even though this is technically UNPREDICTABLE, we choose to
1751   // return failure here.  The '01' imod value is unprintable, so there's
1752   // nothing useful we could do even if we returned UNPREDICTABLE.
1753
1754   if (imod == 1) return MCDisassembler::Fail;
1755
1756   if (imod && M) {
1757     Inst.setOpcode(ARM::t2CPS3p);
1758     Inst.addOperand(MCOperand::CreateImm(imod));
1759     Inst.addOperand(MCOperand::CreateImm(iflags));
1760     Inst.addOperand(MCOperand::CreateImm(mode));
1761   } else if (imod && !M) {
1762     Inst.setOpcode(ARM::t2CPS2p);
1763     Inst.addOperand(MCOperand::CreateImm(imod));
1764     Inst.addOperand(MCOperand::CreateImm(iflags));
1765     if (mode) S = MCDisassembler::SoftFail;
1766   } else if (!imod && M) {
1767     Inst.setOpcode(ARM::t2CPS1p);
1768     Inst.addOperand(MCOperand::CreateImm(mode));
1769     if (iflags) S = MCDisassembler::SoftFail;
1770   } else {
1771     // imod == '00' && M == '0' --> UNPREDICTABLE
1772     Inst.setOpcode(ARM::t2CPS1p);
1773     Inst.addOperand(MCOperand::CreateImm(mode));
1774     S = MCDisassembler::SoftFail;
1775   }
1776
1777   return S;
1778 }
1779
1780 static DecodeStatus DecodeT2MOVTWInstruction(llvm::MCInst &Inst, unsigned Insn,
1781                                  uint64_t Address, const void *Decoder) {
1782   DecodeStatus S = MCDisassembler::Success;
1783
1784   unsigned Rd = fieldFromInstruction32(Insn, 8, 4);
1785   unsigned imm = 0;
1786
1787   imm |= (fieldFromInstruction32(Insn, 0, 8) << 0);
1788   imm |= (fieldFromInstruction32(Insn, 12, 3) << 8);
1789   imm |= (fieldFromInstruction32(Insn, 16, 4) << 12);
1790   imm |= (fieldFromInstruction32(Insn, 26, 1) << 11);
1791
1792   if (Inst.getOpcode() == ARM::t2MOVTi16)
1793     if (!Check(S, DecoderGPRRegisterClass(Inst, Rd, Address, Decoder)))
1794       return MCDisassembler::Fail;
1795   if (!Check(S, DecoderGPRRegisterClass(Inst, Rd, Address, Decoder)))
1796     return MCDisassembler::Fail;
1797
1798   if (!tryAddingSymbolicOperand(Address, imm, false, 4, Inst, Decoder))
1799     Inst.addOperand(MCOperand::CreateImm(imm));
1800
1801   return S;
1802 }
1803
1804 static DecodeStatus DecodeArmMOVTWInstruction(llvm::MCInst &Inst, unsigned Insn,
1805                                  uint64_t Address, const void *Decoder) {
1806   DecodeStatus S = MCDisassembler::Success;
1807
1808   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
1809   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
1810   unsigned imm = 0;
1811
1812   imm |= (fieldFromInstruction32(Insn, 0, 12) << 0);
1813   imm |= (fieldFromInstruction32(Insn, 16, 4) << 12);
1814
1815   if (Inst.getOpcode() == ARM::MOVTi16)
1816     if (!Check(S, DecoderGPRRegisterClass(Inst, Rd, Address, Decoder)))
1817       return MCDisassembler::Fail;
1818   if (!Check(S, DecoderGPRRegisterClass(Inst, Rd, Address, Decoder)))
1819     return MCDisassembler::Fail;
1820
1821   if (!tryAddingSymbolicOperand(Address, imm, false, 4, Inst, Decoder))
1822     Inst.addOperand(MCOperand::CreateImm(imm));
1823
1824   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
1825     return MCDisassembler::Fail;
1826
1827   return S;
1828 }
1829
1830 static DecodeStatus DecodeSMLAInstruction(llvm::MCInst &Inst, unsigned Insn,
1831                                  uint64_t Address, const void *Decoder) {
1832   DecodeStatus S = MCDisassembler::Success;
1833
1834   unsigned Rd = fieldFromInstruction32(Insn, 16, 4);
1835   unsigned Rn = fieldFromInstruction32(Insn, 0, 4);
1836   unsigned Rm = fieldFromInstruction32(Insn, 8, 4);
1837   unsigned Ra = fieldFromInstruction32(Insn, 12, 4);
1838   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
1839
1840   if (pred == 0xF)
1841     return DecodeCPSInstruction(Inst, Insn, Address, Decoder);
1842
1843   if (!Check(S, DecodeGPRnopcRegisterClass(Inst, Rd, Address, Decoder)))
1844     return MCDisassembler::Fail;
1845   if (!Check(S, DecodeGPRnopcRegisterClass(Inst, Rn, Address, Decoder)))
1846     return MCDisassembler::Fail;
1847   if (!Check(S, DecodeGPRnopcRegisterClass(Inst, Rm, Address, Decoder)))
1848     return MCDisassembler::Fail;
1849   if (!Check(S, DecodeGPRnopcRegisterClass(Inst, Ra, Address, Decoder)))
1850     return MCDisassembler::Fail;
1851
1852   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
1853     return MCDisassembler::Fail;
1854
1855   return S;
1856 }
1857
1858 static DecodeStatus DecodeAddrModeImm12Operand(llvm::MCInst &Inst, unsigned Val,
1859                            uint64_t Address, const void *Decoder) {
1860   DecodeStatus S = MCDisassembler::Success;
1861
1862   unsigned add = fieldFromInstruction32(Val, 12, 1);
1863   unsigned imm = fieldFromInstruction32(Val, 0, 12);
1864   unsigned Rn = fieldFromInstruction32(Val, 13, 4);
1865
1866   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1867     return MCDisassembler::Fail;
1868
1869   if (!add) imm *= -1;
1870   if (imm == 0 && !add) imm = INT32_MIN;
1871   Inst.addOperand(MCOperand::CreateImm(imm));
1872   if (Rn == 15)
1873     tryAddingPcLoadReferenceComment(Address, Address + imm + 8, Decoder);
1874
1875   return S;
1876 }
1877
1878 static DecodeStatus DecodeAddrMode5Operand(llvm::MCInst &Inst, unsigned Val,
1879                                    uint64_t Address, const void *Decoder) {
1880   DecodeStatus S = MCDisassembler::Success;
1881
1882   unsigned Rn = fieldFromInstruction32(Val, 9, 4);
1883   unsigned U = fieldFromInstruction32(Val, 8, 1);
1884   unsigned imm = fieldFromInstruction32(Val, 0, 8);
1885
1886   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
1887     return MCDisassembler::Fail;
1888
1889   if (U)
1890     Inst.addOperand(MCOperand::CreateImm(ARM_AM::getAM5Opc(ARM_AM::add, imm)));
1891   else
1892     Inst.addOperand(MCOperand::CreateImm(ARM_AM::getAM5Opc(ARM_AM::sub, imm)));
1893
1894   return S;
1895 }
1896
1897 static DecodeStatus DecodeAddrMode7Operand(llvm::MCInst &Inst, unsigned Val,
1898                                    uint64_t Address, const void *Decoder) {
1899   return DecodeGPRRegisterClass(Inst, Val, Address, Decoder);
1900 }
1901
1902 static DecodeStatus
1903 DecodeBranchImmInstruction(llvm::MCInst &Inst, unsigned Insn,
1904                            uint64_t Address, const void *Decoder) {
1905   DecodeStatus S = MCDisassembler::Success;
1906
1907   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
1908   unsigned imm = fieldFromInstruction32(Insn, 0, 24) << 2;
1909
1910   if (pred == 0xF) {
1911     Inst.setOpcode(ARM::BLXi);
1912     imm |= fieldFromInstruction32(Insn, 24, 1) << 1;
1913     Inst.addOperand(MCOperand::CreateImm(SignExtend32<26>(imm)));
1914     return S;
1915   }
1916
1917   if (!tryAddingSymbolicOperand(Address, Address + SignExtend32<26>(imm) + 8, true,
1918                                 4, Inst, Decoder))
1919     Inst.addOperand(MCOperand::CreateImm(SignExtend32<26>(imm)));
1920   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
1921     return MCDisassembler::Fail;
1922
1923   return S;
1924 }
1925
1926
1927 static DecodeStatus DecodeAddrMode6Operand(llvm::MCInst &Inst, unsigned Val,
1928                                    uint64_t Address, const void *Decoder) {
1929   DecodeStatus S = MCDisassembler::Success;
1930
1931   unsigned Rm = fieldFromInstruction32(Val, 0, 4);
1932   unsigned align = fieldFromInstruction32(Val, 4, 2);
1933
1934   if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
1935     return MCDisassembler::Fail;
1936   if (!align)
1937     Inst.addOperand(MCOperand::CreateImm(0));
1938   else
1939     Inst.addOperand(MCOperand::CreateImm(4 << align));
1940
1941   return S;
1942 }
1943
1944 static DecodeStatus DecodeVLDInstruction(llvm::MCInst &Inst, unsigned Insn,
1945                                    uint64_t Address, const void *Decoder) {
1946   DecodeStatus S = MCDisassembler::Success;
1947
1948   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
1949   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
1950   unsigned wb = fieldFromInstruction32(Insn, 16, 4);
1951   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
1952   Rn |= fieldFromInstruction32(Insn, 4, 2) << 4;
1953   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
1954
1955   // First output register
1956   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
1957     return MCDisassembler::Fail;
1958
1959   // Second output register
1960   switch (Inst.getOpcode()) {
1961     case ARM::VLD3d8:
1962     case ARM::VLD3d16:
1963     case ARM::VLD3d32:
1964     case ARM::VLD3d8_UPD:
1965     case ARM::VLD3d16_UPD:
1966     case ARM::VLD3d32_UPD:
1967     case ARM::VLD4d8:
1968     case ARM::VLD4d16:
1969     case ARM::VLD4d32:
1970     case ARM::VLD4d8_UPD:
1971     case ARM::VLD4d16_UPD:
1972     case ARM::VLD4d32_UPD:
1973       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+1)%32, Address, Decoder)))
1974         return MCDisassembler::Fail;
1975       break;
1976     case ARM::VLD3q8:
1977     case ARM::VLD3q16:
1978     case ARM::VLD3q32:
1979     case ARM::VLD3q8_UPD:
1980     case ARM::VLD3q16_UPD:
1981     case ARM::VLD3q32_UPD:
1982     case ARM::VLD4q8:
1983     case ARM::VLD4q16:
1984     case ARM::VLD4q32:
1985     case ARM::VLD4q8_UPD:
1986     case ARM::VLD4q16_UPD:
1987     case ARM::VLD4q32_UPD:
1988       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+2)%32, Address, Decoder)))
1989         return MCDisassembler::Fail;
1990     default:
1991       break;
1992   }
1993
1994   // Third output register
1995   switch(Inst.getOpcode()) {
1996     case ARM::VLD3d8:
1997     case ARM::VLD3d16:
1998     case ARM::VLD3d32:
1999     case ARM::VLD3d8_UPD:
2000     case ARM::VLD3d16_UPD:
2001     case ARM::VLD3d32_UPD:
2002     case ARM::VLD4d8:
2003     case ARM::VLD4d16:
2004     case ARM::VLD4d32:
2005     case ARM::VLD4d8_UPD:
2006     case ARM::VLD4d16_UPD:
2007     case ARM::VLD4d32_UPD:
2008       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+2)%32, Address, Decoder)))
2009         return MCDisassembler::Fail;
2010       break;
2011     case ARM::VLD3q8:
2012     case ARM::VLD3q16:
2013     case ARM::VLD3q32:
2014     case ARM::VLD3q8_UPD:
2015     case ARM::VLD3q16_UPD:
2016     case ARM::VLD3q32_UPD:
2017     case ARM::VLD4q8:
2018     case ARM::VLD4q16:
2019     case ARM::VLD4q32:
2020     case ARM::VLD4q8_UPD:
2021     case ARM::VLD4q16_UPD:
2022     case ARM::VLD4q32_UPD:
2023       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+4)%32, Address, Decoder)))
2024         return MCDisassembler::Fail;
2025       break;
2026     default:
2027       break;
2028   }
2029
2030   // Fourth output register
2031   switch (Inst.getOpcode()) {
2032     case ARM::VLD4d8:
2033     case ARM::VLD4d16:
2034     case ARM::VLD4d32:
2035     case ARM::VLD4d8_UPD:
2036     case ARM::VLD4d16_UPD:
2037     case ARM::VLD4d32_UPD:
2038       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+3)%32, Address, Decoder)))
2039         return MCDisassembler::Fail;
2040       break;
2041     case ARM::VLD4q8:
2042     case ARM::VLD4q16:
2043     case ARM::VLD4q32:
2044     case ARM::VLD4q8_UPD:
2045     case ARM::VLD4q16_UPD:
2046     case ARM::VLD4q32_UPD:
2047       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+6)%32, Address, Decoder)))
2048         return MCDisassembler::Fail;
2049       break;
2050     default:
2051       break;
2052   }
2053
2054   // Writeback operand
2055   switch (Inst.getOpcode()) {
2056     case ARM::VLD1d8wb_fixed:
2057     case ARM::VLD1d16wb_fixed:
2058     case ARM::VLD1d32wb_fixed:
2059     case ARM::VLD1d64wb_fixed:
2060     case ARM::VLD1d8wb_register:
2061     case ARM::VLD1d16wb_register:
2062     case ARM::VLD1d32wb_register:
2063     case ARM::VLD1d64wb_register:
2064     case ARM::VLD1q8wb_fixed:
2065     case ARM::VLD1q16wb_fixed:
2066     case ARM::VLD1q32wb_fixed:
2067     case ARM::VLD1q64wb_fixed:
2068     case ARM::VLD1q8wb_register:
2069     case ARM::VLD1q16wb_register:
2070     case ARM::VLD1q32wb_register:
2071     case ARM::VLD1q64wb_register:
2072     case ARM::VLD1d8Twb_fixed:
2073     case ARM::VLD1d8Twb_register:
2074     case ARM::VLD1d16Twb_fixed:
2075     case ARM::VLD1d16Twb_register:
2076     case ARM::VLD1d32Twb_fixed:
2077     case ARM::VLD1d32Twb_register:
2078     case ARM::VLD1d64Twb_fixed:
2079     case ARM::VLD1d64Twb_register:
2080     case ARM::VLD1d8Qwb_fixed:
2081     case ARM::VLD1d8Qwb_register:
2082     case ARM::VLD1d16Qwb_fixed:
2083     case ARM::VLD1d16Qwb_register:
2084     case ARM::VLD1d32Qwb_fixed:
2085     case ARM::VLD1d32Qwb_register:
2086     case ARM::VLD1d64Qwb_fixed:
2087     case ARM::VLD1d64Qwb_register:
2088     case ARM::VLD2d8_UPD:
2089     case ARM::VLD2d16_UPD:
2090     case ARM::VLD2d32_UPD:
2091     case ARM::VLD2q8_UPD:
2092     case ARM::VLD2q16_UPD:
2093     case ARM::VLD2q32_UPD:
2094     case ARM::VLD2b8_UPD:
2095     case ARM::VLD2b16_UPD:
2096     case ARM::VLD2b32_UPD:
2097     case ARM::VLD3d8_UPD:
2098     case ARM::VLD3d16_UPD:
2099     case ARM::VLD3d32_UPD:
2100     case ARM::VLD3q8_UPD:
2101     case ARM::VLD3q16_UPD:
2102     case ARM::VLD3q32_UPD:
2103     case ARM::VLD4d8_UPD:
2104     case ARM::VLD4d16_UPD:
2105     case ARM::VLD4d32_UPD:
2106     case ARM::VLD4q8_UPD:
2107     case ARM::VLD4q16_UPD:
2108     case ARM::VLD4q32_UPD:
2109       if (!Check(S, DecodeGPRRegisterClass(Inst, wb, Address, Decoder)))
2110         return MCDisassembler::Fail;
2111       break;
2112     default:
2113       break;
2114   }
2115
2116   // AddrMode6 Base (register+alignment)
2117   if (!Check(S, DecodeAddrMode6Operand(Inst, Rn, Address, Decoder)))
2118     return MCDisassembler::Fail;
2119
2120   // AddrMode6 Offset (register)
2121   switch (Inst.getOpcode()) {
2122   default:
2123     // The below have been updated to have explicit am6offset split
2124     // between fixed and register offset. For those instructions not
2125     // yet updated, we need to add an additional reg0 operand for the
2126     // fixed variant.
2127     //
2128     // The fixed offset encodes as Rm == 0xd, so we check for that.
2129     if (Rm == 0xd) {
2130       Inst.addOperand(MCOperand::CreateReg(0));
2131       break;
2132     }
2133     // Fall through to handle the register offset variant.
2134   case ARM::VLD1d8wb_fixed:
2135   case ARM::VLD1d16wb_fixed:
2136   case ARM::VLD1d32wb_fixed:
2137   case ARM::VLD1d64wb_fixed:
2138   case ARM::VLD1d8Twb_fixed:
2139   case ARM::VLD1d16Twb_fixed:
2140   case ARM::VLD1d32Twb_fixed:
2141   case ARM::VLD1d64Twb_fixed:
2142   case ARM::VLD1d8Qwb_fixed:
2143   case ARM::VLD1d16Qwb_fixed:
2144   case ARM::VLD1d32Qwb_fixed:
2145   case ARM::VLD1d64Qwb_fixed:
2146   case ARM::VLD1d8wb_register:
2147   case ARM::VLD1d16wb_register:
2148   case ARM::VLD1d32wb_register:
2149   case ARM::VLD1d64wb_register:
2150   case ARM::VLD1q8wb_fixed:
2151   case ARM::VLD1q16wb_fixed:
2152   case ARM::VLD1q32wb_fixed:
2153   case ARM::VLD1q64wb_fixed:
2154   case ARM::VLD1q8wb_register:
2155   case ARM::VLD1q16wb_register:
2156   case ARM::VLD1q32wb_register:
2157   case ARM::VLD1q64wb_register:
2158     // The fixed offset post-increment encodes Rm == 0xd. The no-writeback
2159     // variant encodes Rm == 0xf. Anything else is a register offset post-
2160     // increment and we need to add the register operand to the instruction.
2161     if (Rm != 0xD && Rm != 0xF &&
2162         !Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
2163       return MCDisassembler::Fail;
2164     break;
2165   }
2166
2167   return S;
2168 }
2169
2170 static DecodeStatus DecodeVSTInstruction(llvm::MCInst &Inst, unsigned Insn,
2171                                  uint64_t Address, const void *Decoder) {
2172   DecodeStatus S = MCDisassembler::Success;
2173
2174   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
2175   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
2176   unsigned wb = fieldFromInstruction32(Insn, 16, 4);
2177   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
2178   Rn |= fieldFromInstruction32(Insn, 4, 2) << 4;
2179   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
2180
2181   // Writeback Operand
2182   switch (Inst.getOpcode()) {
2183     case ARM::VST1d8wb_fixed:
2184     case ARM::VST1d16wb_fixed:
2185     case ARM::VST1d32wb_fixed:
2186     case ARM::VST1d64wb_fixed:
2187     case ARM::VST1d8wb_register:
2188     case ARM::VST1d16wb_register:
2189     case ARM::VST1d32wb_register:
2190     case ARM::VST1d64wb_register:
2191     case ARM::VST1q8wb_fixed:
2192     case ARM::VST1q16wb_fixed:
2193     case ARM::VST1q32wb_fixed:
2194     case ARM::VST1q64wb_fixed:
2195     case ARM::VST1q8wb_register:
2196     case ARM::VST1q16wb_register:
2197     case ARM::VST1q32wb_register:
2198     case ARM::VST1q64wb_register:
2199     case ARM::VST1d8Twb_fixed:
2200     case ARM::VST1d16Twb_fixed:
2201     case ARM::VST1d32Twb_fixed:
2202     case ARM::VST1d64Twb_fixed:
2203     case ARM::VST1d8Twb_register:
2204     case ARM::VST1d16Twb_register:
2205     case ARM::VST1d32Twb_register:
2206     case ARM::VST1d64Twb_register:
2207     case ARM::VST1d8Q_UPD:
2208     case ARM::VST1d16Q_UPD:
2209     case ARM::VST1d32Q_UPD:
2210     case ARM::VST1d64Q_UPD:
2211     case ARM::VST2d8_UPD:
2212     case ARM::VST2d16_UPD:
2213     case ARM::VST2d32_UPD:
2214     case ARM::VST2q8_UPD:
2215     case ARM::VST2q16_UPD:
2216     case ARM::VST2q32_UPD:
2217     case ARM::VST2b8_UPD:
2218     case ARM::VST2b16_UPD:
2219     case ARM::VST2b32_UPD:
2220     case ARM::VST3d8_UPD:
2221     case ARM::VST3d16_UPD:
2222     case ARM::VST3d32_UPD:
2223     case ARM::VST3q8_UPD:
2224     case ARM::VST3q16_UPD:
2225     case ARM::VST3q32_UPD:
2226     case ARM::VST4d8_UPD:
2227     case ARM::VST4d16_UPD:
2228     case ARM::VST4d32_UPD:
2229     case ARM::VST4q8_UPD:
2230     case ARM::VST4q16_UPD:
2231     case ARM::VST4q32_UPD:
2232       if (!Check(S, DecodeGPRRegisterClass(Inst, wb, Address, Decoder)))
2233         return MCDisassembler::Fail;
2234       break;
2235     default:
2236       break;
2237   }
2238
2239   // AddrMode6 Base (register+alignment)
2240   if (!Check(S, DecodeAddrMode6Operand(Inst, Rn, Address, Decoder)))
2241     return MCDisassembler::Fail;
2242
2243   // AddrMode6 Offset (register)
2244   switch (Inst.getOpcode()) {
2245     default:
2246       if (Rm == 0xD)
2247         Inst.addOperand(MCOperand::CreateReg(0));
2248       else if (Rm != 0xF) {
2249         if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
2250           return MCDisassembler::Fail;
2251       }
2252       break;
2253     case ARM::VST1d8wb_fixed:
2254     case ARM::VST1d16wb_fixed:
2255     case ARM::VST1d32wb_fixed:
2256     case ARM::VST1d64wb_fixed:
2257     case ARM::VST1q8wb_fixed:
2258     case ARM::VST1q16wb_fixed:
2259     case ARM::VST1q32wb_fixed:
2260     case ARM::VST1q64wb_fixed:
2261       break;
2262   }
2263
2264
2265   // First input register
2266   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
2267     return MCDisassembler::Fail;
2268
2269   // Second input register
2270   switch (Inst.getOpcode()) {
2271     case ARM::VST1d8Q:
2272     case ARM::VST1d16Q:
2273     case ARM::VST1d32Q:
2274     case ARM::VST1d64Q:
2275     case ARM::VST1d8Q_UPD:
2276     case ARM::VST1d16Q_UPD:
2277     case ARM::VST1d32Q_UPD:
2278     case ARM::VST1d64Q_UPD:
2279     case ARM::VST2d8:
2280     case ARM::VST2d16:
2281     case ARM::VST2d32:
2282     case ARM::VST2d8_UPD:
2283     case ARM::VST2d16_UPD:
2284     case ARM::VST2d32_UPD:
2285     case ARM::VST2q8:
2286     case ARM::VST2q16:
2287     case ARM::VST2q32:
2288     case ARM::VST2q8_UPD:
2289     case ARM::VST2q16_UPD:
2290     case ARM::VST2q32_UPD:
2291     case ARM::VST3d8:
2292     case ARM::VST3d16:
2293     case ARM::VST3d32:
2294     case ARM::VST3d8_UPD:
2295     case ARM::VST3d16_UPD:
2296     case ARM::VST3d32_UPD:
2297     case ARM::VST4d8:
2298     case ARM::VST4d16:
2299     case ARM::VST4d32:
2300     case ARM::VST4d8_UPD:
2301     case ARM::VST4d16_UPD:
2302     case ARM::VST4d32_UPD:
2303       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+1)%32, Address, Decoder)))
2304         return MCDisassembler::Fail;
2305       break;
2306     case ARM::VST2b8:
2307     case ARM::VST2b16:
2308     case ARM::VST2b32:
2309     case ARM::VST2b8_UPD:
2310     case ARM::VST2b16_UPD:
2311     case ARM::VST2b32_UPD:
2312     case ARM::VST3q8:
2313     case ARM::VST3q16:
2314     case ARM::VST3q32:
2315     case ARM::VST3q8_UPD:
2316     case ARM::VST3q16_UPD:
2317     case ARM::VST3q32_UPD:
2318     case ARM::VST4q8:
2319     case ARM::VST4q16:
2320     case ARM::VST4q32:
2321     case ARM::VST4q8_UPD:
2322     case ARM::VST4q16_UPD:
2323     case ARM::VST4q32_UPD:
2324       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+2)%32, Address, Decoder)))
2325         return MCDisassembler::Fail;
2326       break;
2327     default:
2328       break;
2329   }
2330
2331   // Third input register
2332   switch (Inst.getOpcode()) {
2333     case ARM::VST1d8Q:
2334     case ARM::VST1d16Q:
2335     case ARM::VST1d32Q:
2336     case ARM::VST1d64Q:
2337     case ARM::VST1d8Q_UPD:
2338     case ARM::VST1d16Q_UPD:
2339     case ARM::VST1d32Q_UPD:
2340     case ARM::VST1d64Q_UPD:
2341     case ARM::VST2q8:
2342     case ARM::VST2q16:
2343     case ARM::VST2q32:
2344     case ARM::VST2q8_UPD:
2345     case ARM::VST2q16_UPD:
2346     case ARM::VST2q32_UPD:
2347     case ARM::VST3d8:
2348     case ARM::VST3d16:
2349     case ARM::VST3d32:
2350     case ARM::VST3d8_UPD:
2351     case ARM::VST3d16_UPD:
2352     case ARM::VST3d32_UPD:
2353     case ARM::VST4d8:
2354     case ARM::VST4d16:
2355     case ARM::VST4d32:
2356     case ARM::VST4d8_UPD:
2357     case ARM::VST4d16_UPD:
2358     case ARM::VST4d32_UPD:
2359       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+2)%32, Address, Decoder)))
2360         return MCDisassembler::Fail;
2361       break;
2362     case ARM::VST3q8:
2363     case ARM::VST3q16:
2364     case ARM::VST3q32:
2365     case ARM::VST3q8_UPD:
2366     case ARM::VST3q16_UPD:
2367     case ARM::VST3q32_UPD:
2368     case ARM::VST4q8:
2369     case ARM::VST4q16:
2370     case ARM::VST4q32:
2371     case ARM::VST4q8_UPD:
2372     case ARM::VST4q16_UPD:
2373     case ARM::VST4q32_UPD:
2374       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+4)%32, Address, Decoder)))
2375         return MCDisassembler::Fail;
2376       break;
2377     default:
2378       break;
2379   }
2380
2381   // Fourth input register
2382   switch (Inst.getOpcode()) {
2383     case ARM::VST1d8Q:
2384     case ARM::VST1d16Q:
2385     case ARM::VST1d32Q:
2386     case ARM::VST1d64Q:
2387     case ARM::VST1d8Q_UPD:
2388     case ARM::VST1d16Q_UPD:
2389     case ARM::VST1d32Q_UPD:
2390     case ARM::VST1d64Q_UPD:
2391     case ARM::VST2q8:
2392     case ARM::VST2q16:
2393     case ARM::VST2q32:
2394     case ARM::VST2q8_UPD:
2395     case ARM::VST2q16_UPD:
2396     case ARM::VST2q32_UPD:
2397     case ARM::VST4d8:
2398     case ARM::VST4d16:
2399     case ARM::VST4d32:
2400     case ARM::VST4d8_UPD:
2401     case ARM::VST4d16_UPD:
2402     case ARM::VST4d32_UPD:
2403       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+3)%32, Address, Decoder)))
2404         return MCDisassembler::Fail;
2405       break;
2406     case ARM::VST4q8:
2407     case ARM::VST4q16:
2408     case ARM::VST4q32:
2409     case ARM::VST4q8_UPD:
2410     case ARM::VST4q16_UPD:
2411     case ARM::VST4q32_UPD:
2412       if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+6)%32, Address, Decoder)))
2413         return MCDisassembler::Fail;
2414       break;
2415     default:
2416       break;
2417   }
2418
2419   return S;
2420 }
2421
2422 static DecodeStatus DecodeVLD1DupInstruction(llvm::MCInst &Inst, unsigned Insn,
2423                                     uint64_t Address, const void *Decoder) {
2424   DecodeStatus S = MCDisassembler::Success;
2425
2426   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
2427   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
2428   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
2429   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
2430   unsigned align = fieldFromInstruction32(Insn, 4, 1);
2431   unsigned size = fieldFromInstruction32(Insn, 6, 2);
2432   unsigned regs = fieldFromInstruction32(Insn, 5, 1) + 1;
2433
2434   align *= (1 << size);
2435
2436   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
2437     return MCDisassembler::Fail;
2438   if (regs == 2) {
2439     if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+1)%32, Address, Decoder)))
2440       return MCDisassembler::Fail;
2441   }
2442   if (Rm != 0xF) {
2443     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2444       return MCDisassembler::Fail;
2445   }
2446
2447   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2448     return MCDisassembler::Fail;
2449   Inst.addOperand(MCOperand::CreateImm(align));
2450
2451   if (Rm == 0xD)
2452     Inst.addOperand(MCOperand::CreateReg(0));
2453   else if (Rm != 0xF) {
2454     if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
2455       return MCDisassembler::Fail;
2456   }
2457
2458   return S;
2459 }
2460
2461 static DecodeStatus DecodeVLD2DupInstruction(llvm::MCInst &Inst, unsigned Insn,
2462                                     uint64_t Address, const void *Decoder) {
2463   DecodeStatus S = MCDisassembler::Success;
2464
2465   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
2466   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
2467   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
2468   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
2469   unsigned align = fieldFromInstruction32(Insn, 4, 1);
2470   unsigned size = 1 << fieldFromInstruction32(Insn, 6, 2);
2471   unsigned inc = fieldFromInstruction32(Insn, 5, 1) + 1;
2472   align *= 2*size;
2473
2474   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
2475     return MCDisassembler::Fail;
2476   if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+inc)%32, Address, Decoder)))
2477     return MCDisassembler::Fail;
2478   if (Rm != 0xF) {
2479     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2480       return MCDisassembler::Fail;
2481   }
2482
2483   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2484     return MCDisassembler::Fail;
2485   Inst.addOperand(MCOperand::CreateImm(align));
2486
2487   if (Rm == 0xD)
2488     Inst.addOperand(MCOperand::CreateReg(0));
2489   else if (Rm != 0xF) {
2490     if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
2491       return MCDisassembler::Fail;
2492   }
2493
2494   return S;
2495 }
2496
2497 static DecodeStatus DecodeVLD3DupInstruction(llvm::MCInst &Inst, unsigned Insn,
2498                                     uint64_t Address, const void *Decoder) {
2499   DecodeStatus S = MCDisassembler::Success;
2500
2501   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
2502   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
2503   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
2504   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
2505   unsigned inc = fieldFromInstruction32(Insn, 5, 1) + 1;
2506
2507   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
2508     return MCDisassembler::Fail;
2509   if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+inc)%32, Address, Decoder)))
2510     return MCDisassembler::Fail;
2511   if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+2*inc)%32, Address, Decoder)))
2512     return MCDisassembler::Fail;
2513   if (Rm != 0xF) {
2514     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2515       return MCDisassembler::Fail;
2516   }
2517
2518   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2519     return MCDisassembler::Fail;
2520   Inst.addOperand(MCOperand::CreateImm(0));
2521
2522   if (Rm == 0xD)
2523     Inst.addOperand(MCOperand::CreateReg(0));
2524   else if (Rm != 0xF) {
2525     if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
2526       return MCDisassembler::Fail;
2527   }
2528
2529   return S;
2530 }
2531
2532 static DecodeStatus DecodeVLD4DupInstruction(llvm::MCInst &Inst, unsigned Insn,
2533                                     uint64_t Address, const void *Decoder) {
2534   DecodeStatus S = MCDisassembler::Success;
2535
2536   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
2537   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
2538   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
2539   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
2540   unsigned size = fieldFromInstruction32(Insn, 6, 2);
2541   unsigned inc = fieldFromInstruction32(Insn, 5, 1) + 1;
2542   unsigned align = fieldFromInstruction32(Insn, 4, 1);
2543
2544   if (size == 0x3) {
2545     size = 4;
2546     align = 16;
2547   } else {
2548     if (size == 2) {
2549       size = 1 << size;
2550       align *= 8;
2551     } else {
2552       size = 1 << size;
2553       align *= 4*size;
2554     }
2555   }
2556
2557   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
2558     return MCDisassembler::Fail;
2559   if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+inc)%32, Address, Decoder)))
2560     return MCDisassembler::Fail;
2561   if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+2*inc)%32, Address, Decoder)))
2562     return MCDisassembler::Fail;
2563   if (!Check(S, DecodeDPRRegisterClass(Inst, (Rd+3*inc)%32, Address, Decoder)))
2564     return MCDisassembler::Fail;
2565   if (Rm != 0xF) {
2566     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2567       return MCDisassembler::Fail;
2568   }
2569
2570   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2571     return MCDisassembler::Fail;
2572   Inst.addOperand(MCOperand::CreateImm(align));
2573
2574   if (Rm == 0xD)
2575     Inst.addOperand(MCOperand::CreateReg(0));
2576   else if (Rm != 0xF) {
2577     if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
2578       return MCDisassembler::Fail;
2579   }
2580
2581   return S;
2582 }
2583
2584 static DecodeStatus
2585 DecodeNEONModImmInstruction(llvm::MCInst &Inst, unsigned Insn,
2586                             uint64_t Address, const void *Decoder) {
2587   DecodeStatus S = MCDisassembler::Success;
2588
2589   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
2590   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
2591   unsigned imm = fieldFromInstruction32(Insn, 0, 4);
2592   imm |= fieldFromInstruction32(Insn, 16, 3) << 4;
2593   imm |= fieldFromInstruction32(Insn, 24, 1) << 7;
2594   imm |= fieldFromInstruction32(Insn, 8, 4) << 8;
2595   imm |= fieldFromInstruction32(Insn, 5, 1) << 12;
2596   unsigned Q = fieldFromInstruction32(Insn, 6, 1);
2597
2598   if (Q) {
2599     if (!Check(S, DecodeQPRRegisterClass(Inst, Rd, Address, Decoder)))
2600     return MCDisassembler::Fail;
2601   } else {
2602     if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
2603     return MCDisassembler::Fail;
2604   }
2605
2606   Inst.addOperand(MCOperand::CreateImm(imm));
2607
2608   switch (Inst.getOpcode()) {
2609     case ARM::VORRiv4i16:
2610     case ARM::VORRiv2i32:
2611     case ARM::VBICiv4i16:
2612     case ARM::VBICiv2i32:
2613       if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
2614         return MCDisassembler::Fail;
2615       break;
2616     case ARM::VORRiv8i16:
2617     case ARM::VORRiv4i32:
2618     case ARM::VBICiv8i16:
2619     case ARM::VBICiv4i32:
2620       if (!Check(S, DecodeQPRRegisterClass(Inst, Rd, Address, Decoder)))
2621         return MCDisassembler::Fail;
2622       break;
2623     default:
2624       break;
2625   }
2626
2627   return S;
2628 }
2629
2630 static DecodeStatus DecodeVSHLMaxInstruction(llvm::MCInst &Inst, unsigned Insn,
2631                                         uint64_t Address, const void *Decoder) {
2632   DecodeStatus S = MCDisassembler::Success;
2633
2634   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
2635   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
2636   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
2637   Rm |= fieldFromInstruction32(Insn, 5, 1) << 4;
2638   unsigned size = fieldFromInstruction32(Insn, 18, 2);
2639
2640   if (!Check(S, DecodeQPRRegisterClass(Inst, Rd, Address, Decoder)))
2641     return MCDisassembler::Fail;
2642   if (!Check(S, DecodeDPRRegisterClass(Inst, Rm, Address, Decoder)))
2643     return MCDisassembler::Fail;
2644   Inst.addOperand(MCOperand::CreateImm(8 << size));
2645
2646   return S;
2647 }
2648
2649 static DecodeStatus DecodeShiftRight8Imm(llvm::MCInst &Inst, unsigned Val,
2650                                uint64_t Address, const void *Decoder) {
2651   Inst.addOperand(MCOperand::CreateImm(8 - Val));
2652   return MCDisassembler::Success;
2653 }
2654
2655 static DecodeStatus DecodeShiftRight16Imm(llvm::MCInst &Inst, unsigned Val,
2656                                uint64_t Address, const void *Decoder) {
2657   Inst.addOperand(MCOperand::CreateImm(16 - Val));
2658   return MCDisassembler::Success;
2659 }
2660
2661 static DecodeStatus DecodeShiftRight32Imm(llvm::MCInst &Inst, unsigned Val,
2662                                uint64_t Address, const void *Decoder) {
2663   Inst.addOperand(MCOperand::CreateImm(32 - Val));
2664   return MCDisassembler::Success;
2665 }
2666
2667 static DecodeStatus DecodeShiftRight64Imm(llvm::MCInst &Inst, unsigned Val,
2668                                uint64_t Address, const void *Decoder) {
2669   Inst.addOperand(MCOperand::CreateImm(64 - Val));
2670   return MCDisassembler::Success;
2671 }
2672
2673 static DecodeStatus DecodeTBLInstruction(llvm::MCInst &Inst, unsigned Insn,
2674                                uint64_t Address, const void *Decoder) {
2675   DecodeStatus S = MCDisassembler::Success;
2676
2677   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
2678   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
2679   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
2680   Rn |= fieldFromInstruction32(Insn, 7, 1) << 4;
2681   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
2682   Rm |= fieldFromInstruction32(Insn, 5, 1) << 4;
2683   unsigned op = fieldFromInstruction32(Insn, 6, 1);
2684   unsigned length = fieldFromInstruction32(Insn, 8, 2) + 1;
2685
2686   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
2687     return MCDisassembler::Fail;
2688   if (op) {
2689     if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
2690     return MCDisassembler::Fail; // Writeback
2691   }
2692
2693   for (unsigned i = 0; i < length; ++i) {
2694     if (!Check(S, DecodeDPRRegisterClass(Inst, (Rn+i)%32, Address, Decoder)))
2695     return MCDisassembler::Fail;
2696   }
2697
2698   if (!Check(S, DecodeDPRRegisterClass(Inst, Rm, Address, Decoder)))
2699     return MCDisassembler::Fail;
2700
2701   return S;
2702 }
2703
2704 static DecodeStatus DecodeThumbAddSpecialReg(llvm::MCInst &Inst, uint16_t Insn,
2705                                      uint64_t Address, const void *Decoder) {
2706   DecodeStatus S = MCDisassembler::Success;
2707
2708   unsigned dst = fieldFromInstruction16(Insn, 8, 3);
2709   unsigned imm = fieldFromInstruction16(Insn, 0, 8);
2710
2711   if (!Check(S, DecodetGPRRegisterClass(Inst, dst, Address, Decoder)))
2712     return MCDisassembler::Fail;
2713
2714   switch(Inst.getOpcode()) {
2715     default:
2716       return MCDisassembler::Fail;
2717     case ARM::tADR:
2718       break; // tADR does not explicitly represent the PC as an operand.
2719     case ARM::tADDrSPi:
2720       Inst.addOperand(MCOperand::CreateReg(ARM::SP));
2721       break;
2722   }
2723
2724   Inst.addOperand(MCOperand::CreateImm(imm));
2725   return S;
2726 }
2727
2728 static DecodeStatus DecodeThumbBROperand(llvm::MCInst &Inst, unsigned Val,
2729                                  uint64_t Address, const void *Decoder) {
2730   Inst.addOperand(MCOperand::CreateImm(SignExtend32<12>(Val << 1)));
2731   return MCDisassembler::Success;
2732 }
2733
2734 static DecodeStatus DecodeT2BROperand(llvm::MCInst &Inst, unsigned Val,
2735                                  uint64_t Address, const void *Decoder) {
2736   Inst.addOperand(MCOperand::CreateImm(SignExtend32<21>(Val)));
2737   return MCDisassembler::Success;
2738 }
2739
2740 static DecodeStatus DecodeThumbCmpBROperand(llvm::MCInst &Inst, unsigned Val,
2741                                  uint64_t Address, const void *Decoder) {
2742   Inst.addOperand(MCOperand::CreateImm(SignExtend32<7>(Val << 1)));
2743   return MCDisassembler::Success;
2744 }
2745
2746 static DecodeStatus DecodeThumbAddrModeRR(llvm::MCInst &Inst, unsigned Val,
2747                                  uint64_t Address, const void *Decoder) {
2748   DecodeStatus S = MCDisassembler::Success;
2749
2750   unsigned Rn = fieldFromInstruction32(Val, 0, 3);
2751   unsigned Rm = fieldFromInstruction32(Val, 3, 3);
2752
2753   if (!Check(S, DecodetGPRRegisterClass(Inst, Rn, Address, Decoder)))
2754     return MCDisassembler::Fail;
2755   if (!Check(S, DecodetGPRRegisterClass(Inst, Rm, Address, Decoder)))
2756     return MCDisassembler::Fail;
2757
2758   return S;
2759 }
2760
2761 static DecodeStatus DecodeThumbAddrModeIS(llvm::MCInst &Inst, unsigned Val,
2762                                   uint64_t Address, const void *Decoder) {
2763   DecodeStatus S = MCDisassembler::Success;
2764
2765   unsigned Rn = fieldFromInstruction32(Val, 0, 3);
2766   unsigned imm = fieldFromInstruction32(Val, 3, 5);
2767
2768   if (!Check(S, DecodetGPRRegisterClass(Inst, Rn, Address, Decoder)))
2769     return MCDisassembler::Fail;
2770   Inst.addOperand(MCOperand::CreateImm(imm));
2771
2772   return S;
2773 }
2774
2775 static DecodeStatus DecodeThumbAddrModePC(llvm::MCInst &Inst, unsigned Val,
2776                                   uint64_t Address, const void *Decoder) {
2777   unsigned imm = Val << 2;
2778
2779   Inst.addOperand(MCOperand::CreateImm(imm));
2780   tryAddingPcLoadReferenceComment(Address, (Address & ~2u) + imm + 4, Decoder);
2781
2782   return MCDisassembler::Success;
2783 }
2784
2785 static DecodeStatus DecodeThumbAddrModeSP(llvm::MCInst &Inst, unsigned Val,
2786                                   uint64_t Address, const void *Decoder) {
2787   Inst.addOperand(MCOperand::CreateReg(ARM::SP));
2788   Inst.addOperand(MCOperand::CreateImm(Val));
2789
2790   return MCDisassembler::Success;
2791 }
2792
2793 static DecodeStatus DecodeT2AddrModeSOReg(llvm::MCInst &Inst, unsigned Val,
2794                                   uint64_t Address, const void *Decoder) {
2795   DecodeStatus S = MCDisassembler::Success;
2796
2797   unsigned Rn = fieldFromInstruction32(Val, 6, 4);
2798   unsigned Rm = fieldFromInstruction32(Val, 2, 4);
2799   unsigned imm = fieldFromInstruction32(Val, 0, 2);
2800
2801   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2802     return MCDisassembler::Fail;
2803   if (!Check(S, DecoderGPRRegisterClass(Inst, Rm, Address, Decoder)))
2804     return MCDisassembler::Fail;
2805   Inst.addOperand(MCOperand::CreateImm(imm));
2806
2807   return S;
2808 }
2809
2810 static DecodeStatus DecodeT2LoadShift(llvm::MCInst &Inst, unsigned Insn,
2811                               uint64_t Address, const void *Decoder) {
2812   DecodeStatus S = MCDisassembler::Success;
2813
2814   switch (Inst.getOpcode()) {
2815     case ARM::t2PLDs:
2816     case ARM::t2PLDWs:
2817     case ARM::t2PLIs:
2818       break;
2819     default: {
2820       unsigned Rt = fieldFromInstruction32(Insn, 12, 4);
2821       if (!Check(S, DecoderGPRRegisterClass(Inst, Rt, Address, Decoder)))
2822     return MCDisassembler::Fail;
2823     }
2824   }
2825
2826   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
2827   if (Rn == 0xF) {
2828     switch (Inst.getOpcode()) {
2829       case ARM::t2LDRBs:
2830         Inst.setOpcode(ARM::t2LDRBpci);
2831         break;
2832       case ARM::t2LDRHs:
2833         Inst.setOpcode(ARM::t2LDRHpci);
2834         break;
2835       case ARM::t2LDRSHs:
2836         Inst.setOpcode(ARM::t2LDRSHpci);
2837         break;
2838       case ARM::t2LDRSBs:
2839         Inst.setOpcode(ARM::t2LDRSBpci);
2840         break;
2841       case ARM::t2PLDs:
2842         Inst.setOpcode(ARM::t2PLDi12);
2843         Inst.addOperand(MCOperand::CreateReg(ARM::PC));
2844         break;
2845       default:
2846         return MCDisassembler::Fail;
2847     }
2848
2849     int imm = fieldFromInstruction32(Insn, 0, 12);
2850     if (!fieldFromInstruction32(Insn, 23, 1)) imm *= -1;
2851     Inst.addOperand(MCOperand::CreateImm(imm));
2852
2853     return S;
2854   }
2855
2856   unsigned addrmode = fieldFromInstruction32(Insn, 4, 2);
2857   addrmode |= fieldFromInstruction32(Insn, 0, 4) << 2;
2858   addrmode |= fieldFromInstruction32(Insn, 16, 4) << 6;
2859   if (!Check(S, DecodeT2AddrModeSOReg(Inst, addrmode, Address, Decoder)))
2860     return MCDisassembler::Fail;
2861
2862   return S;
2863 }
2864
2865 static DecodeStatus DecodeT2Imm8S4(llvm::MCInst &Inst, unsigned Val,
2866                            uint64_t Address, const void *Decoder) {
2867   int imm = Val & 0xFF;
2868   if (!(Val & 0x100)) imm *= -1;
2869   Inst.addOperand(MCOperand::CreateImm(imm << 2));
2870
2871   return MCDisassembler::Success;
2872 }
2873
2874 static DecodeStatus DecodeT2AddrModeImm8s4(llvm::MCInst &Inst, unsigned Val,
2875                                    uint64_t Address, const void *Decoder) {
2876   DecodeStatus S = MCDisassembler::Success;
2877
2878   unsigned Rn = fieldFromInstruction32(Val, 9, 4);
2879   unsigned imm = fieldFromInstruction32(Val, 0, 9);
2880
2881   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2882     return MCDisassembler::Fail;
2883   if (!Check(S, DecodeT2Imm8S4(Inst, imm, Address, Decoder)))
2884     return MCDisassembler::Fail;
2885
2886   return S;
2887 }
2888
2889 static DecodeStatus DecodeT2AddrModeImm0_1020s4(llvm::MCInst &Inst,unsigned Val,
2890                                    uint64_t Address, const void *Decoder) {
2891   DecodeStatus S = MCDisassembler::Success;
2892
2893   unsigned Rn = fieldFromInstruction32(Val, 8, 4);
2894   unsigned imm = fieldFromInstruction32(Val, 0, 8);
2895
2896   if (!Check(S, DecodeGPRnopcRegisterClass(Inst, Rn, Address, Decoder)))
2897     return MCDisassembler::Fail;
2898
2899   Inst.addOperand(MCOperand::CreateImm(imm));
2900
2901   return S;
2902 }
2903
2904 static DecodeStatus DecodeT2Imm8(llvm::MCInst &Inst, unsigned Val,
2905                          uint64_t Address, const void *Decoder) {
2906   int imm = Val & 0xFF;
2907   if (Val == 0)
2908     imm = INT32_MIN;
2909   else if (!(Val & 0x100))
2910     imm *= -1;
2911   Inst.addOperand(MCOperand::CreateImm(imm));
2912
2913   return MCDisassembler::Success;
2914 }
2915
2916
2917 static DecodeStatus DecodeT2AddrModeImm8(llvm::MCInst &Inst, unsigned Val,
2918                                  uint64_t Address, const void *Decoder) {
2919   DecodeStatus S = MCDisassembler::Success;
2920
2921   unsigned Rn = fieldFromInstruction32(Val, 9, 4);
2922   unsigned imm = fieldFromInstruction32(Val, 0, 9);
2923
2924   // Some instructions always use an additive offset.
2925   switch (Inst.getOpcode()) {
2926     case ARM::t2LDRT:
2927     case ARM::t2LDRBT:
2928     case ARM::t2LDRHT:
2929     case ARM::t2LDRSBT:
2930     case ARM::t2LDRSHT:
2931     case ARM::t2STRT:
2932     case ARM::t2STRBT:
2933     case ARM::t2STRHT:
2934       imm |= 0x100;
2935       break;
2936     default:
2937       break;
2938   }
2939
2940   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2941     return MCDisassembler::Fail;
2942   if (!Check(S, DecodeT2Imm8(Inst, imm, Address, Decoder)))
2943     return MCDisassembler::Fail;
2944
2945   return S;
2946 }
2947
2948 static DecodeStatus DecodeT2LdStPre(llvm::MCInst &Inst, unsigned Insn,
2949                                     uint64_t Address, const void *Decoder) {
2950   DecodeStatus S = MCDisassembler::Success;
2951
2952   unsigned Rt = fieldFromInstruction32(Insn, 12, 4);
2953   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
2954   unsigned addr = fieldFromInstruction32(Insn, 0, 8);
2955   addr |= fieldFromInstruction32(Insn, 9, 1) << 8;
2956   addr |= Rn << 9;
2957   unsigned load = fieldFromInstruction32(Insn, 20, 1);
2958
2959   if (!load) {
2960     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2961       return MCDisassembler::Fail;
2962   }
2963
2964   if (!Check(S, DecoderGPRRegisterClass(Inst, Rt, Address, Decoder)))
2965     return MCDisassembler::Fail;
2966
2967   if (load) {
2968     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2969       return MCDisassembler::Fail;
2970   }
2971
2972   if (!Check(S, DecodeT2AddrModeImm8(Inst, addr, Address, Decoder)))
2973     return MCDisassembler::Fail;
2974
2975   return S;
2976 }
2977
2978 static DecodeStatus DecodeT2AddrModeImm12(llvm::MCInst &Inst, unsigned Val,
2979                                   uint64_t Address, const void *Decoder) {
2980   DecodeStatus S = MCDisassembler::Success;
2981
2982   unsigned Rn = fieldFromInstruction32(Val, 13, 4);
2983   unsigned imm = fieldFromInstruction32(Val, 0, 12);
2984
2985   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
2986     return MCDisassembler::Fail;
2987   Inst.addOperand(MCOperand::CreateImm(imm));
2988
2989   return S;
2990 }
2991
2992
2993 static DecodeStatus DecodeThumbAddSPImm(llvm::MCInst &Inst, uint16_t Insn,
2994                                 uint64_t Address, const void *Decoder) {
2995   unsigned imm = fieldFromInstruction16(Insn, 0, 7);
2996
2997   Inst.addOperand(MCOperand::CreateReg(ARM::SP));
2998   Inst.addOperand(MCOperand::CreateReg(ARM::SP));
2999   Inst.addOperand(MCOperand::CreateImm(imm));
3000
3001   return MCDisassembler::Success;
3002 }
3003
3004 static DecodeStatus DecodeThumbAddSPReg(llvm::MCInst &Inst, uint16_t Insn,
3005                                 uint64_t Address, const void *Decoder) {
3006   DecodeStatus S = MCDisassembler::Success;
3007
3008   if (Inst.getOpcode() == ARM::tADDrSP) {
3009     unsigned Rdm = fieldFromInstruction16(Insn, 0, 3);
3010     Rdm |= fieldFromInstruction16(Insn, 7, 1) << 3;
3011
3012     if (!Check(S, DecodeGPRRegisterClass(Inst, Rdm, Address, Decoder)))
3013     return MCDisassembler::Fail;
3014     if (!Check(S, DecodeGPRRegisterClass(Inst, Rdm, Address, Decoder)))
3015     return MCDisassembler::Fail;
3016     Inst.addOperand(MCOperand::CreateReg(ARM::SP));
3017   } else if (Inst.getOpcode() == ARM::tADDspr) {
3018     unsigned Rm = fieldFromInstruction16(Insn, 3, 4);
3019
3020     Inst.addOperand(MCOperand::CreateReg(ARM::SP));
3021     Inst.addOperand(MCOperand::CreateReg(ARM::SP));
3022     if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
3023     return MCDisassembler::Fail;
3024   }
3025
3026   return S;
3027 }
3028
3029 static DecodeStatus DecodeThumbCPS(llvm::MCInst &Inst, uint16_t Insn,
3030                            uint64_t Address, const void *Decoder) {
3031   unsigned imod = fieldFromInstruction16(Insn, 4, 1) | 0x2;
3032   unsigned flags = fieldFromInstruction16(Insn, 0, 3);
3033
3034   Inst.addOperand(MCOperand::CreateImm(imod));
3035   Inst.addOperand(MCOperand::CreateImm(flags));
3036
3037   return MCDisassembler::Success;
3038 }
3039
3040 static DecodeStatus DecodePostIdxReg(llvm::MCInst &Inst, unsigned Insn,
3041                              uint64_t Address, const void *Decoder) {
3042   DecodeStatus S = MCDisassembler::Success;
3043   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
3044   unsigned add = fieldFromInstruction32(Insn, 4, 1);
3045
3046   if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
3047     return MCDisassembler::Fail;
3048   Inst.addOperand(MCOperand::CreateImm(add));
3049
3050   return S;
3051 }
3052
3053 static DecodeStatus DecodeThumbBLXOffset(llvm::MCInst &Inst, unsigned Val,
3054                                  uint64_t Address, const void *Decoder) {
3055   if (!tryAddingSymbolicOperand(Address,
3056                                 (Address & ~2u) + SignExtend32<22>(Val << 1) + 4,
3057                                 true, 4, Inst, Decoder))
3058     Inst.addOperand(MCOperand::CreateImm(SignExtend32<22>(Val << 1)));
3059   return MCDisassembler::Success;
3060 }
3061
3062 static DecodeStatus DecodeCoprocessor(llvm::MCInst &Inst, unsigned Val,
3063                               uint64_t Address, const void *Decoder) {
3064   if (Val == 0xA || Val == 0xB)
3065     return MCDisassembler::Fail;
3066
3067   Inst.addOperand(MCOperand::CreateImm(Val));
3068   return MCDisassembler::Success;
3069 }
3070
3071 static DecodeStatus
3072 DecodeThumbTableBranch(llvm::MCInst &Inst, unsigned Insn,
3073                        uint64_t Address, const void *Decoder) {
3074   DecodeStatus S = MCDisassembler::Success;
3075
3076   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3077   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
3078
3079   if (Rn == ARM::SP) S = MCDisassembler::SoftFail;
3080   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3081     return MCDisassembler::Fail;
3082   if (!Check(S, DecoderGPRRegisterClass(Inst, Rm, Address, Decoder)))
3083     return MCDisassembler::Fail;
3084   return S;
3085 }
3086
3087 static DecodeStatus
3088 DecodeThumb2BCCInstruction(llvm::MCInst &Inst, unsigned Insn,
3089                            uint64_t Address, const void *Decoder) {
3090   DecodeStatus S = MCDisassembler::Success;
3091
3092   unsigned pred = fieldFromInstruction32(Insn, 22, 4);
3093   if (pred == 0xE || pred == 0xF) {
3094     unsigned opc = fieldFromInstruction32(Insn, 4, 28);
3095     switch (opc) {
3096       default:
3097         return MCDisassembler::Fail;
3098       case 0xf3bf8f4:
3099         Inst.setOpcode(ARM::t2DSB);
3100         break;
3101       case 0xf3bf8f5:
3102         Inst.setOpcode(ARM::t2DMB);
3103         break;
3104       case 0xf3bf8f6:
3105         Inst.setOpcode(ARM::t2ISB);
3106         break;
3107     }
3108
3109     unsigned imm = fieldFromInstruction32(Insn, 0, 4);
3110     return DecodeMemBarrierOption(Inst, imm, Address, Decoder);
3111   }
3112
3113   unsigned brtarget = fieldFromInstruction32(Insn, 0, 11) << 1;
3114   brtarget |= fieldFromInstruction32(Insn, 11, 1) << 19;
3115   brtarget |= fieldFromInstruction32(Insn, 13, 1) << 18;
3116   brtarget |= fieldFromInstruction32(Insn, 16, 6) << 12;
3117   brtarget |= fieldFromInstruction32(Insn, 26, 1) << 20;
3118
3119   if (!Check(S, DecodeT2BROperand(Inst, brtarget, Address, Decoder)))
3120     return MCDisassembler::Fail;
3121   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
3122     return MCDisassembler::Fail;
3123
3124   return S;
3125 }
3126
3127 // Decode a shifted immediate operand.  These basically consist
3128 // of an 8-bit value, and a 4-bit directive that specifies either
3129 // a splat operation or a rotation.
3130 static DecodeStatus DecodeT2SOImm(llvm::MCInst &Inst, unsigned Val,
3131                           uint64_t Address, const void *Decoder) {
3132   unsigned ctrl = fieldFromInstruction32(Val, 10, 2);
3133   if (ctrl == 0) {
3134     unsigned byte = fieldFromInstruction32(Val, 8, 2);
3135     unsigned imm = fieldFromInstruction32(Val, 0, 8);
3136     switch (byte) {
3137       case 0:
3138         Inst.addOperand(MCOperand::CreateImm(imm));
3139         break;
3140       case 1:
3141         Inst.addOperand(MCOperand::CreateImm((imm << 16) | imm));
3142         break;
3143       case 2:
3144         Inst.addOperand(MCOperand::CreateImm((imm << 24) | (imm << 8)));
3145         break;
3146       case 3:
3147         Inst.addOperand(MCOperand::CreateImm((imm << 24) | (imm << 16) |
3148                                              (imm << 8)  |  imm));
3149         break;
3150     }
3151   } else {
3152     unsigned unrot = fieldFromInstruction32(Val, 0, 7) | 0x80;
3153     unsigned rot = fieldFromInstruction32(Val, 7, 5);
3154     unsigned imm = (unrot >> rot) | (unrot << ((32-rot)&31));
3155     Inst.addOperand(MCOperand::CreateImm(imm));
3156   }
3157
3158   return MCDisassembler::Success;
3159 }
3160
3161 static DecodeStatus
3162 DecodeThumbBCCTargetOperand(llvm::MCInst &Inst, unsigned Val,
3163                             uint64_t Address, const void *Decoder){
3164   Inst.addOperand(MCOperand::CreateImm(Val << 1));
3165   return MCDisassembler::Success;
3166 }
3167
3168 static DecodeStatus DecodeThumbBLTargetOperand(llvm::MCInst &Inst, unsigned Val,
3169                                        uint64_t Address, const void *Decoder){
3170   Inst.addOperand(MCOperand::CreateImm(SignExtend32<22>(Val << 1)));
3171   return MCDisassembler::Success;
3172 }
3173
3174 static DecodeStatus DecodeMemBarrierOption(llvm::MCInst &Inst, unsigned Val,
3175                                    uint64_t Address, const void *Decoder) {
3176   switch (Val) {
3177   default:
3178     return MCDisassembler::Fail;
3179   case 0xF: // SY
3180   case 0xE: // ST
3181   case 0xB: // ISH
3182   case 0xA: // ISHST
3183   case 0x7: // NSH
3184   case 0x6: // NSHST
3185   case 0x3: // OSH
3186   case 0x2: // OSHST
3187     break;
3188   }
3189
3190   Inst.addOperand(MCOperand::CreateImm(Val));
3191   return MCDisassembler::Success;
3192 }
3193
3194 static DecodeStatus DecodeMSRMask(llvm::MCInst &Inst, unsigned Val,
3195                           uint64_t Address, const void *Decoder) {
3196   if (!Val) return MCDisassembler::Fail;
3197   Inst.addOperand(MCOperand::CreateImm(Val));
3198   return MCDisassembler::Success;
3199 }
3200
3201 static DecodeStatus DecodeDoubleRegLoad(llvm::MCInst &Inst, unsigned Insn,
3202                                         uint64_t Address, const void *Decoder) {
3203   DecodeStatus S = MCDisassembler::Success;
3204
3205   unsigned Rt = fieldFromInstruction32(Insn, 12, 4);
3206   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3207   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
3208
3209   if ((Rt & 1) || Rt == 0xE || Rn == 0xF) return MCDisassembler::Fail;
3210
3211   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt, Address, Decoder)))
3212     return MCDisassembler::Fail;
3213   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt+1, Address, Decoder)))
3214     return MCDisassembler::Fail;
3215   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3216     return MCDisassembler::Fail;
3217   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
3218     return MCDisassembler::Fail;
3219
3220   return S;
3221 }
3222
3223
3224 static DecodeStatus DecodeDoubleRegStore(llvm::MCInst &Inst, unsigned Insn,
3225                                          uint64_t Address, const void *Decoder){
3226   DecodeStatus S = MCDisassembler::Success;
3227
3228   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
3229   unsigned Rt = fieldFromInstruction32(Insn, 0, 4);
3230   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3231   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
3232
3233   if (!Check(S, DecoderGPRRegisterClass(Inst, Rd, Address, Decoder)))
3234     return MCDisassembler::Fail;
3235
3236   if ((Rt & 1) || Rt == 0xE || Rn == 0xF) return MCDisassembler::Fail;
3237   if (Rd == Rn || Rd == Rt || Rd == Rt+1) return MCDisassembler::Fail;
3238
3239   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt, Address, Decoder)))
3240     return MCDisassembler::Fail;
3241   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt+1, Address, Decoder)))
3242     return MCDisassembler::Fail;
3243   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3244     return MCDisassembler::Fail;
3245   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
3246     return MCDisassembler::Fail;
3247
3248   return S;
3249 }
3250
3251 static DecodeStatus DecodeLDRPreImm(llvm::MCInst &Inst, unsigned Insn,
3252                             uint64_t Address, const void *Decoder) {
3253   DecodeStatus S = MCDisassembler::Success;
3254
3255   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3256   unsigned Rt = fieldFromInstruction32(Insn, 12, 4);
3257   unsigned imm = fieldFromInstruction32(Insn, 0, 12);
3258   imm |= fieldFromInstruction32(Insn, 16, 4) << 13;
3259   imm |= fieldFromInstruction32(Insn, 23, 1) << 12;
3260   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
3261
3262   if (Rn == 0xF || Rn == Rt) S = MCDisassembler::SoftFail;
3263
3264   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt, Address, Decoder)))
3265     return MCDisassembler::Fail;
3266   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3267     return MCDisassembler::Fail;
3268   if (!Check(S, DecodeAddrModeImm12Operand(Inst, imm, Address, Decoder)))
3269     return MCDisassembler::Fail;
3270   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
3271     return MCDisassembler::Fail;
3272
3273   return S;
3274 }
3275
3276 static DecodeStatus DecodeLDRPreReg(llvm::MCInst &Inst, unsigned Insn,
3277                             uint64_t Address, const void *Decoder) {
3278   DecodeStatus S = MCDisassembler::Success;
3279
3280   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3281   unsigned Rt = fieldFromInstruction32(Insn, 12, 4);
3282   unsigned imm = fieldFromInstruction32(Insn, 0, 12);
3283   imm |= fieldFromInstruction32(Insn, 16, 4) << 13;
3284   imm |= fieldFromInstruction32(Insn, 23, 1) << 12;
3285   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
3286   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
3287
3288   if (Rn == 0xF || Rn == Rt) S = MCDisassembler::SoftFail;
3289   if (Rm == 0xF) S = MCDisassembler::SoftFail;
3290
3291   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt, Address, Decoder)))
3292     return MCDisassembler::Fail;
3293   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3294     return MCDisassembler::Fail;
3295   if (!Check(S, DecodeSORegMemOperand(Inst, imm, Address, Decoder)))
3296     return MCDisassembler::Fail;
3297   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
3298     return MCDisassembler::Fail;
3299
3300   return S;
3301 }
3302
3303
3304 static DecodeStatus DecodeSTRPreImm(llvm::MCInst &Inst, unsigned Insn,
3305                             uint64_t Address, const void *Decoder) {
3306   DecodeStatus S = MCDisassembler::Success;
3307
3308   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3309   unsigned Rt = fieldFromInstruction32(Insn, 12, 4);
3310   unsigned imm = fieldFromInstruction32(Insn, 0, 12);
3311   imm |= fieldFromInstruction32(Insn, 16, 4) << 13;
3312   imm |= fieldFromInstruction32(Insn, 23, 1) << 12;
3313   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
3314
3315   if (Rn == 0xF || Rn == Rt) S = MCDisassembler::SoftFail;
3316
3317   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3318     return MCDisassembler::Fail;
3319   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt, Address, Decoder)))
3320     return MCDisassembler::Fail;
3321   if (!Check(S, DecodeAddrModeImm12Operand(Inst, imm, Address, Decoder)))
3322     return MCDisassembler::Fail;
3323   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
3324     return MCDisassembler::Fail;
3325
3326   return S;
3327 }
3328
3329 static DecodeStatus DecodeSTRPreReg(llvm::MCInst &Inst, unsigned Insn,
3330                             uint64_t Address, const void *Decoder) {
3331   DecodeStatus S = MCDisassembler::Success;
3332
3333   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3334   unsigned Rt = fieldFromInstruction32(Insn, 12, 4);
3335   unsigned imm = fieldFromInstruction32(Insn, 0, 12);
3336   imm |= fieldFromInstruction32(Insn, 16, 4) << 13;
3337   imm |= fieldFromInstruction32(Insn, 23, 1) << 12;
3338   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
3339
3340   if (Rn == 0xF || Rn == Rt) S = MCDisassembler::SoftFail;
3341
3342   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3343     return MCDisassembler::Fail;
3344   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt, Address, Decoder)))
3345     return MCDisassembler::Fail;
3346   if (!Check(S, DecodeSORegMemOperand(Inst, imm, Address, Decoder)))
3347     return MCDisassembler::Fail;
3348   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
3349     return MCDisassembler::Fail;
3350
3351   return S;
3352 }
3353
3354 static DecodeStatus DecodeVLD1LN(llvm::MCInst &Inst, unsigned Insn,
3355                          uint64_t Address, const void *Decoder) {
3356   DecodeStatus S = MCDisassembler::Success;
3357
3358   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3359   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
3360   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
3361   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
3362   unsigned size = fieldFromInstruction32(Insn, 10, 2);
3363
3364   unsigned align = 0;
3365   unsigned index = 0;
3366   switch (size) {
3367     default:
3368       return MCDisassembler::Fail;
3369     case 0:
3370       if (fieldFromInstruction32(Insn, 4, 1))
3371         return MCDisassembler::Fail; // UNDEFINED
3372       index = fieldFromInstruction32(Insn, 5, 3);
3373       break;
3374     case 1:
3375       if (fieldFromInstruction32(Insn, 5, 1))
3376         return MCDisassembler::Fail; // UNDEFINED
3377       index = fieldFromInstruction32(Insn, 6, 2);
3378       if (fieldFromInstruction32(Insn, 4, 1))
3379         align = 2;
3380       break;
3381     case 2:
3382       if (fieldFromInstruction32(Insn, 6, 1))
3383         return MCDisassembler::Fail; // UNDEFINED
3384       index = fieldFromInstruction32(Insn, 7, 1);
3385       if (fieldFromInstruction32(Insn, 4, 2) != 0)
3386         align = 4;
3387   }
3388
3389   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3390     return MCDisassembler::Fail;
3391   if (Rm != 0xF) { // Writeback
3392     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3393       return MCDisassembler::Fail;
3394   }
3395   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3396     return MCDisassembler::Fail;
3397   Inst.addOperand(MCOperand::CreateImm(align));
3398   if (Rm != 0xF) {
3399     if (Rm != 0xD) {
3400       if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
3401         return MCDisassembler::Fail;
3402     } else
3403       Inst.addOperand(MCOperand::CreateReg(0));
3404   }
3405
3406   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3407     return MCDisassembler::Fail;
3408   Inst.addOperand(MCOperand::CreateImm(index));
3409
3410   return S;
3411 }
3412
3413 static DecodeStatus DecodeVST1LN(llvm::MCInst &Inst, unsigned Insn,
3414                          uint64_t Address, const void *Decoder) {
3415   DecodeStatus S = MCDisassembler::Success;
3416
3417   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3418   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
3419   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
3420   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
3421   unsigned size = fieldFromInstruction32(Insn, 10, 2);
3422
3423   unsigned align = 0;
3424   unsigned index = 0;
3425   switch (size) {
3426     default:
3427       return MCDisassembler::Fail;
3428     case 0:
3429       if (fieldFromInstruction32(Insn, 4, 1))
3430         return MCDisassembler::Fail; // UNDEFINED
3431       index = fieldFromInstruction32(Insn, 5, 3);
3432       break;
3433     case 1:
3434       if (fieldFromInstruction32(Insn, 5, 1))
3435         return MCDisassembler::Fail; // UNDEFINED
3436       index = fieldFromInstruction32(Insn, 6, 2);
3437       if (fieldFromInstruction32(Insn, 4, 1))
3438         align = 2;
3439       break;
3440     case 2:
3441       if (fieldFromInstruction32(Insn, 6, 1))
3442         return MCDisassembler::Fail; // UNDEFINED
3443       index = fieldFromInstruction32(Insn, 7, 1);
3444       if (fieldFromInstruction32(Insn, 4, 2) != 0)
3445         align = 4;
3446   }
3447
3448   if (Rm != 0xF) { // Writeback
3449     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3450     return MCDisassembler::Fail;
3451   }
3452   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3453     return MCDisassembler::Fail;
3454   Inst.addOperand(MCOperand::CreateImm(align));
3455   if (Rm != 0xF) {
3456     if (Rm != 0xD) {
3457       if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
3458     return MCDisassembler::Fail;
3459     } else
3460       Inst.addOperand(MCOperand::CreateReg(0));
3461   }
3462
3463   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3464     return MCDisassembler::Fail;
3465   Inst.addOperand(MCOperand::CreateImm(index));
3466
3467   return S;
3468 }
3469
3470
3471 static DecodeStatus DecodeVLD2LN(llvm::MCInst &Inst, unsigned Insn,
3472                          uint64_t Address, const void *Decoder) {
3473   DecodeStatus S = MCDisassembler::Success;
3474
3475   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3476   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
3477   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
3478   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
3479   unsigned size = fieldFromInstruction32(Insn, 10, 2);
3480
3481   unsigned align = 0;
3482   unsigned index = 0;
3483   unsigned inc = 1;
3484   switch (size) {
3485     default:
3486       return MCDisassembler::Fail;
3487     case 0:
3488       index = fieldFromInstruction32(Insn, 5, 3);
3489       if (fieldFromInstruction32(Insn, 4, 1))
3490         align = 2;
3491       break;
3492     case 1:
3493       index = fieldFromInstruction32(Insn, 6, 2);
3494       if (fieldFromInstruction32(Insn, 4, 1))
3495         align = 4;
3496       if (fieldFromInstruction32(Insn, 5, 1))
3497         inc = 2;
3498       break;
3499     case 2:
3500       if (fieldFromInstruction32(Insn, 5, 1))
3501         return MCDisassembler::Fail; // UNDEFINED
3502       index = fieldFromInstruction32(Insn, 7, 1);
3503       if (fieldFromInstruction32(Insn, 4, 1) != 0)
3504         align = 8;
3505       if (fieldFromInstruction32(Insn, 6, 1))
3506         inc = 2;
3507       break;
3508   }
3509
3510   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3511     return MCDisassembler::Fail;
3512   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+inc, Address, Decoder)))
3513     return MCDisassembler::Fail;
3514   if (Rm != 0xF) { // Writeback
3515     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3516       return MCDisassembler::Fail;
3517   }
3518   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3519     return MCDisassembler::Fail;
3520   Inst.addOperand(MCOperand::CreateImm(align));
3521   if (Rm != 0xF) {
3522     if (Rm != 0xD) {
3523       if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
3524         return MCDisassembler::Fail;
3525     } else
3526       Inst.addOperand(MCOperand::CreateReg(0));
3527   }
3528
3529   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3530     return MCDisassembler::Fail;
3531   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+inc, Address, Decoder)))
3532     return MCDisassembler::Fail;
3533   Inst.addOperand(MCOperand::CreateImm(index));
3534
3535   return S;
3536 }
3537
3538 static DecodeStatus DecodeVST2LN(llvm::MCInst &Inst, unsigned Insn,
3539                          uint64_t Address, const void *Decoder) {
3540   DecodeStatus S = MCDisassembler::Success;
3541
3542   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3543   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
3544   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
3545   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
3546   unsigned size = fieldFromInstruction32(Insn, 10, 2);
3547
3548   unsigned align = 0;
3549   unsigned index = 0;
3550   unsigned inc = 1;
3551   switch (size) {
3552     default:
3553       return MCDisassembler::Fail;
3554     case 0:
3555       index = fieldFromInstruction32(Insn, 5, 3);
3556       if (fieldFromInstruction32(Insn, 4, 1))
3557         align = 2;
3558       break;
3559     case 1:
3560       index = fieldFromInstruction32(Insn, 6, 2);
3561       if (fieldFromInstruction32(Insn, 4, 1))
3562         align = 4;
3563       if (fieldFromInstruction32(Insn, 5, 1))
3564         inc = 2;
3565       break;
3566     case 2:
3567       if (fieldFromInstruction32(Insn, 5, 1))
3568         return MCDisassembler::Fail; // UNDEFINED
3569       index = fieldFromInstruction32(Insn, 7, 1);
3570       if (fieldFromInstruction32(Insn, 4, 1) != 0)
3571         align = 8;
3572       if (fieldFromInstruction32(Insn, 6, 1))
3573         inc = 2;
3574       break;
3575   }
3576
3577   if (Rm != 0xF) { // Writeback
3578     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3579       return MCDisassembler::Fail;
3580   }
3581   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3582     return MCDisassembler::Fail;
3583   Inst.addOperand(MCOperand::CreateImm(align));
3584   if (Rm != 0xF) {
3585     if (Rm != 0xD) {
3586       if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
3587         return MCDisassembler::Fail;
3588     } else
3589       Inst.addOperand(MCOperand::CreateReg(0));
3590   }
3591
3592   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3593     return MCDisassembler::Fail;
3594   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+inc, Address, Decoder)))
3595     return MCDisassembler::Fail;
3596   Inst.addOperand(MCOperand::CreateImm(index));
3597
3598   return S;
3599 }
3600
3601
3602 static DecodeStatus DecodeVLD3LN(llvm::MCInst &Inst, unsigned Insn,
3603                          uint64_t Address, const void *Decoder) {
3604   DecodeStatus S = MCDisassembler::Success;
3605
3606   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3607   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
3608   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
3609   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
3610   unsigned size = fieldFromInstruction32(Insn, 10, 2);
3611
3612   unsigned align = 0;
3613   unsigned index = 0;
3614   unsigned inc = 1;
3615   switch (size) {
3616     default:
3617       return MCDisassembler::Fail;
3618     case 0:
3619       if (fieldFromInstruction32(Insn, 4, 1))
3620         return MCDisassembler::Fail; // UNDEFINED
3621       index = fieldFromInstruction32(Insn, 5, 3);
3622       break;
3623     case 1:
3624       if (fieldFromInstruction32(Insn, 4, 1))
3625         return MCDisassembler::Fail; // UNDEFINED
3626       index = fieldFromInstruction32(Insn, 6, 2);
3627       if (fieldFromInstruction32(Insn, 5, 1))
3628         inc = 2;
3629       break;
3630     case 2:
3631       if (fieldFromInstruction32(Insn, 4, 2))
3632         return MCDisassembler::Fail; // UNDEFINED
3633       index = fieldFromInstruction32(Insn, 7, 1);
3634       if (fieldFromInstruction32(Insn, 6, 1))
3635         inc = 2;
3636       break;
3637   }
3638
3639   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3640     return MCDisassembler::Fail;
3641   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+inc, Address, Decoder)))
3642     return MCDisassembler::Fail;
3643   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+2*inc, Address, Decoder)))
3644     return MCDisassembler::Fail;
3645
3646   if (Rm != 0xF) { // Writeback
3647     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3648     return MCDisassembler::Fail;
3649   }
3650   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3651     return MCDisassembler::Fail;
3652   Inst.addOperand(MCOperand::CreateImm(align));
3653   if (Rm != 0xF) {
3654     if (Rm != 0xD) {
3655       if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
3656     return MCDisassembler::Fail;
3657     } else
3658       Inst.addOperand(MCOperand::CreateReg(0));
3659   }
3660
3661   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3662     return MCDisassembler::Fail;
3663   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+inc, Address, Decoder)))
3664     return MCDisassembler::Fail;
3665   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+2*inc, Address, Decoder)))
3666     return MCDisassembler::Fail;
3667   Inst.addOperand(MCOperand::CreateImm(index));
3668
3669   return S;
3670 }
3671
3672 static DecodeStatus DecodeVST3LN(llvm::MCInst &Inst, unsigned Insn,
3673                          uint64_t Address, const void *Decoder) {
3674   DecodeStatus S = MCDisassembler::Success;
3675
3676   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3677   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
3678   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
3679   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
3680   unsigned size = fieldFromInstruction32(Insn, 10, 2);
3681
3682   unsigned align = 0;
3683   unsigned index = 0;
3684   unsigned inc = 1;
3685   switch (size) {
3686     default:
3687       return MCDisassembler::Fail;
3688     case 0:
3689       if (fieldFromInstruction32(Insn, 4, 1))
3690         return MCDisassembler::Fail; // UNDEFINED
3691       index = fieldFromInstruction32(Insn, 5, 3);
3692       break;
3693     case 1:
3694       if (fieldFromInstruction32(Insn, 4, 1))
3695         return MCDisassembler::Fail; // UNDEFINED
3696       index = fieldFromInstruction32(Insn, 6, 2);
3697       if (fieldFromInstruction32(Insn, 5, 1))
3698         inc = 2;
3699       break;
3700     case 2:
3701       if (fieldFromInstruction32(Insn, 4, 2))
3702         return MCDisassembler::Fail; // UNDEFINED
3703       index = fieldFromInstruction32(Insn, 7, 1);
3704       if (fieldFromInstruction32(Insn, 6, 1))
3705         inc = 2;
3706       break;
3707   }
3708
3709   if (Rm != 0xF) { // Writeback
3710     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3711     return MCDisassembler::Fail;
3712   }
3713   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3714     return MCDisassembler::Fail;
3715   Inst.addOperand(MCOperand::CreateImm(align));
3716   if (Rm != 0xF) {
3717     if (Rm != 0xD) {
3718       if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
3719     return MCDisassembler::Fail;
3720     } else
3721       Inst.addOperand(MCOperand::CreateReg(0));
3722   }
3723
3724   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3725     return MCDisassembler::Fail;
3726   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+inc, Address, Decoder)))
3727     return MCDisassembler::Fail;
3728   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+2*inc, Address, Decoder)))
3729     return MCDisassembler::Fail;
3730   Inst.addOperand(MCOperand::CreateImm(index));
3731
3732   return S;
3733 }
3734
3735
3736 static DecodeStatus DecodeVLD4LN(llvm::MCInst &Inst, unsigned Insn,
3737                          uint64_t Address, const void *Decoder) {
3738   DecodeStatus S = MCDisassembler::Success;
3739
3740   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3741   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
3742   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
3743   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
3744   unsigned size = fieldFromInstruction32(Insn, 10, 2);
3745
3746   unsigned align = 0;
3747   unsigned index = 0;
3748   unsigned inc = 1;
3749   switch (size) {
3750     default:
3751       return MCDisassembler::Fail;
3752     case 0:
3753       if (fieldFromInstruction32(Insn, 4, 1))
3754         align = 4;
3755       index = fieldFromInstruction32(Insn, 5, 3);
3756       break;
3757     case 1:
3758       if (fieldFromInstruction32(Insn, 4, 1))
3759         align = 8;
3760       index = fieldFromInstruction32(Insn, 6, 2);
3761       if (fieldFromInstruction32(Insn, 5, 1))
3762         inc = 2;
3763       break;
3764     case 2:
3765       if (fieldFromInstruction32(Insn, 4, 2))
3766         align = 4 << fieldFromInstruction32(Insn, 4, 2);
3767       index = fieldFromInstruction32(Insn, 7, 1);
3768       if (fieldFromInstruction32(Insn, 6, 1))
3769         inc = 2;
3770       break;
3771   }
3772
3773   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3774     return MCDisassembler::Fail;
3775   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+inc, Address, Decoder)))
3776     return MCDisassembler::Fail;
3777   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+2*inc, Address, Decoder)))
3778     return MCDisassembler::Fail;
3779   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+3*inc, Address, Decoder)))
3780     return MCDisassembler::Fail;
3781
3782   if (Rm != 0xF) { // Writeback
3783     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3784       return MCDisassembler::Fail;
3785   }
3786   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3787     return MCDisassembler::Fail;
3788   Inst.addOperand(MCOperand::CreateImm(align));
3789   if (Rm != 0xF) {
3790     if (Rm != 0xD) {
3791       if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
3792         return MCDisassembler::Fail;
3793     } else
3794       Inst.addOperand(MCOperand::CreateReg(0));
3795   }
3796
3797   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3798     return MCDisassembler::Fail;
3799   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+inc, Address, Decoder)))
3800     return MCDisassembler::Fail;
3801   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+2*inc, Address, Decoder)))
3802     return MCDisassembler::Fail;
3803   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+3*inc, Address, Decoder)))
3804     return MCDisassembler::Fail;
3805   Inst.addOperand(MCOperand::CreateImm(index));
3806
3807   return S;
3808 }
3809
3810 static DecodeStatus DecodeVST4LN(llvm::MCInst &Inst, unsigned Insn,
3811                          uint64_t Address, const void *Decoder) {
3812   DecodeStatus S = MCDisassembler::Success;
3813
3814   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3815   unsigned Rm = fieldFromInstruction32(Insn, 0, 4);
3816   unsigned Rd = fieldFromInstruction32(Insn, 12, 4);
3817   Rd |= fieldFromInstruction32(Insn, 22, 1) << 4;
3818   unsigned size = fieldFromInstruction32(Insn, 10, 2);
3819
3820   unsigned align = 0;
3821   unsigned index = 0;
3822   unsigned inc = 1;
3823   switch (size) {
3824     default:
3825       return MCDisassembler::Fail;
3826     case 0:
3827       if (fieldFromInstruction32(Insn, 4, 1))
3828         align = 4;
3829       index = fieldFromInstruction32(Insn, 5, 3);
3830       break;
3831     case 1:
3832       if (fieldFromInstruction32(Insn, 4, 1))
3833         align = 8;
3834       index = fieldFromInstruction32(Insn, 6, 2);
3835       if (fieldFromInstruction32(Insn, 5, 1))
3836         inc = 2;
3837       break;
3838     case 2:
3839       if (fieldFromInstruction32(Insn, 4, 2))
3840         align = 4 << fieldFromInstruction32(Insn, 4, 2);
3841       index = fieldFromInstruction32(Insn, 7, 1);
3842       if (fieldFromInstruction32(Insn, 6, 1))
3843         inc = 2;
3844       break;
3845   }
3846
3847   if (Rm != 0xF) { // Writeback
3848     if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3849     return MCDisassembler::Fail;
3850   }
3851   if (!Check(S, DecodeGPRRegisterClass(Inst, Rn, Address, Decoder)))
3852     return MCDisassembler::Fail;
3853   Inst.addOperand(MCOperand::CreateImm(align));
3854   if (Rm != 0xF) {
3855     if (Rm != 0xD) {
3856       if (!Check(S, DecodeGPRRegisterClass(Inst, Rm, Address, Decoder)))
3857     return MCDisassembler::Fail;
3858     } else
3859       Inst.addOperand(MCOperand::CreateReg(0));
3860   }
3861
3862   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd, Address, Decoder)))
3863     return MCDisassembler::Fail;
3864   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+inc, Address, Decoder)))
3865     return MCDisassembler::Fail;
3866   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+2*inc, Address, Decoder)))
3867     return MCDisassembler::Fail;
3868   if (!Check(S, DecodeDPRRegisterClass(Inst, Rd+3*inc, Address, Decoder)))
3869     return MCDisassembler::Fail;
3870   Inst.addOperand(MCOperand::CreateImm(index));
3871
3872   return S;
3873 }
3874
3875 static DecodeStatus DecodeVMOVSRR(llvm::MCInst &Inst, unsigned Insn,
3876                                   uint64_t Address, const void *Decoder) {
3877   DecodeStatus S = MCDisassembler::Success;
3878   unsigned Rt  = fieldFromInstruction32(Insn, 12, 4);
3879   unsigned Rt2 = fieldFromInstruction32(Insn, 16, 4);
3880   unsigned Rm  = fieldFromInstruction32(Insn,  0, 4);
3881   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
3882   Rm |= fieldFromInstruction32(Insn, 5, 1) << 4;
3883
3884   if (Rt == 0xF || Rt2 == 0xF || Rm == 0x1F)
3885     S = MCDisassembler::SoftFail;
3886
3887   if (!Check(S, DecodeSPRRegisterClass(Inst, Rm  , Address, Decoder)))
3888     return MCDisassembler::Fail;
3889   if (!Check(S, DecodeSPRRegisterClass(Inst, Rm+1, Address, Decoder)))
3890     return MCDisassembler::Fail;
3891   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt  , Address, Decoder)))
3892     return MCDisassembler::Fail;
3893   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt2 , Address, Decoder)))
3894     return MCDisassembler::Fail;
3895   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
3896     return MCDisassembler::Fail;
3897
3898   return S;
3899 }
3900
3901 static DecodeStatus DecodeVMOVRRS(llvm::MCInst &Inst, unsigned Insn,
3902                                   uint64_t Address, const void *Decoder) {
3903   DecodeStatus S = MCDisassembler::Success;
3904   unsigned Rt  = fieldFromInstruction32(Insn, 12, 4);
3905   unsigned Rt2 = fieldFromInstruction32(Insn, 16, 4);
3906   unsigned Rm  = fieldFromInstruction32(Insn,  0, 4);
3907   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
3908   Rm |= fieldFromInstruction32(Insn, 5, 1) << 4;
3909
3910   if (Rt == 0xF || Rt2 == 0xF || Rm == 0x1F)
3911     S = MCDisassembler::SoftFail;
3912
3913   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt  , Address, Decoder)))
3914     return MCDisassembler::Fail;
3915   if (!Check(S, DecodeGPRRegisterClass(Inst, Rt2 , Address, Decoder)))
3916     return MCDisassembler::Fail;
3917   if (!Check(S, DecodeSPRRegisterClass(Inst, Rm  , Address, Decoder)))
3918     return MCDisassembler::Fail;
3919   if (!Check(S, DecodeSPRRegisterClass(Inst, Rm+1, Address, Decoder)))
3920     return MCDisassembler::Fail;
3921   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
3922     return MCDisassembler::Fail;
3923
3924   return S;
3925 }
3926
3927 static DecodeStatus DecodeIT(llvm::MCInst &Inst, unsigned Insn,
3928                              uint64_t Address, const void *Decoder) {
3929   DecodeStatus S = MCDisassembler::Success;
3930   unsigned pred = fieldFromInstruction16(Insn, 4, 4);
3931   // The InstPrinter needs to have the low bit of the predicate in
3932   // the mask operand to be able to print it properly.
3933   unsigned mask = fieldFromInstruction16(Insn, 0, 5);
3934
3935   if (pred == 0xF) {
3936     pred = 0xE;
3937     S = MCDisassembler::SoftFail;
3938   }
3939
3940   if ((mask & 0xF) == 0) {
3941     // Preserve the high bit of the mask, which is the low bit of
3942     // the predicate.
3943     mask &= 0x10;
3944     mask |= 0x8;
3945     S = MCDisassembler::SoftFail;
3946   }
3947
3948   Inst.addOperand(MCOperand::CreateImm(pred));
3949   Inst.addOperand(MCOperand::CreateImm(mask));
3950   return S;
3951 }
3952
3953 static DecodeStatus
3954 DecodeT2LDRDPreInstruction(llvm::MCInst &Inst, unsigned Insn,
3955                            uint64_t Address, const void *Decoder) {
3956   DecodeStatus S = MCDisassembler::Success;
3957
3958   unsigned Rt = fieldFromInstruction32(Insn, 12, 4);
3959   unsigned Rt2 = fieldFromInstruction32(Insn, 8, 4);
3960   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3961   unsigned addr = fieldFromInstruction32(Insn, 0, 8);
3962   unsigned W = fieldFromInstruction32(Insn, 21, 1);
3963   unsigned U = fieldFromInstruction32(Insn, 23, 1);
3964   unsigned P = fieldFromInstruction32(Insn, 24, 1);
3965   bool writeback = (W == 1) | (P == 0);
3966
3967   addr |= (U << 8) | (Rn << 9);
3968
3969   if (writeback && (Rn == Rt || Rn == Rt2))
3970     Check(S, MCDisassembler::SoftFail);
3971   if (Rt == Rt2)
3972     Check(S, MCDisassembler::SoftFail);
3973
3974   // Rt
3975   if (!Check(S, DecoderGPRRegisterClass(Inst, Rt, Address, Decoder)))
3976     return MCDisassembler::Fail;
3977   // Rt2
3978   if (!Check(S, DecoderGPRRegisterClass(Inst, Rt2, Address, Decoder)))
3979     return MCDisassembler::Fail;
3980   // Writeback operand
3981   if (!Check(S, DecoderGPRRegisterClass(Inst, Rn, Address, Decoder)))
3982     return MCDisassembler::Fail;
3983   // addr
3984   if (!Check(S, DecodeT2AddrModeImm8s4(Inst, addr, Address, Decoder)))
3985     return MCDisassembler::Fail;
3986
3987   return S;
3988 }
3989
3990 static DecodeStatus
3991 DecodeT2STRDPreInstruction(llvm::MCInst &Inst, unsigned Insn,
3992                            uint64_t Address, const void *Decoder) {
3993   DecodeStatus S = MCDisassembler::Success;
3994
3995   unsigned Rt = fieldFromInstruction32(Insn, 12, 4);
3996   unsigned Rt2 = fieldFromInstruction32(Insn, 8, 4);
3997   unsigned Rn = fieldFromInstruction32(Insn, 16, 4);
3998   unsigned addr = fieldFromInstruction32(Insn, 0, 8);
3999   unsigned W = fieldFromInstruction32(Insn, 21, 1);
4000   unsigned U = fieldFromInstruction32(Insn, 23, 1);
4001   unsigned P = fieldFromInstruction32(Insn, 24, 1);
4002   bool writeback = (W == 1) | (P == 0);
4003
4004   addr |= (U << 8) | (Rn << 9);
4005
4006   if (writeback && (Rn == Rt || Rn == Rt2))
4007     Check(S, MCDisassembler::SoftFail);
4008
4009   // Writeback operand
4010   if (!Check(S, DecoderGPRRegisterClass(Inst, Rn, Address, Decoder)))
4011     return MCDisassembler::Fail;
4012   // Rt
4013   if (!Check(S, DecoderGPRRegisterClass(Inst, Rt, Address, Decoder)))
4014     return MCDisassembler::Fail;
4015   // Rt2
4016   if (!Check(S, DecoderGPRRegisterClass(Inst, Rt2, Address, Decoder)))
4017     return MCDisassembler::Fail;
4018   // addr
4019   if (!Check(S, DecodeT2AddrModeImm8s4(Inst, addr, Address, Decoder)))
4020     return MCDisassembler::Fail;
4021
4022   return S;
4023 }
4024
4025 static DecodeStatus DecodeT2Adr(llvm::MCInst &Inst, uint32_t Insn,
4026                                 uint64_t Address, const void *Decoder) {
4027   unsigned sign1 = fieldFromInstruction32(Insn, 21, 1);
4028   unsigned sign2 = fieldFromInstruction32(Insn, 23, 1);
4029   if (sign1 != sign2) return MCDisassembler::Fail;
4030
4031   unsigned Val = fieldFromInstruction32(Insn, 0, 8);
4032   Val |= fieldFromInstruction32(Insn, 12, 3) << 8;
4033   Val |= fieldFromInstruction32(Insn, 26, 1) << 11;
4034   Val |= sign1 << 12;
4035   Inst.addOperand(MCOperand::CreateImm(SignExtend32<13>(Val)));
4036
4037   return MCDisassembler::Success;
4038 }
4039
4040 static DecodeStatus DecodeT2ShifterImmOperand(llvm::MCInst &Inst, uint32_t Val,
4041                                               uint64_t Address,
4042                                               const void *Decoder) {
4043   DecodeStatus S = MCDisassembler::Success;
4044
4045   // Shift of "asr #32" is not allowed in Thumb2 mode.
4046   if (Val == 0x20) S = MCDisassembler::SoftFail;
4047   Inst.addOperand(MCOperand::CreateImm(Val));
4048   return S;
4049 }
4050
4051 static DecodeStatus DecodeSwap(llvm::MCInst &Inst, unsigned Insn,
4052                                uint64_t Address, const void *Decoder) {
4053   unsigned Rt   = fieldFromInstruction32(Insn, 12, 4);
4054   unsigned Rt2  = fieldFromInstruction32(Insn, 0,  4);
4055   unsigned Rn   = fieldFromInstruction32(Insn, 16, 4);
4056   unsigned pred = fieldFromInstruction32(Insn, 28, 4);
4057
4058   if (pred == 0xF)
4059     return DecodeCPSInstruction(Inst, Insn, Address, Decoder);
4060
4061   DecodeStatus S = MCDisassembler::Success;
4062   if (!Check(S, DecodeGPRnopcRegisterClass(Inst, Rt, Address, Decoder)))
4063     return MCDisassembler::Fail;
4064   if (!Check(S, DecodeGPRnopcRegisterClass(Inst, Rt2, Address, Decoder)))
4065     return MCDisassembler::Fail;
4066   if (!Check(S, DecodeGPRnopcRegisterClass(Inst, Rn, Address, Decoder)))
4067     return MCDisassembler::Fail;
4068   if (!Check(S, DecodePredicateOperand(Inst, pred, Address, Decoder)))
4069     return MCDisassembler::Fail;
4070
4071   return S;
4072 }
4073
4074 static DecodeStatus DecodeVCVTD(llvm::MCInst &Inst, unsigned Insn,
4075                                 uint64_t Address, const void *Decoder) {
4076   unsigned Vd = (fieldFromInstruction32(Insn, 12, 4) << 0);
4077   Vd |= (fieldFromInstruction32(Insn, 22, 1) << 4);
4078   unsigned Vm = (fieldFromInstruction32(Insn, 0, 4) << 0);
4079   Vm |= (fieldFromInstruction32(Insn, 5, 1) << 4);
4080   unsigned imm = fieldFromInstruction32(Insn, 16, 6);
4081   unsigned cmode = fieldFromInstruction32(Insn, 8, 4);
4082
4083   DecodeStatus S = MCDisassembler::Success;
4084
4085   // VMOVv2f32 is ambiguous with these decodings.
4086   if (!(imm & 0x38) && cmode == 0xF) {
4087     Inst.setOpcode(ARM::VMOVv2f32);
4088     return DecodeNEONModImmInstruction(Inst, Insn, Address, Decoder);
4089   }
4090
4091   if (!(imm & 0x20)) Check(S, MCDisassembler::SoftFail);
4092
4093   if (!Check(S, DecodeDPRRegisterClass(Inst, Vd, Address, Decoder)))
4094     return MCDisassembler::Fail;
4095   if (!Check(S, DecodeDPRRegisterClass(Inst, Vm, Address, Decoder)))
4096     return MCDisassembler::Fail;
4097   Inst.addOperand(MCOperand::CreateImm(64 - imm));
4098
4099   return S;
4100 }
4101
4102 static DecodeStatus DecodeVCVTQ(llvm::MCInst &Inst, unsigned Insn,
4103                                 uint64_t Address, const void *Decoder) {
4104   unsigned Vd = (fieldFromInstruction32(Insn, 12, 4) << 0);
4105   Vd |= (fieldFromInstruction32(Insn, 22, 1) << 4);
4106   unsigned Vm = (fieldFromInstruction32(Insn, 0, 4) << 0);
4107   Vm |= (fieldFromInstruction32(Insn, 5, 1) << 4);
4108   unsigned imm = fieldFromInstruction32(Insn, 16, 6);
4109   unsigned cmode = fieldFromInstruction32(Insn, 8, 4);
4110
4111   DecodeStatus S = MCDisassembler::Success;
4112
4113   // VMOVv4f32 is ambiguous with these decodings.
4114   if (!(imm & 0x38) && cmode == 0xF) {
4115     Inst.setOpcode(ARM::VMOVv4f32);
4116     return DecodeNEONModImmInstruction(Inst, Insn, Address, Decoder);
4117   }
4118
4119   if (!(imm & 0x20)) Check(S, MCDisassembler::SoftFail);
4120
4121   if (!Check(S, DecodeQPRRegisterClass(Inst, Vd, Address, Decoder)))
4122     return MCDisassembler::Fail;
4123   if (!Check(S, DecodeQPRRegisterClass(Inst, Vm, Address, Decoder)))
4124     return MCDisassembler::Fail;
4125   Inst.addOperand(MCOperand::CreateImm(64 - imm));
4126
4127   return S;
4128 }
4129