lib/Target/ARM/MCTargetDesc/ARMMCCodeEmitter.cpp

   1 //===-- ARM/ARMMCCodeEmitter.cpp - Convert ARM code to machine code -------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 // This file implements the ARMMCCodeEmitter class.
  11 //
  12 //===----------------------------------------------------------------------===//
  13
  14 #define DEBUG_TYPE "mccodeemitter"
  15 #include "MCTargetDesc/ARMAddressingModes.h"
  16 #include "MCTargetDesc/ARMBaseInfo.h"
  17 #include "MCTargetDesc/ARMFixupKinds.h"
  18 #include "MCTargetDesc/ARMMCExpr.h"
  19 #include "MCTargetDesc/ARMMCTargetDesc.h"
  20 #include "llvm/MC/MCCodeEmitter.h"
  21 #include "llvm/MC/MCExpr.h"
  22 #include "llvm/MC/MCInst.h"
  23 #include "llvm/MC/MCInstrInfo.h"
  24 #include "llvm/MC/MCRegisterInfo.h"
  25 #include "llvm/MC/MCSubtargetInfo.h"
  26 #include "llvm/ADT/APFloat.h"
  27 #include "llvm/ADT/Statistic.h"
  28 #include "llvm/Support/raw_ostream.h"
  29
  30 using namespace llvm;
  31
  32 STATISTIC(MCNumEmitted, "Number of MC instructions emitted.");
  33 STATISTIC(MCNumCPRelocations, "Number of constant pool relocations created.");
  34
  35 namespace {
  36 class ARMMCCodeEmitter : public MCCodeEmitter {
  37   ARMMCCodeEmitter(const ARMMCCodeEmitter &); // DO NOT IMPLEMENT
  38   void operator=(const ARMMCCodeEmitter &); // DO NOT IMPLEMENT
  39   const MCInstrInfo &MCII;
  40   const MCSubtargetInfo &STI;
  41
  42 public:
  43   ARMMCCodeEmitter(const MCInstrInfo &mcii, const MCSubtargetInfo &sti,
  44                    MCContext &ctx)
  45     : MCII(mcii), STI(sti) {
  46   }
  47
  48   ~ARMMCCodeEmitter() {}
  49
  50   bool isThumb() const {
  51     // FIXME: Can tablegen auto-generate this?
  52     return (STI.getFeatureBits() & ARM::ModeThumb) != 0;
  53   }
  54   bool isThumb2() const {
  55     return isThumb() && (STI.getFeatureBits() & ARM::FeatureThumb2) != 0;
  56   }
  57   bool isTargetDarwin() const {
  58     Triple TT(STI.getTargetTriple());
  59     Triple::OSType OS = TT.getOS();
  60     return OS == Triple::Darwin || OS == Triple::MacOSX || OS == Triple::IOS;
  61   }
  62
  63   unsigned getMachineSoImmOpValue(unsigned SoImm) const;
  64
  65   // getBinaryCodeForInstr - TableGen'erated function for getting the
  66   // binary encoding for an instruction.
  67   unsigned getBinaryCodeForInstr(const MCInst &MI,
  68                                  SmallVectorImpl<MCFixup> &Fixups) const;
  69
  70   /// getMachineOpValue - Return binary encoding of operand. If the machine
  71   /// operand requires relocation, record the relocation and return zero.
  72   unsigned getMachineOpValue(const MCInst &MI,const MCOperand &MO,
  73                              SmallVectorImpl<MCFixup> &Fixups) const;
  74
  75   /// getHiLo16ImmOpValue - Return the encoding for the hi / low 16-bit of
  76   /// the specified operand. This is used for operands with :lower16: and
  77   /// :upper16: prefixes.
  78   uint32_t getHiLo16ImmOpValue(const MCInst &MI, unsigned OpIdx,
  79                                SmallVectorImpl<MCFixup> &Fixups) const;
  80
  81   bool EncodeAddrModeOpValues(const MCInst &MI, unsigned OpIdx,
  82                               unsigned &Reg, unsigned &Imm,
  83                               SmallVectorImpl<MCFixup> &Fixups) const;
  84
  85   /// getThumbBLTargetOpValue - Return encoding info for Thumb immediate
  86   /// BL branch target.
  87   uint32_t getThumbBLTargetOpValue(const MCInst &MI, unsigned OpIdx,
  88                                    SmallVectorImpl<MCFixup> &Fixups) const;
  89
  90   /// getThumbBLXTargetOpValue - Return encoding info for Thumb immediate
  91   /// BLX branch target.
  92   uint32_t getThumbBLXTargetOpValue(const MCInst &MI, unsigned OpIdx,
  93                                     SmallVectorImpl<MCFixup> &Fixups) const;
  94
  95   /// getThumbBRTargetOpValue - Return encoding info for Thumb branch target.
  96   uint32_t getThumbBRTargetOpValue(const MCInst &MI, unsigned OpIdx,
  97                                    SmallVectorImpl<MCFixup> &Fixups) const;
  98
  99   /// getThumbBCCTargetOpValue - Return encoding info for Thumb branch target.
 100   uint32_t getThumbBCCTargetOpValue(const MCInst &MI, unsigned OpIdx,
 101                                     SmallVectorImpl<MCFixup> &Fixups) const;
 102
 103   /// getThumbCBTargetOpValue - Return encoding info for Thumb branch target.
 104   uint32_t getThumbCBTargetOpValue(const MCInst &MI, unsigned OpIdx,
 105                                    SmallVectorImpl<MCFixup> &Fixups) const;
 106
 107   /// getBranchTargetOpValue - Return encoding info for 24-bit immediate
 108   /// branch target.
 109   uint32_t getBranchTargetOpValue(const MCInst &MI, unsigned OpIdx,
 110                                   SmallVectorImpl<MCFixup> &Fixups) const;
 111
 112   /// getUnconditionalBranchTargetOpValue - Return encoding info for 24-bit
 113   /// immediate Thumb2 direct branch target.
 114   uint32_t getUnconditionalBranchTargetOpValue(const MCInst &MI, unsigned OpIdx,
 115                                   SmallVectorImpl<MCFixup> &Fixups) const;
 116
 117   /// getARMBranchTargetOpValue - Return encoding info for 24-bit immediate
 118   /// branch target.
 119   uint32_t getARMBranchTargetOpValue(const MCInst &MI, unsigned OpIdx,
 120                                      SmallVectorImpl<MCFixup> &Fixups) const;
 121   uint32_t getARMBLXTargetOpValue(const MCInst &MI, unsigned OpIdx,
 122                                      SmallVectorImpl<MCFixup> &Fixups) const;
 123
 124   /// getAdrLabelOpValue - Return encoding info for 12-bit immediate
 125   /// ADR label target.
 126   uint32_t getAdrLabelOpValue(const MCInst &MI, unsigned OpIdx,
 127                               SmallVectorImpl<MCFixup> &Fixups) const;
 128   uint32_t getThumbAdrLabelOpValue(const MCInst &MI, unsigned OpIdx,
 129                               SmallVectorImpl<MCFixup> &Fixups) const;
 130   uint32_t getT2AdrLabelOpValue(const MCInst &MI, unsigned OpIdx,
 131                               SmallVectorImpl<MCFixup> &Fixups) const;
 132
 133
 134   /// getAddrModeImm12OpValue - Return encoding info for 'reg +/- imm12'
 135   /// operand.
 136   uint32_t getAddrModeImm12OpValue(const MCInst &MI, unsigned OpIdx,
 137                                    SmallVectorImpl<MCFixup> &Fixups) const;
 138
 139   /// getThumbAddrModeRegRegOpValue - Return encoding for 'reg + reg' operand.
 140   uint32_t getThumbAddrModeRegRegOpValue(const MCInst &MI, unsigned OpIdx,
 141                                          SmallVectorImpl<MCFixup> &Fixups)const;
 142
 143   /// getT2AddrModeImm8s4OpValue - Return encoding info for 'reg +/- imm8<<2'
 144   /// operand.
 145   uint32_t getT2AddrModeImm8s4OpValue(const MCInst &MI, unsigned OpIdx,
 146                                    SmallVectorImpl<MCFixup> &Fixups) const;
 147
 148   /// getT2AddrModeImm0_1020s4OpValue - Return encoding info for 'reg + imm8<<2'
 149   /// operand.
 150   uint32_t getT2AddrModeImm0_1020s4OpValue(const MCInst &MI, unsigned OpIdx,
 151                                    SmallVectorImpl<MCFixup> &Fixups) const;
 152
 153   /// getT2Imm8s4OpValue - Return encoding info for '+/- imm8<<2'
 154   /// operand.
 155   uint32_t getT2Imm8s4OpValue(const MCInst &MI, unsigned OpIdx,
 156                               SmallVectorImpl<MCFixup> &Fixups) const;
 157
 158
 159   /// getLdStSORegOpValue - Return encoding info for 'reg +/- reg shop imm'
 160   /// operand as needed by load/store instructions.
 161   uint32_t getLdStSORegOpValue(const MCInst &MI, unsigned OpIdx,
 162                                SmallVectorImpl<MCFixup> &Fixups) const;
 163
 164   /// getLdStmModeOpValue - Return encoding for load/store multiple mode.
 165   uint32_t getLdStmModeOpValue(const MCInst &MI, unsigned OpIdx,
 166                                SmallVectorImpl<MCFixup> &Fixups) const {
 167     ARM_AM::AMSubMode Mode = (ARM_AM::AMSubMode)MI.getOperand(OpIdx).getImm();
 168     switch (Mode) {
 169     default: assert(0 && "Unknown addressing sub-mode!");
 170     case ARM_AM::da: return 0;
 171     case ARM_AM::ia: return 1;
 172     case ARM_AM::db: return 2;
 173     case ARM_AM::ib: return 3;
 174     }
 175   }
 176   /// getShiftOp - Return the shift opcode (bit[6:5]) of the immediate value.
 177   ///
 178   unsigned getShiftOp(ARM_AM::ShiftOpc ShOpc) const {
 179     switch (ShOpc) {
 180     case ARM_AM::no_shift:
 181     case ARM_AM::lsl: return 0;
 182     case ARM_AM::lsr: return 1;
 183     case ARM_AM::asr: return 2;
 184     case ARM_AM::ror:
 185     case ARM_AM::rrx: return 3;
 186     }
 187     return 0;
 188   }
 189
 190   /// getAddrMode2OpValue - Return encoding for addrmode2 operands.
 191   uint32_t getAddrMode2OpValue(const MCInst &MI, unsigned OpIdx,
 192                                SmallVectorImpl<MCFixup> &Fixups) const;
 193
 194   /// getAddrMode2OffsetOpValue - Return encoding for am2offset operands.
 195   uint32_t getAddrMode2OffsetOpValue(const MCInst &MI, unsigned OpIdx,
 196                                      SmallVectorImpl<MCFixup> &Fixups) const;
 197
 198   /// getPostIdxRegOpValue - Return encoding for postidx_reg operands.
 199   uint32_t getPostIdxRegOpValue(const MCInst &MI, unsigned OpIdx,
 200                                 SmallVectorImpl<MCFixup> &Fixups) const;
 201
 202   /// getAddrMode3OffsetOpValue - Return encoding for am3offset operands.
 203   uint32_t getAddrMode3OffsetOpValue(const MCInst &MI, unsigned OpIdx,
 204                                      SmallVectorImpl<MCFixup> &Fixups) const;
 205
 206   /// getAddrMode3OpValue - Return encoding for addrmode3 operands.
 207   uint32_t getAddrMode3OpValue(const MCInst &MI, unsigned OpIdx,
 208                                SmallVectorImpl<MCFixup> &Fixups) const;
 209
 210   /// getAddrModeThumbSPOpValue - Return encoding info for 'reg +/- imm12'
 211   /// operand.
 212   uint32_t getAddrModeThumbSPOpValue(const MCInst &MI, unsigned OpIdx,
 213                                      SmallVectorImpl<MCFixup> &Fixups) const;
 214
 215   /// getAddrModeISOpValue - Encode the t_addrmode_is# operands.
 216   uint32_t getAddrModeISOpValue(const MCInst &MI, unsigned OpIdx,
 217                                 SmallVectorImpl<MCFixup> &Fixups) const;
 218
 219   /// getAddrModePCOpValue - Return encoding for t_addrmode_pc operands.
 220   uint32_t getAddrModePCOpValue(const MCInst &MI, unsigned OpIdx,
 221                                 SmallVectorImpl<MCFixup> &Fixups) const;
 222
 223   /// getAddrMode5OpValue - Return encoding info for 'reg +/- imm8' operand.
 224   uint32_t getAddrMode5OpValue(const MCInst &MI, unsigned OpIdx,
 225                                SmallVectorImpl<MCFixup> &Fixups) const;
 226
 227   /// getCCOutOpValue - Return encoding of the 's' bit.
 228   unsigned getCCOutOpValue(const MCInst &MI, unsigned Op,
 229                            SmallVectorImpl<MCFixup> &Fixups) const {
 230     // The operand is either reg0 or CPSR. The 's' bit is encoded as '0' or
 231     // '1' respectively.
 232     return MI.getOperand(Op).getReg() == ARM::CPSR;
 233   }
 234
 235   /// getSOImmOpValue - Return an encoded 12-bit shifted-immediate value.
 236   unsigned getSOImmOpValue(const MCInst &MI, unsigned Op,
 237                            SmallVectorImpl<MCFixup> &Fixups) const {
 238     unsigned SoImm = MI.getOperand(Op).getImm();
 239     int SoImmVal = ARM_AM::getSOImmVal(SoImm);
 240     assert(SoImmVal != -1 && "Not a valid so_imm value!");
 241
 242     // Encode rotate_imm.
 243     unsigned Binary = (ARM_AM::getSOImmValRot((unsigned)SoImmVal) >> 1)
 244       << ARMII::SoRotImmShift;
 245
 246     // Encode immed_8.
 247     Binary |= ARM_AM::getSOImmValImm((unsigned)SoImmVal);
 248     return Binary;
 249   }
 250
 251   /// getT2SOImmOpValue - Return an encoded 12-bit shifted-immediate value.
 252   unsigned getT2SOImmOpValue(const MCInst &MI, unsigned Op,
 253                            SmallVectorImpl<MCFixup> &Fixups) const {
 254     unsigned SoImm = MI.getOperand(Op).getImm();
 255     unsigned Encoded =  ARM_AM::getT2SOImmVal(SoImm);
 256     assert(Encoded != ~0U && "Not a Thumb2 so_imm value?");
 257     return Encoded;
 258   }
 259
 260   unsigned getT2AddrModeSORegOpValue(const MCInst &MI, unsigned OpNum,
 261     SmallVectorImpl<MCFixup> &Fixups) const;
 262   unsigned getT2AddrModeImm8OpValue(const MCInst &MI, unsigned OpNum,
 263     SmallVectorImpl<MCFixup> &Fixups) const;
 264   unsigned getT2AddrModeImm8OffsetOpValue(const MCInst &MI, unsigned OpNum,
 265     SmallVectorImpl<MCFixup> &Fixups) const;
 266   unsigned getT2AddrModeImm12OffsetOpValue(const MCInst &MI, unsigned OpNum,
 267     SmallVectorImpl<MCFixup> &Fixups) const;
 268
 269   /// getSORegOpValue - Return an encoded so_reg shifted register value.
 270   unsigned getSORegRegOpValue(const MCInst &MI, unsigned Op,
 271                            SmallVectorImpl<MCFixup> &Fixups) const;
 272   unsigned getSORegImmOpValue(const MCInst &MI, unsigned Op,
 273                            SmallVectorImpl<MCFixup> &Fixups) const;
 274   unsigned getT2SORegOpValue(const MCInst &MI, unsigned Op,
 275                              SmallVectorImpl<MCFixup> &Fixups) const;
 276
 277   unsigned getNEONVcvtImm32OpValue(const MCInst &MI, unsigned Op,
 278                                    SmallVectorImpl<MCFixup> &Fixups) const {
 279     return 64 - MI.getOperand(Op).getImm();
 280   }
 281
 282   unsigned getBitfieldInvertedMaskOpValue(const MCInst &MI, unsigned Op,
 283                                       SmallVectorImpl<MCFixup> &Fixups) const;
 284
 285   unsigned getRegisterListOpValue(const MCInst &MI, unsigned Op,
 286                                   SmallVectorImpl<MCFixup> &Fixups) const;
 287   unsigned getAddrMode6AddressOpValue(const MCInst &MI, unsigned Op,
 288                                       SmallVectorImpl<MCFixup> &Fixups) const;
 289   unsigned getAddrMode6OneLane32AddressOpValue(const MCInst &MI, unsigned Op,
 290                                         SmallVectorImpl<MCFixup> &Fixups) const;
 291   unsigned getAddrMode6DupAddressOpValue(const MCInst &MI, unsigned Op,
 292                                         SmallVectorImpl<MCFixup> &Fixups) const;
 293   unsigned getAddrMode6OffsetOpValue(const MCInst &MI, unsigned Op,
 294                                      SmallVectorImpl<MCFixup> &Fixups) const;
 295
 296   unsigned getShiftRight8Imm(const MCInst &MI, unsigned Op,
 297                              SmallVectorImpl<MCFixup> &Fixups) const;
 298   unsigned getShiftRight16Imm(const MCInst &MI, unsigned Op,
 299                               SmallVectorImpl<MCFixup> &Fixups) const;
 300   unsigned getShiftRight32Imm(const MCInst &MI, unsigned Op,
 301                               SmallVectorImpl<MCFixup> &Fixups) const;
 302   unsigned getShiftRight64Imm(const MCInst &MI, unsigned Op,
 303                               SmallVectorImpl<MCFixup> &Fixups) const;
 304
 305   unsigned getThumbSRImmOpValue(const MCInst &MI, unsigned Op,
 306                                  SmallVectorImpl<MCFixup> &Fixups) const;
 307
 308   unsigned NEONThumb2DataIPostEncoder(const MCInst &MI,
 309                                       unsigned EncodedValue) const;
 310   unsigned NEONThumb2LoadStorePostEncoder(const MCInst &MI,
 311                                           unsigned EncodedValue) const;
 312   unsigned NEONThumb2DupPostEncoder(const MCInst &MI,
 313                                     unsigned EncodedValue) const;
 314
 315   unsigned VFPThumb2PostEncoder(const MCInst &MI,
 316                                 unsigned EncodedValue) const;
 317
 318   void EmitByte(unsigned char C, raw_ostream &OS) const {
 319     OS << (char)C;
 320   }
 321
 322   void EmitConstant(uint64_t Val, unsigned Size, raw_ostream &OS) const {
 323     // Output the constant in little endian byte order.
 324     for (unsigned i = 0; i != Size; ++i) {
 325       EmitByte(Val & 255, OS);
 326       Val >>= 8;
 327     }
 328   }
 329
 330   void EncodeInstruction(const MCInst &MI, raw_ostream &OS,
 331                          SmallVectorImpl<MCFixup> &Fixups) const;
 332 };
 333
 334 } // end anonymous namespace
 335
 336 MCCodeEmitter *llvm::createARMMCCodeEmitter(const MCInstrInfo &MCII,
 337                                             const MCSubtargetInfo &STI,
 338                                             MCContext &Ctx) {
 339   return new ARMMCCodeEmitter(MCII, STI, Ctx);
 340 }
 341
 342 /// NEONThumb2DataIPostEncoder - Post-process encoded NEON data-processing
 343 /// instructions, and rewrite them to their Thumb2 form if we are currently in
 344 /// Thumb2 mode.
 345 unsigned ARMMCCodeEmitter::NEONThumb2DataIPostEncoder(const MCInst &MI,
 346                                                  unsigned EncodedValue) const {
 347   if (isThumb2()) {
 348     // NEON Thumb2 data-processsing encodings are very simple: bit 24 is moved
 349     // to bit 12 of the high half-word (i.e. bit 28), and bits 27-24 are
 350     // set to 1111.
 351     unsigned Bit24 = EncodedValue & 0x01000000;
 352     unsigned Bit28 = Bit24 << 4;
 353     EncodedValue &= 0xEFFFFFFF;
 354     EncodedValue |= Bit28;
 355     EncodedValue |= 0x0F000000;
 356   }
 357
 358   return EncodedValue;
 359 }
 360
 361 /// NEONThumb2LoadStorePostEncoder - Post-process encoded NEON load/store
 362 /// instructions, and rewrite them to their Thumb2 form if we are currently in
 363 /// Thumb2 mode.
 364 unsigned ARMMCCodeEmitter::NEONThumb2LoadStorePostEncoder(const MCInst &MI,
 365                                                  unsigned EncodedValue) const {
 366   if (isThumb2()) {
 367     EncodedValue &= 0xF0FFFFFF;
 368     EncodedValue |= 0x09000000;
 369   }
 370
 371   return EncodedValue;
 372 }
 373
 374 /// NEONThumb2DupPostEncoder - Post-process encoded NEON vdup
 375 /// instructions, and rewrite them to their Thumb2 form if we are currently in
 376 /// Thumb2 mode.
 377 unsigned ARMMCCodeEmitter::NEONThumb2DupPostEncoder(const MCInst &MI,
 378                                                  unsigned EncodedValue) const {
 379   if (isThumb2()) {
 380     EncodedValue &= 0x00FFFFFF;
 381     EncodedValue |= 0xEE000000;
 382   }
 383
 384   return EncodedValue;
 385 }
 386
 387 /// VFPThumb2PostEncoder - Post-process encoded VFP instructions and rewrite
 388 /// them to their Thumb2 form if we are currently in Thumb2 mode.
 389 unsigned ARMMCCodeEmitter::
 390 VFPThumb2PostEncoder(const MCInst &MI, unsigned EncodedValue) const {
 391   if (isThumb2()) {
 392     EncodedValue &= 0x0FFFFFFF;
 393     EncodedValue |= 0xE0000000;
 394   }
 395   return EncodedValue;
 396 }
 397
 398 /// getMachineOpValue - Return binary encoding of operand. If the machine
 399 /// operand requires relocation, record the relocation and return zero.
 400 unsigned ARMMCCodeEmitter::
 401 getMachineOpValue(const MCInst &MI, const MCOperand &MO,
 402                   SmallVectorImpl<MCFixup> &Fixups) const {
 403   if (MO.isReg()) {
 404     unsigned Reg = MO.getReg();
 405     unsigned RegNo = getARMRegisterNumbering(Reg);
 406
 407     // Q registers are encoded as 2x their register number.
 408     switch (Reg) {
 409     default:
 410       return RegNo;
 411     case ARM::Q0:  case ARM::Q1:  case ARM::Q2:  case ARM::Q3:
 412     case ARM::Q4:  case ARM::Q5:  case ARM::Q6:  case ARM::Q7:
 413     case ARM::Q8:  case ARM::Q9:  case ARM::Q10: case ARM::Q11:
 414     case ARM::Q12: case ARM::Q13: case ARM::Q14: case ARM::Q15:
 415       return 2 * RegNo;
 416     }
 417   } else if (MO.isImm()) {
 418     return static_cast<unsigned>(MO.getImm());
 419   } else if (MO.isFPImm()) {
 420     return static_cast<unsigned>(APFloat(MO.getFPImm())
 421                      .bitcastToAPInt().getHiBits(32).getLimitedValue());
 422   }
 423
 424   llvm_unreachable("Unable to encode MCOperand!");
 425   return 0;
 426 }
 427
 428 /// getAddrModeImmOpValue - Return encoding info for 'reg +/- imm' operand.
 429 bool ARMMCCodeEmitter::
 430 EncodeAddrModeOpValues(const MCInst &MI, unsigned OpIdx, unsigned &Reg,
 431                        unsigned &Imm, SmallVectorImpl<MCFixup> &Fixups) const {
 432   const MCOperand &MO  = MI.getOperand(OpIdx);
 433   const MCOperand &MO1 = MI.getOperand(OpIdx + 1);
 434
 435   Reg = getARMRegisterNumbering(MO.getReg());
 436
 437   int32_t SImm = MO1.getImm();
 438   bool isAdd = true;
 439
 440   // Special value for #-0
 441   if (SImm == INT32_MIN) {
 442     SImm = 0;
 443     isAdd = false;
 444   }
 445
 446   // Immediate is always encoded as positive. The 'U' bit controls add vs sub.
 447   if (SImm < 0) {
 448     SImm = -SImm;
 449     isAdd = false;
 450   }
 451
 452   Imm = SImm;
 453   return isAdd;
 454 }
 455
 456 /// getBranchTargetOpValue - Helper function to get the branch target operand,
 457 /// which is either an immediate or requires a fixup.
 458 static uint32_t getBranchTargetOpValue(const MCInst &MI, unsigned OpIdx,
 459                                        unsigned FixupKind,
 460                                        SmallVectorImpl<MCFixup> &Fixups) {
 461   const MCOperand &MO = MI.getOperand(OpIdx);
 462
 463   // If the destination is an immediate, we have nothing to do.
 464   if (MO.isImm()) return MO.getImm();
 465   assert(MO.isExpr() && "Unexpected branch target type!");
 466   const MCExpr *Expr = MO.getExpr();
 467   MCFixupKind Kind = MCFixupKind(FixupKind);
 468   Fixups.push_back(MCFixup::Create(0, Expr, Kind));
 469
 470   // All of the information is in the fixup.
 471   return 0;
 472 }
 473
 474 // Thumb BL and BLX use a strange offset encoding where bits 22 and 21 are
 475 // determined by negating them and XOR'ing them with bit 23.
 476 static int32_t encodeThumbBLOffset(int32_t offset) {
 477   offset >>= 1;
 478   uint32_t S  = (offset & 0x800000) >> 23;
 479   uint32_t J1 = (offset & 0x400000) >> 22;
 480   uint32_t J2 = (offset & 0x200000) >> 21;
 481   J1 = (~J1 & 0x1);
 482   J2 = (~J2 & 0x1);
 483   J1 ^= S;
 484   J2 ^= S;
 485
 486   offset &= ~0x600000;
 487   offset |= J1 << 22;
 488   offset |= J2 << 21;
 489
 490   return offset;
 491 }
 492
 493 /// getThumbBLTargetOpValue - Return encoding info for immediate branch target.
 494 uint32_t ARMMCCodeEmitter::
 495 getThumbBLTargetOpValue(const MCInst &MI, unsigned OpIdx,
 496                         SmallVectorImpl<MCFixup> &Fixups) const {
 497   const MCOperand MO = MI.getOperand(OpIdx);
 498   if (MO.isExpr())
 499     return ::getBranchTargetOpValue(MI, OpIdx, ARM::fixup_arm_thumb_bl,
 500                                     Fixups);
 501   return encodeThumbBLOffset(MO.getImm());
 502 }
 503
 504 /// getThumbBLXTargetOpValue - Return encoding info for Thumb immediate
 505 /// BLX branch target.
 506 uint32_t ARMMCCodeEmitter::
 507 getThumbBLXTargetOpValue(const MCInst &MI, unsigned OpIdx,
 508                          SmallVectorImpl<MCFixup> &Fixups) const {
 509   const MCOperand MO = MI.getOperand(OpIdx);
 510   if (MO.isExpr())
 511     return ::getBranchTargetOpValue(MI, OpIdx, ARM::fixup_arm_thumb_blx,
 512                                     Fixups);
 513   return encodeThumbBLOffset(MO.getImm());
 514 }
 515
 516 /// getThumbBRTargetOpValue - Return encoding info for Thumb branch target.
 517 uint32_t ARMMCCodeEmitter::
 518 getThumbBRTargetOpValue(const MCInst &MI, unsigned OpIdx,
 519                         SmallVectorImpl<MCFixup> &Fixups) const {
 520   const MCOperand MO = MI.getOperand(OpIdx);
 521   if (MO.isExpr())
 522     return ::getBranchTargetOpValue(MI, OpIdx, ARM::fixup_arm_thumb_br,
 523                                     Fixups);
 524   return (MO.getImm() >> 1);
 525 }
 526
 527 /// getThumbBCCTargetOpValue - Return encoding info for Thumb branch target.
 528 uint32_t ARMMCCodeEmitter::
 529 getThumbBCCTargetOpValue(const MCInst &MI, unsigned OpIdx,
 530                          SmallVectorImpl<MCFixup> &Fixups) const {
 531   const MCOperand MO = MI.getOperand(OpIdx);
 532   if (MO.isExpr())
 533     return ::getBranchTargetOpValue(MI, OpIdx, ARM::fixup_arm_thumb_bcc,
 534                                     Fixups);
 535   return (MO.getImm() >> 1);
 536 }
 537
 538 /// getThumbCBTargetOpValue - Return encoding info for Thumb branch target.
 539 uint32_t ARMMCCodeEmitter::
 540 getThumbCBTargetOpValue(const MCInst &MI, unsigned OpIdx,
 541                         SmallVectorImpl<MCFixup> &Fixups) const {
 542   const MCOperand MO = MI.getOperand(OpIdx);
 543   if (MO.isExpr())
 544     return ::getBranchTargetOpValue(MI, OpIdx, ARM::fixup_arm_thumb_cb, Fixups);
 545   return (MO.getImm() >> 1);
 546 }
 547
 548 /// Return true if this branch has a non-always predication
 549 static bool HasConditionalBranch(const MCInst &MI) {
 550   int NumOp = MI.getNumOperands();
 551   if (NumOp >= 2) {
 552     for (int i = 0; i < NumOp-1; ++i) {
 553       const MCOperand &MCOp1 = MI.getOperand(i);
 554       const MCOperand &MCOp2 = MI.getOperand(i + 1);
 555       if (MCOp1.isImm() && MCOp2.isReg() &&
 556           (MCOp2.getReg() == 0 || MCOp2.getReg() == ARM::CPSR)) {
 557         if (ARMCC::CondCodes(MCOp1.getImm()) != ARMCC::AL)
 558           return true;
 559       }
 560     }
 561   }
 562   return false;
 563 }
 564
 565 /// getBranchTargetOpValue - Return encoding info for 24-bit immediate branch
 566 /// target.
 567 uint32_t ARMMCCodeEmitter::
 568 getBranchTargetOpValue(const MCInst &MI, unsigned OpIdx,
 569                        SmallVectorImpl<MCFixup> &Fixups) const {
 570   // FIXME: This really, really shouldn't use TargetMachine. We don't want
 571   // coupling between MC and TM anywhere we can help it.
 572   if (isThumb2())
 573     return
 574       ::getBranchTargetOpValue(MI, OpIdx, ARM::fixup_t2_condbranch, Fixups);
 575   return getARMBranchTargetOpValue(MI, OpIdx, Fixups);
 576 }
 577
 578 /// getBranchTargetOpValue - Return encoding info for 24-bit immediate branch
 579 /// target.
 580 uint32_t ARMMCCodeEmitter::
 581 getARMBranchTargetOpValue(const MCInst &MI, unsigned OpIdx,
 582                           SmallVectorImpl<MCFixup> &Fixups) const {
 583   const MCOperand MO = MI.getOperand(OpIdx);
 584   if (MO.isExpr()) {
 585     if (HasConditionalBranch(MI))
 586       return ::getBranchTargetOpValue(MI, OpIdx,
 587                                       ARM::fixup_arm_condbranch, Fixups);
 588     return ::getBranchTargetOpValue(MI, OpIdx,
 589                                     ARM::fixup_arm_uncondbranch, Fixups);
 590   }
 591
 592   return MO.getImm() >> 2;
 593 }
 594
 595 uint32_t ARMMCCodeEmitter::
 596 getARMBLXTargetOpValue(const MCInst &MI, unsigned OpIdx,
 597                           SmallVectorImpl<MCFixup> &Fixups) const {
 598   const MCOperand MO = MI.getOperand(OpIdx);
 599   if (MO.isExpr()) {
 600     if (HasConditionalBranch(MI))
 601       return ::getBranchTargetOpValue(MI, OpIdx,
 602                                       ARM::fixup_arm_condbranch, Fixups);
 603     return ::getBranchTargetOpValue(MI, OpIdx,
 604                                     ARM::fixup_arm_uncondbranch, Fixups);
 605   }
 606
 607   return MO.getImm() >> 1;
 608 }
 609
 610 /// getUnconditionalBranchTargetOpValue - Return encoding info for 24-bit
 611 /// immediate branch target.
 612 uint32_t ARMMCCodeEmitter::
 613 getUnconditionalBranchTargetOpValue(const MCInst &MI, unsigned OpIdx,
 614                        SmallVectorImpl<MCFixup> &Fixups) const {
 615   unsigned Val =
 616     ::getBranchTargetOpValue(MI, OpIdx, ARM::fixup_t2_uncondbranch, Fixups);
 617   bool I  = (Val & 0x800000);
 618   bool J1 = (Val & 0x400000);
 619   bool J2 = (Val & 0x200000);
 620   if (I ^ J1)
 621     Val &= ~0x400000;
 622   else
 623     Val |= 0x400000;
 624
 625   if (I ^ J2)
 626     Val &= ~0x200000;
 627   else
 628     Val |= 0x200000;
 629
 630   return Val;
 631 }
 632
 633 /// getAdrLabelOpValue - Return encoding info for 12-bit immediate ADR label
 634 /// target.
 635 uint32_t ARMMCCodeEmitter::
 636 getAdrLabelOpValue(const MCInst &MI, unsigned OpIdx,
 637                    SmallVectorImpl<MCFixup> &Fixups) const {
 638   const MCOperand MO = MI.getOperand(OpIdx);
 639   if (MO.isExpr())
 640     return ::getBranchTargetOpValue(MI, OpIdx, ARM::fixup_arm_adr_pcrel_12,
 641                                     Fixups);
 642   int32_t offset = MO.getImm();
 643   uint32_t Val = 0x2000;
 644   if (offset < 0) {
 645     Val = 0x1000;
 646     offset *= -1;
 647   }
 648   Val |= offset;
 649   return Val;
 650 }
 651
 652 /// getAdrLabelOpValue - Return encoding info for 12-bit immediate ADR label
 653 /// target.
 654 uint32_t ARMMCCodeEmitter::
 655 getT2AdrLabelOpValue(const MCInst &MI, unsigned OpIdx,
 656                    SmallVectorImpl<MCFixup> &Fixups) const {
 657   const MCOperand MO = MI.getOperand(OpIdx);
 658   if (MO.isExpr())
 659     return ::getBranchTargetOpValue(MI, OpIdx, ARM::fixup_t2_adr_pcrel_12,
 660                                     Fixups);
 661   int32_t Val = MO.getImm();
 662   if (Val < 0) {
 663     Val *= -1;
 664     Val |= 0x1000;
 665   }
 666   return Val;
 667 }
 668
 669 /// getAdrLabelOpValue - Return encoding info for 8-bit immediate ADR label
 670 /// target.
 671 uint32_t ARMMCCodeEmitter::
 672 getThumbAdrLabelOpValue(const MCInst &MI, unsigned OpIdx,
 673                    SmallVectorImpl<MCFixup> &Fixups) const {
 674   const MCOperand MO = MI.getOperand(OpIdx);
 675   if (MO.isExpr())
 676     return ::getBranchTargetOpValue(MI, OpIdx, ARM::fixup_thumb_adr_pcrel_10,
 677                                     Fixups);
 678   return MO.getImm();
 679 }
 680
 681 /// getThumbAddrModeRegRegOpValue - Return encoding info for 'reg + reg'
 682 /// operand.
 683 uint32_t ARMMCCodeEmitter::
 684 getThumbAddrModeRegRegOpValue(const MCInst &MI, unsigned OpIdx,
 685                               SmallVectorImpl<MCFixup> &) const {
 686   // [Rn, Rm]
 687   //   {5-3} = Rm
 688   //   {2-0} = Rn
 689   const MCOperand &MO1 = MI.getOperand(OpIdx);
 690   const MCOperand &MO2 = MI.getOperand(OpIdx + 1);
 691   unsigned Rn = getARMRegisterNumbering(MO1.getReg());
 692   unsigned Rm = getARMRegisterNumbering(MO2.getReg());
 693   return (Rm << 3) | Rn;
 694 }
 695
 696 /// getAddrModeImm12OpValue - Return encoding info for 'reg +/- imm12' operand.
 697 uint32_t ARMMCCodeEmitter::
 698 getAddrModeImm12OpValue(const MCInst &MI, unsigned OpIdx,
 699                         SmallVectorImpl<MCFixup> &Fixups) const {
 700   // {17-13} = reg
 701   // {12}    = (U)nsigned (add == '1', sub == '0')
 702   // {11-0}  = imm12
 703   unsigned Reg, Imm12;
 704   bool isAdd = true;
 705   // If The first operand isn't a register, we have a label reference.
 706   const MCOperand &MO = MI.getOperand(OpIdx);
 707   if (!MO.isReg()) {
 708     Reg = getARMRegisterNumbering(ARM::PC);   // Rn is PC.
 709     Imm12 = 0;
 710     isAdd = false ; // 'U' bit is set as part of the fixup.
 711
 712     if (MO.isExpr()) {
 713       const MCExpr *Expr = MO.getExpr();
 714
 715       MCFixupKind Kind;
 716       if (isThumb2())
 717         Kind = MCFixupKind(ARM::fixup_t2_ldst_pcrel_12);
 718       else
 719         Kind = MCFixupKind(ARM::fixup_arm_ldst_pcrel_12);
 720       Fixups.push_back(MCFixup::Create(0, Expr, Kind));
 721
 722       ++MCNumCPRelocations;
 723     } else {
 724       Reg = ARM::PC;
 725       int32_t Offset = MO.getImm();
 726       // FIXME: Handle #-0.
 727       if (Offset < 0) {
 728         Offset *= -1;
 729         isAdd = false;
 730       }
 731       Imm12 = Offset;
 732     }
 733   } else
 734     isAdd = EncodeAddrModeOpValues(MI, OpIdx, Reg, Imm12, Fixups);
 735
 736   uint32_t Binary = Imm12 & 0xfff;
 737   // Immediate is always encoded as positive. The 'U' bit controls add vs sub.
 738   if (isAdd)
 739     Binary |= (1 << 12);
 740   Binary |= (Reg << 13);
 741   return Binary;
 742 }
 743
 744 /// getT2Imm8s4OpValue - Return encoding info for
 745 /// '+/- imm8<<2' operand.
 746 uint32_t ARMMCCodeEmitter::
 747 getT2Imm8s4OpValue(const MCInst &MI, unsigned OpIdx,
 748                    SmallVectorImpl<MCFixup> &Fixups) const {
 749   // FIXME: The immediate operand should have already been encoded like this
 750   // before ever getting here. The encoder method should just need to combine
 751   // the MI operands for the register and the offset into a single
 752   // representation for the complex operand in the .td file. This isn't just
 753   // style, unfortunately. As-is, we can't represent the distinct encoding
 754   // for #-0.
 755
 756   // {8}    = (U)nsigned (add == '1', sub == '0')
 757   // {7-0}  = imm8
 758   int32_t Imm8 = MI.getOperand(OpIdx).getImm();
 759   bool isAdd = Imm8 >= 0;
 760
 761   // Immediate is always encoded as positive. The 'U' bit controls add vs sub.
 762   if (Imm8 < 0)
 763     Imm8 = -Imm8;
 764
 765   // Scaled by 4.
 766   Imm8 /= 4;
 767
 768   uint32_t Binary = Imm8 & 0xff;
 769   // Immediate is always encoded as positive. The 'U' bit controls add vs sub.
 770   if (isAdd)
 771     Binary |= (1 << 8);
 772   return Binary;
 773 }
 774
 775 /// getT2AddrModeImm8s4OpValue - Return encoding info for
 776 /// 'reg +/- imm8<<2' operand.
 777 uint32_t ARMMCCodeEmitter::
 778 getT2AddrModeImm8s4OpValue(const MCInst &MI, unsigned OpIdx,
 779                         SmallVectorImpl<MCFixup> &Fixups) const {
 780   // {12-9} = reg
 781   // {8}    = (U)nsigned (add == '1', sub == '0')
 782   // {7-0}  = imm8
 783   unsigned Reg, Imm8;
 784   bool isAdd = true;
 785   // If The first operand isn't a register, we have a label reference.
 786   const MCOperand &MO = MI.getOperand(OpIdx);
 787   if (!MO.isReg()) {
 788     Reg = getARMRegisterNumbering(ARM::PC);   // Rn is PC.
 789     Imm8 = 0;
 790     isAdd = false ; // 'U' bit is set as part of the fixup.
 791
 792     assert(MO.isExpr() && "Unexpected machine operand type!");
 793     const MCExpr *Expr = MO.getExpr();
 794     MCFixupKind Kind = MCFixupKind(ARM::fixup_t2_pcrel_10);
 795     Fixups.push_back(MCFixup::Create(0, Expr, Kind));
 796
 797     ++MCNumCPRelocations;
 798   } else
 799     isAdd = EncodeAddrModeOpValues(MI, OpIdx, Reg, Imm8, Fixups);
 800
 801   // FIXME: The immediate operand should have already been encoded like this
 802   // before ever getting here. The encoder method should just need to combine
 803   // the MI operands for the register and the offset into a single
 804   // representation for the complex operand in the .td file. This isn't just
 805   // style, unfortunately. As-is, we can't represent the distinct encoding
 806   // for #-0.
 807   uint32_t Binary = (Imm8 >> 2) & 0xff;
 808   // Immediate is always encoded as positive. The 'U' bit controls add vs sub.
 809   if (isAdd)
 810     Binary |= (1 << 8);
 811   Binary |= (Reg << 9);
 812   return Binary;
 813 }
 814
 815 /// getT2AddrModeImm0_1020s4OpValue - Return encoding info for
 816 /// 'reg + imm8<<2' operand.
 817 uint32_t ARMMCCodeEmitter::
 818 getT2AddrModeImm0_1020s4OpValue(const MCInst &MI, unsigned OpIdx,
 819                         SmallVectorImpl<MCFixup> &Fixups) const {
 820   // {11-8} = reg
 821   // {7-0}  = imm8
 822   const MCOperand &MO = MI.getOperand(OpIdx);
 823   const MCOperand &MO1 = MI.getOperand(OpIdx + 1);
 824   unsigned Reg = getARMRegisterNumbering(MO.getReg());
 825   unsigned Imm8 = MO1.getImm();
 826   return (Reg << 8) | Imm8;
 827 }
 828
 829 // FIXME: This routine assumes that a binary
 830 // expression will always result in a PCRel expression
 831 // In reality, its only true if one or more subexpressions
 832 // is itself a PCRel (i.e. "." in asm or some other pcrel construct)
 833 // but this is good enough for now.
 834 static bool EvaluateAsPCRel(const MCExpr *Expr) {
 835   switch (Expr->getKind()) {
 836   default: assert(0 && "Unexpected expression type");
 837   case MCExpr::SymbolRef: return false;
 838   case MCExpr::Binary: return true;
 839   }
 840 }
 841
 842 uint32_t
 843 ARMMCCodeEmitter::getHiLo16ImmOpValue(const MCInst &MI, unsigned OpIdx,
 844                                       SmallVectorImpl<MCFixup> &Fixups) const {
 845   // {20-16} = imm{15-12}
 846   // {11-0}  = imm{11-0}
 847   const MCOperand &MO = MI.getOperand(OpIdx);
 848   if (MO.isImm())
 849     // Hi / lo 16 bits already extracted during earlier passes.
 850     return static_cast<unsigned>(MO.getImm());
 851
 852   // Handle :upper16: and :lower16: assembly prefixes.
 853   const MCExpr *E = MO.getExpr();
 854   if (E->getKind() == MCExpr::Target) {
 855     const ARMMCExpr *ARM16Expr = cast<ARMMCExpr>(E);
 856     E = ARM16Expr->getSubExpr();
 857
 858     MCFixupKind Kind;
 859     switch (ARM16Expr->getKind()) {
 860     default: assert(0 && "Unsupported ARMFixup");
 861     case ARMMCExpr::VK_ARM_HI16:
 862       if (!isTargetDarwin() && EvaluateAsPCRel(E))
 863         Kind = MCFixupKind(isThumb2()
 864                            ? ARM::fixup_t2_movt_hi16_pcrel
 865                            : ARM::fixup_arm_movt_hi16_pcrel);
 866       else
 867         Kind = MCFixupKind(isThumb2()
 868                            ? ARM::fixup_t2_movt_hi16
 869                            : ARM::fixup_arm_movt_hi16);
 870       break;
 871     case ARMMCExpr::VK_ARM_LO16:
 872       if (!isTargetDarwin() && EvaluateAsPCRel(E))
 873         Kind = MCFixupKind(isThumb2()
 874                            ? ARM::fixup_t2_movw_lo16_pcrel
 875                            : ARM::fixup_arm_movw_lo16_pcrel);
 876       else
 877         Kind = MCFixupKind(isThumb2()
 878                            ? ARM::fixup_t2_movw_lo16
 879                            : ARM::fixup_arm_movw_lo16);
 880       break;
 881     }
 882     Fixups.push_back(MCFixup::Create(0, E, Kind));
 883     return 0;
 884   };
 885
 886   llvm_unreachable("Unsupported MCExpr type in MCOperand!");
 887   return 0;
 888 }
 889
 890 uint32_t ARMMCCodeEmitter::
 891 getLdStSORegOpValue(const MCInst &MI, unsigned OpIdx,
 892                     SmallVectorImpl<MCFixup> &Fixups) const {
 893   const MCOperand &MO = MI.getOperand(OpIdx);
 894   const MCOperand &MO1 = MI.getOperand(OpIdx+1);
 895   const MCOperand &MO2 = MI.getOperand(OpIdx+2);
 896   unsigned Rn = getARMRegisterNumbering(MO.getReg());
 897   unsigned Rm = getARMRegisterNumbering(MO1.getReg());
 898   unsigned ShImm = ARM_AM::getAM2Offset(MO2.getImm());
 899   bool isAdd = ARM_AM::getAM2Op(MO2.getImm()) == ARM_AM::add;
 900   ARM_AM::ShiftOpc ShOp = ARM_AM::getAM2ShiftOpc(MO2.getImm());
 901   unsigned SBits = getShiftOp(ShOp);
 902
 903   // {16-13} = Rn
 904   // {12}    = isAdd
 905   // {11-0}  = shifter
 906   //  {3-0}  = Rm
 907   //  {4}    = 0
 908   //  {6-5}  = type
 909   //  {11-7} = imm
 910   uint32_t Binary = Rm;
 911   Binary |= Rn << 13;
 912   Binary |= SBits << 5;
 913   Binary |= ShImm << 7;
 914   if (isAdd)
 915     Binary |= 1 << 12;
 916   return Binary;
 917 }
 918
 919 uint32_t ARMMCCodeEmitter::
 920 getAddrMode2OpValue(const MCInst &MI, unsigned OpIdx,
 921                     SmallVectorImpl<MCFixup> &Fixups) const {
 922   // {17-14}  Rn
 923   // {13}     1 == imm12, 0 == Rm
 924   // {12}     isAdd
 925   // {11-0}   imm12/Rm
 926   const MCOperand &MO = MI.getOperand(OpIdx);
 927   unsigned Rn = getARMRegisterNumbering(MO.getReg());
 928   uint32_t Binary = getAddrMode2OffsetOpValue(MI, OpIdx + 1, Fixups);
 929   Binary |= Rn << 14;
 930   return Binary;
 931 }
 932
 933 uint32_t ARMMCCodeEmitter::
 934 getAddrMode2OffsetOpValue(const MCInst &MI, unsigned OpIdx,
 935                           SmallVectorImpl<MCFixup> &Fixups) const {
 936   // {13}     1 == imm12, 0 == Rm
 937   // {12}     isAdd
 938   // {11-0}   imm12/Rm
 939   const MCOperand &MO = MI.getOperand(OpIdx);
 940   const MCOperand &MO1 = MI.getOperand(OpIdx+1);
 941   unsigned Imm = MO1.getImm();
 942   bool isAdd = ARM_AM::getAM2Op(Imm) == ARM_AM::add;
 943   bool isReg = MO.getReg() != 0;
 944   uint32_t Binary = ARM_AM::getAM2Offset(Imm);
 945   // if reg +/- reg, Rm will be non-zero. Otherwise, we have reg +/- imm12
 946   if (isReg) {
 947     ARM_AM::ShiftOpc ShOp = ARM_AM::getAM2ShiftOpc(Imm);
 948     Binary <<= 7;                    // Shift amount is bits [11:7]
 949     Binary |= getShiftOp(ShOp) << 5; // Shift type is bits [6:5]
 950     Binary |= getARMRegisterNumbering(MO.getReg()); // Rm is bits [3:0]
 951   }
 952   return Binary | (isAdd << 12) | (isReg << 13);
 953 }
 954
 955 uint32_t ARMMCCodeEmitter::
 956 getPostIdxRegOpValue(const MCInst &MI, unsigned OpIdx,
 957                      SmallVectorImpl<MCFixup> &Fixups) const {
 958   // {4}      isAdd
 959   // {3-0}    Rm
 960   const MCOperand &MO = MI.getOperand(OpIdx);
 961   const MCOperand &MO1 = MI.getOperand(OpIdx+1);
 962   bool isAdd = MO1.getImm() != 0;
 963   return getARMRegisterNumbering(MO.getReg()) | (isAdd << 4);
 964 }
 965
 966 uint32_t ARMMCCodeEmitter::
 967 getAddrMode3OffsetOpValue(const MCInst &MI, unsigned OpIdx,
 968                           SmallVectorImpl<MCFixup> &Fixups) const {
 969   // {9}      1 == imm8, 0 == Rm
 970   // {8}      isAdd
 971   // {7-4}    imm7_4/zero
 972   // {3-0}    imm3_0/Rm
 973   const MCOperand &MO = MI.getOperand(OpIdx);
 974   const MCOperand &MO1 = MI.getOperand(OpIdx+1);
 975   unsigned Imm = MO1.getImm();
 976   bool isAdd = ARM_AM::getAM3Op(Imm) == ARM_AM::add;
 977   bool isImm = MO.getReg() == 0;
 978   uint32_t Imm8 = ARM_AM::getAM3Offset(Imm);
 979   // if reg +/- reg, Rm will be non-zero. Otherwise, we have reg +/- imm8
 980   if (!isImm)
 981     Imm8 = getARMRegisterNumbering(MO.getReg());
 982   return Imm8 | (isAdd << 8) | (isImm << 9);
 983 }
 984
 985 uint32_t ARMMCCodeEmitter::
 986 getAddrMode3OpValue(const MCInst &MI, unsigned OpIdx,
 987                     SmallVectorImpl<MCFixup> &Fixups) const {
 988   // {13}     1 == imm8, 0 == Rm
 989   // {12-9}   Rn
 990   // {8}      isAdd
 991   // {7-4}    imm7_4/zero
 992   // {3-0}    imm3_0/Rm
 993   const MCOperand &MO = MI.getOperand(OpIdx);
 994   const MCOperand &MO1 = MI.getOperand(OpIdx+1);
 995   const MCOperand &MO2 = MI.getOperand(OpIdx+2);
 996
 997   // If The first operand isn't a register, we have a label reference.
 998   if (!MO.isReg()) {
 999     unsigned Rn = getARMRegisterNumbering(ARM::PC);   // Rn is PC.
1000
1001     assert(MO.isExpr() && "Unexpected machine operand type!");
1002     const MCExpr *Expr = MO.getExpr();
1003     MCFixupKind Kind = MCFixupKind(ARM::fixup_arm_pcrel_10_unscaled);
1004     Fixups.push_back(MCFixup::Create(0, Expr, Kind));
1005
1006     ++MCNumCPRelocations;
1007     return (Rn << 9) | (1 << 13);
1008   }
1009   unsigned Rn = getARMRegisterNumbering(MO.getReg());
1010   unsigned Imm = MO2.getImm();
1011   bool isAdd = ARM_AM::getAM3Op(Imm) == ARM_AM::add;
1012   bool isImm = MO1.getReg() == 0;
1013   uint32_t Imm8 = ARM_AM::getAM3Offset(Imm);
1014   // if reg +/- reg, Rm will be non-zero. Otherwise, we have reg +/- imm8
1015   if (!isImm)
1016     Imm8 = getARMRegisterNumbering(MO1.getReg());
1017   return (Rn << 9) | Imm8 | (isAdd << 8) | (isImm << 13);
1018 }
1019
1020 /// getAddrModeThumbSPOpValue - Encode the t_addrmode_sp operands.
1021 uint32_t ARMMCCodeEmitter::
1022 getAddrModeThumbSPOpValue(const MCInst &MI, unsigned OpIdx,
1023                           SmallVectorImpl<MCFixup> &Fixups) const {
1024   // [SP, #imm]
1025   //   {7-0} = imm8
1026   const MCOperand &MO1 = MI.getOperand(OpIdx + 1);
1027   assert(MI.getOperand(OpIdx).getReg() == ARM::SP &&
1028          "Unexpected base register!");
1029
1030   // The immediate is already shifted for the implicit zeroes, so no change
1031   // here.
1032   return MO1.getImm() & 0xff;
1033 }
1034
1035 /// getAddrModeISOpValue - Encode the t_addrmode_is# operands.
1036 uint32_t ARMMCCodeEmitter::
1037 getAddrModeISOpValue(const MCInst &MI, unsigned OpIdx,
1038                      SmallVectorImpl<MCFixup> &Fixups) const {
1039   // [Rn, #imm]
1040   //   {7-3} = imm5
1041   //   {2-0} = Rn
1042   const MCOperand &MO = MI.getOperand(OpIdx);
1043   const MCOperand &MO1 = MI.getOperand(OpIdx + 1);
1044   unsigned Rn = getARMRegisterNumbering(MO.getReg());
1045   unsigned Imm5 = MO1.getImm();
1046   return ((Imm5 & 0x1f) << 3) | Rn;
1047 }
1048
1049 /// getAddrModePCOpValue - Return encoding for t_addrmode_pc operands.
1050 uint32_t ARMMCCodeEmitter::
1051 getAddrModePCOpValue(const MCInst &MI, unsigned OpIdx,
1052                      SmallVectorImpl<MCFixup> &Fixups) const {
1053   const MCOperand MO = MI.getOperand(OpIdx);
1054   if (MO.isExpr())
1055     return ::getBranchTargetOpValue(MI, OpIdx, ARM::fixup_arm_thumb_cp, Fixups);
1056   return (MO.getImm() >> 2);
1057 }
1058
1059 /// getAddrMode5OpValue - Return encoding info for 'reg +/- imm10' operand.
1060 uint32_t ARMMCCodeEmitter::
1061 getAddrMode5OpValue(const MCInst &MI, unsigned OpIdx,
1062                     SmallVectorImpl<MCFixup> &Fixups) const {
1063   // {12-9} = reg
1064   // {8}    = (U)nsigned (add == '1', sub == '0')
1065   // {7-0}  = imm8
1066   unsigned Reg, Imm8;
1067   bool isAdd;
1068   // If The first operand isn't a register, we have a label reference.
1069   const MCOperand &MO = MI.getOperand(OpIdx);
1070   if (!MO.isReg()) {
1071     Reg = getARMRegisterNumbering(ARM::PC);   // Rn is PC.
1072     Imm8 = 0;
1073     isAdd = false; // 'U' bit is handled as part of the fixup.
1074
1075     assert(MO.isExpr() && "Unexpected machine operand type!");
1076     const MCExpr *Expr = MO.getExpr();
1077     MCFixupKind Kind;
1078     if (isThumb2())
1079       Kind = MCFixupKind(ARM::fixup_t2_pcrel_10);
1080     else
1081       Kind = MCFixupKind(ARM::fixup_arm_pcrel_10);
1082     Fixups.push_back(MCFixup::Create(0, Expr, Kind));
1083
1084     ++MCNumCPRelocations;
1085   } else {
1086     EncodeAddrModeOpValues(MI, OpIdx, Reg, Imm8, Fixups);
1087     isAdd = ARM_AM::getAM5Op(Imm8) == ARM_AM::add;
1088   }
1089
1090   uint32_t Binary = ARM_AM::getAM5Offset(Imm8);
1091   // Immediate is always encoded as positive. The 'U' bit controls add vs sub.
1092   if (isAdd)
1093     Binary |= (1 << 8);
1094   Binary |= (Reg << 9);
1095   return Binary;
1096 }
1097
1098 unsigned ARMMCCodeEmitter::
1099 getSORegRegOpValue(const MCInst &MI, unsigned OpIdx,
1100                 SmallVectorImpl<MCFixup> &Fixups) const {
1101   // Sub-operands are [reg, reg, imm]. The first register is Rm, the reg to be
1102   // shifted. The second is Rs, the amount to shift by, and the third specifies
1103   // the type of the shift.
1104   //
1105   // {3-0} = Rm.
1106   // {4}   = 1
1107   // {6-5} = type
1108   // {11-8} = Rs
1109   // {7}    = 0
1110
1111   const MCOperand &MO  = MI.getOperand(OpIdx);
1112   const MCOperand &MO1 = MI.getOperand(OpIdx + 1);
1113   const MCOperand &MO2 = MI.getOperand(OpIdx + 2);
1114   ARM_AM::ShiftOpc SOpc = ARM_AM::getSORegShOp(MO2.getImm());
1115
1116   // Encode Rm.
1117   unsigned Binary = getARMRegisterNumbering(MO.getReg());
1118
1119   // Encode the shift opcode.
1120   unsigned SBits = 0;
1121   unsigned Rs = MO1.getReg();
1122   if (Rs) {
1123     // Set shift operand (bit[7:4]).
1124     // LSL - 0001
1125     // LSR - 0011
1126     // ASR - 0101
1127     // ROR - 0111
1128     switch (SOpc) {
1129     default: llvm_unreachable("Unknown shift opc!");
1130     case ARM_AM::lsl: SBits = 0x1; break;
1131     case ARM_AM::lsr: SBits = 0x3; break;
1132     case ARM_AM::asr: SBits = 0x5; break;
1133     case ARM_AM::ror: SBits = 0x7; break;
1134     }
1135   }
1136
1137   Binary |= SBits << 4;
1138
1139   // Encode the shift operation Rs.
1140   // Encode Rs bit[11:8].
1141   assert(ARM_AM::getSORegOffset(MO2.getImm()) == 0);
1142   return Binary | (getARMRegisterNumbering(Rs) << ARMII::RegRsShift);
1143 }
1144
1145 unsigned ARMMCCodeEmitter::
1146 getSORegImmOpValue(const MCInst &MI, unsigned OpIdx,
1147                 SmallVectorImpl<MCFixup> &Fixups) const {
1148   // Sub-operands are [reg, imm]. The first register is Rm, the reg to be
1149   // shifted. The second is the amount to shift by.
1150   //
1151   // {3-0} = Rm.
1152   // {4}   = 0
1153   // {6-5} = type
1154   // {11-7} = imm
1155
1156   const MCOperand &MO  = MI.getOperand(OpIdx);
1157   const MCOperand &MO1 = MI.getOperand(OpIdx + 1);
1158   ARM_AM::ShiftOpc SOpc = ARM_AM::getSORegShOp(MO1.getImm());
1159
1160   // Encode Rm.
1161   unsigned Binary = getARMRegisterNumbering(MO.getReg());
1162
1163   // Encode the shift opcode.
1164   unsigned SBits = 0;
1165
1166   // Set shift operand (bit[6:4]).
1167   // LSL - 000
1168   // LSR - 010
1169   // ASR - 100
1170   // ROR - 110
1171   // RRX - 110 and bit[11:8] clear.
1172   switch (SOpc) {
1173   default: llvm_unreachable("Unknown shift opc!");
1174   case ARM_AM::lsl: SBits = 0x0; break;
1175   case ARM_AM::lsr: SBits = 0x2; break;
1176   case ARM_AM::asr: SBits = 0x4; break;
1177   case ARM_AM::ror: SBits = 0x6; break;
1178   case ARM_AM::rrx:
1179     Binary |= 0x60;
1180     return Binary;
1181   }
1182
1183   // Encode shift_imm bit[11:7].
1184   Binary |= SBits << 4;
1185   unsigned Offset = ARM_AM::getSORegOffset(MO1.getImm());
1186   assert(Offset && "Offset must be in range 1-32!");
1187   if (Offset == 32) Offset = 0;
1188   return Binary | (Offset << 7);
1189 }
1190
1191
1192 unsigned ARMMCCodeEmitter::
1193 getT2AddrModeSORegOpValue(const MCInst &MI, unsigned OpNum,
1194                 SmallVectorImpl<MCFixup> &Fixups) const {
1195   const MCOperand &MO1 = MI.getOperand(OpNum);
1196   const MCOperand &MO2 = MI.getOperand(OpNum+1);
1197   const MCOperand &MO3 = MI.getOperand(OpNum+2);
1198
1199   // Encoded as [Rn, Rm, imm].
1200   // FIXME: Needs fixup support.
1201   unsigned Value = getARMRegisterNumbering(MO1.getReg());
1202   Value <<= 4;
1203   Value |= getARMRegisterNumbering(MO2.getReg());
1204   Value <<= 2;
1205   Value |= MO3.getImm();
1206
1207   return Value;
1208 }
1209
1210 unsigned ARMMCCodeEmitter::
1211 getT2AddrModeImm8OpValue(const MCInst &MI, unsigned OpNum,
1212                          SmallVectorImpl<MCFixup> &Fixups) const {
1213   const MCOperand &MO1 = MI.getOperand(OpNum);
1214   const MCOperand &MO2 = MI.getOperand(OpNum+1);
1215
1216   // FIXME: Needs fixup support.
1217   unsigned Value = getARMRegisterNumbering(MO1.getReg());
1218
1219   // Even though the immediate is 8 bits long, we need 9 bits in order
1220   // to represent the (inverse of the) sign bit.
1221   Value <<= 9;
1222   int32_t tmp = (int32_t)MO2.getImm();
1223   if (tmp < 0)
1224     tmp = abs(tmp);
1225   else
1226     Value |= 256; // Set the ADD bit
1227   Value |= tmp & 255;
1228   return Value;
1229 }
1230
1231 unsigned ARMMCCodeEmitter::
1232 getT2AddrModeImm8OffsetOpValue(const MCInst &MI, unsigned OpNum,
1233                          SmallVectorImpl<MCFixup> &Fixups) const {
1234   const MCOperand &MO1 = MI.getOperand(OpNum);
1235
1236   // FIXME: Needs fixup support.
1237   unsigned Value = 0;
1238   int32_t tmp = (int32_t)MO1.getImm();
1239   if (tmp < 0)
1240     tmp = abs(tmp);
1241   else
1242     Value |= 256; // Set the ADD bit
1243   Value |= tmp & 255;
1244   return Value;
1245 }
1246
1247 unsigned ARMMCCodeEmitter::
1248 getT2AddrModeImm12OffsetOpValue(const MCInst &MI, unsigned OpNum,
1249                          SmallVectorImpl<MCFixup> &Fixups) const {
1250   const MCOperand &MO1 = MI.getOperand(OpNum);
1251
1252   // FIXME: Needs fixup support.
1253   unsigned Value = 0;
1254   int32_t tmp = (int32_t)MO1.getImm();
1255   if (tmp < 0)
1256     tmp = abs(tmp);
1257   else
1258     Value |= 4096; // Set the ADD bit
1259   Value |= tmp & 4095;
1260   return Value;
1261 }
1262
1263 unsigned ARMMCCodeEmitter::
1264 getT2SORegOpValue(const MCInst &MI, unsigned OpIdx,
1265                 SmallVectorImpl<MCFixup> &Fixups) const {
1266   // Sub-operands are [reg, imm]. The first register is Rm, the reg to be
1267   // shifted. The second is the amount to shift by.
1268   //
1269   // {3-0} = Rm.
1270   // {4}   = 0
1271   // {6-5} = type
1272   // {11-7} = imm
1273
1274   const MCOperand &MO  = MI.getOperand(OpIdx);
1275   const MCOperand &MO1 = MI.getOperand(OpIdx + 1);
1276   ARM_AM::ShiftOpc SOpc = ARM_AM::getSORegShOp(MO1.getImm());
1277
1278   // Encode Rm.
1279   unsigned Binary = getARMRegisterNumbering(MO.getReg());
1280
1281   // Encode the shift opcode.
1282   unsigned SBits = 0;
1283   // Set shift operand (bit[6:4]).
1284   // LSL - 000
1285   // LSR - 010
1286   // ASR - 100
1287   // ROR - 110
1288   switch (SOpc) {
1289   default: llvm_unreachable("Unknown shift opc!");
1290   case ARM_AM::lsl: SBits = 0x0; break;
1291   case ARM_AM::lsr: SBits = 0x2; break;
1292   case ARM_AM::asr: SBits = 0x4; break;
1293   case ARM_AM::rrx: // FALLTHROUGH
1294   case ARM_AM::ror: SBits = 0x6; break;
1295   }
1296
1297   Binary |= SBits << 4;
1298   if (SOpc == ARM_AM::rrx)
1299     return Binary;
1300
1301   // Encode shift_imm bit[11:7].
1302   return Binary | ARM_AM::getSORegOffset(MO1.getImm()) << 7;
1303 }
1304
1305 unsigned ARMMCCodeEmitter::
1306 getBitfieldInvertedMaskOpValue(const MCInst &MI, unsigned Op,
1307                                SmallVectorImpl<MCFixup> &Fixups) const {
1308   // 10 bits. lower 5 bits are are the lsb of the mask, high five bits are the
1309   // msb of the mask.
1310   const MCOperand &MO = MI.getOperand(Op);
1311   uint32_t v = ~MO.getImm();
1312   uint32_t lsb = CountTrailingZeros_32(v);
1313   uint32_t msb = (32 - CountLeadingZeros_32 (v)) - 1;
1314   assert (v != 0 && lsb < 32 && msb < 32 && "Illegal bitfield mask!");
1315   return lsb | (msb << 5);
1316 }
1317
1318 unsigned ARMMCCodeEmitter::
1319 getRegisterListOpValue(const MCInst &MI, unsigned Op,
1320                        SmallVectorImpl<MCFixup> &Fixups) const {
1321   // VLDM/VSTM:
1322   //   {12-8} = Vd
1323   //   {7-0}  = Number of registers
1324   //
1325   // LDM/STM:
1326   //   {15-0}  = Bitfield of GPRs.
1327   unsigned Reg = MI.getOperand(Op).getReg();
1328   bool SPRRegs = llvm::ARMMCRegisterClasses[ARM::SPRRegClassID].contains(Reg);
1329   bool DPRRegs = llvm::ARMMCRegisterClasses[ARM::DPRRegClassID].contains(Reg);
1330
1331   unsigned Binary = 0;
1332
1333   if (SPRRegs || DPRRegs) {
1334     // VLDM/VSTM
1335     unsigned RegNo = getARMRegisterNumbering(Reg);
1336     unsigned NumRegs = (MI.getNumOperands() - Op) & 0xff;
1337     Binary |= (RegNo & 0x1f) << 8;
1338     if (SPRRegs)
1339       Binary |= NumRegs;
1340     else
1341       Binary |= NumRegs * 2;
1342   } else {
1343     for (unsigned I = Op, E = MI.getNumOperands(); I < E; ++I) {
1344       unsigned RegNo = getARMRegisterNumbering(MI.getOperand(I).getReg());
1345       Binary |= 1 << RegNo;
1346     }
1347   }
1348
1349   return Binary;
1350 }
1351
1352 /// getAddrMode6AddressOpValue - Encode an addrmode6 register number along
1353 /// with the alignment operand.
1354 unsigned ARMMCCodeEmitter::
1355 getAddrMode6AddressOpValue(const MCInst &MI, unsigned Op,
1356                            SmallVectorImpl<MCFixup> &Fixups) const {
1357   const MCOperand &Reg = MI.getOperand(Op);
1358   const MCOperand &Imm = MI.getOperand(Op + 1);
1359
1360   unsigned RegNo = getARMRegisterNumbering(Reg.getReg());
1361   unsigned Align = 0;
1362
1363   switch (Imm.getImm()) {
1364   default: break;
1365   case 2:
1366   case 4:
1367   case 8:  Align = 0x01; break;
1368   case 16: Align = 0x02; break;
1369   case 32: Align = 0x03; break;
1370   }
1371
1372   return RegNo | (Align << 4);
1373 }
1374
1375 /// getAddrMode6OneLane32AddressOpValue - Encode an addrmode6 register number
1376 /// along  with the alignment operand for use in VST1 and VLD1 with size 32.
1377 unsigned ARMMCCodeEmitter::
1378 getAddrMode6OneLane32AddressOpValue(const MCInst &MI, unsigned Op,
1379                                     SmallVectorImpl<MCFixup> &Fixups) const {
1380   const MCOperand &Reg = MI.getOperand(Op);
1381   const MCOperand &Imm = MI.getOperand(Op + 1);
1382
1383   unsigned RegNo = getARMRegisterNumbering(Reg.getReg());
1384   unsigned Align = 0;
1385
1386   switch (Imm.getImm()) {
1387   default: break;
1388   case 8:
1389   case 16:
1390   case 32: // Default '0' value for invalid alignments of 8, 16, 32 bytes.
1391   case 2: Align = 0x00; break;
1392   case 4: Align = 0x03; break;
1393   }
1394
1395   return RegNo | (Align << 4);
1396 }
1397
1398
1399 /// getAddrMode6DupAddressOpValue - Encode an addrmode6 register number and
1400 /// alignment operand for use in VLD-dup instructions.  This is the same as
1401 /// getAddrMode6AddressOpValue except for the alignment encoding, which is
1402 /// different for VLD4-dup.
1403 unsigned ARMMCCodeEmitter::
1404 getAddrMode6DupAddressOpValue(const MCInst &MI, unsigned Op,
1405                               SmallVectorImpl<MCFixup> &Fixups) const {
1406   const MCOperand &Reg = MI.getOperand(Op);
1407   const MCOperand &Imm = MI.getOperand(Op + 1);
1408
1409   unsigned RegNo = getARMRegisterNumbering(Reg.getReg());
1410   unsigned Align = 0;
1411
1412   switch (Imm.getImm()) {
1413   default: break;
1414   case 2:
1415   case 4:
1416   case 8:  Align = 0x01; break;
1417   case 16: Align = 0x03; break;
1418   }
1419
1420   return RegNo | (Align << 4);
1421 }
1422
1423 unsigned ARMMCCodeEmitter::
1424 getAddrMode6OffsetOpValue(const MCInst &MI, unsigned Op,
1425                           SmallVectorImpl<MCFixup> &Fixups) const {
1426   const MCOperand &MO = MI.getOperand(Op);
1427   if (MO.getReg() == 0) return 0x0D;
1428   return getARMRegisterNumbering(MO.getReg());
1429 }
1430
1431 unsigned ARMMCCodeEmitter::
1432 getShiftRight8Imm(const MCInst &MI, unsigned Op,
1433                   SmallVectorImpl<MCFixup> &Fixups) const {
1434   return 8 - MI.getOperand(Op).getImm();
1435 }
1436
1437 unsigned ARMMCCodeEmitter::
1438 getShiftRight16Imm(const MCInst &MI, unsigned Op,
1439                    SmallVectorImpl<MCFixup> &Fixups) const {
1440   return 16 - MI.getOperand(Op).getImm();
1441 }
1442
1443 unsigned ARMMCCodeEmitter::
1444 getShiftRight32Imm(const MCInst &MI, unsigned Op,
1445                    SmallVectorImpl<MCFixup> &Fixups) const {
1446   return 32 - MI.getOperand(Op).getImm();
1447 }
1448
1449 unsigned ARMMCCodeEmitter::
1450 getShiftRight64Imm(const MCInst &MI, unsigned Op,
1451                    SmallVectorImpl<MCFixup> &Fixups) const {
1452   return 64 - MI.getOperand(Op).getImm();
1453 }
1454
1455 void ARMMCCodeEmitter::
1456 EncodeInstruction(const MCInst &MI, raw_ostream &OS,
1457                   SmallVectorImpl<MCFixup> &Fixups) const {
1458   // Pseudo instructions don't get encoded.
1459   const MCInstrDesc &Desc = MCII.get(MI.getOpcode());
1460   uint64_t TSFlags = Desc.TSFlags;
1461   if ((TSFlags & ARMII::FormMask) == ARMII::Pseudo)
1462     return;
1463
1464   int Size;
1465   if (Desc.getSize() == 2 || Desc.getSize() == 4)
1466     Size = Desc.getSize();
1467   else
1468     llvm_unreachable("Unexpected instruction size!");
1469
1470   uint32_t Binary = getBinaryCodeForInstr(MI, Fixups);
1471   // Thumb 32-bit wide instructions need to emit the high order halfword
1472   // first.
1473   if (isThumb() && Size == 4) {
1474     EmitConstant(Binary >> 16, 2, OS);
1475     EmitConstant(Binary & 0xffff, 2, OS);
1476   } else
1477     EmitConstant(Binary, Size, OS);
1478   ++MCNumEmitted;  // Keep track of the # of mi's emitted.
1479 }
1480
1481 #include "ARMGenMCCodeEmitter.inc"