lib/CodeGen/MIRParser/MIParser.cpp

   1 //===- MIParser.cpp - Machine instructions parser implementation ----------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 // This file implements the parsing of machine instructions.
  11 //
  12 //===----------------------------------------------------------------------===//
  13
  14 #include "MIParser.h"
  15 #include "MILexer.h"
  16 #include "llvm/ADT/StringMap.h"
  17 #include "llvm/AsmParser/Parser.h"
  18 #include "llvm/AsmParser/SlotMapping.h"
  19 #include "llvm/CodeGen/MachineBasicBlock.h"
  20 #include "llvm/CodeGen/MachineFunction.h"
  21 #include "llvm/CodeGen/MachineFrameInfo.h"
  22 #include "llvm/CodeGen/MachineInstr.h"
  23 #include "llvm/CodeGen/MachineInstrBuilder.h"
  24 #include "llvm/CodeGen/MachineMemOperand.h"
  25 #include "llvm/CodeGen/MachineModuleInfo.h"
  26 #include "llvm/IR/Instructions.h"
  27 #include "llvm/IR/Constants.h"
  28 #include "llvm/IR/Module.h"
  29 #include "llvm/IR/ModuleSlotTracker.h"
  30 #include "llvm/IR/ValueSymbolTable.h"
  31 #include "llvm/Support/raw_ostream.h"
  32 #include "llvm/Support/SourceMgr.h"
  33 #include "llvm/Target/TargetSubtargetInfo.h"
  34 #include "llvm/Target/TargetInstrInfo.h"
  35
  36 using namespace llvm;
  37
  38 namespace {
  39
  40 /// A wrapper struct around the 'MachineOperand' struct that includes a source
  41 /// range.
  42 struct MachineOperandWithLocation {
  43   MachineOperand Operand;
  44   StringRef::iterator Begin;
  45   StringRef::iterator End;
  46
  47   MachineOperandWithLocation(const MachineOperand &Operand,
  48                              StringRef::iterator Begin, StringRef::iterator End)
  49       : Operand(Operand), Begin(Begin), End(End) {}
  50 };
  51
  52 class MIParser {
  53   SourceMgr &SM;
  54   MachineFunction &MF;
  55   SMDiagnostic &Error;
  56   StringRef Source, CurrentSource;
  57   MIToken Token;
  58   const PerFunctionMIParsingState &PFS;
  59   /// Maps from indices to unnamed global values and metadata nodes.
  60   const SlotMapping &IRSlots;
  61   /// Maps from instruction names to op codes.
  62   StringMap<unsigned> Names2InstrOpCodes;
  63   /// Maps from register names to registers.
  64   StringMap<unsigned> Names2Regs;
  65   /// Maps from register mask names to register masks.
  66   StringMap<const uint32_t *> Names2RegMasks;
  67   /// Maps from subregister names to subregister indices.
  68   StringMap<unsigned> Names2SubRegIndices;
  69   /// Maps from slot numbers to function's unnamed basic blocks.
  70   DenseMap<unsigned, const BasicBlock *> Slots2BasicBlocks;
  71   /// Maps from target index names to target indices.
  72   StringMap<int> Names2TargetIndices;
  73   /// Maps from direct target flag names to the direct target flag values.
  74   StringMap<unsigned> Names2DirectTargetFlags;
  75   /// Maps from direct target flag names to the bitmask target flag values.
  76   StringMap<unsigned> Names2BitmaskTargetFlags;
  77
  78 public:
  79   MIParser(SourceMgr &SM, MachineFunction &MF, SMDiagnostic &Error,
  80            StringRef Source, const PerFunctionMIParsingState &PFS,
  81            const SlotMapping &IRSlots);
  82
  83   void lex();
  84
  85   /// Report an error at the current location with the given message.
  86   ///
  87   /// This function always return true.
  88   bool error(const Twine &Msg);
  89
  90   /// Report an error at the given location with the given message.
  91   ///
  92   /// This function always return true.
  93   bool error(StringRef::iterator Loc, const Twine &Msg);
  94
  95   bool
  96   parseBasicBlockDefinitions(DenseMap<unsigned, MachineBasicBlock *> &MBBSlots);
  97   bool parseBasicBlocks();
  98   bool parse(MachineInstr *&MI);
  99   bool parseStandaloneMBB(MachineBasicBlock *&MBB);
 100   bool parseStandaloneNamedRegister(unsigned &Reg);
 101   bool parseStandaloneVirtualRegister(unsigned &Reg);
 102   bool parseStandaloneStackObject(int &FI);
 103   bool parseStandaloneMDNode(MDNode *&Node);
 104
 105   bool
 106   parseBasicBlockDefinition(DenseMap<unsigned, MachineBasicBlock *> &MBBSlots);
 107   bool parseBasicBlock(MachineBasicBlock &MBB);
 108   bool parseBasicBlockLiveins(MachineBasicBlock &MBB);
 109   bool parseBasicBlockSuccessors(MachineBasicBlock &MBB);
 110
 111   bool parseRegister(unsigned &Reg);
 112   bool parseRegisterFlag(unsigned &Flags);
 113   bool parseSubRegisterIndex(unsigned &SubReg);
 114   bool parseRegisterOperand(MachineOperand &Dest, bool IsDef = false);
 115   bool parseImmediateOperand(MachineOperand &Dest);
 116   bool parseIRConstant(StringRef::iterator Loc, const Constant *&C);
 117   bool parseTypedImmediateOperand(MachineOperand &Dest);
 118   bool parseFPImmediateOperand(MachineOperand &Dest);
 119   bool parseMBBReference(MachineBasicBlock *&MBB);
 120   bool parseMBBOperand(MachineOperand &Dest);
 121   bool parseStackFrameIndex(int &FI);
 122   bool parseStackObjectOperand(MachineOperand &Dest);
 123   bool parseFixedStackFrameIndex(int &FI);
 124   bool parseFixedStackObjectOperand(MachineOperand &Dest);
 125   bool parseGlobalValue(GlobalValue *&GV);
 126   bool parseGlobalAddressOperand(MachineOperand &Dest);
 127   bool parseConstantPoolIndexOperand(MachineOperand &Dest);
 128   bool parseJumpTableIndexOperand(MachineOperand &Dest);
 129   bool parseExternalSymbolOperand(MachineOperand &Dest);
 130   bool parseMDNode(MDNode *&Node);
 131   bool parseMetadataOperand(MachineOperand &Dest);
 132   bool parseCFIOffset(int &Offset);
 133   bool parseCFIRegister(unsigned &Reg);
 134   bool parseCFIOperand(MachineOperand &Dest);
 135   bool parseIRBlock(BasicBlock *&BB, const Function &F);
 136   bool parseBlockAddressOperand(MachineOperand &Dest);
 137   bool parseTargetIndexOperand(MachineOperand &Dest);
 138   bool parseLiveoutRegisterMaskOperand(MachineOperand &Dest);
 139   bool parseMachineOperand(MachineOperand &Dest);
 140   bool parseMachineOperandAndTargetFlags(MachineOperand &Dest);
 141   bool parseOffset(int64_t &Offset);
 142   bool parseAlignment(unsigned &Alignment);
 143   bool parseOperandsOffset(MachineOperand &Op);
 144   bool parseIRValue(Value *&V);
 145   bool parseMemoryOperandFlag(unsigned &Flags);
 146   bool parseMemoryPseudoSourceValue(const PseudoSourceValue *&PSV);
 147   bool parseMachinePointerInfo(MachinePointerInfo &Dest);
 148   bool parseMachineMemoryOperand(MachineMemOperand *&Dest);
 149
 150 private:
 151   /// Convert the integer literal in the current token into an unsigned integer.
 152   ///
 153   /// Return true if an error occurred.
 154   bool getUnsigned(unsigned &Result);
 155
 156   /// Convert the integer literal in the current token into an uint64.
 157   ///
 158   /// Return true if an error occurred.
 159   bool getUint64(uint64_t &Result);
 160
 161   /// If the current token is of the given kind, consume it and return false.
 162   /// Otherwise report an error and return true.
 163   bool expectAndConsume(MIToken::TokenKind TokenKind);
 164
 165   /// If the current token is of the given kind, consume it and return true.
 166   /// Otherwise return false.
 167   bool consumeIfPresent(MIToken::TokenKind TokenKind);
 168
 169   void initNames2InstrOpCodes();
 170
 171   /// Try to convert an instruction name to an opcode. Return true if the
 172   /// instruction name is invalid.
 173   bool parseInstrName(StringRef InstrName, unsigned &OpCode);
 174
 175   bool parseInstruction(unsigned &OpCode, unsigned &Flags);
 176
 177   bool verifyImplicitOperands(ArrayRef<MachineOperandWithLocation> Operands,
 178                               const MCInstrDesc &MCID);
 179
 180   void initNames2Regs();
 181
 182   /// Try to convert a register name to a register number. Return true if the
 183   /// register name is invalid.
 184   bool getRegisterByName(StringRef RegName, unsigned &Reg);
 185
 186   void initNames2RegMasks();
 187
 188   /// Check if the given identifier is a name of a register mask.
 189   ///
 190   /// Return null if the identifier isn't a register mask.
 191   const uint32_t *getRegMask(StringRef Identifier);
 192
 193   void initNames2SubRegIndices();
 194
 195   /// Check if the given identifier is a name of a subregister index.
 196   ///
 197   /// Return 0 if the name isn't a subregister index class.
 198   unsigned getSubRegIndex(StringRef Name);
 199
 200   const BasicBlock *getIRBlock(unsigned Slot);
 201   const BasicBlock *getIRBlock(unsigned Slot, const Function &F);
 202
 203   void initNames2TargetIndices();
 204
 205   /// Try to convert a name of target index to the corresponding target index.
 206   ///
 207   /// Return true if the name isn't a name of a target index.
 208   bool getTargetIndex(StringRef Name, int &Index);
 209
 210   void initNames2DirectTargetFlags();
 211
 212   /// Try to convert a name of a direct target flag to the corresponding
 213   /// target flag.
 214   ///
 215   /// Return true if the name isn't a name of a direct flag.
 216   bool getDirectTargetFlag(StringRef Name, unsigned &Flag);
 217
 218   void initNames2BitmaskTargetFlags();
 219
 220   /// Try to convert a name of a bitmask target flag to the corresponding
 221   /// target flag.
 222   ///
 223   /// Return true if the name isn't a name of a bitmask target flag.
 224   bool getBitmaskTargetFlag(StringRef Name, unsigned &Flag);
 225 };
 226
 227 } // end anonymous namespace
 228
 229 MIParser::MIParser(SourceMgr &SM, MachineFunction &MF, SMDiagnostic &Error,
 230                    StringRef Source, const PerFunctionMIParsingState &PFS,
 231                    const SlotMapping &IRSlots)
 232     : SM(SM), MF(MF), Error(Error), Source(Source), CurrentSource(Source),
 233       PFS(PFS), IRSlots(IRSlots) {}
 234
 235 void MIParser::lex() {
 236   CurrentSource = lexMIToken(
 237       CurrentSource, Token,
 238       [this](StringRef::iterator Loc, const Twine &Msg) { error(Loc, Msg); });
 239 }
 240
 241 bool MIParser::error(const Twine &Msg) { return error(Token.location(), Msg); }
 242
 243 bool MIParser::error(StringRef::iterator Loc, const Twine &Msg) {
 244   assert(Loc >= Source.data() && Loc <= (Source.data() + Source.size()));
 245   const MemoryBuffer &Buffer = *SM.getMemoryBuffer(SM.getMainFileID());
 246   if (Loc >= Buffer.getBufferStart() && Loc <= Buffer.getBufferEnd()) {
 247     // Create an ordinary diagnostic when the source manager's buffer is the
 248     // source string.
 249     Error = SM.GetMessage(SMLoc::getFromPointer(Loc), SourceMgr::DK_Error, Msg);
 250     return true;
 251   }
 252   // Create a diagnostic for a YAML string literal.
 253   Error = SMDiagnostic(SM, SMLoc(), Buffer.getBufferIdentifier(), 1,
 254                        Loc - Source.data(), SourceMgr::DK_Error, Msg.str(),
 255                        Source, None, None);
 256   return true;
 257 }
 258
 259 static const char *toString(MIToken::TokenKind TokenKind) {
 260   switch (TokenKind) {
 261   case MIToken::comma:
 262     return "','";
 263   case MIToken::equal:
 264     return "'='";
 265   case MIToken::colon:
 266     return "':'";
 267   case MIToken::lparen:
 268     return "'('";
 269   case MIToken::rparen:
 270     return "')'";
 271   default:
 272     return "<unknown token>";
 273   }
 274 }
 275
 276 bool MIParser::expectAndConsume(MIToken::TokenKind TokenKind) {
 277   if (Token.isNot(TokenKind))
 278     return error(Twine("expected ") + toString(TokenKind));
 279   lex();
 280   return false;
 281 }
 282
 283 bool MIParser::consumeIfPresent(MIToken::TokenKind TokenKind) {
 284   if (Token.isNot(TokenKind))
 285     return false;
 286   lex();
 287   return true;
 288 }
 289
 290 bool MIParser::parseBasicBlockDefinition(
 291     DenseMap<unsigned, MachineBasicBlock *> &MBBSlots) {
 292   assert(Token.is(MIToken::MachineBasicBlockLabel));
 293   unsigned ID = 0;
 294   if (getUnsigned(ID))
 295     return true;
 296   auto Loc = Token.location();
 297   auto Name = Token.stringValue();
 298   lex();
 299   bool HasAddressTaken = false;
 300   bool IsLandingPad = false;
 301   unsigned Alignment = 0;
 302   BasicBlock *BB = nullptr;
 303   if (consumeIfPresent(MIToken::lparen)) {
 304     do {
 305       // TODO: Report an error when multiple same attributes are specified.
 306       switch (Token.kind()) {
 307       case MIToken::kw_address_taken:
 308         HasAddressTaken = true;
 309         lex();
 310         break;
 311       case MIToken::kw_landing_pad:
 312         IsLandingPad = true;
 313         lex();
 314         break;
 315       case MIToken::kw_align:
 316         if (parseAlignment(Alignment))
 317           return true;
 318         break;
 319       case MIToken::IRBlock:
 320         // TODO: Report an error when both name and ir block are specified.
 321         if (parseIRBlock(BB, *MF.getFunction()))
 322           return true;
 323         lex();
 324         break;
 325       default:
 326         break;
 327       }
 328     } while (consumeIfPresent(MIToken::comma));
 329     if (expectAndConsume(MIToken::rparen))
 330       return true;
 331   }
 332   if (expectAndConsume(MIToken::colon))
 333     return true;
 334
 335   if (!Name.empty()) {
 336     BB = dyn_cast_or_null<BasicBlock>(
 337         MF.getFunction()->getValueSymbolTable().lookup(Name));
 338     if (!BB)
 339       return error(Loc, Twine("basic block '") + Name +
 340                             "' is not defined in the function '" +
 341                             MF.getName() + "'");
 342   }
 343   auto *MBB = MF.CreateMachineBasicBlock(BB);
 344   MF.insert(MF.end(), MBB);
 345   bool WasInserted = MBBSlots.insert(std::make_pair(ID, MBB)).second;
 346   if (!WasInserted)
 347     return error(Loc, Twine("redefinition of machine basic block with id #") +
 348                           Twine(ID));
 349   if (Alignment)
 350     MBB->setAlignment(Alignment);
 351   if (HasAddressTaken)
 352     MBB->setHasAddressTaken();
 353   MBB->setIsLandingPad(IsLandingPad);
 354   return false;
 355 }
 356
 357 bool MIParser::parseBasicBlockDefinitions(
 358     DenseMap<unsigned, MachineBasicBlock *> &MBBSlots) {
 359   lex();
 360   // Skip until the first machine basic block.
 361   while (Token.is(MIToken::Newline))
 362     lex();
 363   if (Token.isErrorOrEOF())
 364     return Token.isError();
 365   if (Token.isNot(MIToken::MachineBasicBlockLabel))
 366     return error("expected a basic block definition before instructions");
 367   unsigned BraceDepth = 0;
 368   do {
 369     if (parseBasicBlockDefinition(MBBSlots))
 370       return true;
 371     bool IsAfterNewline = false;
 372     // Skip until the next machine basic block.
 373     while (true) {
 374       if ((Token.is(MIToken::MachineBasicBlockLabel) && IsAfterNewline) ||
 375           Token.isErrorOrEOF())
 376         break;
 377       else if (Token.is(MIToken::MachineBasicBlockLabel))
 378         return error("basic block definition should be located at the start of "
 379                      "the line");
 380       else if (consumeIfPresent(MIToken::Newline)) {
 381         IsAfterNewline = true;
 382         continue;
 383       }
 384       IsAfterNewline = false;
 385       if (Token.is(MIToken::lbrace))
 386         ++BraceDepth;
 387       if (Token.is(MIToken::rbrace)) {
 388         if (!BraceDepth)
 389           return error("extraneous closing brace ('}')");
 390         --BraceDepth;
 391       }
 392       lex();
 393     }
 394     // Verify that we closed all of the '{' at the end of a file or a block.
 395     if (!Token.isError() && BraceDepth)
 396       return error("expected '}'"); // FIXME: Report a note that shows '{'.
 397   } while (!Token.isErrorOrEOF());
 398   return Token.isError();
 399 }
 400
 401 bool MIParser::parseBasicBlockLiveins(MachineBasicBlock &MBB) {
 402   assert(Token.is(MIToken::kw_liveins));
 403   lex();
 404   if (expectAndConsume(MIToken::colon))
 405     return true;
 406   if (Token.isNewlineOrEOF()) // Allow an empty list of liveins.
 407     return false;
 408   do {
 409     if (Token.isNot(MIToken::NamedRegister))
 410       return error("expected a named register");
 411     unsigned Reg = 0;
 412     if (parseRegister(Reg))
 413       return true;
 414     MBB.addLiveIn(Reg);
 415     lex();
 416   } while (consumeIfPresent(MIToken::comma));
 417   return false;
 418 }
 419
 420 bool MIParser::parseBasicBlockSuccessors(MachineBasicBlock &MBB) {
 421   assert(Token.is(MIToken::kw_successors));
 422   lex();
 423   if (expectAndConsume(MIToken::colon))
 424     return true;
 425   if (Token.isNewlineOrEOF()) // Allow an empty list of successors.
 426     return false;
 427   do {
 428     if (Token.isNot(MIToken::MachineBasicBlock))
 429       return error("expected a machine basic block reference");
 430     MachineBasicBlock *SuccMBB = nullptr;
 431     if (parseMBBReference(SuccMBB))
 432       return true;
 433     lex();
 434     unsigned Weight = 0;
 435     if (consumeIfPresent(MIToken::lparen)) {
 436       if (Token.isNot(MIToken::IntegerLiteral))
 437         return error("expected an integer literal after '('");
 438       if (getUnsigned(Weight))
 439         return true;
 440       lex();
 441       if (expectAndConsume(MIToken::rparen))
 442         return true;
 443     }
 444     MBB.addSuccessor(SuccMBB, Weight);
 445   } while (consumeIfPresent(MIToken::comma));
 446   return false;
 447 }
 448
 449 bool MIParser::parseBasicBlock(MachineBasicBlock &MBB) {
 450   // Skip the definition.
 451   assert(Token.is(MIToken::MachineBasicBlockLabel));
 452   lex();
 453   if (consumeIfPresent(MIToken::lparen)) {
 454     while (Token.isNot(MIToken::rparen) && !Token.isErrorOrEOF())
 455       lex();
 456     consumeIfPresent(MIToken::rparen);
 457   }
 458   consumeIfPresent(MIToken::colon);
 459
 460   // Parse the liveins and successors.
 461   // N.B: Multiple lists of successors and liveins are allowed and they're
 462   // merged into one.
 463   // Example:
 464   //   liveins: %edi
 465   //   liveins: %esi
 466   //
 467   // is equivalent to
 468   //   liveins: %edi, %esi
 469   while (true) {
 470     if (Token.is(MIToken::kw_successors)) {
 471       if (parseBasicBlockSuccessors(MBB))
 472         return true;
 473     } else if (Token.is(MIToken::kw_liveins)) {
 474       if (parseBasicBlockLiveins(MBB))
 475         return true;
 476     } else if (consumeIfPresent(MIToken::Newline)) {
 477       continue;
 478     } else
 479       break;
 480     if (!Token.isNewlineOrEOF())
 481       return error("expected line break at the end of a list");
 482     lex();
 483   }
 484
 485   // Parse the instructions.
 486   bool IsInBundle = false;
 487   MachineInstr *PrevMI = nullptr;
 488   while (true) {
 489     if (Token.is(MIToken::MachineBasicBlockLabel) || Token.is(MIToken::Eof))
 490       return false;
 491     else if (consumeIfPresent(MIToken::Newline))
 492       continue;
 493     if (consumeIfPresent(MIToken::rbrace)) {
 494       // The first parsing pass should verify that all closing '}' have an
 495       // opening '{'.
 496       assert(IsInBundle);
 497       IsInBundle = false;
 498       continue;
 499     }
 500     MachineInstr *MI = nullptr;
 501     if (parse(MI))
 502       return true;
 503     MBB.insert(MBB.end(), MI);
 504     if (IsInBundle) {
 505       PrevMI->setFlag(MachineInstr::BundledSucc);
 506       MI->setFlag(MachineInstr::BundledPred);
 507     }
 508     PrevMI = MI;
 509     if (Token.is(MIToken::lbrace)) {
 510       if (IsInBundle)
 511         return error("nested instruction bundles are not allowed");
 512       lex();
 513       // This instruction is the start of the bundle.
 514       MI->setFlag(MachineInstr::BundledSucc);
 515       IsInBundle = true;
 516       if (!Token.is(MIToken::Newline))
 517         // The next instruction can be on the same line.
 518         continue;
 519     }
 520     assert(Token.isNewlineOrEOF() && "MI is not fully parsed");
 521     lex();
 522   }
 523   return false;
 524 }
 525
 526 bool MIParser::parseBasicBlocks() {
 527   lex();
 528   // Skip until the first machine basic block.
 529   while (Token.is(MIToken::Newline))
 530     lex();
 531   if (Token.isErrorOrEOF())
 532     return Token.isError();
 533   // The first parsing pass should have verified that this token is a MBB label
 534   // in the 'parseBasicBlockDefinitions' method.
 535   assert(Token.is(MIToken::MachineBasicBlockLabel));
 536   do {
 537     MachineBasicBlock *MBB = nullptr;
 538     if (parseMBBReference(MBB))
 539       return true;
 540     if (parseBasicBlock(*MBB))
 541       return true;
 542     // The method 'parseBasicBlock' should parse the whole block until the next
 543     // block or the end of file.
 544     assert(Token.is(MIToken::MachineBasicBlockLabel) || Token.is(MIToken::Eof));
 545   } while (Token.isNot(MIToken::Eof));
 546   return false;
 547 }
 548
 549 bool MIParser::parse(MachineInstr *&MI) {
 550   // Parse any register operands before '='
 551   MachineOperand MO = MachineOperand::CreateImm(0);
 552   SmallVector<MachineOperandWithLocation, 8> Operands;
 553   while (Token.isRegister() || Token.isRegisterFlag()) {
 554     auto Loc = Token.location();
 555     if (parseRegisterOperand(MO, /*IsDef=*/true))
 556       return true;
 557     Operands.push_back(MachineOperandWithLocation(MO, Loc, Token.location()));
 558     if (Token.isNot(MIToken::comma))
 559       break;
 560     lex();
 561   }
 562   if (!Operands.empty() && expectAndConsume(MIToken::equal))
 563     return true;
 564
 565   unsigned OpCode, Flags = 0;
 566   if (Token.isError() || parseInstruction(OpCode, Flags))
 567     return true;
 568
 569   // Parse the remaining machine operands.
 570   while (!Token.isNewlineOrEOF() && Token.isNot(MIToken::kw_debug_location) &&
 571          Token.isNot(MIToken::coloncolon) && Token.isNot(MIToken::lbrace)) {
 572     auto Loc = Token.location();
 573     if (parseMachineOperandAndTargetFlags(MO))
 574       return true;
 575     Operands.push_back(MachineOperandWithLocation(MO, Loc, Token.location()));
 576     if (Token.isNewlineOrEOF() || Token.is(MIToken::coloncolon) ||
 577         Token.is(MIToken::lbrace))
 578       break;
 579     if (Token.isNot(MIToken::comma))
 580       return error("expected ',' before the next machine operand");
 581     lex();
 582   }
 583
 584   DebugLoc DebugLocation;
 585   if (Token.is(MIToken::kw_debug_location)) {
 586     lex();
 587     if (Token.isNot(MIToken::exclaim))
 588       return error("expected a metadata node after 'debug-location'");
 589     MDNode *Node = nullptr;
 590     if (parseMDNode(Node))
 591       return true;
 592     DebugLocation = DebugLoc(Node);
 593   }
 594
 595   // Parse the machine memory operands.
 596   SmallVector<MachineMemOperand *, 2> MemOperands;
 597   if (Token.is(MIToken::coloncolon)) {
 598     lex();
 599     while (!Token.isNewlineOrEOF()) {
 600       MachineMemOperand *MemOp = nullptr;
 601       if (parseMachineMemoryOperand(MemOp))
 602         return true;
 603       MemOperands.push_back(MemOp);
 604       if (Token.isNewlineOrEOF())
 605         break;
 606       if (Token.isNot(MIToken::comma))
 607         return error("expected ',' before the next machine memory operand");
 608       lex();
 609     }
 610   }
 611
 612   const auto &MCID = MF.getSubtarget().getInstrInfo()->get(OpCode);
 613   if (!MCID.isVariadic()) {
 614     // FIXME: Move the implicit operand verification to the machine verifier.
 615     if (verifyImplicitOperands(Operands, MCID))
 616       return true;
 617   }
 618
 619   // TODO: Check for extraneous machine operands.
 620   MI = MF.CreateMachineInstr(MCID, DebugLocation, /*NoImplicit=*/true);
 621   MI->setFlags(Flags);
 622   for (const auto &Operand : Operands)
 623     MI->addOperand(MF, Operand.Operand);
 624   if (MemOperands.empty())
 625     return false;
 626   MachineInstr::mmo_iterator MemRefs =
 627       MF.allocateMemRefsArray(MemOperands.size());
 628   std::copy(MemOperands.begin(), MemOperands.end(), MemRefs);
 629   MI->setMemRefs(MemRefs, MemRefs + MemOperands.size());
 630   return false;
 631 }
 632
 633 bool MIParser::parseStandaloneMBB(MachineBasicBlock *&MBB) {
 634   lex();
 635   if (Token.isNot(MIToken::MachineBasicBlock))
 636     return error("expected a machine basic block reference");
 637   if (parseMBBReference(MBB))
 638     return true;
 639   lex();
 640   if (Token.isNot(MIToken::Eof))
 641     return error(
 642         "expected end of string after the machine basic block reference");
 643   return false;
 644 }
 645
 646 bool MIParser::parseStandaloneNamedRegister(unsigned &Reg) {
 647   lex();
 648   if (Token.isNot(MIToken::NamedRegister))
 649     return error("expected a named register");
 650   if (parseRegister(Reg))
 651     return true;
 652   lex();
 653   if (Token.isNot(MIToken::Eof))
 654     return error("expected end of string after the register reference");
 655   return false;
 656 }
 657
 658 bool MIParser::parseStandaloneVirtualRegister(unsigned &Reg) {
 659   lex();
 660   if (Token.isNot(MIToken::VirtualRegister))
 661     return error("expected a virtual register");
 662   if (parseRegister(Reg))
 663     return true;
 664   lex();
 665   if (Token.isNot(MIToken::Eof))
 666     return error("expected end of string after the register reference");
 667   return false;
 668 }
 669
 670 bool MIParser::parseStandaloneStackObject(int &FI) {
 671   lex();
 672   if (Token.isNot(MIToken::StackObject))
 673     return error("expected a stack object");
 674   if (parseStackFrameIndex(FI))
 675     return true;
 676   if (Token.isNot(MIToken::Eof))
 677     return error("expected end of string after the stack object reference");
 678   return false;
 679 }
 680
 681 bool MIParser::parseStandaloneMDNode(MDNode *&Node) {
 682   lex();
 683   if (Token.isNot(MIToken::exclaim))
 684     return error("expected a metadata node");
 685   if (parseMDNode(Node))
 686     return true;
 687   if (Token.isNot(MIToken::Eof))
 688     return error("expected end of string after the metadata node");
 689   return false;
 690 }
 691
 692 static const char *printImplicitRegisterFlag(const MachineOperand &MO) {
 693   assert(MO.isImplicit());
 694   return MO.isDef() ? "implicit-def" : "implicit";
 695 }
 696
 697 static std::string getRegisterName(const TargetRegisterInfo *TRI,
 698                                    unsigned Reg) {
 699   assert(TargetRegisterInfo::isPhysicalRegister(Reg) && "expected phys reg");
 700   return StringRef(TRI->getName(Reg)).lower();
 701 }
 702
 703 bool MIParser::verifyImplicitOperands(
 704     ArrayRef<MachineOperandWithLocation> Operands, const MCInstrDesc &MCID) {
 705   if (MCID.isCall())
 706     // We can't verify call instructions as they can contain arbitrary implicit
 707     // register and register mask operands.
 708     return false;
 709
 710   // Gather all the expected implicit operands.
 711   SmallVector<MachineOperand, 4> ImplicitOperands;
 712   if (MCID.ImplicitDefs)
 713     for (const uint16_t *ImpDefs = MCID.getImplicitDefs(); *ImpDefs; ++ImpDefs)
 714       ImplicitOperands.push_back(
 715           MachineOperand::CreateReg(*ImpDefs, true, true));
 716   if (MCID.ImplicitUses)
 717     for (const uint16_t *ImpUses = MCID.getImplicitUses(); *ImpUses; ++ImpUses)
 718       ImplicitOperands.push_back(
 719           MachineOperand::CreateReg(*ImpUses, false, true));
 720
 721   const auto *TRI = MF.getSubtarget().getRegisterInfo();
 722   assert(TRI && "Expected target register info");
 723   size_t I = ImplicitOperands.size(), J = Operands.size();
 724   while (I) {
 725     --I;
 726     if (J) {
 727       --J;
 728       const auto &ImplicitOperand = ImplicitOperands[I];
 729       const auto &Operand = Operands[J].Operand;
 730       if (ImplicitOperand.isIdenticalTo(Operand))
 731         continue;
 732       if (Operand.isReg() && Operand.isImplicit()) {
 733         // Check if this implicit register is a subregister of an explicit
 734         // register operand.
 735         bool IsImplicitSubRegister = false;
 736         for (size_t K = 0, E = Operands.size(); K < E; ++K) {
 737           const auto &Op = Operands[K].Operand;
 738           if (Op.isReg() && !Op.isImplicit() &&
 739               TRI->isSubRegister(Op.getReg(), Operand.getReg())) {
 740             IsImplicitSubRegister = true;
 741             break;
 742           }
 743         }
 744         if (IsImplicitSubRegister)
 745           continue;
 746         return error(Operands[J].Begin,
 747                      Twine("expected an implicit register operand '") +
 748                          printImplicitRegisterFlag(ImplicitOperand) + " %" +
 749                          getRegisterName(TRI, ImplicitOperand.getReg()) + "'");
 750       }
 751     }
 752     // TODO: Fix source location when Operands[J].end is right before '=', i.e:
 753     // insead of reporting an error at this location:
 754     //            %eax = MOV32r0
 755     //                 ^
 756     // report the error at the following location:
 757     //            %eax = MOV32r0
 758     //                          ^
 759     return error(J < Operands.size() ? Operands[J].End : Token.location(),
 760                  Twine("missing implicit register operand '") +
 761                      printImplicitRegisterFlag(ImplicitOperands[I]) + " %" +
 762                      getRegisterName(TRI, ImplicitOperands[I].getReg()) + "'");
 763   }
 764   return false;
 765 }
 766
 767 bool MIParser::parseInstruction(unsigned &OpCode, unsigned &Flags) {
 768   if (Token.is(MIToken::kw_frame_setup)) {
 769     Flags |= MachineInstr::FrameSetup;
 770     lex();
 771   }
 772   if (Token.isNot(MIToken::Identifier))
 773     return error("expected a machine instruction");
 774   StringRef InstrName = Token.stringValue();
 775   if (parseInstrName(InstrName, OpCode))
 776     return error(Twine("unknown machine instruction name '") + InstrName + "'");
 777   lex();
 778   return false;
 779 }
 780
 781 bool MIParser::parseRegister(unsigned &Reg) {
 782   switch (Token.kind()) {
 783   case MIToken::underscore:
 784     Reg = 0;
 785     break;
 786   case MIToken::NamedRegister: {
 787     StringRef Name = Token.stringValue();
 788     if (getRegisterByName(Name, Reg))
 789       return error(Twine("unknown register name '") + Name + "'");
 790     break;
 791   }
 792   case MIToken::VirtualRegister: {
 793     unsigned ID;
 794     if (getUnsigned(ID))
 795       return true;
 796     const auto RegInfo = PFS.VirtualRegisterSlots.find(ID);
 797     if (RegInfo == PFS.VirtualRegisterSlots.end())
 798       return error(Twine("use of undefined virtual register '%") + Twine(ID) +
 799                    "'");
 800     Reg = RegInfo->second;
 801     break;
 802   }
 803   // TODO: Parse other register kinds.
 804   default:
 805     llvm_unreachable("The current token should be a register");
 806   }
 807   return false;
 808 }
 809
 810 bool MIParser::parseRegisterFlag(unsigned &Flags) {
 811   const unsigned OldFlags = Flags;
 812   switch (Token.kind()) {
 813   case MIToken::kw_implicit:
 814     Flags |= RegState::Implicit;
 815     break;
 816   case MIToken::kw_implicit_define:
 817     Flags |= RegState::ImplicitDefine;
 818     break;
 819   case MIToken::kw_def:
 820     Flags |= RegState::Define;
 821     break;
 822   case MIToken::kw_dead:
 823     Flags |= RegState::Dead;
 824     break;
 825   case MIToken::kw_killed:
 826     Flags |= RegState::Kill;
 827     break;
 828   case MIToken::kw_undef:
 829     Flags |= RegState::Undef;
 830     break;
 831   case MIToken::kw_internal:
 832     Flags |= RegState::InternalRead;
 833     break;
 834   case MIToken::kw_early_clobber:
 835     Flags |= RegState::EarlyClobber;
 836     break;
 837   case MIToken::kw_debug_use:
 838     Flags |= RegState::Debug;
 839     break;
 840   default:
 841     llvm_unreachable("The current token should be a register flag");
 842   }
 843   if (OldFlags == Flags)
 844     // We know that the same flag is specified more than once when the flags
 845     // weren't modified.
 846     return error("duplicate '" + Token.stringValue() + "' register flag");
 847   lex();
 848   return false;
 849 }
 850
 851 bool MIParser::parseSubRegisterIndex(unsigned &SubReg) {
 852   assert(Token.is(MIToken::colon));
 853   lex();
 854   if (Token.isNot(MIToken::Identifier))
 855     return error("expected a subregister index after ':'");
 856   auto Name = Token.stringValue();
 857   SubReg = getSubRegIndex(Name);
 858   if (!SubReg)
 859     return error(Twine("use of unknown subregister index '") + Name + "'");
 860   lex();
 861   return false;
 862 }
 863
 864 bool MIParser::parseRegisterOperand(MachineOperand &Dest, bool IsDef) {
 865   unsigned Reg;
 866   unsigned Flags = IsDef ? RegState::Define : 0;
 867   while (Token.isRegisterFlag()) {
 868     if (parseRegisterFlag(Flags))
 869       return true;
 870   }
 871   if (!Token.isRegister())
 872     return error("expected a register after register flags");
 873   if (parseRegister(Reg))
 874     return true;
 875   lex();
 876   unsigned SubReg = 0;
 877   if (Token.is(MIToken::colon)) {
 878     if (parseSubRegisterIndex(SubReg))
 879       return true;
 880   }
 881   Dest = MachineOperand::CreateReg(
 882       Reg, Flags & RegState::Define, Flags & RegState::Implicit,
 883       Flags & RegState::Kill, Flags & RegState::Dead, Flags & RegState::Undef,
 884       Flags & RegState::EarlyClobber, SubReg, Flags & RegState::Debug,
 885       Flags & RegState::InternalRead);
 886   return false;
 887 }
 888
 889 bool MIParser::parseImmediateOperand(MachineOperand &Dest) {
 890   assert(Token.is(MIToken::IntegerLiteral));
 891   const APSInt &Int = Token.integerValue();
 892   if (Int.getMinSignedBits() > 64)
 893     return error("integer literal is too large to be an immediate operand");
 894   Dest = MachineOperand::CreateImm(Int.getExtValue());
 895   lex();
 896   return false;
 897 }
 898
 899 bool MIParser::parseIRConstant(StringRef::iterator Loc, const Constant *&C) {
 900   auto Source = StringRef(Loc, Token.range().end() - Loc).str();
 901   lex();
 902   SMDiagnostic Err;
 903   C = parseConstantValue(Source.c_str(), Err, *MF.getFunction()->getParent());
 904   if (!C)
 905     return error(Loc + Err.getColumnNo(), Err.getMessage());
 906   return false;
 907 }
 908
 909 bool MIParser::parseTypedImmediateOperand(MachineOperand &Dest) {
 910   assert(Token.is(MIToken::IntegerType));
 911   auto Loc = Token.location();
 912   lex();
 913   if (Token.isNot(MIToken::IntegerLiteral))
 914     return error("expected an integer literal");
 915   const Constant *C = nullptr;
 916   if (parseIRConstant(Loc, C))
 917     return true;
 918   Dest = MachineOperand::CreateCImm(cast<ConstantInt>(C));
 919   return false;
 920 }
 921
 922 bool MIParser::parseFPImmediateOperand(MachineOperand &Dest) {
 923   auto Loc = Token.location();
 924   lex();
 925   if (Token.isNot(MIToken::FloatingPointLiteral))
 926     return error("expected a floating point literal");
 927   const Constant *C = nullptr;
 928   if (parseIRConstant(Loc, C))
 929     return true;
 930   Dest = MachineOperand::CreateFPImm(cast<ConstantFP>(C));
 931   return false;
 932 }
 933
 934 bool MIParser::getUnsigned(unsigned &Result) {
 935   assert(Token.hasIntegerValue() && "Expected a token with an integer value");
 936   const uint64_t Limit = uint64_t(std::numeric_limits<unsigned>::max()) + 1;
 937   uint64_t Val64 = Token.integerValue().getLimitedValue(Limit);
 938   if (Val64 == Limit)
 939     return error("expected 32-bit integer (too large)");
 940   Result = Val64;
 941   return false;
 942 }
 943
 944 bool MIParser::parseMBBReference(MachineBasicBlock *&MBB) {
 945   assert(Token.is(MIToken::MachineBasicBlock) ||
 946          Token.is(MIToken::MachineBasicBlockLabel));
 947   unsigned Number;
 948   if (getUnsigned(Number))
 949     return true;
 950   auto MBBInfo = PFS.MBBSlots.find(Number);
 951   if (MBBInfo == PFS.MBBSlots.end())
 952     return error(Twine("use of undefined machine basic block #") +
 953                  Twine(Number));
 954   MBB = MBBInfo->second;
 955   if (!Token.stringValue().empty() && Token.stringValue() != MBB->getName())
 956     return error(Twine("the name of machine basic block #") + Twine(Number) +
 957                  " isn't '" + Token.stringValue() + "'");
 958   return false;
 959 }
 960
 961 bool MIParser::parseMBBOperand(MachineOperand &Dest) {
 962   MachineBasicBlock *MBB;
 963   if (parseMBBReference(MBB))
 964     return true;
 965   Dest = MachineOperand::CreateMBB(MBB);
 966   lex();
 967   return false;
 968 }
 969
 970 bool MIParser::parseStackFrameIndex(int &FI) {
 971   assert(Token.is(MIToken::StackObject));
 972   unsigned ID;
 973   if (getUnsigned(ID))
 974     return true;
 975   auto ObjectInfo = PFS.StackObjectSlots.find(ID);
 976   if (ObjectInfo == PFS.StackObjectSlots.end())
 977     return error(Twine("use of undefined stack object '%stack.") + Twine(ID) +
 978                  "'");
 979   StringRef Name;
 980   if (const auto *Alloca =
 981           MF.getFrameInfo()->getObjectAllocation(ObjectInfo->second))
 982     Name = Alloca->getName();
 983   if (!Token.stringValue().empty() && Token.stringValue() != Name)
 984     return error(Twine("the name of the stack object '%stack.") + Twine(ID) +
 985                  "' isn't '" + Token.stringValue() + "'");
 986   lex();
 987   FI = ObjectInfo->second;
 988   return false;
 989 }
 990
 991 bool MIParser::parseStackObjectOperand(MachineOperand &Dest) {
 992   int FI;
 993   if (parseStackFrameIndex(FI))
 994     return true;
 995   Dest = MachineOperand::CreateFI(FI);
 996   return false;
 997 }
 998
 999 bool MIParser::parseFixedStackFrameIndex(int &FI) {
1000   assert(Token.is(MIToken::FixedStackObject));
1001   unsigned ID;
1002   if (getUnsigned(ID))
1003     return true;
1004   auto ObjectInfo = PFS.FixedStackObjectSlots.find(ID);
1005   if (ObjectInfo == PFS.FixedStackObjectSlots.end())
1006     return error(Twine("use of undefined fixed stack object '%fixed-stack.") +
1007                  Twine(ID) + "'");
1008   lex();
1009   FI = ObjectInfo->second;
1010   return false;
1011 }
1012
1013 bool MIParser::parseFixedStackObjectOperand(MachineOperand &Dest) {
1014   int FI;
1015   if (parseFixedStackFrameIndex(FI))
1016     return true;
1017   Dest = MachineOperand::CreateFI(FI);
1018   return false;
1019 }
1020
1021 bool MIParser::parseGlobalValue(GlobalValue *&GV) {
1022   switch (Token.kind()) {
1023   case MIToken::NamedGlobalValue: {
1024     const Module *M = MF.getFunction()->getParent();
1025     GV = M->getNamedValue(Token.stringValue());
1026     if (!GV)
1027       return error(Twine("use of undefined global value '") + Token.range() +
1028                    "'");
1029     break;
1030   }
1031   case MIToken::GlobalValue: {
1032     unsigned GVIdx;
1033     if (getUnsigned(GVIdx))
1034       return true;
1035     if (GVIdx >= IRSlots.GlobalValues.size())
1036       return error(Twine("use of undefined global value '@") + Twine(GVIdx) +
1037                    "'");
1038     GV = IRSlots.GlobalValues[GVIdx];
1039     break;
1040   }
1041   default:
1042     llvm_unreachable("The current token should be a global value");
1043   }
1044   return false;
1045 }
1046
1047 bool MIParser::parseGlobalAddressOperand(MachineOperand &Dest) {
1048   GlobalValue *GV = nullptr;
1049   if (parseGlobalValue(GV))
1050     return true;
1051   lex();
1052   Dest = MachineOperand::CreateGA(GV, /*Offset=*/0);
1053   if (parseOperandsOffset(Dest))
1054     return true;
1055   return false;
1056 }
1057
1058 bool MIParser::parseConstantPoolIndexOperand(MachineOperand &Dest) {
1059   assert(Token.is(MIToken::ConstantPoolItem));
1060   unsigned ID;
1061   if (getUnsigned(ID))
1062     return true;
1063   auto ConstantInfo = PFS.ConstantPoolSlots.find(ID);
1064   if (ConstantInfo == PFS.ConstantPoolSlots.end())
1065     return error("use of undefined constant '%const." + Twine(ID) + "'");
1066   lex();
1067   Dest = MachineOperand::CreateCPI(ID, /*Offset=*/0);
1068   if (parseOperandsOffset(Dest))
1069     return true;
1070   return false;
1071 }
1072
1073 bool MIParser::parseJumpTableIndexOperand(MachineOperand &Dest) {
1074   assert(Token.is(MIToken::JumpTableIndex));
1075   unsigned ID;
1076   if (getUnsigned(ID))
1077     return true;
1078   auto JumpTableEntryInfo = PFS.JumpTableSlots.find(ID);
1079   if (JumpTableEntryInfo == PFS.JumpTableSlots.end())
1080     return error("use of undefined jump table '%jump-table." + Twine(ID) + "'");
1081   lex();
1082   Dest = MachineOperand::CreateJTI(JumpTableEntryInfo->second);
1083   return false;
1084 }
1085
1086 bool MIParser::parseExternalSymbolOperand(MachineOperand &Dest) {
1087   assert(Token.is(MIToken::ExternalSymbol));
1088   const char *Symbol = MF.createExternalSymbolName(Token.stringValue());
1089   lex();
1090   Dest = MachineOperand::CreateES(Symbol);
1091   if (parseOperandsOffset(Dest))
1092     return true;
1093   return false;
1094 }
1095
1096 bool MIParser::parseMDNode(MDNode *&Node) {
1097   assert(Token.is(MIToken::exclaim));
1098   auto Loc = Token.location();
1099   lex();
1100   if (Token.isNot(MIToken::IntegerLiteral) || Token.integerValue().isSigned())
1101     return error("expected metadata id after '!'");
1102   unsigned ID;
1103   if (getUnsigned(ID))
1104     return true;
1105   auto NodeInfo = IRSlots.MetadataNodes.find(ID);
1106   if (NodeInfo == IRSlots.MetadataNodes.end())
1107     return error(Loc, "use of undefined metadata '!" + Twine(ID) + "'");
1108   lex();
1109   Node = NodeInfo->second.get();
1110   return false;
1111 }
1112
1113 bool MIParser::parseMetadataOperand(MachineOperand &Dest) {
1114   MDNode *Node = nullptr;
1115   if (parseMDNode(Node))
1116     return true;
1117   Dest = MachineOperand::CreateMetadata(Node);
1118   return false;
1119 }
1120
1121 bool MIParser::parseCFIOffset(int &Offset) {
1122   if (Token.isNot(MIToken::IntegerLiteral))
1123     return error("expected a cfi offset");
1124   if (Token.integerValue().getMinSignedBits() > 32)
1125     return error("expected a 32 bit integer (the cfi offset is too large)");
1126   Offset = (int)Token.integerValue().getExtValue();
1127   lex();
1128   return false;
1129 }
1130
1131 bool MIParser::parseCFIRegister(unsigned &Reg) {
1132   if (Token.isNot(MIToken::NamedRegister))
1133     return error("expected a cfi register");
1134   unsigned LLVMReg;
1135   if (parseRegister(LLVMReg))
1136     return true;
1137   const auto *TRI = MF.getSubtarget().getRegisterInfo();
1138   assert(TRI && "Expected target register info");
1139   int DwarfReg = TRI->getDwarfRegNum(LLVMReg, true);
1140   if (DwarfReg < 0)
1141     return error("invalid DWARF register");
1142   Reg = (unsigned)DwarfReg;
1143   lex();
1144   return false;
1145 }
1146
1147 bool MIParser::parseCFIOperand(MachineOperand &Dest) {
1148   auto Kind = Token.kind();
1149   lex();
1150   auto &MMI = MF.getMMI();
1151   int Offset;
1152   unsigned Reg;
1153   unsigned CFIIndex;
1154   switch (Kind) {
1155   case MIToken::kw_cfi_same_value:
1156     if (parseCFIRegister(Reg))
1157       return true;
1158     CFIIndex =
1159         MMI.addFrameInst(MCCFIInstruction::createSameValue(nullptr, Reg));
1160     break;
1161   case MIToken::kw_cfi_offset:
1162     if (parseCFIRegister(Reg) || expectAndConsume(MIToken::comma) ||
1163         parseCFIOffset(Offset))
1164       return true;
1165     CFIIndex =
1166         MMI.addFrameInst(MCCFIInstruction::createOffset(nullptr, Reg, Offset));
1167     break;
1168   case MIToken::kw_cfi_def_cfa_register:
1169     if (parseCFIRegister(Reg))
1170       return true;
1171     CFIIndex =
1172         MMI.addFrameInst(MCCFIInstruction::createDefCfaRegister(nullptr, Reg));
1173     break;
1174   case MIToken::kw_cfi_def_cfa_offset:
1175     if (parseCFIOffset(Offset))
1176       return true;
1177     // NB: MCCFIInstruction::createDefCfaOffset negates the offset.
1178     CFIIndex = MMI.addFrameInst(
1179         MCCFIInstruction::createDefCfaOffset(nullptr, -Offset));
1180     break;
1181   case MIToken::kw_cfi_def_cfa:
1182     if (parseCFIRegister(Reg) || expectAndConsume(MIToken::comma) ||
1183         parseCFIOffset(Offset))
1184       return true;
1185     // NB: MCCFIInstruction::createDefCfa negates the offset.
1186     CFIIndex =
1187         MMI.addFrameInst(MCCFIInstruction::createDefCfa(nullptr, Reg, -Offset));
1188     break;
1189   default:
1190     // TODO: Parse the other CFI operands.
1191     llvm_unreachable("The current token should be a cfi operand");
1192   }
1193   Dest = MachineOperand::CreateCFIIndex(CFIIndex);
1194   return false;
1195 }
1196
1197 bool MIParser::parseIRBlock(BasicBlock *&BB, const Function &F) {
1198   switch (Token.kind()) {
1199   case MIToken::NamedIRBlock: {
1200     BB = dyn_cast_or_null<BasicBlock>(
1201         F.getValueSymbolTable().lookup(Token.stringValue()));
1202     if (!BB)
1203       return error(Twine("use of undefined IR block '") + Token.range() + "'");
1204     break;
1205   }
1206   case MIToken::IRBlock: {
1207     unsigned SlotNumber = 0;
1208     if (getUnsigned(SlotNumber))
1209       return true;
1210     BB = const_cast<BasicBlock *>(getIRBlock(SlotNumber, F));
1211     if (!BB)
1212       return error(Twine("use of undefined IR block '%ir-block.") +
1213                    Twine(SlotNumber) + "'");
1214     break;
1215   }
1216   default:
1217     llvm_unreachable("The current token should be an IR block reference");
1218   }
1219   return false;
1220 }
1221
1222 bool MIParser::parseBlockAddressOperand(MachineOperand &Dest) {
1223   assert(Token.is(MIToken::kw_blockaddress));
1224   lex();
1225   if (expectAndConsume(MIToken::lparen))
1226     return true;
1227   if (Token.isNot(MIToken::GlobalValue) &&
1228       Token.isNot(MIToken::NamedGlobalValue))
1229     return error("expected a global value");
1230   GlobalValue *GV = nullptr;
1231   if (parseGlobalValue(GV))
1232     return true;
1233   auto *F = dyn_cast<Function>(GV);
1234   if (!F)
1235     return error("expected an IR function reference");
1236   lex();
1237   if (expectAndConsume(MIToken::comma))
1238     return true;
1239   BasicBlock *BB = nullptr;
1240   if (Token.isNot(MIToken::IRBlock) && Token.isNot(MIToken::NamedIRBlock))
1241     return error("expected an IR block reference");
1242   if (parseIRBlock(BB, *F))
1243     return true;
1244   lex();
1245   if (expectAndConsume(MIToken::rparen))
1246     return true;
1247   Dest = MachineOperand::CreateBA(BlockAddress::get(F, BB), /*Offset=*/0);
1248   if (parseOperandsOffset(Dest))
1249     return true;
1250   return false;
1251 }
1252
1253 bool MIParser::parseTargetIndexOperand(MachineOperand &Dest) {
1254   assert(Token.is(MIToken::kw_target_index));
1255   lex();
1256   if (expectAndConsume(MIToken::lparen))
1257     return true;
1258   if (Token.isNot(MIToken::Identifier))
1259     return error("expected the name of the target index");
1260   int Index = 0;
1261   if (getTargetIndex(Token.stringValue(), Index))
1262     return error("use of undefined target index '" + Token.stringValue() + "'");
1263   lex();
1264   if (expectAndConsume(MIToken::rparen))
1265     return true;
1266   Dest = MachineOperand::CreateTargetIndex(unsigned(Index), /*Offset=*/0);
1267   if (parseOperandsOffset(Dest))
1268     return true;
1269   return false;
1270 }
1271
1272 bool MIParser::parseLiveoutRegisterMaskOperand(MachineOperand &Dest) {
1273   assert(Token.is(MIToken::kw_liveout));
1274   const auto *TRI = MF.getSubtarget().getRegisterInfo();
1275   assert(TRI && "Expected target register info");
1276   uint32_t *Mask = MF.allocateRegisterMask(TRI->getNumRegs());
1277   lex();
1278   if (expectAndConsume(MIToken::lparen))
1279     return true;
1280   while (true) {
1281     if (Token.isNot(MIToken::NamedRegister))
1282       return error("expected a named register");
1283     unsigned Reg = 0;
1284     if (parseRegister(Reg))
1285       return true;
1286     lex();
1287     Mask[Reg / 32] |= 1U << (Reg % 32);
1288     // TODO: Report an error if the same register is used more than once.
1289     if (Token.isNot(MIToken::comma))
1290       break;
1291     lex();
1292   }
1293   if (expectAndConsume(MIToken::rparen))
1294     return true;
1295   Dest = MachineOperand::CreateRegLiveOut(Mask);
1296   return false;
1297 }
1298
1299 bool MIParser::parseMachineOperand(MachineOperand &Dest) {
1300   switch (Token.kind()) {
1301   case MIToken::kw_implicit:
1302   case MIToken::kw_implicit_define:
1303   case MIToken::kw_def:
1304   case MIToken::kw_dead:
1305   case MIToken::kw_killed:
1306   case MIToken::kw_undef:
1307   case MIToken::kw_internal:
1308   case MIToken::kw_early_clobber:
1309   case MIToken::kw_debug_use:
1310   case MIToken::underscore:
1311   case MIToken::NamedRegister:
1312   case MIToken::VirtualRegister:
1313     return parseRegisterOperand(Dest);
1314   case MIToken::IntegerLiteral:
1315     return parseImmediateOperand(Dest);
1316   case MIToken::IntegerType:
1317     return parseTypedImmediateOperand(Dest);
1318   case MIToken::kw_half:
1319   case MIToken::kw_float:
1320   case MIToken::kw_double:
1321   case MIToken::kw_x86_fp80:
1322   case MIToken::kw_fp128:
1323   case MIToken::kw_ppc_fp128:
1324     return parseFPImmediateOperand(Dest);
1325   case MIToken::MachineBasicBlock:
1326     return parseMBBOperand(Dest);
1327   case MIToken::StackObject:
1328     return parseStackObjectOperand(Dest);
1329   case MIToken::FixedStackObject:
1330     return parseFixedStackObjectOperand(Dest);
1331   case MIToken::GlobalValue:
1332   case MIToken::NamedGlobalValue:
1333     return parseGlobalAddressOperand(Dest);
1334   case MIToken::ConstantPoolItem:
1335     return parseConstantPoolIndexOperand(Dest);
1336   case MIToken::JumpTableIndex:
1337     return parseJumpTableIndexOperand(Dest);
1338   case MIToken::ExternalSymbol:
1339     return parseExternalSymbolOperand(Dest);
1340   case MIToken::exclaim:
1341     return parseMetadataOperand(Dest);
1342   case MIToken::kw_cfi_same_value:
1343   case MIToken::kw_cfi_offset:
1344   case MIToken::kw_cfi_def_cfa_register:
1345   case MIToken::kw_cfi_def_cfa_offset:
1346   case MIToken::kw_cfi_def_cfa:
1347     return parseCFIOperand(Dest);
1348   case MIToken::kw_blockaddress:
1349     return parseBlockAddressOperand(Dest);
1350   case MIToken::kw_target_index:
1351     return parseTargetIndexOperand(Dest);
1352   case MIToken::kw_liveout:
1353     return parseLiveoutRegisterMaskOperand(Dest);
1354   case MIToken::Error:
1355     return true;
1356   case MIToken::Identifier:
1357     if (const auto *RegMask = getRegMask(Token.stringValue())) {
1358       Dest = MachineOperand::CreateRegMask(RegMask);
1359       lex();
1360       break;
1361     }
1362   // fallthrough
1363   default:
1364     // TODO: parse the other machine operands.
1365     return error("expected a machine operand");
1366   }
1367   return false;
1368 }
1369
1370 bool MIParser::parseMachineOperandAndTargetFlags(MachineOperand &Dest) {
1371   unsigned TF = 0;
1372   bool HasTargetFlags = false;
1373   if (Token.is(MIToken::kw_target_flags)) {
1374     HasTargetFlags = true;
1375     lex();
1376     if (expectAndConsume(MIToken::lparen))
1377       return true;
1378     if (Token.isNot(MIToken::Identifier))
1379       return error("expected the name of the target flag");
1380     if (getDirectTargetFlag(Token.stringValue(), TF)) {
1381       if (getBitmaskTargetFlag(Token.stringValue(), TF))
1382         return error("use of undefined target flag '" + Token.stringValue() +
1383                      "'");
1384     }
1385     lex();
1386     while (Token.is(MIToken::comma)) {
1387       lex();
1388       if (Token.isNot(MIToken::Identifier))
1389         return error("expected the name of the target flag");
1390       unsigned BitFlag = 0;
1391       if (getBitmaskTargetFlag(Token.stringValue(), BitFlag))
1392         return error("use of undefined target flag '" + Token.stringValue() +
1393                      "'");
1394       // TODO: Report an error when using a duplicate bit target flag.
1395       TF |= BitFlag;
1396       lex();
1397     }
1398     if (expectAndConsume(MIToken::rparen))
1399       return true;
1400   }
1401   auto Loc = Token.location();
1402   if (parseMachineOperand(Dest))
1403     return true;
1404   if (!HasTargetFlags)
1405     return false;
1406   if (Dest.isReg())
1407     return error(Loc, "register operands can't have target flags");
1408   Dest.setTargetFlags(TF);
1409   return false;
1410 }
1411
1412 bool MIParser::parseOffset(int64_t &Offset) {
1413   if (Token.isNot(MIToken::plus) && Token.isNot(MIToken::minus))
1414     return false;
1415   StringRef Sign = Token.range();
1416   bool IsNegative = Token.is(MIToken::minus);
1417   lex();
1418   if (Token.isNot(MIToken::IntegerLiteral))
1419     return error("expected an integer literal after '" + Sign + "'");
1420   if (Token.integerValue().getMinSignedBits() > 64)
1421     return error("expected 64-bit integer (too large)");
1422   Offset = Token.integerValue().getExtValue();
1423   if (IsNegative)
1424     Offset = -Offset;
1425   lex();
1426   return false;
1427 }
1428
1429 bool MIParser::parseAlignment(unsigned &Alignment) {
1430   assert(Token.is(MIToken::kw_align));
1431   lex();
1432   if (Token.isNot(MIToken::IntegerLiteral) || Token.integerValue().isSigned())
1433     return error("expected an integer literal after 'align'");
1434   if (getUnsigned(Alignment))
1435     return true;
1436   lex();
1437   return false;
1438 }
1439
1440 bool MIParser::parseOperandsOffset(MachineOperand &Op) {
1441   int64_t Offset = 0;
1442   if (parseOffset(Offset))
1443     return true;
1444   Op.setOffset(Offset);
1445   return false;
1446 }
1447
1448 bool MIParser::parseIRValue(Value *&V) {
1449   switch (Token.kind()) {
1450   case MIToken::NamedIRValue: {
1451     V = MF.getFunction()->getValueSymbolTable().lookup(Token.stringValue());
1452     if (!V)
1453       V = MF.getFunction()->getParent()->getValueSymbolTable().lookup(
1454           Token.stringValue());
1455     if (!V)
1456       return error(Twine("use of undefined IR value '") + Token.range() + "'");
1457     break;
1458   }
1459   // TODO: Parse unnamed IR value references.
1460   default:
1461     llvm_unreachable("The current token should be an IR block reference");
1462   }
1463   return false;
1464 }
1465
1466 bool MIParser::getUint64(uint64_t &Result) {
1467   assert(Token.hasIntegerValue());
1468   if (Token.integerValue().getActiveBits() > 64)
1469     return error("expected 64-bit integer (too large)");
1470   Result = Token.integerValue().getZExtValue();
1471   return false;
1472 }
1473
1474 bool MIParser::parseMemoryOperandFlag(unsigned &Flags) {
1475   const unsigned OldFlags = Flags;
1476   switch (Token.kind()) {
1477   case MIToken::kw_volatile:
1478     Flags |= MachineMemOperand::MOVolatile;
1479     break;
1480   case MIToken::kw_non_temporal:
1481     Flags |= MachineMemOperand::MONonTemporal;
1482     break;
1483   case MIToken::kw_invariant:
1484     Flags |= MachineMemOperand::MOInvariant;
1485     break;
1486   // TODO: parse the target specific memory operand flags.
1487   default:
1488     llvm_unreachable("The current token should be a memory operand flag");
1489   }
1490   if (OldFlags == Flags)
1491     // We know that the same flag is specified more than once when the flags
1492     // weren't modified.
1493     return error("duplicate '" + Token.stringValue() + "' memory operand flag");
1494   lex();
1495   return false;
1496 }
1497
1498 bool MIParser::parseMemoryPseudoSourceValue(const PseudoSourceValue *&PSV) {
1499   switch (Token.kind()) {
1500   case MIToken::kw_stack:
1501     PSV = MF.getPSVManager().getStack();
1502     break;
1503   case MIToken::kw_got:
1504     PSV = MF.getPSVManager().getGOT();
1505     break;
1506   case MIToken::kw_jump_table:
1507     PSV = MF.getPSVManager().getJumpTable();
1508     break;
1509   case MIToken::kw_constant_pool:
1510     PSV = MF.getPSVManager().getConstantPool();
1511     break;
1512   case MIToken::FixedStackObject: {
1513     int FI;
1514     if (parseFixedStackFrameIndex(FI))
1515       return true;
1516     PSV = MF.getPSVManager().getFixedStack(FI);
1517     // The token was already consumed, so use return here instead of break.
1518     return false;
1519   }
1520   case MIToken::GlobalValue:
1521   case MIToken::NamedGlobalValue: {
1522     GlobalValue *GV = nullptr;
1523     if (parseGlobalValue(GV))
1524       return true;
1525     PSV = MF.getPSVManager().getGlobalValueCallEntry(GV);
1526     break;
1527   }
1528   case MIToken::ExternalSymbol:
1529     PSV = MF.getPSVManager().getExternalSymbolCallEntry(
1530         MF.createExternalSymbolName(Token.stringValue()));
1531     break;
1532   default:
1533     llvm_unreachable("The current token should be pseudo source value");
1534   }
1535   lex();
1536   return false;
1537 }
1538
1539 bool MIParser::parseMachinePointerInfo(MachinePointerInfo &Dest) {
1540   if (Token.is(MIToken::kw_constant_pool) || Token.is(MIToken::kw_stack) ||
1541       Token.is(MIToken::kw_got) || Token.is(MIToken::kw_jump_table) ||
1542       Token.is(MIToken::FixedStackObject) || Token.is(MIToken::GlobalValue) ||
1543       Token.is(MIToken::NamedGlobalValue) ||
1544       Token.is(MIToken::ExternalSymbol)) {
1545     const PseudoSourceValue *PSV = nullptr;
1546     if (parseMemoryPseudoSourceValue(PSV))
1547       return true;
1548     int64_t Offset = 0;
1549     if (parseOffset(Offset))
1550       return true;
1551     Dest = MachinePointerInfo(PSV, Offset);
1552     return false;
1553   }
1554   if (Token.isNot(MIToken::NamedIRValue))
1555     return error("expected an IR value reference");
1556   Value *V = nullptr;
1557   if (parseIRValue(V))
1558     return true;
1559   if (!V->getType()->isPointerTy())
1560     return error("expected a pointer IR value");
1561   lex();
1562   int64_t Offset = 0;
1563   if (parseOffset(Offset))
1564     return true;
1565   Dest = MachinePointerInfo(V, Offset);
1566   return false;
1567 }
1568
1569 bool MIParser::parseMachineMemoryOperand(MachineMemOperand *&Dest) {
1570   if (expectAndConsume(MIToken::lparen))
1571     return true;
1572   unsigned Flags = 0;
1573   while (Token.isMemoryOperandFlag()) {
1574     if (parseMemoryOperandFlag(Flags))
1575       return true;
1576   }
1577   if (Token.isNot(MIToken::Identifier) ||
1578       (Token.stringValue() != "load" && Token.stringValue() != "store"))
1579     return error("expected 'load' or 'store' memory operation");
1580   if (Token.stringValue() == "load")
1581     Flags |= MachineMemOperand::MOLoad;
1582   else
1583     Flags |= MachineMemOperand::MOStore;
1584   lex();
1585
1586   if (Token.isNot(MIToken::IntegerLiteral))
1587     return error("expected the size integer literal after memory operation");
1588   uint64_t Size;
1589   if (getUint64(Size))
1590     return true;
1591   lex();
1592
1593   const char *Word = Flags & MachineMemOperand::MOLoad ? "from" : "into";
1594   if (Token.isNot(MIToken::Identifier) || Token.stringValue() != Word)
1595     return error(Twine("expected '") + Word + "'");
1596   lex();
1597
1598   MachinePointerInfo Ptr = MachinePointerInfo();
1599   if (parseMachinePointerInfo(Ptr))
1600     return true;
1601   unsigned BaseAlignment = Size;
1602   AAMDNodes AAInfo;
1603   MDNode *Range = nullptr;
1604   while (consumeIfPresent(MIToken::comma)) {
1605     switch (Token.kind()) {
1606     case MIToken::kw_align:
1607       if (parseAlignment(BaseAlignment))
1608         return true;
1609       break;
1610     case MIToken::md_tbaa:
1611       lex();
1612       if (parseMDNode(AAInfo.TBAA))
1613         return true;
1614       break;
1615     case MIToken::md_alias_scope:
1616       lex();
1617       if (parseMDNode(AAInfo.Scope))
1618         return true;
1619       break;
1620     case MIToken::md_noalias:
1621       lex();
1622       if (parseMDNode(AAInfo.NoAlias))
1623         return true;
1624       break;
1625     case MIToken::md_range:
1626       lex();
1627       if (parseMDNode(Range))
1628         return true;
1629       break;
1630     // TODO: Report an error on duplicate metadata nodes.
1631     default:
1632       return error("expected 'align' or '!tbaa' or '!alias.scope' or "
1633                    "'!noalias' or '!range'");
1634     }
1635   }
1636   if (expectAndConsume(MIToken::rparen))
1637     return true;
1638   Dest =
1639       MF.getMachineMemOperand(Ptr, Flags, Size, BaseAlignment, AAInfo, Range);
1640   return false;
1641 }
1642
1643 void MIParser::initNames2InstrOpCodes() {
1644   if (!Names2InstrOpCodes.empty())
1645     return;
1646   const auto *TII = MF.getSubtarget().getInstrInfo();
1647   assert(TII && "Expected target instruction info");
1648   for (unsigned I = 0, E = TII->getNumOpcodes(); I < E; ++I)
1649     Names2InstrOpCodes.insert(std::make_pair(StringRef(TII->getName(I)), I));
1650 }
1651
1652 bool MIParser::parseInstrName(StringRef InstrName, unsigned &OpCode) {
1653   initNames2InstrOpCodes();
1654   auto InstrInfo = Names2InstrOpCodes.find(InstrName);
1655   if (InstrInfo == Names2InstrOpCodes.end())
1656     return true;
1657   OpCode = InstrInfo->getValue();
1658   return false;
1659 }
1660
1661 void MIParser::initNames2Regs() {
1662   if (!Names2Regs.empty())
1663     return;
1664   // The '%noreg' register is the register 0.
1665   Names2Regs.insert(std::make_pair("noreg", 0));
1666   const auto *TRI = MF.getSubtarget().getRegisterInfo();
1667   assert(TRI && "Expected target register info");
1668   for (unsigned I = 0, E = TRI->getNumRegs(); I < E; ++I) {
1669     bool WasInserted =
1670         Names2Regs.insert(std::make_pair(StringRef(TRI->getName(I)).lower(), I))
1671             .second;
1672     (void)WasInserted;
1673     assert(WasInserted && "Expected registers to be unique case-insensitively");
1674   }
1675 }
1676
1677 bool MIParser::getRegisterByName(StringRef RegName, unsigned &Reg) {
1678   initNames2Regs();
1679   auto RegInfo = Names2Regs.find(RegName);
1680   if (RegInfo == Names2Regs.end())
1681     return true;
1682   Reg = RegInfo->getValue();
1683   return false;
1684 }
1685
1686 void MIParser::initNames2RegMasks() {
1687   if (!Names2RegMasks.empty())
1688     return;
1689   const auto *TRI = MF.getSubtarget().getRegisterInfo();
1690   assert(TRI && "Expected target register info");
1691   ArrayRef<const uint32_t *> RegMasks = TRI->getRegMasks();
1692   ArrayRef<const char *> RegMaskNames = TRI->getRegMaskNames();
1693   assert(RegMasks.size() == RegMaskNames.size());
1694   for (size_t I = 0, E = RegMasks.size(); I < E; ++I)
1695     Names2RegMasks.insert(
1696         std::make_pair(StringRef(RegMaskNames[I]).lower(), RegMasks[I]));
1697 }
1698
1699 const uint32_t *MIParser::getRegMask(StringRef Identifier) {
1700   initNames2RegMasks();
1701   auto RegMaskInfo = Names2RegMasks.find(Identifier);
1702   if (RegMaskInfo == Names2RegMasks.end())
1703     return nullptr;
1704   return RegMaskInfo->getValue();
1705 }
1706
1707 void MIParser::initNames2SubRegIndices() {
1708   if (!Names2SubRegIndices.empty())
1709     return;
1710   const TargetRegisterInfo *TRI = MF.getSubtarget().getRegisterInfo();
1711   for (unsigned I = 1, E = TRI->getNumSubRegIndices(); I < E; ++I)
1712     Names2SubRegIndices.insert(
1713         std::make_pair(StringRef(TRI->getSubRegIndexName(I)).lower(), I));
1714 }
1715
1716 unsigned MIParser::getSubRegIndex(StringRef Name) {
1717   initNames2SubRegIndices();
1718   auto SubRegInfo = Names2SubRegIndices.find(Name);
1719   if (SubRegInfo == Names2SubRegIndices.end())
1720     return 0;
1721   return SubRegInfo->getValue();
1722 }
1723
1724 static void initSlots2BasicBlocks(
1725     const Function &F,
1726     DenseMap<unsigned, const BasicBlock *> &Slots2BasicBlocks) {
1727   ModuleSlotTracker MST(F.getParent(), /*ShouldInitializeAllMetadata=*/false);
1728   MST.incorporateFunction(F);
1729   for (auto &BB : F) {
1730     if (BB.hasName())
1731       continue;
1732     int Slot = MST.getLocalSlot(&BB);
1733     if (Slot == -1)
1734       continue;
1735     Slots2BasicBlocks.insert(std::make_pair(unsigned(Slot), &BB));
1736   }
1737 }
1738
1739 static const BasicBlock *getIRBlockFromSlot(
1740     unsigned Slot,
1741     const DenseMap<unsigned, const BasicBlock *> &Slots2BasicBlocks) {
1742   auto BlockInfo = Slots2BasicBlocks.find(Slot);
1743   if (BlockInfo == Slots2BasicBlocks.end())
1744     return nullptr;
1745   return BlockInfo->second;
1746 }
1747
1748 const BasicBlock *MIParser::getIRBlock(unsigned Slot) {
1749   if (Slots2BasicBlocks.empty())
1750     initSlots2BasicBlocks(*MF.getFunction(), Slots2BasicBlocks);
1751   return getIRBlockFromSlot(Slot, Slots2BasicBlocks);
1752 }
1753
1754 const BasicBlock *MIParser::getIRBlock(unsigned Slot, const Function &F) {
1755   if (&F == MF.getFunction())
1756     return getIRBlock(Slot);
1757   DenseMap<unsigned, const BasicBlock *> CustomSlots2BasicBlocks;
1758   initSlots2BasicBlocks(F, CustomSlots2BasicBlocks);
1759   return getIRBlockFromSlot(Slot, CustomSlots2BasicBlocks);
1760 }
1761
1762 void MIParser::initNames2TargetIndices() {
1763   if (!Names2TargetIndices.empty())
1764     return;
1765   const auto *TII = MF.getSubtarget().getInstrInfo();
1766   assert(TII && "Expected target instruction info");
1767   auto Indices = TII->getSerializableTargetIndices();
1768   for (const auto &I : Indices)
1769     Names2TargetIndices.insert(std::make_pair(StringRef(I.second), I.first));
1770 }
1771
1772 bool MIParser::getTargetIndex(StringRef Name, int &Index) {
1773   initNames2TargetIndices();
1774   auto IndexInfo = Names2TargetIndices.find(Name);
1775   if (IndexInfo == Names2TargetIndices.end())
1776     return true;
1777   Index = IndexInfo->second;
1778   return false;
1779 }
1780
1781 void MIParser::initNames2DirectTargetFlags() {
1782   if (!Names2DirectTargetFlags.empty())
1783     return;
1784   const auto *TII = MF.getSubtarget().getInstrInfo();
1785   assert(TII && "Expected target instruction info");
1786   auto Flags = TII->getSerializableDirectMachineOperandTargetFlags();
1787   for (const auto &I : Flags)
1788     Names2DirectTargetFlags.insert(
1789         std::make_pair(StringRef(I.second), I.first));
1790 }
1791
1792 bool MIParser::getDirectTargetFlag(StringRef Name, unsigned &Flag) {
1793   initNames2DirectTargetFlags();
1794   auto FlagInfo = Names2DirectTargetFlags.find(Name);
1795   if (FlagInfo == Names2DirectTargetFlags.end())
1796     return true;
1797   Flag = FlagInfo->second;
1798   return false;
1799 }
1800
1801 void MIParser::initNames2BitmaskTargetFlags() {
1802   if (!Names2BitmaskTargetFlags.empty())
1803     return;
1804   const auto *TII = MF.getSubtarget().getInstrInfo();
1805   assert(TII && "Expected target instruction info");
1806   auto Flags = TII->getSerializableBitmaskMachineOperandTargetFlags();
1807   for (const auto &I : Flags)
1808     Names2BitmaskTargetFlags.insert(
1809         std::make_pair(StringRef(I.second), I.first));
1810 }
1811
1812 bool MIParser::getBitmaskTargetFlag(StringRef Name, unsigned &Flag) {
1813   initNames2BitmaskTargetFlags();
1814   auto FlagInfo = Names2BitmaskTargetFlags.find(Name);
1815   if (FlagInfo == Names2BitmaskTargetFlags.end())
1816     return true;
1817   Flag = FlagInfo->second;
1818   return false;
1819 }
1820
1821 bool llvm::parseMachineBasicBlockDefinitions(MachineFunction &MF, StringRef Src,
1822                                              PerFunctionMIParsingState &PFS,
1823                                              const SlotMapping &IRSlots,
1824                                              SMDiagnostic &Error) {
1825   SourceMgr SM;
1826   SM.AddNewSourceBuffer(
1827       MemoryBuffer::getMemBuffer(Src, "", /*RequiresNullTerminator=*/false),
1828       SMLoc());
1829   return MIParser(SM, MF, Error, Src, PFS, IRSlots)
1830       .parseBasicBlockDefinitions(PFS.MBBSlots);
1831 }
1832
1833 bool llvm::parseMachineInstructions(MachineFunction &MF, StringRef Src,
1834                                     const PerFunctionMIParsingState &PFS,
1835                                     const SlotMapping &IRSlots,
1836                                     SMDiagnostic &Error) {
1837   SourceMgr SM;
1838   SM.AddNewSourceBuffer(
1839       MemoryBuffer::getMemBuffer(Src, "", /*RequiresNullTerminator=*/false),
1840       SMLoc());
1841   return MIParser(SM, MF, Error, Src, PFS, IRSlots).parseBasicBlocks();
1842 }
1843
1844 bool llvm::parseMBBReference(MachineBasicBlock *&MBB, SourceMgr &SM,
1845                              MachineFunction &MF, StringRef Src,
1846                              const PerFunctionMIParsingState &PFS,
1847                              const SlotMapping &IRSlots, SMDiagnostic &Error) {
1848   return MIParser(SM, MF, Error, Src, PFS, IRSlots).parseStandaloneMBB(MBB);
1849 }
1850
1851 bool llvm::parseNamedRegisterReference(unsigned &Reg, SourceMgr &SM,
1852                                        MachineFunction &MF, StringRef Src,
1853                                        const PerFunctionMIParsingState &PFS,
1854                                        const SlotMapping &IRSlots,
1855                                        SMDiagnostic &Error) {
1856   return MIParser(SM, MF, Error, Src, PFS, IRSlots)
1857       .parseStandaloneNamedRegister(Reg);
1858 }
1859
1860 bool llvm::parseVirtualRegisterReference(unsigned &Reg, SourceMgr &SM,
1861                                          MachineFunction &MF, StringRef Src,
1862                                          const PerFunctionMIParsingState &PFS,
1863                                          const SlotMapping &IRSlots,
1864                                          SMDiagnostic &Error) {
1865   return MIParser(SM, MF, Error, Src, PFS, IRSlots)
1866       .parseStandaloneVirtualRegister(Reg);
1867 }
1868
1869 bool llvm::parseStackObjectReference(int &FI, SourceMgr &SM,
1870                                      MachineFunction &MF, StringRef Src,
1871                                      const PerFunctionMIParsingState &PFS,
1872                                      const SlotMapping &IRSlots,
1873                                      SMDiagnostic &Error) {
1874   return MIParser(SM, MF, Error, Src, PFS, IRSlots)
1875       .parseStandaloneStackObject(FI);
1876 }
1877
1878 bool llvm::parseMDNode(MDNode *&Node, SourceMgr &SM, MachineFunction &MF,
1879                        StringRef Src, const PerFunctionMIParsingState &PFS,
1880                        const SlotMapping &IRSlots, SMDiagnostic &Error) {
1881   return MIParser(SM, MF, Error, Src, PFS, IRSlots).parseStandaloneMDNode(Node);
1882 }