lib/AsmParser/LLParser.cpp

   1 //===-- LLParser.cpp - Parser Class ---------------------------------------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 //  This file defines the parser class for .ll files.
  11 //
  12 //===----------------------------------------------------------------------===//
  13
  14 #include "LLParser.h"
  15 #include "llvm/ADT/SmallPtrSet.h"
  16 #include "llvm/IR/AutoUpgrade.h"
  17 #include "llvm/IR/CallingConv.h"
  18 #include "llvm/IR/Constants.h"
  19 #include "llvm/IR/DerivedTypes.h"
  20 #include "llvm/IR/InlineAsm.h"
  21 #include "llvm/IR/Instructions.h"
  22 #include "llvm/IR/LLVMContext.h"
  23 #include "llvm/IR/Module.h"
  24 #include "llvm/IR/Operator.h"
  25 #include "llvm/IR/ValueSymbolTable.h"
  26 #include "llvm/Support/ErrorHandling.h"
  27 #include "llvm/Support/SaveAndRestore.h"
  28 #include "llvm/Support/raw_ostream.h"
  29 using namespace llvm;
  30
  31 static std::string getTypeString(Type *T) {
  32   std::string Result;
  33   raw_string_ostream Tmp(Result);
  34   Tmp << *T;
  35   return Tmp.str();
  36 }
  37
  38 /// Run: module ::= toplevelentity*
  39 bool LLParser::Run() {
  40   // Prime the lexer.
  41   Lex.Lex();
  42
  43   return ParseTopLevelEntities() ||
  44          ValidateEndOfModule();
  45 }
  46
  47 /// ValidateEndOfModule - Do final validity and sanity checks at the end of the
  48 /// module.
  49 bool LLParser::ValidateEndOfModule() {
  50   // Handle any instruction metadata forward references.
  51   if (!ForwardRefInstMetadata.empty()) {
  52     for (DenseMap<Instruction*, std::vector<MDRef> >::iterator
  53          I = ForwardRefInstMetadata.begin(), E = ForwardRefInstMetadata.end();
  54          I != E; ++I) {
  55       Instruction *Inst = I->first;
  56       const std::vector<MDRef> &MDList = I->second;
  57
  58       for (unsigned i = 0, e = MDList.size(); i != e; ++i) {
  59         unsigned SlotNo = MDList[i].MDSlot;
  60
  61         if (SlotNo >= NumberedMetadata.size() ||
  62             NumberedMetadata[SlotNo] == nullptr)
  63           return Error(MDList[i].Loc, "use of undefined metadata '!" +
  64                        Twine(SlotNo) + "'");
  65         Inst->setMetadata(MDList[i].MDKind, NumberedMetadata[SlotNo]);
  66       }
  67     }
  68     ForwardRefInstMetadata.clear();
  69   }
  70
  71   for (unsigned I = 0, E = InstsWithTBAATag.size(); I < E; I++)
  72     UpgradeInstWithTBAATag(InstsWithTBAATag[I]);
  73
  74   // Handle any function attribute group forward references.
  75   for (std::map<Value*, std::vector<unsigned> >::iterator
  76          I = ForwardRefAttrGroups.begin(), E = ForwardRefAttrGroups.end();
  77          I != E; ++I) {
  78     Value *V = I->first;
  79     std::vector<unsigned> &Vec = I->second;
  80     AttrBuilder B;
  81
  82     for (std::vector<unsigned>::iterator VI = Vec.begin(), VE = Vec.end();
  83          VI != VE; ++VI)
  84       B.merge(NumberedAttrBuilders[*VI]);
  85
  86     if (Function *Fn = dyn_cast<Function>(V)) {
  87       AttributeSet AS = Fn->getAttributes();
  88       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
  89       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
  90                                AS.getFnAttributes());
  91
  92       FnAttrs.merge(B);
  93
  94       // If the alignment was parsed as an attribute, move to the alignment
  95       // field.
  96       if (FnAttrs.hasAlignmentAttr()) {
  97         Fn->setAlignment(FnAttrs.getAlignment());
  98         FnAttrs.removeAttribute(Attribute::Alignment);
  99       }
 100
 101       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
 102                             AttributeSet::get(Context,
 103                                               AttributeSet::FunctionIndex,
 104                                               FnAttrs));
 105       Fn->setAttributes(AS);
 106     } else if (CallInst *CI = dyn_cast<CallInst>(V)) {
 107       AttributeSet AS = CI->getAttributes();
 108       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
 109       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
 110                                AS.getFnAttributes());
 111       FnAttrs.merge(B);
 112       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
 113                             AttributeSet::get(Context,
 114                                               AttributeSet::FunctionIndex,
 115                                               FnAttrs));
 116       CI->setAttributes(AS);
 117     } else if (InvokeInst *II = dyn_cast<InvokeInst>(V)) {
 118       AttributeSet AS = II->getAttributes();
 119       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
 120       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
 121                                AS.getFnAttributes());
 122       FnAttrs.merge(B);
 123       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
 124                             AttributeSet::get(Context,
 125                                               AttributeSet::FunctionIndex,
 126                                               FnAttrs));
 127       II->setAttributes(AS);
 128     } else {
 129       llvm_unreachable("invalid object with forward attribute group reference");
 130     }
 131   }
 132
 133   // If there are entries in ForwardRefBlockAddresses at this point, the
 134   // function was never defined.
 135   if (!ForwardRefBlockAddresses.empty())
 136     return Error(ForwardRefBlockAddresses.begin()->first.Loc,
 137                  "expected function name in blockaddress");
 138
 139   for (unsigned i = 0, e = NumberedTypes.size(); i != e; ++i)
 140     if (NumberedTypes[i].second.isValid())
 141       return Error(NumberedTypes[i].second,
 142                    "use of undefined type '%" + Twine(i) + "'");
 143
 144   for (StringMap<std::pair<Type*, LocTy> >::iterator I =
 145        NamedTypes.begin(), E = NamedTypes.end(); I != E; ++I)
 146     if (I->second.second.isValid())
 147       return Error(I->second.second,
 148                    "use of undefined type named '" + I->getKey() + "'");
 149
 150   if (!ForwardRefComdats.empty())
 151     return Error(ForwardRefComdats.begin()->second,
 152                  "use of undefined comdat '$" +
 153                      ForwardRefComdats.begin()->first + "'");
 154
 155   if (!ForwardRefVals.empty())
 156     return Error(ForwardRefVals.begin()->second.second,
 157                  "use of undefined value '@" + ForwardRefVals.begin()->first +
 158                  "'");
 159
 160   if (!ForwardRefValIDs.empty())
 161     return Error(ForwardRefValIDs.begin()->second.second,
 162                  "use of undefined value '@" +
 163                  Twine(ForwardRefValIDs.begin()->first) + "'");
 164
 165   if (!ForwardRefMDNodes.empty())
 166     return Error(ForwardRefMDNodes.begin()->second.second,
 167                  "use of undefined metadata '!" +
 168                  Twine(ForwardRefMDNodes.begin()->first) + "'");
 169
 170   // Resolve metadata cycles.
 171   for (auto &N : NumberedMetadata)
 172     if (auto *G = cast_or_null<GenericMDNode>(N))
 173       G->resolveCycles();
 174
 175   // Look for intrinsic functions and CallInst that need to be upgraded
 176   for (Module::iterator FI = M->begin(), FE = M->end(); FI != FE; )
 177     UpgradeCallsToIntrinsic(FI++); // must be post-increment, as we remove
 178
 179   UpgradeDebugInfo(*M);
 180
 181   return false;
 182 }
 183
 184 //===----------------------------------------------------------------------===//
 185 // Top-Level Entities
 186 //===----------------------------------------------------------------------===//
 187
 188 bool LLParser::ParseTopLevelEntities() {
 189   while (1) {
 190     switch (Lex.getKind()) {
 191     default:         return TokError("expected top-level entity");
 192     case lltok::Eof: return false;
 193     case lltok::kw_declare: if (ParseDeclare()) return true; break;
 194     case lltok::kw_define:  if (ParseDefine()) return true; break;
 195     case lltok::kw_module:  if (ParseModuleAsm()) return true; break;
 196     case lltok::kw_target:  if (ParseTargetDefinition()) return true; break;
 197     case lltok::kw_deplibs: if (ParseDepLibs()) return true; break;
 198     case lltok::LocalVarID: if (ParseUnnamedType()) return true; break;
 199     case lltok::LocalVar:   if (ParseNamedType()) return true; break;
 200     case lltok::GlobalID:   if (ParseUnnamedGlobal()) return true; break;
 201     case lltok::GlobalVar:  if (ParseNamedGlobal()) return true; break;
 202     case lltok::ComdatVar:  if (parseComdat()) return true; break;
 203     case lltok::exclaim:    if (ParseStandaloneMetadata()) return true; break;
 204     case lltok::MetadataVar:if (ParseNamedMetadata()) return true; break;
 205
 206     // The Global variable production with no name can have many different
 207     // optional leading prefixes, the production is:
 208     // GlobalVar ::= OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 209     //               OptionalThreadLocal OptionalAddrSpace OptionalUnNammedAddr
 210     //               ('constant'|'global') ...
 211     case lltok::kw_private:             // OptionalLinkage
 212     case lltok::kw_internal:            // OptionalLinkage
 213     case lltok::kw_weak:                // OptionalLinkage
 214     case lltok::kw_weak_odr:            // OptionalLinkage
 215     case lltok::kw_linkonce:            // OptionalLinkage
 216     case lltok::kw_linkonce_odr:        // OptionalLinkage
 217     case lltok::kw_appending:           // OptionalLinkage
 218     case lltok::kw_common:              // OptionalLinkage
 219     case lltok::kw_extern_weak:         // OptionalLinkage
 220     case lltok::kw_external:            // OptionalLinkage
 221     case lltok::kw_default:             // OptionalVisibility
 222     case lltok::kw_hidden:              // OptionalVisibility
 223     case lltok::kw_protected:           // OptionalVisibility
 224     case lltok::kw_dllimport:           // OptionalDLLStorageClass
 225     case lltok::kw_dllexport:           // OptionalDLLStorageClass
 226     case lltok::kw_thread_local:        // OptionalThreadLocal
 227     case lltok::kw_addrspace:           // OptionalAddrSpace
 228     case lltok::kw_constant:            // GlobalType
 229     case lltok::kw_global: {            // GlobalType
 230       unsigned Linkage, Visibility, DLLStorageClass;
 231       bool UnnamedAddr;
 232       GlobalVariable::ThreadLocalMode TLM;
 233       bool HasLinkage;
 234       if (ParseOptionalLinkage(Linkage, HasLinkage) ||
 235           ParseOptionalVisibility(Visibility) ||
 236           ParseOptionalDLLStorageClass(DLLStorageClass) ||
 237           ParseOptionalThreadLocal(TLM) ||
 238           parseOptionalUnnamedAddr(UnnamedAddr) ||
 239           ParseGlobal("", SMLoc(), Linkage, HasLinkage, Visibility,
 240                       DLLStorageClass, TLM, UnnamedAddr))
 241         return true;
 242       break;
 243     }
 244
 245     case lltok::kw_attributes: if (ParseUnnamedAttrGrp()) return true; break;
 246     case lltok::kw_uselistorder: if (ParseUseListOrder()) return true; break;
 247     case lltok::kw_uselistorder_bb:
 248                                  if (ParseUseListOrderBB()) return true; break;
 249     }
 250   }
 251 }
 252
 253
 254 /// toplevelentity
 255 ///   ::= 'module' 'asm' STRINGCONSTANT
 256 bool LLParser::ParseModuleAsm() {
 257   assert(Lex.getKind() == lltok::kw_module);
 258   Lex.Lex();
 259
 260   std::string AsmStr;
 261   if (ParseToken(lltok::kw_asm, "expected 'module asm'") ||
 262       ParseStringConstant(AsmStr)) return true;
 263
 264   M->appendModuleInlineAsm(AsmStr);
 265   return false;
 266 }
 267
 268 /// toplevelentity
 269 ///   ::= 'target' 'triple' '=' STRINGCONSTANT
 270 ///   ::= 'target' 'datalayout' '=' STRINGCONSTANT
 271 bool LLParser::ParseTargetDefinition() {
 272   assert(Lex.getKind() == lltok::kw_target);
 273   std::string Str;
 274   switch (Lex.Lex()) {
 275   default: return TokError("unknown target property");
 276   case lltok::kw_triple:
 277     Lex.Lex();
 278     if (ParseToken(lltok::equal, "expected '=' after target triple") ||
 279         ParseStringConstant(Str))
 280       return true;
 281     M->setTargetTriple(Str);
 282     return false;
 283   case lltok::kw_datalayout:
 284     Lex.Lex();
 285     if (ParseToken(lltok::equal, "expected '=' after target datalayout") ||
 286         ParseStringConstant(Str))
 287       return true;
 288     M->setDataLayout(Str);
 289     return false;
 290   }
 291 }
 292
 293 /// toplevelentity
 294 ///   ::= 'deplibs' '=' '[' ']'
 295 ///   ::= 'deplibs' '=' '[' STRINGCONSTANT (',' STRINGCONSTANT)* ']'
 296 /// FIXME: Remove in 4.0. Currently parse, but ignore.
 297 bool LLParser::ParseDepLibs() {
 298   assert(Lex.getKind() == lltok::kw_deplibs);
 299   Lex.Lex();
 300   if (ParseToken(lltok::equal, "expected '=' after deplibs") ||
 301       ParseToken(lltok::lsquare, "expected '=' after deplibs"))
 302     return true;
 303
 304   if (EatIfPresent(lltok::rsquare))
 305     return false;
 306
 307   do {
 308     std::string Str;
 309     if (ParseStringConstant(Str)) return true;
 310   } while (EatIfPresent(lltok::comma));
 311
 312   return ParseToken(lltok::rsquare, "expected ']' at end of list");
 313 }
 314
 315 /// ParseUnnamedType:
 316 ///   ::= LocalVarID '=' 'type' type
 317 bool LLParser::ParseUnnamedType() {
 318   LocTy TypeLoc = Lex.getLoc();
 319   unsigned TypeID = Lex.getUIntVal();
 320   Lex.Lex(); // eat LocalVarID;
 321
 322   if (ParseToken(lltok::equal, "expected '=' after name") ||
 323       ParseToken(lltok::kw_type, "expected 'type' after '='"))
 324     return true;
 325
 326   if (TypeID >= NumberedTypes.size())
 327     NumberedTypes.resize(TypeID+1);
 328
 329   Type *Result = nullptr;
 330   if (ParseStructDefinition(TypeLoc, "",
 331                             NumberedTypes[TypeID], Result)) return true;
 332
 333   if (!isa<StructType>(Result)) {
 334     std::pair<Type*, LocTy> &Entry = NumberedTypes[TypeID];
 335     if (Entry.first)
 336       return Error(TypeLoc, "non-struct types may not be recursive");
 337     Entry.first = Result;
 338     Entry.second = SMLoc();
 339   }
 340
 341   return false;
 342 }
 343
 344
 345 /// toplevelentity
 346 ///   ::= LocalVar '=' 'type' type
 347 bool LLParser::ParseNamedType() {
 348   std::string Name = Lex.getStrVal();
 349   LocTy NameLoc = Lex.getLoc();
 350   Lex.Lex();  // eat LocalVar.
 351
 352   if (ParseToken(lltok::equal, "expected '=' after name") ||
 353       ParseToken(lltok::kw_type, "expected 'type' after name"))
 354     return true;
 355
 356   Type *Result = nullptr;
 357   if (ParseStructDefinition(NameLoc, Name,
 358                             NamedTypes[Name], Result)) return true;
 359
 360   if (!isa<StructType>(Result)) {
 361     std::pair<Type*, LocTy> &Entry = NamedTypes[Name];
 362     if (Entry.first)
 363       return Error(NameLoc, "non-struct types may not be recursive");
 364     Entry.first = Result;
 365     Entry.second = SMLoc();
 366   }
 367
 368   return false;
 369 }
 370
 371
 372 /// toplevelentity
 373 ///   ::= 'declare' FunctionHeader
 374 bool LLParser::ParseDeclare() {
 375   assert(Lex.getKind() == lltok::kw_declare);
 376   Lex.Lex();
 377
 378   Function *F;
 379   return ParseFunctionHeader(F, false);
 380 }
 381
 382 /// toplevelentity
 383 ///   ::= 'define' FunctionHeader '{' ...
 384 bool LLParser::ParseDefine() {
 385   assert(Lex.getKind() == lltok::kw_define);
 386   Lex.Lex();
 387
 388   Function *F;
 389   return ParseFunctionHeader(F, true) ||
 390          ParseFunctionBody(*F);
 391 }
 392
 393 /// ParseGlobalType
 394 ///   ::= 'constant'
 395 ///   ::= 'global'
 396 bool LLParser::ParseGlobalType(bool &IsConstant) {
 397   if (Lex.getKind() == lltok::kw_constant)
 398     IsConstant = true;
 399   else if (Lex.getKind() == lltok::kw_global)
 400     IsConstant = false;
 401   else {
 402     IsConstant = false;
 403     return TokError("expected 'global' or 'constant'");
 404   }
 405   Lex.Lex();
 406   return false;
 407 }
 408
 409 /// ParseUnnamedGlobal:
 410 ///   OptionalVisibility ALIAS ...
 411 ///   OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 412 ///                                                     ...   -> global variable
 413 ///   GlobalID '=' OptionalVisibility ALIAS ...
 414 ///   GlobalID '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 415 ///                                                     ...   -> global variable
 416 bool LLParser::ParseUnnamedGlobal() {
 417   unsigned VarID = NumberedVals.size();
 418   std::string Name;
 419   LocTy NameLoc = Lex.getLoc();
 420
 421   // Handle the GlobalID form.
 422   if (Lex.getKind() == lltok::GlobalID) {
 423     if (Lex.getUIntVal() != VarID)
 424       return Error(Lex.getLoc(), "variable expected to be numbered '%" +
 425                    Twine(VarID) + "'");
 426     Lex.Lex(); // eat GlobalID;
 427
 428     if (ParseToken(lltok::equal, "expected '=' after name"))
 429       return true;
 430   }
 431
 432   bool HasLinkage;
 433   unsigned Linkage, Visibility, DLLStorageClass;
 434   GlobalVariable::ThreadLocalMode TLM;
 435   bool UnnamedAddr;
 436   if (ParseOptionalLinkage(Linkage, HasLinkage) ||
 437       ParseOptionalVisibility(Visibility) ||
 438       ParseOptionalDLLStorageClass(DLLStorageClass) ||
 439       ParseOptionalThreadLocal(TLM) ||
 440       parseOptionalUnnamedAddr(UnnamedAddr))
 441     return true;
 442
 443   if (Lex.getKind() != lltok::kw_alias)
 444     return ParseGlobal(Name, NameLoc, Linkage, HasLinkage, Visibility,
 445                        DLLStorageClass, TLM, UnnamedAddr);
 446   return ParseAlias(Name, NameLoc, Linkage, Visibility, DLLStorageClass, TLM,
 447                     UnnamedAddr);
 448 }
 449
 450 /// ParseNamedGlobal:
 451 ///   GlobalVar '=' OptionalVisibility ALIAS ...
 452 ///   GlobalVar '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 453 ///                                                     ...   -> global variable
 454 bool LLParser::ParseNamedGlobal() {
 455   assert(Lex.getKind() == lltok::GlobalVar);
 456   LocTy NameLoc = Lex.getLoc();
 457   std::string Name = Lex.getStrVal();
 458   Lex.Lex();
 459
 460   bool HasLinkage;
 461   unsigned Linkage, Visibility, DLLStorageClass;
 462   GlobalVariable::ThreadLocalMode TLM;
 463   bool UnnamedAddr;
 464   if (ParseToken(lltok::equal, "expected '=' in global variable") ||
 465       ParseOptionalLinkage(Linkage, HasLinkage) ||
 466       ParseOptionalVisibility(Visibility) ||
 467       ParseOptionalDLLStorageClass(DLLStorageClass) ||
 468       ParseOptionalThreadLocal(TLM) ||
 469       parseOptionalUnnamedAddr(UnnamedAddr))
 470     return true;
 471
 472   if (Lex.getKind() != lltok::kw_alias)
 473     return ParseGlobal(Name, NameLoc, Linkage, HasLinkage, Visibility,
 474                        DLLStorageClass, TLM, UnnamedAddr);
 475
 476   return ParseAlias(Name, NameLoc, Linkage, Visibility, DLLStorageClass, TLM,
 477                     UnnamedAddr);
 478 }
 479
 480 bool LLParser::parseComdat() {
 481   assert(Lex.getKind() == lltok::ComdatVar);
 482   std::string Name = Lex.getStrVal();
 483   LocTy NameLoc = Lex.getLoc();
 484   Lex.Lex();
 485
 486   if (ParseToken(lltok::equal, "expected '=' here"))
 487     return true;
 488
 489   if (ParseToken(lltok::kw_comdat, "expected comdat keyword"))
 490     return TokError("expected comdat type");
 491
 492   Comdat::SelectionKind SK;
 493   switch (Lex.getKind()) {
 494   default:
 495     return TokError("unknown selection kind");
 496   case lltok::kw_any:
 497     SK = Comdat::Any;
 498     break;
 499   case lltok::kw_exactmatch:
 500     SK = Comdat::ExactMatch;
 501     break;
 502   case lltok::kw_largest:
 503     SK = Comdat::Largest;
 504     break;
 505   case lltok::kw_noduplicates:
 506     SK = Comdat::NoDuplicates;
 507     break;
 508   case lltok::kw_samesize:
 509     SK = Comdat::SameSize;
 510     break;
 511   }
 512   Lex.Lex();
 513
 514   // See if the comdat was forward referenced, if so, use the comdat.
 515   Module::ComdatSymTabType &ComdatSymTab = M->getComdatSymbolTable();
 516   Module::ComdatSymTabType::iterator I = ComdatSymTab.find(Name);
 517   if (I != ComdatSymTab.end() && !ForwardRefComdats.erase(Name))
 518     return Error(NameLoc, "redefinition of comdat '$" + Name + "'");
 519
 520   Comdat *C;
 521   if (I != ComdatSymTab.end())
 522     C = &I->second;
 523   else
 524     C = M->getOrInsertComdat(Name);
 525   C->setSelectionKind(SK);
 526
 527   return false;
 528 }
 529
 530 // MDString:
 531 //   ::= '!' STRINGCONSTANT
 532 bool LLParser::ParseMDString(MDString *&Result) {
 533   std::string Str;
 534   if (ParseStringConstant(Str)) return true;
 535   llvm::UpgradeMDStringConstant(Str);
 536   Result = MDString::get(Context, Str);
 537   return false;
 538 }
 539
 540 // MDNode:
 541 //   ::= '!' MDNodeNumber
 542 //
 543 /// This version of ParseMDNodeID returns the slot number and null in the case
 544 /// of a forward reference.
 545 bool LLParser::ParseMDNodeID(MDNode *&Result, unsigned &SlotNo) {
 546   // !{ ..., !42, ... }
 547   if (ParseUInt32(SlotNo)) return true;
 548
 549   // Check existing MDNode.
 550   if (SlotNo < NumberedMetadata.size() && NumberedMetadata[SlotNo] != nullptr)
 551     Result = NumberedMetadata[SlotNo];
 552   else
 553     Result = nullptr;
 554   return false;
 555 }
 556
 557 bool LLParser::ParseMDNodeID(MDNode *&Result) {
 558   // !{ ..., !42, ... }
 559   unsigned MID = 0;
 560   if (ParseMDNodeID(Result, MID)) return true;
 561
 562   // If not a forward reference, just return it now.
 563   if (Result) return false;
 564
 565   // Otherwise, create MDNode forward reference.
 566   MDNodeFwdDecl *FwdNode = MDNode::getTemporary(Context, None);
 567   ForwardRefMDNodes[MID] = std::make_pair(FwdNode, Lex.getLoc());
 568
 569   if (NumberedMetadata.size() <= MID)
 570     NumberedMetadata.resize(MID+1);
 571   NumberedMetadata[MID].reset(FwdNode);
 572   Result = FwdNode;
 573   return false;
 574 }
 575
 576 /// ParseNamedMetadata:
 577 ///   !foo = !{ !1, !2 }
 578 bool LLParser::ParseNamedMetadata() {
 579   assert(Lex.getKind() == lltok::MetadataVar);
 580   std::string Name = Lex.getStrVal();
 581   Lex.Lex();
 582
 583   if (ParseToken(lltok::equal, "expected '=' here") ||
 584       ParseToken(lltok::exclaim, "Expected '!' here") ||
 585       ParseToken(lltok::lbrace, "Expected '{' here"))
 586     return true;
 587
 588   NamedMDNode *NMD = M->getOrInsertNamedMetadata(Name);
 589   if (Lex.getKind() != lltok::rbrace)
 590     do {
 591       if (ParseToken(lltok::exclaim, "Expected '!' here"))
 592         return true;
 593
 594       MDNode *N = nullptr;
 595       if (ParseMDNodeID(N)) return true;
 596       NMD->addOperand(N);
 597     } while (EatIfPresent(lltok::comma));
 598
 599   if (ParseToken(lltok::rbrace, "expected end of metadata node"))
 600     return true;
 601
 602   return false;
 603 }
 604
 605 /// ParseStandaloneMetadata:
 606 ///   !42 = !{...}
 607 bool LLParser::ParseStandaloneMetadata() {
 608   assert(Lex.getKind() == lltok::exclaim);
 609   Lex.Lex();
 610   unsigned MetadataID = 0;
 611
 612   MDNode *Init;
 613   if (ParseUInt32(MetadataID) ||
 614       ParseToken(lltok::equal, "expected '=' here"))
 615     return true;
 616
 617   // Detect common error, from old metadata syntax.
 618   if (Lex.getKind() == lltok::Type)
 619     return TokError("unexpected type in metadata definition");
 620
 621   bool IsDistinct = EatIfPresent(lltok::kw_distinct);
 622   if (ParseToken(lltok::exclaim, "Expected '!' here") ||
 623       ParseMDNode(Init, IsDistinct))
 624     return true;
 625
 626   // See if this was forward referenced, if so, handle it.
 627   auto FI = ForwardRefMDNodes.find(MetadataID);
 628   if (FI != ForwardRefMDNodes.end()) {
 629     auto *Temp = FI->second.first;
 630     Temp->replaceAllUsesWith(Init);
 631     MDNode::deleteTemporary(Temp);
 632     ForwardRefMDNodes.erase(FI);
 633
 634     assert(NumberedMetadata[MetadataID] == Init && "Tracking VH didn't work");
 635   } else {
 636     if (MetadataID >= NumberedMetadata.size())
 637       NumberedMetadata.resize(MetadataID+1);
 638
 639     if (NumberedMetadata[MetadataID] != nullptr)
 640       return TokError("Metadata id is already used");
 641     NumberedMetadata[MetadataID].reset(Init);
 642   }
 643
 644   return false;
 645 }
 646
 647 static bool isValidVisibilityForLinkage(unsigned V, unsigned L) {
 648   return !GlobalValue::isLocalLinkage((GlobalValue::LinkageTypes)L) ||
 649          (GlobalValue::VisibilityTypes)V == GlobalValue::DefaultVisibility;
 650 }
 651
 652 /// ParseAlias:
 653 ///   ::= GlobalVar '=' OptionalLinkage OptionalVisibility
 654 ///                     OptionalDLLStorageClass OptionalThreadLocal
 655 ///                     OptionalUnNammedAddr 'alias' Aliasee
 656 ///
 657 /// Aliasee
 658 ///   ::= TypeAndValue
 659 ///
 660 /// Everything through OptionalUnNammedAddr has already been parsed.
 661 ///
 662 bool LLParser::ParseAlias(const std::string &Name, LocTy NameLoc, unsigned L,
 663                           unsigned Visibility, unsigned DLLStorageClass,
 664                           GlobalVariable::ThreadLocalMode TLM,
 665                           bool UnnamedAddr) {
 666   assert(Lex.getKind() == lltok::kw_alias);
 667   Lex.Lex();
 668
 669   GlobalValue::LinkageTypes Linkage = (GlobalValue::LinkageTypes) L;
 670
 671   if(!GlobalAlias::isValidLinkage(Linkage))
 672     return Error(NameLoc, "invalid linkage type for alias");
 673
 674   if (!isValidVisibilityForLinkage(Visibility, L))
 675     return Error(NameLoc,
 676                  "symbol with local linkage must have default visibility");
 677
 678   Constant *Aliasee;
 679   LocTy AliaseeLoc = Lex.getLoc();
 680   if (Lex.getKind() != lltok::kw_bitcast &&
 681       Lex.getKind() != lltok::kw_getelementptr &&
 682       Lex.getKind() != lltok::kw_addrspacecast &&
 683       Lex.getKind() != lltok::kw_inttoptr) {
 684     if (ParseGlobalTypeAndValue(Aliasee))
 685       return true;
 686   } else {
 687     // The bitcast dest type is not present, it is implied by the dest type.
 688     ValID ID;
 689     if (ParseValID(ID))
 690       return true;
 691     if (ID.Kind != ValID::t_Constant)
 692       return Error(AliaseeLoc, "invalid aliasee");
 693     Aliasee = ID.ConstantVal;
 694   }
 695
 696   Type *AliaseeType = Aliasee->getType();
 697   auto *PTy = dyn_cast<PointerType>(AliaseeType);
 698   if (!PTy)
 699     return Error(AliaseeLoc, "An alias must have pointer type");
 700   Type *Ty = PTy->getElementType();
 701   unsigned AddrSpace = PTy->getAddressSpace();
 702
 703   // Okay, create the alias but do not insert it into the module yet.
 704   std::unique_ptr<GlobalAlias> GA(
 705       GlobalAlias::create(Ty, AddrSpace, (GlobalValue::LinkageTypes)Linkage,
 706                           Name, Aliasee, /*Parent*/ nullptr));
 707   GA->setThreadLocalMode(TLM);
 708   GA->setVisibility((GlobalValue::VisibilityTypes)Visibility);
 709   GA->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
 710   GA->setUnnamedAddr(UnnamedAddr);
 711
 712   // See if this value already exists in the symbol table.  If so, it is either
 713   // a redefinition or a definition of a forward reference.
 714   if (GlobalValue *Val = M->getNamedValue(Name)) {
 715     // See if this was a redefinition.  If so, there is no entry in
 716     // ForwardRefVals.
 717     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator
 718       I = ForwardRefVals.find(Name);
 719     if (I == ForwardRefVals.end())
 720       return Error(NameLoc, "redefinition of global named '@" + Name + "'");
 721
 722     // Otherwise, this was a definition of forward ref.  Verify that types
 723     // agree.
 724     if (Val->getType() != GA->getType())
 725       return Error(NameLoc,
 726               "forward reference and definition of alias have different types");
 727
 728     // If they agree, just RAUW the old value with the alias and remove the
 729     // forward ref info.
 730     Val->replaceAllUsesWith(GA.get());
 731     Val->eraseFromParent();
 732     ForwardRefVals.erase(I);
 733   }
 734
 735   // Insert into the module, we know its name won't collide now.
 736   M->getAliasList().push_back(GA.get());
 737   assert(GA->getName() == Name && "Should not be a name conflict!");
 738
 739   // The module owns this now
 740   GA.release();
 741
 742   return false;
 743 }
 744
 745 /// ParseGlobal
 746 ///   ::= GlobalVar '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 747 ///       OptionalThreadLocal OptionalUnNammedAddr OptionalAddrSpace
 748 ///       OptionalExternallyInitialized GlobalType Type Const
 749 ///   ::= OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 750 ///       OptionalThreadLocal OptionalUnNammedAddr OptionalAddrSpace
 751 ///       OptionalExternallyInitialized GlobalType Type Const
 752 ///
 753 /// Everything up to and including OptionalUnNammedAddr has been parsed
 754 /// already.
 755 ///
 756 bool LLParser::ParseGlobal(const std::string &Name, LocTy NameLoc,
 757                            unsigned Linkage, bool HasLinkage,
 758                            unsigned Visibility, unsigned DLLStorageClass,
 759                            GlobalVariable::ThreadLocalMode TLM,
 760                            bool UnnamedAddr) {
 761   if (!isValidVisibilityForLinkage(Visibility, Linkage))
 762     return Error(NameLoc,
 763                  "symbol with local linkage must have default visibility");
 764
 765   unsigned AddrSpace;
 766   bool IsConstant, IsExternallyInitialized;
 767   LocTy IsExternallyInitializedLoc;
 768   LocTy TyLoc;
 769
 770   Type *Ty = nullptr;
 771   if (ParseOptionalAddrSpace(AddrSpace) ||
 772       ParseOptionalToken(lltok::kw_externally_initialized,
 773                          IsExternallyInitialized,
 774                          &IsExternallyInitializedLoc) ||
 775       ParseGlobalType(IsConstant) ||
 776       ParseType(Ty, TyLoc))
 777     return true;
 778
 779   // If the linkage is specified and is external, then no initializer is
 780   // present.
 781   Constant *Init = nullptr;
 782   if (!HasLinkage || (Linkage != GlobalValue::ExternalWeakLinkage &&
 783                       Linkage != GlobalValue::ExternalLinkage)) {
 784     if (ParseGlobalValue(Ty, Init))
 785       return true;
 786   }
 787
 788   if (Ty->isFunctionTy() || Ty->isLabelTy())
 789     return Error(TyLoc, "invalid type for global variable");
 790
 791   GlobalValue *GVal = nullptr;
 792
 793   // See if the global was forward referenced, if so, use the global.
 794   if (!Name.empty()) {
 795     GVal = M->getNamedValue(Name);
 796     if (GVal) {
 797       if (!ForwardRefVals.erase(Name) || !isa<GlobalValue>(GVal))
 798         return Error(NameLoc, "redefinition of global '@" + Name + "'");
 799     }
 800   } else {
 801     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator
 802       I = ForwardRefValIDs.find(NumberedVals.size());
 803     if (I != ForwardRefValIDs.end()) {
 804       GVal = I->second.first;
 805       ForwardRefValIDs.erase(I);
 806     }
 807   }
 808
 809   GlobalVariable *GV;
 810   if (!GVal) {
 811     GV = new GlobalVariable(*M, Ty, false, GlobalValue::ExternalLinkage, nullptr,
 812                             Name, nullptr, GlobalVariable::NotThreadLocal,
 813                             AddrSpace);
 814   } else {
 815     if (GVal->getType()->getElementType() != Ty)
 816       return Error(TyLoc,
 817             "forward reference and definition of global have different types");
 818
 819     GV = cast<GlobalVariable>(GVal);
 820
 821     // Move the forward-reference to the correct spot in the module.
 822     M->getGlobalList().splice(M->global_end(), M->getGlobalList(), GV);
 823   }
 824
 825   if (Name.empty())
 826     NumberedVals.push_back(GV);
 827
 828   // Set the parsed properties on the global.
 829   if (Init)
 830     GV->setInitializer(Init);
 831   GV->setConstant(IsConstant);
 832   GV->setLinkage((GlobalValue::LinkageTypes)Linkage);
 833   GV->setVisibility((GlobalValue::VisibilityTypes)Visibility);
 834   GV->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
 835   GV->setExternallyInitialized(IsExternallyInitialized);
 836   GV->setThreadLocalMode(TLM);
 837   GV->setUnnamedAddr(UnnamedAddr);
 838
 839   // Parse attributes on the global.
 840   while (Lex.getKind() == lltok::comma) {
 841     Lex.Lex();
 842
 843     if (Lex.getKind() == lltok::kw_section) {
 844       Lex.Lex();
 845       GV->setSection(Lex.getStrVal());
 846       if (ParseToken(lltok::StringConstant, "expected global section string"))
 847         return true;
 848     } else if (Lex.getKind() == lltok::kw_align) {
 849       unsigned Alignment;
 850       if (ParseOptionalAlignment(Alignment)) return true;
 851       GV->setAlignment(Alignment);
 852     } else {
 853       Comdat *C;
 854       if (parseOptionalComdat(Name, C))
 855         return true;
 856       if (C)
 857         GV->setComdat(C);
 858       else
 859         return TokError("unknown global variable property!");
 860     }
 861   }
 862
 863   return false;
 864 }
 865
 866 /// ParseUnnamedAttrGrp
 867 ///   ::= 'attributes' AttrGrpID '=' '{' AttrValPair+ '}'
 868 bool LLParser::ParseUnnamedAttrGrp() {
 869   assert(Lex.getKind() == lltok::kw_attributes);
 870   LocTy AttrGrpLoc = Lex.getLoc();
 871   Lex.Lex();
 872
 873   if (Lex.getKind() != lltok::AttrGrpID)
 874     return TokError("expected attribute group id");
 875
 876   unsigned VarID = Lex.getUIntVal();
 877   std::vector<unsigned> unused;
 878   LocTy BuiltinLoc;
 879   Lex.Lex();
 880
 881   if (ParseToken(lltok::equal, "expected '=' here") ||
 882       ParseToken(lltok::lbrace, "expected '{' here") ||
 883       ParseFnAttributeValuePairs(NumberedAttrBuilders[VarID], unused, true,
 884                                  BuiltinLoc) ||
 885       ParseToken(lltok::rbrace, "expected end of attribute group"))
 886     return true;
 887
 888   if (!NumberedAttrBuilders[VarID].hasAttributes())
 889     return Error(AttrGrpLoc, "attribute group has no attributes");
 890
 891   return false;
 892 }
 893
 894 /// ParseFnAttributeValuePairs
 895 ///   ::= <attr> | <attr> '=' <value>
 896 bool LLParser::ParseFnAttributeValuePairs(AttrBuilder &B,
 897                                           std::vector<unsigned> &FwdRefAttrGrps,
 898                                           bool inAttrGrp, LocTy &BuiltinLoc) {
 899   bool HaveError = false;
 900
 901   B.clear();
 902
 903   while (true) {
 904     lltok::Kind Token = Lex.getKind();
 905     if (Token == lltok::kw_builtin)
 906       BuiltinLoc = Lex.getLoc();
 907     switch (Token) {
 908     default:
 909       if (!inAttrGrp) return HaveError;
 910       return Error(Lex.getLoc(), "unterminated attribute group");
 911     case lltok::rbrace:
 912       // Finished.
 913       return false;
 914
 915     case lltok::AttrGrpID: {
 916       // Allow a function to reference an attribute group:
 917       //
 918       //   define void @foo() #1 { ... }
 919       if (inAttrGrp)
 920         HaveError |=
 921           Error(Lex.getLoc(),
 922               "cannot have an attribute group reference in an attribute group");
 923
 924       unsigned AttrGrpNum = Lex.getUIntVal();
 925       if (inAttrGrp) break;
 926
 927       // Save the reference to the attribute group. We'll fill it in later.
 928       FwdRefAttrGrps.push_back(AttrGrpNum);
 929       break;
 930     }
 931     // Target-dependent attributes:
 932     case lltok::StringConstant: {
 933       std::string Attr = Lex.getStrVal();
 934       Lex.Lex();
 935       std::string Val;
 936       if (EatIfPresent(lltok::equal) &&
 937           ParseStringConstant(Val))
 938         return true;
 939
 940       B.addAttribute(Attr, Val);
 941       continue;
 942     }
 943
 944     // Target-independent attributes:
 945     case lltok::kw_align: {
 946       // As a hack, we allow function alignment to be initially parsed as an
 947       // attribute on a function declaration/definition or added to an attribute
 948       // group and later moved to the alignment field.
 949       unsigned Alignment;
 950       if (inAttrGrp) {
 951         Lex.Lex();
 952         if (ParseToken(lltok::equal, "expected '=' here") ||
 953             ParseUInt32(Alignment))
 954           return true;
 955       } else {
 956         if (ParseOptionalAlignment(Alignment))
 957           return true;
 958       }
 959       B.addAlignmentAttr(Alignment);
 960       continue;
 961     }
 962     case lltok::kw_alignstack: {
 963       unsigned Alignment;
 964       if (inAttrGrp) {
 965         Lex.Lex();
 966         if (ParseToken(lltok::equal, "expected '=' here") ||
 967             ParseUInt32(Alignment))
 968           return true;
 969       } else {
 970         if (ParseOptionalStackAlignment(Alignment))
 971           return true;
 972       }
 973       B.addStackAlignmentAttr(Alignment);
 974       continue;
 975     }
 976     case lltok::kw_alwaysinline:      B.addAttribute(Attribute::AlwaysInline); break;
 977     case lltok::kw_builtin:           B.addAttribute(Attribute::Builtin); break;
 978     case lltok::kw_cold:              B.addAttribute(Attribute::Cold); break;
 979     case lltok::kw_inlinehint:        B.addAttribute(Attribute::InlineHint); break;
 980     case lltok::kw_jumptable:         B.addAttribute(Attribute::JumpTable); break;
 981     case lltok::kw_minsize:           B.addAttribute(Attribute::MinSize); break;
 982     case lltok::kw_naked:             B.addAttribute(Attribute::Naked); break;
 983     case lltok::kw_nobuiltin:         B.addAttribute(Attribute::NoBuiltin); break;
 984     case lltok::kw_noduplicate:       B.addAttribute(Attribute::NoDuplicate); break;
 985     case lltok::kw_noimplicitfloat:   B.addAttribute(Attribute::NoImplicitFloat); break;
 986     case lltok::kw_noinline:          B.addAttribute(Attribute::NoInline); break;
 987     case lltok::kw_nonlazybind:       B.addAttribute(Attribute::NonLazyBind); break;
 988     case lltok::kw_noredzone:         B.addAttribute(Attribute::NoRedZone); break;
 989     case lltok::kw_noreturn:          B.addAttribute(Attribute::NoReturn); break;
 990     case lltok::kw_nounwind:          B.addAttribute(Attribute::NoUnwind); break;
 991     case lltok::kw_optnone:           B.addAttribute(Attribute::OptimizeNone); break;
 992     case lltok::kw_optsize:           B.addAttribute(Attribute::OptimizeForSize); break;
 993     case lltok::kw_readnone:          B.addAttribute(Attribute::ReadNone); break;
 994     case lltok::kw_readonly:          B.addAttribute(Attribute::ReadOnly); break;
 995     case lltok::kw_returns_twice:     B.addAttribute(Attribute::ReturnsTwice); break;
 996     case lltok::kw_ssp:               B.addAttribute(Attribute::StackProtect); break;
 997     case lltok::kw_sspreq:            B.addAttribute(Attribute::StackProtectReq); break;
 998     case lltok::kw_sspstrong:         B.addAttribute(Attribute::StackProtectStrong); break;
 999     case lltok::kw_sanitize_address:  B.addAttribute(Attribute::SanitizeAddress); break;
1000     case lltok::kw_sanitize_thread:   B.addAttribute(Attribute::SanitizeThread); break;
1001     case lltok::kw_sanitize_memory:   B.addAttribute(Attribute::SanitizeMemory); break;
1002     case lltok::kw_uwtable:           B.addAttribute(Attribute::UWTable); break;
1003
1004     // Error handling.
1005     case lltok::kw_inreg:
1006     case lltok::kw_signext:
1007     case lltok::kw_zeroext:
1008       HaveError |=
1009         Error(Lex.getLoc(),
1010               "invalid use of attribute on a function");
1011       break;
1012     case lltok::kw_byval:
1013     case lltok::kw_dereferenceable:
1014     case lltok::kw_inalloca:
1015     case lltok::kw_nest:
1016     case lltok::kw_noalias:
1017     case lltok::kw_nocapture:
1018     case lltok::kw_nonnull:
1019     case lltok::kw_returned:
1020     case lltok::kw_sret:
1021       HaveError |=
1022         Error(Lex.getLoc(),
1023               "invalid use of parameter-only attribute on a function");
1024       break;
1025     }
1026
1027     Lex.Lex();
1028   }
1029 }
1030
1031 //===----------------------------------------------------------------------===//
1032 // GlobalValue Reference/Resolution Routines.
1033 //===----------------------------------------------------------------------===//
1034
1035 /// GetGlobalVal - Get a value with the specified name or ID, creating a
1036 /// forward reference record if needed.  This can return null if the value
1037 /// exists but does not have the right type.
1038 GlobalValue *LLParser::GetGlobalVal(const std::string &Name, Type *Ty,
1039                                     LocTy Loc) {
1040   PointerType *PTy = dyn_cast<PointerType>(Ty);
1041   if (!PTy) {
1042     Error(Loc, "global variable reference must have pointer type");
1043     return nullptr;
1044   }
1045
1046   // Look this name up in the normal function symbol table.
1047   GlobalValue *Val =
1048     cast_or_null<GlobalValue>(M->getValueSymbolTable().lookup(Name));
1049
1050   // If this is a forward reference for the value, see if we already created a
1051   // forward ref record.
1052   if (!Val) {
1053     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator
1054       I = ForwardRefVals.find(Name);
1055     if (I != ForwardRefVals.end())
1056       Val = I->second.first;
1057   }
1058
1059   // If we have the value in the symbol table or fwd-ref table, return it.
1060   if (Val) {
1061     if (Val->getType() == Ty) return Val;
1062     Error(Loc, "'@" + Name + "' defined with type '" +
1063           getTypeString(Val->getType()) + "'");
1064     return nullptr;
1065   }
1066
1067   // Otherwise, create a new forward reference for this value and remember it.
1068   GlobalValue *FwdVal;
1069   if (FunctionType *FT = dyn_cast<FunctionType>(PTy->getElementType()))
1070     FwdVal = Function::Create(FT, GlobalValue::ExternalWeakLinkage, Name, M);
1071   else
1072     FwdVal = new GlobalVariable(*M, PTy->getElementType(), false,
1073                                 GlobalValue::ExternalWeakLinkage, nullptr, Name,
1074                                 nullptr, GlobalVariable::NotThreadLocal,
1075                                 PTy->getAddressSpace());
1076
1077   ForwardRefVals[Name] = std::make_pair(FwdVal, Loc);
1078   return FwdVal;
1079 }
1080
1081 GlobalValue *LLParser::GetGlobalVal(unsigned ID, Type *Ty, LocTy Loc) {
1082   PointerType *PTy = dyn_cast<PointerType>(Ty);
1083   if (!PTy) {
1084     Error(Loc, "global variable reference must have pointer type");
1085     return nullptr;
1086   }
1087
1088   GlobalValue *Val = ID < NumberedVals.size() ? NumberedVals[ID] : nullptr;
1089
1090   // If this is a forward reference for the value, see if we already created a
1091   // forward ref record.
1092   if (!Val) {
1093     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator
1094       I = ForwardRefValIDs.find(ID);
1095     if (I != ForwardRefValIDs.end())
1096       Val = I->second.first;
1097   }
1098
1099   // If we have the value in the symbol table or fwd-ref table, return it.
1100   if (Val) {
1101     if (Val->getType() == Ty) return Val;
1102     Error(Loc, "'@" + Twine(ID) + "' defined with type '" +
1103           getTypeString(Val->getType()) + "'");
1104     return nullptr;
1105   }
1106
1107   // Otherwise, create a new forward reference for this value and remember it.
1108   GlobalValue *FwdVal;
1109   if (FunctionType *FT = dyn_cast<FunctionType>(PTy->getElementType()))
1110     FwdVal = Function::Create(FT, GlobalValue::ExternalWeakLinkage, "", M);
1111   else
1112     FwdVal = new GlobalVariable(*M, PTy->getElementType(), false,
1113                                 GlobalValue::ExternalWeakLinkage, nullptr, "");
1114
1115   ForwardRefValIDs[ID] = std::make_pair(FwdVal, Loc);
1116   return FwdVal;
1117 }
1118
1119
1120 //===----------------------------------------------------------------------===//
1121 // Comdat Reference/Resolution Routines.
1122 //===----------------------------------------------------------------------===//
1123
1124 Comdat *LLParser::getComdat(const std::string &Name, LocTy Loc) {
1125   // Look this name up in the comdat symbol table.
1126   Module::ComdatSymTabType &ComdatSymTab = M->getComdatSymbolTable();
1127   Module::ComdatSymTabType::iterator I = ComdatSymTab.find(Name);
1128   if (I != ComdatSymTab.end())
1129     return &I->second;
1130
1131   // Otherwise, create a new forward reference for this value and remember it.
1132   Comdat *C = M->getOrInsertComdat(Name);
1133   ForwardRefComdats[Name] = Loc;
1134   return C;
1135 }
1136
1137
1138 //===----------------------------------------------------------------------===//
1139 // Helper Routines.
1140 //===----------------------------------------------------------------------===//
1141
1142 /// ParseToken - If the current token has the specified kind, eat it and return
1143 /// success.  Otherwise, emit the specified error and return failure.
1144 bool LLParser::ParseToken(lltok::Kind T, const char *ErrMsg) {
1145   if (Lex.getKind() != T)
1146     return TokError(ErrMsg);
1147   Lex.Lex();
1148   return false;
1149 }
1150
1151 /// ParseStringConstant
1152 ///   ::= StringConstant
1153 bool LLParser::ParseStringConstant(std::string &Result) {
1154   if (Lex.getKind() != lltok::StringConstant)
1155     return TokError("expected string constant");
1156   Result = Lex.getStrVal();
1157   Lex.Lex();
1158   return false;
1159 }
1160
1161 /// ParseUInt32
1162 ///   ::= uint32
1163 bool LLParser::ParseUInt32(unsigned &Val) {
1164   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned())
1165     return TokError("expected integer");
1166   uint64_t Val64 = Lex.getAPSIntVal().getLimitedValue(0xFFFFFFFFULL+1);
1167   if (Val64 != unsigned(Val64))
1168     return TokError("expected 32-bit integer (too large)");
1169   Val = Val64;
1170   Lex.Lex();
1171   return false;
1172 }
1173
1174 /// ParseUInt64
1175 ///   ::= uint64
1176 bool LLParser::ParseUInt64(uint64_t &Val) {
1177   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned())
1178     return TokError("expected integer");
1179   Val = Lex.getAPSIntVal().getLimitedValue();
1180   Lex.Lex();
1181   return false;
1182 }
1183
1184 /// ParseTLSModel
1185 ///   := 'localdynamic'
1186 ///   := 'initialexec'
1187 ///   := 'localexec'
1188 bool LLParser::ParseTLSModel(GlobalVariable::ThreadLocalMode &TLM) {
1189   switch (Lex.getKind()) {
1190     default:
1191       return TokError("expected localdynamic, initialexec or localexec");
1192     case lltok::kw_localdynamic:
1193       TLM = GlobalVariable::LocalDynamicTLSModel;
1194       break;
1195     case lltok::kw_initialexec:
1196       TLM = GlobalVariable::InitialExecTLSModel;
1197       break;
1198     case lltok::kw_localexec:
1199       TLM = GlobalVariable::LocalExecTLSModel;
1200       break;
1201   }
1202
1203   Lex.Lex();
1204   return false;
1205 }
1206
1207 /// ParseOptionalThreadLocal
1208 ///   := /*empty*/
1209 ///   := 'thread_local'
1210 ///   := 'thread_local' '(' tlsmodel ')'
1211 bool LLParser::ParseOptionalThreadLocal(GlobalVariable::ThreadLocalMode &TLM) {
1212   TLM = GlobalVariable::NotThreadLocal;
1213   if (!EatIfPresent(lltok::kw_thread_local))
1214     return false;
1215
1216   TLM = GlobalVariable::GeneralDynamicTLSModel;
1217   if (Lex.getKind() == lltok::lparen) {
1218     Lex.Lex();
1219     return ParseTLSModel(TLM) ||
1220       ParseToken(lltok::rparen, "expected ')' after thread local model");
1221   }
1222   return false;
1223 }
1224
1225 /// ParseOptionalAddrSpace
1226 ///   := /*empty*/
1227 ///   := 'addrspace' '(' uint32 ')'
1228 bool LLParser::ParseOptionalAddrSpace(unsigned &AddrSpace) {
1229   AddrSpace = 0;
1230   if (!EatIfPresent(lltok::kw_addrspace))
1231     return false;
1232   return ParseToken(lltok::lparen, "expected '(' in address space") ||
1233          ParseUInt32(AddrSpace) ||
1234          ParseToken(lltok::rparen, "expected ')' in address space");
1235 }
1236
1237 /// ParseOptionalParamAttrs - Parse a potentially empty list of parameter attributes.
1238 bool LLParser::ParseOptionalParamAttrs(AttrBuilder &B) {
1239   bool HaveError = false;
1240
1241   B.clear();
1242
1243   while (1) {
1244     lltok::Kind Token = Lex.getKind();
1245     switch (Token) {
1246     default:  // End of attributes.
1247       return HaveError;
1248     case lltok::kw_align: {
1249       unsigned Alignment;
1250       if (ParseOptionalAlignment(Alignment))
1251         return true;
1252       B.addAlignmentAttr(Alignment);
1253       continue;
1254     }
1255     case lltok::kw_byval:           B.addAttribute(Attribute::ByVal); break;
1256     case lltok::kw_dereferenceable: {
1257       uint64_t Bytes;
1258       if (ParseOptionalDereferenceableBytes(Bytes))
1259         return true;
1260       B.addDereferenceableAttr(Bytes);
1261       continue;
1262     }
1263     case lltok::kw_inalloca:        B.addAttribute(Attribute::InAlloca); break;
1264     case lltok::kw_inreg:           B.addAttribute(Attribute::InReg); break;
1265     case lltok::kw_nest:            B.addAttribute(Attribute::Nest); break;
1266     case lltok::kw_noalias:         B.addAttribute(Attribute::NoAlias); break;
1267     case lltok::kw_nocapture:       B.addAttribute(Attribute::NoCapture); break;
1268     case lltok::kw_nonnull:         B.addAttribute(Attribute::NonNull); break;
1269     case lltok::kw_readnone:        B.addAttribute(Attribute::ReadNone); break;
1270     case lltok::kw_readonly:        B.addAttribute(Attribute::ReadOnly); break;
1271     case lltok::kw_returned:        B.addAttribute(Attribute::Returned); break;
1272     case lltok::kw_signext:         B.addAttribute(Attribute::SExt); break;
1273     case lltok::kw_sret:            B.addAttribute(Attribute::StructRet); break;
1274     case lltok::kw_zeroext:         B.addAttribute(Attribute::ZExt); break;
1275
1276     case lltok::kw_alignstack:
1277     case lltok::kw_alwaysinline:
1278     case lltok::kw_builtin:
1279     case lltok::kw_inlinehint:
1280     case lltok::kw_jumptable:
1281     case lltok::kw_minsize:
1282     case lltok::kw_naked:
1283     case lltok::kw_nobuiltin:
1284     case lltok::kw_noduplicate:
1285     case lltok::kw_noimplicitfloat:
1286     case lltok::kw_noinline:
1287     case lltok::kw_nonlazybind:
1288     case lltok::kw_noredzone:
1289     case lltok::kw_noreturn:
1290     case lltok::kw_nounwind:
1291     case lltok::kw_optnone:
1292     case lltok::kw_optsize:
1293     case lltok::kw_returns_twice:
1294     case lltok::kw_sanitize_address:
1295     case lltok::kw_sanitize_memory:
1296     case lltok::kw_sanitize_thread:
1297     case lltok::kw_ssp:
1298     case lltok::kw_sspreq:
1299     case lltok::kw_sspstrong:
1300     case lltok::kw_uwtable:
1301       HaveError |= Error(Lex.getLoc(), "invalid use of function-only attribute");
1302       break;
1303     }
1304
1305     Lex.Lex();
1306   }
1307 }
1308
1309 /// ParseOptionalReturnAttrs - Parse a potentially empty list of return attributes.
1310 bool LLParser::ParseOptionalReturnAttrs(AttrBuilder &B) {
1311   bool HaveError = false;
1312
1313   B.clear();
1314
1315   while (1) {
1316     lltok::Kind Token = Lex.getKind();
1317     switch (Token) {
1318     default:  // End of attributes.
1319       return HaveError;
1320     case lltok::kw_dereferenceable: {
1321       uint64_t Bytes;
1322       if (ParseOptionalDereferenceableBytes(Bytes))
1323         return true;
1324       B.addDereferenceableAttr(Bytes);
1325       continue;
1326     }
1327     case lltok::kw_inreg:           B.addAttribute(Attribute::InReg); break;
1328     case lltok::kw_noalias:         B.addAttribute(Attribute::NoAlias); break;
1329     case lltok::kw_nonnull:         B.addAttribute(Attribute::NonNull); break;
1330     case lltok::kw_signext:         B.addAttribute(Attribute::SExt); break;
1331     case lltok::kw_zeroext:         B.addAttribute(Attribute::ZExt); break;
1332
1333     // Error handling.
1334     case lltok::kw_align:
1335     case lltok::kw_byval:
1336     case lltok::kw_inalloca:
1337     case lltok::kw_nest:
1338     case lltok::kw_nocapture:
1339     case lltok::kw_returned:
1340     case lltok::kw_sret:
1341       HaveError |= Error(Lex.getLoc(), "invalid use of parameter-only attribute");
1342       break;
1343
1344     case lltok::kw_alignstack:
1345     case lltok::kw_alwaysinline:
1346     case lltok::kw_builtin:
1347     case lltok::kw_cold:
1348     case lltok::kw_inlinehint:
1349     case lltok::kw_jumptable:
1350     case lltok::kw_minsize:
1351     case lltok::kw_naked:
1352     case lltok::kw_nobuiltin:
1353     case lltok::kw_noduplicate:
1354     case lltok::kw_noimplicitfloat:
1355     case lltok::kw_noinline:
1356     case lltok::kw_nonlazybind:
1357     case lltok::kw_noredzone:
1358     case lltok::kw_noreturn:
1359     case lltok::kw_nounwind:
1360     case lltok::kw_optnone:
1361     case lltok::kw_optsize:
1362     case lltok::kw_returns_twice:
1363     case lltok::kw_sanitize_address:
1364     case lltok::kw_sanitize_memory:
1365     case lltok::kw_sanitize_thread:
1366     case lltok::kw_ssp:
1367     case lltok::kw_sspreq:
1368     case lltok::kw_sspstrong:
1369     case lltok::kw_uwtable:
1370       HaveError |= Error(Lex.getLoc(), "invalid use of function-only attribute");
1371       break;
1372
1373     case lltok::kw_readnone:
1374     case lltok::kw_readonly:
1375       HaveError |= Error(Lex.getLoc(), "invalid use of attribute on return type");
1376     }
1377
1378     Lex.Lex();
1379   }
1380 }
1381
1382 /// ParseOptionalLinkage
1383 ///   ::= /*empty*/
1384 ///   ::= 'private'
1385 ///   ::= 'internal'
1386 ///   ::= 'weak'
1387 ///   ::= 'weak_odr'
1388 ///   ::= 'linkonce'
1389 ///   ::= 'linkonce_odr'
1390 ///   ::= 'available_externally'
1391 ///   ::= 'appending'
1392 ///   ::= 'common'
1393 ///   ::= 'extern_weak'
1394 ///   ::= 'external'
1395 bool LLParser::ParseOptionalLinkage(unsigned &Res, bool &HasLinkage) {
1396   HasLinkage = false;
1397   switch (Lex.getKind()) {
1398   default:                       Res=GlobalValue::ExternalLinkage; return false;
1399   case lltok::kw_private:        Res = GlobalValue::PrivateLinkage;       break;
1400   case lltok::kw_internal:       Res = GlobalValue::InternalLinkage;      break;
1401   case lltok::kw_weak:           Res = GlobalValue::WeakAnyLinkage;       break;
1402   case lltok::kw_weak_odr:       Res = GlobalValue::WeakODRLinkage;       break;
1403   case lltok::kw_linkonce:       Res = GlobalValue::LinkOnceAnyLinkage;   break;
1404   case lltok::kw_linkonce_odr:   Res = GlobalValue::LinkOnceODRLinkage;   break;
1405   case lltok::kw_available_externally:
1406     Res = GlobalValue::AvailableExternallyLinkage;
1407     break;
1408   case lltok::kw_appending:      Res = GlobalValue::AppendingLinkage;     break;
1409   case lltok::kw_common:         Res = GlobalValue::CommonLinkage;        break;
1410   case lltok::kw_extern_weak:    Res = GlobalValue::ExternalWeakLinkage;  break;
1411   case lltok::kw_external:       Res = GlobalValue::ExternalLinkage;      break;
1412   }
1413   Lex.Lex();
1414   HasLinkage = true;
1415   return false;
1416 }
1417
1418 /// ParseOptionalVisibility
1419 ///   ::= /*empty*/
1420 ///   ::= 'default'
1421 ///   ::= 'hidden'
1422 ///   ::= 'protected'
1423 ///
1424 bool LLParser::ParseOptionalVisibility(unsigned &Res) {
1425   switch (Lex.getKind()) {
1426   default:                  Res = GlobalValue::DefaultVisibility; return false;
1427   case lltok::kw_default:   Res = GlobalValue::DefaultVisibility; break;
1428   case lltok::kw_hidden:    Res = GlobalValue::HiddenVisibility; break;
1429   case lltok::kw_protected: Res = GlobalValue::ProtectedVisibility; break;
1430   }
1431   Lex.Lex();
1432   return false;
1433 }
1434
1435 /// ParseOptionalDLLStorageClass
1436 ///   ::= /*empty*/
1437 ///   ::= 'dllimport'
1438 ///   ::= 'dllexport'
1439 ///
1440 bool LLParser::ParseOptionalDLLStorageClass(unsigned &Res) {
1441   switch (Lex.getKind()) {
1442   default:                  Res = GlobalValue::DefaultStorageClass; return false;
1443   case lltok::kw_dllimport: Res = GlobalValue::DLLImportStorageClass; break;
1444   case lltok::kw_dllexport: Res = GlobalValue::DLLExportStorageClass; break;
1445   }
1446   Lex.Lex();
1447   return false;
1448 }
1449
1450 /// ParseOptionalCallingConv
1451 ///   ::= /*empty*/
1452 ///   ::= 'ccc'
1453 ///   ::= 'fastcc'
1454 ///   ::= 'intel_ocl_bicc'
1455 ///   ::= 'coldcc'
1456 ///   ::= 'x86_stdcallcc'
1457 ///   ::= 'x86_fastcallcc'
1458 ///   ::= 'x86_thiscallcc'
1459 ///   ::= 'x86_vectorcallcc'
1460 ///   ::= 'arm_apcscc'
1461 ///   ::= 'arm_aapcscc'
1462 ///   ::= 'arm_aapcs_vfpcc'
1463 ///   ::= 'msp430_intrcc'
1464 ///   ::= 'ptx_kernel'
1465 ///   ::= 'ptx_device'
1466 ///   ::= 'spir_func'
1467 ///   ::= 'spir_kernel'
1468 ///   ::= 'x86_64_sysvcc'
1469 ///   ::= 'x86_64_win64cc'
1470 ///   ::= 'webkit_jscc'
1471 ///   ::= 'anyregcc'
1472 ///   ::= 'preserve_mostcc'
1473 ///   ::= 'preserve_allcc'
1474 ///   ::= 'ghccc'
1475 ///   ::= 'cc' UINT
1476 ///
1477 bool LLParser::ParseOptionalCallingConv(unsigned &CC) {
1478   switch (Lex.getKind()) {
1479   default:                       CC = CallingConv::C; return false;
1480   case lltok::kw_ccc:            CC = CallingConv::C; break;
1481   case lltok::kw_fastcc:         CC = CallingConv::Fast; break;
1482   case lltok::kw_coldcc:         CC = CallingConv::Cold; break;
1483   case lltok::kw_x86_stdcallcc:  CC = CallingConv::X86_StdCall; break;
1484   case lltok::kw_x86_fastcallcc: CC = CallingConv::X86_FastCall; break;
1485   case lltok::kw_x86_thiscallcc: CC = CallingConv::X86_ThisCall; break;
1486   case lltok::kw_x86_vectorcallcc:CC = CallingConv::X86_VectorCall; break;
1487   case lltok::kw_arm_apcscc:     CC = CallingConv::ARM_APCS; break;
1488   case lltok::kw_arm_aapcscc:    CC = CallingConv::ARM_AAPCS; break;
1489   case lltok::kw_arm_aapcs_vfpcc:CC = CallingConv::ARM_AAPCS_VFP; break;
1490   case lltok::kw_msp430_intrcc:  CC = CallingConv::MSP430_INTR; break;
1491   case lltok::kw_ptx_kernel:     CC = CallingConv::PTX_Kernel; break;
1492   case lltok::kw_ptx_device:     CC = CallingConv::PTX_Device; break;
1493   case lltok::kw_spir_kernel:    CC = CallingConv::SPIR_KERNEL; break;
1494   case lltok::kw_spir_func:      CC = CallingConv::SPIR_FUNC; break;
1495   case lltok::kw_intel_ocl_bicc: CC = CallingConv::Intel_OCL_BI; break;
1496   case lltok::kw_x86_64_sysvcc:  CC = CallingConv::X86_64_SysV; break;
1497   case lltok::kw_x86_64_win64cc: CC = CallingConv::X86_64_Win64; break;
1498   case lltok::kw_webkit_jscc:    CC = CallingConv::WebKit_JS; break;
1499   case lltok::kw_anyregcc:       CC = CallingConv::AnyReg; break;
1500   case lltok::kw_preserve_mostcc:CC = CallingConv::PreserveMost; break;
1501   case lltok::kw_preserve_allcc: CC = CallingConv::PreserveAll; break;
1502   case lltok::kw_ghccc:          CC = CallingConv::GHC; break;
1503   case lltok::kw_cc: {
1504       Lex.Lex();
1505       return ParseUInt32(CC);
1506     }
1507   }
1508
1509   Lex.Lex();
1510   return false;
1511 }
1512
1513 /// ParseInstructionMetadata
1514 ///   ::= !dbg !42 (',' !dbg !57)*
1515 bool LLParser::ParseInstructionMetadata(Instruction *Inst,
1516                                         PerFunctionState *PFS) {
1517   do {
1518     if (Lex.getKind() != lltok::MetadataVar)
1519       return TokError("expected metadata after comma");
1520
1521     std::string Name = Lex.getStrVal();
1522     unsigned MDK = M->getMDKindID(Name);
1523     Lex.Lex();
1524
1525     MDNode *Node;
1526     SMLoc Loc = Lex.getLoc();
1527
1528     if (ParseToken(lltok::exclaim, "expected '!' here"))
1529       return true;
1530
1531     // This code is similar to that of ParseMetadata, however it needs to
1532     // have special-case code for a forward reference; see the comments on
1533     // ForwardRefInstMetadata for details. Also, MDStrings are not supported
1534     // at the top level here.
1535     if (Lex.getKind() == lltok::lbrace) {
1536       MDNode *N;
1537       if (ParseMDNode(N))
1538         return true;
1539       Inst->setMetadata(MDK, N);
1540     } else {
1541       unsigned NodeID = 0;
1542       if (ParseMDNodeID(Node, NodeID))
1543         return true;
1544       if (Node) {
1545         // If we got the node, add it to the instruction.
1546         Inst->setMetadata(MDK, Node);
1547       } else {
1548         MDRef R = { Loc, MDK, NodeID };
1549         // Otherwise, remember that this should be resolved later.
1550         ForwardRefInstMetadata[Inst].push_back(R);
1551       }
1552     }
1553
1554     if (MDK == LLVMContext::MD_tbaa)
1555       InstsWithTBAATag.push_back(Inst);
1556
1557     // If this is the end of the list, we're done.
1558   } while (EatIfPresent(lltok::comma));
1559   return false;
1560 }
1561
1562 /// ParseOptionalAlignment
1563 ///   ::= /* empty */
1564 ///   ::= 'align' 4
1565 bool LLParser::ParseOptionalAlignment(unsigned &Alignment) {
1566   Alignment = 0;
1567   if (!EatIfPresent(lltok::kw_align))
1568     return false;
1569   LocTy AlignLoc = Lex.getLoc();
1570   if (ParseUInt32(Alignment)) return true;
1571   if (!isPowerOf2_32(Alignment))
1572     return Error(AlignLoc, "alignment is not a power of two");
1573   if (Alignment > Value::MaximumAlignment)
1574     return Error(AlignLoc, "huge alignments are not supported yet");
1575   return false;
1576 }
1577
1578 /// ParseOptionalDereferenceableBytes
1579 ///   ::= /* empty */
1580 ///   ::= 'dereferenceable' '(' 4 ')'
1581 bool LLParser::ParseOptionalDereferenceableBytes(uint64_t &Bytes) {
1582   Bytes = 0;
1583   if (!EatIfPresent(lltok::kw_dereferenceable))
1584     return false;
1585   LocTy ParenLoc = Lex.getLoc();
1586   if (!EatIfPresent(lltok::lparen))
1587     return Error(ParenLoc, "expected '('");
1588   LocTy DerefLoc = Lex.getLoc();
1589   if (ParseUInt64(Bytes)) return true;
1590   ParenLoc = Lex.getLoc();
1591   if (!EatIfPresent(lltok::rparen))
1592     return Error(ParenLoc, "expected ')'");
1593   if (!Bytes)
1594     return Error(DerefLoc, "dereferenceable bytes must be non-zero");
1595   return false;
1596 }
1597
1598 /// ParseOptionalCommaAlign
1599 ///   ::=
1600 ///   ::= ',' align 4
1601 ///
1602 /// This returns with AteExtraComma set to true if it ate an excess comma at the
1603 /// end.
1604 bool LLParser::ParseOptionalCommaAlign(unsigned &Alignment,
1605                                        bool &AteExtraComma) {
1606   AteExtraComma = false;
1607   while (EatIfPresent(lltok::comma)) {
1608     // Metadata at the end is an early exit.
1609     if (Lex.getKind() == lltok::MetadataVar) {
1610       AteExtraComma = true;
1611       return false;
1612     }
1613
1614     if (Lex.getKind() != lltok::kw_align)
1615       return Error(Lex.getLoc(), "expected metadata or 'align'");
1616
1617     if (ParseOptionalAlignment(Alignment)) return true;
1618   }
1619
1620   return false;
1621 }
1622
1623 /// ParseScopeAndOrdering
1624 ///   if isAtomic: ::= 'singlethread'? AtomicOrdering
1625 ///   else: ::=
1626 ///
1627 /// This sets Scope and Ordering to the parsed values.
1628 bool LLParser::ParseScopeAndOrdering(bool isAtomic, SynchronizationScope &Scope,
1629                                      AtomicOrdering &Ordering) {
1630   if (!isAtomic)
1631     return false;
1632
1633   Scope = CrossThread;
1634   if (EatIfPresent(lltok::kw_singlethread))
1635     Scope = SingleThread;
1636
1637   return ParseOrdering(Ordering);
1638 }
1639
1640 /// ParseOrdering
1641 ///   ::= AtomicOrdering
1642 ///
1643 /// This sets Ordering to the parsed value.
1644 bool LLParser::ParseOrdering(AtomicOrdering &Ordering) {
1645   switch (Lex.getKind()) {
1646   default: return TokError("Expected ordering on atomic instruction");
1647   case lltok::kw_unordered: Ordering = Unordered; break;
1648   case lltok::kw_monotonic: Ordering = Monotonic; break;
1649   case lltok::kw_acquire: Ordering = Acquire; break;
1650   case lltok::kw_release: Ordering = Release; break;
1651   case lltok::kw_acq_rel: Ordering = AcquireRelease; break;
1652   case lltok::kw_seq_cst: Ordering = SequentiallyConsistent; break;
1653   }
1654   Lex.Lex();
1655   return false;
1656 }
1657
1658 /// ParseOptionalStackAlignment
1659 ///   ::= /* empty */
1660 ///   ::= 'alignstack' '(' 4 ')'
1661 bool LLParser::ParseOptionalStackAlignment(unsigned &Alignment) {
1662   Alignment = 0;
1663   if (!EatIfPresent(lltok::kw_alignstack))
1664     return false;
1665   LocTy ParenLoc = Lex.getLoc();
1666   if (!EatIfPresent(lltok::lparen))
1667     return Error(ParenLoc, "expected '('");
1668   LocTy AlignLoc = Lex.getLoc();
1669   if (ParseUInt32(Alignment)) return true;
1670   ParenLoc = Lex.getLoc();
1671   if (!EatIfPresent(lltok::rparen))
1672     return Error(ParenLoc, "expected ')'");
1673   if (!isPowerOf2_32(Alignment))
1674     return Error(AlignLoc, "stack alignment is not a power of two");
1675   return false;
1676 }
1677
1678 /// ParseIndexList - This parses the index list for an insert/extractvalue
1679 /// instruction.  This sets AteExtraComma in the case where we eat an extra
1680 /// comma at the end of the line and find that it is followed by metadata.
1681 /// Clients that don't allow metadata can call the version of this function that
1682 /// only takes one argument.
1683 ///
1684 /// ParseIndexList
1685 ///    ::=  (',' uint32)+
1686 ///
1687 bool LLParser::ParseIndexList(SmallVectorImpl<unsigned> &Indices,
1688                               bool &AteExtraComma) {
1689   AteExtraComma = false;
1690
1691   if (Lex.getKind() != lltok::comma)
1692     return TokError("expected ',' as start of index list");
1693
1694   while (EatIfPresent(lltok::comma)) {
1695     if (Lex.getKind() == lltok::MetadataVar) {
1696       AteExtraComma = true;
1697       return false;
1698     }
1699     unsigned Idx = 0;
1700     if (ParseUInt32(Idx)) return true;
1701     Indices.push_back(Idx);
1702   }
1703
1704   return false;
1705 }
1706
1707 //===----------------------------------------------------------------------===//
1708 // Type Parsing.
1709 //===----------------------------------------------------------------------===//
1710
1711 /// ParseType - Parse a type.
1712 bool LLParser::ParseType(Type *&Result, const Twine &Msg, bool AllowVoid) {
1713   SMLoc TypeLoc = Lex.getLoc();
1714   switch (Lex.getKind()) {
1715   default:
1716     return TokError(Msg);
1717   case lltok::Type:
1718     // Type ::= 'float' | 'void' (etc)
1719     Result = Lex.getTyVal();
1720     Lex.Lex();
1721     break;
1722   case lltok::lbrace:
1723     // Type ::= StructType
1724     if (ParseAnonStructType(Result, false))
1725       return true;
1726     break;
1727   case lltok::lsquare:
1728     // Type ::= '[' ... ']'
1729     Lex.Lex(); // eat the lsquare.
1730     if (ParseArrayVectorType(Result, false))
1731       return true;
1732     break;
1733   case lltok::less: // Either vector or packed struct.
1734     // Type ::= '<' ... '>'
1735     Lex.Lex();
1736     if (Lex.getKind() == lltok::lbrace) {
1737       if (ParseAnonStructType(Result, true) ||
1738           ParseToken(lltok::greater, "expected '>' at end of packed struct"))
1739         return true;
1740     } else if (ParseArrayVectorType(Result, true))
1741       return true;
1742     break;
1743   case lltok::LocalVar: {
1744     // Type ::= %foo
1745     std::pair<Type*, LocTy> &Entry = NamedTypes[Lex.getStrVal()];
1746
1747     // If the type hasn't been defined yet, create a forward definition and
1748     // remember where that forward def'n was seen (in case it never is defined).
1749     if (!Entry.first) {
1750       Entry.first = StructType::create(Context, Lex.getStrVal());
1751       Entry.second = Lex.getLoc();
1752     }
1753     Result = Entry.first;
1754     Lex.Lex();
1755     break;
1756   }
1757
1758   case lltok::LocalVarID: {
1759     // Type ::= %4
1760     if (Lex.getUIntVal() >= NumberedTypes.size())
1761       NumberedTypes.resize(Lex.getUIntVal()+1);
1762     std::pair<Type*, LocTy> &Entry = NumberedTypes[Lex.getUIntVal()];
1763
1764     // If the type hasn't been defined yet, create a forward definition and
1765     // remember where that forward def'n was seen (in case it never is defined).
1766     if (!Entry.first) {
1767       Entry.first = StructType::create(Context);
1768       Entry.second = Lex.getLoc();
1769     }
1770     Result = Entry.first;
1771     Lex.Lex();
1772     break;
1773   }
1774   }
1775
1776   // Parse the type suffixes.
1777   while (1) {
1778     switch (Lex.getKind()) {
1779     // End of type.
1780     default:
1781       if (!AllowVoid && Result->isVoidTy())
1782         return Error(TypeLoc, "void type only allowed for function results");
1783       return false;
1784
1785     // Type ::= Type '*'
1786     case lltok::star:
1787       if (Result->isLabelTy())
1788         return TokError("basic block pointers are invalid");
1789       if (Result->isVoidTy())
1790         return TokError("pointers to void are invalid - use i8* instead");
1791       if (!PointerType::isValidElementType(Result))
1792         return TokError("pointer to this type is invalid");
1793       Result = PointerType::getUnqual(Result);
1794       Lex.Lex();
1795       break;
1796
1797     // Type ::= Type 'addrspace' '(' uint32 ')' '*'
1798     case lltok::kw_addrspace: {
1799       if (Result->isLabelTy())
1800         return TokError("basic block pointers are invalid");
1801       if (Result->isVoidTy())
1802         return TokError("pointers to void are invalid; use i8* instead");
1803       if (!PointerType::isValidElementType(Result))
1804         return TokError("pointer to this type is invalid");
1805       unsigned AddrSpace;
1806       if (ParseOptionalAddrSpace(AddrSpace) ||
1807           ParseToken(lltok::star, "expected '*' in address space"))
1808         return true;
1809
1810       Result = PointerType::get(Result, AddrSpace);
1811       break;
1812     }
1813
1814     /// Types '(' ArgTypeListI ')' OptFuncAttrs
1815     case lltok::lparen:
1816       if (ParseFunctionType(Result))
1817         return true;
1818       break;
1819     }
1820   }
1821 }
1822
1823 /// ParseParameterList
1824 ///    ::= '(' ')'
1825 ///    ::= '(' Arg (',' Arg)* ')'
1826 ///  Arg
1827 ///    ::= Type OptionalAttributes Value OptionalAttributes
1828 bool LLParser::ParseParameterList(SmallVectorImpl<ParamInfo> &ArgList,
1829                                   PerFunctionState &PFS, bool IsMustTailCall,
1830                                   bool InVarArgsFunc) {
1831   if (ParseToken(lltok::lparen, "expected '(' in call"))
1832     return true;
1833
1834   unsigned AttrIndex = 1;
1835   while (Lex.getKind() != lltok::rparen) {
1836     // If this isn't the first argument, we need a comma.
1837     if (!ArgList.empty() &&
1838         ParseToken(lltok::comma, "expected ',' in argument list"))
1839       return true;
1840
1841     // Parse an ellipsis if this is a musttail call in a variadic function.
1842     if (Lex.getKind() == lltok::dotdotdot) {
1843       const char *Msg = "unexpected ellipsis in argument list for ";
1844       if (!IsMustTailCall)
1845         return TokError(Twine(Msg) + "non-musttail call");
1846       if (!InVarArgsFunc)
1847         return TokError(Twine(Msg) + "musttail call in non-varargs function");
1848       Lex.Lex();  // Lex the '...', it is purely for readability.
1849       return ParseToken(lltok::rparen, "expected ')' at end of argument list");
1850     }
1851
1852     // Parse the argument.
1853     LocTy ArgLoc;
1854     Type *ArgTy = nullptr;
1855     AttrBuilder ArgAttrs;
1856     Value *V;
1857     if (ParseType(ArgTy, ArgLoc))
1858       return true;
1859
1860     if (ArgTy->isMetadataTy()) {
1861       if (ParseMetadataAsValue(V, PFS))
1862         return true;
1863     } else {
1864       // Otherwise, handle normal operands.
1865       if (ParseOptionalParamAttrs(ArgAttrs) || ParseValue(ArgTy, V, PFS))
1866         return true;
1867     }
1868     ArgList.push_back(ParamInfo(ArgLoc, V, AttributeSet::get(V->getContext(),
1869                                                              AttrIndex++,
1870                                                              ArgAttrs)));
1871   }
1872
1873   if (IsMustTailCall && InVarArgsFunc)
1874     return TokError("expected '...' at end of argument list for musttail call "
1875                     "in varargs function");
1876
1877   Lex.Lex();  // Lex the ')'.
1878   return false;
1879 }
1880
1881
1882
1883 /// ParseArgumentList - Parse the argument list for a function type or function
1884 /// prototype.
1885 ///   ::= '(' ArgTypeListI ')'
1886 /// ArgTypeListI
1887 ///   ::= /*empty*/
1888 ///   ::= '...'
1889 ///   ::= ArgTypeList ',' '...'
1890 ///   ::= ArgType (',' ArgType)*
1891 ///
1892 bool LLParser::ParseArgumentList(SmallVectorImpl<ArgInfo> &ArgList,
1893                                  bool &isVarArg){
1894   isVarArg = false;
1895   assert(Lex.getKind() == lltok::lparen);
1896   Lex.Lex(); // eat the (.
1897
1898   if (Lex.getKind() == lltok::rparen) {
1899     // empty
1900   } else if (Lex.getKind() == lltok::dotdotdot) {
1901     isVarArg = true;
1902     Lex.Lex();
1903   } else {
1904     LocTy TypeLoc = Lex.getLoc();
1905     Type *ArgTy = nullptr;
1906     AttrBuilder Attrs;
1907     std::string Name;
1908
1909     if (ParseType(ArgTy) ||
1910         ParseOptionalParamAttrs(Attrs)) return true;
1911
1912     if (ArgTy->isVoidTy())
1913       return Error(TypeLoc, "argument can not have void type");
1914
1915     if (Lex.getKind() == lltok::LocalVar) {
1916       Name = Lex.getStrVal();
1917       Lex.Lex();
1918     }
1919
1920     if (!FunctionType::isValidArgumentType(ArgTy))
1921       return Error(TypeLoc, "invalid type for function argument");
1922
1923     unsigned AttrIndex = 1;
1924     ArgList.push_back(ArgInfo(TypeLoc, ArgTy,
1925                               AttributeSet::get(ArgTy->getContext(),
1926                                                 AttrIndex++, Attrs), Name));
1927
1928     while (EatIfPresent(lltok::comma)) {
1929       // Handle ... at end of arg list.
1930       if (EatIfPresent(lltok::dotdotdot)) {
1931         isVarArg = true;
1932         break;
1933       }
1934
1935       // Otherwise must be an argument type.
1936       TypeLoc = Lex.getLoc();
1937       if (ParseType(ArgTy) || ParseOptionalParamAttrs(Attrs)) return true;
1938
1939       if (ArgTy->isVoidTy())
1940         return Error(TypeLoc, "argument can not have void type");
1941
1942       if (Lex.getKind() == lltok::LocalVar) {
1943         Name = Lex.getStrVal();
1944         Lex.Lex();
1945       } else {
1946         Name = "";
1947       }
1948
1949       if (!ArgTy->isFirstClassType())
1950         return Error(TypeLoc, "invalid type for function argument");
1951
1952       ArgList.push_back(ArgInfo(TypeLoc, ArgTy,
1953                                 AttributeSet::get(ArgTy->getContext(),
1954                                                   AttrIndex++, Attrs),
1955                                 Name));
1956     }
1957   }
1958
1959   return ParseToken(lltok::rparen, "expected ')' at end of argument list");
1960 }
1961
1962 /// ParseFunctionType
1963 ///  ::= Type ArgumentList OptionalAttrs
1964 bool LLParser::ParseFunctionType(Type *&Result) {
1965   assert(Lex.getKind() == lltok::lparen);
1966
1967   if (!FunctionType::isValidReturnType(Result))
1968     return TokError("invalid function return type");
1969
1970   SmallVector<ArgInfo, 8> ArgList;
1971   bool isVarArg;
1972   if (ParseArgumentList(ArgList, isVarArg))
1973     return true;
1974
1975   // Reject names on the arguments lists.
1976   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
1977     if (!ArgList[i].Name.empty())
1978       return Error(ArgList[i].Loc, "argument name invalid in function type");
1979     if (ArgList[i].Attrs.hasAttributes(i + 1))
1980       return Error(ArgList[i].Loc,
1981                    "argument attributes invalid in function type");
1982   }
1983
1984   SmallVector<Type*, 16> ArgListTy;
1985   for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
1986     ArgListTy.push_back(ArgList[i].Ty);
1987
1988   Result = FunctionType::get(Result, ArgListTy, isVarArg);
1989   return false;
1990 }
1991
1992 /// ParseAnonStructType - Parse an anonymous struct type, which is inlined into
1993 /// other structs.
1994 bool LLParser::ParseAnonStructType(Type *&Result, bool Packed) {
1995   SmallVector<Type*, 8> Elts;
1996   if (ParseStructBody(Elts)) return true;
1997
1998   Result = StructType::get(Context, Elts, Packed);
1999   return false;
2000 }
2001
2002 /// ParseStructDefinition - Parse a struct in a 'type' definition.
2003 bool LLParser::ParseStructDefinition(SMLoc TypeLoc, StringRef Name,
2004                                      std::pair<Type*, LocTy> &Entry,
2005                                      Type *&ResultTy) {
2006   // If the type was already defined, diagnose the redefinition.
2007   if (Entry.first && !Entry.second.isValid())
2008     return Error(TypeLoc, "redefinition of type");
2009
2010   // If we have opaque, just return without filling in the definition for the
2011   // struct.  This counts as a definition as far as the .ll file goes.
2012   if (EatIfPresent(lltok::kw_opaque)) {
2013     // This type is being defined, so clear the location to indicate this.
2014     Entry.second = SMLoc();
2015
2016     // If this type number has never been uttered, create it.
2017     if (!Entry.first)
2018       Entry.first = StructType::create(Context, Name);
2019     ResultTy = Entry.first;
2020     return false;
2021   }
2022
2023   // If the type starts with '<', then it is either a packed struct or a vector.
2024   bool isPacked = EatIfPresent(lltok::less);
2025
2026   // If we don't have a struct, then we have a random type alias, which we
2027   // accept for compatibility with old files.  These types are not allowed to be
2028   // forward referenced and not allowed to be recursive.
2029   if (Lex.getKind() != lltok::lbrace) {
2030     if (Entry.first)
2031       return Error(TypeLoc, "forward references to non-struct type");
2032
2033     ResultTy = nullptr;
2034     if (isPacked)
2035       return ParseArrayVectorType(ResultTy, true);
2036     return ParseType(ResultTy);
2037   }
2038
2039   // This type is being defined, so clear the location to indicate this.
2040   Entry.second = SMLoc();
2041
2042   // If this type number has never been uttered, create it.
2043   if (!Entry.first)
2044     Entry.first = StructType::create(Context, Name);
2045
2046   StructType *STy = cast<StructType>(Entry.first);
2047
2048   SmallVector<Type*, 8> Body;
2049   if (ParseStructBody(Body) ||
2050       (isPacked && ParseToken(lltok::greater, "expected '>' in packed struct")))
2051     return true;
2052
2053   STy->setBody(Body, isPacked);
2054   ResultTy = STy;
2055   return false;
2056 }
2057
2058
2059 /// ParseStructType: Handles packed and unpacked types.  </> parsed elsewhere.
2060 ///   StructType
2061 ///     ::= '{' '}'
2062 ///     ::= '{' Type (',' Type)* '}'
2063 ///     ::= '<' '{' '}' '>'
2064 ///     ::= '<' '{' Type (',' Type)* '}' '>'
2065 bool LLParser::ParseStructBody(SmallVectorImpl<Type*> &Body) {
2066   assert(Lex.getKind() == lltok::lbrace);
2067   Lex.Lex(); // Consume the '{'
2068
2069   // Handle the empty struct.
2070   if (EatIfPresent(lltok::rbrace))
2071     return false;
2072
2073   LocTy EltTyLoc = Lex.getLoc();
2074   Type *Ty = nullptr;
2075   if (ParseType(Ty)) return true;
2076   Body.push_back(Ty);
2077
2078   if (!StructType::isValidElementType(Ty))
2079     return Error(EltTyLoc, "invalid element type for struct");
2080
2081   while (EatIfPresent(lltok::comma)) {
2082     EltTyLoc = Lex.getLoc();
2083     if (ParseType(Ty)) return true;
2084
2085     if (!StructType::isValidElementType(Ty))
2086       return Error(EltTyLoc, "invalid element type for struct");
2087
2088     Body.push_back(Ty);
2089   }
2090
2091   return ParseToken(lltok::rbrace, "expected '}' at end of struct");
2092 }
2093
2094 /// ParseArrayVectorType - Parse an array or vector type, assuming the first
2095 /// token has already been consumed.
2096 ///   Type
2097 ///     ::= '[' APSINTVAL 'x' Types ']'
2098 ///     ::= '<' APSINTVAL 'x' Types '>'
2099 bool LLParser::ParseArrayVectorType(Type *&Result, bool isVector) {
2100   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned() ||
2101       Lex.getAPSIntVal().getBitWidth() > 64)
2102     return TokError("expected number in address space");
2103
2104   LocTy SizeLoc = Lex.getLoc();
2105   uint64_t Size = Lex.getAPSIntVal().getZExtValue();
2106   Lex.Lex();
2107
2108   if (ParseToken(lltok::kw_x, "expected 'x' after element count"))
2109       return true;
2110
2111   LocTy TypeLoc = Lex.getLoc();
2112   Type *EltTy = nullptr;
2113   if (ParseType(EltTy)) return true;
2114
2115   if (ParseToken(isVector ? lltok::greater : lltok::rsquare,
2116                  "expected end of sequential type"))
2117     return true;
2118
2119   if (isVector) {
2120     if (Size == 0)
2121       return Error(SizeLoc, "zero element vector is illegal");
2122     if ((unsigned)Size != Size)
2123       return Error(SizeLoc, "size too large for vector");
2124     if (!VectorType::isValidElementType(EltTy))
2125       return Error(TypeLoc, "invalid vector element type");
2126     Result = VectorType::get(EltTy, unsigned(Size));
2127   } else {
2128     if (!ArrayType::isValidElementType(EltTy))
2129       return Error(TypeLoc, "invalid array element type");
2130     Result = ArrayType::get(EltTy, Size);
2131   }
2132   return false;
2133 }
2134
2135 //===----------------------------------------------------------------------===//
2136 // Function Semantic Analysis.
2137 //===----------------------------------------------------------------------===//
2138
2139 LLParser::PerFunctionState::PerFunctionState(LLParser &p, Function &f,
2140                                              int functionNumber)
2141   : P(p), F(f), FunctionNumber(functionNumber) {
2142
2143   // Insert unnamed arguments into the NumberedVals list.
2144   for (Function::arg_iterator AI = F.arg_begin(), E = F.arg_end();
2145        AI != E; ++AI)
2146     if (!AI->hasName())
2147       NumberedVals.push_back(AI);
2148 }
2149
2150 LLParser::PerFunctionState::~PerFunctionState() {
2151   // If there were any forward referenced non-basicblock values, delete them.
2152   for (std::map<std::string, std::pair<Value*, LocTy> >::iterator
2153        I = ForwardRefVals.begin(), E = ForwardRefVals.end(); I != E; ++I)
2154     if (!isa<BasicBlock>(I->second.first)) {
2155       I->second.first->replaceAllUsesWith(
2156                            UndefValue::get(I->second.first->getType()));
2157       delete I->second.first;
2158       I->second.first = nullptr;
2159     }
2160
2161   for (std::map<unsigned, std::pair<Value*, LocTy> >::iterator
2162        I = ForwardRefValIDs.begin(), E = ForwardRefValIDs.end(); I != E; ++I)
2163     if (!isa<BasicBlock>(I->second.first)) {
2164       I->second.first->replaceAllUsesWith(
2165                            UndefValue::get(I->second.first->getType()));
2166       delete I->second.first;
2167       I->second.first = nullptr;
2168     }
2169 }
2170
2171 bool LLParser::PerFunctionState::FinishFunction() {
2172   if (!ForwardRefVals.empty())
2173     return P.Error(ForwardRefVals.begin()->second.second,
2174                    "use of undefined value '%" + ForwardRefVals.begin()->first +
2175                    "'");
2176   if (!ForwardRefValIDs.empty())
2177     return P.Error(ForwardRefValIDs.begin()->second.second,
2178                    "use of undefined value '%" +
2179                    Twine(ForwardRefValIDs.begin()->first) + "'");
2180   return false;
2181 }
2182
2183
2184 /// GetVal - Get a value with the specified name or ID, creating a
2185 /// forward reference record if needed.  This can return null if the value
2186 /// exists but does not have the right type.
2187 Value *LLParser::PerFunctionState::GetVal(const std::string &Name,
2188                                           Type *Ty, LocTy Loc) {
2189   // Look this name up in the normal function symbol table.
2190   Value *Val = F.getValueSymbolTable().lookup(Name);
2191
2192   // If this is a forward reference for the value, see if we already created a
2193   // forward ref record.
2194   if (!Val) {
2195     std::map<std::string, std::pair<Value*, LocTy> >::iterator
2196       I = ForwardRefVals.find(Name);
2197     if (I != ForwardRefVals.end())
2198       Val = I->second.first;
2199   }
2200
2201   // If we have the value in the symbol table or fwd-ref table, return it.
2202   if (Val) {
2203     if (Val->getType() == Ty) return Val;
2204     if (Ty->isLabelTy())
2205       P.Error(Loc, "'%" + Name + "' is not a basic block");
2206     else
2207       P.Error(Loc, "'%" + Name + "' defined with type '" +
2208               getTypeString(Val->getType()) + "'");
2209     return nullptr;
2210   }
2211
2212   // Don't make placeholders with invalid type.
2213   if (!Ty->isFirstClassType()) {
2214     P.Error(Loc, "invalid use of a non-first-class type");
2215     return nullptr;
2216   }
2217
2218   // Otherwise, create a new forward reference for this value and remember it.
2219   Value *FwdVal;
2220   if (Ty->isLabelTy())
2221     FwdVal = BasicBlock::Create(F.getContext(), Name, &F);
2222   else
2223     FwdVal = new Argument(Ty, Name);
2224
2225   ForwardRefVals[Name] = std::make_pair(FwdVal, Loc);
2226   return FwdVal;
2227 }
2228
2229 Value *LLParser::PerFunctionState::GetVal(unsigned ID, Type *Ty,
2230                                           LocTy Loc) {
2231   // Look this name up in the normal function symbol table.
2232   Value *Val = ID < NumberedVals.size() ? NumberedVals[ID] : nullptr;
2233
2234   // If this is a forward reference for the value, see if we already created a
2235   // forward ref record.
2236   if (!Val) {
2237     std::map<unsigned, std::pair<Value*, LocTy> >::iterator
2238       I = ForwardRefValIDs.find(ID);
2239     if (I != ForwardRefValIDs.end())
2240       Val = I->second.first;
2241   }
2242
2243   // If we have the value in the symbol table or fwd-ref table, return it.
2244   if (Val) {
2245     if (Val->getType() == Ty) return Val;
2246     if (Ty->isLabelTy())
2247       P.Error(Loc, "'%" + Twine(ID) + "' is not a basic block");
2248     else
2249       P.Error(Loc, "'%" + Twine(ID) + "' defined with type '" +
2250               getTypeString(Val->getType()) + "'");
2251     return nullptr;
2252   }
2253
2254   if (!Ty->isFirstClassType()) {
2255     P.Error(Loc, "invalid use of a non-first-class type");
2256     return nullptr;
2257   }
2258
2259   // Otherwise, create a new forward reference for this value and remember it.
2260   Value *FwdVal;
2261   if (Ty->isLabelTy())
2262     FwdVal = BasicBlock::Create(F.getContext(), "", &F);
2263   else
2264     FwdVal = new Argument(Ty);
2265
2266   ForwardRefValIDs[ID] = std::make_pair(FwdVal, Loc);
2267   return FwdVal;
2268 }
2269
2270 /// SetInstName - After an instruction is parsed and inserted into its
2271 /// basic block, this installs its name.
2272 bool LLParser::PerFunctionState::SetInstName(int NameID,
2273                                              const std::string &NameStr,
2274                                              LocTy NameLoc, Instruction *Inst) {
2275   // If this instruction has void type, it cannot have a name or ID specified.
2276   if (Inst->getType()->isVoidTy()) {
2277     if (NameID != -1 || !NameStr.empty())
2278       return P.Error(NameLoc, "instructions returning void cannot have a name");
2279     return false;
2280   }
2281
2282   // If this was a numbered instruction, verify that the instruction is the
2283   // expected value and resolve any forward references.
2284   if (NameStr.empty()) {
2285     // If neither a name nor an ID was specified, just use the next ID.
2286     if (NameID == -1)
2287       NameID = NumberedVals.size();
2288
2289     if (unsigned(NameID) != NumberedVals.size())
2290       return P.Error(NameLoc, "instruction expected to be numbered '%" +
2291                      Twine(NumberedVals.size()) + "'");
2292
2293     std::map<unsigned, std::pair<Value*, LocTy> >::iterator FI =
2294       ForwardRefValIDs.find(NameID);
2295     if (FI != ForwardRefValIDs.end()) {
2296       if (FI->second.first->getType() != Inst->getType())
2297         return P.Error(NameLoc, "instruction forward referenced with type '" +
2298                        getTypeString(FI->second.first->getType()) + "'");
2299       FI->second.first->replaceAllUsesWith(Inst);
2300       delete FI->second.first;
2301       ForwardRefValIDs.erase(FI);
2302     }
2303
2304     NumberedVals.push_back(Inst);
2305     return false;
2306   }
2307
2308   // Otherwise, the instruction had a name.  Resolve forward refs and set it.
2309   std::map<std::string, std::pair<Value*, LocTy> >::iterator
2310     FI = ForwardRefVals.find(NameStr);
2311   if (FI != ForwardRefVals.end()) {
2312     if (FI->second.first->getType() != Inst->getType())
2313       return P.Error(NameLoc, "instruction forward referenced with type '" +
2314                      getTypeString(FI->second.first->getType()) + "'");
2315     FI->second.first->replaceAllUsesWith(Inst);
2316     delete FI->second.first;
2317     ForwardRefVals.erase(FI);
2318   }
2319
2320   // Set the name on the instruction.
2321   Inst->setName(NameStr);
2322
2323   if (Inst->getName() != NameStr)
2324     return P.Error(NameLoc, "multiple definition of local value named '" +
2325                    NameStr + "'");
2326   return false;
2327 }
2328
2329 /// GetBB - Get a basic block with the specified name or ID, creating a
2330 /// forward reference record if needed.
2331 BasicBlock *LLParser::PerFunctionState::GetBB(const std::string &Name,
2332                                               LocTy Loc) {
2333   return cast_or_null<BasicBlock>(GetVal(Name,
2334                                         Type::getLabelTy(F.getContext()), Loc));
2335 }
2336
2337 BasicBlock *LLParser::PerFunctionState::GetBB(unsigned ID, LocTy Loc) {
2338   return cast_or_null<BasicBlock>(GetVal(ID,
2339                                         Type::getLabelTy(F.getContext()), Loc));
2340 }
2341
2342 /// DefineBB - Define the specified basic block, which is either named or
2343 /// unnamed.  If there is an error, this returns null otherwise it returns
2344 /// the block being defined.
2345 BasicBlock *LLParser::PerFunctionState::DefineBB(const std::string &Name,
2346                                                  LocTy Loc) {
2347   BasicBlock *BB;
2348   if (Name.empty())
2349     BB = GetBB(NumberedVals.size(), Loc);
2350   else
2351     BB = GetBB(Name, Loc);
2352   if (!BB) return nullptr; // Already diagnosed error.
2353
2354   // Move the block to the end of the function.  Forward ref'd blocks are
2355   // inserted wherever they happen to be referenced.
2356   F.getBasicBlockList().splice(F.end(), F.getBasicBlockList(), BB);
2357
2358   // Remove the block from forward ref sets.
2359   if (Name.empty()) {
2360     ForwardRefValIDs.erase(NumberedVals.size());
2361     NumberedVals.push_back(BB);
2362   } else {
2363     // BB forward references are already in the function symbol table.
2364     ForwardRefVals.erase(Name);
2365   }
2366
2367   return BB;
2368 }
2369
2370 //===----------------------------------------------------------------------===//
2371 // Constants.
2372 //===----------------------------------------------------------------------===//
2373
2374 /// ParseValID - Parse an abstract value that doesn't necessarily have a
2375 /// type implied.  For example, if we parse "4" we don't know what integer type
2376 /// it has.  The value will later be combined with its type and checked for
2377 /// sanity.  PFS is used to convert function-local operands of metadata (since
2378 /// metadata operands are not just parsed here but also converted to values).
2379 /// PFS can be null when we are not parsing metadata values inside a function.
2380 bool LLParser::ParseValID(ValID &ID, PerFunctionState *PFS) {
2381   ID.Loc = Lex.getLoc();
2382   switch (Lex.getKind()) {
2383   default: return TokError("expected value token");
2384   case lltok::GlobalID:  // @42
2385     ID.UIntVal = Lex.getUIntVal();
2386     ID.Kind = ValID::t_GlobalID;
2387     break;
2388   case lltok::GlobalVar:  // @foo
2389     ID.StrVal = Lex.getStrVal();
2390     ID.Kind = ValID::t_GlobalName;
2391     break;
2392   case lltok::LocalVarID:  // %42
2393     ID.UIntVal = Lex.getUIntVal();
2394     ID.Kind = ValID::t_LocalID;
2395     break;
2396   case lltok::LocalVar:  // %foo
2397     ID.StrVal = Lex.getStrVal();
2398     ID.Kind = ValID::t_LocalName;
2399     break;
2400   case lltok::APSInt:
2401     ID.APSIntVal = Lex.getAPSIntVal();
2402     ID.Kind = ValID::t_APSInt;
2403     break;
2404   case lltok::APFloat:
2405     ID.APFloatVal = Lex.getAPFloatVal();
2406     ID.Kind = ValID::t_APFloat;
2407     break;
2408   case lltok::kw_true:
2409     ID.ConstantVal = ConstantInt::getTrue(Context);
2410     ID.Kind = ValID::t_Constant;
2411     break;
2412   case lltok::kw_false:
2413     ID.ConstantVal = ConstantInt::getFalse(Context);
2414     ID.Kind = ValID::t_Constant;
2415     break;
2416   case lltok::kw_null: ID.Kind = ValID::t_Null; break;
2417   case lltok::kw_undef: ID.Kind = ValID::t_Undef; break;
2418   case lltok::kw_zeroinitializer: ID.Kind = ValID::t_Zero; break;
2419
2420   case lltok::lbrace: {
2421     // ValID ::= '{' ConstVector '}'
2422     Lex.Lex();
2423     SmallVector<Constant*, 16> Elts;
2424     if (ParseGlobalValueVector(Elts) ||
2425         ParseToken(lltok::rbrace, "expected end of struct constant"))
2426       return true;
2427
2428     ID.ConstantStructElts = new Constant*[Elts.size()];
2429     ID.UIntVal = Elts.size();
2430     memcpy(ID.ConstantStructElts, Elts.data(), Elts.size()*sizeof(Elts[0]));
2431     ID.Kind = ValID::t_ConstantStruct;
2432     return false;
2433   }
2434   case lltok::less: {
2435     // ValID ::= '<' ConstVector '>'         --> Vector.
2436     // ValID ::= '<' '{' ConstVector '}' '>' --> Packed Struct.
2437     Lex.Lex();
2438     bool isPackedStruct = EatIfPresent(lltok::lbrace);
2439
2440     SmallVector<Constant*, 16> Elts;
2441     LocTy FirstEltLoc = Lex.getLoc();
2442     if (ParseGlobalValueVector(Elts) ||
2443         (isPackedStruct &&
2444          ParseToken(lltok::rbrace, "expected end of packed struct")) ||
2445         ParseToken(lltok::greater, "expected end of constant"))
2446       return true;
2447
2448     if (isPackedStruct) {
2449       ID.ConstantStructElts = new Constant*[Elts.size()];
2450       memcpy(ID.ConstantStructElts, Elts.data(), Elts.size()*sizeof(Elts[0]));
2451       ID.UIntVal = Elts.size();
2452       ID.Kind = ValID::t_PackedConstantStruct;
2453       return false;
2454     }
2455
2456     if (Elts.empty())
2457       return Error(ID.Loc, "constant vector must not be empty");
2458
2459     if (!Elts[0]->getType()->isIntegerTy() &&
2460         !Elts[0]->getType()->isFloatingPointTy() &&
2461         !Elts[0]->getType()->isPointerTy())
2462       return Error(FirstEltLoc,
2463             "vector elements must have integer, pointer or floating point type");
2464
2465     // Verify that all the vector elements have the same type.
2466     for (unsigned i = 1, e = Elts.size(); i != e; ++i)
2467       if (Elts[i]->getType() != Elts[0]->getType())
2468         return Error(FirstEltLoc,
2469                      "vector element #" + Twine(i) +
2470                     " is not of type '" + getTypeString(Elts[0]->getType()));
2471
2472     ID.ConstantVal = ConstantVector::get(Elts);
2473     ID.Kind = ValID::t_Constant;
2474     return false;
2475   }
2476   case lltok::lsquare: {   // Array Constant
2477     Lex.Lex();
2478     SmallVector<Constant*, 16> Elts;
2479     LocTy FirstEltLoc = Lex.getLoc();
2480     if (ParseGlobalValueVector(Elts) ||
2481         ParseToken(lltok::rsquare, "expected end of array constant"))
2482       return true;
2483
2484     // Handle empty element.
2485     if (Elts.empty()) {
2486       // Use undef instead of an array because it's inconvenient to determine
2487       // the element type at this point, there being no elements to examine.
2488       ID.Kind = ValID::t_EmptyArray;
2489       return false;
2490     }
2491
2492     if (!Elts[0]->getType()->isFirstClassType())
2493       return Error(FirstEltLoc, "invalid array element type: " +
2494                    getTypeString(Elts[0]->getType()));
2495
2496     ArrayType *ATy = ArrayType::get(Elts[0]->getType(), Elts.size());
2497
2498     // Verify all elements are correct type!
2499     for (unsigned i = 0, e = Elts.size(); i != e; ++i) {
2500       if (Elts[i]->getType() != Elts[0]->getType())
2501         return Error(FirstEltLoc,
2502                      "array element #" + Twine(i) +
2503                      " is not of type '" + getTypeString(Elts[0]->getType()));
2504     }
2505
2506     ID.ConstantVal = ConstantArray::get(ATy, Elts);
2507     ID.Kind = ValID::t_Constant;
2508     return false;
2509   }
2510   case lltok::kw_c:  // c "foo"
2511     Lex.Lex();
2512     ID.ConstantVal = ConstantDataArray::getString(Context, Lex.getStrVal(),
2513                                                   false);
2514     if (ParseToken(lltok::StringConstant, "expected string")) return true;
2515     ID.Kind = ValID::t_Constant;
2516     return false;
2517
2518   case lltok::kw_asm: {
2519     // ValID ::= 'asm' SideEffect? AlignStack? IntelDialect? STRINGCONSTANT ','
2520     //             STRINGCONSTANT
2521     bool HasSideEffect, AlignStack, AsmDialect;
2522     Lex.Lex();
2523     if (ParseOptionalToken(lltok::kw_sideeffect, HasSideEffect) ||
2524         ParseOptionalToken(lltok::kw_alignstack, AlignStack) ||
2525         ParseOptionalToken(lltok::kw_inteldialect, AsmDialect) ||
2526         ParseStringConstant(ID.StrVal) ||
2527         ParseToken(lltok::comma, "expected comma in inline asm expression") ||
2528         ParseToken(lltok::StringConstant, "expected constraint string"))
2529       return true;
2530     ID.StrVal2 = Lex.getStrVal();
2531     ID.UIntVal = unsigned(HasSideEffect) | (unsigned(AlignStack)<<1) |
2532       (unsigned(AsmDialect)<<2);
2533     ID.Kind = ValID::t_InlineAsm;
2534     return false;
2535   }
2536
2537   case lltok::kw_blockaddress: {
2538     // ValID ::= 'blockaddress' '(' @foo ',' %bar ')'
2539     Lex.Lex();
2540
2541     ValID Fn, Label;
2542
2543     if (ParseToken(lltok::lparen, "expected '(' in block address expression") ||
2544         ParseValID(Fn) ||
2545         ParseToken(lltok::comma, "expected comma in block address expression")||
2546         ParseValID(Label) ||
2547         ParseToken(lltok::rparen, "expected ')' in block address expression"))
2548       return true;
2549
2550     if (Fn.Kind != ValID::t_GlobalID && Fn.Kind != ValID::t_GlobalName)
2551       return Error(Fn.Loc, "expected function name in blockaddress");
2552     if (Label.Kind != ValID::t_LocalID && Label.Kind != ValID::t_LocalName)
2553       return Error(Label.Loc, "expected basic block name in blockaddress");
2554
2555     // Try to find the function (but skip it if it's forward-referenced).
2556     GlobalValue *GV = nullptr;
2557     if (Fn.Kind == ValID::t_GlobalID) {
2558       if (Fn.UIntVal < NumberedVals.size())
2559         GV = NumberedVals[Fn.UIntVal];
2560     } else if (!ForwardRefVals.count(Fn.StrVal)) {
2561       GV = M->getNamedValue(Fn.StrVal);
2562     }
2563     Function *F = nullptr;
2564     if (GV) {
2565       // Confirm that it's actually a function with a definition.
2566       if (!isa<Function>(GV))
2567         return Error(Fn.Loc, "expected function name in blockaddress");
2568       F = cast<Function>(GV);
2569       if (F->isDeclaration())
2570         return Error(Fn.Loc, "cannot take blockaddress inside a declaration");
2571     }
2572
2573     if (!F) {
2574       // Make a global variable as a placeholder for this reference.
2575       GlobalValue *&FwdRef = ForwardRefBlockAddresses[Fn][Label];
2576       if (!FwdRef)
2577         FwdRef = new GlobalVariable(*M, Type::getInt8Ty(Context), false,
2578                                     GlobalValue::InternalLinkage, nullptr, "");
2579       ID.ConstantVal = FwdRef;
2580       ID.Kind = ValID::t_Constant;
2581       return false;
2582     }
2583
2584     // We found the function; now find the basic block.  Don't use PFS, since we
2585     // might be inside a constant expression.
2586     BasicBlock *BB;
2587     if (BlockAddressPFS && F == &BlockAddressPFS->getFunction()) {
2588       if (Label.Kind == ValID::t_LocalID)
2589         BB = BlockAddressPFS->GetBB(Label.UIntVal, Label.Loc);
2590       else
2591         BB = BlockAddressPFS->GetBB(Label.StrVal, Label.Loc);
2592       if (!BB)
2593         return Error(Label.Loc, "referenced value is not a basic block");
2594     } else {
2595       if (Label.Kind == ValID::t_LocalID)
2596         return Error(Label.Loc, "cannot take address of numeric label after "
2597                                 "the function is defined");
2598       BB = dyn_cast_or_null<BasicBlock>(
2599           F->getValueSymbolTable().lookup(Label.StrVal));
2600       if (!BB)
2601         return Error(Label.Loc, "referenced value is not a basic block");
2602     }
2603
2604     ID.ConstantVal = BlockAddress::get(F, BB);
2605     ID.Kind = ValID::t_Constant;
2606     return false;
2607   }
2608
2609   case lltok::kw_trunc:
2610   case lltok::kw_zext:
2611   case lltok::kw_sext:
2612   case lltok::kw_fptrunc:
2613   case lltok::kw_fpext:
2614   case lltok::kw_bitcast:
2615   case lltok::kw_addrspacecast:
2616   case lltok::kw_uitofp:
2617   case lltok::kw_sitofp:
2618   case lltok::kw_fptoui:
2619   case lltok::kw_fptosi:
2620   case lltok::kw_inttoptr:
2621   case lltok::kw_ptrtoint: {
2622     unsigned Opc = Lex.getUIntVal();
2623     Type *DestTy = nullptr;
2624     Constant *SrcVal;
2625     Lex.Lex();
2626     if (ParseToken(lltok::lparen, "expected '(' after constantexpr cast") ||
2627         ParseGlobalTypeAndValue(SrcVal) ||
2628         ParseToken(lltok::kw_to, "expected 'to' in constantexpr cast") ||
2629         ParseType(DestTy) ||
2630         ParseToken(lltok::rparen, "expected ')' at end of constantexpr cast"))
2631       return true;
2632     if (!CastInst::castIsValid((Instruction::CastOps)Opc, SrcVal, DestTy))
2633       return Error(ID.Loc, "invalid cast opcode for cast from '" +
2634                    getTypeString(SrcVal->getType()) + "' to '" +
2635                    getTypeString(DestTy) + "'");
2636     ID.ConstantVal = ConstantExpr::getCast((Instruction::CastOps)Opc,
2637                                                  SrcVal, DestTy);
2638     ID.Kind = ValID::t_Constant;
2639     return false;
2640   }
2641   case lltok::kw_extractvalue: {
2642     Lex.Lex();
2643     Constant *Val;
2644     SmallVector<unsigned, 4> Indices;
2645     if (ParseToken(lltok::lparen, "expected '(' in extractvalue constantexpr")||
2646         ParseGlobalTypeAndValue(Val) ||
2647         ParseIndexList(Indices) ||
2648         ParseToken(lltok::rparen, "expected ')' in extractvalue constantexpr"))
2649       return true;
2650
2651     if (!Val->getType()->isAggregateType())
2652       return Error(ID.Loc, "extractvalue operand must be aggregate type");
2653     if (!ExtractValueInst::getIndexedType(Val->getType(), Indices))
2654       return Error(ID.Loc, "invalid indices for extractvalue");
2655     ID.ConstantVal = ConstantExpr::getExtractValue(Val, Indices);
2656     ID.Kind = ValID::t_Constant;
2657     return false;
2658   }
2659   case lltok::kw_insertvalue: {
2660     Lex.Lex();
2661     Constant *Val0, *Val1;
2662     SmallVector<unsigned, 4> Indices;
2663     if (ParseToken(lltok::lparen, "expected '(' in insertvalue constantexpr")||
2664         ParseGlobalTypeAndValue(Val0) ||
2665         ParseToken(lltok::comma, "expected comma in insertvalue constantexpr")||
2666         ParseGlobalTypeAndValue(Val1) ||
2667         ParseIndexList(Indices) ||
2668         ParseToken(lltok::rparen, "expected ')' in insertvalue constantexpr"))
2669       return true;
2670     if (!Val0->getType()->isAggregateType())
2671       return Error(ID.Loc, "insertvalue operand must be aggregate type");
2672     if (!ExtractValueInst::getIndexedType(Val0->getType(), Indices))
2673       return Error(ID.Loc, "invalid indices for insertvalue");
2674     ID.ConstantVal = ConstantExpr::getInsertValue(Val0, Val1, Indices);
2675     ID.Kind = ValID::t_Constant;
2676     return false;
2677   }
2678   case lltok::kw_icmp:
2679   case lltok::kw_fcmp: {
2680     unsigned PredVal, Opc = Lex.getUIntVal();
2681     Constant *Val0, *Val1;
2682     Lex.Lex();
2683     if (ParseCmpPredicate(PredVal, Opc) ||
2684         ParseToken(lltok::lparen, "expected '(' in compare constantexpr") ||
2685         ParseGlobalTypeAndValue(Val0) ||
2686         ParseToken(lltok::comma, "expected comma in compare constantexpr") ||
2687         ParseGlobalTypeAndValue(Val1) ||
2688         ParseToken(lltok::rparen, "expected ')' in compare constantexpr"))
2689       return true;
2690
2691     if (Val0->getType() != Val1->getType())
2692       return Error(ID.Loc, "compare operands must have the same type");
2693
2694     CmpInst::Predicate Pred = (CmpInst::Predicate)PredVal;
2695
2696     if (Opc == Instruction::FCmp) {
2697       if (!Val0->getType()->isFPOrFPVectorTy())
2698         return Error(ID.Loc, "fcmp requires floating point operands");
2699       ID.ConstantVal = ConstantExpr::getFCmp(Pred, Val0, Val1);
2700     } else {
2701       assert(Opc == Instruction::ICmp && "Unexpected opcode for CmpInst!");
2702       if (!Val0->getType()->isIntOrIntVectorTy() &&
2703           !Val0->getType()->getScalarType()->isPointerTy())
2704         return Error(ID.Loc, "icmp requires pointer or integer operands");
2705       ID.ConstantVal = ConstantExpr::getICmp(Pred, Val0, Val1);
2706     }
2707     ID.Kind = ValID::t_Constant;
2708     return false;
2709   }
2710
2711   // Binary Operators.
2712   case lltok::kw_add:
2713   case lltok::kw_fadd:
2714   case lltok::kw_sub:
2715   case lltok::kw_fsub:
2716   case lltok::kw_mul:
2717   case lltok::kw_fmul:
2718   case lltok::kw_udiv:
2719   case lltok::kw_sdiv:
2720   case lltok::kw_fdiv:
2721   case lltok::kw_urem:
2722   case lltok::kw_srem:
2723   case lltok::kw_frem:
2724   case lltok::kw_shl:
2725   case lltok::kw_lshr:
2726   case lltok::kw_ashr: {
2727     bool NUW = false;
2728     bool NSW = false;
2729     bool Exact = false;
2730     unsigned Opc = Lex.getUIntVal();
2731     Constant *Val0, *Val1;
2732     Lex.Lex();
2733     LocTy ModifierLoc = Lex.getLoc();
2734     if (Opc == Instruction::Add || Opc == Instruction::Sub ||
2735         Opc == Instruction::Mul || Opc == Instruction::Shl) {
2736       if (EatIfPresent(lltok::kw_nuw))
2737         NUW = true;
2738       if (EatIfPresent(lltok::kw_nsw)) {
2739         NSW = true;
2740         if (EatIfPresent(lltok::kw_nuw))
2741           NUW = true;
2742       }
2743     } else if (Opc == Instruction::SDiv || Opc == Instruction::UDiv ||
2744                Opc == Instruction::LShr || Opc == Instruction::AShr) {
2745       if (EatIfPresent(lltok::kw_exact))
2746         Exact = true;
2747     }
2748     if (ParseToken(lltok::lparen, "expected '(' in binary constantexpr") ||
2749         ParseGlobalTypeAndValue(Val0) ||
2750         ParseToken(lltok::comma, "expected comma in binary constantexpr") ||
2751         ParseGlobalTypeAndValue(Val1) ||
2752         ParseToken(lltok::rparen, "expected ')' in binary constantexpr"))
2753       return true;
2754     if (Val0->getType() != Val1->getType())
2755       return Error(ID.Loc, "operands of constexpr must have same type");
2756     if (!Val0->getType()->isIntOrIntVectorTy()) {
2757       if (NUW)
2758         return Error(ModifierLoc, "nuw only applies to integer operations");
2759       if (NSW)
2760         return Error(ModifierLoc, "nsw only applies to integer operations");
2761     }
2762     // Check that the type is valid for the operator.
2763     switch (Opc) {
2764     case Instruction::Add:
2765     case Instruction::Sub:
2766     case Instruction::Mul:
2767     case Instruction::UDiv:
2768     case Instruction::SDiv:
2769     case Instruction::URem:
2770     case Instruction::SRem:
2771     case Instruction::Shl:
2772     case Instruction::AShr:
2773     case Instruction::LShr:
2774       if (!Val0->getType()->isIntOrIntVectorTy())
2775         return Error(ID.Loc, "constexpr requires integer operands");
2776       break;
2777     case Instruction::FAdd:
2778     case Instruction::FSub:
2779     case Instruction::FMul:
2780     case Instruction::FDiv:
2781     case Instruction::FRem:
2782       if (!Val0->getType()->isFPOrFPVectorTy())
2783         return Error(ID.Loc, "constexpr requires fp operands");
2784       break;
2785     default: llvm_unreachable("Unknown binary operator!");
2786     }
2787     unsigned Flags = 0;
2788     if (NUW)   Flags |= OverflowingBinaryOperator::NoUnsignedWrap;
2789     if (NSW)   Flags |= OverflowingBinaryOperator::NoSignedWrap;
2790     if (Exact) Flags |= PossiblyExactOperator::IsExact;
2791     Constant *C = ConstantExpr::get(Opc, Val0, Val1, Flags);
2792     ID.ConstantVal = C;
2793     ID.Kind = ValID::t_Constant;
2794     return false;
2795   }
2796
2797   // Logical Operations
2798   case lltok::kw_and:
2799   case lltok::kw_or:
2800   case lltok::kw_xor: {
2801     unsigned Opc = Lex.getUIntVal();
2802     Constant *Val0, *Val1;
2803     Lex.Lex();
2804     if (ParseToken(lltok::lparen, "expected '(' in logical constantexpr") ||
2805         ParseGlobalTypeAndValue(Val0) ||
2806         ParseToken(lltok::comma, "expected comma in logical constantexpr") ||
2807         ParseGlobalTypeAndValue(Val1) ||
2808         ParseToken(lltok::rparen, "expected ')' in logical constantexpr"))
2809       return true;
2810     if (Val0->getType() != Val1->getType())
2811       return Error(ID.Loc, "operands of constexpr must have same type");
2812     if (!Val0->getType()->isIntOrIntVectorTy())
2813       return Error(ID.Loc,
2814                    "constexpr requires integer or integer vector operands");
2815     ID.ConstantVal = ConstantExpr::get(Opc, Val0, Val1);
2816     ID.Kind = ValID::t_Constant;
2817     return false;
2818   }
2819
2820   case lltok::kw_getelementptr:
2821   case lltok::kw_shufflevector:
2822   case lltok::kw_insertelement:
2823   case lltok::kw_extractelement:
2824   case lltok::kw_select: {
2825     unsigned Opc = Lex.getUIntVal();
2826     SmallVector<Constant*, 16> Elts;
2827     bool InBounds = false;
2828     Lex.Lex();
2829     if (Opc == Instruction::GetElementPtr)
2830       InBounds = EatIfPresent(lltok::kw_inbounds);
2831     if (ParseToken(lltok::lparen, "expected '(' in constantexpr") ||
2832         ParseGlobalValueVector(Elts) ||
2833         ParseToken(lltok::rparen, "expected ')' in constantexpr"))
2834       return true;
2835
2836     if (Opc == Instruction::GetElementPtr) {
2837       if (Elts.size() == 0 ||
2838           !Elts[0]->getType()->getScalarType()->isPointerTy())
2839         return Error(ID.Loc, "getelementptr requires pointer operand");
2840
2841       ArrayRef<Constant *> Indices(Elts.begin() + 1, Elts.end());
2842       if (!GetElementPtrInst::getIndexedType(Elts[0]->getType(), Indices))
2843         return Error(ID.Loc, "invalid indices for getelementptr");
2844       ID.ConstantVal = ConstantExpr::getGetElementPtr(Elts[0], Indices,
2845                                                       InBounds);
2846     } else if (Opc == Instruction::Select) {
2847       if (Elts.size() != 3)
2848         return Error(ID.Loc, "expected three operands to select");
2849       if (const char *Reason = SelectInst::areInvalidOperands(Elts[0], Elts[1],
2850                                                               Elts[2]))
2851         return Error(ID.Loc, Reason);
2852       ID.ConstantVal = ConstantExpr::getSelect(Elts[0], Elts[1], Elts[2]);
2853     } else if (Opc == Instruction::ShuffleVector) {
2854       if (Elts.size() != 3)
2855         return Error(ID.Loc, "expected three operands to shufflevector");
2856       if (!ShuffleVectorInst::isValidOperands(Elts[0], Elts[1], Elts[2]))
2857         return Error(ID.Loc, "invalid operands to shufflevector");
2858       ID.ConstantVal =
2859                  ConstantExpr::getShuffleVector(Elts[0], Elts[1],Elts[2]);
2860     } else if (Opc == Instruction::ExtractElement) {
2861       if (Elts.size() != 2)
2862         return Error(ID.Loc, "expected two operands to extractelement");
2863       if (!ExtractElementInst::isValidOperands(Elts[0], Elts[1]))
2864         return Error(ID.Loc, "invalid extractelement operands");
2865       ID.ConstantVal = ConstantExpr::getExtractElement(Elts[0], Elts[1]);
2866     } else {
2867       assert(Opc == Instruction::InsertElement && "Unknown opcode");
2868       if (Elts.size() != 3)
2869       return Error(ID.Loc, "expected three operands to insertelement");
2870       if (!InsertElementInst::isValidOperands(Elts[0], Elts[1], Elts[2]))
2871         return Error(ID.Loc, "invalid insertelement operands");
2872       ID.ConstantVal =
2873                  ConstantExpr::getInsertElement(Elts[0], Elts[1],Elts[2]);
2874     }
2875
2876     ID.Kind = ValID::t_Constant;
2877     return false;
2878   }
2879   }
2880
2881   Lex.Lex();
2882   return false;
2883 }
2884
2885 /// ParseGlobalValue - Parse a global value with the specified type.
2886 bool LLParser::ParseGlobalValue(Type *Ty, Constant *&C) {
2887   C = nullptr;
2888   ValID ID;
2889   Value *V = nullptr;
2890   bool Parsed = ParseValID(ID) ||
2891                 ConvertValIDToValue(Ty, ID, V, nullptr);
2892   if (V && !(C = dyn_cast<Constant>(V)))
2893     return Error(ID.Loc, "global values must be constants");
2894   return Parsed;
2895 }
2896
2897 bool LLParser::ParseGlobalTypeAndValue(Constant *&V) {
2898   Type *Ty = nullptr;
2899   return ParseType(Ty) ||
2900          ParseGlobalValue(Ty, V);
2901 }
2902
2903 bool LLParser::parseOptionalComdat(StringRef GlobalName, Comdat *&C) {
2904   C = nullptr;
2905
2906   LocTy KwLoc = Lex.getLoc();
2907   if (!EatIfPresent(lltok::kw_comdat))
2908     return false;
2909
2910   if (EatIfPresent(lltok::lparen)) {
2911     if (Lex.getKind() != lltok::ComdatVar)
2912       return TokError("expected comdat variable");
2913     C = getComdat(Lex.getStrVal(), Lex.getLoc());
2914     Lex.Lex();
2915     if (ParseToken(lltok::rparen, "expected ')' after comdat var"))
2916       return true;
2917   } else {
2918     if (GlobalName.empty())
2919       return TokError("comdat cannot be unnamed");
2920     C = getComdat(GlobalName, KwLoc);
2921   }
2922
2923   return false;
2924 }
2925
2926 /// ParseGlobalValueVector
2927 ///   ::= /*empty*/
2928 ///   ::= TypeAndValue (',' TypeAndValue)*
2929 bool LLParser::ParseGlobalValueVector(SmallVectorImpl<Constant *> &Elts) {
2930   // Empty list.
2931   if (Lex.getKind() == lltok::rbrace ||
2932       Lex.getKind() == lltok::rsquare ||
2933       Lex.getKind() == lltok::greater ||
2934       Lex.getKind() == lltok::rparen)
2935     return false;
2936
2937   Constant *C;
2938   if (ParseGlobalTypeAndValue(C)) return true;
2939   Elts.push_back(C);
2940
2941   while (EatIfPresent(lltok::comma)) {
2942     if (ParseGlobalTypeAndValue(C)) return true;
2943     Elts.push_back(C);
2944   }
2945
2946   return false;
2947 }
2948
2949 bool LLParser::ParseMDNode(MDNode *&MD, bool IsDistinct) {
2950   SmallVector<Metadata *, 16> Elts;
2951   if (ParseMDNodeVector(Elts))
2952     return true;
2953
2954   if (IsDistinct)
2955     MD = MDNode::getDistinct(Context, Elts);
2956   else
2957     MD = MDNode::get(Context, Elts);
2958   return false;
2959 }
2960
2961 /// ParseMetadataAsValue
2962 ///  ::= metadata i32 %local
2963 ///  ::= metadata i32 @global
2964 ///  ::= metadata i32 7
2965 ///  ::= metadata !0
2966 ///  ::= metadata !{...}
2967 ///  ::= metadata !"string"
2968 bool LLParser::ParseMetadataAsValue(Value *&V, PerFunctionState &PFS) {
2969   // Note: the type 'metadata' has already been parsed.
2970   Metadata *MD;
2971   if (ParseMetadata(MD, &PFS))
2972     return true;
2973
2974   V = MetadataAsValue::get(Context, MD);
2975   return false;
2976 }
2977
2978 /// ParseValueAsMetadata
2979 ///  ::= i32 %local
2980 ///  ::= i32 @global
2981 ///  ::= i32 7
2982 bool LLParser::ParseValueAsMetadata(Metadata *&MD, PerFunctionState *PFS) {
2983   Type *Ty;
2984   LocTy Loc;
2985   if (ParseType(Ty, "expected metadata operand", Loc))
2986     return true;
2987   if (Ty->isMetadataTy())
2988     return Error(Loc, "invalid metadata-value-metadata roundtrip");
2989
2990   Value *V;
2991   if (ParseValue(Ty, V, PFS))
2992     return true;
2993
2994   MD = ValueAsMetadata::get(V);
2995   return false;
2996 }
2997
2998 /// ParseMetadata
2999 ///  ::= i32 %local
3000 ///  ::= i32 @global
3001 ///  ::= i32 7
3002 ///  ::= !42
3003 ///  ::= !{...}
3004 ///  ::= !"string"
3005 bool LLParser::ParseMetadata(Metadata *&MD, PerFunctionState *PFS) {
3006   // ValueAsMetadata:
3007   // <type> <value>
3008   if (Lex.getKind() != lltok::exclaim)
3009     return ParseValueAsMetadata(MD, PFS);
3010
3011   // '!'.
3012   assert(Lex.getKind() == lltok::exclaim && "Expected '!' here");
3013   Lex.Lex();
3014
3015   // MDNode:
3016   // !{ ... }
3017   if (Lex.getKind() == lltok::lbrace) {
3018     MDNode *N;
3019     if (ParseMDNode(N))
3020       return true;
3021     MD = N;
3022     return false;
3023   }
3024
3025   // Standalone metadata reference
3026   // !42
3027   if (Lex.getKind() == lltok::APSInt) {
3028     MDNode *N;
3029     if (ParseMDNodeID(N))
3030       return true;
3031     MD = N;
3032     return false;
3033   }
3034
3035   // MDString:
3036   //   ::= '!' STRINGCONSTANT
3037   MDString *S;
3038   if (ParseMDString(S))
3039     return true;
3040   MD = S;
3041   return false;
3042 }
3043
3044
3045 //===----------------------------------------------------------------------===//
3046 // Function Parsing.
3047 //===----------------------------------------------------------------------===//
3048
3049 bool LLParser::ConvertValIDToValue(Type *Ty, ValID &ID, Value *&V,
3050                                    PerFunctionState *PFS) {
3051   if (Ty->isFunctionTy())
3052     return Error(ID.Loc, "functions are not values, refer to them as pointers");
3053
3054   switch (ID.Kind) {
3055   case ValID::t_LocalID:
3056     if (!PFS) return Error(ID.Loc, "invalid use of function-local name");
3057     V = PFS->GetVal(ID.UIntVal, Ty, ID.Loc);
3058     return V == nullptr;
3059   case ValID::t_LocalName:
3060     if (!PFS) return Error(ID.Loc, "invalid use of function-local name");
3061     V = PFS->GetVal(ID.StrVal, Ty, ID.Loc);
3062     return V == nullptr;
3063   case ValID::t_InlineAsm: {
3064     PointerType *PTy = dyn_cast<PointerType>(Ty);
3065     FunctionType *FTy =
3066       PTy ? dyn_cast<FunctionType>(PTy->getElementType()) : nullptr;
3067     if (!FTy || !InlineAsm::Verify(FTy, ID.StrVal2))
3068       return Error(ID.Loc, "invalid type for inline asm constraint string");
3069     V = InlineAsm::get(FTy, ID.StrVal, ID.StrVal2, ID.UIntVal&1,
3070                        (ID.UIntVal>>1)&1, (InlineAsm::AsmDialect(ID.UIntVal>>2)));
3071     return false;
3072   }
3073   case ValID::t_GlobalName:
3074     V = GetGlobalVal(ID.StrVal, Ty, ID.Loc);
3075     return V == nullptr;
3076   case ValID::t_GlobalID:
3077     V = GetGlobalVal(ID.UIntVal, Ty, ID.Loc);
3078     return V == nullptr;
3079   case ValID::t_APSInt:
3080     if (!Ty->isIntegerTy())
3081       return Error(ID.Loc, "integer constant must have integer type");
3082     ID.APSIntVal = ID.APSIntVal.extOrTrunc(Ty->getPrimitiveSizeInBits());
3083     V = ConstantInt::get(Context, ID.APSIntVal);
3084     return false;
3085   case ValID::t_APFloat:
3086     if (!Ty->isFloatingPointTy() ||
3087         !ConstantFP::isValueValidForType(Ty, ID.APFloatVal))
3088       return Error(ID.Loc, "floating point constant invalid for type");
3089
3090     // The lexer has no type info, so builds all half, float, and double FP
3091     // constants as double.  Fix this here.  Long double does not need this.
3092     if (&ID.APFloatVal.getSemantics() == &APFloat::IEEEdouble) {
3093       bool Ignored;
3094       if (Ty->isHalfTy())
3095         ID.APFloatVal.convert(APFloat::IEEEhalf, APFloat::rmNearestTiesToEven,
3096                               &Ignored);
3097       else if (Ty->isFloatTy())
3098         ID.APFloatVal.convert(APFloat::IEEEsingle, APFloat::rmNearestTiesToEven,
3099                               &Ignored);
3100     }
3101     V = ConstantFP::get(Context, ID.APFloatVal);
3102
3103     if (V->getType() != Ty)
3104       return Error(ID.Loc, "floating point constant does not have type '" +
3105                    getTypeString(Ty) + "'");
3106
3107     return false;
3108   case ValID::t_Null:
3109     if (!Ty->isPointerTy())
3110       return Error(ID.Loc, "null must be a pointer type");
3111     V = ConstantPointerNull::get(cast<PointerType>(Ty));
3112     return false;
3113   case ValID::t_Undef:
3114     // FIXME: LabelTy should not be a first-class type.
3115     if (!Ty->isFirstClassType() || Ty->isLabelTy())
3116       return Error(ID.Loc, "invalid type for undef constant");
3117     V = UndefValue::get(Ty);
3118     return false;
3119   case ValID::t_EmptyArray:
3120     if (!Ty->isArrayTy() || cast<ArrayType>(Ty)->getNumElements() != 0)
3121       return Error(ID.Loc, "invalid empty array initializer");
3122     V = UndefValue::get(Ty);
3123     return false;
3124   case ValID::t_Zero:
3125     // FIXME: LabelTy should not be a first-class type.
3126     if (!Ty->isFirstClassType() || Ty->isLabelTy())
3127       return Error(ID.Loc, "invalid type for null constant");
3128     V = Constant::getNullValue(Ty);
3129     return false;
3130   case ValID::t_Constant:
3131     if (ID.ConstantVal->getType() != Ty)
3132       return Error(ID.Loc, "constant expression type mismatch");
3133
3134     V = ID.ConstantVal;
3135     return false;
3136   case ValID::t_ConstantStruct:
3137   case ValID::t_PackedConstantStruct:
3138     if (StructType *ST = dyn_cast<StructType>(Ty)) {
3139       if (ST->getNumElements() != ID.UIntVal)
3140         return Error(ID.Loc,
3141                      "initializer with struct type has wrong # elements");
3142       if (ST->isPacked() != (ID.Kind == ValID::t_PackedConstantStruct))
3143         return Error(ID.Loc, "packed'ness of initializer and type don't match");
3144
3145       // Verify that the elements are compatible with the structtype.
3146       for (unsigned i = 0, e = ID.UIntVal; i != e; ++i)
3147         if (ID.ConstantStructElts[i]->getType() != ST->getElementType(i))
3148           return Error(ID.Loc, "element " + Twine(i) +
3149                     " of struct initializer doesn't match struct element type");
3150
3151       V = ConstantStruct::get(ST, makeArrayRef(ID.ConstantStructElts,
3152                                                ID.UIntVal));
3153     } else
3154       return Error(ID.Loc, "constant expression type mismatch");
3155     return false;
3156   }
3157   llvm_unreachable("Invalid ValID");
3158 }
3159
3160 bool LLParser::ParseValue(Type *Ty, Value *&V, PerFunctionState *PFS) {
3161   V = nullptr;
3162   ValID ID;
3163   return ParseValID(ID, PFS) ||
3164          ConvertValIDToValue(Ty, ID, V, PFS);
3165 }
3166
3167 bool LLParser::ParseTypeAndValue(Value *&V, PerFunctionState *PFS) {
3168   Type *Ty = nullptr;
3169   return ParseType(Ty) ||
3170          ParseValue(Ty, V, PFS);
3171 }
3172
3173 bool LLParser::ParseTypeAndBasicBlock(BasicBlock *&BB, LocTy &Loc,
3174                                       PerFunctionState &PFS) {
3175   Value *V;
3176   Loc = Lex.getLoc();
3177   if (ParseTypeAndValue(V, PFS)) return true;
3178   if (!isa<BasicBlock>(V))
3179     return Error(Loc, "expected a basic block");
3180   BB = cast<BasicBlock>(V);
3181   return false;
3182 }
3183
3184
3185 /// FunctionHeader
3186 ///   ::= OptionalLinkage OptionalVisibility OptionalCallingConv OptRetAttrs
3187 ///       OptUnnamedAddr Type GlobalName '(' ArgList ')' OptFuncAttrs OptSection
3188 ///       OptionalAlign OptGC OptionalPrefix OptionalPrologue
3189 bool LLParser::ParseFunctionHeader(Function *&Fn, bool isDefine) {
3190   // Parse the linkage.
3191   LocTy LinkageLoc = Lex.getLoc();
3192   unsigned Linkage;
3193
3194   unsigned Visibility;
3195   unsigned DLLStorageClass;
3196   AttrBuilder RetAttrs;
3197   unsigned CC;
3198   Type *RetType = nullptr;
3199   LocTy RetTypeLoc = Lex.getLoc();
3200   if (ParseOptionalLinkage(Linkage) ||
3201       ParseOptionalVisibility(Visibility) ||
3202       ParseOptionalDLLStorageClass(DLLStorageClass) ||
3203       ParseOptionalCallingConv(CC) ||
3204       ParseOptionalReturnAttrs(RetAttrs) ||
3205       ParseType(RetType, RetTypeLoc, true /*void allowed*/))
3206     return true;
3207
3208   // Verify that the linkage is ok.
3209   switch ((GlobalValue::LinkageTypes)Linkage) {
3210   case GlobalValue::ExternalLinkage:
3211     break; // always ok.
3212   case GlobalValue::ExternalWeakLinkage:
3213     if (isDefine)
3214       return Error(LinkageLoc, "invalid linkage for function definition");
3215     break;
3216   case GlobalValue::PrivateLinkage:
3217   case GlobalValue::InternalLinkage:
3218   case GlobalValue::AvailableExternallyLinkage:
3219   case GlobalValue::LinkOnceAnyLinkage:
3220   case GlobalValue::LinkOnceODRLinkage:
3221   case GlobalValue::WeakAnyLinkage:
3222   case GlobalValue::WeakODRLinkage:
3223     if (!isDefine)
3224       return Error(LinkageLoc, "invalid linkage for function declaration");
3225     break;
3226   case GlobalValue::AppendingLinkage:
3227   case GlobalValue::CommonLinkage:
3228     return Error(LinkageLoc, "invalid function linkage type");
3229   }
3230
3231   if (!isValidVisibilityForLinkage(Visibility, Linkage))
3232     return Error(LinkageLoc,
3233                  "symbol with local linkage must have default visibility");
3234
3235   if (!FunctionType::isValidReturnType(RetType))
3236     return Error(RetTypeLoc, "invalid function return type");
3237
3238   LocTy NameLoc = Lex.getLoc();
3239
3240   std::string FunctionName;
3241   if (Lex.getKind() == lltok::GlobalVar) {
3242     FunctionName = Lex.getStrVal();
3243   } else if (Lex.getKind() == lltok::GlobalID) {     // @42 is ok.
3244     unsigned NameID = Lex.getUIntVal();
3245
3246     if (NameID != NumberedVals.size())
3247       return TokError("function expected to be numbered '%" +
3248                       Twine(NumberedVals.size()) + "'");
3249   } else {
3250     return TokError("expected function name");
3251   }
3252
3253   Lex.Lex();
3254
3255   if (Lex.getKind() != lltok::lparen)
3256     return TokError("expected '(' in function argument list");
3257
3258   SmallVector<ArgInfo, 8> ArgList;
3259   bool isVarArg;
3260   AttrBuilder FuncAttrs;
3261   std::vector<unsigned> FwdRefAttrGrps;
3262   LocTy BuiltinLoc;
3263   std::string Section;
3264   unsigned Alignment;
3265   std::string GC;
3266   bool UnnamedAddr;
3267   LocTy UnnamedAddrLoc;
3268   Constant *Prefix = nullptr;
3269   Constant *Prologue = nullptr;
3270   Comdat *C;
3271
3272   if (ParseArgumentList(ArgList, isVarArg) ||
3273       ParseOptionalToken(lltok::kw_unnamed_addr, UnnamedAddr,
3274                          &UnnamedAddrLoc) ||
3275       ParseFnAttributeValuePairs(FuncAttrs, FwdRefAttrGrps, false,
3276                                  BuiltinLoc) ||
3277       (EatIfPresent(lltok::kw_section) &&
3278        ParseStringConstant(Section)) ||
3279       parseOptionalComdat(FunctionName, C) ||
3280       ParseOptionalAlignment(Alignment) ||
3281       (EatIfPresent(lltok::kw_gc) &&
3282        ParseStringConstant(GC)) ||
3283       (EatIfPresent(lltok::kw_prefix) &&
3284        ParseGlobalTypeAndValue(Prefix)) ||
3285       (EatIfPresent(lltok::kw_prologue) &&
3286        ParseGlobalTypeAndValue(Prologue)))
3287     return true;
3288
3289   if (FuncAttrs.contains(Attribute::Builtin))
3290     return Error(BuiltinLoc, "'builtin' attribute not valid on function");
3291
3292   // If the alignment was parsed as an attribute, move to the alignment field.
3293   if (FuncAttrs.hasAlignmentAttr()) {
3294     Alignment = FuncAttrs.getAlignment();
3295     FuncAttrs.removeAttribute(Attribute::Alignment);
3296   }
3297
3298   // Okay, if we got here, the function is syntactically valid.  Convert types
3299   // and do semantic checks.
3300   std::vector<Type*> ParamTypeList;
3301   SmallVector<AttributeSet, 8> Attrs;
3302
3303   if (RetAttrs.hasAttributes())
3304     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3305                                       AttributeSet::ReturnIndex,
3306                                       RetAttrs));
3307
3308   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
3309     ParamTypeList.push_back(ArgList[i].Ty);
3310     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
3311       AttrBuilder B(ArgList[i].Attrs, i + 1);
3312       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
3313     }
3314   }
3315
3316   if (FuncAttrs.hasAttributes())
3317     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3318                                       AttributeSet::FunctionIndex,
3319                                       FuncAttrs));
3320
3321   AttributeSet PAL = AttributeSet::get(Context, Attrs);
3322
3323   if (PAL.hasAttribute(1, Attribute::StructRet) && !RetType->isVoidTy())
3324     return Error(RetTypeLoc, "functions with 'sret' argument must return void");
3325
3326   FunctionType *FT =
3327     FunctionType::get(RetType, ParamTypeList, isVarArg);
3328   PointerType *PFT = PointerType::getUnqual(FT);
3329
3330   Fn = nullptr;
3331   if (!FunctionName.empty()) {
3332     // If this was a definition of a forward reference, remove the definition
3333     // from the forward reference table and fill in the forward ref.
3334     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator FRVI =
3335       ForwardRefVals.find(FunctionName);
3336     if (FRVI != ForwardRefVals.end()) {
3337       Fn = M->getFunction(FunctionName);
3338       if (!Fn)
3339         return Error(FRVI->second.second, "invalid forward reference to "
3340                      "function as global value!");
3341       if (Fn->getType() != PFT)
3342         return Error(FRVI->second.second, "invalid forward reference to "
3343                      "function '" + FunctionName + "' with wrong type!");
3344
3345       ForwardRefVals.erase(FRVI);
3346     } else if ((Fn = M->getFunction(FunctionName))) {
3347       // Reject redefinitions.
3348       return Error(NameLoc, "invalid redefinition of function '" +
3349                    FunctionName + "'");
3350     } else if (M->getNamedValue(FunctionName)) {
3351       return Error(NameLoc, "redefinition of function '@" + FunctionName + "'");
3352     }
3353
3354   } else {
3355     // If this is a definition of a forward referenced function, make sure the
3356     // types agree.
3357     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator I
3358       = ForwardRefValIDs.find(NumberedVals.size());
3359     if (I != ForwardRefValIDs.end()) {
3360       Fn = cast<Function>(I->second.first);
3361       if (Fn->getType() != PFT)
3362         return Error(NameLoc, "type of definition and forward reference of '@" +
3363                      Twine(NumberedVals.size()) + "' disagree");
3364       ForwardRefValIDs.erase(I);
3365     }
3366   }
3367
3368   if (!Fn)
3369     Fn = Function::Create(FT, GlobalValue::ExternalLinkage, FunctionName, M);
3370   else // Move the forward-reference to the correct spot in the module.
3371     M->getFunctionList().splice(M->end(), M->getFunctionList(), Fn);
3372
3373   if (FunctionName.empty())
3374     NumberedVals.push_back(Fn);
3375
3376   Fn->setLinkage((GlobalValue::LinkageTypes)Linkage);
3377   Fn->setVisibility((GlobalValue::VisibilityTypes)Visibility);
3378   Fn->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
3379   Fn->setCallingConv(CC);
3380   Fn->setAttributes(PAL);
3381   Fn->setUnnamedAddr(UnnamedAddr);
3382   Fn->setAlignment(Alignment);
3383   Fn->setSection(Section);
3384   Fn->setComdat(C);
3385   if (!GC.empty()) Fn->setGC(GC.c_str());
3386   Fn->setPrefixData(Prefix);
3387   Fn->setPrologueData(Prologue);
3388   ForwardRefAttrGroups[Fn] = FwdRefAttrGrps;
3389
3390   // Add all of the arguments we parsed to the function.
3391   Function::arg_iterator ArgIt = Fn->arg_begin();
3392   for (unsigned i = 0, e = ArgList.size(); i != e; ++i, ++ArgIt) {
3393     // If the argument has a name, insert it into the argument symbol table.
3394     if (ArgList[i].Name.empty()) continue;
3395
3396     // Set the name, if it conflicted, it will be auto-renamed.
3397     ArgIt->setName(ArgList[i].Name);
3398
3399     if (ArgIt->getName() != ArgList[i].Name)
3400       return Error(ArgList[i].Loc, "redefinition of argument '%" +
3401                    ArgList[i].Name + "'");
3402   }
3403
3404   if (isDefine)
3405     return false;
3406
3407   // Check the declaration has no block address forward references.
3408   ValID ID;
3409   if (FunctionName.empty()) {
3410     ID.Kind = ValID::t_GlobalID;
3411     ID.UIntVal = NumberedVals.size() - 1;
3412   } else {
3413     ID.Kind = ValID::t_GlobalName;
3414     ID.StrVal = FunctionName;
3415   }
3416   auto Blocks = ForwardRefBlockAddresses.find(ID);
3417   if (Blocks != ForwardRefBlockAddresses.end())
3418     return Error(Blocks->first.Loc,
3419                  "cannot take blockaddress inside a declaration");
3420   return false;
3421 }
3422
3423 bool LLParser::PerFunctionState::resolveForwardRefBlockAddresses() {
3424   ValID ID;
3425   if (FunctionNumber == -1) {
3426     ID.Kind = ValID::t_GlobalName;
3427     ID.StrVal = F.getName();
3428   } else {
3429     ID.Kind = ValID::t_GlobalID;
3430     ID.UIntVal = FunctionNumber;
3431   }
3432
3433   auto Blocks = P.ForwardRefBlockAddresses.find(ID);
3434   if (Blocks == P.ForwardRefBlockAddresses.end())
3435     return false;
3436
3437   for (const auto &I : Blocks->second) {
3438     const ValID &BBID = I.first;
3439     GlobalValue *GV = I.second;
3440
3441     assert((BBID.Kind == ValID::t_LocalID || BBID.Kind == ValID::t_LocalName) &&
3442            "Expected local id or name");
3443     BasicBlock *BB;
3444     if (BBID.Kind == ValID::t_LocalName)
3445       BB = GetBB(BBID.StrVal, BBID.Loc);
3446     else
3447       BB = GetBB(BBID.UIntVal, BBID.Loc);
3448     if (!BB)
3449       return P.Error(BBID.Loc, "referenced value is not a basic block");
3450
3451     GV->replaceAllUsesWith(BlockAddress::get(&F, BB));
3452     GV->eraseFromParent();
3453   }
3454
3455   P.ForwardRefBlockAddresses.erase(Blocks);
3456   return false;
3457 }
3458
3459 /// ParseFunctionBody
3460 ///   ::= '{' BasicBlock+ UseListOrderDirective* '}'
3461 bool LLParser::ParseFunctionBody(Function &Fn) {
3462   if (Lex.getKind() != lltok::lbrace)
3463     return TokError("expected '{' in function body");
3464   Lex.Lex();  // eat the {.
3465
3466   int FunctionNumber = -1;
3467   if (!Fn.hasName()) FunctionNumber = NumberedVals.size()-1;
3468
3469   PerFunctionState PFS(*this, Fn, FunctionNumber);
3470
3471   // Resolve block addresses and allow basic blocks to be forward-declared
3472   // within this function.
3473   if (PFS.resolveForwardRefBlockAddresses())
3474     return true;
3475   SaveAndRestore<PerFunctionState *> ScopeExit(BlockAddressPFS, &PFS);
3476
3477   // We need at least one basic block.
3478   if (Lex.getKind() == lltok::rbrace || Lex.getKind() == lltok::kw_uselistorder)
3479     return TokError("function body requires at least one basic block");
3480
3481   while (Lex.getKind() != lltok::rbrace &&
3482          Lex.getKind() != lltok::kw_uselistorder)
3483     if (ParseBasicBlock(PFS)) return true;
3484
3485   while (Lex.getKind() != lltok::rbrace)
3486     if (ParseUseListOrder(&PFS))
3487       return true;
3488
3489   // Eat the }.
3490   Lex.Lex();
3491
3492   // Verify function is ok.
3493   return PFS.FinishFunction();
3494 }
3495
3496 /// ParseBasicBlock
3497 ///   ::= LabelStr? Instruction*
3498 bool LLParser::ParseBasicBlock(PerFunctionState &PFS) {
3499   // If this basic block starts out with a name, remember it.
3500   std::string Name;
3501   LocTy NameLoc = Lex.getLoc();
3502   if (Lex.getKind() == lltok::LabelStr) {
3503     Name = Lex.getStrVal();
3504     Lex.Lex();
3505   }
3506
3507   BasicBlock *BB = PFS.DefineBB(Name, NameLoc);
3508   if (!BB) return true;
3509
3510   std::string NameStr;
3511
3512   // Parse the instructions in this block until we get a terminator.
3513   Instruction *Inst;
3514   do {
3515     // This instruction may have three possibilities for a name: a) none
3516     // specified, b) name specified "%foo =", c) number specified: "%4 =".
3517     LocTy NameLoc = Lex.getLoc();
3518     int NameID = -1;
3519     NameStr = "";
3520
3521     if (Lex.getKind() == lltok::LocalVarID) {
3522       NameID = Lex.getUIntVal();
3523       Lex.Lex();
3524       if (ParseToken(lltok::equal, "expected '=' after instruction id"))
3525         return true;
3526     } else if (Lex.getKind() == lltok::LocalVar) {
3527       NameStr = Lex.getStrVal();
3528       Lex.Lex();
3529       if (ParseToken(lltok::equal, "expected '=' after instruction name"))
3530         return true;
3531     }
3532
3533     switch (ParseInstruction(Inst, BB, PFS)) {
3534     default: llvm_unreachable("Unknown ParseInstruction result!");
3535     case InstError: return true;
3536     case InstNormal:
3537       BB->getInstList().push_back(Inst);
3538
3539       // With a normal result, we check to see if the instruction is followed by
3540       // a comma and metadata.
3541       if (EatIfPresent(lltok::comma))
3542         if (ParseInstructionMetadata(Inst, &PFS))
3543           return true;
3544       break;
3545     case InstExtraComma:
3546       BB->getInstList().push_back(Inst);
3547
3548       // If the instruction parser ate an extra comma at the end of it, it
3549       // *must* be followed by metadata.
3550       if (ParseInstructionMetadata(Inst, &PFS))
3551         return true;
3552       break;
3553     }
3554
3555     // Set the name on the instruction.
3556     if (PFS.SetInstName(NameID, NameStr, NameLoc, Inst)) return true;
3557   } while (!isa<TerminatorInst>(Inst));
3558
3559   return false;
3560 }
3561
3562 //===----------------------------------------------------------------------===//
3563 // Instruction Parsing.
3564 //===----------------------------------------------------------------------===//
3565
3566 /// ParseInstruction - Parse one of the many different instructions.
3567 ///
3568 int LLParser::ParseInstruction(Instruction *&Inst, BasicBlock *BB,
3569                                PerFunctionState &PFS) {
3570   lltok::Kind Token = Lex.getKind();
3571   if (Token == lltok::Eof)
3572     return TokError("found end of file when expecting more instructions");
3573   LocTy Loc = Lex.getLoc();
3574   unsigned KeywordVal = Lex.getUIntVal();
3575   Lex.Lex();  // Eat the keyword.
3576
3577   switch (Token) {
3578   default:                    return Error(Loc, "expected instruction opcode");
3579   // Terminator Instructions.
3580   case lltok::kw_unreachable: Inst = new UnreachableInst(Context); return false;
3581   case lltok::kw_ret:         return ParseRet(Inst, BB, PFS);
3582   case lltok::kw_br:          return ParseBr(Inst, PFS);
3583   case lltok::kw_switch:      return ParseSwitch(Inst, PFS);
3584   case lltok::kw_indirectbr:  return ParseIndirectBr(Inst, PFS);
3585   case lltok::kw_invoke:      return ParseInvoke(Inst, PFS);
3586   case lltok::kw_resume:      return ParseResume(Inst, PFS);
3587   // Binary Operators.
3588   case lltok::kw_add:
3589   case lltok::kw_sub:
3590   case lltok::kw_mul:
3591   case lltok::kw_shl: {
3592     bool NUW = EatIfPresent(lltok::kw_nuw);
3593     bool NSW = EatIfPresent(lltok::kw_nsw);
3594     if (!NUW) NUW = EatIfPresent(lltok::kw_nuw);
3595
3596     if (ParseArithmetic(Inst, PFS, KeywordVal, 1)) return true;
3597
3598     if (NUW) cast<BinaryOperator>(Inst)->setHasNoUnsignedWrap(true);
3599     if (NSW) cast<BinaryOperator>(Inst)->setHasNoSignedWrap(true);
3600     return false;
3601   }
3602   case lltok::kw_fadd:
3603   case lltok::kw_fsub:
3604   case lltok::kw_fmul:
3605   case lltok::kw_fdiv:
3606   case lltok::kw_frem: {
3607     FastMathFlags FMF = EatFastMathFlagsIfPresent();
3608     int Res = ParseArithmetic(Inst, PFS, KeywordVal, 2);
3609     if (Res != 0)
3610       return Res;
3611     if (FMF.any())
3612       Inst->setFastMathFlags(FMF);
3613     return 0;
3614   }
3615
3616   case lltok::kw_sdiv:
3617   case lltok::kw_udiv:
3618   case lltok::kw_lshr:
3619   case lltok::kw_ashr: {
3620     bool Exact = EatIfPresent(lltok::kw_exact);
3621
3622     if (ParseArithmetic(Inst, PFS, KeywordVal, 1)) return true;
3623     if (Exact) cast<BinaryOperator>(Inst)->setIsExact(true);
3624     return false;
3625   }
3626
3627   case lltok::kw_urem:
3628   case lltok::kw_srem:   return ParseArithmetic(Inst, PFS, KeywordVal, 1);
3629   case lltok::kw_and:
3630   case lltok::kw_or:
3631   case lltok::kw_xor:    return ParseLogical(Inst, PFS, KeywordVal);
3632   case lltok::kw_icmp:
3633   case lltok::kw_fcmp:   return ParseCompare(Inst, PFS, KeywordVal);
3634   // Casts.
3635   case lltok::kw_trunc:
3636   case lltok::kw_zext:
3637   case lltok::kw_sext:
3638   case lltok::kw_fptrunc:
3639   case lltok::kw_fpext:
3640   case lltok::kw_bitcast:
3641   case lltok::kw_addrspacecast:
3642   case lltok::kw_uitofp:
3643   case lltok::kw_sitofp:
3644   case lltok::kw_fptoui:
3645   case lltok::kw_fptosi:
3646   case lltok::kw_inttoptr:
3647   case lltok::kw_ptrtoint:       return ParseCast(Inst, PFS, KeywordVal);
3648   // Other.
3649   case lltok::kw_select:         return ParseSelect(Inst, PFS);
3650   case lltok::kw_va_arg:         return ParseVA_Arg(Inst, PFS);
3651   case lltok::kw_extractelement: return ParseExtractElement(Inst, PFS);
3652   case lltok::kw_insertelement:  return ParseInsertElement(Inst, PFS);
3653   case lltok::kw_shufflevector:  return ParseShuffleVector(Inst, PFS);
3654   case lltok::kw_phi:            return ParsePHI(Inst, PFS);
3655   case lltok::kw_landingpad:     return ParseLandingPad(Inst, PFS);
3656   // Call.
3657   case lltok::kw_call:     return ParseCall(Inst, PFS, CallInst::TCK_None);
3658   case lltok::kw_tail:     return ParseCall(Inst, PFS, CallInst::TCK_Tail);
3659   case lltok::kw_musttail: return ParseCall(Inst, PFS, CallInst::TCK_MustTail);
3660   // Memory.
3661   case lltok::kw_alloca:         return ParseAlloc(Inst, PFS);
3662   case lltok::kw_load:           return ParseLoad(Inst, PFS);
3663   case lltok::kw_store:          return ParseStore(Inst, PFS);
3664   case lltok::kw_cmpxchg:        return ParseCmpXchg(Inst, PFS);
3665   case lltok::kw_atomicrmw:      return ParseAtomicRMW(Inst, PFS);
3666   case lltok::kw_fence:          return ParseFence(Inst, PFS);
3667   case lltok::kw_getelementptr: return ParseGetElementPtr(Inst, PFS);
3668   case lltok::kw_extractvalue:  return ParseExtractValue(Inst, PFS);
3669   case lltok::kw_insertvalue:   return ParseInsertValue(Inst, PFS);
3670   }
3671 }
3672
3673 /// ParseCmpPredicate - Parse an integer or fp predicate, based on Kind.
3674 bool LLParser::ParseCmpPredicate(unsigned &P, unsigned Opc) {
3675   if (Opc == Instruction::FCmp) {
3676     switch (Lex.getKind()) {
3677     default: return TokError("expected fcmp predicate (e.g. 'oeq')");
3678     case lltok::kw_oeq: P = CmpInst::FCMP_OEQ; break;
3679     case lltok::kw_one: P = CmpInst::FCMP_ONE; break;
3680     case lltok::kw_olt: P = CmpInst::FCMP_OLT; break;
3681     case lltok::kw_ogt: P = CmpInst::FCMP_OGT; break;
3682     case lltok::kw_ole: P = CmpInst::FCMP_OLE; break;
3683     case lltok::kw_oge: P = CmpInst::FCMP_OGE; break;
3684     case lltok::kw_ord: P = CmpInst::FCMP_ORD; break;
3685     case lltok::kw_uno: P = CmpInst::FCMP_UNO; break;
3686     case lltok::kw_ueq: P = CmpInst::FCMP_UEQ; break;
3687     case lltok::kw_une: P = CmpInst::FCMP_UNE; break;
3688     case lltok::kw_ult: P = CmpInst::FCMP_ULT; break;
3689     case lltok::kw_ugt: P = CmpInst::FCMP_UGT; break;
3690     case lltok::kw_ule: P = CmpInst::FCMP_ULE; break;
3691     case lltok::kw_uge: P = CmpInst::FCMP_UGE; break;
3692     case lltok::kw_true: P = CmpInst::FCMP_TRUE; break;
3693     case lltok::kw_false: P = CmpInst::FCMP_FALSE; break;
3694     }
3695   } else {
3696     switch (Lex.getKind()) {
3697     default: return TokError("expected icmp predicate (e.g. 'eq')");
3698     case lltok::kw_eq:  P = CmpInst::ICMP_EQ; break;
3699     case lltok::kw_ne:  P = CmpInst::ICMP_NE; break;
3700     case lltok::kw_slt: P = CmpInst::ICMP_SLT; break;
3701     case lltok::kw_sgt: P = CmpInst::ICMP_SGT; break;
3702     case lltok::kw_sle: P = CmpInst::ICMP_SLE; break;
3703     case lltok::kw_sge: P = CmpInst::ICMP_SGE; break;
3704     case lltok::kw_ult: P = CmpInst::ICMP_ULT; break;
3705     case lltok::kw_ugt: P = CmpInst::ICMP_UGT; break;
3706     case lltok::kw_ule: P = CmpInst::ICMP_ULE; break;
3707     case lltok::kw_uge: P = CmpInst::ICMP_UGE; break;
3708     }
3709   }
3710   Lex.Lex();
3711   return false;
3712 }
3713
3714 //===----------------------------------------------------------------------===//
3715 // Terminator Instructions.
3716 //===----------------------------------------------------------------------===//
3717
3718 /// ParseRet - Parse a return instruction.
3719 ///   ::= 'ret' void (',' !dbg, !1)*
3720 ///   ::= 'ret' TypeAndValue (',' !dbg, !1)*
3721 bool LLParser::ParseRet(Instruction *&Inst, BasicBlock *BB,
3722                         PerFunctionState &PFS) {
3723   SMLoc TypeLoc = Lex.getLoc();
3724   Type *Ty = nullptr;
3725   if (ParseType(Ty, true /*void allowed*/)) return true;
3726
3727   Type *ResType = PFS.getFunction().getReturnType();
3728
3729   if (Ty->isVoidTy()) {
3730     if (!ResType->isVoidTy())
3731       return Error(TypeLoc, "value doesn't match function result type '" +
3732                    getTypeString(ResType) + "'");
3733
3734     Inst = ReturnInst::Create(Context);
3735     return false;
3736   }
3737
3738   Value *RV;
3739   if (ParseValue(Ty, RV, PFS)) return true;
3740
3741   if (ResType != RV->getType())
3742     return Error(TypeLoc, "value doesn't match function result type '" +
3743                  getTypeString(ResType) + "'");
3744
3745   Inst = ReturnInst::Create(Context, RV);
3746   return false;
3747 }
3748
3749
3750 /// ParseBr
3751 ///   ::= 'br' TypeAndValue
3752 ///   ::= 'br' TypeAndValue ',' TypeAndValue ',' TypeAndValue
3753 bool LLParser::ParseBr(Instruction *&Inst, PerFunctionState &PFS) {
3754   LocTy Loc, Loc2;
3755   Value *Op0;
3756   BasicBlock *Op1, *Op2;
3757   if (ParseTypeAndValue(Op0, Loc, PFS)) return true;
3758
3759   if (BasicBlock *BB = dyn_cast<BasicBlock>(Op0)) {
3760     Inst = BranchInst::Create(BB);
3761     return false;
3762   }
3763
3764   if (Op0->getType() != Type::getInt1Ty(Context))
3765     return Error(Loc, "branch condition must have 'i1' type");
3766
3767   if (ParseToken(lltok::comma, "expected ',' after branch condition") ||
3768       ParseTypeAndBasicBlock(Op1, Loc, PFS) ||
3769       ParseToken(lltok::comma, "expected ',' after true destination") ||
3770       ParseTypeAndBasicBlock(Op2, Loc2, PFS))
3771     return true;
3772
3773   Inst = BranchInst::Create(Op1, Op2, Op0);
3774   return false;
3775 }
3776
3777 /// ParseSwitch
3778 ///  Instruction
3779 ///    ::= 'switch' TypeAndValue ',' TypeAndValue '[' JumpTable ']'
3780 ///  JumpTable
3781 ///    ::= (TypeAndValue ',' TypeAndValue)*
3782 bool LLParser::ParseSwitch(Instruction *&Inst, PerFunctionState &PFS) {
3783   LocTy CondLoc, BBLoc;
3784   Value *Cond;
3785   BasicBlock *DefaultBB;
3786   if (ParseTypeAndValue(Cond, CondLoc, PFS) ||
3787       ParseToken(lltok::comma, "expected ',' after switch condition") ||
3788       ParseTypeAndBasicBlock(DefaultBB, BBLoc, PFS) ||
3789       ParseToken(lltok::lsquare, "expected '[' with switch table"))
3790     return true;
3791
3792   if (!Cond->getType()->isIntegerTy())
3793     return Error(CondLoc, "switch condition must have integer type");
3794
3795   // Parse the jump table pairs.
3796   SmallPtrSet<Value*, 32> SeenCases;
3797   SmallVector<std::pair<ConstantInt*, BasicBlock*>, 32> Table;
3798   while (Lex.getKind() != lltok::rsquare) {
3799     Value *Constant;
3800     BasicBlock *DestBB;
3801
3802     if (ParseTypeAndValue(Constant, CondLoc, PFS) ||
3803         ParseToken(lltok::comma, "expected ',' after case value") ||
3804         ParseTypeAndBasicBlock(DestBB, PFS))
3805       return true;
3806
3807     if (!SeenCases.insert(Constant).second)
3808       return Error(CondLoc, "duplicate case value in switch");
3809     if (!isa<ConstantInt>(Constant))
3810       return Error(CondLoc, "case value is not a constant integer");
3811
3812     Table.push_back(std::make_pair(cast<ConstantInt>(Constant), DestBB));
3813   }
3814
3815   Lex.Lex();  // Eat the ']'.
3816
3817   SwitchInst *SI = SwitchInst::Create(Cond, DefaultBB, Table.size());
3818   for (unsigned i = 0, e = Table.size(); i != e; ++i)
3819     SI->addCase(Table[i].first, Table[i].second);
3820   Inst = SI;
3821   return false;
3822 }
3823
3824 /// ParseIndirectBr
3825 ///  Instruction
3826 ///    ::= 'indirectbr' TypeAndValue ',' '[' LabelList ']'
3827 bool LLParser::ParseIndirectBr(Instruction *&Inst, PerFunctionState &PFS) {
3828   LocTy AddrLoc;
3829   Value *Address;
3830   if (ParseTypeAndValue(Address, AddrLoc, PFS) ||
3831       ParseToken(lltok::comma, "expected ',' after indirectbr address") ||
3832       ParseToken(lltok::lsquare, "expected '[' with indirectbr"))
3833     return true;
3834
3835   if (!Address->getType()->isPointerTy())
3836     return Error(AddrLoc, "indirectbr address must have pointer type");
3837
3838   // Parse the destination list.
3839   SmallVector<BasicBlock*, 16> DestList;
3840
3841   if (Lex.getKind() != lltok::rsquare) {
3842     BasicBlock *DestBB;
3843     if (ParseTypeAndBasicBlock(DestBB, PFS))
3844       return true;
3845     DestList.push_back(DestBB);
3846
3847     while (EatIfPresent(lltok::comma)) {
3848       if (ParseTypeAndBasicBlock(DestBB, PFS))
3849         return true;
3850       DestList.push_back(DestBB);
3851     }
3852   }
3853
3854   if (ParseToken(lltok::rsquare, "expected ']' at end of block list"))
3855     return true;
3856
3857   IndirectBrInst *IBI = IndirectBrInst::Create(Address, DestList.size());
3858   for (unsigned i = 0, e = DestList.size(); i != e; ++i)
3859     IBI->addDestination(DestList[i]);
3860   Inst = IBI;
3861   return false;
3862 }
3863
3864
3865 /// ParseInvoke
3866 ///   ::= 'invoke' OptionalCallingConv OptionalAttrs Type Value ParamList
3867 ///       OptionalAttrs 'to' TypeAndValue 'unwind' TypeAndValue
3868 bool LLParser::ParseInvoke(Instruction *&Inst, PerFunctionState &PFS) {
3869   LocTy CallLoc = Lex.getLoc();
3870   AttrBuilder RetAttrs, FnAttrs;
3871   std::vector<unsigned> FwdRefAttrGrps;
3872   LocTy NoBuiltinLoc;
3873   unsigned CC;
3874   Type *RetType = nullptr;
3875   LocTy RetTypeLoc;
3876   ValID CalleeID;
3877   SmallVector<ParamInfo, 16> ArgList;
3878
3879   BasicBlock *NormalBB, *UnwindBB;
3880   if (ParseOptionalCallingConv(CC) ||
3881       ParseOptionalReturnAttrs(RetAttrs) ||
3882       ParseType(RetType, RetTypeLoc, true /*void allowed*/) ||
3883       ParseValID(CalleeID) ||
3884       ParseParameterList(ArgList, PFS) ||
3885       ParseFnAttributeValuePairs(FnAttrs, FwdRefAttrGrps, false,
3886                                  NoBuiltinLoc) ||
3887       ParseToken(lltok::kw_to, "expected 'to' in invoke") ||
3888       ParseTypeAndBasicBlock(NormalBB, PFS) ||
3889       ParseToken(lltok::kw_unwind, "expected 'unwind' in invoke") ||
3890       ParseTypeAndBasicBlock(UnwindBB, PFS))
3891     return true;
3892
3893   // If RetType is a non-function pointer type, then this is the short syntax
3894   // for the call, which means that RetType is just the return type.  Infer the
3895   // rest of the function argument types from the arguments that are present.
3896   PointerType *PFTy = nullptr;
3897   FunctionType *Ty = nullptr;
3898   if (!(PFTy = dyn_cast<PointerType>(RetType)) ||
3899       !(Ty = dyn_cast<FunctionType>(PFTy->getElementType()))) {
3900     // Pull out the types of all of the arguments...
3901     std::vector<Type*> ParamTypes;
3902     for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
3903       ParamTypes.push_back(ArgList[i].V->getType());
3904
3905     if (!FunctionType::isValidReturnType(RetType))
3906       return Error(RetTypeLoc, "Invalid result type for LLVM function");
3907
3908     Ty = FunctionType::get(RetType, ParamTypes, false);
3909     PFTy = PointerType::getUnqual(Ty);
3910   }
3911
3912   // Look up the callee.
3913   Value *Callee;
3914   if (ConvertValIDToValue(PFTy, CalleeID, Callee, &PFS)) return true;
3915
3916   // Set up the Attribute for the function.
3917   SmallVector<AttributeSet, 8> Attrs;
3918   if (RetAttrs.hasAttributes())
3919     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3920                                       AttributeSet::ReturnIndex,
3921                                       RetAttrs));
3922
3923   SmallVector<Value*, 8> Args;
3924
3925   // Loop through FunctionType's arguments and ensure they are specified
3926   // correctly.  Also, gather any parameter attributes.
3927   FunctionType::param_iterator I = Ty->param_begin();
3928   FunctionType::param_iterator E = Ty->param_end();
3929   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
3930     Type *ExpectedTy = nullptr;
3931     if (I != E) {
3932       ExpectedTy = *I++;
3933     } else if (!Ty->isVarArg()) {
3934       return Error(ArgList[i].Loc, "too many arguments specified");
3935     }
3936
3937     if (ExpectedTy && ExpectedTy != ArgList[i].V->getType())
3938       return Error(ArgList[i].Loc, "argument is not of expected type '" +
3939                    getTypeString(ExpectedTy) + "'");
3940     Args.push_back(ArgList[i].V);
3941     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
3942       AttrBuilder B(ArgList[i].Attrs, i + 1);
3943       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
3944     }
3945   }
3946
3947   if (I != E)
3948     return Error(CallLoc, "not enough parameters specified for call");
3949
3950   if (FnAttrs.hasAttributes())
3951     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3952                                       AttributeSet::FunctionIndex,
3953                                       FnAttrs));
3954
3955   // Finish off the Attribute and check them
3956   AttributeSet PAL = AttributeSet::get(Context, Attrs);
3957
3958   InvokeInst *II = InvokeInst::Create(Callee, NormalBB, UnwindBB, Args);
3959   II->setCallingConv(CC);
3960   II->setAttributes(PAL);
3961   ForwardRefAttrGroups[II] = FwdRefAttrGrps;
3962   Inst = II;
3963   return false;
3964 }
3965
3966 /// ParseResume
3967 ///   ::= 'resume' TypeAndValue
3968 bool LLParser::ParseResume(Instruction *&Inst, PerFunctionState &PFS) {
3969   Value *Exn; LocTy ExnLoc;
3970   if (ParseTypeAndValue(Exn, ExnLoc, PFS))
3971     return true;
3972
3973   ResumeInst *RI = ResumeInst::Create(Exn);
3974   Inst = RI;
3975   return false;
3976 }
3977
3978 //===----------------------------------------------------------------------===//
3979 // Binary Operators.
3980 //===----------------------------------------------------------------------===//
3981
3982 /// ParseArithmetic
3983 ///  ::= ArithmeticOps TypeAndValue ',' Value
3984 ///
3985 /// If OperandType is 0, then any FP or integer operand is allowed.  If it is 1,
3986 /// then any integer operand is allowed, if it is 2, any fp operand is allowed.
3987 bool LLParser::ParseArithmetic(Instruction *&Inst, PerFunctionState &PFS,
3988                                unsigned Opc, unsigned OperandType) {
3989   LocTy Loc; Value *LHS, *RHS;
3990   if (ParseTypeAndValue(LHS, Loc, PFS) ||
3991       ParseToken(lltok::comma, "expected ',' in arithmetic operation") ||
3992       ParseValue(LHS->getType(), RHS, PFS))
3993     return true;
3994
3995   bool Valid;
3996   switch (OperandType) {
3997   default: llvm_unreachable("Unknown operand type!");
3998   case 0: // int or FP.
3999     Valid = LHS->getType()->isIntOrIntVectorTy() ||
4000             LHS->getType()->isFPOrFPVectorTy();
4001     break;
4002   case 1: Valid = LHS->getType()->isIntOrIntVectorTy(); break;
4003   case 2: Valid = LHS->getType()->isFPOrFPVectorTy(); break;
4004   }
4005
4006   if (!Valid)
4007     return Error(Loc, "invalid operand type for instruction");
4008
4009   Inst = BinaryOperator::Create((Instruction::BinaryOps)Opc, LHS, RHS);
4010   return false;
4011 }
4012
4013 /// ParseLogical
4014 ///  ::= ArithmeticOps TypeAndValue ',' Value {
4015 bool LLParser::ParseLogical(Instruction *&Inst, PerFunctionState &PFS,
4016                             unsigned Opc) {
4017   LocTy Loc; Value *LHS, *RHS;
4018   if (ParseTypeAndValue(LHS, Loc, PFS) ||
4019       ParseToken(lltok::comma, "expected ',' in logical operation") ||
4020       ParseValue(LHS->getType(), RHS, PFS))
4021     return true;
4022
4023   if (!LHS->getType()->isIntOrIntVectorTy())
4024     return Error(Loc,"instruction requires integer or integer vector operands");
4025
4026   Inst = BinaryOperator::Create((Instruction::BinaryOps)Opc, LHS, RHS);
4027   return false;
4028 }
4029
4030
4031 /// ParseCompare
4032 ///  ::= 'icmp' IPredicates TypeAndValue ',' Value
4033 ///  ::= 'fcmp' FPredicates TypeAndValue ',' Value
4034 bool LLParser::ParseCompare(Instruction *&Inst, PerFunctionState &PFS,
4035                             unsigned Opc) {
4036   // Parse the integer/fp comparison predicate.
4037   LocTy Loc;
4038   unsigned Pred;
4039   Value *LHS, *RHS;
4040   if (ParseCmpPredicate(Pred, Opc) ||
4041       ParseTypeAndValue(LHS, Loc, PFS) ||
4042       ParseToken(lltok::comma, "expected ',' after compare value") ||
4043       ParseValue(LHS->getType(), RHS, PFS))
4044     return true;
4045
4046   if (Opc == Instruction::FCmp) {
4047     if (!LHS->getType()->isFPOrFPVectorTy())
4048       return Error(Loc, "fcmp requires floating point operands");
4049     Inst = new FCmpInst(CmpInst::Predicate(Pred), LHS, RHS);
4050   } else {
4051     assert(Opc == Instruction::ICmp && "Unknown opcode for CmpInst!");
4052     if (!LHS->getType()->isIntOrIntVectorTy() &&
4053         !LHS->getType()->getScalarType()->isPointerTy())
4054       return Error(Loc, "icmp requires integer operands");
4055     Inst = new ICmpInst(CmpInst::Predicate(Pred), LHS, RHS);
4056   }
4057   return false;
4058 }
4059
4060 //===----------------------------------------------------------------------===//
4061 // Other Instructions.
4062 //===----------------------------------------------------------------------===//
4063
4064
4065 /// ParseCast
4066 ///   ::= CastOpc TypeAndValue 'to' Type
4067 bool LLParser::ParseCast(Instruction *&Inst, PerFunctionState &PFS,
4068                          unsigned Opc) {
4069   LocTy Loc;
4070   Value *Op;
4071   Type *DestTy = nullptr;
4072   if (ParseTypeAndValue(Op, Loc, PFS) ||
4073       ParseToken(lltok::kw_to, "expected 'to' after cast value") ||
4074       ParseType(DestTy))
4075     return true;
4076
4077   if (!CastInst::castIsValid((Instruction::CastOps)Opc, Op, DestTy)) {
4078     CastInst::castIsValid((Instruction::CastOps)Opc, Op, DestTy);
4079     return Error(Loc, "invalid cast opcode for cast from '" +
4080                  getTypeString(Op->getType()) + "' to '" +
4081                  getTypeString(DestTy) + "'");
4082   }
4083   Inst = CastInst::Create((Instruction::CastOps)Opc, Op, DestTy);
4084   return false;
4085 }
4086
4087 /// ParseSelect
4088 ///   ::= 'select' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4089 bool LLParser::ParseSelect(Instruction *&Inst, PerFunctionState &PFS) {
4090   LocTy Loc;
4091   Value *Op0, *Op1, *Op2;
4092   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4093       ParseToken(lltok::comma, "expected ',' after select condition") ||
4094       ParseTypeAndValue(Op1, PFS) ||
4095       ParseToken(lltok::comma, "expected ',' after select value") ||
4096       ParseTypeAndValue(Op2, PFS))
4097     return true;
4098
4099   if (const char *Reason = SelectInst::areInvalidOperands(Op0, Op1, Op2))
4100     return Error(Loc, Reason);
4101
4102   Inst = SelectInst::Create(Op0, Op1, Op2);
4103   return false;
4104 }
4105
4106 /// ParseVA_Arg
4107 ///   ::= 'va_arg' TypeAndValue ',' Type
4108 bool LLParser::ParseVA_Arg(Instruction *&Inst, PerFunctionState &PFS) {
4109   Value *Op;
4110   Type *EltTy = nullptr;
4111   LocTy TypeLoc;
4112   if (ParseTypeAndValue(Op, PFS) ||
4113       ParseToken(lltok::comma, "expected ',' after vaarg operand") ||
4114       ParseType(EltTy, TypeLoc))
4115     return true;
4116
4117   if (!EltTy->isFirstClassType())
4118     return Error(TypeLoc, "va_arg requires operand with first class type");
4119
4120   Inst = new VAArgInst(Op, EltTy);
4121   return false;
4122 }
4123
4124 /// ParseExtractElement
4125 ///   ::= 'extractelement' TypeAndValue ',' TypeAndValue
4126 bool LLParser::ParseExtractElement(Instruction *&Inst, PerFunctionState &PFS) {
4127   LocTy Loc;
4128   Value *Op0, *Op1;
4129   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4130       ParseToken(lltok::comma, "expected ',' after extract value") ||
4131       ParseTypeAndValue(Op1, PFS))
4132     return true;
4133
4134   if (!ExtractElementInst::isValidOperands(Op0, Op1))
4135     return Error(Loc, "invalid extractelement operands");
4136
4137   Inst = ExtractElementInst::Create(Op0, Op1);
4138   return false;
4139 }
4140
4141 /// ParseInsertElement
4142 ///   ::= 'insertelement' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4143 bool LLParser::ParseInsertElement(Instruction *&Inst, PerFunctionState &PFS) {
4144   LocTy Loc;
4145   Value *Op0, *Op1, *Op2;
4146   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4147       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4148       ParseTypeAndValue(Op1, PFS) ||
4149       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4150       ParseTypeAndValue(Op2, PFS))
4151     return true;
4152
4153   if (!InsertElementInst::isValidOperands(Op0, Op1, Op2))
4154     return Error(Loc, "invalid insertelement operands");
4155
4156   Inst = InsertElementInst::Create(Op0, Op1, Op2);
4157   return false;
4158 }
4159
4160 /// ParseShuffleVector
4161 ///   ::= 'shufflevector' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4162 bool LLParser::ParseShuffleVector(Instruction *&Inst, PerFunctionState &PFS) {
4163   LocTy Loc;
4164   Value *Op0, *Op1, *Op2;
4165   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4166       ParseToken(lltok::comma, "expected ',' after shuffle mask") ||
4167       ParseTypeAndValue(Op1, PFS) ||
4168       ParseToken(lltok::comma, "expected ',' after shuffle value") ||
4169       ParseTypeAndValue(Op2, PFS))
4170     return true;
4171
4172   if (!ShuffleVectorInst::isValidOperands(Op0, Op1, Op2))
4173     return Error(Loc, "invalid shufflevector operands");
4174
4175   Inst = new ShuffleVectorInst(Op0, Op1, Op2);
4176   return false;
4177 }
4178
4179 /// ParsePHI
4180 ///   ::= 'phi' Type '[' Value ',' Value ']' (',' '[' Value ',' Value ']')*
4181 int LLParser::ParsePHI(Instruction *&Inst, PerFunctionState &PFS) {
4182   Type *Ty = nullptr;  LocTy TypeLoc;
4183   Value *Op0, *Op1;
4184
4185   if (ParseType(Ty, TypeLoc) ||
4186       ParseToken(lltok::lsquare, "expected '[' in phi value list") ||
4187       ParseValue(Ty, Op0, PFS) ||
4188       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4189       ParseValue(Type::getLabelTy(Context), Op1, PFS) ||
4190       ParseToken(lltok::rsquare, "expected ']' in phi value list"))
4191     return true;
4192
4193   bool AteExtraComma = false;
4194   SmallVector<std::pair<Value*, BasicBlock*>, 16> PHIVals;
4195   while (1) {
4196     PHIVals.push_back(std::make_pair(Op0, cast<BasicBlock>(Op1)));
4197
4198     if (!EatIfPresent(lltok::comma))
4199       break;
4200
4201     if (Lex.getKind() == lltok::MetadataVar) {
4202       AteExtraComma = true;
4203       break;
4204     }
4205
4206     if (ParseToken(lltok::lsquare, "expected '[' in phi value list") ||
4207         ParseValue(Ty, Op0, PFS) ||
4208         ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4209         ParseValue(Type::getLabelTy(Context), Op1, PFS) ||
4210         ParseToken(lltok::rsquare, "expected ']' in phi value list"))
4211       return true;
4212   }
4213
4214   if (!Ty->isFirstClassType())
4215     return Error(TypeLoc, "phi node must have first class type");
4216
4217   PHINode *PN = PHINode::Create(Ty, PHIVals.size());
4218   for (unsigned i = 0, e = PHIVals.size(); i != e; ++i)
4219     PN->addIncoming(PHIVals[i].first, PHIVals[i].second);
4220   Inst = PN;
4221   return AteExtraComma ? InstExtraComma : InstNormal;
4222 }
4223
4224 /// ParseLandingPad
4225 ///   ::= 'landingpad' Type 'personality' TypeAndValue 'cleanup'? Clause+
4226 /// Clause
4227 ///   ::= 'catch' TypeAndValue
4228 ///   ::= 'filter'
4229 ///   ::= 'filter' TypeAndValue ( ',' TypeAndValue )*
4230 bool LLParser::ParseLandingPad(Instruction *&Inst, PerFunctionState &PFS) {
4231   Type *Ty = nullptr; LocTy TyLoc;
4232   Value *PersFn; LocTy PersFnLoc;
4233
4234   if (ParseType(Ty, TyLoc) ||
4235       ParseToken(lltok::kw_personality, "expected 'personality'") ||
4236       ParseTypeAndValue(PersFn, PersFnLoc, PFS))
4237     return true;
4238
4239   LandingPadInst *LP = LandingPadInst::Create(Ty, PersFn, 0);
4240   LP->setCleanup(EatIfPresent(lltok::kw_cleanup));
4241
4242   while (Lex.getKind() == lltok::kw_catch || Lex.getKind() == lltok::kw_filter){
4243     LandingPadInst::ClauseType CT;
4244     if (EatIfPresent(lltok::kw_catch))
4245       CT = LandingPadInst::Catch;
4246     else if (EatIfPresent(lltok::kw_filter))
4247       CT = LandingPadInst::Filter;
4248     else
4249       return TokError("expected 'catch' or 'filter' clause type");
4250
4251     Value *V;
4252     LocTy VLoc;
4253     if (ParseTypeAndValue(V, VLoc, PFS)) {
4254       delete LP;
4255       return true;
4256     }
4257
4258     // A 'catch' type expects a non-array constant. A filter clause expects an
4259     // array constant.
4260     if (CT == LandingPadInst::Catch) {
4261       if (isa<ArrayType>(V->getType()))
4262         Error(VLoc, "'catch' clause has an invalid type");
4263     } else {
4264       if (!isa<ArrayType>(V->getType()))
4265         Error(VLoc, "'filter' clause has an invalid type");
4266     }
4267
4268     LP->addClause(cast<Constant>(V));
4269   }
4270
4271   Inst = LP;
4272   return false;
4273 }
4274
4275 /// ParseCall
4276 ///   ::= 'call' OptionalCallingConv OptionalAttrs Type Value
4277 ///       ParameterList OptionalAttrs
4278 ///   ::= 'tail' 'call' OptionalCallingConv OptionalAttrs Type Value
4279 ///       ParameterList OptionalAttrs
4280 ///   ::= 'musttail' 'call' OptionalCallingConv OptionalAttrs Type Value
4281 ///       ParameterList OptionalAttrs
4282 bool LLParser::ParseCall(Instruction *&Inst, PerFunctionState &PFS,
4283                          CallInst::TailCallKind TCK) {
4284   AttrBuilder RetAttrs, FnAttrs;
4285   std::vector<unsigned> FwdRefAttrGrps;
4286   LocTy BuiltinLoc;
4287   unsigned CC;
4288   Type *RetType = nullptr;
4289   LocTy RetTypeLoc;
4290   ValID CalleeID;
4291   SmallVector<ParamInfo, 16> ArgList;
4292   LocTy CallLoc = Lex.getLoc();
4293
4294   if ((TCK != CallInst::TCK_None &&
4295        ParseToken(lltok::kw_call, "expected 'tail call'")) ||
4296       ParseOptionalCallingConv(CC) ||
4297       ParseOptionalReturnAttrs(RetAttrs) ||
4298       ParseType(RetType, RetTypeLoc, true /*void allowed*/) ||
4299       ParseValID(CalleeID) ||
4300       ParseParameterList(ArgList, PFS, TCK == CallInst::TCK_MustTail,
4301                          PFS.getFunction().isVarArg()) ||
4302       ParseFnAttributeValuePairs(FnAttrs, FwdRefAttrGrps, false,
4303                                  BuiltinLoc))
4304     return true;
4305
4306   // If RetType is a non-function pointer type, then this is the short syntax
4307   // for the call, which means that RetType is just the return type.  Infer the
4308   // rest of the function argument types from the arguments that are present.
4309   PointerType *PFTy = nullptr;
4310   FunctionType *Ty = nullptr;
4311   if (!(PFTy = dyn_cast<PointerType>(RetType)) ||
4312       !(Ty = dyn_cast<FunctionType>(PFTy->getElementType()))) {
4313     // Pull out the types of all of the arguments...
4314     std::vector<Type*> ParamTypes;
4315     for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
4316       ParamTypes.push_back(ArgList[i].V->getType());
4317
4318     if (!FunctionType::isValidReturnType(RetType))
4319       return Error(RetTypeLoc, "Invalid result type for LLVM function");
4320
4321     Ty = FunctionType::get(RetType, ParamTypes, false);
4322     PFTy = PointerType::getUnqual(Ty);
4323   }
4324
4325   // Look up the callee.
4326   Value *Callee;
4327   if (ConvertValIDToValue(PFTy, CalleeID, Callee, &PFS)) return true;
4328
4329   // Set up the Attribute for the function.
4330   SmallVector<AttributeSet, 8> Attrs;
4331   if (RetAttrs.hasAttributes())
4332     Attrs.push_back(AttributeSet::get(RetType->getContext(),
4333                                       AttributeSet::ReturnIndex,
4334                                       RetAttrs));
4335
4336   SmallVector<Value*, 8> Args;
4337
4338   // Loop through FunctionType's arguments and ensure they are specified
4339   // correctly.  Also, gather any parameter attributes.
4340   FunctionType::param_iterator I = Ty->param_begin();
4341   FunctionType::param_iterator E = Ty->param_end();
4342   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
4343     Type *ExpectedTy = nullptr;
4344     if (I != E) {
4345       ExpectedTy = *I++;
4346     } else if (!Ty->isVarArg()) {
4347       return Error(ArgList[i].Loc, "too many arguments specified");
4348     }
4349
4350     if (ExpectedTy && ExpectedTy != ArgList[i].V->getType())
4351       return Error(ArgList[i].Loc, "argument is not of expected type '" +
4352                    getTypeString(ExpectedTy) + "'");
4353     Args.push_back(ArgList[i].V);
4354     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
4355       AttrBuilder B(ArgList[i].Attrs, i + 1);
4356       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
4357     }
4358   }
4359
4360   if (I != E)
4361     return Error(CallLoc, "not enough parameters specified for call");
4362
4363   if (FnAttrs.hasAttributes())
4364     Attrs.push_back(AttributeSet::get(RetType->getContext(),
4365                                       AttributeSet::FunctionIndex,
4366                                       FnAttrs));
4367
4368   // Finish off the Attribute and check them
4369   AttributeSet PAL = AttributeSet::get(Context, Attrs);
4370
4371   CallInst *CI = CallInst::Create(Callee, Args);
4372   CI->setTailCallKind(TCK);
4373   CI->setCallingConv(CC);
4374   CI->setAttributes(PAL);
4375   ForwardRefAttrGroups[CI] = FwdRefAttrGrps;
4376   Inst = CI;
4377   return false;
4378 }
4379
4380 //===----------------------------------------------------------------------===//
4381 // Memory Instructions.
4382 //===----------------------------------------------------------------------===//
4383
4384 /// ParseAlloc
4385 ///   ::= 'alloca' 'inalloca'? Type (',' TypeAndValue)? (',' 'align' i32)?
4386 int LLParser::ParseAlloc(Instruction *&Inst, PerFunctionState &PFS) {
4387   Value *Size = nullptr;
4388   LocTy SizeLoc;
4389   unsigned Alignment = 0;
4390   Type *Ty = nullptr;
4391
4392   bool IsInAlloca = EatIfPresent(lltok::kw_inalloca);
4393
4394   if (ParseType(Ty)) return true;
4395
4396   bool AteExtraComma = false;
4397   if (EatIfPresent(lltok::comma)) {
4398     if (Lex.getKind() == lltok::kw_align) {
4399       if (ParseOptionalAlignment(Alignment)) return true;
4400     } else if (Lex.getKind() == lltok::MetadataVar) {
4401       AteExtraComma = true;
4402     } else {
4403       if (ParseTypeAndValue(Size, SizeLoc, PFS) ||
4404           ParseOptionalCommaAlign(Alignment, AteExtraComma))
4405         return true;
4406     }
4407   }
4408
4409   if (Size && !Size->getType()->isIntegerTy())
4410     return Error(SizeLoc, "element count must have integer type");
4411
4412   AllocaInst *AI = new AllocaInst(Ty, Size, Alignment);
4413   AI->setUsedWithInAlloca(IsInAlloca);
4414   Inst = AI;
4415   return AteExtraComma ? InstExtraComma : InstNormal;
4416 }
4417
4418 /// ParseLoad
4419 ///   ::= 'load' 'volatile'? TypeAndValue (',' 'align' i32)?
4420 ///   ::= 'load' 'atomic' 'volatile'? TypeAndValue
4421 ///       'singlethread'? AtomicOrdering (',' 'align' i32)?
4422 int LLParser::ParseLoad(Instruction *&Inst, PerFunctionState &PFS) {
4423   Value *Val; LocTy Loc;
4424   unsigned Alignment = 0;
4425   bool AteExtraComma = false;
4426   bool isAtomic = false;
4427   AtomicOrdering Ordering = NotAtomic;
4428   SynchronizationScope Scope = CrossThread;
4429
4430   if (Lex.getKind() == lltok::kw_atomic) {
4431     isAtomic = true;
4432     Lex.Lex();
4433   }
4434
4435   bool isVolatile = false;
4436   if (Lex.getKind() == lltok::kw_volatile) {
4437     isVolatile = true;
4438     Lex.Lex();
4439   }
4440
4441   if (ParseTypeAndValue(Val, Loc, PFS) ||
4442       ParseScopeAndOrdering(isAtomic, Scope, Ordering) ||
4443       ParseOptionalCommaAlign(Alignment, AteExtraComma))
4444     return true;
4445
4446   if (!Val->getType()->isPointerTy() ||
4447       !cast<PointerType>(Val->getType())->getElementType()->isFirstClassType())
4448     return Error(Loc, "load operand must be a pointer to a first class type");
4449   if (isAtomic && !Alignment)
4450     return Error(Loc, "atomic load must have explicit non-zero alignment");
4451   if (Ordering == Release || Ordering == AcquireRelease)
4452     return Error(Loc, "atomic load cannot use Release ordering");
4453
4454   Inst = new LoadInst(Val, "", isVolatile, Alignment, Ordering, Scope);
4455   return AteExtraComma ? InstExtraComma : InstNormal;
4456 }
4457
4458 /// ParseStore
4459
4460 ///   ::= 'store' 'volatile'? TypeAndValue ',' TypeAndValue (',' 'align' i32)?
4461 ///   ::= 'store' 'atomic' 'volatile'? TypeAndValue ',' TypeAndValue
4462 ///       'singlethread'? AtomicOrdering (',' 'align' i32)?
4463 int LLParser::ParseStore(Instruction *&Inst, PerFunctionState &PFS) {
4464   Value *Val, *Ptr; LocTy Loc, PtrLoc;
4465   unsigned Alignment = 0;
4466   bool AteExtraComma = false;
4467   bool isAtomic = false;
4468   AtomicOrdering Ordering = NotAtomic;
4469   SynchronizationScope Scope = CrossThread;
4470
4471   if (Lex.getKind() == lltok::kw_atomic) {
4472     isAtomic = true;
4473     Lex.Lex();
4474   }
4475
4476   bool isVolatile = false;
4477   if (Lex.getKind() == lltok::kw_volatile) {
4478     isVolatile = true;
4479     Lex.Lex();
4480   }
4481
4482   if (ParseTypeAndValue(Val, Loc, PFS) ||
4483       ParseToken(lltok::comma, "expected ',' after store operand") ||
4484       ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4485       ParseScopeAndOrdering(isAtomic, Scope, Ordering) ||
4486       ParseOptionalCommaAlign(Alignment, AteExtraComma))
4487     return true;
4488
4489   if (!Ptr->getType()->isPointerTy())
4490     return Error(PtrLoc, "store operand must be a pointer");
4491   if (!Val->getType()->isFirstClassType())
4492     return Error(Loc, "store operand must be a first class value");
4493   if (cast<PointerType>(Ptr->getType())->getElementType() != Val->getType())
4494     return Error(Loc, "stored value and pointer type do not match");
4495   if (isAtomic && !Alignment)
4496     return Error(Loc, "atomic store must have explicit non-zero alignment");
4497   if (Ordering == Acquire || Ordering == AcquireRelease)
4498     return Error(Loc, "atomic store cannot use Acquire ordering");
4499
4500   Inst = new StoreInst(Val, Ptr, isVolatile, Alignment, Ordering, Scope);
4501   return AteExtraComma ? InstExtraComma : InstNormal;
4502 }
4503
4504 /// ParseCmpXchg
4505 ///   ::= 'cmpxchg' 'weak'? 'volatile'? TypeAndValue ',' TypeAndValue ','
4506 ///       TypeAndValue 'singlethread'? AtomicOrdering AtomicOrdering
4507 int LLParser::ParseCmpXchg(Instruction *&Inst, PerFunctionState &PFS) {
4508   Value *Ptr, *Cmp, *New; LocTy PtrLoc, CmpLoc, NewLoc;
4509   bool AteExtraComma = false;
4510   AtomicOrdering SuccessOrdering = NotAtomic;
4511   AtomicOrdering FailureOrdering = NotAtomic;
4512   SynchronizationScope Scope = CrossThread;
4513   bool isVolatile = false;
4514   bool isWeak = false;
4515
4516   if (EatIfPresent(lltok::kw_weak))
4517     isWeak = true;
4518
4519   if (EatIfPresent(lltok::kw_volatile))
4520     isVolatile = true;
4521
4522   if (ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4523       ParseToken(lltok::comma, "expected ',' after cmpxchg address") ||
4524       ParseTypeAndValue(Cmp, CmpLoc, PFS) ||
4525       ParseToken(lltok::comma, "expected ',' after cmpxchg cmp operand") ||
4526       ParseTypeAndValue(New, NewLoc, PFS) ||
4527       ParseScopeAndOrdering(true /*Always atomic*/, Scope, SuccessOrdering) ||
4528       ParseOrdering(FailureOrdering))
4529     return true;
4530
4531   if (SuccessOrdering == Unordered || FailureOrdering == Unordered)
4532     return TokError("cmpxchg cannot be unordered");
4533   if (SuccessOrdering < FailureOrdering)
4534     return TokError("cmpxchg must be at least as ordered on success as failure");
4535   if (FailureOrdering == Release || FailureOrdering == AcquireRelease)
4536     return TokError("cmpxchg failure ordering cannot include release semantics");
4537   if (!Ptr->getType()->isPointerTy())
4538     return Error(PtrLoc, "cmpxchg operand must be a pointer");
4539   if (cast<PointerType>(Ptr->getType())->getElementType() != Cmp->getType())
4540     return Error(CmpLoc, "compare value and pointer type do not match");
4541   if (cast<PointerType>(Ptr->getType())->getElementType() != New->getType())
4542     return Error(NewLoc, "new value and pointer type do not match");
4543   if (!New->getType()->isIntegerTy())
4544     return Error(NewLoc, "cmpxchg operand must be an integer");
4545   unsigned Size = New->getType()->getPrimitiveSizeInBits();
4546   if (Size < 8 || (Size & (Size - 1)))
4547     return Error(NewLoc, "cmpxchg operand must be power-of-two byte-sized"
4548                          " integer");
4549
4550   AtomicCmpXchgInst *CXI = new AtomicCmpXchgInst(
4551       Ptr, Cmp, New, SuccessOrdering, FailureOrdering, Scope);
4552   CXI->setVolatile(isVolatile);
4553   CXI->setWeak(isWeak);
4554   Inst = CXI;
4555   return AteExtraComma ? InstExtraComma : InstNormal;
4556 }
4557
4558 /// ParseAtomicRMW
4559 ///   ::= 'atomicrmw' 'volatile'? BinOp TypeAndValue ',' TypeAndValue
4560 ///       'singlethread'? AtomicOrdering
4561 int LLParser::ParseAtomicRMW(Instruction *&Inst, PerFunctionState &PFS) {
4562   Value *Ptr, *Val; LocTy PtrLoc, ValLoc;
4563   bool AteExtraComma = false;
4564   AtomicOrdering Ordering = NotAtomic;
4565   SynchronizationScope Scope = CrossThread;
4566   bool isVolatile = false;
4567   AtomicRMWInst::BinOp Operation;
4568
4569   if (EatIfPresent(lltok::kw_volatile))
4570     isVolatile = true;
4571
4572   switch (Lex.getKind()) {
4573   default: return TokError("expected binary operation in atomicrmw");
4574   case lltok::kw_xchg: Operation = AtomicRMWInst::Xchg; break;
4575   case lltok::kw_add: Operation = AtomicRMWInst::Add; break;
4576   case lltok::kw_sub: Operation = AtomicRMWInst::Sub; break;
4577   case lltok::kw_and: Operation = AtomicRMWInst::And; break;
4578   case lltok::kw_nand: Operation = AtomicRMWInst::Nand; break;
4579   case lltok::kw_or: Operation = AtomicRMWInst::Or; break;
4580   case lltok::kw_xor: Operation = AtomicRMWInst::Xor; break;
4581   case lltok::kw_max: Operation = AtomicRMWInst::Max; break;
4582   case lltok::kw_min: Operation = AtomicRMWInst::Min; break;
4583   case lltok::kw_umax: Operation = AtomicRMWInst::UMax; break;
4584   case lltok::kw_umin: Operation = AtomicRMWInst::UMin; break;
4585   }
4586   Lex.Lex();  // Eat the operation.
4587
4588   if (ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4589       ParseToken(lltok::comma, "expected ',' after atomicrmw address") ||
4590       ParseTypeAndValue(Val, ValLoc, PFS) ||
4591       ParseScopeAndOrdering(true /*Always atomic*/, Scope, Ordering))
4592     return true;
4593
4594   if (Ordering == Unordered)
4595     return TokError("atomicrmw cannot be unordered");
4596   if (!Ptr->getType()->isPointerTy())
4597     return Error(PtrLoc, "atomicrmw operand must be a pointer");
4598   if (cast<PointerType>(Ptr->getType())->getElementType() != Val->getType())
4599     return Error(ValLoc, "atomicrmw value and pointer type do not match");
4600   if (!Val->getType()->isIntegerTy())
4601     return Error(ValLoc, "atomicrmw operand must be an integer");
4602   unsigned Size = Val->getType()->getPrimitiveSizeInBits();
4603   if (Size < 8 || (Size & (Size - 1)))
4604     return Error(ValLoc, "atomicrmw operand must be power-of-two byte-sized"
4605                          " integer");
4606
4607   AtomicRMWInst *RMWI =
4608     new AtomicRMWInst(Operation, Ptr, Val, Ordering, Scope);
4609   RMWI->setVolatile(isVolatile);
4610   Inst = RMWI;
4611   return AteExtraComma ? InstExtraComma : InstNormal;
4612 }
4613
4614 /// ParseFence
4615 ///   ::= 'fence' 'singlethread'? AtomicOrdering
4616 int LLParser::ParseFence(Instruction *&Inst, PerFunctionState &PFS) {
4617   AtomicOrdering Ordering = NotAtomic;
4618   SynchronizationScope Scope = CrossThread;
4619   if (ParseScopeAndOrdering(true /*Always atomic*/, Scope, Ordering))
4620     return true;
4621
4622   if (Ordering == Unordered)
4623     return TokError("fence cannot be unordered");
4624   if (Ordering == Monotonic)
4625     return TokError("fence cannot be monotonic");
4626
4627   Inst = new FenceInst(Context, Ordering, Scope);
4628   return InstNormal;
4629 }
4630
4631 /// ParseGetElementPtr
4632 ///   ::= 'getelementptr' 'inbounds'? TypeAndValue (',' TypeAndValue)*
4633 int LLParser::ParseGetElementPtr(Instruction *&Inst, PerFunctionState &PFS) {
4634   Value *Ptr = nullptr;
4635   Value *Val = nullptr;
4636   LocTy Loc, EltLoc;
4637
4638   bool InBounds = EatIfPresent(lltok::kw_inbounds);
4639
4640   if (ParseTypeAndValue(Ptr, Loc, PFS)) return true;
4641
4642   Type *BaseType = Ptr->getType();
4643   PointerType *BasePointerType = dyn_cast<PointerType>(BaseType->getScalarType());
4644   if (!BasePointerType)
4645     return Error(Loc, "base of getelementptr must be a pointer");
4646
4647   SmallVector<Value*, 16> Indices;
4648   bool AteExtraComma = false;
4649   while (EatIfPresent(lltok::comma)) {
4650     if (Lex.getKind() == lltok::MetadataVar) {
4651       AteExtraComma = true;
4652       break;
4653     }
4654     if (ParseTypeAndValue(Val, EltLoc, PFS)) return true;
4655     if (!Val->getType()->getScalarType()->isIntegerTy())
4656       return Error(EltLoc, "getelementptr index must be an integer");
4657     if (Val->getType()->isVectorTy() != Ptr->getType()->isVectorTy())
4658       return Error(EltLoc, "getelementptr index type missmatch");
4659     if (Val->getType()->isVectorTy()) {
4660       unsigned ValNumEl = cast<VectorType>(Val->getType())->getNumElements();
4661       unsigned PtrNumEl = cast<VectorType>(Ptr->getType())->getNumElements();
4662       if (ValNumEl != PtrNumEl)
4663         return Error(EltLoc,
4664           "getelementptr vector index has a wrong number of elements");
4665     }
4666     Indices.push_back(Val);
4667   }
4668
4669   if (!Indices.empty() && !BasePointerType->getElementType()->isSized())
4670     return Error(Loc, "base element of getelementptr must be sized");
4671
4672   if (!GetElementPtrInst::getIndexedType(BaseType, Indices))
4673     return Error(Loc, "invalid getelementptr indices");
4674   Inst = GetElementPtrInst::Create(Ptr, Indices);
4675   if (InBounds)
4676     cast<GetElementPtrInst>(Inst)->setIsInBounds(true);
4677   return AteExtraComma ? InstExtraComma : InstNormal;
4678 }
4679
4680 /// ParseExtractValue
4681 ///   ::= 'extractvalue' TypeAndValue (',' uint32)+
4682 int LLParser::ParseExtractValue(Instruction *&Inst, PerFunctionState &PFS) {
4683   Value *Val; LocTy Loc;
4684   SmallVector<unsigned, 4> Indices;
4685   bool AteExtraComma;
4686   if (ParseTypeAndValue(Val, Loc, PFS) ||
4687       ParseIndexList(Indices, AteExtraComma))
4688     return true;
4689
4690   if (!Val->getType()->isAggregateType())
4691     return Error(Loc, "extractvalue operand must be aggregate type");
4692
4693   if (!ExtractValueInst::getIndexedType(Val->getType(), Indices))
4694     return Error(Loc, "invalid indices for extractvalue");
4695   Inst = ExtractValueInst::Create(Val, Indices);
4696   return AteExtraComma ? InstExtraComma : InstNormal;
4697 }
4698
4699 /// ParseInsertValue
4700 ///   ::= 'insertvalue' TypeAndValue ',' TypeAndValue (',' uint32)+
4701 int LLParser::ParseInsertValue(Instruction *&Inst, PerFunctionState &PFS) {
4702   Value *Val0, *Val1; LocTy Loc0, Loc1;
4703   SmallVector<unsigned, 4> Indices;
4704   bool AteExtraComma;
4705   if (ParseTypeAndValue(Val0, Loc0, PFS) ||
4706       ParseToken(lltok::comma, "expected comma after insertvalue operand") ||
4707       ParseTypeAndValue(Val1, Loc1, PFS) ||
4708       ParseIndexList(Indices, AteExtraComma))
4709     return true;
4710
4711   if (!Val0->getType()->isAggregateType())
4712     return Error(Loc0, "insertvalue operand must be aggregate type");
4713
4714   if (!ExtractValueInst::getIndexedType(Val0->getType(), Indices))
4715     return Error(Loc0, "invalid indices for insertvalue");
4716   Inst = InsertValueInst::Create(Val0, Val1, Indices);
4717   return AteExtraComma ? InstExtraComma : InstNormal;
4718 }
4719
4720 //===----------------------------------------------------------------------===//
4721 // Embedded metadata.
4722 //===----------------------------------------------------------------------===//
4723
4724 /// ParseMDNodeVector
4725 ///   ::= { Element (',' Element)* }
4726 /// Element
4727 ///   ::= 'null' | TypeAndValue
4728 bool LLParser::ParseMDNodeVector(SmallVectorImpl<Metadata *> &Elts) {
4729   if (ParseToken(lltok::lbrace, "expected '{' here"))
4730     return true;
4731
4732   // Check for an empty list.
4733   if (EatIfPresent(lltok::rbrace))
4734     return false;
4735
4736   do {
4737     // Null is a special case since it is typeless.
4738     if (EatIfPresent(lltok::kw_null)) {
4739       Elts.push_back(nullptr);
4740       continue;
4741     }
4742
4743     Metadata *MD;
4744     if (ParseMetadata(MD, nullptr))
4745       return true;
4746     Elts.push_back(MD);
4747   } while (EatIfPresent(lltok::comma));
4748
4749   return ParseToken(lltok::rbrace, "expected end of metadata node");
4750 }
4751
4752 //===----------------------------------------------------------------------===//
4753 // Use-list order directives.
4754 //===----------------------------------------------------------------------===//
4755 bool LLParser::sortUseListOrder(Value *V, ArrayRef<unsigned> Indexes,
4756                                 SMLoc Loc) {
4757   if (V->use_empty())
4758     return Error(Loc, "value has no uses");
4759
4760   unsigned NumUses = 0;
4761   SmallDenseMap<const Use *, unsigned, 16> Order;
4762   for (const Use &U : V->uses()) {
4763     if (++NumUses > Indexes.size())
4764       break;
4765     Order[&U] = Indexes[NumUses - 1];
4766   }
4767   if (NumUses < 2)
4768     return Error(Loc, "value only has one use");
4769   if (Order.size() != Indexes.size() || NumUses > Indexes.size())
4770     return Error(Loc, "wrong number of indexes, expected " +
4771                           Twine(std::distance(V->use_begin(), V->use_end())));
4772
4773   V->sortUseList([&](const Use &L, const Use &R) {
4774     return Order.lookup(&L) < Order.lookup(&R);
4775   });
4776   return false;
4777 }
4778
4779 /// ParseUseListOrderIndexes
4780 ///   ::= '{' uint32 (',' uint32)+ '}'
4781 bool LLParser::ParseUseListOrderIndexes(SmallVectorImpl<unsigned> &Indexes) {
4782   SMLoc Loc = Lex.getLoc();
4783   if (ParseToken(lltok::lbrace, "expected '{' here"))
4784     return true;
4785   if (Lex.getKind() == lltok::rbrace)
4786     return Lex.Error("expected non-empty list of uselistorder indexes");
4787
4788   // Use Offset, Max, and IsOrdered to check consistency of indexes.  The
4789   // indexes should be distinct numbers in the range [0, size-1], and should
4790   // not be in order.
4791   unsigned Offset = 0;
4792   unsigned Max = 0;
4793   bool IsOrdered = true;
4794   assert(Indexes.empty() && "Expected empty order vector");
4795   do {
4796     unsigned Index;
4797     if (ParseUInt32(Index))
4798       return true;
4799
4800     // Update consistency checks.
4801     Offset += Index - Indexes.size();
4802     Max = std::max(Max, Index);
4803     IsOrdered &= Index == Indexes.size();
4804
4805     Indexes.push_back(Index);
4806   } while (EatIfPresent(lltok::comma));
4807
4808   if (ParseToken(lltok::rbrace, "expected '}' here"))
4809     return true;
4810
4811   if (Indexes.size() < 2)
4812     return Error(Loc, "expected >= 2 uselistorder indexes");
4813   if (Offset != 0 || Max >= Indexes.size())
4814     return Error(Loc, "expected distinct uselistorder indexes in range [0, size)");
4815   if (IsOrdered)
4816     return Error(Loc, "expected uselistorder indexes to change the order");
4817
4818   return false;
4819 }
4820
4821 /// ParseUseListOrder
4822 ///   ::= 'uselistorder' Type Value ',' UseListOrderIndexes
4823 bool LLParser::ParseUseListOrder(PerFunctionState *PFS) {
4824   SMLoc Loc = Lex.getLoc();
4825   if (ParseToken(lltok::kw_uselistorder, "expected uselistorder directive"))
4826     return true;
4827
4828   Value *V;
4829   SmallVector<unsigned, 16> Indexes;
4830   if (ParseTypeAndValue(V, PFS) ||
4831       ParseToken(lltok::comma, "expected comma in uselistorder directive") ||
4832       ParseUseListOrderIndexes(Indexes))
4833     return true;
4834
4835   return sortUseListOrder(V, Indexes, Loc);
4836 }
4837
4838 /// ParseUseListOrderBB
4839 ///   ::= 'uselistorder_bb' @foo ',' %bar ',' UseListOrderIndexes
4840 bool LLParser::ParseUseListOrderBB() {
4841   assert(Lex.getKind() == lltok::kw_uselistorder_bb);
4842   SMLoc Loc = Lex.getLoc();
4843   Lex.Lex();
4844
4845   ValID Fn, Label;
4846   SmallVector<unsigned, 16> Indexes;
4847   if (ParseValID(Fn) ||
4848       ParseToken(lltok::comma, "expected comma in uselistorder_bb directive") ||
4849       ParseValID(Label) ||
4850       ParseToken(lltok::comma, "expected comma in uselistorder_bb directive") ||
4851       ParseUseListOrderIndexes(Indexes))
4852     return true;
4853
4854   // Check the function.
4855   GlobalValue *GV;
4856   if (Fn.Kind == ValID::t_GlobalName)
4857     GV = M->getNamedValue(Fn.StrVal);
4858   else if (Fn.Kind == ValID::t_GlobalID)
4859     GV = Fn.UIntVal < NumberedVals.size() ? NumberedVals[Fn.UIntVal] : nullptr;
4860   else
4861     return Error(Fn.Loc, "expected function name in uselistorder_bb");
4862   if (!GV)
4863     return Error(Fn.Loc, "invalid function forward reference in uselistorder_bb");
4864   auto *F = dyn_cast<Function>(GV);
4865   if (!F)
4866     return Error(Fn.Loc, "expected function name in uselistorder_bb");
4867   if (F->isDeclaration())
4868     return Error(Fn.Loc, "invalid declaration in uselistorder_bb");
4869
4870   // Check the basic block.
4871   if (Label.Kind == ValID::t_LocalID)
4872     return Error(Label.Loc, "invalid numeric label in uselistorder_bb");
4873   if (Label.Kind != ValID::t_LocalName)
4874     return Error(Label.Loc, "expected basic block name in uselistorder_bb");
4875   Value *V = F->getValueSymbolTable().lookup(Label.StrVal);
4876   if (!V)
4877     return Error(Label.Loc, "invalid basic block in uselistorder_bb");
4878   if (!isa<BasicBlock>(V))
4879     return Error(Label.Loc, "expected basic block in uselistorder_bb");
4880
4881   return sortUseListOrder(V, Indexes, Loc);
4882 }