lib/AsmParser/LLParser.cpp

   1 //===-- LLParser.cpp - Parser Class ---------------------------------------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 //  This file defines the parser class for .ll files.
  11 //
  12 //===----------------------------------------------------------------------===//
  13
  14 #include "LLParser.h"
  15 #include "llvm/ADT/SmallPtrSet.h"
  16 #include "llvm/IR/AutoUpgrade.h"
  17 #include "llvm/IR/CallingConv.h"
  18 #include "llvm/IR/Constants.h"
  19 #include "llvm/IR/DerivedTypes.h"
  20 #include "llvm/IR/InlineAsm.h"
  21 #include "llvm/IR/Instructions.h"
  22 #include "llvm/IR/LLVMContext.h"
  23 #include "llvm/IR/Module.h"
  24 #include "llvm/IR/Operator.h"
  25 #include "llvm/IR/ValueSymbolTable.h"
  26 #include "llvm/Support/ErrorHandling.h"
  27 #include "llvm/Support/SaveAndRestore.h"
  28 #include "llvm/Support/raw_ostream.h"
  29 using namespace llvm;
  30
  31 static std::string getTypeString(Type *T) {
  32   std::string Result;
  33   raw_string_ostream Tmp(Result);
  34   Tmp << *T;
  35   return Tmp.str();
  36 }
  37
  38 /// Run: module ::= toplevelentity*
  39 bool LLParser::Run() {
  40   // Prime the lexer.
  41   Lex.Lex();
  42
  43   return ParseTopLevelEntities() ||
  44          ValidateEndOfModule();
  45 }
  46
  47 /// ValidateEndOfModule - Do final validity and sanity checks at the end of the
  48 /// module.
  49 bool LLParser::ValidateEndOfModule() {
  50   // Handle any instruction metadata forward references.
  51   if (!ForwardRefInstMetadata.empty()) {
  52     for (DenseMap<Instruction*, std::vector<MDRef> >::iterator
  53          I = ForwardRefInstMetadata.begin(), E = ForwardRefInstMetadata.end();
  54          I != E; ++I) {
  55       Instruction *Inst = I->first;
  56       const std::vector<MDRef> &MDList = I->second;
  57
  58       for (unsigned i = 0, e = MDList.size(); i != e; ++i) {
  59         unsigned SlotNo = MDList[i].MDSlot;
  60
  61         if (SlotNo >= NumberedMetadata.size() ||
  62             NumberedMetadata[SlotNo] == nullptr)
  63           return Error(MDList[i].Loc, "use of undefined metadata '!" +
  64                        Twine(SlotNo) + "'");
  65         Inst->setMetadata(MDList[i].MDKind, NumberedMetadata[SlotNo]);
  66       }
  67     }
  68     ForwardRefInstMetadata.clear();
  69   }
  70
  71   for (unsigned I = 0, E = InstsWithTBAATag.size(); I < E; I++)
  72     UpgradeInstWithTBAATag(InstsWithTBAATag[I]);
  73
  74   // Handle any function attribute group forward references.
  75   for (std::map<Value*, std::vector<unsigned> >::iterator
  76          I = ForwardRefAttrGroups.begin(), E = ForwardRefAttrGroups.end();
  77          I != E; ++I) {
  78     Value *V = I->first;
  79     std::vector<unsigned> &Vec = I->second;
  80     AttrBuilder B;
  81
  82     for (std::vector<unsigned>::iterator VI = Vec.begin(), VE = Vec.end();
  83          VI != VE; ++VI)
  84       B.merge(NumberedAttrBuilders[*VI]);
  85
  86     if (Function *Fn = dyn_cast<Function>(V)) {
  87       AttributeSet AS = Fn->getAttributes();
  88       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
  89       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
  90                                AS.getFnAttributes());
  91
  92       FnAttrs.merge(B);
  93
  94       // If the alignment was parsed as an attribute, move to the alignment
  95       // field.
  96       if (FnAttrs.hasAlignmentAttr()) {
  97         Fn->setAlignment(FnAttrs.getAlignment());
  98         FnAttrs.removeAttribute(Attribute::Alignment);
  99       }
 100
 101       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
 102                             AttributeSet::get(Context,
 103                                               AttributeSet::FunctionIndex,
 104                                               FnAttrs));
 105       Fn->setAttributes(AS);
 106     } else if (CallInst *CI = dyn_cast<CallInst>(V)) {
 107       AttributeSet AS = CI->getAttributes();
 108       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
 109       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
 110                                AS.getFnAttributes());
 111       FnAttrs.merge(B);
 112       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
 113                             AttributeSet::get(Context,
 114                                               AttributeSet::FunctionIndex,
 115                                               FnAttrs));
 116       CI->setAttributes(AS);
 117     } else if (InvokeInst *II = dyn_cast<InvokeInst>(V)) {
 118       AttributeSet AS = II->getAttributes();
 119       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
 120       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
 121                                AS.getFnAttributes());
 122       FnAttrs.merge(B);
 123       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
 124                             AttributeSet::get(Context,
 125                                               AttributeSet::FunctionIndex,
 126                                               FnAttrs));
 127       II->setAttributes(AS);
 128     } else {
 129       llvm_unreachable("invalid object with forward attribute group reference");
 130     }
 131   }
 132
 133   // If there are entries in ForwardRefBlockAddresses at this point, the
 134   // function was never defined.
 135   if (!ForwardRefBlockAddresses.empty())
 136     return Error(ForwardRefBlockAddresses.begin()->first.Loc,
 137                  "expected function name in blockaddress");
 138
 139   for (unsigned i = 0, e = NumberedTypes.size(); i != e; ++i)
 140     if (NumberedTypes[i].second.isValid())
 141       return Error(NumberedTypes[i].second,
 142                    "use of undefined type '%" + Twine(i) + "'");
 143
 144   for (StringMap<std::pair<Type*, LocTy> >::iterator I =
 145        NamedTypes.begin(), E = NamedTypes.end(); I != E; ++I)
 146     if (I->second.second.isValid())
 147       return Error(I->second.second,
 148                    "use of undefined type named '" + I->getKey() + "'");
 149
 150   if (!ForwardRefComdats.empty())
 151     return Error(ForwardRefComdats.begin()->second,
 152                  "use of undefined comdat '$" +
 153                      ForwardRefComdats.begin()->first + "'");
 154
 155   if (!ForwardRefVals.empty())
 156     return Error(ForwardRefVals.begin()->second.second,
 157                  "use of undefined value '@" + ForwardRefVals.begin()->first +
 158                  "'");
 159
 160   if (!ForwardRefValIDs.empty())
 161     return Error(ForwardRefValIDs.begin()->second.second,
 162                  "use of undefined value '@" +
 163                  Twine(ForwardRefValIDs.begin()->first) + "'");
 164
 165   if (!ForwardRefMDNodes.empty())
 166     return Error(ForwardRefMDNodes.begin()->second.second,
 167                  "use of undefined metadata '!" +
 168                  Twine(ForwardRefMDNodes.begin()->first) + "'");
 169
 170
 171   // Look for intrinsic functions and CallInst that need to be upgraded
 172   for (Module::iterator FI = M->begin(), FE = M->end(); FI != FE; )
 173     UpgradeCallsToIntrinsic(FI++); // must be post-increment, as we remove
 174
 175   UpgradeDebugInfo(*M);
 176
 177   return false;
 178 }
 179
 180 //===----------------------------------------------------------------------===//
 181 // Top-Level Entities
 182 //===----------------------------------------------------------------------===//
 183
 184 bool LLParser::ParseTopLevelEntities() {
 185   while (1) {
 186     switch (Lex.getKind()) {
 187     default:         return TokError("expected top-level entity");
 188     case lltok::Eof: return false;
 189     case lltok::kw_declare: if (ParseDeclare()) return true; break;
 190     case lltok::kw_define:  if (ParseDefine()) return true; break;
 191     case lltok::kw_module:  if (ParseModuleAsm()) return true; break;
 192     case lltok::kw_target:  if (ParseTargetDefinition()) return true; break;
 193     case lltok::kw_deplibs: if (ParseDepLibs()) return true; break;
 194     case lltok::LocalVarID: if (ParseUnnamedType()) return true; break;
 195     case lltok::LocalVar:   if (ParseNamedType()) return true; break;
 196     case lltok::GlobalID:   if (ParseUnnamedGlobal()) return true; break;
 197     case lltok::GlobalVar:  if (ParseNamedGlobal()) return true; break;
 198     case lltok::ComdatVar:  if (parseComdat()) return true; break;
 199     case lltok::exclaim:    if (ParseStandaloneMetadata()) return true; break;
 200     case lltok::MetadataVar:if (ParseNamedMetadata()) return true; break;
 201
 202     // The Global variable production with no name can have many different
 203     // optional leading prefixes, the production is:
 204     // GlobalVar ::= OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 205     //               OptionalThreadLocal OptionalAddrSpace OptionalUnNammedAddr
 206     //               ('constant'|'global') ...
 207     case lltok::kw_private:             // OptionalLinkage
 208     case lltok::kw_internal:            // OptionalLinkage
 209     case lltok::kw_weak:                // OptionalLinkage
 210     case lltok::kw_weak_odr:            // OptionalLinkage
 211     case lltok::kw_linkonce:            // OptionalLinkage
 212     case lltok::kw_linkonce_odr:        // OptionalLinkage
 213     case lltok::kw_appending:           // OptionalLinkage
 214     case lltok::kw_common:              // OptionalLinkage
 215     case lltok::kw_extern_weak:         // OptionalLinkage
 216     case lltok::kw_external:            // OptionalLinkage
 217     case lltok::kw_default:             // OptionalVisibility
 218     case lltok::kw_hidden:              // OptionalVisibility
 219     case lltok::kw_protected:           // OptionalVisibility
 220     case lltok::kw_dllimport:           // OptionalDLLStorageClass
 221     case lltok::kw_dllexport:           // OptionalDLLStorageClass
 222     case lltok::kw_thread_local:        // OptionalThreadLocal
 223     case lltok::kw_addrspace:           // OptionalAddrSpace
 224     case lltok::kw_constant:            // GlobalType
 225     case lltok::kw_global: {            // GlobalType
 226       unsigned Linkage, Visibility, DLLStorageClass;
 227       bool UnnamedAddr;
 228       GlobalVariable::ThreadLocalMode TLM;
 229       bool HasLinkage;
 230       if (ParseOptionalLinkage(Linkage, HasLinkage) ||
 231           ParseOptionalVisibility(Visibility) ||
 232           ParseOptionalDLLStorageClass(DLLStorageClass) ||
 233           ParseOptionalThreadLocal(TLM) ||
 234           parseOptionalUnnamedAddr(UnnamedAddr) ||
 235           ParseGlobal("", SMLoc(), Linkage, HasLinkage, Visibility,
 236                       DLLStorageClass, TLM, UnnamedAddr))
 237         return true;
 238       break;
 239     }
 240
 241     case lltok::kw_attributes: if (ParseUnnamedAttrGrp()) return true; break;
 242     case lltok::kw_uselistorder: if (ParseUseListOrder()) return true; break;
 243     case lltok::kw_uselistorder_bb:
 244                                  if (ParseUseListOrderBB()) return true; break;
 245     }
 246   }
 247 }
 248
 249
 250 /// toplevelentity
 251 ///   ::= 'module' 'asm' STRINGCONSTANT
 252 bool LLParser::ParseModuleAsm() {
 253   assert(Lex.getKind() == lltok::kw_module);
 254   Lex.Lex();
 255
 256   std::string AsmStr;
 257   if (ParseToken(lltok::kw_asm, "expected 'module asm'") ||
 258       ParseStringConstant(AsmStr)) return true;
 259
 260   M->appendModuleInlineAsm(AsmStr);
 261   return false;
 262 }
 263
 264 /// toplevelentity
 265 ///   ::= 'target' 'triple' '=' STRINGCONSTANT
 266 ///   ::= 'target' 'datalayout' '=' STRINGCONSTANT
 267 bool LLParser::ParseTargetDefinition() {
 268   assert(Lex.getKind() == lltok::kw_target);
 269   std::string Str;
 270   switch (Lex.Lex()) {
 271   default: return TokError("unknown target property");
 272   case lltok::kw_triple:
 273     Lex.Lex();
 274     if (ParseToken(lltok::equal, "expected '=' after target triple") ||
 275         ParseStringConstant(Str))
 276       return true;
 277     M->setTargetTriple(Str);
 278     return false;
 279   case lltok::kw_datalayout:
 280     Lex.Lex();
 281     if (ParseToken(lltok::equal, "expected '=' after target datalayout") ||
 282         ParseStringConstant(Str))
 283       return true;
 284     M->setDataLayout(Str);
 285     return false;
 286   }
 287 }
 288
 289 /// toplevelentity
 290 ///   ::= 'deplibs' '=' '[' ']'
 291 ///   ::= 'deplibs' '=' '[' STRINGCONSTANT (',' STRINGCONSTANT)* ']'
 292 /// FIXME: Remove in 4.0. Currently parse, but ignore.
 293 bool LLParser::ParseDepLibs() {
 294   assert(Lex.getKind() == lltok::kw_deplibs);
 295   Lex.Lex();
 296   if (ParseToken(lltok::equal, "expected '=' after deplibs") ||
 297       ParseToken(lltok::lsquare, "expected '=' after deplibs"))
 298     return true;
 299
 300   if (EatIfPresent(lltok::rsquare))
 301     return false;
 302
 303   do {
 304     std::string Str;
 305     if (ParseStringConstant(Str)) return true;
 306   } while (EatIfPresent(lltok::comma));
 307
 308   return ParseToken(lltok::rsquare, "expected ']' at end of list");
 309 }
 310
 311 /// ParseUnnamedType:
 312 ///   ::= LocalVarID '=' 'type' type
 313 bool LLParser::ParseUnnamedType() {
 314   LocTy TypeLoc = Lex.getLoc();
 315   unsigned TypeID = Lex.getUIntVal();
 316   Lex.Lex(); // eat LocalVarID;
 317
 318   if (ParseToken(lltok::equal, "expected '=' after name") ||
 319       ParseToken(lltok::kw_type, "expected 'type' after '='"))
 320     return true;
 321
 322   if (TypeID >= NumberedTypes.size())
 323     NumberedTypes.resize(TypeID+1);
 324
 325   Type *Result = nullptr;
 326   if (ParseStructDefinition(TypeLoc, "",
 327                             NumberedTypes[TypeID], Result)) return true;
 328
 329   if (!isa<StructType>(Result)) {
 330     std::pair<Type*, LocTy> &Entry = NumberedTypes[TypeID];
 331     if (Entry.first)
 332       return Error(TypeLoc, "non-struct types may not be recursive");
 333     Entry.first = Result;
 334     Entry.second = SMLoc();
 335   }
 336
 337   return false;
 338 }
 339
 340
 341 /// toplevelentity
 342 ///   ::= LocalVar '=' 'type' type
 343 bool LLParser::ParseNamedType() {
 344   std::string Name = Lex.getStrVal();
 345   LocTy NameLoc = Lex.getLoc();
 346   Lex.Lex();  // eat LocalVar.
 347
 348   if (ParseToken(lltok::equal, "expected '=' after name") ||
 349       ParseToken(lltok::kw_type, "expected 'type' after name"))
 350     return true;
 351
 352   Type *Result = nullptr;
 353   if (ParseStructDefinition(NameLoc, Name,
 354                             NamedTypes[Name], Result)) return true;
 355
 356   if (!isa<StructType>(Result)) {
 357     std::pair<Type*, LocTy> &Entry = NamedTypes[Name];
 358     if (Entry.first)
 359       return Error(NameLoc, "non-struct types may not be recursive");
 360     Entry.first = Result;
 361     Entry.second = SMLoc();
 362   }
 363
 364   return false;
 365 }
 366
 367
 368 /// toplevelentity
 369 ///   ::= 'declare' FunctionHeader
 370 bool LLParser::ParseDeclare() {
 371   assert(Lex.getKind() == lltok::kw_declare);
 372   Lex.Lex();
 373
 374   Function *F;
 375   return ParseFunctionHeader(F, false);
 376 }
 377
 378 /// toplevelentity
 379 ///   ::= 'define' FunctionHeader '{' ...
 380 bool LLParser::ParseDefine() {
 381   assert(Lex.getKind() == lltok::kw_define);
 382   Lex.Lex();
 383
 384   Function *F;
 385   return ParseFunctionHeader(F, true) ||
 386          ParseFunctionBody(*F);
 387 }
 388
 389 /// ParseGlobalType
 390 ///   ::= 'constant'
 391 ///   ::= 'global'
 392 bool LLParser::ParseGlobalType(bool &IsConstant) {
 393   if (Lex.getKind() == lltok::kw_constant)
 394     IsConstant = true;
 395   else if (Lex.getKind() == lltok::kw_global)
 396     IsConstant = false;
 397   else {
 398     IsConstant = false;
 399     return TokError("expected 'global' or 'constant'");
 400   }
 401   Lex.Lex();
 402   return false;
 403 }
 404
 405 /// ParseUnnamedGlobal:
 406 ///   OptionalVisibility ALIAS ...
 407 ///   OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 408 ///                                                     ...   -> global variable
 409 ///   GlobalID '=' OptionalVisibility ALIAS ...
 410 ///   GlobalID '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 411 ///                                                     ...   -> global variable
 412 bool LLParser::ParseUnnamedGlobal() {
 413   unsigned VarID = NumberedVals.size();
 414   std::string Name;
 415   LocTy NameLoc = Lex.getLoc();
 416
 417   // Handle the GlobalID form.
 418   if (Lex.getKind() == lltok::GlobalID) {
 419     if (Lex.getUIntVal() != VarID)
 420       return Error(Lex.getLoc(), "variable expected to be numbered '%" +
 421                    Twine(VarID) + "'");
 422     Lex.Lex(); // eat GlobalID;
 423
 424     if (ParseToken(lltok::equal, "expected '=' after name"))
 425       return true;
 426   }
 427
 428   bool HasLinkage;
 429   unsigned Linkage, Visibility, DLLStorageClass;
 430   GlobalVariable::ThreadLocalMode TLM;
 431   bool UnnamedAddr;
 432   if (ParseOptionalLinkage(Linkage, HasLinkage) ||
 433       ParseOptionalVisibility(Visibility) ||
 434       ParseOptionalDLLStorageClass(DLLStorageClass) ||
 435       ParseOptionalThreadLocal(TLM) ||
 436       parseOptionalUnnamedAddr(UnnamedAddr))
 437     return true;
 438
 439   if (Lex.getKind() != lltok::kw_alias)
 440     return ParseGlobal(Name, NameLoc, Linkage, HasLinkage, Visibility,
 441                        DLLStorageClass, TLM, UnnamedAddr);
 442   return ParseAlias(Name, NameLoc, Linkage, Visibility, DLLStorageClass, TLM,
 443                     UnnamedAddr);
 444 }
 445
 446 /// ParseNamedGlobal:
 447 ///   GlobalVar '=' OptionalVisibility ALIAS ...
 448 ///   GlobalVar '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 449 ///                                                     ...   -> global variable
 450 bool LLParser::ParseNamedGlobal() {
 451   assert(Lex.getKind() == lltok::GlobalVar);
 452   LocTy NameLoc = Lex.getLoc();
 453   std::string Name = Lex.getStrVal();
 454   Lex.Lex();
 455
 456   bool HasLinkage;
 457   unsigned Linkage, Visibility, DLLStorageClass;
 458   GlobalVariable::ThreadLocalMode TLM;
 459   bool UnnamedAddr;
 460   if (ParseToken(lltok::equal, "expected '=' in global variable") ||
 461       ParseOptionalLinkage(Linkage, HasLinkage) ||
 462       ParseOptionalVisibility(Visibility) ||
 463       ParseOptionalDLLStorageClass(DLLStorageClass) ||
 464       ParseOptionalThreadLocal(TLM) ||
 465       parseOptionalUnnamedAddr(UnnamedAddr))
 466     return true;
 467
 468   if (Lex.getKind() != lltok::kw_alias)
 469     return ParseGlobal(Name, NameLoc, Linkage, HasLinkage, Visibility,
 470                        DLLStorageClass, TLM, UnnamedAddr);
 471
 472   return ParseAlias(Name, NameLoc, Linkage, Visibility, DLLStorageClass, TLM,
 473                     UnnamedAddr);
 474 }
 475
 476 bool LLParser::parseComdat() {
 477   assert(Lex.getKind() == lltok::ComdatVar);
 478   std::string Name = Lex.getStrVal();
 479   LocTy NameLoc = Lex.getLoc();
 480   Lex.Lex();
 481
 482   if (ParseToken(lltok::equal, "expected '=' here"))
 483     return true;
 484
 485   if (ParseToken(lltok::kw_comdat, "expected comdat keyword"))
 486     return TokError("expected comdat type");
 487
 488   Comdat::SelectionKind SK;
 489   switch (Lex.getKind()) {
 490   default:
 491     return TokError("unknown selection kind");
 492   case lltok::kw_any:
 493     SK = Comdat::Any;
 494     break;
 495   case lltok::kw_exactmatch:
 496     SK = Comdat::ExactMatch;
 497     break;
 498   case lltok::kw_largest:
 499     SK = Comdat::Largest;
 500     break;
 501   case lltok::kw_noduplicates:
 502     SK = Comdat::NoDuplicates;
 503     break;
 504   case lltok::kw_samesize:
 505     SK = Comdat::SameSize;
 506     break;
 507   }
 508   Lex.Lex();
 509
 510   // See if the comdat was forward referenced, if so, use the comdat.
 511   Module::ComdatSymTabType &ComdatSymTab = M->getComdatSymbolTable();
 512   Module::ComdatSymTabType::iterator I = ComdatSymTab.find(Name);
 513   if (I != ComdatSymTab.end() && !ForwardRefComdats.erase(Name))
 514     return Error(NameLoc, "redefinition of comdat '$" + Name + "'");
 515
 516   Comdat *C;
 517   if (I != ComdatSymTab.end())
 518     C = &I->second;
 519   else
 520     C = M->getOrInsertComdat(Name);
 521   C->setSelectionKind(SK);
 522
 523   return false;
 524 }
 525
 526 // MDString:
 527 //   ::= '!' STRINGCONSTANT
 528 bool LLParser::ParseMDString(MDString *&Result) {
 529   std::string Str;
 530   if (ParseStringConstant(Str)) return true;
 531   llvm::UpgradeMDStringConstant(Str);
 532   Result = MDString::get(Context, Str);
 533   return false;
 534 }
 535
 536 // MDNode:
 537 //   ::= '!' MDNodeNumber
 538 //
 539 /// This version of ParseMDNodeID returns the slot number and null in the case
 540 /// of a forward reference.
 541 bool LLParser::ParseMDNodeID(MDNode *&Result, unsigned &SlotNo) {
 542   // !{ ..., !42, ... }
 543   if (ParseUInt32(SlotNo)) return true;
 544
 545   // Check existing MDNode.
 546   if (SlotNo < NumberedMetadata.size() && NumberedMetadata[SlotNo] != nullptr)
 547     Result = NumberedMetadata[SlotNo];
 548   else
 549     Result = nullptr;
 550   return false;
 551 }
 552
 553 bool LLParser::ParseMDNodeID(MDNode *&Result) {
 554   // !{ ..., !42, ... }
 555   unsigned MID = 0;
 556   if (ParseMDNodeID(Result, MID)) return true;
 557
 558   // If not a forward reference, just return it now.
 559   if (Result) return false;
 560
 561   // Otherwise, create MDNode forward reference.
 562   MDNode *FwdNode = MDNode::getTemporary(Context, None);
 563   ForwardRefMDNodes[MID] = std::make_pair(FwdNode, Lex.getLoc());
 564
 565   if (NumberedMetadata.size() <= MID)
 566     NumberedMetadata.resize(MID+1);
 567   NumberedMetadata[MID] = FwdNode;
 568   Result = FwdNode;
 569   return false;
 570 }
 571
 572 /// ParseNamedMetadata:
 573 ///   !foo = !{ !1, !2 }
 574 bool LLParser::ParseNamedMetadata() {
 575   assert(Lex.getKind() == lltok::MetadataVar);
 576   std::string Name = Lex.getStrVal();
 577   Lex.Lex();
 578
 579   if (ParseToken(lltok::equal, "expected '=' here") ||
 580       ParseToken(lltok::exclaim, "Expected '!' here") ||
 581       ParseToken(lltok::lbrace, "Expected '{' here"))
 582     return true;
 583
 584   NamedMDNode *NMD = M->getOrInsertNamedMetadata(Name);
 585   if (Lex.getKind() != lltok::rbrace)
 586     do {
 587       if (ParseToken(lltok::exclaim, "Expected '!' here"))
 588         return true;
 589
 590       MDNode *N = nullptr;
 591       if (ParseMDNodeID(N)) return true;
 592       NMD->addOperand(N);
 593     } while (EatIfPresent(lltok::comma));
 594
 595   if (ParseToken(lltok::rbrace, "expected end of metadata node"))
 596     return true;
 597
 598   return false;
 599 }
 600
 601 /// ParseStandaloneMetadata:
 602 ///   !42 = !{...}
 603 bool LLParser::ParseStandaloneMetadata() {
 604   assert(Lex.getKind() == lltok::exclaim);
 605   Lex.Lex();
 606   unsigned MetadataID = 0;
 607
 608   LocTy TyLoc;
 609   Type *Ty = nullptr;
 610   SmallVector<Value *, 16> Elts;
 611   if (ParseUInt32(MetadataID) ||
 612       ParseToken(lltok::equal, "expected '=' here") ||
 613       ParseType(Ty, TyLoc) ||
 614       ParseToken(lltok::exclaim, "Expected '!' here") ||
 615       ParseToken(lltok::lbrace, "Expected '{' here") ||
 616       ParseMDNodeVector(Elts, nullptr) ||
 617       ParseToken(lltok::rbrace, "expected end of metadata node"))
 618     return true;
 619
 620   MDNode *Init = MDNode::get(Context, Elts);
 621
 622   // See if this was forward referenced, if so, handle it.
 623   std::map<unsigned, std::pair<TrackingVH<MDNode>, LocTy> >::iterator
 624     FI = ForwardRefMDNodes.find(MetadataID);
 625   if (FI != ForwardRefMDNodes.end()) {
 626     MDNode *Temp = FI->second.first;
 627     Temp->replaceAllUsesWith(Init);
 628     MDNode::deleteTemporary(Temp);
 629     ForwardRefMDNodes.erase(FI);
 630
 631     assert(NumberedMetadata[MetadataID] == Init && "Tracking VH didn't work");
 632   } else {
 633     if (MetadataID >= NumberedMetadata.size())
 634       NumberedMetadata.resize(MetadataID+1);
 635
 636     if (NumberedMetadata[MetadataID] != nullptr)
 637       return TokError("Metadata id is already used");
 638     NumberedMetadata[MetadataID] = Init;
 639   }
 640
 641   return false;
 642 }
 643
 644 static bool isValidVisibilityForLinkage(unsigned V, unsigned L) {
 645   return !GlobalValue::isLocalLinkage((GlobalValue::LinkageTypes)L) ||
 646          (GlobalValue::VisibilityTypes)V == GlobalValue::DefaultVisibility;
 647 }
 648
 649 /// ParseAlias:
 650 ///   ::= GlobalVar '=' OptionalLinkage OptionalVisibility
 651 ///                     OptionalDLLStorageClass OptionalThreadLocal
 652 ///                     OptionalUnNammedAddr 'alias' Aliasee
 653 ///
 654 /// Aliasee
 655 ///   ::= TypeAndValue
 656 ///
 657 /// Everything through OptionalUnNammedAddr has already been parsed.
 658 ///
 659 bool LLParser::ParseAlias(const std::string &Name, LocTy NameLoc, unsigned L,
 660                           unsigned Visibility, unsigned DLLStorageClass,
 661                           GlobalVariable::ThreadLocalMode TLM,
 662                           bool UnnamedAddr) {
 663   assert(Lex.getKind() == lltok::kw_alias);
 664   Lex.Lex();
 665
 666   GlobalValue::LinkageTypes Linkage = (GlobalValue::LinkageTypes) L;
 667
 668   if(!GlobalAlias::isValidLinkage(Linkage))
 669     return Error(NameLoc, "invalid linkage type for alias");
 670
 671   if (!isValidVisibilityForLinkage(Visibility, L))
 672     return Error(NameLoc,
 673                  "symbol with local linkage must have default visibility");
 674
 675   Constant *Aliasee;
 676   LocTy AliaseeLoc = Lex.getLoc();
 677   if (Lex.getKind() != lltok::kw_bitcast &&
 678       Lex.getKind() != lltok::kw_getelementptr &&
 679       Lex.getKind() != lltok::kw_addrspacecast &&
 680       Lex.getKind() != lltok::kw_inttoptr) {
 681     if (ParseGlobalTypeAndValue(Aliasee))
 682       return true;
 683   } else {
 684     // The bitcast dest type is not present, it is implied by the dest type.
 685     ValID ID;
 686     if (ParseValID(ID))
 687       return true;
 688     if (ID.Kind != ValID::t_Constant)
 689       return Error(AliaseeLoc, "invalid aliasee");
 690     Aliasee = ID.ConstantVal;
 691   }
 692
 693   Type *AliaseeType = Aliasee->getType();
 694   auto *PTy = dyn_cast<PointerType>(AliaseeType);
 695   if (!PTy)
 696     return Error(AliaseeLoc, "An alias must have pointer type");
 697   Type *Ty = PTy->getElementType();
 698   unsigned AddrSpace = PTy->getAddressSpace();
 699
 700   // Okay, create the alias but do not insert it into the module yet.
 701   std::unique_ptr<GlobalAlias> GA(
 702       GlobalAlias::create(Ty, AddrSpace, (GlobalValue::LinkageTypes)Linkage,
 703                           Name, Aliasee, /*Parent*/ nullptr));
 704   GA->setThreadLocalMode(TLM);
 705   GA->setVisibility((GlobalValue::VisibilityTypes)Visibility);
 706   GA->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
 707   GA->setUnnamedAddr(UnnamedAddr);
 708
 709   // See if this value already exists in the symbol table.  If so, it is either
 710   // a redefinition or a definition of a forward reference.
 711   if (GlobalValue *Val = M->getNamedValue(Name)) {
 712     // See if this was a redefinition.  If so, there is no entry in
 713     // ForwardRefVals.
 714     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator
 715       I = ForwardRefVals.find(Name);
 716     if (I == ForwardRefVals.end())
 717       return Error(NameLoc, "redefinition of global named '@" + Name + "'");
 718
 719     // Otherwise, this was a definition of forward ref.  Verify that types
 720     // agree.
 721     if (Val->getType() != GA->getType())
 722       return Error(NameLoc,
 723               "forward reference and definition of alias have different types");
 724
 725     // If they agree, just RAUW the old value with the alias and remove the
 726     // forward ref info.
 727     Val->replaceAllUsesWith(GA.get());
 728     Val->eraseFromParent();
 729     ForwardRefVals.erase(I);
 730   }
 731
 732   // Insert into the module, we know its name won't collide now.
 733   M->getAliasList().push_back(GA.get());
 734   assert(GA->getName() == Name && "Should not be a name conflict!");
 735
 736   // The module owns this now
 737   GA.release();
 738
 739   return false;
 740 }
 741
 742 /// ParseGlobal
 743 ///   ::= GlobalVar '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 744 ///       OptionalThreadLocal OptionalUnNammedAddr OptionalAddrSpace
 745 ///       OptionalExternallyInitialized GlobalType Type Const
 746 ///   ::= OptionalLinkage OptionalVisibility OptionalDLLStorageClass
 747 ///       OptionalThreadLocal OptionalUnNammedAddr OptionalAddrSpace
 748 ///       OptionalExternallyInitialized GlobalType Type Const
 749 ///
 750 /// Everything up to and including OptionalUnNammedAddr has been parsed
 751 /// already.
 752 ///
 753 bool LLParser::ParseGlobal(const std::string &Name, LocTy NameLoc,
 754                            unsigned Linkage, bool HasLinkage,
 755                            unsigned Visibility, unsigned DLLStorageClass,
 756                            GlobalVariable::ThreadLocalMode TLM,
 757                            bool UnnamedAddr) {
 758   if (!isValidVisibilityForLinkage(Visibility, Linkage))
 759     return Error(NameLoc,
 760                  "symbol with local linkage must have default visibility");
 761
 762   unsigned AddrSpace;
 763   bool IsConstant, IsExternallyInitialized;
 764   LocTy IsExternallyInitializedLoc;
 765   LocTy TyLoc;
 766
 767   Type *Ty = nullptr;
 768   if (ParseOptionalAddrSpace(AddrSpace) ||
 769       ParseOptionalToken(lltok::kw_externally_initialized,
 770                          IsExternallyInitialized,
 771                          &IsExternallyInitializedLoc) ||
 772       ParseGlobalType(IsConstant) ||
 773       ParseType(Ty, TyLoc))
 774     return true;
 775
 776   // If the linkage is specified and is external, then no initializer is
 777   // present.
 778   Constant *Init = nullptr;
 779   if (!HasLinkage || (Linkage != GlobalValue::ExternalWeakLinkage &&
 780                       Linkage != GlobalValue::ExternalLinkage)) {
 781     if (ParseGlobalValue(Ty, Init))
 782       return true;
 783   }
 784
 785   if (Ty->isFunctionTy() || Ty->isLabelTy())
 786     return Error(TyLoc, "invalid type for global variable");
 787
 788   GlobalVariable *GV = nullptr;
 789
 790   // See if the global was forward referenced, if so, use the global.
 791   if (!Name.empty()) {
 792     if (GlobalValue *GVal = M->getNamedValue(Name)) {
 793       if (!ForwardRefVals.erase(Name) || !isa<GlobalValue>(GVal))
 794         return Error(NameLoc, "redefinition of global '@" + Name + "'");
 795       GV = cast<GlobalVariable>(GVal);
 796     }
 797   } else {
 798     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator
 799       I = ForwardRefValIDs.find(NumberedVals.size());
 800     if (I != ForwardRefValIDs.end()) {
 801       GV = cast<GlobalVariable>(I->second.first);
 802       ForwardRefValIDs.erase(I);
 803     }
 804   }
 805
 806   if (!GV) {
 807     GV = new GlobalVariable(*M, Ty, false, GlobalValue::ExternalLinkage, nullptr,
 808                             Name, nullptr, GlobalVariable::NotThreadLocal,
 809                             AddrSpace);
 810   } else {
 811     if (GV->getType()->getElementType() != Ty)
 812       return Error(TyLoc,
 813             "forward reference and definition of global have different types");
 814
 815     // Move the forward-reference to the correct spot in the module.
 816     M->getGlobalList().splice(M->global_end(), M->getGlobalList(), GV);
 817   }
 818
 819   if (Name.empty())
 820     NumberedVals.push_back(GV);
 821
 822   // Set the parsed properties on the global.
 823   if (Init)
 824     GV->setInitializer(Init);
 825   GV->setConstant(IsConstant);
 826   GV->setLinkage((GlobalValue::LinkageTypes)Linkage);
 827   GV->setVisibility((GlobalValue::VisibilityTypes)Visibility);
 828   GV->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
 829   GV->setExternallyInitialized(IsExternallyInitialized);
 830   GV->setThreadLocalMode(TLM);
 831   GV->setUnnamedAddr(UnnamedAddr);
 832
 833   // Parse attributes on the global.
 834   while (Lex.getKind() == lltok::comma) {
 835     Lex.Lex();
 836
 837     if (Lex.getKind() == lltok::kw_section) {
 838       Lex.Lex();
 839       GV->setSection(Lex.getStrVal());
 840       if (ParseToken(lltok::StringConstant, "expected global section string"))
 841         return true;
 842     } else if (Lex.getKind() == lltok::kw_align) {
 843       unsigned Alignment;
 844       if (ParseOptionalAlignment(Alignment)) return true;
 845       GV->setAlignment(Alignment);
 846     } else {
 847       Comdat *C;
 848       if (parseOptionalComdat(C))
 849         return true;
 850       if (C)
 851         GV->setComdat(C);
 852       else
 853         return TokError("unknown global variable property!");
 854     }
 855   }
 856
 857   return false;
 858 }
 859
 860 /// ParseUnnamedAttrGrp
 861 ///   ::= 'attributes' AttrGrpID '=' '{' AttrValPair+ '}'
 862 bool LLParser::ParseUnnamedAttrGrp() {
 863   assert(Lex.getKind() == lltok::kw_attributes);
 864   LocTy AttrGrpLoc = Lex.getLoc();
 865   Lex.Lex();
 866
 867   assert(Lex.getKind() == lltok::AttrGrpID);
 868   unsigned VarID = Lex.getUIntVal();
 869   std::vector<unsigned> unused;
 870   LocTy BuiltinLoc;
 871   Lex.Lex();
 872
 873   if (ParseToken(lltok::equal, "expected '=' here") ||
 874       ParseToken(lltok::lbrace, "expected '{' here") ||
 875       ParseFnAttributeValuePairs(NumberedAttrBuilders[VarID], unused, true,
 876                                  BuiltinLoc) ||
 877       ParseToken(lltok::rbrace, "expected end of attribute group"))
 878     return true;
 879
 880   if (!NumberedAttrBuilders[VarID].hasAttributes())
 881     return Error(AttrGrpLoc, "attribute group has no attributes");
 882
 883   return false;
 884 }
 885
 886 /// ParseFnAttributeValuePairs
 887 ///   ::= <attr> | <attr> '=' <value>
 888 bool LLParser::ParseFnAttributeValuePairs(AttrBuilder &B,
 889                                           std::vector<unsigned> &FwdRefAttrGrps,
 890                                           bool inAttrGrp, LocTy &BuiltinLoc) {
 891   bool HaveError = false;
 892
 893   B.clear();
 894
 895   while (true) {
 896     lltok::Kind Token = Lex.getKind();
 897     if (Token == lltok::kw_builtin)
 898       BuiltinLoc = Lex.getLoc();
 899     switch (Token) {
 900     default:
 901       if (!inAttrGrp) return HaveError;
 902       return Error(Lex.getLoc(), "unterminated attribute group");
 903     case lltok::rbrace:
 904       // Finished.
 905       return false;
 906
 907     case lltok::AttrGrpID: {
 908       // Allow a function to reference an attribute group:
 909       //
 910       //   define void @foo() #1 { ... }
 911       if (inAttrGrp)
 912         HaveError |=
 913           Error(Lex.getLoc(),
 914               "cannot have an attribute group reference in an attribute group");
 915
 916       unsigned AttrGrpNum = Lex.getUIntVal();
 917       if (inAttrGrp) break;
 918
 919       // Save the reference to the attribute group. We'll fill it in later.
 920       FwdRefAttrGrps.push_back(AttrGrpNum);
 921       break;
 922     }
 923     // Target-dependent attributes:
 924     case lltok::StringConstant: {
 925       std::string Attr = Lex.getStrVal();
 926       Lex.Lex();
 927       std::string Val;
 928       if (EatIfPresent(lltok::equal) &&
 929           ParseStringConstant(Val))
 930         return true;
 931
 932       B.addAttribute(Attr, Val);
 933       continue;
 934     }
 935
 936     // Target-independent attributes:
 937     case lltok::kw_align: {
 938       // As a hack, we allow function alignment to be initially parsed as an
 939       // attribute on a function declaration/definition or added to an attribute
 940       // group and later moved to the alignment field.
 941       unsigned Alignment;
 942       if (inAttrGrp) {
 943         Lex.Lex();
 944         if (ParseToken(lltok::equal, "expected '=' here") ||
 945             ParseUInt32(Alignment))
 946           return true;
 947       } else {
 948         if (ParseOptionalAlignment(Alignment))
 949           return true;
 950       }
 951       B.addAlignmentAttr(Alignment);
 952       continue;
 953     }
 954     case lltok::kw_alignstack: {
 955       unsigned Alignment;
 956       if (inAttrGrp) {
 957         Lex.Lex();
 958         if (ParseToken(lltok::equal, "expected '=' here") ||
 959             ParseUInt32(Alignment))
 960           return true;
 961       } else {
 962         if (ParseOptionalStackAlignment(Alignment))
 963           return true;
 964       }
 965       B.addStackAlignmentAttr(Alignment);
 966       continue;
 967     }
 968     case lltok::kw_alwaysinline:      B.addAttribute(Attribute::AlwaysInline); break;
 969     case lltok::kw_builtin:           B.addAttribute(Attribute::Builtin); break;
 970     case lltok::kw_cold:              B.addAttribute(Attribute::Cold); break;
 971     case lltok::kw_inlinehint:        B.addAttribute(Attribute::InlineHint); break;
 972     case lltok::kw_jumptable:         B.addAttribute(Attribute::JumpTable); break;
 973     case lltok::kw_minsize:           B.addAttribute(Attribute::MinSize); break;
 974     case lltok::kw_naked:             B.addAttribute(Attribute::Naked); break;
 975     case lltok::kw_nobuiltin:         B.addAttribute(Attribute::NoBuiltin); break;
 976     case lltok::kw_noduplicate:       B.addAttribute(Attribute::NoDuplicate); break;
 977     case lltok::kw_noimplicitfloat:   B.addAttribute(Attribute::NoImplicitFloat); break;
 978     case lltok::kw_noinline:          B.addAttribute(Attribute::NoInline); break;
 979     case lltok::kw_nonlazybind:       B.addAttribute(Attribute::NonLazyBind); break;
 980     case lltok::kw_noredzone:         B.addAttribute(Attribute::NoRedZone); break;
 981     case lltok::kw_noreturn:          B.addAttribute(Attribute::NoReturn); break;
 982     case lltok::kw_nounwind:          B.addAttribute(Attribute::NoUnwind); break;
 983     case lltok::kw_optnone:           B.addAttribute(Attribute::OptimizeNone); break;
 984     case lltok::kw_optsize:           B.addAttribute(Attribute::OptimizeForSize); break;
 985     case lltok::kw_readnone:          B.addAttribute(Attribute::ReadNone); break;
 986     case lltok::kw_readonly:          B.addAttribute(Attribute::ReadOnly); break;
 987     case lltok::kw_returns_twice:     B.addAttribute(Attribute::ReturnsTwice); break;
 988     case lltok::kw_ssp:               B.addAttribute(Attribute::StackProtect); break;
 989     case lltok::kw_sspreq:            B.addAttribute(Attribute::StackProtectReq); break;
 990     case lltok::kw_sspstrong:         B.addAttribute(Attribute::StackProtectStrong); break;
 991     case lltok::kw_sanitize_address:  B.addAttribute(Attribute::SanitizeAddress); break;
 992     case lltok::kw_sanitize_thread:   B.addAttribute(Attribute::SanitizeThread); break;
 993     case lltok::kw_sanitize_memory:   B.addAttribute(Attribute::SanitizeMemory); break;
 994     case lltok::kw_uwtable:           B.addAttribute(Attribute::UWTable); break;
 995
 996     // Error handling.
 997     case lltok::kw_inreg:
 998     case lltok::kw_signext:
 999     case lltok::kw_zeroext:
1000       HaveError |=
1001         Error(Lex.getLoc(),
1002               "invalid use of attribute on a function");
1003       break;
1004     case lltok::kw_byval:
1005     case lltok::kw_dereferenceable:
1006     case lltok::kw_inalloca:
1007     case lltok::kw_nest:
1008     case lltok::kw_noalias:
1009     case lltok::kw_nocapture:
1010     case lltok::kw_nonnull:
1011     case lltok::kw_returned:
1012     case lltok::kw_sret:
1013       HaveError |=
1014         Error(Lex.getLoc(),
1015               "invalid use of parameter-only attribute on a function");
1016       break;
1017     }
1018
1019     Lex.Lex();
1020   }
1021 }
1022
1023 //===----------------------------------------------------------------------===//
1024 // GlobalValue Reference/Resolution Routines.
1025 //===----------------------------------------------------------------------===//
1026
1027 /// GetGlobalVal - Get a value with the specified name or ID, creating a
1028 /// forward reference record if needed.  This can return null if the value
1029 /// exists but does not have the right type.
1030 GlobalValue *LLParser::GetGlobalVal(const std::string &Name, Type *Ty,
1031                                     LocTy Loc) {
1032   PointerType *PTy = dyn_cast<PointerType>(Ty);
1033   if (!PTy) {
1034     Error(Loc, "global variable reference must have pointer type");
1035     return nullptr;
1036   }
1037
1038   // Look this name up in the normal function symbol table.
1039   GlobalValue *Val =
1040     cast_or_null<GlobalValue>(M->getValueSymbolTable().lookup(Name));
1041
1042   // If this is a forward reference for the value, see if we already created a
1043   // forward ref record.
1044   if (!Val) {
1045     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator
1046       I = ForwardRefVals.find(Name);
1047     if (I != ForwardRefVals.end())
1048       Val = I->second.first;
1049   }
1050
1051   // If we have the value in the symbol table or fwd-ref table, return it.
1052   if (Val) {
1053     if (Val->getType() == Ty) return Val;
1054     Error(Loc, "'@" + Name + "' defined with type '" +
1055           getTypeString(Val->getType()) + "'");
1056     return nullptr;
1057   }
1058
1059   // Otherwise, create a new forward reference for this value and remember it.
1060   GlobalValue *FwdVal;
1061   if (FunctionType *FT = dyn_cast<FunctionType>(PTy->getElementType()))
1062     FwdVal = Function::Create(FT, GlobalValue::ExternalWeakLinkage, Name, M);
1063   else
1064     FwdVal = new GlobalVariable(*M, PTy->getElementType(), false,
1065                                 GlobalValue::ExternalWeakLinkage, nullptr, Name,
1066                                 nullptr, GlobalVariable::NotThreadLocal,
1067                                 PTy->getAddressSpace());
1068
1069   ForwardRefVals[Name] = std::make_pair(FwdVal, Loc);
1070   return FwdVal;
1071 }
1072
1073 GlobalValue *LLParser::GetGlobalVal(unsigned ID, Type *Ty, LocTy Loc) {
1074   PointerType *PTy = dyn_cast<PointerType>(Ty);
1075   if (!PTy) {
1076     Error(Loc, "global variable reference must have pointer type");
1077     return nullptr;
1078   }
1079
1080   GlobalValue *Val = ID < NumberedVals.size() ? NumberedVals[ID] : nullptr;
1081
1082   // If this is a forward reference for the value, see if we already created a
1083   // forward ref record.
1084   if (!Val) {
1085     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator
1086       I = ForwardRefValIDs.find(ID);
1087     if (I != ForwardRefValIDs.end())
1088       Val = I->second.first;
1089   }
1090
1091   // If we have the value in the symbol table or fwd-ref table, return it.
1092   if (Val) {
1093     if (Val->getType() == Ty) return Val;
1094     Error(Loc, "'@" + Twine(ID) + "' defined with type '" +
1095           getTypeString(Val->getType()) + "'");
1096     return nullptr;
1097   }
1098
1099   // Otherwise, create a new forward reference for this value and remember it.
1100   GlobalValue *FwdVal;
1101   if (FunctionType *FT = dyn_cast<FunctionType>(PTy->getElementType()))
1102     FwdVal = Function::Create(FT, GlobalValue::ExternalWeakLinkage, "", M);
1103   else
1104     FwdVal = new GlobalVariable(*M, PTy->getElementType(), false,
1105                                 GlobalValue::ExternalWeakLinkage, nullptr, "");
1106
1107   ForwardRefValIDs[ID] = std::make_pair(FwdVal, Loc);
1108   return FwdVal;
1109 }
1110
1111
1112 //===----------------------------------------------------------------------===//
1113 // Comdat Reference/Resolution Routines.
1114 //===----------------------------------------------------------------------===//
1115
1116 Comdat *LLParser::getComdat(const std::string &Name, LocTy Loc) {
1117   // Look this name up in the comdat symbol table.
1118   Module::ComdatSymTabType &ComdatSymTab = M->getComdatSymbolTable();
1119   Module::ComdatSymTabType::iterator I = ComdatSymTab.find(Name);
1120   if (I != ComdatSymTab.end())
1121     return &I->second;
1122
1123   // Otherwise, create a new forward reference for this value and remember it.
1124   Comdat *C = M->getOrInsertComdat(Name);
1125   ForwardRefComdats[Name] = Loc;
1126   return C;
1127 }
1128
1129
1130 //===----------------------------------------------------------------------===//
1131 // Helper Routines.
1132 //===----------------------------------------------------------------------===//
1133
1134 /// ParseToken - If the current token has the specified kind, eat it and return
1135 /// success.  Otherwise, emit the specified error and return failure.
1136 bool LLParser::ParseToken(lltok::Kind T, const char *ErrMsg) {
1137   if (Lex.getKind() != T)
1138     return TokError(ErrMsg);
1139   Lex.Lex();
1140   return false;
1141 }
1142
1143 /// ParseStringConstant
1144 ///   ::= StringConstant
1145 bool LLParser::ParseStringConstant(std::string &Result) {
1146   if (Lex.getKind() != lltok::StringConstant)
1147     return TokError("expected string constant");
1148   Result = Lex.getStrVal();
1149   Lex.Lex();
1150   return false;
1151 }
1152
1153 /// ParseUInt32
1154 ///   ::= uint32
1155 bool LLParser::ParseUInt32(unsigned &Val) {
1156   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned())
1157     return TokError("expected integer");
1158   uint64_t Val64 = Lex.getAPSIntVal().getLimitedValue(0xFFFFFFFFULL+1);
1159   if (Val64 != unsigned(Val64))
1160     return TokError("expected 32-bit integer (too large)");
1161   Val = Val64;
1162   Lex.Lex();
1163   return false;
1164 }
1165
1166 /// ParseUInt64
1167 ///   ::= uint64
1168 bool LLParser::ParseUInt64(uint64_t &Val) {
1169   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned())
1170     return TokError("expected integer");
1171   Val = Lex.getAPSIntVal().getLimitedValue();
1172   Lex.Lex();
1173   return false;
1174 }
1175
1176 /// ParseTLSModel
1177 ///   := 'localdynamic'
1178 ///   := 'initialexec'
1179 ///   := 'localexec'
1180 bool LLParser::ParseTLSModel(GlobalVariable::ThreadLocalMode &TLM) {
1181   switch (Lex.getKind()) {
1182     default:
1183       return TokError("expected localdynamic, initialexec or localexec");
1184     case lltok::kw_localdynamic:
1185       TLM = GlobalVariable::LocalDynamicTLSModel;
1186       break;
1187     case lltok::kw_initialexec:
1188       TLM = GlobalVariable::InitialExecTLSModel;
1189       break;
1190     case lltok::kw_localexec:
1191       TLM = GlobalVariable::LocalExecTLSModel;
1192       break;
1193   }
1194
1195   Lex.Lex();
1196   return false;
1197 }
1198
1199 /// ParseOptionalThreadLocal
1200 ///   := /*empty*/
1201 ///   := 'thread_local'
1202 ///   := 'thread_local' '(' tlsmodel ')'
1203 bool LLParser::ParseOptionalThreadLocal(GlobalVariable::ThreadLocalMode &TLM) {
1204   TLM = GlobalVariable::NotThreadLocal;
1205   if (!EatIfPresent(lltok::kw_thread_local))
1206     return false;
1207
1208   TLM = GlobalVariable::GeneralDynamicTLSModel;
1209   if (Lex.getKind() == lltok::lparen) {
1210     Lex.Lex();
1211     return ParseTLSModel(TLM) ||
1212       ParseToken(lltok::rparen, "expected ')' after thread local model");
1213   }
1214   return false;
1215 }
1216
1217 /// ParseOptionalAddrSpace
1218 ///   := /*empty*/
1219 ///   := 'addrspace' '(' uint32 ')'
1220 bool LLParser::ParseOptionalAddrSpace(unsigned &AddrSpace) {
1221   AddrSpace = 0;
1222   if (!EatIfPresent(lltok::kw_addrspace))
1223     return false;
1224   return ParseToken(lltok::lparen, "expected '(' in address space") ||
1225          ParseUInt32(AddrSpace) ||
1226          ParseToken(lltok::rparen, "expected ')' in address space");
1227 }
1228
1229 /// ParseOptionalParamAttrs - Parse a potentially empty list of parameter attributes.
1230 bool LLParser::ParseOptionalParamAttrs(AttrBuilder &B) {
1231   bool HaveError = false;
1232
1233   B.clear();
1234
1235   while (1) {
1236     lltok::Kind Token = Lex.getKind();
1237     switch (Token) {
1238     default:  // End of attributes.
1239       return HaveError;
1240     case lltok::kw_align: {
1241       unsigned Alignment;
1242       if (ParseOptionalAlignment(Alignment))
1243         return true;
1244       B.addAlignmentAttr(Alignment);
1245       continue;
1246     }
1247     case lltok::kw_byval:           B.addAttribute(Attribute::ByVal); break;
1248     case lltok::kw_dereferenceable: {
1249       uint64_t Bytes;
1250       if (ParseOptionalDereferenceableBytes(Bytes))
1251         return true;
1252       B.addDereferenceableAttr(Bytes);
1253       continue;
1254     }
1255     case lltok::kw_inalloca:        B.addAttribute(Attribute::InAlloca); break;
1256     case lltok::kw_inreg:           B.addAttribute(Attribute::InReg); break;
1257     case lltok::kw_nest:            B.addAttribute(Attribute::Nest); break;
1258     case lltok::kw_noalias:         B.addAttribute(Attribute::NoAlias); break;
1259     case lltok::kw_nocapture:       B.addAttribute(Attribute::NoCapture); break;
1260     case lltok::kw_nonnull:         B.addAttribute(Attribute::NonNull); break;
1261     case lltok::kw_readnone:        B.addAttribute(Attribute::ReadNone); break;
1262     case lltok::kw_readonly:        B.addAttribute(Attribute::ReadOnly); break;
1263     case lltok::kw_returned:        B.addAttribute(Attribute::Returned); break;
1264     case lltok::kw_signext:         B.addAttribute(Attribute::SExt); break;
1265     case lltok::kw_sret:            B.addAttribute(Attribute::StructRet); break;
1266     case lltok::kw_zeroext:         B.addAttribute(Attribute::ZExt); break;
1267
1268     case lltok::kw_alignstack:
1269     case lltok::kw_alwaysinline:
1270     case lltok::kw_builtin:
1271     case lltok::kw_inlinehint:
1272     case lltok::kw_jumptable:
1273     case lltok::kw_minsize:
1274     case lltok::kw_naked:
1275     case lltok::kw_nobuiltin:
1276     case lltok::kw_noduplicate:
1277     case lltok::kw_noimplicitfloat:
1278     case lltok::kw_noinline:
1279     case lltok::kw_nonlazybind:
1280     case lltok::kw_noredzone:
1281     case lltok::kw_noreturn:
1282     case lltok::kw_nounwind:
1283     case lltok::kw_optnone:
1284     case lltok::kw_optsize:
1285     case lltok::kw_returns_twice:
1286     case lltok::kw_sanitize_address:
1287     case lltok::kw_sanitize_memory:
1288     case lltok::kw_sanitize_thread:
1289     case lltok::kw_ssp:
1290     case lltok::kw_sspreq:
1291     case lltok::kw_sspstrong:
1292     case lltok::kw_uwtable:
1293       HaveError |= Error(Lex.getLoc(), "invalid use of function-only attribute");
1294       break;
1295     }
1296
1297     Lex.Lex();
1298   }
1299 }
1300
1301 /// ParseOptionalReturnAttrs - Parse a potentially empty list of return attributes.
1302 bool LLParser::ParseOptionalReturnAttrs(AttrBuilder &B) {
1303   bool HaveError = false;
1304
1305   B.clear();
1306
1307   while (1) {
1308     lltok::Kind Token = Lex.getKind();
1309     switch (Token) {
1310     default:  // End of attributes.
1311       return HaveError;
1312     case lltok::kw_dereferenceable: {
1313       uint64_t Bytes;
1314       if (ParseOptionalDereferenceableBytes(Bytes))
1315         return true;
1316       B.addDereferenceableAttr(Bytes);
1317       continue;
1318     }
1319     case lltok::kw_inreg:           B.addAttribute(Attribute::InReg); break;
1320     case lltok::kw_noalias:         B.addAttribute(Attribute::NoAlias); break;
1321     case lltok::kw_nonnull:         B.addAttribute(Attribute::NonNull); break;
1322     case lltok::kw_signext:         B.addAttribute(Attribute::SExt); break;
1323     case lltok::kw_zeroext:         B.addAttribute(Attribute::ZExt); break;
1324
1325     // Error handling.
1326     case lltok::kw_align:
1327     case lltok::kw_byval:
1328     case lltok::kw_inalloca:
1329     case lltok::kw_nest:
1330     case lltok::kw_nocapture:
1331     case lltok::kw_returned:
1332     case lltok::kw_sret:
1333       HaveError |= Error(Lex.getLoc(), "invalid use of parameter-only attribute");
1334       break;
1335
1336     case lltok::kw_alignstack:
1337     case lltok::kw_alwaysinline:
1338     case lltok::kw_builtin:
1339     case lltok::kw_cold:
1340     case lltok::kw_inlinehint:
1341     case lltok::kw_jumptable:
1342     case lltok::kw_minsize:
1343     case lltok::kw_naked:
1344     case lltok::kw_nobuiltin:
1345     case lltok::kw_noduplicate:
1346     case lltok::kw_noimplicitfloat:
1347     case lltok::kw_noinline:
1348     case lltok::kw_nonlazybind:
1349     case lltok::kw_noredzone:
1350     case lltok::kw_noreturn:
1351     case lltok::kw_nounwind:
1352     case lltok::kw_optnone:
1353     case lltok::kw_optsize:
1354     case lltok::kw_returns_twice:
1355     case lltok::kw_sanitize_address:
1356     case lltok::kw_sanitize_memory:
1357     case lltok::kw_sanitize_thread:
1358     case lltok::kw_ssp:
1359     case lltok::kw_sspreq:
1360     case lltok::kw_sspstrong:
1361     case lltok::kw_uwtable:
1362       HaveError |= Error(Lex.getLoc(), "invalid use of function-only attribute");
1363       break;
1364
1365     case lltok::kw_readnone:
1366     case lltok::kw_readonly:
1367       HaveError |= Error(Lex.getLoc(), "invalid use of attribute on return type");
1368     }
1369
1370     Lex.Lex();
1371   }
1372 }
1373
1374 /// ParseOptionalLinkage
1375 ///   ::= /*empty*/
1376 ///   ::= 'private'
1377 ///   ::= 'internal'
1378 ///   ::= 'weak'
1379 ///   ::= 'weak_odr'
1380 ///   ::= 'linkonce'
1381 ///   ::= 'linkonce_odr'
1382 ///   ::= 'available_externally'
1383 ///   ::= 'appending'
1384 ///   ::= 'common'
1385 ///   ::= 'extern_weak'
1386 ///   ::= 'external'
1387 bool LLParser::ParseOptionalLinkage(unsigned &Res, bool &HasLinkage) {
1388   HasLinkage = false;
1389   switch (Lex.getKind()) {
1390   default:                       Res=GlobalValue::ExternalLinkage; return false;
1391   case lltok::kw_private:        Res = GlobalValue::PrivateLinkage;       break;
1392   case lltok::kw_internal:       Res = GlobalValue::InternalLinkage;      break;
1393   case lltok::kw_weak:           Res = GlobalValue::WeakAnyLinkage;       break;
1394   case lltok::kw_weak_odr:       Res = GlobalValue::WeakODRLinkage;       break;
1395   case lltok::kw_linkonce:       Res = GlobalValue::LinkOnceAnyLinkage;   break;
1396   case lltok::kw_linkonce_odr:   Res = GlobalValue::LinkOnceODRLinkage;   break;
1397   case lltok::kw_available_externally:
1398     Res = GlobalValue::AvailableExternallyLinkage;
1399     break;
1400   case lltok::kw_appending:      Res = GlobalValue::AppendingLinkage;     break;
1401   case lltok::kw_common:         Res = GlobalValue::CommonLinkage;        break;
1402   case lltok::kw_extern_weak:    Res = GlobalValue::ExternalWeakLinkage;  break;
1403   case lltok::kw_external:       Res = GlobalValue::ExternalLinkage;      break;
1404   }
1405   Lex.Lex();
1406   HasLinkage = true;
1407   return false;
1408 }
1409
1410 /// ParseOptionalVisibility
1411 ///   ::= /*empty*/
1412 ///   ::= 'default'
1413 ///   ::= 'hidden'
1414 ///   ::= 'protected'
1415 ///
1416 bool LLParser::ParseOptionalVisibility(unsigned &Res) {
1417   switch (Lex.getKind()) {
1418   default:                  Res = GlobalValue::DefaultVisibility; return false;
1419   case lltok::kw_default:   Res = GlobalValue::DefaultVisibility; break;
1420   case lltok::kw_hidden:    Res = GlobalValue::HiddenVisibility; break;
1421   case lltok::kw_protected: Res = GlobalValue::ProtectedVisibility; break;
1422   }
1423   Lex.Lex();
1424   return false;
1425 }
1426
1427 /// ParseOptionalDLLStorageClass
1428 ///   ::= /*empty*/
1429 ///   ::= 'dllimport'
1430 ///   ::= 'dllexport'
1431 ///
1432 bool LLParser::ParseOptionalDLLStorageClass(unsigned &Res) {
1433   switch (Lex.getKind()) {
1434   default:                  Res = GlobalValue::DefaultStorageClass; return false;
1435   case lltok::kw_dllimport: Res = GlobalValue::DLLImportStorageClass; break;
1436   case lltok::kw_dllexport: Res = GlobalValue::DLLExportStorageClass; break;
1437   }
1438   Lex.Lex();
1439   return false;
1440 }
1441
1442 /// ParseOptionalCallingConv
1443 ///   ::= /*empty*/
1444 ///   ::= 'ccc'
1445 ///   ::= 'fastcc'
1446 ///   ::= 'intel_ocl_bicc'
1447 ///   ::= 'coldcc'
1448 ///   ::= 'x86_stdcallcc'
1449 ///   ::= 'x86_fastcallcc'
1450 ///   ::= 'x86_thiscallcc'
1451 ///   ::= 'x86_vectorcallcc'
1452 ///   ::= 'arm_apcscc'
1453 ///   ::= 'arm_aapcscc'
1454 ///   ::= 'arm_aapcs_vfpcc'
1455 ///   ::= 'msp430_intrcc'
1456 ///   ::= 'ptx_kernel'
1457 ///   ::= 'ptx_device'
1458 ///   ::= 'spir_func'
1459 ///   ::= 'spir_kernel'
1460 ///   ::= 'x86_64_sysvcc'
1461 ///   ::= 'x86_64_win64cc'
1462 ///   ::= 'webkit_jscc'
1463 ///   ::= 'anyregcc'
1464 ///   ::= 'preserve_mostcc'
1465 ///   ::= 'preserve_allcc'
1466 ///   ::= 'ghccc'
1467 ///   ::= 'cc' UINT
1468 ///
1469 bool LLParser::ParseOptionalCallingConv(unsigned &CC) {
1470   switch (Lex.getKind()) {
1471   default:                       CC = CallingConv::C; return false;
1472   case lltok::kw_ccc:            CC = CallingConv::C; break;
1473   case lltok::kw_fastcc:         CC = CallingConv::Fast; break;
1474   case lltok::kw_coldcc:         CC = CallingConv::Cold; break;
1475   case lltok::kw_x86_stdcallcc:  CC = CallingConv::X86_StdCall; break;
1476   case lltok::kw_x86_fastcallcc: CC = CallingConv::X86_FastCall; break;
1477   case lltok::kw_x86_thiscallcc: CC = CallingConv::X86_ThisCall; break;
1478   case lltok::kw_x86_vectorcallcc:CC = CallingConv::X86_VectorCall; break;
1479   case lltok::kw_arm_apcscc:     CC = CallingConv::ARM_APCS; break;
1480   case lltok::kw_arm_aapcscc:    CC = CallingConv::ARM_AAPCS; break;
1481   case lltok::kw_arm_aapcs_vfpcc:CC = CallingConv::ARM_AAPCS_VFP; break;
1482   case lltok::kw_msp430_intrcc:  CC = CallingConv::MSP430_INTR; break;
1483   case lltok::kw_ptx_kernel:     CC = CallingConv::PTX_Kernel; break;
1484   case lltok::kw_ptx_device:     CC = CallingConv::PTX_Device; break;
1485   case lltok::kw_spir_kernel:    CC = CallingConv::SPIR_KERNEL; break;
1486   case lltok::kw_spir_func:      CC = CallingConv::SPIR_FUNC; break;
1487   case lltok::kw_intel_ocl_bicc: CC = CallingConv::Intel_OCL_BI; break;
1488   case lltok::kw_x86_64_sysvcc:  CC = CallingConv::X86_64_SysV; break;
1489   case lltok::kw_x86_64_win64cc: CC = CallingConv::X86_64_Win64; break;
1490   case lltok::kw_webkit_jscc:    CC = CallingConv::WebKit_JS; break;
1491   case lltok::kw_anyregcc:       CC = CallingConv::AnyReg; break;
1492   case lltok::kw_preserve_mostcc:CC = CallingConv::PreserveMost; break;
1493   case lltok::kw_preserve_allcc: CC = CallingConv::PreserveAll; break;
1494   case lltok::kw_ghccc:          CC = CallingConv::GHC; break;
1495   case lltok::kw_cc: {
1496       Lex.Lex();
1497       return ParseUInt32(CC);
1498     }
1499   }
1500
1501   Lex.Lex();
1502   return false;
1503 }
1504
1505 /// ParseInstructionMetadata
1506 ///   ::= !dbg !42 (',' !dbg !57)*
1507 bool LLParser::ParseInstructionMetadata(Instruction *Inst,
1508                                         PerFunctionState *PFS) {
1509   do {
1510     if (Lex.getKind() != lltok::MetadataVar)
1511       return TokError("expected metadata after comma");
1512
1513     std::string Name = Lex.getStrVal();
1514     unsigned MDK = M->getMDKindID(Name);
1515     Lex.Lex();
1516
1517     MDNode *Node;
1518     SMLoc Loc = Lex.getLoc();
1519
1520     if (ParseToken(lltok::exclaim, "expected '!' here"))
1521       return true;
1522
1523     // This code is similar to that of ParseMetadataValue, however it needs to
1524     // have special-case code for a forward reference; see the comments on
1525     // ForwardRefInstMetadata for details. Also, MDStrings are not supported
1526     // at the top level here.
1527     if (Lex.getKind() == lltok::lbrace) {
1528       ValID ID;
1529       if (ParseMetadataListValue(ID, PFS))
1530         return true;
1531       assert(ID.Kind == ValID::t_MDNode);
1532       Inst->setMetadata(MDK, ID.MDNodeVal);
1533     } else {
1534       unsigned NodeID = 0;
1535       if (ParseMDNodeID(Node, NodeID))
1536         return true;
1537       if (Node) {
1538         // If we got the node, add it to the instruction.
1539         Inst->setMetadata(MDK, Node);
1540       } else {
1541         MDRef R = { Loc, MDK, NodeID };
1542         // Otherwise, remember that this should be resolved later.
1543         ForwardRefInstMetadata[Inst].push_back(R);
1544       }
1545     }
1546
1547     if (MDK == LLVMContext::MD_tbaa)
1548       InstsWithTBAATag.push_back(Inst);
1549
1550     // If this is the end of the list, we're done.
1551   } while (EatIfPresent(lltok::comma));
1552   return false;
1553 }
1554
1555 /// ParseOptionalAlignment
1556 ///   ::= /* empty */
1557 ///   ::= 'align' 4
1558 bool LLParser::ParseOptionalAlignment(unsigned &Alignment) {
1559   Alignment = 0;
1560   if (!EatIfPresent(lltok::kw_align))
1561     return false;
1562   LocTy AlignLoc = Lex.getLoc();
1563   if (ParseUInt32(Alignment)) return true;
1564   if (!isPowerOf2_32(Alignment))
1565     return Error(AlignLoc, "alignment is not a power of two");
1566   if (Alignment > Value::MaximumAlignment)
1567     return Error(AlignLoc, "huge alignments are not supported yet");
1568   return false;
1569 }
1570
1571 /// ParseOptionalDereferenceableBytes
1572 ///   ::= /* empty */
1573 ///   ::= 'dereferenceable' '(' 4 ')'
1574 bool LLParser::ParseOptionalDereferenceableBytes(uint64_t &Bytes) {
1575   Bytes = 0;
1576   if (!EatIfPresent(lltok::kw_dereferenceable))
1577     return false;
1578   LocTy ParenLoc = Lex.getLoc();
1579   if (!EatIfPresent(lltok::lparen))
1580     return Error(ParenLoc, "expected '('");
1581   LocTy DerefLoc = Lex.getLoc();
1582   if (ParseUInt64(Bytes)) return true;
1583   ParenLoc = Lex.getLoc();
1584   if (!EatIfPresent(lltok::rparen))
1585     return Error(ParenLoc, "expected ')'");
1586   if (!Bytes)
1587     return Error(DerefLoc, "dereferenceable bytes must be non-zero");
1588   return false;
1589 }
1590
1591 /// ParseOptionalCommaAlign
1592 ///   ::=
1593 ///   ::= ',' align 4
1594 ///
1595 /// This returns with AteExtraComma set to true if it ate an excess comma at the
1596 /// end.
1597 bool LLParser::ParseOptionalCommaAlign(unsigned &Alignment,
1598                                        bool &AteExtraComma) {
1599   AteExtraComma = false;
1600   while (EatIfPresent(lltok::comma)) {
1601     // Metadata at the end is an early exit.
1602     if (Lex.getKind() == lltok::MetadataVar) {
1603       AteExtraComma = true;
1604       return false;
1605     }
1606
1607     if (Lex.getKind() != lltok::kw_align)
1608       return Error(Lex.getLoc(), "expected metadata or 'align'");
1609
1610     if (ParseOptionalAlignment(Alignment)) return true;
1611   }
1612
1613   return false;
1614 }
1615
1616 /// ParseScopeAndOrdering
1617 ///   if isAtomic: ::= 'singlethread'? AtomicOrdering
1618 ///   else: ::=
1619 ///
1620 /// This sets Scope and Ordering to the parsed values.
1621 bool LLParser::ParseScopeAndOrdering(bool isAtomic, SynchronizationScope &Scope,
1622                                      AtomicOrdering &Ordering) {
1623   if (!isAtomic)
1624     return false;
1625
1626   Scope = CrossThread;
1627   if (EatIfPresent(lltok::kw_singlethread))
1628     Scope = SingleThread;
1629
1630   return ParseOrdering(Ordering);
1631 }
1632
1633 /// ParseOrdering
1634 ///   ::= AtomicOrdering
1635 ///
1636 /// This sets Ordering to the parsed value.
1637 bool LLParser::ParseOrdering(AtomicOrdering &Ordering) {
1638   switch (Lex.getKind()) {
1639   default: return TokError("Expected ordering on atomic instruction");
1640   case lltok::kw_unordered: Ordering = Unordered; break;
1641   case lltok::kw_monotonic: Ordering = Monotonic; break;
1642   case lltok::kw_acquire: Ordering = Acquire; break;
1643   case lltok::kw_release: Ordering = Release; break;
1644   case lltok::kw_acq_rel: Ordering = AcquireRelease; break;
1645   case lltok::kw_seq_cst: Ordering = SequentiallyConsistent; break;
1646   }
1647   Lex.Lex();
1648   return false;
1649 }
1650
1651 /// ParseOptionalStackAlignment
1652 ///   ::= /* empty */
1653 ///   ::= 'alignstack' '(' 4 ')'
1654 bool LLParser::ParseOptionalStackAlignment(unsigned &Alignment) {
1655   Alignment = 0;
1656   if (!EatIfPresent(lltok::kw_alignstack))
1657     return false;
1658   LocTy ParenLoc = Lex.getLoc();
1659   if (!EatIfPresent(lltok::lparen))
1660     return Error(ParenLoc, "expected '('");
1661   LocTy AlignLoc = Lex.getLoc();
1662   if (ParseUInt32(Alignment)) return true;
1663   ParenLoc = Lex.getLoc();
1664   if (!EatIfPresent(lltok::rparen))
1665     return Error(ParenLoc, "expected ')'");
1666   if (!isPowerOf2_32(Alignment))
1667     return Error(AlignLoc, "stack alignment is not a power of two");
1668   return false;
1669 }
1670
1671 /// ParseIndexList - This parses the index list for an insert/extractvalue
1672 /// instruction.  This sets AteExtraComma in the case where we eat an extra
1673 /// comma at the end of the line and find that it is followed by metadata.
1674 /// Clients that don't allow metadata can call the version of this function that
1675 /// only takes one argument.
1676 ///
1677 /// ParseIndexList
1678 ///    ::=  (',' uint32)+
1679 ///
1680 bool LLParser::ParseIndexList(SmallVectorImpl<unsigned> &Indices,
1681                               bool &AteExtraComma) {
1682   AteExtraComma = false;
1683
1684   if (Lex.getKind() != lltok::comma)
1685     return TokError("expected ',' as start of index list");
1686
1687   while (EatIfPresent(lltok::comma)) {
1688     if (Lex.getKind() == lltok::MetadataVar) {
1689       AteExtraComma = true;
1690       return false;
1691     }
1692     unsigned Idx = 0;
1693     if (ParseUInt32(Idx)) return true;
1694     Indices.push_back(Idx);
1695   }
1696
1697   return false;
1698 }
1699
1700 //===----------------------------------------------------------------------===//
1701 // Type Parsing.
1702 //===----------------------------------------------------------------------===//
1703
1704 /// ParseType - Parse a type.
1705 bool LLParser::ParseType(Type *&Result, bool AllowVoid) {
1706   SMLoc TypeLoc = Lex.getLoc();
1707   switch (Lex.getKind()) {
1708   default:
1709     return TokError("expected type");
1710   case lltok::Type:
1711     // Type ::= 'float' | 'void' (etc)
1712     Result = Lex.getTyVal();
1713     Lex.Lex();
1714     break;
1715   case lltok::lbrace:
1716     // Type ::= StructType
1717     if (ParseAnonStructType(Result, false))
1718       return true;
1719     break;
1720   case lltok::lsquare:
1721     // Type ::= '[' ... ']'
1722     Lex.Lex(); // eat the lsquare.
1723     if (ParseArrayVectorType(Result, false))
1724       return true;
1725     break;
1726   case lltok::less: // Either vector or packed struct.
1727     // Type ::= '<' ... '>'
1728     Lex.Lex();
1729     if (Lex.getKind() == lltok::lbrace) {
1730       if (ParseAnonStructType(Result, true) ||
1731           ParseToken(lltok::greater, "expected '>' at end of packed struct"))
1732         return true;
1733     } else if (ParseArrayVectorType(Result, true))
1734       return true;
1735     break;
1736   case lltok::LocalVar: {
1737     // Type ::= %foo
1738     std::pair<Type*, LocTy> &Entry = NamedTypes[Lex.getStrVal()];
1739
1740     // If the type hasn't been defined yet, create a forward definition and
1741     // remember where that forward def'n was seen (in case it never is defined).
1742     if (!Entry.first) {
1743       Entry.first = StructType::create(Context, Lex.getStrVal());
1744       Entry.second = Lex.getLoc();
1745     }
1746     Result = Entry.first;
1747     Lex.Lex();
1748     break;
1749   }
1750
1751   case lltok::LocalVarID: {
1752     // Type ::= %4
1753     if (Lex.getUIntVal() >= NumberedTypes.size())
1754       NumberedTypes.resize(Lex.getUIntVal()+1);
1755     std::pair<Type*, LocTy> &Entry = NumberedTypes[Lex.getUIntVal()];
1756
1757     // If the type hasn't been defined yet, create a forward definition and
1758     // remember where that forward def'n was seen (in case it never is defined).
1759     if (!Entry.first) {
1760       Entry.first = StructType::create(Context);
1761       Entry.second = Lex.getLoc();
1762     }
1763     Result = Entry.first;
1764     Lex.Lex();
1765     break;
1766   }
1767   }
1768
1769   // Parse the type suffixes.
1770   while (1) {
1771     switch (Lex.getKind()) {
1772     // End of type.
1773     default:
1774       if (!AllowVoid && Result->isVoidTy())
1775         return Error(TypeLoc, "void type only allowed for function results");
1776       return false;
1777
1778     // Type ::= Type '*'
1779     case lltok::star:
1780       if (Result->isLabelTy())
1781         return TokError("basic block pointers are invalid");
1782       if (Result->isVoidTy())
1783         return TokError("pointers to void are invalid - use i8* instead");
1784       if (!PointerType::isValidElementType(Result))
1785         return TokError("pointer to this type is invalid");
1786       Result = PointerType::getUnqual(Result);
1787       Lex.Lex();
1788       break;
1789
1790     // Type ::= Type 'addrspace' '(' uint32 ')' '*'
1791     case lltok::kw_addrspace: {
1792       if (Result->isLabelTy())
1793         return TokError("basic block pointers are invalid");
1794       if (Result->isVoidTy())
1795         return TokError("pointers to void are invalid; use i8* instead");
1796       if (!PointerType::isValidElementType(Result))
1797         return TokError("pointer to this type is invalid");
1798       unsigned AddrSpace;
1799       if (ParseOptionalAddrSpace(AddrSpace) ||
1800           ParseToken(lltok::star, "expected '*' in address space"))
1801         return true;
1802
1803       Result = PointerType::get(Result, AddrSpace);
1804       break;
1805     }
1806
1807     /// Types '(' ArgTypeListI ')' OptFuncAttrs
1808     case lltok::lparen:
1809       if (ParseFunctionType(Result))
1810         return true;
1811       break;
1812     }
1813   }
1814 }
1815
1816 /// ParseParameterList
1817 ///    ::= '(' ')'
1818 ///    ::= '(' Arg (',' Arg)* ')'
1819 ///  Arg
1820 ///    ::= Type OptionalAttributes Value OptionalAttributes
1821 bool LLParser::ParseParameterList(SmallVectorImpl<ParamInfo> &ArgList,
1822                                   PerFunctionState &PFS, bool IsMustTailCall,
1823                                   bool InVarArgsFunc) {
1824   if (ParseToken(lltok::lparen, "expected '(' in call"))
1825     return true;
1826
1827   unsigned AttrIndex = 1;
1828   while (Lex.getKind() != lltok::rparen) {
1829     // If this isn't the first argument, we need a comma.
1830     if (!ArgList.empty() &&
1831         ParseToken(lltok::comma, "expected ',' in argument list"))
1832       return true;
1833
1834     // Parse an ellipsis if this is a musttail call in a variadic function.
1835     if (Lex.getKind() == lltok::dotdotdot) {
1836       const char *Msg = "unexpected ellipsis in argument list for ";
1837       if (!IsMustTailCall)
1838         return TokError(Twine(Msg) + "non-musttail call");
1839       if (!InVarArgsFunc)
1840         return TokError(Twine(Msg) + "musttail call in non-varargs function");
1841       Lex.Lex();  // Lex the '...', it is purely for readability.
1842       return ParseToken(lltok::rparen, "expected ')' at end of argument list");
1843     }
1844
1845     // Parse the argument.
1846     LocTy ArgLoc;
1847     Type *ArgTy = nullptr;
1848     AttrBuilder ArgAttrs;
1849     Value *V;
1850     if (ParseType(ArgTy, ArgLoc))
1851       return true;
1852
1853     // Otherwise, handle normal operands.
1854     if (ParseOptionalParamAttrs(ArgAttrs) || ParseValue(ArgTy, V, PFS))
1855       return true;
1856     ArgList.push_back(ParamInfo(ArgLoc, V, AttributeSet::get(V->getContext(),
1857                                                              AttrIndex++,
1858                                                              ArgAttrs)));
1859   }
1860
1861   if (IsMustTailCall && InVarArgsFunc)
1862     return TokError("expected '...' at end of argument list for musttail call "
1863                     "in varargs function");
1864
1865   Lex.Lex();  // Lex the ')'.
1866   return false;
1867 }
1868
1869
1870
1871 /// ParseArgumentList - Parse the argument list for a function type or function
1872 /// prototype.
1873 ///   ::= '(' ArgTypeListI ')'
1874 /// ArgTypeListI
1875 ///   ::= /*empty*/
1876 ///   ::= '...'
1877 ///   ::= ArgTypeList ',' '...'
1878 ///   ::= ArgType (',' ArgType)*
1879 ///
1880 bool LLParser::ParseArgumentList(SmallVectorImpl<ArgInfo> &ArgList,
1881                                  bool &isVarArg){
1882   isVarArg = false;
1883   assert(Lex.getKind() == lltok::lparen);
1884   Lex.Lex(); // eat the (.
1885
1886   if (Lex.getKind() == lltok::rparen) {
1887     // empty
1888   } else if (Lex.getKind() == lltok::dotdotdot) {
1889     isVarArg = true;
1890     Lex.Lex();
1891   } else {
1892     LocTy TypeLoc = Lex.getLoc();
1893     Type *ArgTy = nullptr;
1894     AttrBuilder Attrs;
1895     std::string Name;
1896
1897     if (ParseType(ArgTy) ||
1898         ParseOptionalParamAttrs(Attrs)) return true;
1899
1900     if (ArgTy->isVoidTy())
1901       return Error(TypeLoc, "argument can not have void type");
1902
1903     if (Lex.getKind() == lltok::LocalVar) {
1904       Name = Lex.getStrVal();
1905       Lex.Lex();
1906     }
1907
1908     if (!FunctionType::isValidArgumentType(ArgTy))
1909       return Error(TypeLoc, "invalid type for function argument");
1910
1911     unsigned AttrIndex = 1;
1912     ArgList.push_back(ArgInfo(TypeLoc, ArgTy,
1913                               AttributeSet::get(ArgTy->getContext(),
1914                                                 AttrIndex++, Attrs), Name));
1915
1916     while (EatIfPresent(lltok::comma)) {
1917       // Handle ... at end of arg list.
1918       if (EatIfPresent(lltok::dotdotdot)) {
1919         isVarArg = true;
1920         break;
1921       }
1922
1923       // Otherwise must be an argument type.
1924       TypeLoc = Lex.getLoc();
1925       if (ParseType(ArgTy) || ParseOptionalParamAttrs(Attrs)) return true;
1926
1927       if (ArgTy->isVoidTy())
1928         return Error(TypeLoc, "argument can not have void type");
1929
1930       if (Lex.getKind() == lltok::LocalVar) {
1931         Name = Lex.getStrVal();
1932         Lex.Lex();
1933       } else {
1934         Name = "";
1935       }
1936
1937       if (!ArgTy->isFirstClassType())
1938         return Error(TypeLoc, "invalid type for function argument");
1939
1940       ArgList.push_back(ArgInfo(TypeLoc, ArgTy,
1941                                 AttributeSet::get(ArgTy->getContext(),
1942                                                   AttrIndex++, Attrs),
1943                                 Name));
1944     }
1945   }
1946
1947   return ParseToken(lltok::rparen, "expected ')' at end of argument list");
1948 }
1949
1950 /// ParseFunctionType
1951 ///  ::= Type ArgumentList OptionalAttrs
1952 bool LLParser::ParseFunctionType(Type *&Result) {
1953   assert(Lex.getKind() == lltok::lparen);
1954
1955   if (!FunctionType::isValidReturnType(Result))
1956     return TokError("invalid function return type");
1957
1958   SmallVector<ArgInfo, 8> ArgList;
1959   bool isVarArg;
1960   if (ParseArgumentList(ArgList, isVarArg))
1961     return true;
1962
1963   // Reject names on the arguments lists.
1964   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
1965     if (!ArgList[i].Name.empty())
1966       return Error(ArgList[i].Loc, "argument name invalid in function type");
1967     if (ArgList[i].Attrs.hasAttributes(i + 1))
1968       return Error(ArgList[i].Loc,
1969                    "argument attributes invalid in function type");
1970   }
1971
1972   SmallVector<Type*, 16> ArgListTy;
1973   for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
1974     ArgListTy.push_back(ArgList[i].Ty);
1975
1976   Result = FunctionType::get(Result, ArgListTy, isVarArg);
1977   return false;
1978 }
1979
1980 /// ParseAnonStructType - Parse an anonymous struct type, which is inlined into
1981 /// other structs.
1982 bool LLParser::ParseAnonStructType(Type *&Result, bool Packed) {
1983   SmallVector<Type*, 8> Elts;
1984   if (ParseStructBody(Elts)) return true;
1985
1986   Result = StructType::get(Context, Elts, Packed);
1987   return false;
1988 }
1989
1990 /// ParseStructDefinition - Parse a struct in a 'type' definition.
1991 bool LLParser::ParseStructDefinition(SMLoc TypeLoc, StringRef Name,
1992                                      std::pair<Type*, LocTy> &Entry,
1993                                      Type *&ResultTy) {
1994   // If the type was already defined, diagnose the redefinition.
1995   if (Entry.first && !Entry.second.isValid())
1996     return Error(TypeLoc, "redefinition of type");
1997
1998   // If we have opaque, just return without filling in the definition for the
1999   // struct.  This counts as a definition as far as the .ll file goes.
2000   if (EatIfPresent(lltok::kw_opaque)) {
2001     // This type is being defined, so clear the location to indicate this.
2002     Entry.second = SMLoc();
2003
2004     // If this type number has never been uttered, create it.
2005     if (!Entry.first)
2006       Entry.first = StructType::create(Context, Name);
2007     ResultTy = Entry.first;
2008     return false;
2009   }
2010
2011   // If the type starts with '<', then it is either a packed struct or a vector.
2012   bool isPacked = EatIfPresent(lltok::less);
2013
2014   // If we don't have a struct, then we have a random type alias, which we
2015   // accept for compatibility with old files.  These types are not allowed to be
2016   // forward referenced and not allowed to be recursive.
2017   if (Lex.getKind() != lltok::lbrace) {
2018     if (Entry.first)
2019       return Error(TypeLoc, "forward references to non-struct type");
2020
2021     ResultTy = nullptr;
2022     if (isPacked)
2023       return ParseArrayVectorType(ResultTy, true);
2024     return ParseType(ResultTy);
2025   }
2026
2027   // This type is being defined, so clear the location to indicate this.
2028   Entry.second = SMLoc();
2029
2030   // If this type number has never been uttered, create it.
2031   if (!Entry.first)
2032     Entry.first = StructType::create(Context, Name);
2033
2034   StructType *STy = cast<StructType>(Entry.first);
2035
2036   SmallVector<Type*, 8> Body;
2037   if (ParseStructBody(Body) ||
2038       (isPacked && ParseToken(lltok::greater, "expected '>' in packed struct")))
2039     return true;
2040
2041   STy->setBody(Body, isPacked);
2042   ResultTy = STy;
2043   return false;
2044 }
2045
2046
2047 /// ParseStructType: Handles packed and unpacked types.  </> parsed elsewhere.
2048 ///   StructType
2049 ///     ::= '{' '}'
2050 ///     ::= '{' Type (',' Type)* '}'
2051 ///     ::= '<' '{' '}' '>'
2052 ///     ::= '<' '{' Type (',' Type)* '}' '>'
2053 bool LLParser::ParseStructBody(SmallVectorImpl<Type*> &Body) {
2054   assert(Lex.getKind() == lltok::lbrace);
2055   Lex.Lex(); // Consume the '{'
2056
2057   // Handle the empty struct.
2058   if (EatIfPresent(lltok::rbrace))
2059     return false;
2060
2061   LocTy EltTyLoc = Lex.getLoc();
2062   Type *Ty = nullptr;
2063   if (ParseType(Ty)) return true;
2064   Body.push_back(Ty);
2065
2066   if (!StructType::isValidElementType(Ty))
2067     return Error(EltTyLoc, "invalid element type for struct");
2068
2069   while (EatIfPresent(lltok::comma)) {
2070     EltTyLoc = Lex.getLoc();
2071     if (ParseType(Ty)) return true;
2072
2073     if (!StructType::isValidElementType(Ty))
2074       return Error(EltTyLoc, "invalid element type for struct");
2075
2076     Body.push_back(Ty);
2077   }
2078
2079   return ParseToken(lltok::rbrace, "expected '}' at end of struct");
2080 }
2081
2082 /// ParseArrayVectorType - Parse an array or vector type, assuming the first
2083 /// token has already been consumed.
2084 ///   Type
2085 ///     ::= '[' APSINTVAL 'x' Types ']'
2086 ///     ::= '<' APSINTVAL 'x' Types '>'
2087 bool LLParser::ParseArrayVectorType(Type *&Result, bool isVector) {
2088   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned() ||
2089       Lex.getAPSIntVal().getBitWidth() > 64)
2090     return TokError("expected number in address space");
2091
2092   LocTy SizeLoc = Lex.getLoc();
2093   uint64_t Size = Lex.getAPSIntVal().getZExtValue();
2094   Lex.Lex();
2095
2096   if (ParseToken(lltok::kw_x, "expected 'x' after element count"))
2097       return true;
2098
2099   LocTy TypeLoc = Lex.getLoc();
2100   Type *EltTy = nullptr;
2101   if (ParseType(EltTy)) return true;
2102
2103   if (ParseToken(isVector ? lltok::greater : lltok::rsquare,
2104                  "expected end of sequential type"))
2105     return true;
2106
2107   if (isVector) {
2108     if (Size == 0)
2109       return Error(SizeLoc, "zero element vector is illegal");
2110     if ((unsigned)Size != Size)
2111       return Error(SizeLoc, "size too large for vector");
2112     if (!VectorType::isValidElementType(EltTy))
2113       return Error(TypeLoc, "invalid vector element type");
2114     Result = VectorType::get(EltTy, unsigned(Size));
2115   } else {
2116     if (!ArrayType::isValidElementType(EltTy))
2117       return Error(TypeLoc, "invalid array element type");
2118     Result = ArrayType::get(EltTy, Size);
2119   }
2120   return false;
2121 }
2122
2123 //===----------------------------------------------------------------------===//
2124 // Function Semantic Analysis.
2125 //===----------------------------------------------------------------------===//
2126
2127 LLParser::PerFunctionState::PerFunctionState(LLParser &p, Function &f,
2128                                              int functionNumber)
2129   : P(p), F(f), FunctionNumber(functionNumber) {
2130
2131   // Insert unnamed arguments into the NumberedVals list.
2132   for (Function::arg_iterator AI = F.arg_begin(), E = F.arg_end();
2133        AI != E; ++AI)
2134     if (!AI->hasName())
2135       NumberedVals.push_back(AI);
2136 }
2137
2138 LLParser::PerFunctionState::~PerFunctionState() {
2139   // If there were any forward referenced non-basicblock values, delete them.
2140   for (std::map<std::string, std::pair<Value*, LocTy> >::iterator
2141        I = ForwardRefVals.begin(), E = ForwardRefVals.end(); I != E; ++I)
2142     if (!isa<BasicBlock>(I->second.first)) {
2143       I->second.first->replaceAllUsesWith(
2144                            UndefValue::get(I->second.first->getType()));
2145       delete I->second.first;
2146       I->second.first = nullptr;
2147     }
2148
2149   for (std::map<unsigned, std::pair<Value*, LocTy> >::iterator
2150        I = ForwardRefValIDs.begin(), E = ForwardRefValIDs.end(); I != E; ++I)
2151     if (!isa<BasicBlock>(I->second.first)) {
2152       I->second.first->replaceAllUsesWith(
2153                            UndefValue::get(I->second.first->getType()));
2154       delete I->second.first;
2155       I->second.first = nullptr;
2156     }
2157 }
2158
2159 bool LLParser::PerFunctionState::FinishFunction() {
2160   if (!ForwardRefVals.empty())
2161     return P.Error(ForwardRefVals.begin()->second.second,
2162                    "use of undefined value '%" + ForwardRefVals.begin()->first +
2163                    "'");
2164   if (!ForwardRefValIDs.empty())
2165     return P.Error(ForwardRefValIDs.begin()->second.second,
2166                    "use of undefined value '%" +
2167                    Twine(ForwardRefValIDs.begin()->first) + "'");
2168   return false;
2169 }
2170
2171
2172 /// GetVal - Get a value with the specified name or ID, creating a
2173 /// forward reference record if needed.  This can return null if the value
2174 /// exists but does not have the right type.
2175 Value *LLParser::PerFunctionState::GetVal(const std::string &Name,
2176                                           Type *Ty, LocTy Loc) {
2177   // Look this name up in the normal function symbol table.
2178   Value *Val = F.getValueSymbolTable().lookup(Name);
2179
2180   // If this is a forward reference for the value, see if we already created a
2181   // forward ref record.
2182   if (!Val) {
2183     std::map<std::string, std::pair<Value*, LocTy> >::iterator
2184       I = ForwardRefVals.find(Name);
2185     if (I != ForwardRefVals.end())
2186       Val = I->second.first;
2187   }
2188
2189   // If we have the value in the symbol table or fwd-ref table, return it.
2190   if (Val) {
2191     if (Val->getType() == Ty) return Val;
2192     if (Ty->isLabelTy())
2193       P.Error(Loc, "'%" + Name + "' is not a basic block");
2194     else
2195       P.Error(Loc, "'%" + Name + "' defined with type '" +
2196               getTypeString(Val->getType()) + "'");
2197     return nullptr;
2198   }
2199
2200   // Don't make placeholders with invalid type.
2201   if (!Ty->isFirstClassType()) {
2202     P.Error(Loc, "invalid use of a non-first-class type");
2203     return nullptr;
2204   }
2205
2206   // Otherwise, create a new forward reference for this value and remember it.
2207   Value *FwdVal;
2208   if (Ty->isLabelTy())
2209     FwdVal = BasicBlock::Create(F.getContext(), Name, &F);
2210   else
2211     FwdVal = new Argument(Ty, Name);
2212
2213   ForwardRefVals[Name] = std::make_pair(FwdVal, Loc);
2214   return FwdVal;
2215 }
2216
2217 Value *LLParser::PerFunctionState::GetVal(unsigned ID, Type *Ty,
2218                                           LocTy Loc) {
2219   // Look this name up in the normal function symbol table.
2220   Value *Val = ID < NumberedVals.size() ? NumberedVals[ID] : nullptr;
2221
2222   // If this is a forward reference for the value, see if we already created a
2223   // forward ref record.
2224   if (!Val) {
2225     std::map<unsigned, std::pair<Value*, LocTy> >::iterator
2226       I = ForwardRefValIDs.find(ID);
2227     if (I != ForwardRefValIDs.end())
2228       Val = I->second.first;
2229   }
2230
2231   // If we have the value in the symbol table or fwd-ref table, return it.
2232   if (Val) {
2233     if (Val->getType() == Ty) return Val;
2234     if (Ty->isLabelTy())
2235       P.Error(Loc, "'%" + Twine(ID) + "' is not a basic block");
2236     else
2237       P.Error(Loc, "'%" + Twine(ID) + "' defined with type '" +
2238               getTypeString(Val->getType()) + "'");
2239     return nullptr;
2240   }
2241
2242   if (!Ty->isFirstClassType()) {
2243     P.Error(Loc, "invalid use of a non-first-class type");
2244     return nullptr;
2245   }
2246
2247   // Otherwise, create a new forward reference for this value and remember it.
2248   Value *FwdVal;
2249   if (Ty->isLabelTy())
2250     FwdVal = BasicBlock::Create(F.getContext(), "", &F);
2251   else
2252     FwdVal = new Argument(Ty);
2253
2254   ForwardRefValIDs[ID] = std::make_pair(FwdVal, Loc);
2255   return FwdVal;
2256 }
2257
2258 /// SetInstName - After an instruction is parsed and inserted into its
2259 /// basic block, this installs its name.
2260 bool LLParser::PerFunctionState::SetInstName(int NameID,
2261                                              const std::string &NameStr,
2262                                              LocTy NameLoc, Instruction *Inst) {
2263   // If this instruction has void type, it cannot have a name or ID specified.
2264   if (Inst->getType()->isVoidTy()) {
2265     if (NameID != -1 || !NameStr.empty())
2266       return P.Error(NameLoc, "instructions returning void cannot have a name");
2267     return false;
2268   }
2269
2270   // If this was a numbered instruction, verify that the instruction is the
2271   // expected value and resolve any forward references.
2272   if (NameStr.empty()) {
2273     // If neither a name nor an ID was specified, just use the next ID.
2274     if (NameID == -1)
2275       NameID = NumberedVals.size();
2276
2277     if (unsigned(NameID) != NumberedVals.size())
2278       return P.Error(NameLoc, "instruction expected to be numbered '%" +
2279                      Twine(NumberedVals.size()) + "'");
2280
2281     std::map<unsigned, std::pair<Value*, LocTy> >::iterator FI =
2282       ForwardRefValIDs.find(NameID);
2283     if (FI != ForwardRefValIDs.end()) {
2284       if (FI->second.first->getType() != Inst->getType())
2285         return P.Error(NameLoc, "instruction forward referenced with type '" +
2286                        getTypeString(FI->second.first->getType()) + "'");
2287       FI->second.first->replaceAllUsesWith(Inst);
2288       delete FI->second.first;
2289       ForwardRefValIDs.erase(FI);
2290     }
2291
2292     NumberedVals.push_back(Inst);
2293     return false;
2294   }
2295
2296   // Otherwise, the instruction had a name.  Resolve forward refs and set it.
2297   std::map<std::string, std::pair<Value*, LocTy> >::iterator
2298     FI = ForwardRefVals.find(NameStr);
2299   if (FI != ForwardRefVals.end()) {
2300     if (FI->second.first->getType() != Inst->getType())
2301       return P.Error(NameLoc, "instruction forward referenced with type '" +
2302                      getTypeString(FI->second.first->getType()) + "'");
2303     FI->second.first->replaceAllUsesWith(Inst);
2304     delete FI->second.first;
2305     ForwardRefVals.erase(FI);
2306   }
2307
2308   // Set the name on the instruction.
2309   Inst->setName(NameStr);
2310
2311   if (Inst->getName() != NameStr)
2312     return P.Error(NameLoc, "multiple definition of local value named '" +
2313                    NameStr + "'");
2314   return false;
2315 }
2316
2317 /// GetBB - Get a basic block with the specified name or ID, creating a
2318 /// forward reference record if needed.
2319 BasicBlock *LLParser::PerFunctionState::GetBB(const std::string &Name,
2320                                               LocTy Loc) {
2321   return cast_or_null<BasicBlock>(GetVal(Name,
2322                                         Type::getLabelTy(F.getContext()), Loc));
2323 }
2324
2325 BasicBlock *LLParser::PerFunctionState::GetBB(unsigned ID, LocTy Loc) {
2326   return cast_or_null<BasicBlock>(GetVal(ID,
2327                                         Type::getLabelTy(F.getContext()), Loc));
2328 }
2329
2330 /// DefineBB - Define the specified basic block, which is either named or
2331 /// unnamed.  If there is an error, this returns null otherwise it returns
2332 /// the block being defined.
2333 BasicBlock *LLParser::PerFunctionState::DefineBB(const std::string &Name,
2334                                                  LocTy Loc) {
2335   BasicBlock *BB;
2336   if (Name.empty())
2337     BB = GetBB(NumberedVals.size(), Loc);
2338   else
2339     BB = GetBB(Name, Loc);
2340   if (!BB) return nullptr; // Already diagnosed error.
2341
2342   // Move the block to the end of the function.  Forward ref'd blocks are
2343   // inserted wherever they happen to be referenced.
2344   F.getBasicBlockList().splice(F.end(), F.getBasicBlockList(), BB);
2345
2346   // Remove the block from forward ref sets.
2347   if (Name.empty()) {
2348     ForwardRefValIDs.erase(NumberedVals.size());
2349     NumberedVals.push_back(BB);
2350   } else {
2351     // BB forward references are already in the function symbol table.
2352     ForwardRefVals.erase(Name);
2353   }
2354
2355   return BB;
2356 }
2357
2358 //===----------------------------------------------------------------------===//
2359 // Constants.
2360 //===----------------------------------------------------------------------===//
2361
2362 /// ParseValID - Parse an abstract value that doesn't necessarily have a
2363 /// type implied.  For example, if we parse "4" we don't know what integer type
2364 /// it has.  The value will later be combined with its type and checked for
2365 /// sanity.  PFS is used to convert function-local operands of metadata (since
2366 /// metadata operands are not just parsed here but also converted to values).
2367 /// PFS can be null when we are not parsing metadata values inside a function.
2368 bool LLParser::ParseValID(ValID &ID, PerFunctionState *PFS) {
2369   ID.Loc = Lex.getLoc();
2370   switch (Lex.getKind()) {
2371   default: return TokError("expected value token");
2372   case lltok::GlobalID:  // @42
2373     ID.UIntVal = Lex.getUIntVal();
2374     ID.Kind = ValID::t_GlobalID;
2375     break;
2376   case lltok::GlobalVar:  // @foo
2377     ID.StrVal = Lex.getStrVal();
2378     ID.Kind = ValID::t_GlobalName;
2379     break;
2380   case lltok::LocalVarID:  // %42
2381     ID.UIntVal = Lex.getUIntVal();
2382     ID.Kind = ValID::t_LocalID;
2383     break;
2384   case lltok::LocalVar:  // %foo
2385     ID.StrVal = Lex.getStrVal();
2386     ID.Kind = ValID::t_LocalName;
2387     break;
2388   case lltok::exclaim:   // !42, !{...}, or !"foo"
2389     return ParseMetadataValue(ID, PFS);
2390   case lltok::APSInt:
2391     ID.APSIntVal = Lex.getAPSIntVal();
2392     ID.Kind = ValID::t_APSInt;
2393     break;
2394   case lltok::APFloat:
2395     ID.APFloatVal = Lex.getAPFloatVal();
2396     ID.Kind = ValID::t_APFloat;
2397     break;
2398   case lltok::kw_true:
2399     ID.ConstantVal = ConstantInt::getTrue(Context);
2400     ID.Kind = ValID::t_Constant;
2401     break;
2402   case lltok::kw_false:
2403     ID.ConstantVal = ConstantInt::getFalse(Context);
2404     ID.Kind = ValID::t_Constant;
2405     break;
2406   case lltok::kw_null: ID.Kind = ValID::t_Null; break;
2407   case lltok::kw_undef: ID.Kind = ValID::t_Undef; break;
2408   case lltok::kw_zeroinitializer: ID.Kind = ValID::t_Zero; break;
2409
2410   case lltok::lbrace: {
2411     // ValID ::= '{' ConstVector '}'
2412     Lex.Lex();
2413     SmallVector<Constant*, 16> Elts;
2414     if (ParseGlobalValueVector(Elts) ||
2415         ParseToken(lltok::rbrace, "expected end of struct constant"))
2416       return true;
2417
2418     ID.ConstantStructElts = new Constant*[Elts.size()];
2419     ID.UIntVal = Elts.size();
2420     memcpy(ID.ConstantStructElts, Elts.data(), Elts.size()*sizeof(Elts[0]));
2421     ID.Kind = ValID::t_ConstantStruct;
2422     return false;
2423   }
2424   case lltok::less: {
2425     // ValID ::= '<' ConstVector '>'         --> Vector.
2426     // ValID ::= '<' '{' ConstVector '}' '>' --> Packed Struct.
2427     Lex.Lex();
2428     bool isPackedStruct = EatIfPresent(lltok::lbrace);
2429
2430     SmallVector<Constant*, 16> Elts;
2431     LocTy FirstEltLoc = Lex.getLoc();
2432     if (ParseGlobalValueVector(Elts) ||
2433         (isPackedStruct &&
2434          ParseToken(lltok::rbrace, "expected end of packed struct")) ||
2435         ParseToken(lltok::greater, "expected end of constant"))
2436       return true;
2437
2438     if (isPackedStruct) {
2439       ID.ConstantStructElts = new Constant*[Elts.size()];
2440       memcpy(ID.ConstantStructElts, Elts.data(), Elts.size()*sizeof(Elts[0]));
2441       ID.UIntVal = Elts.size();
2442       ID.Kind = ValID::t_PackedConstantStruct;
2443       return false;
2444     }
2445
2446     if (Elts.empty())
2447       return Error(ID.Loc, "constant vector must not be empty");
2448
2449     if (!Elts[0]->getType()->isIntegerTy() &&
2450         !Elts[0]->getType()->isFloatingPointTy() &&
2451         !Elts[0]->getType()->isPointerTy())
2452       return Error(FirstEltLoc,
2453             "vector elements must have integer, pointer or floating point type");
2454
2455     // Verify that all the vector elements have the same type.
2456     for (unsigned i = 1, e = Elts.size(); i != e; ++i)
2457       if (Elts[i]->getType() != Elts[0]->getType())
2458         return Error(FirstEltLoc,
2459                      "vector element #" + Twine(i) +
2460                     " is not of type '" + getTypeString(Elts[0]->getType()));
2461
2462     ID.ConstantVal = ConstantVector::get(Elts);
2463     ID.Kind = ValID::t_Constant;
2464     return false;
2465   }
2466   case lltok::lsquare: {   // Array Constant
2467     Lex.Lex();
2468     SmallVector<Constant*, 16> Elts;
2469     LocTy FirstEltLoc = Lex.getLoc();
2470     if (ParseGlobalValueVector(Elts) ||
2471         ParseToken(lltok::rsquare, "expected end of array constant"))
2472       return true;
2473
2474     // Handle empty element.
2475     if (Elts.empty()) {
2476       // Use undef instead of an array because it's inconvenient to determine
2477       // the element type at this point, there being no elements to examine.
2478       ID.Kind = ValID::t_EmptyArray;
2479       return false;
2480     }
2481
2482     if (!Elts[0]->getType()->isFirstClassType())
2483       return Error(FirstEltLoc, "invalid array element type: " +
2484                    getTypeString(Elts[0]->getType()));
2485
2486     ArrayType *ATy = ArrayType::get(Elts[0]->getType(), Elts.size());
2487
2488     // Verify all elements are correct type!
2489     for (unsigned i = 0, e = Elts.size(); i != e; ++i) {
2490       if (Elts[i]->getType() != Elts[0]->getType())
2491         return Error(FirstEltLoc,
2492                      "array element #" + Twine(i) +
2493                      " is not of type '" + getTypeString(Elts[0]->getType()));
2494     }
2495
2496     ID.ConstantVal = ConstantArray::get(ATy, Elts);
2497     ID.Kind = ValID::t_Constant;
2498     return false;
2499   }
2500   case lltok::kw_c:  // c "foo"
2501     Lex.Lex();
2502     ID.ConstantVal = ConstantDataArray::getString(Context, Lex.getStrVal(),
2503                                                   false);
2504     if (ParseToken(lltok::StringConstant, "expected string")) return true;
2505     ID.Kind = ValID::t_Constant;
2506     return false;
2507
2508   case lltok::kw_asm: {
2509     // ValID ::= 'asm' SideEffect? AlignStack? IntelDialect? STRINGCONSTANT ','
2510     //             STRINGCONSTANT
2511     bool HasSideEffect, AlignStack, AsmDialect;
2512     Lex.Lex();
2513     if (ParseOptionalToken(lltok::kw_sideeffect, HasSideEffect) ||
2514         ParseOptionalToken(lltok::kw_alignstack, AlignStack) ||
2515         ParseOptionalToken(lltok::kw_inteldialect, AsmDialect) ||
2516         ParseStringConstant(ID.StrVal) ||
2517         ParseToken(lltok::comma, "expected comma in inline asm expression") ||
2518         ParseToken(lltok::StringConstant, "expected constraint string"))
2519       return true;
2520     ID.StrVal2 = Lex.getStrVal();
2521     ID.UIntVal = unsigned(HasSideEffect) | (unsigned(AlignStack)<<1) |
2522       (unsigned(AsmDialect)<<2);
2523     ID.Kind = ValID::t_InlineAsm;
2524     return false;
2525   }
2526
2527   case lltok::kw_blockaddress: {
2528     // ValID ::= 'blockaddress' '(' @foo ',' %bar ')'
2529     Lex.Lex();
2530
2531     ValID Fn, Label;
2532
2533     if (ParseToken(lltok::lparen, "expected '(' in block address expression") ||
2534         ParseValID(Fn) ||
2535         ParseToken(lltok::comma, "expected comma in block address expression")||
2536         ParseValID(Label) ||
2537         ParseToken(lltok::rparen, "expected ')' in block address expression"))
2538       return true;
2539
2540     if (Fn.Kind != ValID::t_GlobalID && Fn.Kind != ValID::t_GlobalName)
2541       return Error(Fn.Loc, "expected function name in blockaddress");
2542     if (Label.Kind != ValID::t_LocalID && Label.Kind != ValID::t_LocalName)
2543       return Error(Label.Loc, "expected basic block name in blockaddress");
2544
2545     // Try to find the function (but skip it if it's forward-referenced).
2546     GlobalValue *GV = nullptr;
2547     if (Fn.Kind == ValID::t_GlobalID) {
2548       if (Fn.UIntVal < NumberedVals.size())
2549         GV = NumberedVals[Fn.UIntVal];
2550     } else if (!ForwardRefVals.count(Fn.StrVal)) {
2551       GV = M->getNamedValue(Fn.StrVal);
2552     }
2553     Function *F = nullptr;
2554     if (GV) {
2555       // Confirm that it's actually a function with a definition.
2556       if (!isa<Function>(GV))
2557         return Error(Fn.Loc, "expected function name in blockaddress");
2558       F = cast<Function>(GV);
2559       if (F->isDeclaration())
2560         return Error(Fn.Loc, "cannot take blockaddress inside a declaration");
2561     }
2562
2563     if (!F) {
2564       // Make a global variable as a placeholder for this reference.
2565       GlobalValue *&FwdRef = ForwardRefBlockAddresses[Fn][Label];
2566       if (!FwdRef)
2567         FwdRef = new GlobalVariable(*M, Type::getInt8Ty(Context), false,
2568                                     GlobalValue::InternalLinkage, nullptr, "");
2569       ID.ConstantVal = FwdRef;
2570       ID.Kind = ValID::t_Constant;
2571       return false;
2572     }
2573
2574     // We found the function; now find the basic block.  Don't use PFS, since we
2575     // might be inside a constant expression.
2576     BasicBlock *BB;
2577     if (BlockAddressPFS && F == &BlockAddressPFS->getFunction()) {
2578       if (Label.Kind == ValID::t_LocalID)
2579         BB = BlockAddressPFS->GetBB(Label.UIntVal, Label.Loc);
2580       else
2581         BB = BlockAddressPFS->GetBB(Label.StrVal, Label.Loc);
2582       if (!BB)
2583         return Error(Label.Loc, "referenced value is not a basic block");
2584     } else {
2585       if (Label.Kind == ValID::t_LocalID)
2586         return Error(Label.Loc, "cannot take address of numeric label after "
2587                                 "the function is defined");
2588       BB = dyn_cast_or_null<BasicBlock>(
2589           F->getValueSymbolTable().lookup(Label.StrVal));
2590       if (!BB)
2591         return Error(Label.Loc, "referenced value is not a basic block");
2592     }
2593
2594     ID.ConstantVal = BlockAddress::get(F, BB);
2595     ID.Kind = ValID::t_Constant;
2596     return false;
2597   }
2598
2599   case lltok::kw_trunc:
2600   case lltok::kw_zext:
2601   case lltok::kw_sext:
2602   case lltok::kw_fptrunc:
2603   case lltok::kw_fpext:
2604   case lltok::kw_bitcast:
2605   case lltok::kw_addrspacecast:
2606   case lltok::kw_uitofp:
2607   case lltok::kw_sitofp:
2608   case lltok::kw_fptoui:
2609   case lltok::kw_fptosi:
2610   case lltok::kw_inttoptr:
2611   case lltok::kw_ptrtoint: {
2612     unsigned Opc = Lex.getUIntVal();
2613     Type *DestTy = nullptr;
2614     Constant *SrcVal;
2615     Lex.Lex();
2616     if (ParseToken(lltok::lparen, "expected '(' after constantexpr cast") ||
2617         ParseGlobalTypeAndValue(SrcVal) ||
2618         ParseToken(lltok::kw_to, "expected 'to' in constantexpr cast") ||
2619         ParseType(DestTy) ||
2620         ParseToken(lltok::rparen, "expected ')' at end of constantexpr cast"))
2621       return true;
2622     if (!CastInst::castIsValid((Instruction::CastOps)Opc, SrcVal, DestTy))
2623       return Error(ID.Loc, "invalid cast opcode for cast from '" +
2624                    getTypeString(SrcVal->getType()) + "' to '" +
2625                    getTypeString(DestTy) + "'");
2626     ID.ConstantVal = ConstantExpr::getCast((Instruction::CastOps)Opc,
2627                                                  SrcVal, DestTy);
2628     ID.Kind = ValID::t_Constant;
2629     return false;
2630   }
2631   case lltok::kw_extractvalue: {
2632     Lex.Lex();
2633     Constant *Val;
2634     SmallVector<unsigned, 4> Indices;
2635     if (ParseToken(lltok::lparen, "expected '(' in extractvalue constantexpr")||
2636         ParseGlobalTypeAndValue(Val) ||
2637         ParseIndexList(Indices) ||
2638         ParseToken(lltok::rparen, "expected ')' in extractvalue constantexpr"))
2639       return true;
2640
2641     if (!Val->getType()->isAggregateType())
2642       return Error(ID.Loc, "extractvalue operand must be aggregate type");
2643     if (!ExtractValueInst::getIndexedType(Val->getType(), Indices))
2644       return Error(ID.Loc, "invalid indices for extractvalue");
2645     ID.ConstantVal = ConstantExpr::getExtractValue(Val, Indices);
2646     ID.Kind = ValID::t_Constant;
2647     return false;
2648   }
2649   case lltok::kw_insertvalue: {
2650     Lex.Lex();
2651     Constant *Val0, *Val1;
2652     SmallVector<unsigned, 4> Indices;
2653     if (ParseToken(lltok::lparen, "expected '(' in insertvalue constantexpr")||
2654         ParseGlobalTypeAndValue(Val0) ||
2655         ParseToken(lltok::comma, "expected comma in insertvalue constantexpr")||
2656         ParseGlobalTypeAndValue(Val1) ||
2657         ParseIndexList(Indices) ||
2658         ParseToken(lltok::rparen, "expected ')' in insertvalue constantexpr"))
2659       return true;
2660     if (!Val0->getType()->isAggregateType())
2661       return Error(ID.Loc, "insertvalue operand must be aggregate type");
2662     if (!ExtractValueInst::getIndexedType(Val0->getType(), Indices))
2663       return Error(ID.Loc, "invalid indices for insertvalue");
2664     ID.ConstantVal = ConstantExpr::getInsertValue(Val0, Val1, Indices);
2665     ID.Kind = ValID::t_Constant;
2666     return false;
2667   }
2668   case lltok::kw_icmp:
2669   case lltok::kw_fcmp: {
2670     unsigned PredVal, Opc = Lex.getUIntVal();
2671     Constant *Val0, *Val1;
2672     Lex.Lex();
2673     if (ParseCmpPredicate(PredVal, Opc) ||
2674         ParseToken(lltok::lparen, "expected '(' in compare constantexpr") ||
2675         ParseGlobalTypeAndValue(Val0) ||
2676         ParseToken(lltok::comma, "expected comma in compare constantexpr") ||
2677         ParseGlobalTypeAndValue(Val1) ||
2678         ParseToken(lltok::rparen, "expected ')' in compare constantexpr"))
2679       return true;
2680
2681     if (Val0->getType() != Val1->getType())
2682       return Error(ID.Loc, "compare operands must have the same type");
2683
2684     CmpInst::Predicate Pred = (CmpInst::Predicate)PredVal;
2685
2686     if (Opc == Instruction::FCmp) {
2687       if (!Val0->getType()->isFPOrFPVectorTy())
2688         return Error(ID.Loc, "fcmp requires floating point operands");
2689       ID.ConstantVal = ConstantExpr::getFCmp(Pred, Val0, Val1);
2690     } else {
2691       assert(Opc == Instruction::ICmp && "Unexpected opcode for CmpInst!");
2692       if (!Val0->getType()->isIntOrIntVectorTy() &&
2693           !Val0->getType()->getScalarType()->isPointerTy())
2694         return Error(ID.Loc, "icmp requires pointer or integer operands");
2695       ID.ConstantVal = ConstantExpr::getICmp(Pred, Val0, Val1);
2696     }
2697     ID.Kind = ValID::t_Constant;
2698     return false;
2699   }
2700
2701   // Binary Operators.
2702   case lltok::kw_add:
2703   case lltok::kw_fadd:
2704   case lltok::kw_sub:
2705   case lltok::kw_fsub:
2706   case lltok::kw_mul:
2707   case lltok::kw_fmul:
2708   case lltok::kw_udiv:
2709   case lltok::kw_sdiv:
2710   case lltok::kw_fdiv:
2711   case lltok::kw_urem:
2712   case lltok::kw_srem:
2713   case lltok::kw_frem:
2714   case lltok::kw_shl:
2715   case lltok::kw_lshr:
2716   case lltok::kw_ashr: {
2717     bool NUW = false;
2718     bool NSW = false;
2719     bool Exact = false;
2720     unsigned Opc = Lex.getUIntVal();
2721     Constant *Val0, *Val1;
2722     Lex.Lex();
2723     LocTy ModifierLoc = Lex.getLoc();
2724     if (Opc == Instruction::Add || Opc == Instruction::Sub ||
2725         Opc == Instruction::Mul || Opc == Instruction::Shl) {
2726       if (EatIfPresent(lltok::kw_nuw))
2727         NUW = true;
2728       if (EatIfPresent(lltok::kw_nsw)) {
2729         NSW = true;
2730         if (EatIfPresent(lltok::kw_nuw))
2731           NUW = true;
2732       }
2733     } else if (Opc == Instruction::SDiv || Opc == Instruction::UDiv ||
2734                Opc == Instruction::LShr || Opc == Instruction::AShr) {
2735       if (EatIfPresent(lltok::kw_exact))
2736         Exact = true;
2737     }
2738     if (ParseToken(lltok::lparen, "expected '(' in binary constantexpr") ||
2739         ParseGlobalTypeAndValue(Val0) ||
2740         ParseToken(lltok::comma, "expected comma in binary constantexpr") ||
2741         ParseGlobalTypeAndValue(Val1) ||
2742         ParseToken(lltok::rparen, "expected ')' in binary constantexpr"))
2743       return true;
2744     if (Val0->getType() != Val1->getType())
2745       return Error(ID.Loc, "operands of constexpr must have same type");
2746     if (!Val0->getType()->isIntOrIntVectorTy()) {
2747       if (NUW)
2748         return Error(ModifierLoc, "nuw only applies to integer operations");
2749       if (NSW)
2750         return Error(ModifierLoc, "nsw only applies to integer operations");
2751     }
2752     // Check that the type is valid for the operator.
2753     switch (Opc) {
2754     case Instruction::Add:
2755     case Instruction::Sub:
2756     case Instruction::Mul:
2757     case Instruction::UDiv:
2758     case Instruction::SDiv:
2759     case Instruction::URem:
2760     case Instruction::SRem:
2761     case Instruction::Shl:
2762     case Instruction::AShr:
2763     case Instruction::LShr:
2764       if (!Val0->getType()->isIntOrIntVectorTy())
2765         return Error(ID.Loc, "constexpr requires integer operands");
2766       break;
2767     case Instruction::FAdd:
2768     case Instruction::FSub:
2769     case Instruction::FMul:
2770     case Instruction::FDiv:
2771     case Instruction::FRem:
2772       if (!Val0->getType()->isFPOrFPVectorTy())
2773         return Error(ID.Loc, "constexpr requires fp operands");
2774       break;
2775     default: llvm_unreachable("Unknown binary operator!");
2776     }
2777     unsigned Flags = 0;
2778     if (NUW)   Flags |= OverflowingBinaryOperator::NoUnsignedWrap;
2779     if (NSW)   Flags |= OverflowingBinaryOperator::NoSignedWrap;
2780     if (Exact) Flags |= PossiblyExactOperator::IsExact;
2781     Constant *C = ConstantExpr::get(Opc, Val0, Val1, Flags);
2782     ID.ConstantVal = C;
2783     ID.Kind = ValID::t_Constant;
2784     return false;
2785   }
2786
2787   // Logical Operations
2788   case lltok::kw_and:
2789   case lltok::kw_or:
2790   case lltok::kw_xor: {
2791     unsigned Opc = Lex.getUIntVal();
2792     Constant *Val0, *Val1;
2793     Lex.Lex();
2794     if (ParseToken(lltok::lparen, "expected '(' in logical constantexpr") ||
2795         ParseGlobalTypeAndValue(Val0) ||
2796         ParseToken(lltok::comma, "expected comma in logical constantexpr") ||
2797         ParseGlobalTypeAndValue(Val1) ||
2798         ParseToken(lltok::rparen, "expected ')' in logical constantexpr"))
2799       return true;
2800     if (Val0->getType() != Val1->getType())
2801       return Error(ID.Loc, "operands of constexpr must have same type");
2802     if (!Val0->getType()->isIntOrIntVectorTy())
2803       return Error(ID.Loc,
2804                    "constexpr requires integer or integer vector operands");
2805     ID.ConstantVal = ConstantExpr::get(Opc, Val0, Val1);
2806     ID.Kind = ValID::t_Constant;
2807     return false;
2808   }
2809
2810   case lltok::kw_getelementptr:
2811   case lltok::kw_shufflevector:
2812   case lltok::kw_insertelement:
2813   case lltok::kw_extractelement:
2814   case lltok::kw_select: {
2815     unsigned Opc = Lex.getUIntVal();
2816     SmallVector<Constant*, 16> Elts;
2817     bool InBounds = false;
2818     Lex.Lex();
2819     if (Opc == Instruction::GetElementPtr)
2820       InBounds = EatIfPresent(lltok::kw_inbounds);
2821     if (ParseToken(lltok::lparen, "expected '(' in constantexpr") ||
2822         ParseGlobalValueVector(Elts) ||
2823         ParseToken(lltok::rparen, "expected ')' in constantexpr"))
2824       return true;
2825
2826     if (Opc == Instruction::GetElementPtr) {
2827       if (Elts.size() == 0 ||
2828           !Elts[0]->getType()->getScalarType()->isPointerTy())
2829         return Error(ID.Loc, "getelementptr requires pointer operand");
2830
2831       ArrayRef<Constant *> Indices(Elts.begin() + 1, Elts.end());
2832       if (!GetElementPtrInst::getIndexedType(Elts[0]->getType(), Indices))
2833         return Error(ID.Loc, "invalid indices for getelementptr");
2834       ID.ConstantVal = ConstantExpr::getGetElementPtr(Elts[0], Indices,
2835                                                       InBounds);
2836     } else if (Opc == Instruction::Select) {
2837       if (Elts.size() != 3)
2838         return Error(ID.Loc, "expected three operands to select");
2839       if (const char *Reason = SelectInst::areInvalidOperands(Elts[0], Elts[1],
2840                                                               Elts[2]))
2841         return Error(ID.Loc, Reason);
2842       ID.ConstantVal = ConstantExpr::getSelect(Elts[0], Elts[1], Elts[2]);
2843     } else if (Opc == Instruction::ShuffleVector) {
2844       if (Elts.size() != 3)
2845         return Error(ID.Loc, "expected three operands to shufflevector");
2846       if (!ShuffleVectorInst::isValidOperands(Elts[0], Elts[1], Elts[2]))
2847         return Error(ID.Loc, "invalid operands to shufflevector");
2848       ID.ConstantVal =
2849                  ConstantExpr::getShuffleVector(Elts[0], Elts[1],Elts[2]);
2850     } else if (Opc == Instruction::ExtractElement) {
2851       if (Elts.size() != 2)
2852         return Error(ID.Loc, "expected two operands to extractelement");
2853       if (!ExtractElementInst::isValidOperands(Elts[0], Elts[1]))
2854         return Error(ID.Loc, "invalid extractelement operands");
2855       ID.ConstantVal = ConstantExpr::getExtractElement(Elts[0], Elts[1]);
2856     } else {
2857       assert(Opc == Instruction::InsertElement && "Unknown opcode");
2858       if (Elts.size() != 3)
2859       return Error(ID.Loc, "expected three operands to insertelement");
2860       if (!InsertElementInst::isValidOperands(Elts[0], Elts[1], Elts[2]))
2861         return Error(ID.Loc, "invalid insertelement operands");
2862       ID.ConstantVal =
2863                  ConstantExpr::getInsertElement(Elts[0], Elts[1],Elts[2]);
2864     }
2865
2866     ID.Kind = ValID::t_Constant;
2867     return false;
2868   }
2869   }
2870
2871   Lex.Lex();
2872   return false;
2873 }
2874
2875 /// ParseGlobalValue - Parse a global value with the specified type.
2876 bool LLParser::ParseGlobalValue(Type *Ty, Constant *&C) {
2877   C = nullptr;
2878   ValID ID;
2879   Value *V = nullptr;
2880   bool Parsed = ParseValID(ID) ||
2881                 ConvertValIDToValue(Ty, ID, V, nullptr);
2882   if (V && !(C = dyn_cast<Constant>(V)))
2883     return Error(ID.Loc, "global values must be constants");
2884   return Parsed;
2885 }
2886
2887 bool LLParser::ParseGlobalTypeAndValue(Constant *&V) {
2888   Type *Ty = nullptr;
2889   return ParseType(Ty) ||
2890          ParseGlobalValue(Ty, V);
2891 }
2892
2893 bool LLParser::parseOptionalComdat(Comdat *&C) {
2894   C = nullptr;
2895   if (!EatIfPresent(lltok::kw_comdat))
2896     return false;
2897   if (Lex.getKind() != lltok::ComdatVar)
2898     return TokError("expected comdat variable");
2899   LocTy Loc = Lex.getLoc();
2900   StringRef Name = Lex.getStrVal();
2901   C = getComdat(Name, Loc);
2902   Lex.Lex();
2903   return false;
2904 }
2905
2906 /// ParseGlobalValueVector
2907 ///   ::= /*empty*/
2908 ///   ::= TypeAndValue (',' TypeAndValue)*
2909 bool LLParser::ParseGlobalValueVector(SmallVectorImpl<Constant *> &Elts) {
2910   // Empty list.
2911   if (Lex.getKind() == lltok::rbrace ||
2912       Lex.getKind() == lltok::rsquare ||
2913       Lex.getKind() == lltok::greater ||
2914       Lex.getKind() == lltok::rparen)
2915     return false;
2916
2917   Constant *C;
2918   if (ParseGlobalTypeAndValue(C)) return true;
2919   Elts.push_back(C);
2920
2921   while (EatIfPresent(lltok::comma)) {
2922     if (ParseGlobalTypeAndValue(C)) return true;
2923     Elts.push_back(C);
2924   }
2925
2926   return false;
2927 }
2928
2929 bool LLParser::ParseMetadataListValue(ValID &ID, PerFunctionState *PFS) {
2930   assert(Lex.getKind() == lltok::lbrace);
2931   Lex.Lex();
2932
2933   SmallVector<Value*, 16> Elts;
2934   if (ParseMDNodeVector(Elts, PFS) ||
2935       ParseToken(lltok::rbrace, "expected end of metadata node"))
2936     return true;
2937
2938   ID.MDNodeVal = MDNode::get(Context, Elts);
2939   ID.Kind = ValID::t_MDNode;
2940   return false;
2941 }
2942
2943 /// ParseMetadataValue
2944 ///  ::= !42
2945 ///  ::= !{...}
2946 ///  ::= !"string"
2947 bool LLParser::ParseMetadataValue(ValID &ID, PerFunctionState *PFS) {
2948   assert(Lex.getKind() == lltok::exclaim);
2949   Lex.Lex();
2950
2951   // MDNode:
2952   // !{ ... }
2953   if (Lex.getKind() == lltok::lbrace)
2954     return ParseMetadataListValue(ID, PFS);
2955
2956   // Standalone metadata reference
2957   // !42
2958   if (Lex.getKind() == lltok::APSInt) {
2959     if (ParseMDNodeID(ID.MDNodeVal)) return true;
2960     ID.Kind = ValID::t_MDNode;
2961     return false;
2962   }
2963
2964   // MDString:
2965   //   ::= '!' STRINGCONSTANT
2966   if (ParseMDString(ID.MDStringVal)) return true;
2967   ID.Kind = ValID::t_MDString;
2968   return false;
2969 }
2970
2971
2972 //===----------------------------------------------------------------------===//
2973 // Function Parsing.
2974 //===----------------------------------------------------------------------===//
2975
2976 bool LLParser::ConvertValIDToValue(Type *Ty, ValID &ID, Value *&V,
2977                                    PerFunctionState *PFS) {
2978   if (Ty->isFunctionTy())
2979     return Error(ID.Loc, "functions are not values, refer to them as pointers");
2980
2981   switch (ID.Kind) {
2982   case ValID::t_LocalID:
2983     if (!PFS) return Error(ID.Loc, "invalid use of function-local name");
2984     V = PFS->GetVal(ID.UIntVal, Ty, ID.Loc);
2985     return V == nullptr;
2986   case ValID::t_LocalName:
2987     if (!PFS) return Error(ID.Loc, "invalid use of function-local name");
2988     V = PFS->GetVal(ID.StrVal, Ty, ID.Loc);
2989     return V == nullptr;
2990   case ValID::t_InlineAsm: {
2991     PointerType *PTy = dyn_cast<PointerType>(Ty);
2992     FunctionType *FTy =
2993       PTy ? dyn_cast<FunctionType>(PTy->getElementType()) : nullptr;
2994     if (!FTy || !InlineAsm::Verify(FTy, ID.StrVal2))
2995       return Error(ID.Loc, "invalid type for inline asm constraint string");
2996     V = InlineAsm::get(FTy, ID.StrVal, ID.StrVal2, ID.UIntVal&1,
2997                        (ID.UIntVal>>1)&1, (InlineAsm::AsmDialect(ID.UIntVal>>2)));
2998     return false;
2999   }
3000   case ValID::t_MDNode:
3001     if (!Ty->isMetadataTy())
3002       return Error(ID.Loc, "metadata value must have metadata type");
3003     V = ID.MDNodeVal;
3004     return false;
3005   case ValID::t_MDString:
3006     if (!Ty->isMetadataTy())
3007       return Error(ID.Loc, "metadata value must have metadata type");
3008     V = ID.MDStringVal;
3009     return false;
3010   case ValID::t_GlobalName:
3011     V = GetGlobalVal(ID.StrVal, Ty, ID.Loc);
3012     return V == nullptr;
3013   case ValID::t_GlobalID:
3014     V = GetGlobalVal(ID.UIntVal, Ty, ID.Loc);
3015     return V == nullptr;
3016   case ValID::t_APSInt:
3017     if (!Ty->isIntegerTy())
3018       return Error(ID.Loc, "integer constant must have integer type");
3019     ID.APSIntVal = ID.APSIntVal.extOrTrunc(Ty->getPrimitiveSizeInBits());
3020     V = ConstantInt::get(Context, ID.APSIntVal);
3021     return false;
3022   case ValID::t_APFloat:
3023     if (!Ty->isFloatingPointTy() ||
3024         !ConstantFP::isValueValidForType(Ty, ID.APFloatVal))
3025       return Error(ID.Loc, "floating point constant invalid for type");
3026
3027     // The lexer has no type info, so builds all half, float, and double FP
3028     // constants as double.  Fix this here.  Long double does not need this.
3029     if (&ID.APFloatVal.getSemantics() == &APFloat::IEEEdouble) {
3030       bool Ignored;
3031       if (Ty->isHalfTy())
3032         ID.APFloatVal.convert(APFloat::IEEEhalf, APFloat::rmNearestTiesToEven,
3033                               &Ignored);
3034       else if (Ty->isFloatTy())
3035         ID.APFloatVal.convert(APFloat::IEEEsingle, APFloat::rmNearestTiesToEven,
3036                               &Ignored);
3037     }
3038     V = ConstantFP::get(Context, ID.APFloatVal);
3039
3040     if (V->getType() != Ty)
3041       return Error(ID.Loc, "floating point constant does not have type '" +
3042                    getTypeString(Ty) + "'");
3043
3044     return false;
3045   case ValID::t_Null:
3046     if (!Ty->isPointerTy())
3047       return Error(ID.Loc, "null must be a pointer type");
3048     V = ConstantPointerNull::get(cast<PointerType>(Ty));
3049     return false;
3050   case ValID::t_Undef:
3051     // FIXME: LabelTy should not be a first-class type.
3052     if (!Ty->isFirstClassType() || Ty->isLabelTy())
3053       return Error(ID.Loc, "invalid type for undef constant");
3054     V = UndefValue::get(Ty);
3055     return false;
3056   case ValID::t_EmptyArray:
3057     if (!Ty->isArrayTy() || cast<ArrayType>(Ty)->getNumElements() != 0)
3058       return Error(ID.Loc, "invalid empty array initializer");
3059     V = UndefValue::get(Ty);
3060     return false;
3061   case ValID::t_Zero:
3062     // FIXME: LabelTy should not be a first-class type.
3063     if (!Ty->isFirstClassType() || Ty->isLabelTy())
3064       return Error(ID.Loc, "invalid type for null constant");
3065     V = Constant::getNullValue(Ty);
3066     return false;
3067   case ValID::t_Constant:
3068     if (ID.ConstantVal->getType() != Ty)
3069       return Error(ID.Loc, "constant expression type mismatch");
3070
3071     V = ID.ConstantVal;
3072     return false;
3073   case ValID::t_ConstantStruct:
3074   case ValID::t_PackedConstantStruct:
3075     if (StructType *ST = dyn_cast<StructType>(Ty)) {
3076       if (ST->getNumElements() != ID.UIntVal)
3077         return Error(ID.Loc,
3078                      "initializer with struct type has wrong # elements");
3079       if (ST->isPacked() != (ID.Kind == ValID::t_PackedConstantStruct))
3080         return Error(ID.Loc, "packed'ness of initializer and type don't match");
3081
3082       // Verify that the elements are compatible with the structtype.
3083       for (unsigned i = 0, e = ID.UIntVal; i != e; ++i)
3084         if (ID.ConstantStructElts[i]->getType() != ST->getElementType(i))
3085           return Error(ID.Loc, "element " + Twine(i) +
3086                     " of struct initializer doesn't match struct element type");
3087
3088       V = ConstantStruct::get(ST, makeArrayRef(ID.ConstantStructElts,
3089                                                ID.UIntVal));
3090     } else
3091       return Error(ID.Loc, "constant expression type mismatch");
3092     return false;
3093   }
3094   llvm_unreachable("Invalid ValID");
3095 }
3096
3097 bool LLParser::ParseValue(Type *Ty, Value *&V, PerFunctionState *PFS) {
3098   V = nullptr;
3099   ValID ID;
3100   return ParseValID(ID, PFS) ||
3101          ConvertValIDToValue(Ty, ID, V, PFS);
3102 }
3103
3104 bool LLParser::ParseTypeAndValue(Value *&V, PerFunctionState *PFS) {
3105   Type *Ty = nullptr;
3106   return ParseType(Ty) ||
3107          ParseValue(Ty, V, PFS);
3108 }
3109
3110 bool LLParser::ParseTypeAndBasicBlock(BasicBlock *&BB, LocTy &Loc,
3111                                       PerFunctionState &PFS) {
3112   Value *V;
3113   Loc = Lex.getLoc();
3114   if (ParseTypeAndValue(V, PFS)) return true;
3115   if (!isa<BasicBlock>(V))
3116     return Error(Loc, "expected a basic block");
3117   BB = cast<BasicBlock>(V);
3118   return false;
3119 }
3120
3121
3122 /// FunctionHeader
3123 ///   ::= OptionalLinkage OptionalVisibility OptionalCallingConv OptRetAttrs
3124 ///       OptUnnamedAddr Type GlobalName '(' ArgList ')' OptFuncAttrs OptSection
3125 ///       OptionalAlign OptGC OptionalPrefix
3126 bool LLParser::ParseFunctionHeader(Function *&Fn, bool isDefine) {
3127   // Parse the linkage.
3128   LocTy LinkageLoc = Lex.getLoc();
3129   unsigned Linkage;
3130
3131   unsigned Visibility;
3132   unsigned DLLStorageClass;
3133   AttrBuilder RetAttrs;
3134   unsigned CC;
3135   Type *RetType = nullptr;
3136   LocTy RetTypeLoc = Lex.getLoc();
3137   if (ParseOptionalLinkage(Linkage) ||
3138       ParseOptionalVisibility(Visibility) ||
3139       ParseOptionalDLLStorageClass(DLLStorageClass) ||
3140       ParseOptionalCallingConv(CC) ||
3141       ParseOptionalReturnAttrs(RetAttrs) ||
3142       ParseType(RetType, RetTypeLoc, true /*void allowed*/))
3143     return true;
3144
3145   // Verify that the linkage is ok.
3146   switch ((GlobalValue::LinkageTypes)Linkage) {
3147   case GlobalValue::ExternalLinkage:
3148     break; // always ok.
3149   case GlobalValue::ExternalWeakLinkage:
3150     if (isDefine)
3151       return Error(LinkageLoc, "invalid linkage for function definition");
3152     break;
3153   case GlobalValue::PrivateLinkage:
3154   case GlobalValue::InternalLinkage:
3155   case GlobalValue::AvailableExternallyLinkage:
3156   case GlobalValue::LinkOnceAnyLinkage:
3157   case GlobalValue::LinkOnceODRLinkage:
3158   case GlobalValue::WeakAnyLinkage:
3159   case GlobalValue::WeakODRLinkage:
3160     if (!isDefine)
3161       return Error(LinkageLoc, "invalid linkage for function declaration");
3162     break;
3163   case GlobalValue::AppendingLinkage:
3164   case GlobalValue::CommonLinkage:
3165     return Error(LinkageLoc, "invalid function linkage type");
3166   }
3167
3168   if (!isValidVisibilityForLinkage(Visibility, Linkage))
3169     return Error(LinkageLoc,
3170                  "symbol with local linkage must have default visibility");
3171
3172   if (!FunctionType::isValidReturnType(RetType))
3173     return Error(RetTypeLoc, "invalid function return type");
3174
3175   LocTy NameLoc = Lex.getLoc();
3176
3177   std::string FunctionName;
3178   if (Lex.getKind() == lltok::GlobalVar) {
3179     FunctionName = Lex.getStrVal();
3180   } else if (Lex.getKind() == lltok::GlobalID) {     // @42 is ok.
3181     unsigned NameID = Lex.getUIntVal();
3182
3183     if (NameID != NumberedVals.size())
3184       return TokError("function expected to be numbered '%" +
3185                       Twine(NumberedVals.size()) + "'");
3186   } else {
3187     return TokError("expected function name");
3188   }
3189
3190   Lex.Lex();
3191
3192   if (Lex.getKind() != lltok::lparen)
3193     return TokError("expected '(' in function argument list");
3194
3195   SmallVector<ArgInfo, 8> ArgList;
3196   bool isVarArg;
3197   AttrBuilder FuncAttrs;
3198   std::vector<unsigned> FwdRefAttrGrps;
3199   LocTy BuiltinLoc;
3200   std::string Section;
3201   unsigned Alignment;
3202   std::string GC;
3203   bool UnnamedAddr;
3204   LocTy UnnamedAddrLoc;
3205   Constant *Prefix = nullptr;
3206   Comdat *C;
3207
3208   if (ParseArgumentList(ArgList, isVarArg) ||
3209       ParseOptionalToken(lltok::kw_unnamed_addr, UnnamedAddr,
3210                          &UnnamedAddrLoc) ||
3211       ParseFnAttributeValuePairs(FuncAttrs, FwdRefAttrGrps, false,
3212                                  BuiltinLoc) ||
3213       (EatIfPresent(lltok::kw_section) &&
3214        ParseStringConstant(Section)) ||
3215       parseOptionalComdat(C) ||
3216       ParseOptionalAlignment(Alignment) ||
3217       (EatIfPresent(lltok::kw_gc) &&
3218        ParseStringConstant(GC)) ||
3219       (EatIfPresent(lltok::kw_prefix) &&
3220        ParseGlobalTypeAndValue(Prefix)))
3221     return true;
3222
3223   if (FuncAttrs.contains(Attribute::Builtin))
3224     return Error(BuiltinLoc, "'builtin' attribute not valid on function");
3225
3226   // If the alignment was parsed as an attribute, move to the alignment field.
3227   if (FuncAttrs.hasAlignmentAttr()) {
3228     Alignment = FuncAttrs.getAlignment();
3229     FuncAttrs.removeAttribute(Attribute::Alignment);
3230   }
3231
3232   // Okay, if we got here, the function is syntactically valid.  Convert types
3233   // and do semantic checks.
3234   std::vector<Type*> ParamTypeList;
3235   SmallVector<AttributeSet, 8> Attrs;
3236
3237   if (RetAttrs.hasAttributes())
3238     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3239                                       AttributeSet::ReturnIndex,
3240                                       RetAttrs));
3241
3242   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
3243     ParamTypeList.push_back(ArgList[i].Ty);
3244     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
3245       AttrBuilder B(ArgList[i].Attrs, i + 1);
3246       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
3247     }
3248   }
3249
3250   if (FuncAttrs.hasAttributes())
3251     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3252                                       AttributeSet::FunctionIndex,
3253                                       FuncAttrs));
3254
3255   AttributeSet PAL = AttributeSet::get(Context, Attrs);
3256
3257   if (PAL.hasAttribute(1, Attribute::StructRet) && !RetType->isVoidTy())
3258     return Error(RetTypeLoc, "functions with 'sret' argument must return void");
3259
3260   FunctionType *FT =
3261     FunctionType::get(RetType, ParamTypeList, isVarArg);
3262   PointerType *PFT = PointerType::getUnqual(FT);
3263
3264   Fn = nullptr;
3265   if (!FunctionName.empty()) {
3266     // If this was a definition of a forward reference, remove the definition
3267     // from the forward reference table and fill in the forward ref.
3268     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator FRVI =
3269       ForwardRefVals.find(FunctionName);
3270     if (FRVI != ForwardRefVals.end()) {
3271       Fn = M->getFunction(FunctionName);
3272       if (!Fn)
3273         return Error(FRVI->second.second, "invalid forward reference to "
3274                      "function as global value!");
3275       if (Fn->getType() != PFT)
3276         return Error(FRVI->second.second, "invalid forward reference to "
3277                      "function '" + FunctionName + "' with wrong type!");
3278
3279       ForwardRefVals.erase(FRVI);
3280     } else if ((Fn = M->getFunction(FunctionName))) {
3281       // Reject redefinitions.
3282       return Error(NameLoc, "invalid redefinition of function '" +
3283                    FunctionName + "'");
3284     } else if (M->getNamedValue(FunctionName)) {
3285       return Error(NameLoc, "redefinition of function '@" + FunctionName + "'");
3286     }
3287
3288   } else {
3289     // If this is a definition of a forward referenced function, make sure the
3290     // types agree.
3291     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator I
3292       = ForwardRefValIDs.find(NumberedVals.size());
3293     if (I != ForwardRefValIDs.end()) {
3294       Fn = cast<Function>(I->second.first);
3295       if (Fn->getType() != PFT)
3296         return Error(NameLoc, "type of definition and forward reference of '@" +
3297                      Twine(NumberedVals.size()) + "' disagree");
3298       ForwardRefValIDs.erase(I);
3299     }
3300   }
3301
3302   if (!Fn)
3303     Fn = Function::Create(FT, GlobalValue::ExternalLinkage, FunctionName, M);
3304   else // Move the forward-reference to the correct spot in the module.
3305     M->getFunctionList().splice(M->end(), M->getFunctionList(), Fn);
3306
3307   if (FunctionName.empty())
3308     NumberedVals.push_back(Fn);
3309
3310   Fn->setLinkage((GlobalValue::LinkageTypes)Linkage);
3311   Fn->setVisibility((GlobalValue::VisibilityTypes)Visibility);
3312   Fn->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
3313   Fn->setCallingConv(CC);
3314   Fn->setAttributes(PAL);
3315   Fn->setUnnamedAddr(UnnamedAddr);
3316   Fn->setAlignment(Alignment);
3317   Fn->setSection(Section);
3318   Fn->setComdat(C);
3319   if (!GC.empty()) Fn->setGC(GC.c_str());
3320   Fn->setPrefixData(Prefix);
3321   ForwardRefAttrGroups[Fn] = FwdRefAttrGrps;
3322
3323   // Add all of the arguments we parsed to the function.
3324   Function::arg_iterator ArgIt = Fn->arg_begin();
3325   for (unsigned i = 0, e = ArgList.size(); i != e; ++i, ++ArgIt) {
3326     // If the argument has a name, insert it into the argument symbol table.
3327     if (ArgList[i].Name.empty()) continue;
3328
3329     // Set the name, if it conflicted, it will be auto-renamed.
3330     ArgIt->setName(ArgList[i].Name);
3331
3332     if (ArgIt->getName() != ArgList[i].Name)
3333       return Error(ArgList[i].Loc, "redefinition of argument '%" +
3334                    ArgList[i].Name + "'");
3335   }
3336
3337   if (isDefine)
3338     return false;
3339
3340   // Check the declaration has no block address forward references.
3341   ValID ID;
3342   if (FunctionName.empty()) {
3343     ID.Kind = ValID::t_GlobalID;
3344     ID.UIntVal = NumberedVals.size() - 1;
3345   } else {
3346     ID.Kind = ValID::t_GlobalName;
3347     ID.StrVal = FunctionName;
3348   }
3349   auto Blocks = ForwardRefBlockAddresses.find(ID);
3350   if (Blocks != ForwardRefBlockAddresses.end())
3351     return Error(Blocks->first.Loc,
3352                  "cannot take blockaddress inside a declaration");
3353   return false;
3354 }
3355
3356 bool LLParser::PerFunctionState::resolveForwardRefBlockAddresses() {
3357   ValID ID;
3358   if (FunctionNumber == -1) {
3359     ID.Kind = ValID::t_GlobalName;
3360     ID.StrVal = F.getName();
3361   } else {
3362     ID.Kind = ValID::t_GlobalID;
3363     ID.UIntVal = FunctionNumber;
3364   }
3365
3366   auto Blocks = P.ForwardRefBlockAddresses.find(ID);
3367   if (Blocks == P.ForwardRefBlockAddresses.end())
3368     return false;
3369
3370   for (const auto &I : Blocks->second) {
3371     const ValID &BBID = I.first;
3372     GlobalValue *GV = I.second;
3373
3374     assert((BBID.Kind == ValID::t_LocalID || BBID.Kind == ValID::t_LocalName) &&
3375            "Expected local id or name");
3376     BasicBlock *BB;
3377     if (BBID.Kind == ValID::t_LocalName)
3378       BB = GetBB(BBID.StrVal, BBID.Loc);
3379     else
3380       BB = GetBB(BBID.UIntVal, BBID.Loc);
3381     if (!BB)
3382       return P.Error(BBID.Loc, "referenced value is not a basic block");
3383
3384     GV->replaceAllUsesWith(BlockAddress::get(&F, BB));
3385     GV->eraseFromParent();
3386   }
3387
3388   P.ForwardRefBlockAddresses.erase(Blocks);
3389   return false;
3390 }
3391
3392 /// ParseFunctionBody
3393 ///   ::= '{' BasicBlock+ UseListOrderDirective* '}'
3394 bool LLParser::ParseFunctionBody(Function &Fn) {
3395   if (Lex.getKind() != lltok::lbrace)
3396     return TokError("expected '{' in function body");
3397   Lex.Lex();  // eat the {.
3398
3399   int FunctionNumber = -1;
3400   if (!Fn.hasName()) FunctionNumber = NumberedVals.size()-1;
3401
3402   PerFunctionState PFS(*this, Fn, FunctionNumber);
3403
3404   // Resolve block addresses and allow basic blocks to be forward-declared
3405   // within this function.
3406   if (PFS.resolveForwardRefBlockAddresses())
3407     return true;
3408   SaveAndRestore<PerFunctionState *> ScopeExit(BlockAddressPFS, &PFS);
3409
3410   // We need at least one basic block.
3411   if (Lex.getKind() == lltok::rbrace || Lex.getKind() == lltok::kw_uselistorder)
3412     return TokError("function body requires at least one basic block");
3413
3414   while (Lex.getKind() != lltok::rbrace &&
3415          Lex.getKind() != lltok::kw_uselistorder)
3416     if (ParseBasicBlock(PFS)) return true;
3417
3418   while (Lex.getKind() != lltok::rbrace)
3419     if (ParseUseListOrder(&PFS))
3420       return true;
3421
3422   // Eat the }.
3423   Lex.Lex();
3424
3425   // Verify function is ok.
3426   return PFS.FinishFunction();
3427 }
3428
3429 /// ParseBasicBlock
3430 ///   ::= LabelStr? Instruction*
3431 bool LLParser::ParseBasicBlock(PerFunctionState &PFS) {
3432   // If this basic block starts out with a name, remember it.
3433   std::string Name;
3434   LocTy NameLoc = Lex.getLoc();
3435   if (Lex.getKind() == lltok::LabelStr) {
3436     Name = Lex.getStrVal();
3437     Lex.Lex();
3438   }
3439
3440   BasicBlock *BB = PFS.DefineBB(Name, NameLoc);
3441   if (!BB) return true;
3442
3443   std::string NameStr;
3444
3445   // Parse the instructions in this block until we get a terminator.
3446   Instruction *Inst;
3447   do {
3448     // This instruction may have three possibilities for a name: a) none
3449     // specified, b) name specified "%foo =", c) number specified: "%4 =".
3450     LocTy NameLoc = Lex.getLoc();
3451     int NameID = -1;
3452     NameStr = "";
3453
3454     if (Lex.getKind() == lltok::LocalVarID) {
3455       NameID = Lex.getUIntVal();
3456       Lex.Lex();
3457       if (ParseToken(lltok::equal, "expected '=' after instruction id"))
3458         return true;
3459     } else if (Lex.getKind() == lltok::LocalVar) {
3460       NameStr = Lex.getStrVal();
3461       Lex.Lex();
3462       if (ParseToken(lltok::equal, "expected '=' after instruction name"))
3463         return true;
3464     }
3465
3466     switch (ParseInstruction(Inst, BB, PFS)) {
3467     default: llvm_unreachable("Unknown ParseInstruction result!");
3468     case InstError: return true;
3469     case InstNormal:
3470       BB->getInstList().push_back(Inst);
3471
3472       // With a normal result, we check to see if the instruction is followed by
3473       // a comma and metadata.
3474       if (EatIfPresent(lltok::comma))
3475         if (ParseInstructionMetadata(Inst, &PFS))
3476           return true;
3477       break;
3478     case InstExtraComma:
3479       BB->getInstList().push_back(Inst);
3480
3481       // If the instruction parser ate an extra comma at the end of it, it
3482       // *must* be followed by metadata.
3483       if (ParseInstructionMetadata(Inst, &PFS))
3484         return true;
3485       break;
3486     }
3487
3488     // Set the name on the instruction.
3489     if (PFS.SetInstName(NameID, NameStr, NameLoc, Inst)) return true;
3490   } while (!isa<TerminatorInst>(Inst));
3491
3492   return false;
3493 }
3494
3495 //===----------------------------------------------------------------------===//
3496 // Instruction Parsing.
3497 //===----------------------------------------------------------------------===//
3498
3499 /// ParseInstruction - Parse one of the many different instructions.
3500 ///
3501 int LLParser::ParseInstruction(Instruction *&Inst, BasicBlock *BB,
3502                                PerFunctionState &PFS) {
3503   lltok::Kind Token = Lex.getKind();
3504   if (Token == lltok::Eof)
3505     return TokError("found end of file when expecting more instructions");
3506   LocTy Loc = Lex.getLoc();
3507   unsigned KeywordVal = Lex.getUIntVal();
3508   Lex.Lex();  // Eat the keyword.
3509
3510   switch (Token) {
3511   default:                    return Error(Loc, "expected instruction opcode");
3512   // Terminator Instructions.
3513   case lltok::kw_unreachable: Inst = new UnreachableInst(Context); return false;
3514   case lltok::kw_ret:         return ParseRet(Inst, BB, PFS);
3515   case lltok::kw_br:          return ParseBr(Inst, PFS);
3516   case lltok::kw_switch:      return ParseSwitch(Inst, PFS);
3517   case lltok::kw_indirectbr:  return ParseIndirectBr(Inst, PFS);
3518   case lltok::kw_invoke:      return ParseInvoke(Inst, PFS);
3519   case lltok::kw_resume:      return ParseResume(Inst, PFS);
3520   // Binary Operators.
3521   case lltok::kw_add:
3522   case lltok::kw_sub:
3523   case lltok::kw_mul:
3524   case lltok::kw_shl: {
3525     bool NUW = EatIfPresent(lltok::kw_nuw);
3526     bool NSW = EatIfPresent(lltok::kw_nsw);
3527     if (!NUW) NUW = EatIfPresent(lltok::kw_nuw);
3528
3529     if (ParseArithmetic(Inst, PFS, KeywordVal, 1)) return true;
3530
3531     if (NUW) cast<BinaryOperator>(Inst)->setHasNoUnsignedWrap(true);
3532     if (NSW) cast<BinaryOperator>(Inst)->setHasNoSignedWrap(true);
3533     return false;
3534   }
3535   case lltok::kw_fadd:
3536   case lltok::kw_fsub:
3537   case lltok::kw_fmul:
3538   case lltok::kw_fdiv:
3539   case lltok::kw_frem: {
3540     FastMathFlags FMF = EatFastMathFlagsIfPresent();
3541     int Res = ParseArithmetic(Inst, PFS, KeywordVal, 2);
3542     if (Res != 0)
3543       return Res;
3544     if (FMF.any())
3545       Inst->setFastMathFlags(FMF);
3546     return 0;
3547   }
3548
3549   case lltok::kw_sdiv:
3550   case lltok::kw_udiv:
3551   case lltok::kw_lshr:
3552   case lltok::kw_ashr: {
3553     bool Exact = EatIfPresent(lltok::kw_exact);
3554
3555     if (ParseArithmetic(Inst, PFS, KeywordVal, 1)) return true;
3556     if (Exact) cast<BinaryOperator>(Inst)->setIsExact(true);
3557     return false;
3558   }
3559
3560   case lltok::kw_urem:
3561   case lltok::kw_srem:   return ParseArithmetic(Inst, PFS, KeywordVal, 1);
3562   case lltok::kw_and:
3563   case lltok::kw_or:
3564   case lltok::kw_xor:    return ParseLogical(Inst, PFS, KeywordVal);
3565   case lltok::kw_icmp:
3566   case lltok::kw_fcmp:   return ParseCompare(Inst, PFS, KeywordVal);
3567   // Casts.
3568   case lltok::kw_trunc:
3569   case lltok::kw_zext:
3570   case lltok::kw_sext:
3571   case lltok::kw_fptrunc:
3572   case lltok::kw_fpext:
3573   case lltok::kw_bitcast:
3574   case lltok::kw_addrspacecast:
3575   case lltok::kw_uitofp:
3576   case lltok::kw_sitofp:
3577   case lltok::kw_fptoui:
3578   case lltok::kw_fptosi:
3579   case lltok::kw_inttoptr:
3580   case lltok::kw_ptrtoint:       return ParseCast(Inst, PFS, KeywordVal);
3581   // Other.
3582   case lltok::kw_select:         return ParseSelect(Inst, PFS);
3583   case lltok::kw_va_arg:         return ParseVA_Arg(Inst, PFS);
3584   case lltok::kw_extractelement: return ParseExtractElement(Inst, PFS);
3585   case lltok::kw_insertelement:  return ParseInsertElement(Inst, PFS);
3586   case lltok::kw_shufflevector:  return ParseShuffleVector(Inst, PFS);
3587   case lltok::kw_phi:            return ParsePHI(Inst, PFS);
3588   case lltok::kw_landingpad:     return ParseLandingPad(Inst, PFS);
3589   // Call.
3590   case lltok::kw_call:     return ParseCall(Inst, PFS, CallInst::TCK_None);
3591   case lltok::kw_tail:     return ParseCall(Inst, PFS, CallInst::TCK_Tail);
3592   case lltok::kw_musttail: return ParseCall(Inst, PFS, CallInst::TCK_MustTail);
3593   // Memory.
3594   case lltok::kw_alloca:         return ParseAlloc(Inst, PFS);
3595   case lltok::kw_load:           return ParseLoad(Inst, PFS);
3596   case lltok::kw_store:          return ParseStore(Inst, PFS);
3597   case lltok::kw_cmpxchg:        return ParseCmpXchg(Inst, PFS);
3598   case lltok::kw_atomicrmw:      return ParseAtomicRMW(Inst, PFS);
3599   case lltok::kw_fence:          return ParseFence(Inst, PFS);
3600   case lltok::kw_getelementptr: return ParseGetElementPtr(Inst, PFS);
3601   case lltok::kw_extractvalue:  return ParseExtractValue(Inst, PFS);
3602   case lltok::kw_insertvalue:   return ParseInsertValue(Inst, PFS);
3603   }
3604 }
3605
3606 /// ParseCmpPredicate - Parse an integer or fp predicate, based on Kind.
3607 bool LLParser::ParseCmpPredicate(unsigned &P, unsigned Opc) {
3608   if (Opc == Instruction::FCmp) {
3609     switch (Lex.getKind()) {
3610     default: return TokError("expected fcmp predicate (e.g. 'oeq')");
3611     case lltok::kw_oeq: P = CmpInst::FCMP_OEQ; break;
3612     case lltok::kw_one: P = CmpInst::FCMP_ONE; break;
3613     case lltok::kw_olt: P = CmpInst::FCMP_OLT; break;
3614     case lltok::kw_ogt: P = CmpInst::FCMP_OGT; break;
3615     case lltok::kw_ole: P = CmpInst::FCMP_OLE; break;
3616     case lltok::kw_oge: P = CmpInst::FCMP_OGE; break;
3617     case lltok::kw_ord: P = CmpInst::FCMP_ORD; break;
3618     case lltok::kw_uno: P = CmpInst::FCMP_UNO; break;
3619     case lltok::kw_ueq: P = CmpInst::FCMP_UEQ; break;
3620     case lltok::kw_une: P = CmpInst::FCMP_UNE; break;
3621     case lltok::kw_ult: P = CmpInst::FCMP_ULT; break;
3622     case lltok::kw_ugt: P = CmpInst::FCMP_UGT; break;
3623     case lltok::kw_ule: P = CmpInst::FCMP_ULE; break;
3624     case lltok::kw_uge: P = CmpInst::FCMP_UGE; break;
3625     case lltok::kw_true: P = CmpInst::FCMP_TRUE; break;
3626     case lltok::kw_false: P = CmpInst::FCMP_FALSE; break;
3627     }
3628   } else {
3629     switch (Lex.getKind()) {
3630     default: return TokError("expected icmp predicate (e.g. 'eq')");
3631     case lltok::kw_eq:  P = CmpInst::ICMP_EQ; break;
3632     case lltok::kw_ne:  P = CmpInst::ICMP_NE; break;
3633     case lltok::kw_slt: P = CmpInst::ICMP_SLT; break;
3634     case lltok::kw_sgt: P = CmpInst::ICMP_SGT; break;
3635     case lltok::kw_sle: P = CmpInst::ICMP_SLE; break;
3636     case lltok::kw_sge: P = CmpInst::ICMP_SGE; break;
3637     case lltok::kw_ult: P = CmpInst::ICMP_ULT; break;
3638     case lltok::kw_ugt: P = CmpInst::ICMP_UGT; break;
3639     case lltok::kw_ule: P = CmpInst::ICMP_ULE; break;
3640     case lltok::kw_uge: P = CmpInst::ICMP_UGE; break;
3641     }
3642   }
3643   Lex.Lex();
3644   return false;
3645 }
3646
3647 //===----------------------------------------------------------------------===//
3648 // Terminator Instructions.
3649 //===----------------------------------------------------------------------===//
3650
3651 /// ParseRet - Parse a return instruction.
3652 ///   ::= 'ret' void (',' !dbg, !1)*
3653 ///   ::= 'ret' TypeAndValue (',' !dbg, !1)*
3654 bool LLParser::ParseRet(Instruction *&Inst, BasicBlock *BB,
3655                         PerFunctionState &PFS) {
3656   SMLoc TypeLoc = Lex.getLoc();
3657   Type *Ty = nullptr;
3658   if (ParseType(Ty, true /*void allowed*/)) return true;
3659
3660   Type *ResType = PFS.getFunction().getReturnType();
3661
3662   if (Ty->isVoidTy()) {
3663     if (!ResType->isVoidTy())
3664       return Error(TypeLoc, "value doesn't match function result type '" +
3665                    getTypeString(ResType) + "'");
3666
3667     Inst = ReturnInst::Create(Context);
3668     return false;
3669   }
3670
3671   Value *RV;
3672   if (ParseValue(Ty, RV, PFS)) return true;
3673
3674   if (ResType != RV->getType())
3675     return Error(TypeLoc, "value doesn't match function result type '" +
3676                  getTypeString(ResType) + "'");
3677
3678   Inst = ReturnInst::Create(Context, RV);
3679   return false;
3680 }
3681
3682
3683 /// ParseBr
3684 ///   ::= 'br' TypeAndValue
3685 ///   ::= 'br' TypeAndValue ',' TypeAndValue ',' TypeAndValue
3686 bool LLParser::ParseBr(Instruction *&Inst, PerFunctionState &PFS) {
3687   LocTy Loc, Loc2;
3688   Value *Op0;
3689   BasicBlock *Op1, *Op2;
3690   if (ParseTypeAndValue(Op0, Loc, PFS)) return true;
3691
3692   if (BasicBlock *BB = dyn_cast<BasicBlock>(Op0)) {
3693     Inst = BranchInst::Create(BB);
3694     return false;
3695   }
3696
3697   if (Op0->getType() != Type::getInt1Ty(Context))
3698     return Error(Loc, "branch condition must have 'i1' type");
3699
3700   if (ParseToken(lltok::comma, "expected ',' after branch condition") ||
3701       ParseTypeAndBasicBlock(Op1, Loc, PFS) ||
3702       ParseToken(lltok::comma, "expected ',' after true destination") ||
3703       ParseTypeAndBasicBlock(Op2, Loc2, PFS))
3704     return true;
3705
3706   Inst = BranchInst::Create(Op1, Op2, Op0);
3707   return false;
3708 }
3709
3710 /// ParseSwitch
3711 ///  Instruction
3712 ///    ::= 'switch' TypeAndValue ',' TypeAndValue '[' JumpTable ']'
3713 ///  JumpTable
3714 ///    ::= (TypeAndValue ',' TypeAndValue)*
3715 bool LLParser::ParseSwitch(Instruction *&Inst, PerFunctionState &PFS) {
3716   LocTy CondLoc, BBLoc;
3717   Value *Cond;
3718   BasicBlock *DefaultBB;
3719   if (ParseTypeAndValue(Cond, CondLoc, PFS) ||
3720       ParseToken(lltok::comma, "expected ',' after switch condition") ||
3721       ParseTypeAndBasicBlock(DefaultBB, BBLoc, PFS) ||
3722       ParseToken(lltok::lsquare, "expected '[' with switch table"))
3723     return true;
3724
3725   if (!Cond->getType()->isIntegerTy())
3726     return Error(CondLoc, "switch condition must have integer type");
3727
3728   // Parse the jump table pairs.
3729   SmallPtrSet<Value*, 32> SeenCases;
3730   SmallVector<std::pair<ConstantInt*, BasicBlock*>, 32> Table;
3731   while (Lex.getKind() != lltok::rsquare) {
3732     Value *Constant;
3733     BasicBlock *DestBB;
3734
3735     if (ParseTypeAndValue(Constant, CondLoc, PFS) ||
3736         ParseToken(lltok::comma, "expected ',' after case value") ||
3737         ParseTypeAndBasicBlock(DestBB, PFS))
3738       return true;
3739
3740     if (!SeenCases.insert(Constant).second)
3741       return Error(CondLoc, "duplicate case value in switch");
3742     if (!isa<ConstantInt>(Constant))
3743       return Error(CondLoc, "case value is not a constant integer");
3744
3745     Table.push_back(std::make_pair(cast<ConstantInt>(Constant), DestBB));
3746   }
3747
3748   Lex.Lex();  // Eat the ']'.
3749
3750   SwitchInst *SI = SwitchInst::Create(Cond, DefaultBB, Table.size());
3751   for (unsigned i = 0, e = Table.size(); i != e; ++i)
3752     SI->addCase(Table[i].first, Table[i].second);
3753   Inst = SI;
3754   return false;
3755 }
3756
3757 /// ParseIndirectBr
3758 ///  Instruction
3759 ///    ::= 'indirectbr' TypeAndValue ',' '[' LabelList ']'
3760 bool LLParser::ParseIndirectBr(Instruction *&Inst, PerFunctionState &PFS) {
3761   LocTy AddrLoc;
3762   Value *Address;
3763   if (ParseTypeAndValue(Address, AddrLoc, PFS) ||
3764       ParseToken(lltok::comma, "expected ',' after indirectbr address") ||
3765       ParseToken(lltok::lsquare, "expected '[' with indirectbr"))
3766     return true;
3767
3768   if (!Address->getType()->isPointerTy())
3769     return Error(AddrLoc, "indirectbr address must have pointer type");
3770
3771   // Parse the destination list.
3772   SmallVector<BasicBlock*, 16> DestList;
3773
3774   if (Lex.getKind() != lltok::rsquare) {
3775     BasicBlock *DestBB;
3776     if (ParseTypeAndBasicBlock(DestBB, PFS))
3777       return true;
3778     DestList.push_back(DestBB);
3779
3780     while (EatIfPresent(lltok::comma)) {
3781       if (ParseTypeAndBasicBlock(DestBB, PFS))
3782         return true;
3783       DestList.push_back(DestBB);
3784     }
3785   }
3786
3787   if (ParseToken(lltok::rsquare, "expected ']' at end of block list"))
3788     return true;
3789
3790   IndirectBrInst *IBI = IndirectBrInst::Create(Address, DestList.size());
3791   for (unsigned i = 0, e = DestList.size(); i != e; ++i)
3792     IBI->addDestination(DestList[i]);
3793   Inst = IBI;
3794   return false;
3795 }
3796
3797
3798 /// ParseInvoke
3799 ///   ::= 'invoke' OptionalCallingConv OptionalAttrs Type Value ParamList
3800 ///       OptionalAttrs 'to' TypeAndValue 'unwind' TypeAndValue
3801 bool LLParser::ParseInvoke(Instruction *&Inst, PerFunctionState &PFS) {
3802   LocTy CallLoc = Lex.getLoc();
3803   AttrBuilder RetAttrs, FnAttrs;
3804   std::vector<unsigned> FwdRefAttrGrps;
3805   LocTy NoBuiltinLoc;
3806   unsigned CC;
3807   Type *RetType = nullptr;
3808   LocTy RetTypeLoc;
3809   ValID CalleeID;
3810   SmallVector<ParamInfo, 16> ArgList;
3811
3812   BasicBlock *NormalBB, *UnwindBB;
3813   if (ParseOptionalCallingConv(CC) ||
3814       ParseOptionalReturnAttrs(RetAttrs) ||
3815       ParseType(RetType, RetTypeLoc, true /*void allowed*/) ||
3816       ParseValID(CalleeID) ||
3817       ParseParameterList(ArgList, PFS) ||
3818       ParseFnAttributeValuePairs(FnAttrs, FwdRefAttrGrps, false,
3819                                  NoBuiltinLoc) ||
3820       ParseToken(lltok::kw_to, "expected 'to' in invoke") ||
3821       ParseTypeAndBasicBlock(NormalBB, PFS) ||
3822       ParseToken(lltok::kw_unwind, "expected 'unwind' in invoke") ||
3823       ParseTypeAndBasicBlock(UnwindBB, PFS))
3824     return true;
3825
3826   // If RetType is a non-function pointer type, then this is the short syntax
3827   // for the call, which means that RetType is just the return type.  Infer the
3828   // rest of the function argument types from the arguments that are present.
3829   PointerType *PFTy = nullptr;
3830   FunctionType *Ty = nullptr;
3831   if (!(PFTy = dyn_cast<PointerType>(RetType)) ||
3832       !(Ty = dyn_cast<FunctionType>(PFTy->getElementType()))) {
3833     // Pull out the types of all of the arguments...
3834     std::vector<Type*> ParamTypes;
3835     for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
3836       ParamTypes.push_back(ArgList[i].V->getType());
3837
3838     if (!FunctionType::isValidReturnType(RetType))
3839       return Error(RetTypeLoc, "Invalid result type for LLVM function");
3840
3841     Ty = FunctionType::get(RetType, ParamTypes, false);
3842     PFTy = PointerType::getUnqual(Ty);
3843   }
3844
3845   // Look up the callee.
3846   Value *Callee;
3847   if (ConvertValIDToValue(PFTy, CalleeID, Callee, &PFS)) return true;
3848
3849   // Set up the Attribute for the function.
3850   SmallVector<AttributeSet, 8> Attrs;
3851   if (RetAttrs.hasAttributes())
3852     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3853                                       AttributeSet::ReturnIndex,
3854                                       RetAttrs));
3855
3856   SmallVector<Value*, 8> Args;
3857
3858   // Loop through FunctionType's arguments and ensure they are specified
3859   // correctly.  Also, gather any parameter attributes.
3860   FunctionType::param_iterator I = Ty->param_begin();
3861   FunctionType::param_iterator E = Ty->param_end();
3862   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
3863     Type *ExpectedTy = nullptr;
3864     if (I != E) {
3865       ExpectedTy = *I++;
3866     } else if (!Ty->isVarArg()) {
3867       return Error(ArgList[i].Loc, "too many arguments specified");
3868     }
3869
3870     if (ExpectedTy && ExpectedTy != ArgList[i].V->getType())
3871       return Error(ArgList[i].Loc, "argument is not of expected type '" +
3872                    getTypeString(ExpectedTy) + "'");
3873     Args.push_back(ArgList[i].V);
3874     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
3875       AttrBuilder B(ArgList[i].Attrs, i + 1);
3876       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
3877     }
3878   }
3879
3880   if (I != E)
3881     return Error(CallLoc, "not enough parameters specified for call");
3882
3883   if (FnAttrs.hasAttributes())
3884     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3885                                       AttributeSet::FunctionIndex,
3886                                       FnAttrs));
3887
3888   // Finish off the Attribute and check them
3889   AttributeSet PAL = AttributeSet::get(Context, Attrs);
3890
3891   InvokeInst *II = InvokeInst::Create(Callee, NormalBB, UnwindBB, Args);
3892   II->setCallingConv(CC);
3893   II->setAttributes(PAL);
3894   ForwardRefAttrGroups[II] = FwdRefAttrGrps;
3895   Inst = II;
3896   return false;
3897 }
3898
3899 /// ParseResume
3900 ///   ::= 'resume' TypeAndValue
3901 bool LLParser::ParseResume(Instruction *&Inst, PerFunctionState &PFS) {
3902   Value *Exn; LocTy ExnLoc;
3903   if (ParseTypeAndValue(Exn, ExnLoc, PFS))
3904     return true;
3905
3906   ResumeInst *RI = ResumeInst::Create(Exn);
3907   Inst = RI;
3908   return false;
3909 }
3910
3911 //===----------------------------------------------------------------------===//
3912 // Binary Operators.
3913 //===----------------------------------------------------------------------===//
3914
3915 /// ParseArithmetic
3916 ///  ::= ArithmeticOps TypeAndValue ',' Value
3917 ///
3918 /// If OperandType is 0, then any FP or integer operand is allowed.  If it is 1,
3919 /// then any integer operand is allowed, if it is 2, any fp operand is allowed.
3920 bool LLParser::ParseArithmetic(Instruction *&Inst, PerFunctionState &PFS,
3921                                unsigned Opc, unsigned OperandType) {
3922   LocTy Loc; Value *LHS, *RHS;
3923   if (ParseTypeAndValue(LHS, Loc, PFS) ||
3924       ParseToken(lltok::comma, "expected ',' in arithmetic operation") ||
3925       ParseValue(LHS->getType(), RHS, PFS))
3926     return true;
3927
3928   bool Valid;
3929   switch (OperandType) {
3930   default: llvm_unreachable("Unknown operand type!");
3931   case 0: // int or FP.
3932     Valid = LHS->getType()->isIntOrIntVectorTy() ||
3933             LHS->getType()->isFPOrFPVectorTy();
3934     break;
3935   case 1: Valid = LHS->getType()->isIntOrIntVectorTy(); break;
3936   case 2: Valid = LHS->getType()->isFPOrFPVectorTy(); break;
3937   }
3938
3939   if (!Valid)
3940     return Error(Loc, "invalid operand type for instruction");
3941
3942   Inst = BinaryOperator::Create((Instruction::BinaryOps)Opc, LHS, RHS);
3943   return false;
3944 }
3945
3946 /// ParseLogical
3947 ///  ::= ArithmeticOps TypeAndValue ',' Value {
3948 bool LLParser::ParseLogical(Instruction *&Inst, PerFunctionState &PFS,
3949                             unsigned Opc) {
3950   LocTy Loc; Value *LHS, *RHS;
3951   if (ParseTypeAndValue(LHS, Loc, PFS) ||
3952       ParseToken(lltok::comma, "expected ',' in logical operation") ||
3953       ParseValue(LHS->getType(), RHS, PFS))
3954     return true;
3955
3956   if (!LHS->getType()->isIntOrIntVectorTy())
3957     return Error(Loc,"instruction requires integer or integer vector operands");
3958
3959   Inst = BinaryOperator::Create((Instruction::BinaryOps)Opc, LHS, RHS);
3960   return false;
3961 }
3962
3963
3964 /// ParseCompare
3965 ///  ::= 'icmp' IPredicates TypeAndValue ',' Value
3966 ///  ::= 'fcmp' FPredicates TypeAndValue ',' Value
3967 bool LLParser::ParseCompare(Instruction *&Inst, PerFunctionState &PFS,
3968                             unsigned Opc) {
3969   // Parse the integer/fp comparison predicate.
3970   LocTy Loc;
3971   unsigned Pred;
3972   Value *LHS, *RHS;
3973   if (ParseCmpPredicate(Pred, Opc) ||
3974       ParseTypeAndValue(LHS, Loc, PFS) ||
3975       ParseToken(lltok::comma, "expected ',' after compare value") ||
3976       ParseValue(LHS->getType(), RHS, PFS))
3977     return true;
3978
3979   if (Opc == Instruction::FCmp) {
3980     if (!LHS->getType()->isFPOrFPVectorTy())
3981       return Error(Loc, "fcmp requires floating point operands");
3982     Inst = new FCmpInst(CmpInst::Predicate(Pred), LHS, RHS);
3983   } else {
3984     assert(Opc == Instruction::ICmp && "Unknown opcode for CmpInst!");
3985     if (!LHS->getType()->isIntOrIntVectorTy() &&
3986         !LHS->getType()->getScalarType()->isPointerTy())
3987       return Error(Loc, "icmp requires integer operands");
3988     Inst = new ICmpInst(CmpInst::Predicate(Pred), LHS, RHS);
3989   }
3990   return false;
3991 }
3992
3993 //===----------------------------------------------------------------------===//
3994 // Other Instructions.
3995 //===----------------------------------------------------------------------===//
3996
3997
3998 /// ParseCast
3999 ///   ::= CastOpc TypeAndValue 'to' Type
4000 bool LLParser::ParseCast(Instruction *&Inst, PerFunctionState &PFS,
4001                          unsigned Opc) {
4002   LocTy Loc;
4003   Value *Op;
4004   Type *DestTy = nullptr;
4005   if (ParseTypeAndValue(Op, Loc, PFS) ||
4006       ParseToken(lltok::kw_to, "expected 'to' after cast value") ||
4007       ParseType(DestTy))
4008     return true;
4009
4010   if (!CastInst::castIsValid((Instruction::CastOps)Opc, Op, DestTy)) {
4011     CastInst::castIsValid((Instruction::CastOps)Opc, Op, DestTy);
4012     return Error(Loc, "invalid cast opcode for cast from '" +
4013                  getTypeString(Op->getType()) + "' to '" +
4014                  getTypeString(DestTy) + "'");
4015   }
4016   Inst = CastInst::Create((Instruction::CastOps)Opc, Op, DestTy);
4017   return false;
4018 }
4019
4020 /// ParseSelect
4021 ///   ::= 'select' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4022 bool LLParser::ParseSelect(Instruction *&Inst, PerFunctionState &PFS) {
4023   LocTy Loc;
4024   Value *Op0, *Op1, *Op2;
4025   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4026       ParseToken(lltok::comma, "expected ',' after select condition") ||
4027       ParseTypeAndValue(Op1, PFS) ||
4028       ParseToken(lltok::comma, "expected ',' after select value") ||
4029       ParseTypeAndValue(Op2, PFS))
4030     return true;
4031
4032   if (const char *Reason = SelectInst::areInvalidOperands(Op0, Op1, Op2))
4033     return Error(Loc, Reason);
4034
4035   Inst = SelectInst::Create(Op0, Op1, Op2);
4036   return false;
4037 }
4038
4039 /// ParseVA_Arg
4040 ///   ::= 'va_arg' TypeAndValue ',' Type
4041 bool LLParser::ParseVA_Arg(Instruction *&Inst, PerFunctionState &PFS) {
4042   Value *Op;
4043   Type *EltTy = nullptr;
4044   LocTy TypeLoc;
4045   if (ParseTypeAndValue(Op, PFS) ||
4046       ParseToken(lltok::comma, "expected ',' after vaarg operand") ||
4047       ParseType(EltTy, TypeLoc))
4048     return true;
4049
4050   if (!EltTy->isFirstClassType())
4051     return Error(TypeLoc, "va_arg requires operand with first class type");
4052
4053   Inst = new VAArgInst(Op, EltTy);
4054   return false;
4055 }
4056
4057 /// ParseExtractElement
4058 ///   ::= 'extractelement' TypeAndValue ',' TypeAndValue
4059 bool LLParser::ParseExtractElement(Instruction *&Inst, PerFunctionState &PFS) {
4060   LocTy Loc;
4061   Value *Op0, *Op1;
4062   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4063       ParseToken(lltok::comma, "expected ',' after extract value") ||
4064       ParseTypeAndValue(Op1, PFS))
4065     return true;
4066
4067   if (!ExtractElementInst::isValidOperands(Op0, Op1))
4068     return Error(Loc, "invalid extractelement operands");
4069
4070   Inst = ExtractElementInst::Create(Op0, Op1);
4071   return false;
4072 }
4073
4074 /// ParseInsertElement
4075 ///   ::= 'insertelement' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4076 bool LLParser::ParseInsertElement(Instruction *&Inst, PerFunctionState &PFS) {
4077   LocTy Loc;
4078   Value *Op0, *Op1, *Op2;
4079   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4080       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4081       ParseTypeAndValue(Op1, PFS) ||
4082       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4083       ParseTypeAndValue(Op2, PFS))
4084     return true;
4085
4086   if (!InsertElementInst::isValidOperands(Op0, Op1, Op2))
4087     return Error(Loc, "invalid insertelement operands");
4088
4089   Inst = InsertElementInst::Create(Op0, Op1, Op2);
4090   return false;
4091 }
4092
4093 /// ParseShuffleVector
4094 ///   ::= 'shufflevector' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4095 bool LLParser::ParseShuffleVector(Instruction *&Inst, PerFunctionState &PFS) {
4096   LocTy Loc;
4097   Value *Op0, *Op1, *Op2;
4098   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4099       ParseToken(lltok::comma, "expected ',' after shuffle mask") ||
4100       ParseTypeAndValue(Op1, PFS) ||
4101       ParseToken(lltok::comma, "expected ',' after shuffle value") ||
4102       ParseTypeAndValue(Op2, PFS))
4103     return true;
4104
4105   if (!ShuffleVectorInst::isValidOperands(Op0, Op1, Op2))
4106     return Error(Loc, "invalid shufflevector operands");
4107
4108   Inst = new ShuffleVectorInst(Op0, Op1, Op2);
4109   return false;
4110 }
4111
4112 /// ParsePHI
4113 ///   ::= 'phi' Type '[' Value ',' Value ']' (',' '[' Value ',' Value ']')*
4114 int LLParser::ParsePHI(Instruction *&Inst, PerFunctionState &PFS) {
4115   Type *Ty = nullptr;  LocTy TypeLoc;
4116   Value *Op0, *Op1;
4117
4118   if (ParseType(Ty, TypeLoc) ||
4119       ParseToken(lltok::lsquare, "expected '[' in phi value list") ||
4120       ParseValue(Ty, Op0, PFS) ||
4121       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4122       ParseValue(Type::getLabelTy(Context), Op1, PFS) ||
4123       ParseToken(lltok::rsquare, "expected ']' in phi value list"))
4124     return true;
4125
4126   bool AteExtraComma = false;
4127   SmallVector<std::pair<Value*, BasicBlock*>, 16> PHIVals;
4128   while (1) {
4129     PHIVals.push_back(std::make_pair(Op0, cast<BasicBlock>(Op1)));
4130
4131     if (!EatIfPresent(lltok::comma))
4132       break;
4133
4134     if (Lex.getKind() == lltok::MetadataVar) {
4135       AteExtraComma = true;
4136       break;
4137     }
4138
4139     if (ParseToken(lltok::lsquare, "expected '[' in phi value list") ||
4140         ParseValue(Ty, Op0, PFS) ||
4141         ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4142         ParseValue(Type::getLabelTy(Context), Op1, PFS) ||
4143         ParseToken(lltok::rsquare, "expected ']' in phi value list"))
4144       return true;
4145   }
4146
4147   if (!Ty->isFirstClassType())
4148     return Error(TypeLoc, "phi node must have first class type");
4149
4150   PHINode *PN = PHINode::Create(Ty, PHIVals.size());
4151   for (unsigned i = 0, e = PHIVals.size(); i != e; ++i)
4152     PN->addIncoming(PHIVals[i].first, PHIVals[i].second);
4153   Inst = PN;
4154   return AteExtraComma ? InstExtraComma : InstNormal;
4155 }
4156
4157 /// ParseLandingPad
4158 ///   ::= 'landingpad' Type 'personality' TypeAndValue 'cleanup'? Clause+
4159 /// Clause
4160 ///   ::= 'catch' TypeAndValue
4161 ///   ::= 'filter'
4162 ///   ::= 'filter' TypeAndValue ( ',' TypeAndValue )*
4163 bool LLParser::ParseLandingPad(Instruction *&Inst, PerFunctionState &PFS) {
4164   Type *Ty = nullptr; LocTy TyLoc;
4165   Value *PersFn; LocTy PersFnLoc;
4166
4167   if (ParseType(Ty, TyLoc) ||
4168       ParseToken(lltok::kw_personality, "expected 'personality'") ||
4169       ParseTypeAndValue(PersFn, PersFnLoc, PFS))
4170     return true;
4171
4172   LandingPadInst *LP = LandingPadInst::Create(Ty, PersFn, 0);
4173   LP->setCleanup(EatIfPresent(lltok::kw_cleanup));
4174
4175   while (Lex.getKind() == lltok::kw_catch || Lex.getKind() == lltok::kw_filter){
4176     LandingPadInst::ClauseType CT;
4177     if (EatIfPresent(lltok::kw_catch))
4178       CT = LandingPadInst::Catch;
4179     else if (EatIfPresent(lltok::kw_filter))
4180       CT = LandingPadInst::Filter;
4181     else
4182       return TokError("expected 'catch' or 'filter' clause type");
4183
4184     Value *V;
4185     LocTy VLoc;
4186     if (ParseTypeAndValue(V, VLoc, PFS)) {
4187       delete LP;
4188       return true;
4189     }
4190
4191     // A 'catch' type expects a non-array constant. A filter clause expects an
4192     // array constant.
4193     if (CT == LandingPadInst::Catch) {
4194       if (isa<ArrayType>(V->getType()))
4195         Error(VLoc, "'catch' clause has an invalid type");
4196     } else {
4197       if (!isa<ArrayType>(V->getType()))
4198         Error(VLoc, "'filter' clause has an invalid type");
4199     }
4200
4201     LP->addClause(cast<Constant>(V));
4202   }
4203
4204   Inst = LP;
4205   return false;
4206 }
4207
4208 /// ParseCall
4209 ///   ::= 'call' OptionalCallingConv OptionalAttrs Type Value
4210 ///       ParameterList OptionalAttrs
4211 ///   ::= 'tail' 'call' OptionalCallingConv OptionalAttrs Type Value
4212 ///       ParameterList OptionalAttrs
4213 ///   ::= 'musttail' 'call' OptionalCallingConv OptionalAttrs Type Value
4214 ///       ParameterList OptionalAttrs
4215 bool LLParser::ParseCall(Instruction *&Inst, PerFunctionState &PFS,
4216                          CallInst::TailCallKind TCK) {
4217   AttrBuilder RetAttrs, FnAttrs;
4218   std::vector<unsigned> FwdRefAttrGrps;
4219   LocTy BuiltinLoc;
4220   unsigned CC;
4221   Type *RetType = nullptr;
4222   LocTy RetTypeLoc;
4223   ValID CalleeID;
4224   SmallVector<ParamInfo, 16> ArgList;
4225   LocTy CallLoc = Lex.getLoc();
4226
4227   if ((TCK != CallInst::TCK_None &&
4228        ParseToken(lltok::kw_call, "expected 'tail call'")) ||
4229       ParseOptionalCallingConv(CC) ||
4230       ParseOptionalReturnAttrs(RetAttrs) ||
4231       ParseType(RetType, RetTypeLoc, true /*void allowed*/) ||
4232       ParseValID(CalleeID) ||
4233       ParseParameterList(ArgList, PFS, TCK == CallInst::TCK_MustTail,
4234                          PFS.getFunction().isVarArg()) ||
4235       ParseFnAttributeValuePairs(FnAttrs, FwdRefAttrGrps, false,
4236                                  BuiltinLoc))
4237     return true;
4238
4239   // If RetType is a non-function pointer type, then this is the short syntax
4240   // for the call, which means that RetType is just the return type.  Infer the
4241   // rest of the function argument types from the arguments that are present.
4242   PointerType *PFTy = nullptr;
4243   FunctionType *Ty = nullptr;
4244   if (!(PFTy = dyn_cast<PointerType>(RetType)) ||
4245       !(Ty = dyn_cast<FunctionType>(PFTy->getElementType()))) {
4246     // Pull out the types of all of the arguments...
4247     std::vector<Type*> ParamTypes;
4248     for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
4249       ParamTypes.push_back(ArgList[i].V->getType());
4250
4251     if (!FunctionType::isValidReturnType(RetType))
4252       return Error(RetTypeLoc, "Invalid result type for LLVM function");
4253
4254     Ty = FunctionType::get(RetType, ParamTypes, false);
4255     PFTy = PointerType::getUnqual(Ty);
4256   }
4257
4258   // Look up the callee.
4259   Value *Callee;
4260   if (ConvertValIDToValue(PFTy, CalleeID, Callee, &PFS)) return true;
4261
4262   // Set up the Attribute for the function.
4263   SmallVector<AttributeSet, 8> Attrs;
4264   if (RetAttrs.hasAttributes())
4265     Attrs.push_back(AttributeSet::get(RetType->getContext(),
4266                                       AttributeSet::ReturnIndex,
4267                                       RetAttrs));
4268
4269   SmallVector<Value*, 8> Args;
4270
4271   // Loop through FunctionType's arguments and ensure they are specified
4272   // correctly.  Also, gather any parameter attributes.
4273   FunctionType::param_iterator I = Ty->param_begin();
4274   FunctionType::param_iterator E = Ty->param_end();
4275   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
4276     Type *ExpectedTy = nullptr;
4277     if (I != E) {
4278       ExpectedTy = *I++;
4279     } else if (!Ty->isVarArg()) {
4280       return Error(ArgList[i].Loc, "too many arguments specified");
4281     }
4282
4283     if (ExpectedTy && ExpectedTy != ArgList[i].V->getType())
4284       return Error(ArgList[i].Loc, "argument is not of expected type '" +
4285                    getTypeString(ExpectedTy) + "'");
4286     Args.push_back(ArgList[i].V);
4287     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
4288       AttrBuilder B(ArgList[i].Attrs, i + 1);
4289       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
4290     }
4291   }
4292
4293   if (I != E)
4294     return Error(CallLoc, "not enough parameters specified for call");
4295
4296   if (FnAttrs.hasAttributes())
4297     Attrs.push_back(AttributeSet::get(RetType->getContext(),
4298                                       AttributeSet::FunctionIndex,
4299                                       FnAttrs));
4300
4301   // Finish off the Attribute and check them
4302   AttributeSet PAL = AttributeSet::get(Context, Attrs);
4303
4304   CallInst *CI = CallInst::Create(Callee, Args);
4305   CI->setTailCallKind(TCK);
4306   CI->setCallingConv(CC);
4307   CI->setAttributes(PAL);
4308   ForwardRefAttrGroups[CI] = FwdRefAttrGrps;
4309   Inst = CI;
4310   return false;
4311 }
4312
4313 //===----------------------------------------------------------------------===//
4314 // Memory Instructions.
4315 //===----------------------------------------------------------------------===//
4316
4317 /// ParseAlloc
4318 ///   ::= 'alloca' 'inalloca'? Type (',' TypeAndValue)? (',' 'align' i32)?
4319 int LLParser::ParseAlloc(Instruction *&Inst, PerFunctionState &PFS) {
4320   Value *Size = nullptr;
4321   LocTy SizeLoc;
4322   unsigned Alignment = 0;
4323   Type *Ty = nullptr;
4324
4325   bool IsInAlloca = EatIfPresent(lltok::kw_inalloca);
4326
4327   if (ParseType(Ty)) return true;
4328
4329   bool AteExtraComma = false;
4330   if (EatIfPresent(lltok::comma)) {
4331     if (Lex.getKind() == lltok::kw_align) {
4332       if (ParseOptionalAlignment(Alignment)) return true;
4333     } else if (Lex.getKind() == lltok::MetadataVar) {
4334       AteExtraComma = true;
4335     } else {
4336       if (ParseTypeAndValue(Size, SizeLoc, PFS) ||
4337           ParseOptionalCommaAlign(Alignment, AteExtraComma))
4338         return true;
4339     }
4340   }
4341
4342   if (Size && !Size->getType()->isIntegerTy())
4343     return Error(SizeLoc, "element count must have integer type");
4344
4345   AllocaInst *AI = new AllocaInst(Ty, Size, Alignment);
4346   AI->setUsedWithInAlloca(IsInAlloca);
4347   Inst = AI;
4348   return AteExtraComma ? InstExtraComma : InstNormal;
4349 }
4350
4351 /// ParseLoad
4352 ///   ::= 'load' 'volatile'? TypeAndValue (',' 'align' i32)?
4353 ///   ::= 'load' 'atomic' 'volatile'? TypeAndValue
4354 ///       'singlethread'? AtomicOrdering (',' 'align' i32)?
4355 int LLParser::ParseLoad(Instruction *&Inst, PerFunctionState &PFS) {
4356   Value *Val; LocTy Loc;
4357   unsigned Alignment = 0;
4358   bool AteExtraComma = false;
4359   bool isAtomic = false;
4360   AtomicOrdering Ordering = NotAtomic;
4361   SynchronizationScope Scope = CrossThread;
4362
4363   if (Lex.getKind() == lltok::kw_atomic) {
4364     isAtomic = true;
4365     Lex.Lex();
4366   }
4367
4368   bool isVolatile = false;
4369   if (Lex.getKind() == lltok::kw_volatile) {
4370     isVolatile = true;
4371     Lex.Lex();
4372   }
4373
4374   if (ParseTypeAndValue(Val, Loc, PFS) ||
4375       ParseScopeAndOrdering(isAtomic, Scope, Ordering) ||
4376       ParseOptionalCommaAlign(Alignment, AteExtraComma))
4377     return true;
4378
4379   if (!Val->getType()->isPointerTy() ||
4380       !cast<PointerType>(Val->getType())->getElementType()->isFirstClassType())
4381     return Error(Loc, "load operand must be a pointer to a first class type");
4382   if (isAtomic && !Alignment)
4383     return Error(Loc, "atomic load must have explicit non-zero alignment");
4384   if (Ordering == Release || Ordering == AcquireRelease)
4385     return Error(Loc, "atomic load cannot use Release ordering");
4386
4387   Inst = new LoadInst(Val, "", isVolatile, Alignment, Ordering, Scope);
4388   return AteExtraComma ? InstExtraComma : InstNormal;
4389 }
4390
4391 /// ParseStore
4392
4393 ///   ::= 'store' 'volatile'? TypeAndValue ',' TypeAndValue (',' 'align' i32)?
4394 ///   ::= 'store' 'atomic' 'volatile'? TypeAndValue ',' TypeAndValue
4395 ///       'singlethread'? AtomicOrdering (',' 'align' i32)?
4396 int LLParser::ParseStore(Instruction *&Inst, PerFunctionState &PFS) {
4397   Value *Val, *Ptr; LocTy Loc, PtrLoc;
4398   unsigned Alignment = 0;
4399   bool AteExtraComma = false;
4400   bool isAtomic = false;
4401   AtomicOrdering Ordering = NotAtomic;
4402   SynchronizationScope Scope = CrossThread;
4403
4404   if (Lex.getKind() == lltok::kw_atomic) {
4405     isAtomic = true;
4406     Lex.Lex();
4407   }
4408
4409   bool isVolatile = false;
4410   if (Lex.getKind() == lltok::kw_volatile) {
4411     isVolatile = true;
4412     Lex.Lex();
4413   }
4414
4415   if (ParseTypeAndValue(Val, Loc, PFS) ||
4416       ParseToken(lltok::comma, "expected ',' after store operand") ||
4417       ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4418       ParseScopeAndOrdering(isAtomic, Scope, Ordering) ||
4419       ParseOptionalCommaAlign(Alignment, AteExtraComma))
4420     return true;
4421
4422   if (!Ptr->getType()->isPointerTy())
4423     return Error(PtrLoc, "store operand must be a pointer");
4424   if (!Val->getType()->isFirstClassType())
4425     return Error(Loc, "store operand must be a first class value");
4426   if (cast<PointerType>(Ptr->getType())->getElementType() != Val->getType())
4427     return Error(Loc, "stored value and pointer type do not match");
4428   if (isAtomic && !Alignment)
4429     return Error(Loc, "atomic store must have explicit non-zero alignment");
4430   if (Ordering == Acquire || Ordering == AcquireRelease)
4431     return Error(Loc, "atomic store cannot use Acquire ordering");
4432
4433   Inst = new StoreInst(Val, Ptr, isVolatile, Alignment, Ordering, Scope);
4434   return AteExtraComma ? InstExtraComma : InstNormal;
4435 }
4436
4437 /// ParseCmpXchg
4438 ///   ::= 'cmpxchg' 'weak'? 'volatile'? TypeAndValue ',' TypeAndValue ','
4439 ///       TypeAndValue 'singlethread'? AtomicOrdering AtomicOrdering
4440 int LLParser::ParseCmpXchg(Instruction *&Inst, PerFunctionState &PFS) {
4441   Value *Ptr, *Cmp, *New; LocTy PtrLoc, CmpLoc, NewLoc;
4442   bool AteExtraComma = false;
4443   AtomicOrdering SuccessOrdering = NotAtomic;
4444   AtomicOrdering FailureOrdering = NotAtomic;
4445   SynchronizationScope Scope = CrossThread;
4446   bool isVolatile = false;
4447   bool isWeak = false;
4448
4449   if (EatIfPresent(lltok::kw_weak))
4450     isWeak = true;
4451
4452   if (EatIfPresent(lltok::kw_volatile))
4453     isVolatile = true;
4454
4455   if (ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4456       ParseToken(lltok::comma, "expected ',' after cmpxchg address") ||
4457       ParseTypeAndValue(Cmp, CmpLoc, PFS) ||
4458       ParseToken(lltok::comma, "expected ',' after cmpxchg cmp operand") ||
4459       ParseTypeAndValue(New, NewLoc, PFS) ||
4460       ParseScopeAndOrdering(true /*Always atomic*/, Scope, SuccessOrdering) ||
4461       ParseOrdering(FailureOrdering))
4462     return true;
4463
4464   if (SuccessOrdering == Unordered || FailureOrdering == Unordered)
4465     return TokError("cmpxchg cannot be unordered");
4466   if (SuccessOrdering < FailureOrdering)
4467     return TokError("cmpxchg must be at least as ordered on success as failure");
4468   if (FailureOrdering == Release || FailureOrdering == AcquireRelease)
4469     return TokError("cmpxchg failure ordering cannot include release semantics");
4470   if (!Ptr->getType()->isPointerTy())
4471     return Error(PtrLoc, "cmpxchg operand must be a pointer");
4472   if (cast<PointerType>(Ptr->getType())->getElementType() != Cmp->getType())
4473     return Error(CmpLoc, "compare value and pointer type do not match");
4474   if (cast<PointerType>(Ptr->getType())->getElementType() != New->getType())
4475     return Error(NewLoc, "new value and pointer type do not match");
4476   if (!New->getType()->isIntegerTy())
4477     return Error(NewLoc, "cmpxchg operand must be an integer");
4478   unsigned Size = New->getType()->getPrimitiveSizeInBits();
4479   if (Size < 8 || (Size & (Size - 1)))
4480     return Error(NewLoc, "cmpxchg operand must be power-of-two byte-sized"
4481                          " integer");
4482
4483   AtomicCmpXchgInst *CXI = new AtomicCmpXchgInst(
4484       Ptr, Cmp, New, SuccessOrdering, FailureOrdering, Scope);
4485   CXI->setVolatile(isVolatile);
4486   CXI->setWeak(isWeak);
4487   Inst = CXI;
4488   return AteExtraComma ? InstExtraComma : InstNormal;
4489 }
4490
4491 /// ParseAtomicRMW
4492 ///   ::= 'atomicrmw' 'volatile'? BinOp TypeAndValue ',' TypeAndValue
4493 ///       'singlethread'? AtomicOrdering
4494 int LLParser::ParseAtomicRMW(Instruction *&Inst, PerFunctionState &PFS) {
4495   Value *Ptr, *Val; LocTy PtrLoc, ValLoc;
4496   bool AteExtraComma = false;
4497   AtomicOrdering Ordering = NotAtomic;
4498   SynchronizationScope Scope = CrossThread;
4499   bool isVolatile = false;
4500   AtomicRMWInst::BinOp Operation;
4501
4502   if (EatIfPresent(lltok::kw_volatile))
4503     isVolatile = true;
4504
4505   switch (Lex.getKind()) {
4506   default: return TokError("expected binary operation in atomicrmw");
4507   case lltok::kw_xchg: Operation = AtomicRMWInst::Xchg; break;
4508   case lltok::kw_add: Operation = AtomicRMWInst::Add; break;
4509   case lltok::kw_sub: Operation = AtomicRMWInst::Sub; break;
4510   case lltok::kw_and: Operation = AtomicRMWInst::And; break;
4511   case lltok::kw_nand: Operation = AtomicRMWInst::Nand; break;
4512   case lltok::kw_or: Operation = AtomicRMWInst::Or; break;
4513   case lltok::kw_xor: Operation = AtomicRMWInst::Xor; break;
4514   case lltok::kw_max: Operation = AtomicRMWInst::Max; break;
4515   case lltok::kw_min: Operation = AtomicRMWInst::Min; break;
4516   case lltok::kw_umax: Operation = AtomicRMWInst::UMax; break;
4517   case lltok::kw_umin: Operation = AtomicRMWInst::UMin; break;
4518   }
4519   Lex.Lex();  // Eat the operation.
4520
4521   if (ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4522       ParseToken(lltok::comma, "expected ',' after atomicrmw address") ||
4523       ParseTypeAndValue(Val, ValLoc, PFS) ||
4524       ParseScopeAndOrdering(true /*Always atomic*/, Scope, Ordering))
4525     return true;
4526
4527   if (Ordering == Unordered)
4528     return TokError("atomicrmw cannot be unordered");
4529   if (!Ptr->getType()->isPointerTy())
4530     return Error(PtrLoc, "atomicrmw operand must be a pointer");
4531   if (cast<PointerType>(Ptr->getType())->getElementType() != Val->getType())
4532     return Error(ValLoc, "atomicrmw value and pointer type do not match");
4533   if (!Val->getType()->isIntegerTy())
4534     return Error(ValLoc, "atomicrmw operand must be an integer");
4535   unsigned Size = Val->getType()->getPrimitiveSizeInBits();
4536   if (Size < 8 || (Size & (Size - 1)))
4537     return Error(ValLoc, "atomicrmw operand must be power-of-two byte-sized"
4538                          " integer");
4539
4540   AtomicRMWInst *RMWI =
4541     new AtomicRMWInst(Operation, Ptr, Val, Ordering, Scope);
4542   RMWI->setVolatile(isVolatile);
4543   Inst = RMWI;
4544   return AteExtraComma ? InstExtraComma : InstNormal;
4545 }
4546
4547 /// ParseFence
4548 ///   ::= 'fence' 'singlethread'? AtomicOrdering
4549 int LLParser::ParseFence(Instruction *&Inst, PerFunctionState &PFS) {
4550   AtomicOrdering Ordering = NotAtomic;
4551   SynchronizationScope Scope = CrossThread;
4552   if (ParseScopeAndOrdering(true /*Always atomic*/, Scope, Ordering))
4553     return true;
4554
4555   if (Ordering == Unordered)
4556     return TokError("fence cannot be unordered");
4557   if (Ordering == Monotonic)
4558     return TokError("fence cannot be monotonic");
4559
4560   Inst = new FenceInst(Context, Ordering, Scope);
4561   return InstNormal;
4562 }
4563
4564 /// ParseGetElementPtr
4565 ///   ::= 'getelementptr' 'inbounds'? TypeAndValue (',' TypeAndValue)*
4566 int LLParser::ParseGetElementPtr(Instruction *&Inst, PerFunctionState &PFS) {
4567   Value *Ptr = nullptr;
4568   Value *Val = nullptr;
4569   LocTy Loc, EltLoc;
4570
4571   bool InBounds = EatIfPresent(lltok::kw_inbounds);
4572
4573   if (ParseTypeAndValue(Ptr, Loc, PFS)) return true;
4574
4575   Type *BaseType = Ptr->getType();
4576   PointerType *BasePointerType = dyn_cast<PointerType>(BaseType->getScalarType());
4577   if (!BasePointerType)
4578     return Error(Loc, "base of getelementptr must be a pointer");
4579
4580   SmallVector<Value*, 16> Indices;
4581   bool AteExtraComma = false;
4582   while (EatIfPresent(lltok::comma)) {
4583     if (Lex.getKind() == lltok::MetadataVar) {
4584       AteExtraComma = true;
4585       break;
4586     }
4587     if (ParseTypeAndValue(Val, EltLoc, PFS)) return true;
4588     if (!Val->getType()->getScalarType()->isIntegerTy())
4589       return Error(EltLoc, "getelementptr index must be an integer");
4590     if (Val->getType()->isVectorTy() != Ptr->getType()->isVectorTy())
4591       return Error(EltLoc, "getelementptr index type missmatch");
4592     if (Val->getType()->isVectorTy()) {
4593       unsigned ValNumEl = cast<VectorType>(Val->getType())->getNumElements();
4594       unsigned PtrNumEl = cast<VectorType>(Ptr->getType())->getNumElements();
4595       if (ValNumEl != PtrNumEl)
4596         return Error(EltLoc,
4597           "getelementptr vector index has a wrong number of elements");
4598     }
4599     Indices.push_back(Val);
4600   }
4601
4602   if (!Indices.empty() && !BasePointerType->getElementType()->isSized())
4603     return Error(Loc, "base element of getelementptr must be sized");
4604
4605   if (!GetElementPtrInst::getIndexedType(BaseType, Indices))
4606     return Error(Loc, "invalid getelementptr indices");
4607   Inst = GetElementPtrInst::Create(Ptr, Indices);
4608   if (InBounds)
4609     cast<GetElementPtrInst>(Inst)->setIsInBounds(true);
4610   return AteExtraComma ? InstExtraComma : InstNormal;
4611 }
4612
4613 /// ParseExtractValue
4614 ///   ::= 'extractvalue' TypeAndValue (',' uint32)+
4615 int LLParser::ParseExtractValue(Instruction *&Inst, PerFunctionState &PFS) {
4616   Value *Val; LocTy Loc;
4617   SmallVector<unsigned, 4> Indices;
4618   bool AteExtraComma;
4619   if (ParseTypeAndValue(Val, Loc, PFS) ||
4620       ParseIndexList(Indices, AteExtraComma))
4621     return true;
4622
4623   if (!Val->getType()->isAggregateType())
4624     return Error(Loc, "extractvalue operand must be aggregate type");
4625
4626   if (!ExtractValueInst::getIndexedType(Val->getType(), Indices))
4627     return Error(Loc, "invalid indices for extractvalue");
4628   Inst = ExtractValueInst::Create(Val, Indices);
4629   return AteExtraComma ? InstExtraComma : InstNormal;
4630 }
4631
4632 /// ParseInsertValue
4633 ///   ::= 'insertvalue' TypeAndValue ',' TypeAndValue (',' uint32)+
4634 int LLParser::ParseInsertValue(Instruction *&Inst, PerFunctionState &PFS) {
4635   Value *Val0, *Val1; LocTy Loc0, Loc1;
4636   SmallVector<unsigned, 4> Indices;
4637   bool AteExtraComma;
4638   if (ParseTypeAndValue(Val0, Loc0, PFS) ||
4639       ParseToken(lltok::comma, "expected comma after insertvalue operand") ||
4640       ParseTypeAndValue(Val1, Loc1, PFS) ||
4641       ParseIndexList(Indices, AteExtraComma))
4642     return true;
4643
4644   if (!Val0->getType()->isAggregateType())
4645     return Error(Loc0, "insertvalue operand must be aggregate type");
4646
4647   if (!ExtractValueInst::getIndexedType(Val0->getType(), Indices))
4648     return Error(Loc0, "invalid indices for insertvalue");
4649   Inst = InsertValueInst::Create(Val0, Val1, Indices);
4650   return AteExtraComma ? InstExtraComma : InstNormal;
4651 }
4652
4653 //===----------------------------------------------------------------------===//
4654 // Embedded metadata.
4655 //===----------------------------------------------------------------------===//
4656
4657 /// ParseMDNodeVector
4658 ///   ::= Element (',' Element)*
4659 /// Element
4660 ///   ::= 'null' | TypeAndValue
4661 bool LLParser::ParseMDNodeVector(SmallVectorImpl<Value*> &Elts,
4662                                  PerFunctionState *PFS) {
4663   // Check for an empty list.
4664   if (Lex.getKind() == lltok::rbrace)
4665     return false;
4666
4667   do {
4668     // Null is a special case since it is typeless.
4669     if (EatIfPresent(lltok::kw_null)) {
4670       Elts.push_back(nullptr);
4671       continue;
4672     }
4673
4674     Value *V = nullptr;
4675     if (ParseTypeAndValue(V, PFS)) return true;
4676     Elts.push_back(V);
4677   } while (EatIfPresent(lltok::comma));
4678
4679   return false;
4680 }
4681
4682 //===----------------------------------------------------------------------===//
4683 // Use-list order directives.
4684 //===----------------------------------------------------------------------===//
4685 bool LLParser::sortUseListOrder(Value *V, ArrayRef<unsigned> Indexes,
4686                                 SMLoc Loc) {
4687   if (V->use_empty())
4688     return Error(Loc, "value has no uses");
4689
4690   unsigned NumUses = 0;
4691   SmallDenseMap<const Use *, unsigned, 16> Order;
4692   for (const Use &U : V->uses()) {
4693     if (++NumUses > Indexes.size())
4694       break;
4695     Order[&U] = Indexes[NumUses - 1];
4696   }
4697   if (NumUses < 2)
4698     return Error(Loc, "value only has one use");
4699   if (Order.size() != Indexes.size() || NumUses > Indexes.size())
4700     return Error(Loc, "wrong number of indexes, expected " +
4701                           Twine(std::distance(V->use_begin(), V->use_end())));
4702
4703   V->sortUseList([&](const Use &L, const Use &R) {
4704     return Order.lookup(&L) < Order.lookup(&R);
4705   });
4706   return false;
4707 }
4708
4709 /// ParseUseListOrderIndexes
4710 ///   ::= '{' uint32 (',' uint32)+ '}'
4711 bool LLParser::ParseUseListOrderIndexes(SmallVectorImpl<unsigned> &Indexes) {
4712   SMLoc Loc = Lex.getLoc();
4713   if (ParseToken(lltok::lbrace, "expected '{' here"))
4714     return true;
4715   if (Lex.getKind() == lltok::rbrace)
4716     return Lex.Error("expected non-empty list of uselistorder indexes");
4717
4718   // Use Offset, Max, and IsOrdered to check consistency of indexes.  The
4719   // indexes should be distinct numbers in the range [0, size-1], and should
4720   // not be in order.
4721   unsigned Offset = 0;
4722   unsigned Max = 0;
4723   bool IsOrdered = true;
4724   assert(Indexes.empty() && "Expected empty order vector");
4725   do {
4726     unsigned Index;
4727     if (ParseUInt32(Index))
4728       return true;
4729
4730     // Update consistency checks.
4731     Offset += Index - Indexes.size();
4732     Max = std::max(Max, Index);
4733     IsOrdered &= Index == Indexes.size();
4734
4735     Indexes.push_back(Index);
4736   } while (EatIfPresent(lltok::comma));
4737
4738   if (ParseToken(lltok::rbrace, "expected '}' here"))
4739     return true;
4740
4741   if (Indexes.size() < 2)
4742     return Error(Loc, "expected >= 2 uselistorder indexes");
4743   if (Offset != 0 || Max >= Indexes.size())
4744     return Error(Loc, "expected distinct uselistorder indexes in range [0, size)");
4745   if (IsOrdered)
4746     return Error(Loc, "expected uselistorder indexes to change the order");
4747
4748   return false;
4749 }
4750
4751 /// ParseUseListOrder
4752 ///   ::= 'uselistorder' Type Value ',' UseListOrderIndexes
4753 bool LLParser::ParseUseListOrder(PerFunctionState *PFS) {
4754   SMLoc Loc = Lex.getLoc();
4755   if (ParseToken(lltok::kw_uselistorder, "expected uselistorder directive"))
4756     return true;
4757
4758   Value *V;
4759   SmallVector<unsigned, 16> Indexes;
4760   if (ParseTypeAndValue(V, PFS) ||
4761       ParseToken(lltok::comma, "expected comma in uselistorder directive") ||
4762       ParseUseListOrderIndexes(Indexes))
4763     return true;
4764
4765   return sortUseListOrder(V, Indexes, Loc);
4766 }
4767
4768 /// ParseUseListOrderBB
4769 ///   ::= 'uselistorder_bb' @foo ',' %bar ',' UseListOrderIndexes
4770 bool LLParser::ParseUseListOrderBB() {
4771   assert(Lex.getKind() == lltok::kw_uselistorder_bb);
4772   SMLoc Loc = Lex.getLoc();
4773   Lex.Lex();
4774
4775   ValID Fn, Label;
4776   SmallVector<unsigned, 16> Indexes;
4777   if (ParseValID(Fn) ||
4778       ParseToken(lltok::comma, "expected comma in uselistorder_bb directive") ||
4779       ParseValID(Label) ||
4780       ParseToken(lltok::comma, "expected comma in uselistorder_bb directive") ||
4781       ParseUseListOrderIndexes(Indexes))
4782     return true;
4783
4784   // Check the function.
4785   GlobalValue *GV;
4786   if (Fn.Kind == ValID::t_GlobalName)
4787     GV = M->getNamedValue(Fn.StrVal);
4788   else if (Fn.Kind == ValID::t_GlobalID)
4789     GV = Fn.UIntVal < NumberedVals.size() ? NumberedVals[Fn.UIntVal] : nullptr;
4790   else
4791     return Error(Fn.Loc, "expected function name in uselistorder_bb");
4792   if (!GV)
4793     return Error(Fn.Loc, "invalid function forward reference in uselistorder_bb");
4794   auto *F = dyn_cast<Function>(GV);
4795   if (!F)
4796     return Error(Fn.Loc, "expected function name in uselistorder_bb");
4797   if (F->isDeclaration())
4798     return Error(Fn.Loc, "invalid declaration in uselistorder_bb");
4799
4800   // Check the basic block.
4801   if (Label.Kind == ValID::t_LocalID)
4802     return Error(Label.Loc, "invalid numeric label in uselistorder_bb");
4803   if (Label.Kind != ValID::t_LocalName)
4804     return Error(Label.Loc, "expected basic block name in uselistorder_bb");
4805   Value *V = F->getValueSymbolTable().lookup(Label.StrVal);
4806   if (!V)
4807     return Error(Label.Loc, "invalid basic block in uselistorder_bb");
4808   if (!isa<BasicBlock>(V))
4809     return Error(Label.Loc, "expected basic block in uselistorder_bb");
4810
4811   return sortUseListOrder(V, Indexes, Loc);
4812 }