AsmParser: Don't crash on an ill-formed MDNodeVector
[oota-llvm.git] / lib / AsmParser / LLParser.cpp
1 //===-- LLParser.cpp - Parser Class ---------------------------------------===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 //  This file defines the parser class for .ll files.
11 //
12 //===----------------------------------------------------------------------===//
13
14 #include "LLParser.h"
15 #include "llvm/ADT/SmallPtrSet.h"
16 #include "llvm/IR/AutoUpgrade.h"
17 #include "llvm/IR/CallingConv.h"
18 #include "llvm/IR/Constants.h"
19 #include "llvm/IR/DerivedTypes.h"
20 #include "llvm/IR/InlineAsm.h"
21 #include "llvm/IR/Instructions.h"
22 #include "llvm/IR/LLVMContext.h"
23 #include "llvm/IR/Module.h"
24 #include "llvm/IR/Operator.h"
25 #include "llvm/IR/ValueSymbolTable.h"
26 #include "llvm/Support/ErrorHandling.h"
27 #include "llvm/Support/SaveAndRestore.h"
28 #include "llvm/Support/raw_ostream.h"
29 using namespace llvm;
30
31 static std::string getTypeString(Type *T) {
32   std::string Result;
33   raw_string_ostream Tmp(Result);
34   Tmp << *T;
35   return Tmp.str();
36 }
37
38 /// Run: module ::= toplevelentity*
39 bool LLParser::Run() {
40   // Prime the lexer.
41   Lex.Lex();
42
43   return ParseTopLevelEntities() ||
44          ValidateEndOfModule();
45 }
46
47 /// ValidateEndOfModule - Do final validity and sanity checks at the end of the
48 /// module.
49 bool LLParser::ValidateEndOfModule() {
50   // Handle any instruction metadata forward references.
51   if (!ForwardRefInstMetadata.empty()) {
52     for (DenseMap<Instruction*, std::vector<MDRef> >::iterator
53          I = ForwardRefInstMetadata.begin(), E = ForwardRefInstMetadata.end();
54          I != E; ++I) {
55       Instruction *Inst = I->first;
56       const std::vector<MDRef> &MDList = I->second;
57
58       for (unsigned i = 0, e = MDList.size(); i != e; ++i) {
59         unsigned SlotNo = MDList[i].MDSlot;
60
61         if (SlotNo >= NumberedMetadata.size() ||
62             NumberedMetadata[SlotNo] == nullptr)
63           return Error(MDList[i].Loc, "use of undefined metadata '!" +
64                        Twine(SlotNo) + "'");
65         Inst->setMetadata(MDList[i].MDKind, NumberedMetadata[SlotNo]);
66       }
67     }
68     ForwardRefInstMetadata.clear();
69   }
70
71   for (unsigned I = 0, E = InstsWithTBAATag.size(); I < E; I++)
72     UpgradeInstWithTBAATag(InstsWithTBAATag[I]);
73
74   // Handle any function attribute group forward references.
75   for (std::map<Value*, std::vector<unsigned> >::iterator
76          I = ForwardRefAttrGroups.begin(), E = ForwardRefAttrGroups.end();
77          I != E; ++I) {
78     Value *V = I->first;
79     std::vector<unsigned> &Vec = I->second;
80     AttrBuilder B;
81
82     for (std::vector<unsigned>::iterator VI = Vec.begin(), VE = Vec.end();
83          VI != VE; ++VI)
84       B.merge(NumberedAttrBuilders[*VI]);
85
86     if (Function *Fn = dyn_cast<Function>(V)) {
87       AttributeSet AS = Fn->getAttributes();
88       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
89       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
90                                AS.getFnAttributes());
91
92       FnAttrs.merge(B);
93
94       // If the alignment was parsed as an attribute, move to the alignment
95       // field.
96       if (FnAttrs.hasAlignmentAttr()) {
97         Fn->setAlignment(FnAttrs.getAlignment());
98         FnAttrs.removeAttribute(Attribute::Alignment);
99       }
100
101       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
102                             AttributeSet::get(Context,
103                                               AttributeSet::FunctionIndex,
104                                               FnAttrs));
105       Fn->setAttributes(AS);
106     } else if (CallInst *CI = dyn_cast<CallInst>(V)) {
107       AttributeSet AS = CI->getAttributes();
108       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
109       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
110                                AS.getFnAttributes());
111       FnAttrs.merge(B);
112       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
113                             AttributeSet::get(Context,
114                                               AttributeSet::FunctionIndex,
115                                               FnAttrs));
116       CI->setAttributes(AS);
117     } else if (InvokeInst *II = dyn_cast<InvokeInst>(V)) {
118       AttributeSet AS = II->getAttributes();
119       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
120       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
121                                AS.getFnAttributes());
122       FnAttrs.merge(B);
123       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
124                             AttributeSet::get(Context,
125                                               AttributeSet::FunctionIndex,
126                                               FnAttrs));
127       II->setAttributes(AS);
128     } else {
129       llvm_unreachable("invalid object with forward attribute group reference");
130     }
131   }
132
133   // If there are entries in ForwardRefBlockAddresses at this point, the
134   // function was never defined.
135   if (!ForwardRefBlockAddresses.empty())
136     return Error(ForwardRefBlockAddresses.begin()->first.Loc,
137                  "expected function name in blockaddress");
138
139   for (unsigned i = 0, e = NumberedTypes.size(); i != e; ++i)
140     if (NumberedTypes[i].second.isValid())
141       return Error(NumberedTypes[i].second,
142                    "use of undefined type '%" + Twine(i) + "'");
143
144   for (StringMap<std::pair<Type*, LocTy> >::iterator I =
145        NamedTypes.begin(), E = NamedTypes.end(); I != E; ++I)
146     if (I->second.second.isValid())
147       return Error(I->second.second,
148                    "use of undefined type named '" + I->getKey() + "'");
149
150   if (!ForwardRefComdats.empty())
151     return Error(ForwardRefComdats.begin()->second,
152                  "use of undefined comdat '$" +
153                      ForwardRefComdats.begin()->first + "'");
154
155   if (!ForwardRefVals.empty())
156     return Error(ForwardRefVals.begin()->second.second,
157                  "use of undefined value '@" + ForwardRefVals.begin()->first +
158                  "'");
159
160   if (!ForwardRefValIDs.empty())
161     return Error(ForwardRefValIDs.begin()->second.second,
162                  "use of undefined value '@" +
163                  Twine(ForwardRefValIDs.begin()->first) + "'");
164
165   if (!ForwardRefMDNodes.empty())
166     return Error(ForwardRefMDNodes.begin()->second.second,
167                  "use of undefined metadata '!" +
168                  Twine(ForwardRefMDNodes.begin()->first) + "'");
169
170   // Resolve metadata cycles.
171   for (auto &N : NumberedMetadata)
172     if (auto *G = cast_or_null<GenericMDNode>(N))
173       G->resolveCycles();
174
175   // Look for intrinsic functions and CallInst that need to be upgraded
176   for (Module::iterator FI = M->begin(), FE = M->end(); FI != FE; )
177     UpgradeCallsToIntrinsic(FI++); // must be post-increment, as we remove
178
179   UpgradeDebugInfo(*M);
180
181   return false;
182 }
183
184 //===----------------------------------------------------------------------===//
185 // Top-Level Entities
186 //===----------------------------------------------------------------------===//
187
188 bool LLParser::ParseTopLevelEntities() {
189   while (1) {
190     switch (Lex.getKind()) {
191     default:         return TokError("expected top-level entity");
192     case lltok::Eof: return false;
193     case lltok::kw_declare: if (ParseDeclare()) return true; break;
194     case lltok::kw_define:  if (ParseDefine()) return true; break;
195     case lltok::kw_module:  if (ParseModuleAsm()) return true; break;
196     case lltok::kw_target:  if (ParseTargetDefinition()) return true; break;
197     case lltok::kw_deplibs: if (ParseDepLibs()) return true; break;
198     case lltok::LocalVarID: if (ParseUnnamedType()) return true; break;
199     case lltok::LocalVar:   if (ParseNamedType()) return true; break;
200     case lltok::GlobalID:   if (ParseUnnamedGlobal()) return true; break;
201     case lltok::GlobalVar:  if (ParseNamedGlobal()) return true; break;
202     case lltok::ComdatVar:  if (parseComdat()) return true; break;
203     case lltok::exclaim:    if (ParseStandaloneMetadata()) return true; break;
204     case lltok::MetadataVar:if (ParseNamedMetadata()) return true; break;
205
206     // The Global variable production with no name can have many different
207     // optional leading prefixes, the production is:
208     // GlobalVar ::= OptionalLinkage OptionalVisibility OptionalDLLStorageClass
209     //               OptionalThreadLocal OptionalAddrSpace OptionalUnNammedAddr
210     //               ('constant'|'global') ...
211     case lltok::kw_private:             // OptionalLinkage
212     case lltok::kw_internal:            // OptionalLinkage
213     case lltok::kw_weak:                // OptionalLinkage
214     case lltok::kw_weak_odr:            // OptionalLinkage
215     case lltok::kw_linkonce:            // OptionalLinkage
216     case lltok::kw_linkonce_odr:        // OptionalLinkage
217     case lltok::kw_appending:           // OptionalLinkage
218     case lltok::kw_common:              // OptionalLinkage
219     case lltok::kw_extern_weak:         // OptionalLinkage
220     case lltok::kw_external:            // OptionalLinkage
221     case lltok::kw_default:             // OptionalVisibility
222     case lltok::kw_hidden:              // OptionalVisibility
223     case lltok::kw_protected:           // OptionalVisibility
224     case lltok::kw_dllimport:           // OptionalDLLStorageClass
225     case lltok::kw_dllexport:           // OptionalDLLStorageClass
226     case lltok::kw_thread_local:        // OptionalThreadLocal
227     case lltok::kw_addrspace:           // OptionalAddrSpace
228     case lltok::kw_constant:            // GlobalType
229     case lltok::kw_global: {            // GlobalType
230       unsigned Linkage, Visibility, DLLStorageClass;
231       bool UnnamedAddr;
232       GlobalVariable::ThreadLocalMode TLM;
233       bool HasLinkage;
234       if (ParseOptionalLinkage(Linkage, HasLinkage) ||
235           ParseOptionalVisibility(Visibility) ||
236           ParseOptionalDLLStorageClass(DLLStorageClass) ||
237           ParseOptionalThreadLocal(TLM) ||
238           parseOptionalUnnamedAddr(UnnamedAddr) ||
239           ParseGlobal("", SMLoc(), Linkage, HasLinkage, Visibility,
240                       DLLStorageClass, TLM, UnnamedAddr))
241         return true;
242       break;
243     }
244
245     case lltok::kw_attributes: if (ParseUnnamedAttrGrp()) return true; break;
246     case lltok::kw_uselistorder: if (ParseUseListOrder()) return true; break;
247     case lltok::kw_uselistorder_bb:
248                                  if (ParseUseListOrderBB()) return true; break;
249     }
250   }
251 }
252
253
254 /// toplevelentity
255 ///   ::= 'module' 'asm' STRINGCONSTANT
256 bool LLParser::ParseModuleAsm() {
257   assert(Lex.getKind() == lltok::kw_module);
258   Lex.Lex();
259
260   std::string AsmStr;
261   if (ParseToken(lltok::kw_asm, "expected 'module asm'") ||
262       ParseStringConstant(AsmStr)) return true;
263
264   M->appendModuleInlineAsm(AsmStr);
265   return false;
266 }
267
268 /// toplevelentity
269 ///   ::= 'target' 'triple' '=' STRINGCONSTANT
270 ///   ::= 'target' 'datalayout' '=' STRINGCONSTANT
271 bool LLParser::ParseTargetDefinition() {
272   assert(Lex.getKind() == lltok::kw_target);
273   std::string Str;
274   switch (Lex.Lex()) {
275   default: return TokError("unknown target property");
276   case lltok::kw_triple:
277     Lex.Lex();
278     if (ParseToken(lltok::equal, "expected '=' after target triple") ||
279         ParseStringConstant(Str))
280       return true;
281     M->setTargetTriple(Str);
282     return false;
283   case lltok::kw_datalayout:
284     Lex.Lex();
285     if (ParseToken(lltok::equal, "expected '=' after target datalayout") ||
286         ParseStringConstant(Str))
287       return true;
288     M->setDataLayout(Str);
289     return false;
290   }
291 }
292
293 /// toplevelentity
294 ///   ::= 'deplibs' '=' '[' ']'
295 ///   ::= 'deplibs' '=' '[' STRINGCONSTANT (',' STRINGCONSTANT)* ']'
296 /// FIXME: Remove in 4.0. Currently parse, but ignore.
297 bool LLParser::ParseDepLibs() {
298   assert(Lex.getKind() == lltok::kw_deplibs);
299   Lex.Lex();
300   if (ParseToken(lltok::equal, "expected '=' after deplibs") ||
301       ParseToken(lltok::lsquare, "expected '=' after deplibs"))
302     return true;
303
304   if (EatIfPresent(lltok::rsquare))
305     return false;
306
307   do {
308     std::string Str;
309     if (ParseStringConstant(Str)) return true;
310   } while (EatIfPresent(lltok::comma));
311
312   return ParseToken(lltok::rsquare, "expected ']' at end of list");
313 }
314
315 /// ParseUnnamedType:
316 ///   ::= LocalVarID '=' 'type' type
317 bool LLParser::ParseUnnamedType() {
318   LocTy TypeLoc = Lex.getLoc();
319   unsigned TypeID = Lex.getUIntVal();
320   Lex.Lex(); // eat LocalVarID;
321
322   if (ParseToken(lltok::equal, "expected '=' after name") ||
323       ParseToken(lltok::kw_type, "expected 'type' after '='"))
324     return true;
325
326   if (TypeID >= NumberedTypes.size())
327     NumberedTypes.resize(TypeID+1);
328
329   Type *Result = nullptr;
330   if (ParseStructDefinition(TypeLoc, "",
331                             NumberedTypes[TypeID], Result)) return true;
332
333   if (!isa<StructType>(Result)) {
334     std::pair<Type*, LocTy> &Entry = NumberedTypes[TypeID];
335     if (Entry.first)
336       return Error(TypeLoc, "non-struct types may not be recursive");
337     Entry.first = Result;
338     Entry.second = SMLoc();
339   }
340
341   return false;
342 }
343
344
345 /// toplevelentity
346 ///   ::= LocalVar '=' 'type' type
347 bool LLParser::ParseNamedType() {
348   std::string Name = Lex.getStrVal();
349   LocTy NameLoc = Lex.getLoc();
350   Lex.Lex();  // eat LocalVar.
351
352   if (ParseToken(lltok::equal, "expected '=' after name") ||
353       ParseToken(lltok::kw_type, "expected 'type' after name"))
354     return true;
355
356   Type *Result = nullptr;
357   if (ParseStructDefinition(NameLoc, Name,
358                             NamedTypes[Name], Result)) return true;
359
360   if (!isa<StructType>(Result)) {
361     std::pair<Type*, LocTy> &Entry = NamedTypes[Name];
362     if (Entry.first)
363       return Error(NameLoc, "non-struct types may not be recursive");
364     Entry.first = Result;
365     Entry.second = SMLoc();
366   }
367
368   return false;
369 }
370
371
372 /// toplevelentity
373 ///   ::= 'declare' FunctionHeader
374 bool LLParser::ParseDeclare() {
375   assert(Lex.getKind() == lltok::kw_declare);
376   Lex.Lex();
377
378   Function *F;
379   return ParseFunctionHeader(F, false);
380 }
381
382 /// toplevelentity
383 ///   ::= 'define' FunctionHeader '{' ...
384 bool LLParser::ParseDefine() {
385   assert(Lex.getKind() == lltok::kw_define);
386   Lex.Lex();
387
388   Function *F;
389   return ParseFunctionHeader(F, true) ||
390          ParseFunctionBody(*F);
391 }
392
393 /// ParseGlobalType
394 ///   ::= 'constant'
395 ///   ::= 'global'
396 bool LLParser::ParseGlobalType(bool &IsConstant) {
397   if (Lex.getKind() == lltok::kw_constant)
398     IsConstant = true;
399   else if (Lex.getKind() == lltok::kw_global)
400     IsConstant = false;
401   else {
402     IsConstant = false;
403     return TokError("expected 'global' or 'constant'");
404   }
405   Lex.Lex();
406   return false;
407 }
408
409 /// ParseUnnamedGlobal:
410 ///   OptionalVisibility ALIAS ...
411 ///   OptionalLinkage OptionalVisibility OptionalDLLStorageClass
412 ///                                                     ...   -> global variable
413 ///   GlobalID '=' OptionalVisibility ALIAS ...
414 ///   GlobalID '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
415 ///                                                     ...   -> global variable
416 bool LLParser::ParseUnnamedGlobal() {
417   unsigned VarID = NumberedVals.size();
418   std::string Name;
419   LocTy NameLoc = Lex.getLoc();
420
421   // Handle the GlobalID form.
422   if (Lex.getKind() == lltok::GlobalID) {
423     if (Lex.getUIntVal() != VarID)
424       return Error(Lex.getLoc(), "variable expected to be numbered '%" +
425                    Twine(VarID) + "'");
426     Lex.Lex(); // eat GlobalID;
427
428     if (ParseToken(lltok::equal, "expected '=' after name"))
429       return true;
430   }
431
432   bool HasLinkage;
433   unsigned Linkage, Visibility, DLLStorageClass;
434   GlobalVariable::ThreadLocalMode TLM;
435   bool UnnamedAddr;
436   if (ParseOptionalLinkage(Linkage, HasLinkage) ||
437       ParseOptionalVisibility(Visibility) ||
438       ParseOptionalDLLStorageClass(DLLStorageClass) ||
439       ParseOptionalThreadLocal(TLM) ||
440       parseOptionalUnnamedAddr(UnnamedAddr))
441     return true;
442
443   if (Lex.getKind() != lltok::kw_alias)
444     return ParseGlobal(Name, NameLoc, Linkage, HasLinkage, Visibility,
445                        DLLStorageClass, TLM, UnnamedAddr);
446   return ParseAlias(Name, NameLoc, Linkage, Visibility, DLLStorageClass, TLM,
447                     UnnamedAddr);
448 }
449
450 /// ParseNamedGlobal:
451 ///   GlobalVar '=' OptionalVisibility ALIAS ...
452 ///   GlobalVar '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
453 ///                                                     ...   -> global variable
454 bool LLParser::ParseNamedGlobal() {
455   assert(Lex.getKind() == lltok::GlobalVar);
456   LocTy NameLoc = Lex.getLoc();
457   std::string Name = Lex.getStrVal();
458   Lex.Lex();
459
460   bool HasLinkage;
461   unsigned Linkage, Visibility, DLLStorageClass;
462   GlobalVariable::ThreadLocalMode TLM;
463   bool UnnamedAddr;
464   if (ParseToken(lltok::equal, "expected '=' in global variable") ||
465       ParseOptionalLinkage(Linkage, HasLinkage) ||
466       ParseOptionalVisibility(Visibility) ||
467       ParseOptionalDLLStorageClass(DLLStorageClass) ||
468       ParseOptionalThreadLocal(TLM) ||
469       parseOptionalUnnamedAddr(UnnamedAddr))
470     return true;
471
472   if (Lex.getKind() != lltok::kw_alias)
473     return ParseGlobal(Name, NameLoc, Linkage, HasLinkage, Visibility,
474                        DLLStorageClass, TLM, UnnamedAddr);
475
476   return ParseAlias(Name, NameLoc, Linkage, Visibility, DLLStorageClass, TLM,
477                     UnnamedAddr);
478 }
479
480 bool LLParser::parseComdat() {
481   assert(Lex.getKind() == lltok::ComdatVar);
482   std::string Name = Lex.getStrVal();
483   LocTy NameLoc = Lex.getLoc();
484   Lex.Lex();
485
486   if (ParseToken(lltok::equal, "expected '=' here"))
487     return true;
488
489   if (ParseToken(lltok::kw_comdat, "expected comdat keyword"))
490     return TokError("expected comdat type");
491
492   Comdat::SelectionKind SK;
493   switch (Lex.getKind()) {
494   default:
495     return TokError("unknown selection kind");
496   case lltok::kw_any:
497     SK = Comdat::Any;
498     break;
499   case lltok::kw_exactmatch:
500     SK = Comdat::ExactMatch;
501     break;
502   case lltok::kw_largest:
503     SK = Comdat::Largest;
504     break;
505   case lltok::kw_noduplicates:
506     SK = Comdat::NoDuplicates;
507     break;
508   case lltok::kw_samesize:
509     SK = Comdat::SameSize;
510     break;
511   }
512   Lex.Lex();
513
514   // See if the comdat was forward referenced, if so, use the comdat.
515   Module::ComdatSymTabType &ComdatSymTab = M->getComdatSymbolTable();
516   Module::ComdatSymTabType::iterator I = ComdatSymTab.find(Name);
517   if (I != ComdatSymTab.end() && !ForwardRefComdats.erase(Name))
518     return Error(NameLoc, "redefinition of comdat '$" + Name + "'");
519
520   Comdat *C;
521   if (I != ComdatSymTab.end())
522     C = &I->second;
523   else
524     C = M->getOrInsertComdat(Name);
525   C->setSelectionKind(SK);
526
527   return false;
528 }
529
530 // MDString:
531 //   ::= '!' STRINGCONSTANT
532 bool LLParser::ParseMDString(MDString *&Result) {
533   std::string Str;
534   if (ParseStringConstant(Str)) return true;
535   llvm::UpgradeMDStringConstant(Str);
536   Result = MDString::get(Context, Str);
537   return false;
538 }
539
540 // MDNode:
541 //   ::= '!' MDNodeNumber
542 //
543 /// This version of ParseMDNodeID returns the slot number and null in the case
544 /// of a forward reference.
545 bool LLParser::ParseMDNodeID(MDNode *&Result, unsigned &SlotNo) {
546   // !{ ..., !42, ... }
547   if (ParseUInt32(SlotNo)) return true;
548
549   // Check existing MDNode.
550   if (SlotNo < NumberedMetadata.size() && NumberedMetadata[SlotNo] != nullptr)
551     Result = NumberedMetadata[SlotNo];
552   else
553     Result = nullptr;
554   return false;
555 }
556
557 bool LLParser::ParseMDNodeID(MDNode *&Result) {
558   // !{ ..., !42, ... }
559   unsigned MID = 0;
560   if (ParseMDNodeID(Result, MID)) return true;
561
562   // If not a forward reference, just return it now.
563   if (Result) return false;
564
565   // Otherwise, create MDNode forward reference.
566   MDNodeFwdDecl *FwdNode = MDNode::getTemporary(Context, None);
567   ForwardRefMDNodes[MID] = std::make_pair(FwdNode, Lex.getLoc());
568
569   if (NumberedMetadata.size() <= MID)
570     NumberedMetadata.resize(MID+1);
571   NumberedMetadata[MID].reset(FwdNode);
572   Result = FwdNode;
573   return false;
574 }
575
576 /// ParseNamedMetadata:
577 ///   !foo = !{ !1, !2 }
578 bool LLParser::ParseNamedMetadata() {
579   assert(Lex.getKind() == lltok::MetadataVar);
580   std::string Name = Lex.getStrVal();
581   Lex.Lex();
582
583   if (ParseToken(lltok::equal, "expected '=' here") ||
584       ParseToken(lltok::exclaim, "Expected '!' here") ||
585       ParseToken(lltok::lbrace, "Expected '{' here"))
586     return true;
587
588   NamedMDNode *NMD = M->getOrInsertNamedMetadata(Name);
589   if (Lex.getKind() != lltok::rbrace)
590     do {
591       if (ParseToken(lltok::exclaim, "Expected '!' here"))
592         return true;
593
594       MDNode *N = nullptr;
595       if (ParseMDNodeID(N)) return true;
596       NMD->addOperand(N);
597     } while (EatIfPresent(lltok::comma));
598
599   if (ParseToken(lltok::rbrace, "expected end of metadata node"))
600     return true;
601
602   return false;
603 }
604
605 /// ParseStandaloneMetadata:
606 ///   !42 = !{...}
607 bool LLParser::ParseStandaloneMetadata() {
608   assert(Lex.getKind() == lltok::exclaim);
609   Lex.Lex();
610   unsigned MetadataID = 0;
611
612   LocTy TyLoc;
613   Type *Ty = nullptr;
614   MDNode *Init;
615   if (ParseUInt32(MetadataID) ||
616       ParseToken(lltok::equal, "expected '=' here") ||
617       ParseType(Ty, TyLoc) ||
618       ParseToken(lltok::exclaim, "Expected '!' here") ||
619       ParseMDNode(Init))
620     return true;
621
622   // See if this was forward referenced, if so, handle it.
623   auto FI = ForwardRefMDNodes.find(MetadataID);
624   if (FI != ForwardRefMDNodes.end()) {
625     auto *Temp = FI->second.first;
626     Temp->replaceAllUsesWith(Init);
627     MDNode::deleteTemporary(Temp);
628     ForwardRefMDNodes.erase(FI);
629
630     assert(NumberedMetadata[MetadataID] == Init && "Tracking VH didn't work");
631   } else {
632     if (MetadataID >= NumberedMetadata.size())
633       NumberedMetadata.resize(MetadataID+1);
634
635     if (NumberedMetadata[MetadataID] != nullptr)
636       return TokError("Metadata id is already used");
637     NumberedMetadata[MetadataID].reset(Init);
638   }
639
640   return false;
641 }
642
643 static bool isValidVisibilityForLinkage(unsigned V, unsigned L) {
644   return !GlobalValue::isLocalLinkage((GlobalValue::LinkageTypes)L) ||
645          (GlobalValue::VisibilityTypes)V == GlobalValue::DefaultVisibility;
646 }
647
648 /// ParseAlias:
649 ///   ::= GlobalVar '=' OptionalLinkage OptionalVisibility
650 ///                     OptionalDLLStorageClass OptionalThreadLocal
651 ///                     OptionalUnNammedAddr 'alias' Aliasee
652 ///
653 /// Aliasee
654 ///   ::= TypeAndValue
655 ///
656 /// Everything through OptionalUnNammedAddr has already been parsed.
657 ///
658 bool LLParser::ParseAlias(const std::string &Name, LocTy NameLoc, unsigned L,
659                           unsigned Visibility, unsigned DLLStorageClass,
660                           GlobalVariable::ThreadLocalMode TLM,
661                           bool UnnamedAddr) {
662   assert(Lex.getKind() == lltok::kw_alias);
663   Lex.Lex();
664
665   GlobalValue::LinkageTypes Linkage = (GlobalValue::LinkageTypes) L;
666
667   if(!GlobalAlias::isValidLinkage(Linkage))
668     return Error(NameLoc, "invalid linkage type for alias");
669
670   if (!isValidVisibilityForLinkage(Visibility, L))
671     return Error(NameLoc,
672                  "symbol with local linkage must have default visibility");
673
674   Constant *Aliasee;
675   LocTy AliaseeLoc = Lex.getLoc();
676   if (Lex.getKind() != lltok::kw_bitcast &&
677       Lex.getKind() != lltok::kw_getelementptr &&
678       Lex.getKind() != lltok::kw_addrspacecast &&
679       Lex.getKind() != lltok::kw_inttoptr) {
680     if (ParseGlobalTypeAndValue(Aliasee))
681       return true;
682   } else {
683     // The bitcast dest type is not present, it is implied by the dest type.
684     ValID ID;
685     if (ParseValID(ID))
686       return true;
687     if (ID.Kind != ValID::t_Constant)
688       return Error(AliaseeLoc, "invalid aliasee");
689     Aliasee = ID.ConstantVal;
690   }
691
692   Type *AliaseeType = Aliasee->getType();
693   auto *PTy = dyn_cast<PointerType>(AliaseeType);
694   if (!PTy)
695     return Error(AliaseeLoc, "An alias must have pointer type");
696   Type *Ty = PTy->getElementType();
697   unsigned AddrSpace = PTy->getAddressSpace();
698
699   // Okay, create the alias but do not insert it into the module yet.
700   std::unique_ptr<GlobalAlias> GA(
701       GlobalAlias::create(Ty, AddrSpace, (GlobalValue::LinkageTypes)Linkage,
702                           Name, Aliasee, /*Parent*/ nullptr));
703   GA->setThreadLocalMode(TLM);
704   GA->setVisibility((GlobalValue::VisibilityTypes)Visibility);
705   GA->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
706   GA->setUnnamedAddr(UnnamedAddr);
707
708   // See if this value already exists in the symbol table.  If so, it is either
709   // a redefinition or a definition of a forward reference.
710   if (GlobalValue *Val = M->getNamedValue(Name)) {
711     // See if this was a redefinition.  If so, there is no entry in
712     // ForwardRefVals.
713     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator
714       I = ForwardRefVals.find(Name);
715     if (I == ForwardRefVals.end())
716       return Error(NameLoc, "redefinition of global named '@" + Name + "'");
717
718     // Otherwise, this was a definition of forward ref.  Verify that types
719     // agree.
720     if (Val->getType() != GA->getType())
721       return Error(NameLoc,
722               "forward reference and definition of alias have different types");
723
724     // If they agree, just RAUW the old value with the alias and remove the
725     // forward ref info.
726     Val->replaceAllUsesWith(GA.get());
727     Val->eraseFromParent();
728     ForwardRefVals.erase(I);
729   }
730
731   // Insert into the module, we know its name won't collide now.
732   M->getAliasList().push_back(GA.get());
733   assert(GA->getName() == Name && "Should not be a name conflict!");
734
735   // The module owns this now
736   GA.release();
737
738   return false;
739 }
740
741 /// ParseGlobal
742 ///   ::= GlobalVar '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
743 ///       OptionalThreadLocal OptionalUnNammedAddr OptionalAddrSpace
744 ///       OptionalExternallyInitialized GlobalType Type Const
745 ///   ::= OptionalLinkage OptionalVisibility OptionalDLLStorageClass
746 ///       OptionalThreadLocal OptionalUnNammedAddr OptionalAddrSpace
747 ///       OptionalExternallyInitialized GlobalType Type Const
748 ///
749 /// Everything up to and including OptionalUnNammedAddr has been parsed
750 /// already.
751 ///
752 bool LLParser::ParseGlobal(const std::string &Name, LocTy NameLoc,
753                            unsigned Linkage, bool HasLinkage,
754                            unsigned Visibility, unsigned DLLStorageClass,
755                            GlobalVariable::ThreadLocalMode TLM,
756                            bool UnnamedAddr) {
757   if (!isValidVisibilityForLinkage(Visibility, Linkage))
758     return Error(NameLoc,
759                  "symbol with local linkage must have default visibility");
760
761   unsigned AddrSpace;
762   bool IsConstant, IsExternallyInitialized;
763   LocTy IsExternallyInitializedLoc;
764   LocTy TyLoc;
765
766   Type *Ty = nullptr;
767   if (ParseOptionalAddrSpace(AddrSpace) ||
768       ParseOptionalToken(lltok::kw_externally_initialized,
769                          IsExternallyInitialized,
770                          &IsExternallyInitializedLoc) ||
771       ParseGlobalType(IsConstant) ||
772       ParseType(Ty, TyLoc))
773     return true;
774
775   // If the linkage is specified and is external, then no initializer is
776   // present.
777   Constant *Init = nullptr;
778   if (!HasLinkage || (Linkage != GlobalValue::ExternalWeakLinkage &&
779                       Linkage != GlobalValue::ExternalLinkage)) {
780     if (ParseGlobalValue(Ty, Init))
781       return true;
782   }
783
784   if (Ty->isFunctionTy() || Ty->isLabelTy())
785     return Error(TyLoc, "invalid type for global variable");
786
787   GlobalValue *GVal = nullptr;
788
789   // See if the global was forward referenced, if so, use the global.
790   if (!Name.empty()) {
791     GVal = M->getNamedValue(Name);
792     if (GVal) {
793       if (!ForwardRefVals.erase(Name) || !isa<GlobalValue>(GVal))
794         return Error(NameLoc, "redefinition of global '@" + Name + "'");
795     }
796   } else {
797     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator
798       I = ForwardRefValIDs.find(NumberedVals.size());
799     if (I != ForwardRefValIDs.end()) {
800       GVal = I->second.first;
801       ForwardRefValIDs.erase(I);
802     }
803   }
804
805   GlobalVariable *GV;
806   if (!GVal) {
807     GV = new GlobalVariable(*M, Ty, false, GlobalValue::ExternalLinkage, nullptr,
808                             Name, nullptr, GlobalVariable::NotThreadLocal,
809                             AddrSpace);
810   } else {
811     if (GVal->getType()->getElementType() != Ty)
812       return Error(TyLoc,
813             "forward reference and definition of global have different types");
814
815     GV = cast<GlobalVariable>(GVal);
816
817     // Move the forward-reference to the correct spot in the module.
818     M->getGlobalList().splice(M->global_end(), M->getGlobalList(), GV);
819   }
820
821   if (Name.empty())
822     NumberedVals.push_back(GV);
823
824   // Set the parsed properties on the global.
825   if (Init)
826     GV->setInitializer(Init);
827   GV->setConstant(IsConstant);
828   GV->setLinkage((GlobalValue::LinkageTypes)Linkage);
829   GV->setVisibility((GlobalValue::VisibilityTypes)Visibility);
830   GV->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
831   GV->setExternallyInitialized(IsExternallyInitialized);
832   GV->setThreadLocalMode(TLM);
833   GV->setUnnamedAddr(UnnamedAddr);
834
835   // Parse attributes on the global.
836   while (Lex.getKind() == lltok::comma) {
837     Lex.Lex();
838
839     if (Lex.getKind() == lltok::kw_section) {
840       Lex.Lex();
841       GV->setSection(Lex.getStrVal());
842       if (ParseToken(lltok::StringConstant, "expected global section string"))
843         return true;
844     } else if (Lex.getKind() == lltok::kw_align) {
845       unsigned Alignment;
846       if (ParseOptionalAlignment(Alignment)) return true;
847       GV->setAlignment(Alignment);
848     } else {
849       Comdat *C;
850       if (parseOptionalComdat(C))
851         return true;
852       if (C)
853         GV->setComdat(C);
854       else
855         return TokError("unknown global variable property!");
856     }
857   }
858
859   return false;
860 }
861
862 /// ParseUnnamedAttrGrp
863 ///   ::= 'attributes' AttrGrpID '=' '{' AttrValPair+ '}'
864 bool LLParser::ParseUnnamedAttrGrp() {
865   assert(Lex.getKind() == lltok::kw_attributes);
866   LocTy AttrGrpLoc = Lex.getLoc();
867   Lex.Lex();
868
869   if (Lex.getKind() != lltok::AttrGrpID)
870     return TokError("expected attribute group id");
871
872   unsigned VarID = Lex.getUIntVal();
873   std::vector<unsigned> unused;
874   LocTy BuiltinLoc;
875   Lex.Lex();
876
877   if (ParseToken(lltok::equal, "expected '=' here") ||
878       ParseToken(lltok::lbrace, "expected '{' here") ||
879       ParseFnAttributeValuePairs(NumberedAttrBuilders[VarID], unused, true,
880                                  BuiltinLoc) ||
881       ParseToken(lltok::rbrace, "expected end of attribute group"))
882     return true;
883
884   if (!NumberedAttrBuilders[VarID].hasAttributes())
885     return Error(AttrGrpLoc, "attribute group has no attributes");
886
887   return false;
888 }
889
890 /// ParseFnAttributeValuePairs
891 ///   ::= <attr> | <attr> '=' <value>
892 bool LLParser::ParseFnAttributeValuePairs(AttrBuilder &B,
893                                           std::vector<unsigned> &FwdRefAttrGrps,
894                                           bool inAttrGrp, LocTy &BuiltinLoc) {
895   bool HaveError = false;
896
897   B.clear();
898
899   while (true) {
900     lltok::Kind Token = Lex.getKind();
901     if (Token == lltok::kw_builtin)
902       BuiltinLoc = Lex.getLoc();
903     switch (Token) {
904     default:
905       if (!inAttrGrp) return HaveError;
906       return Error(Lex.getLoc(), "unterminated attribute group");
907     case lltok::rbrace:
908       // Finished.
909       return false;
910
911     case lltok::AttrGrpID: {
912       // Allow a function to reference an attribute group:
913       //
914       //   define void @foo() #1 { ... }
915       if (inAttrGrp)
916         HaveError |=
917           Error(Lex.getLoc(),
918               "cannot have an attribute group reference in an attribute group");
919
920       unsigned AttrGrpNum = Lex.getUIntVal();
921       if (inAttrGrp) break;
922
923       // Save the reference to the attribute group. We'll fill it in later.
924       FwdRefAttrGrps.push_back(AttrGrpNum);
925       break;
926     }
927     // Target-dependent attributes:
928     case lltok::StringConstant: {
929       std::string Attr = Lex.getStrVal();
930       Lex.Lex();
931       std::string Val;
932       if (EatIfPresent(lltok::equal) &&
933           ParseStringConstant(Val))
934         return true;
935
936       B.addAttribute(Attr, Val);
937       continue;
938     }
939
940     // Target-independent attributes:
941     case lltok::kw_align: {
942       // As a hack, we allow function alignment to be initially parsed as an
943       // attribute on a function declaration/definition or added to an attribute
944       // group and later moved to the alignment field.
945       unsigned Alignment;
946       if (inAttrGrp) {
947         Lex.Lex();
948         if (ParseToken(lltok::equal, "expected '=' here") ||
949             ParseUInt32(Alignment))
950           return true;
951       } else {
952         if (ParseOptionalAlignment(Alignment))
953           return true;
954       }
955       B.addAlignmentAttr(Alignment);
956       continue;
957     }
958     case lltok::kw_alignstack: {
959       unsigned Alignment;
960       if (inAttrGrp) {
961         Lex.Lex();
962         if (ParseToken(lltok::equal, "expected '=' here") ||
963             ParseUInt32(Alignment))
964           return true;
965       } else {
966         if (ParseOptionalStackAlignment(Alignment))
967           return true;
968       }
969       B.addStackAlignmentAttr(Alignment);
970       continue;
971     }
972     case lltok::kw_alwaysinline:      B.addAttribute(Attribute::AlwaysInline); break;
973     case lltok::kw_builtin:           B.addAttribute(Attribute::Builtin); break;
974     case lltok::kw_cold:              B.addAttribute(Attribute::Cold); break;
975     case lltok::kw_inlinehint:        B.addAttribute(Attribute::InlineHint); break;
976     case lltok::kw_jumptable:         B.addAttribute(Attribute::JumpTable); break;
977     case lltok::kw_minsize:           B.addAttribute(Attribute::MinSize); break;
978     case lltok::kw_naked:             B.addAttribute(Attribute::Naked); break;
979     case lltok::kw_nobuiltin:         B.addAttribute(Attribute::NoBuiltin); break;
980     case lltok::kw_noduplicate:       B.addAttribute(Attribute::NoDuplicate); break;
981     case lltok::kw_noimplicitfloat:   B.addAttribute(Attribute::NoImplicitFloat); break;
982     case lltok::kw_noinline:          B.addAttribute(Attribute::NoInline); break;
983     case lltok::kw_nonlazybind:       B.addAttribute(Attribute::NonLazyBind); break;
984     case lltok::kw_noredzone:         B.addAttribute(Attribute::NoRedZone); break;
985     case lltok::kw_noreturn:          B.addAttribute(Attribute::NoReturn); break;
986     case lltok::kw_nounwind:          B.addAttribute(Attribute::NoUnwind); break;
987     case lltok::kw_optnone:           B.addAttribute(Attribute::OptimizeNone); break;
988     case lltok::kw_optsize:           B.addAttribute(Attribute::OptimizeForSize); break;
989     case lltok::kw_readnone:          B.addAttribute(Attribute::ReadNone); break;
990     case lltok::kw_readonly:          B.addAttribute(Attribute::ReadOnly); break;
991     case lltok::kw_returns_twice:     B.addAttribute(Attribute::ReturnsTwice); break;
992     case lltok::kw_ssp:               B.addAttribute(Attribute::StackProtect); break;
993     case lltok::kw_sspreq:            B.addAttribute(Attribute::StackProtectReq); break;
994     case lltok::kw_sspstrong:         B.addAttribute(Attribute::StackProtectStrong); break;
995     case lltok::kw_sanitize_address:  B.addAttribute(Attribute::SanitizeAddress); break;
996     case lltok::kw_sanitize_thread:   B.addAttribute(Attribute::SanitizeThread); break;
997     case lltok::kw_sanitize_memory:   B.addAttribute(Attribute::SanitizeMemory); break;
998     case lltok::kw_uwtable:           B.addAttribute(Attribute::UWTable); break;
999
1000     // Error handling.
1001     case lltok::kw_inreg:
1002     case lltok::kw_signext:
1003     case lltok::kw_zeroext:
1004       HaveError |=
1005         Error(Lex.getLoc(),
1006               "invalid use of attribute on a function");
1007       break;
1008     case lltok::kw_byval:
1009     case lltok::kw_dereferenceable:
1010     case lltok::kw_inalloca:
1011     case lltok::kw_nest:
1012     case lltok::kw_noalias:
1013     case lltok::kw_nocapture:
1014     case lltok::kw_nonnull:
1015     case lltok::kw_returned:
1016     case lltok::kw_sret:
1017       HaveError |=
1018         Error(Lex.getLoc(),
1019               "invalid use of parameter-only attribute on a function");
1020       break;
1021     }
1022
1023     Lex.Lex();
1024   }
1025 }
1026
1027 //===----------------------------------------------------------------------===//
1028 // GlobalValue Reference/Resolution Routines.
1029 //===----------------------------------------------------------------------===//
1030
1031 /// GetGlobalVal - Get a value with the specified name or ID, creating a
1032 /// forward reference record if needed.  This can return null if the value
1033 /// exists but does not have the right type.
1034 GlobalValue *LLParser::GetGlobalVal(const std::string &Name, Type *Ty,
1035                                     LocTy Loc) {
1036   PointerType *PTy = dyn_cast<PointerType>(Ty);
1037   if (!PTy) {
1038     Error(Loc, "global variable reference must have pointer type");
1039     return nullptr;
1040   }
1041
1042   // Look this name up in the normal function symbol table.
1043   GlobalValue *Val =
1044     cast_or_null<GlobalValue>(M->getValueSymbolTable().lookup(Name));
1045
1046   // If this is a forward reference for the value, see if we already created a
1047   // forward ref record.
1048   if (!Val) {
1049     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator
1050       I = ForwardRefVals.find(Name);
1051     if (I != ForwardRefVals.end())
1052       Val = I->second.first;
1053   }
1054
1055   // If we have the value in the symbol table or fwd-ref table, return it.
1056   if (Val) {
1057     if (Val->getType() == Ty) return Val;
1058     Error(Loc, "'@" + Name + "' defined with type '" +
1059           getTypeString(Val->getType()) + "'");
1060     return nullptr;
1061   }
1062
1063   // Otherwise, create a new forward reference for this value and remember it.
1064   GlobalValue *FwdVal;
1065   if (FunctionType *FT = dyn_cast<FunctionType>(PTy->getElementType()))
1066     FwdVal = Function::Create(FT, GlobalValue::ExternalWeakLinkage, Name, M);
1067   else
1068     FwdVal = new GlobalVariable(*M, PTy->getElementType(), false,
1069                                 GlobalValue::ExternalWeakLinkage, nullptr, Name,
1070                                 nullptr, GlobalVariable::NotThreadLocal,
1071                                 PTy->getAddressSpace());
1072
1073   ForwardRefVals[Name] = std::make_pair(FwdVal, Loc);
1074   return FwdVal;
1075 }
1076
1077 GlobalValue *LLParser::GetGlobalVal(unsigned ID, Type *Ty, LocTy Loc) {
1078   PointerType *PTy = dyn_cast<PointerType>(Ty);
1079   if (!PTy) {
1080     Error(Loc, "global variable reference must have pointer type");
1081     return nullptr;
1082   }
1083
1084   GlobalValue *Val = ID < NumberedVals.size() ? NumberedVals[ID] : nullptr;
1085
1086   // If this is a forward reference for the value, see if we already created a
1087   // forward ref record.
1088   if (!Val) {
1089     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator
1090       I = ForwardRefValIDs.find(ID);
1091     if (I != ForwardRefValIDs.end())
1092       Val = I->second.first;
1093   }
1094
1095   // If we have the value in the symbol table or fwd-ref table, return it.
1096   if (Val) {
1097     if (Val->getType() == Ty) return Val;
1098     Error(Loc, "'@" + Twine(ID) + "' defined with type '" +
1099           getTypeString(Val->getType()) + "'");
1100     return nullptr;
1101   }
1102
1103   // Otherwise, create a new forward reference for this value and remember it.
1104   GlobalValue *FwdVal;
1105   if (FunctionType *FT = dyn_cast<FunctionType>(PTy->getElementType()))
1106     FwdVal = Function::Create(FT, GlobalValue::ExternalWeakLinkage, "", M);
1107   else
1108     FwdVal = new GlobalVariable(*M, PTy->getElementType(), false,
1109                                 GlobalValue::ExternalWeakLinkage, nullptr, "");
1110
1111   ForwardRefValIDs[ID] = std::make_pair(FwdVal, Loc);
1112   return FwdVal;
1113 }
1114
1115
1116 //===----------------------------------------------------------------------===//
1117 // Comdat Reference/Resolution Routines.
1118 //===----------------------------------------------------------------------===//
1119
1120 Comdat *LLParser::getComdat(const std::string &Name, LocTy Loc) {
1121   // Look this name up in the comdat symbol table.
1122   Module::ComdatSymTabType &ComdatSymTab = M->getComdatSymbolTable();
1123   Module::ComdatSymTabType::iterator I = ComdatSymTab.find(Name);
1124   if (I != ComdatSymTab.end())
1125     return &I->second;
1126
1127   // Otherwise, create a new forward reference for this value and remember it.
1128   Comdat *C = M->getOrInsertComdat(Name);
1129   ForwardRefComdats[Name] = Loc;
1130   return C;
1131 }
1132
1133
1134 //===----------------------------------------------------------------------===//
1135 // Helper Routines.
1136 //===----------------------------------------------------------------------===//
1137
1138 /// ParseToken - If the current token has the specified kind, eat it and return
1139 /// success.  Otherwise, emit the specified error and return failure.
1140 bool LLParser::ParseToken(lltok::Kind T, const char *ErrMsg) {
1141   if (Lex.getKind() != T)
1142     return TokError(ErrMsg);
1143   Lex.Lex();
1144   return false;
1145 }
1146
1147 /// ParseStringConstant
1148 ///   ::= StringConstant
1149 bool LLParser::ParseStringConstant(std::string &Result) {
1150   if (Lex.getKind() != lltok::StringConstant)
1151     return TokError("expected string constant");
1152   Result = Lex.getStrVal();
1153   Lex.Lex();
1154   return false;
1155 }
1156
1157 /// ParseUInt32
1158 ///   ::= uint32
1159 bool LLParser::ParseUInt32(unsigned &Val) {
1160   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned())
1161     return TokError("expected integer");
1162   uint64_t Val64 = Lex.getAPSIntVal().getLimitedValue(0xFFFFFFFFULL+1);
1163   if (Val64 != unsigned(Val64))
1164     return TokError("expected 32-bit integer (too large)");
1165   Val = Val64;
1166   Lex.Lex();
1167   return false;
1168 }
1169
1170 /// ParseUInt64
1171 ///   ::= uint64
1172 bool LLParser::ParseUInt64(uint64_t &Val) {
1173   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned())
1174     return TokError("expected integer");
1175   Val = Lex.getAPSIntVal().getLimitedValue();
1176   Lex.Lex();
1177   return false;
1178 }
1179
1180 /// ParseTLSModel
1181 ///   := 'localdynamic'
1182 ///   := 'initialexec'
1183 ///   := 'localexec'
1184 bool LLParser::ParseTLSModel(GlobalVariable::ThreadLocalMode &TLM) {
1185   switch (Lex.getKind()) {
1186     default:
1187       return TokError("expected localdynamic, initialexec or localexec");
1188     case lltok::kw_localdynamic:
1189       TLM = GlobalVariable::LocalDynamicTLSModel;
1190       break;
1191     case lltok::kw_initialexec:
1192       TLM = GlobalVariable::InitialExecTLSModel;
1193       break;
1194     case lltok::kw_localexec:
1195       TLM = GlobalVariable::LocalExecTLSModel;
1196       break;
1197   }
1198
1199   Lex.Lex();
1200   return false;
1201 }
1202
1203 /// ParseOptionalThreadLocal
1204 ///   := /*empty*/
1205 ///   := 'thread_local'
1206 ///   := 'thread_local' '(' tlsmodel ')'
1207 bool LLParser::ParseOptionalThreadLocal(GlobalVariable::ThreadLocalMode &TLM) {
1208   TLM = GlobalVariable::NotThreadLocal;
1209   if (!EatIfPresent(lltok::kw_thread_local))
1210     return false;
1211
1212   TLM = GlobalVariable::GeneralDynamicTLSModel;
1213   if (Lex.getKind() == lltok::lparen) {
1214     Lex.Lex();
1215     return ParseTLSModel(TLM) ||
1216       ParseToken(lltok::rparen, "expected ')' after thread local model");
1217   }
1218   return false;
1219 }
1220
1221 /// ParseOptionalAddrSpace
1222 ///   := /*empty*/
1223 ///   := 'addrspace' '(' uint32 ')'
1224 bool LLParser::ParseOptionalAddrSpace(unsigned &AddrSpace) {
1225   AddrSpace = 0;
1226   if (!EatIfPresent(lltok::kw_addrspace))
1227     return false;
1228   return ParseToken(lltok::lparen, "expected '(' in address space") ||
1229          ParseUInt32(AddrSpace) ||
1230          ParseToken(lltok::rparen, "expected ')' in address space");
1231 }
1232
1233 /// ParseOptionalParamAttrs - Parse a potentially empty list of parameter attributes.
1234 bool LLParser::ParseOptionalParamAttrs(AttrBuilder &B) {
1235   bool HaveError = false;
1236
1237   B.clear();
1238
1239   while (1) {
1240     lltok::Kind Token = Lex.getKind();
1241     switch (Token) {
1242     default:  // End of attributes.
1243       return HaveError;
1244     case lltok::kw_align: {
1245       unsigned Alignment;
1246       if (ParseOptionalAlignment(Alignment))
1247         return true;
1248       B.addAlignmentAttr(Alignment);
1249       continue;
1250     }
1251     case lltok::kw_byval:           B.addAttribute(Attribute::ByVal); break;
1252     case lltok::kw_dereferenceable: {
1253       uint64_t Bytes;
1254       if (ParseOptionalDereferenceableBytes(Bytes))
1255         return true;
1256       B.addDereferenceableAttr(Bytes);
1257       continue;
1258     }
1259     case lltok::kw_inalloca:        B.addAttribute(Attribute::InAlloca); break;
1260     case lltok::kw_inreg:           B.addAttribute(Attribute::InReg); break;
1261     case lltok::kw_nest:            B.addAttribute(Attribute::Nest); break;
1262     case lltok::kw_noalias:         B.addAttribute(Attribute::NoAlias); break;
1263     case lltok::kw_nocapture:       B.addAttribute(Attribute::NoCapture); break;
1264     case lltok::kw_nonnull:         B.addAttribute(Attribute::NonNull); break;
1265     case lltok::kw_readnone:        B.addAttribute(Attribute::ReadNone); break;
1266     case lltok::kw_readonly:        B.addAttribute(Attribute::ReadOnly); break;
1267     case lltok::kw_returned:        B.addAttribute(Attribute::Returned); break;
1268     case lltok::kw_signext:         B.addAttribute(Attribute::SExt); break;
1269     case lltok::kw_sret:            B.addAttribute(Attribute::StructRet); break;
1270     case lltok::kw_zeroext:         B.addAttribute(Attribute::ZExt); break;
1271
1272     case lltok::kw_alignstack:
1273     case lltok::kw_alwaysinline:
1274     case lltok::kw_builtin:
1275     case lltok::kw_inlinehint:
1276     case lltok::kw_jumptable:
1277     case lltok::kw_minsize:
1278     case lltok::kw_naked:
1279     case lltok::kw_nobuiltin:
1280     case lltok::kw_noduplicate:
1281     case lltok::kw_noimplicitfloat:
1282     case lltok::kw_noinline:
1283     case lltok::kw_nonlazybind:
1284     case lltok::kw_noredzone:
1285     case lltok::kw_noreturn:
1286     case lltok::kw_nounwind:
1287     case lltok::kw_optnone:
1288     case lltok::kw_optsize:
1289     case lltok::kw_returns_twice:
1290     case lltok::kw_sanitize_address:
1291     case lltok::kw_sanitize_memory:
1292     case lltok::kw_sanitize_thread:
1293     case lltok::kw_ssp:
1294     case lltok::kw_sspreq:
1295     case lltok::kw_sspstrong:
1296     case lltok::kw_uwtable:
1297       HaveError |= Error(Lex.getLoc(), "invalid use of function-only attribute");
1298       break;
1299     }
1300
1301     Lex.Lex();
1302   }
1303 }
1304
1305 /// ParseOptionalReturnAttrs - Parse a potentially empty list of return attributes.
1306 bool LLParser::ParseOptionalReturnAttrs(AttrBuilder &B) {
1307   bool HaveError = false;
1308
1309   B.clear();
1310
1311   while (1) {
1312     lltok::Kind Token = Lex.getKind();
1313     switch (Token) {
1314     default:  // End of attributes.
1315       return HaveError;
1316     case lltok::kw_dereferenceable: {
1317       uint64_t Bytes;
1318       if (ParseOptionalDereferenceableBytes(Bytes))
1319         return true;
1320       B.addDereferenceableAttr(Bytes);
1321       continue;
1322     }
1323     case lltok::kw_inreg:           B.addAttribute(Attribute::InReg); break;
1324     case lltok::kw_noalias:         B.addAttribute(Attribute::NoAlias); break;
1325     case lltok::kw_nonnull:         B.addAttribute(Attribute::NonNull); break;
1326     case lltok::kw_signext:         B.addAttribute(Attribute::SExt); break;
1327     case lltok::kw_zeroext:         B.addAttribute(Attribute::ZExt); break;
1328
1329     // Error handling.
1330     case lltok::kw_align:
1331     case lltok::kw_byval:
1332     case lltok::kw_inalloca:
1333     case lltok::kw_nest:
1334     case lltok::kw_nocapture:
1335     case lltok::kw_returned:
1336     case lltok::kw_sret:
1337       HaveError |= Error(Lex.getLoc(), "invalid use of parameter-only attribute");
1338       break;
1339
1340     case lltok::kw_alignstack:
1341     case lltok::kw_alwaysinline:
1342     case lltok::kw_builtin:
1343     case lltok::kw_cold:
1344     case lltok::kw_inlinehint:
1345     case lltok::kw_jumptable:
1346     case lltok::kw_minsize:
1347     case lltok::kw_naked:
1348     case lltok::kw_nobuiltin:
1349     case lltok::kw_noduplicate:
1350     case lltok::kw_noimplicitfloat:
1351     case lltok::kw_noinline:
1352     case lltok::kw_nonlazybind:
1353     case lltok::kw_noredzone:
1354     case lltok::kw_noreturn:
1355     case lltok::kw_nounwind:
1356     case lltok::kw_optnone:
1357     case lltok::kw_optsize:
1358     case lltok::kw_returns_twice:
1359     case lltok::kw_sanitize_address:
1360     case lltok::kw_sanitize_memory:
1361     case lltok::kw_sanitize_thread:
1362     case lltok::kw_ssp:
1363     case lltok::kw_sspreq:
1364     case lltok::kw_sspstrong:
1365     case lltok::kw_uwtable:
1366       HaveError |= Error(Lex.getLoc(), "invalid use of function-only attribute");
1367       break;
1368
1369     case lltok::kw_readnone:
1370     case lltok::kw_readonly:
1371       HaveError |= Error(Lex.getLoc(), "invalid use of attribute on return type");
1372     }
1373
1374     Lex.Lex();
1375   }
1376 }
1377
1378 /// ParseOptionalLinkage
1379 ///   ::= /*empty*/
1380 ///   ::= 'private'
1381 ///   ::= 'internal'
1382 ///   ::= 'weak'
1383 ///   ::= 'weak_odr'
1384 ///   ::= 'linkonce'
1385 ///   ::= 'linkonce_odr'
1386 ///   ::= 'available_externally'
1387 ///   ::= 'appending'
1388 ///   ::= 'common'
1389 ///   ::= 'extern_weak'
1390 ///   ::= 'external'
1391 bool LLParser::ParseOptionalLinkage(unsigned &Res, bool &HasLinkage) {
1392   HasLinkage = false;
1393   switch (Lex.getKind()) {
1394   default:                       Res=GlobalValue::ExternalLinkage; return false;
1395   case lltok::kw_private:        Res = GlobalValue::PrivateLinkage;       break;
1396   case lltok::kw_internal:       Res = GlobalValue::InternalLinkage;      break;
1397   case lltok::kw_weak:           Res = GlobalValue::WeakAnyLinkage;       break;
1398   case lltok::kw_weak_odr:       Res = GlobalValue::WeakODRLinkage;       break;
1399   case lltok::kw_linkonce:       Res = GlobalValue::LinkOnceAnyLinkage;   break;
1400   case lltok::kw_linkonce_odr:   Res = GlobalValue::LinkOnceODRLinkage;   break;
1401   case lltok::kw_available_externally:
1402     Res = GlobalValue::AvailableExternallyLinkage;
1403     break;
1404   case lltok::kw_appending:      Res = GlobalValue::AppendingLinkage;     break;
1405   case lltok::kw_common:         Res = GlobalValue::CommonLinkage;        break;
1406   case lltok::kw_extern_weak:    Res = GlobalValue::ExternalWeakLinkage;  break;
1407   case lltok::kw_external:       Res = GlobalValue::ExternalLinkage;      break;
1408   }
1409   Lex.Lex();
1410   HasLinkage = true;
1411   return false;
1412 }
1413
1414 /// ParseOptionalVisibility
1415 ///   ::= /*empty*/
1416 ///   ::= 'default'
1417 ///   ::= 'hidden'
1418 ///   ::= 'protected'
1419 ///
1420 bool LLParser::ParseOptionalVisibility(unsigned &Res) {
1421   switch (Lex.getKind()) {
1422   default:                  Res = GlobalValue::DefaultVisibility; return false;
1423   case lltok::kw_default:   Res = GlobalValue::DefaultVisibility; break;
1424   case lltok::kw_hidden:    Res = GlobalValue::HiddenVisibility; break;
1425   case lltok::kw_protected: Res = GlobalValue::ProtectedVisibility; break;
1426   }
1427   Lex.Lex();
1428   return false;
1429 }
1430
1431 /// ParseOptionalDLLStorageClass
1432 ///   ::= /*empty*/
1433 ///   ::= 'dllimport'
1434 ///   ::= 'dllexport'
1435 ///
1436 bool LLParser::ParseOptionalDLLStorageClass(unsigned &Res) {
1437   switch (Lex.getKind()) {
1438   default:                  Res = GlobalValue::DefaultStorageClass; return false;
1439   case lltok::kw_dllimport: Res = GlobalValue::DLLImportStorageClass; break;
1440   case lltok::kw_dllexport: Res = GlobalValue::DLLExportStorageClass; break;
1441   }
1442   Lex.Lex();
1443   return false;
1444 }
1445
1446 /// ParseOptionalCallingConv
1447 ///   ::= /*empty*/
1448 ///   ::= 'ccc'
1449 ///   ::= 'fastcc'
1450 ///   ::= 'intel_ocl_bicc'
1451 ///   ::= 'coldcc'
1452 ///   ::= 'x86_stdcallcc'
1453 ///   ::= 'x86_fastcallcc'
1454 ///   ::= 'x86_thiscallcc'
1455 ///   ::= 'x86_vectorcallcc'
1456 ///   ::= 'arm_apcscc'
1457 ///   ::= 'arm_aapcscc'
1458 ///   ::= 'arm_aapcs_vfpcc'
1459 ///   ::= 'msp430_intrcc'
1460 ///   ::= 'ptx_kernel'
1461 ///   ::= 'ptx_device'
1462 ///   ::= 'spir_func'
1463 ///   ::= 'spir_kernel'
1464 ///   ::= 'x86_64_sysvcc'
1465 ///   ::= 'x86_64_win64cc'
1466 ///   ::= 'webkit_jscc'
1467 ///   ::= 'anyregcc'
1468 ///   ::= 'preserve_mostcc'
1469 ///   ::= 'preserve_allcc'
1470 ///   ::= 'ghccc'
1471 ///   ::= 'cc' UINT
1472 ///
1473 bool LLParser::ParseOptionalCallingConv(unsigned &CC) {
1474   switch (Lex.getKind()) {
1475   default:                       CC = CallingConv::C; return false;
1476   case lltok::kw_ccc:            CC = CallingConv::C; break;
1477   case lltok::kw_fastcc:         CC = CallingConv::Fast; break;
1478   case lltok::kw_coldcc:         CC = CallingConv::Cold; break;
1479   case lltok::kw_x86_stdcallcc:  CC = CallingConv::X86_StdCall; break;
1480   case lltok::kw_x86_fastcallcc: CC = CallingConv::X86_FastCall; break;
1481   case lltok::kw_x86_thiscallcc: CC = CallingConv::X86_ThisCall; break;
1482   case lltok::kw_x86_vectorcallcc:CC = CallingConv::X86_VectorCall; break;
1483   case lltok::kw_arm_apcscc:     CC = CallingConv::ARM_APCS; break;
1484   case lltok::kw_arm_aapcscc:    CC = CallingConv::ARM_AAPCS; break;
1485   case lltok::kw_arm_aapcs_vfpcc:CC = CallingConv::ARM_AAPCS_VFP; break;
1486   case lltok::kw_msp430_intrcc:  CC = CallingConv::MSP430_INTR; break;
1487   case lltok::kw_ptx_kernel:     CC = CallingConv::PTX_Kernel; break;
1488   case lltok::kw_ptx_device:     CC = CallingConv::PTX_Device; break;
1489   case lltok::kw_spir_kernel:    CC = CallingConv::SPIR_KERNEL; break;
1490   case lltok::kw_spir_func:      CC = CallingConv::SPIR_FUNC; break;
1491   case lltok::kw_intel_ocl_bicc: CC = CallingConv::Intel_OCL_BI; break;
1492   case lltok::kw_x86_64_sysvcc:  CC = CallingConv::X86_64_SysV; break;
1493   case lltok::kw_x86_64_win64cc: CC = CallingConv::X86_64_Win64; break;
1494   case lltok::kw_webkit_jscc:    CC = CallingConv::WebKit_JS; break;
1495   case lltok::kw_anyregcc:       CC = CallingConv::AnyReg; break;
1496   case lltok::kw_preserve_mostcc:CC = CallingConv::PreserveMost; break;
1497   case lltok::kw_preserve_allcc: CC = CallingConv::PreserveAll; break;
1498   case lltok::kw_ghccc:          CC = CallingConv::GHC; break;
1499   case lltok::kw_cc: {
1500       Lex.Lex();
1501       return ParseUInt32(CC);
1502     }
1503   }
1504
1505   Lex.Lex();
1506   return false;
1507 }
1508
1509 /// ParseInstructionMetadata
1510 ///   ::= !dbg !42 (',' !dbg !57)*
1511 bool LLParser::ParseInstructionMetadata(Instruction *Inst,
1512                                         PerFunctionState *PFS) {
1513   do {
1514     if (Lex.getKind() != lltok::MetadataVar)
1515       return TokError("expected metadata after comma");
1516
1517     std::string Name = Lex.getStrVal();
1518     unsigned MDK = M->getMDKindID(Name);
1519     Lex.Lex();
1520
1521     MDNode *Node;
1522     SMLoc Loc = Lex.getLoc();
1523
1524     if (ParseToken(lltok::exclaim, "expected '!' here"))
1525       return true;
1526
1527     // This code is similar to that of ParseMetadata, however it needs to
1528     // have special-case code for a forward reference; see the comments on
1529     // ForwardRefInstMetadata for details. Also, MDStrings are not supported
1530     // at the top level here.
1531     if (Lex.getKind() == lltok::lbrace) {
1532       MDNode *N;
1533       if (ParseMDNode(N))
1534         return true;
1535       Inst->setMetadata(MDK, N);
1536     } else {
1537       unsigned NodeID = 0;
1538       if (ParseMDNodeID(Node, NodeID))
1539         return true;
1540       if (Node) {
1541         // If we got the node, add it to the instruction.
1542         Inst->setMetadata(MDK, Node);
1543       } else {
1544         MDRef R = { Loc, MDK, NodeID };
1545         // Otherwise, remember that this should be resolved later.
1546         ForwardRefInstMetadata[Inst].push_back(R);
1547       }
1548     }
1549
1550     if (MDK == LLVMContext::MD_tbaa)
1551       InstsWithTBAATag.push_back(Inst);
1552
1553     // If this is the end of the list, we're done.
1554   } while (EatIfPresent(lltok::comma));
1555   return false;
1556 }
1557
1558 /// ParseOptionalAlignment
1559 ///   ::= /* empty */
1560 ///   ::= 'align' 4
1561 bool LLParser::ParseOptionalAlignment(unsigned &Alignment) {
1562   Alignment = 0;
1563   if (!EatIfPresent(lltok::kw_align))
1564     return false;
1565   LocTy AlignLoc = Lex.getLoc();
1566   if (ParseUInt32(Alignment)) return true;
1567   if (!isPowerOf2_32(Alignment))
1568     return Error(AlignLoc, "alignment is not a power of two");
1569   if (Alignment > Value::MaximumAlignment)
1570     return Error(AlignLoc, "huge alignments are not supported yet");
1571   return false;
1572 }
1573
1574 /// ParseOptionalDereferenceableBytes
1575 ///   ::= /* empty */
1576 ///   ::= 'dereferenceable' '(' 4 ')'
1577 bool LLParser::ParseOptionalDereferenceableBytes(uint64_t &Bytes) {
1578   Bytes = 0;
1579   if (!EatIfPresent(lltok::kw_dereferenceable))
1580     return false;
1581   LocTy ParenLoc = Lex.getLoc();
1582   if (!EatIfPresent(lltok::lparen))
1583     return Error(ParenLoc, "expected '('");
1584   LocTy DerefLoc = Lex.getLoc();
1585   if (ParseUInt64(Bytes)) return true;
1586   ParenLoc = Lex.getLoc();
1587   if (!EatIfPresent(lltok::rparen))
1588     return Error(ParenLoc, "expected ')'");
1589   if (!Bytes)
1590     return Error(DerefLoc, "dereferenceable bytes must be non-zero");
1591   return false;
1592 }
1593
1594 /// ParseOptionalCommaAlign
1595 ///   ::=
1596 ///   ::= ',' align 4
1597 ///
1598 /// This returns with AteExtraComma set to true if it ate an excess comma at the
1599 /// end.
1600 bool LLParser::ParseOptionalCommaAlign(unsigned &Alignment,
1601                                        bool &AteExtraComma) {
1602   AteExtraComma = false;
1603   while (EatIfPresent(lltok::comma)) {
1604     // Metadata at the end is an early exit.
1605     if (Lex.getKind() == lltok::MetadataVar) {
1606       AteExtraComma = true;
1607       return false;
1608     }
1609
1610     if (Lex.getKind() != lltok::kw_align)
1611       return Error(Lex.getLoc(), "expected metadata or 'align'");
1612
1613     if (ParseOptionalAlignment(Alignment)) return true;
1614   }
1615
1616   return false;
1617 }
1618
1619 /// ParseScopeAndOrdering
1620 ///   if isAtomic: ::= 'singlethread'? AtomicOrdering
1621 ///   else: ::=
1622 ///
1623 /// This sets Scope and Ordering to the parsed values.
1624 bool LLParser::ParseScopeAndOrdering(bool isAtomic, SynchronizationScope &Scope,
1625                                      AtomicOrdering &Ordering) {
1626   if (!isAtomic)
1627     return false;
1628
1629   Scope = CrossThread;
1630   if (EatIfPresent(lltok::kw_singlethread))
1631     Scope = SingleThread;
1632
1633   return ParseOrdering(Ordering);
1634 }
1635
1636 /// ParseOrdering
1637 ///   ::= AtomicOrdering
1638 ///
1639 /// This sets Ordering to the parsed value.
1640 bool LLParser::ParseOrdering(AtomicOrdering &Ordering) {
1641   switch (Lex.getKind()) {
1642   default: return TokError("Expected ordering on atomic instruction");
1643   case lltok::kw_unordered: Ordering = Unordered; break;
1644   case lltok::kw_monotonic: Ordering = Monotonic; break;
1645   case lltok::kw_acquire: Ordering = Acquire; break;
1646   case lltok::kw_release: Ordering = Release; break;
1647   case lltok::kw_acq_rel: Ordering = AcquireRelease; break;
1648   case lltok::kw_seq_cst: Ordering = SequentiallyConsistent; break;
1649   }
1650   Lex.Lex();
1651   return false;
1652 }
1653
1654 /// ParseOptionalStackAlignment
1655 ///   ::= /* empty */
1656 ///   ::= 'alignstack' '(' 4 ')'
1657 bool LLParser::ParseOptionalStackAlignment(unsigned &Alignment) {
1658   Alignment = 0;
1659   if (!EatIfPresent(lltok::kw_alignstack))
1660     return false;
1661   LocTy ParenLoc = Lex.getLoc();
1662   if (!EatIfPresent(lltok::lparen))
1663     return Error(ParenLoc, "expected '('");
1664   LocTy AlignLoc = Lex.getLoc();
1665   if (ParseUInt32(Alignment)) return true;
1666   ParenLoc = Lex.getLoc();
1667   if (!EatIfPresent(lltok::rparen))
1668     return Error(ParenLoc, "expected ')'");
1669   if (!isPowerOf2_32(Alignment))
1670     return Error(AlignLoc, "stack alignment is not a power of two");
1671   return false;
1672 }
1673
1674 /// ParseIndexList - This parses the index list for an insert/extractvalue
1675 /// instruction.  This sets AteExtraComma in the case where we eat an extra
1676 /// comma at the end of the line and find that it is followed by metadata.
1677 /// Clients that don't allow metadata can call the version of this function that
1678 /// only takes one argument.
1679 ///
1680 /// ParseIndexList
1681 ///    ::=  (',' uint32)+
1682 ///
1683 bool LLParser::ParseIndexList(SmallVectorImpl<unsigned> &Indices,
1684                               bool &AteExtraComma) {
1685   AteExtraComma = false;
1686
1687   if (Lex.getKind() != lltok::comma)
1688     return TokError("expected ',' as start of index list");
1689
1690   while (EatIfPresent(lltok::comma)) {
1691     if (Lex.getKind() == lltok::MetadataVar) {
1692       AteExtraComma = true;
1693       return false;
1694     }
1695     unsigned Idx = 0;
1696     if (ParseUInt32(Idx)) return true;
1697     Indices.push_back(Idx);
1698   }
1699
1700   return false;
1701 }
1702
1703 //===----------------------------------------------------------------------===//
1704 // Type Parsing.
1705 //===----------------------------------------------------------------------===//
1706
1707 /// ParseType - Parse a type.
1708 bool LLParser::ParseType(Type *&Result, bool AllowVoid) {
1709   SMLoc TypeLoc = Lex.getLoc();
1710   switch (Lex.getKind()) {
1711   default:
1712     return TokError("expected type");
1713   case lltok::Type:
1714     // Type ::= 'float' | 'void' (etc)
1715     Result = Lex.getTyVal();
1716     Lex.Lex();
1717     break;
1718   case lltok::lbrace:
1719     // Type ::= StructType
1720     if (ParseAnonStructType(Result, false))
1721       return true;
1722     break;
1723   case lltok::lsquare:
1724     // Type ::= '[' ... ']'
1725     Lex.Lex(); // eat the lsquare.
1726     if (ParseArrayVectorType(Result, false))
1727       return true;
1728     break;
1729   case lltok::less: // Either vector or packed struct.
1730     // Type ::= '<' ... '>'
1731     Lex.Lex();
1732     if (Lex.getKind() == lltok::lbrace) {
1733       if (ParseAnonStructType(Result, true) ||
1734           ParseToken(lltok::greater, "expected '>' at end of packed struct"))
1735         return true;
1736     } else if (ParseArrayVectorType(Result, true))
1737       return true;
1738     break;
1739   case lltok::LocalVar: {
1740     // Type ::= %foo
1741     std::pair<Type*, LocTy> &Entry = NamedTypes[Lex.getStrVal()];
1742
1743     // If the type hasn't been defined yet, create a forward definition and
1744     // remember where that forward def'n was seen (in case it never is defined).
1745     if (!Entry.first) {
1746       Entry.first = StructType::create(Context, Lex.getStrVal());
1747       Entry.second = Lex.getLoc();
1748     }
1749     Result = Entry.first;
1750     Lex.Lex();
1751     break;
1752   }
1753
1754   case lltok::LocalVarID: {
1755     // Type ::= %4
1756     if (Lex.getUIntVal() >= NumberedTypes.size())
1757       NumberedTypes.resize(Lex.getUIntVal()+1);
1758     std::pair<Type*, LocTy> &Entry = NumberedTypes[Lex.getUIntVal()];
1759
1760     // If the type hasn't been defined yet, create a forward definition and
1761     // remember where that forward def'n was seen (in case it never is defined).
1762     if (!Entry.first) {
1763       Entry.first = StructType::create(Context);
1764       Entry.second = Lex.getLoc();
1765     }
1766     Result = Entry.first;
1767     Lex.Lex();
1768     break;
1769   }
1770   }
1771
1772   // Parse the type suffixes.
1773   while (1) {
1774     switch (Lex.getKind()) {
1775     // End of type.
1776     default:
1777       if (!AllowVoid && Result->isVoidTy())
1778         return Error(TypeLoc, "void type only allowed for function results");
1779       return false;
1780
1781     // Type ::= Type '*'
1782     case lltok::star:
1783       if (Result->isLabelTy())
1784         return TokError("basic block pointers are invalid");
1785       if (Result->isVoidTy())
1786         return TokError("pointers to void are invalid - use i8* instead");
1787       if (!PointerType::isValidElementType(Result))
1788         return TokError("pointer to this type is invalid");
1789       Result = PointerType::getUnqual(Result);
1790       Lex.Lex();
1791       break;
1792
1793     // Type ::= Type 'addrspace' '(' uint32 ')' '*'
1794     case lltok::kw_addrspace: {
1795       if (Result->isLabelTy())
1796         return TokError("basic block pointers are invalid");
1797       if (Result->isVoidTy())
1798         return TokError("pointers to void are invalid; use i8* instead");
1799       if (!PointerType::isValidElementType(Result))
1800         return TokError("pointer to this type is invalid");
1801       unsigned AddrSpace;
1802       if (ParseOptionalAddrSpace(AddrSpace) ||
1803           ParseToken(lltok::star, "expected '*' in address space"))
1804         return true;
1805
1806       Result = PointerType::get(Result, AddrSpace);
1807       break;
1808     }
1809
1810     /// Types '(' ArgTypeListI ')' OptFuncAttrs
1811     case lltok::lparen:
1812       if (ParseFunctionType(Result))
1813         return true;
1814       break;
1815     }
1816   }
1817 }
1818
1819 /// ParseParameterList
1820 ///    ::= '(' ')'
1821 ///    ::= '(' Arg (',' Arg)* ')'
1822 ///  Arg
1823 ///    ::= Type OptionalAttributes Value OptionalAttributes
1824 bool LLParser::ParseParameterList(SmallVectorImpl<ParamInfo> &ArgList,
1825                                   PerFunctionState &PFS, bool IsMustTailCall,
1826                                   bool InVarArgsFunc) {
1827   if (ParseToken(lltok::lparen, "expected '(' in call"))
1828     return true;
1829
1830   unsigned AttrIndex = 1;
1831   while (Lex.getKind() != lltok::rparen) {
1832     // If this isn't the first argument, we need a comma.
1833     if (!ArgList.empty() &&
1834         ParseToken(lltok::comma, "expected ',' in argument list"))
1835       return true;
1836
1837     // Parse an ellipsis if this is a musttail call in a variadic function.
1838     if (Lex.getKind() == lltok::dotdotdot) {
1839       const char *Msg = "unexpected ellipsis in argument list for ";
1840       if (!IsMustTailCall)
1841         return TokError(Twine(Msg) + "non-musttail call");
1842       if (!InVarArgsFunc)
1843         return TokError(Twine(Msg) + "musttail call in non-varargs function");
1844       Lex.Lex();  // Lex the '...', it is purely for readability.
1845       return ParseToken(lltok::rparen, "expected ')' at end of argument list");
1846     }
1847
1848     // Parse the argument.
1849     LocTy ArgLoc;
1850     Type *ArgTy = nullptr;
1851     AttrBuilder ArgAttrs;
1852     Value *V;
1853     if (ParseType(ArgTy, ArgLoc))
1854       return true;
1855
1856     // Otherwise, handle normal operands.
1857     if (ParseOptionalParamAttrs(ArgAttrs) || ParseValue(ArgTy, V, PFS))
1858       return true;
1859     ArgList.push_back(ParamInfo(ArgLoc, V, AttributeSet::get(V->getContext(),
1860                                                              AttrIndex++,
1861                                                              ArgAttrs)));
1862   }
1863
1864   if (IsMustTailCall && InVarArgsFunc)
1865     return TokError("expected '...' at end of argument list for musttail call "
1866                     "in varargs function");
1867
1868   Lex.Lex();  // Lex the ')'.
1869   return false;
1870 }
1871
1872
1873
1874 /// ParseArgumentList - Parse the argument list for a function type or function
1875 /// prototype.
1876 ///   ::= '(' ArgTypeListI ')'
1877 /// ArgTypeListI
1878 ///   ::= /*empty*/
1879 ///   ::= '...'
1880 ///   ::= ArgTypeList ',' '...'
1881 ///   ::= ArgType (',' ArgType)*
1882 ///
1883 bool LLParser::ParseArgumentList(SmallVectorImpl<ArgInfo> &ArgList,
1884                                  bool &isVarArg){
1885   isVarArg = false;
1886   assert(Lex.getKind() == lltok::lparen);
1887   Lex.Lex(); // eat the (.
1888
1889   if (Lex.getKind() == lltok::rparen) {
1890     // empty
1891   } else if (Lex.getKind() == lltok::dotdotdot) {
1892     isVarArg = true;
1893     Lex.Lex();
1894   } else {
1895     LocTy TypeLoc = Lex.getLoc();
1896     Type *ArgTy = nullptr;
1897     AttrBuilder Attrs;
1898     std::string Name;
1899
1900     if (ParseType(ArgTy) ||
1901         ParseOptionalParamAttrs(Attrs)) return true;
1902
1903     if (ArgTy->isVoidTy())
1904       return Error(TypeLoc, "argument can not have void type");
1905
1906     if (Lex.getKind() == lltok::LocalVar) {
1907       Name = Lex.getStrVal();
1908       Lex.Lex();
1909     }
1910
1911     if (!FunctionType::isValidArgumentType(ArgTy))
1912       return Error(TypeLoc, "invalid type for function argument");
1913
1914     unsigned AttrIndex = 1;
1915     ArgList.push_back(ArgInfo(TypeLoc, ArgTy,
1916                               AttributeSet::get(ArgTy->getContext(),
1917                                                 AttrIndex++, Attrs), Name));
1918
1919     while (EatIfPresent(lltok::comma)) {
1920       // Handle ... at end of arg list.
1921       if (EatIfPresent(lltok::dotdotdot)) {
1922         isVarArg = true;
1923         break;
1924       }
1925
1926       // Otherwise must be an argument type.
1927       TypeLoc = Lex.getLoc();
1928       if (ParseType(ArgTy) || ParseOptionalParamAttrs(Attrs)) return true;
1929
1930       if (ArgTy->isVoidTy())
1931         return Error(TypeLoc, "argument can not have void type");
1932
1933       if (Lex.getKind() == lltok::LocalVar) {
1934         Name = Lex.getStrVal();
1935         Lex.Lex();
1936       } else {
1937         Name = "";
1938       }
1939
1940       if (!ArgTy->isFirstClassType())
1941         return Error(TypeLoc, "invalid type for function argument");
1942
1943       ArgList.push_back(ArgInfo(TypeLoc, ArgTy,
1944                                 AttributeSet::get(ArgTy->getContext(),
1945                                                   AttrIndex++, Attrs),
1946                                 Name));
1947     }
1948   }
1949
1950   return ParseToken(lltok::rparen, "expected ')' at end of argument list");
1951 }
1952
1953 /// ParseFunctionType
1954 ///  ::= Type ArgumentList OptionalAttrs
1955 bool LLParser::ParseFunctionType(Type *&Result) {
1956   assert(Lex.getKind() == lltok::lparen);
1957
1958   if (!FunctionType::isValidReturnType(Result))
1959     return TokError("invalid function return type");
1960
1961   SmallVector<ArgInfo, 8> ArgList;
1962   bool isVarArg;
1963   if (ParseArgumentList(ArgList, isVarArg))
1964     return true;
1965
1966   // Reject names on the arguments lists.
1967   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
1968     if (!ArgList[i].Name.empty())
1969       return Error(ArgList[i].Loc, "argument name invalid in function type");
1970     if (ArgList[i].Attrs.hasAttributes(i + 1))
1971       return Error(ArgList[i].Loc,
1972                    "argument attributes invalid in function type");
1973   }
1974
1975   SmallVector<Type*, 16> ArgListTy;
1976   for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
1977     ArgListTy.push_back(ArgList[i].Ty);
1978
1979   Result = FunctionType::get(Result, ArgListTy, isVarArg);
1980   return false;
1981 }
1982
1983 /// ParseAnonStructType - Parse an anonymous struct type, which is inlined into
1984 /// other structs.
1985 bool LLParser::ParseAnonStructType(Type *&Result, bool Packed) {
1986   SmallVector<Type*, 8> Elts;
1987   if (ParseStructBody(Elts)) return true;
1988
1989   Result = StructType::get(Context, Elts, Packed);
1990   return false;
1991 }
1992
1993 /// ParseStructDefinition - Parse a struct in a 'type' definition.
1994 bool LLParser::ParseStructDefinition(SMLoc TypeLoc, StringRef Name,
1995                                      std::pair<Type*, LocTy> &Entry,
1996                                      Type *&ResultTy) {
1997   // If the type was already defined, diagnose the redefinition.
1998   if (Entry.first && !Entry.second.isValid())
1999     return Error(TypeLoc, "redefinition of type");
2000
2001   // If we have opaque, just return without filling in the definition for the
2002   // struct.  This counts as a definition as far as the .ll file goes.
2003   if (EatIfPresent(lltok::kw_opaque)) {
2004     // This type is being defined, so clear the location to indicate this.
2005     Entry.second = SMLoc();
2006
2007     // If this type number has never been uttered, create it.
2008     if (!Entry.first)
2009       Entry.first = StructType::create(Context, Name);
2010     ResultTy = Entry.first;
2011     return false;
2012   }
2013
2014   // If the type starts with '<', then it is either a packed struct or a vector.
2015   bool isPacked = EatIfPresent(lltok::less);
2016
2017   // If we don't have a struct, then we have a random type alias, which we
2018   // accept for compatibility with old files.  These types are not allowed to be
2019   // forward referenced and not allowed to be recursive.
2020   if (Lex.getKind() != lltok::lbrace) {
2021     if (Entry.first)
2022       return Error(TypeLoc, "forward references to non-struct type");
2023
2024     ResultTy = nullptr;
2025     if (isPacked)
2026       return ParseArrayVectorType(ResultTy, true);
2027     return ParseType(ResultTy);
2028   }
2029
2030   // This type is being defined, so clear the location to indicate this.
2031   Entry.second = SMLoc();
2032
2033   // If this type number has never been uttered, create it.
2034   if (!Entry.first)
2035     Entry.first = StructType::create(Context, Name);
2036
2037   StructType *STy = cast<StructType>(Entry.first);
2038
2039   SmallVector<Type*, 8> Body;
2040   if (ParseStructBody(Body) ||
2041       (isPacked && ParseToken(lltok::greater, "expected '>' in packed struct")))
2042     return true;
2043
2044   STy->setBody(Body, isPacked);
2045   ResultTy = STy;
2046   return false;
2047 }
2048
2049
2050 /// ParseStructType: Handles packed and unpacked types.  </> parsed elsewhere.
2051 ///   StructType
2052 ///     ::= '{' '}'
2053 ///     ::= '{' Type (',' Type)* '}'
2054 ///     ::= '<' '{' '}' '>'
2055 ///     ::= '<' '{' Type (',' Type)* '}' '>'
2056 bool LLParser::ParseStructBody(SmallVectorImpl<Type*> &Body) {
2057   assert(Lex.getKind() == lltok::lbrace);
2058   Lex.Lex(); // Consume the '{'
2059
2060   // Handle the empty struct.
2061   if (EatIfPresent(lltok::rbrace))
2062     return false;
2063
2064   LocTy EltTyLoc = Lex.getLoc();
2065   Type *Ty = nullptr;
2066   if (ParseType(Ty)) return true;
2067   Body.push_back(Ty);
2068
2069   if (!StructType::isValidElementType(Ty))
2070     return Error(EltTyLoc, "invalid element type for struct");
2071
2072   while (EatIfPresent(lltok::comma)) {
2073     EltTyLoc = Lex.getLoc();
2074     if (ParseType(Ty)) return true;
2075
2076     if (!StructType::isValidElementType(Ty))
2077       return Error(EltTyLoc, "invalid element type for struct");
2078
2079     Body.push_back(Ty);
2080   }
2081
2082   return ParseToken(lltok::rbrace, "expected '}' at end of struct");
2083 }
2084
2085 /// ParseArrayVectorType - Parse an array or vector type, assuming the first
2086 /// token has already been consumed.
2087 ///   Type
2088 ///     ::= '[' APSINTVAL 'x' Types ']'
2089 ///     ::= '<' APSINTVAL 'x' Types '>'
2090 bool LLParser::ParseArrayVectorType(Type *&Result, bool isVector) {
2091   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned() ||
2092       Lex.getAPSIntVal().getBitWidth() > 64)
2093     return TokError("expected number in address space");
2094
2095   LocTy SizeLoc = Lex.getLoc();
2096   uint64_t Size = Lex.getAPSIntVal().getZExtValue();
2097   Lex.Lex();
2098
2099   if (ParseToken(lltok::kw_x, "expected 'x' after element count"))
2100       return true;
2101
2102   LocTy TypeLoc = Lex.getLoc();
2103   Type *EltTy = nullptr;
2104   if (ParseType(EltTy)) return true;
2105
2106   if (ParseToken(isVector ? lltok::greater : lltok::rsquare,
2107                  "expected end of sequential type"))
2108     return true;
2109
2110   if (isVector) {
2111     if (Size == 0)
2112       return Error(SizeLoc, "zero element vector is illegal");
2113     if ((unsigned)Size != Size)
2114       return Error(SizeLoc, "size too large for vector");
2115     if (!VectorType::isValidElementType(EltTy))
2116       return Error(TypeLoc, "invalid vector element type");
2117     Result = VectorType::get(EltTy, unsigned(Size));
2118   } else {
2119     if (!ArrayType::isValidElementType(EltTy))
2120       return Error(TypeLoc, "invalid array element type");
2121     Result = ArrayType::get(EltTy, Size);
2122   }
2123   return false;
2124 }
2125
2126 //===----------------------------------------------------------------------===//
2127 // Function Semantic Analysis.
2128 //===----------------------------------------------------------------------===//
2129
2130 LLParser::PerFunctionState::PerFunctionState(LLParser &p, Function &f,
2131                                              int functionNumber)
2132   : P(p), F(f), FunctionNumber(functionNumber) {
2133
2134   // Insert unnamed arguments into the NumberedVals list.
2135   for (Function::arg_iterator AI = F.arg_begin(), E = F.arg_end();
2136        AI != E; ++AI)
2137     if (!AI->hasName())
2138       NumberedVals.push_back(AI);
2139 }
2140
2141 LLParser::PerFunctionState::~PerFunctionState() {
2142   // If there were any forward referenced non-basicblock values, delete them.
2143   for (std::map<std::string, std::pair<Value*, LocTy> >::iterator
2144        I = ForwardRefVals.begin(), E = ForwardRefVals.end(); I != E; ++I)
2145     if (!isa<BasicBlock>(I->second.first)) {
2146       I->second.first->replaceAllUsesWith(
2147                            UndefValue::get(I->second.first->getType()));
2148       delete I->second.first;
2149       I->second.first = nullptr;
2150     }
2151
2152   for (std::map<unsigned, std::pair<Value*, LocTy> >::iterator
2153        I = ForwardRefValIDs.begin(), E = ForwardRefValIDs.end(); I != E; ++I)
2154     if (!isa<BasicBlock>(I->second.first)) {
2155       I->second.first->replaceAllUsesWith(
2156                            UndefValue::get(I->second.first->getType()));
2157       delete I->second.first;
2158       I->second.first = nullptr;
2159     }
2160 }
2161
2162 bool LLParser::PerFunctionState::FinishFunction() {
2163   if (!ForwardRefVals.empty())
2164     return P.Error(ForwardRefVals.begin()->second.second,
2165                    "use of undefined value '%" + ForwardRefVals.begin()->first +
2166                    "'");
2167   if (!ForwardRefValIDs.empty())
2168     return P.Error(ForwardRefValIDs.begin()->second.second,
2169                    "use of undefined value '%" +
2170                    Twine(ForwardRefValIDs.begin()->first) + "'");
2171   return false;
2172 }
2173
2174
2175 /// GetVal - Get a value with the specified name or ID, creating a
2176 /// forward reference record if needed.  This can return null if the value
2177 /// exists but does not have the right type.
2178 Value *LLParser::PerFunctionState::GetVal(const std::string &Name,
2179                                           Type *Ty, LocTy Loc) {
2180   // Look this name up in the normal function symbol table.
2181   Value *Val = F.getValueSymbolTable().lookup(Name);
2182
2183   // If this is a forward reference for the value, see if we already created a
2184   // forward ref record.
2185   if (!Val) {
2186     std::map<std::string, std::pair<Value*, LocTy> >::iterator
2187       I = ForwardRefVals.find(Name);
2188     if (I != ForwardRefVals.end())
2189       Val = I->second.first;
2190   }
2191
2192   // If we have the value in the symbol table or fwd-ref table, return it.
2193   if (Val) {
2194     if (Val->getType() == Ty) return Val;
2195     if (Ty->isLabelTy())
2196       P.Error(Loc, "'%" + Name + "' is not a basic block");
2197     else
2198       P.Error(Loc, "'%" + Name + "' defined with type '" +
2199               getTypeString(Val->getType()) + "'");
2200     return nullptr;
2201   }
2202
2203   // Don't make placeholders with invalid type.
2204   if (!Ty->isFirstClassType()) {
2205     P.Error(Loc, "invalid use of a non-first-class type");
2206     return nullptr;
2207   }
2208
2209   // Otherwise, create a new forward reference for this value and remember it.
2210   Value *FwdVal;
2211   if (Ty->isLabelTy())
2212     FwdVal = BasicBlock::Create(F.getContext(), Name, &F);
2213   else
2214     FwdVal = new Argument(Ty, Name);
2215
2216   ForwardRefVals[Name] = std::make_pair(FwdVal, Loc);
2217   return FwdVal;
2218 }
2219
2220 Value *LLParser::PerFunctionState::GetVal(unsigned ID, Type *Ty,
2221                                           LocTy Loc) {
2222   // Look this name up in the normal function symbol table.
2223   Value *Val = ID < NumberedVals.size() ? NumberedVals[ID] : nullptr;
2224
2225   // If this is a forward reference for the value, see if we already created a
2226   // forward ref record.
2227   if (!Val) {
2228     std::map<unsigned, std::pair<Value*, LocTy> >::iterator
2229       I = ForwardRefValIDs.find(ID);
2230     if (I != ForwardRefValIDs.end())
2231       Val = I->second.first;
2232   }
2233
2234   // If we have the value in the symbol table or fwd-ref table, return it.
2235   if (Val) {
2236     if (Val->getType() == Ty) return Val;
2237     if (Ty->isLabelTy())
2238       P.Error(Loc, "'%" + Twine(ID) + "' is not a basic block");
2239     else
2240       P.Error(Loc, "'%" + Twine(ID) + "' defined with type '" +
2241               getTypeString(Val->getType()) + "'");
2242     return nullptr;
2243   }
2244
2245   if (!Ty->isFirstClassType()) {
2246     P.Error(Loc, "invalid use of a non-first-class type");
2247     return nullptr;
2248   }
2249
2250   // Otherwise, create a new forward reference for this value and remember it.
2251   Value *FwdVal;
2252   if (Ty->isLabelTy())
2253     FwdVal = BasicBlock::Create(F.getContext(), "", &F);
2254   else
2255     FwdVal = new Argument(Ty);
2256
2257   ForwardRefValIDs[ID] = std::make_pair(FwdVal, Loc);
2258   return FwdVal;
2259 }
2260
2261 /// SetInstName - After an instruction is parsed and inserted into its
2262 /// basic block, this installs its name.
2263 bool LLParser::PerFunctionState::SetInstName(int NameID,
2264                                              const std::string &NameStr,
2265                                              LocTy NameLoc, Instruction *Inst) {
2266   // If this instruction has void type, it cannot have a name or ID specified.
2267   if (Inst->getType()->isVoidTy()) {
2268     if (NameID != -1 || !NameStr.empty())
2269       return P.Error(NameLoc, "instructions returning void cannot have a name");
2270     return false;
2271   }
2272
2273   // If this was a numbered instruction, verify that the instruction is the
2274   // expected value and resolve any forward references.
2275   if (NameStr.empty()) {
2276     // If neither a name nor an ID was specified, just use the next ID.
2277     if (NameID == -1)
2278       NameID = NumberedVals.size();
2279
2280     if (unsigned(NameID) != NumberedVals.size())
2281       return P.Error(NameLoc, "instruction expected to be numbered '%" +
2282                      Twine(NumberedVals.size()) + "'");
2283
2284     std::map<unsigned, std::pair<Value*, LocTy> >::iterator FI =
2285       ForwardRefValIDs.find(NameID);
2286     if (FI != ForwardRefValIDs.end()) {
2287       if (FI->second.first->getType() != Inst->getType())
2288         return P.Error(NameLoc, "instruction forward referenced with type '" +
2289                        getTypeString(FI->second.first->getType()) + "'");
2290       FI->second.first->replaceAllUsesWith(Inst);
2291       delete FI->second.first;
2292       ForwardRefValIDs.erase(FI);
2293     }
2294
2295     NumberedVals.push_back(Inst);
2296     return false;
2297   }
2298
2299   // Otherwise, the instruction had a name.  Resolve forward refs and set it.
2300   std::map<std::string, std::pair<Value*, LocTy> >::iterator
2301     FI = ForwardRefVals.find(NameStr);
2302   if (FI != ForwardRefVals.end()) {
2303     if (FI->second.first->getType() != Inst->getType())
2304       return P.Error(NameLoc, "instruction forward referenced with type '" +
2305                      getTypeString(FI->second.first->getType()) + "'");
2306     FI->second.first->replaceAllUsesWith(Inst);
2307     delete FI->second.first;
2308     ForwardRefVals.erase(FI);
2309   }
2310
2311   // Set the name on the instruction.
2312   Inst->setName(NameStr);
2313
2314   if (Inst->getName() != NameStr)
2315     return P.Error(NameLoc, "multiple definition of local value named '" +
2316                    NameStr + "'");
2317   return false;
2318 }
2319
2320 /// GetBB - Get a basic block with the specified name or ID, creating a
2321 /// forward reference record if needed.
2322 BasicBlock *LLParser::PerFunctionState::GetBB(const std::string &Name,
2323                                               LocTy Loc) {
2324   return cast_or_null<BasicBlock>(GetVal(Name,
2325                                         Type::getLabelTy(F.getContext()), Loc));
2326 }
2327
2328 BasicBlock *LLParser::PerFunctionState::GetBB(unsigned ID, LocTy Loc) {
2329   return cast_or_null<BasicBlock>(GetVal(ID,
2330                                         Type::getLabelTy(F.getContext()), Loc));
2331 }
2332
2333 /// DefineBB - Define the specified basic block, which is either named or
2334 /// unnamed.  If there is an error, this returns null otherwise it returns
2335 /// the block being defined.
2336 BasicBlock *LLParser::PerFunctionState::DefineBB(const std::string &Name,
2337                                                  LocTy Loc) {
2338   BasicBlock *BB;
2339   if (Name.empty())
2340     BB = GetBB(NumberedVals.size(), Loc);
2341   else
2342     BB = GetBB(Name, Loc);
2343   if (!BB) return nullptr; // Already diagnosed error.
2344
2345   // Move the block to the end of the function.  Forward ref'd blocks are
2346   // inserted wherever they happen to be referenced.
2347   F.getBasicBlockList().splice(F.end(), F.getBasicBlockList(), BB);
2348
2349   // Remove the block from forward ref sets.
2350   if (Name.empty()) {
2351     ForwardRefValIDs.erase(NumberedVals.size());
2352     NumberedVals.push_back(BB);
2353   } else {
2354     // BB forward references are already in the function symbol table.
2355     ForwardRefVals.erase(Name);
2356   }
2357
2358   return BB;
2359 }
2360
2361 //===----------------------------------------------------------------------===//
2362 // Constants.
2363 //===----------------------------------------------------------------------===//
2364
2365 /// ParseValID - Parse an abstract value that doesn't necessarily have a
2366 /// type implied.  For example, if we parse "4" we don't know what integer type
2367 /// it has.  The value will later be combined with its type and checked for
2368 /// sanity.  PFS is used to convert function-local operands of metadata (since
2369 /// metadata operands are not just parsed here but also converted to values).
2370 /// PFS can be null when we are not parsing metadata values inside a function.
2371 bool LLParser::ParseValID(ValID &ID, PerFunctionState *PFS) {
2372   ID.Loc = Lex.getLoc();
2373   switch (Lex.getKind()) {
2374   default: return TokError("expected value token");
2375   case lltok::GlobalID:  // @42
2376     ID.UIntVal = Lex.getUIntVal();
2377     ID.Kind = ValID::t_GlobalID;
2378     break;
2379   case lltok::GlobalVar:  // @foo
2380     ID.StrVal = Lex.getStrVal();
2381     ID.Kind = ValID::t_GlobalName;
2382     break;
2383   case lltok::LocalVarID:  // %42
2384     ID.UIntVal = Lex.getUIntVal();
2385     ID.Kind = ValID::t_LocalID;
2386     break;
2387   case lltok::LocalVar:  // %foo
2388     ID.StrVal = Lex.getStrVal();
2389     ID.Kind = ValID::t_LocalName;
2390     break;
2391   case lltok::exclaim:   // !42, !{...}, or !"foo"
2392     return ParseMetadataAsValue(ID, PFS);
2393   case lltok::APSInt:
2394     ID.APSIntVal = Lex.getAPSIntVal();
2395     ID.Kind = ValID::t_APSInt;
2396     break;
2397   case lltok::APFloat:
2398     ID.APFloatVal = Lex.getAPFloatVal();
2399     ID.Kind = ValID::t_APFloat;
2400     break;
2401   case lltok::kw_true:
2402     ID.ConstantVal = ConstantInt::getTrue(Context);
2403     ID.Kind = ValID::t_Constant;
2404     break;
2405   case lltok::kw_false:
2406     ID.ConstantVal = ConstantInt::getFalse(Context);
2407     ID.Kind = ValID::t_Constant;
2408     break;
2409   case lltok::kw_null: ID.Kind = ValID::t_Null; break;
2410   case lltok::kw_undef: ID.Kind = ValID::t_Undef; break;
2411   case lltok::kw_zeroinitializer: ID.Kind = ValID::t_Zero; break;
2412
2413   case lltok::lbrace: {
2414     // ValID ::= '{' ConstVector '}'
2415     Lex.Lex();
2416     SmallVector<Constant*, 16> Elts;
2417     if (ParseGlobalValueVector(Elts) ||
2418         ParseToken(lltok::rbrace, "expected end of struct constant"))
2419       return true;
2420
2421     ID.ConstantStructElts = new Constant*[Elts.size()];
2422     ID.UIntVal = Elts.size();
2423     memcpy(ID.ConstantStructElts, Elts.data(), Elts.size()*sizeof(Elts[0]));
2424     ID.Kind = ValID::t_ConstantStruct;
2425     return false;
2426   }
2427   case lltok::less: {
2428     // ValID ::= '<' ConstVector '>'         --> Vector.
2429     // ValID ::= '<' '{' ConstVector '}' '>' --> Packed Struct.
2430     Lex.Lex();
2431     bool isPackedStruct = EatIfPresent(lltok::lbrace);
2432
2433     SmallVector<Constant*, 16> Elts;
2434     LocTy FirstEltLoc = Lex.getLoc();
2435     if (ParseGlobalValueVector(Elts) ||
2436         (isPackedStruct &&
2437          ParseToken(lltok::rbrace, "expected end of packed struct")) ||
2438         ParseToken(lltok::greater, "expected end of constant"))
2439       return true;
2440
2441     if (isPackedStruct) {
2442       ID.ConstantStructElts = new Constant*[Elts.size()];
2443       memcpy(ID.ConstantStructElts, Elts.data(), Elts.size()*sizeof(Elts[0]));
2444       ID.UIntVal = Elts.size();
2445       ID.Kind = ValID::t_PackedConstantStruct;
2446       return false;
2447     }
2448
2449     if (Elts.empty())
2450       return Error(ID.Loc, "constant vector must not be empty");
2451
2452     if (!Elts[0]->getType()->isIntegerTy() &&
2453         !Elts[0]->getType()->isFloatingPointTy() &&
2454         !Elts[0]->getType()->isPointerTy())
2455       return Error(FirstEltLoc,
2456             "vector elements must have integer, pointer or floating point type");
2457
2458     // Verify that all the vector elements have the same type.
2459     for (unsigned i = 1, e = Elts.size(); i != e; ++i)
2460       if (Elts[i]->getType() != Elts[0]->getType())
2461         return Error(FirstEltLoc,
2462                      "vector element #" + Twine(i) +
2463                     " is not of type '" + getTypeString(Elts[0]->getType()));
2464
2465     ID.ConstantVal = ConstantVector::get(Elts);
2466     ID.Kind = ValID::t_Constant;
2467     return false;
2468   }
2469   case lltok::lsquare: {   // Array Constant
2470     Lex.Lex();
2471     SmallVector<Constant*, 16> Elts;
2472     LocTy FirstEltLoc = Lex.getLoc();
2473     if (ParseGlobalValueVector(Elts) ||
2474         ParseToken(lltok::rsquare, "expected end of array constant"))
2475       return true;
2476
2477     // Handle empty element.
2478     if (Elts.empty()) {
2479       // Use undef instead of an array because it's inconvenient to determine
2480       // the element type at this point, there being no elements to examine.
2481       ID.Kind = ValID::t_EmptyArray;
2482       return false;
2483     }
2484
2485     if (!Elts[0]->getType()->isFirstClassType())
2486       return Error(FirstEltLoc, "invalid array element type: " +
2487                    getTypeString(Elts[0]->getType()));
2488
2489     ArrayType *ATy = ArrayType::get(Elts[0]->getType(), Elts.size());
2490
2491     // Verify all elements are correct type!
2492     for (unsigned i = 0, e = Elts.size(); i != e; ++i) {
2493       if (Elts[i]->getType() != Elts[0]->getType())
2494         return Error(FirstEltLoc,
2495                      "array element #" + Twine(i) +
2496                      " is not of type '" + getTypeString(Elts[0]->getType()));
2497     }
2498
2499     ID.ConstantVal = ConstantArray::get(ATy, Elts);
2500     ID.Kind = ValID::t_Constant;
2501     return false;
2502   }
2503   case lltok::kw_c:  // c "foo"
2504     Lex.Lex();
2505     ID.ConstantVal = ConstantDataArray::getString(Context, Lex.getStrVal(),
2506                                                   false);
2507     if (ParseToken(lltok::StringConstant, "expected string")) return true;
2508     ID.Kind = ValID::t_Constant;
2509     return false;
2510
2511   case lltok::kw_asm: {
2512     // ValID ::= 'asm' SideEffect? AlignStack? IntelDialect? STRINGCONSTANT ','
2513     //             STRINGCONSTANT
2514     bool HasSideEffect, AlignStack, AsmDialect;
2515     Lex.Lex();
2516     if (ParseOptionalToken(lltok::kw_sideeffect, HasSideEffect) ||
2517         ParseOptionalToken(lltok::kw_alignstack, AlignStack) ||
2518         ParseOptionalToken(lltok::kw_inteldialect, AsmDialect) ||
2519         ParseStringConstant(ID.StrVal) ||
2520         ParseToken(lltok::comma, "expected comma in inline asm expression") ||
2521         ParseToken(lltok::StringConstant, "expected constraint string"))
2522       return true;
2523     ID.StrVal2 = Lex.getStrVal();
2524     ID.UIntVal = unsigned(HasSideEffect) | (unsigned(AlignStack)<<1) |
2525       (unsigned(AsmDialect)<<2);
2526     ID.Kind = ValID::t_InlineAsm;
2527     return false;
2528   }
2529
2530   case lltok::kw_blockaddress: {
2531     // ValID ::= 'blockaddress' '(' @foo ',' %bar ')'
2532     Lex.Lex();
2533
2534     ValID Fn, Label;
2535
2536     if (ParseToken(lltok::lparen, "expected '(' in block address expression") ||
2537         ParseValID(Fn) ||
2538         ParseToken(lltok::comma, "expected comma in block address expression")||
2539         ParseValID(Label) ||
2540         ParseToken(lltok::rparen, "expected ')' in block address expression"))
2541       return true;
2542
2543     if (Fn.Kind != ValID::t_GlobalID && Fn.Kind != ValID::t_GlobalName)
2544       return Error(Fn.Loc, "expected function name in blockaddress");
2545     if (Label.Kind != ValID::t_LocalID && Label.Kind != ValID::t_LocalName)
2546       return Error(Label.Loc, "expected basic block name in blockaddress");
2547
2548     // Try to find the function (but skip it if it's forward-referenced).
2549     GlobalValue *GV = nullptr;
2550     if (Fn.Kind == ValID::t_GlobalID) {
2551       if (Fn.UIntVal < NumberedVals.size())
2552         GV = NumberedVals[Fn.UIntVal];
2553     } else if (!ForwardRefVals.count(Fn.StrVal)) {
2554       GV = M->getNamedValue(Fn.StrVal);
2555     }
2556     Function *F = nullptr;
2557     if (GV) {
2558       // Confirm that it's actually a function with a definition.
2559       if (!isa<Function>(GV))
2560         return Error(Fn.Loc, "expected function name in blockaddress");
2561       F = cast<Function>(GV);
2562       if (F->isDeclaration())
2563         return Error(Fn.Loc, "cannot take blockaddress inside a declaration");
2564     }
2565
2566     if (!F) {
2567       // Make a global variable as a placeholder for this reference.
2568       GlobalValue *&FwdRef = ForwardRefBlockAddresses[Fn][Label];
2569       if (!FwdRef)
2570         FwdRef = new GlobalVariable(*M, Type::getInt8Ty(Context), false,
2571                                     GlobalValue::InternalLinkage, nullptr, "");
2572       ID.ConstantVal = FwdRef;
2573       ID.Kind = ValID::t_Constant;
2574       return false;
2575     }
2576
2577     // We found the function; now find the basic block.  Don't use PFS, since we
2578     // might be inside a constant expression.
2579     BasicBlock *BB;
2580     if (BlockAddressPFS && F == &BlockAddressPFS->getFunction()) {
2581       if (Label.Kind == ValID::t_LocalID)
2582         BB = BlockAddressPFS->GetBB(Label.UIntVal, Label.Loc);
2583       else
2584         BB = BlockAddressPFS->GetBB(Label.StrVal, Label.Loc);
2585       if (!BB)
2586         return Error(Label.Loc, "referenced value is not a basic block");
2587     } else {
2588       if (Label.Kind == ValID::t_LocalID)
2589         return Error(Label.Loc, "cannot take address of numeric label after "
2590                                 "the function is defined");
2591       BB = dyn_cast_or_null<BasicBlock>(
2592           F->getValueSymbolTable().lookup(Label.StrVal));
2593       if (!BB)
2594         return Error(Label.Loc, "referenced value is not a basic block");
2595     }
2596
2597     ID.ConstantVal = BlockAddress::get(F, BB);
2598     ID.Kind = ValID::t_Constant;
2599     return false;
2600   }
2601
2602   case lltok::kw_trunc:
2603   case lltok::kw_zext:
2604   case lltok::kw_sext:
2605   case lltok::kw_fptrunc:
2606   case lltok::kw_fpext:
2607   case lltok::kw_bitcast:
2608   case lltok::kw_addrspacecast:
2609   case lltok::kw_uitofp:
2610   case lltok::kw_sitofp:
2611   case lltok::kw_fptoui:
2612   case lltok::kw_fptosi:
2613   case lltok::kw_inttoptr:
2614   case lltok::kw_ptrtoint: {
2615     unsigned Opc = Lex.getUIntVal();
2616     Type *DestTy = nullptr;
2617     Constant *SrcVal;
2618     Lex.Lex();
2619     if (ParseToken(lltok::lparen, "expected '(' after constantexpr cast") ||
2620         ParseGlobalTypeAndValue(SrcVal) ||
2621         ParseToken(lltok::kw_to, "expected 'to' in constantexpr cast") ||
2622         ParseType(DestTy) ||
2623         ParseToken(lltok::rparen, "expected ')' at end of constantexpr cast"))
2624       return true;
2625     if (!CastInst::castIsValid((Instruction::CastOps)Opc, SrcVal, DestTy))
2626       return Error(ID.Loc, "invalid cast opcode for cast from '" +
2627                    getTypeString(SrcVal->getType()) + "' to '" +
2628                    getTypeString(DestTy) + "'");
2629     ID.ConstantVal = ConstantExpr::getCast((Instruction::CastOps)Opc,
2630                                                  SrcVal, DestTy);
2631     ID.Kind = ValID::t_Constant;
2632     return false;
2633   }
2634   case lltok::kw_extractvalue: {
2635     Lex.Lex();
2636     Constant *Val;
2637     SmallVector<unsigned, 4> Indices;
2638     if (ParseToken(lltok::lparen, "expected '(' in extractvalue constantexpr")||
2639         ParseGlobalTypeAndValue(Val) ||
2640         ParseIndexList(Indices) ||
2641         ParseToken(lltok::rparen, "expected ')' in extractvalue constantexpr"))
2642       return true;
2643
2644     if (!Val->getType()->isAggregateType())
2645       return Error(ID.Loc, "extractvalue operand must be aggregate type");
2646     if (!ExtractValueInst::getIndexedType(Val->getType(), Indices))
2647       return Error(ID.Loc, "invalid indices for extractvalue");
2648     ID.ConstantVal = ConstantExpr::getExtractValue(Val, Indices);
2649     ID.Kind = ValID::t_Constant;
2650     return false;
2651   }
2652   case lltok::kw_insertvalue: {
2653     Lex.Lex();
2654     Constant *Val0, *Val1;
2655     SmallVector<unsigned, 4> Indices;
2656     if (ParseToken(lltok::lparen, "expected '(' in insertvalue constantexpr")||
2657         ParseGlobalTypeAndValue(Val0) ||
2658         ParseToken(lltok::comma, "expected comma in insertvalue constantexpr")||
2659         ParseGlobalTypeAndValue(Val1) ||
2660         ParseIndexList(Indices) ||
2661         ParseToken(lltok::rparen, "expected ')' in insertvalue constantexpr"))
2662       return true;
2663     if (!Val0->getType()->isAggregateType())
2664       return Error(ID.Loc, "insertvalue operand must be aggregate type");
2665     if (!ExtractValueInst::getIndexedType(Val0->getType(), Indices))
2666       return Error(ID.Loc, "invalid indices for insertvalue");
2667     ID.ConstantVal = ConstantExpr::getInsertValue(Val0, Val1, Indices);
2668     ID.Kind = ValID::t_Constant;
2669     return false;
2670   }
2671   case lltok::kw_icmp:
2672   case lltok::kw_fcmp: {
2673     unsigned PredVal, Opc = Lex.getUIntVal();
2674     Constant *Val0, *Val1;
2675     Lex.Lex();
2676     if (ParseCmpPredicate(PredVal, Opc) ||
2677         ParseToken(lltok::lparen, "expected '(' in compare constantexpr") ||
2678         ParseGlobalTypeAndValue(Val0) ||
2679         ParseToken(lltok::comma, "expected comma in compare constantexpr") ||
2680         ParseGlobalTypeAndValue(Val1) ||
2681         ParseToken(lltok::rparen, "expected ')' in compare constantexpr"))
2682       return true;
2683
2684     if (Val0->getType() != Val1->getType())
2685       return Error(ID.Loc, "compare operands must have the same type");
2686
2687     CmpInst::Predicate Pred = (CmpInst::Predicate)PredVal;
2688
2689     if (Opc == Instruction::FCmp) {
2690       if (!Val0->getType()->isFPOrFPVectorTy())
2691         return Error(ID.Loc, "fcmp requires floating point operands");
2692       ID.ConstantVal = ConstantExpr::getFCmp(Pred, Val0, Val1);
2693     } else {
2694       assert(Opc == Instruction::ICmp && "Unexpected opcode for CmpInst!");
2695       if (!Val0->getType()->isIntOrIntVectorTy() &&
2696           !Val0->getType()->getScalarType()->isPointerTy())
2697         return Error(ID.Loc, "icmp requires pointer or integer operands");
2698       ID.ConstantVal = ConstantExpr::getICmp(Pred, Val0, Val1);
2699     }
2700     ID.Kind = ValID::t_Constant;
2701     return false;
2702   }
2703
2704   // Binary Operators.
2705   case lltok::kw_add:
2706   case lltok::kw_fadd:
2707   case lltok::kw_sub:
2708   case lltok::kw_fsub:
2709   case lltok::kw_mul:
2710   case lltok::kw_fmul:
2711   case lltok::kw_udiv:
2712   case lltok::kw_sdiv:
2713   case lltok::kw_fdiv:
2714   case lltok::kw_urem:
2715   case lltok::kw_srem:
2716   case lltok::kw_frem:
2717   case lltok::kw_shl:
2718   case lltok::kw_lshr:
2719   case lltok::kw_ashr: {
2720     bool NUW = false;
2721     bool NSW = false;
2722     bool Exact = false;
2723     unsigned Opc = Lex.getUIntVal();
2724     Constant *Val0, *Val1;
2725     Lex.Lex();
2726     LocTy ModifierLoc = Lex.getLoc();
2727     if (Opc == Instruction::Add || Opc == Instruction::Sub ||
2728         Opc == Instruction::Mul || Opc == Instruction::Shl) {
2729       if (EatIfPresent(lltok::kw_nuw))
2730         NUW = true;
2731       if (EatIfPresent(lltok::kw_nsw)) {
2732         NSW = true;
2733         if (EatIfPresent(lltok::kw_nuw))
2734           NUW = true;
2735       }
2736     } else if (Opc == Instruction::SDiv || Opc == Instruction::UDiv ||
2737                Opc == Instruction::LShr || Opc == Instruction::AShr) {
2738       if (EatIfPresent(lltok::kw_exact))
2739         Exact = true;
2740     }
2741     if (ParseToken(lltok::lparen, "expected '(' in binary constantexpr") ||
2742         ParseGlobalTypeAndValue(Val0) ||
2743         ParseToken(lltok::comma, "expected comma in binary constantexpr") ||
2744         ParseGlobalTypeAndValue(Val1) ||
2745         ParseToken(lltok::rparen, "expected ')' in binary constantexpr"))
2746       return true;
2747     if (Val0->getType() != Val1->getType())
2748       return Error(ID.Loc, "operands of constexpr must have same type");
2749     if (!Val0->getType()->isIntOrIntVectorTy()) {
2750       if (NUW)
2751         return Error(ModifierLoc, "nuw only applies to integer operations");
2752       if (NSW)
2753         return Error(ModifierLoc, "nsw only applies to integer operations");
2754     }
2755     // Check that the type is valid for the operator.
2756     switch (Opc) {
2757     case Instruction::Add:
2758     case Instruction::Sub:
2759     case Instruction::Mul:
2760     case Instruction::UDiv:
2761     case Instruction::SDiv:
2762     case Instruction::URem:
2763     case Instruction::SRem:
2764     case Instruction::Shl:
2765     case Instruction::AShr:
2766     case Instruction::LShr:
2767       if (!Val0->getType()->isIntOrIntVectorTy())
2768         return Error(ID.Loc, "constexpr requires integer operands");
2769       break;
2770     case Instruction::FAdd:
2771     case Instruction::FSub:
2772     case Instruction::FMul:
2773     case Instruction::FDiv:
2774     case Instruction::FRem:
2775       if (!Val0->getType()->isFPOrFPVectorTy())
2776         return Error(ID.Loc, "constexpr requires fp operands");
2777       break;
2778     default: llvm_unreachable("Unknown binary operator!");
2779     }
2780     unsigned Flags = 0;
2781     if (NUW)   Flags |= OverflowingBinaryOperator::NoUnsignedWrap;
2782     if (NSW)   Flags |= OverflowingBinaryOperator::NoSignedWrap;
2783     if (Exact) Flags |= PossiblyExactOperator::IsExact;
2784     Constant *C = ConstantExpr::get(Opc, Val0, Val1, Flags);
2785     ID.ConstantVal = C;
2786     ID.Kind = ValID::t_Constant;
2787     return false;
2788   }
2789
2790   // Logical Operations
2791   case lltok::kw_and:
2792   case lltok::kw_or:
2793   case lltok::kw_xor: {
2794     unsigned Opc = Lex.getUIntVal();
2795     Constant *Val0, *Val1;
2796     Lex.Lex();
2797     if (ParseToken(lltok::lparen, "expected '(' in logical constantexpr") ||
2798         ParseGlobalTypeAndValue(Val0) ||
2799         ParseToken(lltok::comma, "expected comma in logical constantexpr") ||
2800         ParseGlobalTypeAndValue(Val1) ||
2801         ParseToken(lltok::rparen, "expected ')' in logical constantexpr"))
2802       return true;
2803     if (Val0->getType() != Val1->getType())
2804       return Error(ID.Loc, "operands of constexpr must have same type");
2805     if (!Val0->getType()->isIntOrIntVectorTy())
2806       return Error(ID.Loc,
2807                    "constexpr requires integer or integer vector operands");
2808     ID.ConstantVal = ConstantExpr::get(Opc, Val0, Val1);
2809     ID.Kind = ValID::t_Constant;
2810     return false;
2811   }
2812
2813   case lltok::kw_getelementptr:
2814   case lltok::kw_shufflevector:
2815   case lltok::kw_insertelement:
2816   case lltok::kw_extractelement:
2817   case lltok::kw_select: {
2818     unsigned Opc = Lex.getUIntVal();
2819     SmallVector<Constant*, 16> Elts;
2820     bool InBounds = false;
2821     Lex.Lex();
2822     if (Opc == Instruction::GetElementPtr)
2823       InBounds = EatIfPresent(lltok::kw_inbounds);
2824     if (ParseToken(lltok::lparen, "expected '(' in constantexpr") ||
2825         ParseGlobalValueVector(Elts) ||
2826         ParseToken(lltok::rparen, "expected ')' in constantexpr"))
2827       return true;
2828
2829     if (Opc == Instruction::GetElementPtr) {
2830       if (Elts.size() == 0 ||
2831           !Elts[0]->getType()->getScalarType()->isPointerTy())
2832         return Error(ID.Loc, "getelementptr requires pointer operand");
2833
2834       ArrayRef<Constant *> Indices(Elts.begin() + 1, Elts.end());
2835       if (!GetElementPtrInst::getIndexedType(Elts[0]->getType(), Indices))
2836         return Error(ID.Loc, "invalid indices for getelementptr");
2837       ID.ConstantVal = ConstantExpr::getGetElementPtr(Elts[0], Indices,
2838                                                       InBounds);
2839     } else if (Opc == Instruction::Select) {
2840       if (Elts.size() != 3)
2841         return Error(ID.Loc, "expected three operands to select");
2842       if (const char *Reason = SelectInst::areInvalidOperands(Elts[0], Elts[1],
2843                                                               Elts[2]))
2844         return Error(ID.Loc, Reason);
2845       ID.ConstantVal = ConstantExpr::getSelect(Elts[0], Elts[1], Elts[2]);
2846     } else if (Opc == Instruction::ShuffleVector) {
2847       if (Elts.size() != 3)
2848         return Error(ID.Loc, "expected three operands to shufflevector");
2849       if (!ShuffleVectorInst::isValidOperands(Elts[0], Elts[1], Elts[2]))
2850         return Error(ID.Loc, "invalid operands to shufflevector");
2851       ID.ConstantVal =
2852                  ConstantExpr::getShuffleVector(Elts[0], Elts[1],Elts[2]);
2853     } else if (Opc == Instruction::ExtractElement) {
2854       if (Elts.size() != 2)
2855         return Error(ID.Loc, "expected two operands to extractelement");
2856       if (!ExtractElementInst::isValidOperands(Elts[0], Elts[1]))
2857         return Error(ID.Loc, "invalid extractelement operands");
2858       ID.ConstantVal = ConstantExpr::getExtractElement(Elts[0], Elts[1]);
2859     } else {
2860       assert(Opc == Instruction::InsertElement && "Unknown opcode");
2861       if (Elts.size() != 3)
2862       return Error(ID.Loc, "expected three operands to insertelement");
2863       if (!InsertElementInst::isValidOperands(Elts[0], Elts[1], Elts[2]))
2864         return Error(ID.Loc, "invalid insertelement operands");
2865       ID.ConstantVal =
2866                  ConstantExpr::getInsertElement(Elts[0], Elts[1],Elts[2]);
2867     }
2868
2869     ID.Kind = ValID::t_Constant;
2870     return false;
2871   }
2872   }
2873
2874   Lex.Lex();
2875   return false;
2876 }
2877
2878 /// ParseGlobalValue - Parse a global value with the specified type.
2879 bool LLParser::ParseGlobalValue(Type *Ty, Constant *&C) {
2880   C = nullptr;
2881   ValID ID;
2882   Value *V = nullptr;
2883   bool Parsed = ParseValID(ID) ||
2884                 ConvertValIDToValue(Ty, ID, V, nullptr);
2885   if (V && !(C = dyn_cast<Constant>(V)))
2886     return Error(ID.Loc, "global values must be constants");
2887   return Parsed;
2888 }
2889
2890 bool LLParser::ParseGlobalTypeAndValue(Constant *&V) {
2891   Type *Ty = nullptr;
2892   return ParseType(Ty) ||
2893          ParseGlobalValue(Ty, V);
2894 }
2895
2896 bool LLParser::parseOptionalComdat(Comdat *&C) {
2897   C = nullptr;
2898   if (!EatIfPresent(lltok::kw_comdat))
2899     return false;
2900   if (Lex.getKind() != lltok::ComdatVar)
2901     return TokError("expected comdat variable");
2902   LocTy Loc = Lex.getLoc();
2903   StringRef Name = Lex.getStrVal();
2904   C = getComdat(Name, Loc);
2905   Lex.Lex();
2906   return false;
2907 }
2908
2909 /// ParseGlobalValueVector
2910 ///   ::= /*empty*/
2911 ///   ::= TypeAndValue (',' TypeAndValue)*
2912 bool LLParser::ParseGlobalValueVector(SmallVectorImpl<Constant *> &Elts) {
2913   // Empty list.
2914   if (Lex.getKind() == lltok::rbrace ||
2915       Lex.getKind() == lltok::rsquare ||
2916       Lex.getKind() == lltok::greater ||
2917       Lex.getKind() == lltok::rparen)
2918     return false;
2919
2920   Constant *C;
2921   if (ParseGlobalTypeAndValue(C)) return true;
2922   Elts.push_back(C);
2923
2924   while (EatIfPresent(lltok::comma)) {
2925     if (ParseGlobalTypeAndValue(C)) return true;
2926     Elts.push_back(C);
2927   }
2928
2929   return false;
2930 }
2931
2932 bool LLParser::ParseMDNode(MDNode *&MD) {
2933   SmallVector<Metadata *, 16> Elts;
2934   if (ParseMDNodeVector(Elts, nullptr))
2935     return true;
2936
2937   MD = MDNode::get(Context, Elts);
2938   return false;
2939 }
2940
2941 bool LLParser::ParseMDNodeOrLocal(Metadata *&MD, PerFunctionState *PFS) {
2942   SmallVector<Metadata *, 16> Elts;
2943   if (ParseMDNodeVector(Elts, PFS))
2944     return true;
2945
2946   // Check for function-local metadata masquerading as an MDNode.
2947   if (PFS && Elts.size() == 1 && Elts[0] && isa<LocalAsMetadata>(Elts[0])) {
2948     MD = Elts[0];
2949     return false;
2950   }
2951
2952   MD = MDNode::get(Context, Elts);
2953   return false;
2954 }
2955
2956 bool LLParser::ParseMetadataAsValue(ValID &ID, PerFunctionState *PFS) {
2957   Metadata *MD;
2958   if (ParseMetadata(MD, PFS))
2959     return true;
2960
2961   ID.Kind = ValID::t_Metadata;
2962   ID.MetadataVal = MetadataAsValue::get(Context, MD);
2963   return false;
2964 }
2965
2966 /// ParseMetadata
2967 ///  ::= !42
2968 ///  ::= !{...}
2969 ///  ::= !"string"
2970 bool LLParser::ParseMetadata(Metadata *&MD, PerFunctionState *PFS) {
2971   if (ParseToken(lltok::exclaim, "expected '!' here"))
2972     return true;
2973
2974   // MDNode:
2975   // !{ ... }
2976   if (Lex.getKind() == lltok::lbrace)
2977     return ParseMDNodeOrLocal(MD, PFS);
2978
2979   // Standalone metadata reference
2980   // !42
2981   if (Lex.getKind() == lltok::APSInt) {
2982     MDNode *N;
2983     if (ParseMDNodeID(N))
2984       return true;
2985     MD = N;
2986     return false;
2987   }
2988
2989   // MDString:
2990   //   ::= '!' STRINGCONSTANT
2991   MDString *S;
2992   if (ParseMDString(S))
2993     return true;
2994   MD = S;
2995   return false;
2996 }
2997
2998
2999 //===----------------------------------------------------------------------===//
3000 // Function Parsing.
3001 //===----------------------------------------------------------------------===//
3002
3003 bool LLParser::ConvertValIDToValue(Type *Ty, ValID &ID, Value *&V,
3004                                    PerFunctionState *PFS) {
3005   if (Ty->isFunctionTy())
3006     return Error(ID.Loc, "functions are not values, refer to them as pointers");
3007
3008   switch (ID.Kind) {
3009   case ValID::t_LocalID:
3010     if (!PFS) return Error(ID.Loc, "invalid use of function-local name");
3011     V = PFS->GetVal(ID.UIntVal, Ty, ID.Loc);
3012     return V == nullptr;
3013   case ValID::t_LocalName:
3014     if (!PFS) return Error(ID.Loc, "invalid use of function-local name");
3015     V = PFS->GetVal(ID.StrVal, Ty, ID.Loc);
3016     return V == nullptr;
3017   case ValID::t_InlineAsm: {
3018     PointerType *PTy = dyn_cast<PointerType>(Ty);
3019     FunctionType *FTy =
3020       PTy ? dyn_cast<FunctionType>(PTy->getElementType()) : nullptr;
3021     if (!FTy || !InlineAsm::Verify(FTy, ID.StrVal2))
3022       return Error(ID.Loc, "invalid type for inline asm constraint string");
3023     V = InlineAsm::get(FTy, ID.StrVal, ID.StrVal2, ID.UIntVal&1,
3024                        (ID.UIntVal>>1)&1, (InlineAsm::AsmDialect(ID.UIntVal>>2)));
3025     return false;
3026   }
3027   case ValID::t_Metadata:
3028     if (!Ty->isMetadataTy())
3029       return Error(ID.Loc, "metadata value must have metadata type");
3030     V = ID.MetadataVal;
3031     return false;
3032   case ValID::t_GlobalName:
3033     V = GetGlobalVal(ID.StrVal, Ty, ID.Loc);
3034     return V == nullptr;
3035   case ValID::t_GlobalID:
3036     V = GetGlobalVal(ID.UIntVal, Ty, ID.Loc);
3037     return V == nullptr;
3038   case ValID::t_APSInt:
3039     if (!Ty->isIntegerTy())
3040       return Error(ID.Loc, "integer constant must have integer type");
3041     ID.APSIntVal = ID.APSIntVal.extOrTrunc(Ty->getPrimitiveSizeInBits());
3042     V = ConstantInt::get(Context, ID.APSIntVal);
3043     return false;
3044   case ValID::t_APFloat:
3045     if (!Ty->isFloatingPointTy() ||
3046         !ConstantFP::isValueValidForType(Ty, ID.APFloatVal))
3047       return Error(ID.Loc, "floating point constant invalid for type");
3048
3049     // The lexer has no type info, so builds all half, float, and double FP
3050     // constants as double.  Fix this here.  Long double does not need this.
3051     if (&ID.APFloatVal.getSemantics() == &APFloat::IEEEdouble) {
3052       bool Ignored;
3053       if (Ty->isHalfTy())
3054         ID.APFloatVal.convert(APFloat::IEEEhalf, APFloat::rmNearestTiesToEven,
3055                               &Ignored);
3056       else if (Ty->isFloatTy())
3057         ID.APFloatVal.convert(APFloat::IEEEsingle, APFloat::rmNearestTiesToEven,
3058                               &Ignored);
3059     }
3060     V = ConstantFP::get(Context, ID.APFloatVal);
3061
3062     if (V->getType() != Ty)
3063       return Error(ID.Loc, "floating point constant does not have type '" +
3064                    getTypeString(Ty) + "'");
3065
3066     return false;
3067   case ValID::t_Null:
3068     if (!Ty->isPointerTy())
3069       return Error(ID.Loc, "null must be a pointer type");
3070     V = ConstantPointerNull::get(cast<PointerType>(Ty));
3071     return false;
3072   case ValID::t_Undef:
3073     // FIXME: LabelTy should not be a first-class type.
3074     if (!Ty->isFirstClassType() || Ty->isLabelTy())
3075       return Error(ID.Loc, "invalid type for undef constant");
3076     V = UndefValue::get(Ty);
3077     return false;
3078   case ValID::t_EmptyArray:
3079     if (!Ty->isArrayTy() || cast<ArrayType>(Ty)->getNumElements() != 0)
3080       return Error(ID.Loc, "invalid empty array initializer");
3081     V = UndefValue::get(Ty);
3082     return false;
3083   case ValID::t_Zero:
3084     // FIXME: LabelTy should not be a first-class type.
3085     if (!Ty->isFirstClassType() || Ty->isLabelTy())
3086       return Error(ID.Loc, "invalid type for null constant");
3087     V = Constant::getNullValue(Ty);
3088     return false;
3089   case ValID::t_Constant:
3090     if (ID.ConstantVal->getType() != Ty)
3091       return Error(ID.Loc, "constant expression type mismatch");
3092
3093     V = ID.ConstantVal;
3094     return false;
3095   case ValID::t_ConstantStruct:
3096   case ValID::t_PackedConstantStruct:
3097     if (StructType *ST = dyn_cast<StructType>(Ty)) {
3098       if (ST->getNumElements() != ID.UIntVal)
3099         return Error(ID.Loc,
3100                      "initializer with struct type has wrong # elements");
3101       if (ST->isPacked() != (ID.Kind == ValID::t_PackedConstantStruct))
3102         return Error(ID.Loc, "packed'ness of initializer and type don't match");
3103
3104       // Verify that the elements are compatible with the structtype.
3105       for (unsigned i = 0, e = ID.UIntVal; i != e; ++i)
3106         if (ID.ConstantStructElts[i]->getType() != ST->getElementType(i))
3107           return Error(ID.Loc, "element " + Twine(i) +
3108                     " of struct initializer doesn't match struct element type");
3109
3110       V = ConstantStruct::get(ST, makeArrayRef(ID.ConstantStructElts,
3111                                                ID.UIntVal));
3112     } else
3113       return Error(ID.Loc, "constant expression type mismatch");
3114     return false;
3115   }
3116   llvm_unreachable("Invalid ValID");
3117 }
3118
3119 bool LLParser::ParseValue(Type *Ty, Value *&V, PerFunctionState *PFS) {
3120   V = nullptr;
3121   ValID ID;
3122   return ParseValID(ID, PFS) ||
3123          ConvertValIDToValue(Ty, ID, V, PFS);
3124 }
3125
3126 bool LLParser::ParseTypeAndValue(Value *&V, PerFunctionState *PFS) {
3127   Type *Ty = nullptr;
3128   return ParseType(Ty) ||
3129          ParseValue(Ty, V, PFS);
3130 }
3131
3132 bool LLParser::ParseTypeAndBasicBlock(BasicBlock *&BB, LocTy &Loc,
3133                                       PerFunctionState &PFS) {
3134   Value *V;
3135   Loc = Lex.getLoc();
3136   if (ParseTypeAndValue(V, PFS)) return true;
3137   if (!isa<BasicBlock>(V))
3138     return Error(Loc, "expected a basic block");
3139   BB = cast<BasicBlock>(V);
3140   return false;
3141 }
3142
3143
3144 /// FunctionHeader
3145 ///   ::= OptionalLinkage OptionalVisibility OptionalCallingConv OptRetAttrs
3146 ///       OptUnnamedAddr Type GlobalName '(' ArgList ')' OptFuncAttrs OptSection
3147 ///       OptionalAlign OptGC OptionalPrefix OptionalPrologue
3148 bool LLParser::ParseFunctionHeader(Function *&Fn, bool isDefine) {
3149   // Parse the linkage.
3150   LocTy LinkageLoc = Lex.getLoc();
3151   unsigned Linkage;
3152
3153   unsigned Visibility;
3154   unsigned DLLStorageClass;
3155   AttrBuilder RetAttrs;
3156   unsigned CC;
3157   Type *RetType = nullptr;
3158   LocTy RetTypeLoc = Lex.getLoc();
3159   if (ParseOptionalLinkage(Linkage) ||
3160       ParseOptionalVisibility(Visibility) ||
3161       ParseOptionalDLLStorageClass(DLLStorageClass) ||
3162       ParseOptionalCallingConv(CC) ||
3163       ParseOptionalReturnAttrs(RetAttrs) ||
3164       ParseType(RetType, RetTypeLoc, true /*void allowed*/))
3165     return true;
3166
3167   // Verify that the linkage is ok.
3168   switch ((GlobalValue::LinkageTypes)Linkage) {
3169   case GlobalValue::ExternalLinkage:
3170     break; // always ok.
3171   case GlobalValue::ExternalWeakLinkage:
3172     if (isDefine)
3173       return Error(LinkageLoc, "invalid linkage for function definition");
3174     break;
3175   case GlobalValue::PrivateLinkage:
3176   case GlobalValue::InternalLinkage:
3177   case GlobalValue::AvailableExternallyLinkage:
3178   case GlobalValue::LinkOnceAnyLinkage:
3179   case GlobalValue::LinkOnceODRLinkage:
3180   case GlobalValue::WeakAnyLinkage:
3181   case GlobalValue::WeakODRLinkage:
3182     if (!isDefine)
3183       return Error(LinkageLoc, "invalid linkage for function declaration");
3184     break;
3185   case GlobalValue::AppendingLinkage:
3186   case GlobalValue::CommonLinkage:
3187     return Error(LinkageLoc, "invalid function linkage type");
3188   }
3189
3190   if (!isValidVisibilityForLinkage(Visibility, Linkage))
3191     return Error(LinkageLoc,
3192                  "symbol with local linkage must have default visibility");
3193
3194   if (!FunctionType::isValidReturnType(RetType))
3195     return Error(RetTypeLoc, "invalid function return type");
3196
3197   LocTy NameLoc = Lex.getLoc();
3198
3199   std::string FunctionName;
3200   if (Lex.getKind() == lltok::GlobalVar) {
3201     FunctionName = Lex.getStrVal();
3202   } else if (Lex.getKind() == lltok::GlobalID) {     // @42 is ok.
3203     unsigned NameID = Lex.getUIntVal();
3204
3205     if (NameID != NumberedVals.size())
3206       return TokError("function expected to be numbered '%" +
3207                       Twine(NumberedVals.size()) + "'");
3208   } else {
3209     return TokError("expected function name");
3210   }
3211
3212   Lex.Lex();
3213
3214   if (Lex.getKind() != lltok::lparen)
3215     return TokError("expected '(' in function argument list");
3216
3217   SmallVector<ArgInfo, 8> ArgList;
3218   bool isVarArg;
3219   AttrBuilder FuncAttrs;
3220   std::vector<unsigned> FwdRefAttrGrps;
3221   LocTy BuiltinLoc;
3222   std::string Section;
3223   unsigned Alignment;
3224   std::string GC;
3225   bool UnnamedAddr;
3226   LocTy UnnamedAddrLoc;
3227   Constant *Prefix = nullptr;
3228   Constant *Prologue = nullptr;
3229   Comdat *C;
3230
3231   if (ParseArgumentList(ArgList, isVarArg) ||
3232       ParseOptionalToken(lltok::kw_unnamed_addr, UnnamedAddr,
3233                          &UnnamedAddrLoc) ||
3234       ParseFnAttributeValuePairs(FuncAttrs, FwdRefAttrGrps, false,
3235                                  BuiltinLoc) ||
3236       (EatIfPresent(lltok::kw_section) &&
3237        ParseStringConstant(Section)) ||
3238       parseOptionalComdat(C) ||
3239       ParseOptionalAlignment(Alignment) ||
3240       (EatIfPresent(lltok::kw_gc) &&
3241        ParseStringConstant(GC)) ||
3242       (EatIfPresent(lltok::kw_prefix) &&
3243        ParseGlobalTypeAndValue(Prefix)) ||
3244       (EatIfPresent(lltok::kw_prologue) &&
3245        ParseGlobalTypeAndValue(Prologue)))
3246     return true;
3247
3248   if (FuncAttrs.contains(Attribute::Builtin))
3249     return Error(BuiltinLoc, "'builtin' attribute not valid on function");
3250
3251   // If the alignment was parsed as an attribute, move to the alignment field.
3252   if (FuncAttrs.hasAlignmentAttr()) {
3253     Alignment = FuncAttrs.getAlignment();
3254     FuncAttrs.removeAttribute(Attribute::Alignment);
3255   }
3256
3257   // Okay, if we got here, the function is syntactically valid.  Convert types
3258   // and do semantic checks.
3259   std::vector<Type*> ParamTypeList;
3260   SmallVector<AttributeSet, 8> Attrs;
3261
3262   if (RetAttrs.hasAttributes())
3263     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3264                                       AttributeSet::ReturnIndex,
3265                                       RetAttrs));
3266
3267   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
3268     ParamTypeList.push_back(ArgList[i].Ty);
3269     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
3270       AttrBuilder B(ArgList[i].Attrs, i + 1);
3271       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
3272     }
3273   }
3274
3275   if (FuncAttrs.hasAttributes())
3276     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3277                                       AttributeSet::FunctionIndex,
3278                                       FuncAttrs));
3279
3280   AttributeSet PAL = AttributeSet::get(Context, Attrs);
3281
3282   if (PAL.hasAttribute(1, Attribute::StructRet) && !RetType->isVoidTy())
3283     return Error(RetTypeLoc, "functions with 'sret' argument must return void");
3284
3285   FunctionType *FT =
3286     FunctionType::get(RetType, ParamTypeList, isVarArg);
3287   PointerType *PFT = PointerType::getUnqual(FT);
3288
3289   Fn = nullptr;
3290   if (!FunctionName.empty()) {
3291     // If this was a definition of a forward reference, remove the definition
3292     // from the forward reference table and fill in the forward ref.
3293     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator FRVI =
3294       ForwardRefVals.find(FunctionName);
3295     if (FRVI != ForwardRefVals.end()) {
3296       Fn = M->getFunction(FunctionName);
3297       if (!Fn)
3298         return Error(FRVI->second.second, "invalid forward reference to "
3299                      "function as global value!");
3300       if (Fn->getType() != PFT)
3301         return Error(FRVI->second.second, "invalid forward reference to "
3302                      "function '" + FunctionName + "' with wrong type!");
3303
3304       ForwardRefVals.erase(FRVI);
3305     } else if ((Fn = M->getFunction(FunctionName))) {
3306       // Reject redefinitions.
3307       return Error(NameLoc, "invalid redefinition of function '" +
3308                    FunctionName + "'");
3309     } else if (M->getNamedValue(FunctionName)) {
3310       return Error(NameLoc, "redefinition of function '@" + FunctionName + "'");
3311     }
3312
3313   } else {
3314     // If this is a definition of a forward referenced function, make sure the
3315     // types agree.
3316     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator I
3317       = ForwardRefValIDs.find(NumberedVals.size());
3318     if (I != ForwardRefValIDs.end()) {
3319       Fn = cast<Function>(I->second.first);
3320       if (Fn->getType() != PFT)
3321         return Error(NameLoc, "type of definition and forward reference of '@" +
3322                      Twine(NumberedVals.size()) + "' disagree");
3323       ForwardRefValIDs.erase(I);
3324     }
3325   }
3326
3327   if (!Fn)
3328     Fn = Function::Create(FT, GlobalValue::ExternalLinkage, FunctionName, M);
3329   else // Move the forward-reference to the correct spot in the module.
3330     M->getFunctionList().splice(M->end(), M->getFunctionList(), Fn);
3331
3332   if (FunctionName.empty())
3333     NumberedVals.push_back(Fn);
3334
3335   Fn->setLinkage((GlobalValue::LinkageTypes)Linkage);
3336   Fn->setVisibility((GlobalValue::VisibilityTypes)Visibility);
3337   Fn->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
3338   Fn->setCallingConv(CC);
3339   Fn->setAttributes(PAL);
3340   Fn->setUnnamedAddr(UnnamedAddr);
3341   Fn->setAlignment(Alignment);
3342   Fn->setSection(Section);
3343   Fn->setComdat(C);
3344   if (!GC.empty()) Fn->setGC(GC.c_str());
3345   Fn->setPrefixData(Prefix);
3346   Fn->setPrologueData(Prologue);
3347   ForwardRefAttrGroups[Fn] = FwdRefAttrGrps;
3348
3349   // Add all of the arguments we parsed to the function.
3350   Function::arg_iterator ArgIt = Fn->arg_begin();
3351   for (unsigned i = 0, e = ArgList.size(); i != e; ++i, ++ArgIt) {
3352     // If the argument has a name, insert it into the argument symbol table.
3353     if (ArgList[i].Name.empty()) continue;
3354
3355     // Set the name, if it conflicted, it will be auto-renamed.
3356     ArgIt->setName(ArgList[i].Name);
3357
3358     if (ArgIt->getName() != ArgList[i].Name)
3359       return Error(ArgList[i].Loc, "redefinition of argument '%" +
3360                    ArgList[i].Name + "'");
3361   }
3362
3363   if (isDefine)
3364     return false;
3365
3366   // Check the declaration has no block address forward references.
3367   ValID ID;
3368   if (FunctionName.empty()) {
3369     ID.Kind = ValID::t_GlobalID;
3370     ID.UIntVal = NumberedVals.size() - 1;
3371   } else {
3372     ID.Kind = ValID::t_GlobalName;
3373     ID.StrVal = FunctionName;
3374   }
3375   auto Blocks = ForwardRefBlockAddresses.find(ID);
3376   if (Blocks != ForwardRefBlockAddresses.end())
3377     return Error(Blocks->first.Loc,
3378                  "cannot take blockaddress inside a declaration");
3379   return false;
3380 }
3381
3382 bool LLParser::PerFunctionState::resolveForwardRefBlockAddresses() {
3383   ValID ID;
3384   if (FunctionNumber == -1) {
3385     ID.Kind = ValID::t_GlobalName;
3386     ID.StrVal = F.getName();
3387   } else {
3388     ID.Kind = ValID::t_GlobalID;
3389     ID.UIntVal = FunctionNumber;
3390   }
3391
3392   auto Blocks = P.ForwardRefBlockAddresses.find(ID);
3393   if (Blocks == P.ForwardRefBlockAddresses.end())
3394     return false;
3395
3396   for (const auto &I : Blocks->second) {
3397     const ValID &BBID = I.first;
3398     GlobalValue *GV = I.second;
3399
3400     assert((BBID.Kind == ValID::t_LocalID || BBID.Kind == ValID::t_LocalName) &&
3401            "Expected local id or name");
3402     BasicBlock *BB;
3403     if (BBID.Kind == ValID::t_LocalName)
3404       BB = GetBB(BBID.StrVal, BBID.Loc);
3405     else
3406       BB = GetBB(BBID.UIntVal, BBID.Loc);
3407     if (!BB)
3408       return P.Error(BBID.Loc, "referenced value is not a basic block");
3409
3410     GV->replaceAllUsesWith(BlockAddress::get(&F, BB));
3411     GV->eraseFromParent();
3412   }
3413
3414   P.ForwardRefBlockAddresses.erase(Blocks);
3415   return false;
3416 }
3417
3418 /// ParseFunctionBody
3419 ///   ::= '{' BasicBlock+ UseListOrderDirective* '}'
3420 bool LLParser::ParseFunctionBody(Function &Fn) {
3421   if (Lex.getKind() != lltok::lbrace)
3422     return TokError("expected '{' in function body");
3423   Lex.Lex();  // eat the {.
3424
3425   int FunctionNumber = -1;
3426   if (!Fn.hasName()) FunctionNumber = NumberedVals.size()-1;
3427
3428   PerFunctionState PFS(*this, Fn, FunctionNumber);
3429
3430   // Resolve block addresses and allow basic blocks to be forward-declared
3431   // within this function.
3432   if (PFS.resolveForwardRefBlockAddresses())
3433     return true;
3434   SaveAndRestore<PerFunctionState *> ScopeExit(BlockAddressPFS, &PFS);
3435
3436   // We need at least one basic block.
3437   if (Lex.getKind() == lltok::rbrace || Lex.getKind() == lltok::kw_uselistorder)
3438     return TokError("function body requires at least one basic block");
3439
3440   while (Lex.getKind() != lltok::rbrace &&
3441          Lex.getKind() != lltok::kw_uselistorder)
3442     if (ParseBasicBlock(PFS)) return true;
3443
3444   while (Lex.getKind() != lltok::rbrace)
3445     if (ParseUseListOrder(&PFS))
3446       return true;
3447
3448   // Eat the }.
3449   Lex.Lex();
3450
3451   // Verify function is ok.
3452   return PFS.FinishFunction();
3453 }
3454
3455 /// ParseBasicBlock
3456 ///   ::= LabelStr? Instruction*
3457 bool LLParser::ParseBasicBlock(PerFunctionState &PFS) {
3458   // If this basic block starts out with a name, remember it.
3459   std::string Name;
3460   LocTy NameLoc = Lex.getLoc();
3461   if (Lex.getKind() == lltok::LabelStr) {
3462     Name = Lex.getStrVal();
3463     Lex.Lex();
3464   }
3465
3466   BasicBlock *BB = PFS.DefineBB(Name, NameLoc);
3467   if (!BB) return true;
3468
3469   std::string NameStr;
3470
3471   // Parse the instructions in this block until we get a terminator.
3472   Instruction *Inst;
3473   do {
3474     // This instruction may have three possibilities for a name: a) none
3475     // specified, b) name specified "%foo =", c) number specified: "%4 =".
3476     LocTy NameLoc = Lex.getLoc();
3477     int NameID = -1;
3478     NameStr = "";
3479
3480     if (Lex.getKind() == lltok::LocalVarID) {
3481       NameID = Lex.getUIntVal();
3482       Lex.Lex();
3483       if (ParseToken(lltok::equal, "expected '=' after instruction id"))
3484         return true;
3485     } else if (Lex.getKind() == lltok::LocalVar) {
3486       NameStr = Lex.getStrVal();
3487       Lex.Lex();
3488       if (ParseToken(lltok::equal, "expected '=' after instruction name"))
3489         return true;
3490     }
3491
3492     switch (ParseInstruction(Inst, BB, PFS)) {
3493     default: llvm_unreachable("Unknown ParseInstruction result!");
3494     case InstError: return true;
3495     case InstNormal:
3496       BB->getInstList().push_back(Inst);
3497
3498       // With a normal result, we check to see if the instruction is followed by
3499       // a comma and metadata.
3500       if (EatIfPresent(lltok::comma))
3501         if (ParseInstructionMetadata(Inst, &PFS))
3502           return true;
3503       break;
3504     case InstExtraComma:
3505       BB->getInstList().push_back(Inst);
3506
3507       // If the instruction parser ate an extra comma at the end of it, it
3508       // *must* be followed by metadata.
3509       if (ParseInstructionMetadata(Inst, &PFS))
3510         return true;
3511       break;
3512     }
3513
3514     // Set the name on the instruction.
3515     if (PFS.SetInstName(NameID, NameStr, NameLoc, Inst)) return true;
3516   } while (!isa<TerminatorInst>(Inst));
3517
3518   return false;
3519 }
3520
3521 //===----------------------------------------------------------------------===//
3522 // Instruction Parsing.
3523 //===----------------------------------------------------------------------===//
3524
3525 /// ParseInstruction - Parse one of the many different instructions.
3526 ///
3527 int LLParser::ParseInstruction(Instruction *&Inst, BasicBlock *BB,
3528                                PerFunctionState &PFS) {
3529   lltok::Kind Token = Lex.getKind();
3530   if (Token == lltok::Eof)
3531     return TokError("found end of file when expecting more instructions");
3532   LocTy Loc = Lex.getLoc();
3533   unsigned KeywordVal = Lex.getUIntVal();
3534   Lex.Lex();  // Eat the keyword.
3535
3536   switch (Token) {
3537   default:                    return Error(Loc, "expected instruction opcode");
3538   // Terminator Instructions.
3539   case lltok::kw_unreachable: Inst = new UnreachableInst(Context); return false;
3540   case lltok::kw_ret:         return ParseRet(Inst, BB, PFS);
3541   case lltok::kw_br:          return ParseBr(Inst, PFS);
3542   case lltok::kw_switch:      return ParseSwitch(Inst, PFS);
3543   case lltok::kw_indirectbr:  return ParseIndirectBr(Inst, PFS);
3544   case lltok::kw_invoke:      return ParseInvoke(Inst, PFS);
3545   case lltok::kw_resume:      return ParseResume(Inst, PFS);
3546   // Binary Operators.
3547   case lltok::kw_add:
3548   case lltok::kw_sub:
3549   case lltok::kw_mul:
3550   case lltok::kw_shl: {
3551     bool NUW = EatIfPresent(lltok::kw_nuw);
3552     bool NSW = EatIfPresent(lltok::kw_nsw);
3553     if (!NUW) NUW = EatIfPresent(lltok::kw_nuw);
3554
3555     if (ParseArithmetic(Inst, PFS, KeywordVal, 1)) return true;
3556
3557     if (NUW) cast<BinaryOperator>(Inst)->setHasNoUnsignedWrap(true);
3558     if (NSW) cast<BinaryOperator>(Inst)->setHasNoSignedWrap(true);
3559     return false;
3560   }
3561   case lltok::kw_fadd:
3562   case lltok::kw_fsub:
3563   case lltok::kw_fmul:
3564   case lltok::kw_fdiv:
3565   case lltok::kw_frem: {
3566     FastMathFlags FMF = EatFastMathFlagsIfPresent();
3567     int Res = ParseArithmetic(Inst, PFS, KeywordVal, 2);
3568     if (Res != 0)
3569       return Res;
3570     if (FMF.any())
3571       Inst->setFastMathFlags(FMF);
3572     return 0;
3573   }
3574
3575   case lltok::kw_sdiv:
3576   case lltok::kw_udiv:
3577   case lltok::kw_lshr:
3578   case lltok::kw_ashr: {
3579     bool Exact = EatIfPresent(lltok::kw_exact);
3580
3581     if (ParseArithmetic(Inst, PFS, KeywordVal, 1)) return true;
3582     if (Exact) cast<BinaryOperator>(Inst)->setIsExact(true);
3583     return false;
3584   }
3585
3586   case lltok::kw_urem:
3587   case lltok::kw_srem:   return ParseArithmetic(Inst, PFS, KeywordVal, 1);
3588   case lltok::kw_and:
3589   case lltok::kw_or:
3590   case lltok::kw_xor:    return ParseLogical(Inst, PFS, KeywordVal);
3591   case lltok::kw_icmp:
3592   case lltok::kw_fcmp:   return ParseCompare(Inst, PFS, KeywordVal);
3593   // Casts.
3594   case lltok::kw_trunc:
3595   case lltok::kw_zext:
3596   case lltok::kw_sext:
3597   case lltok::kw_fptrunc:
3598   case lltok::kw_fpext:
3599   case lltok::kw_bitcast:
3600   case lltok::kw_addrspacecast:
3601   case lltok::kw_uitofp:
3602   case lltok::kw_sitofp:
3603   case lltok::kw_fptoui:
3604   case lltok::kw_fptosi:
3605   case lltok::kw_inttoptr:
3606   case lltok::kw_ptrtoint:       return ParseCast(Inst, PFS, KeywordVal);
3607   // Other.
3608   case lltok::kw_select:         return ParseSelect(Inst, PFS);
3609   case lltok::kw_va_arg:         return ParseVA_Arg(Inst, PFS);
3610   case lltok::kw_extractelement: return ParseExtractElement(Inst, PFS);
3611   case lltok::kw_insertelement:  return ParseInsertElement(Inst, PFS);
3612   case lltok::kw_shufflevector:  return ParseShuffleVector(Inst, PFS);
3613   case lltok::kw_phi:            return ParsePHI(Inst, PFS);
3614   case lltok::kw_landingpad:     return ParseLandingPad(Inst, PFS);
3615   // Call.
3616   case lltok::kw_call:     return ParseCall(Inst, PFS, CallInst::TCK_None);
3617   case lltok::kw_tail:     return ParseCall(Inst, PFS, CallInst::TCK_Tail);
3618   case lltok::kw_musttail: return ParseCall(Inst, PFS, CallInst::TCK_MustTail);
3619   // Memory.
3620   case lltok::kw_alloca:         return ParseAlloc(Inst, PFS);
3621   case lltok::kw_load:           return ParseLoad(Inst, PFS);
3622   case lltok::kw_store:          return ParseStore(Inst, PFS);
3623   case lltok::kw_cmpxchg:        return ParseCmpXchg(Inst, PFS);
3624   case lltok::kw_atomicrmw:      return ParseAtomicRMW(Inst, PFS);
3625   case lltok::kw_fence:          return ParseFence(Inst, PFS);
3626   case lltok::kw_getelementptr: return ParseGetElementPtr(Inst, PFS);
3627   case lltok::kw_extractvalue:  return ParseExtractValue(Inst, PFS);
3628   case lltok::kw_insertvalue:   return ParseInsertValue(Inst, PFS);
3629   }
3630 }
3631
3632 /// ParseCmpPredicate - Parse an integer or fp predicate, based on Kind.
3633 bool LLParser::ParseCmpPredicate(unsigned &P, unsigned Opc) {
3634   if (Opc == Instruction::FCmp) {
3635     switch (Lex.getKind()) {
3636     default: return TokError("expected fcmp predicate (e.g. 'oeq')");
3637     case lltok::kw_oeq: P = CmpInst::FCMP_OEQ; break;
3638     case lltok::kw_one: P = CmpInst::FCMP_ONE; break;
3639     case lltok::kw_olt: P = CmpInst::FCMP_OLT; break;
3640     case lltok::kw_ogt: P = CmpInst::FCMP_OGT; break;
3641     case lltok::kw_ole: P = CmpInst::FCMP_OLE; break;
3642     case lltok::kw_oge: P = CmpInst::FCMP_OGE; break;
3643     case lltok::kw_ord: P = CmpInst::FCMP_ORD; break;
3644     case lltok::kw_uno: P = CmpInst::FCMP_UNO; break;
3645     case lltok::kw_ueq: P = CmpInst::FCMP_UEQ; break;
3646     case lltok::kw_une: P = CmpInst::FCMP_UNE; break;
3647     case lltok::kw_ult: P = CmpInst::FCMP_ULT; break;
3648     case lltok::kw_ugt: P = CmpInst::FCMP_UGT; break;
3649     case lltok::kw_ule: P = CmpInst::FCMP_ULE; break;
3650     case lltok::kw_uge: P = CmpInst::FCMP_UGE; break;
3651     case lltok::kw_true: P = CmpInst::FCMP_TRUE; break;
3652     case lltok::kw_false: P = CmpInst::FCMP_FALSE; break;
3653     }
3654   } else {
3655     switch (Lex.getKind()) {
3656     default: return TokError("expected icmp predicate (e.g. 'eq')");
3657     case lltok::kw_eq:  P = CmpInst::ICMP_EQ; break;
3658     case lltok::kw_ne:  P = CmpInst::ICMP_NE; break;
3659     case lltok::kw_slt: P = CmpInst::ICMP_SLT; break;
3660     case lltok::kw_sgt: P = CmpInst::ICMP_SGT; break;
3661     case lltok::kw_sle: P = CmpInst::ICMP_SLE; break;
3662     case lltok::kw_sge: P = CmpInst::ICMP_SGE; break;
3663     case lltok::kw_ult: P = CmpInst::ICMP_ULT; break;
3664     case lltok::kw_ugt: P = CmpInst::ICMP_UGT; break;
3665     case lltok::kw_ule: P = CmpInst::ICMP_ULE; break;
3666     case lltok::kw_uge: P = CmpInst::ICMP_UGE; break;
3667     }
3668   }
3669   Lex.Lex();
3670   return false;
3671 }
3672
3673 //===----------------------------------------------------------------------===//
3674 // Terminator Instructions.
3675 //===----------------------------------------------------------------------===//
3676
3677 /// ParseRet - Parse a return instruction.
3678 ///   ::= 'ret' void (',' !dbg, !1)*
3679 ///   ::= 'ret' TypeAndValue (',' !dbg, !1)*
3680 bool LLParser::ParseRet(Instruction *&Inst, BasicBlock *BB,
3681                         PerFunctionState &PFS) {
3682   SMLoc TypeLoc = Lex.getLoc();
3683   Type *Ty = nullptr;
3684   if (ParseType(Ty, true /*void allowed*/)) return true;
3685
3686   Type *ResType = PFS.getFunction().getReturnType();
3687
3688   if (Ty->isVoidTy()) {
3689     if (!ResType->isVoidTy())
3690       return Error(TypeLoc, "value doesn't match function result type '" +
3691                    getTypeString(ResType) + "'");
3692
3693     Inst = ReturnInst::Create(Context);
3694     return false;
3695   }
3696
3697   Value *RV;
3698   if (ParseValue(Ty, RV, PFS)) return true;
3699
3700   if (ResType != RV->getType())
3701     return Error(TypeLoc, "value doesn't match function result type '" +
3702                  getTypeString(ResType) + "'");
3703
3704   Inst = ReturnInst::Create(Context, RV);
3705   return false;
3706 }
3707
3708
3709 /// ParseBr
3710 ///   ::= 'br' TypeAndValue
3711 ///   ::= 'br' TypeAndValue ',' TypeAndValue ',' TypeAndValue
3712 bool LLParser::ParseBr(Instruction *&Inst, PerFunctionState &PFS) {
3713   LocTy Loc, Loc2;
3714   Value *Op0;
3715   BasicBlock *Op1, *Op2;
3716   if (ParseTypeAndValue(Op0, Loc, PFS)) return true;
3717
3718   if (BasicBlock *BB = dyn_cast<BasicBlock>(Op0)) {
3719     Inst = BranchInst::Create(BB);
3720     return false;
3721   }
3722
3723   if (Op0->getType() != Type::getInt1Ty(Context))
3724     return Error(Loc, "branch condition must have 'i1' type");
3725
3726   if (ParseToken(lltok::comma, "expected ',' after branch condition") ||
3727       ParseTypeAndBasicBlock(Op1, Loc, PFS) ||
3728       ParseToken(lltok::comma, "expected ',' after true destination") ||
3729       ParseTypeAndBasicBlock(Op2, Loc2, PFS))
3730     return true;
3731
3732   Inst = BranchInst::Create(Op1, Op2, Op0);
3733   return false;
3734 }
3735
3736 /// ParseSwitch
3737 ///  Instruction
3738 ///    ::= 'switch' TypeAndValue ',' TypeAndValue '[' JumpTable ']'
3739 ///  JumpTable
3740 ///    ::= (TypeAndValue ',' TypeAndValue)*
3741 bool LLParser::ParseSwitch(Instruction *&Inst, PerFunctionState &PFS) {
3742   LocTy CondLoc, BBLoc;
3743   Value *Cond;
3744   BasicBlock *DefaultBB;
3745   if (ParseTypeAndValue(Cond, CondLoc, PFS) ||
3746       ParseToken(lltok::comma, "expected ',' after switch condition") ||
3747       ParseTypeAndBasicBlock(DefaultBB, BBLoc, PFS) ||
3748       ParseToken(lltok::lsquare, "expected '[' with switch table"))
3749     return true;
3750
3751   if (!Cond->getType()->isIntegerTy())
3752     return Error(CondLoc, "switch condition must have integer type");
3753
3754   // Parse the jump table pairs.
3755   SmallPtrSet<Value*, 32> SeenCases;
3756   SmallVector<std::pair<ConstantInt*, BasicBlock*>, 32> Table;
3757   while (Lex.getKind() != lltok::rsquare) {
3758     Value *Constant;
3759     BasicBlock *DestBB;
3760
3761     if (ParseTypeAndValue(Constant, CondLoc, PFS) ||
3762         ParseToken(lltok::comma, "expected ',' after case value") ||
3763         ParseTypeAndBasicBlock(DestBB, PFS))
3764       return true;
3765
3766     if (!SeenCases.insert(Constant).second)
3767       return Error(CondLoc, "duplicate case value in switch");
3768     if (!isa<ConstantInt>(Constant))
3769       return Error(CondLoc, "case value is not a constant integer");
3770
3771     Table.push_back(std::make_pair(cast<ConstantInt>(Constant), DestBB));
3772   }
3773
3774   Lex.Lex();  // Eat the ']'.
3775
3776   SwitchInst *SI = SwitchInst::Create(Cond, DefaultBB, Table.size());
3777   for (unsigned i = 0, e = Table.size(); i != e; ++i)
3778     SI->addCase(Table[i].first, Table[i].second);
3779   Inst = SI;
3780   return false;
3781 }
3782
3783 /// ParseIndirectBr
3784 ///  Instruction
3785 ///    ::= 'indirectbr' TypeAndValue ',' '[' LabelList ']'
3786 bool LLParser::ParseIndirectBr(Instruction *&Inst, PerFunctionState &PFS) {
3787   LocTy AddrLoc;
3788   Value *Address;
3789   if (ParseTypeAndValue(Address, AddrLoc, PFS) ||
3790       ParseToken(lltok::comma, "expected ',' after indirectbr address") ||
3791       ParseToken(lltok::lsquare, "expected '[' with indirectbr"))
3792     return true;
3793
3794   if (!Address->getType()->isPointerTy())
3795     return Error(AddrLoc, "indirectbr address must have pointer type");
3796
3797   // Parse the destination list.
3798   SmallVector<BasicBlock*, 16> DestList;
3799
3800   if (Lex.getKind() != lltok::rsquare) {
3801     BasicBlock *DestBB;
3802     if (ParseTypeAndBasicBlock(DestBB, PFS))
3803       return true;
3804     DestList.push_back(DestBB);
3805
3806     while (EatIfPresent(lltok::comma)) {
3807       if (ParseTypeAndBasicBlock(DestBB, PFS))
3808         return true;
3809       DestList.push_back(DestBB);
3810     }
3811   }
3812
3813   if (ParseToken(lltok::rsquare, "expected ']' at end of block list"))
3814     return true;
3815
3816   IndirectBrInst *IBI = IndirectBrInst::Create(Address, DestList.size());
3817   for (unsigned i = 0, e = DestList.size(); i != e; ++i)
3818     IBI->addDestination(DestList[i]);
3819   Inst = IBI;
3820   return false;
3821 }
3822
3823
3824 /// ParseInvoke
3825 ///   ::= 'invoke' OptionalCallingConv OptionalAttrs Type Value ParamList
3826 ///       OptionalAttrs 'to' TypeAndValue 'unwind' TypeAndValue
3827 bool LLParser::ParseInvoke(Instruction *&Inst, PerFunctionState &PFS) {
3828   LocTy CallLoc = Lex.getLoc();
3829   AttrBuilder RetAttrs, FnAttrs;
3830   std::vector<unsigned> FwdRefAttrGrps;
3831   LocTy NoBuiltinLoc;
3832   unsigned CC;
3833   Type *RetType = nullptr;
3834   LocTy RetTypeLoc;
3835   ValID CalleeID;
3836   SmallVector<ParamInfo, 16> ArgList;
3837
3838   BasicBlock *NormalBB, *UnwindBB;
3839   if (ParseOptionalCallingConv(CC) ||
3840       ParseOptionalReturnAttrs(RetAttrs) ||
3841       ParseType(RetType, RetTypeLoc, true /*void allowed*/) ||
3842       ParseValID(CalleeID) ||
3843       ParseParameterList(ArgList, PFS) ||
3844       ParseFnAttributeValuePairs(FnAttrs, FwdRefAttrGrps, false,
3845                                  NoBuiltinLoc) ||
3846       ParseToken(lltok::kw_to, "expected 'to' in invoke") ||
3847       ParseTypeAndBasicBlock(NormalBB, PFS) ||
3848       ParseToken(lltok::kw_unwind, "expected 'unwind' in invoke") ||
3849       ParseTypeAndBasicBlock(UnwindBB, PFS))
3850     return true;
3851
3852   // If RetType is a non-function pointer type, then this is the short syntax
3853   // for the call, which means that RetType is just the return type.  Infer the
3854   // rest of the function argument types from the arguments that are present.
3855   PointerType *PFTy = nullptr;
3856   FunctionType *Ty = nullptr;
3857   if (!(PFTy = dyn_cast<PointerType>(RetType)) ||
3858       !(Ty = dyn_cast<FunctionType>(PFTy->getElementType()))) {
3859     // Pull out the types of all of the arguments...
3860     std::vector<Type*> ParamTypes;
3861     for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
3862       ParamTypes.push_back(ArgList[i].V->getType());
3863
3864     if (!FunctionType::isValidReturnType(RetType))
3865       return Error(RetTypeLoc, "Invalid result type for LLVM function");
3866
3867     Ty = FunctionType::get(RetType, ParamTypes, false);
3868     PFTy = PointerType::getUnqual(Ty);
3869   }
3870
3871   // Look up the callee.
3872   Value *Callee;
3873   if (ConvertValIDToValue(PFTy, CalleeID, Callee, &PFS)) return true;
3874
3875   // Set up the Attribute for the function.
3876   SmallVector<AttributeSet, 8> Attrs;
3877   if (RetAttrs.hasAttributes())
3878     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3879                                       AttributeSet::ReturnIndex,
3880                                       RetAttrs));
3881
3882   SmallVector<Value*, 8> Args;
3883
3884   // Loop through FunctionType's arguments and ensure they are specified
3885   // correctly.  Also, gather any parameter attributes.
3886   FunctionType::param_iterator I = Ty->param_begin();
3887   FunctionType::param_iterator E = Ty->param_end();
3888   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
3889     Type *ExpectedTy = nullptr;
3890     if (I != E) {
3891       ExpectedTy = *I++;
3892     } else if (!Ty->isVarArg()) {
3893       return Error(ArgList[i].Loc, "too many arguments specified");
3894     }
3895
3896     if (ExpectedTy && ExpectedTy != ArgList[i].V->getType())
3897       return Error(ArgList[i].Loc, "argument is not of expected type '" +
3898                    getTypeString(ExpectedTy) + "'");
3899     Args.push_back(ArgList[i].V);
3900     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
3901       AttrBuilder B(ArgList[i].Attrs, i + 1);
3902       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
3903     }
3904   }
3905
3906   if (I != E)
3907     return Error(CallLoc, "not enough parameters specified for call");
3908
3909   if (FnAttrs.hasAttributes())
3910     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3911                                       AttributeSet::FunctionIndex,
3912                                       FnAttrs));
3913
3914   // Finish off the Attribute and check them
3915   AttributeSet PAL = AttributeSet::get(Context, Attrs);
3916
3917   InvokeInst *II = InvokeInst::Create(Callee, NormalBB, UnwindBB, Args);
3918   II->setCallingConv(CC);
3919   II->setAttributes(PAL);
3920   ForwardRefAttrGroups[II] = FwdRefAttrGrps;
3921   Inst = II;
3922   return false;
3923 }
3924
3925 /// ParseResume
3926 ///   ::= 'resume' TypeAndValue
3927 bool LLParser::ParseResume(Instruction *&Inst, PerFunctionState &PFS) {
3928   Value *Exn; LocTy ExnLoc;
3929   if (ParseTypeAndValue(Exn, ExnLoc, PFS))
3930     return true;
3931
3932   ResumeInst *RI = ResumeInst::Create(Exn);
3933   Inst = RI;
3934   return false;
3935 }
3936
3937 //===----------------------------------------------------------------------===//
3938 // Binary Operators.
3939 //===----------------------------------------------------------------------===//
3940
3941 /// ParseArithmetic
3942 ///  ::= ArithmeticOps TypeAndValue ',' Value
3943 ///
3944 /// If OperandType is 0, then any FP or integer operand is allowed.  If it is 1,
3945 /// then any integer operand is allowed, if it is 2, any fp operand is allowed.
3946 bool LLParser::ParseArithmetic(Instruction *&Inst, PerFunctionState &PFS,
3947                                unsigned Opc, unsigned OperandType) {
3948   LocTy Loc; Value *LHS, *RHS;
3949   if (ParseTypeAndValue(LHS, Loc, PFS) ||
3950       ParseToken(lltok::comma, "expected ',' in arithmetic operation") ||
3951       ParseValue(LHS->getType(), RHS, PFS))
3952     return true;
3953
3954   bool Valid;
3955   switch (OperandType) {
3956   default: llvm_unreachable("Unknown operand type!");
3957   case 0: // int or FP.
3958     Valid = LHS->getType()->isIntOrIntVectorTy() ||
3959             LHS->getType()->isFPOrFPVectorTy();
3960     break;
3961   case 1: Valid = LHS->getType()->isIntOrIntVectorTy(); break;
3962   case 2: Valid = LHS->getType()->isFPOrFPVectorTy(); break;
3963   }
3964
3965   if (!Valid)
3966     return Error(Loc, "invalid operand type for instruction");
3967
3968   Inst = BinaryOperator::Create((Instruction::BinaryOps)Opc, LHS, RHS);
3969   return false;
3970 }
3971
3972 /// ParseLogical
3973 ///  ::= ArithmeticOps TypeAndValue ',' Value {
3974 bool LLParser::ParseLogical(Instruction *&Inst, PerFunctionState &PFS,
3975                             unsigned Opc) {
3976   LocTy Loc; Value *LHS, *RHS;
3977   if (ParseTypeAndValue(LHS, Loc, PFS) ||
3978       ParseToken(lltok::comma, "expected ',' in logical operation") ||
3979       ParseValue(LHS->getType(), RHS, PFS))
3980     return true;
3981
3982   if (!LHS->getType()->isIntOrIntVectorTy())
3983     return Error(Loc,"instruction requires integer or integer vector operands");
3984
3985   Inst = BinaryOperator::Create((Instruction::BinaryOps)Opc, LHS, RHS);
3986   return false;
3987 }
3988
3989
3990 /// ParseCompare
3991 ///  ::= 'icmp' IPredicates TypeAndValue ',' Value
3992 ///  ::= 'fcmp' FPredicates TypeAndValue ',' Value
3993 bool LLParser::ParseCompare(Instruction *&Inst, PerFunctionState &PFS,
3994                             unsigned Opc) {
3995   // Parse the integer/fp comparison predicate.
3996   LocTy Loc;
3997   unsigned Pred;
3998   Value *LHS, *RHS;
3999   if (ParseCmpPredicate(Pred, Opc) ||
4000       ParseTypeAndValue(LHS, Loc, PFS) ||
4001       ParseToken(lltok::comma, "expected ',' after compare value") ||
4002       ParseValue(LHS->getType(), RHS, PFS))
4003     return true;
4004
4005   if (Opc == Instruction::FCmp) {
4006     if (!LHS->getType()->isFPOrFPVectorTy())
4007       return Error(Loc, "fcmp requires floating point operands");
4008     Inst = new FCmpInst(CmpInst::Predicate(Pred), LHS, RHS);
4009   } else {
4010     assert(Opc == Instruction::ICmp && "Unknown opcode for CmpInst!");
4011     if (!LHS->getType()->isIntOrIntVectorTy() &&
4012         !LHS->getType()->getScalarType()->isPointerTy())
4013       return Error(Loc, "icmp requires integer operands");
4014     Inst = new ICmpInst(CmpInst::Predicate(Pred), LHS, RHS);
4015   }
4016   return false;
4017 }
4018
4019 //===----------------------------------------------------------------------===//
4020 // Other Instructions.
4021 //===----------------------------------------------------------------------===//
4022
4023
4024 /// ParseCast
4025 ///   ::= CastOpc TypeAndValue 'to' Type
4026 bool LLParser::ParseCast(Instruction *&Inst, PerFunctionState &PFS,
4027                          unsigned Opc) {
4028   LocTy Loc;
4029   Value *Op;
4030   Type *DestTy = nullptr;
4031   if (ParseTypeAndValue(Op, Loc, PFS) ||
4032       ParseToken(lltok::kw_to, "expected 'to' after cast value") ||
4033       ParseType(DestTy))
4034     return true;
4035
4036   if (!CastInst::castIsValid((Instruction::CastOps)Opc, Op, DestTy)) {
4037     CastInst::castIsValid((Instruction::CastOps)Opc, Op, DestTy);
4038     return Error(Loc, "invalid cast opcode for cast from '" +
4039                  getTypeString(Op->getType()) + "' to '" +
4040                  getTypeString(DestTy) + "'");
4041   }
4042   Inst = CastInst::Create((Instruction::CastOps)Opc, Op, DestTy);
4043   return false;
4044 }
4045
4046 /// ParseSelect
4047 ///   ::= 'select' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4048 bool LLParser::ParseSelect(Instruction *&Inst, PerFunctionState &PFS) {
4049   LocTy Loc;
4050   Value *Op0, *Op1, *Op2;
4051   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4052       ParseToken(lltok::comma, "expected ',' after select condition") ||
4053       ParseTypeAndValue(Op1, PFS) ||
4054       ParseToken(lltok::comma, "expected ',' after select value") ||
4055       ParseTypeAndValue(Op2, PFS))
4056     return true;
4057
4058   if (const char *Reason = SelectInst::areInvalidOperands(Op0, Op1, Op2))
4059     return Error(Loc, Reason);
4060
4061   Inst = SelectInst::Create(Op0, Op1, Op2);
4062   return false;
4063 }
4064
4065 /// ParseVA_Arg
4066 ///   ::= 'va_arg' TypeAndValue ',' Type
4067 bool LLParser::ParseVA_Arg(Instruction *&Inst, PerFunctionState &PFS) {
4068   Value *Op;
4069   Type *EltTy = nullptr;
4070   LocTy TypeLoc;
4071   if (ParseTypeAndValue(Op, PFS) ||
4072       ParseToken(lltok::comma, "expected ',' after vaarg operand") ||
4073       ParseType(EltTy, TypeLoc))
4074     return true;
4075
4076   if (!EltTy->isFirstClassType())
4077     return Error(TypeLoc, "va_arg requires operand with first class type");
4078
4079   Inst = new VAArgInst(Op, EltTy);
4080   return false;
4081 }
4082
4083 /// ParseExtractElement
4084 ///   ::= 'extractelement' TypeAndValue ',' TypeAndValue
4085 bool LLParser::ParseExtractElement(Instruction *&Inst, PerFunctionState &PFS) {
4086   LocTy Loc;
4087   Value *Op0, *Op1;
4088   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4089       ParseToken(lltok::comma, "expected ',' after extract value") ||
4090       ParseTypeAndValue(Op1, PFS))
4091     return true;
4092
4093   if (!ExtractElementInst::isValidOperands(Op0, Op1))
4094     return Error(Loc, "invalid extractelement operands");
4095
4096   Inst = ExtractElementInst::Create(Op0, Op1);
4097   return false;
4098 }
4099
4100 /// ParseInsertElement
4101 ///   ::= 'insertelement' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4102 bool LLParser::ParseInsertElement(Instruction *&Inst, PerFunctionState &PFS) {
4103   LocTy Loc;
4104   Value *Op0, *Op1, *Op2;
4105   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4106       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4107       ParseTypeAndValue(Op1, PFS) ||
4108       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4109       ParseTypeAndValue(Op2, PFS))
4110     return true;
4111
4112   if (!InsertElementInst::isValidOperands(Op0, Op1, Op2))
4113     return Error(Loc, "invalid insertelement operands");
4114
4115   Inst = InsertElementInst::Create(Op0, Op1, Op2);
4116   return false;
4117 }
4118
4119 /// ParseShuffleVector
4120 ///   ::= 'shufflevector' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4121 bool LLParser::ParseShuffleVector(Instruction *&Inst, PerFunctionState &PFS) {
4122   LocTy Loc;
4123   Value *Op0, *Op1, *Op2;
4124   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4125       ParseToken(lltok::comma, "expected ',' after shuffle mask") ||
4126       ParseTypeAndValue(Op1, PFS) ||
4127       ParseToken(lltok::comma, "expected ',' after shuffle value") ||
4128       ParseTypeAndValue(Op2, PFS))
4129     return true;
4130
4131   if (!ShuffleVectorInst::isValidOperands(Op0, Op1, Op2))
4132     return Error(Loc, "invalid shufflevector operands");
4133
4134   Inst = new ShuffleVectorInst(Op0, Op1, Op2);
4135   return false;
4136 }
4137
4138 /// ParsePHI
4139 ///   ::= 'phi' Type '[' Value ',' Value ']' (',' '[' Value ',' Value ']')*
4140 int LLParser::ParsePHI(Instruction *&Inst, PerFunctionState &PFS) {
4141   Type *Ty = nullptr;  LocTy TypeLoc;
4142   Value *Op0, *Op1;
4143
4144   if (ParseType(Ty, TypeLoc) ||
4145       ParseToken(lltok::lsquare, "expected '[' in phi value list") ||
4146       ParseValue(Ty, Op0, PFS) ||
4147       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4148       ParseValue(Type::getLabelTy(Context), Op1, PFS) ||
4149       ParseToken(lltok::rsquare, "expected ']' in phi value list"))
4150     return true;
4151
4152   bool AteExtraComma = false;
4153   SmallVector<std::pair<Value*, BasicBlock*>, 16> PHIVals;
4154   while (1) {
4155     PHIVals.push_back(std::make_pair(Op0, cast<BasicBlock>(Op1)));
4156
4157     if (!EatIfPresent(lltok::comma))
4158       break;
4159
4160     if (Lex.getKind() == lltok::MetadataVar) {
4161       AteExtraComma = true;
4162       break;
4163     }
4164
4165     if (ParseToken(lltok::lsquare, "expected '[' in phi value list") ||
4166         ParseValue(Ty, Op0, PFS) ||
4167         ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4168         ParseValue(Type::getLabelTy(Context), Op1, PFS) ||
4169         ParseToken(lltok::rsquare, "expected ']' in phi value list"))
4170       return true;
4171   }
4172
4173   if (!Ty->isFirstClassType())
4174     return Error(TypeLoc, "phi node must have first class type");
4175
4176   PHINode *PN = PHINode::Create(Ty, PHIVals.size());
4177   for (unsigned i = 0, e = PHIVals.size(); i != e; ++i)
4178     PN->addIncoming(PHIVals[i].first, PHIVals[i].second);
4179   Inst = PN;
4180   return AteExtraComma ? InstExtraComma : InstNormal;
4181 }
4182
4183 /// ParseLandingPad
4184 ///   ::= 'landingpad' Type 'personality' TypeAndValue 'cleanup'? Clause+
4185 /// Clause
4186 ///   ::= 'catch' TypeAndValue
4187 ///   ::= 'filter'
4188 ///   ::= 'filter' TypeAndValue ( ',' TypeAndValue )*
4189 bool LLParser::ParseLandingPad(Instruction *&Inst, PerFunctionState &PFS) {
4190   Type *Ty = nullptr; LocTy TyLoc;
4191   Value *PersFn; LocTy PersFnLoc;
4192
4193   if (ParseType(Ty, TyLoc) ||
4194       ParseToken(lltok::kw_personality, "expected 'personality'") ||
4195       ParseTypeAndValue(PersFn, PersFnLoc, PFS))
4196     return true;
4197
4198   LandingPadInst *LP = LandingPadInst::Create(Ty, PersFn, 0);
4199   LP->setCleanup(EatIfPresent(lltok::kw_cleanup));
4200
4201   while (Lex.getKind() == lltok::kw_catch || Lex.getKind() == lltok::kw_filter){
4202     LandingPadInst::ClauseType CT;
4203     if (EatIfPresent(lltok::kw_catch))
4204       CT = LandingPadInst::Catch;
4205     else if (EatIfPresent(lltok::kw_filter))
4206       CT = LandingPadInst::Filter;
4207     else
4208       return TokError("expected 'catch' or 'filter' clause type");
4209
4210     Value *V;
4211     LocTy VLoc;
4212     if (ParseTypeAndValue(V, VLoc, PFS)) {
4213       delete LP;
4214       return true;
4215     }
4216
4217     // A 'catch' type expects a non-array constant. A filter clause expects an
4218     // array constant.
4219     if (CT == LandingPadInst::Catch) {
4220       if (isa<ArrayType>(V->getType()))
4221         Error(VLoc, "'catch' clause has an invalid type");
4222     } else {
4223       if (!isa<ArrayType>(V->getType()))
4224         Error(VLoc, "'filter' clause has an invalid type");
4225     }
4226
4227     LP->addClause(cast<Constant>(V));
4228   }
4229
4230   Inst = LP;
4231   return false;
4232 }
4233
4234 /// ParseCall
4235 ///   ::= 'call' OptionalCallingConv OptionalAttrs Type Value
4236 ///       ParameterList OptionalAttrs
4237 ///   ::= 'tail' 'call' OptionalCallingConv OptionalAttrs Type Value
4238 ///       ParameterList OptionalAttrs
4239 ///   ::= 'musttail' 'call' OptionalCallingConv OptionalAttrs Type Value
4240 ///       ParameterList OptionalAttrs
4241 bool LLParser::ParseCall(Instruction *&Inst, PerFunctionState &PFS,
4242                          CallInst::TailCallKind TCK) {
4243   AttrBuilder RetAttrs, FnAttrs;
4244   std::vector<unsigned> FwdRefAttrGrps;
4245   LocTy BuiltinLoc;
4246   unsigned CC;
4247   Type *RetType = nullptr;
4248   LocTy RetTypeLoc;
4249   ValID CalleeID;
4250   SmallVector<ParamInfo, 16> ArgList;
4251   LocTy CallLoc = Lex.getLoc();
4252
4253   if ((TCK != CallInst::TCK_None &&
4254        ParseToken(lltok::kw_call, "expected 'tail call'")) ||
4255       ParseOptionalCallingConv(CC) ||
4256       ParseOptionalReturnAttrs(RetAttrs) ||
4257       ParseType(RetType, RetTypeLoc, true /*void allowed*/) ||
4258       ParseValID(CalleeID) ||
4259       ParseParameterList(ArgList, PFS, TCK == CallInst::TCK_MustTail,
4260                          PFS.getFunction().isVarArg()) ||
4261       ParseFnAttributeValuePairs(FnAttrs, FwdRefAttrGrps, false,
4262                                  BuiltinLoc))
4263     return true;
4264
4265   // If RetType is a non-function pointer type, then this is the short syntax
4266   // for the call, which means that RetType is just the return type.  Infer the
4267   // rest of the function argument types from the arguments that are present.
4268   PointerType *PFTy = nullptr;
4269   FunctionType *Ty = nullptr;
4270   if (!(PFTy = dyn_cast<PointerType>(RetType)) ||
4271       !(Ty = dyn_cast<FunctionType>(PFTy->getElementType()))) {
4272     // Pull out the types of all of the arguments...
4273     std::vector<Type*> ParamTypes;
4274     for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
4275       ParamTypes.push_back(ArgList[i].V->getType());
4276
4277     if (!FunctionType::isValidReturnType(RetType))
4278       return Error(RetTypeLoc, "Invalid result type for LLVM function");
4279
4280     Ty = FunctionType::get(RetType, ParamTypes, false);
4281     PFTy = PointerType::getUnqual(Ty);
4282   }
4283
4284   // Look up the callee.
4285   Value *Callee;
4286   if (ConvertValIDToValue(PFTy, CalleeID, Callee, &PFS)) return true;
4287
4288   // Set up the Attribute for the function.
4289   SmallVector<AttributeSet, 8> Attrs;
4290   if (RetAttrs.hasAttributes())
4291     Attrs.push_back(AttributeSet::get(RetType->getContext(),
4292                                       AttributeSet::ReturnIndex,
4293                                       RetAttrs));
4294
4295   SmallVector<Value*, 8> Args;
4296
4297   // Loop through FunctionType's arguments and ensure they are specified
4298   // correctly.  Also, gather any parameter attributes.
4299   FunctionType::param_iterator I = Ty->param_begin();
4300   FunctionType::param_iterator E = Ty->param_end();
4301   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
4302     Type *ExpectedTy = nullptr;
4303     if (I != E) {
4304       ExpectedTy = *I++;
4305     } else if (!Ty->isVarArg()) {
4306       return Error(ArgList[i].Loc, "too many arguments specified");
4307     }
4308
4309     if (ExpectedTy && ExpectedTy != ArgList[i].V->getType())
4310       return Error(ArgList[i].Loc, "argument is not of expected type '" +
4311                    getTypeString(ExpectedTy) + "'");
4312     Args.push_back(ArgList[i].V);
4313     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
4314       AttrBuilder B(ArgList[i].Attrs, i + 1);
4315       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
4316     }
4317   }
4318
4319   if (I != E)
4320     return Error(CallLoc, "not enough parameters specified for call");
4321
4322   if (FnAttrs.hasAttributes())
4323     Attrs.push_back(AttributeSet::get(RetType->getContext(),
4324                                       AttributeSet::FunctionIndex,
4325                                       FnAttrs));
4326
4327   // Finish off the Attribute and check them
4328   AttributeSet PAL = AttributeSet::get(Context, Attrs);
4329
4330   CallInst *CI = CallInst::Create(Callee, Args);
4331   CI->setTailCallKind(TCK);
4332   CI->setCallingConv(CC);
4333   CI->setAttributes(PAL);
4334   ForwardRefAttrGroups[CI] = FwdRefAttrGrps;
4335   Inst = CI;
4336   return false;
4337 }
4338
4339 //===----------------------------------------------------------------------===//
4340 // Memory Instructions.
4341 //===----------------------------------------------------------------------===//
4342
4343 /// ParseAlloc
4344 ///   ::= 'alloca' 'inalloca'? Type (',' TypeAndValue)? (',' 'align' i32)?
4345 int LLParser::ParseAlloc(Instruction *&Inst, PerFunctionState &PFS) {
4346   Value *Size = nullptr;
4347   LocTy SizeLoc;
4348   unsigned Alignment = 0;
4349   Type *Ty = nullptr;
4350
4351   bool IsInAlloca = EatIfPresent(lltok::kw_inalloca);
4352
4353   if (ParseType(Ty)) return true;
4354
4355   bool AteExtraComma = false;
4356   if (EatIfPresent(lltok::comma)) {
4357     if (Lex.getKind() == lltok::kw_align) {
4358       if (ParseOptionalAlignment(Alignment)) return true;
4359     } else if (Lex.getKind() == lltok::MetadataVar) {
4360       AteExtraComma = true;
4361     } else {
4362       if (ParseTypeAndValue(Size, SizeLoc, PFS) ||
4363           ParseOptionalCommaAlign(Alignment, AteExtraComma))
4364         return true;
4365     }
4366   }
4367
4368   if (Size && !Size->getType()->isIntegerTy())
4369     return Error(SizeLoc, "element count must have integer type");
4370
4371   AllocaInst *AI = new AllocaInst(Ty, Size, Alignment);
4372   AI->setUsedWithInAlloca(IsInAlloca);
4373   Inst = AI;
4374   return AteExtraComma ? InstExtraComma : InstNormal;
4375 }
4376
4377 /// ParseLoad
4378 ///   ::= 'load' 'volatile'? TypeAndValue (',' 'align' i32)?
4379 ///   ::= 'load' 'atomic' 'volatile'? TypeAndValue
4380 ///       'singlethread'? AtomicOrdering (',' 'align' i32)?
4381 int LLParser::ParseLoad(Instruction *&Inst, PerFunctionState &PFS) {
4382   Value *Val; LocTy Loc;
4383   unsigned Alignment = 0;
4384   bool AteExtraComma = false;
4385   bool isAtomic = false;
4386   AtomicOrdering Ordering = NotAtomic;
4387   SynchronizationScope Scope = CrossThread;
4388
4389   if (Lex.getKind() == lltok::kw_atomic) {
4390     isAtomic = true;
4391     Lex.Lex();
4392   }
4393
4394   bool isVolatile = false;
4395   if (Lex.getKind() == lltok::kw_volatile) {
4396     isVolatile = true;
4397     Lex.Lex();
4398   }
4399
4400   if (ParseTypeAndValue(Val, Loc, PFS) ||
4401       ParseScopeAndOrdering(isAtomic, Scope, Ordering) ||
4402       ParseOptionalCommaAlign(Alignment, AteExtraComma))
4403     return true;
4404
4405   if (!Val->getType()->isPointerTy() ||
4406       !cast<PointerType>(Val->getType())->getElementType()->isFirstClassType())
4407     return Error(Loc, "load operand must be a pointer to a first class type");
4408   if (isAtomic && !Alignment)
4409     return Error(Loc, "atomic load must have explicit non-zero alignment");
4410   if (Ordering == Release || Ordering == AcquireRelease)
4411     return Error(Loc, "atomic load cannot use Release ordering");
4412
4413   Inst = new LoadInst(Val, "", isVolatile, Alignment, Ordering, Scope);
4414   return AteExtraComma ? InstExtraComma : InstNormal;
4415 }
4416
4417 /// ParseStore
4418
4419 ///   ::= 'store' 'volatile'? TypeAndValue ',' TypeAndValue (',' 'align' i32)?
4420 ///   ::= 'store' 'atomic' 'volatile'? TypeAndValue ',' TypeAndValue
4421 ///       'singlethread'? AtomicOrdering (',' 'align' i32)?
4422 int LLParser::ParseStore(Instruction *&Inst, PerFunctionState &PFS) {
4423   Value *Val, *Ptr; LocTy Loc, PtrLoc;
4424   unsigned Alignment = 0;
4425   bool AteExtraComma = false;
4426   bool isAtomic = false;
4427   AtomicOrdering Ordering = NotAtomic;
4428   SynchronizationScope Scope = CrossThread;
4429
4430   if (Lex.getKind() == lltok::kw_atomic) {
4431     isAtomic = true;
4432     Lex.Lex();
4433   }
4434
4435   bool isVolatile = false;
4436   if (Lex.getKind() == lltok::kw_volatile) {
4437     isVolatile = true;
4438     Lex.Lex();
4439   }
4440
4441   if (ParseTypeAndValue(Val, Loc, PFS) ||
4442       ParseToken(lltok::comma, "expected ',' after store operand") ||
4443       ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4444       ParseScopeAndOrdering(isAtomic, Scope, Ordering) ||
4445       ParseOptionalCommaAlign(Alignment, AteExtraComma))
4446     return true;
4447
4448   if (!Ptr->getType()->isPointerTy())
4449     return Error(PtrLoc, "store operand must be a pointer");
4450   if (!Val->getType()->isFirstClassType())
4451     return Error(Loc, "store operand must be a first class value");
4452   if (cast<PointerType>(Ptr->getType())->getElementType() != Val->getType())
4453     return Error(Loc, "stored value and pointer type do not match");
4454   if (isAtomic && !Alignment)
4455     return Error(Loc, "atomic store must have explicit non-zero alignment");
4456   if (Ordering == Acquire || Ordering == AcquireRelease)
4457     return Error(Loc, "atomic store cannot use Acquire ordering");
4458
4459   Inst = new StoreInst(Val, Ptr, isVolatile, Alignment, Ordering, Scope);
4460   return AteExtraComma ? InstExtraComma : InstNormal;
4461 }
4462
4463 /// ParseCmpXchg
4464 ///   ::= 'cmpxchg' 'weak'? 'volatile'? TypeAndValue ',' TypeAndValue ','
4465 ///       TypeAndValue 'singlethread'? AtomicOrdering AtomicOrdering
4466 int LLParser::ParseCmpXchg(Instruction *&Inst, PerFunctionState &PFS) {
4467   Value *Ptr, *Cmp, *New; LocTy PtrLoc, CmpLoc, NewLoc;
4468   bool AteExtraComma = false;
4469   AtomicOrdering SuccessOrdering = NotAtomic;
4470   AtomicOrdering FailureOrdering = NotAtomic;
4471   SynchronizationScope Scope = CrossThread;
4472   bool isVolatile = false;
4473   bool isWeak = false;
4474
4475   if (EatIfPresent(lltok::kw_weak))
4476     isWeak = true;
4477
4478   if (EatIfPresent(lltok::kw_volatile))
4479     isVolatile = true;
4480
4481   if (ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4482       ParseToken(lltok::comma, "expected ',' after cmpxchg address") ||
4483       ParseTypeAndValue(Cmp, CmpLoc, PFS) ||
4484       ParseToken(lltok::comma, "expected ',' after cmpxchg cmp operand") ||
4485       ParseTypeAndValue(New, NewLoc, PFS) ||
4486       ParseScopeAndOrdering(true /*Always atomic*/, Scope, SuccessOrdering) ||
4487       ParseOrdering(FailureOrdering))
4488     return true;
4489
4490   if (SuccessOrdering == Unordered || FailureOrdering == Unordered)
4491     return TokError("cmpxchg cannot be unordered");
4492   if (SuccessOrdering < FailureOrdering)
4493     return TokError("cmpxchg must be at least as ordered on success as failure");
4494   if (FailureOrdering == Release || FailureOrdering == AcquireRelease)
4495     return TokError("cmpxchg failure ordering cannot include release semantics");
4496   if (!Ptr->getType()->isPointerTy())
4497     return Error(PtrLoc, "cmpxchg operand must be a pointer");
4498   if (cast<PointerType>(Ptr->getType())->getElementType() != Cmp->getType())
4499     return Error(CmpLoc, "compare value and pointer type do not match");
4500   if (cast<PointerType>(Ptr->getType())->getElementType() != New->getType())
4501     return Error(NewLoc, "new value and pointer type do not match");
4502   if (!New->getType()->isIntegerTy())
4503     return Error(NewLoc, "cmpxchg operand must be an integer");
4504   unsigned Size = New->getType()->getPrimitiveSizeInBits();
4505   if (Size < 8 || (Size & (Size - 1)))
4506     return Error(NewLoc, "cmpxchg operand must be power-of-two byte-sized"
4507                          " integer");
4508
4509   AtomicCmpXchgInst *CXI = new AtomicCmpXchgInst(
4510       Ptr, Cmp, New, SuccessOrdering, FailureOrdering, Scope);
4511   CXI->setVolatile(isVolatile);
4512   CXI->setWeak(isWeak);
4513   Inst = CXI;
4514   return AteExtraComma ? InstExtraComma : InstNormal;
4515 }
4516
4517 /// ParseAtomicRMW
4518 ///   ::= 'atomicrmw' 'volatile'? BinOp TypeAndValue ',' TypeAndValue
4519 ///       'singlethread'? AtomicOrdering
4520 int LLParser::ParseAtomicRMW(Instruction *&Inst, PerFunctionState &PFS) {
4521   Value *Ptr, *Val; LocTy PtrLoc, ValLoc;
4522   bool AteExtraComma = false;
4523   AtomicOrdering Ordering = NotAtomic;
4524   SynchronizationScope Scope = CrossThread;
4525   bool isVolatile = false;
4526   AtomicRMWInst::BinOp Operation;
4527
4528   if (EatIfPresent(lltok::kw_volatile))
4529     isVolatile = true;
4530
4531   switch (Lex.getKind()) {
4532   default: return TokError("expected binary operation in atomicrmw");
4533   case lltok::kw_xchg: Operation = AtomicRMWInst::Xchg; break;
4534   case lltok::kw_add: Operation = AtomicRMWInst::Add; break;
4535   case lltok::kw_sub: Operation = AtomicRMWInst::Sub; break;
4536   case lltok::kw_and: Operation = AtomicRMWInst::And; break;
4537   case lltok::kw_nand: Operation = AtomicRMWInst::Nand; break;
4538   case lltok::kw_or: Operation = AtomicRMWInst::Or; break;
4539   case lltok::kw_xor: Operation = AtomicRMWInst::Xor; break;
4540   case lltok::kw_max: Operation = AtomicRMWInst::Max; break;
4541   case lltok::kw_min: Operation = AtomicRMWInst::Min; break;
4542   case lltok::kw_umax: Operation = AtomicRMWInst::UMax; break;
4543   case lltok::kw_umin: Operation = AtomicRMWInst::UMin; break;
4544   }
4545   Lex.Lex();  // Eat the operation.
4546
4547   if (ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4548       ParseToken(lltok::comma, "expected ',' after atomicrmw address") ||
4549       ParseTypeAndValue(Val, ValLoc, PFS) ||
4550       ParseScopeAndOrdering(true /*Always atomic*/, Scope, Ordering))
4551     return true;
4552
4553   if (Ordering == Unordered)
4554     return TokError("atomicrmw cannot be unordered");
4555   if (!Ptr->getType()->isPointerTy())
4556     return Error(PtrLoc, "atomicrmw operand must be a pointer");
4557   if (cast<PointerType>(Ptr->getType())->getElementType() != Val->getType())
4558     return Error(ValLoc, "atomicrmw value and pointer type do not match");
4559   if (!Val->getType()->isIntegerTy())
4560     return Error(ValLoc, "atomicrmw operand must be an integer");
4561   unsigned Size = Val->getType()->getPrimitiveSizeInBits();
4562   if (Size < 8 || (Size & (Size - 1)))
4563     return Error(ValLoc, "atomicrmw operand must be power-of-two byte-sized"
4564                          " integer");
4565
4566   AtomicRMWInst *RMWI =
4567     new AtomicRMWInst(Operation, Ptr, Val, Ordering, Scope);
4568   RMWI->setVolatile(isVolatile);
4569   Inst = RMWI;
4570   return AteExtraComma ? InstExtraComma : InstNormal;
4571 }
4572
4573 /// ParseFence
4574 ///   ::= 'fence' 'singlethread'? AtomicOrdering
4575 int LLParser::ParseFence(Instruction *&Inst, PerFunctionState &PFS) {
4576   AtomicOrdering Ordering = NotAtomic;
4577   SynchronizationScope Scope = CrossThread;
4578   if (ParseScopeAndOrdering(true /*Always atomic*/, Scope, Ordering))
4579     return true;
4580
4581   if (Ordering == Unordered)
4582     return TokError("fence cannot be unordered");
4583   if (Ordering == Monotonic)
4584     return TokError("fence cannot be monotonic");
4585
4586   Inst = new FenceInst(Context, Ordering, Scope);
4587   return InstNormal;
4588 }
4589
4590 /// ParseGetElementPtr
4591 ///   ::= 'getelementptr' 'inbounds'? TypeAndValue (',' TypeAndValue)*
4592 int LLParser::ParseGetElementPtr(Instruction *&Inst, PerFunctionState &PFS) {
4593   Value *Ptr = nullptr;
4594   Value *Val = nullptr;
4595   LocTy Loc, EltLoc;
4596
4597   bool InBounds = EatIfPresent(lltok::kw_inbounds);
4598
4599   if (ParseTypeAndValue(Ptr, Loc, PFS)) return true;
4600
4601   Type *BaseType = Ptr->getType();
4602   PointerType *BasePointerType = dyn_cast<PointerType>(BaseType->getScalarType());
4603   if (!BasePointerType)
4604     return Error(Loc, "base of getelementptr must be a pointer");
4605
4606   SmallVector<Value*, 16> Indices;
4607   bool AteExtraComma = false;
4608   while (EatIfPresent(lltok::comma)) {
4609     if (Lex.getKind() == lltok::MetadataVar) {
4610       AteExtraComma = true;
4611       break;
4612     }
4613     if (ParseTypeAndValue(Val, EltLoc, PFS)) return true;
4614     if (!Val->getType()->getScalarType()->isIntegerTy())
4615       return Error(EltLoc, "getelementptr index must be an integer");
4616     if (Val->getType()->isVectorTy() != Ptr->getType()->isVectorTy())
4617       return Error(EltLoc, "getelementptr index type missmatch");
4618     if (Val->getType()->isVectorTy()) {
4619       unsigned ValNumEl = cast<VectorType>(Val->getType())->getNumElements();
4620       unsigned PtrNumEl = cast<VectorType>(Ptr->getType())->getNumElements();
4621       if (ValNumEl != PtrNumEl)
4622         return Error(EltLoc,
4623           "getelementptr vector index has a wrong number of elements");
4624     }
4625     Indices.push_back(Val);
4626   }
4627
4628   if (!Indices.empty() && !BasePointerType->getElementType()->isSized())
4629     return Error(Loc, "base element of getelementptr must be sized");
4630
4631   if (!GetElementPtrInst::getIndexedType(BaseType, Indices))
4632     return Error(Loc, "invalid getelementptr indices");
4633   Inst = GetElementPtrInst::Create(Ptr, Indices);
4634   if (InBounds)
4635     cast<GetElementPtrInst>(Inst)->setIsInBounds(true);
4636   return AteExtraComma ? InstExtraComma : InstNormal;
4637 }
4638
4639 /// ParseExtractValue
4640 ///   ::= 'extractvalue' TypeAndValue (',' uint32)+
4641 int LLParser::ParseExtractValue(Instruction *&Inst, PerFunctionState &PFS) {
4642   Value *Val; LocTy Loc;
4643   SmallVector<unsigned, 4> Indices;
4644   bool AteExtraComma;
4645   if (ParseTypeAndValue(Val, Loc, PFS) ||
4646       ParseIndexList(Indices, AteExtraComma))
4647     return true;
4648
4649   if (!Val->getType()->isAggregateType())
4650     return Error(Loc, "extractvalue operand must be aggregate type");
4651
4652   if (!ExtractValueInst::getIndexedType(Val->getType(), Indices))
4653     return Error(Loc, "invalid indices for extractvalue");
4654   Inst = ExtractValueInst::Create(Val, Indices);
4655   return AteExtraComma ? InstExtraComma : InstNormal;
4656 }
4657
4658 /// ParseInsertValue
4659 ///   ::= 'insertvalue' TypeAndValue ',' TypeAndValue (',' uint32)+
4660 int LLParser::ParseInsertValue(Instruction *&Inst, PerFunctionState &PFS) {
4661   Value *Val0, *Val1; LocTy Loc0, Loc1;
4662   SmallVector<unsigned, 4> Indices;
4663   bool AteExtraComma;
4664   if (ParseTypeAndValue(Val0, Loc0, PFS) ||
4665       ParseToken(lltok::comma, "expected comma after insertvalue operand") ||
4666       ParseTypeAndValue(Val1, Loc1, PFS) ||
4667       ParseIndexList(Indices, AteExtraComma))
4668     return true;
4669
4670   if (!Val0->getType()->isAggregateType())
4671     return Error(Loc0, "insertvalue operand must be aggregate type");
4672
4673   if (!ExtractValueInst::getIndexedType(Val0->getType(), Indices))
4674     return Error(Loc0, "invalid indices for insertvalue");
4675   Inst = InsertValueInst::Create(Val0, Val1, Indices);
4676   return AteExtraComma ? InstExtraComma : InstNormal;
4677 }
4678
4679 //===----------------------------------------------------------------------===//
4680 // Embedded metadata.
4681 //===----------------------------------------------------------------------===//
4682
4683 /// ParseMDNodeVector
4684 ///   ::= { Element (',' Element)* }
4685 /// Element
4686 ///   ::= 'null' | TypeAndValue
4687 bool LLParser::ParseMDNodeVector(SmallVectorImpl<Metadata *> &Elts,
4688                                  PerFunctionState *PFS) {
4689   if (ParseToken(lltok::lbrace, "expected '{' here"))
4690     return true;
4691
4692   // Check for an empty list.
4693   if (EatIfPresent(lltok::rbrace))
4694     return false;
4695
4696   bool IsLocal = false;
4697   do {
4698     if (IsLocal)
4699       return TokError("unexpected operand after function-local metadata");
4700
4701     // Null is a special case since it is typeless.
4702     if (EatIfPresent(lltok::kw_null)) {
4703       Elts.push_back(nullptr);
4704       continue;
4705     }
4706
4707     Type *Ty = nullptr;
4708     if (ParseType(Ty))
4709       return true;
4710
4711     if (Ty->isMetadataTy()) {
4712       // No function-local metadata here.
4713       Metadata *MD = nullptr;
4714       if (ParseMetadata(MD, nullptr))
4715         return true;
4716       Elts.push_back(MD);
4717       continue;
4718     }
4719
4720     Value *V = nullptr;
4721     if (ParseValue(Ty, V, PFS))
4722       return true;
4723     assert(V && "Expected valid value");
4724     Elts.push_back(ValueAsMetadata::get(V));
4725
4726     if (isa<LocalAsMetadata>(Elts.back())) {
4727       assert(PFS && "Unexpected function-local metadata without PFS");
4728       if (Elts.size() > 1)
4729         return TokError("unexpected function-local metadata");
4730       IsLocal = true;
4731     }
4732   } while (EatIfPresent(lltok::comma));
4733
4734   return ParseToken(lltok::rbrace, "expected end of metadata node");
4735 }
4736
4737 //===----------------------------------------------------------------------===//
4738 // Use-list order directives.
4739 //===----------------------------------------------------------------------===//
4740 bool LLParser::sortUseListOrder(Value *V, ArrayRef<unsigned> Indexes,
4741                                 SMLoc Loc) {
4742   if (V->use_empty())
4743     return Error(Loc, "value has no uses");
4744
4745   unsigned NumUses = 0;
4746   SmallDenseMap<const Use *, unsigned, 16> Order;
4747   for (const Use &U : V->uses()) {
4748     if (++NumUses > Indexes.size())
4749       break;
4750     Order[&U] = Indexes[NumUses - 1];
4751   }
4752   if (NumUses < 2)
4753     return Error(Loc, "value only has one use");
4754   if (Order.size() != Indexes.size() || NumUses > Indexes.size())
4755     return Error(Loc, "wrong number of indexes, expected " +
4756                           Twine(std::distance(V->use_begin(), V->use_end())));
4757
4758   V->sortUseList([&](const Use &L, const Use &R) {
4759     return Order.lookup(&L) < Order.lookup(&R);
4760   });
4761   return false;
4762 }
4763
4764 /// ParseUseListOrderIndexes
4765 ///   ::= '{' uint32 (',' uint32)+ '}'
4766 bool LLParser::ParseUseListOrderIndexes(SmallVectorImpl<unsigned> &Indexes) {
4767   SMLoc Loc = Lex.getLoc();
4768   if (ParseToken(lltok::lbrace, "expected '{' here"))
4769     return true;
4770   if (Lex.getKind() == lltok::rbrace)
4771     return Lex.Error("expected non-empty list of uselistorder indexes");
4772
4773   // Use Offset, Max, and IsOrdered to check consistency of indexes.  The
4774   // indexes should be distinct numbers in the range [0, size-1], and should
4775   // not be in order.
4776   unsigned Offset = 0;
4777   unsigned Max = 0;
4778   bool IsOrdered = true;
4779   assert(Indexes.empty() && "Expected empty order vector");
4780   do {
4781     unsigned Index;
4782     if (ParseUInt32(Index))
4783       return true;
4784
4785     // Update consistency checks.
4786     Offset += Index - Indexes.size();
4787     Max = std::max(Max, Index);
4788     IsOrdered &= Index == Indexes.size();
4789
4790     Indexes.push_back(Index);
4791   } while (EatIfPresent(lltok::comma));
4792
4793   if (ParseToken(lltok::rbrace, "expected '}' here"))
4794     return true;
4795
4796   if (Indexes.size() < 2)
4797     return Error(Loc, "expected >= 2 uselistorder indexes");
4798   if (Offset != 0 || Max >= Indexes.size())
4799     return Error(Loc, "expected distinct uselistorder indexes in range [0, size)");
4800   if (IsOrdered)
4801     return Error(Loc, "expected uselistorder indexes to change the order");
4802
4803   return false;
4804 }
4805
4806 /// ParseUseListOrder
4807 ///   ::= 'uselistorder' Type Value ',' UseListOrderIndexes
4808 bool LLParser::ParseUseListOrder(PerFunctionState *PFS) {
4809   SMLoc Loc = Lex.getLoc();
4810   if (ParseToken(lltok::kw_uselistorder, "expected uselistorder directive"))
4811     return true;
4812
4813   Value *V;
4814   SmallVector<unsigned, 16> Indexes;
4815   if (ParseTypeAndValue(V, PFS) ||
4816       ParseToken(lltok::comma, "expected comma in uselistorder directive") ||
4817       ParseUseListOrderIndexes(Indexes))
4818     return true;
4819
4820   return sortUseListOrder(V, Indexes, Loc);
4821 }
4822
4823 /// ParseUseListOrderBB
4824 ///   ::= 'uselistorder_bb' @foo ',' %bar ',' UseListOrderIndexes
4825 bool LLParser::ParseUseListOrderBB() {
4826   assert(Lex.getKind() == lltok::kw_uselistorder_bb);
4827   SMLoc Loc = Lex.getLoc();
4828   Lex.Lex();
4829
4830   ValID Fn, Label;
4831   SmallVector<unsigned, 16> Indexes;
4832   if (ParseValID(Fn) ||
4833       ParseToken(lltok::comma, "expected comma in uselistorder_bb directive") ||
4834       ParseValID(Label) ||
4835       ParseToken(lltok::comma, "expected comma in uselistorder_bb directive") ||
4836       ParseUseListOrderIndexes(Indexes))
4837     return true;
4838
4839   // Check the function.
4840   GlobalValue *GV;
4841   if (Fn.Kind == ValID::t_GlobalName)
4842     GV = M->getNamedValue(Fn.StrVal);
4843   else if (Fn.Kind == ValID::t_GlobalID)
4844     GV = Fn.UIntVal < NumberedVals.size() ? NumberedVals[Fn.UIntVal] : nullptr;
4845   else
4846     return Error(Fn.Loc, "expected function name in uselistorder_bb");
4847   if (!GV)
4848     return Error(Fn.Loc, "invalid function forward reference in uselistorder_bb");
4849   auto *F = dyn_cast<Function>(GV);
4850   if (!F)
4851     return Error(Fn.Loc, "expected function name in uselistorder_bb");
4852   if (F->isDeclaration())
4853     return Error(Fn.Loc, "invalid declaration in uselistorder_bb");
4854
4855   // Check the basic block.
4856   if (Label.Kind == ValID::t_LocalID)
4857     return Error(Label.Loc, "invalid numeric label in uselistorder_bb");
4858   if (Label.Kind != ValID::t_LocalName)
4859     return Error(Label.Loc, "expected basic block name in uselistorder_bb");
4860   Value *V = F->getValueSymbolTable().lookup(Label.StrVal);
4861   if (!V)
4862     return Error(Label.Loc, "invalid basic block in uselistorder_bb");
4863   if (!isa<BasicBlock>(V))
4864     return Error(Label.Loc, "expected basic block in uselistorder_bb");
4865
4866   return sortUseListOrder(V, Indexes, Loc);
4867 }