AsmParser: Use normal references for metadata attachments, NFC
[oota-llvm.git] / lib / AsmParser / LLParser.cpp
1 //===-- LLParser.cpp - Parser Class ---------------------------------------===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 //  This file defines the parser class for .ll files.
11 //
12 //===----------------------------------------------------------------------===//
13
14 #include "LLParser.h"
15 #include "llvm/ADT/SmallPtrSet.h"
16 #include "llvm/IR/AutoUpgrade.h"
17 #include "llvm/IR/CallingConv.h"
18 #include "llvm/IR/Constants.h"
19 #include "llvm/IR/DerivedTypes.h"
20 #include "llvm/IR/InlineAsm.h"
21 #include "llvm/IR/Instructions.h"
22 #include "llvm/IR/LLVMContext.h"
23 #include "llvm/IR/Module.h"
24 #include "llvm/IR/Operator.h"
25 #include "llvm/IR/ValueSymbolTable.h"
26 #include "llvm/Support/ErrorHandling.h"
27 #include "llvm/Support/SaveAndRestore.h"
28 #include "llvm/Support/raw_ostream.h"
29 using namespace llvm;
30
31 static std::string getTypeString(Type *T) {
32   std::string Result;
33   raw_string_ostream Tmp(Result);
34   Tmp << *T;
35   return Tmp.str();
36 }
37
38 /// Run: module ::= toplevelentity*
39 bool LLParser::Run() {
40   // Prime the lexer.
41   Lex.Lex();
42
43   return ParseTopLevelEntities() ||
44          ValidateEndOfModule();
45 }
46
47 /// ValidateEndOfModule - Do final validity and sanity checks at the end of the
48 /// module.
49 bool LLParser::ValidateEndOfModule() {
50   for (unsigned I = 0, E = InstsWithTBAATag.size(); I < E; I++)
51     UpgradeInstWithTBAATag(InstsWithTBAATag[I]);
52
53   // Handle any function attribute group forward references.
54   for (std::map<Value*, std::vector<unsigned> >::iterator
55          I = ForwardRefAttrGroups.begin(), E = ForwardRefAttrGroups.end();
56          I != E; ++I) {
57     Value *V = I->first;
58     std::vector<unsigned> &Vec = I->second;
59     AttrBuilder B;
60
61     for (std::vector<unsigned>::iterator VI = Vec.begin(), VE = Vec.end();
62          VI != VE; ++VI)
63       B.merge(NumberedAttrBuilders[*VI]);
64
65     if (Function *Fn = dyn_cast<Function>(V)) {
66       AttributeSet AS = Fn->getAttributes();
67       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
68       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
69                                AS.getFnAttributes());
70
71       FnAttrs.merge(B);
72
73       // If the alignment was parsed as an attribute, move to the alignment
74       // field.
75       if (FnAttrs.hasAlignmentAttr()) {
76         Fn->setAlignment(FnAttrs.getAlignment());
77         FnAttrs.removeAttribute(Attribute::Alignment);
78       }
79
80       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
81                             AttributeSet::get(Context,
82                                               AttributeSet::FunctionIndex,
83                                               FnAttrs));
84       Fn->setAttributes(AS);
85     } else if (CallInst *CI = dyn_cast<CallInst>(V)) {
86       AttributeSet AS = CI->getAttributes();
87       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
88       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
89                                AS.getFnAttributes());
90       FnAttrs.merge(B);
91       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
92                             AttributeSet::get(Context,
93                                               AttributeSet::FunctionIndex,
94                                               FnAttrs));
95       CI->setAttributes(AS);
96     } else if (InvokeInst *II = dyn_cast<InvokeInst>(V)) {
97       AttributeSet AS = II->getAttributes();
98       AttrBuilder FnAttrs(AS.getFnAttributes(), AttributeSet::FunctionIndex);
99       AS = AS.removeAttributes(Context, AttributeSet::FunctionIndex,
100                                AS.getFnAttributes());
101       FnAttrs.merge(B);
102       AS = AS.addAttributes(Context, AttributeSet::FunctionIndex,
103                             AttributeSet::get(Context,
104                                               AttributeSet::FunctionIndex,
105                                               FnAttrs));
106       II->setAttributes(AS);
107     } else {
108       llvm_unreachable("invalid object with forward attribute group reference");
109     }
110   }
111
112   // If there are entries in ForwardRefBlockAddresses at this point, the
113   // function was never defined.
114   if (!ForwardRefBlockAddresses.empty())
115     return Error(ForwardRefBlockAddresses.begin()->first.Loc,
116                  "expected function name in blockaddress");
117
118   for (unsigned i = 0, e = NumberedTypes.size(); i != e; ++i)
119     if (NumberedTypes[i].second.isValid())
120       return Error(NumberedTypes[i].second,
121                    "use of undefined type '%" + Twine(i) + "'");
122
123   for (StringMap<std::pair<Type*, LocTy> >::iterator I =
124        NamedTypes.begin(), E = NamedTypes.end(); I != E; ++I)
125     if (I->second.second.isValid())
126       return Error(I->second.second,
127                    "use of undefined type named '" + I->getKey() + "'");
128
129   if (!ForwardRefComdats.empty())
130     return Error(ForwardRefComdats.begin()->second,
131                  "use of undefined comdat '$" +
132                      ForwardRefComdats.begin()->first + "'");
133
134   if (!ForwardRefVals.empty())
135     return Error(ForwardRefVals.begin()->second.second,
136                  "use of undefined value '@" + ForwardRefVals.begin()->first +
137                  "'");
138
139   if (!ForwardRefValIDs.empty())
140     return Error(ForwardRefValIDs.begin()->second.second,
141                  "use of undefined value '@" +
142                  Twine(ForwardRefValIDs.begin()->first) + "'");
143
144   if (!ForwardRefMDNodes.empty())
145     return Error(ForwardRefMDNodes.begin()->second.second,
146                  "use of undefined metadata '!" +
147                  Twine(ForwardRefMDNodes.begin()->first) + "'");
148
149   // Resolve metadata cycles.
150   for (auto &N : NumberedMetadata)
151     if (auto *U = cast_or_null<UniquableMDNode>(N))
152       U->resolveCycles();
153
154   // Look for intrinsic functions and CallInst that need to be upgraded
155   for (Module::iterator FI = M->begin(), FE = M->end(); FI != FE; )
156     UpgradeCallsToIntrinsic(FI++); // must be post-increment, as we remove
157
158   UpgradeDebugInfo(*M);
159
160   return false;
161 }
162
163 //===----------------------------------------------------------------------===//
164 // Top-Level Entities
165 //===----------------------------------------------------------------------===//
166
167 bool LLParser::ParseTopLevelEntities() {
168   while (1) {
169     switch (Lex.getKind()) {
170     default:         return TokError("expected top-level entity");
171     case lltok::Eof: return false;
172     case lltok::kw_declare: if (ParseDeclare()) return true; break;
173     case lltok::kw_define:  if (ParseDefine()) return true; break;
174     case lltok::kw_module:  if (ParseModuleAsm()) return true; break;
175     case lltok::kw_target:  if (ParseTargetDefinition()) return true; break;
176     case lltok::kw_deplibs: if (ParseDepLibs()) return true; break;
177     case lltok::LocalVarID: if (ParseUnnamedType()) return true; break;
178     case lltok::LocalVar:   if (ParseNamedType()) return true; break;
179     case lltok::GlobalID:   if (ParseUnnamedGlobal()) return true; break;
180     case lltok::GlobalVar:  if (ParseNamedGlobal()) return true; break;
181     case lltok::ComdatVar:  if (parseComdat()) return true; break;
182     case lltok::exclaim:    if (ParseStandaloneMetadata()) return true; break;
183     case lltok::MetadataVar:if (ParseNamedMetadata()) return true; break;
184
185     // The Global variable production with no name can have many different
186     // optional leading prefixes, the production is:
187     // GlobalVar ::= OptionalLinkage OptionalVisibility OptionalDLLStorageClass
188     //               OptionalThreadLocal OptionalAddrSpace OptionalUnNammedAddr
189     //               ('constant'|'global') ...
190     case lltok::kw_private:             // OptionalLinkage
191     case lltok::kw_internal:            // OptionalLinkage
192     case lltok::kw_weak:                // OptionalLinkage
193     case lltok::kw_weak_odr:            // OptionalLinkage
194     case lltok::kw_linkonce:            // OptionalLinkage
195     case lltok::kw_linkonce_odr:        // OptionalLinkage
196     case lltok::kw_appending:           // OptionalLinkage
197     case lltok::kw_common:              // OptionalLinkage
198     case lltok::kw_extern_weak:         // OptionalLinkage
199     case lltok::kw_external:            // OptionalLinkage
200     case lltok::kw_default:             // OptionalVisibility
201     case lltok::kw_hidden:              // OptionalVisibility
202     case lltok::kw_protected:           // OptionalVisibility
203     case lltok::kw_dllimport:           // OptionalDLLStorageClass
204     case lltok::kw_dllexport:           // OptionalDLLStorageClass
205     case lltok::kw_thread_local:        // OptionalThreadLocal
206     case lltok::kw_addrspace:           // OptionalAddrSpace
207     case lltok::kw_constant:            // GlobalType
208     case lltok::kw_global: {            // GlobalType
209       unsigned Linkage, Visibility, DLLStorageClass;
210       bool UnnamedAddr;
211       GlobalVariable::ThreadLocalMode TLM;
212       bool HasLinkage;
213       if (ParseOptionalLinkage(Linkage, HasLinkage) ||
214           ParseOptionalVisibility(Visibility) ||
215           ParseOptionalDLLStorageClass(DLLStorageClass) ||
216           ParseOptionalThreadLocal(TLM) ||
217           parseOptionalUnnamedAddr(UnnamedAddr) ||
218           ParseGlobal("", SMLoc(), Linkage, HasLinkage, Visibility,
219                       DLLStorageClass, TLM, UnnamedAddr))
220         return true;
221       break;
222     }
223
224     case lltok::kw_attributes: if (ParseUnnamedAttrGrp()) return true; break;
225     case lltok::kw_uselistorder: if (ParseUseListOrder()) return true; break;
226     case lltok::kw_uselistorder_bb:
227                                  if (ParseUseListOrderBB()) return true; break;
228     }
229   }
230 }
231
232
233 /// toplevelentity
234 ///   ::= 'module' 'asm' STRINGCONSTANT
235 bool LLParser::ParseModuleAsm() {
236   assert(Lex.getKind() == lltok::kw_module);
237   Lex.Lex();
238
239   std::string AsmStr;
240   if (ParseToken(lltok::kw_asm, "expected 'module asm'") ||
241       ParseStringConstant(AsmStr)) return true;
242
243   M->appendModuleInlineAsm(AsmStr);
244   return false;
245 }
246
247 /// toplevelentity
248 ///   ::= 'target' 'triple' '=' STRINGCONSTANT
249 ///   ::= 'target' 'datalayout' '=' STRINGCONSTANT
250 bool LLParser::ParseTargetDefinition() {
251   assert(Lex.getKind() == lltok::kw_target);
252   std::string Str;
253   switch (Lex.Lex()) {
254   default: return TokError("unknown target property");
255   case lltok::kw_triple:
256     Lex.Lex();
257     if (ParseToken(lltok::equal, "expected '=' after target triple") ||
258         ParseStringConstant(Str))
259       return true;
260     M->setTargetTriple(Str);
261     return false;
262   case lltok::kw_datalayout:
263     Lex.Lex();
264     if (ParseToken(lltok::equal, "expected '=' after target datalayout") ||
265         ParseStringConstant(Str))
266       return true;
267     M->setDataLayout(Str);
268     return false;
269   }
270 }
271
272 /// toplevelentity
273 ///   ::= 'deplibs' '=' '[' ']'
274 ///   ::= 'deplibs' '=' '[' STRINGCONSTANT (',' STRINGCONSTANT)* ']'
275 /// FIXME: Remove in 4.0. Currently parse, but ignore.
276 bool LLParser::ParseDepLibs() {
277   assert(Lex.getKind() == lltok::kw_deplibs);
278   Lex.Lex();
279   if (ParseToken(lltok::equal, "expected '=' after deplibs") ||
280       ParseToken(lltok::lsquare, "expected '=' after deplibs"))
281     return true;
282
283   if (EatIfPresent(lltok::rsquare))
284     return false;
285
286   do {
287     std::string Str;
288     if (ParseStringConstant(Str)) return true;
289   } while (EatIfPresent(lltok::comma));
290
291   return ParseToken(lltok::rsquare, "expected ']' at end of list");
292 }
293
294 /// ParseUnnamedType:
295 ///   ::= LocalVarID '=' 'type' type
296 bool LLParser::ParseUnnamedType() {
297   LocTy TypeLoc = Lex.getLoc();
298   unsigned TypeID = Lex.getUIntVal();
299   Lex.Lex(); // eat LocalVarID;
300
301   if (ParseToken(lltok::equal, "expected '=' after name") ||
302       ParseToken(lltok::kw_type, "expected 'type' after '='"))
303     return true;
304
305   if (TypeID >= NumberedTypes.size())
306     NumberedTypes.resize(TypeID+1);
307
308   Type *Result = nullptr;
309   if (ParseStructDefinition(TypeLoc, "",
310                             NumberedTypes[TypeID], Result)) return true;
311
312   if (!isa<StructType>(Result)) {
313     std::pair<Type*, LocTy> &Entry = NumberedTypes[TypeID];
314     if (Entry.first)
315       return Error(TypeLoc, "non-struct types may not be recursive");
316     Entry.first = Result;
317     Entry.second = SMLoc();
318   }
319
320   return false;
321 }
322
323
324 /// toplevelentity
325 ///   ::= LocalVar '=' 'type' type
326 bool LLParser::ParseNamedType() {
327   std::string Name = Lex.getStrVal();
328   LocTy NameLoc = Lex.getLoc();
329   Lex.Lex();  // eat LocalVar.
330
331   if (ParseToken(lltok::equal, "expected '=' after name") ||
332       ParseToken(lltok::kw_type, "expected 'type' after name"))
333     return true;
334
335   Type *Result = nullptr;
336   if (ParseStructDefinition(NameLoc, Name,
337                             NamedTypes[Name], Result)) return true;
338
339   if (!isa<StructType>(Result)) {
340     std::pair<Type*, LocTy> &Entry = NamedTypes[Name];
341     if (Entry.first)
342       return Error(NameLoc, "non-struct types may not be recursive");
343     Entry.first = Result;
344     Entry.second = SMLoc();
345   }
346
347   return false;
348 }
349
350
351 /// toplevelentity
352 ///   ::= 'declare' FunctionHeader
353 bool LLParser::ParseDeclare() {
354   assert(Lex.getKind() == lltok::kw_declare);
355   Lex.Lex();
356
357   Function *F;
358   return ParseFunctionHeader(F, false);
359 }
360
361 /// toplevelentity
362 ///   ::= 'define' FunctionHeader '{' ...
363 bool LLParser::ParseDefine() {
364   assert(Lex.getKind() == lltok::kw_define);
365   Lex.Lex();
366
367   Function *F;
368   return ParseFunctionHeader(F, true) ||
369          ParseFunctionBody(*F);
370 }
371
372 /// ParseGlobalType
373 ///   ::= 'constant'
374 ///   ::= 'global'
375 bool LLParser::ParseGlobalType(bool &IsConstant) {
376   if (Lex.getKind() == lltok::kw_constant)
377     IsConstant = true;
378   else if (Lex.getKind() == lltok::kw_global)
379     IsConstant = false;
380   else {
381     IsConstant = false;
382     return TokError("expected 'global' or 'constant'");
383   }
384   Lex.Lex();
385   return false;
386 }
387
388 /// ParseUnnamedGlobal:
389 ///   OptionalVisibility ALIAS ...
390 ///   OptionalLinkage OptionalVisibility OptionalDLLStorageClass
391 ///                                                     ...   -> global variable
392 ///   GlobalID '=' OptionalVisibility ALIAS ...
393 ///   GlobalID '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
394 ///                                                     ...   -> global variable
395 bool LLParser::ParseUnnamedGlobal() {
396   unsigned VarID = NumberedVals.size();
397   std::string Name;
398   LocTy NameLoc = Lex.getLoc();
399
400   // Handle the GlobalID form.
401   if (Lex.getKind() == lltok::GlobalID) {
402     if (Lex.getUIntVal() != VarID)
403       return Error(Lex.getLoc(), "variable expected to be numbered '%" +
404                    Twine(VarID) + "'");
405     Lex.Lex(); // eat GlobalID;
406
407     if (ParseToken(lltok::equal, "expected '=' after name"))
408       return true;
409   }
410
411   bool HasLinkage;
412   unsigned Linkage, Visibility, DLLStorageClass;
413   GlobalVariable::ThreadLocalMode TLM;
414   bool UnnamedAddr;
415   if (ParseOptionalLinkage(Linkage, HasLinkage) ||
416       ParseOptionalVisibility(Visibility) ||
417       ParseOptionalDLLStorageClass(DLLStorageClass) ||
418       ParseOptionalThreadLocal(TLM) ||
419       parseOptionalUnnamedAddr(UnnamedAddr))
420     return true;
421
422   if (Lex.getKind() != lltok::kw_alias)
423     return ParseGlobal(Name, NameLoc, Linkage, HasLinkage, Visibility,
424                        DLLStorageClass, TLM, UnnamedAddr);
425   return ParseAlias(Name, NameLoc, Linkage, Visibility, DLLStorageClass, TLM,
426                     UnnamedAddr);
427 }
428
429 /// ParseNamedGlobal:
430 ///   GlobalVar '=' OptionalVisibility ALIAS ...
431 ///   GlobalVar '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
432 ///                                                     ...   -> global variable
433 bool LLParser::ParseNamedGlobal() {
434   assert(Lex.getKind() == lltok::GlobalVar);
435   LocTy NameLoc = Lex.getLoc();
436   std::string Name = Lex.getStrVal();
437   Lex.Lex();
438
439   bool HasLinkage;
440   unsigned Linkage, Visibility, DLLStorageClass;
441   GlobalVariable::ThreadLocalMode TLM;
442   bool UnnamedAddr;
443   if (ParseToken(lltok::equal, "expected '=' in global variable") ||
444       ParseOptionalLinkage(Linkage, HasLinkage) ||
445       ParseOptionalVisibility(Visibility) ||
446       ParseOptionalDLLStorageClass(DLLStorageClass) ||
447       ParseOptionalThreadLocal(TLM) ||
448       parseOptionalUnnamedAddr(UnnamedAddr))
449     return true;
450
451   if (Lex.getKind() != lltok::kw_alias)
452     return ParseGlobal(Name, NameLoc, Linkage, HasLinkage, Visibility,
453                        DLLStorageClass, TLM, UnnamedAddr);
454
455   return ParseAlias(Name, NameLoc, Linkage, Visibility, DLLStorageClass, TLM,
456                     UnnamedAddr);
457 }
458
459 bool LLParser::parseComdat() {
460   assert(Lex.getKind() == lltok::ComdatVar);
461   std::string Name = Lex.getStrVal();
462   LocTy NameLoc = Lex.getLoc();
463   Lex.Lex();
464
465   if (ParseToken(lltok::equal, "expected '=' here"))
466     return true;
467
468   if (ParseToken(lltok::kw_comdat, "expected comdat keyword"))
469     return TokError("expected comdat type");
470
471   Comdat::SelectionKind SK;
472   switch (Lex.getKind()) {
473   default:
474     return TokError("unknown selection kind");
475   case lltok::kw_any:
476     SK = Comdat::Any;
477     break;
478   case lltok::kw_exactmatch:
479     SK = Comdat::ExactMatch;
480     break;
481   case lltok::kw_largest:
482     SK = Comdat::Largest;
483     break;
484   case lltok::kw_noduplicates:
485     SK = Comdat::NoDuplicates;
486     break;
487   case lltok::kw_samesize:
488     SK = Comdat::SameSize;
489     break;
490   }
491   Lex.Lex();
492
493   // See if the comdat was forward referenced, if so, use the comdat.
494   Module::ComdatSymTabType &ComdatSymTab = M->getComdatSymbolTable();
495   Module::ComdatSymTabType::iterator I = ComdatSymTab.find(Name);
496   if (I != ComdatSymTab.end() && !ForwardRefComdats.erase(Name))
497     return Error(NameLoc, "redefinition of comdat '$" + Name + "'");
498
499   Comdat *C;
500   if (I != ComdatSymTab.end())
501     C = &I->second;
502   else
503     C = M->getOrInsertComdat(Name);
504   C->setSelectionKind(SK);
505
506   return false;
507 }
508
509 // MDString:
510 //   ::= '!' STRINGCONSTANT
511 bool LLParser::ParseMDString(MDString *&Result) {
512   std::string Str;
513   if (ParseStringConstant(Str)) return true;
514   llvm::UpgradeMDStringConstant(Str);
515   Result = MDString::get(Context, Str);
516   return false;
517 }
518
519 // MDNode:
520 //   ::= '!' MDNodeNumber
521 //
522 /// This version of ParseMDNodeID returns the slot number and null in the case
523 /// of a forward reference.
524 bool LLParser::ParseMDNodeID(MDNode *&Result, unsigned &SlotNo) {
525   // !{ ..., !42, ... }
526   if (ParseUInt32(SlotNo)) return true;
527
528   // Check existing MDNode.
529   if (SlotNo < NumberedMetadata.size() && NumberedMetadata[SlotNo] != nullptr)
530     Result = NumberedMetadata[SlotNo];
531   else
532     Result = nullptr;
533   return false;
534 }
535
536 bool LLParser::ParseMDNodeID(MDNode *&Result) {
537   // !{ ..., !42, ... }
538   unsigned MID = 0;
539   if (ParseMDNodeID(Result, MID)) return true;
540
541   // If not a forward reference, just return it now.
542   if (Result) return false;
543
544   // Otherwise, create MDNode forward reference.
545   MDNodeFwdDecl *FwdNode = MDNode::getTemporary(Context, None);
546   ForwardRefMDNodes[MID] = std::make_pair(FwdNode, Lex.getLoc());
547
548   if (NumberedMetadata.size() <= MID)
549     NumberedMetadata.resize(MID+1);
550   NumberedMetadata[MID].reset(FwdNode);
551   Result = FwdNode;
552   return false;
553 }
554
555 /// ParseNamedMetadata:
556 ///   !foo = !{ !1, !2 }
557 bool LLParser::ParseNamedMetadata() {
558   assert(Lex.getKind() == lltok::MetadataVar);
559   std::string Name = Lex.getStrVal();
560   Lex.Lex();
561
562   if (ParseToken(lltok::equal, "expected '=' here") ||
563       ParseToken(lltok::exclaim, "Expected '!' here") ||
564       ParseToken(lltok::lbrace, "Expected '{' here"))
565     return true;
566
567   NamedMDNode *NMD = M->getOrInsertNamedMetadata(Name);
568   if (Lex.getKind() != lltok::rbrace)
569     do {
570       if (ParseToken(lltok::exclaim, "Expected '!' here"))
571         return true;
572
573       MDNode *N = nullptr;
574       if (ParseMDNodeID(N)) return true;
575       NMD->addOperand(N);
576     } while (EatIfPresent(lltok::comma));
577
578   if (ParseToken(lltok::rbrace, "expected end of metadata node"))
579     return true;
580
581   return false;
582 }
583
584 /// ParseStandaloneMetadata:
585 ///   !42 = !{...}
586 bool LLParser::ParseStandaloneMetadata() {
587   assert(Lex.getKind() == lltok::exclaim);
588   Lex.Lex();
589   unsigned MetadataID = 0;
590
591   MDNode *Init;
592   if (ParseUInt32(MetadataID) ||
593       ParseToken(lltok::equal, "expected '=' here"))
594     return true;
595
596   // Detect common error, from old metadata syntax.
597   if (Lex.getKind() == lltok::Type)
598     return TokError("unexpected type in metadata definition");
599
600   bool IsDistinct = EatIfPresent(lltok::kw_distinct);
601   if (ParseToken(lltok::exclaim, "Expected '!' here") ||
602       ParseMDNode(Init, IsDistinct))
603     return true;
604
605   // See if this was forward referenced, if so, handle it.
606   auto FI = ForwardRefMDNodes.find(MetadataID);
607   if (FI != ForwardRefMDNodes.end()) {
608     auto *Temp = FI->second.first;
609     Temp->replaceAllUsesWith(Init);
610     MDNode::deleteTemporary(Temp);
611     ForwardRefMDNodes.erase(FI);
612
613     assert(NumberedMetadata[MetadataID] == Init && "Tracking VH didn't work");
614   } else {
615     if (MetadataID >= NumberedMetadata.size())
616       NumberedMetadata.resize(MetadataID+1);
617
618     if (NumberedMetadata[MetadataID] != nullptr)
619       return TokError("Metadata id is already used");
620     NumberedMetadata[MetadataID].reset(Init);
621   }
622
623   return false;
624 }
625
626 static bool isValidVisibilityForLinkage(unsigned V, unsigned L) {
627   return !GlobalValue::isLocalLinkage((GlobalValue::LinkageTypes)L) ||
628          (GlobalValue::VisibilityTypes)V == GlobalValue::DefaultVisibility;
629 }
630
631 /// ParseAlias:
632 ///   ::= GlobalVar '=' OptionalLinkage OptionalVisibility
633 ///                     OptionalDLLStorageClass OptionalThreadLocal
634 ///                     OptionalUnNammedAddr 'alias' Aliasee
635 ///
636 /// Aliasee
637 ///   ::= TypeAndValue
638 ///
639 /// Everything through OptionalUnNammedAddr has already been parsed.
640 ///
641 bool LLParser::ParseAlias(const std::string &Name, LocTy NameLoc, unsigned L,
642                           unsigned Visibility, unsigned DLLStorageClass,
643                           GlobalVariable::ThreadLocalMode TLM,
644                           bool UnnamedAddr) {
645   assert(Lex.getKind() == lltok::kw_alias);
646   Lex.Lex();
647
648   GlobalValue::LinkageTypes Linkage = (GlobalValue::LinkageTypes) L;
649
650   if(!GlobalAlias::isValidLinkage(Linkage))
651     return Error(NameLoc, "invalid linkage type for alias");
652
653   if (!isValidVisibilityForLinkage(Visibility, L))
654     return Error(NameLoc,
655                  "symbol with local linkage must have default visibility");
656
657   Constant *Aliasee;
658   LocTy AliaseeLoc = Lex.getLoc();
659   if (Lex.getKind() != lltok::kw_bitcast &&
660       Lex.getKind() != lltok::kw_getelementptr &&
661       Lex.getKind() != lltok::kw_addrspacecast &&
662       Lex.getKind() != lltok::kw_inttoptr) {
663     if (ParseGlobalTypeAndValue(Aliasee))
664       return true;
665   } else {
666     // The bitcast dest type is not present, it is implied by the dest type.
667     ValID ID;
668     if (ParseValID(ID))
669       return true;
670     if (ID.Kind != ValID::t_Constant)
671       return Error(AliaseeLoc, "invalid aliasee");
672     Aliasee = ID.ConstantVal;
673   }
674
675   Type *AliaseeType = Aliasee->getType();
676   auto *PTy = dyn_cast<PointerType>(AliaseeType);
677   if (!PTy)
678     return Error(AliaseeLoc, "An alias must have pointer type");
679   Type *Ty = PTy->getElementType();
680   unsigned AddrSpace = PTy->getAddressSpace();
681
682   // Okay, create the alias but do not insert it into the module yet.
683   std::unique_ptr<GlobalAlias> GA(
684       GlobalAlias::create(Ty, AddrSpace, (GlobalValue::LinkageTypes)Linkage,
685                           Name, Aliasee, /*Parent*/ nullptr));
686   GA->setThreadLocalMode(TLM);
687   GA->setVisibility((GlobalValue::VisibilityTypes)Visibility);
688   GA->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
689   GA->setUnnamedAddr(UnnamedAddr);
690
691   // See if this value already exists in the symbol table.  If so, it is either
692   // a redefinition or a definition of a forward reference.
693   if (GlobalValue *Val = M->getNamedValue(Name)) {
694     // See if this was a redefinition.  If so, there is no entry in
695     // ForwardRefVals.
696     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator
697       I = ForwardRefVals.find(Name);
698     if (I == ForwardRefVals.end())
699       return Error(NameLoc, "redefinition of global named '@" + Name + "'");
700
701     // Otherwise, this was a definition of forward ref.  Verify that types
702     // agree.
703     if (Val->getType() != GA->getType())
704       return Error(NameLoc,
705               "forward reference and definition of alias have different types");
706
707     // If they agree, just RAUW the old value with the alias and remove the
708     // forward ref info.
709     Val->replaceAllUsesWith(GA.get());
710     Val->eraseFromParent();
711     ForwardRefVals.erase(I);
712   }
713
714   // Insert into the module, we know its name won't collide now.
715   M->getAliasList().push_back(GA.get());
716   assert(GA->getName() == Name && "Should not be a name conflict!");
717
718   // The module owns this now
719   GA.release();
720
721   return false;
722 }
723
724 /// ParseGlobal
725 ///   ::= GlobalVar '=' OptionalLinkage OptionalVisibility OptionalDLLStorageClass
726 ///       OptionalThreadLocal OptionalUnNammedAddr OptionalAddrSpace
727 ///       OptionalExternallyInitialized GlobalType Type Const
728 ///   ::= OptionalLinkage OptionalVisibility OptionalDLLStorageClass
729 ///       OptionalThreadLocal OptionalUnNammedAddr OptionalAddrSpace
730 ///       OptionalExternallyInitialized GlobalType Type Const
731 ///
732 /// Everything up to and including OptionalUnNammedAddr has been parsed
733 /// already.
734 ///
735 bool LLParser::ParseGlobal(const std::string &Name, LocTy NameLoc,
736                            unsigned Linkage, bool HasLinkage,
737                            unsigned Visibility, unsigned DLLStorageClass,
738                            GlobalVariable::ThreadLocalMode TLM,
739                            bool UnnamedAddr) {
740   if (!isValidVisibilityForLinkage(Visibility, Linkage))
741     return Error(NameLoc,
742                  "symbol with local linkage must have default visibility");
743
744   unsigned AddrSpace;
745   bool IsConstant, IsExternallyInitialized;
746   LocTy IsExternallyInitializedLoc;
747   LocTy TyLoc;
748
749   Type *Ty = nullptr;
750   if (ParseOptionalAddrSpace(AddrSpace) ||
751       ParseOptionalToken(lltok::kw_externally_initialized,
752                          IsExternallyInitialized,
753                          &IsExternallyInitializedLoc) ||
754       ParseGlobalType(IsConstant) ||
755       ParseType(Ty, TyLoc))
756     return true;
757
758   // If the linkage is specified and is external, then no initializer is
759   // present.
760   Constant *Init = nullptr;
761   if (!HasLinkage || (Linkage != GlobalValue::ExternalWeakLinkage &&
762                       Linkage != GlobalValue::ExternalLinkage)) {
763     if (ParseGlobalValue(Ty, Init))
764       return true;
765   }
766
767   if (Ty->isFunctionTy() || Ty->isLabelTy())
768     return Error(TyLoc, "invalid type for global variable");
769
770   GlobalValue *GVal = nullptr;
771
772   // See if the global was forward referenced, if so, use the global.
773   if (!Name.empty()) {
774     GVal = M->getNamedValue(Name);
775     if (GVal) {
776       if (!ForwardRefVals.erase(Name) || !isa<GlobalValue>(GVal))
777         return Error(NameLoc, "redefinition of global '@" + Name + "'");
778     }
779   } else {
780     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator
781       I = ForwardRefValIDs.find(NumberedVals.size());
782     if (I != ForwardRefValIDs.end()) {
783       GVal = I->second.first;
784       ForwardRefValIDs.erase(I);
785     }
786   }
787
788   GlobalVariable *GV;
789   if (!GVal) {
790     GV = new GlobalVariable(*M, Ty, false, GlobalValue::ExternalLinkage, nullptr,
791                             Name, nullptr, GlobalVariable::NotThreadLocal,
792                             AddrSpace);
793   } else {
794     if (GVal->getType()->getElementType() != Ty)
795       return Error(TyLoc,
796             "forward reference and definition of global have different types");
797
798     GV = cast<GlobalVariable>(GVal);
799
800     // Move the forward-reference to the correct spot in the module.
801     M->getGlobalList().splice(M->global_end(), M->getGlobalList(), GV);
802   }
803
804   if (Name.empty())
805     NumberedVals.push_back(GV);
806
807   // Set the parsed properties on the global.
808   if (Init)
809     GV->setInitializer(Init);
810   GV->setConstant(IsConstant);
811   GV->setLinkage((GlobalValue::LinkageTypes)Linkage);
812   GV->setVisibility((GlobalValue::VisibilityTypes)Visibility);
813   GV->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
814   GV->setExternallyInitialized(IsExternallyInitialized);
815   GV->setThreadLocalMode(TLM);
816   GV->setUnnamedAddr(UnnamedAddr);
817
818   // Parse attributes on the global.
819   while (Lex.getKind() == lltok::comma) {
820     Lex.Lex();
821
822     if (Lex.getKind() == lltok::kw_section) {
823       Lex.Lex();
824       GV->setSection(Lex.getStrVal());
825       if (ParseToken(lltok::StringConstant, "expected global section string"))
826         return true;
827     } else if (Lex.getKind() == lltok::kw_align) {
828       unsigned Alignment;
829       if (ParseOptionalAlignment(Alignment)) return true;
830       GV->setAlignment(Alignment);
831     } else {
832       Comdat *C;
833       if (parseOptionalComdat(Name, C))
834         return true;
835       if (C)
836         GV->setComdat(C);
837       else
838         return TokError("unknown global variable property!");
839     }
840   }
841
842   return false;
843 }
844
845 /// ParseUnnamedAttrGrp
846 ///   ::= 'attributes' AttrGrpID '=' '{' AttrValPair+ '}'
847 bool LLParser::ParseUnnamedAttrGrp() {
848   assert(Lex.getKind() == lltok::kw_attributes);
849   LocTy AttrGrpLoc = Lex.getLoc();
850   Lex.Lex();
851
852   if (Lex.getKind() != lltok::AttrGrpID)
853     return TokError("expected attribute group id");
854
855   unsigned VarID = Lex.getUIntVal();
856   std::vector<unsigned> unused;
857   LocTy BuiltinLoc;
858   Lex.Lex();
859
860   if (ParseToken(lltok::equal, "expected '=' here") ||
861       ParseToken(lltok::lbrace, "expected '{' here") ||
862       ParseFnAttributeValuePairs(NumberedAttrBuilders[VarID], unused, true,
863                                  BuiltinLoc) ||
864       ParseToken(lltok::rbrace, "expected end of attribute group"))
865     return true;
866
867   if (!NumberedAttrBuilders[VarID].hasAttributes())
868     return Error(AttrGrpLoc, "attribute group has no attributes");
869
870   return false;
871 }
872
873 /// ParseFnAttributeValuePairs
874 ///   ::= <attr> | <attr> '=' <value>
875 bool LLParser::ParseFnAttributeValuePairs(AttrBuilder &B,
876                                           std::vector<unsigned> &FwdRefAttrGrps,
877                                           bool inAttrGrp, LocTy &BuiltinLoc) {
878   bool HaveError = false;
879
880   B.clear();
881
882   while (true) {
883     lltok::Kind Token = Lex.getKind();
884     if (Token == lltok::kw_builtin)
885       BuiltinLoc = Lex.getLoc();
886     switch (Token) {
887     default:
888       if (!inAttrGrp) return HaveError;
889       return Error(Lex.getLoc(), "unterminated attribute group");
890     case lltok::rbrace:
891       // Finished.
892       return false;
893
894     case lltok::AttrGrpID: {
895       // Allow a function to reference an attribute group:
896       //
897       //   define void @foo() #1 { ... }
898       if (inAttrGrp)
899         HaveError |=
900           Error(Lex.getLoc(),
901               "cannot have an attribute group reference in an attribute group");
902
903       unsigned AttrGrpNum = Lex.getUIntVal();
904       if (inAttrGrp) break;
905
906       // Save the reference to the attribute group. We'll fill it in later.
907       FwdRefAttrGrps.push_back(AttrGrpNum);
908       break;
909     }
910     // Target-dependent attributes:
911     case lltok::StringConstant: {
912       std::string Attr = Lex.getStrVal();
913       Lex.Lex();
914       std::string Val;
915       if (EatIfPresent(lltok::equal) &&
916           ParseStringConstant(Val))
917         return true;
918
919       B.addAttribute(Attr, Val);
920       continue;
921     }
922
923     // Target-independent attributes:
924     case lltok::kw_align: {
925       // As a hack, we allow function alignment to be initially parsed as an
926       // attribute on a function declaration/definition or added to an attribute
927       // group and later moved to the alignment field.
928       unsigned Alignment;
929       if (inAttrGrp) {
930         Lex.Lex();
931         if (ParseToken(lltok::equal, "expected '=' here") ||
932             ParseUInt32(Alignment))
933           return true;
934       } else {
935         if (ParseOptionalAlignment(Alignment))
936           return true;
937       }
938       B.addAlignmentAttr(Alignment);
939       continue;
940     }
941     case lltok::kw_alignstack: {
942       unsigned Alignment;
943       if (inAttrGrp) {
944         Lex.Lex();
945         if (ParseToken(lltok::equal, "expected '=' here") ||
946             ParseUInt32(Alignment))
947           return true;
948       } else {
949         if (ParseOptionalStackAlignment(Alignment))
950           return true;
951       }
952       B.addStackAlignmentAttr(Alignment);
953       continue;
954     }
955     case lltok::kw_alwaysinline:      B.addAttribute(Attribute::AlwaysInline); break;
956     case lltok::kw_builtin:           B.addAttribute(Attribute::Builtin); break;
957     case lltok::kw_cold:              B.addAttribute(Attribute::Cold); break;
958     case lltok::kw_inlinehint:        B.addAttribute(Attribute::InlineHint); break;
959     case lltok::kw_jumptable:         B.addAttribute(Attribute::JumpTable); break;
960     case lltok::kw_minsize:           B.addAttribute(Attribute::MinSize); break;
961     case lltok::kw_naked:             B.addAttribute(Attribute::Naked); break;
962     case lltok::kw_nobuiltin:         B.addAttribute(Attribute::NoBuiltin); break;
963     case lltok::kw_noduplicate:       B.addAttribute(Attribute::NoDuplicate); break;
964     case lltok::kw_noimplicitfloat:   B.addAttribute(Attribute::NoImplicitFloat); break;
965     case lltok::kw_noinline:          B.addAttribute(Attribute::NoInline); break;
966     case lltok::kw_nonlazybind:       B.addAttribute(Attribute::NonLazyBind); break;
967     case lltok::kw_noredzone:         B.addAttribute(Attribute::NoRedZone); break;
968     case lltok::kw_noreturn:          B.addAttribute(Attribute::NoReturn); break;
969     case lltok::kw_nounwind:          B.addAttribute(Attribute::NoUnwind); break;
970     case lltok::kw_optnone:           B.addAttribute(Attribute::OptimizeNone); break;
971     case lltok::kw_optsize:           B.addAttribute(Attribute::OptimizeForSize); break;
972     case lltok::kw_readnone:          B.addAttribute(Attribute::ReadNone); break;
973     case lltok::kw_readonly:          B.addAttribute(Attribute::ReadOnly); break;
974     case lltok::kw_returns_twice:     B.addAttribute(Attribute::ReturnsTwice); break;
975     case lltok::kw_ssp:               B.addAttribute(Attribute::StackProtect); break;
976     case lltok::kw_sspreq:            B.addAttribute(Attribute::StackProtectReq); break;
977     case lltok::kw_sspstrong:         B.addAttribute(Attribute::StackProtectStrong); break;
978     case lltok::kw_sanitize_address:  B.addAttribute(Attribute::SanitizeAddress); break;
979     case lltok::kw_sanitize_thread:   B.addAttribute(Attribute::SanitizeThread); break;
980     case lltok::kw_sanitize_memory:   B.addAttribute(Attribute::SanitizeMemory); break;
981     case lltok::kw_uwtable:           B.addAttribute(Attribute::UWTable); break;
982
983     // Error handling.
984     case lltok::kw_inreg:
985     case lltok::kw_signext:
986     case lltok::kw_zeroext:
987       HaveError |=
988         Error(Lex.getLoc(),
989               "invalid use of attribute on a function");
990       break;
991     case lltok::kw_byval:
992     case lltok::kw_dereferenceable:
993     case lltok::kw_inalloca:
994     case lltok::kw_nest:
995     case lltok::kw_noalias:
996     case lltok::kw_nocapture:
997     case lltok::kw_nonnull:
998     case lltok::kw_returned:
999     case lltok::kw_sret:
1000       HaveError |=
1001         Error(Lex.getLoc(),
1002               "invalid use of parameter-only attribute on a function");
1003       break;
1004     }
1005
1006     Lex.Lex();
1007   }
1008 }
1009
1010 //===----------------------------------------------------------------------===//
1011 // GlobalValue Reference/Resolution Routines.
1012 //===----------------------------------------------------------------------===//
1013
1014 /// GetGlobalVal - Get a value with the specified name or ID, creating a
1015 /// forward reference record if needed.  This can return null if the value
1016 /// exists but does not have the right type.
1017 GlobalValue *LLParser::GetGlobalVal(const std::string &Name, Type *Ty,
1018                                     LocTy Loc) {
1019   PointerType *PTy = dyn_cast<PointerType>(Ty);
1020   if (!PTy) {
1021     Error(Loc, "global variable reference must have pointer type");
1022     return nullptr;
1023   }
1024
1025   // Look this name up in the normal function symbol table.
1026   GlobalValue *Val =
1027     cast_or_null<GlobalValue>(M->getValueSymbolTable().lookup(Name));
1028
1029   // If this is a forward reference for the value, see if we already created a
1030   // forward ref record.
1031   if (!Val) {
1032     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator
1033       I = ForwardRefVals.find(Name);
1034     if (I != ForwardRefVals.end())
1035       Val = I->second.first;
1036   }
1037
1038   // If we have the value in the symbol table or fwd-ref table, return it.
1039   if (Val) {
1040     if (Val->getType() == Ty) return Val;
1041     Error(Loc, "'@" + Name + "' defined with type '" +
1042           getTypeString(Val->getType()) + "'");
1043     return nullptr;
1044   }
1045
1046   // Otherwise, create a new forward reference for this value and remember it.
1047   GlobalValue *FwdVal;
1048   if (FunctionType *FT = dyn_cast<FunctionType>(PTy->getElementType()))
1049     FwdVal = Function::Create(FT, GlobalValue::ExternalWeakLinkage, Name, M);
1050   else
1051     FwdVal = new GlobalVariable(*M, PTy->getElementType(), false,
1052                                 GlobalValue::ExternalWeakLinkage, nullptr, Name,
1053                                 nullptr, GlobalVariable::NotThreadLocal,
1054                                 PTy->getAddressSpace());
1055
1056   ForwardRefVals[Name] = std::make_pair(FwdVal, Loc);
1057   return FwdVal;
1058 }
1059
1060 GlobalValue *LLParser::GetGlobalVal(unsigned ID, Type *Ty, LocTy Loc) {
1061   PointerType *PTy = dyn_cast<PointerType>(Ty);
1062   if (!PTy) {
1063     Error(Loc, "global variable reference must have pointer type");
1064     return nullptr;
1065   }
1066
1067   GlobalValue *Val = ID < NumberedVals.size() ? NumberedVals[ID] : nullptr;
1068
1069   // If this is a forward reference for the value, see if we already created a
1070   // forward ref record.
1071   if (!Val) {
1072     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator
1073       I = ForwardRefValIDs.find(ID);
1074     if (I != ForwardRefValIDs.end())
1075       Val = I->second.first;
1076   }
1077
1078   // If we have the value in the symbol table or fwd-ref table, return it.
1079   if (Val) {
1080     if (Val->getType() == Ty) return Val;
1081     Error(Loc, "'@" + Twine(ID) + "' defined with type '" +
1082           getTypeString(Val->getType()) + "'");
1083     return nullptr;
1084   }
1085
1086   // Otherwise, create a new forward reference for this value and remember it.
1087   GlobalValue *FwdVal;
1088   if (FunctionType *FT = dyn_cast<FunctionType>(PTy->getElementType()))
1089     FwdVal = Function::Create(FT, GlobalValue::ExternalWeakLinkage, "", M);
1090   else
1091     FwdVal = new GlobalVariable(*M, PTy->getElementType(), false,
1092                                 GlobalValue::ExternalWeakLinkage, nullptr, "");
1093
1094   ForwardRefValIDs[ID] = std::make_pair(FwdVal, Loc);
1095   return FwdVal;
1096 }
1097
1098
1099 //===----------------------------------------------------------------------===//
1100 // Comdat Reference/Resolution Routines.
1101 //===----------------------------------------------------------------------===//
1102
1103 Comdat *LLParser::getComdat(const std::string &Name, LocTy Loc) {
1104   // Look this name up in the comdat symbol table.
1105   Module::ComdatSymTabType &ComdatSymTab = M->getComdatSymbolTable();
1106   Module::ComdatSymTabType::iterator I = ComdatSymTab.find(Name);
1107   if (I != ComdatSymTab.end())
1108     return &I->second;
1109
1110   // Otherwise, create a new forward reference for this value and remember it.
1111   Comdat *C = M->getOrInsertComdat(Name);
1112   ForwardRefComdats[Name] = Loc;
1113   return C;
1114 }
1115
1116
1117 //===----------------------------------------------------------------------===//
1118 // Helper Routines.
1119 //===----------------------------------------------------------------------===//
1120
1121 /// ParseToken - If the current token has the specified kind, eat it and return
1122 /// success.  Otherwise, emit the specified error and return failure.
1123 bool LLParser::ParseToken(lltok::Kind T, const char *ErrMsg) {
1124   if (Lex.getKind() != T)
1125     return TokError(ErrMsg);
1126   Lex.Lex();
1127   return false;
1128 }
1129
1130 /// ParseStringConstant
1131 ///   ::= StringConstant
1132 bool LLParser::ParseStringConstant(std::string &Result) {
1133   if (Lex.getKind() != lltok::StringConstant)
1134     return TokError("expected string constant");
1135   Result = Lex.getStrVal();
1136   Lex.Lex();
1137   return false;
1138 }
1139
1140 /// ParseUInt32
1141 ///   ::= uint32
1142 bool LLParser::ParseUInt32(unsigned &Val) {
1143   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned())
1144     return TokError("expected integer");
1145   uint64_t Val64 = Lex.getAPSIntVal().getLimitedValue(0xFFFFFFFFULL+1);
1146   if (Val64 != unsigned(Val64))
1147     return TokError("expected 32-bit integer (too large)");
1148   Val = Val64;
1149   Lex.Lex();
1150   return false;
1151 }
1152
1153 /// ParseUInt64
1154 ///   ::= uint64
1155 bool LLParser::ParseUInt64(uint64_t &Val) {
1156   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned())
1157     return TokError("expected integer");
1158   Val = Lex.getAPSIntVal().getLimitedValue();
1159   Lex.Lex();
1160   return false;
1161 }
1162
1163 /// ParseTLSModel
1164 ///   := 'localdynamic'
1165 ///   := 'initialexec'
1166 ///   := 'localexec'
1167 bool LLParser::ParseTLSModel(GlobalVariable::ThreadLocalMode &TLM) {
1168   switch (Lex.getKind()) {
1169     default:
1170       return TokError("expected localdynamic, initialexec or localexec");
1171     case lltok::kw_localdynamic:
1172       TLM = GlobalVariable::LocalDynamicTLSModel;
1173       break;
1174     case lltok::kw_initialexec:
1175       TLM = GlobalVariable::InitialExecTLSModel;
1176       break;
1177     case lltok::kw_localexec:
1178       TLM = GlobalVariable::LocalExecTLSModel;
1179       break;
1180   }
1181
1182   Lex.Lex();
1183   return false;
1184 }
1185
1186 /// ParseOptionalThreadLocal
1187 ///   := /*empty*/
1188 ///   := 'thread_local'
1189 ///   := 'thread_local' '(' tlsmodel ')'
1190 bool LLParser::ParseOptionalThreadLocal(GlobalVariable::ThreadLocalMode &TLM) {
1191   TLM = GlobalVariable::NotThreadLocal;
1192   if (!EatIfPresent(lltok::kw_thread_local))
1193     return false;
1194
1195   TLM = GlobalVariable::GeneralDynamicTLSModel;
1196   if (Lex.getKind() == lltok::lparen) {
1197     Lex.Lex();
1198     return ParseTLSModel(TLM) ||
1199       ParseToken(lltok::rparen, "expected ')' after thread local model");
1200   }
1201   return false;
1202 }
1203
1204 /// ParseOptionalAddrSpace
1205 ///   := /*empty*/
1206 ///   := 'addrspace' '(' uint32 ')'
1207 bool LLParser::ParseOptionalAddrSpace(unsigned &AddrSpace) {
1208   AddrSpace = 0;
1209   if (!EatIfPresent(lltok::kw_addrspace))
1210     return false;
1211   return ParseToken(lltok::lparen, "expected '(' in address space") ||
1212          ParseUInt32(AddrSpace) ||
1213          ParseToken(lltok::rparen, "expected ')' in address space");
1214 }
1215
1216 /// ParseOptionalParamAttrs - Parse a potentially empty list of parameter attributes.
1217 bool LLParser::ParseOptionalParamAttrs(AttrBuilder &B) {
1218   bool HaveError = false;
1219
1220   B.clear();
1221
1222   while (1) {
1223     lltok::Kind Token = Lex.getKind();
1224     switch (Token) {
1225     default:  // End of attributes.
1226       return HaveError;
1227     case lltok::kw_align: {
1228       unsigned Alignment;
1229       if (ParseOptionalAlignment(Alignment))
1230         return true;
1231       B.addAlignmentAttr(Alignment);
1232       continue;
1233     }
1234     case lltok::kw_byval:           B.addAttribute(Attribute::ByVal); break;
1235     case lltok::kw_dereferenceable: {
1236       uint64_t Bytes;
1237       if (ParseOptionalDereferenceableBytes(Bytes))
1238         return true;
1239       B.addDereferenceableAttr(Bytes);
1240       continue;
1241     }
1242     case lltok::kw_inalloca:        B.addAttribute(Attribute::InAlloca); break;
1243     case lltok::kw_inreg:           B.addAttribute(Attribute::InReg); break;
1244     case lltok::kw_nest:            B.addAttribute(Attribute::Nest); break;
1245     case lltok::kw_noalias:         B.addAttribute(Attribute::NoAlias); break;
1246     case lltok::kw_nocapture:       B.addAttribute(Attribute::NoCapture); break;
1247     case lltok::kw_nonnull:         B.addAttribute(Attribute::NonNull); break;
1248     case lltok::kw_readnone:        B.addAttribute(Attribute::ReadNone); break;
1249     case lltok::kw_readonly:        B.addAttribute(Attribute::ReadOnly); break;
1250     case lltok::kw_returned:        B.addAttribute(Attribute::Returned); break;
1251     case lltok::kw_signext:         B.addAttribute(Attribute::SExt); break;
1252     case lltok::kw_sret:            B.addAttribute(Attribute::StructRet); break;
1253     case lltok::kw_zeroext:         B.addAttribute(Attribute::ZExt); break;
1254
1255     case lltok::kw_alignstack:
1256     case lltok::kw_alwaysinline:
1257     case lltok::kw_builtin:
1258     case lltok::kw_inlinehint:
1259     case lltok::kw_jumptable:
1260     case lltok::kw_minsize:
1261     case lltok::kw_naked:
1262     case lltok::kw_nobuiltin:
1263     case lltok::kw_noduplicate:
1264     case lltok::kw_noimplicitfloat:
1265     case lltok::kw_noinline:
1266     case lltok::kw_nonlazybind:
1267     case lltok::kw_noredzone:
1268     case lltok::kw_noreturn:
1269     case lltok::kw_nounwind:
1270     case lltok::kw_optnone:
1271     case lltok::kw_optsize:
1272     case lltok::kw_returns_twice:
1273     case lltok::kw_sanitize_address:
1274     case lltok::kw_sanitize_memory:
1275     case lltok::kw_sanitize_thread:
1276     case lltok::kw_ssp:
1277     case lltok::kw_sspreq:
1278     case lltok::kw_sspstrong:
1279     case lltok::kw_uwtable:
1280       HaveError |= Error(Lex.getLoc(), "invalid use of function-only attribute");
1281       break;
1282     }
1283
1284     Lex.Lex();
1285   }
1286 }
1287
1288 /// ParseOptionalReturnAttrs - Parse a potentially empty list of return attributes.
1289 bool LLParser::ParseOptionalReturnAttrs(AttrBuilder &B) {
1290   bool HaveError = false;
1291
1292   B.clear();
1293
1294   while (1) {
1295     lltok::Kind Token = Lex.getKind();
1296     switch (Token) {
1297     default:  // End of attributes.
1298       return HaveError;
1299     case lltok::kw_dereferenceable: {
1300       uint64_t Bytes;
1301       if (ParseOptionalDereferenceableBytes(Bytes))
1302         return true;
1303       B.addDereferenceableAttr(Bytes);
1304       continue;
1305     }
1306     case lltok::kw_inreg:           B.addAttribute(Attribute::InReg); break;
1307     case lltok::kw_noalias:         B.addAttribute(Attribute::NoAlias); break;
1308     case lltok::kw_nonnull:         B.addAttribute(Attribute::NonNull); break;
1309     case lltok::kw_signext:         B.addAttribute(Attribute::SExt); break;
1310     case lltok::kw_zeroext:         B.addAttribute(Attribute::ZExt); break;
1311
1312     // Error handling.
1313     case lltok::kw_align:
1314     case lltok::kw_byval:
1315     case lltok::kw_inalloca:
1316     case lltok::kw_nest:
1317     case lltok::kw_nocapture:
1318     case lltok::kw_returned:
1319     case lltok::kw_sret:
1320       HaveError |= Error(Lex.getLoc(), "invalid use of parameter-only attribute");
1321       break;
1322
1323     case lltok::kw_alignstack:
1324     case lltok::kw_alwaysinline:
1325     case lltok::kw_builtin:
1326     case lltok::kw_cold:
1327     case lltok::kw_inlinehint:
1328     case lltok::kw_jumptable:
1329     case lltok::kw_minsize:
1330     case lltok::kw_naked:
1331     case lltok::kw_nobuiltin:
1332     case lltok::kw_noduplicate:
1333     case lltok::kw_noimplicitfloat:
1334     case lltok::kw_noinline:
1335     case lltok::kw_nonlazybind:
1336     case lltok::kw_noredzone:
1337     case lltok::kw_noreturn:
1338     case lltok::kw_nounwind:
1339     case lltok::kw_optnone:
1340     case lltok::kw_optsize:
1341     case lltok::kw_returns_twice:
1342     case lltok::kw_sanitize_address:
1343     case lltok::kw_sanitize_memory:
1344     case lltok::kw_sanitize_thread:
1345     case lltok::kw_ssp:
1346     case lltok::kw_sspreq:
1347     case lltok::kw_sspstrong:
1348     case lltok::kw_uwtable:
1349       HaveError |= Error(Lex.getLoc(), "invalid use of function-only attribute");
1350       break;
1351
1352     case lltok::kw_readnone:
1353     case lltok::kw_readonly:
1354       HaveError |= Error(Lex.getLoc(), "invalid use of attribute on return type");
1355     }
1356
1357     Lex.Lex();
1358   }
1359 }
1360
1361 /// ParseOptionalLinkage
1362 ///   ::= /*empty*/
1363 ///   ::= 'private'
1364 ///   ::= 'internal'
1365 ///   ::= 'weak'
1366 ///   ::= 'weak_odr'
1367 ///   ::= 'linkonce'
1368 ///   ::= 'linkonce_odr'
1369 ///   ::= 'available_externally'
1370 ///   ::= 'appending'
1371 ///   ::= 'common'
1372 ///   ::= 'extern_weak'
1373 ///   ::= 'external'
1374 bool LLParser::ParseOptionalLinkage(unsigned &Res, bool &HasLinkage) {
1375   HasLinkage = false;
1376   switch (Lex.getKind()) {
1377   default:                       Res=GlobalValue::ExternalLinkage; return false;
1378   case lltok::kw_private:        Res = GlobalValue::PrivateLinkage;       break;
1379   case lltok::kw_internal:       Res = GlobalValue::InternalLinkage;      break;
1380   case lltok::kw_weak:           Res = GlobalValue::WeakAnyLinkage;       break;
1381   case lltok::kw_weak_odr:       Res = GlobalValue::WeakODRLinkage;       break;
1382   case lltok::kw_linkonce:       Res = GlobalValue::LinkOnceAnyLinkage;   break;
1383   case lltok::kw_linkonce_odr:   Res = GlobalValue::LinkOnceODRLinkage;   break;
1384   case lltok::kw_available_externally:
1385     Res = GlobalValue::AvailableExternallyLinkage;
1386     break;
1387   case lltok::kw_appending:      Res = GlobalValue::AppendingLinkage;     break;
1388   case lltok::kw_common:         Res = GlobalValue::CommonLinkage;        break;
1389   case lltok::kw_extern_weak:    Res = GlobalValue::ExternalWeakLinkage;  break;
1390   case lltok::kw_external:       Res = GlobalValue::ExternalLinkage;      break;
1391   }
1392   Lex.Lex();
1393   HasLinkage = true;
1394   return false;
1395 }
1396
1397 /// ParseOptionalVisibility
1398 ///   ::= /*empty*/
1399 ///   ::= 'default'
1400 ///   ::= 'hidden'
1401 ///   ::= 'protected'
1402 ///
1403 bool LLParser::ParseOptionalVisibility(unsigned &Res) {
1404   switch (Lex.getKind()) {
1405   default:                  Res = GlobalValue::DefaultVisibility; return false;
1406   case lltok::kw_default:   Res = GlobalValue::DefaultVisibility; break;
1407   case lltok::kw_hidden:    Res = GlobalValue::HiddenVisibility; break;
1408   case lltok::kw_protected: Res = GlobalValue::ProtectedVisibility; break;
1409   }
1410   Lex.Lex();
1411   return false;
1412 }
1413
1414 /// ParseOptionalDLLStorageClass
1415 ///   ::= /*empty*/
1416 ///   ::= 'dllimport'
1417 ///   ::= 'dllexport'
1418 ///
1419 bool LLParser::ParseOptionalDLLStorageClass(unsigned &Res) {
1420   switch (Lex.getKind()) {
1421   default:                  Res = GlobalValue::DefaultStorageClass; return false;
1422   case lltok::kw_dllimport: Res = GlobalValue::DLLImportStorageClass; break;
1423   case lltok::kw_dllexport: Res = GlobalValue::DLLExportStorageClass; break;
1424   }
1425   Lex.Lex();
1426   return false;
1427 }
1428
1429 /// ParseOptionalCallingConv
1430 ///   ::= /*empty*/
1431 ///   ::= 'ccc'
1432 ///   ::= 'fastcc'
1433 ///   ::= 'intel_ocl_bicc'
1434 ///   ::= 'coldcc'
1435 ///   ::= 'x86_stdcallcc'
1436 ///   ::= 'x86_fastcallcc'
1437 ///   ::= 'x86_thiscallcc'
1438 ///   ::= 'x86_vectorcallcc'
1439 ///   ::= 'arm_apcscc'
1440 ///   ::= 'arm_aapcscc'
1441 ///   ::= 'arm_aapcs_vfpcc'
1442 ///   ::= 'msp430_intrcc'
1443 ///   ::= 'ptx_kernel'
1444 ///   ::= 'ptx_device'
1445 ///   ::= 'spir_func'
1446 ///   ::= 'spir_kernel'
1447 ///   ::= 'x86_64_sysvcc'
1448 ///   ::= 'x86_64_win64cc'
1449 ///   ::= 'webkit_jscc'
1450 ///   ::= 'anyregcc'
1451 ///   ::= 'preserve_mostcc'
1452 ///   ::= 'preserve_allcc'
1453 ///   ::= 'ghccc'
1454 ///   ::= 'cc' UINT
1455 ///
1456 bool LLParser::ParseOptionalCallingConv(unsigned &CC) {
1457   switch (Lex.getKind()) {
1458   default:                       CC = CallingConv::C; return false;
1459   case lltok::kw_ccc:            CC = CallingConv::C; break;
1460   case lltok::kw_fastcc:         CC = CallingConv::Fast; break;
1461   case lltok::kw_coldcc:         CC = CallingConv::Cold; break;
1462   case lltok::kw_x86_stdcallcc:  CC = CallingConv::X86_StdCall; break;
1463   case lltok::kw_x86_fastcallcc: CC = CallingConv::X86_FastCall; break;
1464   case lltok::kw_x86_thiscallcc: CC = CallingConv::X86_ThisCall; break;
1465   case lltok::kw_x86_vectorcallcc:CC = CallingConv::X86_VectorCall; break;
1466   case lltok::kw_arm_apcscc:     CC = CallingConv::ARM_APCS; break;
1467   case lltok::kw_arm_aapcscc:    CC = CallingConv::ARM_AAPCS; break;
1468   case lltok::kw_arm_aapcs_vfpcc:CC = CallingConv::ARM_AAPCS_VFP; break;
1469   case lltok::kw_msp430_intrcc:  CC = CallingConv::MSP430_INTR; break;
1470   case lltok::kw_ptx_kernel:     CC = CallingConv::PTX_Kernel; break;
1471   case lltok::kw_ptx_device:     CC = CallingConv::PTX_Device; break;
1472   case lltok::kw_spir_kernel:    CC = CallingConv::SPIR_KERNEL; break;
1473   case lltok::kw_spir_func:      CC = CallingConv::SPIR_FUNC; break;
1474   case lltok::kw_intel_ocl_bicc: CC = CallingConv::Intel_OCL_BI; break;
1475   case lltok::kw_x86_64_sysvcc:  CC = CallingConv::X86_64_SysV; break;
1476   case lltok::kw_x86_64_win64cc: CC = CallingConv::X86_64_Win64; break;
1477   case lltok::kw_webkit_jscc:    CC = CallingConv::WebKit_JS; break;
1478   case lltok::kw_anyregcc:       CC = CallingConv::AnyReg; break;
1479   case lltok::kw_preserve_mostcc:CC = CallingConv::PreserveMost; break;
1480   case lltok::kw_preserve_allcc: CC = CallingConv::PreserveAll; break;
1481   case lltok::kw_ghccc:          CC = CallingConv::GHC; break;
1482   case lltok::kw_cc: {
1483       Lex.Lex();
1484       return ParseUInt32(CC);
1485     }
1486   }
1487
1488   Lex.Lex();
1489   return false;
1490 }
1491
1492 /// ParseInstructionMetadata
1493 ///   ::= !dbg !42 (',' !dbg !57)*
1494 bool LLParser::ParseInstructionMetadata(Instruction *Inst,
1495                                         PerFunctionState *PFS) {
1496   do {
1497     if (Lex.getKind() != lltok::MetadataVar)
1498       return TokError("expected metadata after comma");
1499
1500     std::string Name = Lex.getStrVal();
1501     unsigned MDK = M->getMDKindID(Name);
1502     Lex.Lex();
1503
1504     if (ParseToken(lltok::exclaim, "expected '!' here"))
1505       return true;
1506
1507     // This code is similar to that of ParseMetadata.  However, only MDNodes
1508     // are supported here.
1509     if (Lex.getKind() == lltok::lbrace) {
1510       MDNode *N;
1511       if (ParseMDNode(N))
1512         return true;
1513       Inst->setMetadata(MDK, N);
1514     } else {
1515       MDNode *Node;
1516       if (ParseMDNodeID(Node))
1517         return true;
1518       // If we got the node, add it to the instruction.
1519       Inst->setMetadata(MDK, Node);
1520     }
1521
1522     if (MDK == LLVMContext::MD_tbaa)
1523       InstsWithTBAATag.push_back(Inst);
1524
1525     // If this is the end of the list, we're done.
1526   } while (EatIfPresent(lltok::comma));
1527   return false;
1528 }
1529
1530 /// ParseOptionalAlignment
1531 ///   ::= /* empty */
1532 ///   ::= 'align' 4
1533 bool LLParser::ParseOptionalAlignment(unsigned &Alignment) {
1534   Alignment = 0;
1535   if (!EatIfPresent(lltok::kw_align))
1536     return false;
1537   LocTy AlignLoc = Lex.getLoc();
1538   if (ParseUInt32(Alignment)) return true;
1539   if (!isPowerOf2_32(Alignment))
1540     return Error(AlignLoc, "alignment is not a power of two");
1541   if (Alignment > Value::MaximumAlignment)
1542     return Error(AlignLoc, "huge alignments are not supported yet");
1543   return false;
1544 }
1545
1546 /// ParseOptionalDereferenceableBytes
1547 ///   ::= /* empty */
1548 ///   ::= 'dereferenceable' '(' 4 ')'
1549 bool LLParser::ParseOptionalDereferenceableBytes(uint64_t &Bytes) {
1550   Bytes = 0;
1551   if (!EatIfPresent(lltok::kw_dereferenceable))
1552     return false;
1553   LocTy ParenLoc = Lex.getLoc();
1554   if (!EatIfPresent(lltok::lparen))
1555     return Error(ParenLoc, "expected '('");
1556   LocTy DerefLoc = Lex.getLoc();
1557   if (ParseUInt64(Bytes)) return true;
1558   ParenLoc = Lex.getLoc();
1559   if (!EatIfPresent(lltok::rparen))
1560     return Error(ParenLoc, "expected ')'");
1561   if (!Bytes)
1562     return Error(DerefLoc, "dereferenceable bytes must be non-zero");
1563   return false;
1564 }
1565
1566 /// ParseOptionalCommaAlign
1567 ///   ::=
1568 ///   ::= ',' align 4
1569 ///
1570 /// This returns with AteExtraComma set to true if it ate an excess comma at the
1571 /// end.
1572 bool LLParser::ParseOptionalCommaAlign(unsigned &Alignment,
1573                                        bool &AteExtraComma) {
1574   AteExtraComma = false;
1575   while (EatIfPresent(lltok::comma)) {
1576     // Metadata at the end is an early exit.
1577     if (Lex.getKind() == lltok::MetadataVar) {
1578       AteExtraComma = true;
1579       return false;
1580     }
1581
1582     if (Lex.getKind() != lltok::kw_align)
1583       return Error(Lex.getLoc(), "expected metadata or 'align'");
1584
1585     if (ParseOptionalAlignment(Alignment)) return true;
1586   }
1587
1588   return false;
1589 }
1590
1591 /// ParseScopeAndOrdering
1592 ///   if isAtomic: ::= 'singlethread'? AtomicOrdering
1593 ///   else: ::=
1594 ///
1595 /// This sets Scope and Ordering to the parsed values.
1596 bool LLParser::ParseScopeAndOrdering(bool isAtomic, SynchronizationScope &Scope,
1597                                      AtomicOrdering &Ordering) {
1598   if (!isAtomic)
1599     return false;
1600
1601   Scope = CrossThread;
1602   if (EatIfPresent(lltok::kw_singlethread))
1603     Scope = SingleThread;
1604
1605   return ParseOrdering(Ordering);
1606 }
1607
1608 /// ParseOrdering
1609 ///   ::= AtomicOrdering
1610 ///
1611 /// This sets Ordering to the parsed value.
1612 bool LLParser::ParseOrdering(AtomicOrdering &Ordering) {
1613   switch (Lex.getKind()) {
1614   default: return TokError("Expected ordering on atomic instruction");
1615   case lltok::kw_unordered: Ordering = Unordered; break;
1616   case lltok::kw_monotonic: Ordering = Monotonic; break;
1617   case lltok::kw_acquire: Ordering = Acquire; break;
1618   case lltok::kw_release: Ordering = Release; break;
1619   case lltok::kw_acq_rel: Ordering = AcquireRelease; break;
1620   case lltok::kw_seq_cst: Ordering = SequentiallyConsistent; break;
1621   }
1622   Lex.Lex();
1623   return false;
1624 }
1625
1626 /// ParseOptionalStackAlignment
1627 ///   ::= /* empty */
1628 ///   ::= 'alignstack' '(' 4 ')'
1629 bool LLParser::ParseOptionalStackAlignment(unsigned &Alignment) {
1630   Alignment = 0;
1631   if (!EatIfPresent(lltok::kw_alignstack))
1632     return false;
1633   LocTy ParenLoc = Lex.getLoc();
1634   if (!EatIfPresent(lltok::lparen))
1635     return Error(ParenLoc, "expected '('");
1636   LocTy AlignLoc = Lex.getLoc();
1637   if (ParseUInt32(Alignment)) return true;
1638   ParenLoc = Lex.getLoc();
1639   if (!EatIfPresent(lltok::rparen))
1640     return Error(ParenLoc, "expected ')'");
1641   if (!isPowerOf2_32(Alignment))
1642     return Error(AlignLoc, "stack alignment is not a power of two");
1643   return false;
1644 }
1645
1646 /// ParseIndexList - This parses the index list for an insert/extractvalue
1647 /// instruction.  This sets AteExtraComma in the case where we eat an extra
1648 /// comma at the end of the line and find that it is followed by metadata.
1649 /// Clients that don't allow metadata can call the version of this function that
1650 /// only takes one argument.
1651 ///
1652 /// ParseIndexList
1653 ///    ::=  (',' uint32)+
1654 ///
1655 bool LLParser::ParseIndexList(SmallVectorImpl<unsigned> &Indices,
1656                               bool &AteExtraComma) {
1657   AteExtraComma = false;
1658
1659   if (Lex.getKind() != lltok::comma)
1660     return TokError("expected ',' as start of index list");
1661
1662   while (EatIfPresent(lltok::comma)) {
1663     if (Lex.getKind() == lltok::MetadataVar) {
1664       AteExtraComma = true;
1665       return false;
1666     }
1667     unsigned Idx = 0;
1668     if (ParseUInt32(Idx)) return true;
1669     Indices.push_back(Idx);
1670   }
1671
1672   return false;
1673 }
1674
1675 //===----------------------------------------------------------------------===//
1676 // Type Parsing.
1677 //===----------------------------------------------------------------------===//
1678
1679 /// ParseType - Parse a type.
1680 bool LLParser::ParseType(Type *&Result, const Twine &Msg, bool AllowVoid) {
1681   SMLoc TypeLoc = Lex.getLoc();
1682   switch (Lex.getKind()) {
1683   default:
1684     return TokError(Msg);
1685   case lltok::Type:
1686     // Type ::= 'float' | 'void' (etc)
1687     Result = Lex.getTyVal();
1688     Lex.Lex();
1689     break;
1690   case lltok::lbrace:
1691     // Type ::= StructType
1692     if (ParseAnonStructType(Result, false))
1693       return true;
1694     break;
1695   case lltok::lsquare:
1696     // Type ::= '[' ... ']'
1697     Lex.Lex(); // eat the lsquare.
1698     if (ParseArrayVectorType(Result, false))
1699       return true;
1700     break;
1701   case lltok::less: // Either vector or packed struct.
1702     // Type ::= '<' ... '>'
1703     Lex.Lex();
1704     if (Lex.getKind() == lltok::lbrace) {
1705       if (ParseAnonStructType(Result, true) ||
1706           ParseToken(lltok::greater, "expected '>' at end of packed struct"))
1707         return true;
1708     } else if (ParseArrayVectorType(Result, true))
1709       return true;
1710     break;
1711   case lltok::LocalVar: {
1712     // Type ::= %foo
1713     std::pair<Type*, LocTy> &Entry = NamedTypes[Lex.getStrVal()];
1714
1715     // If the type hasn't been defined yet, create a forward definition and
1716     // remember where that forward def'n was seen (in case it never is defined).
1717     if (!Entry.first) {
1718       Entry.first = StructType::create(Context, Lex.getStrVal());
1719       Entry.second = Lex.getLoc();
1720     }
1721     Result = Entry.first;
1722     Lex.Lex();
1723     break;
1724   }
1725
1726   case lltok::LocalVarID: {
1727     // Type ::= %4
1728     if (Lex.getUIntVal() >= NumberedTypes.size())
1729       NumberedTypes.resize(Lex.getUIntVal()+1);
1730     std::pair<Type*, LocTy> &Entry = NumberedTypes[Lex.getUIntVal()];
1731
1732     // If the type hasn't been defined yet, create a forward definition and
1733     // remember where that forward def'n was seen (in case it never is defined).
1734     if (!Entry.first) {
1735       Entry.first = StructType::create(Context);
1736       Entry.second = Lex.getLoc();
1737     }
1738     Result = Entry.first;
1739     Lex.Lex();
1740     break;
1741   }
1742   }
1743
1744   // Parse the type suffixes.
1745   while (1) {
1746     switch (Lex.getKind()) {
1747     // End of type.
1748     default:
1749       if (!AllowVoid && Result->isVoidTy())
1750         return Error(TypeLoc, "void type only allowed for function results");
1751       return false;
1752
1753     // Type ::= Type '*'
1754     case lltok::star:
1755       if (Result->isLabelTy())
1756         return TokError("basic block pointers are invalid");
1757       if (Result->isVoidTy())
1758         return TokError("pointers to void are invalid - use i8* instead");
1759       if (!PointerType::isValidElementType(Result))
1760         return TokError("pointer to this type is invalid");
1761       Result = PointerType::getUnqual(Result);
1762       Lex.Lex();
1763       break;
1764
1765     // Type ::= Type 'addrspace' '(' uint32 ')' '*'
1766     case lltok::kw_addrspace: {
1767       if (Result->isLabelTy())
1768         return TokError("basic block pointers are invalid");
1769       if (Result->isVoidTy())
1770         return TokError("pointers to void are invalid; use i8* instead");
1771       if (!PointerType::isValidElementType(Result))
1772         return TokError("pointer to this type is invalid");
1773       unsigned AddrSpace;
1774       if (ParseOptionalAddrSpace(AddrSpace) ||
1775           ParseToken(lltok::star, "expected '*' in address space"))
1776         return true;
1777
1778       Result = PointerType::get(Result, AddrSpace);
1779       break;
1780     }
1781
1782     /// Types '(' ArgTypeListI ')' OptFuncAttrs
1783     case lltok::lparen:
1784       if (ParseFunctionType(Result))
1785         return true;
1786       break;
1787     }
1788   }
1789 }
1790
1791 /// ParseParameterList
1792 ///    ::= '(' ')'
1793 ///    ::= '(' Arg (',' Arg)* ')'
1794 ///  Arg
1795 ///    ::= Type OptionalAttributes Value OptionalAttributes
1796 bool LLParser::ParseParameterList(SmallVectorImpl<ParamInfo> &ArgList,
1797                                   PerFunctionState &PFS, bool IsMustTailCall,
1798                                   bool InVarArgsFunc) {
1799   if (ParseToken(lltok::lparen, "expected '(' in call"))
1800     return true;
1801
1802   unsigned AttrIndex = 1;
1803   while (Lex.getKind() != lltok::rparen) {
1804     // If this isn't the first argument, we need a comma.
1805     if (!ArgList.empty() &&
1806         ParseToken(lltok::comma, "expected ',' in argument list"))
1807       return true;
1808
1809     // Parse an ellipsis if this is a musttail call in a variadic function.
1810     if (Lex.getKind() == lltok::dotdotdot) {
1811       const char *Msg = "unexpected ellipsis in argument list for ";
1812       if (!IsMustTailCall)
1813         return TokError(Twine(Msg) + "non-musttail call");
1814       if (!InVarArgsFunc)
1815         return TokError(Twine(Msg) + "musttail call in non-varargs function");
1816       Lex.Lex();  // Lex the '...', it is purely for readability.
1817       return ParseToken(lltok::rparen, "expected ')' at end of argument list");
1818     }
1819
1820     // Parse the argument.
1821     LocTy ArgLoc;
1822     Type *ArgTy = nullptr;
1823     AttrBuilder ArgAttrs;
1824     Value *V;
1825     if (ParseType(ArgTy, ArgLoc))
1826       return true;
1827
1828     if (ArgTy->isMetadataTy()) {
1829       if (ParseMetadataAsValue(V, PFS))
1830         return true;
1831     } else {
1832       // Otherwise, handle normal operands.
1833       if (ParseOptionalParamAttrs(ArgAttrs) || ParseValue(ArgTy, V, PFS))
1834         return true;
1835     }
1836     ArgList.push_back(ParamInfo(ArgLoc, V, AttributeSet::get(V->getContext(),
1837                                                              AttrIndex++,
1838                                                              ArgAttrs)));
1839   }
1840
1841   if (IsMustTailCall && InVarArgsFunc)
1842     return TokError("expected '...' at end of argument list for musttail call "
1843                     "in varargs function");
1844
1845   Lex.Lex();  // Lex the ')'.
1846   return false;
1847 }
1848
1849
1850
1851 /// ParseArgumentList - Parse the argument list for a function type or function
1852 /// prototype.
1853 ///   ::= '(' ArgTypeListI ')'
1854 /// ArgTypeListI
1855 ///   ::= /*empty*/
1856 ///   ::= '...'
1857 ///   ::= ArgTypeList ',' '...'
1858 ///   ::= ArgType (',' ArgType)*
1859 ///
1860 bool LLParser::ParseArgumentList(SmallVectorImpl<ArgInfo> &ArgList,
1861                                  bool &isVarArg){
1862   isVarArg = false;
1863   assert(Lex.getKind() == lltok::lparen);
1864   Lex.Lex(); // eat the (.
1865
1866   if (Lex.getKind() == lltok::rparen) {
1867     // empty
1868   } else if (Lex.getKind() == lltok::dotdotdot) {
1869     isVarArg = true;
1870     Lex.Lex();
1871   } else {
1872     LocTy TypeLoc = Lex.getLoc();
1873     Type *ArgTy = nullptr;
1874     AttrBuilder Attrs;
1875     std::string Name;
1876
1877     if (ParseType(ArgTy) ||
1878         ParseOptionalParamAttrs(Attrs)) return true;
1879
1880     if (ArgTy->isVoidTy())
1881       return Error(TypeLoc, "argument can not have void type");
1882
1883     if (Lex.getKind() == lltok::LocalVar) {
1884       Name = Lex.getStrVal();
1885       Lex.Lex();
1886     }
1887
1888     if (!FunctionType::isValidArgumentType(ArgTy))
1889       return Error(TypeLoc, "invalid type for function argument");
1890
1891     unsigned AttrIndex = 1;
1892     ArgList.push_back(ArgInfo(TypeLoc, ArgTy,
1893                               AttributeSet::get(ArgTy->getContext(),
1894                                                 AttrIndex++, Attrs), Name));
1895
1896     while (EatIfPresent(lltok::comma)) {
1897       // Handle ... at end of arg list.
1898       if (EatIfPresent(lltok::dotdotdot)) {
1899         isVarArg = true;
1900         break;
1901       }
1902
1903       // Otherwise must be an argument type.
1904       TypeLoc = Lex.getLoc();
1905       if (ParseType(ArgTy) || ParseOptionalParamAttrs(Attrs)) return true;
1906
1907       if (ArgTy->isVoidTy())
1908         return Error(TypeLoc, "argument can not have void type");
1909
1910       if (Lex.getKind() == lltok::LocalVar) {
1911         Name = Lex.getStrVal();
1912         Lex.Lex();
1913       } else {
1914         Name = "";
1915       }
1916
1917       if (!ArgTy->isFirstClassType())
1918         return Error(TypeLoc, "invalid type for function argument");
1919
1920       ArgList.push_back(ArgInfo(TypeLoc, ArgTy,
1921                                 AttributeSet::get(ArgTy->getContext(),
1922                                                   AttrIndex++, Attrs),
1923                                 Name));
1924     }
1925   }
1926
1927   return ParseToken(lltok::rparen, "expected ')' at end of argument list");
1928 }
1929
1930 /// ParseFunctionType
1931 ///  ::= Type ArgumentList OptionalAttrs
1932 bool LLParser::ParseFunctionType(Type *&Result) {
1933   assert(Lex.getKind() == lltok::lparen);
1934
1935   if (!FunctionType::isValidReturnType(Result))
1936     return TokError("invalid function return type");
1937
1938   SmallVector<ArgInfo, 8> ArgList;
1939   bool isVarArg;
1940   if (ParseArgumentList(ArgList, isVarArg))
1941     return true;
1942
1943   // Reject names on the arguments lists.
1944   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
1945     if (!ArgList[i].Name.empty())
1946       return Error(ArgList[i].Loc, "argument name invalid in function type");
1947     if (ArgList[i].Attrs.hasAttributes(i + 1))
1948       return Error(ArgList[i].Loc,
1949                    "argument attributes invalid in function type");
1950   }
1951
1952   SmallVector<Type*, 16> ArgListTy;
1953   for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
1954     ArgListTy.push_back(ArgList[i].Ty);
1955
1956   Result = FunctionType::get(Result, ArgListTy, isVarArg);
1957   return false;
1958 }
1959
1960 /// ParseAnonStructType - Parse an anonymous struct type, which is inlined into
1961 /// other structs.
1962 bool LLParser::ParseAnonStructType(Type *&Result, bool Packed) {
1963   SmallVector<Type*, 8> Elts;
1964   if (ParseStructBody(Elts)) return true;
1965
1966   Result = StructType::get(Context, Elts, Packed);
1967   return false;
1968 }
1969
1970 /// ParseStructDefinition - Parse a struct in a 'type' definition.
1971 bool LLParser::ParseStructDefinition(SMLoc TypeLoc, StringRef Name,
1972                                      std::pair<Type*, LocTy> &Entry,
1973                                      Type *&ResultTy) {
1974   // If the type was already defined, diagnose the redefinition.
1975   if (Entry.first && !Entry.second.isValid())
1976     return Error(TypeLoc, "redefinition of type");
1977
1978   // If we have opaque, just return without filling in the definition for the
1979   // struct.  This counts as a definition as far as the .ll file goes.
1980   if (EatIfPresent(lltok::kw_opaque)) {
1981     // This type is being defined, so clear the location to indicate this.
1982     Entry.second = SMLoc();
1983
1984     // If this type number has never been uttered, create it.
1985     if (!Entry.first)
1986       Entry.first = StructType::create(Context, Name);
1987     ResultTy = Entry.first;
1988     return false;
1989   }
1990
1991   // If the type starts with '<', then it is either a packed struct or a vector.
1992   bool isPacked = EatIfPresent(lltok::less);
1993
1994   // If we don't have a struct, then we have a random type alias, which we
1995   // accept for compatibility with old files.  These types are not allowed to be
1996   // forward referenced and not allowed to be recursive.
1997   if (Lex.getKind() != lltok::lbrace) {
1998     if (Entry.first)
1999       return Error(TypeLoc, "forward references to non-struct type");
2000
2001     ResultTy = nullptr;
2002     if (isPacked)
2003       return ParseArrayVectorType(ResultTy, true);
2004     return ParseType(ResultTy);
2005   }
2006
2007   // This type is being defined, so clear the location to indicate this.
2008   Entry.second = SMLoc();
2009
2010   // If this type number has never been uttered, create it.
2011   if (!Entry.first)
2012     Entry.first = StructType::create(Context, Name);
2013
2014   StructType *STy = cast<StructType>(Entry.first);
2015
2016   SmallVector<Type*, 8> Body;
2017   if (ParseStructBody(Body) ||
2018       (isPacked && ParseToken(lltok::greater, "expected '>' in packed struct")))
2019     return true;
2020
2021   STy->setBody(Body, isPacked);
2022   ResultTy = STy;
2023   return false;
2024 }
2025
2026
2027 /// ParseStructType: Handles packed and unpacked types.  </> parsed elsewhere.
2028 ///   StructType
2029 ///     ::= '{' '}'
2030 ///     ::= '{' Type (',' Type)* '}'
2031 ///     ::= '<' '{' '}' '>'
2032 ///     ::= '<' '{' Type (',' Type)* '}' '>'
2033 bool LLParser::ParseStructBody(SmallVectorImpl<Type*> &Body) {
2034   assert(Lex.getKind() == lltok::lbrace);
2035   Lex.Lex(); // Consume the '{'
2036
2037   // Handle the empty struct.
2038   if (EatIfPresent(lltok::rbrace))
2039     return false;
2040
2041   LocTy EltTyLoc = Lex.getLoc();
2042   Type *Ty = nullptr;
2043   if (ParseType(Ty)) return true;
2044   Body.push_back(Ty);
2045
2046   if (!StructType::isValidElementType(Ty))
2047     return Error(EltTyLoc, "invalid element type for struct");
2048
2049   while (EatIfPresent(lltok::comma)) {
2050     EltTyLoc = Lex.getLoc();
2051     if (ParseType(Ty)) return true;
2052
2053     if (!StructType::isValidElementType(Ty))
2054       return Error(EltTyLoc, "invalid element type for struct");
2055
2056     Body.push_back(Ty);
2057   }
2058
2059   return ParseToken(lltok::rbrace, "expected '}' at end of struct");
2060 }
2061
2062 /// ParseArrayVectorType - Parse an array or vector type, assuming the first
2063 /// token has already been consumed.
2064 ///   Type
2065 ///     ::= '[' APSINTVAL 'x' Types ']'
2066 ///     ::= '<' APSINTVAL 'x' Types '>'
2067 bool LLParser::ParseArrayVectorType(Type *&Result, bool isVector) {
2068   if (Lex.getKind() != lltok::APSInt || Lex.getAPSIntVal().isSigned() ||
2069       Lex.getAPSIntVal().getBitWidth() > 64)
2070     return TokError("expected number in address space");
2071
2072   LocTy SizeLoc = Lex.getLoc();
2073   uint64_t Size = Lex.getAPSIntVal().getZExtValue();
2074   Lex.Lex();
2075
2076   if (ParseToken(lltok::kw_x, "expected 'x' after element count"))
2077       return true;
2078
2079   LocTy TypeLoc = Lex.getLoc();
2080   Type *EltTy = nullptr;
2081   if (ParseType(EltTy)) return true;
2082
2083   if (ParseToken(isVector ? lltok::greater : lltok::rsquare,
2084                  "expected end of sequential type"))
2085     return true;
2086
2087   if (isVector) {
2088     if (Size == 0)
2089       return Error(SizeLoc, "zero element vector is illegal");
2090     if ((unsigned)Size != Size)
2091       return Error(SizeLoc, "size too large for vector");
2092     if (!VectorType::isValidElementType(EltTy))
2093       return Error(TypeLoc, "invalid vector element type");
2094     Result = VectorType::get(EltTy, unsigned(Size));
2095   } else {
2096     if (!ArrayType::isValidElementType(EltTy))
2097       return Error(TypeLoc, "invalid array element type");
2098     Result = ArrayType::get(EltTy, Size);
2099   }
2100   return false;
2101 }
2102
2103 //===----------------------------------------------------------------------===//
2104 // Function Semantic Analysis.
2105 //===----------------------------------------------------------------------===//
2106
2107 LLParser::PerFunctionState::PerFunctionState(LLParser &p, Function &f,
2108                                              int functionNumber)
2109   : P(p), F(f), FunctionNumber(functionNumber) {
2110
2111   // Insert unnamed arguments into the NumberedVals list.
2112   for (Function::arg_iterator AI = F.arg_begin(), E = F.arg_end();
2113        AI != E; ++AI)
2114     if (!AI->hasName())
2115       NumberedVals.push_back(AI);
2116 }
2117
2118 LLParser::PerFunctionState::~PerFunctionState() {
2119   // If there were any forward referenced non-basicblock values, delete them.
2120   for (std::map<std::string, std::pair<Value*, LocTy> >::iterator
2121        I = ForwardRefVals.begin(), E = ForwardRefVals.end(); I != E; ++I)
2122     if (!isa<BasicBlock>(I->second.first)) {
2123       I->second.first->replaceAllUsesWith(
2124                            UndefValue::get(I->second.first->getType()));
2125       delete I->second.first;
2126       I->second.first = nullptr;
2127     }
2128
2129   for (std::map<unsigned, std::pair<Value*, LocTy> >::iterator
2130        I = ForwardRefValIDs.begin(), E = ForwardRefValIDs.end(); I != E; ++I)
2131     if (!isa<BasicBlock>(I->second.first)) {
2132       I->second.first->replaceAllUsesWith(
2133                            UndefValue::get(I->second.first->getType()));
2134       delete I->second.first;
2135       I->second.first = nullptr;
2136     }
2137 }
2138
2139 bool LLParser::PerFunctionState::FinishFunction() {
2140   if (!ForwardRefVals.empty())
2141     return P.Error(ForwardRefVals.begin()->second.second,
2142                    "use of undefined value '%" + ForwardRefVals.begin()->first +
2143                    "'");
2144   if (!ForwardRefValIDs.empty())
2145     return P.Error(ForwardRefValIDs.begin()->second.second,
2146                    "use of undefined value '%" +
2147                    Twine(ForwardRefValIDs.begin()->first) + "'");
2148   return false;
2149 }
2150
2151
2152 /// GetVal - Get a value with the specified name or ID, creating a
2153 /// forward reference record if needed.  This can return null if the value
2154 /// exists but does not have the right type.
2155 Value *LLParser::PerFunctionState::GetVal(const std::string &Name,
2156                                           Type *Ty, LocTy Loc) {
2157   // Look this name up in the normal function symbol table.
2158   Value *Val = F.getValueSymbolTable().lookup(Name);
2159
2160   // If this is a forward reference for the value, see if we already created a
2161   // forward ref record.
2162   if (!Val) {
2163     std::map<std::string, std::pair<Value*, LocTy> >::iterator
2164       I = ForwardRefVals.find(Name);
2165     if (I != ForwardRefVals.end())
2166       Val = I->second.first;
2167   }
2168
2169   // If we have the value in the symbol table or fwd-ref table, return it.
2170   if (Val) {
2171     if (Val->getType() == Ty) return Val;
2172     if (Ty->isLabelTy())
2173       P.Error(Loc, "'%" + Name + "' is not a basic block");
2174     else
2175       P.Error(Loc, "'%" + Name + "' defined with type '" +
2176               getTypeString(Val->getType()) + "'");
2177     return nullptr;
2178   }
2179
2180   // Don't make placeholders with invalid type.
2181   if (!Ty->isFirstClassType()) {
2182     P.Error(Loc, "invalid use of a non-first-class type");
2183     return nullptr;
2184   }
2185
2186   // Otherwise, create a new forward reference for this value and remember it.
2187   Value *FwdVal;
2188   if (Ty->isLabelTy())
2189     FwdVal = BasicBlock::Create(F.getContext(), Name, &F);
2190   else
2191     FwdVal = new Argument(Ty, Name);
2192
2193   ForwardRefVals[Name] = std::make_pair(FwdVal, Loc);
2194   return FwdVal;
2195 }
2196
2197 Value *LLParser::PerFunctionState::GetVal(unsigned ID, Type *Ty,
2198                                           LocTy Loc) {
2199   // Look this name up in the normal function symbol table.
2200   Value *Val = ID < NumberedVals.size() ? NumberedVals[ID] : nullptr;
2201
2202   // If this is a forward reference for the value, see if we already created a
2203   // forward ref record.
2204   if (!Val) {
2205     std::map<unsigned, std::pair<Value*, LocTy> >::iterator
2206       I = ForwardRefValIDs.find(ID);
2207     if (I != ForwardRefValIDs.end())
2208       Val = I->second.first;
2209   }
2210
2211   // If we have the value in the symbol table or fwd-ref table, return it.
2212   if (Val) {
2213     if (Val->getType() == Ty) return Val;
2214     if (Ty->isLabelTy())
2215       P.Error(Loc, "'%" + Twine(ID) + "' is not a basic block");
2216     else
2217       P.Error(Loc, "'%" + Twine(ID) + "' defined with type '" +
2218               getTypeString(Val->getType()) + "'");
2219     return nullptr;
2220   }
2221
2222   if (!Ty->isFirstClassType()) {
2223     P.Error(Loc, "invalid use of a non-first-class type");
2224     return nullptr;
2225   }
2226
2227   // Otherwise, create a new forward reference for this value and remember it.
2228   Value *FwdVal;
2229   if (Ty->isLabelTy())
2230     FwdVal = BasicBlock::Create(F.getContext(), "", &F);
2231   else
2232     FwdVal = new Argument(Ty);
2233
2234   ForwardRefValIDs[ID] = std::make_pair(FwdVal, Loc);
2235   return FwdVal;
2236 }
2237
2238 /// SetInstName - After an instruction is parsed and inserted into its
2239 /// basic block, this installs its name.
2240 bool LLParser::PerFunctionState::SetInstName(int NameID,
2241                                              const std::string &NameStr,
2242                                              LocTy NameLoc, Instruction *Inst) {
2243   // If this instruction has void type, it cannot have a name or ID specified.
2244   if (Inst->getType()->isVoidTy()) {
2245     if (NameID != -1 || !NameStr.empty())
2246       return P.Error(NameLoc, "instructions returning void cannot have a name");
2247     return false;
2248   }
2249
2250   // If this was a numbered instruction, verify that the instruction is the
2251   // expected value and resolve any forward references.
2252   if (NameStr.empty()) {
2253     // If neither a name nor an ID was specified, just use the next ID.
2254     if (NameID == -1)
2255       NameID = NumberedVals.size();
2256
2257     if (unsigned(NameID) != NumberedVals.size())
2258       return P.Error(NameLoc, "instruction expected to be numbered '%" +
2259                      Twine(NumberedVals.size()) + "'");
2260
2261     std::map<unsigned, std::pair<Value*, LocTy> >::iterator FI =
2262       ForwardRefValIDs.find(NameID);
2263     if (FI != ForwardRefValIDs.end()) {
2264       if (FI->second.first->getType() != Inst->getType())
2265         return P.Error(NameLoc, "instruction forward referenced with type '" +
2266                        getTypeString(FI->second.first->getType()) + "'");
2267       FI->second.first->replaceAllUsesWith(Inst);
2268       delete FI->second.first;
2269       ForwardRefValIDs.erase(FI);
2270     }
2271
2272     NumberedVals.push_back(Inst);
2273     return false;
2274   }
2275
2276   // Otherwise, the instruction had a name.  Resolve forward refs and set it.
2277   std::map<std::string, std::pair<Value*, LocTy> >::iterator
2278     FI = ForwardRefVals.find(NameStr);
2279   if (FI != ForwardRefVals.end()) {
2280     if (FI->second.first->getType() != Inst->getType())
2281       return P.Error(NameLoc, "instruction forward referenced with type '" +
2282                      getTypeString(FI->second.first->getType()) + "'");
2283     FI->second.first->replaceAllUsesWith(Inst);
2284     delete FI->second.first;
2285     ForwardRefVals.erase(FI);
2286   }
2287
2288   // Set the name on the instruction.
2289   Inst->setName(NameStr);
2290
2291   if (Inst->getName() != NameStr)
2292     return P.Error(NameLoc, "multiple definition of local value named '" +
2293                    NameStr + "'");
2294   return false;
2295 }
2296
2297 /// GetBB - Get a basic block with the specified name or ID, creating a
2298 /// forward reference record if needed.
2299 BasicBlock *LLParser::PerFunctionState::GetBB(const std::string &Name,
2300                                               LocTy Loc) {
2301   return cast_or_null<BasicBlock>(GetVal(Name,
2302                                         Type::getLabelTy(F.getContext()), Loc));
2303 }
2304
2305 BasicBlock *LLParser::PerFunctionState::GetBB(unsigned ID, LocTy Loc) {
2306   return cast_or_null<BasicBlock>(GetVal(ID,
2307                                         Type::getLabelTy(F.getContext()), Loc));
2308 }
2309
2310 /// DefineBB - Define the specified basic block, which is either named or
2311 /// unnamed.  If there is an error, this returns null otherwise it returns
2312 /// the block being defined.
2313 BasicBlock *LLParser::PerFunctionState::DefineBB(const std::string &Name,
2314                                                  LocTy Loc) {
2315   BasicBlock *BB;
2316   if (Name.empty())
2317     BB = GetBB(NumberedVals.size(), Loc);
2318   else
2319     BB = GetBB(Name, Loc);
2320   if (!BB) return nullptr; // Already diagnosed error.
2321
2322   // Move the block to the end of the function.  Forward ref'd blocks are
2323   // inserted wherever they happen to be referenced.
2324   F.getBasicBlockList().splice(F.end(), F.getBasicBlockList(), BB);
2325
2326   // Remove the block from forward ref sets.
2327   if (Name.empty()) {
2328     ForwardRefValIDs.erase(NumberedVals.size());
2329     NumberedVals.push_back(BB);
2330   } else {
2331     // BB forward references are already in the function symbol table.
2332     ForwardRefVals.erase(Name);
2333   }
2334
2335   return BB;
2336 }
2337
2338 //===----------------------------------------------------------------------===//
2339 // Constants.
2340 //===----------------------------------------------------------------------===//
2341
2342 /// ParseValID - Parse an abstract value that doesn't necessarily have a
2343 /// type implied.  For example, if we parse "4" we don't know what integer type
2344 /// it has.  The value will later be combined with its type and checked for
2345 /// sanity.  PFS is used to convert function-local operands of metadata (since
2346 /// metadata operands are not just parsed here but also converted to values).
2347 /// PFS can be null when we are not parsing metadata values inside a function.
2348 bool LLParser::ParseValID(ValID &ID, PerFunctionState *PFS) {
2349   ID.Loc = Lex.getLoc();
2350   switch (Lex.getKind()) {
2351   default: return TokError("expected value token");
2352   case lltok::GlobalID:  // @42
2353     ID.UIntVal = Lex.getUIntVal();
2354     ID.Kind = ValID::t_GlobalID;
2355     break;
2356   case lltok::GlobalVar:  // @foo
2357     ID.StrVal = Lex.getStrVal();
2358     ID.Kind = ValID::t_GlobalName;
2359     break;
2360   case lltok::LocalVarID:  // %42
2361     ID.UIntVal = Lex.getUIntVal();
2362     ID.Kind = ValID::t_LocalID;
2363     break;
2364   case lltok::LocalVar:  // %foo
2365     ID.StrVal = Lex.getStrVal();
2366     ID.Kind = ValID::t_LocalName;
2367     break;
2368   case lltok::APSInt:
2369     ID.APSIntVal = Lex.getAPSIntVal();
2370     ID.Kind = ValID::t_APSInt;
2371     break;
2372   case lltok::APFloat:
2373     ID.APFloatVal = Lex.getAPFloatVal();
2374     ID.Kind = ValID::t_APFloat;
2375     break;
2376   case lltok::kw_true:
2377     ID.ConstantVal = ConstantInt::getTrue(Context);
2378     ID.Kind = ValID::t_Constant;
2379     break;
2380   case lltok::kw_false:
2381     ID.ConstantVal = ConstantInt::getFalse(Context);
2382     ID.Kind = ValID::t_Constant;
2383     break;
2384   case lltok::kw_null: ID.Kind = ValID::t_Null; break;
2385   case lltok::kw_undef: ID.Kind = ValID::t_Undef; break;
2386   case lltok::kw_zeroinitializer: ID.Kind = ValID::t_Zero; break;
2387
2388   case lltok::lbrace: {
2389     // ValID ::= '{' ConstVector '}'
2390     Lex.Lex();
2391     SmallVector<Constant*, 16> Elts;
2392     if (ParseGlobalValueVector(Elts) ||
2393         ParseToken(lltok::rbrace, "expected end of struct constant"))
2394       return true;
2395
2396     ID.ConstantStructElts = new Constant*[Elts.size()];
2397     ID.UIntVal = Elts.size();
2398     memcpy(ID.ConstantStructElts, Elts.data(), Elts.size()*sizeof(Elts[0]));
2399     ID.Kind = ValID::t_ConstantStruct;
2400     return false;
2401   }
2402   case lltok::less: {
2403     // ValID ::= '<' ConstVector '>'         --> Vector.
2404     // ValID ::= '<' '{' ConstVector '}' '>' --> Packed Struct.
2405     Lex.Lex();
2406     bool isPackedStruct = EatIfPresent(lltok::lbrace);
2407
2408     SmallVector<Constant*, 16> Elts;
2409     LocTy FirstEltLoc = Lex.getLoc();
2410     if (ParseGlobalValueVector(Elts) ||
2411         (isPackedStruct &&
2412          ParseToken(lltok::rbrace, "expected end of packed struct")) ||
2413         ParseToken(lltok::greater, "expected end of constant"))
2414       return true;
2415
2416     if (isPackedStruct) {
2417       ID.ConstantStructElts = new Constant*[Elts.size()];
2418       memcpy(ID.ConstantStructElts, Elts.data(), Elts.size()*sizeof(Elts[0]));
2419       ID.UIntVal = Elts.size();
2420       ID.Kind = ValID::t_PackedConstantStruct;
2421       return false;
2422     }
2423
2424     if (Elts.empty())
2425       return Error(ID.Loc, "constant vector must not be empty");
2426
2427     if (!Elts[0]->getType()->isIntegerTy() &&
2428         !Elts[0]->getType()->isFloatingPointTy() &&
2429         !Elts[0]->getType()->isPointerTy())
2430       return Error(FirstEltLoc,
2431             "vector elements must have integer, pointer or floating point type");
2432
2433     // Verify that all the vector elements have the same type.
2434     for (unsigned i = 1, e = Elts.size(); i != e; ++i)
2435       if (Elts[i]->getType() != Elts[0]->getType())
2436         return Error(FirstEltLoc,
2437                      "vector element #" + Twine(i) +
2438                     " is not of type '" + getTypeString(Elts[0]->getType()));
2439
2440     ID.ConstantVal = ConstantVector::get(Elts);
2441     ID.Kind = ValID::t_Constant;
2442     return false;
2443   }
2444   case lltok::lsquare: {   // Array Constant
2445     Lex.Lex();
2446     SmallVector<Constant*, 16> Elts;
2447     LocTy FirstEltLoc = Lex.getLoc();
2448     if (ParseGlobalValueVector(Elts) ||
2449         ParseToken(lltok::rsquare, "expected end of array constant"))
2450       return true;
2451
2452     // Handle empty element.
2453     if (Elts.empty()) {
2454       // Use undef instead of an array because it's inconvenient to determine
2455       // the element type at this point, there being no elements to examine.
2456       ID.Kind = ValID::t_EmptyArray;
2457       return false;
2458     }
2459
2460     if (!Elts[0]->getType()->isFirstClassType())
2461       return Error(FirstEltLoc, "invalid array element type: " +
2462                    getTypeString(Elts[0]->getType()));
2463
2464     ArrayType *ATy = ArrayType::get(Elts[0]->getType(), Elts.size());
2465
2466     // Verify all elements are correct type!
2467     for (unsigned i = 0, e = Elts.size(); i != e; ++i) {
2468       if (Elts[i]->getType() != Elts[0]->getType())
2469         return Error(FirstEltLoc,
2470                      "array element #" + Twine(i) +
2471                      " is not of type '" + getTypeString(Elts[0]->getType()));
2472     }
2473
2474     ID.ConstantVal = ConstantArray::get(ATy, Elts);
2475     ID.Kind = ValID::t_Constant;
2476     return false;
2477   }
2478   case lltok::kw_c:  // c "foo"
2479     Lex.Lex();
2480     ID.ConstantVal = ConstantDataArray::getString(Context, Lex.getStrVal(),
2481                                                   false);
2482     if (ParseToken(lltok::StringConstant, "expected string")) return true;
2483     ID.Kind = ValID::t_Constant;
2484     return false;
2485
2486   case lltok::kw_asm: {
2487     // ValID ::= 'asm' SideEffect? AlignStack? IntelDialect? STRINGCONSTANT ','
2488     //             STRINGCONSTANT
2489     bool HasSideEffect, AlignStack, AsmDialect;
2490     Lex.Lex();
2491     if (ParseOptionalToken(lltok::kw_sideeffect, HasSideEffect) ||
2492         ParseOptionalToken(lltok::kw_alignstack, AlignStack) ||
2493         ParseOptionalToken(lltok::kw_inteldialect, AsmDialect) ||
2494         ParseStringConstant(ID.StrVal) ||
2495         ParseToken(lltok::comma, "expected comma in inline asm expression") ||
2496         ParseToken(lltok::StringConstant, "expected constraint string"))
2497       return true;
2498     ID.StrVal2 = Lex.getStrVal();
2499     ID.UIntVal = unsigned(HasSideEffect) | (unsigned(AlignStack)<<1) |
2500       (unsigned(AsmDialect)<<2);
2501     ID.Kind = ValID::t_InlineAsm;
2502     return false;
2503   }
2504
2505   case lltok::kw_blockaddress: {
2506     // ValID ::= 'blockaddress' '(' @foo ',' %bar ')'
2507     Lex.Lex();
2508
2509     ValID Fn, Label;
2510
2511     if (ParseToken(lltok::lparen, "expected '(' in block address expression") ||
2512         ParseValID(Fn) ||
2513         ParseToken(lltok::comma, "expected comma in block address expression")||
2514         ParseValID(Label) ||
2515         ParseToken(lltok::rparen, "expected ')' in block address expression"))
2516       return true;
2517
2518     if (Fn.Kind != ValID::t_GlobalID && Fn.Kind != ValID::t_GlobalName)
2519       return Error(Fn.Loc, "expected function name in blockaddress");
2520     if (Label.Kind != ValID::t_LocalID && Label.Kind != ValID::t_LocalName)
2521       return Error(Label.Loc, "expected basic block name in blockaddress");
2522
2523     // Try to find the function (but skip it if it's forward-referenced).
2524     GlobalValue *GV = nullptr;
2525     if (Fn.Kind == ValID::t_GlobalID) {
2526       if (Fn.UIntVal < NumberedVals.size())
2527         GV = NumberedVals[Fn.UIntVal];
2528     } else if (!ForwardRefVals.count(Fn.StrVal)) {
2529       GV = M->getNamedValue(Fn.StrVal);
2530     }
2531     Function *F = nullptr;
2532     if (GV) {
2533       // Confirm that it's actually a function with a definition.
2534       if (!isa<Function>(GV))
2535         return Error(Fn.Loc, "expected function name in blockaddress");
2536       F = cast<Function>(GV);
2537       if (F->isDeclaration())
2538         return Error(Fn.Loc, "cannot take blockaddress inside a declaration");
2539     }
2540
2541     if (!F) {
2542       // Make a global variable as a placeholder for this reference.
2543       GlobalValue *&FwdRef = ForwardRefBlockAddresses[Fn][Label];
2544       if (!FwdRef)
2545         FwdRef = new GlobalVariable(*M, Type::getInt8Ty(Context), false,
2546                                     GlobalValue::InternalLinkage, nullptr, "");
2547       ID.ConstantVal = FwdRef;
2548       ID.Kind = ValID::t_Constant;
2549       return false;
2550     }
2551
2552     // We found the function; now find the basic block.  Don't use PFS, since we
2553     // might be inside a constant expression.
2554     BasicBlock *BB;
2555     if (BlockAddressPFS && F == &BlockAddressPFS->getFunction()) {
2556       if (Label.Kind == ValID::t_LocalID)
2557         BB = BlockAddressPFS->GetBB(Label.UIntVal, Label.Loc);
2558       else
2559         BB = BlockAddressPFS->GetBB(Label.StrVal, Label.Loc);
2560       if (!BB)
2561         return Error(Label.Loc, "referenced value is not a basic block");
2562     } else {
2563       if (Label.Kind == ValID::t_LocalID)
2564         return Error(Label.Loc, "cannot take address of numeric label after "
2565                                 "the function is defined");
2566       BB = dyn_cast_or_null<BasicBlock>(
2567           F->getValueSymbolTable().lookup(Label.StrVal));
2568       if (!BB)
2569         return Error(Label.Loc, "referenced value is not a basic block");
2570     }
2571
2572     ID.ConstantVal = BlockAddress::get(F, BB);
2573     ID.Kind = ValID::t_Constant;
2574     return false;
2575   }
2576
2577   case lltok::kw_trunc:
2578   case lltok::kw_zext:
2579   case lltok::kw_sext:
2580   case lltok::kw_fptrunc:
2581   case lltok::kw_fpext:
2582   case lltok::kw_bitcast:
2583   case lltok::kw_addrspacecast:
2584   case lltok::kw_uitofp:
2585   case lltok::kw_sitofp:
2586   case lltok::kw_fptoui:
2587   case lltok::kw_fptosi:
2588   case lltok::kw_inttoptr:
2589   case lltok::kw_ptrtoint: {
2590     unsigned Opc = Lex.getUIntVal();
2591     Type *DestTy = nullptr;
2592     Constant *SrcVal;
2593     Lex.Lex();
2594     if (ParseToken(lltok::lparen, "expected '(' after constantexpr cast") ||
2595         ParseGlobalTypeAndValue(SrcVal) ||
2596         ParseToken(lltok::kw_to, "expected 'to' in constantexpr cast") ||
2597         ParseType(DestTy) ||
2598         ParseToken(lltok::rparen, "expected ')' at end of constantexpr cast"))
2599       return true;
2600     if (!CastInst::castIsValid((Instruction::CastOps)Opc, SrcVal, DestTy))
2601       return Error(ID.Loc, "invalid cast opcode for cast from '" +
2602                    getTypeString(SrcVal->getType()) + "' to '" +
2603                    getTypeString(DestTy) + "'");
2604     ID.ConstantVal = ConstantExpr::getCast((Instruction::CastOps)Opc,
2605                                                  SrcVal, DestTy);
2606     ID.Kind = ValID::t_Constant;
2607     return false;
2608   }
2609   case lltok::kw_extractvalue: {
2610     Lex.Lex();
2611     Constant *Val;
2612     SmallVector<unsigned, 4> Indices;
2613     if (ParseToken(lltok::lparen, "expected '(' in extractvalue constantexpr")||
2614         ParseGlobalTypeAndValue(Val) ||
2615         ParseIndexList(Indices) ||
2616         ParseToken(lltok::rparen, "expected ')' in extractvalue constantexpr"))
2617       return true;
2618
2619     if (!Val->getType()->isAggregateType())
2620       return Error(ID.Loc, "extractvalue operand must be aggregate type");
2621     if (!ExtractValueInst::getIndexedType(Val->getType(), Indices))
2622       return Error(ID.Loc, "invalid indices for extractvalue");
2623     ID.ConstantVal = ConstantExpr::getExtractValue(Val, Indices);
2624     ID.Kind = ValID::t_Constant;
2625     return false;
2626   }
2627   case lltok::kw_insertvalue: {
2628     Lex.Lex();
2629     Constant *Val0, *Val1;
2630     SmallVector<unsigned, 4> Indices;
2631     if (ParseToken(lltok::lparen, "expected '(' in insertvalue constantexpr")||
2632         ParseGlobalTypeAndValue(Val0) ||
2633         ParseToken(lltok::comma, "expected comma in insertvalue constantexpr")||
2634         ParseGlobalTypeAndValue(Val1) ||
2635         ParseIndexList(Indices) ||
2636         ParseToken(lltok::rparen, "expected ')' in insertvalue constantexpr"))
2637       return true;
2638     if (!Val0->getType()->isAggregateType())
2639       return Error(ID.Loc, "insertvalue operand must be aggregate type");
2640     if (!ExtractValueInst::getIndexedType(Val0->getType(), Indices))
2641       return Error(ID.Loc, "invalid indices for insertvalue");
2642     ID.ConstantVal = ConstantExpr::getInsertValue(Val0, Val1, Indices);
2643     ID.Kind = ValID::t_Constant;
2644     return false;
2645   }
2646   case lltok::kw_icmp:
2647   case lltok::kw_fcmp: {
2648     unsigned PredVal, Opc = Lex.getUIntVal();
2649     Constant *Val0, *Val1;
2650     Lex.Lex();
2651     if (ParseCmpPredicate(PredVal, Opc) ||
2652         ParseToken(lltok::lparen, "expected '(' in compare constantexpr") ||
2653         ParseGlobalTypeAndValue(Val0) ||
2654         ParseToken(lltok::comma, "expected comma in compare constantexpr") ||
2655         ParseGlobalTypeAndValue(Val1) ||
2656         ParseToken(lltok::rparen, "expected ')' in compare constantexpr"))
2657       return true;
2658
2659     if (Val0->getType() != Val1->getType())
2660       return Error(ID.Loc, "compare operands must have the same type");
2661
2662     CmpInst::Predicate Pred = (CmpInst::Predicate)PredVal;
2663
2664     if (Opc == Instruction::FCmp) {
2665       if (!Val0->getType()->isFPOrFPVectorTy())
2666         return Error(ID.Loc, "fcmp requires floating point operands");
2667       ID.ConstantVal = ConstantExpr::getFCmp(Pred, Val0, Val1);
2668     } else {
2669       assert(Opc == Instruction::ICmp && "Unexpected opcode for CmpInst!");
2670       if (!Val0->getType()->isIntOrIntVectorTy() &&
2671           !Val0->getType()->getScalarType()->isPointerTy())
2672         return Error(ID.Loc, "icmp requires pointer or integer operands");
2673       ID.ConstantVal = ConstantExpr::getICmp(Pred, Val0, Val1);
2674     }
2675     ID.Kind = ValID::t_Constant;
2676     return false;
2677   }
2678
2679   // Binary Operators.
2680   case lltok::kw_add:
2681   case lltok::kw_fadd:
2682   case lltok::kw_sub:
2683   case lltok::kw_fsub:
2684   case lltok::kw_mul:
2685   case lltok::kw_fmul:
2686   case lltok::kw_udiv:
2687   case lltok::kw_sdiv:
2688   case lltok::kw_fdiv:
2689   case lltok::kw_urem:
2690   case lltok::kw_srem:
2691   case lltok::kw_frem:
2692   case lltok::kw_shl:
2693   case lltok::kw_lshr:
2694   case lltok::kw_ashr: {
2695     bool NUW = false;
2696     bool NSW = false;
2697     bool Exact = false;
2698     unsigned Opc = Lex.getUIntVal();
2699     Constant *Val0, *Val1;
2700     Lex.Lex();
2701     LocTy ModifierLoc = Lex.getLoc();
2702     if (Opc == Instruction::Add || Opc == Instruction::Sub ||
2703         Opc == Instruction::Mul || Opc == Instruction::Shl) {
2704       if (EatIfPresent(lltok::kw_nuw))
2705         NUW = true;
2706       if (EatIfPresent(lltok::kw_nsw)) {
2707         NSW = true;
2708         if (EatIfPresent(lltok::kw_nuw))
2709           NUW = true;
2710       }
2711     } else if (Opc == Instruction::SDiv || Opc == Instruction::UDiv ||
2712                Opc == Instruction::LShr || Opc == Instruction::AShr) {
2713       if (EatIfPresent(lltok::kw_exact))
2714         Exact = true;
2715     }
2716     if (ParseToken(lltok::lparen, "expected '(' in binary constantexpr") ||
2717         ParseGlobalTypeAndValue(Val0) ||
2718         ParseToken(lltok::comma, "expected comma in binary constantexpr") ||
2719         ParseGlobalTypeAndValue(Val1) ||
2720         ParseToken(lltok::rparen, "expected ')' in binary constantexpr"))
2721       return true;
2722     if (Val0->getType() != Val1->getType())
2723       return Error(ID.Loc, "operands of constexpr must have same type");
2724     if (!Val0->getType()->isIntOrIntVectorTy()) {
2725       if (NUW)
2726         return Error(ModifierLoc, "nuw only applies to integer operations");
2727       if (NSW)
2728         return Error(ModifierLoc, "nsw only applies to integer operations");
2729     }
2730     // Check that the type is valid for the operator.
2731     switch (Opc) {
2732     case Instruction::Add:
2733     case Instruction::Sub:
2734     case Instruction::Mul:
2735     case Instruction::UDiv:
2736     case Instruction::SDiv:
2737     case Instruction::URem:
2738     case Instruction::SRem:
2739     case Instruction::Shl:
2740     case Instruction::AShr:
2741     case Instruction::LShr:
2742       if (!Val0->getType()->isIntOrIntVectorTy())
2743         return Error(ID.Loc, "constexpr requires integer operands");
2744       break;
2745     case Instruction::FAdd:
2746     case Instruction::FSub:
2747     case Instruction::FMul:
2748     case Instruction::FDiv:
2749     case Instruction::FRem:
2750       if (!Val0->getType()->isFPOrFPVectorTy())
2751         return Error(ID.Loc, "constexpr requires fp operands");
2752       break;
2753     default: llvm_unreachable("Unknown binary operator!");
2754     }
2755     unsigned Flags = 0;
2756     if (NUW)   Flags |= OverflowingBinaryOperator::NoUnsignedWrap;
2757     if (NSW)   Flags |= OverflowingBinaryOperator::NoSignedWrap;
2758     if (Exact) Flags |= PossiblyExactOperator::IsExact;
2759     Constant *C = ConstantExpr::get(Opc, Val0, Val1, Flags);
2760     ID.ConstantVal = C;
2761     ID.Kind = ValID::t_Constant;
2762     return false;
2763   }
2764
2765   // Logical Operations
2766   case lltok::kw_and:
2767   case lltok::kw_or:
2768   case lltok::kw_xor: {
2769     unsigned Opc = Lex.getUIntVal();
2770     Constant *Val0, *Val1;
2771     Lex.Lex();
2772     if (ParseToken(lltok::lparen, "expected '(' in logical constantexpr") ||
2773         ParseGlobalTypeAndValue(Val0) ||
2774         ParseToken(lltok::comma, "expected comma in logical constantexpr") ||
2775         ParseGlobalTypeAndValue(Val1) ||
2776         ParseToken(lltok::rparen, "expected ')' in logical constantexpr"))
2777       return true;
2778     if (Val0->getType() != Val1->getType())
2779       return Error(ID.Loc, "operands of constexpr must have same type");
2780     if (!Val0->getType()->isIntOrIntVectorTy())
2781       return Error(ID.Loc,
2782                    "constexpr requires integer or integer vector operands");
2783     ID.ConstantVal = ConstantExpr::get(Opc, Val0, Val1);
2784     ID.Kind = ValID::t_Constant;
2785     return false;
2786   }
2787
2788   case lltok::kw_getelementptr:
2789   case lltok::kw_shufflevector:
2790   case lltok::kw_insertelement:
2791   case lltok::kw_extractelement:
2792   case lltok::kw_select: {
2793     unsigned Opc = Lex.getUIntVal();
2794     SmallVector<Constant*, 16> Elts;
2795     bool InBounds = false;
2796     Lex.Lex();
2797     if (Opc == Instruction::GetElementPtr)
2798       InBounds = EatIfPresent(lltok::kw_inbounds);
2799     if (ParseToken(lltok::lparen, "expected '(' in constantexpr") ||
2800         ParseGlobalValueVector(Elts) ||
2801         ParseToken(lltok::rparen, "expected ')' in constantexpr"))
2802       return true;
2803
2804     if (Opc == Instruction::GetElementPtr) {
2805       if (Elts.size() == 0 ||
2806           !Elts[0]->getType()->getScalarType()->isPointerTy())
2807         return Error(ID.Loc, "getelementptr requires pointer operand");
2808
2809       ArrayRef<Constant *> Indices(Elts.begin() + 1, Elts.end());
2810       if (!GetElementPtrInst::getIndexedType(Elts[0]->getType(), Indices))
2811         return Error(ID.Loc, "invalid indices for getelementptr");
2812       ID.ConstantVal = ConstantExpr::getGetElementPtr(Elts[0], Indices,
2813                                                       InBounds);
2814     } else if (Opc == Instruction::Select) {
2815       if (Elts.size() != 3)
2816         return Error(ID.Loc, "expected three operands to select");
2817       if (const char *Reason = SelectInst::areInvalidOperands(Elts[0], Elts[1],
2818                                                               Elts[2]))
2819         return Error(ID.Loc, Reason);
2820       ID.ConstantVal = ConstantExpr::getSelect(Elts[0], Elts[1], Elts[2]);
2821     } else if (Opc == Instruction::ShuffleVector) {
2822       if (Elts.size() != 3)
2823         return Error(ID.Loc, "expected three operands to shufflevector");
2824       if (!ShuffleVectorInst::isValidOperands(Elts[0], Elts[1], Elts[2]))
2825         return Error(ID.Loc, "invalid operands to shufflevector");
2826       ID.ConstantVal =
2827                  ConstantExpr::getShuffleVector(Elts[0], Elts[1],Elts[2]);
2828     } else if (Opc == Instruction::ExtractElement) {
2829       if (Elts.size() != 2)
2830         return Error(ID.Loc, "expected two operands to extractelement");
2831       if (!ExtractElementInst::isValidOperands(Elts[0], Elts[1]))
2832         return Error(ID.Loc, "invalid extractelement operands");
2833       ID.ConstantVal = ConstantExpr::getExtractElement(Elts[0], Elts[1]);
2834     } else {
2835       assert(Opc == Instruction::InsertElement && "Unknown opcode");
2836       if (Elts.size() != 3)
2837       return Error(ID.Loc, "expected three operands to insertelement");
2838       if (!InsertElementInst::isValidOperands(Elts[0], Elts[1], Elts[2]))
2839         return Error(ID.Loc, "invalid insertelement operands");
2840       ID.ConstantVal =
2841                  ConstantExpr::getInsertElement(Elts[0], Elts[1],Elts[2]);
2842     }
2843
2844     ID.Kind = ValID::t_Constant;
2845     return false;
2846   }
2847   }
2848
2849   Lex.Lex();
2850   return false;
2851 }
2852
2853 /// ParseGlobalValue - Parse a global value with the specified type.
2854 bool LLParser::ParseGlobalValue(Type *Ty, Constant *&C) {
2855   C = nullptr;
2856   ValID ID;
2857   Value *V = nullptr;
2858   bool Parsed = ParseValID(ID) ||
2859                 ConvertValIDToValue(Ty, ID, V, nullptr);
2860   if (V && !(C = dyn_cast<Constant>(V)))
2861     return Error(ID.Loc, "global values must be constants");
2862   return Parsed;
2863 }
2864
2865 bool LLParser::ParseGlobalTypeAndValue(Constant *&V) {
2866   Type *Ty = nullptr;
2867   return ParseType(Ty) ||
2868          ParseGlobalValue(Ty, V);
2869 }
2870
2871 bool LLParser::parseOptionalComdat(StringRef GlobalName, Comdat *&C) {
2872   C = nullptr;
2873
2874   LocTy KwLoc = Lex.getLoc();
2875   if (!EatIfPresent(lltok::kw_comdat))
2876     return false;
2877
2878   if (EatIfPresent(lltok::lparen)) {
2879     if (Lex.getKind() != lltok::ComdatVar)
2880       return TokError("expected comdat variable");
2881     C = getComdat(Lex.getStrVal(), Lex.getLoc());
2882     Lex.Lex();
2883     if (ParseToken(lltok::rparen, "expected ')' after comdat var"))
2884       return true;
2885   } else {
2886     if (GlobalName.empty())
2887       return TokError("comdat cannot be unnamed");
2888     C = getComdat(GlobalName, KwLoc);
2889   }
2890
2891   return false;
2892 }
2893
2894 /// ParseGlobalValueVector
2895 ///   ::= /*empty*/
2896 ///   ::= TypeAndValue (',' TypeAndValue)*
2897 bool LLParser::ParseGlobalValueVector(SmallVectorImpl<Constant *> &Elts) {
2898   // Empty list.
2899   if (Lex.getKind() == lltok::rbrace ||
2900       Lex.getKind() == lltok::rsquare ||
2901       Lex.getKind() == lltok::greater ||
2902       Lex.getKind() == lltok::rparen)
2903     return false;
2904
2905   Constant *C;
2906   if (ParseGlobalTypeAndValue(C)) return true;
2907   Elts.push_back(C);
2908
2909   while (EatIfPresent(lltok::comma)) {
2910     if (ParseGlobalTypeAndValue(C)) return true;
2911     Elts.push_back(C);
2912   }
2913
2914   return false;
2915 }
2916
2917 bool LLParser::ParseMDNode(MDNode *&MD, bool IsDistinct) {
2918   SmallVector<Metadata *, 16> Elts;
2919   if (ParseMDNodeVector(Elts))
2920     return true;
2921
2922   if (IsDistinct)
2923     MD = MDNode::getDistinct(Context, Elts);
2924   else
2925     MD = MDNode::get(Context, Elts);
2926   return false;
2927 }
2928
2929 /// ParseMetadataAsValue
2930 ///  ::= metadata i32 %local
2931 ///  ::= metadata i32 @global
2932 ///  ::= metadata i32 7
2933 ///  ::= metadata !0
2934 ///  ::= metadata !{...}
2935 ///  ::= metadata !"string"
2936 bool LLParser::ParseMetadataAsValue(Value *&V, PerFunctionState &PFS) {
2937   // Note: the type 'metadata' has already been parsed.
2938   Metadata *MD;
2939   if (ParseMetadata(MD, &PFS))
2940     return true;
2941
2942   V = MetadataAsValue::get(Context, MD);
2943   return false;
2944 }
2945
2946 /// ParseValueAsMetadata
2947 ///  ::= i32 %local
2948 ///  ::= i32 @global
2949 ///  ::= i32 7
2950 bool LLParser::ParseValueAsMetadata(Metadata *&MD, PerFunctionState *PFS) {
2951   Type *Ty;
2952   LocTy Loc;
2953   if (ParseType(Ty, "expected metadata operand", Loc))
2954     return true;
2955   if (Ty->isMetadataTy())
2956     return Error(Loc, "invalid metadata-value-metadata roundtrip");
2957
2958   Value *V;
2959   if (ParseValue(Ty, V, PFS))
2960     return true;
2961
2962   MD = ValueAsMetadata::get(V);
2963   return false;
2964 }
2965
2966 /// ParseMetadata
2967 ///  ::= i32 %local
2968 ///  ::= i32 @global
2969 ///  ::= i32 7
2970 ///  ::= !42
2971 ///  ::= !{...}
2972 ///  ::= !"string"
2973 bool LLParser::ParseMetadata(Metadata *&MD, PerFunctionState *PFS) {
2974   // ValueAsMetadata:
2975   // <type> <value>
2976   if (Lex.getKind() != lltok::exclaim)
2977     return ParseValueAsMetadata(MD, PFS);
2978
2979   // '!'.
2980   assert(Lex.getKind() == lltok::exclaim && "Expected '!' here");
2981   Lex.Lex();
2982
2983   // MDNode:
2984   // !{ ... }
2985   if (Lex.getKind() == lltok::lbrace) {
2986     MDNode *N;
2987     if (ParseMDNode(N))
2988       return true;
2989     MD = N;
2990     return false;
2991   }
2992
2993   // Standalone metadata reference
2994   // !42
2995   if (Lex.getKind() == lltok::APSInt) {
2996     MDNode *N;
2997     if (ParseMDNodeID(N))
2998       return true;
2999     MD = N;
3000     return false;
3001   }
3002
3003   // MDString:
3004   //   ::= '!' STRINGCONSTANT
3005   MDString *S;
3006   if (ParseMDString(S))
3007     return true;
3008   MD = S;
3009   return false;
3010 }
3011
3012
3013 //===----------------------------------------------------------------------===//
3014 // Function Parsing.
3015 //===----------------------------------------------------------------------===//
3016
3017 bool LLParser::ConvertValIDToValue(Type *Ty, ValID &ID, Value *&V,
3018                                    PerFunctionState *PFS) {
3019   if (Ty->isFunctionTy())
3020     return Error(ID.Loc, "functions are not values, refer to them as pointers");
3021
3022   switch (ID.Kind) {
3023   case ValID::t_LocalID:
3024     if (!PFS) return Error(ID.Loc, "invalid use of function-local name");
3025     V = PFS->GetVal(ID.UIntVal, Ty, ID.Loc);
3026     return V == nullptr;
3027   case ValID::t_LocalName:
3028     if (!PFS) return Error(ID.Loc, "invalid use of function-local name");
3029     V = PFS->GetVal(ID.StrVal, Ty, ID.Loc);
3030     return V == nullptr;
3031   case ValID::t_InlineAsm: {
3032     PointerType *PTy = dyn_cast<PointerType>(Ty);
3033     FunctionType *FTy =
3034       PTy ? dyn_cast<FunctionType>(PTy->getElementType()) : nullptr;
3035     if (!FTy || !InlineAsm::Verify(FTy, ID.StrVal2))
3036       return Error(ID.Loc, "invalid type for inline asm constraint string");
3037     V = InlineAsm::get(FTy, ID.StrVal, ID.StrVal2, ID.UIntVal&1,
3038                        (ID.UIntVal>>1)&1, (InlineAsm::AsmDialect(ID.UIntVal>>2)));
3039     return false;
3040   }
3041   case ValID::t_GlobalName:
3042     V = GetGlobalVal(ID.StrVal, Ty, ID.Loc);
3043     return V == nullptr;
3044   case ValID::t_GlobalID:
3045     V = GetGlobalVal(ID.UIntVal, Ty, ID.Loc);
3046     return V == nullptr;
3047   case ValID::t_APSInt:
3048     if (!Ty->isIntegerTy())
3049       return Error(ID.Loc, "integer constant must have integer type");
3050     ID.APSIntVal = ID.APSIntVal.extOrTrunc(Ty->getPrimitiveSizeInBits());
3051     V = ConstantInt::get(Context, ID.APSIntVal);
3052     return false;
3053   case ValID::t_APFloat:
3054     if (!Ty->isFloatingPointTy() ||
3055         !ConstantFP::isValueValidForType(Ty, ID.APFloatVal))
3056       return Error(ID.Loc, "floating point constant invalid for type");
3057
3058     // The lexer has no type info, so builds all half, float, and double FP
3059     // constants as double.  Fix this here.  Long double does not need this.
3060     if (&ID.APFloatVal.getSemantics() == &APFloat::IEEEdouble) {
3061       bool Ignored;
3062       if (Ty->isHalfTy())
3063         ID.APFloatVal.convert(APFloat::IEEEhalf, APFloat::rmNearestTiesToEven,
3064                               &Ignored);
3065       else if (Ty->isFloatTy())
3066         ID.APFloatVal.convert(APFloat::IEEEsingle, APFloat::rmNearestTiesToEven,
3067                               &Ignored);
3068     }
3069     V = ConstantFP::get(Context, ID.APFloatVal);
3070
3071     if (V->getType() != Ty)
3072       return Error(ID.Loc, "floating point constant does not have type '" +
3073                    getTypeString(Ty) + "'");
3074
3075     return false;
3076   case ValID::t_Null:
3077     if (!Ty->isPointerTy())
3078       return Error(ID.Loc, "null must be a pointer type");
3079     V = ConstantPointerNull::get(cast<PointerType>(Ty));
3080     return false;
3081   case ValID::t_Undef:
3082     // FIXME: LabelTy should not be a first-class type.
3083     if (!Ty->isFirstClassType() || Ty->isLabelTy())
3084       return Error(ID.Loc, "invalid type for undef constant");
3085     V = UndefValue::get(Ty);
3086     return false;
3087   case ValID::t_EmptyArray:
3088     if (!Ty->isArrayTy() || cast<ArrayType>(Ty)->getNumElements() != 0)
3089       return Error(ID.Loc, "invalid empty array initializer");
3090     V = UndefValue::get(Ty);
3091     return false;
3092   case ValID::t_Zero:
3093     // FIXME: LabelTy should not be a first-class type.
3094     if (!Ty->isFirstClassType() || Ty->isLabelTy())
3095       return Error(ID.Loc, "invalid type for null constant");
3096     V = Constant::getNullValue(Ty);
3097     return false;
3098   case ValID::t_Constant:
3099     if (ID.ConstantVal->getType() != Ty)
3100       return Error(ID.Loc, "constant expression type mismatch");
3101
3102     V = ID.ConstantVal;
3103     return false;
3104   case ValID::t_ConstantStruct:
3105   case ValID::t_PackedConstantStruct:
3106     if (StructType *ST = dyn_cast<StructType>(Ty)) {
3107       if (ST->getNumElements() != ID.UIntVal)
3108         return Error(ID.Loc,
3109                      "initializer with struct type has wrong # elements");
3110       if (ST->isPacked() != (ID.Kind == ValID::t_PackedConstantStruct))
3111         return Error(ID.Loc, "packed'ness of initializer and type don't match");
3112
3113       // Verify that the elements are compatible with the structtype.
3114       for (unsigned i = 0, e = ID.UIntVal; i != e; ++i)
3115         if (ID.ConstantStructElts[i]->getType() != ST->getElementType(i))
3116           return Error(ID.Loc, "element " + Twine(i) +
3117                     " of struct initializer doesn't match struct element type");
3118
3119       V = ConstantStruct::get(ST, makeArrayRef(ID.ConstantStructElts,
3120                                                ID.UIntVal));
3121     } else
3122       return Error(ID.Loc, "constant expression type mismatch");
3123     return false;
3124   }
3125   llvm_unreachable("Invalid ValID");
3126 }
3127
3128 bool LLParser::ParseValue(Type *Ty, Value *&V, PerFunctionState *PFS) {
3129   V = nullptr;
3130   ValID ID;
3131   return ParseValID(ID, PFS) ||
3132          ConvertValIDToValue(Ty, ID, V, PFS);
3133 }
3134
3135 bool LLParser::ParseTypeAndValue(Value *&V, PerFunctionState *PFS) {
3136   Type *Ty = nullptr;
3137   return ParseType(Ty) ||
3138          ParseValue(Ty, V, PFS);
3139 }
3140
3141 bool LLParser::ParseTypeAndBasicBlock(BasicBlock *&BB, LocTy &Loc,
3142                                       PerFunctionState &PFS) {
3143   Value *V;
3144   Loc = Lex.getLoc();
3145   if (ParseTypeAndValue(V, PFS)) return true;
3146   if (!isa<BasicBlock>(V))
3147     return Error(Loc, "expected a basic block");
3148   BB = cast<BasicBlock>(V);
3149   return false;
3150 }
3151
3152
3153 /// FunctionHeader
3154 ///   ::= OptionalLinkage OptionalVisibility OptionalCallingConv OptRetAttrs
3155 ///       OptUnnamedAddr Type GlobalName '(' ArgList ')' OptFuncAttrs OptSection
3156 ///       OptionalAlign OptGC OptionalPrefix OptionalPrologue
3157 bool LLParser::ParseFunctionHeader(Function *&Fn, bool isDefine) {
3158   // Parse the linkage.
3159   LocTy LinkageLoc = Lex.getLoc();
3160   unsigned Linkage;
3161
3162   unsigned Visibility;
3163   unsigned DLLStorageClass;
3164   AttrBuilder RetAttrs;
3165   unsigned CC;
3166   Type *RetType = nullptr;
3167   LocTy RetTypeLoc = Lex.getLoc();
3168   if (ParseOptionalLinkage(Linkage) ||
3169       ParseOptionalVisibility(Visibility) ||
3170       ParseOptionalDLLStorageClass(DLLStorageClass) ||
3171       ParseOptionalCallingConv(CC) ||
3172       ParseOptionalReturnAttrs(RetAttrs) ||
3173       ParseType(RetType, RetTypeLoc, true /*void allowed*/))
3174     return true;
3175
3176   // Verify that the linkage is ok.
3177   switch ((GlobalValue::LinkageTypes)Linkage) {
3178   case GlobalValue::ExternalLinkage:
3179     break; // always ok.
3180   case GlobalValue::ExternalWeakLinkage:
3181     if (isDefine)
3182       return Error(LinkageLoc, "invalid linkage for function definition");
3183     break;
3184   case GlobalValue::PrivateLinkage:
3185   case GlobalValue::InternalLinkage:
3186   case GlobalValue::AvailableExternallyLinkage:
3187   case GlobalValue::LinkOnceAnyLinkage:
3188   case GlobalValue::LinkOnceODRLinkage:
3189   case GlobalValue::WeakAnyLinkage:
3190   case GlobalValue::WeakODRLinkage:
3191     if (!isDefine)
3192       return Error(LinkageLoc, "invalid linkage for function declaration");
3193     break;
3194   case GlobalValue::AppendingLinkage:
3195   case GlobalValue::CommonLinkage:
3196     return Error(LinkageLoc, "invalid function linkage type");
3197   }
3198
3199   if (!isValidVisibilityForLinkage(Visibility, Linkage))
3200     return Error(LinkageLoc,
3201                  "symbol with local linkage must have default visibility");
3202
3203   if (!FunctionType::isValidReturnType(RetType))
3204     return Error(RetTypeLoc, "invalid function return type");
3205
3206   LocTy NameLoc = Lex.getLoc();
3207
3208   std::string FunctionName;
3209   if (Lex.getKind() == lltok::GlobalVar) {
3210     FunctionName = Lex.getStrVal();
3211   } else if (Lex.getKind() == lltok::GlobalID) {     // @42 is ok.
3212     unsigned NameID = Lex.getUIntVal();
3213
3214     if (NameID != NumberedVals.size())
3215       return TokError("function expected to be numbered '%" +
3216                       Twine(NumberedVals.size()) + "'");
3217   } else {
3218     return TokError("expected function name");
3219   }
3220
3221   Lex.Lex();
3222
3223   if (Lex.getKind() != lltok::lparen)
3224     return TokError("expected '(' in function argument list");
3225
3226   SmallVector<ArgInfo, 8> ArgList;
3227   bool isVarArg;
3228   AttrBuilder FuncAttrs;
3229   std::vector<unsigned> FwdRefAttrGrps;
3230   LocTy BuiltinLoc;
3231   std::string Section;
3232   unsigned Alignment;
3233   std::string GC;
3234   bool UnnamedAddr;
3235   LocTy UnnamedAddrLoc;
3236   Constant *Prefix = nullptr;
3237   Constant *Prologue = nullptr;
3238   Comdat *C;
3239
3240   if (ParseArgumentList(ArgList, isVarArg) ||
3241       ParseOptionalToken(lltok::kw_unnamed_addr, UnnamedAddr,
3242                          &UnnamedAddrLoc) ||
3243       ParseFnAttributeValuePairs(FuncAttrs, FwdRefAttrGrps, false,
3244                                  BuiltinLoc) ||
3245       (EatIfPresent(lltok::kw_section) &&
3246        ParseStringConstant(Section)) ||
3247       parseOptionalComdat(FunctionName, C) ||
3248       ParseOptionalAlignment(Alignment) ||
3249       (EatIfPresent(lltok::kw_gc) &&
3250        ParseStringConstant(GC)) ||
3251       (EatIfPresent(lltok::kw_prefix) &&
3252        ParseGlobalTypeAndValue(Prefix)) ||
3253       (EatIfPresent(lltok::kw_prologue) &&
3254        ParseGlobalTypeAndValue(Prologue)))
3255     return true;
3256
3257   if (FuncAttrs.contains(Attribute::Builtin))
3258     return Error(BuiltinLoc, "'builtin' attribute not valid on function");
3259
3260   // If the alignment was parsed as an attribute, move to the alignment field.
3261   if (FuncAttrs.hasAlignmentAttr()) {
3262     Alignment = FuncAttrs.getAlignment();
3263     FuncAttrs.removeAttribute(Attribute::Alignment);
3264   }
3265
3266   // Okay, if we got here, the function is syntactically valid.  Convert types
3267   // and do semantic checks.
3268   std::vector<Type*> ParamTypeList;
3269   SmallVector<AttributeSet, 8> Attrs;
3270
3271   if (RetAttrs.hasAttributes())
3272     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3273                                       AttributeSet::ReturnIndex,
3274                                       RetAttrs));
3275
3276   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
3277     ParamTypeList.push_back(ArgList[i].Ty);
3278     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
3279       AttrBuilder B(ArgList[i].Attrs, i + 1);
3280       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
3281     }
3282   }
3283
3284   if (FuncAttrs.hasAttributes())
3285     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3286                                       AttributeSet::FunctionIndex,
3287                                       FuncAttrs));
3288
3289   AttributeSet PAL = AttributeSet::get(Context, Attrs);
3290
3291   if (PAL.hasAttribute(1, Attribute::StructRet) && !RetType->isVoidTy())
3292     return Error(RetTypeLoc, "functions with 'sret' argument must return void");
3293
3294   FunctionType *FT =
3295     FunctionType::get(RetType, ParamTypeList, isVarArg);
3296   PointerType *PFT = PointerType::getUnqual(FT);
3297
3298   Fn = nullptr;
3299   if (!FunctionName.empty()) {
3300     // If this was a definition of a forward reference, remove the definition
3301     // from the forward reference table and fill in the forward ref.
3302     std::map<std::string, std::pair<GlobalValue*, LocTy> >::iterator FRVI =
3303       ForwardRefVals.find(FunctionName);
3304     if (FRVI != ForwardRefVals.end()) {
3305       Fn = M->getFunction(FunctionName);
3306       if (!Fn)
3307         return Error(FRVI->second.second, "invalid forward reference to "
3308                      "function as global value!");
3309       if (Fn->getType() != PFT)
3310         return Error(FRVI->second.second, "invalid forward reference to "
3311                      "function '" + FunctionName + "' with wrong type!");
3312
3313       ForwardRefVals.erase(FRVI);
3314     } else if ((Fn = M->getFunction(FunctionName))) {
3315       // Reject redefinitions.
3316       return Error(NameLoc, "invalid redefinition of function '" +
3317                    FunctionName + "'");
3318     } else if (M->getNamedValue(FunctionName)) {
3319       return Error(NameLoc, "redefinition of function '@" + FunctionName + "'");
3320     }
3321
3322   } else {
3323     // If this is a definition of a forward referenced function, make sure the
3324     // types agree.
3325     std::map<unsigned, std::pair<GlobalValue*, LocTy> >::iterator I
3326       = ForwardRefValIDs.find(NumberedVals.size());
3327     if (I != ForwardRefValIDs.end()) {
3328       Fn = cast<Function>(I->second.first);
3329       if (Fn->getType() != PFT)
3330         return Error(NameLoc, "type of definition and forward reference of '@" +
3331                      Twine(NumberedVals.size()) + "' disagree");
3332       ForwardRefValIDs.erase(I);
3333     }
3334   }
3335
3336   if (!Fn)
3337     Fn = Function::Create(FT, GlobalValue::ExternalLinkage, FunctionName, M);
3338   else // Move the forward-reference to the correct spot in the module.
3339     M->getFunctionList().splice(M->end(), M->getFunctionList(), Fn);
3340
3341   if (FunctionName.empty())
3342     NumberedVals.push_back(Fn);
3343
3344   Fn->setLinkage((GlobalValue::LinkageTypes)Linkage);
3345   Fn->setVisibility((GlobalValue::VisibilityTypes)Visibility);
3346   Fn->setDLLStorageClass((GlobalValue::DLLStorageClassTypes)DLLStorageClass);
3347   Fn->setCallingConv(CC);
3348   Fn->setAttributes(PAL);
3349   Fn->setUnnamedAddr(UnnamedAddr);
3350   Fn->setAlignment(Alignment);
3351   Fn->setSection(Section);
3352   Fn->setComdat(C);
3353   if (!GC.empty()) Fn->setGC(GC.c_str());
3354   Fn->setPrefixData(Prefix);
3355   Fn->setPrologueData(Prologue);
3356   ForwardRefAttrGroups[Fn] = FwdRefAttrGrps;
3357
3358   // Add all of the arguments we parsed to the function.
3359   Function::arg_iterator ArgIt = Fn->arg_begin();
3360   for (unsigned i = 0, e = ArgList.size(); i != e; ++i, ++ArgIt) {
3361     // If the argument has a name, insert it into the argument symbol table.
3362     if (ArgList[i].Name.empty()) continue;
3363
3364     // Set the name, if it conflicted, it will be auto-renamed.
3365     ArgIt->setName(ArgList[i].Name);
3366
3367     if (ArgIt->getName() != ArgList[i].Name)
3368       return Error(ArgList[i].Loc, "redefinition of argument '%" +
3369                    ArgList[i].Name + "'");
3370   }
3371
3372   if (isDefine)
3373     return false;
3374
3375   // Check the declaration has no block address forward references.
3376   ValID ID;
3377   if (FunctionName.empty()) {
3378     ID.Kind = ValID::t_GlobalID;
3379     ID.UIntVal = NumberedVals.size() - 1;
3380   } else {
3381     ID.Kind = ValID::t_GlobalName;
3382     ID.StrVal = FunctionName;
3383   }
3384   auto Blocks = ForwardRefBlockAddresses.find(ID);
3385   if (Blocks != ForwardRefBlockAddresses.end())
3386     return Error(Blocks->first.Loc,
3387                  "cannot take blockaddress inside a declaration");
3388   return false;
3389 }
3390
3391 bool LLParser::PerFunctionState::resolveForwardRefBlockAddresses() {
3392   ValID ID;
3393   if (FunctionNumber == -1) {
3394     ID.Kind = ValID::t_GlobalName;
3395     ID.StrVal = F.getName();
3396   } else {
3397     ID.Kind = ValID::t_GlobalID;
3398     ID.UIntVal = FunctionNumber;
3399   }
3400
3401   auto Blocks = P.ForwardRefBlockAddresses.find(ID);
3402   if (Blocks == P.ForwardRefBlockAddresses.end())
3403     return false;
3404
3405   for (const auto &I : Blocks->second) {
3406     const ValID &BBID = I.first;
3407     GlobalValue *GV = I.second;
3408
3409     assert((BBID.Kind == ValID::t_LocalID || BBID.Kind == ValID::t_LocalName) &&
3410            "Expected local id or name");
3411     BasicBlock *BB;
3412     if (BBID.Kind == ValID::t_LocalName)
3413       BB = GetBB(BBID.StrVal, BBID.Loc);
3414     else
3415       BB = GetBB(BBID.UIntVal, BBID.Loc);
3416     if (!BB)
3417       return P.Error(BBID.Loc, "referenced value is not a basic block");
3418
3419     GV->replaceAllUsesWith(BlockAddress::get(&F, BB));
3420     GV->eraseFromParent();
3421   }
3422
3423   P.ForwardRefBlockAddresses.erase(Blocks);
3424   return false;
3425 }
3426
3427 /// ParseFunctionBody
3428 ///   ::= '{' BasicBlock+ UseListOrderDirective* '}'
3429 bool LLParser::ParseFunctionBody(Function &Fn) {
3430   if (Lex.getKind() != lltok::lbrace)
3431     return TokError("expected '{' in function body");
3432   Lex.Lex();  // eat the {.
3433
3434   int FunctionNumber = -1;
3435   if (!Fn.hasName()) FunctionNumber = NumberedVals.size()-1;
3436
3437   PerFunctionState PFS(*this, Fn, FunctionNumber);
3438
3439   // Resolve block addresses and allow basic blocks to be forward-declared
3440   // within this function.
3441   if (PFS.resolveForwardRefBlockAddresses())
3442     return true;
3443   SaveAndRestore<PerFunctionState *> ScopeExit(BlockAddressPFS, &PFS);
3444
3445   // We need at least one basic block.
3446   if (Lex.getKind() == lltok::rbrace || Lex.getKind() == lltok::kw_uselistorder)
3447     return TokError("function body requires at least one basic block");
3448
3449   while (Lex.getKind() != lltok::rbrace &&
3450          Lex.getKind() != lltok::kw_uselistorder)
3451     if (ParseBasicBlock(PFS)) return true;
3452
3453   while (Lex.getKind() != lltok::rbrace)
3454     if (ParseUseListOrder(&PFS))
3455       return true;
3456
3457   // Eat the }.
3458   Lex.Lex();
3459
3460   // Verify function is ok.
3461   return PFS.FinishFunction();
3462 }
3463
3464 /// ParseBasicBlock
3465 ///   ::= LabelStr? Instruction*
3466 bool LLParser::ParseBasicBlock(PerFunctionState &PFS) {
3467   // If this basic block starts out with a name, remember it.
3468   std::string Name;
3469   LocTy NameLoc = Lex.getLoc();
3470   if (Lex.getKind() == lltok::LabelStr) {
3471     Name = Lex.getStrVal();
3472     Lex.Lex();
3473   }
3474
3475   BasicBlock *BB = PFS.DefineBB(Name, NameLoc);
3476   if (!BB) return true;
3477
3478   std::string NameStr;
3479
3480   // Parse the instructions in this block until we get a terminator.
3481   Instruction *Inst;
3482   do {
3483     // This instruction may have three possibilities for a name: a) none
3484     // specified, b) name specified "%foo =", c) number specified: "%4 =".
3485     LocTy NameLoc = Lex.getLoc();
3486     int NameID = -1;
3487     NameStr = "";
3488
3489     if (Lex.getKind() == lltok::LocalVarID) {
3490       NameID = Lex.getUIntVal();
3491       Lex.Lex();
3492       if (ParseToken(lltok::equal, "expected '=' after instruction id"))
3493         return true;
3494     } else if (Lex.getKind() == lltok::LocalVar) {
3495       NameStr = Lex.getStrVal();
3496       Lex.Lex();
3497       if (ParseToken(lltok::equal, "expected '=' after instruction name"))
3498         return true;
3499     }
3500
3501     switch (ParseInstruction(Inst, BB, PFS)) {
3502     default: llvm_unreachable("Unknown ParseInstruction result!");
3503     case InstError: return true;
3504     case InstNormal:
3505       BB->getInstList().push_back(Inst);
3506
3507       // With a normal result, we check to see if the instruction is followed by
3508       // a comma and metadata.
3509       if (EatIfPresent(lltok::comma))
3510         if (ParseInstructionMetadata(Inst, &PFS))
3511           return true;
3512       break;
3513     case InstExtraComma:
3514       BB->getInstList().push_back(Inst);
3515
3516       // If the instruction parser ate an extra comma at the end of it, it
3517       // *must* be followed by metadata.
3518       if (ParseInstructionMetadata(Inst, &PFS))
3519         return true;
3520       break;
3521     }
3522
3523     // Set the name on the instruction.
3524     if (PFS.SetInstName(NameID, NameStr, NameLoc, Inst)) return true;
3525   } while (!isa<TerminatorInst>(Inst));
3526
3527   return false;
3528 }
3529
3530 //===----------------------------------------------------------------------===//
3531 // Instruction Parsing.
3532 //===----------------------------------------------------------------------===//
3533
3534 /// ParseInstruction - Parse one of the many different instructions.
3535 ///
3536 int LLParser::ParseInstruction(Instruction *&Inst, BasicBlock *BB,
3537                                PerFunctionState &PFS) {
3538   lltok::Kind Token = Lex.getKind();
3539   if (Token == lltok::Eof)
3540     return TokError("found end of file when expecting more instructions");
3541   LocTy Loc = Lex.getLoc();
3542   unsigned KeywordVal = Lex.getUIntVal();
3543   Lex.Lex();  // Eat the keyword.
3544
3545   switch (Token) {
3546   default:                    return Error(Loc, "expected instruction opcode");
3547   // Terminator Instructions.
3548   case lltok::kw_unreachable: Inst = new UnreachableInst(Context); return false;
3549   case lltok::kw_ret:         return ParseRet(Inst, BB, PFS);
3550   case lltok::kw_br:          return ParseBr(Inst, PFS);
3551   case lltok::kw_switch:      return ParseSwitch(Inst, PFS);
3552   case lltok::kw_indirectbr:  return ParseIndirectBr(Inst, PFS);
3553   case lltok::kw_invoke:      return ParseInvoke(Inst, PFS);
3554   case lltok::kw_resume:      return ParseResume(Inst, PFS);
3555   // Binary Operators.
3556   case lltok::kw_add:
3557   case lltok::kw_sub:
3558   case lltok::kw_mul:
3559   case lltok::kw_shl: {
3560     bool NUW = EatIfPresent(lltok::kw_nuw);
3561     bool NSW = EatIfPresent(lltok::kw_nsw);
3562     if (!NUW) NUW = EatIfPresent(lltok::kw_nuw);
3563
3564     if (ParseArithmetic(Inst, PFS, KeywordVal, 1)) return true;
3565
3566     if (NUW) cast<BinaryOperator>(Inst)->setHasNoUnsignedWrap(true);
3567     if (NSW) cast<BinaryOperator>(Inst)->setHasNoSignedWrap(true);
3568     return false;
3569   }
3570   case lltok::kw_fadd:
3571   case lltok::kw_fsub:
3572   case lltok::kw_fmul:
3573   case lltok::kw_fdiv:
3574   case lltok::kw_frem: {
3575     FastMathFlags FMF = EatFastMathFlagsIfPresent();
3576     int Res = ParseArithmetic(Inst, PFS, KeywordVal, 2);
3577     if (Res != 0)
3578       return Res;
3579     if (FMF.any())
3580       Inst->setFastMathFlags(FMF);
3581     return 0;
3582   }
3583
3584   case lltok::kw_sdiv:
3585   case lltok::kw_udiv:
3586   case lltok::kw_lshr:
3587   case lltok::kw_ashr: {
3588     bool Exact = EatIfPresent(lltok::kw_exact);
3589
3590     if (ParseArithmetic(Inst, PFS, KeywordVal, 1)) return true;
3591     if (Exact) cast<BinaryOperator>(Inst)->setIsExact(true);
3592     return false;
3593   }
3594
3595   case lltok::kw_urem:
3596   case lltok::kw_srem:   return ParseArithmetic(Inst, PFS, KeywordVal, 1);
3597   case lltok::kw_and:
3598   case lltok::kw_or:
3599   case lltok::kw_xor:    return ParseLogical(Inst, PFS, KeywordVal);
3600   case lltok::kw_icmp:
3601   case lltok::kw_fcmp:   return ParseCompare(Inst, PFS, KeywordVal);
3602   // Casts.
3603   case lltok::kw_trunc:
3604   case lltok::kw_zext:
3605   case lltok::kw_sext:
3606   case lltok::kw_fptrunc:
3607   case lltok::kw_fpext:
3608   case lltok::kw_bitcast:
3609   case lltok::kw_addrspacecast:
3610   case lltok::kw_uitofp:
3611   case lltok::kw_sitofp:
3612   case lltok::kw_fptoui:
3613   case lltok::kw_fptosi:
3614   case lltok::kw_inttoptr:
3615   case lltok::kw_ptrtoint:       return ParseCast(Inst, PFS, KeywordVal);
3616   // Other.
3617   case lltok::kw_select:         return ParseSelect(Inst, PFS);
3618   case lltok::kw_va_arg:         return ParseVA_Arg(Inst, PFS);
3619   case lltok::kw_extractelement: return ParseExtractElement(Inst, PFS);
3620   case lltok::kw_insertelement:  return ParseInsertElement(Inst, PFS);
3621   case lltok::kw_shufflevector:  return ParseShuffleVector(Inst, PFS);
3622   case lltok::kw_phi:            return ParsePHI(Inst, PFS);
3623   case lltok::kw_landingpad:     return ParseLandingPad(Inst, PFS);
3624   // Call.
3625   case lltok::kw_call:     return ParseCall(Inst, PFS, CallInst::TCK_None);
3626   case lltok::kw_tail:     return ParseCall(Inst, PFS, CallInst::TCK_Tail);
3627   case lltok::kw_musttail: return ParseCall(Inst, PFS, CallInst::TCK_MustTail);
3628   // Memory.
3629   case lltok::kw_alloca:         return ParseAlloc(Inst, PFS);
3630   case lltok::kw_load:           return ParseLoad(Inst, PFS);
3631   case lltok::kw_store:          return ParseStore(Inst, PFS);
3632   case lltok::kw_cmpxchg:        return ParseCmpXchg(Inst, PFS);
3633   case lltok::kw_atomicrmw:      return ParseAtomicRMW(Inst, PFS);
3634   case lltok::kw_fence:          return ParseFence(Inst, PFS);
3635   case lltok::kw_getelementptr: return ParseGetElementPtr(Inst, PFS);
3636   case lltok::kw_extractvalue:  return ParseExtractValue(Inst, PFS);
3637   case lltok::kw_insertvalue:   return ParseInsertValue(Inst, PFS);
3638   }
3639 }
3640
3641 /// ParseCmpPredicate - Parse an integer or fp predicate, based on Kind.
3642 bool LLParser::ParseCmpPredicate(unsigned &P, unsigned Opc) {
3643   if (Opc == Instruction::FCmp) {
3644     switch (Lex.getKind()) {
3645     default: return TokError("expected fcmp predicate (e.g. 'oeq')");
3646     case lltok::kw_oeq: P = CmpInst::FCMP_OEQ; break;
3647     case lltok::kw_one: P = CmpInst::FCMP_ONE; break;
3648     case lltok::kw_olt: P = CmpInst::FCMP_OLT; break;
3649     case lltok::kw_ogt: P = CmpInst::FCMP_OGT; break;
3650     case lltok::kw_ole: P = CmpInst::FCMP_OLE; break;
3651     case lltok::kw_oge: P = CmpInst::FCMP_OGE; break;
3652     case lltok::kw_ord: P = CmpInst::FCMP_ORD; break;
3653     case lltok::kw_uno: P = CmpInst::FCMP_UNO; break;
3654     case lltok::kw_ueq: P = CmpInst::FCMP_UEQ; break;
3655     case lltok::kw_une: P = CmpInst::FCMP_UNE; break;
3656     case lltok::kw_ult: P = CmpInst::FCMP_ULT; break;
3657     case lltok::kw_ugt: P = CmpInst::FCMP_UGT; break;
3658     case lltok::kw_ule: P = CmpInst::FCMP_ULE; break;
3659     case lltok::kw_uge: P = CmpInst::FCMP_UGE; break;
3660     case lltok::kw_true: P = CmpInst::FCMP_TRUE; break;
3661     case lltok::kw_false: P = CmpInst::FCMP_FALSE; break;
3662     }
3663   } else {
3664     switch (Lex.getKind()) {
3665     default: return TokError("expected icmp predicate (e.g. 'eq')");
3666     case lltok::kw_eq:  P = CmpInst::ICMP_EQ; break;
3667     case lltok::kw_ne:  P = CmpInst::ICMP_NE; break;
3668     case lltok::kw_slt: P = CmpInst::ICMP_SLT; break;
3669     case lltok::kw_sgt: P = CmpInst::ICMP_SGT; break;
3670     case lltok::kw_sle: P = CmpInst::ICMP_SLE; break;
3671     case lltok::kw_sge: P = CmpInst::ICMP_SGE; break;
3672     case lltok::kw_ult: P = CmpInst::ICMP_ULT; break;
3673     case lltok::kw_ugt: P = CmpInst::ICMP_UGT; break;
3674     case lltok::kw_ule: P = CmpInst::ICMP_ULE; break;
3675     case lltok::kw_uge: P = CmpInst::ICMP_UGE; break;
3676     }
3677   }
3678   Lex.Lex();
3679   return false;
3680 }
3681
3682 //===----------------------------------------------------------------------===//
3683 // Terminator Instructions.
3684 //===----------------------------------------------------------------------===//
3685
3686 /// ParseRet - Parse a return instruction.
3687 ///   ::= 'ret' void (',' !dbg, !1)*
3688 ///   ::= 'ret' TypeAndValue (',' !dbg, !1)*
3689 bool LLParser::ParseRet(Instruction *&Inst, BasicBlock *BB,
3690                         PerFunctionState &PFS) {
3691   SMLoc TypeLoc = Lex.getLoc();
3692   Type *Ty = nullptr;
3693   if (ParseType(Ty, true /*void allowed*/)) return true;
3694
3695   Type *ResType = PFS.getFunction().getReturnType();
3696
3697   if (Ty->isVoidTy()) {
3698     if (!ResType->isVoidTy())
3699       return Error(TypeLoc, "value doesn't match function result type '" +
3700                    getTypeString(ResType) + "'");
3701
3702     Inst = ReturnInst::Create(Context);
3703     return false;
3704   }
3705
3706   Value *RV;
3707   if (ParseValue(Ty, RV, PFS)) return true;
3708
3709   if (ResType != RV->getType())
3710     return Error(TypeLoc, "value doesn't match function result type '" +
3711                  getTypeString(ResType) + "'");
3712
3713   Inst = ReturnInst::Create(Context, RV);
3714   return false;
3715 }
3716
3717
3718 /// ParseBr
3719 ///   ::= 'br' TypeAndValue
3720 ///   ::= 'br' TypeAndValue ',' TypeAndValue ',' TypeAndValue
3721 bool LLParser::ParseBr(Instruction *&Inst, PerFunctionState &PFS) {
3722   LocTy Loc, Loc2;
3723   Value *Op0;
3724   BasicBlock *Op1, *Op2;
3725   if (ParseTypeAndValue(Op0, Loc, PFS)) return true;
3726
3727   if (BasicBlock *BB = dyn_cast<BasicBlock>(Op0)) {
3728     Inst = BranchInst::Create(BB);
3729     return false;
3730   }
3731
3732   if (Op0->getType() != Type::getInt1Ty(Context))
3733     return Error(Loc, "branch condition must have 'i1' type");
3734
3735   if (ParseToken(lltok::comma, "expected ',' after branch condition") ||
3736       ParseTypeAndBasicBlock(Op1, Loc, PFS) ||
3737       ParseToken(lltok::comma, "expected ',' after true destination") ||
3738       ParseTypeAndBasicBlock(Op2, Loc2, PFS))
3739     return true;
3740
3741   Inst = BranchInst::Create(Op1, Op2, Op0);
3742   return false;
3743 }
3744
3745 /// ParseSwitch
3746 ///  Instruction
3747 ///    ::= 'switch' TypeAndValue ',' TypeAndValue '[' JumpTable ']'
3748 ///  JumpTable
3749 ///    ::= (TypeAndValue ',' TypeAndValue)*
3750 bool LLParser::ParseSwitch(Instruction *&Inst, PerFunctionState &PFS) {
3751   LocTy CondLoc, BBLoc;
3752   Value *Cond;
3753   BasicBlock *DefaultBB;
3754   if (ParseTypeAndValue(Cond, CondLoc, PFS) ||
3755       ParseToken(lltok::comma, "expected ',' after switch condition") ||
3756       ParseTypeAndBasicBlock(DefaultBB, BBLoc, PFS) ||
3757       ParseToken(lltok::lsquare, "expected '[' with switch table"))
3758     return true;
3759
3760   if (!Cond->getType()->isIntegerTy())
3761     return Error(CondLoc, "switch condition must have integer type");
3762
3763   // Parse the jump table pairs.
3764   SmallPtrSet<Value*, 32> SeenCases;
3765   SmallVector<std::pair<ConstantInt*, BasicBlock*>, 32> Table;
3766   while (Lex.getKind() != lltok::rsquare) {
3767     Value *Constant;
3768     BasicBlock *DestBB;
3769
3770     if (ParseTypeAndValue(Constant, CondLoc, PFS) ||
3771         ParseToken(lltok::comma, "expected ',' after case value") ||
3772         ParseTypeAndBasicBlock(DestBB, PFS))
3773       return true;
3774
3775     if (!SeenCases.insert(Constant).second)
3776       return Error(CondLoc, "duplicate case value in switch");
3777     if (!isa<ConstantInt>(Constant))
3778       return Error(CondLoc, "case value is not a constant integer");
3779
3780     Table.push_back(std::make_pair(cast<ConstantInt>(Constant), DestBB));
3781   }
3782
3783   Lex.Lex();  // Eat the ']'.
3784
3785   SwitchInst *SI = SwitchInst::Create(Cond, DefaultBB, Table.size());
3786   for (unsigned i = 0, e = Table.size(); i != e; ++i)
3787     SI->addCase(Table[i].first, Table[i].second);
3788   Inst = SI;
3789   return false;
3790 }
3791
3792 /// ParseIndirectBr
3793 ///  Instruction
3794 ///    ::= 'indirectbr' TypeAndValue ',' '[' LabelList ']'
3795 bool LLParser::ParseIndirectBr(Instruction *&Inst, PerFunctionState &PFS) {
3796   LocTy AddrLoc;
3797   Value *Address;
3798   if (ParseTypeAndValue(Address, AddrLoc, PFS) ||
3799       ParseToken(lltok::comma, "expected ',' after indirectbr address") ||
3800       ParseToken(lltok::lsquare, "expected '[' with indirectbr"))
3801     return true;
3802
3803   if (!Address->getType()->isPointerTy())
3804     return Error(AddrLoc, "indirectbr address must have pointer type");
3805
3806   // Parse the destination list.
3807   SmallVector<BasicBlock*, 16> DestList;
3808
3809   if (Lex.getKind() != lltok::rsquare) {
3810     BasicBlock *DestBB;
3811     if (ParseTypeAndBasicBlock(DestBB, PFS))
3812       return true;
3813     DestList.push_back(DestBB);
3814
3815     while (EatIfPresent(lltok::comma)) {
3816       if (ParseTypeAndBasicBlock(DestBB, PFS))
3817         return true;
3818       DestList.push_back(DestBB);
3819     }
3820   }
3821
3822   if (ParseToken(lltok::rsquare, "expected ']' at end of block list"))
3823     return true;
3824
3825   IndirectBrInst *IBI = IndirectBrInst::Create(Address, DestList.size());
3826   for (unsigned i = 0, e = DestList.size(); i != e; ++i)
3827     IBI->addDestination(DestList[i]);
3828   Inst = IBI;
3829   return false;
3830 }
3831
3832
3833 /// ParseInvoke
3834 ///   ::= 'invoke' OptionalCallingConv OptionalAttrs Type Value ParamList
3835 ///       OptionalAttrs 'to' TypeAndValue 'unwind' TypeAndValue
3836 bool LLParser::ParseInvoke(Instruction *&Inst, PerFunctionState &PFS) {
3837   LocTy CallLoc = Lex.getLoc();
3838   AttrBuilder RetAttrs, FnAttrs;
3839   std::vector<unsigned> FwdRefAttrGrps;
3840   LocTy NoBuiltinLoc;
3841   unsigned CC;
3842   Type *RetType = nullptr;
3843   LocTy RetTypeLoc;
3844   ValID CalleeID;
3845   SmallVector<ParamInfo, 16> ArgList;
3846
3847   BasicBlock *NormalBB, *UnwindBB;
3848   if (ParseOptionalCallingConv(CC) ||
3849       ParseOptionalReturnAttrs(RetAttrs) ||
3850       ParseType(RetType, RetTypeLoc, true /*void allowed*/) ||
3851       ParseValID(CalleeID) ||
3852       ParseParameterList(ArgList, PFS) ||
3853       ParseFnAttributeValuePairs(FnAttrs, FwdRefAttrGrps, false,
3854                                  NoBuiltinLoc) ||
3855       ParseToken(lltok::kw_to, "expected 'to' in invoke") ||
3856       ParseTypeAndBasicBlock(NormalBB, PFS) ||
3857       ParseToken(lltok::kw_unwind, "expected 'unwind' in invoke") ||
3858       ParseTypeAndBasicBlock(UnwindBB, PFS))
3859     return true;
3860
3861   // If RetType is a non-function pointer type, then this is the short syntax
3862   // for the call, which means that RetType is just the return type.  Infer the
3863   // rest of the function argument types from the arguments that are present.
3864   PointerType *PFTy = nullptr;
3865   FunctionType *Ty = nullptr;
3866   if (!(PFTy = dyn_cast<PointerType>(RetType)) ||
3867       !(Ty = dyn_cast<FunctionType>(PFTy->getElementType()))) {
3868     // Pull out the types of all of the arguments...
3869     std::vector<Type*> ParamTypes;
3870     for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
3871       ParamTypes.push_back(ArgList[i].V->getType());
3872
3873     if (!FunctionType::isValidReturnType(RetType))
3874       return Error(RetTypeLoc, "Invalid result type for LLVM function");
3875
3876     Ty = FunctionType::get(RetType, ParamTypes, false);
3877     PFTy = PointerType::getUnqual(Ty);
3878   }
3879
3880   // Look up the callee.
3881   Value *Callee;
3882   if (ConvertValIDToValue(PFTy, CalleeID, Callee, &PFS)) return true;
3883
3884   // Set up the Attribute for the function.
3885   SmallVector<AttributeSet, 8> Attrs;
3886   if (RetAttrs.hasAttributes())
3887     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3888                                       AttributeSet::ReturnIndex,
3889                                       RetAttrs));
3890
3891   SmallVector<Value*, 8> Args;
3892
3893   // Loop through FunctionType's arguments and ensure they are specified
3894   // correctly.  Also, gather any parameter attributes.
3895   FunctionType::param_iterator I = Ty->param_begin();
3896   FunctionType::param_iterator E = Ty->param_end();
3897   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
3898     Type *ExpectedTy = nullptr;
3899     if (I != E) {
3900       ExpectedTy = *I++;
3901     } else if (!Ty->isVarArg()) {
3902       return Error(ArgList[i].Loc, "too many arguments specified");
3903     }
3904
3905     if (ExpectedTy && ExpectedTy != ArgList[i].V->getType())
3906       return Error(ArgList[i].Loc, "argument is not of expected type '" +
3907                    getTypeString(ExpectedTy) + "'");
3908     Args.push_back(ArgList[i].V);
3909     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
3910       AttrBuilder B(ArgList[i].Attrs, i + 1);
3911       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
3912     }
3913   }
3914
3915   if (I != E)
3916     return Error(CallLoc, "not enough parameters specified for call");
3917
3918   if (FnAttrs.hasAttributes())
3919     Attrs.push_back(AttributeSet::get(RetType->getContext(),
3920                                       AttributeSet::FunctionIndex,
3921                                       FnAttrs));
3922
3923   // Finish off the Attribute and check them
3924   AttributeSet PAL = AttributeSet::get(Context, Attrs);
3925
3926   InvokeInst *II = InvokeInst::Create(Callee, NormalBB, UnwindBB, Args);
3927   II->setCallingConv(CC);
3928   II->setAttributes(PAL);
3929   ForwardRefAttrGroups[II] = FwdRefAttrGrps;
3930   Inst = II;
3931   return false;
3932 }
3933
3934 /// ParseResume
3935 ///   ::= 'resume' TypeAndValue
3936 bool LLParser::ParseResume(Instruction *&Inst, PerFunctionState &PFS) {
3937   Value *Exn; LocTy ExnLoc;
3938   if (ParseTypeAndValue(Exn, ExnLoc, PFS))
3939     return true;
3940
3941   ResumeInst *RI = ResumeInst::Create(Exn);
3942   Inst = RI;
3943   return false;
3944 }
3945
3946 //===----------------------------------------------------------------------===//
3947 // Binary Operators.
3948 //===----------------------------------------------------------------------===//
3949
3950 /// ParseArithmetic
3951 ///  ::= ArithmeticOps TypeAndValue ',' Value
3952 ///
3953 /// If OperandType is 0, then any FP or integer operand is allowed.  If it is 1,
3954 /// then any integer operand is allowed, if it is 2, any fp operand is allowed.
3955 bool LLParser::ParseArithmetic(Instruction *&Inst, PerFunctionState &PFS,
3956                                unsigned Opc, unsigned OperandType) {
3957   LocTy Loc; Value *LHS, *RHS;
3958   if (ParseTypeAndValue(LHS, Loc, PFS) ||
3959       ParseToken(lltok::comma, "expected ',' in arithmetic operation") ||
3960       ParseValue(LHS->getType(), RHS, PFS))
3961     return true;
3962
3963   bool Valid;
3964   switch (OperandType) {
3965   default: llvm_unreachable("Unknown operand type!");
3966   case 0: // int or FP.
3967     Valid = LHS->getType()->isIntOrIntVectorTy() ||
3968             LHS->getType()->isFPOrFPVectorTy();
3969     break;
3970   case 1: Valid = LHS->getType()->isIntOrIntVectorTy(); break;
3971   case 2: Valid = LHS->getType()->isFPOrFPVectorTy(); break;
3972   }
3973
3974   if (!Valid)
3975     return Error(Loc, "invalid operand type for instruction");
3976
3977   Inst = BinaryOperator::Create((Instruction::BinaryOps)Opc, LHS, RHS);
3978   return false;
3979 }
3980
3981 /// ParseLogical
3982 ///  ::= ArithmeticOps TypeAndValue ',' Value {
3983 bool LLParser::ParseLogical(Instruction *&Inst, PerFunctionState &PFS,
3984                             unsigned Opc) {
3985   LocTy Loc; Value *LHS, *RHS;
3986   if (ParseTypeAndValue(LHS, Loc, PFS) ||
3987       ParseToken(lltok::comma, "expected ',' in logical operation") ||
3988       ParseValue(LHS->getType(), RHS, PFS))
3989     return true;
3990
3991   if (!LHS->getType()->isIntOrIntVectorTy())
3992     return Error(Loc,"instruction requires integer or integer vector operands");
3993
3994   Inst = BinaryOperator::Create((Instruction::BinaryOps)Opc, LHS, RHS);
3995   return false;
3996 }
3997
3998
3999 /// ParseCompare
4000 ///  ::= 'icmp' IPredicates TypeAndValue ',' Value
4001 ///  ::= 'fcmp' FPredicates TypeAndValue ',' Value
4002 bool LLParser::ParseCompare(Instruction *&Inst, PerFunctionState &PFS,
4003                             unsigned Opc) {
4004   // Parse the integer/fp comparison predicate.
4005   LocTy Loc;
4006   unsigned Pred;
4007   Value *LHS, *RHS;
4008   if (ParseCmpPredicate(Pred, Opc) ||
4009       ParseTypeAndValue(LHS, Loc, PFS) ||
4010       ParseToken(lltok::comma, "expected ',' after compare value") ||
4011       ParseValue(LHS->getType(), RHS, PFS))
4012     return true;
4013
4014   if (Opc == Instruction::FCmp) {
4015     if (!LHS->getType()->isFPOrFPVectorTy())
4016       return Error(Loc, "fcmp requires floating point operands");
4017     Inst = new FCmpInst(CmpInst::Predicate(Pred), LHS, RHS);
4018   } else {
4019     assert(Opc == Instruction::ICmp && "Unknown opcode for CmpInst!");
4020     if (!LHS->getType()->isIntOrIntVectorTy() &&
4021         !LHS->getType()->getScalarType()->isPointerTy())
4022       return Error(Loc, "icmp requires integer operands");
4023     Inst = new ICmpInst(CmpInst::Predicate(Pred), LHS, RHS);
4024   }
4025   return false;
4026 }
4027
4028 //===----------------------------------------------------------------------===//
4029 // Other Instructions.
4030 //===----------------------------------------------------------------------===//
4031
4032
4033 /// ParseCast
4034 ///   ::= CastOpc TypeAndValue 'to' Type
4035 bool LLParser::ParseCast(Instruction *&Inst, PerFunctionState &PFS,
4036                          unsigned Opc) {
4037   LocTy Loc;
4038   Value *Op;
4039   Type *DestTy = nullptr;
4040   if (ParseTypeAndValue(Op, Loc, PFS) ||
4041       ParseToken(lltok::kw_to, "expected 'to' after cast value") ||
4042       ParseType(DestTy))
4043     return true;
4044
4045   if (!CastInst::castIsValid((Instruction::CastOps)Opc, Op, DestTy)) {
4046     CastInst::castIsValid((Instruction::CastOps)Opc, Op, DestTy);
4047     return Error(Loc, "invalid cast opcode for cast from '" +
4048                  getTypeString(Op->getType()) + "' to '" +
4049                  getTypeString(DestTy) + "'");
4050   }
4051   Inst = CastInst::Create((Instruction::CastOps)Opc, Op, DestTy);
4052   return false;
4053 }
4054
4055 /// ParseSelect
4056 ///   ::= 'select' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4057 bool LLParser::ParseSelect(Instruction *&Inst, PerFunctionState &PFS) {
4058   LocTy Loc;
4059   Value *Op0, *Op1, *Op2;
4060   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4061       ParseToken(lltok::comma, "expected ',' after select condition") ||
4062       ParseTypeAndValue(Op1, PFS) ||
4063       ParseToken(lltok::comma, "expected ',' after select value") ||
4064       ParseTypeAndValue(Op2, PFS))
4065     return true;
4066
4067   if (const char *Reason = SelectInst::areInvalidOperands(Op0, Op1, Op2))
4068     return Error(Loc, Reason);
4069
4070   Inst = SelectInst::Create(Op0, Op1, Op2);
4071   return false;
4072 }
4073
4074 /// ParseVA_Arg
4075 ///   ::= 'va_arg' TypeAndValue ',' Type
4076 bool LLParser::ParseVA_Arg(Instruction *&Inst, PerFunctionState &PFS) {
4077   Value *Op;
4078   Type *EltTy = nullptr;
4079   LocTy TypeLoc;
4080   if (ParseTypeAndValue(Op, PFS) ||
4081       ParseToken(lltok::comma, "expected ',' after vaarg operand") ||
4082       ParseType(EltTy, TypeLoc))
4083     return true;
4084
4085   if (!EltTy->isFirstClassType())
4086     return Error(TypeLoc, "va_arg requires operand with first class type");
4087
4088   Inst = new VAArgInst(Op, EltTy);
4089   return false;
4090 }
4091
4092 /// ParseExtractElement
4093 ///   ::= 'extractelement' TypeAndValue ',' TypeAndValue
4094 bool LLParser::ParseExtractElement(Instruction *&Inst, PerFunctionState &PFS) {
4095   LocTy Loc;
4096   Value *Op0, *Op1;
4097   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4098       ParseToken(lltok::comma, "expected ',' after extract value") ||
4099       ParseTypeAndValue(Op1, PFS))
4100     return true;
4101
4102   if (!ExtractElementInst::isValidOperands(Op0, Op1))
4103     return Error(Loc, "invalid extractelement operands");
4104
4105   Inst = ExtractElementInst::Create(Op0, Op1);
4106   return false;
4107 }
4108
4109 /// ParseInsertElement
4110 ///   ::= 'insertelement' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4111 bool LLParser::ParseInsertElement(Instruction *&Inst, PerFunctionState &PFS) {
4112   LocTy Loc;
4113   Value *Op0, *Op1, *Op2;
4114   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4115       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4116       ParseTypeAndValue(Op1, PFS) ||
4117       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4118       ParseTypeAndValue(Op2, PFS))
4119     return true;
4120
4121   if (!InsertElementInst::isValidOperands(Op0, Op1, Op2))
4122     return Error(Loc, "invalid insertelement operands");
4123
4124   Inst = InsertElementInst::Create(Op0, Op1, Op2);
4125   return false;
4126 }
4127
4128 /// ParseShuffleVector
4129 ///   ::= 'shufflevector' TypeAndValue ',' TypeAndValue ',' TypeAndValue
4130 bool LLParser::ParseShuffleVector(Instruction *&Inst, PerFunctionState &PFS) {
4131   LocTy Loc;
4132   Value *Op0, *Op1, *Op2;
4133   if (ParseTypeAndValue(Op0, Loc, PFS) ||
4134       ParseToken(lltok::comma, "expected ',' after shuffle mask") ||
4135       ParseTypeAndValue(Op1, PFS) ||
4136       ParseToken(lltok::comma, "expected ',' after shuffle value") ||
4137       ParseTypeAndValue(Op2, PFS))
4138     return true;
4139
4140   if (!ShuffleVectorInst::isValidOperands(Op0, Op1, Op2))
4141     return Error(Loc, "invalid shufflevector operands");
4142
4143   Inst = new ShuffleVectorInst(Op0, Op1, Op2);
4144   return false;
4145 }
4146
4147 /// ParsePHI
4148 ///   ::= 'phi' Type '[' Value ',' Value ']' (',' '[' Value ',' Value ']')*
4149 int LLParser::ParsePHI(Instruction *&Inst, PerFunctionState &PFS) {
4150   Type *Ty = nullptr;  LocTy TypeLoc;
4151   Value *Op0, *Op1;
4152
4153   if (ParseType(Ty, TypeLoc) ||
4154       ParseToken(lltok::lsquare, "expected '[' in phi value list") ||
4155       ParseValue(Ty, Op0, PFS) ||
4156       ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4157       ParseValue(Type::getLabelTy(Context), Op1, PFS) ||
4158       ParseToken(lltok::rsquare, "expected ']' in phi value list"))
4159     return true;
4160
4161   bool AteExtraComma = false;
4162   SmallVector<std::pair<Value*, BasicBlock*>, 16> PHIVals;
4163   while (1) {
4164     PHIVals.push_back(std::make_pair(Op0, cast<BasicBlock>(Op1)));
4165
4166     if (!EatIfPresent(lltok::comma))
4167       break;
4168
4169     if (Lex.getKind() == lltok::MetadataVar) {
4170       AteExtraComma = true;
4171       break;
4172     }
4173
4174     if (ParseToken(lltok::lsquare, "expected '[' in phi value list") ||
4175         ParseValue(Ty, Op0, PFS) ||
4176         ParseToken(lltok::comma, "expected ',' after insertelement value") ||
4177         ParseValue(Type::getLabelTy(Context), Op1, PFS) ||
4178         ParseToken(lltok::rsquare, "expected ']' in phi value list"))
4179       return true;
4180   }
4181
4182   if (!Ty->isFirstClassType())
4183     return Error(TypeLoc, "phi node must have first class type");
4184
4185   PHINode *PN = PHINode::Create(Ty, PHIVals.size());
4186   for (unsigned i = 0, e = PHIVals.size(); i != e; ++i)
4187     PN->addIncoming(PHIVals[i].first, PHIVals[i].second);
4188   Inst = PN;
4189   return AteExtraComma ? InstExtraComma : InstNormal;
4190 }
4191
4192 /// ParseLandingPad
4193 ///   ::= 'landingpad' Type 'personality' TypeAndValue 'cleanup'? Clause+
4194 /// Clause
4195 ///   ::= 'catch' TypeAndValue
4196 ///   ::= 'filter'
4197 ///   ::= 'filter' TypeAndValue ( ',' TypeAndValue )*
4198 bool LLParser::ParseLandingPad(Instruction *&Inst, PerFunctionState &PFS) {
4199   Type *Ty = nullptr; LocTy TyLoc;
4200   Value *PersFn; LocTy PersFnLoc;
4201
4202   if (ParseType(Ty, TyLoc) ||
4203       ParseToken(lltok::kw_personality, "expected 'personality'") ||
4204       ParseTypeAndValue(PersFn, PersFnLoc, PFS))
4205     return true;
4206
4207   LandingPadInst *LP = LandingPadInst::Create(Ty, PersFn, 0);
4208   LP->setCleanup(EatIfPresent(lltok::kw_cleanup));
4209
4210   while (Lex.getKind() == lltok::kw_catch || Lex.getKind() == lltok::kw_filter){
4211     LandingPadInst::ClauseType CT;
4212     if (EatIfPresent(lltok::kw_catch))
4213       CT = LandingPadInst::Catch;
4214     else if (EatIfPresent(lltok::kw_filter))
4215       CT = LandingPadInst::Filter;
4216     else
4217       return TokError("expected 'catch' or 'filter' clause type");
4218
4219     Value *V;
4220     LocTy VLoc;
4221     if (ParseTypeAndValue(V, VLoc, PFS)) {
4222       delete LP;
4223       return true;
4224     }
4225
4226     // A 'catch' type expects a non-array constant. A filter clause expects an
4227     // array constant.
4228     if (CT == LandingPadInst::Catch) {
4229       if (isa<ArrayType>(V->getType()))
4230         Error(VLoc, "'catch' clause has an invalid type");
4231     } else {
4232       if (!isa<ArrayType>(V->getType()))
4233         Error(VLoc, "'filter' clause has an invalid type");
4234     }
4235
4236     LP->addClause(cast<Constant>(V));
4237   }
4238
4239   Inst = LP;
4240   return false;
4241 }
4242
4243 /// ParseCall
4244 ///   ::= 'call' OptionalCallingConv OptionalAttrs Type Value
4245 ///       ParameterList OptionalAttrs
4246 ///   ::= 'tail' 'call' OptionalCallingConv OptionalAttrs Type Value
4247 ///       ParameterList OptionalAttrs
4248 ///   ::= 'musttail' 'call' OptionalCallingConv OptionalAttrs Type Value
4249 ///       ParameterList OptionalAttrs
4250 bool LLParser::ParseCall(Instruction *&Inst, PerFunctionState &PFS,
4251                          CallInst::TailCallKind TCK) {
4252   AttrBuilder RetAttrs, FnAttrs;
4253   std::vector<unsigned> FwdRefAttrGrps;
4254   LocTy BuiltinLoc;
4255   unsigned CC;
4256   Type *RetType = nullptr;
4257   LocTy RetTypeLoc;
4258   ValID CalleeID;
4259   SmallVector<ParamInfo, 16> ArgList;
4260   LocTy CallLoc = Lex.getLoc();
4261
4262   if ((TCK != CallInst::TCK_None &&
4263        ParseToken(lltok::kw_call, "expected 'tail call'")) ||
4264       ParseOptionalCallingConv(CC) ||
4265       ParseOptionalReturnAttrs(RetAttrs) ||
4266       ParseType(RetType, RetTypeLoc, true /*void allowed*/) ||
4267       ParseValID(CalleeID) ||
4268       ParseParameterList(ArgList, PFS, TCK == CallInst::TCK_MustTail,
4269                          PFS.getFunction().isVarArg()) ||
4270       ParseFnAttributeValuePairs(FnAttrs, FwdRefAttrGrps, false,
4271                                  BuiltinLoc))
4272     return true;
4273
4274   // If RetType is a non-function pointer type, then this is the short syntax
4275   // for the call, which means that RetType is just the return type.  Infer the
4276   // rest of the function argument types from the arguments that are present.
4277   PointerType *PFTy = nullptr;
4278   FunctionType *Ty = nullptr;
4279   if (!(PFTy = dyn_cast<PointerType>(RetType)) ||
4280       !(Ty = dyn_cast<FunctionType>(PFTy->getElementType()))) {
4281     // Pull out the types of all of the arguments...
4282     std::vector<Type*> ParamTypes;
4283     for (unsigned i = 0, e = ArgList.size(); i != e; ++i)
4284       ParamTypes.push_back(ArgList[i].V->getType());
4285
4286     if (!FunctionType::isValidReturnType(RetType))
4287       return Error(RetTypeLoc, "Invalid result type for LLVM function");
4288
4289     Ty = FunctionType::get(RetType, ParamTypes, false);
4290     PFTy = PointerType::getUnqual(Ty);
4291   }
4292
4293   // Look up the callee.
4294   Value *Callee;
4295   if (ConvertValIDToValue(PFTy, CalleeID, Callee, &PFS)) return true;
4296
4297   // Set up the Attribute for the function.
4298   SmallVector<AttributeSet, 8> Attrs;
4299   if (RetAttrs.hasAttributes())
4300     Attrs.push_back(AttributeSet::get(RetType->getContext(),
4301                                       AttributeSet::ReturnIndex,
4302                                       RetAttrs));
4303
4304   SmallVector<Value*, 8> Args;
4305
4306   // Loop through FunctionType's arguments and ensure they are specified
4307   // correctly.  Also, gather any parameter attributes.
4308   FunctionType::param_iterator I = Ty->param_begin();
4309   FunctionType::param_iterator E = Ty->param_end();
4310   for (unsigned i = 0, e = ArgList.size(); i != e; ++i) {
4311     Type *ExpectedTy = nullptr;
4312     if (I != E) {
4313       ExpectedTy = *I++;
4314     } else if (!Ty->isVarArg()) {
4315       return Error(ArgList[i].Loc, "too many arguments specified");
4316     }
4317
4318     if (ExpectedTy && ExpectedTy != ArgList[i].V->getType())
4319       return Error(ArgList[i].Loc, "argument is not of expected type '" +
4320                    getTypeString(ExpectedTy) + "'");
4321     Args.push_back(ArgList[i].V);
4322     if (ArgList[i].Attrs.hasAttributes(i + 1)) {
4323       AttrBuilder B(ArgList[i].Attrs, i + 1);
4324       Attrs.push_back(AttributeSet::get(RetType->getContext(), i + 1, B));
4325     }
4326   }
4327
4328   if (I != E)
4329     return Error(CallLoc, "not enough parameters specified for call");
4330
4331   if (FnAttrs.hasAttributes())
4332     Attrs.push_back(AttributeSet::get(RetType->getContext(),
4333                                       AttributeSet::FunctionIndex,
4334                                       FnAttrs));
4335
4336   // Finish off the Attribute and check them
4337   AttributeSet PAL = AttributeSet::get(Context, Attrs);
4338
4339   CallInst *CI = CallInst::Create(Callee, Args);
4340   CI->setTailCallKind(TCK);
4341   CI->setCallingConv(CC);
4342   CI->setAttributes(PAL);
4343   ForwardRefAttrGroups[CI] = FwdRefAttrGrps;
4344   Inst = CI;
4345   return false;
4346 }
4347
4348 //===----------------------------------------------------------------------===//
4349 // Memory Instructions.
4350 //===----------------------------------------------------------------------===//
4351
4352 /// ParseAlloc
4353 ///   ::= 'alloca' 'inalloca'? Type (',' TypeAndValue)? (',' 'align' i32)?
4354 int LLParser::ParseAlloc(Instruction *&Inst, PerFunctionState &PFS) {
4355   Value *Size = nullptr;
4356   LocTy SizeLoc;
4357   unsigned Alignment = 0;
4358   Type *Ty = nullptr;
4359
4360   bool IsInAlloca = EatIfPresent(lltok::kw_inalloca);
4361
4362   if (ParseType(Ty)) return true;
4363
4364   bool AteExtraComma = false;
4365   if (EatIfPresent(lltok::comma)) {
4366     if (Lex.getKind() == lltok::kw_align) {
4367       if (ParseOptionalAlignment(Alignment)) return true;
4368     } else if (Lex.getKind() == lltok::MetadataVar) {
4369       AteExtraComma = true;
4370     } else {
4371       if (ParseTypeAndValue(Size, SizeLoc, PFS) ||
4372           ParseOptionalCommaAlign(Alignment, AteExtraComma))
4373         return true;
4374     }
4375   }
4376
4377   if (Size && !Size->getType()->isIntegerTy())
4378     return Error(SizeLoc, "element count must have integer type");
4379
4380   AllocaInst *AI = new AllocaInst(Ty, Size, Alignment);
4381   AI->setUsedWithInAlloca(IsInAlloca);
4382   Inst = AI;
4383   return AteExtraComma ? InstExtraComma : InstNormal;
4384 }
4385
4386 /// ParseLoad
4387 ///   ::= 'load' 'volatile'? TypeAndValue (',' 'align' i32)?
4388 ///   ::= 'load' 'atomic' 'volatile'? TypeAndValue
4389 ///       'singlethread'? AtomicOrdering (',' 'align' i32)?
4390 int LLParser::ParseLoad(Instruction *&Inst, PerFunctionState &PFS) {
4391   Value *Val; LocTy Loc;
4392   unsigned Alignment = 0;
4393   bool AteExtraComma = false;
4394   bool isAtomic = false;
4395   AtomicOrdering Ordering = NotAtomic;
4396   SynchronizationScope Scope = CrossThread;
4397
4398   if (Lex.getKind() == lltok::kw_atomic) {
4399     isAtomic = true;
4400     Lex.Lex();
4401   }
4402
4403   bool isVolatile = false;
4404   if (Lex.getKind() == lltok::kw_volatile) {
4405     isVolatile = true;
4406     Lex.Lex();
4407   }
4408
4409   if (ParseTypeAndValue(Val, Loc, PFS) ||
4410       ParseScopeAndOrdering(isAtomic, Scope, Ordering) ||
4411       ParseOptionalCommaAlign(Alignment, AteExtraComma))
4412     return true;
4413
4414   if (!Val->getType()->isPointerTy() ||
4415       !cast<PointerType>(Val->getType())->getElementType()->isFirstClassType())
4416     return Error(Loc, "load operand must be a pointer to a first class type");
4417   if (isAtomic && !Alignment)
4418     return Error(Loc, "atomic load must have explicit non-zero alignment");
4419   if (Ordering == Release || Ordering == AcquireRelease)
4420     return Error(Loc, "atomic load cannot use Release ordering");
4421
4422   Inst = new LoadInst(Val, "", isVolatile, Alignment, Ordering, Scope);
4423   return AteExtraComma ? InstExtraComma : InstNormal;
4424 }
4425
4426 /// ParseStore
4427
4428 ///   ::= 'store' 'volatile'? TypeAndValue ',' TypeAndValue (',' 'align' i32)?
4429 ///   ::= 'store' 'atomic' 'volatile'? TypeAndValue ',' TypeAndValue
4430 ///       'singlethread'? AtomicOrdering (',' 'align' i32)?
4431 int LLParser::ParseStore(Instruction *&Inst, PerFunctionState &PFS) {
4432   Value *Val, *Ptr; LocTy Loc, PtrLoc;
4433   unsigned Alignment = 0;
4434   bool AteExtraComma = false;
4435   bool isAtomic = false;
4436   AtomicOrdering Ordering = NotAtomic;
4437   SynchronizationScope Scope = CrossThread;
4438
4439   if (Lex.getKind() == lltok::kw_atomic) {
4440     isAtomic = true;
4441     Lex.Lex();
4442   }
4443
4444   bool isVolatile = false;
4445   if (Lex.getKind() == lltok::kw_volatile) {
4446     isVolatile = true;
4447     Lex.Lex();
4448   }
4449
4450   if (ParseTypeAndValue(Val, Loc, PFS) ||
4451       ParseToken(lltok::comma, "expected ',' after store operand") ||
4452       ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4453       ParseScopeAndOrdering(isAtomic, Scope, Ordering) ||
4454       ParseOptionalCommaAlign(Alignment, AteExtraComma))
4455     return true;
4456
4457   if (!Ptr->getType()->isPointerTy())
4458     return Error(PtrLoc, "store operand must be a pointer");
4459   if (!Val->getType()->isFirstClassType())
4460     return Error(Loc, "store operand must be a first class value");
4461   if (cast<PointerType>(Ptr->getType())->getElementType() != Val->getType())
4462     return Error(Loc, "stored value and pointer type do not match");
4463   if (isAtomic && !Alignment)
4464     return Error(Loc, "atomic store must have explicit non-zero alignment");
4465   if (Ordering == Acquire || Ordering == AcquireRelease)
4466     return Error(Loc, "atomic store cannot use Acquire ordering");
4467
4468   Inst = new StoreInst(Val, Ptr, isVolatile, Alignment, Ordering, Scope);
4469   return AteExtraComma ? InstExtraComma : InstNormal;
4470 }
4471
4472 /// ParseCmpXchg
4473 ///   ::= 'cmpxchg' 'weak'? 'volatile'? TypeAndValue ',' TypeAndValue ','
4474 ///       TypeAndValue 'singlethread'? AtomicOrdering AtomicOrdering
4475 int LLParser::ParseCmpXchg(Instruction *&Inst, PerFunctionState &PFS) {
4476   Value *Ptr, *Cmp, *New; LocTy PtrLoc, CmpLoc, NewLoc;
4477   bool AteExtraComma = false;
4478   AtomicOrdering SuccessOrdering = NotAtomic;
4479   AtomicOrdering FailureOrdering = NotAtomic;
4480   SynchronizationScope Scope = CrossThread;
4481   bool isVolatile = false;
4482   bool isWeak = false;
4483
4484   if (EatIfPresent(lltok::kw_weak))
4485     isWeak = true;
4486
4487   if (EatIfPresent(lltok::kw_volatile))
4488     isVolatile = true;
4489
4490   if (ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4491       ParseToken(lltok::comma, "expected ',' after cmpxchg address") ||
4492       ParseTypeAndValue(Cmp, CmpLoc, PFS) ||
4493       ParseToken(lltok::comma, "expected ',' after cmpxchg cmp operand") ||
4494       ParseTypeAndValue(New, NewLoc, PFS) ||
4495       ParseScopeAndOrdering(true /*Always atomic*/, Scope, SuccessOrdering) ||
4496       ParseOrdering(FailureOrdering))
4497     return true;
4498
4499   if (SuccessOrdering == Unordered || FailureOrdering == Unordered)
4500     return TokError("cmpxchg cannot be unordered");
4501   if (SuccessOrdering < FailureOrdering)
4502     return TokError("cmpxchg must be at least as ordered on success as failure");
4503   if (FailureOrdering == Release || FailureOrdering == AcquireRelease)
4504     return TokError("cmpxchg failure ordering cannot include release semantics");
4505   if (!Ptr->getType()->isPointerTy())
4506     return Error(PtrLoc, "cmpxchg operand must be a pointer");
4507   if (cast<PointerType>(Ptr->getType())->getElementType() != Cmp->getType())
4508     return Error(CmpLoc, "compare value and pointer type do not match");
4509   if (cast<PointerType>(Ptr->getType())->getElementType() != New->getType())
4510     return Error(NewLoc, "new value and pointer type do not match");
4511   if (!New->getType()->isIntegerTy())
4512     return Error(NewLoc, "cmpxchg operand must be an integer");
4513   unsigned Size = New->getType()->getPrimitiveSizeInBits();
4514   if (Size < 8 || (Size & (Size - 1)))
4515     return Error(NewLoc, "cmpxchg operand must be power-of-two byte-sized"
4516                          " integer");
4517
4518   AtomicCmpXchgInst *CXI = new AtomicCmpXchgInst(
4519       Ptr, Cmp, New, SuccessOrdering, FailureOrdering, Scope);
4520   CXI->setVolatile(isVolatile);
4521   CXI->setWeak(isWeak);
4522   Inst = CXI;
4523   return AteExtraComma ? InstExtraComma : InstNormal;
4524 }
4525
4526 /// ParseAtomicRMW
4527 ///   ::= 'atomicrmw' 'volatile'? BinOp TypeAndValue ',' TypeAndValue
4528 ///       'singlethread'? AtomicOrdering
4529 int LLParser::ParseAtomicRMW(Instruction *&Inst, PerFunctionState &PFS) {
4530   Value *Ptr, *Val; LocTy PtrLoc, ValLoc;
4531   bool AteExtraComma = false;
4532   AtomicOrdering Ordering = NotAtomic;
4533   SynchronizationScope Scope = CrossThread;
4534   bool isVolatile = false;
4535   AtomicRMWInst::BinOp Operation;
4536
4537   if (EatIfPresent(lltok::kw_volatile))
4538     isVolatile = true;
4539
4540   switch (Lex.getKind()) {
4541   default: return TokError("expected binary operation in atomicrmw");
4542   case lltok::kw_xchg: Operation = AtomicRMWInst::Xchg; break;
4543   case lltok::kw_add: Operation = AtomicRMWInst::Add; break;
4544   case lltok::kw_sub: Operation = AtomicRMWInst::Sub; break;
4545   case lltok::kw_and: Operation = AtomicRMWInst::And; break;
4546   case lltok::kw_nand: Operation = AtomicRMWInst::Nand; break;
4547   case lltok::kw_or: Operation = AtomicRMWInst::Or; break;
4548   case lltok::kw_xor: Operation = AtomicRMWInst::Xor; break;
4549   case lltok::kw_max: Operation = AtomicRMWInst::Max; break;
4550   case lltok::kw_min: Operation = AtomicRMWInst::Min; break;
4551   case lltok::kw_umax: Operation = AtomicRMWInst::UMax; break;
4552   case lltok::kw_umin: Operation = AtomicRMWInst::UMin; break;
4553   }
4554   Lex.Lex();  // Eat the operation.
4555
4556   if (ParseTypeAndValue(Ptr, PtrLoc, PFS) ||
4557       ParseToken(lltok::comma, "expected ',' after atomicrmw address") ||
4558       ParseTypeAndValue(Val, ValLoc, PFS) ||
4559       ParseScopeAndOrdering(true /*Always atomic*/, Scope, Ordering))
4560     return true;
4561
4562   if (Ordering == Unordered)
4563     return TokError("atomicrmw cannot be unordered");
4564   if (!Ptr->getType()->isPointerTy())
4565     return Error(PtrLoc, "atomicrmw operand must be a pointer");
4566   if (cast<PointerType>(Ptr->getType())->getElementType() != Val->getType())
4567     return Error(ValLoc, "atomicrmw value and pointer type do not match");
4568   if (!Val->getType()->isIntegerTy())
4569     return Error(ValLoc, "atomicrmw operand must be an integer");
4570   unsigned Size = Val->getType()->getPrimitiveSizeInBits();
4571   if (Size < 8 || (Size & (Size - 1)))
4572     return Error(ValLoc, "atomicrmw operand must be power-of-two byte-sized"
4573                          " integer");
4574
4575   AtomicRMWInst *RMWI =
4576     new AtomicRMWInst(Operation, Ptr, Val, Ordering, Scope);
4577   RMWI->setVolatile(isVolatile);
4578   Inst = RMWI;
4579   return AteExtraComma ? InstExtraComma : InstNormal;
4580 }
4581
4582 /// ParseFence
4583 ///   ::= 'fence' 'singlethread'? AtomicOrdering
4584 int LLParser::ParseFence(Instruction *&Inst, PerFunctionState &PFS) {
4585   AtomicOrdering Ordering = NotAtomic;
4586   SynchronizationScope Scope = CrossThread;
4587   if (ParseScopeAndOrdering(true /*Always atomic*/, Scope, Ordering))
4588     return true;
4589
4590   if (Ordering == Unordered)
4591     return TokError("fence cannot be unordered");
4592   if (Ordering == Monotonic)
4593     return TokError("fence cannot be monotonic");
4594
4595   Inst = new FenceInst(Context, Ordering, Scope);
4596   return InstNormal;
4597 }
4598
4599 /// ParseGetElementPtr
4600 ///   ::= 'getelementptr' 'inbounds'? TypeAndValue (',' TypeAndValue)*
4601 int LLParser::ParseGetElementPtr(Instruction *&Inst, PerFunctionState &PFS) {
4602   Value *Ptr = nullptr;
4603   Value *Val = nullptr;
4604   LocTy Loc, EltLoc;
4605
4606   bool InBounds = EatIfPresent(lltok::kw_inbounds);
4607
4608   if (ParseTypeAndValue(Ptr, Loc, PFS)) return true;
4609
4610   Type *BaseType = Ptr->getType();
4611   PointerType *BasePointerType = dyn_cast<PointerType>(BaseType->getScalarType());
4612   if (!BasePointerType)
4613     return Error(Loc, "base of getelementptr must be a pointer");
4614
4615   SmallVector<Value*, 16> Indices;
4616   bool AteExtraComma = false;
4617   while (EatIfPresent(lltok::comma)) {
4618     if (Lex.getKind() == lltok::MetadataVar) {
4619       AteExtraComma = true;
4620       break;
4621     }
4622     if (ParseTypeAndValue(Val, EltLoc, PFS)) return true;
4623     if (!Val->getType()->getScalarType()->isIntegerTy())
4624       return Error(EltLoc, "getelementptr index must be an integer");
4625     if (Val->getType()->isVectorTy() != Ptr->getType()->isVectorTy())
4626       return Error(EltLoc, "getelementptr index type missmatch");
4627     if (Val->getType()->isVectorTy()) {
4628       unsigned ValNumEl = cast<VectorType>(Val->getType())->getNumElements();
4629       unsigned PtrNumEl = cast<VectorType>(Ptr->getType())->getNumElements();
4630       if (ValNumEl != PtrNumEl)
4631         return Error(EltLoc,
4632           "getelementptr vector index has a wrong number of elements");
4633     }
4634     Indices.push_back(Val);
4635   }
4636
4637   if (!Indices.empty() && !BasePointerType->getElementType()->isSized())
4638     return Error(Loc, "base element of getelementptr must be sized");
4639
4640   if (!GetElementPtrInst::getIndexedType(BaseType, Indices))
4641     return Error(Loc, "invalid getelementptr indices");
4642   Inst = GetElementPtrInst::Create(Ptr, Indices);
4643   if (InBounds)
4644     cast<GetElementPtrInst>(Inst)->setIsInBounds(true);
4645   return AteExtraComma ? InstExtraComma : InstNormal;
4646 }
4647
4648 /// ParseExtractValue
4649 ///   ::= 'extractvalue' TypeAndValue (',' uint32)+
4650 int LLParser::ParseExtractValue(Instruction *&Inst, PerFunctionState &PFS) {
4651   Value *Val; LocTy Loc;
4652   SmallVector<unsigned, 4> Indices;
4653   bool AteExtraComma;
4654   if (ParseTypeAndValue(Val, Loc, PFS) ||
4655       ParseIndexList(Indices, AteExtraComma))
4656     return true;
4657
4658   if (!Val->getType()->isAggregateType())
4659     return Error(Loc, "extractvalue operand must be aggregate type");
4660
4661   if (!ExtractValueInst::getIndexedType(Val->getType(), Indices))
4662     return Error(Loc, "invalid indices for extractvalue");
4663   Inst = ExtractValueInst::Create(Val, Indices);
4664   return AteExtraComma ? InstExtraComma : InstNormal;
4665 }
4666
4667 /// ParseInsertValue
4668 ///   ::= 'insertvalue' TypeAndValue ',' TypeAndValue (',' uint32)+
4669 int LLParser::ParseInsertValue(Instruction *&Inst, PerFunctionState &PFS) {
4670   Value *Val0, *Val1; LocTy Loc0, Loc1;
4671   SmallVector<unsigned, 4> Indices;
4672   bool AteExtraComma;
4673   if (ParseTypeAndValue(Val0, Loc0, PFS) ||
4674       ParseToken(lltok::comma, "expected comma after insertvalue operand") ||
4675       ParseTypeAndValue(Val1, Loc1, PFS) ||
4676       ParseIndexList(Indices, AteExtraComma))
4677     return true;
4678
4679   if (!Val0->getType()->isAggregateType())
4680     return Error(Loc0, "insertvalue operand must be aggregate type");
4681
4682   if (!ExtractValueInst::getIndexedType(Val0->getType(), Indices))
4683     return Error(Loc0, "invalid indices for insertvalue");
4684   Inst = InsertValueInst::Create(Val0, Val1, Indices);
4685   return AteExtraComma ? InstExtraComma : InstNormal;
4686 }
4687
4688 //===----------------------------------------------------------------------===//
4689 // Embedded metadata.
4690 //===----------------------------------------------------------------------===//
4691
4692 /// ParseMDNodeVector
4693 ///   ::= { Element (',' Element)* }
4694 /// Element
4695 ///   ::= 'null' | TypeAndValue
4696 bool LLParser::ParseMDNodeVector(SmallVectorImpl<Metadata *> &Elts) {
4697   if (ParseToken(lltok::lbrace, "expected '{' here"))
4698     return true;
4699
4700   // Check for an empty list.
4701   if (EatIfPresent(lltok::rbrace))
4702     return false;
4703
4704   do {
4705     // Null is a special case since it is typeless.
4706     if (EatIfPresent(lltok::kw_null)) {
4707       Elts.push_back(nullptr);
4708       continue;
4709     }
4710
4711     Metadata *MD;
4712     if (ParseMetadata(MD, nullptr))
4713       return true;
4714     Elts.push_back(MD);
4715   } while (EatIfPresent(lltok::comma));
4716
4717   return ParseToken(lltok::rbrace, "expected end of metadata node");
4718 }
4719
4720 //===----------------------------------------------------------------------===//
4721 // Use-list order directives.
4722 //===----------------------------------------------------------------------===//
4723 bool LLParser::sortUseListOrder(Value *V, ArrayRef<unsigned> Indexes,
4724                                 SMLoc Loc) {
4725   if (V->use_empty())
4726     return Error(Loc, "value has no uses");
4727
4728   unsigned NumUses = 0;
4729   SmallDenseMap<const Use *, unsigned, 16> Order;
4730   for (const Use &U : V->uses()) {
4731     if (++NumUses > Indexes.size())
4732       break;
4733     Order[&U] = Indexes[NumUses - 1];
4734   }
4735   if (NumUses < 2)
4736     return Error(Loc, "value only has one use");
4737   if (Order.size() != Indexes.size() || NumUses > Indexes.size())
4738     return Error(Loc, "wrong number of indexes, expected " +
4739                           Twine(std::distance(V->use_begin(), V->use_end())));
4740
4741   V->sortUseList([&](const Use &L, const Use &R) {
4742     return Order.lookup(&L) < Order.lookup(&R);
4743   });
4744   return false;
4745 }
4746
4747 /// ParseUseListOrderIndexes
4748 ///   ::= '{' uint32 (',' uint32)+ '}'
4749 bool LLParser::ParseUseListOrderIndexes(SmallVectorImpl<unsigned> &Indexes) {
4750   SMLoc Loc = Lex.getLoc();
4751   if (ParseToken(lltok::lbrace, "expected '{' here"))
4752     return true;
4753   if (Lex.getKind() == lltok::rbrace)
4754     return Lex.Error("expected non-empty list of uselistorder indexes");
4755
4756   // Use Offset, Max, and IsOrdered to check consistency of indexes.  The
4757   // indexes should be distinct numbers in the range [0, size-1], and should
4758   // not be in order.
4759   unsigned Offset = 0;
4760   unsigned Max = 0;
4761   bool IsOrdered = true;
4762   assert(Indexes.empty() && "Expected empty order vector");
4763   do {
4764     unsigned Index;
4765     if (ParseUInt32(Index))
4766       return true;
4767
4768     // Update consistency checks.
4769     Offset += Index - Indexes.size();
4770     Max = std::max(Max, Index);
4771     IsOrdered &= Index == Indexes.size();
4772
4773     Indexes.push_back(Index);
4774   } while (EatIfPresent(lltok::comma));
4775
4776   if (ParseToken(lltok::rbrace, "expected '}' here"))
4777     return true;
4778
4779   if (Indexes.size() < 2)
4780     return Error(Loc, "expected >= 2 uselistorder indexes");
4781   if (Offset != 0 || Max >= Indexes.size())
4782     return Error(Loc, "expected distinct uselistorder indexes in range [0, size)");
4783   if (IsOrdered)
4784     return Error(Loc, "expected uselistorder indexes to change the order");
4785
4786   return false;
4787 }
4788
4789 /// ParseUseListOrder
4790 ///   ::= 'uselistorder' Type Value ',' UseListOrderIndexes
4791 bool LLParser::ParseUseListOrder(PerFunctionState *PFS) {
4792   SMLoc Loc = Lex.getLoc();
4793   if (ParseToken(lltok::kw_uselistorder, "expected uselistorder directive"))
4794     return true;
4795
4796   Value *V;
4797   SmallVector<unsigned, 16> Indexes;
4798   if (ParseTypeAndValue(V, PFS) ||
4799       ParseToken(lltok::comma, "expected comma in uselistorder directive") ||
4800       ParseUseListOrderIndexes(Indexes))
4801     return true;
4802
4803   return sortUseListOrder(V, Indexes, Loc);
4804 }
4805
4806 /// ParseUseListOrderBB
4807 ///   ::= 'uselistorder_bb' @foo ',' %bar ',' UseListOrderIndexes
4808 bool LLParser::ParseUseListOrderBB() {
4809   assert(Lex.getKind() == lltok::kw_uselistorder_bb);
4810   SMLoc Loc = Lex.getLoc();
4811   Lex.Lex();
4812
4813   ValID Fn, Label;
4814   SmallVector<unsigned, 16> Indexes;
4815   if (ParseValID(Fn) ||
4816       ParseToken(lltok::comma, "expected comma in uselistorder_bb directive") ||
4817       ParseValID(Label) ||
4818       ParseToken(lltok::comma, "expected comma in uselistorder_bb directive") ||
4819       ParseUseListOrderIndexes(Indexes))
4820     return true;
4821
4822   // Check the function.
4823   GlobalValue *GV;
4824   if (Fn.Kind == ValID::t_GlobalName)
4825     GV = M->getNamedValue(Fn.StrVal);
4826   else if (Fn.Kind == ValID::t_GlobalID)
4827     GV = Fn.UIntVal < NumberedVals.size() ? NumberedVals[Fn.UIntVal] : nullptr;
4828   else
4829     return Error(Fn.Loc, "expected function name in uselistorder_bb");
4830   if (!GV)
4831     return Error(Fn.Loc, "invalid function forward reference in uselistorder_bb");
4832   auto *F = dyn_cast<Function>(GV);
4833   if (!F)
4834     return Error(Fn.Loc, "expected function name in uselistorder_bb");
4835   if (F->isDeclaration())
4836     return Error(Fn.Loc, "invalid declaration in uselistorder_bb");
4837
4838   // Check the basic block.
4839   if (Label.Kind == ValID::t_LocalID)
4840     return Error(Label.Loc, "invalid numeric label in uselistorder_bb");
4841   if (Label.Kind != ValID::t_LocalName)
4842     return Error(Label.Loc, "expected basic block name in uselistorder_bb");
4843   Value *V = F->getValueSymbolTable().lookup(Label.StrVal);
4844   if (!V)
4845     return Error(Label.Loc, "invalid basic block in uselistorder_bb");
4846   if (!isa<BasicBlock>(V))
4847     return Error(Label.Loc, "expected basic block in uselistorder_bb");
4848
4849   return sortUseListOrder(V, Indexes, Loc);
4850 }