IR: Conservatively verify inalloca arguments
[oota-llvm.git] / lib / IR / Verifier.cpp
1 //===-- Verifier.cpp - Implement the Module Verifier -----------------------==//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // This file defines the function verifier interface, that can be used for some
11 // sanity checking of input to the system.
12 //
13 // Note that this does not provide full `Java style' security and verifications,
14 // instead it just tries to ensure that code is well-formed.
15 //
16 //  * Both of a binary operator's parameters are of the same type
17 //  * Verify that the indices of mem access instructions match other operands
18 //  * Verify that arithmetic and other things are only performed on first-class
19 //    types.  Verify that shifts & logicals only happen on integrals f.e.
20 //  * All of the constants in a switch statement are of the correct type
21 //  * The code is in valid SSA form
22 //  * It should be illegal to put a label into any other type (like a structure)
23 //    or to return one. [except constant arrays!]
24 //  * Only phi nodes can be self referential: 'add i32 %0, %0 ; <int>:0' is bad
25 //  * PHI nodes must have an entry for each predecessor, with no extras.
26 //  * PHI nodes must be the first thing in a basic block, all grouped together
27 //  * PHI nodes must have at least one entry
28 //  * All basic blocks should only end with terminator insts, not contain them
29 //  * The entry node to a function must not have predecessors
30 //  * All Instructions must be embedded into a basic block
31 //  * Functions cannot take a void-typed parameter
32 //  * Verify that a function's argument list agrees with it's declared type.
33 //  * It is illegal to specify a name for a void value.
34 //  * It is illegal to have a internal global value with no initializer
35 //  * It is illegal to have a ret instruction that returns a value that does not
36 //    agree with the function return value type.
37 //  * Function call argument types match the function prototype
38 //  * A landing pad is defined by a landingpad instruction, and can be jumped to
39 //    only by the unwind edge of an invoke instruction.
40 //  * A landingpad instruction must be the first non-PHI instruction in the
41 //    block.
42 //  * All landingpad instructions must use the same personality function with
43 //    the same function.
44 //  * All other things that are tested by asserts spread about the code...
45 //
46 //===----------------------------------------------------------------------===//
47
48 #include "llvm/IR/Verifier.h"
49 #include "llvm/ADT/STLExtras.h"
50 #include "llvm/ADT/SetVector.h"
51 #include "llvm/ADT/SmallPtrSet.h"
52 #include "llvm/ADT/SmallVector.h"
53 #include "llvm/ADT/StringExtras.h"
54 #include "llvm/IR/CFG.h"
55 #include "llvm/IR/CallSite.h"
56 #include "llvm/IR/CallingConv.h"
57 #include "llvm/IR/ConstantRange.h"
58 #include "llvm/IR/Constants.h"
59 #include "llvm/IR/DataLayout.h"
60 #include "llvm/IR/DebugInfo.h"
61 #include "llvm/IR/DerivedTypes.h"
62 #include "llvm/IR/Dominators.h"
63 #include "llvm/IR/InlineAsm.h"
64 #include "llvm/IR/InstIterator.h"
65 #include "llvm/IR/InstVisitor.h"
66 #include "llvm/IR/IntrinsicInst.h"
67 #include "llvm/IR/LLVMContext.h"
68 #include "llvm/IR/Metadata.h"
69 #include "llvm/IR/Module.h"
70 #include "llvm/IR/PassManager.h"
71 #include "llvm/Pass.h"
72 #include "llvm/Support/CommandLine.h"
73 #include "llvm/Support/Debug.h"
74 #include "llvm/Support/ErrorHandling.h"
75 #include "llvm/Support/raw_ostream.h"
76 #include <algorithm>
77 #include <cstdarg>
78 using namespace llvm;
79
80 static cl::opt<bool> VerifyDebugInfo("verify-debug-info", cl::init(false));
81
82 namespace {
83 struct VerifierSupport {
84   raw_ostream &OS;
85   const Module *M;
86
87   /// \brief Track the brokenness of the module while recursively visiting.
88   bool Broken;
89
90   explicit VerifierSupport(raw_ostream &OS)
91       : OS(OS), M(nullptr), Broken(false) {}
92
93   void WriteValue(const Value *V) {
94     if (!V)
95       return;
96     if (isa<Instruction>(V)) {
97       OS << *V << '\n';
98     } else {
99       V->printAsOperand(OS, true, M);
100       OS << '\n';
101     }
102   }
103
104   void WriteType(Type *T) {
105     if (!T)
106       return;
107     OS << ' ' << *T;
108   }
109
110   // CheckFailed - A check failed, so print out the condition and the message
111   // that failed.  This provides a nice place to put a breakpoint if you want
112   // to see why something is not correct.
113   void CheckFailed(const Twine &Message, const Value *V1 = nullptr,
114                    const Value *V2 = nullptr, const Value *V3 = nullptr,
115                    const Value *V4 = nullptr) {
116     OS << Message.str() << "\n";
117     WriteValue(V1);
118     WriteValue(V2);
119     WriteValue(V3);
120     WriteValue(V4);
121     Broken = true;
122   }
123
124   void CheckFailed(const Twine &Message, const Value *V1, Type *T2,
125                    const Value *V3 = nullptr) {
126     OS << Message.str() << "\n";
127     WriteValue(V1);
128     WriteType(T2);
129     WriteValue(V3);
130     Broken = true;
131   }
132
133   void CheckFailed(const Twine &Message, Type *T1, Type *T2 = nullptr,
134                    Type *T3 = nullptr) {
135     OS << Message.str() << "\n";
136     WriteType(T1);
137     WriteType(T2);
138     WriteType(T3);
139     Broken = true;
140   }
141 };
142 class Verifier : public InstVisitor<Verifier>, VerifierSupport {
143   friend class InstVisitor<Verifier>;
144
145   LLVMContext *Context;
146   const DataLayout *DL;
147   DominatorTree DT;
148
149   /// \brief When verifying a basic block, keep track of all of the
150   /// instructions we have seen so far.
151   ///
152   /// This allows us to do efficient dominance checks for the case when an
153   /// instruction has an operand that is an instruction in the same block.
154   SmallPtrSet<Instruction *, 16> InstsInThisBlock;
155
156   /// \brief Keep track of the metadata nodes that have been checked already.
157   SmallPtrSet<MDNode *, 32> MDNodes;
158
159   /// \brief The personality function referenced by the LandingPadInsts.
160   /// All LandingPadInsts within the same function must use the same
161   /// personality function.
162   const Value *PersonalityFn;
163
164 public:
165   explicit Verifier(raw_ostream &OS = dbgs())
166       : VerifierSupport(OS), Context(nullptr), DL(nullptr),
167         PersonalityFn(nullptr) {}
168
169   bool verify(const Function &F) {
170     M = F.getParent();
171     Context = &M->getContext();
172
173     // First ensure the function is well-enough formed to compute dominance
174     // information.
175     if (F.empty()) {
176       OS << "Function '" << F.getName()
177          << "' does not contain an entry block!\n";
178       return false;
179     }
180     for (Function::const_iterator I = F.begin(), E = F.end(); I != E; ++I) {
181       if (I->empty() || !I->back().isTerminator()) {
182         OS << "Basic Block in function '" << F.getName()
183            << "' does not have terminator!\n";
184         I->printAsOperand(OS, true);
185         OS << "\n";
186         return false;
187       }
188     }
189
190     // Now directly compute a dominance tree. We don't rely on the pass
191     // manager to provide this as it isolates us from a potentially
192     // out-of-date dominator tree and makes it significantly more complex to
193     // run this code outside of a pass manager.
194     // FIXME: It's really gross that we have to cast away constness here.
195     DT.recalculate(const_cast<Function &>(F));
196
197     Broken = false;
198     // FIXME: We strip const here because the inst visitor strips const.
199     visit(const_cast<Function &>(F));
200     InstsInThisBlock.clear();
201     PersonalityFn = nullptr;
202
203     return !Broken;
204   }
205
206   bool verify(const Module &M) {
207     this->M = &M;
208     Context = &M.getContext();
209     Broken = false;
210
211     // Scan through, checking all of the external function's linkage now...
212     for (Module::const_iterator I = M.begin(), E = M.end(); I != E; ++I) {
213       visitGlobalValue(*I);
214
215       // Check to make sure function prototypes are okay.
216       if (I->isDeclaration())
217         visitFunction(*I);
218     }
219
220     for (Module::const_global_iterator I = M.global_begin(), E = M.global_end();
221          I != E; ++I)
222       visitGlobalVariable(*I);
223
224     for (Module::const_alias_iterator I = M.alias_begin(), E = M.alias_end();
225          I != E; ++I)
226       visitGlobalAlias(*I);
227
228     for (Module::const_named_metadata_iterator I = M.named_metadata_begin(),
229                                                E = M.named_metadata_end();
230          I != E; ++I)
231       visitNamedMDNode(*I);
232
233     visitModuleFlags(M);
234     visitModuleIdents(M);
235
236     return !Broken;
237   }
238
239 private:
240   // Verification methods...
241   void visitGlobalValue(const GlobalValue &GV);
242   void visitGlobalVariable(const GlobalVariable &GV);
243   void visitGlobalAlias(const GlobalAlias &GA);
244   void visitNamedMDNode(const NamedMDNode &NMD);
245   void visitMDNode(MDNode &MD, Function *F);
246   void visitModuleIdents(const Module &M);
247   void visitModuleFlags(const Module &M);
248   void visitModuleFlag(const MDNode *Op,
249                        DenseMap<const MDString *, const MDNode *> &SeenIDs,
250                        SmallVectorImpl<const MDNode *> &Requirements);
251   void visitFunction(const Function &F);
252   void visitBasicBlock(BasicBlock &BB);
253
254   // InstVisitor overrides...
255   using InstVisitor<Verifier>::visit;
256   void visit(Instruction &I);
257
258   void visitTruncInst(TruncInst &I);
259   void visitZExtInst(ZExtInst &I);
260   void visitSExtInst(SExtInst &I);
261   void visitFPTruncInst(FPTruncInst &I);
262   void visitFPExtInst(FPExtInst &I);
263   void visitFPToUIInst(FPToUIInst &I);
264   void visitFPToSIInst(FPToSIInst &I);
265   void visitUIToFPInst(UIToFPInst &I);
266   void visitSIToFPInst(SIToFPInst &I);
267   void visitIntToPtrInst(IntToPtrInst &I);
268   void visitPtrToIntInst(PtrToIntInst &I);
269   void visitBitCastInst(BitCastInst &I);
270   void visitAddrSpaceCastInst(AddrSpaceCastInst &I);
271   void visitPHINode(PHINode &PN);
272   void visitBinaryOperator(BinaryOperator &B);
273   void visitICmpInst(ICmpInst &IC);
274   void visitFCmpInst(FCmpInst &FC);
275   void visitExtractElementInst(ExtractElementInst &EI);
276   void visitInsertElementInst(InsertElementInst &EI);
277   void visitShuffleVectorInst(ShuffleVectorInst &EI);
278   void visitVAArgInst(VAArgInst &VAA) { visitInstruction(VAA); }
279   void visitCallInst(CallInst &CI);
280   void visitInvokeInst(InvokeInst &II);
281   void visitGetElementPtrInst(GetElementPtrInst &GEP);
282   void visitLoadInst(LoadInst &LI);
283   void visitStoreInst(StoreInst &SI);
284   void verifyDominatesUse(Instruction &I, unsigned i);
285   void visitInstruction(Instruction &I);
286   void visitTerminatorInst(TerminatorInst &I);
287   void visitBranchInst(BranchInst &BI);
288   void visitReturnInst(ReturnInst &RI);
289   void visitSwitchInst(SwitchInst &SI);
290   void visitIndirectBrInst(IndirectBrInst &BI);
291   void visitSelectInst(SelectInst &SI);
292   void visitUserOp1(Instruction &I);
293   void visitUserOp2(Instruction &I) { visitUserOp1(I); }
294   void visitIntrinsicFunctionCall(Intrinsic::ID ID, CallInst &CI);
295   void visitAtomicCmpXchgInst(AtomicCmpXchgInst &CXI);
296   void visitAtomicRMWInst(AtomicRMWInst &RMWI);
297   void visitFenceInst(FenceInst &FI);
298   void visitAllocaInst(AllocaInst &AI);
299   void visitExtractValueInst(ExtractValueInst &EVI);
300   void visitInsertValueInst(InsertValueInst &IVI);
301   void visitLandingPadInst(LandingPadInst &LPI);
302
303   void VerifyCallSite(CallSite CS);
304   void verifyMustTailCall(CallInst &CI);
305   bool PerformTypeCheck(Intrinsic::ID ID, Function *F, Type *Ty, int VT,
306                         unsigned ArgNo, std::string &Suffix);
307   bool VerifyIntrinsicType(Type *Ty, ArrayRef<Intrinsic::IITDescriptor> &Infos,
308                            SmallVectorImpl<Type *> &ArgTys);
309   bool VerifyIntrinsicIsVarArg(bool isVarArg,
310                                ArrayRef<Intrinsic::IITDescriptor> &Infos);
311   bool VerifyAttributeCount(AttributeSet Attrs, unsigned Params);
312   void VerifyAttributeTypes(AttributeSet Attrs, unsigned Idx, bool isFunction,
313                             const Value *V);
314   void VerifyParameterAttrs(AttributeSet Attrs, unsigned Idx, Type *Ty,
315                             bool isReturnValue, const Value *V);
316   void VerifyFunctionAttrs(FunctionType *FT, AttributeSet Attrs,
317                            const Value *V);
318
319   void VerifyBitcastType(const Value *V, Type *DestTy, Type *SrcTy);
320   void VerifyConstantExprBitcastType(const ConstantExpr *CE);
321 };
322 class DebugInfoVerifier : public VerifierSupport {
323 public:
324   explicit DebugInfoVerifier(raw_ostream &OS = dbgs()) : VerifierSupport(OS) {}
325
326   bool verify(const Module &M) {
327     this->M = &M;
328     verifyDebugInfo();
329     return !Broken;
330   }
331
332 private:
333   void verifyDebugInfo();
334   void processInstructions(DebugInfoFinder &Finder);
335   void processCallInst(DebugInfoFinder &Finder, const CallInst &CI);
336 };
337 } // End anonymous namespace
338
339 // Assert - We know that cond should be true, if not print an error message.
340 #define Assert(C, M) \
341   do { if (!(C)) { CheckFailed(M); return; } } while (0)
342 #define Assert1(C, M, V1) \
343   do { if (!(C)) { CheckFailed(M, V1); return; } } while (0)
344 #define Assert2(C, M, V1, V2) \
345   do { if (!(C)) { CheckFailed(M, V1, V2); return; } } while (0)
346 #define Assert3(C, M, V1, V2, V3) \
347   do { if (!(C)) { CheckFailed(M, V1, V2, V3); return; } } while (0)
348 #define Assert4(C, M, V1, V2, V3, V4) \
349   do { if (!(C)) { CheckFailed(M, V1, V2, V3, V4); return; } } while (0)
350
351 void Verifier::visit(Instruction &I) {
352   for (unsigned i = 0, e = I.getNumOperands(); i != e; ++i)
353     Assert1(I.getOperand(i) != nullptr, "Operand is null", &I);
354   InstVisitor<Verifier>::visit(I);
355 }
356
357
358 void Verifier::visitGlobalValue(const GlobalValue &GV) {
359   Assert1(!GV.isDeclaration() ||
360           GV.isMaterializable() ||
361           GV.hasExternalLinkage() ||
362           GV.hasExternalWeakLinkage() ||
363           (isa<GlobalAlias>(GV) &&
364            (GV.hasLocalLinkage() || GV.hasWeakLinkage())),
365           "Global is external, but doesn't have external or weak linkage!",
366           &GV);
367
368   Assert1(!GV.hasAppendingLinkage() || isa<GlobalVariable>(GV),
369           "Only global variables can have appending linkage!", &GV);
370
371   if (GV.hasAppendingLinkage()) {
372     const GlobalVariable *GVar = dyn_cast<GlobalVariable>(&GV);
373     Assert1(GVar && GVar->getType()->getElementType()->isArrayTy(),
374             "Only global arrays can have appending linkage!", GVar);
375   }
376 }
377
378 void Verifier::visitGlobalVariable(const GlobalVariable &GV) {
379   if (GV.hasInitializer()) {
380     Assert1(GV.getInitializer()->getType() == GV.getType()->getElementType(),
381             "Global variable initializer type does not match global "
382             "variable type!", &GV);
383
384     // If the global has common linkage, it must have a zero initializer and
385     // cannot be constant.
386     if (GV.hasCommonLinkage()) {
387       Assert1(GV.getInitializer()->isNullValue(),
388               "'common' global must have a zero initializer!", &GV);
389       Assert1(!GV.isConstant(), "'common' global may not be marked constant!",
390               &GV);
391     }
392   } else {
393     Assert1(GV.hasExternalLinkage() || GV.hasExternalWeakLinkage(),
394             "invalid linkage type for global declaration", &GV);
395   }
396
397   if (GV.hasName() && (GV.getName() == "llvm.global_ctors" ||
398                        GV.getName() == "llvm.global_dtors")) {
399     Assert1(!GV.hasInitializer() || GV.hasAppendingLinkage(),
400             "invalid linkage for intrinsic global variable", &GV);
401     // Don't worry about emitting an error for it not being an array,
402     // visitGlobalValue will complain on appending non-array.
403     if (ArrayType *ATy = dyn_cast<ArrayType>(GV.getType())) {
404       StructType *STy = dyn_cast<StructType>(ATy->getElementType());
405       PointerType *FuncPtrTy =
406           FunctionType::get(Type::getVoidTy(*Context), false)->getPointerTo();
407       Assert1(STy && STy->getNumElements() == 2 &&
408               STy->getTypeAtIndex(0u)->isIntegerTy(32) &&
409               STy->getTypeAtIndex(1) == FuncPtrTy,
410               "wrong type for intrinsic global variable", &GV);
411     }
412   }
413
414   if (GV.hasName() && (GV.getName() == "llvm.used" ||
415                        GV.getName() == "llvm.compiler.used")) {
416     Assert1(!GV.hasInitializer() || GV.hasAppendingLinkage(),
417             "invalid linkage for intrinsic global variable", &GV);
418     Type *GVType = GV.getType()->getElementType();
419     if (ArrayType *ATy = dyn_cast<ArrayType>(GVType)) {
420       PointerType *PTy = dyn_cast<PointerType>(ATy->getElementType());
421       Assert1(PTy, "wrong type for intrinsic global variable", &GV);
422       if (GV.hasInitializer()) {
423         const Constant *Init = GV.getInitializer();
424         const ConstantArray *InitArray = dyn_cast<ConstantArray>(Init);
425         Assert1(InitArray, "wrong initalizer for intrinsic global variable",
426                 Init);
427         for (unsigned i = 0, e = InitArray->getNumOperands(); i != e; ++i) {
428           Value *V = Init->getOperand(i)->stripPointerCastsNoFollowAliases();
429           Assert1(
430               isa<GlobalVariable>(V) || isa<Function>(V) || isa<GlobalAlias>(V),
431               "invalid llvm.used member", V);
432           Assert1(V->hasName(), "members of llvm.used must be named", V);
433         }
434       }
435     }
436   }
437
438   Assert1(!GV.hasDLLImportStorageClass() ||
439           (GV.isDeclaration() && GV.hasExternalLinkage()) ||
440           GV.hasAvailableExternallyLinkage(),
441           "Global is marked as dllimport, but not external", &GV);
442
443   if (!GV.hasInitializer()) {
444     visitGlobalValue(GV);
445     return;
446   }
447
448   // Walk any aggregate initializers looking for bitcasts between address spaces
449   SmallPtrSet<const Value *, 4> Visited;
450   SmallVector<const Value *, 4> WorkStack;
451   WorkStack.push_back(cast<Value>(GV.getInitializer()));
452
453   while (!WorkStack.empty()) {
454     const Value *V = WorkStack.pop_back_val();
455     if (!Visited.insert(V))
456       continue;
457
458     if (const User *U = dyn_cast<User>(V)) {
459       for (unsigned I = 0, N = U->getNumOperands(); I != N; ++I)
460         WorkStack.push_back(U->getOperand(I));
461     }
462
463     if (const ConstantExpr *CE = dyn_cast<ConstantExpr>(V)) {
464       VerifyConstantExprBitcastType(CE);
465       if (Broken)
466         return;
467     }
468   }
469
470   visitGlobalValue(GV);
471 }
472
473 void Verifier::visitGlobalAlias(const GlobalAlias &GA) {
474   Assert1(!GA.getName().empty(),
475           "Alias name cannot be empty!", &GA);
476   Assert1(GlobalAlias::isValidLinkage(GA.getLinkage()),
477           "Alias should have external or external weak linkage!", &GA);
478   Assert1(GA.getAliasee(),
479           "Aliasee cannot be NULL!", &GA);
480   Assert1(GA.getType() == GA.getAliasee()->getType(),
481           "Alias and aliasee types should match!", &GA);
482   Assert1(!GA.hasUnnamedAddr(), "Alias cannot have unnamed_addr!", &GA);
483   Assert1(!GA.hasSection(), "Alias cannot have a section!", &GA);
484   Assert1(!GA.getAlignment(), "Alias connot have an alignment", &GA);
485
486   const Constant *Aliasee = GA.getAliasee();
487   const GlobalValue *GV = dyn_cast<GlobalValue>(Aliasee);
488
489   if (!GV) {
490     const ConstantExpr *CE = dyn_cast<ConstantExpr>(Aliasee);
491     if (CE && (CE->getOpcode() == Instruction::BitCast ||
492                CE->getOpcode() == Instruction::AddrSpaceCast ||
493                CE->getOpcode() == Instruction::GetElementPtr))
494       GV = dyn_cast<GlobalValue>(CE->getOperand(0));
495
496     Assert1(GV, "Aliasee should be either GlobalValue, bitcast or "
497                 "addrspacecast of GlobalValue",
498             &GA);
499
500     if (CE->getOpcode() == Instruction::BitCast) {
501       unsigned SrcAS = GV->getType()->getPointerAddressSpace();
502       unsigned DstAS = CE->getType()->getPointerAddressSpace();
503
504       Assert1(SrcAS == DstAS,
505               "Alias bitcasts cannot be between different address spaces",
506               &GA);
507     }
508   }
509   Assert1(!GV->isDeclaration(), "Alias must point to a definition", &GA);
510   if (const GlobalAlias *GAAliasee = dyn_cast<GlobalAlias>(GV)) {
511     Assert1(!GAAliasee->mayBeOverridden(), "Alias cannot point to a weak alias",
512             &GA);
513   }
514
515   const GlobalValue *AG = GA.getAliasedGlobal();
516   Assert1(AG, "Aliasing chain should end with function or global variable",
517           &GA);
518
519   visitGlobalValue(GA);
520 }
521
522 void Verifier::visitNamedMDNode(const NamedMDNode &NMD) {
523   for (unsigned i = 0, e = NMD.getNumOperands(); i != e; ++i) {
524     MDNode *MD = NMD.getOperand(i);
525     if (!MD)
526       continue;
527
528     Assert1(!MD->isFunctionLocal(),
529             "Named metadata operand cannot be function local!", MD);
530     visitMDNode(*MD, nullptr);
531   }
532 }
533
534 void Verifier::visitMDNode(MDNode &MD, Function *F) {
535   // Only visit each node once.  Metadata can be mutually recursive, so this
536   // avoids infinite recursion here, as well as being an optimization.
537   if (!MDNodes.insert(&MD))
538     return;
539
540   for (unsigned i = 0, e = MD.getNumOperands(); i != e; ++i) {
541     Value *Op = MD.getOperand(i);
542     if (!Op)
543       continue;
544     if (isa<Constant>(Op) || isa<MDString>(Op))
545       continue;
546     if (MDNode *N = dyn_cast<MDNode>(Op)) {
547       Assert2(MD.isFunctionLocal() || !N->isFunctionLocal(),
548               "Global metadata operand cannot be function local!", &MD, N);
549       visitMDNode(*N, F);
550       continue;
551     }
552     Assert2(MD.isFunctionLocal(), "Invalid operand for global metadata!", &MD, Op);
553
554     // If this was an instruction, bb, or argument, verify that it is in the
555     // function that we expect.
556     Function *ActualF = nullptr;
557     if (Instruction *I = dyn_cast<Instruction>(Op))
558       ActualF = I->getParent()->getParent();
559     else if (BasicBlock *BB = dyn_cast<BasicBlock>(Op))
560       ActualF = BB->getParent();
561     else if (Argument *A = dyn_cast<Argument>(Op))
562       ActualF = A->getParent();
563     assert(ActualF && "Unimplemented function local metadata case!");
564
565     Assert2(ActualF == F, "function-local metadata used in wrong function",
566             &MD, Op);
567   }
568 }
569
570 void Verifier::visitModuleIdents(const Module &M) {
571   const NamedMDNode *Idents = M.getNamedMetadata("llvm.ident");
572   if (!Idents) 
573     return;
574   
575   // llvm.ident takes a list of metadata entry. Each entry has only one string.
576   // Scan each llvm.ident entry and make sure that this requirement is met.
577   for (unsigned i = 0, e = Idents->getNumOperands(); i != e; ++i) {
578     const MDNode *N = Idents->getOperand(i);
579     Assert1(N->getNumOperands() == 1,
580             "incorrect number of operands in llvm.ident metadata", N);
581     Assert1(isa<MDString>(N->getOperand(0)),
582             ("invalid value for llvm.ident metadata entry operand"
583              "(the operand should be a string)"),
584             N->getOperand(0));
585   } 
586 }
587
588 void Verifier::visitModuleFlags(const Module &M) {
589   const NamedMDNode *Flags = M.getModuleFlagsMetadata();
590   if (!Flags) return;
591
592   // Scan each flag, and track the flags and requirements.
593   DenseMap<const MDString*, const MDNode*> SeenIDs;
594   SmallVector<const MDNode*, 16> Requirements;
595   for (unsigned I = 0, E = Flags->getNumOperands(); I != E; ++I) {
596     visitModuleFlag(Flags->getOperand(I), SeenIDs, Requirements);
597   }
598
599   // Validate that the requirements in the module are valid.
600   for (unsigned I = 0, E = Requirements.size(); I != E; ++I) {
601     const MDNode *Requirement = Requirements[I];
602     const MDString *Flag = cast<MDString>(Requirement->getOperand(0));
603     const Value *ReqValue = Requirement->getOperand(1);
604
605     const MDNode *Op = SeenIDs.lookup(Flag);
606     if (!Op) {
607       CheckFailed("invalid requirement on flag, flag is not present in module",
608                   Flag);
609       continue;
610     }
611
612     if (Op->getOperand(2) != ReqValue) {
613       CheckFailed(("invalid requirement on flag, "
614                    "flag does not have the required value"),
615                   Flag);
616       continue;
617     }
618   }
619 }
620
621 void
622 Verifier::visitModuleFlag(const MDNode *Op,
623                           DenseMap<const MDString *, const MDNode *> &SeenIDs,
624                           SmallVectorImpl<const MDNode *> &Requirements) {
625   // Each module flag should have three arguments, the merge behavior (a
626   // constant int), the flag ID (an MDString), and the value.
627   Assert1(Op->getNumOperands() == 3,
628           "incorrect number of operands in module flag", Op);
629   ConstantInt *Behavior = dyn_cast<ConstantInt>(Op->getOperand(0));
630   MDString *ID = dyn_cast<MDString>(Op->getOperand(1));
631   Assert1(Behavior,
632           "invalid behavior operand in module flag (expected constant integer)",
633           Op->getOperand(0));
634   unsigned BehaviorValue = Behavior->getZExtValue();
635   Assert1(ID,
636           "invalid ID operand in module flag (expected metadata string)",
637           Op->getOperand(1));
638
639   // Sanity check the values for behaviors with additional requirements.
640   switch (BehaviorValue) {
641   default:
642     Assert1(false,
643             "invalid behavior operand in module flag (unexpected constant)",
644             Op->getOperand(0));
645     break;
646
647   case Module::Error:
648   case Module::Warning:
649   case Module::Override:
650     // These behavior types accept any value.
651     break;
652
653   case Module::Require: {
654     // The value should itself be an MDNode with two operands, a flag ID (an
655     // MDString), and a value.
656     MDNode *Value = dyn_cast<MDNode>(Op->getOperand(2));
657     Assert1(Value && Value->getNumOperands() == 2,
658             "invalid value for 'require' module flag (expected metadata pair)",
659             Op->getOperand(2));
660     Assert1(isa<MDString>(Value->getOperand(0)),
661             ("invalid value for 'require' module flag "
662              "(first value operand should be a string)"),
663             Value->getOperand(0));
664
665     // Append it to the list of requirements, to check once all module flags are
666     // scanned.
667     Requirements.push_back(Value);
668     break;
669   }
670
671   case Module::Append:
672   case Module::AppendUnique: {
673     // These behavior types require the operand be an MDNode.
674     Assert1(isa<MDNode>(Op->getOperand(2)),
675             "invalid value for 'append'-type module flag "
676             "(expected a metadata node)", Op->getOperand(2));
677     break;
678   }
679   }
680
681   // Unless this is a "requires" flag, check the ID is unique.
682   if (BehaviorValue != Module::Require) {
683     bool Inserted = SeenIDs.insert(std::make_pair(ID, Op)).second;
684     Assert1(Inserted,
685             "module flag identifiers must be unique (or of 'require' type)",
686             ID);
687   }
688 }
689
690 void Verifier::VerifyAttributeTypes(AttributeSet Attrs, unsigned Idx,
691                                     bool isFunction, const Value *V) {
692   unsigned Slot = ~0U;
693   for (unsigned I = 0, E = Attrs.getNumSlots(); I != E; ++I)
694     if (Attrs.getSlotIndex(I) == Idx) {
695       Slot = I;
696       break;
697     }
698
699   assert(Slot != ~0U && "Attribute set inconsistency!");
700
701   for (AttributeSet::iterator I = Attrs.begin(Slot), E = Attrs.end(Slot);
702          I != E; ++I) {
703     if (I->isStringAttribute())
704       continue;
705
706     if (I->getKindAsEnum() == Attribute::NoReturn ||
707         I->getKindAsEnum() == Attribute::NoUnwind ||
708         I->getKindAsEnum() == Attribute::NoInline ||
709         I->getKindAsEnum() == Attribute::AlwaysInline ||
710         I->getKindAsEnum() == Attribute::OptimizeForSize ||
711         I->getKindAsEnum() == Attribute::StackProtect ||
712         I->getKindAsEnum() == Attribute::StackProtectReq ||
713         I->getKindAsEnum() == Attribute::StackProtectStrong ||
714         I->getKindAsEnum() == Attribute::NoRedZone ||
715         I->getKindAsEnum() == Attribute::NoImplicitFloat ||
716         I->getKindAsEnum() == Attribute::Naked ||
717         I->getKindAsEnum() == Attribute::InlineHint ||
718         I->getKindAsEnum() == Attribute::StackAlignment ||
719         I->getKindAsEnum() == Attribute::UWTable ||
720         I->getKindAsEnum() == Attribute::NonLazyBind ||
721         I->getKindAsEnum() == Attribute::ReturnsTwice ||
722         I->getKindAsEnum() == Attribute::SanitizeAddress ||
723         I->getKindAsEnum() == Attribute::SanitizeThread ||
724         I->getKindAsEnum() == Attribute::SanitizeMemory ||
725         I->getKindAsEnum() == Attribute::MinSize ||
726         I->getKindAsEnum() == Attribute::NoDuplicate ||
727         I->getKindAsEnum() == Attribute::Builtin ||
728         I->getKindAsEnum() == Attribute::NoBuiltin ||
729         I->getKindAsEnum() == Attribute::Cold ||
730         I->getKindAsEnum() == Attribute::OptimizeNone) {
731       if (!isFunction) {
732         CheckFailed("Attribute '" + I->getAsString() +
733                     "' only applies to functions!", V);
734         return;
735       }
736     } else if (I->getKindAsEnum() == Attribute::ReadOnly ||
737                I->getKindAsEnum() == Attribute::ReadNone) {
738       if (Idx == 0) {
739         CheckFailed("Attribute '" + I->getAsString() +
740                     "' does not apply to function returns");
741         return;
742       }
743     } else if (isFunction) {
744       CheckFailed("Attribute '" + I->getAsString() +
745                   "' does not apply to functions!", V);
746       return;
747     }
748   }
749 }
750
751 // VerifyParameterAttrs - Check the given attributes for an argument or return
752 // value of the specified type.  The value V is printed in error messages.
753 void Verifier::VerifyParameterAttrs(AttributeSet Attrs, unsigned Idx, Type *Ty,
754                                     bool isReturnValue, const Value *V) {
755   if (!Attrs.hasAttributes(Idx))
756     return;
757
758   VerifyAttributeTypes(Attrs, Idx, false, V);
759
760   if (isReturnValue)
761     Assert1(!Attrs.hasAttribute(Idx, Attribute::ByVal) &&
762             !Attrs.hasAttribute(Idx, Attribute::Nest) &&
763             !Attrs.hasAttribute(Idx, Attribute::StructRet) &&
764             !Attrs.hasAttribute(Idx, Attribute::NoCapture) &&
765             !Attrs.hasAttribute(Idx, Attribute::Returned) &&
766             !Attrs.hasAttribute(Idx, Attribute::InAlloca),
767             "Attributes 'byval', 'inalloca', 'nest', 'sret', 'nocapture', and "
768             "'returned' do not apply to return values!", V);
769
770   // Check for mutually incompatible attributes.  Only inreg is compatible with
771   // sret.
772   unsigned AttrCount = 0;
773   AttrCount += Attrs.hasAttribute(Idx, Attribute::ByVal);
774   AttrCount += Attrs.hasAttribute(Idx, Attribute::InAlloca);
775   AttrCount += Attrs.hasAttribute(Idx, Attribute::StructRet) ||
776                Attrs.hasAttribute(Idx, Attribute::InReg);
777   AttrCount += Attrs.hasAttribute(Idx, Attribute::Nest);
778   Assert1(AttrCount <= 1, "Attributes 'byval', 'inalloca', 'inreg', 'nest', "
779                           "and 'sret' are incompatible!", V);
780
781   Assert1(!(Attrs.hasAttribute(Idx, Attribute::InAlloca) &&
782             Attrs.hasAttribute(Idx, Attribute::ReadOnly)), "Attributes "
783           "'inalloca and readonly' are incompatible!", V);
784
785   Assert1(!(Attrs.hasAttribute(Idx, Attribute::StructRet) &&
786             Attrs.hasAttribute(Idx, Attribute::Returned)), "Attributes "
787           "'sret and returned' are incompatible!", V);
788
789   Assert1(!(Attrs.hasAttribute(Idx, Attribute::ZExt) &&
790             Attrs.hasAttribute(Idx, Attribute::SExt)), "Attributes "
791           "'zeroext and signext' are incompatible!", V);
792
793   Assert1(!(Attrs.hasAttribute(Idx, Attribute::ReadNone) &&
794             Attrs.hasAttribute(Idx, Attribute::ReadOnly)), "Attributes "
795           "'readnone and readonly' are incompatible!", V);
796
797   Assert1(!(Attrs.hasAttribute(Idx, Attribute::NoInline) &&
798             Attrs.hasAttribute(Idx, Attribute::AlwaysInline)), "Attributes "
799           "'noinline and alwaysinline' are incompatible!", V);
800
801   Assert1(!AttrBuilder(Attrs, Idx).
802             hasAttributes(AttributeFuncs::typeIncompatible(Ty, Idx), Idx),
803           "Wrong types for attribute: " +
804           AttributeFuncs::typeIncompatible(Ty, Idx).getAsString(Idx), V);
805
806   if (PointerType *PTy = dyn_cast<PointerType>(Ty)) {
807     if (!PTy->getElementType()->isSized()) {
808       Assert1(!Attrs.hasAttribute(Idx, Attribute::ByVal) &&
809               !Attrs.hasAttribute(Idx, Attribute::InAlloca),
810               "Attributes 'byval' and 'inalloca' do not support unsized types!",
811               V);
812     }
813   } else {
814     Assert1(!Attrs.hasAttribute(Idx, Attribute::ByVal),
815             "Attribute 'byval' only applies to parameters with pointer type!",
816             V);
817   }
818 }
819
820 // VerifyFunctionAttrs - Check parameter attributes against a function type.
821 // The value V is printed in error messages.
822 void Verifier::VerifyFunctionAttrs(FunctionType *FT, AttributeSet Attrs,
823                                    const Value *V) {
824   if (Attrs.isEmpty())
825     return;
826
827   bool SawNest = false;
828   bool SawReturned = false;
829
830   for (unsigned i = 0, e = Attrs.getNumSlots(); i != e; ++i) {
831     unsigned Idx = Attrs.getSlotIndex(i);
832
833     Type *Ty;
834     if (Idx == 0)
835       Ty = FT->getReturnType();
836     else if (Idx-1 < FT->getNumParams())
837       Ty = FT->getParamType(Idx-1);
838     else
839       break;  // VarArgs attributes, verified elsewhere.
840
841     VerifyParameterAttrs(Attrs, Idx, Ty, Idx == 0, V);
842
843     if (Idx == 0)
844       continue;
845
846     if (Attrs.hasAttribute(Idx, Attribute::Nest)) {
847       Assert1(!SawNest, "More than one parameter has attribute nest!", V);
848       SawNest = true;
849     }
850
851     if (Attrs.hasAttribute(Idx, Attribute::Returned)) {
852       Assert1(!SawReturned, "More than one parameter has attribute returned!",
853               V);
854       Assert1(Ty->canLosslesslyBitCastTo(FT->getReturnType()), "Incompatible "
855               "argument and return types for 'returned' attribute", V);
856       SawReturned = true;
857     }
858
859     if (Attrs.hasAttribute(Idx, Attribute::StructRet))
860       Assert1(Idx == 1, "Attribute sret is not on first parameter!", V);
861
862     if (Attrs.hasAttribute(Idx, Attribute::InAlloca)) {
863       Assert1(Idx == FT->getNumParams(),
864               "inalloca isn't on the last parameter!", V);
865     }
866   }
867
868   if (!Attrs.hasAttributes(AttributeSet::FunctionIndex))
869     return;
870
871   VerifyAttributeTypes(Attrs, AttributeSet::FunctionIndex, true, V);
872
873   Assert1(!(Attrs.hasAttribute(AttributeSet::FunctionIndex,
874                                Attribute::ReadNone) &&
875             Attrs.hasAttribute(AttributeSet::FunctionIndex,
876                                Attribute::ReadOnly)),
877           "Attributes 'readnone and readonly' are incompatible!", V);
878
879   Assert1(!(Attrs.hasAttribute(AttributeSet::FunctionIndex,
880                                Attribute::NoInline) &&
881             Attrs.hasAttribute(AttributeSet::FunctionIndex,
882                                Attribute::AlwaysInline)),
883           "Attributes 'noinline and alwaysinline' are incompatible!", V);
884
885   if (Attrs.hasAttribute(AttributeSet::FunctionIndex, 
886                          Attribute::OptimizeNone)) {
887     Assert1(Attrs.hasAttribute(AttributeSet::FunctionIndex,
888                                Attribute::NoInline),
889             "Attribute 'optnone' requires 'noinline'!", V);
890
891     Assert1(!Attrs.hasAttribute(AttributeSet::FunctionIndex,
892                                 Attribute::OptimizeForSize),
893             "Attributes 'optsize and optnone' are incompatible!", V);
894
895     Assert1(!Attrs.hasAttribute(AttributeSet::FunctionIndex,
896                                 Attribute::MinSize),
897             "Attributes 'minsize and optnone' are incompatible!", V);
898   }
899 }
900
901 void Verifier::VerifyBitcastType(const Value *V, Type *DestTy, Type *SrcTy) {
902   // Get the size of the types in bits, we'll need this later
903   unsigned SrcBitSize = SrcTy->getPrimitiveSizeInBits();
904   unsigned DestBitSize = DestTy->getPrimitiveSizeInBits();
905
906   // BitCast implies a no-op cast of type only. No bits change.
907   // However, you can't cast pointers to anything but pointers.
908   Assert1(SrcTy->isPointerTy() == DestTy->isPointerTy(),
909           "Bitcast requires both operands to be pointer or neither", V);
910   Assert1(SrcBitSize == DestBitSize,
911           "Bitcast requires types of same width", V);
912
913   // Disallow aggregates.
914   Assert1(!SrcTy->isAggregateType(),
915           "Bitcast operand must not be aggregate", V);
916   Assert1(!DestTy->isAggregateType(),
917           "Bitcast type must not be aggregate", V);
918
919   // Without datalayout, assume all address spaces are the same size.
920   // Don't check if both types are not pointers.
921   // Skip casts between scalars and vectors.
922   if (!DL ||
923       !SrcTy->isPtrOrPtrVectorTy() ||
924       !DestTy->isPtrOrPtrVectorTy() ||
925       SrcTy->isVectorTy() != DestTy->isVectorTy()) {
926     return;
927   }
928
929   unsigned SrcAS = SrcTy->getPointerAddressSpace();
930   unsigned DstAS = DestTy->getPointerAddressSpace();
931
932   Assert1(SrcAS == DstAS,
933           "Bitcasts between pointers of different address spaces is not legal."
934           "Use AddrSpaceCast instead.", V);
935 }
936
937 void Verifier::VerifyConstantExprBitcastType(const ConstantExpr *CE) {
938   if (CE->getOpcode() == Instruction::BitCast) {
939     Type *SrcTy = CE->getOperand(0)->getType();
940     Type *DstTy = CE->getType();
941     VerifyBitcastType(CE, DstTy, SrcTy);
942   }
943 }
944
945 bool Verifier::VerifyAttributeCount(AttributeSet Attrs, unsigned Params) {
946   if (Attrs.getNumSlots() == 0)
947     return true;
948
949   unsigned LastSlot = Attrs.getNumSlots() - 1;
950   unsigned LastIndex = Attrs.getSlotIndex(LastSlot);
951   if (LastIndex <= Params
952       || (LastIndex == AttributeSet::FunctionIndex
953           && (LastSlot == 0 || Attrs.getSlotIndex(LastSlot - 1) <= Params)))
954     return true;
955
956   return false;
957 }
958
959 // visitFunction - Verify that a function is ok.
960 //
961 void Verifier::visitFunction(const Function &F) {
962   // Check function arguments.
963   FunctionType *FT = F.getFunctionType();
964   unsigned NumArgs = F.arg_size();
965
966   Assert1(Context == &F.getContext(),
967           "Function context does not match Module context!", &F);
968
969   Assert1(!F.hasCommonLinkage(), "Functions may not have common linkage", &F);
970   Assert2(FT->getNumParams() == NumArgs,
971           "# formal arguments must match # of arguments for function type!",
972           &F, FT);
973   Assert1(F.getReturnType()->isFirstClassType() ||
974           F.getReturnType()->isVoidTy() ||
975           F.getReturnType()->isStructTy(),
976           "Functions cannot return aggregate values!", &F);
977
978   Assert1(!F.hasStructRetAttr() || F.getReturnType()->isVoidTy(),
979           "Invalid struct return type!", &F);
980
981   AttributeSet Attrs = F.getAttributes();
982
983   Assert1(VerifyAttributeCount(Attrs, FT->getNumParams()),
984           "Attribute after last parameter!", &F);
985
986   // Check function attributes.
987   VerifyFunctionAttrs(FT, Attrs, &F);
988
989   // On function declarations/definitions, we do not support the builtin
990   // attribute. We do not check this in VerifyFunctionAttrs since that is
991   // checking for Attributes that can/can not ever be on functions.
992   Assert1(!Attrs.hasAttribute(AttributeSet::FunctionIndex,
993                               Attribute::Builtin),
994           "Attribute 'builtin' can only be applied to a callsite.", &F);
995
996   // Check that this function meets the restrictions on this calling convention.
997   switch (F.getCallingConv()) {
998   default:
999     break;
1000   case CallingConv::C:
1001     break;
1002   case CallingConv::Fast:
1003   case CallingConv::Cold:
1004   case CallingConv::X86_FastCall:
1005   case CallingConv::X86_ThisCall:
1006   case CallingConv::Intel_OCL_BI:
1007   case CallingConv::PTX_Kernel:
1008   case CallingConv::PTX_Device:
1009     Assert1(!F.isVarArg(),
1010             "Varargs functions must have C calling conventions!", &F);
1011     break;
1012   }
1013
1014   bool isLLVMdotName = F.getName().size() >= 5 &&
1015                        F.getName().substr(0, 5) == "llvm.";
1016
1017   // Check that the argument values match the function type for this function...
1018   unsigned i = 0;
1019   for (Function::const_arg_iterator I = F.arg_begin(), E = F.arg_end(); I != E;
1020        ++I, ++i) {
1021     Assert2(I->getType() == FT->getParamType(i),
1022             "Argument value does not match function argument type!",
1023             I, FT->getParamType(i));
1024     Assert1(I->getType()->isFirstClassType(),
1025             "Function arguments must have first-class types!", I);
1026     if (!isLLVMdotName)
1027       Assert2(!I->getType()->isMetadataTy(),
1028               "Function takes metadata but isn't an intrinsic", I, &F);
1029   }
1030
1031   if (F.isMaterializable()) {
1032     // Function has a body somewhere we can't see.
1033   } else if (F.isDeclaration()) {
1034     Assert1(F.hasExternalLinkage() || F.hasExternalWeakLinkage(),
1035             "invalid linkage type for function declaration", &F);
1036   } else {
1037     // Verify that this function (which has a body) is not named "llvm.*".  It
1038     // is not legal to define intrinsics.
1039     Assert1(!isLLVMdotName, "llvm intrinsics cannot be defined!", &F);
1040
1041     // Check the entry node
1042     const BasicBlock *Entry = &F.getEntryBlock();
1043     Assert1(pred_begin(Entry) == pred_end(Entry),
1044             "Entry block to function must not have predecessors!", Entry);
1045
1046     // The address of the entry block cannot be taken, unless it is dead.
1047     if (Entry->hasAddressTaken()) {
1048       Assert1(!BlockAddress::lookup(Entry)->isConstantUsed(),
1049               "blockaddress may not be used with the entry block!", Entry);
1050     }
1051   }
1052
1053   // If this function is actually an intrinsic, verify that it is only used in
1054   // direct call/invokes, never having its "address taken".
1055   if (F.getIntrinsicID()) {
1056     const User *U;
1057     if (F.hasAddressTaken(&U))
1058       Assert1(0, "Invalid user of intrinsic instruction!", U);
1059   }
1060
1061   Assert1(!F.hasDLLImportStorageClass() ||
1062           (F.isDeclaration() && F.hasExternalLinkage()) ||
1063           F.hasAvailableExternallyLinkage(),
1064           "Function is marked as dllimport, but not external.", &F);
1065 }
1066
1067 // verifyBasicBlock - Verify that a basic block is well formed...
1068 //
1069 void Verifier::visitBasicBlock(BasicBlock &BB) {
1070   InstsInThisBlock.clear();
1071
1072   // Ensure that basic blocks have terminators!
1073   Assert1(BB.getTerminator(), "Basic Block does not have terminator!", &BB);
1074
1075   // Check constraints that this basic block imposes on all of the PHI nodes in
1076   // it.
1077   if (isa<PHINode>(BB.front())) {
1078     SmallVector<BasicBlock*, 8> Preds(pred_begin(&BB), pred_end(&BB));
1079     SmallVector<std::pair<BasicBlock*, Value*>, 8> Values;
1080     std::sort(Preds.begin(), Preds.end());
1081     PHINode *PN;
1082     for (BasicBlock::iterator I = BB.begin(); (PN = dyn_cast<PHINode>(I));++I) {
1083       // Ensure that PHI nodes have at least one entry!
1084       Assert1(PN->getNumIncomingValues() != 0,
1085               "PHI nodes must have at least one entry.  If the block is dead, "
1086               "the PHI should be removed!", PN);
1087       Assert1(PN->getNumIncomingValues() == Preds.size(),
1088               "PHINode should have one entry for each predecessor of its "
1089               "parent basic block!", PN);
1090
1091       // Get and sort all incoming values in the PHI node...
1092       Values.clear();
1093       Values.reserve(PN->getNumIncomingValues());
1094       for (unsigned i = 0, e = PN->getNumIncomingValues(); i != e; ++i)
1095         Values.push_back(std::make_pair(PN->getIncomingBlock(i),
1096                                         PN->getIncomingValue(i)));
1097       std::sort(Values.begin(), Values.end());
1098
1099       for (unsigned i = 0, e = Values.size(); i != e; ++i) {
1100         // Check to make sure that if there is more than one entry for a
1101         // particular basic block in this PHI node, that the incoming values are
1102         // all identical.
1103         //
1104         Assert4(i == 0 || Values[i].first  != Values[i-1].first ||
1105                 Values[i].second == Values[i-1].second,
1106                 "PHI node has multiple entries for the same basic block with "
1107                 "different incoming values!", PN, Values[i].first,
1108                 Values[i].second, Values[i-1].second);
1109
1110         // Check to make sure that the predecessors and PHI node entries are
1111         // matched up.
1112         Assert3(Values[i].first == Preds[i],
1113                 "PHI node entries do not match predecessors!", PN,
1114                 Values[i].first, Preds[i]);
1115       }
1116     }
1117   }
1118 }
1119
1120 void Verifier::visitTerminatorInst(TerminatorInst &I) {
1121   // Ensure that terminators only exist at the end of the basic block.
1122   Assert1(&I == I.getParent()->getTerminator(),
1123           "Terminator found in the middle of a basic block!", I.getParent());
1124   visitInstruction(I);
1125 }
1126
1127 void Verifier::visitBranchInst(BranchInst &BI) {
1128   if (BI.isConditional()) {
1129     Assert2(BI.getCondition()->getType()->isIntegerTy(1),
1130             "Branch condition is not 'i1' type!", &BI, BI.getCondition());
1131   }
1132   visitTerminatorInst(BI);
1133 }
1134
1135 void Verifier::visitReturnInst(ReturnInst &RI) {
1136   Function *F = RI.getParent()->getParent();
1137   unsigned N = RI.getNumOperands();
1138   if (F->getReturnType()->isVoidTy())
1139     Assert2(N == 0,
1140             "Found return instr that returns non-void in Function of void "
1141             "return type!", &RI, F->getReturnType());
1142   else
1143     Assert2(N == 1 && F->getReturnType() == RI.getOperand(0)->getType(),
1144             "Function return type does not match operand "
1145             "type of return inst!", &RI, F->getReturnType());
1146
1147   // Check to make sure that the return value has necessary properties for
1148   // terminators...
1149   visitTerminatorInst(RI);
1150 }
1151
1152 void Verifier::visitSwitchInst(SwitchInst &SI) {
1153   // Check to make sure that all of the constants in the switch instruction
1154   // have the same type as the switched-on value.
1155   Type *SwitchTy = SI.getCondition()->getType();
1156   SmallPtrSet<ConstantInt*, 32> Constants;
1157   for (SwitchInst::CaseIt i = SI.case_begin(), e = SI.case_end(); i != e; ++i) {
1158     Assert1(i.getCaseValue()->getType() == SwitchTy,
1159             "Switch constants must all be same type as switch value!", &SI);
1160     Assert2(Constants.insert(i.getCaseValue()),
1161             "Duplicate integer as switch case", &SI, i.getCaseValue());
1162   }
1163
1164   visitTerminatorInst(SI);
1165 }
1166
1167 void Verifier::visitIndirectBrInst(IndirectBrInst &BI) {
1168   Assert1(BI.getAddress()->getType()->isPointerTy(),
1169           "Indirectbr operand must have pointer type!", &BI);
1170   for (unsigned i = 0, e = BI.getNumDestinations(); i != e; ++i)
1171     Assert1(BI.getDestination(i)->getType()->isLabelTy(),
1172             "Indirectbr destinations must all have pointer type!", &BI);
1173
1174   visitTerminatorInst(BI);
1175 }
1176
1177 void Verifier::visitSelectInst(SelectInst &SI) {
1178   Assert1(!SelectInst::areInvalidOperands(SI.getOperand(0), SI.getOperand(1),
1179                                           SI.getOperand(2)),
1180           "Invalid operands for select instruction!", &SI);
1181
1182   Assert1(SI.getTrueValue()->getType() == SI.getType(),
1183           "Select values must have same type as select instruction!", &SI);
1184   visitInstruction(SI);
1185 }
1186
1187 /// visitUserOp1 - User defined operators shouldn't live beyond the lifetime of
1188 /// a pass, if any exist, it's an error.
1189 ///
1190 void Verifier::visitUserOp1(Instruction &I) {
1191   Assert1(0, "User-defined operators should not live outside of a pass!", &I);
1192 }
1193
1194 void Verifier::visitTruncInst(TruncInst &I) {
1195   // Get the source and destination types
1196   Type *SrcTy = I.getOperand(0)->getType();
1197   Type *DestTy = I.getType();
1198
1199   // Get the size of the types in bits, we'll need this later
1200   unsigned SrcBitSize = SrcTy->getScalarSizeInBits();
1201   unsigned DestBitSize = DestTy->getScalarSizeInBits();
1202
1203   Assert1(SrcTy->isIntOrIntVectorTy(), "Trunc only operates on integer", &I);
1204   Assert1(DestTy->isIntOrIntVectorTy(), "Trunc only produces integer", &I);
1205   Assert1(SrcTy->isVectorTy() == DestTy->isVectorTy(),
1206           "trunc source and destination must both be a vector or neither", &I);
1207   Assert1(SrcBitSize > DestBitSize,"DestTy too big for Trunc", &I);
1208
1209   visitInstruction(I);
1210 }
1211
1212 void Verifier::visitZExtInst(ZExtInst &I) {
1213   // Get the source and destination types
1214   Type *SrcTy = I.getOperand(0)->getType();
1215   Type *DestTy = I.getType();
1216
1217   // Get the size of the types in bits, we'll need this later
1218   Assert1(SrcTy->isIntOrIntVectorTy(), "ZExt only operates on integer", &I);
1219   Assert1(DestTy->isIntOrIntVectorTy(), "ZExt only produces an integer", &I);
1220   Assert1(SrcTy->isVectorTy() == DestTy->isVectorTy(),
1221           "zext source and destination must both be a vector or neither", &I);
1222   unsigned SrcBitSize = SrcTy->getScalarSizeInBits();
1223   unsigned DestBitSize = DestTy->getScalarSizeInBits();
1224
1225   Assert1(SrcBitSize < DestBitSize,"Type too small for ZExt", &I);
1226
1227   visitInstruction(I);
1228 }
1229
1230 void Verifier::visitSExtInst(SExtInst &I) {
1231   // Get the source and destination types
1232   Type *SrcTy = I.getOperand(0)->getType();
1233   Type *DestTy = I.getType();
1234
1235   // Get the size of the types in bits, we'll need this later
1236   unsigned SrcBitSize = SrcTy->getScalarSizeInBits();
1237   unsigned DestBitSize = DestTy->getScalarSizeInBits();
1238
1239   Assert1(SrcTy->isIntOrIntVectorTy(), "SExt only operates on integer", &I);
1240   Assert1(DestTy->isIntOrIntVectorTy(), "SExt only produces an integer", &I);
1241   Assert1(SrcTy->isVectorTy() == DestTy->isVectorTy(),
1242           "sext source and destination must both be a vector or neither", &I);
1243   Assert1(SrcBitSize < DestBitSize,"Type too small for SExt", &I);
1244
1245   visitInstruction(I);
1246 }
1247
1248 void Verifier::visitFPTruncInst(FPTruncInst &I) {
1249   // Get the source and destination types
1250   Type *SrcTy = I.getOperand(0)->getType();
1251   Type *DestTy = I.getType();
1252   // Get the size of the types in bits, we'll need this later
1253   unsigned SrcBitSize = SrcTy->getScalarSizeInBits();
1254   unsigned DestBitSize = DestTy->getScalarSizeInBits();
1255
1256   Assert1(SrcTy->isFPOrFPVectorTy(),"FPTrunc only operates on FP", &I);
1257   Assert1(DestTy->isFPOrFPVectorTy(),"FPTrunc only produces an FP", &I);
1258   Assert1(SrcTy->isVectorTy() == DestTy->isVectorTy(),
1259           "fptrunc source and destination must both be a vector or neither",&I);
1260   Assert1(SrcBitSize > DestBitSize,"DestTy too big for FPTrunc", &I);
1261
1262   visitInstruction(I);
1263 }
1264
1265 void Verifier::visitFPExtInst(FPExtInst &I) {
1266   // Get the source and destination types
1267   Type *SrcTy = I.getOperand(0)->getType();
1268   Type *DestTy = I.getType();
1269
1270   // Get the size of the types in bits, we'll need this later
1271   unsigned SrcBitSize = SrcTy->getScalarSizeInBits();
1272   unsigned DestBitSize = DestTy->getScalarSizeInBits();
1273
1274   Assert1(SrcTy->isFPOrFPVectorTy(),"FPExt only operates on FP", &I);
1275   Assert1(DestTy->isFPOrFPVectorTy(),"FPExt only produces an FP", &I);
1276   Assert1(SrcTy->isVectorTy() == DestTy->isVectorTy(),
1277           "fpext source and destination must both be a vector or neither", &I);
1278   Assert1(SrcBitSize < DestBitSize,"DestTy too small for FPExt", &I);
1279
1280   visitInstruction(I);
1281 }
1282
1283 void Verifier::visitUIToFPInst(UIToFPInst &I) {
1284   // Get the source and destination types
1285   Type *SrcTy = I.getOperand(0)->getType();
1286   Type *DestTy = I.getType();
1287
1288   bool SrcVec = SrcTy->isVectorTy();
1289   bool DstVec = DestTy->isVectorTy();
1290
1291   Assert1(SrcVec == DstVec,
1292           "UIToFP source and dest must both be vector or scalar", &I);
1293   Assert1(SrcTy->isIntOrIntVectorTy(),
1294           "UIToFP source must be integer or integer vector", &I);
1295   Assert1(DestTy->isFPOrFPVectorTy(),
1296           "UIToFP result must be FP or FP vector", &I);
1297
1298   if (SrcVec && DstVec)
1299     Assert1(cast<VectorType>(SrcTy)->getNumElements() ==
1300             cast<VectorType>(DestTy)->getNumElements(),
1301             "UIToFP source and dest vector length mismatch", &I);
1302
1303   visitInstruction(I);
1304 }
1305
1306 void Verifier::visitSIToFPInst(SIToFPInst &I) {
1307   // Get the source and destination types
1308   Type *SrcTy = I.getOperand(0)->getType();
1309   Type *DestTy = I.getType();
1310
1311   bool SrcVec = SrcTy->isVectorTy();
1312   bool DstVec = DestTy->isVectorTy();
1313
1314   Assert1(SrcVec == DstVec,
1315           "SIToFP source and dest must both be vector or scalar", &I);
1316   Assert1(SrcTy->isIntOrIntVectorTy(),
1317           "SIToFP source must be integer or integer vector", &I);
1318   Assert1(DestTy->isFPOrFPVectorTy(),
1319           "SIToFP result must be FP or FP vector", &I);
1320
1321   if (SrcVec && DstVec)
1322     Assert1(cast<VectorType>(SrcTy)->getNumElements() ==
1323             cast<VectorType>(DestTy)->getNumElements(),
1324             "SIToFP source and dest vector length mismatch", &I);
1325
1326   visitInstruction(I);
1327 }
1328
1329 void Verifier::visitFPToUIInst(FPToUIInst &I) {
1330   // Get the source and destination types
1331   Type *SrcTy = I.getOperand(0)->getType();
1332   Type *DestTy = I.getType();
1333
1334   bool SrcVec = SrcTy->isVectorTy();
1335   bool DstVec = DestTy->isVectorTy();
1336
1337   Assert1(SrcVec == DstVec,
1338           "FPToUI source and dest must both be vector or scalar", &I);
1339   Assert1(SrcTy->isFPOrFPVectorTy(), "FPToUI source must be FP or FP vector",
1340           &I);
1341   Assert1(DestTy->isIntOrIntVectorTy(),
1342           "FPToUI result must be integer or integer vector", &I);
1343
1344   if (SrcVec && DstVec)
1345     Assert1(cast<VectorType>(SrcTy)->getNumElements() ==
1346             cast<VectorType>(DestTy)->getNumElements(),
1347             "FPToUI source and dest vector length mismatch", &I);
1348
1349   visitInstruction(I);
1350 }
1351
1352 void Verifier::visitFPToSIInst(FPToSIInst &I) {
1353   // Get the source and destination types
1354   Type *SrcTy = I.getOperand(0)->getType();
1355   Type *DestTy = I.getType();
1356
1357   bool SrcVec = SrcTy->isVectorTy();
1358   bool DstVec = DestTy->isVectorTy();
1359
1360   Assert1(SrcVec == DstVec,
1361           "FPToSI source and dest must both be vector or scalar", &I);
1362   Assert1(SrcTy->isFPOrFPVectorTy(),
1363           "FPToSI source must be FP or FP vector", &I);
1364   Assert1(DestTy->isIntOrIntVectorTy(),
1365           "FPToSI result must be integer or integer vector", &I);
1366
1367   if (SrcVec && DstVec)
1368     Assert1(cast<VectorType>(SrcTy)->getNumElements() ==
1369             cast<VectorType>(DestTy)->getNumElements(),
1370             "FPToSI source and dest vector length mismatch", &I);
1371
1372   visitInstruction(I);
1373 }
1374
1375 void Verifier::visitPtrToIntInst(PtrToIntInst &I) {
1376   // Get the source and destination types
1377   Type *SrcTy = I.getOperand(0)->getType();
1378   Type *DestTy = I.getType();
1379
1380   Assert1(SrcTy->getScalarType()->isPointerTy(),
1381           "PtrToInt source must be pointer", &I);
1382   Assert1(DestTy->getScalarType()->isIntegerTy(),
1383           "PtrToInt result must be integral", &I);
1384   Assert1(SrcTy->isVectorTy() == DestTy->isVectorTy(),
1385           "PtrToInt type mismatch", &I);
1386
1387   if (SrcTy->isVectorTy()) {
1388     VectorType *VSrc = dyn_cast<VectorType>(SrcTy);
1389     VectorType *VDest = dyn_cast<VectorType>(DestTy);
1390     Assert1(VSrc->getNumElements() == VDest->getNumElements(),
1391           "PtrToInt Vector width mismatch", &I);
1392   }
1393
1394   visitInstruction(I);
1395 }
1396
1397 void Verifier::visitIntToPtrInst(IntToPtrInst &I) {
1398   // Get the source and destination types
1399   Type *SrcTy = I.getOperand(0)->getType();
1400   Type *DestTy = I.getType();
1401
1402   Assert1(SrcTy->getScalarType()->isIntegerTy(),
1403           "IntToPtr source must be an integral", &I);
1404   Assert1(DestTy->getScalarType()->isPointerTy(),
1405           "IntToPtr result must be a pointer",&I);
1406   Assert1(SrcTy->isVectorTy() == DestTy->isVectorTy(),
1407           "IntToPtr type mismatch", &I);
1408   if (SrcTy->isVectorTy()) {
1409     VectorType *VSrc = dyn_cast<VectorType>(SrcTy);
1410     VectorType *VDest = dyn_cast<VectorType>(DestTy);
1411     Assert1(VSrc->getNumElements() == VDest->getNumElements(),
1412           "IntToPtr Vector width mismatch", &I);
1413   }
1414   visitInstruction(I);
1415 }
1416
1417 void Verifier::visitBitCastInst(BitCastInst &I) {
1418   Type *SrcTy = I.getOperand(0)->getType();
1419   Type *DestTy = I.getType();
1420   VerifyBitcastType(&I, DestTy, SrcTy);
1421   visitInstruction(I);
1422 }
1423
1424 void Verifier::visitAddrSpaceCastInst(AddrSpaceCastInst &I) {
1425   Type *SrcTy = I.getOperand(0)->getType();
1426   Type *DestTy = I.getType();
1427
1428   Assert1(SrcTy->isPtrOrPtrVectorTy(),
1429           "AddrSpaceCast source must be a pointer", &I);
1430   Assert1(DestTy->isPtrOrPtrVectorTy(),
1431           "AddrSpaceCast result must be a pointer", &I);
1432   Assert1(SrcTy->getPointerAddressSpace() != DestTy->getPointerAddressSpace(),
1433           "AddrSpaceCast must be between different address spaces", &I);
1434   if (SrcTy->isVectorTy())
1435     Assert1(SrcTy->getVectorNumElements() == DestTy->getVectorNumElements(),
1436             "AddrSpaceCast vector pointer number of elements mismatch", &I);
1437   visitInstruction(I);
1438 }
1439
1440 /// visitPHINode - Ensure that a PHI node is well formed.
1441 ///
1442 void Verifier::visitPHINode(PHINode &PN) {
1443   // Ensure that the PHI nodes are all grouped together at the top of the block.
1444   // This can be tested by checking whether the instruction before this is
1445   // either nonexistent (because this is begin()) or is a PHI node.  If not,
1446   // then there is some other instruction before a PHI.
1447   Assert2(&PN == &PN.getParent()->front() ||
1448           isa<PHINode>(--BasicBlock::iterator(&PN)),
1449           "PHI nodes not grouped at top of basic block!",
1450           &PN, PN.getParent());
1451
1452   // Check that all of the values of the PHI node have the same type as the
1453   // result, and that the incoming blocks are really basic blocks.
1454   for (unsigned i = 0, e = PN.getNumIncomingValues(); i != e; ++i) {
1455     Assert1(PN.getType() == PN.getIncomingValue(i)->getType(),
1456             "PHI node operands are not the same type as the result!", &PN);
1457   }
1458
1459   // All other PHI node constraints are checked in the visitBasicBlock method.
1460
1461   visitInstruction(PN);
1462 }
1463
1464 void Verifier::VerifyCallSite(CallSite CS) {
1465   Instruction *I = CS.getInstruction();
1466
1467   Assert1(CS.getCalledValue()->getType()->isPointerTy(),
1468           "Called function must be a pointer!", I);
1469   PointerType *FPTy = cast<PointerType>(CS.getCalledValue()->getType());
1470
1471   Assert1(FPTy->getElementType()->isFunctionTy(),
1472           "Called function is not pointer to function type!", I);
1473   FunctionType *FTy = cast<FunctionType>(FPTy->getElementType());
1474
1475   // Verify that the correct number of arguments are being passed
1476   if (FTy->isVarArg())
1477     Assert1(CS.arg_size() >= FTy->getNumParams(),
1478             "Called function requires more parameters than were provided!",I);
1479   else
1480     Assert1(CS.arg_size() == FTy->getNumParams(),
1481             "Incorrect number of arguments passed to called function!", I);
1482
1483   // Verify that all arguments to the call match the function type.
1484   for (unsigned i = 0, e = FTy->getNumParams(); i != e; ++i)
1485     Assert3(CS.getArgument(i)->getType() == FTy->getParamType(i),
1486             "Call parameter type does not match function signature!",
1487             CS.getArgument(i), FTy->getParamType(i), I);
1488
1489   AttributeSet Attrs = CS.getAttributes();
1490
1491   Assert1(VerifyAttributeCount(Attrs, CS.arg_size()),
1492           "Attribute after last parameter!", I);
1493
1494   // Verify call attributes.
1495   VerifyFunctionAttrs(FTy, Attrs, I);
1496
1497   // Conservatively check the inalloca argument.
1498   // We have a bug if we can find that there is an underlying alloca without
1499   // inalloca.
1500   if (CS.hasInAllocaArgument()) {
1501     Value *InAllocaArg = CS.getArgument(FTy->getNumParams() - 1);
1502     if (auto AI = dyn_cast<AllocaInst>(InAllocaArg->stripInBoundsOffsets()))
1503       Assert2(AI->isUsedWithInAlloca(),
1504               "inalloca argument for call has mismatched alloca", AI, I);
1505   }
1506
1507   if (FTy->isVarArg()) {
1508     // FIXME? is 'nest' even legal here?
1509     bool SawNest = false;
1510     bool SawReturned = false;
1511
1512     for (unsigned Idx = 1; Idx < 1 + FTy->getNumParams(); ++Idx) {
1513       if (Attrs.hasAttribute(Idx, Attribute::Nest))
1514         SawNest = true;
1515       if (Attrs.hasAttribute(Idx, Attribute::Returned))
1516         SawReturned = true;
1517     }
1518
1519     // Check attributes on the varargs part.
1520     for (unsigned Idx = 1 + FTy->getNumParams(); Idx <= CS.arg_size(); ++Idx) {
1521       Type *Ty = CS.getArgument(Idx-1)->getType();
1522       VerifyParameterAttrs(Attrs, Idx, Ty, false, I);
1523
1524       if (Attrs.hasAttribute(Idx, Attribute::Nest)) {
1525         Assert1(!SawNest, "More than one parameter has attribute nest!", I);
1526         SawNest = true;
1527       }
1528
1529       if (Attrs.hasAttribute(Idx, Attribute::Returned)) {
1530         Assert1(!SawReturned, "More than one parameter has attribute returned!",
1531                 I);
1532         Assert1(Ty->canLosslesslyBitCastTo(FTy->getReturnType()),
1533                 "Incompatible argument and return types for 'returned' "
1534                 "attribute", I);
1535         SawReturned = true;
1536       }
1537
1538       Assert1(!Attrs.hasAttribute(Idx, Attribute::StructRet),
1539               "Attribute 'sret' cannot be used for vararg call arguments!", I);
1540
1541       if (Attrs.hasAttribute(Idx, Attribute::InAlloca))
1542         Assert1(Idx == CS.arg_size(), "inalloca isn't on the last argument!",
1543                 I);
1544     }
1545   }
1546
1547   // Verify that there's no metadata unless it's a direct call to an intrinsic.
1548   if (CS.getCalledFunction() == nullptr ||
1549       !CS.getCalledFunction()->getName().startswith("llvm.")) {
1550     for (FunctionType::param_iterator PI = FTy->param_begin(),
1551            PE = FTy->param_end(); PI != PE; ++PI)
1552       Assert1(!(*PI)->isMetadataTy(),
1553               "Function has metadata parameter but isn't an intrinsic", I);
1554   }
1555
1556   visitInstruction(*I);
1557 }
1558
1559 /// Two types are "congruent" if they are identical, or if they are both pointer
1560 /// types with different pointee types and the same address space.
1561 static bool isTypeCongruent(Type *L, Type *R) {
1562   if (L == R)
1563     return true;
1564   PointerType *PL = dyn_cast<PointerType>(L);
1565   PointerType *PR = dyn_cast<PointerType>(R);
1566   if (!PL || !PR)
1567     return false;
1568   return PL->getAddressSpace() == PR->getAddressSpace();
1569 }
1570
1571 void Verifier::verifyMustTailCall(CallInst &CI) {
1572   Assert1(!CI.isInlineAsm(), "cannot use musttail call with inline asm", &CI);
1573
1574   // - The caller and callee prototypes must match.  Pointer types of
1575   //   parameters or return types may differ in pointee type, but not
1576   //   address space.
1577   Function *F = CI.getParent()->getParent();
1578   auto GetFnTy = [](Value *V) {
1579     return cast<FunctionType>(
1580         cast<PointerType>(V->getType())->getElementType());
1581   };
1582   FunctionType *CallerTy = GetFnTy(F);
1583   FunctionType *CalleeTy = GetFnTy(CI.getCalledValue());
1584   Assert1(CallerTy->getNumParams() == CalleeTy->getNumParams(),
1585           "cannot guarantee tail call due to mismatched parameter counts", &CI);
1586   Assert1(CallerTy->isVarArg() == CalleeTy->isVarArg(),
1587           "cannot guarantee tail call due to mismatched varargs", &CI);
1588   Assert1(isTypeCongruent(CallerTy->getReturnType(), CalleeTy->getReturnType()),
1589           "cannot guarantee tail call due to mismatched return types", &CI);
1590   for (int I = 0, E = CallerTy->getNumParams(); I != E; ++I) {
1591     Assert1(
1592         isTypeCongruent(CallerTy->getParamType(I), CalleeTy->getParamType(I)),
1593         "cannot guarantee tail call due to mismatched parameter types", &CI);
1594   }
1595
1596   // - The calling conventions of the caller and callee must match.
1597   Assert1(F->getCallingConv() == CI.getCallingConv(),
1598           "cannot guarantee tail call due to mismatched calling conv", &CI);
1599
1600   // - All ABI-impacting function attributes, such as sret, byval, inreg,
1601   //   returned, and inalloca, must match.
1602   static const Attribute::AttrKind ABIAttrs[] = {
1603       Attribute::Alignment, Attribute::StructRet, Attribute::ByVal,
1604       Attribute::InAlloca,  Attribute::InReg,     Attribute::Returned};
1605   AttributeSet CallerAttrs = F->getAttributes();
1606   AttributeSet CalleeAttrs = CI.getAttributes();
1607   for (int I = 0, E = CallerTy->getNumParams(); I != E; ++I) {
1608     AttrBuilder CallerABIAttrs;
1609     AttrBuilder CalleeABIAttrs;
1610     for (auto AK : ABIAttrs) {
1611       if (CallerAttrs.hasAttribute(I + 1, AK))
1612         CallerABIAttrs.addAttribute(AK);
1613       if (CalleeAttrs.hasAttribute(I + 1, AK))
1614         CalleeABIAttrs.addAttribute(AK);
1615     }
1616     Assert2(CallerABIAttrs == CalleeABIAttrs,
1617             "cannot guarantee tail call due to mismatched ABI impacting "
1618             "function attributes", &CI, CI.getOperand(I));
1619   }
1620
1621   // - The call must immediately precede a :ref:`ret <i_ret>` instruction,
1622   //   or a pointer bitcast followed by a ret instruction.
1623   // - The ret instruction must return the (possibly bitcasted) value
1624   //   produced by the call or void.
1625   Value *RetVal = &CI;
1626   Instruction *Next = CI.getNextNode();
1627
1628   // Handle the optional bitcast.
1629   if (BitCastInst *BI = dyn_cast_or_null<BitCastInst>(Next)) {
1630     Assert1(BI->getOperand(0) == RetVal,
1631             "bitcast following musttail call must use the call", BI);
1632     RetVal = BI;
1633     Next = BI->getNextNode();
1634   }
1635
1636   // Check the return.
1637   ReturnInst *Ret = dyn_cast_or_null<ReturnInst>(Next);
1638   Assert1(Ret, "musttail call must be precede a ret with an optional bitcast",
1639           &CI);
1640   Assert1(!Ret->getReturnValue() || Ret->getReturnValue() == RetVal,
1641           "musttail call result must be returned", Ret);
1642 }
1643
1644 void Verifier::visitCallInst(CallInst &CI) {
1645   VerifyCallSite(&CI);
1646
1647   if (CI.isMustTailCall())
1648     verifyMustTailCall(CI);
1649
1650   if (Function *F = CI.getCalledFunction())
1651     if (Intrinsic::ID ID = (Intrinsic::ID)F->getIntrinsicID())
1652       visitIntrinsicFunctionCall(ID, CI);
1653 }
1654
1655 void Verifier::visitInvokeInst(InvokeInst &II) {
1656   VerifyCallSite(&II);
1657
1658   // Verify that there is a landingpad instruction as the first non-PHI
1659   // instruction of the 'unwind' destination.
1660   Assert1(II.getUnwindDest()->isLandingPad(),
1661           "The unwind destination does not have a landingpad instruction!",&II);
1662
1663   visitTerminatorInst(II);
1664 }
1665
1666 /// visitBinaryOperator - Check that both arguments to the binary operator are
1667 /// of the same type!
1668 ///
1669 void Verifier::visitBinaryOperator(BinaryOperator &B) {
1670   Assert1(B.getOperand(0)->getType() == B.getOperand(1)->getType(),
1671           "Both operands to a binary operator are not of the same type!", &B);
1672
1673   switch (B.getOpcode()) {
1674   // Check that integer arithmetic operators are only used with
1675   // integral operands.
1676   case Instruction::Add:
1677   case Instruction::Sub:
1678   case Instruction::Mul:
1679   case Instruction::SDiv:
1680   case Instruction::UDiv:
1681   case Instruction::SRem:
1682   case Instruction::URem:
1683     Assert1(B.getType()->isIntOrIntVectorTy(),
1684             "Integer arithmetic operators only work with integral types!", &B);
1685     Assert1(B.getType() == B.getOperand(0)->getType(),
1686             "Integer arithmetic operators must have same type "
1687             "for operands and result!", &B);
1688     break;
1689   // Check that floating-point arithmetic operators are only used with
1690   // floating-point operands.
1691   case Instruction::FAdd:
1692   case Instruction::FSub:
1693   case Instruction::FMul:
1694   case Instruction::FDiv:
1695   case Instruction::FRem:
1696     Assert1(B.getType()->isFPOrFPVectorTy(),
1697             "Floating-point arithmetic operators only work with "
1698             "floating-point types!", &B);
1699     Assert1(B.getType() == B.getOperand(0)->getType(),
1700             "Floating-point arithmetic operators must have same type "
1701             "for operands and result!", &B);
1702     break;
1703   // Check that logical operators are only used with integral operands.
1704   case Instruction::And:
1705   case Instruction::Or:
1706   case Instruction::Xor:
1707     Assert1(B.getType()->isIntOrIntVectorTy(),
1708             "Logical operators only work with integral types!", &B);
1709     Assert1(B.getType() == B.getOperand(0)->getType(),
1710             "Logical operators must have same type for operands and result!",
1711             &B);
1712     break;
1713   case Instruction::Shl:
1714   case Instruction::LShr:
1715   case Instruction::AShr:
1716     Assert1(B.getType()->isIntOrIntVectorTy(),
1717             "Shifts only work with integral types!", &B);
1718     Assert1(B.getType() == B.getOperand(0)->getType(),
1719             "Shift return type must be same as operands!", &B);
1720     break;
1721   default:
1722     llvm_unreachable("Unknown BinaryOperator opcode!");
1723   }
1724
1725   visitInstruction(B);
1726 }
1727
1728 void Verifier::visitICmpInst(ICmpInst &IC) {
1729   // Check that the operands are the same type
1730   Type *Op0Ty = IC.getOperand(0)->getType();
1731   Type *Op1Ty = IC.getOperand(1)->getType();
1732   Assert1(Op0Ty == Op1Ty,
1733           "Both operands to ICmp instruction are not of the same type!", &IC);
1734   // Check that the operands are the right type
1735   Assert1(Op0Ty->isIntOrIntVectorTy() || Op0Ty->getScalarType()->isPointerTy(),
1736           "Invalid operand types for ICmp instruction", &IC);
1737   // Check that the predicate is valid.
1738   Assert1(IC.getPredicate() >= CmpInst::FIRST_ICMP_PREDICATE &&
1739           IC.getPredicate() <= CmpInst::LAST_ICMP_PREDICATE,
1740           "Invalid predicate in ICmp instruction!", &IC);
1741
1742   visitInstruction(IC);
1743 }
1744
1745 void Verifier::visitFCmpInst(FCmpInst &FC) {
1746   // Check that the operands are the same type
1747   Type *Op0Ty = FC.getOperand(0)->getType();
1748   Type *Op1Ty = FC.getOperand(1)->getType();
1749   Assert1(Op0Ty == Op1Ty,
1750           "Both operands to FCmp instruction are not of the same type!", &FC);
1751   // Check that the operands are the right type
1752   Assert1(Op0Ty->isFPOrFPVectorTy(),
1753           "Invalid operand types for FCmp instruction", &FC);
1754   // Check that the predicate is valid.
1755   Assert1(FC.getPredicate() >= CmpInst::FIRST_FCMP_PREDICATE &&
1756           FC.getPredicate() <= CmpInst::LAST_FCMP_PREDICATE,
1757           "Invalid predicate in FCmp instruction!", &FC);
1758
1759   visitInstruction(FC);
1760 }
1761
1762 void Verifier::visitExtractElementInst(ExtractElementInst &EI) {
1763   Assert1(ExtractElementInst::isValidOperands(EI.getOperand(0),
1764                                               EI.getOperand(1)),
1765           "Invalid extractelement operands!", &EI);
1766   visitInstruction(EI);
1767 }
1768
1769 void Verifier::visitInsertElementInst(InsertElementInst &IE) {
1770   Assert1(InsertElementInst::isValidOperands(IE.getOperand(0),
1771                                              IE.getOperand(1),
1772                                              IE.getOperand(2)),
1773           "Invalid insertelement operands!", &IE);
1774   visitInstruction(IE);
1775 }
1776
1777 void Verifier::visitShuffleVectorInst(ShuffleVectorInst &SV) {
1778   Assert1(ShuffleVectorInst::isValidOperands(SV.getOperand(0), SV.getOperand(1),
1779                                              SV.getOperand(2)),
1780           "Invalid shufflevector operands!", &SV);
1781   visitInstruction(SV);
1782 }
1783
1784 void Verifier::visitGetElementPtrInst(GetElementPtrInst &GEP) {
1785   Type *TargetTy = GEP.getPointerOperandType()->getScalarType();
1786
1787   Assert1(isa<PointerType>(TargetTy),
1788     "GEP base pointer is not a vector or a vector of pointers", &GEP);
1789   Assert1(cast<PointerType>(TargetTy)->getElementType()->isSized(),
1790           "GEP into unsized type!", &GEP);
1791   Assert1(GEP.getPointerOperandType()->isVectorTy() ==
1792           GEP.getType()->isVectorTy(), "Vector GEP must return a vector value",
1793           &GEP);
1794
1795   SmallVector<Value*, 16> Idxs(GEP.idx_begin(), GEP.idx_end());
1796   Type *ElTy =
1797     GetElementPtrInst::getIndexedType(GEP.getPointerOperandType(), Idxs);
1798   Assert1(ElTy, "Invalid indices for GEP pointer type!", &GEP);
1799
1800   Assert2(GEP.getType()->getScalarType()->isPointerTy() &&
1801           cast<PointerType>(GEP.getType()->getScalarType())->getElementType()
1802           == ElTy, "GEP is not of right type for indices!", &GEP, ElTy);
1803
1804   if (GEP.getPointerOperandType()->isVectorTy()) {
1805     // Additional checks for vector GEPs.
1806     unsigned GepWidth = GEP.getPointerOperandType()->getVectorNumElements();
1807     Assert1(GepWidth == GEP.getType()->getVectorNumElements(),
1808             "Vector GEP result width doesn't match operand's", &GEP);
1809     for (unsigned i = 0, e = Idxs.size(); i != e; ++i) {
1810       Type *IndexTy = Idxs[i]->getType();
1811       Assert1(IndexTy->isVectorTy(),
1812               "Vector GEP must have vector indices!", &GEP);
1813       unsigned IndexWidth = IndexTy->getVectorNumElements();
1814       Assert1(IndexWidth == GepWidth, "Invalid GEP index vector width", &GEP);
1815     }
1816   }
1817   visitInstruction(GEP);
1818 }
1819
1820 static bool isContiguous(const ConstantRange &A, const ConstantRange &B) {
1821   return A.getUpper() == B.getLower() || A.getLower() == B.getUpper();
1822 }
1823
1824 void Verifier::visitLoadInst(LoadInst &LI) {
1825   PointerType *PTy = dyn_cast<PointerType>(LI.getOperand(0)->getType());
1826   Assert1(PTy, "Load operand must be a pointer.", &LI);
1827   Type *ElTy = PTy->getElementType();
1828   Assert2(ElTy == LI.getType(),
1829           "Load result type does not match pointer operand type!", &LI, ElTy);
1830   if (LI.isAtomic()) {
1831     Assert1(LI.getOrdering() != Release && LI.getOrdering() != AcquireRelease,
1832             "Load cannot have Release ordering", &LI);
1833     Assert1(LI.getAlignment() != 0,
1834             "Atomic load must specify explicit alignment", &LI);
1835     if (!ElTy->isPointerTy()) {
1836       Assert2(ElTy->isIntegerTy(),
1837               "atomic load operand must have integer type!",
1838               &LI, ElTy);
1839       unsigned Size = ElTy->getPrimitiveSizeInBits();
1840       Assert2(Size >= 8 && !(Size & (Size - 1)),
1841               "atomic load operand must be power-of-two byte-sized integer",
1842               &LI, ElTy);
1843     }
1844   } else {
1845     Assert1(LI.getSynchScope() == CrossThread,
1846             "Non-atomic load cannot have SynchronizationScope specified", &LI);
1847   }
1848
1849   if (MDNode *Range = LI.getMetadata(LLVMContext::MD_range)) {
1850     unsigned NumOperands = Range->getNumOperands();
1851     Assert1(NumOperands % 2 == 0, "Unfinished range!", Range);
1852     unsigned NumRanges = NumOperands / 2;
1853     Assert1(NumRanges >= 1, "It should have at least one range!", Range);
1854
1855     ConstantRange LastRange(1); // Dummy initial value
1856     for (unsigned i = 0; i < NumRanges; ++i) {
1857       ConstantInt *Low = dyn_cast<ConstantInt>(Range->getOperand(2*i));
1858       Assert1(Low, "The lower limit must be an integer!", Low);
1859       ConstantInt *High = dyn_cast<ConstantInt>(Range->getOperand(2*i + 1));
1860       Assert1(High, "The upper limit must be an integer!", High);
1861       Assert1(High->getType() == Low->getType() &&
1862               High->getType() == ElTy, "Range types must match load type!",
1863               &LI);
1864
1865       APInt HighV = High->getValue();
1866       APInt LowV = Low->getValue();
1867       ConstantRange CurRange(LowV, HighV);
1868       Assert1(!CurRange.isEmptySet() && !CurRange.isFullSet(),
1869               "Range must not be empty!", Range);
1870       if (i != 0) {
1871         Assert1(CurRange.intersectWith(LastRange).isEmptySet(),
1872                 "Intervals are overlapping", Range);
1873         Assert1(LowV.sgt(LastRange.getLower()), "Intervals are not in order",
1874                 Range);
1875         Assert1(!isContiguous(CurRange, LastRange), "Intervals are contiguous",
1876                 Range);
1877       }
1878       LastRange = ConstantRange(LowV, HighV);
1879     }
1880     if (NumRanges > 2) {
1881       APInt FirstLow =
1882         dyn_cast<ConstantInt>(Range->getOperand(0))->getValue();
1883       APInt FirstHigh =
1884         dyn_cast<ConstantInt>(Range->getOperand(1))->getValue();
1885       ConstantRange FirstRange(FirstLow, FirstHigh);
1886       Assert1(FirstRange.intersectWith(LastRange).isEmptySet(),
1887               "Intervals are overlapping", Range);
1888       Assert1(!isContiguous(FirstRange, LastRange), "Intervals are contiguous",
1889               Range);
1890     }
1891
1892
1893   }
1894
1895   visitInstruction(LI);
1896 }
1897
1898 void Verifier::visitStoreInst(StoreInst &SI) {
1899   PointerType *PTy = dyn_cast<PointerType>(SI.getOperand(1)->getType());
1900   Assert1(PTy, "Store operand must be a pointer.", &SI);
1901   Type *ElTy = PTy->getElementType();
1902   Assert2(ElTy == SI.getOperand(0)->getType(),
1903           "Stored value type does not match pointer operand type!",
1904           &SI, ElTy);
1905   if (SI.isAtomic()) {
1906     Assert1(SI.getOrdering() != Acquire && SI.getOrdering() != AcquireRelease,
1907             "Store cannot have Acquire ordering", &SI);
1908     Assert1(SI.getAlignment() != 0,
1909             "Atomic store must specify explicit alignment", &SI);
1910     if (!ElTy->isPointerTy()) {
1911       Assert2(ElTy->isIntegerTy(),
1912               "atomic store operand must have integer type!",
1913               &SI, ElTy);
1914       unsigned Size = ElTy->getPrimitiveSizeInBits();
1915       Assert2(Size >= 8 && !(Size & (Size - 1)),
1916               "atomic store operand must be power-of-two byte-sized integer",
1917               &SI, ElTy);
1918     }
1919   } else {
1920     Assert1(SI.getSynchScope() == CrossThread,
1921             "Non-atomic store cannot have SynchronizationScope specified", &SI);
1922   }
1923   visitInstruction(SI);
1924 }
1925
1926 void Verifier::visitAllocaInst(AllocaInst &AI) {
1927   SmallPtrSet<const Type*, 4> Visited;
1928   PointerType *PTy = AI.getType();
1929   Assert1(PTy->getAddressSpace() == 0,
1930           "Allocation instruction pointer not in the generic address space!",
1931           &AI);
1932   Assert1(PTy->getElementType()->isSized(&Visited), "Cannot allocate unsized type",
1933           &AI);
1934   Assert1(AI.getArraySize()->getType()->isIntegerTy(),
1935           "Alloca array size must have integer type", &AI);
1936
1937   visitInstruction(AI);
1938 }
1939
1940 void Verifier::visitAtomicCmpXchgInst(AtomicCmpXchgInst &CXI) {
1941
1942   // FIXME: more conditions???
1943   Assert1(CXI.getSuccessOrdering() != NotAtomic,
1944           "cmpxchg instructions must be atomic.", &CXI);
1945   Assert1(CXI.getFailureOrdering() != NotAtomic,
1946           "cmpxchg instructions must be atomic.", &CXI);
1947   Assert1(CXI.getSuccessOrdering() != Unordered,
1948           "cmpxchg instructions cannot be unordered.", &CXI);
1949   Assert1(CXI.getFailureOrdering() != Unordered,
1950           "cmpxchg instructions cannot be unordered.", &CXI);
1951   Assert1(CXI.getSuccessOrdering() >= CXI.getFailureOrdering(),
1952           "cmpxchg instructions be at least as constrained on success as fail",
1953           &CXI);
1954   Assert1(CXI.getFailureOrdering() != Release &&
1955               CXI.getFailureOrdering() != AcquireRelease,
1956           "cmpxchg failure ordering cannot include release semantics", &CXI);
1957
1958   PointerType *PTy = dyn_cast<PointerType>(CXI.getOperand(0)->getType());
1959   Assert1(PTy, "First cmpxchg operand must be a pointer.", &CXI);
1960   Type *ElTy = PTy->getElementType();
1961   Assert2(ElTy->isIntegerTy(),
1962           "cmpxchg operand must have integer type!",
1963           &CXI, ElTy);
1964   unsigned Size = ElTy->getPrimitiveSizeInBits();
1965   Assert2(Size >= 8 && !(Size & (Size - 1)),
1966           "cmpxchg operand must be power-of-two byte-sized integer",
1967           &CXI, ElTy);
1968   Assert2(ElTy == CXI.getOperand(1)->getType(),
1969           "Expected value type does not match pointer operand type!",
1970           &CXI, ElTy);
1971   Assert2(ElTy == CXI.getOperand(2)->getType(),
1972           "Stored value type does not match pointer operand type!",
1973           &CXI, ElTy);
1974   visitInstruction(CXI);
1975 }
1976
1977 void Verifier::visitAtomicRMWInst(AtomicRMWInst &RMWI) {
1978   Assert1(RMWI.getOrdering() != NotAtomic,
1979           "atomicrmw instructions must be atomic.", &RMWI);
1980   Assert1(RMWI.getOrdering() != Unordered,
1981           "atomicrmw instructions cannot be unordered.", &RMWI);
1982   PointerType *PTy = dyn_cast<PointerType>(RMWI.getOperand(0)->getType());
1983   Assert1(PTy, "First atomicrmw operand must be a pointer.", &RMWI);
1984   Type *ElTy = PTy->getElementType();
1985   Assert2(ElTy->isIntegerTy(),
1986           "atomicrmw operand must have integer type!",
1987           &RMWI, ElTy);
1988   unsigned Size = ElTy->getPrimitiveSizeInBits();
1989   Assert2(Size >= 8 && !(Size & (Size - 1)),
1990           "atomicrmw operand must be power-of-two byte-sized integer",
1991           &RMWI, ElTy);
1992   Assert2(ElTy == RMWI.getOperand(1)->getType(),
1993           "Argument value type does not match pointer operand type!",
1994           &RMWI, ElTy);
1995   Assert1(AtomicRMWInst::FIRST_BINOP <= RMWI.getOperation() &&
1996           RMWI.getOperation() <= AtomicRMWInst::LAST_BINOP,
1997           "Invalid binary operation!", &RMWI);
1998   visitInstruction(RMWI);
1999 }
2000
2001 void Verifier::visitFenceInst(FenceInst &FI) {
2002   const AtomicOrdering Ordering = FI.getOrdering();
2003   Assert1(Ordering == Acquire || Ordering == Release ||
2004           Ordering == AcquireRelease || Ordering == SequentiallyConsistent,
2005           "fence instructions may only have "
2006           "acquire, release, acq_rel, or seq_cst ordering.", &FI);
2007   visitInstruction(FI);
2008 }
2009
2010 void Verifier::visitExtractValueInst(ExtractValueInst &EVI) {
2011   Assert1(ExtractValueInst::getIndexedType(EVI.getAggregateOperand()->getType(),
2012                                            EVI.getIndices()) ==
2013           EVI.getType(),
2014           "Invalid ExtractValueInst operands!", &EVI);
2015
2016   visitInstruction(EVI);
2017 }
2018
2019 void Verifier::visitInsertValueInst(InsertValueInst &IVI) {
2020   Assert1(ExtractValueInst::getIndexedType(IVI.getAggregateOperand()->getType(),
2021                                            IVI.getIndices()) ==
2022           IVI.getOperand(1)->getType(),
2023           "Invalid InsertValueInst operands!", &IVI);
2024
2025   visitInstruction(IVI);
2026 }
2027
2028 void Verifier::visitLandingPadInst(LandingPadInst &LPI) {
2029   BasicBlock *BB = LPI.getParent();
2030
2031   // The landingpad instruction is ill-formed if it doesn't have any clauses and
2032   // isn't a cleanup.
2033   Assert1(LPI.getNumClauses() > 0 || LPI.isCleanup(),
2034           "LandingPadInst needs at least one clause or to be a cleanup.", &LPI);
2035
2036   // The landingpad instruction defines its parent as a landing pad block. The
2037   // landing pad block may be branched to only by the unwind edge of an invoke.
2038   for (pred_iterator I = pred_begin(BB), E = pred_end(BB); I != E; ++I) {
2039     const InvokeInst *II = dyn_cast<InvokeInst>((*I)->getTerminator());
2040     Assert1(II && II->getUnwindDest() == BB && II->getNormalDest() != BB,
2041             "Block containing LandingPadInst must be jumped to "
2042             "only by the unwind edge of an invoke.", &LPI);
2043   }
2044
2045   // The landingpad instruction must be the first non-PHI instruction in the
2046   // block.
2047   Assert1(LPI.getParent()->getLandingPadInst() == &LPI,
2048           "LandingPadInst not the first non-PHI instruction in the block.",
2049           &LPI);
2050
2051   // The personality functions for all landingpad instructions within the same
2052   // function should match.
2053   if (PersonalityFn)
2054     Assert1(LPI.getPersonalityFn() == PersonalityFn,
2055             "Personality function doesn't match others in function", &LPI);
2056   PersonalityFn = LPI.getPersonalityFn();
2057
2058   // All operands must be constants.
2059   Assert1(isa<Constant>(PersonalityFn), "Personality function is not constant!",
2060           &LPI);
2061   for (unsigned i = 0, e = LPI.getNumClauses(); i < e; ++i) {
2062     Value *Clause = LPI.getClause(i);
2063     Assert1(isa<Constant>(Clause), "Clause is not constant!", &LPI);
2064     if (LPI.isCatch(i)) {
2065       Assert1(isa<PointerType>(Clause->getType()),
2066               "Catch operand does not have pointer type!", &LPI);
2067     } else {
2068       Assert1(LPI.isFilter(i), "Clause is neither catch nor filter!", &LPI);
2069       Assert1(isa<ConstantArray>(Clause) || isa<ConstantAggregateZero>(Clause),
2070               "Filter operand is not an array of constants!", &LPI);
2071     }
2072   }
2073
2074   visitInstruction(LPI);
2075 }
2076
2077 void Verifier::verifyDominatesUse(Instruction &I, unsigned i) {
2078   Instruction *Op = cast<Instruction>(I.getOperand(i));
2079   // If the we have an invalid invoke, don't try to compute the dominance.
2080   // We already reject it in the invoke specific checks and the dominance
2081   // computation doesn't handle multiple edges.
2082   if (InvokeInst *II = dyn_cast<InvokeInst>(Op)) {
2083     if (II->getNormalDest() == II->getUnwindDest())
2084       return;
2085   }
2086
2087   const Use &U = I.getOperandUse(i);
2088   Assert2(InstsInThisBlock.count(Op) || DT.dominates(Op, U),
2089           "Instruction does not dominate all uses!", Op, &I);
2090 }
2091
2092 /// verifyInstruction - Verify that an instruction is well formed.
2093 ///
2094 void Verifier::visitInstruction(Instruction &I) {
2095   BasicBlock *BB = I.getParent();
2096   Assert1(BB, "Instruction not embedded in basic block!", &I);
2097
2098   if (!isa<PHINode>(I)) {   // Check that non-phi nodes are not self referential
2099     for (User *U : I.users()) {
2100       Assert1(U != (User*)&I || !DT.isReachableFromEntry(BB),
2101               "Only PHI nodes may reference their own value!", &I);
2102     }
2103   }
2104
2105   // Check that void typed values don't have names
2106   Assert1(!I.getType()->isVoidTy() || !I.hasName(),
2107           "Instruction has a name, but provides a void value!", &I);
2108
2109   // Check that the return value of the instruction is either void or a legal
2110   // value type.
2111   Assert1(I.getType()->isVoidTy() ||
2112           I.getType()->isFirstClassType(),
2113           "Instruction returns a non-scalar type!", &I);
2114
2115   // Check that the instruction doesn't produce metadata. Calls are already
2116   // checked against the callee type.
2117   Assert1(!I.getType()->isMetadataTy() ||
2118           isa<CallInst>(I) || isa<InvokeInst>(I),
2119           "Invalid use of metadata!", &I);
2120
2121   // Check that all uses of the instruction, if they are instructions
2122   // themselves, actually have parent basic blocks.  If the use is not an
2123   // instruction, it is an error!
2124   for (Use &U : I.uses()) {
2125     if (Instruction *Used = dyn_cast<Instruction>(U.getUser()))
2126       Assert2(Used->getParent() != nullptr, "Instruction referencing"
2127               " instruction not embedded in a basic block!", &I, Used);
2128     else {
2129       CheckFailed("Use of instruction is not an instruction!", U);
2130       return;
2131     }
2132   }
2133
2134   for (unsigned i = 0, e = I.getNumOperands(); i != e; ++i) {
2135     Assert1(I.getOperand(i) != nullptr, "Instruction has null operand!", &I);
2136
2137     // Check to make sure that only first-class-values are operands to
2138     // instructions.
2139     if (!I.getOperand(i)->getType()->isFirstClassType()) {
2140       Assert1(0, "Instruction operands must be first-class values!", &I);
2141     }
2142
2143     if (Function *F = dyn_cast<Function>(I.getOperand(i))) {
2144       // Check to make sure that the "address of" an intrinsic function is never
2145       // taken.
2146       Assert1(!F->isIntrinsic() || i == (isa<CallInst>(I) ? e-1 : 0),
2147               "Cannot take the address of an intrinsic!", &I);
2148       Assert1(!F->isIntrinsic() || isa<CallInst>(I) ||
2149               F->getIntrinsicID() == Intrinsic::donothing,
2150               "Cannot invoke an intrinsinc other than donothing", &I);
2151       Assert1(F->getParent() == M, "Referencing function in another module!",
2152               &I);
2153     } else if (BasicBlock *OpBB = dyn_cast<BasicBlock>(I.getOperand(i))) {
2154       Assert1(OpBB->getParent() == BB->getParent(),
2155               "Referring to a basic block in another function!", &I);
2156     } else if (Argument *OpArg = dyn_cast<Argument>(I.getOperand(i))) {
2157       Assert1(OpArg->getParent() == BB->getParent(),
2158               "Referring to an argument in another function!", &I);
2159     } else if (GlobalValue *GV = dyn_cast<GlobalValue>(I.getOperand(i))) {
2160       Assert1(GV->getParent() == M, "Referencing global in another module!",
2161               &I);
2162     } else if (isa<Instruction>(I.getOperand(i))) {
2163       verifyDominatesUse(I, i);
2164     } else if (isa<InlineAsm>(I.getOperand(i))) {
2165       Assert1((i + 1 == e && isa<CallInst>(I)) ||
2166               (i + 3 == e && isa<InvokeInst>(I)),
2167               "Cannot take the address of an inline asm!", &I);
2168     } else if (ConstantExpr *CE = dyn_cast<ConstantExpr>(I.getOperand(i))) {
2169       if (CE->getType()->isPtrOrPtrVectorTy()) {
2170         // If we have a ConstantExpr pointer, we need to see if it came from an
2171         // illegal bitcast (inttoptr <constant int> )
2172         SmallVector<const ConstantExpr *, 4> Stack;
2173         SmallPtrSet<const ConstantExpr *, 4> Visited;
2174         Stack.push_back(CE);
2175
2176         while (!Stack.empty()) {
2177           const ConstantExpr *V = Stack.pop_back_val();
2178           if (!Visited.insert(V))
2179             continue;
2180
2181           VerifyConstantExprBitcastType(V);
2182
2183           for (unsigned I = 0, N = V->getNumOperands(); I != N; ++I) {
2184             if (ConstantExpr *Op = dyn_cast<ConstantExpr>(V->getOperand(I)))
2185               Stack.push_back(Op);
2186           }
2187         }
2188       }
2189     }
2190   }
2191
2192   if (MDNode *MD = I.getMetadata(LLVMContext::MD_fpmath)) {
2193     Assert1(I.getType()->isFPOrFPVectorTy(),
2194             "fpmath requires a floating point result!", &I);
2195     Assert1(MD->getNumOperands() == 1, "fpmath takes one operand!", &I);
2196     Value *Op0 = MD->getOperand(0);
2197     if (ConstantFP *CFP0 = dyn_cast_or_null<ConstantFP>(Op0)) {
2198       APFloat Accuracy = CFP0->getValueAPF();
2199       Assert1(Accuracy.isFiniteNonZero() && !Accuracy.isNegative(),
2200               "fpmath accuracy not a positive number!", &I);
2201     } else {
2202       Assert1(false, "invalid fpmath accuracy!", &I);
2203     }
2204   }
2205
2206   MDNode *MD = I.getMetadata(LLVMContext::MD_range);
2207   Assert1(!MD || isa<LoadInst>(I), "Ranges are only for loads!", &I);
2208
2209   InstsInThisBlock.insert(&I);
2210 }
2211
2212 /// VerifyIntrinsicType - Verify that the specified type (which comes from an
2213 /// intrinsic argument or return value) matches the type constraints specified
2214 /// by the .td file (e.g. an "any integer" argument really is an integer).
2215 ///
2216 /// This return true on error but does not print a message.
2217 bool Verifier::VerifyIntrinsicType(Type *Ty,
2218                                    ArrayRef<Intrinsic::IITDescriptor> &Infos,
2219                                    SmallVectorImpl<Type*> &ArgTys) {
2220   using namespace Intrinsic;
2221
2222   // If we ran out of descriptors, there are too many arguments.
2223   if (Infos.empty()) return true;
2224   IITDescriptor D = Infos.front();
2225   Infos = Infos.slice(1);
2226
2227   switch (D.Kind) {
2228   case IITDescriptor::Void: return !Ty->isVoidTy();
2229   case IITDescriptor::VarArg: return true;
2230   case IITDescriptor::MMX:  return !Ty->isX86_MMXTy();
2231   case IITDescriptor::Metadata: return !Ty->isMetadataTy();
2232   case IITDescriptor::Half: return !Ty->isHalfTy();
2233   case IITDescriptor::Float: return !Ty->isFloatTy();
2234   case IITDescriptor::Double: return !Ty->isDoubleTy();
2235   case IITDescriptor::Integer: return !Ty->isIntegerTy(D.Integer_Width);
2236   case IITDescriptor::Vector: {
2237     VectorType *VT = dyn_cast<VectorType>(Ty);
2238     return !VT || VT->getNumElements() != D.Vector_Width ||
2239            VerifyIntrinsicType(VT->getElementType(), Infos, ArgTys);
2240   }
2241   case IITDescriptor::Pointer: {
2242     PointerType *PT = dyn_cast<PointerType>(Ty);
2243     return !PT || PT->getAddressSpace() != D.Pointer_AddressSpace ||
2244            VerifyIntrinsicType(PT->getElementType(), Infos, ArgTys);
2245   }
2246
2247   case IITDescriptor::Struct: {
2248     StructType *ST = dyn_cast<StructType>(Ty);
2249     if (!ST || ST->getNumElements() != D.Struct_NumElements)
2250       return true;
2251
2252     for (unsigned i = 0, e = D.Struct_NumElements; i != e; ++i)
2253       if (VerifyIntrinsicType(ST->getElementType(i), Infos, ArgTys))
2254         return true;
2255     return false;
2256   }
2257
2258   case IITDescriptor::Argument:
2259     // Two cases here - If this is the second occurrence of an argument, verify
2260     // that the later instance matches the previous instance.
2261     if (D.getArgumentNumber() < ArgTys.size())
2262       return Ty != ArgTys[D.getArgumentNumber()];
2263
2264     // Otherwise, if this is the first instance of an argument, record it and
2265     // verify the "Any" kind.
2266     assert(D.getArgumentNumber() == ArgTys.size() && "Table consistency error");
2267     ArgTys.push_back(Ty);
2268
2269     switch (D.getArgumentKind()) {
2270     case IITDescriptor::AK_AnyInteger: return !Ty->isIntOrIntVectorTy();
2271     case IITDescriptor::AK_AnyFloat:   return !Ty->isFPOrFPVectorTy();
2272     case IITDescriptor::AK_AnyVector:  return !isa<VectorType>(Ty);
2273     case IITDescriptor::AK_AnyPointer: return !isa<PointerType>(Ty);
2274     }
2275     llvm_unreachable("all argument kinds not covered");
2276
2277   case IITDescriptor::ExtendArgument: {
2278     // This may only be used when referring to a previous vector argument.
2279     if (D.getArgumentNumber() >= ArgTys.size())
2280       return true;
2281
2282     Type *NewTy = ArgTys[D.getArgumentNumber()];
2283     if (VectorType *VTy = dyn_cast<VectorType>(NewTy))
2284       NewTy = VectorType::getExtendedElementVectorType(VTy);
2285     else if (IntegerType *ITy = dyn_cast<IntegerType>(NewTy))
2286       NewTy = IntegerType::get(ITy->getContext(), 2 * ITy->getBitWidth());
2287     else
2288       return true;
2289
2290     return Ty != NewTy;
2291   }
2292   case IITDescriptor::TruncArgument: {
2293     // This may only be used when referring to a previous vector argument.
2294     if (D.getArgumentNumber() >= ArgTys.size())
2295       return true;
2296
2297     Type *NewTy = ArgTys[D.getArgumentNumber()];
2298     if (VectorType *VTy = dyn_cast<VectorType>(NewTy))
2299       NewTy = VectorType::getTruncatedElementVectorType(VTy);
2300     else if (IntegerType *ITy = dyn_cast<IntegerType>(NewTy))
2301       NewTy = IntegerType::get(ITy->getContext(), ITy->getBitWidth() / 2);
2302     else
2303       return true;
2304
2305     return Ty != NewTy;
2306   }
2307   case IITDescriptor::HalfVecArgument:
2308     // This may only be used when referring to a previous vector argument.
2309     return D.getArgumentNumber() >= ArgTys.size() ||
2310            !isa<VectorType>(ArgTys[D.getArgumentNumber()]) ||
2311            VectorType::getHalfElementsVectorType(
2312                          cast<VectorType>(ArgTys[D.getArgumentNumber()])) != Ty;
2313   }
2314   llvm_unreachable("unhandled");
2315 }
2316
2317 /// \brief Verify if the intrinsic has variable arguments.
2318 /// This method is intended to be called after all the fixed arguments have been
2319 /// verified first.
2320 ///
2321 /// This method returns true on error and does not print an error message.
2322 bool
2323 Verifier::VerifyIntrinsicIsVarArg(bool isVarArg,
2324                                   ArrayRef<Intrinsic::IITDescriptor> &Infos) {
2325   using namespace Intrinsic;
2326
2327   // If there are no descriptors left, then it can't be a vararg.
2328   if (Infos.empty())
2329     return isVarArg ? true : false;
2330
2331   // There should be only one descriptor remaining at this point.
2332   if (Infos.size() != 1)
2333     return true;
2334
2335   // Check and verify the descriptor.
2336   IITDescriptor D = Infos.front();
2337   Infos = Infos.slice(1);
2338   if (D.Kind == IITDescriptor::VarArg)
2339     return isVarArg ? false : true;
2340
2341   return true;
2342 }
2343
2344 /// visitIntrinsicFunction - Allow intrinsics to be verified in different ways.
2345 ///
2346 void Verifier::visitIntrinsicFunctionCall(Intrinsic::ID ID, CallInst &CI) {
2347   Function *IF = CI.getCalledFunction();
2348   Assert1(IF->isDeclaration(), "Intrinsic functions should never be defined!",
2349           IF);
2350
2351   // Verify that the intrinsic prototype lines up with what the .td files
2352   // describe.
2353   FunctionType *IFTy = IF->getFunctionType();
2354   bool IsVarArg = IFTy->isVarArg();
2355
2356   SmallVector<Intrinsic::IITDescriptor, 8> Table;
2357   getIntrinsicInfoTableEntries(ID, Table);
2358   ArrayRef<Intrinsic::IITDescriptor> TableRef = Table;
2359
2360   SmallVector<Type *, 4> ArgTys;
2361   Assert1(!VerifyIntrinsicType(IFTy->getReturnType(), TableRef, ArgTys),
2362           "Intrinsic has incorrect return type!", IF);
2363   for (unsigned i = 0, e = IFTy->getNumParams(); i != e; ++i)
2364     Assert1(!VerifyIntrinsicType(IFTy->getParamType(i), TableRef, ArgTys),
2365             "Intrinsic has incorrect argument type!", IF);
2366
2367   // Verify if the intrinsic call matches the vararg property.
2368   if (IsVarArg)
2369     Assert1(!VerifyIntrinsicIsVarArg(IsVarArg, TableRef),
2370             "Intrinsic was not defined with variable arguments!", IF);
2371   else
2372     Assert1(!VerifyIntrinsicIsVarArg(IsVarArg, TableRef),
2373             "Callsite was not defined with variable arguments!", IF);
2374
2375   // All descriptors should be absorbed by now.
2376   Assert1(TableRef.empty(), "Intrinsic has too few arguments!", IF);
2377
2378   // Now that we have the intrinsic ID and the actual argument types (and we
2379   // know they are legal for the intrinsic!) get the intrinsic name through the
2380   // usual means.  This allows us to verify the mangling of argument types into
2381   // the name.
2382   const std::string ExpectedName = Intrinsic::getName(ID, ArgTys);
2383   Assert1(ExpectedName == IF->getName(),
2384           "Intrinsic name not mangled correctly for type arguments! "
2385           "Should be: " + ExpectedName, IF);
2386
2387   // If the intrinsic takes MDNode arguments, verify that they are either global
2388   // or are local to *this* function.
2389   for (unsigned i = 0, e = CI.getNumArgOperands(); i != e; ++i)
2390     if (MDNode *MD = dyn_cast<MDNode>(CI.getArgOperand(i)))
2391       visitMDNode(*MD, CI.getParent()->getParent());
2392
2393   switch (ID) {
2394   default:
2395     break;
2396   case Intrinsic::ctlz:  // llvm.ctlz
2397   case Intrinsic::cttz:  // llvm.cttz
2398     Assert1(isa<ConstantInt>(CI.getArgOperand(1)),
2399             "is_zero_undef argument of bit counting intrinsics must be a "
2400             "constant int", &CI);
2401     break;
2402   case Intrinsic::dbg_declare: {  // llvm.dbg.declare
2403     Assert1(CI.getArgOperand(0) && isa<MDNode>(CI.getArgOperand(0)),
2404                 "invalid llvm.dbg.declare intrinsic call 1", &CI);
2405     MDNode *MD = cast<MDNode>(CI.getArgOperand(0));
2406     Assert1(MD->getNumOperands() == 1,
2407                 "invalid llvm.dbg.declare intrinsic call 2", &CI);
2408   } break;
2409   case Intrinsic::memcpy:
2410   case Intrinsic::memmove:
2411   case Intrinsic::memset:
2412     Assert1(isa<ConstantInt>(CI.getArgOperand(3)),
2413             "alignment argument of memory intrinsics must be a constant int",
2414             &CI);
2415     Assert1(isa<ConstantInt>(CI.getArgOperand(4)),
2416             "isvolatile argument of memory intrinsics must be a constant int",
2417             &CI);
2418     break;
2419   case Intrinsic::gcroot:
2420   case Intrinsic::gcwrite:
2421   case Intrinsic::gcread:
2422     if (ID == Intrinsic::gcroot) {
2423       AllocaInst *AI =
2424         dyn_cast<AllocaInst>(CI.getArgOperand(0)->stripPointerCasts());
2425       Assert1(AI, "llvm.gcroot parameter #1 must be an alloca.", &CI);
2426       Assert1(isa<Constant>(CI.getArgOperand(1)),
2427               "llvm.gcroot parameter #2 must be a constant.", &CI);
2428       if (!AI->getType()->getElementType()->isPointerTy()) {
2429         Assert1(!isa<ConstantPointerNull>(CI.getArgOperand(1)),
2430                 "llvm.gcroot parameter #1 must either be a pointer alloca, "
2431                 "or argument #2 must be a non-null constant.", &CI);
2432       }
2433     }
2434
2435     Assert1(CI.getParent()->getParent()->hasGC(),
2436             "Enclosing function does not use GC.", &CI);
2437     break;
2438   case Intrinsic::init_trampoline:
2439     Assert1(isa<Function>(CI.getArgOperand(1)->stripPointerCasts()),
2440             "llvm.init_trampoline parameter #2 must resolve to a function.",
2441             &CI);
2442     break;
2443   case Intrinsic::prefetch:
2444     Assert1(isa<ConstantInt>(CI.getArgOperand(1)) &&
2445             isa<ConstantInt>(CI.getArgOperand(2)) &&
2446             cast<ConstantInt>(CI.getArgOperand(1))->getZExtValue() < 2 &&
2447             cast<ConstantInt>(CI.getArgOperand(2))->getZExtValue() < 4,
2448             "invalid arguments to llvm.prefetch",
2449             &CI);
2450     break;
2451   case Intrinsic::stackprotector:
2452     Assert1(isa<AllocaInst>(CI.getArgOperand(1)->stripPointerCasts()),
2453             "llvm.stackprotector parameter #2 must resolve to an alloca.",
2454             &CI);
2455     break;
2456   case Intrinsic::lifetime_start:
2457   case Intrinsic::lifetime_end:
2458   case Intrinsic::invariant_start:
2459     Assert1(isa<ConstantInt>(CI.getArgOperand(0)),
2460             "size argument of memory use markers must be a constant integer",
2461             &CI);
2462     break;
2463   case Intrinsic::invariant_end:
2464     Assert1(isa<ConstantInt>(CI.getArgOperand(1)),
2465             "llvm.invariant.end parameter #2 must be a constant integer", &CI);
2466     break;
2467   }
2468 }
2469
2470 void DebugInfoVerifier::verifyDebugInfo() {
2471   if (!VerifyDebugInfo)
2472     return;
2473
2474   DebugInfoFinder Finder;
2475   Finder.processModule(*M);
2476   processInstructions(Finder);
2477
2478   // Verify Debug Info.
2479   //
2480   // NOTE:  The loud braces are necessary for MSVC compatibility.
2481   for (DICompileUnit CU : Finder.compile_units()) {
2482     Assert1(CU.Verify(), "DICompileUnit does not Verify!", CU);
2483   }
2484   for (DISubprogram S : Finder.subprograms()) {
2485     Assert1(S.Verify(), "DISubprogram does not Verify!", S);
2486   }
2487   for (DIGlobalVariable GV : Finder.global_variables()) {
2488     Assert1(GV.Verify(), "DIGlobalVariable does not Verify!", GV);
2489   }
2490   for (DIType T : Finder.types()) {
2491     Assert1(T.Verify(), "DIType does not Verify!", T);
2492   }
2493   for (DIScope S : Finder.scopes()) {
2494     Assert1(S.Verify(), "DIScope does not Verify!", S);
2495   }
2496 }
2497
2498 void DebugInfoVerifier::processInstructions(DebugInfoFinder &Finder) {
2499   for (const Function &F : *M)
2500     for (auto I = inst_begin(&F), E = inst_end(&F); I != E; ++I) {
2501       if (MDNode *MD = I->getMetadata(LLVMContext::MD_dbg))
2502         Finder.processLocation(*M, DILocation(MD));
2503       if (const CallInst *CI = dyn_cast<CallInst>(&*I))
2504         processCallInst(Finder, *CI);
2505     }
2506 }
2507
2508 void DebugInfoVerifier::processCallInst(DebugInfoFinder &Finder,
2509                                         const CallInst &CI) {
2510   if (Function *F = CI.getCalledFunction())
2511     if (Intrinsic::ID ID = (Intrinsic::ID)F->getIntrinsicID())
2512       switch (ID) {
2513       case Intrinsic::dbg_declare:
2514         Finder.processDeclare(*M, cast<DbgDeclareInst>(&CI));
2515         break;
2516       case Intrinsic::dbg_value:
2517         Finder.processValue(*M, cast<DbgValueInst>(&CI));
2518         break;
2519       default:
2520         break;
2521       }
2522 }
2523
2524 //===----------------------------------------------------------------------===//
2525 //  Implement the public interfaces to this file...
2526 //===----------------------------------------------------------------------===//
2527
2528 bool llvm::verifyFunction(const Function &f, raw_ostream *OS) {
2529   Function &F = const_cast<Function &>(f);
2530   assert(!F.isDeclaration() && "Cannot verify external functions");
2531
2532   raw_null_ostream NullStr;
2533   Verifier V(OS ? *OS : NullStr);
2534
2535   // Note that this function's return value is inverted from what you would
2536   // expect of a function called "verify".
2537   return !V.verify(F);
2538 }
2539
2540 bool llvm::verifyModule(const Module &M, raw_ostream *OS) {
2541   raw_null_ostream NullStr;
2542   Verifier V(OS ? *OS : NullStr);
2543
2544   bool Broken = false;
2545   for (Module::const_iterator I = M.begin(), E = M.end(); I != E; ++I)
2546     if (!I->isDeclaration())
2547       Broken |= !V.verify(*I);
2548
2549   // Note that this function's return value is inverted from what you would
2550   // expect of a function called "verify".
2551   DebugInfoVerifier DIV(OS ? *OS : NullStr);
2552   return !V.verify(M) || !DIV.verify(M) || Broken;
2553 }
2554
2555 namespace {
2556 struct VerifierLegacyPass : public FunctionPass {
2557   static char ID;
2558
2559   Verifier V;
2560   bool FatalErrors;
2561
2562   VerifierLegacyPass() : FunctionPass(ID), FatalErrors(true) {
2563     initializeVerifierLegacyPassPass(*PassRegistry::getPassRegistry());
2564   }
2565   explicit VerifierLegacyPass(bool FatalErrors)
2566       : FunctionPass(ID), V(dbgs()), FatalErrors(FatalErrors) {
2567     initializeVerifierLegacyPassPass(*PassRegistry::getPassRegistry());
2568   }
2569
2570   bool runOnFunction(Function &F) override {
2571     if (!V.verify(F) && FatalErrors)
2572       report_fatal_error("Broken function found, compilation aborted!");
2573
2574     return false;
2575   }
2576
2577   bool doFinalization(Module &M) override {
2578     if (!V.verify(M) && FatalErrors)
2579       report_fatal_error("Broken module found, compilation aborted!");
2580
2581     return false;
2582   }
2583
2584   void getAnalysisUsage(AnalysisUsage &AU) const override {
2585     AU.setPreservesAll();
2586   }
2587 };
2588 struct DebugInfoVerifierLegacyPass : public ModulePass {
2589   static char ID;
2590
2591   DebugInfoVerifier V;
2592   bool FatalErrors;
2593
2594   DebugInfoVerifierLegacyPass() : ModulePass(ID), FatalErrors(true) {
2595     initializeDebugInfoVerifierLegacyPassPass(*PassRegistry::getPassRegistry());
2596   }
2597   explicit DebugInfoVerifierLegacyPass(bool FatalErrors)
2598       : ModulePass(ID), V(dbgs()), FatalErrors(FatalErrors) {
2599     initializeDebugInfoVerifierLegacyPassPass(*PassRegistry::getPassRegistry());
2600   }
2601
2602   bool runOnModule(Module &M) override {
2603     if (!V.verify(M) && FatalErrors)
2604       report_fatal_error("Broken debug info found, compilation aborted!");
2605
2606     return false;
2607   }
2608
2609   void getAnalysisUsage(AnalysisUsage &AU) const override {
2610     AU.setPreservesAll();
2611   }
2612 };
2613 }
2614
2615 char VerifierLegacyPass::ID = 0;
2616 INITIALIZE_PASS(VerifierLegacyPass, "verify", "Module Verifier", false, false)
2617
2618 char DebugInfoVerifierLegacyPass::ID = 0;
2619 INITIALIZE_PASS(DebugInfoVerifierLegacyPass, "verify-di", "Debug Info Verifier",
2620                 false, false)
2621
2622 FunctionPass *llvm::createVerifierPass(bool FatalErrors) {
2623   return new VerifierLegacyPass(FatalErrors);
2624 }
2625
2626 ModulePass *llvm::createDebugInfoVerifierPass(bool FatalErrors) {
2627   return new DebugInfoVerifierLegacyPass(FatalErrors);
2628 }
2629
2630 PreservedAnalyses VerifierPass::run(Module *M) {
2631   if (verifyModule(*M, &dbgs()) && FatalErrors)
2632     report_fatal_error("Broken module found, compilation aborted!");
2633
2634   return PreservedAnalyses::all();
2635 }
2636
2637 PreservedAnalyses VerifierPass::run(Function *F) {
2638   if (verifyFunction(*F, &dbgs()) && FatalErrors)
2639     report_fatal_error("Broken function found, compilation aborted!");
2640
2641   return PreservedAnalyses::all();
2642 }