Get the verifier to check attributes on calls as well
[oota-llvm.git] / lib / VMCore / Verifier.cpp
index dea94088fa29fb7bdcec1b11b47265003234a958..901a4c5e8b82c2c7b809b1bcae3f4746583d6bdd 100644 (file)
@@ -53,6 +53,7 @@
 #include "llvm/PassManager.h"
 #include "llvm/Analysis/Dominators.h"
 #include "llvm/CodeGen/ValueTypes.h"
+#include "llvm/Support/CallSite.h"
 #include "llvm/Support/CFG.h"
 #include "llvm/Support/InstVisitor.h"
 #include "llvm/Support/Streams.h"
@@ -243,6 +244,7 @@ namespace {  // Anonymous namespace for class
     void visitShuffleVectorInst(ShuffleVectorInst &EI);
     void visitVAArgInst(VAArgInst &VAA) { visitInstruction(VAA); }
     void visitCallInst(CallInst &CI);
+    void visitInvokeInst(InvokeInst &II);
     void visitGetElementPtrInst(GetElementPtrInst &GEP);
     void visitLoadInst(LoadInst &LI);
     void visitStoreInst(StoreInst &SI);
@@ -254,9 +256,13 @@ namespace {  // Anonymous namespace for class
     void visitUserOp1(Instruction &I);
     void visitUserOp2(Instruction &I) { visitUserOp1(I); }
     void visitIntrinsicFunctionCall(Intrinsic::ID ID, CallInst &CI);
+    void visitAllocationInst(AllocationInst &AI);
 
+    void VerifyCallSite(CallSite CS);
     void VerifyIntrinsicPrototype(Intrinsic::ID ID, Function *F,
                                   unsigned Count, ...);
+    void VerifyParamAttrs(const FunctionType *FT, const ParamAttrsList *Attrs,
+                          const Value *V);
 
     void WriteValue(const Value *V) {
       if (!V) return;
@@ -376,6 +382,70 @@ void Verifier::visitGlobalAlias(GlobalAlias &GA) {
 void Verifier::verifyTypeSymbolTable(TypeSymbolTable &ST) {
 }
 
+// VerifyParamAttrs - Check parameter attributes against a function type.
+// The value V is printed in error messages.
+void Verifier::VerifyParamAttrs(const FunctionType *FT,
+                                const ParamAttrsList *Attrs,
+                                const Value *V) {
+  if (!Attrs)
+    return;
+
+  // Note that when calling a varargs function, the following test disallows
+  // parameter attributes for the arguments corresponding to the varargs part.
+  Assert1(Attrs->size() &&
+          Attrs->getParamIndex(Attrs->size()-1) <= FT->getNumParams(),
+          "Attributes after end of type!", V);
+
+  bool SawNest = false;
+
+  for (unsigned Idx = 0; Idx <= FT->getNumParams(); ++Idx) {
+    uint16_t Attr = Attrs->getParamAttrs(Idx);
+
+    if (!Idx) {
+      uint16_t RetI = Attr & ParamAttr::ParameterOnly;
+      Assert1(!RetI, "Attribute " + Attrs->getParamAttrsText(RetI) +
+              "does not apply to return values!", V);
+    } else {
+      uint16_t ParmI = Attr & ParamAttr::ReturnOnly;
+      Assert1(!ParmI, "Attribute " + Attrs->getParamAttrsText(ParmI) +
+              "only applies to return values!", V);
+    }
+
+    for (unsigned i = 0;
+         i < array_lengthof(ParamAttr::MutuallyIncompatible); ++i) {
+      uint16_t MutI = Attr & ParamAttr::MutuallyIncompatible[i];
+      Assert1(!(MutI & (MutI - 1)), "Attributes " +
+              Attrs->getParamAttrsText(MutI) + "are incompatible!", V);
+    }
+
+    uint16_t IType = Attr & ParamAttr::IntegerTypeOnly;
+    Assert1(!IType || FT->getParamType(Idx-1)->isInteger(),
+            "Attribute " + Attrs->getParamAttrsText(IType) +
+            "should only apply to Integer type!", V);
+
+    uint16_t PType = Attr & ParamAttr::PointerTypeOnly;
+    Assert1(!PType || isa<PointerType>(FT->getParamType(Idx-1)),
+            "Attribute " + Attrs->getParamAttrsText(PType) +
+            "should only apply to Pointer type!", V);
+
+    if (Attr & ParamAttr::ByVal) {
+      const PointerType *Ty =
+          dyn_cast<PointerType>(FT->getParamType(Idx-1));
+      Assert1(!Ty || isa<StructType>(Ty->getElementType()),
+              "Attribute byval should only apply to pointer to structs!", V);
+    }
+
+    if (Attr & ParamAttr::Nest) {
+      Assert1(!SawNest, "More than one parameter has attribute nest!", V);
+      SawNest = true;
+    }
+
+    if (Attr & ParamAttr::StructRet) {
+      Assert1(Idx == 1, "Attribute sret not on first parameter!", V);
+    }
+  }
+}
+
 // visitFunction - Verify that a function is ok.
 //
 void Verifier::visitFunction(Function &F) {
@@ -390,91 +460,11 @@ void Verifier::visitFunction(Function &F) {
           F.getReturnType() == Type::VoidTy,
           "Functions cannot return aggregate values!", &F);
 
-  Assert1(!FT->isStructReturn() || FT->getReturnType() == Type::VoidTy,
+  Assert1(!F.isStructReturn() || FT->getReturnType() == Type::VoidTy,
           "Invalid struct-return function!", &F);
 
-  const uint16_t ReturnIncompatible =
-    ParamAttr::ByVal | ParamAttr::InReg |
-    ParamAttr::Nest  | ParamAttr::StructRet;
-
-  const uint16_t ParameterIncompatible =
-    ParamAttr::NoReturn | ParamAttr::NoUnwind;
-
-  const uint16_t MutuallyIncompatible =
-    ParamAttr::ByVal | ParamAttr::InReg |
-    ParamAttr::Nest  | ParamAttr::StructRet;
-
-  const uint16_t MutuallyIncompatible2 =
-    ParamAttr::ZExt | ParamAttr::SExt;
-
-  const uint16_t IntegerTypeOnly =
-    ParamAttr::SExt | ParamAttr::ZExt;
-
-  const uint16_t PointerTypeOnly =
-    ParamAttr::ByVal   | ParamAttr::Nest |
-    ParamAttr::NoAlias | ParamAttr::StructRet;
-
-  bool SawSRet = false;
-
-  if (const ParamAttrsList *Attrs = FT->getParamAttrs()) {
-    unsigned Idx = 1;
-    bool SawNest = false;
-
-    uint16_t RetI = Attrs->getParamAttrs(0) & ReturnIncompatible;
-    Assert1(!RetI, "Attribute " + Attrs->getParamAttrsText(RetI) +
-            "should not apply to functions!", &F);
-    uint16_t MutI = Attrs->getParamAttrs(0) & MutuallyIncompatible2;
-    Assert1(MutI != MutuallyIncompatible2, "Attributes" + 
-            Attrs->getParamAttrsText(MutI) + "are incompatible!", &F);
-
-    for (FunctionType::param_iterator I = FT->param_begin(), 
-         E = FT->param_end(); I != E; ++I, ++Idx) {
-
-      uint16_t Attr = Attrs->getParamAttrs(Idx);
-
-      uint16_t ParmI = Attr & ParameterIncompatible;
-      Assert1(!ParmI, "Attribute " + Attrs->getParamAttrsText(ParmI) +
-              "should only be applied to function!", &F);
-
-      uint16_t MutI = Attr & MutuallyIncompatible;
-      Assert1(!(MutI & (MutI - 1)), "Attributes " +
-              Attrs->getParamAttrsText(MutI) + "are incompatible!", &F);
-
-      uint16_t MutI2 = Attr & MutuallyIncompatible2;
-      Assert1(MutI2 != MutuallyIncompatible2, "Attributes" + 
-              Attrs->getParamAttrsText(MutI2) + "are incompatible!", &F);
-
-      uint16_t IType = Attr & IntegerTypeOnly;
-      Assert1(!IType || FT->getParamType(Idx-1)->isInteger(),
-              "Attribute " + Attrs->getParamAttrsText(IType) +
-              "should only apply to Integer type!", &F);
-
-      uint16_t PType = Attr & PointerTypeOnly;
-      Assert1(!PType || isa<PointerType>(FT->getParamType(Idx-1)),
-              "Attribute " + Attrs->getParamAttrsText(PType) +
-              "should only apply to Pointer type!", &F);
-
-      if (Attrs->paramHasAttr(Idx, ParamAttr::ByVal)) {
-        const PointerType *Ty =
-            dyn_cast<PointerType>(FT->getParamType(Idx-1));
-        Assert1(!Ty || isa<StructType>(Ty->getElementType()),
-                "Attribute byval should only apply to pointer to structs!", &F);
-      }
-
-      if (Attrs->paramHasAttr(Idx, ParamAttr::Nest)) {
-        Assert1(!SawNest, "More than one parameter has attribute nest!", &F);
-        SawNest = true;
-      }
-
-      if (Attrs->paramHasAttr(Idx, ParamAttr::StructRet)) {
-        SawSRet = true;
-        Assert1(Idx == 1, "Attribute sret not on first parameter!", &F);
-      }
-    }
-  }
-
-  Assert1(SawSRet == FT->isStructReturn(),
-          "StructReturn function with no sret attribute!", &F);
+  // Check function attributes.
+  VerifyParamAttrs(FT, F.getParamAttrs(), &F);
 
   // Check that this function meets the restrictions on this calling convention.
   switch (F.getCallingConv()) {
@@ -711,8 +701,16 @@ void Verifier::visitUIToFPInst(UIToFPInst &I) {
   const Type *SrcTy = I.getOperand(0)->getType();
   const Type *DestTy = I.getType();
 
-  Assert1(SrcTy->isInteger(),"UInt2FP source must be integral", &I);
-  Assert1(DestTy->isFloatingPoint(),"UInt2FP result must be FP", &I);
+  bool SrcVec = SrcTy->getTypeID() == Type::VectorTyID;
+  bool DstVec = DestTy->getTypeID() == Type::VectorTyID;
+
+  Assert1(SrcVec == DstVec,"UIToFP source and dest must both be vector or scalar", &I);
+  Assert1(SrcTy->isIntOrIntVector(),"UIToFP source must be integer or integer vector", &I);
+  Assert1(DestTy->isFPOrFPVector(),"UIToFP result must be FP or FP vector", &I);
+
+  if (SrcVec && DstVec)
+    Assert1(cast<VectorType>(SrcTy)->getNumElements() == cast<VectorType>(DestTy)->getNumElements(),
+            "UIToFP source and dest vector length mismatch", &I);
 
   visitInstruction(I);
 }
@@ -722,8 +720,16 @@ void Verifier::visitSIToFPInst(SIToFPInst &I) {
   const Type *SrcTy = I.getOperand(0)->getType();
   const Type *DestTy = I.getType();
 
-  Assert1(SrcTy->isInteger(),"SInt2FP source must be integral", &I);
-  Assert1(DestTy->isFloatingPoint(),"SInt2FP result must be FP", &I);
+  bool SrcVec = SrcTy->getTypeID() == Type::VectorTyID;
+  bool DstVec = DestTy->getTypeID() == Type::VectorTyID;
+
+  Assert1(SrcVec == DstVec,"SIToFP source and dest must both be vector or scalar", &I);
+  Assert1(SrcTy->isIntOrIntVector(),"SIToFP source must be integer or integer vector", &I);
+  Assert1(DestTy->isFPOrFPVector(),"SIToFP result must be FP or FP vector", &I);
+
+  if (SrcVec && DstVec)
+    Assert1(cast<VectorType>(SrcTy)->getNumElements() == cast<VectorType>(DestTy)->getNumElements(),
+            "SIToFP source and dest vector length mismatch", &I);
 
   visitInstruction(I);
 }
@@ -733,8 +739,16 @@ void Verifier::visitFPToUIInst(FPToUIInst &I) {
   const Type *SrcTy = I.getOperand(0)->getType();
   const Type *DestTy = I.getType();
 
-  Assert1(SrcTy->isFloatingPoint(),"FP2UInt source must be FP", &I);
-  Assert1(DestTy->isInteger(),"FP2UInt result must be integral", &I);
+  bool SrcVec = SrcTy->getTypeID() == Type::VectorTyID;
+  bool DstVec = DestTy->getTypeID() == Type::VectorTyID;
+
+  Assert1(SrcVec == DstVec,"FPToUI source and dest must both be vector or scalar", &I);
+  Assert1(SrcTy->isFPOrFPVector(),"FPToUI source must be FP or FP vector", &I);
+  Assert1(DestTy->isIntOrIntVector(),"FPToUI result must be integer or integer vector", &I);
+
+  if (SrcVec && DstVec)
+    Assert1(cast<VectorType>(SrcTy)->getNumElements() == cast<VectorType>(DestTy)->getNumElements(),
+            "FPToUI source and dest vector length mismatch", &I);
 
   visitInstruction(I);
 }
@@ -744,8 +758,16 @@ void Verifier::visitFPToSIInst(FPToSIInst &I) {
   const Type *SrcTy = I.getOperand(0)->getType();
   const Type *DestTy = I.getType();
 
-  Assert1(SrcTy->isFloatingPoint(),"FPToSI source must be FP", &I);
-  Assert1(DestTy->isInteger(),"FP2ToI result must be integral", &I);
+  bool SrcVec = SrcTy->getTypeID() == Type::VectorTyID;
+  bool DstVec = DestTy->getTypeID() == Type::VectorTyID;
+
+  Assert1(SrcVec == DstVec,"FPToSI source and dest must both be vector or scalar", &I);
+  Assert1(SrcTy->isFPOrFPVector(),"FPToSI source must be FP or FP vector", &I);
+  Assert1(DestTy->isIntOrIntVector(),"FPToSI result must be integer or integer vector", &I);
+
+  if (SrcVec && DstVec)
+    Assert1(cast<VectorType>(SrcTy)->getNumElements() == cast<VectorType>(DestTy)->getNumElements(),
+            "FPToSI source and dest vector length mismatch", &I);
 
   visitInstruction(I);
 }
@@ -813,35 +835,48 @@ void Verifier::visitPHINode(PHINode &PN) {
   visitInstruction(PN);
 }
 
-void Verifier::visitCallInst(CallInst &CI) {
-  Assert1(isa<PointerType>(CI.getOperand(0)->getType()),
-          "Called function must be a pointer!", &CI);
-  const PointerType *FPTy = cast<PointerType>(CI.getOperand(0)->getType());
+void Verifier::VerifyCallSite(CallSite CS) {
+  Instruction *I = CS.getInstruction();
+
+  Assert1(isa<PointerType>(CS.getCalledValue()->getType()),
+          "Called function must be a pointer!", I);
+  const PointerType *FPTy = cast<PointerType>(CS.getCalledValue()->getType());
   Assert1(isa<FunctionType>(FPTy->getElementType()),
-          "Called function is not pointer to function type!", &CI);
+          "Called function is not pointer to function type!", I);
 
   const FunctionType *FTy = cast<FunctionType>(FPTy->getElementType());
 
   // Verify that the correct number of arguments are being passed
   if (FTy->isVarArg())
-    Assert1(CI.getNumOperands()-1 >= FTy->getNumParams(),
-            "Called function requires more parameters than were provided!",&CI);
+    Assert1(CS.arg_size() >= FTy->getNumParams(),
+            "Called function requires more parameters than were provided!",I);
   else
-    Assert1(CI.getNumOperands()-1 == FTy->getNumParams(),
-            "Incorrect number of arguments passed to called function!", &CI);
+    Assert1(CS.arg_size() == FTy->getNumParams(),
+            "Incorrect number of arguments passed to called function!", I);
 
   // Verify that all arguments to the call match the function type...
   for (unsigned i = 0, e = FTy->getNumParams(); i != e; ++i)
-    Assert3(CI.getOperand(i+1)->getType() == FTy->getParamType(i),
+    Assert3(CS.getArgument(i)->getType() == FTy->getParamType(i),
             "Call parameter type does not match function signature!",
-            CI.getOperand(i+1), FTy->getParamType(i), &CI);
+            CS.getArgument(i), FTy->getParamType(i), I);
+
+  // Verify call attributes.
+  VerifyParamAttrs(FTy, CS.getParamAttrs(), I);
+
+  visitInstruction(*I);
+}
+
+void Verifier::visitCallInst(CallInst &CI) {
+  VerifyCallSite(&CI);
 
   if (Function *F = CI.getCalledFunction()) {
     if (Intrinsic::ID ID = (Intrinsic::ID)F->getIntrinsicID())
       visitIntrinsicFunctionCall(ID, CI);
   }
-  
-  visitInstruction(CI);
+}
+
+void Verifier::visitInvokeInst(InvokeInst &II) {
+  VerifyCallSite(&II);
 }
 
 /// visitBinaryOperator - Check that both arguments to the binary operator are
@@ -976,6 +1011,13 @@ void Verifier::visitStoreInst(StoreInst &SI) {
   visitInstruction(SI);
 }
 
+void Verifier::visitAllocationInst(AllocationInst &AI) {
+  const PointerType *Ptr = AI.getType();
+  Assert(Ptr->getAddressSpace() == 0, 
+    "Allocation instruction pointer not in the generic address space!");
+  visitInstruction(AI);
+}
+
 
 /// verifyInstruction - Verify that an instruction is well formed.
 ///
@@ -1104,7 +1146,7 @@ void Verifier::visitInstruction(Instruction &I) {
                 "Instruction does not dominate all uses!", Op, &I);
       }
     } else if (isa<InlineAsm>(I.getOperand(i))) {
-      Assert1(i == 0 && isa<CallInst>(I),
+      Assert1(i == 0 && (isa<CallInst>(I) || isa<InvokeInst>(I)),
               "Cannot take the address of an inline asm!", &I);
     }
   }
@@ -1142,12 +1184,12 @@ void Verifier::visitIntrinsicFunctionCall(Intrinsic::ID ID, CallInst &CI) {
     break;
   case Intrinsic::gcwrite:
     Assert1(CI.getOperand(3)->getType()
-            == PointerType::get(CI.getOperand(1)->getType()),
+            == PointerType::getUnqual(CI.getOperand(1)->getType()),
             "Call to llvm.gcwrite must be with type 'void (%ty*, %ty2*, %ty**)'.",
             &CI);
     break;
   case Intrinsic::gcread:
-    Assert1(CI.getOperand(2)->getType() == PointerType::get(CI.getType()),
+    Assert1(CI.getOperand(2)->getType() == PointerType::getUnqual(CI.getType()),
             "Call to llvm.gcread must be with type '%ty* (%ty2*, %ty**).'",
             &CI);
     break;