Fix bug: InstCombine/cast.ll:test11 / PR#7
authorChris Lattner <sabre@nondot.org>
Tue, 7 Oct 2003 22:54:13 +0000 (22:54 +0000)
committerChris Lattner <sabre@nondot.org>
Tue, 7 Oct 2003 22:54:13 +0000 (22:54 +0000)
git-svn-id: https://llvm.org/svn/llvm-project/llvm/trunk@8954 91177308-0d34-0410-b5e6-96231b3b80d8

lib/Transforms/Scalar/InstructionCombining.cpp

index b31ec635c85a8ea1bc846992d56ed12aa653af05..8188929cd592f20352e3a32f21a14ab3740d13a3 100644 (file)
@@ -1607,10 +1607,32 @@ static const Type *getPromotedType(const Type *Ty) {
 // visitCallSite - Improvements for call and invoke instructions.
 //
 Instruction *InstCombiner::visitCallSite(CallSite CS) {
+  bool Changed = false;
+
+  // If the callee is a constexpr cast of a function, attempt to move the cast
+  // to the arguments of the call/invoke.
   if (transformConstExprCastCall(CS)) return 0;
 
+  Value *Callee = CS.getCalledValue();
+  const PointerType *PTy = cast<PointerType>(Callee->getType());
+  const FunctionType *FTy = cast<FunctionType>(PTy->getElementType());
+  if (FTy->isVarArg()) {
+    // See if we can optimize any arguments passed through the varargs area of
+    // the call.
+    for (CallSite::arg_iterator I = CS.arg_begin()+FTy->getNumParams(),
+           E = CS.arg_end(); I != E; ++I)
+      if (CastInst *CI = dyn_cast<CastInst>(*I)) {
+        // If this cast does not effect the value passed through the varargs
+        // area, we can eliminate the use of the cast.
+        Value *Op = CI->getOperand(0);
+        if (CI->getType()->isLosslesslyConvertibleTo(Op->getType())) {
+          *I = Op;
+          Changed = true;
+        }
+      }
+  }
   
-  return 0;
+  return Changed ? CS.getInstruction() : 0;
 }
 
 // transformConstExprCastCall - If the callee is a constexpr cast of a function,