Implement another getelementptr folding opportunity that arises when
authorChris Lattner <sabre@nondot.org>
Tue, 13 May 2003 21:50:52 +0000 (21:50 +0000)
committerChris Lattner <sabre@nondot.org>
Tue, 13 May 2003 21:50:52 +0000 (21:50 +0000)
linking stuff with appending linkage

git-svn-id: https://llvm.org/svn/llvm-project/llvm/trunk@6180 91177308-0d34-0410-b5e6-96231b3b80d8

lib/VMCore/ConstantFold.cpp

index 8da98f19979beb4c2d1f177ceea0aba17a2fdfba..ee5611ea7deb8ba7762e2dfd1bdfd7fba0ebcc6f 100644 (file)
@@ -150,6 +150,22 @@ Constant *ConstantFoldGetElementPtr(const Constant *C,
   // If C is null and all idx's are null, return null of the right type.
 
   // FIXME: Implement folding of GEP constant exprs the same as instcombine does
   // If C is null and all idx's are null, return null of the right type.
 
   // FIXME: Implement folding of GEP constant exprs the same as instcombine does
+
+  // Implement folding of:
+  //    int* getelementptr ([2 x int]* cast ([3 x int]* %X to [2 x int]*),
+  //                        long 0, long 0)
+  // To: int* getelementptr ([3 x int]* %X, long 0, long 0)
+  //
+  if (const ConstantExpr *CE = dyn_cast<ConstantExpr>(C))
+    if (CE->getOpcode() == Instruction::Cast && IdxList.size() > 1)
+      if (const PointerType *SPT = 
+          dyn_cast<PointerType>(CE->getOperand(0)->getType()))
+        if (const ArrayType *SAT = dyn_cast<ArrayType>(SPT->getElementType()))
+          if (const ArrayType *CAT =
+              dyn_cast<ArrayType>(cast<PointerType>(C->getType())->getElementType()))
+            if (CAT->getElementType() == SAT->getElementType())
+              return ConstantExpr::getGetElementPtr(
+                      (Constant*)cast<Constant>(CE->getOperand(0)), IdxList);
   return 0;
 }
 
   return 0;
 }