Fixes the Atomic implementation if compiled by MSVC compiler.
[oota-llvm.git] / lib / Analysis / ConstantFolding.cpp
1 //===-- ConstantFolding.cpp - Fold instructions into constants ------------===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // This file defines routines for folding instructions into constants.
11 //
12 // Also, to supplement the basic VMCore ConstantExpr simplifications,
13 // this file defines some additional folding routines that can make use of
14 // TargetData information. These functions cannot go in VMCore due to library
15 // dependency issues.
16 //
17 //===----------------------------------------------------------------------===//
18
19 #include "llvm/Analysis/ConstantFolding.h"
20 #include "llvm/Constants.h"
21 #include "llvm/DerivedTypes.h"
22 #include "llvm/Function.h"
23 #include "llvm/GlobalVariable.h"
24 #include "llvm/Instructions.h"
25 #include "llvm/Intrinsics.h"
26 #include "llvm/Analysis/ValueTracking.h"
27 #include "llvm/Target/TargetData.h"
28 #include "llvm/ADT/SmallVector.h"
29 #include "llvm/ADT/StringMap.h"
30 #include "llvm/Support/ErrorHandling.h"
31 #include "llvm/Support/GetElementPtrTypeIterator.h"
32 #include "llvm/Support/MathExtras.h"
33 #include <cerrno>
34 #include <cmath>
35 using namespace llvm;
36
37 //===----------------------------------------------------------------------===//
38 // Constant Folding internal helper functions
39 //===----------------------------------------------------------------------===//
40
41 /// FoldBitCast - Constant fold bitcast, symbolically evaluating it with 
42 /// TargetData.  This always returns a non-null constant, but it may be a
43 /// ConstantExpr if unfoldable.
44 static Constant *FoldBitCast(Constant *C, const Type *DestTy,
45                              const TargetData &TD) {
46   
47   // This only handles casts to vectors currently.
48   const VectorType *DestVTy = dyn_cast<VectorType>(DestTy);
49   if (DestVTy == 0)
50     return ConstantExpr::getBitCast(C, DestTy);
51   
52   // If this is a scalar -> vector cast, convert the input into a <1 x scalar>
53   // vector so the code below can handle it uniformly.
54   if (isa<ConstantFP>(C) || isa<ConstantInt>(C)) {
55     Constant *Ops = C; // don't take the address of C!
56     return FoldBitCast(ConstantVector::get(&Ops, 1), DestTy, TD);
57   }
58   
59   // If this is a bitcast from constant vector -> vector, fold it.
60   ConstantVector *CV = dyn_cast<ConstantVector>(C);
61   if (CV == 0)
62     return ConstantExpr::getBitCast(C, DestTy);
63   
64   // If the element types match, VMCore can fold it.
65   unsigned NumDstElt = DestVTy->getNumElements();
66   unsigned NumSrcElt = CV->getNumOperands();
67   if (NumDstElt == NumSrcElt)
68     return ConstantExpr::getBitCast(C, DestTy);
69   
70   const Type *SrcEltTy = CV->getType()->getElementType();
71   const Type *DstEltTy = DestVTy->getElementType();
72   
73   // Otherwise, we're changing the number of elements in a vector, which 
74   // requires endianness information to do the right thing.  For example,
75   //    bitcast (<2 x i64> <i64 0, i64 1> to <4 x i32>)
76   // folds to (little endian):
77   //    <4 x i32> <i32 0, i32 0, i32 1, i32 0>
78   // and to (big endian):
79   //    <4 x i32> <i32 0, i32 0, i32 0, i32 1>
80   
81   // First thing is first.  We only want to think about integer here, so if
82   // we have something in FP form, recast it as integer.
83   if (DstEltTy->isFloatingPoint()) {
84     // Fold to an vector of integers with same size as our FP type.
85     unsigned FPWidth = DstEltTy->getPrimitiveSizeInBits();
86     const Type *DestIVTy =
87       VectorType::get(IntegerType::get(C->getContext(), FPWidth), NumDstElt);
88     // Recursively handle this integer conversion, if possible.
89     C = FoldBitCast(C, DestIVTy, TD);
90     if (!C) return ConstantExpr::getBitCast(C, DestTy);
91     
92     // Finally, VMCore can handle this now that #elts line up.
93     return ConstantExpr::getBitCast(C, DestTy);
94   }
95   
96   // Okay, we know the destination is integer, if the input is FP, convert
97   // it to integer first.
98   if (SrcEltTy->isFloatingPoint()) {
99     unsigned FPWidth = SrcEltTy->getPrimitiveSizeInBits();
100     const Type *SrcIVTy =
101       VectorType::get(IntegerType::get(C->getContext(), FPWidth), NumSrcElt);
102     // Ask VMCore to do the conversion now that #elts line up.
103     C = ConstantExpr::getBitCast(C, SrcIVTy);
104     CV = dyn_cast<ConstantVector>(C);
105     if (!CV)  // If VMCore wasn't able to fold it, bail out.
106       return C;
107   }
108   
109   // Now we know that the input and output vectors are both integer vectors
110   // of the same size, and that their #elements is not the same.  Do the
111   // conversion here, which depends on whether the input or output has
112   // more elements.
113   bool isLittleEndian = TD.isLittleEndian();
114   
115   SmallVector<Constant*, 32> Result;
116   if (NumDstElt < NumSrcElt) {
117     // Handle: bitcast (<4 x i32> <i32 0, i32 1, i32 2, i32 3> to <2 x i64>)
118     Constant *Zero = Constant::getNullValue(DstEltTy);
119     unsigned Ratio = NumSrcElt/NumDstElt;
120     unsigned SrcBitSize = SrcEltTy->getPrimitiveSizeInBits();
121     unsigned SrcElt = 0;
122     for (unsigned i = 0; i != NumDstElt; ++i) {
123       // Build each element of the result.
124       Constant *Elt = Zero;
125       unsigned ShiftAmt = isLittleEndian ? 0 : SrcBitSize*(Ratio-1);
126       for (unsigned j = 0; j != Ratio; ++j) {
127         Constant *Src = dyn_cast<ConstantInt>(CV->getOperand(SrcElt++));
128         if (!Src)  // Reject constantexpr elements.
129           return ConstantExpr::getBitCast(C, DestTy);
130         
131         // Zero extend the element to the right size.
132         Src = ConstantExpr::getZExt(Src, Elt->getType());
133         
134         // Shift it to the right place, depending on endianness.
135         Src = ConstantExpr::getShl(Src, 
136                                    ConstantInt::get(Src->getType(), ShiftAmt));
137         ShiftAmt += isLittleEndian ? SrcBitSize : -SrcBitSize;
138         
139         // Mix it in.
140         Elt = ConstantExpr::getOr(Elt, Src);
141       }
142       Result.push_back(Elt);
143     }
144   } else {
145     // Handle: bitcast (<2 x i64> <i64 0, i64 1> to <4 x i32>)
146     unsigned Ratio = NumDstElt/NumSrcElt;
147     unsigned DstBitSize = DstEltTy->getPrimitiveSizeInBits();
148     
149     // Loop over each source value, expanding into multiple results.
150     for (unsigned i = 0; i != NumSrcElt; ++i) {
151       Constant *Src = dyn_cast<ConstantInt>(CV->getOperand(i));
152       if (!Src)  // Reject constantexpr elements.
153         return ConstantExpr::getBitCast(C, DestTy);
154       
155       unsigned ShiftAmt = isLittleEndian ? 0 : DstBitSize*(Ratio-1);
156       for (unsigned j = 0; j != Ratio; ++j) {
157         // Shift the piece of the value into the right place, depending on
158         // endianness.
159         Constant *Elt = ConstantExpr::getLShr(Src, 
160                                     ConstantInt::get(Src->getType(), ShiftAmt));
161         ShiftAmt += isLittleEndian ? DstBitSize : -DstBitSize;
162         
163         // Truncate and remember this piece.
164         Result.push_back(ConstantExpr::getTrunc(Elt, DstEltTy));
165       }
166     }
167   }
168   
169   return ConstantVector::get(Result.data(), Result.size());
170 }
171
172
173 /// IsConstantOffsetFromGlobal - If this constant is actually a constant offset
174 /// from a global, return the global and the constant.  Because of
175 /// constantexprs, this function is recursive.
176 static bool IsConstantOffsetFromGlobal(Constant *C, GlobalValue *&GV,
177                                        int64_t &Offset, const TargetData &TD) {
178   // Trivial case, constant is the global.
179   if ((GV = dyn_cast<GlobalValue>(C))) {
180     Offset = 0;
181     return true;
182   }
183   
184   // Otherwise, if this isn't a constant expr, bail out.
185   ConstantExpr *CE = dyn_cast<ConstantExpr>(C);
186   if (!CE) return false;
187   
188   // Look through ptr->int and ptr->ptr casts.
189   if (CE->getOpcode() == Instruction::PtrToInt ||
190       CE->getOpcode() == Instruction::BitCast)
191     return IsConstantOffsetFromGlobal(CE->getOperand(0), GV, Offset, TD);
192   
193   // i32* getelementptr ([5 x i32]* @a, i32 0, i32 5)    
194   if (CE->getOpcode() == Instruction::GetElementPtr) {
195     // Cannot compute this if the element type of the pointer is missing size
196     // info.
197     if (!cast<PointerType>(CE->getOperand(0)->getType())
198                  ->getElementType()->isSized())
199       return false;
200     
201     // If the base isn't a global+constant, we aren't either.
202     if (!IsConstantOffsetFromGlobal(CE->getOperand(0), GV, Offset, TD))
203       return false;
204     
205     // Otherwise, add any offset that our operands provide.
206     gep_type_iterator GTI = gep_type_begin(CE);
207     for (User::const_op_iterator i = CE->op_begin() + 1, e = CE->op_end();
208          i != e; ++i, ++GTI) {
209       ConstantInt *CI = dyn_cast<ConstantInt>(*i);
210       if (!CI) return false;  // Index isn't a simple constant?
211       if (CI->getZExtValue() == 0) continue;  // Not adding anything.
212       
213       if (const StructType *ST = dyn_cast<StructType>(*GTI)) {
214         // N = N + Offset
215         Offset += TD.getStructLayout(ST)->getElementOffset(CI->getZExtValue());
216       } else {
217         const SequentialType *SQT = cast<SequentialType>(*GTI);
218         Offset += TD.getTypeAllocSize(SQT->getElementType())*CI->getSExtValue();
219       }
220     }
221     return true;
222   }
223   
224   return false;
225 }
226
227 /// ReadDataFromGlobal - Recursive helper to read bits out of global.  C is the
228 /// constant being copied out of. ByteOffset is an offset into C.  CurPtr is the
229 /// pointer to copy results into and BytesLeft is the number of bytes left in
230 /// the CurPtr buffer.  TD is the target data.
231 static bool ReadDataFromGlobal(Constant *C, uint64_t ByteOffset,
232                                unsigned char *CurPtr, unsigned BytesLeft,
233                                const TargetData &TD) {
234   assert(ByteOffset <= TD.getTypeAllocSize(C->getType()) &&
235          "Out of range access");
236   
237   // If this element is zero or undefined, we can just return since *CurPtr is
238   // zero initialized.
239   if (isa<ConstantAggregateZero>(C) || isa<UndefValue>(C))
240     return true;
241   
242   if (ConstantInt *CI = dyn_cast<ConstantInt>(C)) {
243     if (CI->getBitWidth() > 64 ||
244         (CI->getBitWidth() & 7) != 0)
245       return false;
246     
247     uint64_t Val = CI->getZExtValue();
248     unsigned IntBytes = unsigned(CI->getBitWidth()/8);
249     
250     for (unsigned i = 0; i != BytesLeft && ByteOffset != IntBytes; ++i) {
251       CurPtr[i] = (unsigned char)(Val >> (ByteOffset * 8));
252       ++ByteOffset;
253     }
254     return true;
255   }
256   
257   if (ConstantFP *CFP = dyn_cast<ConstantFP>(C)) {
258     if (CFP->getType()->isDoubleTy()) {
259       C = FoldBitCast(C, Type::getInt64Ty(C->getContext()), TD);
260       return ReadDataFromGlobal(C, ByteOffset, CurPtr, BytesLeft, TD);
261     }
262     if (CFP->getType()->isFloatTy()){
263       C = FoldBitCast(C, Type::getInt32Ty(C->getContext()), TD);
264       return ReadDataFromGlobal(C, ByteOffset, CurPtr, BytesLeft, TD);
265     }
266     return false;
267   }
268
269   if (ConstantStruct *CS = dyn_cast<ConstantStruct>(C)) {
270     const StructLayout *SL = TD.getStructLayout(CS->getType());
271     unsigned Index = SL->getElementContainingOffset(ByteOffset);
272     uint64_t CurEltOffset = SL->getElementOffset(Index);
273     ByteOffset -= CurEltOffset;
274     
275     while (1) {
276       // If the element access is to the element itself and not to tail padding,
277       // read the bytes from the element.
278       uint64_t EltSize = TD.getTypeAllocSize(CS->getOperand(Index)->getType());
279
280       if (ByteOffset < EltSize &&
281           !ReadDataFromGlobal(CS->getOperand(Index), ByteOffset, CurPtr,
282                               BytesLeft, TD))
283         return false;
284       
285       ++Index;
286       
287       // Check to see if we read from the last struct element, if so we're done.
288       if (Index == CS->getType()->getNumElements())
289         return true;
290
291       // If we read all of the bytes we needed from this element we're done.
292       uint64_t NextEltOffset = SL->getElementOffset(Index);
293
294       if (BytesLeft <= NextEltOffset-CurEltOffset-ByteOffset)
295         return true;
296
297       // Move to the next element of the struct.
298       CurPtr += NextEltOffset-CurEltOffset-ByteOffset;
299       BytesLeft -= NextEltOffset-CurEltOffset-ByteOffset;
300       ByteOffset = 0;
301       CurEltOffset = NextEltOffset;
302     }
303     // not reached.
304   }
305
306   if (ConstantArray *CA = dyn_cast<ConstantArray>(C)) {
307     uint64_t EltSize = TD.getTypeAllocSize(CA->getType()->getElementType());
308     uint64_t Index = ByteOffset / EltSize;
309     uint64_t Offset = ByteOffset - Index * EltSize;
310     for (; Index != CA->getType()->getNumElements(); ++Index) {
311       if (!ReadDataFromGlobal(CA->getOperand(Index), Offset, CurPtr,
312                               BytesLeft, TD))
313         return false;
314       if (EltSize >= BytesLeft)
315         return true;
316       
317       Offset = 0;
318       BytesLeft -= EltSize;
319       CurPtr += EltSize;
320     }
321     return true;
322   }
323   
324   if (ConstantVector *CV = dyn_cast<ConstantVector>(C)) {
325     uint64_t EltSize = TD.getTypeAllocSize(CV->getType()->getElementType());
326     uint64_t Index = ByteOffset / EltSize;
327     uint64_t Offset = ByteOffset - Index * EltSize;
328     for (; Index != CV->getType()->getNumElements(); ++Index) {
329       if (!ReadDataFromGlobal(CV->getOperand(Index), Offset, CurPtr,
330                               BytesLeft, TD))
331         return false;
332       if (EltSize >= BytesLeft)
333         return true;
334       
335       Offset = 0;
336       BytesLeft -= EltSize;
337       CurPtr += EltSize;
338     }
339     return true;
340   }
341   
342   // Otherwise, unknown initializer type.
343   return false;
344 }
345
346 static Constant *FoldReinterpretLoadFromConstPtr(Constant *C,
347                                                  const TargetData &TD) {
348   const Type *LoadTy = cast<PointerType>(C->getType())->getElementType();
349   const IntegerType *IntType = dyn_cast<IntegerType>(LoadTy);
350   
351   // If this isn't an integer load we can't fold it directly.
352   if (!IntType) {
353     // If this is a float/double load, we can try folding it as an int32/64 load
354     // and then bitcast the result.  This can be useful for union cases.  Note
355     // that address spaces don't matter here since we're not going to result in
356     // an actual new load.
357     const Type *MapTy;
358     if (LoadTy->isFloatTy())
359       MapTy = Type::getInt32PtrTy(C->getContext());
360     else if (LoadTy->isDoubleTy())
361       MapTy = Type::getInt64PtrTy(C->getContext());
362     else if (isa<VectorType>(LoadTy)) {
363       MapTy = IntegerType::get(C->getContext(),
364                                TD.getTypeAllocSizeInBits(LoadTy));
365       MapTy = PointerType::getUnqual(MapTy);
366     } else
367       return 0;
368
369     C = FoldBitCast(C, MapTy, TD);
370     if (Constant *Res = FoldReinterpretLoadFromConstPtr(C, TD))
371       return FoldBitCast(Res, LoadTy, TD);
372     return 0;
373   }
374   
375   unsigned BytesLoaded = (IntType->getBitWidth() + 7) / 8;
376   if (BytesLoaded > 32 || BytesLoaded == 0) return 0;
377   
378   GlobalValue *GVal;
379   int64_t Offset;
380   if (!IsConstantOffsetFromGlobal(C, GVal, Offset, TD))
381     return 0;
382   
383   GlobalVariable *GV = dyn_cast<GlobalVariable>(GVal);
384   if (!GV || !GV->isConstant() || !GV->hasDefinitiveInitializer() ||
385       !GV->getInitializer()->getType()->isSized())
386     return 0;
387
388   // If we're loading off the beginning of the global, some bytes may be valid,
389   // but we don't try to handle this.
390   if (Offset < 0) return 0;
391   
392   // If we're not accessing anything in this constant, the result is undefined.
393   if (uint64_t(Offset) >= TD.getTypeAllocSize(GV->getInitializer()->getType()))
394     return UndefValue::get(IntType);
395   
396   unsigned char RawBytes[32] = {0};
397   if (!ReadDataFromGlobal(GV->getInitializer(), Offset, RawBytes,
398                           BytesLoaded, TD))
399     return 0;
400
401   APInt ResultVal(IntType->getBitWidth(), 0);
402   for (unsigned i = 0; i != BytesLoaded; ++i) {
403     ResultVal <<= 8;
404     ResultVal |= APInt(IntType->getBitWidth(), RawBytes[BytesLoaded-1-i]);
405   }
406
407   return ConstantInt::get(IntType->getContext(), ResultVal);
408 }
409
410 /// ConstantFoldLoadFromConstPtr - Return the value that a load from C would
411 /// produce if it is constant and determinable.  If this is not determinable,
412 /// return null.
413 Constant *llvm::ConstantFoldLoadFromConstPtr(Constant *C,
414                                              const TargetData *TD) {
415   // First, try the easy cases:
416   if (GlobalVariable *GV = dyn_cast<GlobalVariable>(C))
417     if (GV->isConstant() && GV->hasDefinitiveInitializer())
418       return GV->getInitializer();
419
420   // If the loaded value isn't a constant expr, we can't handle it.
421   ConstantExpr *CE = dyn_cast<ConstantExpr>(C);
422   if (!CE) return 0;
423   
424   if (CE->getOpcode() == Instruction::GetElementPtr) {
425     if (GlobalVariable *GV = dyn_cast<GlobalVariable>(CE->getOperand(0)))
426       if (GV->isConstant() && GV->hasDefinitiveInitializer())
427         if (Constant *V = 
428              ConstantFoldLoadThroughGEPConstantExpr(GV->getInitializer(), CE))
429           return V;
430   }
431   
432   // Instead of loading constant c string, use corresponding integer value
433   // directly if string length is small enough.
434   std::string Str;
435   if (TD && GetConstantStringInfo(CE, Str) && !Str.empty()) {
436     unsigned StrLen = Str.length();
437     const Type *Ty = cast<PointerType>(CE->getType())->getElementType();
438     unsigned NumBits = Ty->getPrimitiveSizeInBits();
439     // Replace LI with immediate integer store.
440     if ((NumBits >> 3) == StrLen + 1) {
441       APInt StrVal(NumBits, 0);
442       APInt SingleChar(NumBits, 0);
443       if (TD->isLittleEndian()) {
444         for (signed i = StrLen-1; i >= 0; i--) {
445           SingleChar = (uint64_t) Str[i] & UCHAR_MAX;
446           StrVal = (StrVal << 8) | SingleChar;
447         }
448       } else {
449         for (unsigned i = 0; i < StrLen; i++) {
450           SingleChar = (uint64_t) Str[i] & UCHAR_MAX;
451           StrVal = (StrVal << 8) | SingleChar;
452         }
453         // Append NULL at the end.
454         SingleChar = 0;
455         StrVal = (StrVal << 8) | SingleChar;
456       }
457       return ConstantInt::get(CE->getContext(), StrVal);
458     }
459   }
460   
461   // If this load comes from anywhere in a constant global, and if the global
462   // is all undef or zero, we know what it loads.
463   if (GlobalVariable *GV = dyn_cast<GlobalVariable>(CE->getUnderlyingObject())){
464     if (GV->isConstant() && GV->hasDefinitiveInitializer()) {
465       const Type *ResTy = cast<PointerType>(C->getType())->getElementType();
466       if (GV->getInitializer()->isNullValue())
467         return Constant::getNullValue(ResTy);
468       if (isa<UndefValue>(GV->getInitializer()))
469         return UndefValue::get(ResTy);
470     }
471   }
472   
473   // Try hard to fold loads from bitcasted strange and non-type-safe things.  We
474   // currently don't do any of this for big endian systems.  It can be
475   // generalized in the future if someone is interested.
476   if (TD && TD->isLittleEndian())
477     return FoldReinterpretLoadFromConstPtr(CE, *TD);
478   return 0;
479 }
480
481 static Constant *ConstantFoldLoadInst(const LoadInst *LI, const TargetData *TD){
482   if (LI->isVolatile()) return 0;
483   
484   if (Constant *C = dyn_cast<Constant>(LI->getOperand(0)))
485     return ConstantFoldLoadFromConstPtr(C, TD);
486
487   return 0;
488 }
489
490 /// SymbolicallyEvaluateBinop - One of Op0/Op1 is a constant expression.
491 /// Attempt to symbolically evaluate the result of a binary operator merging
492 /// these together.  If target data info is available, it is provided as TD, 
493 /// otherwise TD is null.
494 static Constant *SymbolicallyEvaluateBinop(unsigned Opc, Constant *Op0,
495                                            Constant *Op1, const TargetData *TD){
496   // SROA
497   
498   // Fold (and 0xffffffff00000000, (shl x, 32)) -> shl.
499   // Fold (lshr (or X, Y), 32) -> (lshr [X/Y], 32) if one doesn't contribute
500   // bits.
501   
502   
503   // If the constant expr is something like &A[123] - &A[4].f, fold this into a
504   // constant.  This happens frequently when iterating over a global array.
505   if (Opc == Instruction::Sub && TD) {
506     GlobalValue *GV1, *GV2;
507     int64_t Offs1, Offs2;
508     
509     if (IsConstantOffsetFromGlobal(Op0, GV1, Offs1, *TD))
510       if (IsConstantOffsetFromGlobal(Op1, GV2, Offs2, *TD) &&
511           GV1 == GV2) {
512         // (&GV+C1) - (&GV+C2) -> C1-C2, pointer arithmetic cannot overflow.
513         return ConstantInt::get(Op0->getType(), Offs1-Offs2);
514       }
515   }
516     
517   return 0;
518 }
519
520 /// SymbolicallyEvaluateGEP - If we can symbolically evaluate the specified GEP
521 /// constant expression, do so.
522 static Constant *SymbolicallyEvaluateGEP(Constant *const *Ops, unsigned NumOps,
523                                          const Type *ResultTy,
524                                          const TargetData *TD) {
525   Constant *Ptr = Ops[0];
526   if (!TD || !cast<PointerType>(Ptr->getType())->getElementType()->isSized())
527     return 0;
528
529   unsigned BitWidth =
530     TD->getTypeSizeInBits(TD->getIntPtrType(Ptr->getContext()));
531   APInt BasePtr(BitWidth, 0);
532   bool BaseIsInt = true;
533   if (!Ptr->isNullValue()) {
534     // If this is a inttoptr from a constant int, we can fold this as the base,
535     // otherwise we can't.
536     if (ConstantExpr *CE = dyn_cast<ConstantExpr>(Ptr))
537       if (CE->getOpcode() == Instruction::IntToPtr)
538         if (ConstantInt *Base = dyn_cast<ConstantInt>(CE->getOperand(0))) {
539           BasePtr = Base->getValue();
540           BasePtr.zextOrTrunc(BitWidth);
541         }
542     
543     if (BasePtr == 0)
544       BaseIsInt = false;
545   }
546
547   // If this is a constant expr gep that is effectively computing an
548   // "offsetof", fold it into 'cast int Size to T*' instead of 'gep 0, 0, 12'
549   for (unsigned i = 1; i != NumOps; ++i)
550     if (!isa<ConstantInt>(Ops[i]))
551       return 0;
552   
553   APInt Offset = APInt(BitWidth,
554                        TD->getIndexedOffset(Ptr->getType(),
555                                             (Value**)Ops+1, NumOps-1));
556   // If the base value for this address is a literal integer value, fold the
557   // getelementptr to the resulting integer value casted to the pointer type.
558   if (BaseIsInt) {
559     Constant *C = ConstantInt::get(Ptr->getContext(), Offset+BasePtr);
560     return ConstantExpr::getIntToPtr(C, ResultTy);
561   }
562
563   // Otherwise form a regular getelementptr. Recompute the indices so that
564   // we eliminate over-indexing of the notional static type array bounds.
565   // This makes it easy to determine if the getelementptr is "inbounds".
566   // Also, this helps GlobalOpt do SROA on GlobalVariables.
567   Ptr = cast<Constant>(Ptr->stripPointerCasts());
568   const Type *Ty = Ptr->getType();
569   SmallVector<Constant*, 32> NewIdxs;
570   do {
571     if (const SequentialType *ATy = dyn_cast<SequentialType>(Ty)) {
572       if (isa<PointerType>(ATy)) {
573         // The only pointer indexing we'll do is on the first index of the GEP.
574         if (!NewIdxs.empty())
575           break;
576        
577         // Only handle pointers to sized types, not pointers to functions.
578         if (!ATy->getElementType()->isSized())
579           return 0;
580       }
581         
582       // Determine which element of the array the offset points into.
583       APInt ElemSize(BitWidth, TD->getTypeAllocSize(ATy->getElementType()));
584       if (ElemSize == 0)
585         return 0;
586       APInt NewIdx = Offset.udiv(ElemSize);
587       Offset -= NewIdx * ElemSize;
588       NewIdxs.push_back(ConstantInt::get(TD->getIntPtrType(Ty->getContext()),
589                                          NewIdx));
590       Ty = ATy->getElementType();
591     } else if (const StructType *STy = dyn_cast<StructType>(Ty)) {
592       // Determine which field of the struct the offset points into. The
593       // getZExtValue is at least as safe as the StructLayout API because we
594       // know the offset is within the struct at this point.
595       const StructLayout &SL = *TD->getStructLayout(STy);
596       unsigned ElIdx = SL.getElementContainingOffset(Offset.getZExtValue());
597       NewIdxs.push_back(ConstantInt::get(Type::getInt32Ty(Ty->getContext()),
598                                          ElIdx));
599       Offset -= APInt(BitWidth, SL.getElementOffset(ElIdx));
600       Ty = STy->getTypeAtIndex(ElIdx);
601     } else {
602       // We've reached some non-indexable type.
603       break;
604     }
605   } while (Ty != cast<PointerType>(ResultTy)->getElementType());
606
607   // If we haven't used up the entire offset by descending the static
608   // type, then the offset is pointing into the middle of an indivisible
609   // member, so we can't simplify it.
610   if (Offset != 0)
611     return 0;
612
613   // Create a GEP.
614   Constant *C =
615     ConstantExpr::getGetElementPtr(Ptr, &NewIdxs[0], NewIdxs.size());
616   assert(cast<PointerType>(C->getType())->getElementType() == Ty &&
617          "Computed GetElementPtr has unexpected type!");
618
619   // If we ended up indexing a member with a type that doesn't match
620   // the type of what the original indices indexed, add a cast.
621   if (Ty != cast<PointerType>(ResultTy)->getElementType())
622     C = FoldBitCast(C, ResultTy, *TD);
623
624   return C;
625 }
626
627
628
629 //===----------------------------------------------------------------------===//
630 // Constant Folding public APIs
631 //===----------------------------------------------------------------------===//
632
633
634 /// ConstantFoldInstruction - Attempt to constant fold the specified
635 /// instruction.  If successful, the constant result is returned, if not, null
636 /// is returned.  Note that this function can only fail when attempting to fold
637 /// instructions like loads and stores, which have no constant expression form.
638 ///
639 Constant *llvm::ConstantFoldInstruction(Instruction *I, const TargetData *TD) {
640   if (PHINode *PN = dyn_cast<PHINode>(I)) {
641     if (PN->getNumIncomingValues() == 0)
642       return UndefValue::get(PN->getType());
643
644     Constant *Result = dyn_cast<Constant>(PN->getIncomingValue(0));
645     if (Result == 0) return 0;
646
647     // Handle PHI nodes specially here...
648     for (unsigned i = 1, e = PN->getNumIncomingValues(); i != e; ++i)
649       if (PN->getIncomingValue(i) != Result && PN->getIncomingValue(i) != PN)
650         return 0;   // Not all the same incoming constants...
651
652     // If we reach here, all incoming values are the same constant.
653     return Result;
654   }
655
656   // Scan the operand list, checking to see if they are all constants, if so,
657   // hand off to ConstantFoldInstOperands.
658   SmallVector<Constant*, 8> Ops;
659   for (User::op_iterator i = I->op_begin(), e = I->op_end(); i != e; ++i)
660     if (Constant *Op = dyn_cast<Constant>(*i))
661       Ops.push_back(Op);
662     else
663       return 0;  // All operands not constant!
664
665   if (const CmpInst *CI = dyn_cast<CmpInst>(I))
666     return ConstantFoldCompareInstOperands(CI->getPredicate(), Ops[0], Ops[1],
667                                            TD);
668   
669   if (const LoadInst *LI = dyn_cast<LoadInst>(I))
670     return ConstantFoldLoadInst(LI, TD);
671   
672   return ConstantFoldInstOperands(I->getOpcode(), I->getType(),
673                                   Ops.data(), Ops.size(), TD);
674 }
675
676 /// ConstantFoldConstantExpression - Attempt to fold the constant expression
677 /// using the specified TargetData.  If successful, the constant result is
678 /// result is returned, if not, null is returned.
679 Constant *llvm::ConstantFoldConstantExpression(ConstantExpr *CE,
680                                                const TargetData *TD) {
681   SmallVector<Constant*, 8> Ops;
682   for (User::op_iterator i = CE->op_begin(), e = CE->op_end(); i != e; ++i) {
683     Constant *NewC = cast<Constant>(*i);
684     // Recursively fold the ConstantExpr's operands.
685     if (ConstantExpr *NewCE = dyn_cast<ConstantExpr>(NewC))
686       NewC = ConstantFoldConstantExpression(NewCE, TD);
687     Ops.push_back(NewC);
688   }
689
690   if (CE->isCompare())
691     return ConstantFoldCompareInstOperands(CE->getPredicate(), Ops[0], Ops[1],
692                                            TD);
693   return ConstantFoldInstOperands(CE->getOpcode(), CE->getType(),
694                                   Ops.data(), Ops.size(), TD);
695 }
696
697 /// ConstantFoldInstOperands - Attempt to constant fold an instruction with the
698 /// specified opcode and operands.  If successful, the constant result is
699 /// returned, if not, null is returned.  Note that this function can fail when
700 /// attempting to fold instructions like loads and stores, which have no
701 /// constant expression form.
702 ///
703 /// TODO: This function neither utilizes nor preserves nsw/nuw/inbounds/etc
704 /// information, due to only being passed an opcode and operands. Constant
705 /// folding using this function strips this information.
706 ///
707 Constant *llvm::ConstantFoldInstOperands(unsigned Opcode, const Type *DestTy, 
708                                          Constant* const* Ops, unsigned NumOps,
709                                          const TargetData *TD) {
710   // Handle easy binops first.
711   if (Instruction::isBinaryOp(Opcode)) {
712     if (isa<ConstantExpr>(Ops[0]) || isa<ConstantExpr>(Ops[1]))
713       if (Constant *C = SymbolicallyEvaluateBinop(Opcode, Ops[0], Ops[1], TD))
714         return C;
715     
716     return ConstantExpr::get(Opcode, Ops[0], Ops[1]);
717   }
718   
719   switch (Opcode) {
720   default: return 0;
721   case Instruction::Call:
722     if (Function *F = dyn_cast<Function>(Ops[0]))
723       if (canConstantFoldCallTo(F))
724         return ConstantFoldCall(F, Ops+1, NumOps-1);
725     return 0;
726   case Instruction::ICmp:
727   case Instruction::FCmp:
728     llvm_unreachable("This function is invalid for compares: no predicate specified");
729   case Instruction::PtrToInt:
730     // If the input is a inttoptr, eliminate the pair.  This requires knowing
731     // the width of a pointer, so it can't be done in ConstantExpr::getCast.
732     if (ConstantExpr *CE = dyn_cast<ConstantExpr>(Ops[0])) {
733       if (TD && CE->getOpcode() == Instruction::IntToPtr) {
734         Constant *Input = CE->getOperand(0);
735         unsigned InWidth = Input->getType()->getScalarSizeInBits();
736         if (TD->getPointerSizeInBits() < InWidth) {
737           Constant *Mask = 
738             ConstantInt::get(CE->getContext(), APInt::getLowBitsSet(InWidth,
739                                                   TD->getPointerSizeInBits()));
740           Input = ConstantExpr::getAnd(Input, Mask);
741         }
742         // Do a zext or trunc to get to the dest size.
743         return ConstantExpr::getIntegerCast(Input, DestTy, false);
744       }
745     }
746     return ConstantExpr::getCast(Opcode, Ops[0], DestTy);
747   case Instruction::IntToPtr:
748     // If the input is a ptrtoint, turn the pair into a ptr to ptr bitcast if
749     // the int size is >= the ptr size.  This requires knowing the width of a
750     // pointer, so it can't be done in ConstantExpr::getCast.
751     if (ConstantExpr *CE = dyn_cast<ConstantExpr>(Ops[0])) {
752       if (TD &&
753           TD->getPointerSizeInBits() <=
754           CE->getType()->getScalarSizeInBits()) {
755         if (CE->getOpcode() == Instruction::PtrToInt)
756           return FoldBitCast(CE->getOperand(0), DestTy, *TD);
757         
758         // If there's a constant offset added to the integer value before
759         // it is casted back to a pointer, see if the expression can be
760         // converted into a GEP.
761         if (CE->getOpcode() == Instruction::Add)
762           if (ConstantInt *L = dyn_cast<ConstantInt>(CE->getOperand(0)))
763             if (ConstantExpr *R = dyn_cast<ConstantExpr>(CE->getOperand(1)))
764               if (R->getOpcode() == Instruction::PtrToInt)
765                 if (GlobalVariable *GV =
766                       dyn_cast<GlobalVariable>(R->getOperand(0))) {
767                   const PointerType *GVTy = cast<PointerType>(GV->getType());
768                   if (const ArrayType *AT =
769                         dyn_cast<ArrayType>(GVTy->getElementType())) {
770                     const Type *ElTy = AT->getElementType();
771                     uint64_t AllocSize = TD->getTypeAllocSize(ElTy);
772                     APInt PSA(L->getValue().getBitWidth(), AllocSize);
773                     if (ElTy == cast<PointerType>(DestTy)->getElementType() &&
774                         L->getValue().urem(PSA) == 0) {
775                       APInt ElemIdx = L->getValue().udiv(PSA);
776                       if (ElemIdx.ult(APInt(ElemIdx.getBitWidth(),
777                                             AT->getNumElements()))) {
778                         Constant *Index[] = {
779                           Constant::getNullValue(CE->getType()),
780                           ConstantInt::get(ElTy->getContext(), ElemIdx)
781                         };
782                         return
783                         ConstantExpr::getGetElementPtr(GV, &Index[0], 2);
784                       }
785                     }
786                   }
787                 }
788       }
789     }
790     return ConstantExpr::getCast(Opcode, Ops[0], DestTy);
791   case Instruction::Trunc:
792   case Instruction::ZExt:
793   case Instruction::SExt:
794   case Instruction::FPTrunc:
795   case Instruction::FPExt:
796   case Instruction::UIToFP:
797   case Instruction::SIToFP:
798   case Instruction::FPToUI:
799   case Instruction::FPToSI:
800       return ConstantExpr::getCast(Opcode, Ops[0], DestTy);
801   case Instruction::BitCast:
802     if (TD)
803       return FoldBitCast(Ops[0], DestTy, *TD);
804     return ConstantExpr::getBitCast(Ops[0], DestTy);
805   case Instruction::Select:
806     return ConstantExpr::getSelect(Ops[0], Ops[1], Ops[2]);
807   case Instruction::ExtractElement:
808     return ConstantExpr::getExtractElement(Ops[0], Ops[1]);
809   case Instruction::InsertElement:
810     return ConstantExpr::getInsertElement(Ops[0], Ops[1], Ops[2]);
811   case Instruction::ShuffleVector:
812     return ConstantExpr::getShuffleVector(Ops[0], Ops[1], Ops[2]);
813   case Instruction::GetElementPtr:
814     if (Constant *C = SymbolicallyEvaluateGEP(Ops, NumOps, DestTy, TD))
815       return C;
816     
817     return ConstantExpr::getGetElementPtr(Ops[0], Ops+1, NumOps-1);
818   }
819 }
820
821 /// ConstantFoldCompareInstOperands - Attempt to constant fold a compare
822 /// instruction (icmp/fcmp) with the specified operands.  If it fails, it
823 /// returns a constant expression of the specified operands.
824 ///
825 Constant *llvm::ConstantFoldCompareInstOperands(unsigned Predicate,
826                                                 Constant *Ops0, Constant *Ops1, 
827                                                 const TargetData *TD) {
828   // fold: icmp (inttoptr x), null         -> icmp x, 0
829   // fold: icmp (ptrtoint x), 0            -> icmp x, null
830   // fold: icmp (inttoptr x), (inttoptr y) -> icmp trunc/zext x, trunc/zext y
831   // fold: icmp (ptrtoint x), (ptrtoint y) -> icmp x, y
832   //
833   // ConstantExpr::getCompare cannot do this, because it doesn't have TD
834   // around to know if bit truncation is happening.
835   if (ConstantExpr *CE0 = dyn_cast<ConstantExpr>(Ops0)) {
836     if (TD && Ops1->isNullValue()) {
837       const Type *IntPtrTy = TD->getIntPtrType(CE0->getContext());
838       if (CE0->getOpcode() == Instruction::IntToPtr) {
839         // Convert the integer value to the right size to ensure we get the
840         // proper extension or truncation.
841         Constant *C = ConstantExpr::getIntegerCast(CE0->getOperand(0),
842                                                    IntPtrTy, false);
843         Constant *Null = Constant::getNullValue(C->getType());
844         return ConstantFoldCompareInstOperands(Predicate, C, Null, TD);
845       }
846       
847       // Only do this transformation if the int is intptrty in size, otherwise
848       // there is a truncation or extension that we aren't modeling.
849       if (CE0->getOpcode() == Instruction::PtrToInt && 
850           CE0->getType() == IntPtrTy) {
851         Constant *C = CE0->getOperand(0);
852         Constant *Null = Constant::getNullValue(C->getType());
853         return ConstantFoldCompareInstOperands(Predicate, C, Null, TD);
854       }
855     }
856     
857     if (ConstantExpr *CE1 = dyn_cast<ConstantExpr>(Ops1)) {
858       if (TD && CE0->getOpcode() == CE1->getOpcode()) {
859         const Type *IntPtrTy = TD->getIntPtrType(CE0->getContext());
860
861         if (CE0->getOpcode() == Instruction::IntToPtr) {
862           // Convert the integer value to the right size to ensure we get the
863           // proper extension or truncation.
864           Constant *C0 = ConstantExpr::getIntegerCast(CE0->getOperand(0),
865                                                       IntPtrTy, false);
866           Constant *C1 = ConstantExpr::getIntegerCast(CE1->getOperand(0),
867                                                       IntPtrTy, false);
868           return ConstantFoldCompareInstOperands(Predicate, C0, C1, TD);
869         }
870
871         // Only do this transformation if the int is intptrty in size, otherwise
872         // there is a truncation or extension that we aren't modeling.
873         if ((CE0->getOpcode() == Instruction::PtrToInt &&
874              CE0->getType() == IntPtrTy &&
875              CE0->getOperand(0)->getType() == CE1->getOperand(0)->getType()))
876           return ConstantFoldCompareInstOperands(Predicate, CE0->getOperand(0),
877                                                  CE1->getOperand(0), TD);
878       }
879     }
880   }
881   
882   return ConstantExpr::getCompare(Predicate, Ops0, Ops1);
883 }
884
885
886 /// ConstantFoldLoadThroughGEPConstantExpr - Given a constant and a
887 /// getelementptr constantexpr, return the constant value being addressed by the
888 /// constant expression, or null if something is funny and we can't decide.
889 Constant *llvm::ConstantFoldLoadThroughGEPConstantExpr(Constant *C, 
890                                                        ConstantExpr *CE) {
891   if (CE->getOperand(1) != Constant::getNullValue(CE->getOperand(1)->getType()))
892     return 0;  // Do not allow stepping over the value!
893   
894   // Loop over all of the operands, tracking down which value we are
895   // addressing...
896   gep_type_iterator I = gep_type_begin(CE), E = gep_type_end(CE);
897   for (++I; I != E; ++I)
898     if (const StructType *STy = dyn_cast<StructType>(*I)) {
899       ConstantInt *CU = cast<ConstantInt>(I.getOperand());
900       assert(CU->getZExtValue() < STy->getNumElements() &&
901              "Struct index out of range!");
902       unsigned El = (unsigned)CU->getZExtValue();
903       if (ConstantStruct *CS = dyn_cast<ConstantStruct>(C)) {
904         C = CS->getOperand(El);
905       } else if (isa<ConstantAggregateZero>(C)) {
906         C = Constant::getNullValue(STy->getElementType(El));
907       } else if (isa<UndefValue>(C)) {
908         C = UndefValue::get(STy->getElementType(El));
909       } else {
910         return 0;
911       }
912     } else if (ConstantInt *CI = dyn_cast<ConstantInt>(I.getOperand())) {
913       if (const ArrayType *ATy = dyn_cast<ArrayType>(*I)) {
914         if (CI->getZExtValue() >= ATy->getNumElements())
915          return 0;
916         if (ConstantArray *CA = dyn_cast<ConstantArray>(C))
917           C = CA->getOperand(CI->getZExtValue());
918         else if (isa<ConstantAggregateZero>(C))
919           C = Constant::getNullValue(ATy->getElementType());
920         else if (isa<UndefValue>(C))
921           C = UndefValue::get(ATy->getElementType());
922         else
923           return 0;
924       } else if (const VectorType *VTy = dyn_cast<VectorType>(*I)) {
925         if (CI->getZExtValue() >= VTy->getNumElements())
926           return 0;
927         if (ConstantVector *CP = dyn_cast<ConstantVector>(C))
928           C = CP->getOperand(CI->getZExtValue());
929         else if (isa<ConstantAggregateZero>(C))
930           C = Constant::getNullValue(VTy->getElementType());
931         else if (isa<UndefValue>(C))
932           C = UndefValue::get(VTy->getElementType());
933         else
934           return 0;
935       } else {
936         return 0;
937       }
938     } else {
939       return 0;
940     }
941   return C;
942 }
943
944
945 //===----------------------------------------------------------------------===//
946 //  Constant Folding for Calls
947 //
948
949 /// canConstantFoldCallTo - Return true if its even possible to fold a call to
950 /// the specified function.
951 bool
952 llvm::canConstantFoldCallTo(const Function *F) {
953   switch (F->getIntrinsicID()) {
954   case Intrinsic::sqrt:
955   case Intrinsic::powi:
956   case Intrinsic::bswap:
957   case Intrinsic::ctpop:
958   case Intrinsic::ctlz:
959   case Intrinsic::cttz:
960   case Intrinsic::uadd_with_overflow:
961   case Intrinsic::usub_with_overflow:
962   case Intrinsic::sadd_with_overflow:
963   case Intrinsic::ssub_with_overflow:
964     return true;
965   default:
966     return false;
967   case 0: break;
968   }
969
970   if (!F->hasName()) return false;
971   StringRef Name = F->getName();
972   
973   // In these cases, the check of the length is required.  We don't want to
974   // return true for a name like "cos\0blah" which strcmp would return equal to
975   // "cos", but has length 8.
976   switch (Name[0]) {
977   default: return false;
978   case 'a':
979     return Name == "acos" || Name == "asin" || 
980       Name == "atan" || Name == "atan2";
981   case 'c':
982     return Name == "cos" || Name == "ceil" || Name == "cosf" || Name == "cosh";
983   case 'e':
984     return Name == "exp";
985   case 'f':
986     return Name == "fabs" || Name == "fmod" || Name == "floor";
987   case 'l':
988     return Name == "log" || Name == "log10";
989   case 'p':
990     return Name == "pow";
991   case 's':
992     return Name == "sin" || Name == "sinh" || Name == "sqrt" ||
993       Name == "sinf" || Name == "sqrtf";
994   case 't':
995     return Name == "tan" || Name == "tanh";
996   }
997 }
998
999 static Constant *ConstantFoldFP(double (*NativeFP)(double), double V, 
1000                                 const Type *Ty) {
1001   errno = 0;
1002   V = NativeFP(V);
1003   if (errno != 0) {
1004     errno = 0;
1005     return 0;
1006   }
1007   
1008   if (Ty->isFloatTy())
1009     return ConstantFP::get(Ty->getContext(), APFloat((float)V));
1010   if (Ty->isDoubleTy())
1011     return ConstantFP::get(Ty->getContext(), APFloat(V));
1012   llvm_unreachable("Can only constant fold float/double");
1013   return 0; // dummy return to suppress warning
1014 }
1015
1016 static Constant *ConstantFoldBinaryFP(double (*NativeFP)(double, double),
1017                                       double V, double W, const Type *Ty) {
1018   errno = 0;
1019   V = NativeFP(V, W);
1020   if (errno != 0) {
1021     errno = 0;
1022     return 0;
1023   }
1024   
1025   if (Ty->isFloatTy())
1026     return ConstantFP::get(Ty->getContext(), APFloat((float)V));
1027   if (Ty->isDoubleTy())
1028     return ConstantFP::get(Ty->getContext(), APFloat(V));
1029   llvm_unreachable("Can only constant fold float/double");
1030   return 0; // dummy return to suppress warning
1031 }
1032
1033 /// ConstantFoldCall - Attempt to constant fold a call to the specified function
1034 /// with the specified arguments, returning null if unsuccessful.
1035 Constant *
1036 llvm::ConstantFoldCall(Function *F, 
1037                        Constant *const *Operands, unsigned NumOperands) {
1038   if (!F->hasName()) return 0;
1039   StringRef Name = F->getName();
1040
1041   const Type *Ty = F->getReturnType();
1042   if (NumOperands == 1) {
1043     if (ConstantFP *Op = dyn_cast<ConstantFP>(Operands[0])) {
1044       if (!Ty->isFloatTy() && !Ty->isDoubleTy())
1045         return 0;
1046       /// Currently APFloat versions of these functions do not exist, so we use
1047       /// the host native double versions.  Float versions are not called
1048       /// directly but for all these it is true (float)(f((double)arg)) ==
1049       /// f(arg).  Long double not supported yet.
1050       double V = Ty->isFloatTy() ? (double)Op->getValueAPF().convertToFloat() :
1051                                      Op->getValueAPF().convertToDouble();
1052       switch (Name[0]) {
1053       case 'a':
1054         if (Name == "acos")
1055           return ConstantFoldFP(acos, V, Ty);
1056         else if (Name == "asin")
1057           return ConstantFoldFP(asin, V, Ty);
1058         else if (Name == "atan")
1059           return ConstantFoldFP(atan, V, Ty);
1060         break;
1061       case 'c':
1062         if (Name == "ceil")
1063           return ConstantFoldFP(ceil, V, Ty);
1064         else if (Name == "cos")
1065           return ConstantFoldFP(cos, V, Ty);
1066         else if (Name == "cosh")
1067           return ConstantFoldFP(cosh, V, Ty);
1068         else if (Name == "cosf")
1069           return ConstantFoldFP(cos, V, Ty);
1070         break;
1071       case 'e':
1072         if (Name == "exp")
1073           return ConstantFoldFP(exp, V, Ty);
1074         break;
1075       case 'f':
1076         if (Name == "fabs")
1077           return ConstantFoldFP(fabs, V, Ty);
1078         else if (Name == "floor")
1079           return ConstantFoldFP(floor, V, Ty);
1080         break;
1081       case 'l':
1082         if (Name == "log" && V > 0)
1083           return ConstantFoldFP(log, V, Ty);
1084         else if (Name == "log10" && V > 0)
1085           return ConstantFoldFP(log10, V, Ty);
1086         else if (Name == "llvm.sqrt.f32" ||
1087                  Name == "llvm.sqrt.f64") {
1088           if (V >= -0.0)
1089             return ConstantFoldFP(sqrt, V, Ty);
1090           else // Undefined
1091             return Constant::getNullValue(Ty);
1092         }
1093         break;
1094       case 's':
1095         if (Name == "sin")
1096           return ConstantFoldFP(sin, V, Ty);
1097         else if (Name == "sinh")
1098           return ConstantFoldFP(sinh, V, Ty);
1099         else if (Name == "sqrt" && V >= 0)
1100           return ConstantFoldFP(sqrt, V, Ty);
1101         else if (Name == "sqrtf" && V >= 0)
1102           return ConstantFoldFP(sqrt, V, Ty);
1103         else if (Name == "sinf")
1104           return ConstantFoldFP(sin, V, Ty);
1105         break;
1106       case 't':
1107         if (Name == "tan")
1108           return ConstantFoldFP(tan, V, Ty);
1109         else if (Name == "tanh")
1110           return ConstantFoldFP(tanh, V, Ty);
1111         break;
1112       default:
1113         break;
1114       }
1115       return 0;
1116     }
1117     
1118     
1119     if (ConstantInt *Op = dyn_cast<ConstantInt>(Operands[0])) {
1120       if (Name.startswith("llvm.bswap"))
1121         return ConstantInt::get(F->getContext(), Op->getValue().byteSwap());
1122       else if (Name.startswith("llvm.ctpop"))
1123         return ConstantInt::get(Ty, Op->getValue().countPopulation());
1124       else if (Name.startswith("llvm.cttz"))
1125         return ConstantInt::get(Ty, Op->getValue().countTrailingZeros());
1126       else if (Name.startswith("llvm.ctlz"))
1127         return ConstantInt::get(Ty, Op->getValue().countLeadingZeros());
1128       return 0;
1129     }
1130     
1131     return 0;
1132   }
1133   
1134   if (NumOperands == 2) {
1135     if (ConstantFP *Op1 = dyn_cast<ConstantFP>(Operands[0])) {
1136       if (!Ty->isFloatTy() && !Ty->isDoubleTy())
1137         return 0;
1138       double Op1V = Ty->isFloatTy() ? 
1139                       (double)Op1->getValueAPF().convertToFloat() :
1140                       Op1->getValueAPF().convertToDouble();
1141       if (ConstantFP *Op2 = dyn_cast<ConstantFP>(Operands[1])) {
1142         if (Op2->getType() != Op1->getType())
1143           return 0;
1144         
1145         double Op2V = Ty->isFloatTy() ? 
1146                       (double)Op2->getValueAPF().convertToFloat():
1147                       Op2->getValueAPF().convertToDouble();
1148
1149         if (Name == "pow")
1150           return ConstantFoldBinaryFP(pow, Op1V, Op2V, Ty);
1151         if (Name == "fmod")
1152           return ConstantFoldBinaryFP(fmod, Op1V, Op2V, Ty);
1153         if (Name == "atan2")
1154           return ConstantFoldBinaryFP(atan2, Op1V, Op2V, Ty);
1155       } else if (ConstantInt *Op2C = dyn_cast<ConstantInt>(Operands[1])) {
1156         if (Name == "llvm.powi.f32")
1157           return ConstantFP::get(F->getContext(),
1158                                  APFloat((float)std::pow((float)Op1V,
1159                                                  (int)Op2C->getZExtValue())));
1160         if (Name == "llvm.powi.f64")
1161           return ConstantFP::get(F->getContext(),
1162                                  APFloat((double)std::pow((double)Op1V,
1163                                                    (int)Op2C->getZExtValue())));
1164       }
1165       return 0;
1166     }
1167     
1168     
1169     if (ConstantInt *Op1 = dyn_cast<ConstantInt>(Operands[0])) {
1170       if (ConstantInt *Op2 = dyn_cast<ConstantInt>(Operands[1])) {
1171         switch (F->getIntrinsicID()) {
1172         default: break;
1173         case Intrinsic::uadd_with_overflow: {
1174           Constant *Res = ConstantExpr::getAdd(Op1, Op2);           // result.
1175           Constant *Ops[] = {
1176             Res, ConstantExpr::getICmp(CmpInst::ICMP_ULT, Res, Op1) // overflow.
1177           };
1178           return ConstantStruct::get(F->getContext(), Ops, 2, false);
1179         }
1180         case Intrinsic::usub_with_overflow: {
1181           Constant *Res = ConstantExpr::getSub(Op1, Op2);           // result.
1182           Constant *Ops[] = {
1183             Res, ConstantExpr::getICmp(CmpInst::ICMP_UGT, Res, Op1) // overflow.
1184           };
1185           return ConstantStruct::get(F->getContext(), Ops, 2, false);
1186         }
1187         case Intrinsic::sadd_with_overflow: {
1188           Constant *Res = ConstantExpr::getAdd(Op1, Op2);           // result.
1189           Constant *Overflow = ConstantExpr::getSelect(
1190               ConstantExpr::getICmp(CmpInst::ICMP_SGT,
1191                 ConstantInt::get(Op1->getType(), 0), Op1),
1192               ConstantExpr::getICmp(CmpInst::ICMP_SGT, Res, Op2), 
1193               ConstantExpr::getICmp(CmpInst::ICMP_SLT, Res, Op2)); // overflow.
1194
1195           Constant *Ops[] = { Res, Overflow };
1196           return ConstantStruct::get(F->getContext(), Ops, 2, false);
1197         }
1198         case Intrinsic::ssub_with_overflow: {
1199           Constant *Res = ConstantExpr::getSub(Op1, Op2);           // result.
1200           Constant *Overflow = ConstantExpr::getSelect(
1201               ConstantExpr::getICmp(CmpInst::ICMP_SGT,
1202                 ConstantInt::get(Op2->getType(), 0), Op2),
1203               ConstantExpr::getICmp(CmpInst::ICMP_SLT, Res, Op1), 
1204               ConstantExpr::getICmp(CmpInst::ICMP_SGT, Res, Op1)); // overflow.
1205
1206           Constant *Ops[] = { Res, Overflow };
1207           return ConstantStruct::get(F->getContext(), Ops, 2, false);
1208         }
1209         }
1210       }
1211       
1212       return 0;
1213     }
1214     return 0;
1215   }
1216   return 0;
1217 }
1218