Fix a crash in APInt::lshr when shiftAmt > BitWidth.
authorChad Rosier <mcrosier@apple.com>
Fri, 8 Jun 2012 18:04:52 +0000 (18:04 +0000)
committerChad Rosier <mcrosier@apple.com>
Fri, 8 Jun 2012 18:04:52 +0000 (18:04 +0000)
Patch by James Benton <jbenton@vmware.com>.

git-svn-id: https://llvm.org/svn/llvm-project/llvm/trunk@158213 91177308-0d34-0410-b5e6-96231b3b80d8

lib/Support/APInt.cpp
test/CodeGen/Generic/2012-06-08-APIntCrash.ll [new file with mode: 0644]

index 9b81fe776a6111738db3e60aa4a209f7f07414e7..6a74883803c8776b7283f67356b021c6263bd71c 100644 (file)
@@ -1135,7 +1135,7 @@ APInt APInt::lshr(unsigned shiftAmt) const {
   // If all the bits were shifted out, the result is 0. This avoids issues
   // with shifting by the size of the integer type, which produces undefined
   // results. We define these "undefined results" to always be 0.
-  if (shiftAmt == BitWidth)
+  if (shiftAmt >= BitWidth)
     return APInt(BitWidth, 0);
 
   // If none of the bits are shifted out, the result is *this. This avoids
diff --git a/test/CodeGen/Generic/2012-06-08-APIntCrash.ll b/test/CodeGen/Generic/2012-06-08-APIntCrash.ll
new file mode 100644 (file)
index 0000000..bb285a2
--- /dev/null
@@ -0,0 +1,8 @@
+; RUN: llc < %s
+
+define <8 x i32> @test1(<8 x i32>* %ptr)
+{
+       %1 = load <8 x i32>* %ptr, align 32
+       %2 = and <8 x i32> %1, <i32 0, i32 0, i32 0, i32 -1, i32 0, i32 0, i32 0, i32 -1>
+       ret <8 x i32> %2;
+}