projects / oota-llvm.git / commitdiff
? search:
summary | shortlog | log | commit | commitdiff | tree
raw | patch | inline | side by side (parent: 4d1e15c)
[DAGCombiner] Canonicalize vector constants for ADD/MUL/AND/OR/XOR re-association
authorSimon Pilgrim <llvm-dev@redking.me.uk>
Sat, 4 Apr 2015 10:20:31 +0000 (10:20 +0000)
committerSimon Pilgrim <llvm-dev@redking.me.uk>
Sat, 4 Apr 2015 10:20:31 +0000 (10:20 +0000)
Scalar integers are commuted to move constants to the RHS for re-association - this ensures vectors do the same.

git-svn-id: https://llvm.org/svn/llvm-project/llvm/trunk@234092 91177308-0d34-0410-b5e6-96231b3b80d8

lib/CodeGen/SelectionDAG/DAGCombiner.cpp patch | blob | history
test/CodeGen/X86/vec_reassociate.ll patch | blob | history

diff --git a/lib/CodeGen/SelectionDAG/DAGCombiner.cpp b/lib/CodeGen/SelectionDAG/DAGCombiner.cpp
index 70f6185964cd3fa347ccc085c7bba248d0e95b6b..c66b116745afbbe1504012cdfb835adf5dec8166 100644 (file)
--- a/lib/CodeGen/SelectionDAG/DAGCombiner.cpp
+++ b/lib/CodeGen/SelectionDAG/DAGCombiner.cpp
@@ -1598,7 +1598,8 @@ SDValue DAGCombiner::visitADD(SDNode *N) {
   if (N0C && N1C)
     return DAG.FoldConstantArithmetic(ISD::ADD, VT, N0C, N1C);
   // canonicalize constant to RHS
-  if (N0C && !N1C)
+  if (isConstantIntBuildVectorOrConstantInt(N0) &&
+     !isConstantIntBuildVectorOrConstantInt(N1))
     return DAG.getNode(ISD::ADD, SDLoc(N), VT, N1, N0);
   // fold (add x, 0) -> x
   if (N1C && N1C->isNullValue())
@@ -1995,8 +1996,9 @@ SDValue DAGCombiner::visitMUL(SDNode *N) {
   if (N0IsConst && N1IsConst)
     return DAG.FoldConstantArithmetic(ISD::MUL, VT, N0.getNode(), N1.getNode());
 
-  // canonicalize constant to RHS
-  if (N0IsConst && !N1IsConst)
+  // canonicalize constant to RHS (vector doesn't have to splat)
+  if (isConstantIntBuildVectorOrConstantInt(N0) &&
+     !isConstantIntBuildVectorOrConstantInt(N1))
     return DAG.getNode(ISD::MUL, SDLoc(N), VT, N1, N0);
   // fold (mul x, 0) -> 0
   if (N1IsConst && ConstValue1 == 0)
@@ -2829,7 +2831,8 @@ SDValue DAGCombiner::visitAND(SDNode *N) {
   if (N0C && N1C)
     return DAG.FoldConstantArithmetic(ISD::AND, VT, N0C, N1C);
   // canonicalize constant to RHS
-  if (N0C && !N1C)
+  if (isConstantIntBuildVectorOrConstantInt(N0) &&
+     !isConstantIntBuildVectorOrConstantInt(N1))
     return DAG.getNode(ISD::AND, SDLoc(N), VT, N1, N0);
   // fold (and x, -1) -> x
   if (N1C && N1C->isAllOnesValue())
@@ -3545,7 +3548,8 @@ SDValue DAGCombiner::visitOR(SDNode *N) {
   if (N0C && N1C)
     return DAG.FoldConstantArithmetic(ISD::OR, VT, N0C, N1C);
   // canonicalize constant to RHS
-  if (N0C && !N1C)
+  if (isConstantIntBuildVectorOrConstantInt(N0) &&
+     !isConstantIntBuildVectorOrConstantInt(N1))
     return DAG.getNode(ISD::OR, SDLoc(N), VT, N1, N0);
   // fold (or x, 0) -> x
   if (N1C && N1C->isNullValue())
@@ -3887,7 +3891,8 @@ SDValue DAGCombiner::visitXOR(SDNode *N) {
   if (N0C && N1C)
     return DAG.FoldConstantArithmetic(ISD::XOR, VT, N0C, N1C);
   // canonicalize constant to RHS
-  if (N0C && !N1C)
+  if (isConstantIntBuildVectorOrConstantInt(N0) &&
+     !isConstantIntBuildVectorOrConstantInt(N1))
     return DAG.getNode(ISD::XOR, SDLoc(N), VT, N1, N0);
   // fold (xor x, 0) -> x
   if (N1C && N1C->isNullValue())
diff --git a/test/CodeGen/X86/vec_reassociate.ll b/test/CodeGen/X86/vec_reassociate.ll
index 61cc1ff186a911d6b88bc5a115de7a99360fd266..bf2053f784240ea04c591b4d76c0f4dbad50513e 100644 (file)
--- a/test/CodeGen/X86/vec_reassociate.ll
+++ b/test/CodeGen/X86/vec_reassociate.ll
@@ -11,11 +11,22 @@ define <4 x i32> @add_4i32(<4 x i32> %a0, <4 x i32> %a1) {
   ret <4 x i32> %3\r
 }\r
 \r
+define <4 x i32> @add_4i32_commute(<4 x i32> %a0, <4 x i32> %a1) {\r
+  ;CHECK-LABEL:  @add_4i32_commute\r
+  ;CHECK:        # BB#0:\r
+  ;CHECK-NEXT:   paddd %xmm1, %xmm0\r
+  ;CHECK-NEXT:   retq\r
+  %1 = add <4 x i32> <i32  1, i32 -2, i32  3, i32 -4>, %a0\r
+  %2 = add <4 x i32> <i32 -1, i32  2, i32 -3, i32  4>, %a1\r
+  %3 = add <4 x i32> %1, %2\r
+  ret <4 x i32> %3\r
+}\r
+\r
 define <4 x i32> @mul_4i32(<4 x i32> %a0, <4 x i32> %a1) {\r
   ;CHECK-LABEL:  @mul_4i32\r
   ;CHECK:        # BB#0:\r
   ;CHECK-NEXT:   pmulld %xmm1, %xmm0\r
-  ;CHECK-NEXT:   pmulld .LCPI1_0(%rip), %xmm0\r
+  ;CHECK-NEXT:   pmulld .LCPI2_0(%rip), %xmm0\r
   ;CHECK-NEXT:   retq\r
   %1 = mul <4 x i32> %a0, <i32 1, i32 2, i32 3, i32 4>\r
   %2 = mul <4 x i32> %a1, <i32 4, i32 3, i32 2, i32 1>\r
@@ -23,11 +34,23 @@ define <4 x i32> @mul_4i32(<4 x i32> %a0, <4 x i32> %a1) {
   ret <4 x i32> %3\r
 }\r
 \r
+define <4 x i32> @mul_4i32_commute(<4 x i32> %a0, <4 x i32> %a1) {\r
+  ;CHECK-LABEL:  @mul_4i32_commute\r
+  ;CHECK:        # BB#0:\r
+  ;CHECK-NEXT:   pmulld %xmm1, %xmm0\r
+  ;CHECK-NEXT:   pmulld .LCPI3_0(%rip), %xmm0\r
+  ;CHECK-NEXT:   retq\r
+  %1 = mul <4 x i32> <i32 1, i32 2, i32 3, i32 4>, %a0\r
+  %2 = mul <4 x i32> <i32 4, i32 3, i32 2, i32 1>, %a1\r
+  %3 = mul <4 x i32> %1, %2\r
+  ret <4 x i32> %3\r
+}\r
+\r
 define <4 x i32> @and_4i32(<4 x i32> %a0, <4 x i32> %a1) {\r
   ;CHECK-LABEL:  @and_4i32\r
   ;CHECK:        # BB#0:\r
   ;CHECK-NEXT:   andps %xmm1, %xmm0\r
-  ;CHECK-NEXT:   andps .LCPI2_0(%rip), %xmm0\r
+  ;CHECK-NEXT:   andps .LCPI4_0(%rip), %xmm0\r
   ;CHECK-NEXT:   retq\r
   %1 = and <4 x i32> %a0, <i32 -2, i32 -2, i32  3, i32  3>\r
   %2 = and <4 x i32> %a1, <i32 -1, i32 -1, i32  1, i32  1>\r
@@ -35,11 +58,23 @@ define <4 x i32> @and_4i32(<4 x i32> %a0, <4 x i32> %a1) {
   ret <4 x i32> %3\r
 }\r
 \r
+define <4 x i32> @and_4i32_commute(<4 x i32> %a0, <4 x i32> %a1) {\r
+  ;CHECK-LABEL:  @and_4i32_commute\r
+  ;CHECK:        # BB#0:\r
+  ;CHECK-NEXT:   andps %xmm1, %xmm0\r
+  ;CHECK-NEXT:   andps .LCPI5_0(%rip), %xmm0\r
+  ;CHECK-NEXT:   retq\r
+  %1 = and <4 x i32> <i32 -2, i32 -2, i32  3, i32  3>, %a0\r
+  %2 = and <4 x i32> <i32 -1, i32 -1, i32  1, i32  1>, %a1\r
+  %3 = and <4 x i32> %1, %2\r
+  ret <4 x i32> %3\r
+}\r
+\r
 define <4 x i32> @or_4i32(<4 x i32> %a0, <4 x i32> %a1) {\r
   ;CHECK-LABEL:  @or_4i32\r
   ;CHECK:        # BB#0:\r
   ;CHECK-NEXT:   orps %xmm1, %xmm0\r
-  ;CHECK-NEXT:   orps .LCPI3_0(%rip), %xmm0\r
+  ;CHECK-NEXT:   orps .LCPI6_0(%rip), %xmm0\r
   ;CHECK-NEXT:   retq\r
   %1 = or <4 x i32> %a0, <i32 -2, i32 -2, i32  3, i32  3>\r
   %2 = or <4 x i32> %a1, <i32 -1, i32 -1, i32  1, i32  1>\r
@@ -47,14 +82,38 @@ define <4 x i32> @or_4i32(<4 x i32> %a0, <4 x i32> %a1) {
   ret <4 x i32> %3\r
 }\r
 \r
+define <4 x i32> @or_4i32_commute(<4 x i32> %a0, <4 x i32> %a1) {\r
+  ;CHECK-LABEL:  @or_4i32_commute\r
+  ;CHECK:        # BB#0:\r
+  ;CHECK-NEXT:   orps %xmm1, %xmm0\r
+  ;CHECK-NEXT:   orps .LCPI7_0(%rip), %xmm0\r
+  ;CHECK-NEXT:   retq\r
+  %1 = or <4 x i32> <i32 -2, i32 -2, i32  3, i32  3>, %a0 \r
+  %2 = or <4 x i32> <i32 -1, i32 -1, i32  1, i32  1>, %a1\r
+  %3 = or <4 x i32> %1, %2\r
+  ret <4 x i32> %3\r
+}\r
+\r
 define <4 x i32> @xor_4i32(<4 x i32> %a0, <4 x i32> %a1) {\r
   ;CHECK-LABEL:  @xor_4i32\r
   ;CHECK:        # BB#0:\r
   ;CHECK-NEXT:   xorps %xmm1, %xmm0\r
-  ;CHECK-NEXT:   xorps .LCPI4_0(%rip), %xmm0\r
+  ;CHECK-NEXT:   xorps .LCPI8_0(%rip), %xmm0\r
   ;CHECK-NEXT:   retq\r
   %1 = xor <4 x i32> %a0, <i32 -2, i32 -2, i32  3, i32  3>\r
   %2 = xor <4 x i32> %a1, <i32 -1, i32 -1, i32  1, i32  1>\r
   %3 = xor <4 x i32> %1, %2\r
   ret <4 x i32> %3\r
 }\r
+\r
+define <4 x i32> @xor_4i32_commute(<4 x i32> %a0, <4 x i32> %a1) {\r
+  ;CHECK-LABEL:  @xor_4i32_commute\r
+  ;CHECK:        # BB#0:\r
+  ;CHECK-NEXT:   xorps %xmm1, %xmm0\r
+  ;CHECK-NEXT:   xorps .LCPI9_0(%rip), %xmm0\r
+  ;CHECK-NEXT:   retq\r
+  %1 = xor <4 x i32> <i32 -2, i32 -2, i32  3, i32  3>, %a0\r
+  %2 = xor <4 x i32> <i32 -1, i32 -1, i32  1, i32  1>, %a1\r
+  %3 = xor <4 x i32> %1, %2\r
+  ret <4 x i32> %3\r
+}\r
C/C++ LLVM-based compilers that forbids OOTA behaviors