test/CodeGen/X86/avx512-vbroadcast.ll

   1 ; RUN: llc < %s -mtriple=x86_64-apple-darwin -mcpu=knl | FileCheck %s
   2
   3 define   <16 x i32> @_inreg16xi32(i32 %a) {
   4 ; CHECK-LABEL: _inreg16xi32:
   5 ; CHECK:       ## BB#0:
   6 ; CHECK-NEXT:    vmovd %edi, %xmm0
   7 ; CHECK-NEXT:    vpbroadcastd %xmm0, %ymm0
   8 ; CHECK-NEXT:    vinserti64x4 $1, %ymm0, %zmm0, %zmm0
   9 ; CHECK-NEXT:    retq
  10   %b = insertelement <16 x i32> undef, i32 %a, i32 0
  11   %c = shufflevector <16 x i32> %b, <16 x i32> undef, <16 x i32> zeroinitializer
  12   ret <16 x i32> %c
  13 }
  14
  15 define   <8 x i64> @_inreg8xi64(i64 %a) {
  16 ; CHECK-LABEL: _inreg8xi64:
  17 ; CHECK:       ## BB#0:
  18 ; CHECK-NEXT:    vmovq %rdi, %xmm0
  19 ; CHECK-NEXT:    vpbroadcastq %xmm0, %ymm0
  20 ; CHECK-NEXT:    vinserti64x4 $1, %ymm0, %zmm0, %zmm0
  21 ; CHECK-NEXT:    retq
  22   %b = insertelement <8 x i64> undef, i64 %a, i32 0
  23   %c = shufflevector <8 x i64> %b, <8 x i64> undef, <8 x i32> zeroinitializer
  24   ret <8 x i64> %c
  25 }
  26
  27 define   <16 x float> @_inreg16xfloat(float %a) {
  28 ; CHECK-LABEL: _inreg16xfloat:
  29 ; CHECK:       ## BB#0:
  30 ; CHECK-NEXT:      ## kill: XMM0<def> XMM0<kill> ZMM0<def>
  31 ; CHECK-NEXT:    vbroadcastss %xmm0, %ymm0
  32 ; CHECK-NEXT:    vinsertf64x4 $1, %ymm0, %zmm0, %zmm0
  33 ; CHECK-NEXT:    retq
  34   %b = insertelement <16 x float> undef, float %a, i32 0
  35   %c = shufflevector <16 x float> %b, <16 x float> undef, <16 x i32> zeroinitializer
  36   ret <16 x float> %c
  37 }
  38
  39 define   <8 x double> @_inreg8xdouble(double %a) {
  40 ; CHECK-LABEL: _inreg8xdouble:
  41 ; CHECK:       ## BB#0:
  42 ; CHECK-NEXT:      ## kill: XMM0<def> XMM0<kill> ZMM0<def>
  43 ; CHECK-NEXT:    vbroadcastsd %xmm0, %ymm0
  44 ; CHECK-NEXT:    vinsertf64x4 $1, %ymm0, %zmm0, %zmm0
  45 ; CHECK-NEXT:    retq
  46   %b = insertelement <8 x double> undef, double %a, i32 0
  47   %c = shufflevector <8 x double> %b, <8 x double> undef, <8 x i32> zeroinitializer
  48   ret <8 x double> %c
  49 }
  50
  51 define   <16 x i32> @_xmm16xi32(<16 x i32> %a) {
  52 ; CHECK-LABEL: _xmm16xi32:
  53 ; CHECK:       ## BB#0:
  54 ; CHECK-NEXT:    vpbroadcastd %xmm0, %ymm0
  55 ; CHECK-NEXT:    vinserti64x4 $1, %ymm0, %zmm0, %zmm0
  56 ; CHECK-NEXT:    retq
  57   %b = shufflevector <16 x i32> %a, <16 x i32> undef, <16 x i32> zeroinitializer
  58   ret <16 x i32> %b
  59 }
  60
  61 define   <16 x float> @_xmm16xfloat(<16 x float> %a) {
  62 ; CHECK-LABEL: _xmm16xfloat:
  63 ; CHECK:       ## BB#0:
  64 ; CHECK-NEXT:    vbroadcastss %xmm0, %ymm0
  65 ; CHECK-NEXT:    vinsertf64x4 $1, %ymm0, %zmm0, %zmm0
  66 ; CHECK-NEXT:    retq
  67   %b = shufflevector <16 x float> %a, <16 x float> undef, <16 x i32> zeroinitializer
  68   ret <16 x float> %b
  69 }
  70
  71 define <16 x i32> @test_vbroadcast() {
  72 ; CHECK-LABEL: test_vbroadcast:
  73 ; CHECK:       ## BB#0: ## %entry
  74 ; CHECK-NEXT:    vpxord %zmm0, %zmm0, %zmm0
  75 ; CHECK-NEXT:    vcmpunordps %zmm0, %zmm0, %k1
  76 ; CHECK-NEXT:    vpbroadcastd {{.*}}(%rip), %zmm0 {%k1} {z}
  77 ; CHECK-NEXT:    knotw %k1, %k1
  78 ; CHECK-NEXT:    vmovdqu32 %zmm0, %zmm0 {%k1} {z}
  79 ; CHECK-NEXT:    retq
  80 entry:
  81   %0 = sext <16 x i1> zeroinitializer to <16 x i32>
  82   %1 = fcmp uno <16 x float> undef, zeroinitializer
  83   %2 = sext <16 x i1> %1 to <16 x i32>
  84   %3 = select <16 x i1> %1, <16 x i32> %0, <16 x i32> %2
  85   ret <16 x i32> %3
  86 }
  87
  88 ; We implement the set1 intrinsics with vector initializers.  Verify that the
  89 ; IR generated will produce broadcasts at the end.
  90 define <8 x double> @test_set1_pd(double %d) #2 {
  91 ; CHECK-LABEL: test_set1_pd:
  92 ; CHECK:       ## BB#0: ## %entry
  93 ; CHECK-NEXT:    vbroadcastsd %xmm0, %zmm0
  94 ; CHECK-NEXT:    retq
  95 entry:
  96   %vecinit.i = insertelement <8 x double> undef, double %d, i32 0
  97   %vecinit1.i = insertelement <8 x double> %vecinit.i, double %d, i32 1
  98   %vecinit2.i = insertelement <8 x double> %vecinit1.i, double %d, i32 2
  99   %vecinit3.i = insertelement <8 x double> %vecinit2.i, double %d, i32 3
 100   %vecinit4.i = insertelement <8 x double> %vecinit3.i, double %d, i32 4
 101   %vecinit5.i = insertelement <8 x double> %vecinit4.i, double %d, i32 5
 102   %vecinit6.i = insertelement <8 x double> %vecinit5.i, double %d, i32 6
 103   %vecinit7.i = insertelement <8 x double> %vecinit6.i, double %d, i32 7
 104   ret <8 x double> %vecinit7.i
 105 }
 106
 107 define <8 x i64> @test_set1_epi64(i64 %d) #2 {
 108 ; CHECK-LABEL: test_set1_epi64:
 109 ; CHECK:       ## BB#0: ## %entry
 110 ; CHECK-NEXT:    vpbroadcastq %rdi, %zmm0
 111 ; CHECK-NEXT:    retq
 112 entry:
 113   %vecinit.i = insertelement <8 x i64> undef, i64 %d, i32 0
 114   %vecinit1.i = insertelement <8 x i64> %vecinit.i, i64 %d, i32 1
 115   %vecinit2.i = insertelement <8 x i64> %vecinit1.i, i64 %d, i32 2
 116   %vecinit3.i = insertelement <8 x i64> %vecinit2.i, i64 %d, i32 3
 117   %vecinit4.i = insertelement <8 x i64> %vecinit3.i, i64 %d, i32 4
 118   %vecinit5.i = insertelement <8 x i64> %vecinit4.i, i64 %d, i32 5
 119   %vecinit6.i = insertelement <8 x i64> %vecinit5.i, i64 %d, i32 6
 120   %vecinit7.i = insertelement <8 x i64> %vecinit6.i, i64 %d, i32 7
 121   ret <8 x i64> %vecinit7.i
 122 }
 123
 124 define <16 x float> @test_set1_ps(float %f) #2 {
 125 ; CHECK-LABEL: test_set1_ps:
 126 ; CHECK:       ## BB#0: ## %entry
 127 ; CHECK-NEXT:    vbroadcastss %xmm0, %zmm0
 128 ; CHECK-NEXT:    retq
 129 entry:
 130   %vecinit.i = insertelement <16 x float> undef, float %f, i32 0
 131   %vecinit1.i = insertelement <16 x float> %vecinit.i, float %f, i32 1
 132   %vecinit2.i = insertelement <16 x float> %vecinit1.i, float %f, i32 2
 133   %vecinit3.i = insertelement <16 x float> %vecinit2.i, float %f, i32 3
 134   %vecinit4.i = insertelement <16 x float> %vecinit3.i, float %f, i32 4
 135   %vecinit5.i = insertelement <16 x float> %vecinit4.i, float %f, i32 5
 136   %vecinit6.i = insertelement <16 x float> %vecinit5.i, float %f, i32 6
 137   %vecinit7.i = insertelement <16 x float> %vecinit6.i, float %f, i32 7
 138   %vecinit8.i = insertelement <16 x float> %vecinit7.i, float %f, i32 8
 139   %vecinit9.i = insertelement <16 x float> %vecinit8.i, float %f, i32 9
 140   %vecinit10.i = insertelement <16 x float> %vecinit9.i, float %f, i32 10
 141   %vecinit11.i = insertelement <16 x float> %vecinit10.i, float %f, i32 11
 142   %vecinit12.i = insertelement <16 x float> %vecinit11.i, float %f, i32 12
 143   %vecinit13.i = insertelement <16 x float> %vecinit12.i, float %f, i32 13
 144   %vecinit14.i = insertelement <16 x float> %vecinit13.i, float %f, i32 14
 145   %vecinit15.i = insertelement <16 x float> %vecinit14.i, float %f, i32 15
 146   ret <16 x float> %vecinit15.i
 147 }
 148
 149 define <16 x i32> @test_set1_epi32(i32 %f) #2 {
 150 ; CHECK-LABEL: test_set1_epi32:
 151 ; CHECK:       ## BB#0: ## %entry
 152 ; CHECK-NEXT:    vpbroadcastd %edi, %zmm0
 153 ; CHECK-NEXT:    retq
 154 entry:
 155   %vecinit.i = insertelement <16 x i32> undef, i32 %f, i32 0
 156   %vecinit1.i = insertelement <16 x i32> %vecinit.i, i32 %f, i32 1
 157   %vecinit2.i = insertelement <16 x i32> %vecinit1.i, i32 %f, i32 2
 158   %vecinit3.i = insertelement <16 x i32> %vecinit2.i, i32 %f, i32 3
 159   %vecinit4.i = insertelement <16 x i32> %vecinit3.i, i32 %f, i32 4
 160   %vecinit5.i = insertelement <16 x i32> %vecinit4.i, i32 %f, i32 5
 161   %vecinit6.i = insertelement <16 x i32> %vecinit5.i, i32 %f, i32 6
 162   %vecinit7.i = insertelement <16 x i32> %vecinit6.i, i32 %f, i32 7
 163   %vecinit8.i = insertelement <16 x i32> %vecinit7.i, i32 %f, i32 8
 164   %vecinit9.i = insertelement <16 x i32> %vecinit8.i, i32 %f, i32 9
 165   %vecinit10.i = insertelement <16 x i32> %vecinit9.i, i32 %f, i32 10
 166   %vecinit11.i = insertelement <16 x i32> %vecinit10.i, i32 %f, i32 11
 167   %vecinit12.i = insertelement <16 x i32> %vecinit11.i, i32 %f, i32 12
 168   %vecinit13.i = insertelement <16 x i32> %vecinit12.i, i32 %f, i32 13
 169   %vecinit14.i = insertelement <16 x i32> %vecinit13.i, i32 %f, i32 14
 170   %vecinit15.i = insertelement <16 x i32> %vecinit14.i, i32 %f, i32 15
 171   ret <16 x i32> %vecinit15.i
 172 }
 173
 174 ; We implement the scalar broadcast intrinsics with vector initializers.
 175 ; Verify that the IR generated will produce the broadcast at the end.
 176 define <8 x double> @test_mm512_broadcastsd_pd(<2 x double> %a) {
 177 ; CHECK-LABEL: test_mm512_broadcastsd_pd:
 178 ; CHECK:       ## BB#0: ## %entry
 179 ; CHECK-NEXT:    vbroadcastsd %xmm0, %zmm0
 180 ; CHECK-NEXT:    retq
 181 entry:
 182   %0 = extractelement <2 x double> %a, i32 0
 183   %vecinit.i = insertelement <8 x double> undef, double %0, i32 0
 184   %vecinit1.i = insertelement <8 x double> %vecinit.i, double %0, i32 1
 185   %vecinit2.i = insertelement <8 x double> %vecinit1.i, double %0, i32 2
 186   %vecinit3.i = insertelement <8 x double> %vecinit2.i, double %0, i32 3
 187   %vecinit4.i = insertelement <8 x double> %vecinit3.i, double %0, i32 4
 188   %vecinit5.i = insertelement <8 x double> %vecinit4.i, double %0, i32 5
 189   %vecinit6.i = insertelement <8 x double> %vecinit5.i, double %0, i32 6
 190   %vecinit7.i = insertelement <8 x double> %vecinit6.i, double %0, i32 7
 191   ret <8 x double> %vecinit7.i
 192 }