test/CodeGen/X86/vector-zext.ll

   1 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mcpu=x86-64 -mattr=+sse2 | FileCheck %s --check-prefix=SSE --check-prefix=SSE2
   2 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mcpu=x86-64 -mattr=+ssse3 | FileCheck %s --check-prefix=SSE --check-prefix=SSSE3
   3 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mcpu=x86-64 -mattr=+sse4.1 | FileCheck %s --check-prefix=SSE --check-prefix=SSE41
   4 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mcpu=x86-64 -mattr=+avx | FileCheck %s --check-prefix=AVX --check-prefix=AVX1
   5 ; RUN: llc < %s -mtriple=x86_64-unknown-unknown -mcpu=x86-64 -mattr=+avx2 | FileCheck %s --check-prefix=AVX --check-prefix=AVX2
   6
   7 define <8 x i32> @zext_8i16_to_8i32(<8 x i16> %A) nounwind uwtable readnone ssp {
   8 ; SSE2-LABEL: zext_8i16_to_8i32:
   9 ; SSE2:       # BB#0: # %entry
  10 ; SSE2-NEXT:    movdqa %xmm0, %xmm2
  11 ; SSE2-NEXT:    punpcklwd {{.*#+}} xmm2 = xmm2[0],xmm0[0],xmm2[1],xmm0[1],xmm2[2],xmm0[2],xmm2[3],xmm0[3]
  12 ; SSE2-NEXT:    movdqa {{.*#+}} xmm1 = [65535,65535,65535,65535]
  13 ; SSE2-NEXT:    pand %xmm1, %xmm2
  14 ; SSE2-NEXT:    punpckhwd {{.*#+}} xmm0 = xmm0[4,4,5,5,6,6,7,7]
  15 ; SSE2-NEXT:    pand %xmm0, %xmm1
  16 ; SSE2-NEXT:    movdqa %xmm2, %xmm0
  17 ; SSE2-NEXT:    retq
  18 ;
  19 ; SSSE3-LABEL: zext_8i16_to_8i32:
  20 ; SSSE3:       # BB#0: # %entry
  21 ; SSSE3-NEXT:    movdqa %xmm0, %xmm2
  22 ; SSSE3-NEXT:    punpcklwd {{.*#+}} xmm2 = xmm2[0],xmm0[0],xmm2[1],xmm0[1],xmm2[2],xmm0[2],xmm2[3],xmm0[3]
  23 ; SSSE3-NEXT:    movdqa {{.*#+}} xmm1 = [65535,65535,65535,65535]
  24 ; SSSE3-NEXT:    pand %xmm1, %xmm2
  25 ; SSSE3-NEXT:    punpckhwd {{.*#+}} xmm0 = xmm0[4,4,5,5,6,6,7,7]
  26 ; SSSE3-NEXT:    pand %xmm0, %xmm1
  27 ; SSSE3-NEXT:    movdqa %xmm2, %xmm0
  28 ; SSSE3-NEXT:    retq
  29 ;
  30 ; SSE41-LABEL: zext_8i16_to_8i32:
  31 ; SSE41:       # BB#0: # %entry
  32 ; SSE41-NEXT:    pmovzxwd %xmm0, %xmm2
  33 ; SSE41-NEXT:    movdqa {{.*#+}} xmm1 = [65535,65535,65535,65535]
  34 ; SSE41-NEXT:    pand %xmm1, %xmm2
  35 ; SSE41-NEXT:    punpckhwd {{.*#+}} xmm0 = xmm0[4,4,5,5,6,6,7,7]
  36 ; SSE41-NEXT:    pand %xmm0, %xmm1
  37 ; SSE41-NEXT:    movdqa %xmm2, %xmm0
  38 ; SSE41-NEXT:    retq
  39 ;
  40 ; AVX1-LABEL: zext_8i16_to_8i32:
  41 ; AVX1:       # BB#0: # %entry
  42 ; AVX1-NEXT:    vpxor %xmm1, %xmm1, %xmm1
  43 ; AVX1-NEXT:    vpunpckhwd {{.*#+}} xmm1 = xmm0[4],xmm1[4],xmm0[5],xmm1[5],xmm0[6],xmm1[6],xmm0[7],xmm1[7]
  44 ; AVX1-NEXT:    vpmovzxwd %xmm0, %xmm0
  45 ; AVX1-NEXT:    vinsertf128 $1, %xmm1, %ymm0, %ymm0
  46 ; AVX1-NEXT:    retq
  47 ;
  48 ; AVX2-LABEL: zext_8i16_to_8i32:
  49 ; AVX2:       # BB#0: # %entry
  50 ; AVX2-NEXT:    vpmovzxwd %xmm0, %ymm0
  51 ; AVX2-NEXT:    retq
  52 entry:
  53   %B = zext <8 x i16> %A to <8 x i32>
  54   ret <8 x i32>%B
  55 }
  56
  57 define <4 x i64> @zext_4i32_to_4i64(<4 x i32> %A) nounwind uwtable readnone ssp {
  58 ; SSE2-LABEL: zext_4i32_to_4i64:
  59 ; SSE2:       # BB#0: # %entry
  60 ; SSE2-NEXT:    pshufd {{.*#+}} xmm2 = xmm0[0,1,1,3]
  61 ; SSE2-NEXT:    movdqa {{.*#+}} xmm3 = [4294967295,4294967295]
  62 ; SSE2-NEXT:    pand %xmm3, %xmm2
  63 ; SSE2-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[2,2,3,3]
  64 ; SSE2-NEXT:    pand %xmm3, %xmm1
  65 ; SSE2-NEXT:    movdqa %xmm2, %xmm0
  66 ; SSE2-NEXT:    retq
  67 ;
  68 ; SSSE3-LABEL: zext_4i32_to_4i64:
  69 ; SSSE3:       # BB#0: # %entry
  70 ; SSSE3-NEXT:    pshufd {{.*#+}} xmm2 = xmm0[0,1,1,3]
  71 ; SSSE3-NEXT:    movdqa {{.*#+}} xmm3 = [4294967295,4294967295]
  72 ; SSSE3-NEXT:    pand %xmm3, %xmm2
  73 ; SSSE3-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[2,2,3,3]
  74 ; SSSE3-NEXT:    pand %xmm3, %xmm1
  75 ; SSSE3-NEXT:    movdqa %xmm2, %xmm0
  76 ; SSSE3-NEXT:    retq
  77 ;
  78 ; SSE41-LABEL: zext_4i32_to_4i64:
  79 ; SSE41:       # BB#0: # %entry
  80 ; SSE41-NEXT:    pmovzxdq %xmm0, %xmm2
  81 ; SSE41-NEXT:    movdqa {{.*#+}} xmm3 = [4294967295,4294967295]
  82 ; SSE41-NEXT:    pand %xmm3, %xmm2
  83 ; SSE41-NEXT:    pshufd {{.*#+}} xmm1 = xmm0[2,2,3,3]
  84 ; SSE41-NEXT:    pand %xmm3, %xmm1
  85 ; SSE41-NEXT:    movdqa %xmm2, %xmm0
  86 ; SSE41-NEXT:    retq
  87 ;
  88 ; AVX1-LABEL: zext_4i32_to_4i64:
  89 ; AVX1:       # BB#0: # %entry
  90 ; AVX1-NEXT:    vpxor %xmm1, %xmm1, %xmm1
  91 ; AVX1-NEXT:    vpunpckhdq {{.*#+}} xmm1 = xmm0[2],xmm1[2],xmm0[3],xmm1[3]
  92 ; AVX1-NEXT:    vpmovzxdq %xmm0, %xmm0
  93 ; AVX1-NEXT:    vinsertf128 $1, %xmm1, %ymm0, %ymm0
  94 ; AVX1-NEXT:    retq
  95 ;
  96 ; AVX2-LABEL: zext_4i32_to_4i64:
  97 ; AVX2:       # BB#0: # %entry
  98 ; AVX2-NEXT:    vpmovzxdq %xmm0, %ymm0
  99 ; AVX2-NEXT:    retq
 100 entry:
 101   %B = zext <4 x i32> %A to <4 x i64>
 102   ret <4 x i64>%B
 103 }
 104
 105 define <8 x i32> @zext_8i8_to_8i32(<8 x i8> %z) {
 106 ; SSE2-LABEL: zext_8i8_to_8i32:
 107 ; SSE2:       # BB#0: # %entry
 108 ; SSE2-NEXT:    movdqa %xmm0, %xmm2
 109 ; SSE2-NEXT:    punpcklwd {{.*#+}} xmm2 = xmm2[0],xmm0[0],xmm2[1],xmm0[1],xmm2[2],xmm0[2],xmm2[3],xmm0[3]
 110 ; SSE2-NEXT:    movdqa {{.*#+}} xmm1 = [255,255,255,255]
 111 ; SSE2-NEXT:    pand %xmm1, %xmm2
 112 ; SSE2-NEXT:    punpckhwd {{.*#+}} xmm0 = xmm0[4,4,5,5,6,6,7,7]
 113 ; SSE2-NEXT:    pand %xmm0, %xmm1
 114 ; SSE2-NEXT:    movdqa %xmm2, %xmm0
 115 ; SSE2-NEXT:    retq
 116 ;
 117 ; SSSE3-LABEL: zext_8i8_to_8i32:
 118 ; SSSE3:       # BB#0: # %entry
 119 ; SSSE3-NEXT:    movdqa %xmm0, %xmm2
 120 ; SSSE3-NEXT:    punpcklwd {{.*#+}} xmm2 = xmm2[0],xmm0[0],xmm2[1],xmm0[1],xmm2[2],xmm0[2],xmm2[3],xmm0[3]
 121 ; SSSE3-NEXT:    movdqa {{.*#+}} xmm1 = [255,255,255,255]
 122 ; SSSE3-NEXT:    pand %xmm1, %xmm2
 123 ; SSSE3-NEXT:    punpckhwd {{.*#+}} xmm0 = xmm0[4,4,5,5,6,6,7,7]
 124 ; SSSE3-NEXT:    pand %xmm0, %xmm1
 125 ; SSSE3-NEXT:    movdqa %xmm2, %xmm0
 126 ; SSSE3-NEXT:    retq
 127 ;
 128 ; SSE41-LABEL: zext_8i8_to_8i32:
 129 ; SSE41:       # BB#0: # %entry
 130 ; SSE41-NEXT:    pmovzxwd %xmm0, %xmm2
 131 ; SSE41-NEXT:    movdqa {{.*#+}} xmm1 = [255,255,255,255]
 132 ; SSE41-NEXT:    pand %xmm1, %xmm2
 133 ; SSE41-NEXT:    punpckhwd {{.*#+}} xmm0 = xmm0[4,4,5,5,6,6,7,7]
 134 ; SSE41-NEXT:    pand %xmm0, %xmm1
 135 ; SSE41-NEXT:    movdqa %xmm2, %xmm0
 136 ; SSE41-NEXT:    retq
 137 ;
 138 ; AVX1-LABEL: zext_8i8_to_8i32:
 139 ; AVX1:       # BB#0: # %entry
 140 ; AVX1-NEXT:    vpmovzxwd %xmm0, %xmm1
 141 ; AVX1-NEXT:    vpunpckhwd {{.*#+}} xmm0 = xmm0[4,4,5,5,6,6,7,7]
 142 ; AVX1-NEXT:    vinsertf128 $1, %xmm0, %ymm1, %ymm0
 143 ; AVX1-NEXT:    vandps {{.*}}(%rip), %ymm0, %ymm0
 144 ; AVX1-NEXT:    retq
 145 ;
 146 ; AVX2-LABEL: zext_8i8_to_8i32:
 147 ; AVX2:       # BB#0: # %entry
 148 ; AVX2-NEXT:    vpmovzxwd %xmm0, %ymm0
 149 ; AVX2-NEXT:    vpbroadcastd {{.*}}(%rip), %ymm1
 150 ; AVX2-NEXT:    vpand %ymm1, %ymm0, %ymm0
 151 ; AVX2-NEXT:    retq
 152 entry:
 153   %t = zext <8 x i8> %z to <8 x i32>
 154   ret <8 x i32> %t
 155 }
 156
 157 ; PR17654
 158 define <16 x i16> @zext_16i8_to_16i16(<16 x i8> %z) {
 159 ; SSE2-LABEL: zext_16i8_to_16i16:
 160 ; SSE2:       # BB#0: # %entry
 161 ; SSE2-NEXT:    movdqa %xmm0, %xmm2
 162 ; SSE2-NEXT:    punpcklbw {{.*#+}} xmm2 = xmm2[0],xmm0[0],xmm2[1],xmm0[1],xmm2[2],xmm0[2],xmm2[3],xmm0[3],xmm2[4],xmm0[4],xmm2[5],xmm0[5],xmm2[6],xmm0[6],xmm2[7],xmm0[7]
 163 ; SSE2-NEXT:    movdqa {{.*#+}} xmm1 = [255,255,255,255,255,255,255,255]
 164 ; SSE2-NEXT:    pand %xmm1, %xmm2
 165 ; SSE2-NEXT:    punpckhbw {{.*#+}} xmm0 = xmm0[8,8,9,9,10,10,11,11,12,12,13,13,14,14,15,15]
 166 ; SSE2-NEXT:    pand %xmm0, %xmm1
 167 ; SSE2-NEXT:    movdqa %xmm2, %xmm0
 168 ; SSE2-NEXT:    retq
 169 ;
 170 ; SSSE3-LABEL: zext_16i8_to_16i16:
 171 ; SSSE3:       # BB#0: # %entry
 172 ; SSSE3-NEXT:    movdqa %xmm0, %xmm2
 173 ; SSSE3-NEXT:    punpcklbw {{.*#+}} xmm2 = xmm2[0],xmm0[0],xmm2[1],xmm0[1],xmm2[2],xmm0[2],xmm2[3],xmm0[3],xmm2[4],xmm0[4],xmm2[5],xmm0[5],xmm2[6],xmm0[6],xmm2[7],xmm0[7]
 174 ; SSSE3-NEXT:    movdqa {{.*#+}} xmm1 = [255,255,255,255,255,255,255,255]
 175 ; SSSE3-NEXT:    pand %xmm1, %xmm2
 176 ; SSSE3-NEXT:    punpckhbw {{.*#+}} xmm0 = xmm0[8,8,9,9,10,10,11,11,12,12,13,13,14,14,15,15]
 177 ; SSSE3-NEXT:    pand %xmm0, %xmm1
 178 ; SSSE3-NEXT:    movdqa %xmm2, %xmm0
 179 ; SSSE3-NEXT:    retq
 180 ;
 181 ; SSE41-LABEL: zext_16i8_to_16i16:
 182 ; SSE41:       # BB#0: # %entry
 183 ; SSE41-NEXT:    pmovzxbw %xmm0, %xmm2
 184 ; SSE41-NEXT:    movdqa {{.*#+}} xmm1 = [255,255,255,255,255,255,255,255]
 185 ; SSE41-NEXT:    pand %xmm1, %xmm2
 186 ; SSE41-NEXT:    punpckhbw {{.*#+}} xmm0 = xmm0[8,8,9,9,10,10,11,11,12,12,13,13,14,14,15,15]
 187 ; SSE41-NEXT:    pand %xmm0, %xmm1
 188 ; SSE41-NEXT:    movdqa %xmm2, %xmm0
 189 ; SSE41-NEXT:    retq
 190 ;
 191 ; AVX1-LABEL: zext_16i8_to_16i16:
 192 ; AVX1:       # BB#0: # %entry
 193 ; AVX1-NEXT:    vpxor %xmm1, %xmm1, %xmm1
 194 ; AVX1-NEXT:    vpunpckhbw {{.*#+}} xmm1 = xmm0[8],xmm1[8],xmm0[9],xmm1[9],xmm0[10],xmm1[10],xmm0[11],xmm1[11],xmm0[12],xmm1[12],xmm0[13],xmm1[13],xmm0[14],xmm1[14],xmm0[15],xmm1[15]
 195 ; AVX1-NEXT:    vpmovzxbw %xmm0, %xmm0
 196 ; AVX1-NEXT:    vinsertf128 $1, %xmm1, %ymm0, %ymm0
 197 ; AVX1-NEXT:    retq
 198 ;
 199 ; AVX2-LABEL: zext_16i8_to_16i16:
 200 ; AVX2:       # BB#0: # %entry
 201 ; AVX2-NEXT:    vpmovzxbw %xmm0, %ymm0
 202 ; AVX2-NEXT:    retq
 203 entry:
 204   %t = zext <16 x i8> %z to <16 x i16>
 205   ret <16 x i16> %t
 206 }
 207
 208 define <16 x i16> @load_zext_16i8_to_16i16(<16 x i8> *%ptr) {
 209 ; SSE2-LABEL: load_zext_16i8_to_16i16:
 210 ; SSE2:        # BB#0: # %entry
 211 ; SSE2-NEXT:   movdqa        (%rdi), %xmm1
 212 ; SSE2-NEXT:   movdqa        %xmm1, %xmm0
 213 ; SSE2-NEXT:   punpcklbw     %xmm0, %xmm0    # xmm0 = xmm0[0,0,1,1,2,2,3,3,4,4,5,5,6,6,7,7]
 214 ; SSE2-NEXT:   movdqa        {{.*#+}} xmm2 = [255,255,255,255,255,255,255,255]
 215 ; SSE2-NEXT:   pand  %xmm2, %xmm0
 216 ; SSE2-NEXT:   punpckhbw     %xmm1, %xmm1    # xmm1 = xmm1[8,8,9,9,10,10,11,11,12,12,13,13,14,14,15,15]
 217 ; SSE2-NEXT:   pand  %xmm2, %xmm1
 218 ; SSE2-NEXT:   retq
 219
 220 ; SSSE3-LABEL: load_zext_16i8_to_16i16:
 221 ; SSSE3:        # BB#0: # %entry
 222 ; SSSE3-NEXT:   movdqa        (%rdi), %xmm1
 223 ; SSSE3-NEXT:   movdqa        %xmm1, %xmm0
 224 ; SSSE3-NEXT:   punpcklbw     %xmm0, %xmm0    # xmm0 = xmm0[0,0,1,1,2,2,3,3,4,4,5,5,6,6,7,7]
 225 ; SSSE3-NEXT:   movdqa        {{.*#+}} xmm2 = [255,255,255,255,255,255,255,255]
 226 ; SSSE3-NEXT:   pand  %xmm2, %xmm0
 227 ; SSSE3-NEXT:   punpckhbw     %xmm1, %xmm1    # xmm1 = xmm1[8,8,9,9,10,10,11,11,12,12,13,13,14,14,15,15]
 228 ; SSSE3-NEXT:   pand  %xmm2, %xmm1
 229 ; SSSE3-NEXT:   retq
 230
 231 ; SSE41-LABEL: load_zext_16i8_to_16i16:
 232 ; SSE41:        # BB#0: # %entry
 233 ; SSE41-NEXT:   movdqa  (%rdi), %xmm1
 234 ; SSE41-NEXT:   pmovzxbw        %xmm1, %xmm0
 235 ; SSE41-NEXT:   movdqa  {{.*#+}} xmm2 = [255,255,255,255,255,255,255,255]
 236 ; SSE41-NEXT:   pand    %xmm2, %xmm0
 237 ; SSE41-NEXT:   punpckhbw       %xmm1, %xmm1    # xmm1 = xmm1[8,8,9,9,10,10,11,11,12,12,13,13,14,14,15,15]
 238 ; SSE41-NEXT:   pand    %xmm2, %xmm1
 239 ; SSE41-NEXT:   retq
 240
 241 ; AVX1-LABEL: load_zext_16i8_to_16i16:
 242 ; AVX1:        # BB#0: # %entry
 243 ; AVX1-NEXT:    vmovdqa (%rdi), %xmm0
 244 ; AVX1-NEXT:    vpxor   %xmm1, %xmm1, %xmm1
 245 ; AVX1-NEXT:    vpunpckhbw      %xmm1, %xmm0, %xmm1 # xmm1 = xmm0[8],xmm1[8],xmm0[9],xmm1[9],xmm0[10],xmm1[10],xmm0[11],xmm1[11],xmm0[12],xmm1[12],xmm0[13],xmm1[13],xmm0[14],xmm1[14],xmm0[15],xmm1[15]
 246 ; AVX1-NEXT:    vpmovzxbw       %xmm0, %xmm0
 247 ; AVX1-NEXT:    vinsertf128     $1, %xmm1, %ymm0, %ymm0
 248 ; AVX1-NEXT:    retq
 249
 250 ; AVX2-LABEL: load_zext_16i8_to_16i16:
 251 ; AVX2:        # BB#0: # %entry
 252 ; AVX2-NEXT:    vpmovzxbw       (%rdi), %ymm0
 253 ; AVX2-NEXT:    retq
 254 entry:
 255  %X = load <16 x i8>* %ptr
 256  %Y = zext <16 x i8> %X to <16 x i16>
 257  ret <16 x i16> %Y
 258 }
 259
 260 define <8 x i32> @load_zext_8i16_to_8i32(<8 x i16> *%ptr) {
 261 ; SSE2-LABEL: load_zext_8i16_to_8i32:
 262 ; SSE2:          # BB#0: # %entry
 263 ; SSE2-NEXT:   movdqa        (%rdi), %xmm1
 264 ; SSE2-NEXT:   movdqa        %xmm1, %xmm0
 265 ; SSE2-NEXT:   punpcklwd     %xmm0, %xmm0    # xmm0 = xmm0[0,0,1,1,2,2,3,3]
 266 ; SSE2-NEXT:   movdqa        {{.*#+}} xmm2 = [65535,65535,65535,65535]
 267 ; SSE2-NEXT:   pand  %xmm2, %xmm0
 268 ; SSE2-NEXT:   punpckhwd     %xmm1, %xmm1    # xmm1 = xmm1[4,4,5,5,6,6,7,7]
 269 ; SSE2-NEXT:   pand  %xmm2, %xmm1
 270 ; SSE2-NEXT:   retq
 271
 272 ; SSSE3-LABEL: load_zext_8i16_to_8i32:
 273 ; SSSE3:        # BB#0: # %entry
 274 ; SSSE3-NEXT:   movdqa        (%rdi), %xmm1
 275 ; SSSE3-NEXT:   movdqa        %xmm1, %xmm0
 276 ; SSSE3-NEXT:   punpcklwd     %xmm0, %xmm0    # xmm0 = xmm0[0,0,1,1,2,2,3,3]
 277 ; SSSE3-NEXT:   movdqa        {{.*#+}} xmm2 = [65535,65535,65535,65535]
 278 ; SSSE3-NEXT:   pand  %xmm2, %xmm0
 279 ; SSSE3-NEXT:   punpckhwd     %xmm1, %xmm1    # xmm1 = xmm1[4,4,5,5,6,6,7,7]
 280 ; SSSE3-NEXT:   pand  %xmm2, %xmm1
 281 ; SSSE3-NEXT:   retq
 282
 283 ; SSE41-LABEL: load_zext_8i16_to_8i32:
 284 ; SSE41:        # BB#0: # %entry
 285 ; SSE41-NEXT:   movdqa  (%rdi), %xmm1
 286 ; SSE41-NEXT:   pmovzxwd        %xmm1, %xmm0
 287 ; SSE41-NEXT:   movdqa  {{.*#+}} xmm2 = [65535,65535,65535,65535]
 288 ; SSE41-NEXT:   pand    %xmm2, %xmm0
 289 ; SSE41-NEXT:   punpckhwd       %xmm1, %xmm1    # xmm1 = xmm1[4,4,5,5,6,6,7,7]
 290 ; SSE41-NEXT:   pand    %xmm2, %xmm1
 291 ; SSE41-NEXT:   retq
 292
 293 ; AVX1-LABEL: load_zext_8i16_to_8i32:
 294 ; AVX1:        # BB#0: # %entry
 295 ; AVX1-NEXT:    vmovdqa       (%rdi), %xmm0
 296 ; AVX1-NEXT:    vpxor %xmm1, %xmm1, %xmm1
 297 ; AVX1-NEXT:    vpunpckhwd    %xmm1, %xmm0, %xmm1 # xmm1 = xmm0[4],xmm1[4],xmm0[5],xmm1[5],xmm0[6],xmm1[6],xmm0[7],xmm1[7]
 298 ; AVX1-NEXT:    vpmovzxwd     %xmm0, %xmm0
 299 ; AVX1-NEXT:    vinsertf128   $1, %xmm1, %ymm0, %ymm0
 300 ; AVX1-NEXT:    retq
 301
 302 ; AVX2-LABEL: load_zext_8i16_to_8i32:
 303 ; AVX2:        # BB#0: # %entry
 304 ; AVX2-NEXT:    vpmovzxwd       (%rdi), %ymm0
 305 ; AVX2-NEXT:    retq
 306 entry:
 307  %X = load <8 x i16>* %ptr
 308  %Y = zext <8 x i16> %X to <8 x i32>
 309  ret <8 x i32>%Y
 310 }
 311
 312 define <4 x i64> @load_zext_4i32_to_4i64(<4 x i32> *%ptr) {
 313 ; SSE2-LABEL: load_zext_4i32_to_4i64:
 314 ; SSE2:          # BB#0: # %entry
 315 ; SSE2-NEXT:   movdqa        (%rdi), %xmm1
 316 ; SSE2-NEXT:   pshufd        $212, %xmm1, %xmm0      # xmm0 = xmm1[0,1,1,3]
 317 ; SSE2-NEXT:   movdqa        {{.*#+}} xmm2 = [4294967295,4294967295]
 318 ; SSE2-NEXT:   pand  %xmm2, %xmm0
 319 ; SSE2-NEXT:   pshufd        $250, %xmm1, %xmm1       # xmm1 = xmm1[2,2,3,3]
 320 ; SSE2-NEXT:   pand  %xmm2, %xmm1
 321 ; SSE2-NEXT:   retq
 322
 323 ; SSSE3-LABEL: load_zext_4i32_to_4i64:
 324 ; SSSE3:        # BB#0: # %entry
 325 ; SSSE3-NEXT:   movdqa        (%rdi), %xmm1
 326 ; SSSE3-NEXT:   pshufd        $212, %xmm1, %xmm0      # xmm0 = xmm1[0,1,1,3]
 327 ; SSSE3-NEXT:   movdqa        {{.*#+}} xmm2 = [4294967295,4294967295]
 328 ; SSSE3-NEXT:   pand  %xmm2, %xmm0
 329 ; SSSE3-NEXT:   pshufd        $250, %xmm1, %xmm1       # xmm1 = xmm1[2,2,3,3]
 330 ; SSSE3-NEXT:   pand  %xmm2, %xmm1
 331 ; SSSE3-NEXT:   retq
 332
 333 ; SSE41-LABEL: load_zext_4i32_to_4i64:
 334 ; SSE41:        # BB#0: # %entry
 335 ; SSE41-NEXT:   movdqa  (%rdi), %xmm1
 336 ; SSE41-NEXT:   pmovzxdq        %xmm1, %xmm0
 337 ; SSE41-NEXT:   movdqa  {{.*#+}} xmm2 = [4294967295,4294967295]
 338 ; SSE41-NEXT:   pand    %xmm2, %xmm0
 339 ; SSE41-NEXT:   pshufd  $250, %xmm1, %xmm1       # xmm1 = xmm1[2,2,3,3]
 340 ; SSE41-NEXT:   pand    %xmm2, %xmm1
 341 ; SSE41-NEXT:   retq
 342
 343 ; AVX1-LABEL: load_zext_4i32_to_4i64:
 344 ; AVX1:        # BB#0: # %entry
 345 ; AVX1-NEXT:    vmovdqa (%rdi), %xmm0
 346 ; AVX1-NEXT:    vpxor   %xmm1, %xmm1, %xmm1
 347 ; AVX1-NEXT:    vpunpckhdq      %xmm1, %xmm0, %xmm1 # xmm1 = xmm0[2],xmm1[2],xmm0[3],xmm1[3]
 348 ; AVX1-NEXT:    vpmovzxdq       %xmm0, %xmm0
 349 ; AVX1-NEXT:    vinsertf128     $1, %xmm1, %ymm0, %ymm0
 350 ; AVX1-NEXT:    retq
 351
 352 ; AVX2-LABEL: load_zext_4i32_to_4i64:
 353 ; AVX2:        # BB#0: # %entry
 354 ; AVX2-NEXT:    vpmovzxdq       (%rdi), %ymm0
 355 ; AVX2-NEXT:    retq
 356 entry:
 357  %X = load <4 x i32>* %ptr
 358  %Y = zext <4 x i32> %X to <4 x i64>
 359  ret <4 x i64>%Y
 360 }