R600/SI: 64-bit and larger memory access must be at least 4-byte aligned
[oota-llvm.git] / test / CodeGen / R600 / unaligned-load-store.ll
1 ; RUN: llc -march=amdgcn -mcpu=SI -verify-machineinstrs< %s | FileCheck -check-prefix=SI %s
2 ; RUN: llc -march=amdgcn -mcpu=tonga -verify-machineinstrs< %s | FileCheck -check-prefix=SI %s
3
4 ; SI-LABEL: {{^}}unaligned_load_store_i32_local:
5 ; SI: ds_read_u8
6 ; SI: ds_read_u8
7 ; SI: ds_read_u8
8 ; SI: ds_read_u8
9 ; SI: ds_write_b32
10 ; SI: s_endpgm
11 define void @unaligned_load_store_i32_local(i32 addrspace(3)* %p, i32 addrspace(3)* %r) nounwind {
12   %v = load i32 addrspace(3)* %p, align 1
13   store i32 %v, i32 addrspace(3)* %r, align 1
14   ret void
15 }
16
17 ; SI-LABEL: {{^}}unaligned_load_store_i32_global:
18 ; SI: buffer_load_ubyte
19 ; SI: buffer_load_ubyte
20 ; SI: buffer_load_ubyte
21 ; SI: buffer_load_ubyte
22 ; SI: buffer_store_dword
23 define void @unaligned_load_store_i32_global(i32 addrspace(1)* %p, i32 addrspace(1)* %r) nounwind {
24   %v = load i32 addrspace(1)* %p, align 1
25   store i32 %v, i32 addrspace(1)* %r, align 1
26   ret void
27 }
28
29 ; SI-LABEL: {{^}}unaligned_load_store_i64_local:
30 ; SI: ds_read_u8
31 ; SI: ds_read_u8
32 ; SI: ds_read_u8
33 ; SI: ds_read_u8
34 ; SI: ds_read_u8
35 ; SI: ds_read_u8
36 ; SI: ds_read_u8
37 ; SI: ds_read_u8
38 ; SI: ds_write2_b32
39 ; SI: s_endpgm
40 define void @unaligned_load_store_i64_local(i64 addrspace(3)* %p, i64 addrspace(3)* %r) {
41   %v = load i64 addrspace(3)* %p, align 1
42   store i64 %v, i64 addrspace(3)* %r, align 1
43   ret void
44 }
45
46 ; SI-LABEL: {{^}}unaligned_load_store_i64_global:
47 ; SI: buffer_load_ubyte
48 ; SI: buffer_load_ubyte
49 ; SI: buffer_load_ubyte
50 ; SI: buffer_load_ubyte
51 ; SI: buffer_load_ubyte
52 ; SI: buffer_load_ubyte
53 ; SI: buffer_load_ubyte
54 ; SI: buffer_load_ubyte
55 ; SI: buffer_store_dwordx2
56 define void @unaligned_load_store_i64_global(i64 addrspace(1)* %p, i64 addrspace(1)* %r) {
57   %v = load i64 addrspace(1)* %p, align 1
58   store i64 %v, i64 addrspace(1)* %r, align 1
59   ret void
60 }
61
62 ; SI-LABEL: {{^}}unaligned_load_store_v4i32_local:
63 ; SI: ds_read_u8
64 ; SI: ds_read_u8
65 ; SI: ds_read_u8
66 ; SI: ds_read_u8
67
68 ; SI: ds_read_u8
69 ; SI: ds_read_u8
70 ; SI: ds_read_u8
71 ; SI: ds_read_u8
72
73 ; SI: ds_read_u8
74 ; SI: ds_read_u8
75 ; SI: ds_read_u8
76 ; SI: ds_read_u8
77
78 ; SI: ds_read_u8
79 ; SI: ds_read_u8
80 ; SI: ds_read_u8
81 ; SI: ds_read_u8
82
83 ; SI: ds_write_b32
84 ; SI: ds_write_b32
85 ; SI: ds_write_b32
86 ; SI: ds_write_b32
87 ; SI: s_endpgm
88 define void @unaligned_load_store_v4i32_local(<4 x i32> addrspace(3)* %p, <4 x i32> addrspace(3)* %r) nounwind {
89   %v = load <4 x i32> addrspace(3)* %p, align 1
90   store <4 x i32> %v, <4 x i32> addrspace(3)* %r, align 1
91   ret void
92 }
93
94 ; FIXME: We mark v4i32 as custom, so misaligned loads are never expanded.
95 ; FIXME-SI-LABEL: {{^}}unaligned_load_store_v4i32_global
96 ; FIXME-SI: buffer_load_ubyte
97 ; FIXME-SI: buffer_load_ubyte
98 ; FIXME-SI: buffer_load_ubyte
99 ; FIXME-SI: buffer_load_ubyte
100 ; FIXME-SI: buffer_load_ubyte
101 ; FIXME-SI: buffer_load_ubyte
102 ; FIXME-SI: buffer_load_ubyte
103 ; FIXME-SI: buffer_load_ubyte
104 ; FIXME-SI: buffer_load_ubyte
105 ; FIXME-SI: buffer_load_ubyte
106 ; FIXME-SI: buffer_load_ubyte
107 ; FIXME-SI: buffer_load_ubyte
108 ; FIXME-SI: buffer_load_ubyte
109 ; FIXME-SI: buffer_load_ubyte
110 ; FIXME-SI: buffer_load_ubyte
111 ; FIXME-SI: buffer_load_ubyte
112 define void @unaligned_load_store_v4i32_global(<4 x i32> addrspace(1)* %p, <4 x i32> addrspace(1)* %r) nounwind {
113   %v = load <4 x i32> addrspace(1)* %p, align 1
114   store <4 x i32> %v, <4 x i32> addrspace(1)* %r, align 1
115   ret void
116 }
117
118 ; SI-LABEL: {{^}}load_lds_i64_align_4:
119 ; SI: ds_read2_b32
120 ; SI: s_endpgm
121 define void @load_lds_i64_align_4(i64 addrspace(1)* nocapture %out, i64 addrspace(3)* %in) #0 {
122   %val = load i64 addrspace(3)* %in, align 4
123   store i64 %val, i64 addrspace(1)* %out, align 8
124   ret void
125 }
126
127 ; SI-LABEL: {{^}}load_lds_i64_align_4_with_offset
128 ; SI: ds_read2_b32 v[{{[0-9]+}}:{{[0-9]+}}], v{{[0-9]}} offset0:8 offset1:9
129 ; SI: s_endpgm
130 define void @load_lds_i64_align_4_with_offset(i64 addrspace(1)* nocapture %out, i64 addrspace(3)* %in) #0 {
131   %ptr = getelementptr i64 addrspace(3)* %in, i32 4
132   %val = load i64 addrspace(3)* %ptr, align 4
133   store i64 %val, i64 addrspace(1)* %out, align 8
134   ret void
135 }
136
137 ; SI-LABEL: {{^}}load_lds_i64_align_4_with_split_offset:
138 ; The tests for the case where the lo offset is 8-bits, but the hi offset is 9-bits
139 ; SI: ds_read2_b32 v[{{[0-9]+}}:{{[0-9]+}}], v{{[0-9]}} offset0:0 offset1:1
140 ; SI: s_endpgm
141 define void @load_lds_i64_align_4_with_split_offset(i64 addrspace(1)* nocapture %out, i64 addrspace(3)* %in) #0 {
142   %ptr = bitcast i64 addrspace(3)* %in to i32 addrspace(3)*
143   %ptr255 = getelementptr i32 addrspace(3)* %ptr, i32 255
144   %ptri64 = bitcast i32 addrspace(3)* %ptr255 to i64 addrspace(3)*
145   %val = load i64 addrspace(3)* %ptri64, align 4
146   store i64 %val, i64 addrspace(1)* %out, align 8
147   ret void
148 }
149
150 ; SI: {{^}}load_lds_i64_align_1
151 ; SI: ds_read_u8
152 ; SI: ds_read_u8
153 ; SI: ds_read_u8
154 ; SI: ds_read_u8
155 ; SI: ds_read_u8
156 ; SI: ds_read_u8
157 ; SI: ds_read_u8
158 ; SI: ds_read_u8
159 ; SI: s_endpgm
160 define void @load_lds_i64_align_1(i64 addrspace(1)* nocapture %out, i64 addrspace(3)* %in) #0 {
161   %val = load i64 addrspace(3)* %in, align 1
162   store i64 %val, i64 addrspace(1)* %out, align 8
163   ret void
164 }
165
166 ; SI-LABEL: {{^}}store_lds_i64_align_4:
167 ; SI: ds_write2_b32
168 ; SI: s_endpgm
169 define void @store_lds_i64_align_4(i64 addrspace(3)* %out, i64 %val) #0 {
170   store i64 %val, i64 addrspace(3)* %out, align 4
171   ret void
172 }
173
174 ; SI-LABEL: {{^}}store_lds_i64_align_4_with_offset
175 ; SI: ds_write2_b32 v{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}} offset0:8 offset1:9
176 ; SI: s_endpgm
177 define void @store_lds_i64_align_4_with_offset(i64 addrspace(3)* %out) #0 {
178   %ptr = getelementptr i64 addrspace(3)* %out, i32 4
179   store i64 0, i64 addrspace(3)* %ptr, align 4
180   ret void
181 }
182
183 ; SI-LABEL: {{^}}store_lds_i64_align_4_with_split_offset:
184 ; The tests for the case where the lo offset is 8-bits, but the hi offset is 9-bits
185 ; SI: ds_write2_b32 v{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}} offset0:0 offset1:1
186 ; SI: s_endpgm
187 define void @store_lds_i64_align_4_with_split_offset(i64 addrspace(3)* %out) #0 {
188   %ptr = bitcast i64 addrspace(3)* %out to i32 addrspace(3)*
189   %ptr255 = getelementptr i32 addrspace(3)* %ptr, i32 255
190   %ptri64 = bitcast i32 addrspace(3)* %ptr255 to i64 addrspace(3)*
191   store i64 0, i64 addrspace(3)* %out, align 4
192   ret void
193 }