; RUN: llc -mtriple=amdgcn -verify-machineinstrs < %s | FileCheck -check-prefix=GCN -check-prefix=SI %s
; RUN: llc -mtriple=amdgcn -mcpu=tonga -mattr=-flat-for-global -verify-machineinstrs < %s | FileCheck -check-prefix=GCN -check-prefix=VI %s
; RUN: llc -mtriple=amdgcn -mcpu=gfx900 -mattr=-flat-for-global -verify-machineinstrs < %s | FileCheck -check-prefix=GCN -check-prefix=GFX9 %s
declare i32 @llvm.amdgcn.workitem.id.x() #0
; GCN-LABEL: {{^}}v_test_smed3_r_i_i_i32:
; GCN: v_med3_i32 v{{[0-9]+}}, v{{[0-9]+}}, 12, 17
define amdgpu_kernel void @v_test_smed3_r_i_i_i32(ptr addrspace(1) %out, ptr addrspace(1) %aptr) #1 {
%tid = call i32 @llvm.amdgcn.workitem.id.x()
%gep0 = getelementptr i32, ptr addrspace(1) %aptr, i32 %tid
%outgep = getelementptr i32, ptr addrspace(1) %out, i32 %tid
%a = load i32, ptr addrspace(1) %gep0
%icmp0 = icmp sgt i32 %a, 12
%i0 = select i1 %icmp0, i32 %a, i32 12
%icmp1 = icmp slt i32 %i0, 17
%i1 = select i1 %icmp1, i32 %i0, i32 17
store i32 %i1, ptr addrspace(1) %outgep
ret void
}
; GCN-LABEL: {{^}}v_test_smed3_multi_use_r_i_i_i32:
; GCN: v_max_i32
; GCN: v_min_i32
define amdgpu_kernel void @v_test_smed3_multi_use_r_i_i_i32(ptr addrspace(1) %out, ptr addrspace(1) %aptr) #1 {
%tid = call i32 @llvm.amdgcn.workitem.id.x()
%gep0 = getelementptr i32, ptr addrspace(1) %aptr, i32 %tid
%outgep = getelementptr i32, ptr addrspace(1) %out, i32 %tid
%a = load i32, ptr addrspace(1) %gep0
%icmp0 = icmp sgt i32 %a, 12
%i0 = select i1 %icmp0, i32 %a, i32 12
%icmp1 = icmp slt i32 %i0, 17
%i1 = select i1 %icmp1, i32 %i0, i32 17
store volatile i32 %i0, ptr addrspace(1) %outgep
store volatile i32 %i1, ptr addrspace(1) %outgep
ret void
}
; GCN-LABEL: {{^}}v_test_smed3_r_i_i_sign_mismatch_i32:
; GCN: v_max_u32_e32 v{{[0-9]+}}, 12, v{{[0-9]+}}
; GCN: v_min_i32_e32 v{{[0-9]+}}, 17, v{{[0-9]+}}
define amdgpu_kernel void @v_test_smed3_r_i_i_sign_mismatch_i32(ptr addrspace(1) %out, ptr addrspace(1) %aptr) #1 {
%tid = call i32 @llvm.amdgcn.workitem.id.x()
%gep0 = getelementptr i32, ptr addrspace(1) %aptr, i32 %tid
%outgep = getelementptr i32, ptr addrspace(1) %out, i32 %tid
%a = load i32, ptr addrspace(1) %gep0
%icmp0 = icmp ugt i32 %a, 12
%i0 = select i1 %icmp0, i32 %a, i32 12
%icmp1 = icmp slt i32 %i0, 17
%i1 = select i1 %icmp1, i32 %i0, i32 17
store i32 %i1, ptr addrspace(1) %outgep
ret void
}
; GCN-LABEL: {{^}}v_test_smed3_r_i_i_i64:
; GCN: v_cmp_lt_i64
; GCN: v_cmp_gt_i64
define amdgpu_kernel void @v_test_smed3_r_i_i_i64(ptr addrspace(1) %out, ptr addrspace(1) %aptr) #1 {
%tid = call i32 @llvm.amdgcn.workitem.id.x()
%gep0 = getelementptr i64, ptr addrspace(1) %aptr, i32 %tid
%outgep = getelementptr i64, ptr addrspace(1) %out, i32 %tid
%a = load i64, ptr addrspace(1) %gep0
%icmp0 = icmp sgt i64 %a, 12
%i0 = select i1 %icmp0, i64 %a, i64 12
%icmp1 = icmp slt i64 %i0, 17
%i1 = select i1 %icmp1, i64 %i0, i64 17
store i64 %i1, ptr addrspace(1) %outgep
ret void
}
; Regression test for performIntMed3ImmCombine extending arguments to 32 bit
; which failed for 64 bit arguments. Previously asserted / crashed.
; GCN-LABEL: {{^}}test_intMed3ImmCombine_no_32bit_extend:
; GCN: v_cmp_lt_i64
; GCN: v_cmp_gt_i64
define i64 @test_intMed3ImmCombine_no_32bit_extend(i64 %x) {
%smax = call i64 @llvm.smax.i64(i64 %x, i64 -2)
%smin = call i64 @llvm.smin.i64(i64 %smax, i64 2)
ret i64 %smin
}
declare i64 @llvm.smax.i64(i64, i64)
declare i64 @llvm.smin.i64(i64, i64)
; GCN-LABEL: {{^}}v_test_smed3_r_i_i_i16:
; SI: v_med3_i32 v{{[0-9]+}}, v{{[0-9]+}}, 12, 17
; VI: v_max_i16_e32 [[MAX:v[0-9]]], 12, {{v[0-9]}}
; VI: v_min_i16_e32 {{v[0-9]}}, 17, [[MAX]]
; GFX9: v_med3_i16 v{{[0-9]+}}, v{{[0-9]+}}, 12, 17
define amdgpu_kernel void @v_test_smed3_r_i_i_i16(ptr addrspace(1) %out, ptr addrspace(1) %aptr) #1 {
%tid = call i32 @llvm.amdgcn.workitem.id.x()
%gep0 = getelementptr i16, ptr addrspace(1) %aptr, i32 %tid
%outgep = getelementptr i16, ptr addrspace(1) %out, i32 %tid
%a = load i16, ptr addrspace(1) %gep0
%icmp0 = icmp sgt i16 %a, 12
%i0 = select i1 %icmp0, i16 %a, i16 12
%icmp1 = icmp slt i16 %i0, 17
%i1 = select i1 %icmp1, i16 %i0, i16 17
store i16 %i1, ptr addrspace(1) %outgep
ret void
}
define internal i32 @smin(i32 %x, i32 %y) #2 {
%cmp = icmp slt i32 %x, %y
%sel = select i1 %cmp, i32 %x, i32 %y
ret i32 %sel
}
define internal i32 @smax(i32 %x, i32 %y) #2 {
%cmp = icmp sgt i32 %x, %y
%sel = select i1 %cmp, i32 %x, i32 %y
ret i32 %sel
}
define internal i16 @smin16(i16 %x, i16 %y) #2 {
%cmp = icmp slt i16 %x, %y
%sel = select i1 %cmp, i16 %x, i16 %y
ret i16 %sel
}
define internal i16 @smax16(i16 %x, i16 %y) #2 {
%cmp = icmp sgt i16 %x, %y
%sel = select i1 %cmp, i16 %x, i16 %y
ret i16 %sel
}
define internal i8 @smin8(i8 %x, i8 %y) #2 {
%cmp = icmp slt i8 %x, %y
%sel = select i1 %cmp, i8 %x, i8 %y
ret i8 %sel
}
define internal i8 @smax8(i8 %x, i8 %y) #2 {
%cmp = icmp sgt i8 %x, %y
%sel = select i1 %cmp, i8 %x, i8 %y
ret i8 %sel
}
; 16 combinations
; 0: max(min(x, y), min(max(x, y), z))
; 1: max(min(x, y), min(max(y, x), z))
; 2: max(min(x, y), min(z, max(x, y)))
; 3: max(min(x, y), min(z, max(y, x)))
; 4: max(min(y, x), min(max(x, y), z))
; 5: max(min(y, x), min(max(y, x), z))
; 6: max(min(y, x), min(z, max(x, y)))
; 7: max(min(y, x), min(z, max(y, x)))
;
; + commute outermost max
; FIXME: In these cases we probably should have used scalar operations
; instead.
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_0:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_0(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_1:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_1(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_2:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_2(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %z, i32 %tmp1)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_3:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_3(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smin(i32 %z, i32 %tmp1)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_4:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_4(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_5:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_5(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_6:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_6(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %z, i32 %tmp1)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_7:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_7(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smin(i32 %z, i32 %tmp1)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_8:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_8(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp2, i32 %tmp0)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_9:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_9(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp2, i32 %tmp0)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_10:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_10(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %z, i32 %tmp1)
%tmp3 = call i32 @smax(i32 %tmp2, i32 %tmp0)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_11:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_11(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smin(i32 %z, i32 %tmp1)
%tmp3 = call i32 @smax(i32 %tmp2, i32 %tmp0)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_12:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_12(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp2, i32 %tmp0)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_13:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_13(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp2, i32 %tmp0)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_14:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_14(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %z, i32 %tmp1)
%tmp3 = call i32 @smax(i32 %tmp2, i32 %tmp0)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_15:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_15(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smin(i32 %z, i32 %tmp1)
%tmp3 = call i32 @smax(i32 %tmp2, i32 %tmp0)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; 16 combinations
; 16: min(max(x, y), max(min(x, y), z))
; 17: min(max(x, y), max(min(y, x), z))
; 18: min(max(x, y), max(z, min(x, y)))
; 19: min(max(x, y), max(z, min(y, x)))
; 20: min(max(y, x), max(min(x, y), z))
; 21: min(max(y, x), max(min(y, x), z))
; 22: min(max(y, x), max(z, min(x, y)))
; 23: min(max(y, x), max(z, min(y, x)))
;
; + commute outermost min
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_16:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_16(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smax(i32 %tmp0, i32 %z)
%tmp3 = call i32 @smin(i32 %tmp1, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_17:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_17(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smax(i32 %tmp0, i32 %z)
%tmp3 = call i32 @smin(i32 %tmp1, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_18:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_18(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smax(i32 %z, i32 %tmp0)
%tmp3 = call i32 @smin(i32 %tmp1, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_19:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_19(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smax(i32 %z, i32 %tmp0)
%tmp3 = call i32 @smin(i32 %tmp1, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_20:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_20(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smax(i32 %tmp0, i32 %z)
%tmp3 = call i32 @smin(i32 %tmp1, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_21:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_21(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smax(i32 %tmp0, i32 %z)
%tmp3 = call i32 @smin(i32 %tmp1, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_22:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_22(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smax(i32 %z, i32 %tmp0)
%tmp3 = call i32 @smin(i32 %tmp1, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_23:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_23(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smax(i32 %z, i32 %tmp0)
%tmp3 = call i32 @smin(i32 %tmp1, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_24:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_24(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smax(i32 %tmp0, i32 %z)
%tmp3 = call i32 @smin(i32 %tmp2, i32 %tmp1)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_25:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_25(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smax(i32 %tmp0, i32 %z)
%tmp3 = call i32 @smin(i32 %tmp1, i32 %tmp2)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_26:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_26(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smax(i32 %z, i32 %tmp0)
%tmp3 = call i32 @smin(i32 %tmp2, i32 %tmp1)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_27:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_27(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smax(i32 %z, i32 %tmp0)
%tmp3 = call i32 @smin(i32 %tmp2, i32 %tmp1)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_28:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_28(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smax(i32 %tmp0, i32 %z)
%tmp3 = call i32 @smin(i32 %tmp2, i32 %tmp1)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_29:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_29(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smax(i32 %tmp0, i32 %z)
%tmp3 = call i32 @smin(i32 %tmp2, i32 %tmp1)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_30:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_30(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smax(i32 %z, i32 %tmp0)
%tmp3 = call i32 @smin(i32 %tmp2, i32 %tmp1)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_31:
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_31(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %y, i32 %x)
%tmp1 = call i32 @smax(i32 %y, i32 %x)
%tmp2 = call i32 @smax(i32 %z, i32 %tmp0)
%tmp3 = call i32 @smin(i32 %tmp2, i32 %tmp1)
store i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; FIXME: Should keep scalar or not promote
; GCN-LABEL: {{^}}s_test_smed3_i16_pat_0:
; GCN: s_sext_i32_i16
; GCN: s_sext_i32_i16
; GCN: s_sext_i32_i16
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i16_pat_0(ptr addrspace(1) %arg, [8 x i32], i16 %x, [8 x i32], i16 %y, [8 x i32], i16 %z) #1 {
bb:
%tmp0 = call i16 @smin16(i16 %x, i16 %y)
%tmp1 = call i16 @smax16(i16 %x, i16 %y)
%tmp2 = call i16 @smin16(i16 %tmp1, i16 %z)
%tmp3 = call i16 @smax16(i16 %tmp0, i16 %tmp2)
store i16 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i8_pat_0:
; GCN: s_sext_i32_i8
; GCN: s_sext_i32_i8
; GCN: s_sext_i32_i8
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i8_pat_0(ptr addrspace(1) %arg, [8 x i32], i8 %x, [8 x i32], i8 %y, [8 x i32], i8 %z) #1 {
bb:
%tmp0 = call i8 @smin8(i8 %x, i8 %y)
%tmp1 = call i8 @smax8(i8 %x, i8 %y)
%tmp2 = call i8 @smin8(i8 %tmp1, i8 %z)
%tmp3 = call i8 @smax8(i8 %tmp0, i8 %tmp2)
store i8 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_0_multi_use_0:
; GCN: s_min_i32
; GCN-NOT: {{s_min_i32|s_max_i32}}
; GCN: v_med3_i32
define amdgpu_kernel void @s_test_smed3_i32_pat_0_multi_use_0(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store volatile i32 %tmp0, ptr addrspace(1) %arg
store volatile i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_0_multi_use_1:
; GCN: s_max_i32
; GCN-NOT: {{s_min_i32|s_max_i32}}
; GCN: v_med3_i32
define amdgpu_kernel void @s_test_smed3_i32_pat_0_multi_use_1(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store volatile i32 %tmp1, ptr addrspace(1) %arg
store volatile i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_0_multi_use_2:
; GCN: s_max_i32
; GCN: s_min_i32
; GCN-NOT: {{s_min_i32|s_max_i32}}
; GCN: v_med3_i32
define amdgpu_kernel void @s_test_smed3_i32_pat_0_multi_use_2(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store volatile i32 %tmp2, ptr addrspace(1) %arg
store volatile i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_i32_pat_0_multi_use_result:
; GCN-NOT: {{s_min_i32|s_max_i32}}
; GCN: v_med3_i32 v{{[0-9]+}}, s{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_i32_pat_0_multi_use_result(ptr addrspace(1) %arg, i32 %x, i32 %y, i32 %z) #1 {
bb:
%tmp0 = call i32 @smin(i32 %x, i32 %y)
%tmp1 = call i32 @smax(i32 %x, i32 %y)
%tmp2 = call i32 @smin(i32 %tmp1, i32 %z)
%tmp3 = call i32 @smax(i32 %tmp0, i32 %tmp2)
store volatile i32 %tmp3, ptr addrspace(1) %arg
store volatile i32 %tmp3, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}s_test_smed3_reuse_bounds
; GCN-NOT: {{s_min_i32|s_max_i32}}
; GCN: v_med3_i32 v{{[0-9]+}}, [[B0:s[0-9]+]], [[B1:v[0-9]+]], v{{[0-9]+}}
; GCN: v_med3_i32 v{{[0-9]+}}, [[B0]], [[B1]], v{{[0-9]+}}
define amdgpu_kernel void @s_test_smed3_reuse_bounds(ptr addrspace(1) %arg, i32 %b0, i32 %b1, i32 %x, i32 %y) #1 {
bb:
%lo = call i32 @smin(i32 %b0, i32 %b1)
%hi = call i32 @smax(i32 %b0, i32 %b1)
%tmp0 = call i32 @smin(i32 %x, i32 %hi)
%z0 = call i32 @smax(i32 %tmp0, i32 %lo)
%tmp1 = call i32 @smin(i32 %y, i32 %hi)
%z1 = call i32 @smax(i32 %tmp1, i32 %lo)
store volatile i32 %z0, ptr addrspace(1) %arg
store volatile i32 %z1, ptr addrspace(1) %arg
ret void
}
; GCN-LABEL: {{^}}v_test_smed3_i16_pat_0:
; SI: v_med3_i32 v{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
; FIXME: VI not matching med3
; VI: v_min_i16
; VI: v_max_i16
; VI: v_min_i16
; VI: v_max_i16
; GFX9: v_med3_i16 v{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @v_test_smed3_i16_pat_0(ptr addrspace(1) %arg, ptr addrspace(1) %out, ptr addrspace(1) %a.ptr) #1 {
bb:
%tid = call i32 @llvm.amdgcn.workitem.id.x()
%gep0 = getelementptr inbounds i16, ptr addrspace(1) %a.ptr, i32 %tid
%gep1 = getelementptr inbounds i16, ptr addrspace(1) %gep0, i32 3
%gep2 = getelementptr inbounds i16, ptr addrspace(1) %gep0, i32 8
%out.gep = getelementptr inbounds i16, ptr addrspace(1) %out, i32 %tid
%x = load i16, ptr addrspace(1) %gep0
%y = load i16, ptr addrspace(1) %gep1
%z = load i16, ptr addrspace(1) %gep2
%tmp0 = call i16 @smin16(i16 %x, i16 %y)
%tmp1 = call i16 @smax16(i16 %x, i16 %y)
%tmp2 = call i16 @smin16(i16 %tmp1, i16 %z)
%tmp3 = call i16 @smax16(i16 %tmp0, i16 %tmp2)
store i16 %tmp3, ptr addrspace(1) %out.gep
ret void
}
; GCN-LABEL: {{^}}v_test_smed3_i16_pat_1:
; GFX9: v_med3_i16 v{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}, v{{[0-9]+}}
define amdgpu_kernel void @v_test_smed3_i16_pat_1(ptr addrspace(1) %arg, ptr addrspace(1) %out, ptr addrspace(1) %a.ptr) #1 {
bb:
%tid = call i32 @llvm.amdgcn.workitem.id.x()
%gep0 = getelementptr inbounds i16, ptr addrspace(1) %a.ptr, i32 %tid
%gep1 = getelementptr inbounds i16, ptr addrspace(1) %gep0, i32 3
%gep2 = getelementptr inbounds i16, ptr addrspace(1) %gep0, i32 8
%out.gep = getelementptr inbounds i16, ptr addrspace(1) %out, i32 %tid
%x = load i16, ptr addrspace(1) %gep0
%y = load i16, ptr addrspace(1) %gep1
%z = load i16, ptr addrspace(1) %gep2
%tmp0 = call i16 @smin16(i16 %x, i16 %y)
%tmp1 = call i16 @smax16(i16 %x, i16 %y)
%tmp2 = call i16 @smax16(i16 %tmp0, i16 %z)
%tmp3 = call i16 @smin16(i16 %tmp1, i16 %tmp2)
store i16 %tmp3, ptr addrspace(1) %out.gep
ret void
}
attributes #0 = { nounwind readnone }
attributes #1 = { nounwind }
attributes #2 = { nounwind readnone alwaysinline }
Codebase Browser
llvm