Fix for the following bug in AVX codegen for double-to-int conversions:
authorVictor Umansky <victor.umansky@intel.com>
Thu, 26 Jan 2012 08:51:39 +0000 (08:51 +0000)
committerVictor Umansky <victor.umansky@intel.com>
Thu, 26 Jan 2012 08:51:39 +0000 (08:51 +0000)
commit668f7ac9e4642e1b4af4f5b047d569c68bc2c55f
treee2865732f4a8dc4baeb255150480f00513e51281
parenta3937416e43b485633035e8184755d9a94efb7b3
Fix for the following bug in AVX codegen for double-to-int conversions:
. "fptosi" and "fptoui" IR instructions are defined with round-to-zero rounding mode.
. Currently for AVX mode for <4xdouble> and <8xdouble>  the "VCVTPD2DQ.128" and "VCVTPD2DQ.256" instructions are selected (for .fp_to_sint. DAG node operation ) by AVX codegen. However they use round-to-nearest-even rounding mode.
. Consequently, the conversion produces incorrect numbers.

The fix is to replace selection of VCVTPD2DQ instructions with VCVTTPD2DQ instructions. The latter use truncate (i.e. round-to-zero) rounding mode.
As .fp_to_sint. DAG node operation is used only for lowering of  "fptosi" and "fptoui" IR instructions, the fix in X86InstrSSE.td definition file doesn.t have an impact on other LLVM flows.

The patch includes changes in the .td file, LIT test for the changes and a fix in a legacy LIT test (which produced asm code conflicting with LLVN IR spec).

git-svn-id: https://llvm.org/svn/llvm-project/llvm/trunk@149056 91177308-0d34-0410-b5e6-96231b3b80d8
lib/Target/X86/X86InstrSSE.td
test/CodeGen/X86/avx-cvt.ll
test/CodeGen/X86/avx-fp2int.ll [new file with mode: 0755]