Fix BasicTTI::getCmpSelInstrCost to deal with illegal vector types
authorHal Finkel <hfinkel@anl.gov>
Tue, 16 Sep 2014 04:35:50 +0000 (04:35 +0000)
committerHal Finkel <hfinkel@anl.gov>
Tue, 16 Sep 2014 04:35:50 +0000 (04:35 +0000)
commit8def8d9263264cc0e8fc0be5438c4df19c963f47
treed23022ba203373a056bbb34d685369429b84424c
parent50c1eff6291d277e68092560f14097ac71618e76
Fix BasicTTI::getCmpSelInstrCost to deal with illegal vector types

The default implementation of getCmpSelInstrCost, which provides the cost of
icmp/fcmp/select instructions, did not deal sensibly with illegal vector types
that were scalarized. We'd ask for the legalization cost of the vector type,
which would return something like (4, f64) given an input of <4 x double>, and
we'd then check the TLI status of the ISD opcode on that scalar type. This would
result in querying (ISD::VSELECT, f64), for example. Amusingly enough,
ISD::VSELECT on scalar types is marked as Legal by default (as with most other
operations), and most backends never change this because VSELECT is never
generated on scalars. However, seeing the resulting operation as Legal, we'd
neglect to add the scalarization cost before returning. The result is that we'd
grossly under-estimate the cost of cmps/selects on illegal vector types.

Now, if type legalization clearly results in scalarization, we skip the early
return and add the scalarization cost.

git-svn-id: https://llvm.org/svn/llvm-project/llvm/trunk@217859 91177308-0d34-0410-b5e6-96231b3b80d8
lib/CodeGen/BasicTargetTransformInfo.cpp
test/Analysis/CostModel/PowerPC/cmp-expanded.ll [new file with mode: 0644]