[RewriteStatepointsForGC] Extend base pointer to handle more cases w/vectors
authorPhilip Reames <listmail@philipreames.com>
Tue, 12 May 2015 22:19:52 +0000 (22:19 +0000)
committerPhilip Reames <listmail@philipreames.com>
Tue, 12 May 2015 22:19:52 +0000 (22:19 +0000)
commit6865b977ae7654be9f2dc6eee04b2e140912e9b2
tree3e0f884ca3b23f304b4d652a1b2bb3a6b60ed27a
parentb8a0c0ecb380061e76d0535c909a1f5f13cc3c10
[RewriteStatepointsForGC] Extend base pointer to handle more cases w/vectors

When relocating a pointer, we need to determine a base pointer for the derived pointer being relocated. We have limited support for handling a pointer extracted from a vector; the current code only handled the case where the entire vector was known to contain base pointers. This patch extends the reasoning to handle chains of insertelements where the indices are constants. This case turns out to be fairly common in vectorized code. We can now handle vectors which contains mixtures of base and derived pointers provided the insertelements use constant indices.

Note that this doesn't solve the general problem. To handle variable indexed insertelements, we'd need to scalarize and introduce conditional branching based on the index. Alternatively, we could eagerly scalarize, but the code structure doesn't currently make either fix easy. The patch also doesn't handle shufflevector or other vector manipulation for much the same reasons. I plan to defer this work until I have a motivating test case.

Differential Revision: http://reviews.llvm.org/D9676

git-svn-id: https://llvm.org/svn/llvm-project/llvm/trunk@237200 91177308-0d34-0410-b5e6-96231b3b80d8
lib/Transforms/Scalar/RewriteStatepointsForGC.cpp
test/Transforms/RewriteStatepointsForGC/live-vector.ll