[Scalarizer] Fix potential for stale data in Scattered across invocations
authorMatt Wala <wala@google.com>
Thu, 23 Jul 2015 20:53:46 +0000 (20:53 +0000)
committerMatt Wala <wala@google.com>
Thu, 23 Jul 2015 20:53:46 +0000 (20:53 +0000)
commit106d75d3966041be6510be6953f5c7b8d81e7de2
tree347c714899266d10f0707127448c2084ad29476f
parent31c063d4052dc73925b4a013f5713d2daa3e7a00
[Scalarizer] Fix potential for stale data in Scattered across invocations

Summary:
Scalarizer has two data structures that hold information about changes
to the function, Gathered and Scattered. These are cleared in finish()
at the end of runOnFunction() if finish() detects any changes to the
function.

However, finish() was checking for changes by only checking if
Gathered was non-empty. The function visitStore() only modifies
Scattered without touching Gathered. As a result, Scattered could have
ended up having stale data if Scalarizer only scalarized store
instructions. Since the data in Scattered is used during the execution
of the pass, this introduced dangling pointer errors.

The fix is to check whether both Scattered and Gathered are empty
before deciding what to do in finish(). This also fixes a problem
where the Function can be modified although the pass returns false.

Reviewers: rnk

Subscribers: rnk, srhines, llvm-commits

Differential Revision: http://reviews.llvm.org/D10459

git-svn-id: https://llvm.org/svn/llvm-project/llvm/trunk@243040 91177308-0d34-0410-b5e6-96231b3b80d8
lib/Transforms/Scalar/Scalarizer.cpp
test/Transforms/Scalarizer/store-bug.ll [new file with mode: 0644]