lib/Transforms/Utils/LCSSA.cpp

   1 //===-- LCSSA.cpp - Convert loops into loop-closed SSA form ---------------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file was developed by Owen Anderson and is distributed under the
   6 // University of Illinois Open Source License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 // This pass transforms loops by placing phi nodes at the end of the loops for
  11 // all values that are live across the loop boundary.  For example, it turns
  12 // the left into the right code:
  13 //
  14 // for (...)                for (...)
  15 //   if (c)                   if(c)
  16 //     X1 = ...                 X1 = ...
  17 //   else                     else
  18 //     X2 = ...                 X2 = ...
  19 //   X3 = phi(X1, X2)         X3 = phi(X1, X2)
  20 // ... = X3 + 4              X4 = phi(X3)
  21 //                           ... = X4 + 4
  22 //
  23 // This is still valid LLVM; the extra phi nodes are purely redundant, and will
  24 // be trivially eliminated by InstCombine.  The major benefit of this
  25 // transformation is that it makes many other loop optimizations, such as
  26 // LoopUnswitching, simpler.
  27 //
  28 //===----------------------------------------------------------------------===//
  29
  30 #include "llvm/Transforms/Scalar.h"
  31 #include "llvm/Pass.h"
  32 #include "llvm/Function.h"
  33 #include "llvm/Instructions.h"
  34 #include "llvm/ADT/SetVector.h"
  35 #include "llvm/ADT/Statistic.h"
  36 #include "llvm/Analysis/Dominators.h"
  37 #include "llvm/Analysis/LoopInfo.h"
  38 #include "llvm/Support/CFG.h"
  39 #include <algorithm>
  40 #include <map>
  41
  42 using namespace llvm;
  43
  44 namespace {
  45   static Statistic<> NumLCSSA("lcssa",
  46                               "Number of live out of a loop variables");
  47
  48   class LCSSA : public FunctionPass {
  49   public:
  50
  51
  52     LoopInfo *LI;  // Loop information
  53     DominatorTree *DT;       // Dominator Tree for the current Function...
  54     DominanceFrontier *DF;   // Current Dominance Frontier
  55     std::vector<BasicBlock*> LoopBlocks;
  56
  57     virtual bool runOnFunction(Function &F);
  58     bool visitSubloop(Loop* L);
  59     void processInstruction(Instruction* Instr,
  60                             const std::vector<BasicBlock*>& exitBlocks);
  61
  62     /// This transformation requires natural loop information & requires that
  63     /// loop preheaders be inserted into the CFG.  It maintains both of these,
  64     /// as well as the CFG.  It also requires dominator information.
  65     ///
  66     virtual void getAnalysisUsage(AnalysisUsage &AU) const {
  67       AU.setPreservesCFG();
  68       AU.addRequiredID(LoopSimplifyID);
  69       AU.addPreservedID(LoopSimplifyID);
  70       AU.addRequired<LoopInfo>();
  71       AU.addRequired<DominatorTree>();
  72       AU.addRequired<DominanceFrontier>();
  73     }
  74   private:
  75     SetVector<Instruction*> getLoopValuesUsedOutsideLoop(Loop *L);
  76     Instruction *getValueDominatingBlock(BasicBlock *BB,
  77                                   std::map<BasicBlock*, Instruction*>& PotDoms);
  78
  79     /// inLoop - returns true if the given block is within the current loop
  80     const bool inLoop(BasicBlock* B) {
  81       return std::binary_search(LoopBlocks.begin(), LoopBlocks.end(), B);
  82     }
  83   };
  84
  85   RegisterOpt<LCSSA> X("lcssa", "Loop-Closed SSA Form Pass");
  86 }
  87
  88 FunctionPass *llvm::createLCSSAPass() { return new LCSSA(); }
  89 const PassInfo *llvm::LCSSAID = X.getPassInfo();
  90
  91 /// runOnFunction - Process all loops in the function, inner-most out.
  92 bool LCSSA::runOnFunction(Function &F) {
  93   bool changed = false;
  94   LI = &getAnalysis<LoopInfo>();
  95   DF = &getAnalysis<DominanceFrontier>();
  96   DT = &getAnalysis<DominatorTree>();
  97
  98   for (LoopInfo::iterator I = LI->begin(), E = LI->end(); I != E; ++I) {
  99     changed |= visitSubloop(*I);
 100   }
 101
 102   return changed;
 103 }
 104
 105 /// visitSubloop - Recursively process all subloops, and then process the given
 106 /// loop if it has live-out values.
 107 bool LCSSA::visitSubloop(Loop* L) {
 108   for (Loop::iterator I = L->begin(), E = L->end(); I != E; ++I)
 109     visitSubloop(*I);
 110
 111   // Speed up queries by creating a sorted list of blocks
 112   LoopBlocks.clear();
 113   LoopBlocks.insert(LoopBlocks.end(), L->block_begin(), L->block_end());
 114   std::sort(LoopBlocks.begin(), LoopBlocks.end());
 115
 116   SetVector<Instruction*> AffectedValues = getLoopValuesUsedOutsideLoop(L);
 117
 118   // If no values are affected, we can save a lot of work, since we know that
 119   // nothing will be changed.
 120   if (AffectedValues.empty())
 121     return false;
 122
 123   std::vector<BasicBlock*> exitBlocks;
 124   L->getExitBlocks(exitBlocks);
 125
 126
 127   // Iterate over all affected values for this loop and insert Phi nodes
 128   // for them in the appropriate exit blocks
 129
 130   for (SetVector<Instruction*>::iterator I = AffectedValues.begin(),
 131        E = AffectedValues.end(); I != E; ++I) {
 132     processInstruction(*I, exitBlocks);
 133   }
 134
 135   assert(L->isLCSSAForm());
 136
 137   return true;
 138 }
 139
 140 /// processInstruction - Given a live-out instruction, insert LCSSA Phi nodes,
 141 /// eliminate all out-of-loop uses.
 142 void LCSSA::processInstruction(Instruction* Instr,
 143                                const std::vector<BasicBlock*>& exitBlocks)
 144 {
 145   ++NumLCSSA; // We are applying the transformation
 146
 147   std::map<BasicBlock*, Instruction*> Phis;
 148
 149   // Add the base instruction to the Phis list.  This makes tracking down
 150   // the dominating values easier when we're filling in Phi nodes.  This will
 151   // be removed later, before we perform use replacement.
 152   Phis[Instr->getParent()] = Instr;
 153
 154   // Phi nodes that need to be IDF-processed
 155   std::vector<PHINode*> workList;
 156
 157   for (std::vector<BasicBlock*>::const_iterator BBI = exitBlocks.begin(),
 158       BBE = exitBlocks.end(); BBI != BBE; ++BBI)
 159     if (DT->getNode(Instr->getParent())->dominates(DT->getNode(*BBI))) {
 160       PHINode *phi = new PHINode(Instr->getType(), Instr->getName()+".lcssa",
 161                                  (*BBI)->begin());
 162       workList.push_back(phi);
 163       Phis[*BBI] = phi;
 164     }
 165
 166   // Phi nodes that need to have their incoming values filled.
 167   std::vector<PHINode*> needIncomingValues;
 168
 169   // Calculate the IDF of these LCSSA Phi nodes, inserting new Phi's where
 170   // necessary.  Keep track of these new Phi's in the "Phis" map.
 171   while (!workList.empty()) {
 172     PHINode *CurPHI = workList.back();
 173     workList.pop_back();
 174
 175     // Even though we've removed this Phi from the work list, we still need
 176     // to fill in its incoming values.
 177     needIncomingValues.push_back(CurPHI);
 178
 179     // Get the current Phi's DF, and insert Phi nodes.  Add these new
 180     // nodes to our worklist.
 181     DominanceFrontier::const_iterator it = DF->find(CurPHI->getParent());
 182     if (it != DF->end()) {
 183       const DominanceFrontier::DomSetType &S = it->second;
 184       for (DominanceFrontier::DomSetType::const_iterator P = S.begin(),
 185            PE = S.end(); P != PE; ++P) {
 186         if (DT->getNode(Instr->getParent())->dominates(DT->getNode(*P))) {
 187           Instruction *&Phi = Phis[*P];
 188           if (Phi == 0) {
 189             // Still doesn't have operands...
 190             Phi = new PHINode(Instr->getType(), Instr->getName()+".lcssa",
 191                               (*P)->begin());
 192
 193             workList.push_back(cast<PHINode>(Phi));
 194           }
 195         }
 196       }
 197     }
 198   }
 199
 200   // Fill in all Phis we've inserted that need their incoming values filled in.
 201   for (std::vector<PHINode*>::iterator IVI = needIncomingValues.begin(),
 202        IVE = needIncomingValues.end(); IVI != IVE; ++IVI) {
 203     for (pred_iterator PI = pred_begin((*IVI)->getParent()),
 204          E = pred_end((*IVI)->getParent()); PI != E; ++PI)
 205       (*IVI)->addIncoming(getValueDominatingBlock(*PI, Phis),
 206                           *PI);
 207   }
 208
 209   // Find all uses of the affected value, and replace them with the
 210   // appropriate Phi.
 211   std::vector<Instruction*> Uses;
 212   for (Instruction::use_iterator UI = Instr->use_begin(), UE = Instr->use_end();
 213        UI != UE; ++UI) {
 214     Instruction* use = cast<Instruction>(*UI);
 215     // Don't need to update uses within the loop body.
 216     if (!inLoop(use->getParent()))
 217       Uses.push_back(use);
 218   }
 219
 220   for (std::vector<Instruction*>::iterator II = Uses.begin(), IE = Uses.end();
 221        II != IE; ++II) {
 222     if (PHINode* phi = dyn_cast<PHINode>(*II)) {
 223       for (unsigned int i = 0; i < phi->getNumIncomingValues(); ++i) {
 224         if (phi->getIncomingValue(i) == Instr) {
 225           Instruction* dominator =
 226                         getValueDominatingBlock(phi->getIncomingBlock(i), Phis);
 227           phi->setIncomingValue(i, dominator);
 228         }
 229       }
 230     } else {
 231        Value *NewVal = getValueDominatingBlock((*II)->getParent(), Phis);
 232        (*II)->replaceUsesOfWith(Instr, NewVal);
 233     }
 234   }
 235 }
 236
 237 /// getLoopValuesUsedOutsideLoop - Return any values defined in the loop that
 238 /// are used by instructions outside of it.
 239 SetVector<Instruction*> LCSSA::getLoopValuesUsedOutsideLoop(Loop *L) {
 240
 241   // FIXME: For large loops, we may be able to avoid a lot of use-scanning
 242   // by using dominance information.  In particular, if a block does not
 243   // dominate any of the loop exits, then none of the values defined in the
 244   // block could be used outside the loop.
 245
 246   SetVector<Instruction*> AffectedValues;
 247   for (Loop::block_iterator BB = L->block_begin(), E = L->block_end();
 248        BB != E; ++BB) {
 249     for (BasicBlock::iterator I = (*BB)->begin(), E = (*BB)->end(); I != E; ++I)
 250       for (Value::use_iterator UI = I->use_begin(), E = I->use_end(); UI != E;
 251            ++UI) {
 252         BasicBlock *UserBB = cast<Instruction>(*UI)->getParent();
 253         if (!inLoop(UserBB)) {
 254           AffectedValues.insert(I);
 255           break;
 256         }
 257       }
 258   }
 259   return AffectedValues;
 260 }
 261
 262 /// getValueDominatingBlock - Return the value within the potential dominators
 263 /// map that dominates the given block.
 264 Instruction *LCSSA::getValueDominatingBlock(BasicBlock *BB,
 265                                  std::map<BasicBlock*, Instruction*>& PotDoms) {
 266   DominatorTree::Node* bbNode = DT->getNode(BB);
 267   while (bbNode != 0) {
 268     std::map<BasicBlock*, Instruction*>::iterator I =
 269                                                PotDoms.find(bbNode->getBlock());
 270     if (I != PotDoms.end()) {
 271       return (*I).second;
 272     }
 273     bbNode = bbNode->getIDom();
 274   }
 275
 276   assert(0 && "No dominating value found.");
 277
 278   return 0;
 279 }