lib/Transforms/Utils/BasicInliner.cpp

   1 //===- BasicInliner.cpp - Basic function level inliner --------------------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 // This file defines a simple function based inliner that does not use
  11 // call graph information.
  12 //
  13 //===----------------------------------------------------------------------===//
  14
  15 #define DEBUG_TYPE "basicinliner"
  16
  17 #include "llvm/Module.h"
  18 #include "llvm/Function.h"
  19 #include "llvm/Transforms/Utils/BasicInliner.h"
  20 #include "llvm/Transforms/Utils/Cloning.h"
  21 #include "llvm/Support/CallSite.h"
  22 #include "llvm/Support/CommandLine.h"
  23 #include "llvm/Support/Debug.h"
  24 #include "llvm/ADT/SmallPtrSet.h"
  25 #include <vector>
  26
  27 using namespace llvm;
  28
  29 static cl::opt<unsigned>
  30 BasicInlineThreshold("inline-threshold", cl::Hidden, cl::init(200),
  31    cl::desc("Control the amount of basic inlining to perform (default = 200)"));
  32
  33 namespace llvm {
  34
  35   /// BasicInlinerImpl - BasicInliner implemantation class. This hides
  36   /// container info, used by basic inliner, from public interface.
  37   struct VISIBILITY_HIDDEN BasicInlinerImpl {
  38
  39     BasicInlinerImpl(const BasicInlinerImpl&); // DO NOT IMPLEMENT
  40     void operator=(const BasicInlinerImpl&); // DO NO IMPLEMENT
  41   public:
  42     BasicInlinerImpl(TargetData *T) : TD(T) {}
  43
  44     /// addFunction - Add function into the list of functions to process.
  45     /// All functions must be inserted using this interface before invoking
  46     /// inlineFunctions().
  47     void addFunction(Function *F) {
  48       Functions.push_back(F);
  49     }
  50
  51     /// neverInlineFunction - Sometimes a function is never to be inlined
  52     /// because of one or other reason.
  53     void neverInlineFunction(Function *F) {
  54       NeverInline.insert(F);
  55     }
  56
  57     /// inlineFuctions - Walk all call sites in all functions supplied by
  58     /// client. Inline as many call sites as possible. Delete completely
  59     /// inlined functions.
  60     void inlineFunctions();
  61
  62   private:
  63     TargetData *TD;
  64     std::vector<Function *> Functions;
  65     SmallPtrSet<const Function *, 16> NeverInline;
  66     SmallPtrSet<Function *, 8> DeadFunctions;
  67     InlineCostAnalyzer CA;
  68   };
  69
  70 /// inlineFuctions - Walk all call sites in all functions supplied by
  71 /// client. Inline as many call sites as possible. Delete completely
  72 /// inlined functions.
  73 void BasicInlinerImpl::inlineFunctions() {
  74
  75   // Scan through and identify all call sites ahead of time so that we only
  76   // inline call sites in the original functions, not call sites that result
  77   // from inlining other functions.
  78   std::vector<CallSite> CallSites;
  79
  80   for (std::vector<Function *>::iterator FI = Functions.begin(),
  81          FE = Functions.end(); FI != FE; ++FI) {
  82     Function *F = *FI;
  83     for (Function::iterator BB = F->begin(), E = F->end(); BB != E; ++BB)
  84       for (BasicBlock::iterator I = BB->begin(); I != BB->end(); ++I) {
  85         CallSite CS = CallSite::get(I);
  86         if (CS.getInstruction() && CS.getCalledFunction()
  87             && !CS.getCalledFunction()->isDeclaration())
  88           CallSites.push_back(CS);
  89       }
  90   }
  91
  92   DOUT << ": " << CallSites.size() << " call sites.\n";
  93
  94   // Inline call sites.
  95   bool Changed = false;
  96   do {
  97     Changed = false;
  98     for (unsigned index = 0; index != CallSites.size() && !CallSites.empty();
  99          ++index) {
 100       CallSite CS = CallSites[index];
 101       if (Function *Callee = CS.getCalledFunction()) {
 102
 103         // Eliminate calls that are never inlinable.
 104         if (Callee->isDeclaration() ||
 105             CS.getInstruction()->getParent()->getParent() == Callee) {
 106           CallSites.erase(CallSites.begin() + index);
 107           --index;
 108           continue;
 109         }
 110         int InlineCost = CA.getInlineCost(CS, NeverInline);
 111         if (InlineCost >= (int) BasicInlineThreshold) {
 112           DOUT << "  NOT Inlining: cost = " << InlineCost
 113                << ", call: " <<  *CS.getInstruction();
 114           continue;
 115         }
 116
 117         DOUT << "  Inlining: cost=" << InlineCost
 118              <<", call: " << *CS.getInstruction();
 119
 120         // Inline
 121         if (InlineFunction(CS, NULL, TD)) {
 122           if (Callee->use_empty() && Callee->hasInternalLinkage())
 123             DeadFunctions.insert(Callee);
 124           Changed = true;
 125           CallSites.erase(CallSites.begin() + index);
 126           --index;
 127         }
 128       }
 129     }
 130   } while (Changed);
 131
 132   // Remove completely inlined functions from module.
 133   for(SmallPtrSet<Function *, 8>::iterator I = DeadFunctions.begin(),
 134         E = DeadFunctions.end(); I != E; ++I) {
 135     Function *D = *I;
 136     Module *M = D->getParent();
 137     M->getFunctionList().remove(D);
 138   }
 139 }
 140
 141 BasicInliner::BasicInliner(TargetData *TD) {
 142   Impl = new BasicInlinerImpl(TD);
 143 }
 144
 145 BasicInliner::~BasicInliner() {
 146   delete Impl;
 147 }
 148
 149 /// addFunction - Add function into the list of functions to process.
 150 /// All functions must be inserted using this interface before invoking
 151 /// inlineFunctions().
 152 void BasicInliner::addFunction(Function *F) {
 153   Impl->addFunction(F);
 154 }
 155
 156 /// neverInlineFunction - Sometimes a function is never to be inlined because
 157 /// of one or other reason.
 158 void BasicInliner::neverInlineFunction(Function *F) {
 159   Impl->neverInlineFunction(F);
 160 }
 161
 162 /// inlineFuctions - Walk all call sites in all functions supplied by
 163 /// client. Inline as many call sites as possible. Delete completely
 164 /// inlined functions.
 165 void BasicInliner::inlineFunctions() {
 166   Impl->inlineFunctions();
 167 }
 168
 169 }