lib/Transforms/IPO/InlineAlways.cpp

   1 //===- InlineAlways.cpp - Code to inline always_inline functions ----------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 // This file implements a custom inliner that handles only functions that
  11 // are marked as "always inline".
  12 //
  13 //===----------------------------------------------------------------------===//
  14
  15 #define DEBUG_TYPE "inline"
  16 #include "llvm/CallingConv.h"
  17 #include "llvm/Instructions.h"
  18 #include "llvm/IntrinsicInst.h"
  19 #include "llvm/Module.h"
  20 #include "llvm/Type.h"
  21 #include "llvm/Analysis/CallGraph.h"
  22 #include "llvm/Analysis/InlineCost.h"
  23 #include "llvm/Support/CallSite.h"
  24 #include "llvm/Transforms/IPO.h"
  25 #include "llvm/Transforms/IPO/InlinerPass.h"
  26 #include "llvm/Target/TargetData.h"
  27 #include "llvm/ADT/SmallPtrSet.h"
  28
  29 using namespace llvm;
  30
  31 namespace {
  32
  33   // AlwaysInliner only inlines functions that are mark as "always inline".
  34   class AlwaysInliner : public Inliner {
  35     // Functions that are never inlined
  36     SmallPtrSet<const Function*, 16> NeverInline;
  37     InlineCostAnalyzer CA;
  38   public:
  39     // Use extremely low threshold.
  40     AlwaysInliner() : Inliner(ID, -2000000000, true) {
  41       initializeAlwaysInlinerPass(*PassRegistry::getPassRegistry());
  42     }
  43     AlwaysInliner(bool InsertLifetime) : Inliner(ID, -2000000000,
  44                                                  InsertLifetime) {
  45       initializeAlwaysInlinerPass(*PassRegistry::getPassRegistry());
  46     }
  47     static char ID; // Pass identification, replacement for typeid
  48     InlineCost getInlineCost(CallSite CS) {
  49       return CA.getInlineCost(CS, NeverInline);
  50     }
  51     float getInlineFudgeFactor(CallSite CS) {
  52       return CA.getInlineFudgeFactor(CS);
  53     }
  54     void resetCachedCostInfo(Function *Caller) {
  55       CA.resetCachedCostInfo(Caller);
  56     }
  57     void growCachedCostInfo(Function* Caller, Function* Callee) {
  58       CA.growCachedCostInfo(Caller, Callee);
  59     }
  60     virtual bool doFinalization(CallGraph &CG) {
  61       return removeDeadFunctions(CG, &NeverInline);
  62     }
  63     virtual bool doInitialization(CallGraph &CG);
  64     void releaseMemory() {
  65       CA.clear();
  66     }
  67   };
  68 }
  69
  70 char AlwaysInliner::ID = 0;
  71 INITIALIZE_PASS_BEGIN(AlwaysInliner, "always-inline",
  72                 "Inliner for always_inline functions", false, false)
  73 INITIALIZE_AG_DEPENDENCY(CallGraph)
  74 INITIALIZE_PASS_END(AlwaysInliner, "always-inline",
  75                 "Inliner for always_inline functions", false, false)
  76
  77 Pass *llvm::createAlwaysInlinerPass() { return new AlwaysInliner(); }
  78
  79 Pass *llvm::createAlwaysInlinerPass(bool InsertLifetime) {
  80   return new AlwaysInliner(InsertLifetime);
  81 }
  82
  83 // doInitialization - Initializes the vector of functions that have not
  84 // been annotated with the "always inline" attribute.
  85 bool AlwaysInliner::doInitialization(CallGraph &CG) {
  86   CA.setTargetData(getAnalysisIfAvailable<TargetData>());
  87
  88   Module &M = CG.getModule();
  89
  90   for (Module::iterator I = M.begin(), E = M.end(); I != E; ++I)
  91     if (!I->isDeclaration() && !I->hasFnAttr(Attribute::AlwaysInline))
  92       NeverInline.insert(I);
  93
  94   return false;
  95 }