lib/Analysis/IPA/FindUnsafePointerTypes.cpp

   1 //===- FindUnsafePointerTypes.cpp - Check pointer usage safety --------------=//
   2 //
   3 // This file defines a pass that can be used to determine, interprocedurally,
   4 // which pointer types are accessed unsafely in a program.  If there is an
   5 // "unsafe" access to a specific pointer type, transformations that depend on
   6 // type safety cannot be permitted.
   7 //
   8 // The result of running this analysis over a program is a set of unsafe pointer
   9 // types that cannot be transformed.  Safe pointer types are not tracked.
  10 //
  11 // Additionally, this analysis exports a hidden command line argument that (when
  12 // enabled) prints out the reasons a type was determined to be unsafe.
  13 //
  14 // Currently, the only allowed operations on pointer types are:
  15 //   alloca, malloc, free, getelementptr, load, and store
  16 //
  17 //===----------------------------------------------------------------------===//
  18
  19 #include "llvm/Analysis/FindUnsafePointerTypes.h"
  20 #include "llvm/Assembly/CachedWriter.h"
  21 #include "llvm/Type.h"
  22 #include "llvm/Module.h"
  23 #include "llvm/Support/InstIterator.h"
  24 #include "Support/CommandLine.h"
  25
  26 static RegisterAnalysis<FindUnsafePointerTypes>
  27 X("unsafepointertypes", "Find Unsafe Pointer Types");
  28 AnalysisID FindUnsafePointerTypes::ID(AnalysisID::create<FindUnsafePointerTypes>());
  29
  30 // Provide a command line option to turn on printing of which instructions cause
  31 // a type to become invalid
  32 //
  33 static cl::opt<bool>
  34 PrintFailures("printunsafeptrinst", cl::Hidden,
  35               cl::desc("Print Unsafe Pointer Access Instructions"));
  36
  37 static inline bool isSafeInstruction(const Instruction *I) {
  38   switch (I->getOpcode()) {
  39   case Instruction::Alloca:
  40   case Instruction::Malloc:
  41   case Instruction::Free:
  42   case Instruction::Load:
  43   case Instruction::Store:
  44   case Instruction::GetElementPtr:
  45   case Instruction::Call:
  46   case Instruction::Invoke:
  47   case Instruction::PHINode:
  48     return true;
  49   }
  50   return false;
  51 }
  52
  53
  54 bool FindUnsafePointerTypes::run(Module &Mod) {
  55   for (Module::iterator FI = Mod.begin(), E = Mod.end();
  56        FI != E; ++FI) {
  57     const Function *F = FI;  // We don't need/want write access
  58     for (const_inst_iterator I = inst_begin(F), E = inst_end(F); I != E; ++I) {
  59       const Type *ITy = I->getType();
  60       if (isa<PointerType>(ITy) && !UnsafeTypes.count((PointerType*)ITy))
  61         if (!isSafeInstruction(*I)) {
  62           UnsafeTypes.insert((PointerType*)ITy);
  63
  64           if (PrintFailures) {
  65             CachedWriter CW(F->getParent(), std::cerr);
  66             CW << "FindUnsafePointerTypes: Type '" << ITy
  67                << "' marked unsafe in '" << F->getName() << "' by:\n" << **I;
  68           }
  69         }
  70     }
  71   }
  72
  73   return false;
  74 }
  75
  76
  77 // printResults - Loop over the results of the analysis, printing out unsafe
  78 // types.
  79 //
  80 void FindUnsafePointerTypes::printResults(const Module *M,
  81                                           std::ostream &o) const {
  82   if (UnsafeTypes.empty()) {
  83     o << "SafePointerAccess Analysis: No unsafe types found!\n";
  84     return;
  85   }
  86
  87   CachedWriter CW(M, o);
  88
  89   CW << "SafePointerAccess Analysis: Found these unsafe types:\n";
  90   unsigned Counter = 1;
  91   for (std::set<PointerType*>::const_iterator I = getUnsafeTypes().begin(),
  92          E = getUnsafeTypes().end(); I != E; ++I, ++Counter) {
  93
  94     CW << " #" << Counter << ". " << (Value*)*I << "\n";
  95   }
  96 }