lib/Fuzzer/FuzzerInternal.h

   1 //===- FuzzerInternal.h - Internal header for the Fuzzer --------*- C++ -* ===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 // Define the main class fuzzer::Fuzzer and most functions.
  10 //===----------------------------------------------------------------------===//
  11
  12 #ifndef LLVM_FUZZER_INTERNAL_H
  13 #define LLVM_FUZZER_INTERNAL_H
  14
  15 #include <cassert>
  16 #include <climits>
  17 #include <chrono>
  18 #include <cstddef>
  19 #include <cstdlib>
  20 #include <string>
  21 #include <vector>
  22 #include <unordered_set>
  23
  24 #include "FuzzerInterface.h"
  25
  26 namespace fuzzer {
  27 typedef std::vector<uint8_t> Unit;
  28 using namespace std::chrono;
  29
  30 std::string FileToString(const std::string &Path);
  31 Unit FileToVector(const std::string &Path);
  32 void ReadDirToVectorOfUnits(const char *Path, std::vector<Unit> *V,
  33                             long *Epoch);
  34 void WriteToFile(const Unit &U, const std::string &Path);
  35 void CopyFileToErr(const std::string &Path);
  36 // Returns "Dir/FileName" or equivalent for the current OS.
  37 std::string DirPlusFile(const std::string &DirPath,
  38                         const std::string &FileName);
  39
  40 void Printf(const char *Fmt, ...);
  41 void Print(const Unit &U, const char *PrintAfter = "");
  42 void PrintASCII(const Unit &U, const char *PrintAfter = "");
  43 std::string Hash(const Unit &U);
  44 void SetTimer(int Seconds);
  45 void PrintFileAsBase64(const std::string &Path);
  46 void ExecuteCommand(const std::string &Command);
  47
  48 // Private copy of SHA1 implementation.
  49 static const int kSHA1NumBytes = 20;
  50 // Computes SHA1 hash of 'Len' bytes in 'Data', writes kSHA1NumBytes to 'Out'.
  51 void ComputeSHA1(const uint8_t *Data, size_t Len, uint8_t *Out);
  52
  53 // Changes U to contain only ASCII (isprint+isspace) characters.
  54 // Returns true iff U has been changed.
  55 bool ToASCII(Unit &U);
  56 bool IsASCII(const Unit &U);
  57
  58 int NumberOfCpuCores();
  59 int GetPid();
  60
  61 // Dictionary.
  62
  63 // Parses one dictionary entry.
  64 // If successfull, write the enty to Unit and returns true,
  65 // otherwise returns false.
  66 bool ParseOneDictionaryEntry(const std::string &Str, Unit *U);
  67 // Parses the dictionary file, fills Units, returns true iff all lines
  68 // were parsed succesfully.
  69 bool ParseDictionaryFile(const std::string &Text, std::vector<Unit> *Units);
  70
  71 class Fuzzer {
  72  public:
  73   struct FuzzingOptions {
  74     int Verbosity = 1;
  75     int MaxLen = 0;
  76     int UnitTimeoutSec = 300;
  77     int MaxTotalTimeSec = 0;
  78     bool DoCrossOver = true;
  79     int  MutateDepth = 5;
  80     bool ExitOnFirst = false;
  81     bool UseCounters = false;
  82     bool UseTraces = false;
  83     bool UseFullCoverageSet  = false;
  84     bool Reload = true;
  85     int PreferSmallDuringInitialShuffle = -1;
  86     size_t MaxNumberOfRuns = ULONG_MAX;
  87     int SyncTimeout = 600;
  88     int ReportSlowUnits = 10;
  89     bool OnlyASCII = false;
  90     int TBMDepth = 10;
  91     int TBMWidth = 10;
  92     std::string OutputCorpus;
  93     std::string SyncCommand;
  94     std::string ArtifactPrefix = "./";
  95     std::vector<std::string> Tokens;
  96     std::vector<Unit> Dictionary;
  97     bool SaveArtifacts = true;
  98   };
  99   Fuzzer(UserSuppliedFuzzer &USF, FuzzingOptions Options);
 100   void AddToCorpus(const Unit &U) { Corpus.push_back(U); }
 101   void Loop();
 102   void ShuffleAndMinimize();
 103   void InitializeTraceState();
 104   size_t CorpusSize() const { return Corpus.size(); }
 105   void ReadDir(const std::string &Path, long *Epoch) {
 106     ReadDirToVectorOfUnits(Path.c_str(), &Corpus, Epoch);
 107   }
 108   void RereadOutputCorpus();
 109   // Save the current corpus to OutputCorpus.
 110   void SaveCorpus();
 111
 112   size_t secondsSinceProcessStartUp() {
 113     return duration_cast<seconds>(system_clock::now() - ProcessStartTime)
 114         .count();
 115   }
 116
 117   size_t getTotalNumberOfRuns() { return TotalNumberOfRuns; }
 118
 119   static void StaticAlarmCallback();
 120
 121   Unit SubstituteTokens(const Unit &U) const;
 122   void ExecuteCallback(const Unit &U);
 123
 124  private:
 125   void AlarmCallback();
 126   void MutateAndTestOne(Unit *U);
 127   void ReportNewCoverage(size_t NewCoverage, const Unit &U);
 128   size_t RunOne(const Unit &U);
 129   void RunOneAndUpdateCorpus(Unit &U);
 130   size_t RunOneMaximizeTotalCoverage(const Unit &U);
 131   size_t RunOneMaximizeCoveragePairs(const Unit &U);
 132   void WriteToOutputCorpus(const Unit &U);
 133   void WriteUnitToFileWithPrefix(const Unit &U, const char *Prefix);
 134   void PrintStats(const char *Where, size_t Cov, const char *End = "\n");
 135   void PrintUnitInASCIIOrTokens(const Unit &U, const char *PrintAfter = "");
 136
 137   void SyncCorpus();
 138
 139   // Trace-based fuzzing: we run a unit with some kind of tracing
 140   // enabled and record potentially useful mutations. Then
 141   // We apply these mutations one by one to the unit and run it again.
 142
 143   // Start tracing; forget all previously proposed mutations.
 144   void StartTraceRecording();
 145   // Stop tracing and return the number of proposed mutations.
 146   size_t StopTraceRecording();
 147   // Apply Idx-th trace-based mutation to U.
 148   void ApplyTraceBasedMutation(size_t Idx, Unit *U);
 149
 150   void SetDeathCallback();
 151   static void StaticDeathCallback();
 152   void DeathCallback();
 153   Unit CurrentUnit;
 154
 155   size_t TotalNumberOfRuns = 0;
 156   size_t TotalNumberOfExecutedTraceBasedMutations = 0;
 157
 158   std::vector<Unit> Corpus;
 159   std::unordered_set<std::string> UnitHashesAddedToCorpus;
 160
 161   // For UseCounters
 162   std::vector<uint8_t> CounterBitmap;
 163   size_t TotalBits() {  // Slow. Call it only for printing stats.
 164     size_t Res = 0;
 165     for (auto x : CounterBitmap) Res += __builtin_popcount(x);
 166     return Res;
 167   }
 168
 169   UserSuppliedFuzzer &USF;
 170   FuzzingOptions Options;
 171   system_clock::time_point ProcessStartTime = system_clock::now();
 172   system_clock::time_point LastExternalSync = system_clock::now();
 173   system_clock::time_point UnitStartTime;
 174   long TimeOfLongestUnitInSeconds = 0;
 175   long EpochOfLastReadOfOutputCorpus = 0;
 176 };
 177
 178 class SimpleUserSuppliedFuzzer: public UserSuppliedFuzzer {
 179  public:
 180   SimpleUserSuppliedFuzzer(FuzzerRandomBase *Rand, UserCallback Callback)
 181       : UserSuppliedFuzzer(Rand), Callback(Callback) {}
 182
 183   SimpleUserSuppliedFuzzer(FuzzerRandomBase *Rand, DeprecatedUserCallback Callback)
 184       : UserSuppliedFuzzer(Rand), DeprecatedCallback(Callback) {}
 185
 186   virtual int TargetFunction(const uint8_t *Data, size_t Size) override {
 187     if (Callback) return Callback(Data, Size);
 188     DeprecatedCallback(Data, Size);
 189     return 0;
 190   }
 191
 192  private:
 193   DeprecatedUserCallback DeprecatedCallback = nullptr;
 194   UserCallback Callback = nullptr;
 195 };
 196
 197 };  // namespace fuzzer
 198
 199 #endif // LLVM_FUZZER_INTERNAL_H