[libFuzzer] remove the deprecated 'tokens' feature
[oota-llvm.git] / lib / Fuzzer / FuzzerInternal.h
1 //===- FuzzerInternal.h - Internal header for the Fuzzer --------*- C++ -* ===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 // Define the main class fuzzer::Fuzzer and most functions.
10 //===----------------------------------------------------------------------===//
11
12 #ifndef LLVM_FUZZER_INTERNAL_H
13 #define LLVM_FUZZER_INTERNAL_H
14
15 #include <cassert>
16 #include <climits>
17 #include <chrono>
18 #include <cstddef>
19 #include <cstdlib>
20 #include <string>
21 #include <vector>
22 #include <unordered_set>
23
24 #include "FuzzerInterface.h"
25
26 namespace fuzzer {
27 typedef std::vector<uint8_t> Unit;
28 using namespace std::chrono;
29
30 std::string FileToString(const std::string &Path);
31 Unit FileToVector(const std::string &Path);
32 void ReadDirToVectorOfUnits(const char *Path, std::vector<Unit> *V,
33                             long *Epoch);
34 void WriteToFile(const Unit &U, const std::string &Path);
35 void CopyFileToErr(const std::string &Path);
36 // Returns "Dir/FileName" or equivalent for the current OS.
37 std::string DirPlusFile(const std::string &DirPath,
38                         const std::string &FileName);
39
40 void Printf(const char *Fmt, ...);
41 void Print(const Unit &U, const char *PrintAfter = "");
42 void PrintASCII(const Unit &U, const char *PrintAfter = "");
43 std::string Hash(const Unit &U);
44 void SetTimer(int Seconds);
45 void PrintFileAsBase64(const std::string &Path);
46 void ExecuteCommand(const std::string &Command);
47
48 // Private copy of SHA1 implementation.
49 static const int kSHA1NumBytes = 20;
50 // Computes SHA1 hash of 'Len' bytes in 'Data', writes kSHA1NumBytes to 'Out'.
51 void ComputeSHA1(const uint8_t *Data, size_t Len, uint8_t *Out);
52
53 // Changes U to contain only ASCII (isprint+isspace) characters.
54 // Returns true iff U has been changed.
55 bool ToASCII(Unit &U);
56 bool IsASCII(const Unit &U);
57
58 int NumberOfCpuCores();
59 int GetPid();
60
61 // Dictionary.
62
63 // Parses one dictionary entry.
64 // If successfull, write the enty to Unit and returns true,
65 // otherwise returns false.
66 bool ParseOneDictionaryEntry(const std::string &Str, Unit *U);
67 // Parses the dictionary file, fills Units, returns true iff all lines
68 // were parsed succesfully.
69 bool ParseDictionaryFile(const std::string &Text, std::vector<Unit> *Units);
70
71 class Fuzzer {
72  public:
73   struct FuzzingOptions {
74     int Verbosity = 1;
75     int MaxLen = 0;
76     int UnitTimeoutSec = 300;
77     int MaxTotalTimeSec = 0;
78     bool DoCrossOver = true;
79     int  MutateDepth = 5;
80     bool ExitOnFirst = false;
81     bool UseCounters = false;
82     bool UseTraces = false;
83     bool UseFullCoverageSet  = false;
84     bool Reload = true;
85     bool ShuffleAtStartUp = true;
86     int PreferSmallDuringInitialShuffle = -1;
87     size_t MaxNumberOfRuns = ULONG_MAX;
88     int SyncTimeout = 600;
89     int ReportSlowUnits = 10;
90     bool OnlyASCII = false;
91     int TBMDepth = 10;
92     int TBMWidth = 10;
93     std::string OutputCorpus;
94     std::string SyncCommand;
95     std::string ArtifactPrefix = "./";
96     std::vector<Unit> Dictionary;
97     bool SaveArtifacts = true;
98   };
99   Fuzzer(UserSuppliedFuzzer &USF, FuzzingOptions Options);
100   void AddToCorpus(const Unit &U) { Corpus.push_back(U); }
101   void Loop();
102   void ShuffleAndMinimize();
103   void InitializeTraceState();
104   size_t CorpusSize() const { return Corpus.size(); }
105   void ReadDir(const std::string &Path, long *Epoch) {
106     ReadDirToVectorOfUnits(Path.c_str(), &Corpus, Epoch);
107   }
108   void RereadOutputCorpus();
109   // Save the current corpus to OutputCorpus.
110   void SaveCorpus();
111
112   size_t secondsSinceProcessStartUp() {
113     return duration_cast<seconds>(system_clock::now() - ProcessStartTime)
114         .count();
115   }
116
117   size_t getTotalNumberOfRuns() { return TotalNumberOfRuns; }
118
119   static void StaticAlarmCallback();
120
121   void ExecuteCallback(const Unit &U);
122
123  private:
124   void AlarmCallback();
125   void MutateAndTestOne(Unit *U);
126   void ReportNewCoverage(size_t NewCoverage, const Unit &U);
127   size_t RunOne(const Unit &U);
128   void RunOneAndUpdateCorpus(Unit &U);
129   size_t RunOneMaximizeTotalCoverage(const Unit &U);
130   size_t RunOneMaximizeCoveragePairs(const Unit &U);
131   void WriteToOutputCorpus(const Unit &U);
132   void WriteUnitToFileWithPrefix(const Unit &U, const char *Prefix);
133   void PrintStats(const char *Where, size_t Cov, const char *End = "\n");
134   void PrintUnitInASCII(const Unit &U, const char *PrintAfter = "");
135
136   void SyncCorpus();
137
138   // Trace-based fuzzing: we run a unit with some kind of tracing
139   // enabled and record potentially useful mutations. Then
140   // We apply these mutations one by one to the unit and run it again.
141
142   // Start tracing; forget all previously proposed mutations.
143   void StartTraceRecording();
144   // Stop tracing and return the number of proposed mutations.
145   size_t StopTraceRecording();
146   // Apply Idx-th trace-based mutation to U.
147   void ApplyTraceBasedMutation(size_t Idx, Unit *U);
148
149   void SetDeathCallback();
150   static void StaticDeathCallback();
151   void DeathCallback();
152   Unit CurrentUnit;
153
154   size_t TotalNumberOfRuns = 0;
155   size_t TotalNumberOfExecutedTraceBasedMutations = 0;
156
157   std::vector<Unit> Corpus;
158   std::unordered_set<std::string> UnitHashesAddedToCorpus;
159
160   // For UseCounters
161   std::vector<uint8_t> CounterBitmap;
162   size_t TotalBits() {  // Slow. Call it only for printing stats.
163     size_t Res = 0;
164     for (auto x : CounterBitmap) Res += __builtin_popcount(x);
165     return Res;
166   }
167
168   UserSuppliedFuzzer &USF;
169   FuzzingOptions Options;
170   system_clock::time_point ProcessStartTime = system_clock::now();
171   system_clock::time_point LastExternalSync = system_clock::now();
172   system_clock::time_point UnitStartTime;
173   long TimeOfLongestUnitInSeconds = 0;
174   long EpochOfLastReadOfOutputCorpus = 0;
175 };
176
177 class SimpleUserSuppliedFuzzer: public UserSuppliedFuzzer {
178  public:
179   SimpleUserSuppliedFuzzer(FuzzerRandomBase *Rand, UserCallback Callback)
180       : UserSuppliedFuzzer(Rand), Callback(Callback) {}
181
182   SimpleUserSuppliedFuzzer(FuzzerRandomBase *Rand, DeprecatedUserCallback Callback)
183       : UserSuppliedFuzzer(Rand), DeprecatedCallback(Callback) {}
184
185   virtual int TargetFunction(const uint8_t *Data, size_t Size) override {
186     if (Callback) return Callback(Data, Size);
187     DeprecatedCallback(Data, Size);
188     return 0;
189   }
190
191  private:
192   DeprecatedUserCallback DeprecatedCallback = nullptr;
193   UserCallback Callback = nullptr;
194 };
195
196 };  // namespace fuzzer
197
198 #endif // LLVM_FUZZER_INTERNAL_H