[ThinLTO] Deduplicate function index loading into shared helper (NFC)
[oota-llvm.git] / tools / llvm-link / llvm-link.cpp
1 //===- llvm-link.cpp - Low-level LLVM linker ------------------------------===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // This utility may be invoked in the following manner:
11 //  llvm-link a.bc b.bc c.bc -o x.bc
12 //
13 //===----------------------------------------------------------------------===//
14
15 #include "llvm/Linker/Linker.h"
16 #include "llvm/ADT/STLExtras.h"
17 #include "llvm/Bitcode/ReaderWriter.h"
18 #include "llvm/IR/AutoUpgrade.h"
19 #include "llvm/IR/DiagnosticInfo.h"
20 #include "llvm/IR/DiagnosticPrinter.h"
21 #include "llvm/IR/FunctionInfo.h"
22 #include "llvm/IR/LLVMContext.h"
23 #include "llvm/IR/Module.h"
24 #include "llvm/IR/Verifier.h"
25 #include "llvm/IRReader/IRReader.h"
26 #include "llvm/Object/FunctionIndexObjectFile.h"
27 #include "llvm/Support/CommandLine.h"
28 #include "llvm/Support/FileSystem.h"
29 #include "llvm/Support/ManagedStatic.h"
30 #include "llvm/Support/Path.h"
31 #include "llvm/Support/PrettyStackTrace.h"
32 #include "llvm/Support/Signals.h"
33 #include "llvm/Support/SourceMgr.h"
34 #include "llvm/Support/SystemUtils.h"
35 #include "llvm/Support/ToolOutputFile.h"
36 #include <memory>
37 using namespace llvm;
38
39 static cl::list<std::string>
40 InputFilenames(cl::Positional, cl::OneOrMore,
41                cl::desc("<input bitcode files>"));
42
43 static cl::list<std::string> OverridingInputs(
44     "override", cl::ZeroOrMore, cl::value_desc("filename"),
45     cl::desc(
46         "input bitcode file which can override previously defined symbol(s)"));
47
48 // Option to simulate function importing for testing. This enables using
49 // llvm-link to simulate ThinLTO backend processes.
50 static cl::list<std::string> Imports(
51     "import", cl::ZeroOrMore, cl::value_desc("function:filename"),
52     cl::desc("Pair of function name and filename, where function should be "
53              "imported from bitcode in filename"));
54
55 // Option to support testing of function importing. The function index
56 // must be specified in the case were we request imports via the -import
57 // option, as well as when compiling any module with functions that may be
58 // exported (imported by a different llvm-link -import invocation), to ensure
59 // consistent promotion and renaming of locals.
60 static cl::opt<std::string> FunctionIndex("functionindex",
61                                           cl::desc("Function index filename"),
62                                           cl::init(""),
63                                           cl::value_desc("filename"));
64
65 static cl::opt<std::string>
66 OutputFilename("o", cl::desc("Override output filename"), cl::init("-"),
67                cl::value_desc("filename"));
68
69 static cl::opt<bool>
70 Internalize("internalize", cl::desc("Internalize linked symbols"));
71
72 static cl::opt<bool>
73 OnlyNeeded("only-needed", cl::desc("Link only needed symbols"));
74
75 static cl::opt<bool>
76 Force("f", cl::desc("Enable binary output on terminals"));
77
78 static cl::opt<bool>
79 OutputAssembly("S",
80          cl::desc("Write output as LLVM assembly"), cl::Hidden);
81
82 static cl::opt<bool>
83 Verbose("v", cl::desc("Print information about actions taken"));
84
85 static cl::opt<bool>
86 DumpAsm("d", cl::desc("Print assembly as linked"), cl::Hidden);
87
88 static cl::opt<bool>
89 SuppressWarnings("suppress-warnings", cl::desc("Suppress all linking warnings"),
90                  cl::init(false));
91
92 static cl::opt<bool>
93     PreserveModules("preserve-modules",
94                     cl::desc("Preserve linked modules for testing"));
95
96 static cl::opt<bool> PreserveBitcodeUseListOrder(
97     "preserve-bc-uselistorder",
98     cl::desc("Preserve use-list order when writing LLVM bitcode."),
99     cl::init(true), cl::Hidden);
100
101 static cl::opt<bool> PreserveAssemblyUseListOrder(
102     "preserve-ll-uselistorder",
103     cl::desc("Preserve use-list order when writing LLVM assembly."),
104     cl::init(false), cl::Hidden);
105
106 // Read the specified bitcode file in and return it. This routine searches the
107 // link path for the specified file to try to find it...
108 //
109 static std::unique_ptr<Module>
110 loadFile(const char *argv0, const std::string &FN, LLVMContext &Context) {
111   SMDiagnostic Err;
112   if (Verbose) errs() << "Loading '" << FN << "'\n";
113   std::unique_ptr<Module> Result = getLazyIRFileModule(FN, Err, Context);
114   if (!Result)
115     Err.print(argv0, errs());
116
117   Result->materializeMetadata();
118   UpgradeDebugInfo(*Result);
119
120   return Result;
121 }
122
123 static void diagnosticHandler(const DiagnosticInfo &DI) {
124   unsigned Severity = DI.getSeverity();
125   switch (Severity) {
126   case DS_Error:
127     errs() << "ERROR: ";
128     break;
129   case DS_Warning:
130     if (SuppressWarnings)
131       return;
132     errs() << "WARNING: ";
133     break;
134   case DS_Remark:
135   case DS_Note:
136     llvm_unreachable("Only expecting warnings and errors");
137   }
138
139   DiagnosticPrinterRawOStream DP(errs());
140   DI.print(DP);
141   errs() << '\n';
142 }
143
144 /// Import any functions requested via the -import option.
145 static bool importFunctions(const char *argv0, LLVMContext &Context,
146                             Linker &L) {
147   for (const auto &Import : Imports) {
148     // Identify the requested function and its bitcode source file.
149     size_t Idx = Import.find(':');
150     if (Idx == std::string::npos) {
151       errs() << "Import parameter bad format: " << Import << "\n";
152       return false;
153     }
154     std::string FunctionName = Import.substr(0, Idx);
155     std::string FileName = Import.substr(Idx + 1, std::string::npos);
156
157     // Load the specified source module.
158     std::unique_ptr<Module> M = loadFile(argv0, FileName, Context);
159     if (!M.get()) {
160       errs() << argv0 << ": error loading file '" << FileName << "'\n";
161       return false;
162     }
163
164     if (verifyModule(*M, &errs())) {
165       errs() << argv0 << ": " << FileName
166              << ": error: input module is broken!\n";
167       return false;
168     }
169
170     Function *F = M->getFunction(FunctionName);
171     if (!F) {
172       errs() << "Ignoring import request for non-existent function "
173              << FunctionName << " from " << FileName << "\n";
174       continue;
175     }
176     // We cannot import weak_any functions without possibly affecting the
177     // order they are seen and selected by the linker, changing program
178     // semantics.
179     if (F->hasWeakAnyLinkage()) {
180       errs() << "Ignoring import request for weak-any function " << FunctionName
181              << " from " << FileName << "\n";
182       continue;
183     }
184
185     if (Verbose)
186       errs() << "Importing " << FunctionName << " from " << FileName << "\n";
187
188     std::unique_ptr<FunctionInfoIndex> Index;
189     if (!FunctionIndex.empty()) {
190       ErrorOr<std::unique_ptr<FunctionInfoIndex>> IndexOrErr =
191           llvm::getFunctionIndexForFile(FunctionIndex, diagnosticHandler);
192       std::error_code EC = IndexOrErr.getError();
193       if (EC) {
194         errs() << EC.message() << '\n';
195         return false;
196       }
197       Index = std::move(IndexOrErr.get());
198     }
199
200     // Link in the specified function.
201     if (L.linkInModule(M.get(), Linker::Flags::None, Index.get(), F))
202       return false;
203   }
204   return true;
205 }
206
207 static bool linkFiles(const char *argv0, LLVMContext &Context, Linker &L,
208                       const cl::list<std::string> &Files,
209                       unsigned Flags) {
210   // Filter out flags that don't apply to the first file we load.
211   unsigned ApplicableFlags = Flags & Linker::Flags::OverrideFromSrc;
212   for (const auto &File : Files) {
213     std::unique_ptr<Module> M = loadFile(argv0, File, Context);
214     if (!M.get()) {
215       errs() << argv0 << ": error loading file '" << File << "'\n";
216       return false;
217     }
218
219     if (verifyModule(*M, &errs())) {
220       errs() << argv0 << ": " << File << ": error: input module is broken!\n";
221       return false;
222     }
223
224     // If a function index is supplied, load it so linkInModule can treat
225     // local functions/variables as exported and promote if necessary.
226     std::unique_ptr<FunctionInfoIndex> Index;
227     if (!FunctionIndex.empty()) {
228       ErrorOr<std::unique_ptr<FunctionInfoIndex>> IndexOrErr =
229           llvm::getFunctionIndexForFile(FunctionIndex, diagnosticHandler, &*M);
230       std::error_code EC = IndexOrErr.getError();
231       if (EC) {
232         errs() << EC.message() << '\n';
233         return false;
234       }
235       Index = std::move(IndexOrErr.get());
236     }
237
238     if (Verbose)
239       errs() << "Linking in '" << File << "'\n";
240
241     if (L.linkInModule(M.get(), ApplicableFlags, Index.get()))
242       return false;
243     // All linker flags apply to linking of subsequent files.
244     ApplicableFlags = Flags;
245
246     // If requested for testing, preserve modules by releasing them from
247     // the unique_ptr before the are freed. This can help catch any
248     // cross-module references from e.g. unneeded metadata references
249     // that aren't properly set to null but instead mapped to the source
250     // module version. The bitcode writer will assert if it finds any such
251     // cross-module references.
252     if (PreserveModules)
253       M.release();
254   }
255
256   return true;
257 }
258
259 int main(int argc, char **argv) {
260   // Print a stack trace if we signal out.
261   sys::PrintStackTraceOnErrorSignal();
262   PrettyStackTraceProgram X(argc, argv);
263
264   LLVMContext &Context = getGlobalContext();
265   llvm_shutdown_obj Y;  // Call llvm_shutdown() on exit.
266   cl::ParseCommandLineOptions(argc, argv, "llvm linker\n");
267
268   auto Composite = make_unique<Module>("llvm-link", Context);
269   Linker L(Composite.get(), diagnosticHandler);
270
271   unsigned Flags = Linker::Flags::None;
272   if (Internalize)
273     Flags |= Linker::Flags::InternalizeLinkedSymbols;
274   if (OnlyNeeded)
275     Flags |= Linker::Flags::LinkOnlyNeeded;
276
277   // First add all the regular input files
278   if (!linkFiles(argv[0], Context, L, InputFilenames, Flags))
279     return 1;
280
281   // Next the -override ones.
282   if (!linkFiles(argv[0], Context, L, OverridingInputs,
283                  Flags | Linker::Flags::OverrideFromSrc))
284     return 1;
285
286   // Import any functions requested via -import
287   if (!importFunctions(argv[0], Context, L))
288     return 1;
289
290   if (DumpAsm) errs() << "Here's the assembly:\n" << *Composite;
291
292   std::error_code EC;
293   tool_output_file Out(OutputFilename, EC, sys::fs::F_None);
294   if (EC) {
295     errs() << EC.message() << '\n';
296     return 1;
297   }
298
299   if (verifyModule(*Composite, &errs())) {
300     errs() << argv[0] << ": error: linked module is broken!\n";
301     return 1;
302   }
303
304   if (Verbose) errs() << "Writing bitcode...\n";
305   if (OutputAssembly) {
306     Composite->print(Out.os(), nullptr, PreserveAssemblyUseListOrder);
307   } else if (Force || !CheckBitcodeOutputToConsole(Out.os(), true))
308     WriteBitcodeToFile(Composite.get(), Out.os(), PreserveBitcodeUseListOrder);
309
310   // Declare success.
311   Out.keep();
312
313   return 0;
314 }