tools like nm and ar only need register_claim_file and add_symbols. Don't abort
[oota-llvm.git] / tools / gold / gold-plugin.cpp
1 //===-- gold-plugin.cpp - Plugin to gold for Link Time Optimization  ------===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // This is a gold plugin for LLVM. It provides an LLVM implementation of the
11 // interface described in http://gcc.gnu.org/wiki/whopr/driver .
12 //
13 //===----------------------------------------------------------------------===//
14
15 #include "plugin-api.h"
16
17 #include "llvm-c/lto.h"
18
19 #include "llvm/Support/raw_ostream.h"
20 #include "llvm/System/Path.h"
21
22 #include <cerrno>
23 #include <cstdlib>
24 #include <cstring>
25 #include <list>
26 #include <vector>
27
28 using namespace llvm;
29
30 namespace {
31   ld_plugin_status discard_message(int level, const char *format, ...) {
32     // Die loudly. Recent versions of Gold pass ld_plugin_message as the first
33     // callback in the transfer vector. This should never be called.
34     abort();
35   }
36
37   ld_plugin_add_symbols add_symbols = NULL;
38   ld_plugin_get_symbols get_symbols = NULL;
39   ld_plugin_add_input_file add_input_file = NULL;
40   ld_plugin_message message = discard_message;
41
42   int api_version = 0;
43   int gold_version = 0;
44
45   struct claimed_file {
46     lto_module_t M;
47     void *handle;
48     std::vector<ld_plugin_symbol> syms;
49   };
50
51   lto_codegen_model output_type = LTO_CODEGEN_PIC_MODEL_STATIC;
52   std::list<claimed_file> Modules;
53   std::vector<sys::Path> Cleanup;
54 }
55
56 ld_plugin_status claim_file_hook(const ld_plugin_input_file *file,
57                                  int *claimed);
58 ld_plugin_status all_symbols_read_hook(void);
59 ld_plugin_status cleanup_hook(void);
60
61 extern "C" ld_plugin_status onload(ld_plugin_tv *tv);
62 ld_plugin_status onload(ld_plugin_tv *tv) {
63   // We're given a pointer to the first transfer vector. We read through them
64   // until we find one where tv_tag == LDPT_NULL. The REGISTER_* tagged values
65   // contain pointers to functions that we need to call to register our own
66   // hooks. The others are addresses of functions we can use to call into gold
67   // for services.
68
69   bool registeredClaimFile = false;
70   bool registeredAllSymbolsRead = false;
71   bool registeredCleanup = false;
72
73   for (; tv->tv_tag != LDPT_NULL; ++tv) {
74     switch (tv->tv_tag) {
75       case LDPT_API_VERSION:
76         api_version = tv->tv_u.tv_val;
77         break;
78       case LDPT_GOLD_VERSION:  // major * 100 + minor
79         gold_version = tv->tv_u.tv_val;
80         break;
81       case LDPT_LINKER_OUTPUT:
82         switch (tv->tv_u.tv_val) {
83           case LDPO_REL:  // .o
84           case LDPO_DYN:  // .so
85             output_type = LTO_CODEGEN_PIC_MODEL_DYNAMIC;
86             break;
87           case LDPO_EXEC:  // .exe
88             output_type = LTO_CODEGEN_PIC_MODEL_STATIC;
89             break;
90           default:
91             (*message)(LDPL_ERROR, "Unknown output file type %d",
92                        tv->tv_u.tv_val);
93             return LDPS_ERR;
94         }
95         // TODO: add an option to disable PIC.
96         //output_type = LTO_CODEGEN_PIC_MODEL_DYNAMIC_NO_PIC;
97         break;
98       case LDPT_OPTION:
99         (*message)(LDPL_WARNING, "Ignoring flag %s", tv->tv_u.tv_string);
100         break;
101       case LDPT_REGISTER_CLAIM_FILE_HOOK: {
102         ld_plugin_register_claim_file callback;
103         callback = tv->tv_u.tv_register_claim_file;
104
105         if ((*callback)(claim_file_hook) != LDPS_OK)
106           return LDPS_ERR;
107
108         registeredClaimFile = true;
109       } break;
110       case LDPT_REGISTER_ALL_SYMBOLS_READ_HOOK: {
111         ld_plugin_register_all_symbols_read callback;
112         callback = tv->tv_u.tv_register_all_symbols_read;
113
114         if ((*callback)(all_symbols_read_hook) != LDPS_OK)
115           return LDPS_ERR;
116
117         registeredAllSymbolsRead = true;
118       } break;
119       case LDPT_REGISTER_CLEANUP_HOOK: {
120         ld_plugin_register_cleanup callback;
121         callback = tv->tv_u.tv_register_cleanup;
122
123         if ((*callback)(cleanup_hook) != LDPS_OK)
124           return LDPS_ERR;
125
126         registeredCleanup = true;
127       } break;
128       case LDPT_ADD_SYMBOLS:
129         add_symbols = tv->tv_u.tv_add_symbols;
130         break;
131       case LDPT_GET_SYMBOLS:
132         get_symbols = tv->tv_u.tv_get_symbols;
133         break;
134       case LDPT_ADD_INPUT_FILE:
135         add_input_file = tv->tv_u.tv_add_input_file;
136         break;
137       case LDPT_MESSAGE:
138         message = tv->tv_u.tv_message;
139         break;
140       default:
141         break;
142     }
143   }
144
145   if (!registeredClaimFile)
146     {
147       (*message)(LDPL_ERROR, "register_claim_file not passed to LLVMgold.");
148       return LDPS_ERR;
149     }
150   if (!add_symbols)
151     {
152       (*message)(LDPL_ERROR, "add_symbols not passed to LLVMgold.");
153       return LDPS_ERR;
154     }
155
156   return LDPS_OK;
157 }
158
159 /// claim_file_hook - called by gold to see whether this file is one that
160 /// our plugin can handle. We'll try to open it and register all the symbols
161 /// with add_symbol if possible.
162 ld_plugin_status claim_file_hook(const ld_plugin_input_file *file,
163                                  int *claimed) {
164   void *buf = NULL;
165   if (file->offset) {
166     // Gold has found what might be IR part-way inside of a file, such as
167     // an .a archive.
168     if (lseek(file->fd, file->offset, SEEK_SET) == -1) {
169       (*message)(LDPL_ERROR,
170                  "Failed to seek to archive member of %s at offset %d: %s\n", 
171                  file->name,
172                  file->offset, strerror(errno));
173       return LDPS_ERR;
174     }
175     buf = malloc(file->filesize);
176     if (!buf) {
177       (*message)(LDPL_ERROR,
178                  "Failed to allocate buffer for archive member of size: %d\n", 
179                  file->filesize);
180       return LDPS_ERR;
181     }
182     if (read(file->fd, buf, file->filesize) != file->filesize) {
183       (*message)(LDPL_ERROR,
184                  "Failed to read archive member of %s at offset %d: %s\n",
185                  file->name,
186                  file->offset,
187                  strerror(errno));
188       free(buf);
189       return LDPS_ERR;
190     }
191     if (!lto_module_is_object_file_in_memory(buf, file->filesize)) {
192       free(buf);
193       return LDPS_OK;
194     }
195   } else if (!lto_module_is_object_file(file->name))
196     return LDPS_OK;
197
198   *claimed = 1;
199   Modules.resize(Modules.size() + 1);
200   claimed_file &cf = Modules.back();
201
202   cf.M = buf ? lto_module_create_from_memory(buf, file->filesize) :
203                lto_module_create(file->name);
204   free(buf);
205   if (!cf.M) {
206     (*message)(LDPL_ERROR, "Failed to create LLVM module: %s",
207                lto_get_error_message());
208     return LDPS_ERR;
209   }
210   cf.handle = file->handle;
211   unsigned sym_count = lto_module_get_num_symbols(cf.M);
212   cf.syms.reserve(sym_count);
213
214   for (unsigned i = 0; i != sym_count; ++i) {
215     lto_symbol_attributes attrs = lto_module_get_symbol_attribute(cf.M, i);
216     if ((attrs & LTO_SYMBOL_SCOPE_MASK) == LTO_SYMBOL_SCOPE_INTERNAL)
217       continue;
218
219     cf.syms.push_back(ld_plugin_symbol());
220     ld_plugin_symbol &sym = cf.syms.back();
221     sym.name = const_cast<char *>(lto_module_get_symbol_name(cf.M, i));
222     sym.version = NULL;
223
224     int scope = attrs & LTO_SYMBOL_SCOPE_MASK;
225     switch (scope) {
226       case LTO_SYMBOL_SCOPE_HIDDEN:
227         sym.visibility = LDPV_HIDDEN;
228         break;
229       case LTO_SYMBOL_SCOPE_PROTECTED:
230         sym.visibility = LDPV_PROTECTED;
231         break;
232       case 0: // extern
233       case LTO_SYMBOL_SCOPE_DEFAULT:
234         sym.visibility = LDPV_DEFAULT;
235         break;
236       default:
237         (*message)(LDPL_ERROR, "Unknown scope attribute: %d", scope);
238         return LDPS_ERR;
239     }
240
241     int definition = attrs & LTO_SYMBOL_DEFINITION_MASK;
242     switch (definition) {
243       case LTO_SYMBOL_DEFINITION_REGULAR:
244         sym.def = LDPK_DEF;
245         break;
246       case LTO_SYMBOL_DEFINITION_UNDEFINED:
247         sym.def = LDPK_UNDEF;
248         break;
249       case LTO_SYMBOL_DEFINITION_TENTATIVE:
250         sym.def = LDPK_COMMON;
251         break;
252       case LTO_SYMBOL_DEFINITION_WEAK:
253         sym.def = LDPK_WEAKDEF;
254         break;
255       default:
256         (*message)(LDPL_ERROR, "Unknown definition attribute: %d", definition);
257         return LDPS_ERR;
258     }
259
260     // LLVM never emits COMDAT.
261     sym.size = 0;
262     sym.comdat_key = NULL;
263
264     sym.resolution = LDPR_UNKNOWN;
265   }
266
267   cf.syms.reserve(cf.syms.size());
268
269   if (!cf.syms.empty()) {
270     if ((*add_symbols)(cf.handle, cf.syms.size(), &cf.syms[0]) != LDPS_OK) {
271       (*message)(LDPL_ERROR, "Unable to add symbols!");
272       return LDPS_ERR;
273     }
274   }
275
276   return LDPS_OK;
277 }
278
279 /// all_symbols_read_hook - gold informs us that all symbols have been read.
280 /// At this point, we use get_symbols to see if any of our definitions have
281 /// been overridden by a native object file. Then, perform optimization and
282 /// codegen.
283 ld_plugin_status all_symbols_read_hook(void) {
284   lto_code_gen_t cg = lto_codegen_create();
285
286   for (std::list<claimed_file>::iterator I = Modules.begin(),
287        E = Modules.end(); I != E; ++I)
288     lto_codegen_add_module(cg, I->M);
289
290   // If we don't preserve any symbols, libLTO will assume that all symbols are
291   // needed. Keep all symbols unless we're producing a final executable.
292   if (output_type == LTO_CODEGEN_PIC_MODEL_STATIC) {
293     bool anySymbolsPreserved = false;
294     for (std::list<claimed_file>::iterator I = Modules.begin(),
295          E = Modules.end(); I != E; ++I) {
296       (*get_symbols)(I->handle, I->syms.size(), &I->syms[0]);
297       for (unsigned i = 0, e = I->syms.size(); i != e; i++) {
298         if (I->syms[i].resolution == LDPR_PREVAILING_DEF ||
299             (I->syms[i].def == LDPK_COMMON &&
300              I->syms[i].resolution == LDPR_RESOLVED_IR)) {
301           lto_codegen_add_must_preserve_symbol(cg, I->syms[i].name);
302           anySymbolsPreserved = true;
303         }
304       }
305     }
306
307     if (!anySymbolsPreserved) {
308       // This entire file is unnecessary!
309       lto_codegen_dispose(cg);
310       return LDPS_OK;
311     }
312   }
313
314   lto_codegen_set_pic_model(cg, output_type);
315   lto_codegen_set_debug_model(cg, LTO_DEBUG_MODEL_DWARF);
316
317   size_t bufsize = 0;
318   const char *buffer = static_cast<const char *>(lto_codegen_compile(cg,
319                                                                      &bufsize));
320
321   std::string ErrMsg;
322
323   sys::Path uniqueObjPath("/tmp/llvmgold.o");
324   if (uniqueObjPath.createTemporaryFileOnDisk(true, &ErrMsg)) {
325     (*message)(LDPL_ERROR, "%s", ErrMsg.c_str());
326     return LDPS_ERR;
327   }
328   raw_fd_ostream *objFile = new raw_fd_ostream(uniqueObjPath.c_str(), true,
329                                                ErrMsg);
330   if (!ErrMsg.empty()) {
331     delete objFile;
332     (*message)(LDPL_ERROR, "%s", ErrMsg.c_str());
333     return LDPS_ERR;
334   }
335
336   objFile->write(buffer, bufsize);
337   objFile->close();
338
339   lto_codegen_dispose(cg);
340
341   if ((*add_input_file)(const_cast<char*>(uniqueObjPath.c_str())) != LDPS_OK) {
342     (*message)(LDPL_ERROR, "Unable to add .o file to the link.");
343     (*message)(LDPL_ERROR, "File left behind in: %s", uniqueObjPath.c_str());
344     return LDPS_ERR;
345   }
346
347   Cleanup.push_back(uniqueObjPath);
348
349   return LDPS_OK;
350 }
351
352 ld_plugin_status cleanup_hook(void) {
353   std::string ErrMsg;
354
355   for (int i = 0, e = Cleanup.size(); i != e; ++i)
356     if (Cleanup[i].eraseFromDisk(false, &ErrMsg))
357       (*message)(LDPL_ERROR, "Failed to delete '%s': %s", Cleanup[i].c_str(),
358                  ErrMsg.c_str());
359
360   return LDPS_OK;
361 }