Simplify code that chooses when to enumerate function-local metadata operands
[oota-llvm.git] / lib / Bitcode / Writer / ValueEnumerator.cpp
1 //===-- ValueEnumerator.cpp - Number values and types for bitcode writer --===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // This file implements the ValueEnumerator class.
11 //
12 //===----------------------------------------------------------------------===//
13
14 #include "ValueEnumerator.h"
15 #include "llvm/Constants.h"
16 #include "llvm/DerivedTypes.h"
17 #include "llvm/Module.h"
18 #include "llvm/TypeSymbolTable.h"
19 #include "llvm/ValueSymbolTable.h"
20 #include "llvm/Instructions.h"
21 #include <algorithm>
22 using namespace llvm;
23
24 static bool isSingleValueType(const std::pair<const llvm::Type*,
25                               unsigned int> &P) {
26   return P.first->isSingleValueType();
27 }
28
29 static bool isIntegerValue(const std::pair<const Value*, unsigned> &V) {
30   return isa<IntegerType>(V.first->getType());
31 }
32
33 static bool CompareByFrequency(const std::pair<const llvm::Type*,
34                                unsigned int> &P1,
35                                const std::pair<const llvm::Type*,
36                                unsigned int> &P2) {
37   return P1.second > P2.second;
38 }
39
40 /// ValueEnumerator - Enumerate module-level information.
41 ValueEnumerator::ValueEnumerator(const Module *M) {
42   InstructionCount = 0;
43
44   // Enumerate the global variables.
45   for (Module::const_global_iterator I = M->global_begin(),
46          E = M->global_end(); I != E; ++I)
47     EnumerateValue(I);
48
49   // Enumerate the functions.
50   for (Module::const_iterator I = M->begin(), E = M->end(); I != E; ++I) {
51     EnumerateValue(I);
52     EnumerateAttributes(cast<Function>(I)->getAttributes());
53   }
54
55   // Enumerate the aliases.
56   for (Module::const_alias_iterator I = M->alias_begin(), E = M->alias_end();
57        I != E; ++I)
58     EnumerateValue(I);
59
60   // Remember what is the cutoff between globalvalue's and other constants.
61   unsigned FirstConstant = Values.size();
62
63   // Enumerate the global variable initializers.
64   for (Module::const_global_iterator I = M->global_begin(),
65          E = M->global_end(); I != E; ++I)
66     if (I->hasInitializer())
67       EnumerateValue(I->getInitializer());
68
69   // Enumerate the aliasees.
70   for (Module::const_alias_iterator I = M->alias_begin(), E = M->alias_end();
71        I != E; ++I)
72     EnumerateValue(I->getAliasee());
73
74   // Enumerate types used by the type symbol table.
75   EnumerateTypeSymbolTable(M->getTypeSymbolTable());
76
77   // Insert constants and metadata  that are named at module level into the slot 
78   // pool so that the module symbol table can refer to them...
79   EnumerateValueSymbolTable(M->getValueSymbolTable());
80   EnumerateMDSymbolTable(M->getMDSymbolTable());
81
82   SmallVector<std::pair<unsigned, MDNode*>, 8> MDs;
83
84   // Enumerate types used by function bodies and argument lists.
85   for (Module::const_iterator F = M->begin(), E = M->end(); F != E; ++F) {
86
87     for (Function::const_arg_iterator I = F->arg_begin(), E = F->arg_end();
88          I != E; ++I)
89       EnumerateType(I->getType());
90
91     for (Function::const_iterator BB = F->begin(), E = F->end(); BB != E; ++BB)
92       for (BasicBlock::const_iterator I = BB->begin(), E = BB->end(); I!=E;++I){
93         for (User::const_op_iterator OI = I->op_begin(), E = I->op_end();
94              OI != E; ++OI) {
95           if (MDNode *MD = dyn_cast<MDNode>(*OI))
96             if (MD->isFunctionLocal())
97               // These will get enumerated during function-incorporation.
98               continue;
99           EnumerateOperandType(*OI);
100         }
101         EnumerateType(I->getType());
102         if (const CallInst *CI = dyn_cast<CallInst>(I))
103           EnumerateAttributes(CI->getAttributes());
104         else if (const InvokeInst *II = dyn_cast<InvokeInst>(I))
105           EnumerateAttributes(II->getAttributes());
106
107         // Enumerate metadata attached with this instruction.
108         MDs.clear();
109         I->getAllMetadata(MDs);
110         for (unsigned i = 0, e = MDs.size(); i != e; ++i)
111           EnumerateMetadata(MDs[i].second);
112       }
113   }
114
115   // Optimize constant ordering.
116   OptimizeConstants(FirstConstant, Values.size());
117
118   // Sort the type table by frequency so that most commonly used types are early
119   // in the table (have low bit-width).
120   std::stable_sort(Types.begin(), Types.end(), CompareByFrequency);
121
122   // Partition the Type ID's so that the single-value types occur before the
123   // aggregate types.  This allows the aggregate types to be dropped from the
124   // type table after parsing the global variable initializers.
125   std::partition(Types.begin(), Types.end(), isSingleValueType);
126
127   // Now that we rearranged the type table, rebuild TypeMap.
128   for (unsigned i = 0, e = Types.size(); i != e; ++i)
129     TypeMap[Types[i].first] = i+1;
130 }
131
132 unsigned ValueEnumerator::getInstructionID(const Instruction *Inst) const {
133   InstructionMapType::const_iterator I = InstructionMap.find(Inst);
134   assert (I != InstructionMap.end() && "Instruction is not mapped!");
135     return I->second;
136 }
137
138 void ValueEnumerator::setInstructionID(const Instruction *I) {
139   InstructionMap[I] = InstructionCount++;
140 }
141
142 unsigned ValueEnumerator::getValueID(const Value *V) const {
143   if (isa<MetadataBase>(V)) {
144     ValueMapType::const_iterator I = MDValueMap.find(V);
145     assert(I != MDValueMap.end() && "Value not in slotcalculator!");
146     return I->second-1;
147   }
148
149   ValueMapType::const_iterator I = ValueMap.find(V);
150   assert(I != ValueMap.end() && "Value not in slotcalculator!");
151   return I->second-1;
152 }
153
154 // Optimize constant ordering.
155 namespace {
156   struct CstSortPredicate {
157     ValueEnumerator &VE;
158     explicit CstSortPredicate(ValueEnumerator &ve) : VE(ve) {}
159     bool operator()(const std::pair<const Value*, unsigned> &LHS,
160                     const std::pair<const Value*, unsigned> &RHS) {
161       // Sort by plane.
162       if (LHS.first->getType() != RHS.first->getType())
163         return VE.getTypeID(LHS.first->getType()) <
164                VE.getTypeID(RHS.first->getType());
165       // Then by frequency.
166       return LHS.second > RHS.second;
167     }
168   };
169 }
170
171 /// OptimizeConstants - Reorder constant pool for denser encoding.
172 void ValueEnumerator::OptimizeConstants(unsigned CstStart, unsigned CstEnd) {
173   if (CstStart == CstEnd || CstStart+1 == CstEnd) return;
174
175   CstSortPredicate P(*this);
176   std::stable_sort(Values.begin()+CstStart, Values.begin()+CstEnd, P);
177
178   // Ensure that integer constants are at the start of the constant pool.  This
179   // is important so that GEP structure indices come before gep constant exprs.
180   std::partition(Values.begin()+CstStart, Values.begin()+CstEnd,
181                  isIntegerValue);
182
183   // Rebuild the modified portion of ValueMap.
184   for (; CstStart != CstEnd; ++CstStart)
185     ValueMap[Values[CstStart].first] = CstStart+1;
186 }
187
188
189 /// EnumerateTypeSymbolTable - Insert all of the types in the specified symbol
190 /// table.
191 void ValueEnumerator::EnumerateTypeSymbolTable(const TypeSymbolTable &TST) {
192   for (TypeSymbolTable::const_iterator TI = TST.begin(), TE = TST.end();
193        TI != TE; ++TI)
194     EnumerateType(TI->second);
195 }
196
197 /// EnumerateValueSymbolTable - Insert all of the values in the specified symbol
198 /// table into the values table.
199 void ValueEnumerator::EnumerateValueSymbolTable(const ValueSymbolTable &VST) {
200   for (ValueSymbolTable::const_iterator VI = VST.begin(), VE = VST.end();
201        VI != VE; ++VI)
202     EnumerateValue(VI->getValue());
203 }
204
205 /// EnumerateMDSymbolTable - Insert all of the values in the specified metadata
206 /// table.
207 void ValueEnumerator::EnumerateMDSymbolTable(const MDSymbolTable &MST) {
208   for (MDSymbolTable::const_iterator MI = MST.begin(), ME = MST.end();
209        MI != ME; ++MI)
210     EnumerateValue(MI->getValue());
211 }
212
213 void ValueEnumerator::EnumerateNamedMDNode(const NamedMDNode *MD) {
214   // Check to see if it's already in!
215   unsigned &MDValueID = MDValueMap[MD];
216   if (MDValueID) {
217     // Increment use count.
218     MDValues[MDValueID-1].second++;
219     return;
220   }
221
222   // Enumerate the type of this value.
223   EnumerateType(MD->getType());
224
225   for (unsigned i = 0, e = MD->getNumOperands(); i != e; ++i)
226     if (MDNode *E = MD->getOperand(i))
227       EnumerateValue(E);
228   MDValues.push_back(std::make_pair(MD, 1U));
229   MDValueMap[MD] = Values.size();
230 }
231
232 void ValueEnumerator::EnumerateMetadata(const MetadataBase *MD) {
233   // Check to see if it's already in!
234   unsigned &MDValueID = MDValueMap[MD];
235   if (MDValueID) {
236     // Increment use count.
237     MDValues[MDValueID-1].second++;
238     return;
239   }
240
241   // Enumerate the type of this value.
242   EnumerateType(MD->getType());
243
244   if (const MDNode *N = dyn_cast<MDNode>(MD)) {
245     MDValues.push_back(std::make_pair(MD, 1U));
246     MDValueMap[MD] = MDValues.size();
247     MDValueID = MDValues.size();
248     for (unsigned i = 0, e = N->getNumOperands(); i != e; ++i) {
249       if (Value *V = N->getOperand(i))
250         EnumerateValue(V);
251       else
252         EnumerateType(Type::getVoidTy(MD->getContext()));
253     }
254     return;
255   }
256   
257   // Add the value.
258   assert(isa<MDString>(MD) && "Unknown metadata kind");
259   MDValues.push_back(std::make_pair(MD, 1U));
260   MDValueID = MDValues.size();
261 }
262
263 void ValueEnumerator::EnumerateValue(const Value *V) {
264   assert(!V->getType()->isVoidTy() && "Can't insert void values!");
265   if (const MetadataBase *MB = dyn_cast<MetadataBase>(V))
266     return EnumerateMetadata(MB);
267   else if (const NamedMDNode *NMD = dyn_cast<NamedMDNode>(V))
268     return EnumerateNamedMDNode(NMD);
269
270   // Check to see if it's already in!
271   unsigned &ValueID = ValueMap[V];
272   if (ValueID) {
273     // Increment use count.
274     Values[ValueID-1].second++;
275     return;
276   }
277
278   // Enumerate the type of this value.
279   EnumerateType(V->getType());
280
281   if (const Constant *C = dyn_cast<Constant>(V)) {
282     if (isa<GlobalValue>(C)) {
283       // Initializers for globals are handled explicitly elsewhere.
284     } else if (isa<ConstantArray>(C) && cast<ConstantArray>(C)->isString()) {
285       // Do not enumerate the initializers for an array of simple characters.
286       // The initializers just polute the value table, and we emit the strings
287       // specially.
288     } else if (C->getNumOperands()) {
289       // If a constant has operands, enumerate them.  This makes sure that if a
290       // constant has uses (for example an array of const ints), that they are
291       // inserted also.
292
293       // We prefer to enumerate them with values before we enumerate the user
294       // itself.  This makes it more likely that we can avoid forward references
295       // in the reader.  We know that there can be no cycles in the constants
296       // graph that don't go through a global variable.
297       for (User::const_op_iterator I = C->op_begin(), E = C->op_end();
298            I != E; ++I)
299         if (!isa<BasicBlock>(*I)) // Don't enumerate BB operand to BlockAddress.
300           EnumerateValue(*I);
301
302       // Finally, add the value.  Doing this could make the ValueID reference be
303       // dangling, don't reuse it.
304       Values.push_back(std::make_pair(V, 1U));
305       ValueMap[V] = Values.size();
306       return;
307     }
308   }
309
310   // Add the value.
311   Values.push_back(std::make_pair(V, 1U));
312   ValueID = Values.size();
313 }
314
315
316 void ValueEnumerator::EnumerateType(const Type *Ty) {
317   unsigned &TypeID = TypeMap[Ty];
318
319   if (TypeID) {
320     // If we've already seen this type, just increase its occurrence count.
321     Types[TypeID-1].second++;
322     return;
323   }
324
325   // First time we saw this type, add it.
326   Types.push_back(std::make_pair(Ty, 1U));
327   TypeID = Types.size();
328
329   // Enumerate subtypes.
330   for (Type::subtype_iterator I = Ty->subtype_begin(), E = Ty->subtype_end();
331        I != E; ++I)
332     EnumerateType(*I);
333 }
334
335 // Enumerate the types for the specified value.  If the value is a constant,
336 // walk through it, enumerating the types of the constant.
337 void ValueEnumerator::EnumerateOperandType(const Value *V) {
338   EnumerateType(V->getType());
339   
340   if (const Constant *C = dyn_cast<Constant>(V)) {
341     // If this constant is already enumerated, ignore it, we know its type must
342     // be enumerated.
343     if (ValueMap.count(V)) return;
344
345     // This constant may have operands, make sure to enumerate the types in
346     // them.
347     for (unsigned i = 0, e = C->getNumOperands(); i != e; ++i) {
348       const User *Op = C->getOperand(i);
349       
350       // Don't enumerate basic blocks here, this happens as operands to
351       // blockaddress.
352       if (isa<BasicBlock>(Op)) continue;
353       
354       EnumerateOperandType(cast<Constant>(Op));
355     }
356
357     if (const MDNode *N = dyn_cast<MDNode>(V)) {
358       for (unsigned i = 0, e = N->getNumOperands(); i != e; ++i)
359         if (Value *Elem = N->getOperand(i))
360           EnumerateOperandType(Elem);
361     }
362   } else if (isa<MDString>(V) || isa<MDNode>(V))
363     EnumerateValue(V);
364 }
365
366 void ValueEnumerator::EnumerateAttributes(const AttrListPtr &PAL) {
367   if (PAL.isEmpty()) return;  // null is always 0.
368   // Do a lookup.
369   unsigned &Entry = AttributeMap[PAL.getRawPointer()];
370   if (Entry == 0) {
371     // Never saw this before, add it.
372     Attributes.push_back(PAL);
373     Entry = Attributes.size();
374   }
375 }
376
377
378 void ValueEnumerator::incorporateFunction(const Function &F) {
379   NumModuleValues = Values.size();
380
381   // Adding function arguments to the value table.
382   for(Function::const_arg_iterator I = F.arg_begin(), E = F.arg_end();
383       I != E; ++I)
384     EnumerateValue(I);
385
386   FirstFuncConstantID = Values.size();
387
388   // Add all function-level constants to the value table.
389   for (Function::const_iterator BB = F.begin(), E = F.end(); BB != E; ++BB) {
390     for (BasicBlock::const_iterator I = BB->begin(), E = BB->end(); I!=E; ++I)
391       for (User::const_op_iterator OI = I->op_begin(), E = I->op_end();
392            OI != E; ++OI) {
393         if ((isa<Constant>(*OI) && !isa<GlobalValue>(*OI)) ||
394             isa<InlineAsm>(*OI))
395           EnumerateValue(*OI);
396       }
397     BasicBlocks.push_back(BB);
398     ValueMap[BB] = BasicBlocks.size();
399   }
400
401   // Optimize the constant layout.
402   OptimizeConstants(FirstFuncConstantID, Values.size());
403
404   // Add the function's parameter attributes so they are available for use in
405   // the function's instruction.
406   EnumerateAttributes(F.getAttributes());
407
408   FirstInstID = Values.size();
409
410   // Add all of the instructions.
411   for (Function::const_iterator BB = F.begin(), E = F.end(); BB != E; ++BB) {
412     for (BasicBlock::const_iterator I = BB->begin(), E = BB->end(); I!=E; ++I) {
413       for (User::const_op_iterator OI = I->op_begin(), E = I->op_end();
414            OI != E; ++OI) {
415         if (MDNode *MD = dyn_cast<MDNode>(*OI))
416           if (!MD->isFunctionLocal())
417               // These were already enumerated during ValueEnumerator creation.
418               continue;
419         EnumerateOperandType(*OI);
420       }
421       if (!I->getType()->isVoidTy())
422         EnumerateValue(I);
423     }
424   }
425 }
426
427 void ValueEnumerator::purgeFunction() {
428   /// Remove purged values from the ValueMap.
429   for (unsigned i = NumModuleValues, e = Values.size(); i != e; ++i)
430     ValueMap.erase(Values[i].first);
431   for (unsigned i = 0, e = BasicBlocks.size(); i != e; ++i)
432     ValueMap.erase(BasicBlocks[i]);
433
434   Values.resize(NumModuleValues);
435   BasicBlocks.clear();
436 }
437
438 static void IncorporateFunctionInfoGlobalBBIDs(const Function *F,
439                                  DenseMap<const BasicBlock*, unsigned> &IDMap) {
440   unsigned Counter = 0;
441   for (Function::const_iterator BB = F->begin(), E = F->end(); BB != E; ++BB)
442     IDMap[BB] = ++Counter;
443 }
444
445 /// getGlobalBasicBlockID - This returns the function-specific ID for the
446 /// specified basic block.  This is relatively expensive information, so it
447 /// should only be used by rare constructs such as address-of-label.
448 unsigned ValueEnumerator::getGlobalBasicBlockID(const BasicBlock *BB) const {
449   unsigned &Idx = GlobalBasicBlockIDs[BB];
450   if (Idx != 0)
451     return Idx-1;
452
453   IncorporateFunctionInfoGlobalBBIDs(BB->getParent(), GlobalBasicBlockIDs);
454   return getGlobalBasicBlockID(BB);
455 }
456