IR: Move MDNode clone() methods from ValueMapper to MDNode, NFC
[oota-llvm.git] / include / llvm / IR / Metadata.h
1 //===-- llvm/Metadata.h - Metadata definitions ------------------*- C++ -*-===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 /// @file
11 /// This file contains the declarations for metadata subclasses.
12 /// They represent the different flavors of metadata that live in LLVM.
13 //
14 //===----------------------------------------------------------------------===//
15
16 #ifndef LLVM_IR_METADATA_H
17 #define LLVM_IR_METADATA_H
18
19 #include "llvm/ADT/ArrayRef.h"
20 #include "llvm/ADT/DenseMap.h"
21 #include "llvm/ADT/ilist_node.h"
22 #include "llvm/ADT/iterator_range.h"
23 #include "llvm/IR/Constant.h"
24 #include "llvm/IR/MetadataTracking.h"
25 #include "llvm/IR/Value.h"
26 #include "llvm/Support/ErrorHandling.h"
27 #include <type_traits>
28
29 namespace llvm {
30 class LLVMContext;
31 class Module;
32 template<typename ValueSubClass, typename ItemParentClass>
33   class SymbolTableListTraits;
34
35
36 enum LLVMConstants : uint32_t {
37   DEBUG_METADATA_VERSION = 2  // Current debug info version number.
38 };
39
40 /// \brief Root of the metadata hierarchy.
41 ///
42 /// This is a root class for typeless data in the IR.
43 class Metadata {
44   friend class ReplaceableMetadataImpl;
45
46   /// \brief RTTI.
47   const unsigned char SubclassID;
48
49 protected:
50   /// \brief Active type of storage.
51   enum StorageType { Uniqued, Distinct, Temporary };
52
53   /// \brief Storage flag for non-uniqued, otherwise unowned, metadata.
54   StorageType Storage : 2;
55   // TODO: expose remaining bits to subclasses.
56
57   unsigned short SubclassData16;
58   unsigned SubclassData32;
59
60 public:
61   enum MetadataKind {
62     MDTupleKind,
63     MDLocationKind,
64     GenericDwarfNodeKind,
65     ConstantAsMetadataKind,
66     LocalAsMetadataKind,
67     MDStringKind
68   };
69
70 protected:
71   Metadata(unsigned ID, StorageType Storage)
72       : SubclassID(ID), Storage(Storage), SubclassData16(0), SubclassData32(0) {
73   }
74   ~Metadata() {}
75
76   /// \brief Default handling of a changed operand, which asserts.
77   ///
78   /// If subclasses pass themselves in as owners to a tracking node reference,
79   /// they must provide an implementation of this method.
80   void handleChangedOperand(void *, Metadata *) {
81     llvm_unreachable("Unimplemented in Metadata subclass");
82   }
83
84 public:
85   unsigned getMetadataID() const { return SubclassID; }
86
87   /// \brief User-friendly dump.
88   void dump() const;
89   void print(raw_ostream &OS) const;
90   void printAsOperand(raw_ostream &OS, bool PrintType = true,
91                       const Module *M = nullptr) const;
92 };
93
94 #define HANDLE_METADATA(CLASS) class CLASS;
95 #include "llvm/IR/Metadata.def"
96
97 inline raw_ostream &operator<<(raw_ostream &OS, const Metadata &MD) {
98   MD.print(OS);
99   return OS;
100 }
101
102 /// \brief Metadata wrapper in the Value hierarchy.
103 ///
104 /// A member of the \a Value hierarchy to represent a reference to metadata.
105 /// This allows, e.g., instrinsics to have metadata as operands.
106 ///
107 /// Notably, this is the only thing in either hierarchy that is allowed to
108 /// reference \a LocalAsMetadata.
109 class MetadataAsValue : public Value {
110   friend class ReplaceableMetadataImpl;
111   friend class LLVMContextImpl;
112
113   Metadata *MD;
114
115   MetadataAsValue(Type *Ty, Metadata *MD);
116   ~MetadataAsValue();
117
118   /// \brief Drop use of metadata (during teardown).
119   void dropUse() { MD = nullptr; }
120
121 public:
122   static MetadataAsValue *get(LLVMContext &Context, Metadata *MD);
123   static MetadataAsValue *getIfExists(LLVMContext &Context, Metadata *MD);
124   Metadata *getMetadata() const { return MD; }
125
126   static bool classof(const Value *V) {
127     return V->getValueID() == MetadataAsValueVal;
128   }
129
130 private:
131   void handleChangedMetadata(Metadata *MD);
132   void track();
133   void untrack();
134 };
135
136 /// \brief Shared implementation of use-lists for replaceable metadata.
137 ///
138 /// Most metadata cannot be RAUW'ed.  This is a shared implementation of
139 /// use-lists and associated API for the two that support it (\a ValueAsMetadata
140 /// and \a TempMDNode).
141 class ReplaceableMetadataImpl {
142   friend class MetadataTracking;
143
144 public:
145   typedef MetadataTracking::OwnerTy OwnerTy;
146
147 private:
148   LLVMContext &Context;
149   uint64_t NextIndex;
150   SmallDenseMap<void *, std::pair<OwnerTy, uint64_t>, 4> UseMap;
151
152 public:
153   ReplaceableMetadataImpl(LLVMContext &Context)
154       : Context(Context), NextIndex(0) {}
155   ~ReplaceableMetadataImpl() {
156     assert(UseMap.empty() && "Cannot destroy in-use replaceable metadata");
157   }
158
159   LLVMContext &getContext() const { return Context; }
160
161   /// \brief Replace all uses of this with MD.
162   ///
163   /// Replace all uses of this with \c MD, which is allowed to be null.
164   void replaceAllUsesWith(Metadata *MD);
165
166   /// \brief Resolve all uses of this.
167   ///
168   /// Resolve all uses of this, turning off RAUW permanently.  If \c
169   /// ResolveUsers, call \a MDNode::resolve() on any users whose last operand
170   /// is resolved.
171   void resolveAllUses(bool ResolveUsers = true);
172
173 private:
174   void addRef(void *Ref, OwnerTy Owner);
175   void dropRef(void *Ref);
176   void moveRef(void *Ref, void *New, const Metadata &MD);
177
178   static ReplaceableMetadataImpl *get(Metadata &MD);
179 };
180
181 /// \brief Value wrapper in the Metadata hierarchy.
182 ///
183 /// This is a custom value handle that allows other metadata to refer to
184 /// classes in the Value hierarchy.
185 ///
186 /// Because of full uniquing support, each value is only wrapped by a single \a
187 /// ValueAsMetadata object, so the lookup maps are far more efficient than
188 /// those using ValueHandleBase.
189 class ValueAsMetadata : public Metadata, ReplaceableMetadataImpl {
190   friend class ReplaceableMetadataImpl;
191   friend class LLVMContextImpl;
192
193   Value *V;
194
195   /// \brief Drop users without RAUW (during teardown).
196   void dropUsers() {
197     ReplaceableMetadataImpl::resolveAllUses(/* ResolveUsers */ false);
198   }
199
200 protected:
201   ValueAsMetadata(unsigned ID, Value *V)
202       : Metadata(ID, Uniqued), ReplaceableMetadataImpl(V->getContext()), V(V) {
203     assert(V && "Expected valid value");
204   }
205   ~ValueAsMetadata() {}
206
207 public:
208   static ValueAsMetadata *get(Value *V);
209   static ConstantAsMetadata *getConstant(Value *C) {
210     return cast<ConstantAsMetadata>(get(C));
211   }
212   static LocalAsMetadata *getLocal(Value *Local) {
213     return cast<LocalAsMetadata>(get(Local));
214   }
215
216   static ValueAsMetadata *getIfExists(Value *V);
217   static ConstantAsMetadata *getConstantIfExists(Value *C) {
218     return cast_or_null<ConstantAsMetadata>(getIfExists(C));
219   }
220   static LocalAsMetadata *getLocalIfExists(Value *Local) {
221     return cast_or_null<LocalAsMetadata>(getIfExists(Local));
222   }
223
224   Value *getValue() const { return V; }
225   Type *getType() const { return V->getType(); }
226   LLVMContext &getContext() const { return V->getContext(); }
227
228   static void handleDeletion(Value *V);
229   static void handleRAUW(Value *From, Value *To);
230
231 protected:
232   /// \brief Handle collisions after \a Value::replaceAllUsesWith().
233   ///
234   /// RAUW isn't supported directly for \a ValueAsMetadata, but if the wrapped
235   /// \a Value gets RAUW'ed and the target already exists, this is used to
236   /// merge the two metadata nodes.
237   void replaceAllUsesWith(Metadata *MD) {
238     ReplaceableMetadataImpl::replaceAllUsesWith(MD);
239   }
240
241 public:
242   static bool classof(const Metadata *MD) {
243     return MD->getMetadataID() == LocalAsMetadataKind ||
244            MD->getMetadataID() == ConstantAsMetadataKind;
245   }
246 };
247
248 class ConstantAsMetadata : public ValueAsMetadata {
249   friend class ValueAsMetadata;
250
251   ConstantAsMetadata(Constant *C)
252       : ValueAsMetadata(ConstantAsMetadataKind, C) {}
253
254 public:
255   static ConstantAsMetadata *get(Constant *C) {
256     return ValueAsMetadata::getConstant(C);
257   }
258   static ConstantAsMetadata *getIfExists(Constant *C) {
259     return ValueAsMetadata::getConstantIfExists(C);
260   }
261
262   Constant *getValue() const {
263     return cast<Constant>(ValueAsMetadata::getValue());
264   }
265
266   static bool classof(const Metadata *MD) {
267     return MD->getMetadataID() == ConstantAsMetadataKind;
268   }
269 };
270
271 class LocalAsMetadata : public ValueAsMetadata {
272   friend class ValueAsMetadata;
273
274   LocalAsMetadata(Value *Local)
275       : ValueAsMetadata(LocalAsMetadataKind, Local) {
276     assert(!isa<Constant>(Local) && "Expected local value");
277   }
278
279 public:
280   static LocalAsMetadata *get(Value *Local) {
281     return ValueAsMetadata::getLocal(Local);
282   }
283   static LocalAsMetadata *getIfExists(Value *Local) {
284     return ValueAsMetadata::getLocalIfExists(Local);
285   }
286
287   static bool classof(const Metadata *MD) {
288     return MD->getMetadataID() == LocalAsMetadataKind;
289   }
290 };
291
292 /// \brief Transitional API for extracting constants from Metadata.
293 ///
294 /// This namespace contains transitional functions for metadata that points to
295 /// \a Constants.
296 ///
297 /// In prehistory -- when metadata was a subclass of \a Value -- \a MDNode
298 /// operands could refer to any \a Value.  There's was a lot of code like this:
299 ///
300 /// \code
301 ///     MDNode *N = ...;
302 ///     auto *CI = dyn_cast<ConstantInt>(N->getOperand(2));
303 /// \endcode
304 ///
305 /// Now that \a Value and \a Metadata are in separate hierarchies, maintaining
306 /// the semantics for \a isa(), \a cast(), \a dyn_cast() (etc.) requires three
307 /// steps: cast in the \a Metadata hierarchy, extraction of the \a Value, and
308 /// cast in the \a Value hierarchy.  Besides creating boiler-plate, this
309 /// requires subtle control flow changes.
310 ///
311 /// The end-goal is to create a new type of metadata, called (e.g.) \a MDInt,
312 /// so that metadata can refer to numbers without traversing a bridge to the \a
313 /// Value hierarchy.  In this final state, the code above would look like this:
314 ///
315 /// \code
316 ///     MDNode *N = ...;
317 ///     auto *MI = dyn_cast<MDInt>(N->getOperand(2));
318 /// \endcode
319 ///
320 /// The API in this namespace supports the transition.  \a MDInt doesn't exist
321 /// yet, and even once it does, changing each metadata schema to use it is its
322 /// own mini-project.  In the meantime this API prevents us from introducing
323 /// complex and bug-prone control flow that will disappear in the end.  In
324 /// particular, the above code looks like this:
325 ///
326 /// \code
327 ///     MDNode *N = ...;
328 ///     auto *CI = mdconst::dyn_extract<ConstantInt>(N->getOperand(2));
329 /// \endcode
330 ///
331 /// The full set of provided functions includes:
332 ///
333 ///   mdconst::hasa                <=> isa
334 ///   mdconst::extract             <=> cast
335 ///   mdconst::extract_or_null     <=> cast_or_null
336 ///   mdconst::dyn_extract         <=> dyn_cast
337 ///   mdconst::dyn_extract_or_null <=> dyn_cast_or_null
338 ///
339 /// The target of the cast must be a subclass of \a Constant.
340 namespace mdconst {
341
342 namespace detail {
343 template <class T> T &make();
344 template <class T, class Result> struct HasDereference {
345   typedef char Yes[1];
346   typedef char No[2];
347   template <size_t N> struct SFINAE {};
348
349   template <class U, class V>
350   static Yes &hasDereference(SFINAE<sizeof(static_cast<V>(*make<U>()))> * = 0);
351   template <class U, class V> static No &hasDereference(...);
352
353   static const bool value =
354       sizeof(hasDereference<T, Result>(nullptr)) == sizeof(Yes);
355 };
356 template <class V, class M> struct IsValidPointer {
357   static const bool value = std::is_base_of<Constant, V>::value &&
358                             HasDereference<M, const Metadata &>::value;
359 };
360 template <class V, class M> struct IsValidReference {
361   static const bool value = std::is_base_of<Constant, V>::value &&
362                             std::is_convertible<M, const Metadata &>::value;
363 };
364 } // end namespace detail
365
366 /// \brief Check whether Metadata has a Value.
367 ///
368 /// As an analogue to \a isa(), check whether \c MD has an \a Value inside of
369 /// type \c X.
370 template <class X, class Y>
371 inline typename std::enable_if<detail::IsValidPointer<X, Y>::value, bool>::type
372 hasa(Y &&MD) {
373   assert(MD && "Null pointer sent into hasa");
374   if (auto *V = dyn_cast<ConstantAsMetadata>(MD))
375     return isa<X>(V->getValue());
376   return false;
377 }
378 template <class X, class Y>
379 inline
380     typename std::enable_if<detail::IsValidReference<X, Y &>::value, bool>::type
381     hasa(Y &MD) {
382   return hasa(&MD);
383 }
384
385 /// \brief Extract a Value from Metadata.
386 ///
387 /// As an analogue to \a cast(), extract the \a Value subclass \c X from \c MD.
388 template <class X, class Y>
389 inline typename std::enable_if<detail::IsValidPointer<X, Y>::value, X *>::type
390 extract(Y &&MD) {
391   return cast<X>(cast<ConstantAsMetadata>(MD)->getValue());
392 }
393 template <class X, class Y>
394 inline
395     typename std::enable_if<detail::IsValidReference<X, Y &>::value, X *>::type
396     extract(Y &MD) {
397   return extract(&MD);
398 }
399
400 /// \brief Extract a Value from Metadata, allowing null.
401 ///
402 /// As an analogue to \a cast_or_null(), extract the \a Value subclass \c X
403 /// from \c MD, allowing \c MD to be null.
404 template <class X, class Y>
405 inline typename std::enable_if<detail::IsValidPointer<X, Y>::value, X *>::type
406 extract_or_null(Y &&MD) {
407   if (auto *V = cast_or_null<ConstantAsMetadata>(MD))
408     return cast<X>(V->getValue());
409   return nullptr;
410 }
411
412 /// \brief Extract a Value from Metadata, if any.
413 ///
414 /// As an analogue to \a dyn_cast_or_null(), extract the \a Value subclass \c X
415 /// from \c MD, return null if \c MD doesn't contain a \a Value or if the \a
416 /// Value it does contain is of the wrong subclass.
417 template <class X, class Y>
418 inline typename std::enable_if<detail::IsValidPointer<X, Y>::value, X *>::type
419 dyn_extract(Y &&MD) {
420   if (auto *V = dyn_cast<ConstantAsMetadata>(MD))
421     return dyn_cast<X>(V->getValue());
422   return nullptr;
423 }
424
425 /// \brief Extract a Value from Metadata, if any, allowing null.
426 ///
427 /// As an analogue to \a dyn_cast_or_null(), extract the \a Value subclass \c X
428 /// from \c MD, return null if \c MD doesn't contain a \a Value or if the \a
429 /// Value it does contain is of the wrong subclass, allowing \c MD to be null.
430 template <class X, class Y>
431 inline typename std::enable_if<detail::IsValidPointer<X, Y>::value, X *>::type
432 dyn_extract_or_null(Y &&MD) {
433   if (auto *V = dyn_cast_or_null<ConstantAsMetadata>(MD))
434     return dyn_cast<X>(V->getValue());
435   return nullptr;
436 }
437
438 } // end namespace mdconst
439
440 //===----------------------------------------------------------------------===//
441 /// \brief A single uniqued string.
442 ///
443 /// These are used to efficiently contain a byte sequence for metadata.
444 /// MDString is always unnamed.
445 class MDString : public Metadata {
446   friend class StringMapEntry<MDString>;
447
448   MDString(const MDString &) LLVM_DELETED_FUNCTION;
449   MDString &operator=(MDString &&) LLVM_DELETED_FUNCTION;
450   MDString &operator=(const MDString &) LLVM_DELETED_FUNCTION;
451
452   StringMapEntry<MDString> *Entry;
453   MDString() : Metadata(MDStringKind, Uniqued), Entry(nullptr) {}
454   MDString(MDString &&) : Metadata(MDStringKind, Uniqued) {}
455
456 public:
457   static MDString *get(LLVMContext &Context, StringRef Str);
458   static MDString *get(LLVMContext &Context, const char *Str) {
459     return get(Context, Str ? StringRef(Str) : StringRef());
460   }
461
462   StringRef getString() const;
463
464   unsigned getLength() const { return (unsigned)getString().size(); }
465
466   typedef StringRef::iterator iterator;
467
468   /// \brief Pointer to the first byte of the string.
469   iterator begin() const { return getString().begin(); }
470
471   /// \brief Pointer to one byte past the end of the string.
472   iterator end() const { return getString().end(); }
473
474   const unsigned char *bytes_begin() const { return getString().bytes_begin(); }
475   const unsigned char *bytes_end() const { return getString().bytes_end(); }
476
477   /// \brief Methods for support type inquiry through isa, cast, and dyn_cast.
478   static bool classof(const Metadata *MD) {
479     return MD->getMetadataID() == MDStringKind;
480   }
481 };
482
483 /// \brief A collection of metadata nodes that might be associated with a
484 /// memory access used by the alias-analysis infrastructure.
485 struct AAMDNodes {
486   explicit AAMDNodes(MDNode *T = nullptr, MDNode *S = nullptr,
487                      MDNode *N = nullptr)
488       : TBAA(T), Scope(S), NoAlias(N) {}
489
490   bool operator==(const AAMDNodes &A) const {
491     return TBAA == A.TBAA && Scope == A.Scope && NoAlias == A.NoAlias;
492   }
493
494   bool operator!=(const AAMDNodes &A) const { return !(*this == A); }
495
496   LLVM_EXPLICIT operator bool() const { return TBAA || Scope || NoAlias; }
497
498   /// \brief The tag for type-based alias analysis.
499   MDNode *TBAA;
500
501   /// \brief The tag for alias scope specification (used with noalias).
502   MDNode *Scope;
503
504   /// \brief The tag specifying the noalias scope.
505   MDNode *NoAlias;
506 };
507
508 // Specialize DenseMapInfo for AAMDNodes.
509 template<>
510 struct DenseMapInfo<AAMDNodes> {
511   static inline AAMDNodes getEmptyKey() {
512     return AAMDNodes(DenseMapInfo<MDNode *>::getEmptyKey(), 0, 0);
513   }
514   static inline AAMDNodes getTombstoneKey() {
515     return AAMDNodes(DenseMapInfo<MDNode *>::getTombstoneKey(), 0, 0);
516   }
517   static unsigned getHashValue(const AAMDNodes &Val) {
518     return DenseMapInfo<MDNode *>::getHashValue(Val.TBAA) ^
519            DenseMapInfo<MDNode *>::getHashValue(Val.Scope) ^
520            DenseMapInfo<MDNode *>::getHashValue(Val.NoAlias);
521   }
522   static bool isEqual(const AAMDNodes &LHS, const AAMDNodes &RHS) {
523     return LHS == RHS;
524   }
525 };
526
527 /// \brief Tracking metadata reference owned by Metadata.
528 ///
529 /// Similar to \a TrackingMDRef, but it's expected to be owned by an instance
530 /// of \a Metadata, which has the option of registering itself for callbacks to
531 /// re-unique itself.
532 ///
533 /// In particular, this is used by \a MDNode.
534 class MDOperand {
535   MDOperand(MDOperand &&) LLVM_DELETED_FUNCTION;
536   MDOperand(const MDOperand &) LLVM_DELETED_FUNCTION;
537   MDOperand &operator=(MDOperand &&) LLVM_DELETED_FUNCTION;
538   MDOperand &operator=(const MDOperand &) LLVM_DELETED_FUNCTION;
539
540   Metadata *MD;
541
542 public:
543   MDOperand() : MD(nullptr) {}
544   ~MDOperand() { untrack(); }
545
546   Metadata *get() const { return MD; }
547   operator Metadata *() const { return get(); }
548   Metadata *operator->() const { return get(); }
549   Metadata &operator*() const { return *get(); }
550
551   void reset() {
552     untrack();
553     MD = nullptr;
554   }
555   void reset(Metadata *MD, Metadata *Owner) {
556     untrack();
557     this->MD = MD;
558     track(Owner);
559   }
560
561 private:
562   void track(Metadata *Owner) {
563     if (MD) {
564       if (Owner)
565         MetadataTracking::track(this, *MD, *Owner);
566       else
567         MetadataTracking::track(MD);
568     }
569   }
570   void untrack() {
571     assert(static_cast<void *>(this) == &MD && "Expected same address");
572     if (MD)
573       MetadataTracking::untrack(MD);
574   }
575 };
576
577 template <> struct simplify_type<MDOperand> {
578   typedef Metadata *SimpleType;
579   static SimpleType getSimplifiedValue(MDOperand &MD) { return MD.get(); }
580 };
581
582 template <> struct simplify_type<const MDOperand> {
583   typedef Metadata *SimpleType;
584   static SimpleType getSimplifiedValue(const MDOperand &MD) { return MD.get(); }
585 };
586
587 /// \brief Pointer to the context, with optional RAUW support.
588 ///
589 /// Either a raw (non-null) pointer to the \a LLVMContext, or an owned pointer
590 /// to \a ReplaceableMetadataImpl (which has a reference to \a LLVMContext).
591 class ContextAndReplaceableUses {
592   PointerUnion<LLVMContext *, ReplaceableMetadataImpl *> Ptr;
593
594   ContextAndReplaceableUses() LLVM_DELETED_FUNCTION;
595   ContextAndReplaceableUses(ContextAndReplaceableUses &&)
596       LLVM_DELETED_FUNCTION;
597   ContextAndReplaceableUses(const ContextAndReplaceableUses &)
598       LLVM_DELETED_FUNCTION;
599   ContextAndReplaceableUses &
600   operator=(ContextAndReplaceableUses &&) LLVM_DELETED_FUNCTION;
601   ContextAndReplaceableUses &
602   operator=(const ContextAndReplaceableUses &) LLVM_DELETED_FUNCTION;
603
604 public:
605   ContextAndReplaceableUses(LLVMContext &Context) : Ptr(&Context) {}
606   ContextAndReplaceableUses(
607       std::unique_ptr<ReplaceableMetadataImpl> ReplaceableUses)
608       : Ptr(ReplaceableUses.release()) {
609     assert(getReplaceableUses() && "Expected non-null replaceable uses");
610   }
611   ~ContextAndReplaceableUses() { delete getReplaceableUses(); }
612
613   operator LLVMContext &() { return getContext(); }
614
615   /// \brief Whether this contains RAUW support.
616   bool hasReplaceableUses() const {
617     return Ptr.is<ReplaceableMetadataImpl *>();
618   }
619   LLVMContext &getContext() const {
620     if (hasReplaceableUses())
621       return getReplaceableUses()->getContext();
622     return *Ptr.get<LLVMContext *>();
623   }
624   ReplaceableMetadataImpl *getReplaceableUses() const {
625     if (hasReplaceableUses())
626       return Ptr.get<ReplaceableMetadataImpl *>();
627     return nullptr;
628   }
629
630   /// \brief Assign RAUW support to this.
631   ///
632   /// Make this replaceable, taking ownership of \c ReplaceableUses (which must
633   /// not be null).
634   void
635   makeReplaceable(std::unique_ptr<ReplaceableMetadataImpl> ReplaceableUses) {
636     assert(ReplaceableUses && "Expected non-null replaceable uses");
637     assert(&ReplaceableUses->getContext() == &getContext() &&
638            "Expected same context");
639     delete getReplaceableUses();
640     Ptr = ReplaceableUses.release();
641   }
642
643   /// \brief Drop RAUW support.
644   ///
645   /// Cede ownership of RAUW support, returning it.
646   std::unique_ptr<ReplaceableMetadataImpl> takeReplaceableUses() {
647     assert(hasReplaceableUses() && "Expected to own replaceable uses");
648     std::unique_ptr<ReplaceableMetadataImpl> ReplaceableUses(
649         getReplaceableUses());
650     Ptr = &ReplaceableUses->getContext();
651     return ReplaceableUses;
652   }
653 };
654
655 struct TempMDNodeDeleter {
656   inline void operator()(MDNode *Node) const;
657 };
658
659 #define HANDLE_MDNODE_LEAF(CLASS)                                              \
660   typedef std::unique_ptr<CLASS, TempMDNodeDeleter> Temp##CLASS;
661 #define HANDLE_MDNODE_BRANCH(CLASS) HANDLE_MDNODE_LEAF(CLASS)
662 #include "llvm/IR/Metadata.def"
663
664 /// \brief Metadata node.
665 ///
666 /// Metadata nodes can be uniqued, like constants, or distinct.  Temporary
667 /// metadata nodes (with full support for RAUW) can be used to delay uniquing
668 /// until forward references are known.  The basic metadata node is an \a
669 /// MDTuple.
670 ///
671 /// There is limited support for RAUW at construction time.  At construction
672 /// time, if any operand is a temporary node (or an unresolved uniqued node,
673 /// which indicates a transitive temporary operand), the node itself will be
674 /// unresolved.  As soon as all operands become resolved, it will drop RAUW
675 /// support permanently.
676 ///
677 /// If an unresolved node is part of a cycle, \a resolveCycles() needs
678 /// to be called on some member of the cycle once all temporary nodes have been
679 /// replaced.
680 class MDNode : public Metadata {
681   friend class ReplaceableMetadataImpl;
682   friend class LLVMContextImpl;
683
684   MDNode(const MDNode &) LLVM_DELETED_FUNCTION;
685   void operator=(const MDNode &) LLVM_DELETED_FUNCTION;
686   void *operator new(size_t) LLVM_DELETED_FUNCTION;
687
688   unsigned NumOperands;
689   unsigned NumUnresolved;
690
691 protected:
692   ContextAndReplaceableUses Context;
693
694   void *operator new(size_t Size, unsigned NumOps);
695   void operator delete(void *Mem);
696
697   /// \brief Required by std, but never called.
698   void operator delete(void *, unsigned) {
699     llvm_unreachable("Constructor throws?");
700   }
701
702   /// \brief Required by std, but never called.
703   void operator delete(void *, unsigned, bool) {
704     llvm_unreachable("Constructor throws?");
705   }
706
707   MDNode(LLVMContext &Context, unsigned ID, StorageType Storage,
708          ArrayRef<Metadata *> Ops1, ArrayRef<Metadata *> Ops2 = None);
709   ~MDNode() {}
710
711   void dropAllReferences();
712
713   MDOperand *mutable_begin() { return mutable_end() - NumOperands; }
714   MDOperand *mutable_end() { return reinterpret_cast<MDOperand *>(this); }
715
716 public:
717   static inline MDTuple *get(LLVMContext &Context, ArrayRef<Metadata *> MDs);
718   static inline MDTuple *getIfExists(LLVMContext &Context,
719                                      ArrayRef<Metadata *> MDs);
720   static inline MDTuple *getDistinct(LLVMContext &Context,
721                                      ArrayRef<Metadata *> MDs);
722   static inline TempMDTuple getTemporary(LLVMContext &Context,
723                                          ArrayRef<Metadata *> MDs);
724
725   /// \brief Create a (temporary) clone of this.
726   TempMDNode clone() const;
727
728   /// \brief Deallocate a node created by getTemporary.
729   ///
730   /// The node must not have any users.
731   static void deleteTemporary(MDNode *N);
732
733   LLVMContext &getContext() const { return Context.getContext(); }
734
735   /// \brief Replace a specific operand.
736   void replaceOperandWith(unsigned I, Metadata *New);
737
738   /// \brief Check if node is fully resolved.
739   ///
740   /// If \a isTemporary(), this always returns \c false; if \a isDistinct(),
741   /// this always returns \c true.
742   ///
743   /// If \a isUniqued(), returns \c true if this has already dropped RAUW
744   /// support (because all operands are resolved).
745   ///
746   /// As forward declarations are resolved, their containers should get
747   /// resolved automatically.  However, if this (or one of its operands) is
748   /// involved in a cycle, \a resolveCycles() needs to be called explicitly.
749   bool isResolved() const { return !Context.hasReplaceableUses(); }
750
751   bool isUniqued() const { return Storage == Uniqued; }
752   bool isDistinct() const { return Storage == Distinct; }
753   bool isTemporary() const { return Storage == Temporary; }
754
755   /// \brief RAUW a temporary.
756   ///
757   /// \pre \a isTemporary() must be \c true.
758   void replaceAllUsesWith(Metadata *MD) {
759     assert(isTemporary() && "Expected temporary node");
760     assert(!isResolved() && "Expected RAUW support");
761     Context.getReplaceableUses()->replaceAllUsesWith(MD);
762   }
763
764   /// \brief Resolve cycles.
765   ///
766   /// Once all forward declarations have been resolved, force cycles to be
767   /// resolved.
768   ///
769   /// \pre No operands (or operands' operands, etc.) have \a isTemporary().
770   void resolveCycles();
771
772   /// \brief Replace a temporary node with a uniqued one.
773   ///
774   /// Create a uniqued version of \c N -- in place, if possible -- and return
775   /// it.  Takes ownership of the temporary node.
776   template <class T>
777   static typename std::enable_if<std::is_base_of<MDNode, T>::value, T *>::type
778   replaceWithUniqued(std::unique_ptr<T, TempMDNodeDeleter> N) {
779     return cast<T>(N.release()->replaceWithUniquedImpl());
780   }
781
782   /// \brief Replace a temporary node with a distinct one.
783   ///
784   /// Create a distinct version of \c N -- in place, if possible -- and return
785   /// it.  Takes ownership of the temporary node.
786   template <class T>
787   static typename std::enable_if<std::is_base_of<MDNode, T>::value, T *>::type
788   replaceWithDistinct(std::unique_ptr<T, TempMDNodeDeleter> N) {
789     return cast<T>(N.release()->replaceWithDistinctImpl());
790   }
791
792 private:
793   MDNode *replaceWithUniquedImpl();
794   MDNode *replaceWithDistinctImpl();
795
796 protected:
797   /// \brief Set an operand.
798   ///
799   /// Sets the operand directly, without worrying about uniquing.
800   void setOperand(unsigned I, Metadata *New);
801
802   void storeDistinctInContext();
803   template <class T, class StoreT>
804   static T *storeImpl(T *N, StorageType Storage, StoreT &Store);
805
806 private:
807   void handleChangedOperand(void *Ref, Metadata *New);
808
809   void resolve();
810   void resolveAfterOperandChange(Metadata *Old, Metadata *New);
811   void decrementUnresolvedOperandCount();
812   unsigned countUnresolvedOperands();
813
814   /// \brief Mutate this to be "uniqued".
815   ///
816   /// Mutate this so that \a isUniqued().
817   /// \pre \a isTemporary().
818   /// \pre already added to uniquing set.
819   void makeUniqued();
820
821   /// \brief Mutate this to be "distinct".
822   ///
823   /// Mutate this so that \a isDistinct().
824   /// \pre \a isTemporary().
825   void makeDistinct();
826
827   void deleteAsSubclass();
828   MDNode *uniquify();
829   void eraseFromStore();
830
831   template <class NodeTy> struct HasCachedHash;
832   template <class NodeTy>
833   static void dispatchRecalculateHash(NodeTy *N, std::true_type) {
834     N->recalculateHash();
835   }
836   template <class NodeTy>
837   static void dispatchRecalculateHash(NodeTy *N, std::false_type) {}
838   template <class NodeTy>
839   static void dispatchResetHash(NodeTy *N, std::true_type) {
840     N->setHash(0);
841   }
842   template <class NodeTy>
843   static void dispatchResetHash(NodeTy *N, std::false_type) {}
844
845 public:
846   typedef const MDOperand *op_iterator;
847   typedef iterator_range<op_iterator> op_range;
848
849   op_iterator op_begin() const {
850     return const_cast<MDNode *>(this)->mutable_begin();
851   }
852   op_iterator op_end() const {
853     return const_cast<MDNode *>(this)->mutable_end();
854   }
855   op_range operands() const { return op_range(op_begin(), op_end()); }
856
857   const MDOperand &getOperand(unsigned I) const {
858     assert(I < NumOperands && "Out of range");
859     return op_begin()[I];
860   }
861
862   /// \brief Return number of MDNode operands.
863   unsigned getNumOperands() const { return NumOperands; }
864
865   /// \brief Methods for support type inquiry through isa, cast, and dyn_cast:
866   static bool classof(const Metadata *MD) {
867     return MD->getMetadataID() == MDTupleKind ||
868            MD->getMetadataID() == MDLocationKind ||
869            MD->getMetadataID() == GenericDwarfNodeKind;
870   }
871
872   /// \brief Check whether MDNode is a vtable access.
873   bool isTBAAVtableAccess() const;
874
875   /// \brief Methods for metadata merging.
876   static MDNode *concatenate(MDNode *A, MDNode *B);
877   static MDNode *intersect(MDNode *A, MDNode *B);
878   static MDNode *getMostGenericTBAA(MDNode *A, MDNode *B);
879   static MDNode *getMostGenericFPMath(MDNode *A, MDNode *B);
880   static MDNode *getMostGenericRange(MDNode *A, MDNode *B);
881 };
882
883 /// \brief Tuple of metadata.
884 ///
885 /// This is the simple \a MDNode arbitrary tuple.  Nodes are uniqued by
886 /// default based on their operands.
887 class MDTuple : public MDNode {
888   friend class LLVMContextImpl;
889   friend class MDNode;
890
891   MDTuple(LLVMContext &C, StorageType Storage, unsigned Hash,
892           ArrayRef<Metadata *> Vals)
893       : MDNode(C, MDTupleKind, Storage, Vals) {
894     setHash(Hash);
895   }
896   ~MDTuple() { dropAllReferences(); }
897
898   void setHash(unsigned Hash) { SubclassData32 = Hash; }
899   void recalculateHash();
900
901   static MDTuple *getImpl(LLVMContext &Context, ArrayRef<Metadata *> MDs,
902                           StorageType Storage, bool ShouldCreate = true);
903
904   TempMDTuple cloneImpl() const {
905     return getTemporary(getContext(),
906                         SmallVector<Metadata *, 4>(op_begin(), op_end()));
907   }
908
909 public:
910   /// \brief Get the hash, if any.
911   unsigned getHash() const { return SubclassData32; }
912
913   static MDTuple *get(LLVMContext &Context, ArrayRef<Metadata *> MDs) {
914     return getImpl(Context, MDs, Uniqued);
915   }
916   static MDTuple *getIfExists(LLVMContext &Context, ArrayRef<Metadata *> MDs) {
917     return getImpl(Context, MDs, Uniqued, /* ShouldCreate */ false);
918   }
919
920   /// \brief Return a distinct node.
921   ///
922   /// Return a distinct node -- i.e., a node that is not uniqued.
923   static MDTuple *getDistinct(LLVMContext &Context, ArrayRef<Metadata *> MDs) {
924     return getImpl(Context, MDs, Distinct);
925   }
926
927   /// \brief Return a temporary node.
928   ///
929   /// For use in constructing cyclic MDNode structures. A temporary MDNode is
930   /// not uniqued, may be RAUW'd, and must be manually deleted with
931   /// deleteTemporary.
932   static TempMDTuple getTemporary(LLVMContext &Context,
933                                   ArrayRef<Metadata *> MDs) {
934     return TempMDTuple(getImpl(Context, MDs, Temporary));
935   }
936
937   /// \brief Return a (temporary) clone of this.
938   TempMDTuple clone() const { return cloneImpl(); }
939
940   static bool classof(const Metadata *MD) {
941     return MD->getMetadataID() == MDTupleKind;
942   }
943 };
944
945 MDTuple *MDNode::get(LLVMContext &Context, ArrayRef<Metadata *> MDs) {
946   return MDTuple::get(Context, MDs);
947 }
948 MDTuple *MDNode::getIfExists(LLVMContext &Context, ArrayRef<Metadata *> MDs) {
949   return MDTuple::getIfExists(Context, MDs);
950 }
951 MDTuple *MDNode::getDistinct(LLVMContext &Context, ArrayRef<Metadata *> MDs) {
952   return MDTuple::getDistinct(Context, MDs);
953 }
954 TempMDTuple MDNode::getTemporary(LLVMContext &Context,
955                                  ArrayRef<Metadata *> MDs) {
956   return MDTuple::getTemporary(Context, MDs);
957 }
958
959 void TempMDNodeDeleter::operator()(MDNode *Node) const {
960   MDNode::deleteTemporary(Node);
961 }
962
963 /// \brief Debug location.
964 ///
965 /// A debug location in source code, used for debug info and otherwise.
966 class MDLocation : public MDNode {
967   friend class LLVMContextImpl;
968   friend class MDNode;
969
970   MDLocation(LLVMContext &C, StorageType Storage, unsigned Line,
971              unsigned Column, ArrayRef<Metadata *> MDs);
972   ~MDLocation() { dropAllReferences(); }
973
974   static MDLocation *getImpl(LLVMContext &Context, unsigned Line,
975                              unsigned Column, Metadata *Scope,
976                              Metadata *InlinedAt, StorageType Storage,
977                              bool ShouldCreate = true);
978
979   TempMDLocation cloneImpl() const {
980     return getTemporary(getContext(), getLine(), getColumn(), getScope(),
981                         getInlinedAt());
982   }
983
984   // Disallow replacing operands.
985   void replaceOperandWith(unsigned I, Metadata *New) LLVM_DELETED_FUNCTION;
986
987 public:
988   static MDLocation *get(LLVMContext &Context, unsigned Line, unsigned Column,
989                          Metadata *Scope, Metadata *InlinedAt = nullptr) {
990     return getImpl(Context, Line, Column, Scope, InlinedAt, Uniqued);
991   }
992   static MDLocation *getIfExists(LLVMContext &Context, unsigned Line,
993                                  unsigned Column, Metadata *Scope,
994                                  Metadata *InlinedAt = nullptr) {
995     return getImpl(Context, Line, Column, Scope, InlinedAt, Uniqued,
996                    /* ShouldCreate */ false);
997   }
998   static MDLocation *getDistinct(LLVMContext &Context, unsigned Line,
999                                  unsigned Column, Metadata *Scope,
1000                                  Metadata *InlinedAt = nullptr) {
1001     return getImpl(Context, Line, Column, Scope, InlinedAt, Distinct);
1002   }
1003   static TempMDLocation getTemporary(LLVMContext &Context, unsigned Line,
1004                                      unsigned Column, Metadata *Scope,
1005                                      Metadata *InlinedAt = nullptr) {
1006     return TempMDLocation(
1007         getImpl(Context, Line, Column, Scope, InlinedAt, Temporary));
1008   }
1009
1010   /// \brief Return a (temporary) clone of this.
1011   TempMDLocation clone() const { return cloneImpl(); }
1012
1013   unsigned getLine() const { return SubclassData32; }
1014   unsigned getColumn() const { return SubclassData16; }
1015   Metadata *getScope() const { return getOperand(0); }
1016   Metadata *getInlinedAt() const {
1017     if (getNumOperands() == 2)
1018       return getOperand(1);
1019     return nullptr;
1020   }
1021
1022   static bool classof(const Metadata *MD) {
1023     return MD->getMetadataID() == MDLocationKind;
1024   }
1025 };
1026
1027 /// \brief Tagged dwarf node.
1028 ///
1029 /// A metadata node with a DWARF tag.
1030 class DwarfNode : public MDNode {
1031   friend class LLVMContextImpl;
1032   friend class MDNode;
1033
1034 protected:
1035   DwarfNode(LLVMContext &C, unsigned ID, StorageType Storage, unsigned Tag,
1036             ArrayRef<Metadata *> Ops1, ArrayRef<Metadata *> Ops2 = None)
1037       : MDNode(C, ID, Storage, Ops1, Ops2) {
1038     assert(Tag < 1u << 16);
1039     SubclassData16 = Tag;
1040   }
1041   ~DwarfNode() {}
1042
1043 public:
1044   unsigned getTag() const { return SubclassData16; }
1045
1046   static bool classof(const Metadata *MD) {
1047     return MD->getMetadataID() == GenericDwarfNodeKind;
1048   }
1049 };
1050
1051 /// \brief Generic tagged dwarf node.
1052 ///
1053 /// A generic metadata node with a DWARF tag that doesn't have special
1054 /// handling.
1055 class GenericDwarfNode : public DwarfNode {
1056   friend class LLVMContextImpl;
1057   friend class MDNode;
1058
1059   GenericDwarfNode(LLVMContext &C, StorageType Storage, unsigned Hash,
1060                    unsigned Tag, ArrayRef<Metadata *> Ops1,
1061                    ArrayRef<Metadata *> Ops2)
1062       : DwarfNode(C, GenericDwarfNodeKind, Storage, Tag, Ops1, Ops2) {
1063     setHash(Hash);
1064   }
1065   ~GenericDwarfNode() { dropAllReferences(); }
1066
1067   void setHash(unsigned Hash) { SubclassData32 = Hash; }
1068   void recalculateHash();
1069
1070   static GenericDwarfNode *getImpl(LLVMContext &Context, unsigned Tag,
1071                                    MDString *Header,
1072                                    ArrayRef<Metadata *> DwarfOps,
1073                                    StorageType Storage,
1074                                    bool ShouldCreate = true);
1075
1076   TempGenericDwarfNode cloneImpl() const {
1077     return getTemporary(
1078         getContext(), getTag(), getHeader(),
1079         SmallVector<Metadata *, 4>(dwarf_op_begin(), dwarf_op_end()));
1080   }
1081
1082 public:
1083   unsigned getHash() const { return SubclassData32; }
1084
1085   static GenericDwarfNode *get(LLVMContext &Context,
1086                                unsigned Tag,
1087                                MDString *Header,
1088                                ArrayRef<Metadata *> DwarfOps) {
1089     return getImpl(Context, Tag, Header, DwarfOps, Uniqued);
1090   }
1091   static GenericDwarfNode *getIfExists(LLVMContext &Context, unsigned Tag,
1092                                        MDString *Header,
1093                                        ArrayRef<Metadata *> DwarfOps) {
1094     return getImpl(Context, Tag, Header, DwarfOps, Uniqued,
1095                    /* ShouldCreate */ false);
1096   }
1097   static GenericDwarfNode *getDistinct(LLVMContext &Context, unsigned Tag,
1098                                        MDString *Header,
1099                                        ArrayRef<Metadata *> DwarfOps) {
1100     return getImpl(Context, Tag, Header, DwarfOps, Distinct);
1101   }
1102   static TempGenericDwarfNode getTemporary(LLVMContext &Context, unsigned Tag,
1103                                            MDString *Header,
1104                                            ArrayRef<Metadata *> DwarfOps) {
1105     return TempGenericDwarfNode(
1106         getImpl(Context, Tag, Header, DwarfOps, Temporary));
1107   }
1108
1109   /// \brief Return a (temporary) clone of this.
1110   TempGenericDwarfNode clone() const { return cloneImpl(); }
1111
1112   unsigned getTag() const { return SubclassData16; }
1113   MDString *getHeader() const { return cast_or_null<MDString>(getOperand(0)); }
1114
1115   op_iterator dwarf_op_begin() const { return op_begin() + 1; }
1116   op_iterator dwarf_op_end() const { return op_end(); }
1117   op_range dwarf_operands() const {
1118     return op_range(dwarf_op_begin(), dwarf_op_end());
1119   }
1120
1121   unsigned getNumDwarfOperands() const { return getNumOperands() - 1; }
1122   const MDOperand &getDwarfOperand(unsigned I) const {
1123     return getOperand(I + 1);
1124   }
1125   void replaceDwarfOperandWith(unsigned I, Metadata *New) {
1126     replaceOperandWith(I + 1, New);
1127   }
1128
1129   static bool classof(const Metadata *MD) {
1130     return MD->getMetadataID() == GenericDwarfNodeKind;
1131   }
1132 };
1133
1134 //===----------------------------------------------------------------------===//
1135 /// \brief A tuple of MDNodes.
1136 ///
1137 /// Despite its name, a NamedMDNode isn't itself an MDNode. NamedMDNodes belong
1138 /// to modules, have names, and contain lists of MDNodes.
1139 ///
1140 /// TODO: Inherit from Metadata.
1141 class NamedMDNode : public ilist_node<NamedMDNode> {
1142   friend class SymbolTableListTraits<NamedMDNode, Module>;
1143   friend struct ilist_traits<NamedMDNode>;
1144   friend class LLVMContextImpl;
1145   friend class Module;
1146   NamedMDNode(const NamedMDNode &) LLVM_DELETED_FUNCTION;
1147
1148   std::string Name;
1149   Module *Parent;
1150   void *Operands; // SmallVector<TrackingMDRef, 4>
1151
1152   void setParent(Module *M) { Parent = M; }
1153
1154   explicit NamedMDNode(const Twine &N);
1155
1156   template<class T1, class T2>
1157   class op_iterator_impl :
1158       public std::iterator<std::bidirectional_iterator_tag, T2> {
1159     const NamedMDNode *Node;
1160     unsigned Idx;
1161     op_iterator_impl(const NamedMDNode *N, unsigned i) : Node(N), Idx(i) { }
1162
1163     friend class NamedMDNode;
1164
1165   public:
1166     op_iterator_impl() : Node(nullptr), Idx(0) { }
1167
1168     bool operator==(const op_iterator_impl &o) const { return Idx == o.Idx; }
1169     bool operator!=(const op_iterator_impl &o) const { return Idx != o.Idx; }
1170     op_iterator_impl &operator++() {
1171       ++Idx;
1172       return *this;
1173     }
1174     op_iterator_impl operator++(int) {
1175       op_iterator_impl tmp(*this);
1176       operator++();
1177       return tmp;
1178     }
1179     op_iterator_impl &operator--() {
1180       --Idx;
1181       return *this;
1182     }
1183     op_iterator_impl operator--(int) {
1184       op_iterator_impl tmp(*this);
1185       operator--();
1186       return tmp;
1187     }
1188
1189     T1 operator*() const { return Node->getOperand(Idx); }
1190   };
1191
1192 public:
1193   /// \brief Drop all references and remove the node from parent module.
1194   void eraseFromParent();
1195
1196   /// \brief Remove all uses and clear node vector.
1197   void dropAllReferences();
1198
1199   ~NamedMDNode();
1200
1201   /// \brief Get the module that holds this named metadata collection.
1202   inline Module *getParent() { return Parent; }
1203   inline const Module *getParent() const { return Parent; }
1204
1205   MDNode *getOperand(unsigned i) const;
1206   unsigned getNumOperands() const;
1207   void addOperand(MDNode *M);
1208   void setOperand(unsigned I, MDNode *New);
1209   StringRef getName() const;
1210   void print(raw_ostream &ROS) const;
1211   void dump() const;
1212
1213   // ---------------------------------------------------------------------------
1214   // Operand Iterator interface...
1215   //
1216   typedef op_iterator_impl<MDNode *, MDNode> op_iterator;
1217   op_iterator op_begin() { return op_iterator(this, 0); }
1218   op_iterator op_end()   { return op_iterator(this, getNumOperands()); }
1219
1220   typedef op_iterator_impl<const MDNode *, MDNode> const_op_iterator;
1221   const_op_iterator op_begin() const { return const_op_iterator(this, 0); }
1222   const_op_iterator op_end()   const { return const_op_iterator(this, getNumOperands()); }
1223
1224   inline iterator_range<op_iterator>  operands() {
1225     return iterator_range<op_iterator>(op_begin(), op_end());
1226   }
1227   inline iterator_range<const_op_iterator> operands() const {
1228     return iterator_range<const_op_iterator>(op_begin(), op_end());
1229   }
1230 };
1231
1232 } // end llvm namespace
1233
1234 #endif