Masked gather and scatter - added DAGCombine visitors
[oota-llvm.git] / lib / CodeGen / SelectionDAG / SelectionDAGDumper.cpp
1 //===-- SelectionDAGDumper.cpp - Implement SelectionDAG::dump() -----------===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // This implements the SelectionDAG::dump method and friends.
11 //
12 //===----------------------------------------------------------------------===//
13
14 #include "llvm/CodeGen/SelectionDAG.h"
15 #include "ScheduleDAGSDNodes.h"
16 #include "llvm/ADT/StringExtras.h"
17 #include "llvm/CodeGen/MachineConstantPool.h"
18 #include "llvm/CodeGen/MachineFunction.h"
19 #include "llvm/CodeGen/MachineModuleInfo.h"
20 #include "llvm/IR/DebugInfo.h"
21 #include "llvm/IR/Function.h"
22 #include "llvm/IR/Intrinsics.h"
23 #include "llvm/Support/Debug.h"
24 #include "llvm/Support/GraphWriter.h"
25 #include "llvm/Support/raw_ostream.h"
26 #include "llvm/Target/TargetInstrInfo.h"
27 #include "llvm/Target/TargetIntrinsicInfo.h"
28 #include "llvm/Target/TargetMachine.h"
29 #include "llvm/Target/TargetRegisterInfo.h"
30 #include "llvm/Target/TargetSubtargetInfo.h"
31 using namespace llvm;
32
33 std::string SDNode::getOperationName(const SelectionDAG *G) const {
34   switch (getOpcode()) {
35   default:
36     if (getOpcode() < ISD::BUILTIN_OP_END)
37       return "<<Unknown DAG Node>>";
38     if (isMachineOpcode()) {
39       if (G)
40         if (const TargetInstrInfo *TII = G->getSubtarget().getInstrInfo())
41           if (getMachineOpcode() < TII->getNumOpcodes())
42             return TII->getName(getMachineOpcode());
43       return "<<Unknown Machine Node #" + utostr(getOpcode()) + ">>";
44     }
45     if (G) {
46       const TargetLowering &TLI = G->getTargetLoweringInfo();
47       const char *Name = TLI.getTargetNodeName(getOpcode());
48       if (Name) return Name;
49       return "<<Unknown Target Node #" + utostr(getOpcode()) + ">>";
50     }
51     return "<<Unknown Node #" + utostr(getOpcode()) + ">>";
52
53 #ifndef NDEBUG
54   case ISD::DELETED_NODE:               return "<<Deleted Node!>>";
55 #endif
56   case ISD::PREFETCH:                   return "Prefetch";
57   case ISD::ATOMIC_FENCE:               return "AtomicFence";
58   case ISD::ATOMIC_CMP_SWAP:            return "AtomicCmpSwap";
59   case ISD::ATOMIC_CMP_SWAP_WITH_SUCCESS: return "AtomicCmpSwapWithSuccess";
60   case ISD::ATOMIC_SWAP:                return "AtomicSwap";
61   case ISD::ATOMIC_LOAD_ADD:            return "AtomicLoadAdd";
62   case ISD::ATOMIC_LOAD_SUB:            return "AtomicLoadSub";
63   case ISD::ATOMIC_LOAD_AND:            return "AtomicLoadAnd";
64   case ISD::ATOMIC_LOAD_OR:             return "AtomicLoadOr";
65   case ISD::ATOMIC_LOAD_XOR:            return "AtomicLoadXor";
66   case ISD::ATOMIC_LOAD_NAND:           return "AtomicLoadNand";
67   case ISD::ATOMIC_LOAD_MIN:            return "AtomicLoadMin";
68   case ISD::ATOMIC_LOAD_MAX:            return "AtomicLoadMax";
69   case ISD::ATOMIC_LOAD_UMIN:           return "AtomicLoadUMin";
70   case ISD::ATOMIC_LOAD_UMAX:           return "AtomicLoadUMax";
71   case ISD::ATOMIC_LOAD:                return "AtomicLoad";
72   case ISD::ATOMIC_STORE:               return "AtomicStore";
73   case ISD::PCMARKER:                   return "PCMarker";
74   case ISD::READCYCLECOUNTER:           return "ReadCycleCounter";
75   case ISD::SRCVALUE:                   return "SrcValue";
76   case ISD::MDNODE_SDNODE:              return "MDNode";
77   case ISD::EntryToken:                 return "EntryToken";
78   case ISD::TokenFactor:                return "TokenFactor";
79   case ISD::AssertSext:                 return "AssertSext";
80   case ISD::AssertZext:                 return "AssertZext";
81
82   case ISD::BasicBlock:                 return "BasicBlock";
83   case ISD::VALUETYPE:                  return "ValueType";
84   case ISD::Register:                   return "Register";
85   case ISD::RegisterMask:               return "RegisterMask";
86   case ISD::Constant:
87     if (cast<ConstantSDNode>(this)->isOpaque())
88       return "OpaqueConstant";
89     return "Constant";
90   case ISD::ConstantFP:                 return "ConstantFP";
91   case ISD::GlobalAddress:              return "GlobalAddress";
92   case ISD::GlobalTLSAddress:           return "GlobalTLSAddress";
93   case ISD::FrameIndex:                 return "FrameIndex";
94   case ISD::JumpTable:                  return "JumpTable";
95   case ISD::GLOBAL_OFFSET_TABLE:        return "GLOBAL_OFFSET_TABLE";
96   case ISD::RETURNADDR:                 return "RETURNADDR";
97   case ISD::FRAMEADDR:                  return "FRAMEADDR";
98   case ISD::FRAME_ALLOC_RECOVER:        return "FRAME_ALLOC_RECOVER";
99   case ISD::READ_REGISTER:              return "READ_REGISTER";
100   case ISD::WRITE_REGISTER:             return "WRITE_REGISTER";
101   case ISD::FRAME_TO_ARGS_OFFSET:       return "FRAME_TO_ARGS_OFFSET";
102   case ISD::EH_RETURN:                  return "EH_RETURN";
103   case ISD::EH_SJLJ_SETJMP:             return "EH_SJLJ_SETJMP";
104   case ISD::EH_SJLJ_LONGJMP:            return "EH_SJLJ_LONGJMP";
105   case ISD::ConstantPool:               return "ConstantPool";
106   case ISD::TargetIndex:                return "TargetIndex";
107   case ISD::ExternalSymbol:             return "ExternalSymbol";
108   case ISD::BlockAddress:               return "BlockAddress";
109   case ISD::INTRINSIC_WO_CHAIN:
110   case ISD::INTRINSIC_VOID:
111   case ISD::INTRINSIC_W_CHAIN: {
112     unsigned OpNo = getOpcode() == ISD::INTRINSIC_WO_CHAIN ? 0 : 1;
113     unsigned IID = cast<ConstantSDNode>(getOperand(OpNo))->getZExtValue();
114     if (IID < Intrinsic::num_intrinsics)
115       return Intrinsic::getName((Intrinsic::ID)IID);
116     else if (const TargetIntrinsicInfo *TII = G->getTarget().getIntrinsicInfo())
117       return TII->getName(IID);
118     llvm_unreachable("Invalid intrinsic ID");
119   }
120
121   case ISD::BUILD_VECTOR:               return "BUILD_VECTOR";
122   case ISD::TargetConstant:
123     if (cast<ConstantSDNode>(this)->isOpaque())
124       return "OpaqueTargetConstant";
125     return "TargetConstant";
126   case ISD::TargetConstantFP:           return "TargetConstantFP";
127   case ISD::TargetGlobalAddress:        return "TargetGlobalAddress";
128   case ISD::TargetGlobalTLSAddress:     return "TargetGlobalTLSAddress";
129   case ISD::TargetFrameIndex:           return "TargetFrameIndex";
130   case ISD::TargetJumpTable:            return "TargetJumpTable";
131   case ISD::TargetConstantPool:         return "TargetConstantPool";
132   case ISD::TargetExternalSymbol:       return "TargetExternalSymbol";
133   case ISD::TargetBlockAddress:         return "TargetBlockAddress";
134
135   case ISD::CopyToReg:                  return "CopyToReg";
136   case ISD::CopyFromReg:                return "CopyFromReg";
137   case ISD::UNDEF:                      return "undef";
138   case ISD::MERGE_VALUES:               return "merge_values";
139   case ISD::INLINEASM:                  return "inlineasm";
140   case ISD::EH_LABEL:                   return "eh_label";
141   case ISD::HANDLENODE:                 return "handlenode";
142
143   // Unary operators
144   case ISD::FABS:                       return "fabs";
145   case ISD::FMINNUM:                    return "fminnum";
146   case ISD::FMAXNUM:                    return "fmaxnum";
147   case ISD::FNEG:                       return "fneg";
148   case ISD::FSQRT:                      return "fsqrt";
149   case ISD::FSIN:                       return "fsin";
150   case ISD::FCOS:                       return "fcos";
151   case ISD::FSINCOS:                    return "fsincos";
152   case ISD::FTRUNC:                     return "ftrunc";
153   case ISD::FFLOOR:                     return "ffloor";
154   case ISD::FCEIL:                      return "fceil";
155   case ISD::FRINT:                      return "frint";
156   case ISD::FNEARBYINT:                 return "fnearbyint";
157   case ISD::FROUND:                     return "fround";
158   case ISD::FEXP:                       return "fexp";
159   case ISD::FEXP2:                      return "fexp2";
160   case ISD::FLOG:                       return "flog";
161   case ISD::FLOG2:                      return "flog2";
162   case ISD::FLOG10:                     return "flog10";
163
164   // Binary operators
165   case ISD::ADD:                        return "add";
166   case ISD::SUB:                        return "sub";
167   case ISD::MUL:                        return "mul";
168   case ISD::MULHU:                      return "mulhu";
169   case ISD::MULHS:                      return "mulhs";
170   case ISD::SDIV:                       return "sdiv";
171   case ISD::UDIV:                       return "udiv";
172   case ISD::SREM:                       return "srem";
173   case ISD::UREM:                       return "urem";
174   case ISD::SMUL_LOHI:                  return "smul_lohi";
175   case ISD::UMUL_LOHI:                  return "umul_lohi";
176   case ISD::SDIVREM:                    return "sdivrem";
177   case ISD::UDIVREM:                    return "udivrem";
178   case ISD::AND:                        return "and";
179   case ISD::OR:                         return "or";
180   case ISD::XOR:                        return "xor";
181   case ISD::SHL:                        return "shl";
182   case ISD::SRA:                        return "sra";
183   case ISD::SRL:                        return "srl";
184   case ISD::ROTL:                       return "rotl";
185   case ISD::ROTR:                       return "rotr";
186   case ISD::FADD:                       return "fadd";
187   case ISD::FSUB:                       return "fsub";
188   case ISD::FMUL:                       return "fmul";
189   case ISD::FDIV:                       return "fdiv";
190   case ISD::FMA:                        return "fma";
191   case ISD::FMAD:                       return "fmad";
192   case ISD::FREM:                       return "frem";
193   case ISD::FCOPYSIGN:                  return "fcopysign";
194   case ISD::FGETSIGN:                   return "fgetsign";
195   case ISD::FPOW:                       return "fpow";
196
197   case ISD::FPOWI:                      return "fpowi";
198   case ISD::SETCC:                      return "setcc";
199   case ISD::SELECT:                     return "select";
200   case ISD::VSELECT:                    return "vselect";
201   case ISD::SELECT_CC:                  return "select_cc";
202   case ISD::INSERT_VECTOR_ELT:          return "insert_vector_elt";
203   case ISD::EXTRACT_VECTOR_ELT:         return "extract_vector_elt";
204   case ISD::CONCAT_VECTORS:             return "concat_vectors";
205   case ISD::INSERT_SUBVECTOR:           return "insert_subvector";
206   case ISD::EXTRACT_SUBVECTOR:          return "extract_subvector";
207   case ISD::SCALAR_TO_VECTOR:           return "scalar_to_vector";
208   case ISD::VECTOR_SHUFFLE:             return "vector_shuffle";
209   case ISD::CARRY_FALSE:                return "carry_false";
210   case ISD::ADDC:                       return "addc";
211   case ISD::ADDE:                       return "adde";
212   case ISD::SADDO:                      return "saddo";
213   case ISD::UADDO:                      return "uaddo";
214   case ISD::SSUBO:                      return "ssubo";
215   case ISD::USUBO:                      return "usubo";
216   case ISD::SMULO:                      return "smulo";
217   case ISD::UMULO:                      return "umulo";
218   case ISD::SUBC:                       return "subc";
219   case ISD::SUBE:                       return "sube";
220   case ISD::SHL_PARTS:                  return "shl_parts";
221   case ISD::SRA_PARTS:                  return "sra_parts";
222   case ISD::SRL_PARTS:                  return "srl_parts";
223
224   // Conversion operators.
225   case ISD::SIGN_EXTEND:                return "sign_extend";
226   case ISD::ZERO_EXTEND:                return "zero_extend";
227   case ISD::ANY_EXTEND:                 return "any_extend";
228   case ISD::SIGN_EXTEND_INREG:          return "sign_extend_inreg";
229   case ISD::ANY_EXTEND_VECTOR_INREG:    return "any_extend_vector_inreg";
230   case ISD::SIGN_EXTEND_VECTOR_INREG:   return "sign_extend_vector_inreg";
231   case ISD::ZERO_EXTEND_VECTOR_INREG:   return "zero_extend_vector_inreg";
232   case ISD::TRUNCATE:                   return "truncate";
233   case ISD::FP_ROUND:                   return "fp_round";
234   case ISD::FLT_ROUNDS_:                return "flt_rounds";
235   case ISD::FP_ROUND_INREG:             return "fp_round_inreg";
236   case ISD::FP_EXTEND:                  return "fp_extend";
237
238   case ISD::SINT_TO_FP:                 return "sint_to_fp";
239   case ISD::UINT_TO_FP:                 return "uint_to_fp";
240   case ISD::FP_TO_SINT:                 return "fp_to_sint";
241   case ISD::FP_TO_UINT:                 return "fp_to_uint";
242   case ISD::BITCAST:                    return "bitcast";
243   case ISD::ADDRSPACECAST:              return "addrspacecast";
244   case ISD::FP16_TO_FP:                 return "fp16_to_fp";
245   case ISD::FP_TO_FP16:                 return "fp_to_fp16";
246
247   case ISD::CONVERT_RNDSAT: {
248     switch (cast<CvtRndSatSDNode>(this)->getCvtCode()) {
249     default: llvm_unreachable("Unknown cvt code!");
250     case ISD::CVT_FF:                   return "cvt_ff";
251     case ISD::CVT_FS:                   return "cvt_fs";
252     case ISD::CVT_FU:                   return "cvt_fu";
253     case ISD::CVT_SF:                   return "cvt_sf";
254     case ISD::CVT_UF:                   return "cvt_uf";
255     case ISD::CVT_SS:                   return "cvt_ss";
256     case ISD::CVT_SU:                   return "cvt_su";
257     case ISD::CVT_US:                   return "cvt_us";
258     case ISD::CVT_UU:                   return "cvt_uu";
259     }
260   }
261
262     // Control flow instructions
263   case ISD::BR:                         return "br";
264   case ISD::BRIND:                      return "brind";
265   case ISD::BR_JT:                      return "br_jt";
266   case ISD::BRCOND:                     return "brcond";
267   case ISD::BR_CC:                      return "br_cc";
268   case ISD::CALLSEQ_START:              return "callseq_start";
269   case ISD::CALLSEQ_END:                return "callseq_end";
270
271     // Other operators
272   case ISD::LOAD:                       return "load";
273   case ISD::STORE:                      return "store";
274   case ISD::MLOAD:                      return "masked_load";
275   case ISD::MSTORE:                     return "masked_store";
276   case ISD::MGATHER:                    return "masked_gather";
277   case ISD::MSCATTER:                   return "masked_scatter";
278   case ISD::VAARG:                      return "vaarg";
279   case ISD::VACOPY:                     return "vacopy";
280   case ISD::VAEND:                      return "vaend";
281   case ISD::VASTART:                    return "vastart";
282   case ISD::DYNAMIC_STACKALLOC:         return "dynamic_stackalloc";
283   case ISD::EXTRACT_ELEMENT:            return "extract_element";
284   case ISD::BUILD_PAIR:                 return "build_pair";
285   case ISD::STACKSAVE:                  return "stacksave";
286   case ISD::STACKRESTORE:               return "stackrestore";
287   case ISD::TRAP:                       return "trap";
288   case ISD::DEBUGTRAP:                  return "debugtrap";
289   case ISD::LIFETIME_START:             return "lifetime.start";
290   case ISD::LIFETIME_END:               return "lifetime.end";
291
292   // Bit manipulation
293   case ISD::BSWAP:                      return "bswap";
294   case ISD::CTPOP:                      return "ctpop";
295   case ISD::CTTZ:                       return "cttz";
296   case ISD::CTTZ_ZERO_UNDEF:            return "cttz_zero_undef";
297   case ISD::CTLZ:                       return "ctlz";
298   case ISD::CTLZ_ZERO_UNDEF:            return "ctlz_zero_undef";
299
300   // Trampolines
301   case ISD::INIT_TRAMPOLINE:            return "init_trampoline";
302   case ISD::ADJUST_TRAMPOLINE:          return "adjust_trampoline";
303
304   case ISD::CONDCODE:
305     switch (cast<CondCodeSDNode>(this)->get()) {
306     default: llvm_unreachable("Unknown setcc condition!");
307     case ISD::SETOEQ:                   return "setoeq";
308     case ISD::SETOGT:                   return "setogt";
309     case ISD::SETOGE:                   return "setoge";
310     case ISD::SETOLT:                   return "setolt";
311     case ISD::SETOLE:                   return "setole";
312     case ISD::SETONE:                   return "setone";
313
314     case ISD::SETO:                     return "seto";
315     case ISD::SETUO:                    return "setuo";
316     case ISD::SETUEQ:                   return "setue";
317     case ISD::SETUGT:                   return "setugt";
318     case ISD::SETUGE:                   return "setuge";
319     case ISD::SETULT:                   return "setult";
320     case ISD::SETULE:                   return "setule";
321     case ISD::SETUNE:                   return "setune";
322
323     case ISD::SETEQ:                    return "seteq";
324     case ISD::SETGT:                    return "setgt";
325     case ISD::SETGE:                    return "setge";
326     case ISD::SETLT:                    return "setlt";
327     case ISD::SETLE:                    return "setle";
328     case ISD::SETNE:                    return "setne";
329
330     case ISD::SETTRUE:                  return "settrue";
331     case ISD::SETTRUE2:                 return "settrue2";
332     case ISD::SETFALSE:                 return "setfalse";
333     case ISD::SETFALSE2:                return "setfalse2";
334     }
335   }
336 }
337
338 const char *SDNode::getIndexedModeName(ISD::MemIndexedMode AM) {
339   switch (AM) {
340   default:              return "";
341   case ISD::PRE_INC:    return "<pre-inc>";
342   case ISD::PRE_DEC:    return "<pre-dec>";
343   case ISD::POST_INC:   return "<post-inc>";
344   case ISD::POST_DEC:   return "<post-dec>";
345   }
346 }
347
348 void SDNode::dump() const { dump(nullptr); }
349 void SDNode::dump(const SelectionDAG *G) const {
350   print(dbgs(), G);
351   dbgs() << '\n';
352 }
353
354 void SDNode::print_types(raw_ostream &OS, const SelectionDAG *G) const {
355   OS << (const void*)this << ": ";
356
357   for (unsigned i = 0, e = getNumValues(); i != e; ++i) {
358     if (i) OS << ",";
359     if (getValueType(i) == MVT::Other)
360       OS << "ch";
361     else
362       OS << getValueType(i).getEVTString();
363   }
364   OS << " = " << getOperationName(G);
365 }
366
367 void SDNode::print_details(raw_ostream &OS, const SelectionDAG *G) const {
368   if (const MachineSDNode *MN = dyn_cast<MachineSDNode>(this)) {
369     if (!MN->memoperands_empty()) {
370       OS << "<";
371       OS << "Mem:";
372       for (MachineSDNode::mmo_iterator i = MN->memoperands_begin(),
373            e = MN->memoperands_end(); i != e; ++i) {
374         OS << **i;
375         if (std::next(i) != e)
376           OS << " ";
377       }
378       OS << ">";
379     }
380   } else if (const ShuffleVectorSDNode *SVN =
381                dyn_cast<ShuffleVectorSDNode>(this)) {
382     OS << "<";
383     for (unsigned i = 0, e = ValueList[0].getVectorNumElements(); i != e; ++i) {
384       int Idx = SVN->getMaskElt(i);
385       if (i) OS << ",";
386       if (Idx < 0)
387         OS << "u";
388       else
389         OS << Idx;
390     }
391     OS << ">";
392   } else if (const ConstantSDNode *CSDN = dyn_cast<ConstantSDNode>(this)) {
393     OS << '<' << CSDN->getAPIntValue() << '>';
394   } else if (const ConstantFPSDNode *CSDN = dyn_cast<ConstantFPSDNode>(this)) {
395     if (&CSDN->getValueAPF().getSemantics()==&APFloat::IEEEsingle)
396       OS << '<' << CSDN->getValueAPF().convertToFloat() << '>';
397     else if (&CSDN->getValueAPF().getSemantics()==&APFloat::IEEEdouble)
398       OS << '<' << CSDN->getValueAPF().convertToDouble() << '>';
399     else {
400       OS << "<APFloat(";
401       CSDN->getValueAPF().bitcastToAPInt().dump();
402       OS << ")>";
403     }
404   } else if (const GlobalAddressSDNode *GADN =
405              dyn_cast<GlobalAddressSDNode>(this)) {
406     int64_t offset = GADN->getOffset();
407     OS << '<';
408     GADN->getGlobal()->printAsOperand(OS);
409     OS << '>';
410     if (offset > 0)
411       OS << " + " << offset;
412     else
413       OS << " " << offset;
414     if (unsigned int TF = GADN->getTargetFlags())
415       OS << " [TF=" << TF << ']';
416   } else if (const FrameIndexSDNode *FIDN = dyn_cast<FrameIndexSDNode>(this)) {
417     OS << "<" << FIDN->getIndex() << ">";
418   } else if (const JumpTableSDNode *JTDN = dyn_cast<JumpTableSDNode>(this)) {
419     OS << "<" << JTDN->getIndex() << ">";
420     if (unsigned int TF = JTDN->getTargetFlags())
421       OS << " [TF=" << TF << ']';
422   } else if (const ConstantPoolSDNode *CP = dyn_cast<ConstantPoolSDNode>(this)){
423     int offset = CP->getOffset();
424     if (CP->isMachineConstantPoolEntry())
425       OS << "<" << *CP->getMachineCPVal() << ">";
426     else
427       OS << "<" << *CP->getConstVal() << ">";
428     if (offset > 0)
429       OS << " + " << offset;
430     else
431       OS << " " << offset;
432     if (unsigned int TF = CP->getTargetFlags())
433       OS << " [TF=" << TF << ']';
434   } else if (const TargetIndexSDNode *TI = dyn_cast<TargetIndexSDNode>(this)) {
435     OS << "<" << TI->getIndex() << '+' << TI->getOffset() << ">";
436     if (unsigned TF = TI->getTargetFlags())
437       OS << " [TF=" << TF << ']';
438   } else if (const BasicBlockSDNode *BBDN = dyn_cast<BasicBlockSDNode>(this)) {
439     OS << "<";
440     const Value *LBB = (const Value*)BBDN->getBasicBlock()->getBasicBlock();
441     if (LBB)
442       OS << LBB->getName() << " ";
443     OS << (const void*)BBDN->getBasicBlock() << ">";
444   } else if (const RegisterSDNode *R = dyn_cast<RegisterSDNode>(this)) {
445     OS << ' ' << PrintReg(R->getReg(),
446                           G ? G->getSubtarget().getRegisterInfo() : nullptr);
447   } else if (const ExternalSymbolSDNode *ES =
448              dyn_cast<ExternalSymbolSDNode>(this)) {
449     OS << "'" << ES->getSymbol() << "'";
450     if (unsigned int TF = ES->getTargetFlags())
451       OS << " [TF=" << TF << ']';
452   } else if (const SrcValueSDNode *M = dyn_cast<SrcValueSDNode>(this)) {
453     if (M->getValue())
454       OS << "<" << M->getValue() << ">";
455     else
456       OS << "<null>";
457   } else if (const MDNodeSDNode *MD = dyn_cast<MDNodeSDNode>(this)) {
458     if (MD->getMD())
459       OS << "<" << MD->getMD() << ">";
460     else
461       OS << "<null>";
462   } else if (const VTSDNode *N = dyn_cast<VTSDNode>(this)) {
463     OS << ":" << N->getVT().getEVTString();
464   }
465   else if (const LoadSDNode *LD = dyn_cast<LoadSDNode>(this)) {
466     OS << "<" << *LD->getMemOperand();
467
468     bool doExt = true;
469     switch (LD->getExtensionType()) {
470     default: doExt = false; break;
471     case ISD::EXTLOAD:  OS << ", anyext"; break;
472     case ISD::SEXTLOAD: OS << ", sext"; break;
473     case ISD::ZEXTLOAD: OS << ", zext"; break;
474     }
475     if (doExt)
476       OS << " from " << LD->getMemoryVT().getEVTString();
477
478     const char *AM = getIndexedModeName(LD->getAddressingMode());
479     if (*AM)
480       OS << ", " << AM;
481
482     OS << ">";
483   } else if (const StoreSDNode *ST = dyn_cast<StoreSDNode>(this)) {
484     OS << "<" << *ST->getMemOperand();
485
486     if (ST->isTruncatingStore())
487       OS << ", trunc to " << ST->getMemoryVT().getEVTString();
488
489     const char *AM = getIndexedModeName(ST->getAddressingMode());
490     if (*AM)
491       OS << ", " << AM;
492
493     OS << ">";
494   } else if (const MemSDNode* M = dyn_cast<MemSDNode>(this)) {
495     OS << "<" << *M->getMemOperand() << ">";
496   } else if (const BlockAddressSDNode *BA =
497                dyn_cast<BlockAddressSDNode>(this)) {
498     int64_t offset = BA->getOffset();
499     OS << "<";
500     BA->getBlockAddress()->getFunction()->printAsOperand(OS, false);
501     OS << ", ";
502     BA->getBlockAddress()->getBasicBlock()->printAsOperand(OS, false);
503     OS << ">";
504     if (offset > 0)
505       OS << " + " << offset;
506     else
507       OS << " " << offset;
508     if (unsigned int TF = BA->getTargetFlags())
509       OS << " [TF=" << TF << ']';
510   } else if (const AddrSpaceCastSDNode *ASC =
511                dyn_cast<AddrSpaceCastSDNode>(this)) {
512     OS << '['
513        << ASC->getSrcAddressSpace()
514        << " -> "
515        << ASC->getDestAddressSpace()
516        << ']';
517   }
518
519   if (unsigned Order = getIROrder())
520       OS << " [ORD=" << Order << ']';
521
522   if (getNodeId() != -1)
523     OS << " [ID=" << getNodeId() << ']';
524
525   if (!G)
526     return;
527
528   DILocation *L = getDebugLoc();
529   if (!L)
530     return;
531
532   if (auto *Scope = L->getScope())
533     OS << Scope->getFilename();
534   else
535     OS << "<unknown>";
536   OS << ':' << L->getLine();
537   if (unsigned C = L->getColumn())
538     OS << ':' << C;
539 }
540
541 static void DumpNodes(const SDNode *N, unsigned indent, const SelectionDAG *G) {
542   for (unsigned i = 0, e = N->getNumOperands(); i != e; ++i)
543     if (N->getOperand(i).getNode()->hasOneUse())
544       DumpNodes(N->getOperand(i).getNode(), indent+2, G);
545     else
546       dbgs() << "\n" << std::string(indent+2, ' ')
547              << (void*)N->getOperand(i).getNode() << ": <multiple use>";
548
549   dbgs() << '\n';
550   dbgs().indent(indent);
551   N->dump(G);
552 }
553
554 void SelectionDAG::dump() const {
555   dbgs() << "SelectionDAG has " << AllNodes.size() << " nodes:";
556
557   for (allnodes_const_iterator I = allnodes_begin(), E = allnodes_end();
558        I != E; ++I) {
559     const SDNode *N = I;
560     if (!N->hasOneUse() && N != getRoot().getNode())
561       DumpNodes(N, 2, this);
562   }
563
564   if (getRoot().getNode()) DumpNodes(getRoot().getNode(), 2, this);
565   dbgs() << "\n\n";
566 }
567
568 void SDNode::printr(raw_ostream &OS, const SelectionDAG *G) const {
569   print_types(OS, G);
570   print_details(OS, G);
571 }
572
573 typedef SmallPtrSet<const SDNode *, 128> VisitedSDNodeSet;
574 static void DumpNodesr(raw_ostream &OS, const SDNode *N, unsigned indent,
575                        const SelectionDAG *G, VisitedSDNodeSet &once) {
576   if (!once.insert(N).second) // If we've been here before, return now.
577     return;
578
579   // Dump the current SDNode, but don't end the line yet.
580   OS.indent(indent);
581   N->printr(OS, G);
582
583   // Having printed this SDNode, walk the children:
584   for (unsigned i = 0, e = N->getNumOperands(); i != e; ++i) {
585     const SDNode *child = N->getOperand(i).getNode();
586
587     if (i) OS << ",";
588     OS << " ";
589
590     if (child->getNumOperands() == 0) {
591       // This child has no grandchildren; print it inline right here.
592       child->printr(OS, G);
593       once.insert(child);
594     } else {         // Just the address. FIXME: also print the child's opcode.
595       OS << (const void*)child;
596       if (unsigned RN = N->getOperand(i).getResNo())
597         OS << ":" << RN;
598     }
599   }
600
601   OS << "\n";
602
603   // Dump children that have grandchildren on their own line(s).
604   for (unsigned i = 0, e = N->getNumOperands(); i != e; ++i) {
605     const SDNode *child = N->getOperand(i).getNode();
606     DumpNodesr(OS, child, indent+2, G, once);
607   }
608 }
609
610 void SDNode::dumpr() const {
611   VisitedSDNodeSet once;
612   DumpNodesr(dbgs(), this, 0, nullptr, once);
613 }
614
615 void SDNode::dumpr(const SelectionDAG *G) const {
616   VisitedSDNodeSet once;
617   DumpNodesr(dbgs(), this, 0, G, once);
618 }
619
620 static void printrWithDepthHelper(raw_ostream &OS, const SDNode *N,
621                                   const SelectionDAG *G, unsigned depth,
622                                   unsigned indent) {
623   if (depth == 0)
624     return;
625
626   OS.indent(indent);
627
628   N->print(OS, G);
629
630   if (depth < 1)
631     return;
632
633   for (unsigned i = 0, e = N->getNumOperands(); i != e; ++i) {
634     // Don't follow chain operands.
635     if (N->getOperand(i).getValueType() == MVT::Other)
636       continue;
637     OS << '\n';
638     printrWithDepthHelper(OS, N->getOperand(i).getNode(), G, depth-1, indent+2);
639   }
640 }
641
642 void SDNode::printrWithDepth(raw_ostream &OS, const SelectionDAG *G,
643                             unsigned depth) const {
644   printrWithDepthHelper(OS, this, G, depth, 0);
645 }
646
647 void SDNode::printrFull(raw_ostream &OS, const SelectionDAG *G) const {
648   // Don't print impossibly deep things.
649   printrWithDepth(OS, G, 10);
650 }
651
652 void SDNode::dumprWithDepth(const SelectionDAG *G, unsigned depth) const {
653   printrWithDepth(dbgs(), G, depth);
654 }
655
656 void SDNode::dumprFull(const SelectionDAG *G) const {
657   // Don't print impossibly deep things.
658   dumprWithDepth(G, 10);
659 }
660
661 void SDNode::print(raw_ostream &OS, const SelectionDAG *G) const {
662   print_types(OS, G);
663   for (unsigned i = 0, e = getNumOperands(); i != e; ++i) {
664     if (i) OS << ", "; else OS << " ";
665     OS << (void*)getOperand(i).getNode();
666     if (unsigned RN = getOperand(i).getResNo())
667       OS << ":" << RN;
668   }
669   print_details(OS, G);
670 }