Print out MachineBasicBlock successor weights when available.
[oota-llvm.git] / lib / CodeGen / MachineBasicBlock.cpp
1 //===-- llvm/CodeGen/MachineBasicBlock.cpp ----------------------*- C++ -*-===//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // Collect the sequence of machine instructions for a basic block.
11 //
12 //===----------------------------------------------------------------------===//
13
14 #include "llvm/CodeGen/MachineBasicBlock.h"
15 #include "llvm/BasicBlock.h"
16 #include "llvm/CodeGen/LiveVariables.h"
17 #include "llvm/CodeGen/MachineDominators.h"
18 #include "llvm/CodeGen/MachineFunction.h"
19 #include "llvm/CodeGen/MachineLoopInfo.h"
20 #include "llvm/CodeGen/SlotIndexes.h"
21 #include "llvm/MC/MCAsmInfo.h"
22 #include "llvm/MC/MCContext.h"
23 #include "llvm/Target/TargetRegisterInfo.h"
24 #include "llvm/Target/TargetData.h"
25 #include "llvm/Target/TargetInstrInfo.h"
26 #include "llvm/Target/TargetMachine.h"
27 #include "llvm/Assembly/Writer.h"
28 #include "llvm/ADT/SmallString.h"
29 #include "llvm/ADT/SmallPtrSet.h"
30 #include "llvm/Support/Debug.h"
31 #include "llvm/Support/LeakDetector.h"
32 #include "llvm/Support/raw_ostream.h"
33 #include <algorithm>
34 using namespace llvm;
35
36 MachineBasicBlock::MachineBasicBlock(MachineFunction &mf, const BasicBlock *bb)
37   : BB(bb), Number(-1), xParent(&mf), Alignment(0), IsLandingPad(false),
38     AddressTaken(false) {
39   Insts.Parent = this;
40 }
41
42 MachineBasicBlock::~MachineBasicBlock() {
43   LeakDetector::removeGarbageObject(this);
44 }
45
46 /// getSymbol - Return the MCSymbol for this basic block.
47 ///
48 MCSymbol *MachineBasicBlock::getSymbol() const {
49   const MachineFunction *MF = getParent();
50   MCContext &Ctx = MF->getContext();
51   const char *Prefix = Ctx.getAsmInfo().getPrivateGlobalPrefix();
52   return Ctx.GetOrCreateSymbol(Twine(Prefix) + "BB" +
53                                Twine(MF->getFunctionNumber()) + "_" +
54                                Twine(getNumber()));
55 }
56
57
58 raw_ostream &llvm::operator<<(raw_ostream &OS, const MachineBasicBlock &MBB) {
59   MBB.print(OS);
60   return OS;
61 }
62
63 /// addNodeToList (MBB) - When an MBB is added to an MF, we need to update the
64 /// parent pointer of the MBB, the MBB numbering, and any instructions in the
65 /// MBB to be on the right operand list for registers.
66 ///
67 /// MBBs start out as #-1. When a MBB is added to a MachineFunction, it
68 /// gets the next available unique MBB number. If it is removed from a
69 /// MachineFunction, it goes back to being #-1.
70 void ilist_traits<MachineBasicBlock>::addNodeToList(MachineBasicBlock *N) {
71   MachineFunction &MF = *N->getParent();
72   N->Number = MF.addToMBBNumbering(N);
73
74   // Make sure the instructions have their operands in the reginfo lists.
75   MachineRegisterInfo &RegInfo = MF.getRegInfo();
76   for (MachineBasicBlock::instr_iterator
77          I = N->instr_begin(), E = N->instr_end(); I != E; ++I)
78     I->AddRegOperandsToUseLists(RegInfo);
79
80   LeakDetector::removeGarbageObject(N);
81 }
82
83 void ilist_traits<MachineBasicBlock>::removeNodeFromList(MachineBasicBlock *N) {
84   N->getParent()->removeFromMBBNumbering(N->Number);
85   N->Number = -1;
86   LeakDetector::addGarbageObject(N);
87 }
88
89
90 /// addNodeToList (MI) - When we add an instruction to a basic block
91 /// list, we update its parent pointer and add its operands from reg use/def
92 /// lists if appropriate.
93 void ilist_traits<MachineInstr>::addNodeToList(MachineInstr *N) {
94   assert(N->getParent() == 0 && "machine instruction already in a basic block");
95   N->setParent(Parent);
96
97   // Add the instruction's register operands to their corresponding
98   // use/def lists.
99   MachineFunction *MF = Parent->getParent();
100   N->AddRegOperandsToUseLists(MF->getRegInfo());
101
102   LeakDetector::removeGarbageObject(N);
103 }
104
105 /// removeNodeFromList (MI) - When we remove an instruction from a basic block
106 /// list, we update its parent pointer and remove its operands from reg use/def
107 /// lists if appropriate.
108 void ilist_traits<MachineInstr>::removeNodeFromList(MachineInstr *N) {
109   assert(N->getParent() != 0 && "machine instruction not in a basic block");
110
111   // Remove from the use/def lists.
112   if (MachineFunction *MF = N->getParent()->getParent())
113     N->RemoveRegOperandsFromUseLists(MF->getRegInfo());
114
115   N->setParent(0);
116
117   LeakDetector::addGarbageObject(N);
118 }
119
120 /// transferNodesFromList (MI) - When moving a range of instructions from one
121 /// MBB list to another, we need to update the parent pointers and the use/def
122 /// lists.
123 void ilist_traits<MachineInstr>::
124 transferNodesFromList(ilist_traits<MachineInstr> &fromList,
125                       ilist_iterator<MachineInstr> first,
126                       ilist_iterator<MachineInstr> last) {
127   assert(Parent->getParent() == fromList.Parent->getParent() &&
128         "MachineInstr parent mismatch!");
129
130   // Splice within the same MBB -> no change.
131   if (Parent == fromList.Parent) return;
132
133   // If splicing between two blocks within the same function, just update the
134   // parent pointers.
135   for (; first != last; ++first)
136     first->setParent(Parent);
137 }
138
139 void ilist_traits<MachineInstr>::deleteNode(MachineInstr* MI) {
140   assert(!MI->getParent() && "MI is still in a block!");
141   Parent->getParent()->DeleteMachineInstr(MI);
142 }
143
144 MachineBasicBlock::iterator MachineBasicBlock::getFirstNonPHI() {
145   instr_iterator I = instr_begin(), E = instr_end();
146   while (I != E && I->isPHI())
147     ++I;
148   assert(!I->isInsideBundle() && "First non-phi MI cannot be inside a bundle!");
149   return I;
150 }
151
152 MachineBasicBlock::iterator
153 MachineBasicBlock::SkipPHIsAndLabels(MachineBasicBlock::iterator I) {
154   iterator E = end();
155   while (I != E && (I->isPHI() || I->isLabel() || I->isDebugValue()))
156     ++I;
157   // FIXME: This needs to change if we wish to bundle labels / dbg_values
158   // inside the bundle.
159   assert(!I->isInsideBundle() &&
160          "First non-phi / non-label instruction is inside a bundle!");
161   return I;
162 }
163
164 MachineBasicBlock::iterator MachineBasicBlock::getFirstTerminator() {
165   iterator B = begin(), E = end(), I = E;
166   while (I != B && ((--I)->isTerminator() || I->isDebugValue()))
167     ; /*noop */
168   while (I != E && !I->isTerminator())
169     ++I;
170   return I;
171 }
172
173 MachineBasicBlock::const_iterator
174 MachineBasicBlock::getFirstTerminator() const {
175   const_iterator B = begin(), E = end(), I = E;
176   while (I != B && ((--I)->isTerminator() || I->isDebugValue()))
177     ; /*noop */
178   while (I != E && !I->isTerminator())
179     ++I;
180   return I;
181 }
182
183 MachineBasicBlock::instr_iterator MachineBasicBlock::getFirstInstrTerminator() {
184   instr_iterator B = instr_begin(), E = instr_end(), I = E;
185   while (I != B && ((--I)->isTerminator() || I->isDebugValue()))
186     ; /*noop */
187   while (I != E && !I->isTerminator())
188     ++I;
189   return I;
190 }
191
192 MachineBasicBlock::iterator MachineBasicBlock::getLastNonDebugInstr() {
193   // Skip over end-of-block dbg_value instructions.
194   instr_iterator B = instr_begin(), I = instr_end();
195   while (I != B) {
196     --I;
197     // Return instruction that starts a bundle.
198     if (I->isDebugValue() || I->isInsideBundle())
199       continue;
200     return I;
201   }
202   // The block is all debug values.
203   return end();
204 }
205
206 MachineBasicBlock::const_iterator
207 MachineBasicBlock::getLastNonDebugInstr() const {
208   // Skip over end-of-block dbg_value instructions.
209   const_instr_iterator B = instr_begin(), I = instr_end();
210   while (I != B) {
211     --I;
212     // Return instruction that starts a bundle.
213     if (I->isDebugValue() || I->isInsideBundle())
214       continue;
215     return I;
216   }
217   // The block is all debug values.
218   return end();
219 }
220
221 const MachineBasicBlock *MachineBasicBlock::getLandingPadSuccessor() const {
222   // A block with a landing pad successor only has one other successor.
223   if (succ_size() > 2)
224     return 0;
225   for (const_succ_iterator I = succ_begin(), E = succ_end(); I != E; ++I)
226     if ((*I)->isLandingPad())
227       return *I;
228   return 0;
229 }
230
231 void MachineBasicBlock::dump() const {
232   print(dbgs());
233 }
234
235 StringRef MachineBasicBlock::getName() const {
236   if (const BasicBlock *LBB = getBasicBlock())
237     return LBB->getName();
238   else
239     return "(null)";
240 }
241
242 /// Return a hopefully unique identifier for this block.
243 std::string MachineBasicBlock::getFullName() const {
244   std::string Name;
245   if (getParent())
246     Name = (getParent()->getFunction()->getName() + ":").str();
247   if (getBasicBlock())
248     Name += getBasicBlock()->getName();
249   else
250     Name += (Twine("BB") + Twine(getNumber())).str();
251   return Name;
252 }
253
254 void MachineBasicBlock::print(raw_ostream &OS, SlotIndexes *Indexes) const {
255   const MachineFunction *MF = getParent();
256   if (!MF) {
257     OS << "Can't print out MachineBasicBlock because parent MachineFunction"
258        << " is null\n";
259     return;
260   }
261
262   if (Indexes)
263     OS << Indexes->getMBBStartIdx(this) << '\t';
264
265   OS << "BB#" << getNumber() << ": ";
266
267   const char *Comma = "";
268   if (const BasicBlock *LBB = getBasicBlock()) {
269     OS << Comma << "derived from LLVM BB ";
270     WriteAsOperand(OS, LBB, /*PrintType=*/false);
271     Comma = ", ";
272   }
273   if (isLandingPad()) { OS << Comma << "EH LANDING PAD"; Comma = ", "; }
274   if (hasAddressTaken()) { OS << Comma << "ADDRESS TAKEN"; Comma = ", "; }
275   if (Alignment)
276     OS << Comma << "Align " << Alignment << " (" << (1u << Alignment)
277        << " bytes)";
278
279   OS << '\n';
280
281   const TargetRegisterInfo *TRI = MF->getTarget().getRegisterInfo();
282   if (!livein_empty()) {
283     if (Indexes) OS << '\t';
284     OS << "    Live Ins:";
285     for (livein_iterator I = livein_begin(),E = livein_end(); I != E; ++I)
286       OS << ' ' << PrintReg(*I, TRI);
287     OS << '\n';
288   }
289   // Print the preds of this block according to the CFG.
290   if (!pred_empty()) {
291     if (Indexes) OS << '\t';
292     OS << "    Predecessors according to CFG:";
293     for (const_pred_iterator PI = pred_begin(), E = pred_end(); PI != E; ++PI)
294       OS << " BB#" << (*PI)->getNumber();
295     OS << '\n';
296   }
297
298   for (const_instr_iterator I = instr_begin(); I != instr_end(); ++I) {
299     if (Indexes) {
300       if (Indexes->hasIndex(I))
301         OS << Indexes->getInstructionIndex(I);
302       OS << '\t';
303     }
304     OS << '\t';
305     if (I->isInsideBundle())
306       OS << "  * ";
307     I->print(OS, &getParent()->getTarget());
308   }
309
310   // Print the successors of this block according to the CFG.
311   if (!succ_empty()) {
312     if (Indexes) OS << '\t';
313     OS << "    Successors according to CFG:";
314     for (const_succ_iterator SI = succ_begin(), E = succ_end(); SI != E; ++SI) {
315       OS << " BB#" << (*SI)->getNumber();
316       if (!Weights.empty())
317         OS << '(' << *getWeightIterator(SI) << ')';
318     }
319     OS << '\n';
320   }
321 }
322
323 void MachineBasicBlock::removeLiveIn(unsigned Reg) {
324   std::vector<unsigned>::iterator I =
325     std::find(LiveIns.begin(), LiveIns.end(), Reg);
326   if (I != LiveIns.end())
327     LiveIns.erase(I);
328 }
329
330 bool MachineBasicBlock::isLiveIn(unsigned Reg) const {
331   livein_iterator I = std::find(livein_begin(), livein_end(), Reg);
332   return I != livein_end();
333 }
334
335 void MachineBasicBlock::moveBefore(MachineBasicBlock *NewAfter) {
336   getParent()->splice(NewAfter, this);
337 }
338
339 void MachineBasicBlock::moveAfter(MachineBasicBlock *NewBefore) {
340   MachineFunction::iterator BBI = NewBefore;
341   getParent()->splice(++BBI, this);
342 }
343
344 void MachineBasicBlock::updateTerminator() {
345   const TargetInstrInfo *TII = getParent()->getTarget().getInstrInfo();
346   // A block with no successors has no concerns with fall-through edges.
347   if (this->succ_empty()) return;
348
349   MachineBasicBlock *TBB = 0, *FBB = 0;
350   SmallVector<MachineOperand, 4> Cond;
351   DebugLoc dl;  // FIXME: this is nowhere
352   bool B = TII->AnalyzeBranch(*this, TBB, FBB, Cond);
353   (void) B;
354   assert(!B && "UpdateTerminators requires analyzable predecessors!");
355   if (Cond.empty()) {
356     if (TBB) {
357       // The block has an unconditional branch. If its successor is now
358       // its layout successor, delete the branch.
359       if (isLayoutSuccessor(TBB))
360         TII->RemoveBranch(*this);
361     } else {
362       // The block has an unconditional fallthrough. If its successor is not
363       // its layout successor, insert a branch. First we have to locate the
364       // only non-landing-pad successor, as that is the fallthrough block.
365       for (succ_iterator SI = succ_begin(), SE = succ_end(); SI != SE; ++SI) {
366         if ((*SI)->isLandingPad())
367           continue;
368         assert(!TBB && "Found more than one non-landing-pad successor!");
369         TBB = *SI;
370       }
371
372       // If there is no non-landing-pad successor, the block has no
373       // fall-through edges to be concerned with.
374       if (!TBB)
375         return;
376
377       // Finally update the unconditional successor to be reached via a branch
378       // if it would not be reached by fallthrough.
379       if (!isLayoutSuccessor(TBB))
380         TII->InsertBranch(*this, TBB, 0, Cond, dl);
381     }
382   } else {
383     if (FBB) {
384       // The block has a non-fallthrough conditional branch. If one of its
385       // successors is its layout successor, rewrite it to a fallthrough
386       // conditional branch.
387       if (isLayoutSuccessor(TBB)) {
388         if (TII->ReverseBranchCondition(Cond))
389           return;
390         TII->RemoveBranch(*this);
391         TII->InsertBranch(*this, FBB, 0, Cond, dl);
392       } else if (isLayoutSuccessor(FBB)) {
393         TII->RemoveBranch(*this);
394         TII->InsertBranch(*this, TBB, 0, Cond, dl);
395       }
396     } else {
397       // Walk through the successors and find the successor which is not
398       // a landing pad and is not the conditional branch destination (in TBB)
399       // as the fallthrough successor.
400       MachineBasicBlock *FallthroughBB = 0;
401       for (succ_iterator SI = succ_begin(), SE = succ_end(); SI != SE; ++SI) {
402         if ((*SI)->isLandingPad() || *SI == TBB)
403           continue;
404         assert(!FallthroughBB && "Found more than one fallthrough successor.");
405         FallthroughBB = *SI;
406       }
407       if (!FallthroughBB && canFallThrough()) {
408         // We fallthrough to the same basic block as the conditional jump
409         // targets. Remove the conditional jump, leaving unconditional
410         // fallthrough.
411         // FIXME: This does not seem like a reasonable pattern to support, but it
412         // has been seen in the wild coming out of degenerate ARM test cases.
413         TII->RemoveBranch(*this);
414
415         // Finally update the unconditional successor to be reached via a branch
416         // if it would not be reached by fallthrough.
417         if (!isLayoutSuccessor(TBB))
418           TII->InsertBranch(*this, TBB, 0, Cond, dl);
419         return;
420       }
421
422       // The block has a fallthrough conditional branch.
423       if (isLayoutSuccessor(TBB)) {
424         if (TII->ReverseBranchCondition(Cond)) {
425           // We can't reverse the condition, add an unconditional branch.
426           Cond.clear();
427           TII->InsertBranch(*this, FallthroughBB, 0, Cond, dl);
428           return;
429         }
430         TII->RemoveBranch(*this);
431         TII->InsertBranch(*this, FallthroughBB, 0, Cond, dl);
432       } else if (!isLayoutSuccessor(FallthroughBB)) {
433         TII->RemoveBranch(*this);
434         TII->InsertBranch(*this, TBB, FallthroughBB, Cond, dl);
435       }
436     }
437   }
438 }
439
440 void MachineBasicBlock::addSuccessor(MachineBasicBlock *succ, uint32_t weight) {
441
442   // If we see non-zero value for the first time it means we actually use Weight
443   // list, so we fill all Weights with 0's.
444   if (weight != 0 && Weights.empty())
445     Weights.resize(Successors.size());
446
447   if (weight != 0 || !Weights.empty())
448     Weights.push_back(weight);
449
450    Successors.push_back(succ);
451    succ->addPredecessor(this);
452  }
453
454 void MachineBasicBlock::removeSuccessor(MachineBasicBlock *succ) {
455   succ->removePredecessor(this);
456   succ_iterator I = std::find(Successors.begin(), Successors.end(), succ);
457   assert(I != Successors.end() && "Not a current successor!");
458
459   // If Weight list is empty it means we don't use it (disabled optimization).
460   if (!Weights.empty()) {
461     weight_iterator WI = getWeightIterator(I);
462     Weights.erase(WI);
463   }
464
465   Successors.erase(I);
466 }
467
468 MachineBasicBlock::succ_iterator
469 MachineBasicBlock::removeSuccessor(succ_iterator I) {
470   assert(I != Successors.end() && "Not a current successor!");
471
472   // If Weight list is empty it means we don't use it (disabled optimization).
473   if (!Weights.empty()) {
474     weight_iterator WI = getWeightIterator(I);
475     Weights.erase(WI);
476   }
477
478   (*I)->removePredecessor(this);
479   return Successors.erase(I);
480 }
481
482 void MachineBasicBlock::replaceSuccessor(MachineBasicBlock *Old,
483                                          MachineBasicBlock *New) {
484   if (Old == New)
485     return;
486
487   succ_iterator E = succ_end();
488   succ_iterator NewI = E;
489   succ_iterator OldI = E;
490   for (succ_iterator I = succ_begin(); I != E; ++I) {
491     if (*I == Old) {
492       OldI = I;
493       if (NewI != E)
494         break;
495     }
496     if (*I == New) {
497       NewI = I;
498       if (OldI != E)
499         break;
500     }
501   }
502   assert(OldI != E && "Old is not a successor of this block");
503   Old->removePredecessor(this);
504
505   // If New isn't already a successor, let it take Old's place.
506   if (NewI == E) {
507     New->addPredecessor(this);
508     *OldI = New;
509     return;
510   }
511
512   // New is already a successor.
513   // Update its weight instead of adding a duplicate edge.
514   if (!Weights.empty()) {
515     weight_iterator OldWI = getWeightIterator(OldI);
516     *getWeightIterator(NewI) += *OldWI;
517     Weights.erase(OldWI);
518   }
519   Successors.erase(OldI);
520 }
521
522 void MachineBasicBlock::addPredecessor(MachineBasicBlock *pred) {
523   Predecessors.push_back(pred);
524 }
525
526 void MachineBasicBlock::removePredecessor(MachineBasicBlock *pred) {
527   pred_iterator I = std::find(Predecessors.begin(), Predecessors.end(), pred);
528   assert(I != Predecessors.end() && "Pred is not a predecessor of this block!");
529   Predecessors.erase(I);
530 }
531
532 void MachineBasicBlock::transferSuccessors(MachineBasicBlock *fromMBB) {
533   if (this == fromMBB)
534     return;
535
536   while (!fromMBB->succ_empty()) {
537     MachineBasicBlock *Succ = *fromMBB->succ_begin();
538     uint32_t weight = 0;
539
540
541     // If Weight list is empty it means we don't use it (disabled optimization).
542     if (!fromMBB->Weights.empty())
543       weight = *fromMBB->Weights.begin();
544
545     addSuccessor(Succ, weight);
546     fromMBB->removeSuccessor(Succ);
547   }
548 }
549
550 void
551 MachineBasicBlock::transferSuccessorsAndUpdatePHIs(MachineBasicBlock *fromMBB) {
552   if (this == fromMBB)
553     return;
554
555   while (!fromMBB->succ_empty()) {
556     MachineBasicBlock *Succ = *fromMBB->succ_begin();
557     addSuccessor(Succ);
558     fromMBB->removeSuccessor(Succ);
559
560     // Fix up any PHI nodes in the successor.
561     for (MachineBasicBlock::instr_iterator MI = Succ->instr_begin(),
562            ME = Succ->instr_end(); MI != ME && MI->isPHI(); ++MI)
563       for (unsigned i = 2, e = MI->getNumOperands()+1; i != e; i += 2) {
564         MachineOperand &MO = MI->getOperand(i);
565         if (MO.getMBB() == fromMBB)
566           MO.setMBB(this);
567       }
568   }
569 }
570
571 bool MachineBasicBlock::isPredecessor(const MachineBasicBlock *MBB) const {
572   return std::find(pred_begin(), pred_end(), MBB) != pred_end();
573 }
574
575 bool MachineBasicBlock::isSuccessor(const MachineBasicBlock *MBB) const {
576   return std::find(succ_begin(), succ_end(), MBB) != succ_end();
577 }
578
579 bool MachineBasicBlock::isLayoutSuccessor(const MachineBasicBlock *MBB) const {
580   MachineFunction::const_iterator I(this);
581   return llvm::next(I) == MachineFunction::const_iterator(MBB);
582 }
583
584 bool MachineBasicBlock::canFallThrough() {
585   MachineFunction::iterator Fallthrough = this;
586   ++Fallthrough;
587   // If FallthroughBlock is off the end of the function, it can't fall through.
588   if (Fallthrough == getParent()->end())
589     return false;
590
591   // If FallthroughBlock isn't a successor, no fallthrough is possible.
592   if (!isSuccessor(Fallthrough))
593     return false;
594
595   // Analyze the branches, if any, at the end of the block.
596   MachineBasicBlock *TBB = 0, *FBB = 0;
597   SmallVector<MachineOperand, 4> Cond;
598   const TargetInstrInfo *TII = getParent()->getTarget().getInstrInfo();
599   if (TII->AnalyzeBranch(*this, TBB, FBB, Cond)) {
600     // If we couldn't analyze the branch, examine the last instruction.
601     // If the block doesn't end in a known control barrier, assume fallthrough
602     // is possible. The isPredicated check is needed because this code can be
603     // called during IfConversion, where an instruction which is normally a
604     // Barrier is predicated and thus no longer an actual control barrier.
605     return empty() || !back().isBarrier() || TII->isPredicated(&back());
606   }
607
608   // If there is no branch, control always falls through.
609   if (TBB == 0) return true;
610
611   // If there is some explicit branch to the fallthrough block, it can obviously
612   // reach, even though the branch should get folded to fall through implicitly.
613   if (MachineFunction::iterator(TBB) == Fallthrough ||
614       MachineFunction::iterator(FBB) == Fallthrough)
615     return true;
616
617   // If it's an unconditional branch to some block not the fall through, it
618   // doesn't fall through.
619   if (Cond.empty()) return false;
620
621   // Otherwise, if it is conditional and has no explicit false block, it falls
622   // through.
623   return FBB == 0;
624 }
625
626 MachineBasicBlock *
627 MachineBasicBlock::SplitCriticalEdge(MachineBasicBlock *Succ, Pass *P) {
628   // Splitting the critical edge to a landing pad block is non-trivial. Don't do
629   // it in this generic function.
630   if (Succ->isLandingPad())
631     return NULL;
632
633   MachineFunction *MF = getParent();
634   DebugLoc dl;  // FIXME: this is nowhere
635
636   // We may need to update this's terminator, but we can't do that if
637   // AnalyzeBranch fails. If this uses a jump table, we won't touch it.
638   const TargetInstrInfo *TII = MF->getTarget().getInstrInfo();
639   MachineBasicBlock *TBB = 0, *FBB = 0;
640   SmallVector<MachineOperand, 4> Cond;
641   if (TII->AnalyzeBranch(*this, TBB, FBB, Cond))
642     return NULL;
643
644   // Avoid bugpoint weirdness: A block may end with a conditional branch but
645   // jumps to the same MBB is either case. We have duplicate CFG edges in that
646   // case that we can't handle. Since this never happens in properly optimized
647   // code, just skip those edges.
648   if (TBB && TBB == FBB) {
649     DEBUG(dbgs() << "Won't split critical edge after degenerate BB#"
650                  << getNumber() << '\n');
651     return NULL;
652   }
653
654   MachineBasicBlock *NMBB = MF->CreateMachineBasicBlock();
655   MF->insert(llvm::next(MachineFunction::iterator(this)), NMBB);
656   DEBUG(dbgs() << "Splitting critical edge:"
657         " BB#" << getNumber()
658         << " -- BB#" << NMBB->getNumber()
659         << " -- BB#" << Succ->getNumber() << '\n');
660
661   // On some targets like Mips, branches may kill virtual registers. Make sure
662   // that LiveVariables is properly updated after updateTerminator replaces the
663   // terminators.
664   LiveVariables *LV = P->getAnalysisIfAvailable<LiveVariables>();
665
666   // Collect a list of virtual registers killed by the terminators.
667   SmallVector<unsigned, 4> KilledRegs;
668   if (LV)
669     for (instr_iterator I = getFirstInstrTerminator(), E = instr_end();
670          I != E; ++I) {
671       MachineInstr *MI = I;
672       for (MachineInstr::mop_iterator OI = MI->operands_begin(),
673            OE = MI->operands_end(); OI != OE; ++OI) {
674         if (!OI->isReg() || OI->getReg() == 0 ||
675             !OI->isUse() || !OI->isKill() || OI->isUndef())
676           continue;
677         unsigned Reg = OI->getReg();
678         if (TargetRegisterInfo::isPhysicalRegister(Reg) ||
679             LV->getVarInfo(Reg).removeKill(MI)) {
680           KilledRegs.push_back(Reg);
681           DEBUG(dbgs() << "Removing terminator kill: " << *MI);
682           OI->setIsKill(false);
683         }
684       }
685     }
686
687   ReplaceUsesOfBlockWith(Succ, NMBB);
688   updateTerminator();
689
690   // Insert unconditional "jump Succ" instruction in NMBB if necessary.
691   NMBB->addSuccessor(Succ);
692   if (!NMBB->isLayoutSuccessor(Succ)) {
693     Cond.clear();
694     MF->getTarget().getInstrInfo()->InsertBranch(*NMBB, Succ, NULL, Cond, dl);
695   }
696
697   // Fix PHI nodes in Succ so they refer to NMBB instead of this
698   for (MachineBasicBlock::instr_iterator
699          i = Succ->instr_begin(),e = Succ->instr_end();
700        i != e && i->isPHI(); ++i)
701     for (unsigned ni = 1, ne = i->getNumOperands(); ni != ne; ni += 2)
702       if (i->getOperand(ni+1).getMBB() == this)
703         i->getOperand(ni+1).setMBB(NMBB);
704
705   // Inherit live-ins from the successor
706   for (MachineBasicBlock::livein_iterator I = Succ->livein_begin(),
707          E = Succ->livein_end(); I != E; ++I)
708     NMBB->addLiveIn(*I);
709
710   // Update LiveVariables.
711   const TargetRegisterInfo *TRI = MF->getTarget().getRegisterInfo();
712   if (LV) {
713     // Restore kills of virtual registers that were killed by the terminators.
714     while (!KilledRegs.empty()) {
715       unsigned Reg = KilledRegs.pop_back_val();
716       for (instr_iterator I = instr_end(), E = instr_begin(); I != E;) {
717         if (!(--I)->addRegisterKilled(Reg, TRI, /* addIfNotFound= */ false))
718           continue;
719         if (TargetRegisterInfo::isVirtualRegister(Reg))
720           LV->getVarInfo(Reg).Kills.push_back(I);
721         DEBUG(dbgs() << "Restored terminator kill: " << *I);
722         break;
723       }
724     }
725     // Update relevant live-through information.
726     LV->addNewBlock(NMBB, this, Succ);
727   }
728
729   if (MachineDominatorTree *MDT =
730       P->getAnalysisIfAvailable<MachineDominatorTree>()) {
731     // Update dominator information.
732     MachineDomTreeNode *SucccDTNode = MDT->getNode(Succ);
733
734     bool IsNewIDom = true;
735     for (const_pred_iterator PI = Succ->pred_begin(), E = Succ->pred_end();
736          PI != E; ++PI) {
737       MachineBasicBlock *PredBB = *PI;
738       if (PredBB == NMBB)
739         continue;
740       if (!MDT->dominates(SucccDTNode, MDT->getNode(PredBB))) {
741         IsNewIDom = false;
742         break;
743       }
744     }
745
746     // We know "this" dominates the newly created basic block.
747     MachineDomTreeNode *NewDTNode = MDT->addNewBlock(NMBB, this);
748
749     // If all the other predecessors of "Succ" are dominated by "Succ" itself
750     // then the new block is the new immediate dominator of "Succ". Otherwise,
751     // the new block doesn't dominate anything.
752     if (IsNewIDom)
753       MDT->changeImmediateDominator(SucccDTNode, NewDTNode);
754   }
755
756   if (MachineLoopInfo *MLI = P->getAnalysisIfAvailable<MachineLoopInfo>())
757     if (MachineLoop *TIL = MLI->getLoopFor(this)) {
758       // If one or the other blocks were not in a loop, the new block is not
759       // either, and thus LI doesn't need to be updated.
760       if (MachineLoop *DestLoop = MLI->getLoopFor(Succ)) {
761         if (TIL == DestLoop) {
762           // Both in the same loop, the NMBB joins loop.
763           DestLoop->addBasicBlockToLoop(NMBB, MLI->getBase());
764         } else if (TIL->contains(DestLoop)) {
765           // Edge from an outer loop to an inner loop.  Add to the outer loop.
766           TIL->addBasicBlockToLoop(NMBB, MLI->getBase());
767         } else if (DestLoop->contains(TIL)) {
768           // Edge from an inner loop to an outer loop.  Add to the outer loop.
769           DestLoop->addBasicBlockToLoop(NMBB, MLI->getBase());
770         } else {
771           // Edge from two loops with no containment relation.  Because these
772           // are natural loops, we know that the destination block must be the
773           // header of its loop (adding a branch into a loop elsewhere would
774           // create an irreducible loop).
775           assert(DestLoop->getHeader() == Succ &&
776                  "Should not create irreducible loops!");
777           if (MachineLoop *P = DestLoop->getParentLoop())
778             P->addBasicBlockToLoop(NMBB, MLI->getBase());
779         }
780       }
781     }
782
783   return NMBB;
784 }
785
786 MachineBasicBlock::iterator
787 MachineBasicBlock::erase(MachineBasicBlock::iterator I) {
788   if (I->isBundle()) {
789     MachineBasicBlock::iterator E = llvm::next(I);
790     return Insts.erase(I.getInstrIterator(), E.getInstrIterator());
791   }
792
793   return Insts.erase(I.getInstrIterator());
794 }
795
796 MachineInstr *MachineBasicBlock::remove(MachineInstr *I) {
797   if (I->isBundle()) {
798     instr_iterator MII = llvm::next(I);
799     iterator E = end();
800     while (MII != E && MII->isInsideBundle()) {
801       MachineInstr *MI = &*MII++;
802       Insts.remove(MI);
803     }
804   }
805
806   return Insts.remove(I);
807 }
808
809 void MachineBasicBlock::splice(MachineBasicBlock::iterator where,
810                                MachineBasicBlock *Other,
811                                MachineBasicBlock::iterator From) {
812   if (From->isBundle()) {
813     MachineBasicBlock::iterator To = llvm::next(From);
814     Insts.splice(where.getInstrIterator(), Other->Insts,
815                  From.getInstrIterator(), To.getInstrIterator());
816     return;
817   }
818
819   Insts.splice(where.getInstrIterator(), Other->Insts, From.getInstrIterator());
820 }
821
822 /// removeFromParent - This method unlinks 'this' from the containing function,
823 /// and returns it, but does not delete it.
824 MachineBasicBlock *MachineBasicBlock::removeFromParent() {
825   assert(getParent() && "Not embedded in a function!");
826   getParent()->remove(this);
827   return this;
828 }
829
830
831 /// eraseFromParent - This method unlinks 'this' from the containing function,
832 /// and deletes it.
833 void MachineBasicBlock::eraseFromParent() {
834   assert(getParent() && "Not embedded in a function!");
835   getParent()->erase(this);
836 }
837
838
839 /// ReplaceUsesOfBlockWith - Given a machine basic block that branched to
840 /// 'Old', change the code and CFG so that it branches to 'New' instead.
841 void MachineBasicBlock::ReplaceUsesOfBlockWith(MachineBasicBlock *Old,
842                                                MachineBasicBlock *New) {
843   assert(Old != New && "Cannot replace self with self!");
844
845   MachineBasicBlock::instr_iterator I = instr_end();
846   while (I != instr_begin()) {
847     --I;
848     if (!I->isTerminator()) break;
849
850     // Scan the operands of this machine instruction, replacing any uses of Old
851     // with New.
852     for (unsigned i = 0, e = I->getNumOperands(); i != e; ++i)
853       if (I->getOperand(i).isMBB() &&
854           I->getOperand(i).getMBB() == Old)
855         I->getOperand(i).setMBB(New);
856   }
857
858   // Update the successor information.
859   replaceSuccessor(Old, New);
860 }
861
862 /// CorrectExtraCFGEdges - Various pieces of code can cause excess edges in the
863 /// CFG to be inserted.  If we have proven that MBB can only branch to DestA and
864 /// DestB, remove any other MBB successors from the CFG.  DestA and DestB can be
865 /// null.
866 ///
867 /// Besides DestA and DestB, retain other edges leading to LandingPads
868 /// (currently there can be only one; we don't check or require that here).
869 /// Note it is possible that DestA and/or DestB are LandingPads.
870 bool MachineBasicBlock::CorrectExtraCFGEdges(MachineBasicBlock *DestA,
871                                              MachineBasicBlock *DestB,
872                                              bool isCond) {
873   // The values of DestA and DestB frequently come from a call to the
874   // 'TargetInstrInfo::AnalyzeBranch' method. We take our meaning of the initial
875   // values from there.
876   //
877   // 1. If both DestA and DestB are null, then the block ends with no branches
878   //    (it falls through to its successor).
879   // 2. If DestA is set, DestB is null, and isCond is false, then the block ends
880   //    with only an unconditional branch.
881   // 3. If DestA is set, DestB is null, and isCond is true, then the block ends
882   //    with a conditional branch that falls through to a successor (DestB).
883   // 4. If DestA and DestB is set and isCond is true, then the block ends with a
884   //    conditional branch followed by an unconditional branch. DestA is the
885   //    'true' destination and DestB is the 'false' destination.
886
887   bool Changed = false;
888
889   MachineFunction::iterator FallThru =
890     llvm::next(MachineFunction::iterator(this));
891
892   if (DestA == 0 && DestB == 0) {
893     // Block falls through to successor.
894     DestA = FallThru;
895     DestB = FallThru;
896   } else if (DestA != 0 && DestB == 0) {
897     if (isCond)
898       // Block ends in conditional jump that falls through to successor.
899       DestB = FallThru;
900   } else {
901     assert(DestA && DestB && isCond &&
902            "CFG in a bad state. Cannot correct CFG edges");
903   }
904
905   // Remove superfluous edges. I.e., those which aren't destinations of this
906   // basic block, duplicate edges, or landing pads.
907   SmallPtrSet<const MachineBasicBlock*, 8> SeenMBBs;
908   MachineBasicBlock::succ_iterator SI = succ_begin();
909   while (SI != succ_end()) {
910     const MachineBasicBlock *MBB = *SI;
911     if (!SeenMBBs.insert(MBB) ||
912         (MBB != DestA && MBB != DestB && !MBB->isLandingPad())) {
913       // This is a superfluous edge, remove it.
914       SI = removeSuccessor(SI);
915       Changed = true;
916     } else {
917       ++SI;
918     }
919   }
920
921   return Changed;
922 }
923
924 /// findDebugLoc - find the next valid DebugLoc starting at MBBI, skipping
925 /// any DBG_VALUE instructions.  Return UnknownLoc if there is none.
926 DebugLoc
927 MachineBasicBlock::findDebugLoc(instr_iterator MBBI) {
928   DebugLoc DL;
929   instr_iterator E = instr_end();
930   if (MBBI == E)
931     return DL;
932
933   // Skip debug declarations, we don't want a DebugLoc from them.
934   while (MBBI != E && MBBI->isDebugValue())
935     MBBI++;
936   if (MBBI != E)
937     DL = MBBI->getDebugLoc();
938   return DL;
939 }
940
941 /// getSuccWeight - Return weight of the edge from this block to MBB.
942 ///
943 uint32_t MachineBasicBlock::getSuccWeight(const MachineBasicBlock *succ) const {
944   if (Weights.empty())
945     return 0;
946
947   const_succ_iterator I = std::find(Successors.begin(), Successors.end(), succ);
948   return *getWeightIterator(I);
949 }
950
951 /// getWeightIterator - Return wight iterator corresonding to the I successor
952 /// iterator
953 MachineBasicBlock::weight_iterator MachineBasicBlock::
954 getWeightIterator(MachineBasicBlock::succ_iterator I) {
955   assert(Weights.size() == Successors.size() && "Async weight list!");
956   size_t index = std::distance(Successors.begin(), I);
957   assert(index < Weights.size() && "Not a current successor!");
958   return Weights.begin() + index;
959 }
960
961 /// getWeightIterator - Return wight iterator corresonding to the I successor
962 /// iterator
963 MachineBasicBlock::const_weight_iterator MachineBasicBlock::
964 getWeightIterator(MachineBasicBlock::const_succ_iterator I) const {
965   assert(Weights.size() == Successors.size() && "Async weight list!");
966   const size_t index = std::distance(Successors.begin(), I);
967   assert(index < Weights.size() && "Not a current successor!");
968   return Weights.begin() + index;
969 }
970
971 void llvm::WriteAsOperand(raw_ostream &OS, const MachineBasicBlock *MBB,
972                           bool t) {
973   OS << "BB#" << MBB->getNumber();
974 }
975