[PM] Pull the analyses used for another utility routine into its API
[oota-llvm.git] / lib / Transforms / Utils / BasicBlockUtils.cpp
1 //===-- BasicBlockUtils.cpp - BasicBlock Utilities -------------------------==//
2 //
3 //                     The LLVM Compiler Infrastructure
4 //
5 // This file is distributed under the University of Illinois Open Source
6 // License. See LICENSE.TXT for details.
7 //
8 //===----------------------------------------------------------------------===//
9 //
10 // This family of functions perform manipulations on basic blocks, and
11 // instructions contained within basic blocks.
12 //
13 //===----------------------------------------------------------------------===//
14
15 #include "llvm/Transforms/Utils/BasicBlockUtils.h"
16 #include "llvm/Analysis/AliasAnalysis.h"
17 #include "llvm/Analysis/CFG.h"
18 #include "llvm/Analysis/LoopInfo.h"
19 #include "llvm/Analysis/MemoryDependenceAnalysis.h"
20 #include "llvm/IR/Constant.h"
21 #include "llvm/IR/DataLayout.h"
22 #include "llvm/IR/Dominators.h"
23 #include "llvm/IR/Function.h"
24 #include "llvm/IR/Instructions.h"
25 #include "llvm/IR/IntrinsicInst.h"
26 #include "llvm/IR/Type.h"
27 #include "llvm/IR/ValueHandle.h"
28 #include "llvm/Support/ErrorHandling.h"
29 #include "llvm/Transforms/Scalar.h"
30 #include "llvm/Transforms/Utils/Local.h"
31 #include <algorithm>
32 using namespace llvm;
33
34 /// DeleteDeadBlock - Delete the specified block, which must have no
35 /// predecessors.
36 void llvm::DeleteDeadBlock(BasicBlock *BB) {
37   assert((pred_begin(BB) == pred_end(BB) ||
38          // Can delete self loop.
39          BB->getSinglePredecessor() == BB) && "Block is not dead!");
40   TerminatorInst *BBTerm = BB->getTerminator();
41
42   // Loop through all of our successors and make sure they know that one
43   // of their predecessors is going away.
44   for (unsigned i = 0, e = BBTerm->getNumSuccessors(); i != e; ++i)
45     BBTerm->getSuccessor(i)->removePredecessor(BB);
46
47   // Zap all the instructions in the block.
48   while (!BB->empty()) {
49     Instruction &I = BB->back();
50     // If this instruction is used, replace uses with an arbitrary value.
51     // Because control flow can't get here, we don't care what we replace the
52     // value with.  Note that since this block is unreachable, and all values
53     // contained within it must dominate their uses, that all uses will
54     // eventually be removed (they are themselves dead).
55     if (!I.use_empty())
56       I.replaceAllUsesWith(UndefValue::get(I.getType()));
57     BB->getInstList().pop_back();
58   }
59
60   // Zap the block!
61   BB->eraseFromParent();
62 }
63
64 /// FoldSingleEntryPHINodes - We know that BB has one predecessor.  If there are
65 /// any single-entry PHI nodes in it, fold them away.  This handles the case
66 /// when all entries to the PHI nodes in a block are guaranteed equal, such as
67 /// when the block has exactly one predecessor.
68 void llvm::FoldSingleEntryPHINodes(BasicBlock *BB, AliasAnalysis *AA,
69                                    MemoryDependenceAnalysis *MemDep) {
70   if (!isa<PHINode>(BB->begin())) return;
71
72   while (PHINode *PN = dyn_cast<PHINode>(BB->begin())) {
73     if (PN->getIncomingValue(0) != PN)
74       PN->replaceAllUsesWith(PN->getIncomingValue(0));
75     else
76       PN->replaceAllUsesWith(UndefValue::get(PN->getType()));
77
78     if (MemDep)
79       MemDep->removeInstruction(PN);  // Memdep updates AA itself.
80     else if (AA && isa<PointerType>(PN->getType()))
81       AA->deleteValue(PN);
82
83     PN->eraseFromParent();
84   }
85 }
86
87
88 /// DeleteDeadPHIs - Examine each PHI in the given block and delete it if it
89 /// is dead. Also recursively delete any operands that become dead as
90 /// a result. This includes tracing the def-use list from the PHI to see if
91 /// it is ultimately unused or if it reaches an unused cycle.
92 bool llvm::DeleteDeadPHIs(BasicBlock *BB, const TargetLibraryInfo *TLI) {
93   // Recursively deleting a PHI may cause multiple PHIs to be deleted
94   // or RAUW'd undef, so use an array of WeakVH for the PHIs to delete.
95   SmallVector<WeakVH, 8> PHIs;
96   for (BasicBlock::iterator I = BB->begin();
97        PHINode *PN = dyn_cast<PHINode>(I); ++I)
98     PHIs.push_back(PN);
99
100   bool Changed = false;
101   for (unsigned i = 0, e = PHIs.size(); i != e; ++i)
102     if (PHINode *PN = dyn_cast_or_null<PHINode>(PHIs[i].operator Value*()))
103       Changed |= RecursivelyDeleteDeadPHINode(PN, TLI);
104
105   return Changed;
106 }
107
108 /// MergeBlockIntoPredecessor - Attempts to merge a block into its predecessor,
109 /// if possible.  The return value indicates success or failure.
110 bool llvm::MergeBlockIntoPredecessor(BasicBlock *BB, DominatorTree *DT,
111                                      LoopInfo *LI, AliasAnalysis *AA,
112                                      MemoryDependenceAnalysis *MemDep) {
113   // Don't merge away blocks who have their address taken.
114   if (BB->hasAddressTaken()) return false;
115
116   // Can't merge if there are multiple predecessors, or no predecessors.
117   BasicBlock *PredBB = BB->getUniquePredecessor();
118   if (!PredBB) return false;
119
120   // Don't break self-loops.
121   if (PredBB == BB) return false;
122   // Don't break invokes.
123   if (isa<InvokeInst>(PredBB->getTerminator())) return false;
124
125   succ_iterator SI(succ_begin(PredBB)), SE(succ_end(PredBB));
126   BasicBlock *OnlySucc = BB;
127   for (; SI != SE; ++SI)
128     if (*SI != OnlySucc) {
129       OnlySucc = nullptr;     // There are multiple distinct successors!
130       break;
131     }
132
133   // Can't merge if there are multiple successors.
134   if (!OnlySucc) return false;
135
136   // Can't merge if there is PHI loop.
137   for (BasicBlock::iterator BI = BB->begin(), BE = BB->end(); BI != BE; ++BI) {
138     if (PHINode *PN = dyn_cast<PHINode>(BI)) {
139       for (unsigned i = 0, e = PN->getNumIncomingValues(); i != e; ++i)
140         if (PN->getIncomingValue(i) == PN)
141           return false;
142     } else
143       break;
144   }
145
146   // Begin by getting rid of unneeded PHIs.
147   if (isa<PHINode>(BB->front()))
148     FoldSingleEntryPHINodes(BB, AA, MemDep);
149
150   // Delete the unconditional branch from the predecessor...
151   PredBB->getInstList().pop_back();
152
153   // Make all PHI nodes that referred to BB now refer to Pred as their
154   // source...
155   BB->replaceAllUsesWith(PredBB);
156
157   // Move all definitions in the successor to the predecessor...
158   PredBB->getInstList().splice(PredBB->end(), BB->getInstList());
159
160   // Inherit predecessors name if it exists.
161   if (!PredBB->hasName())
162     PredBB->takeName(BB);
163
164   // Finally, erase the old block and update dominator info.
165   if (DT)
166     if (DomTreeNode *DTN = DT->getNode(BB)) {
167       DomTreeNode *PredDTN = DT->getNode(PredBB);
168       SmallVector<DomTreeNode *, 8> Children(DTN->begin(), DTN->end());
169       for (SmallVectorImpl<DomTreeNode *>::iterator DI = Children.begin(),
170                                                     DE = Children.end();
171            DI != DE; ++DI)
172         DT->changeImmediateDominator(*DI, PredDTN);
173
174       DT->eraseNode(BB);
175     }
176
177   if (LI)
178     LI->removeBlock(BB);
179
180   if (MemDep)
181     MemDep->invalidateCachedPredecessors();
182
183   BB->eraseFromParent();
184   return true;
185 }
186
187 /// ReplaceInstWithValue - Replace all uses of an instruction (specified by BI)
188 /// with a value, then remove and delete the original instruction.
189 ///
190 void llvm::ReplaceInstWithValue(BasicBlock::InstListType &BIL,
191                                 BasicBlock::iterator &BI, Value *V) {
192   Instruction &I = *BI;
193   // Replaces all of the uses of the instruction with uses of the value
194   I.replaceAllUsesWith(V);
195
196   // Make sure to propagate a name if there is one already.
197   if (I.hasName() && !V->hasName())
198     V->takeName(&I);
199
200   // Delete the unnecessary instruction now...
201   BI = BIL.erase(BI);
202 }
203
204
205 /// ReplaceInstWithInst - Replace the instruction specified by BI with the
206 /// instruction specified by I.  The original instruction is deleted and BI is
207 /// updated to point to the new instruction.
208 ///
209 void llvm::ReplaceInstWithInst(BasicBlock::InstListType &BIL,
210                                BasicBlock::iterator &BI, Instruction *I) {
211   assert(I->getParent() == nullptr &&
212          "ReplaceInstWithInst: Instruction already inserted into basic block!");
213
214   // Insert the new instruction into the basic block...
215   BasicBlock::iterator New = BIL.insert(BI, I);
216
217   // Replace all uses of the old instruction, and delete it.
218   ReplaceInstWithValue(BIL, BI, I);
219
220   // Move BI back to point to the newly inserted instruction
221   BI = New;
222 }
223
224 /// ReplaceInstWithInst - Replace the instruction specified by From with the
225 /// instruction specified by To.
226 ///
227 void llvm::ReplaceInstWithInst(Instruction *From, Instruction *To) {
228   BasicBlock::iterator BI(From);
229   ReplaceInstWithInst(From->getParent()->getInstList(), BI, To);
230 }
231
232 /// SplitEdge -  Split the edge connecting specified block. Pass P must
233 /// not be NULL.
234 BasicBlock *llvm::SplitEdge(BasicBlock *BB, BasicBlock *Succ, Pass *P) {
235   unsigned SuccNum = GetSuccessorNumber(BB, Succ);
236
237   // If this is a critical edge, let SplitCriticalEdge do it.
238   TerminatorInst *LatchTerm = BB->getTerminator();
239   if (SplitCriticalEdge(LatchTerm, SuccNum, P))
240     return LatchTerm->getSuccessor(SuccNum);
241
242   auto *DTWP = P->getAnalysisIfAvailable<DominatorTreeWrapperPass>();
243   auto *DT = DTWP ? &DTWP->getDomTree() : nullptr;
244   auto *LIWP = P->getAnalysisIfAvailable<LoopInfoWrapperPass>();
245   auto *LI = LIWP ? &LIWP->getLoopInfo() : nullptr;
246
247   // If the edge isn't critical, then BB has a single successor or Succ has a
248   // single pred.  Split the block.
249   if (BasicBlock *SP = Succ->getSinglePredecessor()) {
250     // If the successor only has a single pred, split the top of the successor
251     // block.
252     assert(SP == BB && "CFG broken");
253     SP = nullptr;
254     return SplitBlock(Succ, Succ->begin(), DT, LI);
255   }
256
257   // Otherwise, if BB has a single successor, split it at the bottom of the
258   // block.
259   assert(BB->getTerminator()->getNumSuccessors() == 1 &&
260          "Should have a single succ!");
261   return SplitBlock(BB, BB->getTerminator(), DT, LI);
262 }
263
264 unsigned llvm::SplitAllCriticalEdges(Function &F, Pass *P) {
265   unsigned NumBroken = 0;
266   for (Function::iterator I = F.begin(), E = F.end(); I != E; ++I) {
267     TerminatorInst *TI = I->getTerminator();
268     if (TI->getNumSuccessors() > 1 && !isa<IndirectBrInst>(TI))
269       for (unsigned i = 0, e = TI->getNumSuccessors(); i != e; ++i)
270         if (SplitCriticalEdge(TI, i, P))
271           ++NumBroken;
272   }
273   return NumBroken;
274 }
275
276 /// SplitBlock - Split the specified block at the specified instruction - every
277 /// thing before SplitPt stays in Old and everything starting with SplitPt moves
278 /// to a new block.  The two blocks are joined by an unconditional branch and
279 /// the loop info is updated.
280 ///
281 BasicBlock *llvm::SplitBlock(BasicBlock *Old, Instruction *SplitPt,
282                              DominatorTree *DT, LoopInfo *LI) {
283   BasicBlock::iterator SplitIt = SplitPt;
284   while (isa<PHINode>(SplitIt) || isa<LandingPadInst>(SplitIt))
285     ++SplitIt;
286   BasicBlock *New = Old->splitBasicBlock(SplitIt, Old->getName()+".split");
287
288   // The new block lives in whichever loop the old one did. This preserves
289   // LCSSA as well, because we force the split point to be after any PHI nodes.
290   if (LI)
291     if (Loop *L = LI->getLoopFor(Old))
292       L->addBasicBlockToLoop(New, *LI);
293
294   if (DT)
295     // Old dominates New. New node dominates all other nodes dominated by Old.
296     if (DomTreeNode *OldNode = DT->getNode(Old)) {
297       std::vector<DomTreeNode *> Children;
298       for (DomTreeNode::iterator I = OldNode->begin(), E = OldNode->end();
299            I != E; ++I)
300         Children.push_back(*I);
301
302       DomTreeNode *NewNode = DT->addNewBlock(New, Old);
303       for (std::vector<DomTreeNode *>::iterator I = Children.begin(),
304              E = Children.end(); I != E; ++I)
305         DT->changeImmediateDominator(*I, NewNode);
306     }
307
308   return New;
309 }
310
311 /// UpdateAnalysisInformation - Update DominatorTree, LoopInfo, and LCCSA
312 /// analysis information.
313 static void UpdateAnalysisInformation(BasicBlock *OldBB, BasicBlock *NewBB,
314                                       ArrayRef<BasicBlock *> Preds,
315                                       DominatorTree *DT, LoopInfo *LI,
316                                       bool PreserveLCSSA, bool &HasLoopExit) {
317   // Update dominator tree if available.
318   if (DT)
319     DT->splitBlock(NewBB);
320
321   // The rest of the logic is only relevant for updating the loop structures.
322   if (!LI)
323     return;
324
325   Loop *L = LI->getLoopFor(OldBB);
326
327   // If we need to preserve loop analyses, collect some information about how
328   // this split will affect loops.
329   bool IsLoopEntry = !!L;
330   bool SplitMakesNewLoopHeader = false;
331   for (ArrayRef<BasicBlock *>::iterator i = Preds.begin(), e = Preds.end();
332        i != e; ++i) {
333     BasicBlock *Pred = *i;
334
335     // If we need to preserve LCSSA, determine if any of the preds is a loop
336     // exit.
337     if (PreserveLCSSA)
338       if (Loop *PL = LI->getLoopFor(Pred))
339         if (!PL->contains(OldBB))
340           HasLoopExit = true;
341
342     // If we need to preserve LoopInfo, note whether any of the preds crosses
343     // an interesting loop boundary.
344     if (!L)
345       continue;
346     if (L->contains(Pred))
347       IsLoopEntry = false;
348     else
349       SplitMakesNewLoopHeader = true;
350   }
351
352   // Unless we have a loop for OldBB, nothing else to do here.
353   if (!L)
354     return;
355
356   if (IsLoopEntry) {
357     // Add the new block to the nearest enclosing loop (and not an adjacent
358     // loop). To find this, examine each of the predecessors and determine which
359     // loops enclose them, and select the most-nested loop which contains the
360     // loop containing the block being split.
361     Loop *InnermostPredLoop = nullptr;
362     for (ArrayRef<BasicBlock*>::iterator
363            i = Preds.begin(), e = Preds.end(); i != e; ++i) {
364       BasicBlock *Pred = *i;
365       if (Loop *PredLoop = LI->getLoopFor(Pred)) {
366         // Seek a loop which actually contains the block being split (to avoid
367         // adjacent loops).
368         while (PredLoop && !PredLoop->contains(OldBB))
369           PredLoop = PredLoop->getParentLoop();
370
371         // Select the most-nested of these loops which contains the block.
372         if (PredLoop && PredLoop->contains(OldBB) &&
373             (!InnermostPredLoop ||
374              InnermostPredLoop->getLoopDepth() < PredLoop->getLoopDepth()))
375           InnermostPredLoop = PredLoop;
376       }
377     }
378
379     if (InnermostPredLoop)
380       InnermostPredLoop->addBasicBlockToLoop(NewBB, *LI);
381   } else {
382     L->addBasicBlockToLoop(NewBB, *LI);
383     if (SplitMakesNewLoopHeader)
384       L->moveToHeader(NewBB);
385   }
386 }
387
388 /// UpdatePHINodes - Update the PHI nodes in OrigBB to include the values coming
389 /// from NewBB. This also updates AliasAnalysis, if available.
390 static void UpdatePHINodes(BasicBlock *OrigBB, BasicBlock *NewBB,
391                            ArrayRef<BasicBlock *> Preds, BranchInst *BI,
392                            AliasAnalysis *AA, bool HasLoopExit) {
393   // Otherwise, create a new PHI node in NewBB for each PHI node in OrigBB.
394   SmallPtrSet<BasicBlock *, 16> PredSet(Preds.begin(), Preds.end());
395   for (BasicBlock::iterator I = OrigBB->begin(); isa<PHINode>(I); ) {
396     PHINode *PN = cast<PHINode>(I++);
397
398     // Check to see if all of the values coming in are the same.  If so, we
399     // don't need to create a new PHI node, unless it's needed for LCSSA.
400     Value *InVal = nullptr;
401     if (!HasLoopExit) {
402       InVal = PN->getIncomingValueForBlock(Preds[0]);
403       for (unsigned i = 0, e = PN->getNumIncomingValues(); i != e; ++i) {
404         if (!PredSet.count(PN->getIncomingBlock(i)))
405           continue;
406         if (!InVal)
407           InVal = PN->getIncomingValue(i);
408         else if (InVal != PN->getIncomingValue(i)) {
409           InVal = nullptr;
410           break;
411         }
412       }
413     }
414
415     if (InVal) {
416       // If all incoming values for the new PHI would be the same, just don't
417       // make a new PHI.  Instead, just remove the incoming values from the old
418       // PHI.
419
420       // NOTE! This loop walks backwards for a reason! First off, this minimizes
421       // the cost of removal if we end up removing a large number of values, and
422       // second off, this ensures that the indices for the incoming values
423       // aren't invalidated when we remove one.
424       for (int64_t i = PN->getNumIncomingValues() - 1; i >= 0; --i)
425         if (PredSet.count(PN->getIncomingBlock(i)))
426           PN->removeIncomingValue(i, false);
427
428       // Add an incoming value to the PHI node in the loop for the preheader
429       // edge.
430       PN->addIncoming(InVal, NewBB);
431       continue;
432     }
433
434     // If the values coming into the block are not the same, we need a new
435     // PHI.
436     // Create the new PHI node, insert it into NewBB at the end of the block
437     PHINode *NewPHI =
438         PHINode::Create(PN->getType(), Preds.size(), PN->getName() + ".ph", BI);
439     if (AA)
440       AA->copyValue(PN, NewPHI);
441
442     // NOTE! This loop walks backwards for a reason! First off, this minimizes
443     // the cost of removal if we end up removing a large number of values, and
444     // second off, this ensures that the indices for the incoming values aren't
445     // invalidated when we remove one.
446     for (int64_t i = PN->getNumIncomingValues() - 1; i >= 0; --i) {
447       BasicBlock *IncomingBB = PN->getIncomingBlock(i);
448       if (PredSet.count(IncomingBB)) {
449         Value *V = PN->removeIncomingValue(i, false);
450         NewPHI->addIncoming(V, IncomingBB);
451       }
452     }
453
454     PN->addIncoming(NewPHI, NewBB);
455   }
456 }
457
458 /// SplitBlockPredecessors - This method transforms BB by introducing a new
459 /// basic block into the function, and moving some of the predecessors of BB to
460 /// be predecessors of the new block.  The new predecessors are indicated by the
461 /// Preds array, which has NumPreds elements in it.  The new block is given a
462 /// suffix of 'Suffix'.
463 ///
464 /// This currently updates the LLVM IR, AliasAnalysis, DominatorTree,
465 /// LoopInfo, and LCCSA but no other analyses. In particular, it does not
466 /// preserve LoopSimplify (because it's complicated to handle the case where one
467 /// of the edges being split is an exit of a loop with other exits).
468 ///
469 BasicBlock *llvm::SplitBlockPredecessors(BasicBlock *BB,
470                                          ArrayRef<BasicBlock *> Preds,
471                                          const char *Suffix, AliasAnalysis *AA,
472                                          DominatorTree *DT, LoopInfo *LI,
473                                          bool PreserveLCSSA) {
474   // Create new basic block, insert right before the original block.
475   BasicBlock *NewBB = BasicBlock::Create(BB->getContext(), BB->getName()+Suffix,
476                                          BB->getParent(), BB);
477
478   // The new block unconditionally branches to the old block.
479   BranchInst *BI = BranchInst::Create(BB, NewBB);
480
481   // Move the edges from Preds to point to NewBB instead of BB.
482   for (unsigned i = 0, e = Preds.size(); i != e; ++i) {
483     // This is slightly more strict than necessary; the minimum requirement
484     // is that there be no more than one indirectbr branching to BB. And
485     // all BlockAddress uses would need to be updated.
486     assert(!isa<IndirectBrInst>(Preds[i]->getTerminator()) &&
487            "Cannot split an edge from an IndirectBrInst");
488     Preds[i]->getTerminator()->replaceUsesOfWith(BB, NewBB);
489   }
490
491   // Insert a new PHI node into NewBB for every PHI node in BB and that new PHI
492   // node becomes an incoming value for BB's phi node.  However, if the Preds
493   // list is empty, we need to insert dummy entries into the PHI nodes in BB to
494   // account for the newly created predecessor.
495   if (Preds.size() == 0) {
496     // Insert dummy values as the incoming value.
497     for (BasicBlock::iterator I = BB->begin(); isa<PHINode>(I); ++I)
498       cast<PHINode>(I)->addIncoming(UndefValue::get(I->getType()), NewBB);
499     return NewBB;
500   }
501
502   // Update DominatorTree, LoopInfo, and LCCSA analysis information.
503   bool HasLoopExit = false;
504   UpdateAnalysisInformation(BB, NewBB, Preds, DT, LI, PreserveLCSSA,
505                             HasLoopExit);
506
507   // Update the PHI nodes in BB with the values coming from NewBB.
508   UpdatePHINodes(BB, NewBB, Preds, BI, AA, HasLoopExit);
509   return NewBB;
510 }
511
512 /// SplitLandingPadPredecessors - This method transforms the landing pad,
513 /// OrigBB, by introducing two new basic blocks into the function. One of those
514 /// new basic blocks gets the predecessors listed in Preds. The other basic
515 /// block gets the remaining predecessors of OrigBB. The landingpad instruction
516 /// OrigBB is clone into both of the new basic blocks. The new blocks are given
517 /// the suffixes 'Suffix1' and 'Suffix2', and are returned in the NewBBs vector.
518 ///
519 /// This currently updates the LLVM IR, AliasAnalysis, DominatorTree,
520 /// DominanceFrontier, LoopInfo, and LCCSA but no other analyses. In particular,
521 /// it does not preserve LoopSimplify (because it's complicated to handle the
522 /// case where one of the edges being split is an exit of a loop with other
523 /// exits).
524 ///
525 void llvm::SplitLandingPadPredecessors(BasicBlock *OrigBB,
526                                        ArrayRef<BasicBlock*> Preds,
527                                        const char *Suffix1, const char *Suffix2,
528                                        Pass *P,
529                                        SmallVectorImpl<BasicBlock*> &NewBBs) {
530   assert(OrigBB->isLandingPad() && "Trying to split a non-landing pad!");
531
532   // Create a new basic block for OrigBB's predecessors listed in Preds. Insert
533   // it right before the original block.
534   BasicBlock *NewBB1 = BasicBlock::Create(OrigBB->getContext(),
535                                           OrigBB->getName() + Suffix1,
536                                           OrigBB->getParent(), OrigBB);
537   NewBBs.push_back(NewBB1);
538
539   // The new block unconditionally branches to the old block.
540   BranchInst *BI1 = BranchInst::Create(OrigBB, NewBB1);
541
542   // Move the edges from Preds to point to NewBB1 instead of OrigBB.
543   for (unsigned i = 0, e = Preds.size(); i != e; ++i) {
544     // This is slightly more strict than necessary; the minimum requirement
545     // is that there be no more than one indirectbr branching to BB. And
546     // all BlockAddress uses would need to be updated.
547     assert(!isa<IndirectBrInst>(Preds[i]->getTerminator()) &&
548            "Cannot split an edge from an IndirectBrInst");
549     Preds[i]->getTerminator()->replaceUsesOfWith(OrigBB, NewBB1);
550   }
551
552   // Update DominatorTree, LoopInfo, and LCCSA analysis information.
553   auto *DTWP = P->getAnalysisIfAvailable<DominatorTreeWrapperPass>();
554   auto *DT = DTWP ? &DTWP->getDomTree() : nullptr;
555   auto *LIWP = P->getAnalysisIfAvailable<LoopInfoWrapperPass>();
556   auto *LI = LIWP ? &LIWP->getLoopInfo() : nullptr;
557   bool PreserveLCSSA = P->mustPreserveAnalysisID(LCSSAID);
558   bool HasLoopExit = false;
559   UpdateAnalysisInformation(OrigBB, NewBB1, Preds, DT, LI, PreserveLCSSA,
560                             HasLoopExit);
561
562   // Update the PHI nodes in OrigBB with the values coming from NewBB1.
563   AliasAnalysis *AA = P ? P->getAnalysisIfAvailable<AliasAnalysis>() : nullptr;
564   UpdatePHINodes(OrigBB, NewBB1, Preds, BI1, AA, HasLoopExit);
565
566   // Move the remaining edges from OrigBB to point to NewBB2.
567   SmallVector<BasicBlock*, 8> NewBB2Preds;
568   for (pred_iterator i = pred_begin(OrigBB), e = pred_end(OrigBB);
569        i != e; ) {
570     BasicBlock *Pred = *i++;
571     if (Pred == NewBB1) continue;
572     assert(!isa<IndirectBrInst>(Pred->getTerminator()) &&
573            "Cannot split an edge from an IndirectBrInst");
574     NewBB2Preds.push_back(Pred);
575     e = pred_end(OrigBB);
576   }
577
578   BasicBlock *NewBB2 = nullptr;
579   if (!NewBB2Preds.empty()) {
580     // Create another basic block for the rest of OrigBB's predecessors.
581     NewBB2 = BasicBlock::Create(OrigBB->getContext(),
582                                 OrigBB->getName() + Suffix2,
583                                 OrigBB->getParent(), OrigBB);
584     NewBBs.push_back(NewBB2);
585
586     // The new block unconditionally branches to the old block.
587     BranchInst *BI2 = BranchInst::Create(OrigBB, NewBB2);
588
589     // Move the remaining edges from OrigBB to point to NewBB2.
590     for (SmallVectorImpl<BasicBlock*>::iterator
591            i = NewBB2Preds.begin(), e = NewBB2Preds.end(); i != e; ++i)
592       (*i)->getTerminator()->replaceUsesOfWith(OrigBB, NewBB2);
593
594     // Update DominatorTree, LoopInfo, and LCCSA analysis information.
595     HasLoopExit = false;
596     UpdateAnalysisInformation(OrigBB, NewBB2, NewBB2Preds, DT, LI,
597                               PreserveLCSSA, HasLoopExit);
598
599     // Update the PHI nodes in OrigBB with the values coming from NewBB2.
600     UpdatePHINodes(OrigBB, NewBB2, NewBB2Preds, BI2, AA, HasLoopExit);
601   }
602
603   LandingPadInst *LPad = OrigBB->getLandingPadInst();
604   Instruction *Clone1 = LPad->clone();
605   Clone1->setName(Twine("lpad") + Suffix1);
606   NewBB1->getInstList().insert(NewBB1->getFirstInsertionPt(), Clone1);
607
608   if (NewBB2) {
609     Instruction *Clone2 = LPad->clone();
610     Clone2->setName(Twine("lpad") + Suffix2);
611     NewBB2->getInstList().insert(NewBB2->getFirstInsertionPt(), Clone2);
612
613     // Create a PHI node for the two cloned landingpad instructions.
614     PHINode *PN = PHINode::Create(LPad->getType(), 2, "lpad.phi", LPad);
615     PN->addIncoming(Clone1, NewBB1);
616     PN->addIncoming(Clone2, NewBB2);
617     LPad->replaceAllUsesWith(PN);
618     LPad->eraseFromParent();
619   } else {
620     // There is no second clone. Just replace the landing pad with the first
621     // clone.
622     LPad->replaceAllUsesWith(Clone1);
623     LPad->eraseFromParent();
624   }
625 }
626
627 /// FoldReturnIntoUncondBranch - This method duplicates the specified return
628 /// instruction into a predecessor which ends in an unconditional branch. If
629 /// the return instruction returns a value defined by a PHI, propagate the
630 /// right value into the return. It returns the new return instruction in the
631 /// predecessor.
632 ReturnInst *llvm::FoldReturnIntoUncondBranch(ReturnInst *RI, BasicBlock *BB,
633                                              BasicBlock *Pred) {
634   Instruction *UncondBranch = Pred->getTerminator();
635   // Clone the return and add it to the end of the predecessor.
636   Instruction *NewRet = RI->clone();
637   Pred->getInstList().push_back(NewRet);
638
639   // If the return instruction returns a value, and if the value was a
640   // PHI node in "BB", propagate the right value into the return.
641   for (User::op_iterator i = NewRet->op_begin(), e = NewRet->op_end();
642        i != e; ++i) {
643     Value *V = *i;
644     Instruction *NewBC = nullptr;
645     if (BitCastInst *BCI = dyn_cast<BitCastInst>(V)) {
646       // Return value might be bitcasted. Clone and insert it before the
647       // return instruction.
648       V = BCI->getOperand(0);
649       NewBC = BCI->clone();
650       Pred->getInstList().insert(NewRet, NewBC);
651       *i = NewBC;
652     }
653     if (PHINode *PN = dyn_cast<PHINode>(V)) {
654       if (PN->getParent() == BB) {
655         if (NewBC)
656           NewBC->setOperand(0, PN->getIncomingValueForBlock(Pred));
657         else
658           *i = PN->getIncomingValueForBlock(Pred);
659       }
660     }
661   }
662
663   // Update any PHI nodes in the returning block to realize that we no
664   // longer branch to them.
665   BB->removePredecessor(Pred);
666   UncondBranch->eraseFromParent();
667   return cast<ReturnInst>(NewRet);
668 }
669
670 /// SplitBlockAndInsertIfThen - Split the containing block at the
671 /// specified instruction - everything before and including SplitBefore stays
672 /// in the old basic block, and everything after SplitBefore is moved to a
673 /// new block. The two blocks are connected by a conditional branch
674 /// (with value of Cmp being the condition).
675 /// Before:
676 ///   Head
677 ///   SplitBefore
678 ///   Tail
679 /// After:
680 ///   Head
681 ///   if (Cond)
682 ///     ThenBlock
683 ///   SplitBefore
684 ///   Tail
685 ///
686 /// If Unreachable is true, then ThenBlock ends with
687 /// UnreachableInst, otherwise it branches to Tail.
688 /// Returns the NewBasicBlock's terminator.
689
690 TerminatorInst *llvm::SplitBlockAndInsertIfThen(Value *Cond,
691                                                 Instruction *SplitBefore,
692                                                 bool Unreachable,
693                                                 MDNode *BranchWeights,
694                                                 DominatorTree *DT) {
695   BasicBlock *Head = SplitBefore->getParent();
696   BasicBlock *Tail = Head->splitBasicBlock(SplitBefore);
697   TerminatorInst *HeadOldTerm = Head->getTerminator();
698   LLVMContext &C = Head->getContext();
699   BasicBlock *ThenBlock = BasicBlock::Create(C, "", Head->getParent(), Tail);
700   TerminatorInst *CheckTerm;
701   if (Unreachable)
702     CheckTerm = new UnreachableInst(C, ThenBlock);
703   else
704     CheckTerm = BranchInst::Create(Tail, ThenBlock);
705   CheckTerm->setDebugLoc(SplitBefore->getDebugLoc());
706   BranchInst *HeadNewTerm =
707     BranchInst::Create(/*ifTrue*/ThenBlock, /*ifFalse*/Tail, Cond);
708   HeadNewTerm->setDebugLoc(SplitBefore->getDebugLoc());
709   HeadNewTerm->setMetadata(LLVMContext::MD_prof, BranchWeights);
710   ReplaceInstWithInst(HeadOldTerm, HeadNewTerm);
711
712   if (DT) {
713     if (DomTreeNode *OldNode = DT->getNode(Head)) {
714       std::vector<DomTreeNode *> Children(OldNode->begin(), OldNode->end());
715
716       DomTreeNode *NewNode = DT->addNewBlock(Tail, Head);
717       for (auto Child : Children)
718         DT->changeImmediateDominator(Child, NewNode);
719
720       // Head dominates ThenBlock.
721       DT->addNewBlock(ThenBlock, Head);
722     }
723   }
724
725   return CheckTerm;
726 }
727
728 /// SplitBlockAndInsertIfThenElse is similar to SplitBlockAndInsertIfThen,
729 /// but also creates the ElseBlock.
730 /// Before:
731 ///   Head
732 ///   SplitBefore
733 ///   Tail
734 /// After:
735 ///   Head
736 ///   if (Cond)
737 ///     ThenBlock
738 ///   else
739 ///     ElseBlock
740 ///   SplitBefore
741 ///   Tail
742 void llvm::SplitBlockAndInsertIfThenElse(Value *Cond, Instruction *SplitBefore,
743                                          TerminatorInst **ThenTerm,
744                                          TerminatorInst **ElseTerm,
745                                          MDNode *BranchWeights) {
746   BasicBlock *Head = SplitBefore->getParent();
747   BasicBlock *Tail = Head->splitBasicBlock(SplitBefore);
748   TerminatorInst *HeadOldTerm = Head->getTerminator();
749   LLVMContext &C = Head->getContext();
750   BasicBlock *ThenBlock = BasicBlock::Create(C, "", Head->getParent(), Tail);
751   BasicBlock *ElseBlock = BasicBlock::Create(C, "", Head->getParent(), Tail);
752   *ThenTerm = BranchInst::Create(Tail, ThenBlock);
753   (*ThenTerm)->setDebugLoc(SplitBefore->getDebugLoc());
754   *ElseTerm = BranchInst::Create(Tail, ElseBlock);
755   (*ElseTerm)->setDebugLoc(SplitBefore->getDebugLoc());
756   BranchInst *HeadNewTerm =
757     BranchInst::Create(/*ifTrue*/ThenBlock, /*ifFalse*/ElseBlock, Cond);
758   HeadNewTerm->setDebugLoc(SplitBefore->getDebugLoc());
759   HeadNewTerm->setMetadata(LLVMContext::MD_prof, BranchWeights);
760   ReplaceInstWithInst(HeadOldTerm, HeadNewTerm);
761 }
762
763
764 /// GetIfCondition - Given a basic block (BB) with two predecessors,
765 /// check to see if the merge at this block is due
766 /// to an "if condition".  If so, return the boolean condition that determines
767 /// which entry into BB will be taken.  Also, return by references the block
768 /// that will be entered from if the condition is true, and the block that will
769 /// be entered if the condition is false.
770 ///
771 /// This does no checking to see if the true/false blocks have large or unsavory
772 /// instructions in them.
773 Value *llvm::GetIfCondition(BasicBlock *BB, BasicBlock *&IfTrue,
774                              BasicBlock *&IfFalse) {
775   PHINode *SomePHI = dyn_cast<PHINode>(BB->begin());
776   BasicBlock *Pred1 = nullptr;
777   BasicBlock *Pred2 = nullptr;
778
779   if (SomePHI) {
780     if (SomePHI->getNumIncomingValues() != 2)
781       return nullptr;
782     Pred1 = SomePHI->getIncomingBlock(0);
783     Pred2 = SomePHI->getIncomingBlock(1);
784   } else {
785     pred_iterator PI = pred_begin(BB), PE = pred_end(BB);
786     if (PI == PE) // No predecessor
787       return nullptr;
788     Pred1 = *PI++;
789     if (PI == PE) // Only one predecessor
790       return nullptr;
791     Pred2 = *PI++;
792     if (PI != PE) // More than two predecessors
793       return nullptr;
794   }
795
796   // We can only handle branches.  Other control flow will be lowered to
797   // branches if possible anyway.
798   BranchInst *Pred1Br = dyn_cast<BranchInst>(Pred1->getTerminator());
799   BranchInst *Pred2Br = dyn_cast<BranchInst>(Pred2->getTerminator());
800   if (!Pred1Br || !Pred2Br)
801     return nullptr;
802
803   // Eliminate code duplication by ensuring that Pred1Br is conditional if
804   // either are.
805   if (Pred2Br->isConditional()) {
806     // If both branches are conditional, we don't have an "if statement".  In
807     // reality, we could transform this case, but since the condition will be
808     // required anyway, we stand no chance of eliminating it, so the xform is
809     // probably not profitable.
810     if (Pred1Br->isConditional())
811       return nullptr;
812
813     std::swap(Pred1, Pred2);
814     std::swap(Pred1Br, Pred2Br);
815   }
816
817   if (Pred1Br->isConditional()) {
818     // The only thing we have to watch out for here is to make sure that Pred2
819     // doesn't have incoming edges from other blocks.  If it does, the condition
820     // doesn't dominate BB.
821     if (!Pred2->getSinglePredecessor())
822       return nullptr;
823
824     // If we found a conditional branch predecessor, make sure that it branches
825     // to BB and Pred2Br.  If it doesn't, this isn't an "if statement".
826     if (Pred1Br->getSuccessor(0) == BB &&
827         Pred1Br->getSuccessor(1) == Pred2) {
828       IfTrue = Pred1;
829       IfFalse = Pred2;
830     } else if (Pred1Br->getSuccessor(0) == Pred2 &&
831                Pred1Br->getSuccessor(1) == BB) {
832       IfTrue = Pred2;
833       IfFalse = Pred1;
834     } else {
835       // We know that one arm of the conditional goes to BB, so the other must
836       // go somewhere unrelated, and this must not be an "if statement".
837       return nullptr;
838     }
839
840     return Pred1Br->getCondition();
841   }
842
843   // Ok, if we got here, both predecessors end with an unconditional branch to
844   // BB.  Don't panic!  If both blocks only have a single (identical)
845   // predecessor, and THAT is a conditional branch, then we're all ok!
846   BasicBlock *CommonPred = Pred1->getSinglePredecessor();
847   if (CommonPred == nullptr || CommonPred != Pred2->getSinglePredecessor())
848     return nullptr;
849
850   // Otherwise, if this is a conditional branch, then we can use it!
851   BranchInst *BI = dyn_cast<BranchInst>(CommonPred->getTerminator());
852   if (!BI) return nullptr;
853
854   assert(BI->isConditional() && "Two successors but not conditional?");
855   if (BI->getSuccessor(0) == Pred1) {
856     IfTrue = Pred1;
857     IfFalse = Pred2;
858   } else {
859     IfTrue = Pred2;
860     IfFalse = Pred1;
861   }
862   return BI->getCondition();
863 }