lib/CodeGen/LowerSubregs.cpp

   1 //===-- LowerSubregs.cpp - Subregister Lowering instruction pass ----------===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 // This file defines a MachineFunction pass which runs after register
  11 // allocation that turns subreg insert/extract instructions into register
  12 // copies, as needed. This ensures correct codegen even if the coalescer
  13 // isn't able to remove all subreg instructions.
  14 //
  15 //===----------------------------------------------------------------------===//
  16
  17 #define DEBUG_TYPE "lowersubregs"
  18 #include "llvm/CodeGen/Passes.h"
  19 #include "llvm/Function.h"
  20 #include "llvm/CodeGen/MachineFunctionPass.h"
  21 #include "llvm/CodeGen/MachineInstr.h"
  22 #include "llvm/CodeGen/MachineInstrBuilder.h"
  23 #include "llvm/CodeGen/MachineRegisterInfo.h"
  24 #include "llvm/Target/TargetRegisterInfo.h"
  25 #include "llvm/Target/TargetInstrInfo.h"
  26 #include "llvm/Target/TargetMachine.h"
  27 #include "llvm/Support/Debug.h"
  28 #include "llvm/Support/Compiler.h"
  29 #include "llvm/Support/raw_ostream.h"
  30 using namespace llvm;
  31
  32 namespace {
  33   struct VISIBILITY_HIDDEN LowerSubregsInstructionPass
  34    : public MachineFunctionPass {
  35     static char ID; // Pass identification, replacement for typeid
  36     LowerSubregsInstructionPass() : MachineFunctionPass(&ID) {}
  37
  38     const char *getPassName() const {
  39       return "Subregister lowering instruction pass";
  40     }
  41
  42     virtual void getAnalysisUsage(AnalysisUsage &AU) const {
  43       AU.setPreservesCFG();
  44       AU.addPreservedID(MachineLoopInfoID);
  45       AU.addPreservedID(MachineDominatorsID);
  46       MachineFunctionPass::getAnalysisUsage(AU);
  47     }
  48
  49     /// runOnMachineFunction - pass entry point
  50     bool runOnMachineFunction(MachineFunction&);
  51
  52     bool LowerExtract(MachineInstr *MI);
  53     bool LowerInsert(MachineInstr *MI);
  54     bool LowerSubregToReg(MachineInstr *MI);
  55
  56     void TransferDeadFlag(MachineInstr *MI, unsigned DstReg,
  57                           const TargetRegisterInfo &TRI);
  58     void TransferKillFlag(MachineInstr *MI, unsigned SrcReg,
  59                           const TargetRegisterInfo &TRI,
  60                           bool AddIfNotFound = false);
  61   };
  62
  63   char LowerSubregsInstructionPass::ID = 0;
  64 }
  65
  66 FunctionPass *llvm::createLowerSubregsPass() {
  67   return new LowerSubregsInstructionPass();
  68 }
  69
  70 /// TransferDeadFlag - MI is a pseudo-instruction with DstReg dead,
  71 /// and the lowered replacement instructions immediately precede it.
  72 /// Mark the replacement instructions with the dead flag.
  73 void
  74 LowerSubregsInstructionPass::TransferDeadFlag(MachineInstr *MI,
  75                                               unsigned DstReg,
  76                                               const TargetRegisterInfo &TRI) {
  77   for (MachineBasicBlock::iterator MII =
  78         prior(MachineBasicBlock::iterator(MI)); ; --MII) {
  79     if (MII->addRegisterDead(DstReg, &TRI))
  80       break;
  81     assert(MII != MI->getParent()->begin() &&
  82            "copyRegToReg output doesn't reference destination register!");
  83   }
  84 }
  85
  86 /// TransferKillFlag - MI is a pseudo-instruction with SrcReg killed,
  87 /// and the lowered replacement instructions immediately precede it.
  88 /// Mark the replacement instructions with the kill flag.
  89 void
  90 LowerSubregsInstructionPass::TransferKillFlag(MachineInstr *MI,
  91                                               unsigned SrcReg,
  92                                               const TargetRegisterInfo &TRI,
  93                                               bool AddIfNotFound) {
  94   for (MachineBasicBlock::iterator MII =
  95         prior(MachineBasicBlock::iterator(MI)); ; --MII) {
  96     if (MII->addRegisterKilled(SrcReg, &TRI, AddIfNotFound))
  97       break;
  98     assert(MII != MI->getParent()->begin() &&
  99            "copyRegToReg output doesn't reference source register!");
 100   }
 101 }
 102
 103 bool LowerSubregsInstructionPass::LowerExtract(MachineInstr *MI) {
 104   MachineBasicBlock *MBB = MI->getParent();
 105   MachineFunction &MF = *MBB->getParent();
 106   const TargetRegisterInfo &TRI = *MF.getTarget().getRegisterInfo();
 107   const TargetInstrInfo &TII = *MF.getTarget().getInstrInfo();
 108
 109   assert(MI->getOperand(0).isReg() && MI->getOperand(0).isDef() &&
 110          MI->getOperand(1).isReg() && MI->getOperand(1).isUse() &&
 111          MI->getOperand(2).isImm() && "Malformed extract_subreg");
 112
 113   unsigned DstReg   = MI->getOperand(0).getReg();
 114   unsigned SuperReg = MI->getOperand(1).getReg();
 115   unsigned SubIdx   = MI->getOperand(2).getImm();
 116   unsigned SrcReg   = TRI.getSubReg(SuperReg, SubIdx);
 117
 118   assert(TargetRegisterInfo::isPhysicalRegister(SuperReg) &&
 119          "Extract supperg source must be a physical register");
 120   assert(TargetRegisterInfo::isPhysicalRegister(DstReg) &&
 121          "Extract destination must be in a physical register");
 122   assert(SrcReg && "invalid subregister index for register");
 123
 124   DEBUG(errs() << "subreg: CONVERTING: " << *MI);
 125
 126   if (SrcReg == DstReg) {
 127     // No need to insert an identity copy instruction.
 128     if (MI->getOperand(1).isKill()) {
 129       // We must make sure the super-register gets killed.Replace the
 130       // instruction with IMPLICIT_DEF.
 131       MI->setDesc(TII.get(TargetInstrInfo::IMPLICIT_DEF));
 132       MI->RemoveOperand(2);     // SubIdx
 133       MI->getOperand(1).setImplicit(true);
 134       DEBUG(errs() << "subreg: replace by: " << *MI);
 135       return true;
 136     }
 137
 138     DEBUG(errs() << "subreg: eliminated!");
 139   } else {
 140     // Insert copy
 141     const TargetRegisterClass *TRCS = TRI.getPhysicalRegisterRegClass(DstReg);
 142     const TargetRegisterClass *TRCD = TRI.getPhysicalRegisterRegClass(SrcReg);
 143     bool Emitted = TII.copyRegToReg(*MBB, MI, DstReg, SrcReg, TRCD, TRCS);
 144     (void)Emitted;
 145     assert(Emitted && "Subreg and Dst must be of compatible register class");
 146     // Transfer the kill/dead flags, if needed.
 147     if (MI->getOperand(0).isDead())
 148       TransferDeadFlag(MI, DstReg, TRI);
 149     if (MI->getOperand(1).isKill())
 150       TransferKillFlag(MI, SuperReg, TRI, true);
 151     DEBUG({
 152         MachineBasicBlock::iterator dMI = MI;
 153         errs() << "subreg: " << *(--dMI);
 154       });
 155   }
 156
 157   DEBUG(errs() << '\n');
 158   MBB->erase(MI);
 159   return true;
 160 }
 161
 162 bool LowerSubregsInstructionPass::LowerSubregToReg(MachineInstr *MI) {
 163   MachineBasicBlock *MBB = MI->getParent();
 164   MachineFunction &MF = *MBB->getParent();
 165   const TargetRegisterInfo &TRI = *MF.getTarget().getRegisterInfo();
 166   const TargetInstrInfo &TII = *MF.getTarget().getInstrInfo();
 167   assert((MI->getOperand(0).isReg() && MI->getOperand(0).isDef()) &&
 168          MI->getOperand(1).isImm() &&
 169          (MI->getOperand(2).isReg() && MI->getOperand(2).isUse()) &&
 170           MI->getOperand(3).isImm() && "Invalid subreg_to_reg");
 171
 172   unsigned DstReg  = MI->getOperand(0).getReg();
 173   unsigned InsReg  = MI->getOperand(2).getReg();
 174   unsigned InsSIdx = MI->getOperand(2).getSubReg();
 175   unsigned SubIdx  = MI->getOperand(3).getImm();
 176
 177   assert(SubIdx != 0 && "Invalid index for insert_subreg");
 178   unsigned DstSubReg = TRI.getSubReg(DstReg, SubIdx);
 179
 180   assert(TargetRegisterInfo::isPhysicalRegister(DstReg) &&
 181          "Insert destination must be in a physical register");
 182   assert(TargetRegisterInfo::isPhysicalRegister(InsReg) &&
 183          "Inserted value must be in a physical register");
 184
 185   DEBUG(errs() << "subreg: CONVERTING: " << *MI);
 186
 187   if (DstSubReg == InsReg && InsSIdx == 0) {
 188     // No need to insert an identify copy instruction.
 189     // Watch out for case like this:
 190     // %RAX<def> = ...
 191     // %RAX<def> = SUBREG_TO_REG 0, %EAX:3<kill>, 3
 192     // The first def is defining RAX, not EAX so the top bits were not
 193     // zero extended.
 194     DEBUG(errs() << "subreg: eliminated!");
 195   } else {
 196     // Insert sub-register copy
 197     const TargetRegisterClass *TRC0= TRI.getPhysicalRegisterRegClass(DstSubReg);
 198     const TargetRegisterClass *TRC1= TRI.getPhysicalRegisterRegClass(InsReg);
 199     TII.copyRegToReg(*MBB, MI, DstSubReg, InsReg, TRC0, TRC1);
 200     // Transfer the kill/dead flags, if needed.
 201     if (MI->getOperand(0).isDead())
 202       TransferDeadFlag(MI, DstSubReg, TRI);
 203     if (MI->getOperand(2).isKill())
 204       TransferKillFlag(MI, InsReg, TRI);
 205     DEBUG({
 206         MachineBasicBlock::iterator dMI = MI;
 207         errs() << "subreg: " << *(--dMI);
 208       });
 209   }
 210
 211   DEBUG(errs() << '\n');
 212   MBB->erase(MI);
 213   return true;
 214 }
 215
 216 bool LowerSubregsInstructionPass::LowerInsert(MachineInstr *MI) {
 217   MachineBasicBlock *MBB = MI->getParent();
 218   MachineFunction &MF = *MBB->getParent();
 219   const TargetRegisterInfo &TRI = *MF.getTarget().getRegisterInfo();
 220   const TargetInstrInfo &TII = *MF.getTarget().getInstrInfo();
 221   assert((MI->getOperand(0).isReg() && MI->getOperand(0).isDef()) &&
 222          (MI->getOperand(1).isReg() && MI->getOperand(1).isUse()) &&
 223          (MI->getOperand(2).isReg() && MI->getOperand(2).isUse()) &&
 224           MI->getOperand(3).isImm() && "Invalid insert_subreg");
 225
 226   unsigned DstReg = MI->getOperand(0).getReg();
 227 #ifndef NDEBUG
 228   unsigned SrcReg = MI->getOperand(1).getReg();
 229 #endif
 230   unsigned InsReg = MI->getOperand(2).getReg();
 231   unsigned SubIdx = MI->getOperand(3).getImm();
 232
 233   assert(DstReg == SrcReg && "insert_subreg not a two-address instruction?");
 234   assert(SubIdx != 0 && "Invalid index for insert_subreg");
 235   unsigned DstSubReg = TRI.getSubReg(DstReg, SubIdx);
 236   assert(DstSubReg && "invalid subregister index for register");
 237   assert(TargetRegisterInfo::isPhysicalRegister(SrcReg) &&
 238          "Insert superreg source must be in a physical register");
 239   assert(TargetRegisterInfo::isPhysicalRegister(InsReg) &&
 240          "Inserted value must be in a physical register");
 241
 242   DEBUG(errs() << "subreg: CONVERTING: " << *MI);
 243
 244   if (DstSubReg == InsReg) {
 245     // No need to insert an identity copy instruction. If the SrcReg was
 246     // <undef>, we need to make sure it is alive by inserting an IMPLICIT_DEF
 247     if (MI->getOperand(1).isUndef() && !MI->getOperand(0).isDead()) {
 248       MachineInstrBuilder MIB = BuildMI(*MBB, MI, MI->getDebugLoc(),
 249                                 TII.get(TargetInstrInfo::IMPLICIT_DEF), DstReg);
 250       if (MI->getOperand(2).isUndef())
 251         MIB.addReg(InsReg, RegState::Implicit | RegState::Undef);
 252       else
 253         MIB.addReg(InsReg, RegState::ImplicitKill);
 254     } else {
 255       DEBUG(errs() << "subreg: eliminated!\n");
 256       MBB->erase(MI);
 257       return true;
 258     }
 259   } else {
 260     // Insert sub-register copy
 261     const TargetRegisterClass *TRC0= TRI.getPhysicalRegisterRegClass(DstSubReg);
 262     const TargetRegisterClass *TRC1= TRI.getPhysicalRegisterRegClass(InsReg);
 263     if (MI->getOperand(2).isUndef())
 264       // If the source register being inserted is undef, then this becomes an
 265       // implicit_def.
 266       BuildMI(*MBB, MI, MI->getDebugLoc(),
 267               TII.get(TargetInstrInfo::IMPLICIT_DEF), DstSubReg);
 268     else
 269       TII.copyRegToReg(*MBB, MI, DstSubReg, InsReg, TRC0, TRC1);
 270     MachineBasicBlock::iterator CopyMI = MI;
 271     --CopyMI;
 272
 273     // INSERT_SUBREG is a two-address instruction so it implicitly kills SrcReg.
 274     if (!MI->getOperand(1).isUndef())
 275       CopyMI->addOperand(MachineOperand::CreateReg(DstReg, false, true, true));
 276
 277     // Transfer the kill/dead flags, if needed.
 278     if (MI->getOperand(0).isDead()) {
 279       TransferDeadFlag(MI, DstSubReg, TRI);
 280     } else {
 281       // Make sure the full DstReg is live after this replacement.
 282       CopyMI->addOperand(MachineOperand::CreateReg(DstReg, true, true));
 283     }
 284
 285     // Make sure the inserted register gets killed
 286     if (MI->getOperand(2).isKill() && !MI->getOperand(2).isUndef())
 287       TransferKillFlag(MI, InsReg, TRI);
 288   }
 289
 290   DEBUG({
 291       MachineBasicBlock::iterator dMI = MI;
 292       errs() << "subreg: " << *(--dMI) << "\n";
 293     });
 294
 295   MBB->erase(MI);
 296   return true;
 297 }
 298
 299 /// runOnMachineFunction - Reduce subregister inserts and extracts to register
 300 /// copies.
 301 ///
 302 bool LowerSubregsInstructionPass::runOnMachineFunction(MachineFunction &MF) {
 303   DEBUG(errs() << "Machine Function\n"
 304                << "********** LOWERING SUBREG INSTRS **********\n"
 305                << "********** Function: "
 306                << MF.getFunction()->getName() << '\n');
 307
 308   bool MadeChange = false;
 309
 310   for (MachineFunction::iterator mbbi = MF.begin(), mbbe = MF.end();
 311        mbbi != mbbe; ++mbbi) {
 312     for (MachineBasicBlock::iterator mi = mbbi->begin(), me = mbbi->end();
 313          mi != me;) {
 314       MachineInstr *MI = mi++;
 315
 316       if (MI->getOpcode() == TargetInstrInfo::EXTRACT_SUBREG) {
 317         MadeChange |= LowerExtract(MI);
 318       } else if (MI->getOpcode() == TargetInstrInfo::INSERT_SUBREG) {
 319         MadeChange |= LowerInsert(MI);
 320       } else if (MI->getOpcode() == TargetInstrInfo::SUBREG_TO_REG) {
 321         MadeChange |= LowerSubregToReg(MI);
 322       }
 323     }
 324   }
 325
 326   return MadeChange;
 327 }