utils/TableGen/RegisterInfoEmitter.cpp

   1 //===- RegisterInfoEmitter.cpp - Generate a Register File Desc. -*- C++ -*-===//
   2 //
   3 //                     The LLVM Compiler Infrastructure
   4 //
   5 // This file is distributed under the University of Illinois Open Source
   6 // License. See LICENSE.TXT for details.
   7 //
   8 //===----------------------------------------------------------------------===//
   9 //
  10 // This tablegen backend is responsible for emitting a description of a target
  11 // register file for a code generator.  It uses instances of the Register,
  12 // RegisterAliases, and RegisterClass classes to gather this information.
  13 //
  14 //===----------------------------------------------------------------------===//
  15
  16 #include "CodeGenRegisters.h"
  17 #include "CodeGenTarget.h"
  18 #include "SequenceToOffsetTable.h"
  19 #include "llvm/ADT/BitVector.h"
  20 #include "llvm/ADT/STLExtras.h"
  21 #include "llvm/ADT/StringExtras.h"
  22 #include "llvm/ADT/Twine.h"
  23 #include "llvm/Support/Format.h"
  24 #include "llvm/TableGen/Error.h"
  25 #include "llvm/TableGen/Record.h"
  26 #include "llvm/TableGen/TableGenBackend.h"
  27 #include <algorithm>
  28 #include <set>
  29 #include <vector>
  30 using namespace llvm;
  31
  32 namespace {
  33 class RegisterInfoEmitter {
  34   RecordKeeper &Records;
  35 public:
  36   RegisterInfoEmitter(RecordKeeper &R) : Records(R) {}
  37
  38   // runEnums - Print out enum values for all of the registers.
  39   void runEnums(raw_ostream &o, CodeGenTarget &Target, CodeGenRegBank &Bank);
  40
  41   // runMCDesc - Print out MC register descriptions.
  42   void runMCDesc(raw_ostream &o, CodeGenTarget &Target, CodeGenRegBank &Bank);
  43
  44   // runTargetHeader - Emit a header fragment for the register info emitter.
  45   void runTargetHeader(raw_ostream &o, CodeGenTarget &Target,
  46                        CodeGenRegBank &Bank);
  47
  48   // runTargetDesc - Output the target register and register file descriptions.
  49   void runTargetDesc(raw_ostream &o, CodeGenTarget &Target,
  50                      CodeGenRegBank &Bank);
  51
  52   // run - Output the register file description.
  53   void run(raw_ostream &o);
  54
  55 private:
  56   void EmitRegMapping(raw_ostream &o, const std::deque<CodeGenRegister> &Regs,
  57                       bool isCtor);
  58   void EmitRegMappingTables(raw_ostream &o,
  59                             const std::deque<CodeGenRegister> &Regs,
  60                             bool isCtor);
  61   void EmitRegUnitPressure(raw_ostream &OS, const CodeGenRegBank &RegBank,
  62                            const std::string &ClassName);
  63   void emitComposeSubRegIndices(raw_ostream &OS, CodeGenRegBank &RegBank,
  64                                 const std::string &ClassName);
  65   void emitComposeSubRegIndexLaneMask(raw_ostream &OS, CodeGenRegBank &RegBank,
  66                                       const std::string &ClassName);
  67 };
  68 } // End anonymous namespace
  69
  70 // runEnums - Print out enum values for all of the registers.
  71 void RegisterInfoEmitter::runEnums(raw_ostream &OS,
  72                                    CodeGenTarget &Target, CodeGenRegBank &Bank) {
  73   const auto &Registers = Bank.getRegisters();
  74
  75   // Register enums are stored as uint16_t in the tables. Make sure we'll fit.
  76   assert(Registers.size() <= 0xffff && "Too many regs to fit in tables");
  77
  78   std::string Namespace =
  79       Registers.front().TheDef->getValueAsString("Namespace");
  80
  81   emitSourceFileHeader("Target Register Enum Values", OS);
  82
  83   OS << "\n#ifdef GET_REGINFO_ENUM\n";
  84   OS << "#undef GET_REGINFO_ENUM\n";
  85
  86   OS << "namespace llvm {\n\n";
  87
  88   OS << "class MCRegisterClass;\n"
  89      << "extern const MCRegisterClass " << Namespace
  90      << "MCRegisterClasses[];\n\n";
  91
  92   if (!Namespace.empty())
  93     OS << "namespace " << Namespace << " {\n";
  94   OS << "enum {\n  NoRegister,\n";
  95
  96   for (const auto &Reg : Registers)
  97     OS << "  " << Reg.getName() << " = " << Reg.EnumValue << ",\n";
  98   assert(Registers.size() == Registers.back().EnumValue &&
  99          "Register enum value mismatch!");
 100   OS << "  NUM_TARGET_REGS \t// " << Registers.size()+1 << "\n";
 101   OS << "};\n";
 102   if (!Namespace.empty())
 103     OS << "}\n";
 104
 105   const auto &RegisterClasses = Bank.getRegClasses();
 106   if (!RegisterClasses.empty()) {
 107
 108     // RegisterClass enums are stored as uint16_t in the tables.
 109     assert(RegisterClasses.size() <= 0xffff &&
 110            "Too many register classes to fit in tables");
 111
 112     OS << "\n// Register classes\n";
 113     if (!Namespace.empty())
 114       OS << "namespace " << Namespace << " {\n";
 115     OS << "enum {\n";
 116     for (const auto &RC : RegisterClasses)
 117       OS << "  " << RC.getName() << "RegClassID"
 118          << " = " << RC.EnumValue << ",\n";
 119     OS << "\n  };\n";
 120     if (!Namespace.empty())
 121       OS << "}\n";
 122   }
 123
 124   const std::vector<Record*> &RegAltNameIndices = Target.getRegAltNameIndices();
 125   // If the only definition is the default NoRegAltName, we don't need to
 126   // emit anything.
 127   if (RegAltNameIndices.size() > 1) {
 128     OS << "\n// Register alternate name indices\n";
 129     if (!Namespace.empty())
 130       OS << "namespace " << Namespace << " {\n";
 131     OS << "enum {\n";
 132     for (unsigned i = 0, e = RegAltNameIndices.size(); i != e; ++i)
 133       OS << "  " << RegAltNameIndices[i]->getName() << ",\t// " << i << "\n";
 134     OS << "  NUM_TARGET_REG_ALT_NAMES = " << RegAltNameIndices.size() << "\n";
 135     OS << "};\n";
 136     if (!Namespace.empty())
 137       OS << "}\n";
 138   }
 139
 140   auto &SubRegIndices = Bank.getSubRegIndices();
 141   if (!SubRegIndices.empty()) {
 142     OS << "\n// Subregister indices\n";
 143     std::string Namespace = SubRegIndices.front().getNamespace();
 144     if (!Namespace.empty())
 145       OS << "namespace " << Namespace << " {\n";
 146     OS << "enum {\n  NoSubRegister,\n";
 147     unsigned i = 0;
 148     for (const auto &Idx : SubRegIndices)
 149       OS << "  " << Idx.getName() << ",\t// " << ++i << "\n";
 150     OS << "  NUM_TARGET_SUBREGS\n};\n";
 151     if (!Namespace.empty())
 152       OS << "}\n";
 153   }
 154
 155   OS << "} // End llvm namespace\n";
 156   OS << "#endif // GET_REGINFO_ENUM\n\n";
 157 }
 158
 159 static void printInt(raw_ostream &OS, int Val) {
 160   OS << Val;
 161 }
 162
 163 static const char *getMinimalTypeForRange(uint64_t Range) {
 164   assert(Range < 0xFFFFFFFFULL && "Enum too large");
 165   if (Range > 0xFFFF)
 166     return "uint32_t";
 167   if (Range > 0xFF)
 168     return "uint16_t";
 169   return "uint8_t";
 170 }
 171
 172 void RegisterInfoEmitter::
 173 EmitRegUnitPressure(raw_ostream &OS, const CodeGenRegBank &RegBank,
 174                     const std::string &ClassName) {
 175   unsigned NumRCs = RegBank.getRegClasses().size();
 176   unsigned NumSets = RegBank.getNumRegPressureSets();
 177
 178   OS << "/// Get the weight in units of pressure for this register class.\n"
 179      << "const RegClassWeight &" << ClassName << "::\n"
 180      << "getRegClassWeight(const TargetRegisterClass *RC) const {\n"
 181      << "  static const RegClassWeight RCWeightTable[] = {\n";
 182   for (const auto &RC : RegBank.getRegClasses()) {
 183     const CodeGenRegister::Vec &Regs = RC.getMembers();
 184     if (Regs.empty())
 185       OS << "    {0, 0";
 186     else {
 187       std::vector<unsigned> RegUnits;
 188       RC.buildRegUnitSet(RegUnits);
 189       OS << "    {" << (*Regs.begin())->getWeight(RegBank)
 190          << ", " << RegBank.getRegUnitSetWeight(RegUnits);
 191     }
 192     OS << "},  \t// " << RC.getName() << "\n";
 193   }
 194   OS << "  };\n"
 195      << "  return RCWeightTable[RC->getID()];\n"
 196      << "}\n\n";
 197
 198   // Reasonable targets (not ARMv7) have unit weight for all units, so don't
 199   // bother generating a table.
 200   bool RegUnitsHaveUnitWeight = true;
 201   for (unsigned UnitIdx = 0, UnitEnd = RegBank.getNumNativeRegUnits();
 202        UnitIdx < UnitEnd; ++UnitIdx) {
 203     if (RegBank.getRegUnit(UnitIdx).Weight > 1)
 204       RegUnitsHaveUnitWeight = false;
 205   }
 206   OS << "/// Get the weight in units of pressure for this register unit.\n"
 207      << "unsigned " << ClassName << "::\n"
 208      << "getRegUnitWeight(unsigned RegUnit) const {\n"
 209      << "  assert(RegUnit < " << RegBank.getNumNativeRegUnits()
 210      << " && \"invalid register unit\");\n";
 211   if (!RegUnitsHaveUnitWeight) {
 212     OS << "  static const uint8_t RUWeightTable[] = {\n    ";
 213     for (unsigned UnitIdx = 0, UnitEnd = RegBank.getNumNativeRegUnits();
 214          UnitIdx < UnitEnd; ++UnitIdx) {
 215       const RegUnit &RU = RegBank.getRegUnit(UnitIdx);
 216       assert(RU.Weight < 256 && "RegUnit too heavy");
 217       OS << RU.Weight << ", ";
 218     }
 219     OS << "};\n"
 220        << "  return RUWeightTable[RegUnit];\n";
 221   }
 222   else {
 223     OS << "  // All register units have unit weight.\n"
 224        << "  return 1;\n";
 225   }
 226   OS << "}\n\n";
 227
 228   OS << "\n"
 229      << "// Get the number of dimensions of register pressure.\n"
 230      << "unsigned " << ClassName << "::getNumRegPressureSets() const {\n"
 231      << "  return " << NumSets << ";\n}\n\n";
 232
 233   OS << "// Get the name of this register unit pressure set.\n"
 234      << "const char *" << ClassName << "::\n"
 235      << "getRegPressureSetName(unsigned Idx) const {\n"
 236      << "  static const char *const PressureNameTable[] = {\n";
 237   unsigned MaxRegUnitWeight = 0;
 238   for (unsigned i = 0; i < NumSets; ++i ) {
 239     const RegUnitSet &RegUnits = RegBank.getRegSetAt(i);
 240     MaxRegUnitWeight = std::max(MaxRegUnitWeight, RegUnits.Weight);
 241     OS << "    \"" << RegUnits.Name << "\",\n";
 242   }
 243   OS << "    nullptr };\n"
 244      << "  return PressureNameTable[Idx];\n"
 245      << "}\n\n";
 246
 247   OS << "// Get the register unit pressure limit for this dimension.\n"
 248      << "// This limit must be adjusted dynamically for reserved registers.\n"
 249      << "unsigned " << ClassName << "::\n"
 250      << "getRegPressureSetLimit(const MachineFunction &MF, unsigned Idx) const {\n"
 251      << "  static const " << getMinimalTypeForRange(MaxRegUnitWeight)
 252      << " PressureLimitTable[] = {\n";
 253   for (unsigned i = 0; i < NumSets; ++i ) {
 254     const RegUnitSet &RegUnits = RegBank.getRegSetAt(i);
 255     OS << "    " << RegUnits.Weight << ",  \t// " << i << ": "
 256        << RegUnits.Name << "\n";
 257   }
 258   OS << "  };\n"
 259      << "  return PressureLimitTable[Idx];\n"
 260      << "}\n\n";
 261
 262   SequenceToOffsetTable<std::vector<int>> PSetsSeqs;
 263
 264   // This table may be larger than NumRCs if some register units needed a list
 265   // of unit sets that did not correspond to a register class.
 266   unsigned NumRCUnitSets = RegBank.getNumRegClassPressureSetLists();
 267   std::vector<std::vector<int>> PSets(NumRCUnitSets);
 268
 269   for (unsigned i = 0, e = NumRCUnitSets; i != e; ++i) {
 270     ArrayRef<unsigned> PSetIDs = RegBank.getRCPressureSetIDs(i);
 271     PSets[i].reserve(PSetIDs.size());
 272     for (ArrayRef<unsigned>::iterator PSetI = PSetIDs.begin(),
 273            PSetE = PSetIDs.end(); PSetI != PSetE; ++PSetI) {
 274       PSets[i].push_back(RegBank.getRegPressureSet(*PSetI).Order);
 275     }
 276     std::sort(PSets[i].begin(), PSets[i].end());
 277     PSetsSeqs.add(PSets[i]);
 278   }
 279
 280   PSetsSeqs.layout();
 281
 282   OS << "/// Table of pressure sets per register class or unit.\n"
 283      << "static const int RCSetsTable[] = {\n";
 284   PSetsSeqs.emit(OS, printInt, "-1");
 285   OS << "};\n\n";
 286
 287   OS << "/// Get the dimensions of register pressure impacted by this "
 288      << "register class.\n"
 289      << "/// Returns a -1 terminated array of pressure set IDs\n"
 290      << "const int* " << ClassName << "::\n"
 291      << "getRegClassPressureSets(const TargetRegisterClass *RC) const {\n";
 292   OS << "  static const " << getMinimalTypeForRange(PSetsSeqs.size()-1)
 293      << " RCSetStartTable[] = {\n    ";
 294   for (unsigned i = 0, e = NumRCs; i != e; ++i) {
 295     OS << PSetsSeqs.get(PSets[i]) << ",";
 296   }
 297   OS << "};\n"
 298      << "  return &RCSetsTable[RCSetStartTable[RC->getID()]];\n"
 299      << "}\n\n";
 300
 301   OS << "/// Get the dimensions of register pressure impacted by this "
 302      << "register unit.\n"
 303      << "/// Returns a -1 terminated array of pressure set IDs\n"
 304      << "const int* " << ClassName << "::\n"
 305      << "getRegUnitPressureSets(unsigned RegUnit) const {\n"
 306      << "  assert(RegUnit < " << RegBank.getNumNativeRegUnits()
 307      << " && \"invalid register unit\");\n";
 308   OS << "  static const " << getMinimalTypeForRange(PSetsSeqs.size()-1)
 309      << " RUSetStartTable[] = {\n    ";
 310   for (unsigned UnitIdx = 0, UnitEnd = RegBank.getNumNativeRegUnits();
 311        UnitIdx < UnitEnd; ++UnitIdx) {
 312     OS << PSetsSeqs.get(PSets[RegBank.getRegUnit(UnitIdx).RegClassUnitSetsIdx])
 313        << ",";
 314   }
 315   OS << "};\n"
 316      << "  return &RCSetsTable[RUSetStartTable[RegUnit]];\n"
 317      << "}\n\n";
 318 }
 319
 320 void RegisterInfoEmitter::EmitRegMappingTables(
 321     raw_ostream &OS, const std::deque<CodeGenRegister> &Regs, bool isCtor) {
 322   // Collect all information about dwarf register numbers
 323   typedef std::map<Record*, std::vector<int64_t>, LessRecordRegister> DwarfRegNumsMapTy;
 324   DwarfRegNumsMapTy DwarfRegNums;
 325
 326   // First, just pull all provided information to the map
 327   unsigned maxLength = 0;
 328   for (auto &RE : Regs) {
 329     Record *Reg = RE.TheDef;
 330     std::vector<int64_t> RegNums = Reg->getValueAsListOfInts("DwarfNumbers");
 331     maxLength = std::max((size_t)maxLength, RegNums.size());
 332     if (DwarfRegNums.count(Reg))
 333       PrintWarning(Reg->getLoc(), Twine("DWARF numbers for register ") +
 334                    getQualifiedName(Reg) + "specified multiple times");
 335     DwarfRegNums[Reg] = RegNums;
 336   }
 337
 338   if (!maxLength)
 339     return;
 340
 341   // Now we know maximal length of number list. Append -1's, where needed
 342   for (DwarfRegNumsMapTy::iterator
 343        I = DwarfRegNums.begin(), E = DwarfRegNums.end(); I != E; ++I)
 344     for (unsigned i = I->second.size(), e = maxLength; i != e; ++i)
 345       I->second.push_back(-1);
 346
 347   std::string Namespace = Regs.front().TheDef->getValueAsString("Namespace");
 348
 349   OS << "// " << Namespace << " Dwarf<->LLVM register mappings.\n";
 350
 351   // Emit reverse information about the dwarf register numbers.
 352   for (unsigned j = 0; j < 2; ++j) {
 353     for (unsigned i = 0, e = maxLength; i != e; ++i) {
 354       OS << "extern const MCRegisterInfo::DwarfLLVMRegPair " << Namespace;
 355       OS << (j == 0 ? "DwarfFlavour" : "EHFlavour");
 356       OS << i << "Dwarf2L[]";
 357
 358       if (!isCtor) {
 359         OS << " = {\n";
 360
 361         // Store the mapping sorted by the LLVM reg num so lookup can be done
 362         // with a binary search.
 363         std::map<uint64_t, Record*> Dwarf2LMap;
 364         for (DwarfRegNumsMapTy::iterator
 365                I = DwarfRegNums.begin(), E = DwarfRegNums.end(); I != E; ++I) {
 366           int DwarfRegNo = I->second[i];
 367           if (DwarfRegNo < 0)
 368             continue;
 369           Dwarf2LMap[DwarfRegNo] = I->first;
 370         }
 371
 372         for (std::map<uint64_t, Record*>::iterator
 373                I = Dwarf2LMap.begin(), E = Dwarf2LMap.end(); I != E; ++I)
 374           OS << "  { " << I->first << "U, " << getQualifiedName(I->second)
 375              << " },\n";
 376
 377         OS << "};\n";
 378       } else {
 379         OS << ";\n";
 380       }
 381
 382       // We have to store the size in a const global, it's used in multiple
 383       // places.
 384       OS << "extern const unsigned " << Namespace
 385          << (j == 0 ? "DwarfFlavour" : "EHFlavour") << i << "Dwarf2LSize";
 386       if (!isCtor)
 387         OS << " = array_lengthof(" << Namespace
 388            << (j == 0 ? "DwarfFlavour" : "EHFlavour") << i
 389            << "Dwarf2L);\n\n";
 390       else
 391         OS << ";\n\n";
 392     }
 393   }
 394
 395   for (auto &RE : Regs) {
 396     Record *Reg = RE.TheDef;
 397     const RecordVal *V = Reg->getValue("DwarfAlias");
 398     if (!V || !V->getValue())
 399       continue;
 400
 401     DefInit *DI = cast<DefInit>(V->getValue());
 402     Record *Alias = DI->getDef();
 403     DwarfRegNums[Reg] = DwarfRegNums[Alias];
 404   }
 405
 406   // Emit information about the dwarf register numbers.
 407   for (unsigned j = 0; j < 2; ++j) {
 408     for (unsigned i = 0, e = maxLength; i != e; ++i) {
 409       OS << "extern const MCRegisterInfo::DwarfLLVMRegPair " << Namespace;
 410       OS << (j == 0 ? "DwarfFlavour" : "EHFlavour");
 411       OS << i << "L2Dwarf[]";
 412       if (!isCtor) {
 413         OS << " = {\n";
 414         // Store the mapping sorted by the Dwarf reg num so lookup can be done
 415         // with a binary search.
 416         for (DwarfRegNumsMapTy::iterator
 417                I = DwarfRegNums.begin(), E = DwarfRegNums.end(); I != E; ++I) {
 418           int RegNo = I->second[i];
 419           if (RegNo == -1) // -1 is the default value, don't emit a mapping.
 420             continue;
 421
 422           OS << "  { " << getQualifiedName(I->first) << ", " << RegNo
 423              << "U },\n";
 424         }
 425         OS << "};\n";
 426       } else {
 427         OS << ";\n";
 428       }
 429
 430       // We have to store the size in a const global, it's used in multiple
 431       // places.
 432       OS << "extern const unsigned " << Namespace
 433          << (j == 0 ? "DwarfFlavour" : "EHFlavour") << i << "L2DwarfSize";
 434       if (!isCtor)
 435         OS << " = array_lengthof(" << Namespace
 436            << (j == 0 ? "DwarfFlavour" : "EHFlavour") << i << "L2Dwarf);\n\n";
 437       else
 438         OS << ";\n\n";
 439     }
 440   }
 441 }
 442
 443 void RegisterInfoEmitter::EmitRegMapping(
 444     raw_ostream &OS, const std::deque<CodeGenRegister> &Regs, bool isCtor) {
 445   // Emit the initializer so the tables from EmitRegMappingTables get wired up
 446   // to the MCRegisterInfo object.
 447   unsigned maxLength = 0;
 448   for (auto &RE : Regs) {
 449     Record *Reg = RE.TheDef;
 450     maxLength = std::max((size_t)maxLength,
 451                          Reg->getValueAsListOfInts("DwarfNumbers").size());
 452   }
 453
 454   if (!maxLength)
 455     return;
 456
 457   std::string Namespace = Regs.front().TheDef->getValueAsString("Namespace");
 458
 459   // Emit reverse information about the dwarf register numbers.
 460   for (unsigned j = 0; j < 2; ++j) {
 461     OS << "  switch (";
 462     if (j == 0)
 463       OS << "DwarfFlavour";
 464     else
 465       OS << "EHFlavour";
 466     OS << ") {\n"
 467      << "  default:\n"
 468      << "    llvm_unreachable(\"Unknown DWARF flavour\");\n";
 469
 470     for (unsigned i = 0, e = maxLength; i != e; ++i) {
 471       OS << "  case " << i << ":\n";
 472       OS << "    ";
 473       if (!isCtor)
 474         OS << "RI->";
 475       std::string Tmp;
 476       raw_string_ostream(Tmp) << Namespace
 477                               << (j == 0 ? "DwarfFlavour" : "EHFlavour") << i
 478                               << "Dwarf2L";
 479       OS << "mapDwarfRegsToLLVMRegs(" << Tmp << ", " << Tmp << "Size, ";
 480       if (j == 0)
 481           OS << "false";
 482         else
 483           OS << "true";
 484       OS << ");\n";
 485       OS << "    break;\n";
 486     }
 487     OS << "  }\n";
 488   }
 489
 490   // Emit information about the dwarf register numbers.
 491   for (unsigned j = 0; j < 2; ++j) {
 492     OS << "  switch (";
 493     if (j == 0)
 494       OS << "DwarfFlavour";
 495     else
 496       OS << "EHFlavour";
 497     OS << ") {\n"
 498        << "  default:\n"
 499        << "    llvm_unreachable(\"Unknown DWARF flavour\");\n";
 500
 501     for (unsigned i = 0, e = maxLength; i != e; ++i) {
 502       OS << "  case " << i << ":\n";
 503       OS << "    ";
 504       if (!isCtor)
 505         OS << "RI->";
 506       std::string Tmp;
 507       raw_string_ostream(Tmp) << Namespace
 508                               << (j == 0 ? "DwarfFlavour" : "EHFlavour") << i
 509                               << "L2Dwarf";
 510       OS << "mapLLVMRegsToDwarfRegs(" << Tmp << ", " << Tmp << "Size, ";
 511       if (j == 0)
 512           OS << "false";
 513         else
 514           OS << "true";
 515       OS << ");\n";
 516       OS << "    break;\n";
 517     }
 518     OS << "  }\n";
 519   }
 520 }
 521
 522 // Print a BitVector as a sequence of hex numbers using a little-endian mapping.
 523 // Width is the number of bits per hex number.
 524 static void printBitVectorAsHex(raw_ostream &OS,
 525                                 const BitVector &Bits,
 526                                 unsigned Width) {
 527   assert(Width <= 32 && "Width too large");
 528   unsigned Digits = (Width + 3) / 4;
 529   for (unsigned i = 0, e = Bits.size(); i < e; i += Width) {
 530     unsigned Value = 0;
 531     for (unsigned j = 0; j != Width && i + j != e; ++j)
 532       Value |= Bits.test(i + j) << j;
 533     OS << format("0x%0*x, ", Digits, Value);
 534   }
 535 }
 536
 537 // Helper to emit a set of bits into a constant byte array.
 538 class BitVectorEmitter {
 539   BitVector Values;
 540 public:
 541   void add(unsigned v) {
 542     if (v >= Values.size())
 543       Values.resize(((v/8)+1)*8); // Round up to the next byte.
 544     Values[v] = true;
 545   }
 546
 547   void print(raw_ostream &OS) {
 548     printBitVectorAsHex(OS, Values, 8);
 549   }
 550 };
 551
 552 static void printSimpleValueType(raw_ostream &OS, MVT::SimpleValueType VT) {
 553   OS << getEnumName(VT);
 554 }
 555
 556 static void printSubRegIndex(raw_ostream &OS, const CodeGenSubRegIndex *Idx) {
 557   OS << Idx->EnumValue;
 558 }
 559
 560 // Differentially encoded register and regunit lists allow for better
 561 // compression on regular register banks. The sequence is computed from the
 562 // differential list as:
 563 //
 564 //   out[0] = InitVal;
 565 //   out[n+1] = out[n] + diff[n]; // n = 0, 1, ...
 566 //
 567 // The initial value depends on the specific list. The list is terminated by a
 568 // 0 differential which means we can't encode repeated elements.
 569
 570 typedef SmallVector<uint16_t, 4> DiffVec;
 571 typedef SmallVector<unsigned, 4> MaskVec;
 572
 573 // Differentially encode a sequence of numbers into V. The starting value and
 574 // terminating 0 are not added to V, so it will have the same size as List.
 575 static
 576 DiffVec &diffEncode(DiffVec &V, unsigned InitVal, SparseBitVector<> List) {
 577   assert(V.empty() && "Clear DiffVec before diffEncode.");
 578   uint16_t Val = uint16_t(InitVal);
 579
 580   for (uint16_t Cur : List) {
 581     V.push_back(Cur - Val);
 582     Val = Cur;
 583   }
 584   return V;
 585 }
 586
 587 template<typename Iter>
 588 static
 589 DiffVec &diffEncode(DiffVec &V, unsigned InitVal, Iter Begin, Iter End) {
 590   assert(V.empty() && "Clear DiffVec before diffEncode.");
 591   uint16_t Val = uint16_t(InitVal);
 592   for (Iter I = Begin; I != End; ++I) {
 593     uint16_t Cur = (*I)->EnumValue;
 594     V.push_back(Cur - Val);
 595     Val = Cur;
 596   }
 597   return V;
 598 }
 599
 600 static void printDiff16(raw_ostream &OS, uint16_t Val) {
 601   OS << Val;
 602 }
 603
 604 static void printMask(raw_ostream &OS, unsigned Val) {
 605   OS << format("0x%08X", Val);
 606 }
 607
 608 // Try to combine Idx's compose map into Vec if it is compatible.
 609 // Return false if it's not possible.
 610 static bool combine(const CodeGenSubRegIndex *Idx,
 611                     SmallVectorImpl<CodeGenSubRegIndex*> &Vec) {
 612   const CodeGenSubRegIndex::CompMap &Map = Idx->getComposites();
 613   for (const auto &I : Map) {
 614     CodeGenSubRegIndex *&Entry = Vec[I.first->EnumValue - 1];
 615     if (Entry && Entry != I.second)
 616       return false;
 617   }
 618
 619   // All entries are compatible. Make it so.
 620   for (const auto &I : Map) {
 621     auto *&Entry = Vec[I.first->EnumValue - 1];
 622     assert((!Entry || Entry == I.second) &&
 623            "Expected EnumValue to be unique");
 624     Entry = I.second;
 625   }
 626   return true;
 627 }
 628
 629 void
 630 RegisterInfoEmitter::emitComposeSubRegIndices(raw_ostream &OS,
 631                                               CodeGenRegBank &RegBank,
 632                                               const std::string &ClName) {
 633   const auto &SubRegIndices = RegBank.getSubRegIndices();
 634   OS << "unsigned " << ClName
 635      << "::composeSubRegIndicesImpl(unsigned IdxA, unsigned IdxB) const {\n";
 636
 637   // Many sub-register indexes are composition-compatible, meaning that
 638   //
 639   //   compose(IdxA, IdxB) == compose(IdxA', IdxB)
 640   //
 641   // for many IdxA, IdxA' pairs. Not all sub-register indexes can be composed.
 642   // The illegal entries can be use as wildcards to compress the table further.
 643
 644   // Map each Sub-register index to a compatible table row.
 645   SmallVector<unsigned, 4> RowMap;
 646   SmallVector<SmallVector<CodeGenSubRegIndex*, 4>, 4> Rows;
 647
 648   auto SubRegIndicesSize =
 649       std::distance(SubRegIndices.begin(), SubRegIndices.end());
 650   for (const auto &Idx : SubRegIndices) {
 651     unsigned Found = ~0u;
 652     for (unsigned r = 0, re = Rows.size(); r != re; ++r) {
 653       if (combine(&Idx, Rows[r])) {
 654         Found = r;
 655         break;
 656       }
 657     }
 658     if (Found == ~0u) {
 659       Found = Rows.size();
 660       Rows.resize(Found + 1);
 661       Rows.back().resize(SubRegIndicesSize);
 662       combine(&Idx, Rows.back());
 663     }
 664     RowMap.push_back(Found);
 665   }
 666
 667   // Output the row map if there is multiple rows.
 668   if (Rows.size() > 1) {
 669     OS << "  static const " << getMinimalTypeForRange(Rows.size()) << " RowMap["
 670        << SubRegIndicesSize << "] = {\n    ";
 671     for (unsigned i = 0, e = SubRegIndicesSize; i != e; ++i)
 672       OS << RowMap[i] << ", ";
 673     OS << "\n  };\n";
 674   }
 675
 676   // Output the rows.
 677   OS << "  static const " << getMinimalTypeForRange(SubRegIndicesSize + 1)
 678      << " Rows[" << Rows.size() << "][" << SubRegIndicesSize << "] = {\n";
 679   for (unsigned r = 0, re = Rows.size(); r != re; ++r) {
 680     OS << "    { ";
 681     for (unsigned i = 0, e = SubRegIndicesSize; i != e; ++i)
 682       if (Rows[r][i])
 683         OS << Rows[r][i]->EnumValue << ", ";
 684       else
 685         OS << "0, ";
 686     OS << "},\n";
 687   }
 688   OS << "  };\n\n";
 689
 690   OS << "  --IdxA; assert(IdxA < " << SubRegIndicesSize << ");\n"
 691      << "  --IdxB; assert(IdxB < " << SubRegIndicesSize << ");\n";
 692   if (Rows.size() > 1)
 693     OS << "  return Rows[RowMap[IdxA]][IdxB];\n";
 694   else
 695     OS << "  return Rows[0][IdxB];\n";
 696   OS << "}\n\n";
 697 }
 698
 699 void
 700 RegisterInfoEmitter::emitComposeSubRegIndexLaneMask(raw_ostream &OS,
 701                                                     CodeGenRegBank &RegBank,
 702                                                     const std::string &ClName) {
 703   // See the comments in computeSubRegLaneMasks() for our goal here.
 704   const auto &SubRegIndices = RegBank.getSubRegIndices();
 705
 706   // Create a list of Mask+Rotate operations, with equivalent entries merged.
 707   SmallVector<unsigned, 4> SubReg2SequenceIndexMap;
 708   SmallVector<SmallVector<MaskRolPair, 1>, 4> Sequences;
 709   for (const auto &Idx : SubRegIndices) {
 710     const SmallVector<MaskRolPair, 1> &IdxSequence
 711       = Idx.CompositionLaneMaskTransform;
 712
 713     unsigned Found = ~0u;
 714     unsigned SIdx = 0;
 715     unsigned NextSIdx;
 716     for (size_t s = 0, se = Sequences.size(); s != se; ++s, SIdx = NextSIdx) {
 717       SmallVectorImpl<MaskRolPair> &Sequence = Sequences[s];
 718       NextSIdx = SIdx + Sequence.size() + 1;
 719       if (Sequence == IdxSequence) {
 720         Found = SIdx;
 721         break;
 722       }
 723     }
 724     if (Found == ~0u) {
 725       Sequences.push_back(IdxSequence);
 726       Found = SIdx;
 727     }
 728     SubReg2SequenceIndexMap.push_back(Found);
 729   }
 730
 731   OS << "unsigned " << ClName
 732      << "::composeSubRegIndexLaneMaskImpl(unsigned IdxA, unsigned LaneMask)"
 733         " const {\n";
 734
 735   OS << "  struct MaskRolOp {\n"
 736         "    unsigned Mask;\n"
 737         "    uint8_t  RotateLeft;\n"
 738         "  };\n"
 739         "  static const MaskRolOp Seqs[] = {\n";
 740   unsigned Idx = 0;
 741   for (size_t s = 0, se = Sequences.size(); s != se; ++s) {
 742     OS << "    ";
 743     const SmallVectorImpl<MaskRolPair> &Sequence = Sequences[s];
 744     for (size_t p = 0, pe = Sequence.size(); p != pe; ++p) {
 745       const MaskRolPair &P = Sequence[p];
 746       OS << format("{ 0x%08X, %2u }, ", P.Mask, P.RotateLeft);
 747     }
 748     OS << "{ 0, 0 }";
 749     if (s+1 != se)
 750       OS << ", ";
 751     OS << "  // Sequence " << Idx << "\n";
 752     Idx += Sequence.size() + 1;
 753   }
 754   OS << "  };\n"
 755         "  static const MaskRolOp *const CompositeSequences[] = {\n";
 756   for (size_t i = 0, e = SubRegIndices.size(); i != e; ++i) {
 757     OS << "    ";
 758     unsigned Idx = SubReg2SequenceIndexMap[i];
 759     OS << format("&Seqs[%u]", Idx);
 760     if (i+1 != e)
 761       OS << ",";
 762     OS << " // to " << SubRegIndices[i].getName() << "\n";
 763   }
 764   OS << "  };\n\n";
 765
 766   OS << "  --IdxA; assert(IdxA < " << SubRegIndices.size()
 767      << " && \"Subregister index out of bounds\");\n"
 768         "  unsigned Result = 0;\n"
 769         "  for (const MaskRolOp *Ops = CompositeSequences[IdxA]; Ops->Mask != 0; ++Ops)"
 770         " {\n"
 771         "    unsigned Masked = LaneMask & Ops->Mask;\n"
 772         "    Result |= (Masked << Ops->RotateLeft) & 0xFFFFFFFF;\n"
 773         "    Result |= (Masked >> ((32 - Ops->RotateLeft) & 0x1F));\n"
 774         "  }\n"
 775         "  return Result;\n"
 776         "}\n";
 777 }
 778
 779 //
 780 // runMCDesc - Print out MC register descriptions.
 781 //
 782 void
 783 RegisterInfoEmitter::runMCDesc(raw_ostream &OS, CodeGenTarget &Target,
 784                                CodeGenRegBank &RegBank) {
 785   emitSourceFileHeader("MC Register Information", OS);
 786
 787   OS << "\n#ifdef GET_REGINFO_MC_DESC\n";
 788   OS << "#undef GET_REGINFO_MC_DESC\n";
 789
 790   const auto &Regs = RegBank.getRegisters();
 791
 792   auto &SubRegIndices = RegBank.getSubRegIndices();
 793   // The lists of sub-registers and super-registers go in the same array.  That
 794   // allows us to share suffixes.
 795   typedef std::vector<const CodeGenRegister*> RegVec;
 796
 797   // Differentially encoded lists.
 798   SequenceToOffsetTable<DiffVec> DiffSeqs;
 799   SmallVector<DiffVec, 4> SubRegLists(Regs.size());
 800   SmallVector<DiffVec, 4> SuperRegLists(Regs.size());
 801   SmallVector<DiffVec, 4> RegUnitLists(Regs.size());
 802   SmallVector<unsigned, 4> RegUnitInitScale(Regs.size());
 803
 804   // List of lane masks accompanying register unit sequences.
 805   SequenceToOffsetTable<MaskVec> LaneMaskSeqs;
 806   SmallVector<MaskVec, 4> RegUnitLaneMasks(Regs.size());
 807
 808   // Keep track of sub-register names as well. These are not differentially
 809   // encoded.
 810   typedef SmallVector<const CodeGenSubRegIndex*, 4> SubRegIdxVec;
 811   SequenceToOffsetTable<SubRegIdxVec, deref<llvm::less>> SubRegIdxSeqs;
 812   SmallVector<SubRegIdxVec, 4> SubRegIdxLists(Regs.size());
 813
 814   SequenceToOffsetTable<std::string> RegStrings;
 815
 816   // Precompute register lists for the SequenceToOffsetTable.
 817   unsigned i = 0;
 818   for (auto I = Regs.begin(), E = Regs.end(); I != E; ++I, ++i) {
 819     const auto &Reg = *I;
 820     RegStrings.add(Reg.getName());
 821
 822     // Compute the ordered sub-register list.
 823     SetVector<const CodeGenRegister*> SR;
 824     Reg.addSubRegsPreOrder(SR, RegBank);
 825     diffEncode(SubRegLists[i], Reg.EnumValue, SR.begin(), SR.end());
 826     DiffSeqs.add(SubRegLists[i]);
 827
 828     // Compute the corresponding sub-register indexes.
 829     SubRegIdxVec &SRIs = SubRegIdxLists[i];
 830     for (unsigned j = 0, je = SR.size(); j != je; ++j)
 831       SRIs.push_back(Reg.getSubRegIndex(SR[j]));
 832     SubRegIdxSeqs.add(SRIs);
 833
 834     // Super-registers are already computed.
 835     const RegVec &SuperRegList = Reg.getSuperRegs();
 836     diffEncode(SuperRegLists[i], Reg.EnumValue, SuperRegList.begin(),
 837                SuperRegList.end());
 838     DiffSeqs.add(SuperRegLists[i]);
 839
 840     // Differentially encode the register unit list, seeded by register number.
 841     // First compute a scale factor that allows more diff-lists to be reused:
 842     //
 843     //   D0 -> (S0, S1)
 844     //   D1 -> (S2, S3)
 845     //
 846     // A scale factor of 2 allows D0 and D1 to share a diff-list. The initial
 847     // value for the differential decoder is the register number multiplied by
 848     // the scale.
 849     //
 850     // Check the neighboring registers for arithmetic progressions.
 851     unsigned ScaleA = ~0u, ScaleB = ~0u;
 852     SparseBitVector<> RUs = Reg.getNativeRegUnits();
 853     if (I != Regs.begin() &&
 854         std::prev(I)->getNativeRegUnits().count() == RUs.count())
 855       ScaleB = *RUs.begin() - *std::prev(I)->getNativeRegUnits().begin();
 856     if (std::next(I) != Regs.end() &&
 857         std::next(I)->getNativeRegUnits().count() == RUs.count())
 858       ScaleA = *std::next(I)->getNativeRegUnits().begin() - *RUs.begin();
 859     unsigned Scale = std::min(ScaleB, ScaleA);
 860     // Default the scale to 0 if it can't be encoded in 4 bits.
 861     if (Scale >= 16)
 862       Scale = 0;
 863     RegUnitInitScale[i] = Scale;
 864     DiffSeqs.add(diffEncode(RegUnitLists[i], Scale * Reg.EnumValue, RUs));
 865
 866     const auto &RUMasks = Reg.getRegUnitLaneMasks();
 867     MaskVec &LaneMaskVec = RegUnitLaneMasks[i];
 868     assert(LaneMaskVec.empty());
 869     LaneMaskVec.insert(LaneMaskVec.begin(), RUMasks.begin(), RUMasks.end());
 870     // Terminator mask should not be used inside of the list.
 871 #ifndef NDEBUG
 872     for (unsigned M : LaneMaskVec) {
 873       assert(M != ~0u && "terminator mask should not be part of the list");
 874     }
 875 #endif
 876     LaneMaskSeqs.add(LaneMaskVec);
 877   }
 878
 879   // Compute the final layout of the sequence table.
 880   DiffSeqs.layout();
 881   LaneMaskSeqs.layout();
 882   SubRegIdxSeqs.layout();
 883
 884   OS << "namespace llvm {\n\n";
 885
 886   const std::string &TargetName = Target.getName();
 887
 888   // Emit the shared table of differential lists.
 889   OS << "extern const MCPhysReg " << TargetName << "RegDiffLists[] = {\n";
 890   DiffSeqs.emit(OS, printDiff16);
 891   OS << "};\n\n";
 892
 893   // Emit the shared table of regunit lane mask sequences.
 894   OS << "extern const unsigned " << TargetName << "LaneMaskLists[] = {\n";
 895   LaneMaskSeqs.emit(OS, printMask, "~0u");
 896   OS << "};\n\n";
 897
 898   // Emit the table of sub-register indexes.
 899   OS << "extern const uint16_t " << TargetName << "SubRegIdxLists[] = {\n";
 900   SubRegIdxSeqs.emit(OS, printSubRegIndex);
 901   OS << "};\n\n";
 902
 903   // Emit the table of sub-register index sizes.
 904   OS << "extern const MCRegisterInfo::SubRegCoveredBits "
 905      << TargetName << "SubRegIdxRanges[] = {\n";
 906   OS << "  { " << (uint16_t)-1 << ", " << (uint16_t)-1 << " },\n";
 907   for (const auto &Idx : SubRegIndices) {
 908     OS << "  { " << Idx.Offset << ", " << Idx.Size << " },\t// "
 909        << Idx.getName() << "\n";
 910   }
 911   OS << "};\n\n";
 912
 913   // Emit the string table.
 914   RegStrings.layout();
 915   OS << "extern const char " << TargetName << "RegStrings[] = {\n";
 916   RegStrings.emit(OS, printChar);
 917   OS << "};\n\n";
 918
 919   OS << "extern const MCRegisterDesc " << TargetName
 920      << "RegDesc[] = { // Descriptors\n";
 921   OS << "  { " << RegStrings.get("") << ", 0, 0, 0, 0, 0 },\n";
 922
 923   // Emit the register descriptors now.
 924   i = 0;
 925   for (const auto &Reg : Regs) {
 926     OS << "  { " << RegStrings.get(Reg.getName()) << ", "
 927        << DiffSeqs.get(SubRegLists[i]) << ", " << DiffSeqs.get(SuperRegLists[i])
 928        << ", " << SubRegIdxSeqs.get(SubRegIdxLists[i]) << ", "
 929        << (DiffSeqs.get(RegUnitLists[i]) * 16 + RegUnitInitScale[i]) << ", "
 930        << LaneMaskSeqs.get(RegUnitLaneMasks[i]) << " },\n";
 931     ++i;
 932   }
 933   OS << "};\n\n";      // End of register descriptors...
 934
 935   // Emit the table of register unit roots. Each regunit has one or two root
 936   // registers.
 937   OS << "extern const MCPhysReg " << TargetName << "RegUnitRoots[][2] = {\n";
 938   for (unsigned i = 0, e = RegBank.getNumNativeRegUnits(); i != e; ++i) {
 939     ArrayRef<const CodeGenRegister*> Roots = RegBank.getRegUnit(i).getRoots();
 940     assert(!Roots.empty() && "All regunits must have a root register.");
 941     assert(Roots.size() <= 2 && "More than two roots not supported yet.");
 942     OS << "  { " << getQualifiedName(Roots.front()->TheDef);
 943     for (unsigned r = 1; r != Roots.size(); ++r)
 944       OS << ", " << getQualifiedName(Roots[r]->TheDef);
 945     OS << " },\n";
 946   }
 947   OS << "};\n\n";
 948
 949   const auto &RegisterClasses = RegBank.getRegClasses();
 950
 951   // Loop over all of the register classes... emitting each one.
 952   OS << "namespace {     // Register classes...\n";
 953
 954   SequenceToOffsetTable<std::string> RegClassStrings;
 955
 956   // Emit the register enum value arrays for each RegisterClass
 957   for (const auto &RC : RegisterClasses) {
 958     ArrayRef<Record*> Order = RC.getOrder();
 959
 960     // Give the register class a legal C name if it's anonymous.
 961     std::string Name = RC.getName();
 962
 963     RegClassStrings.add(Name);
 964
 965     // Emit the register list now.
 966     OS << "  // " << Name << " Register Class...\n"
 967        << "  const MCPhysReg " << Name
 968        << "[] = {\n    ";
 969     for (unsigned i = 0, e = Order.size(); i != e; ++i) {
 970       Record *Reg = Order[i];
 971       OS << getQualifiedName(Reg) << ", ";
 972     }
 973     OS << "\n  };\n\n";
 974
 975     OS << "  // " << Name << " Bit set.\n"
 976        << "  const uint8_t " << Name
 977        << "Bits[] = {\n    ";
 978     BitVectorEmitter BVE;
 979     for (unsigned i = 0, e = Order.size(); i != e; ++i) {
 980       Record *Reg = Order[i];
 981       BVE.add(Target.getRegBank().getReg(Reg)->EnumValue);
 982     }
 983     BVE.print(OS);
 984     OS << "\n  };\n\n";
 985
 986   }
 987   OS << "}\n\n";
 988
 989   RegClassStrings.layout();
 990   OS << "extern const char " << TargetName << "RegClassStrings[] = {\n";
 991   RegClassStrings.emit(OS, printChar);
 992   OS << "};\n\n";
 993
 994   OS << "extern const MCRegisterClass " << TargetName
 995      << "MCRegisterClasses[] = {\n";
 996
 997   for (const auto &RC : RegisterClasses) {
 998     // Asserts to make sure values will fit in table assuming types from
 999     // MCRegisterInfo.h
1000     assert((RC.SpillSize/8) <= 0xffff && "SpillSize too large.");
1001     assert((RC.SpillAlignment/8) <= 0xffff && "SpillAlignment too large.");
1002     assert(RC.CopyCost >= -128 && RC.CopyCost <= 127 && "Copy cost too large.");
1003
1004     OS << "  { " << RC.getName() << ", " << RC.getName() << "Bits, "
1005        << RegClassStrings.get(RC.getName()) << ", "
1006        << RC.getOrder().size() << ", sizeof(" << RC.getName() << "Bits), "
1007        << RC.getQualifiedName() + "RegClassID" << ", "
1008        << RC.SpillSize/8 << ", "
1009        << RC.SpillAlignment/8 << ", "
1010        << RC.CopyCost << ", "
1011        << RC.Allocatable << " },\n";
1012   }
1013
1014   OS << "};\n\n";
1015
1016   EmitRegMappingTables(OS, Regs, false);
1017
1018   // Emit Reg encoding table
1019   OS << "extern const uint16_t " << TargetName;
1020   OS << "RegEncodingTable[] = {\n";
1021   // Add entry for NoRegister
1022   OS << "  0,\n";
1023   for (const auto &RE : Regs) {
1024     Record *Reg = RE.TheDef;
1025     BitsInit *BI = Reg->getValueAsBitsInit("HWEncoding");
1026     uint64_t Value = 0;
1027     for (unsigned b = 0, be = BI->getNumBits(); b != be; ++b) {
1028       if (BitInit *B = dyn_cast<BitInit>(BI->getBit(b)))
1029         Value |= (uint64_t)B->getValue() << b;
1030     }
1031     OS << "  " << Value << ",\n";
1032   }
1033   OS << "};\n";       // End of HW encoding table
1034
1035   // MCRegisterInfo initialization routine.
1036   OS << "static inline void Init" << TargetName
1037      << "MCRegisterInfo(MCRegisterInfo *RI, unsigned RA, "
1038      << "unsigned DwarfFlavour = 0, unsigned EHFlavour = 0, unsigned PC = 0) "
1039         "{\n"
1040      << "  RI->InitMCRegisterInfo(" << TargetName << "RegDesc, "
1041      << Regs.size() + 1 << ", RA, PC, " << TargetName << "MCRegisterClasses, "
1042      << RegisterClasses.size() << ", " << TargetName << "RegUnitRoots, "
1043      << RegBank.getNumNativeRegUnits() << ", " << TargetName << "RegDiffLists, "
1044      << TargetName << "LaneMaskLists, " << TargetName << "RegStrings, "
1045      << TargetName << "RegClassStrings, " << TargetName << "SubRegIdxLists, "
1046      << (std::distance(SubRegIndices.begin(), SubRegIndices.end()) + 1) << ",\n"
1047      << TargetName << "SubRegIdxRanges, " << TargetName
1048      << "RegEncodingTable);\n\n";
1049
1050   EmitRegMapping(OS, Regs, false);
1051
1052   OS << "}\n\n";
1053
1054   OS << "} // End llvm namespace\n";
1055   OS << "#endif // GET_REGINFO_MC_DESC\n\n";
1056 }
1057
1058 void
1059 RegisterInfoEmitter::runTargetHeader(raw_ostream &OS, CodeGenTarget &Target,
1060                                      CodeGenRegBank &RegBank) {
1061   emitSourceFileHeader("Register Information Header Fragment", OS);
1062
1063   OS << "\n#ifdef GET_REGINFO_HEADER\n";
1064   OS << "#undef GET_REGINFO_HEADER\n";
1065
1066   const std::string &TargetName = Target.getName();
1067   std::string ClassName = TargetName + "GenRegisterInfo";
1068
1069   OS << "#include \"llvm/Target/TargetRegisterInfo.h\"\n\n";
1070
1071   OS << "namespace llvm {\n\n";
1072
1073   OS << "class " << TargetName << "FrameLowering;\n\n";
1074
1075   OS << "struct " << ClassName << " : public TargetRegisterInfo {\n"
1076      << "  explicit " << ClassName
1077      << "(unsigned RA, unsigned D = 0, unsigned E = 0, unsigned PC = 0);\n";
1078   if (!RegBank.getSubRegIndices().empty()) {
1079     OS << "  unsigned composeSubRegIndicesImpl"
1080        << "(unsigned, unsigned) const override;\n"
1081        << "  unsigned composeSubRegIndexLaneMaskImpl"
1082        << "(unsigned, unsigned) const override;\n"
1083        << "  const TargetRegisterClass *getSubClassWithSubReg"
1084        << "(const TargetRegisterClass*, unsigned) const override;\n";
1085   }
1086   OS << "  const RegClassWeight &getRegClassWeight("
1087      << "const TargetRegisterClass *RC) const override;\n"
1088      << "  unsigned getRegUnitWeight(unsigned RegUnit) const override;\n"
1089      << "  unsigned getNumRegPressureSets() const override;\n"
1090      << "  const char *getRegPressureSetName(unsigned Idx) const override;\n"
1091      << "  unsigned getRegPressureSetLimit(const MachineFunction &MF, unsigned "
1092         "Idx) const override;\n"
1093      << "  const int *getRegClassPressureSets("
1094      << "const TargetRegisterClass *RC) const override;\n"
1095      << "  const int *getRegUnitPressureSets("
1096      << "unsigned RegUnit) const override;\n"
1097      << "  ArrayRef<const char *> getRegMaskNames() const override;\n"
1098      << "  ArrayRef<const uint32_t *> getRegMasks() const override;\n"
1099      << "  /// Devirtualized TargetFrameLowering.\n"
1100      << "  static const " << TargetName << "FrameLowering *getFrameLowering(\n"
1101      << "      const MachineFunction &MF);\n"
1102      << "};\n\n";
1103
1104   const auto &RegisterClasses = RegBank.getRegClasses();
1105
1106   if (!RegisterClasses.empty()) {
1107     OS << "namespace " << RegisterClasses.front().Namespace
1108        << " { // Register classes\n";
1109
1110     for (const auto &RC : RegisterClasses) {
1111       const std::string &Name = RC.getName();
1112
1113       // Output the extern for the instance.
1114       OS << "  extern const TargetRegisterClass " << Name << "RegClass;\n";
1115     }
1116     OS << "} // end of namespace " << TargetName << "\n\n";
1117   }
1118   OS << "} // End llvm namespace\n";
1119   OS << "#endif // GET_REGINFO_HEADER\n\n";
1120 }
1121
1122 //
1123 // runTargetDesc - Output the target register and register file descriptions.
1124 //
1125 void
1126 RegisterInfoEmitter::runTargetDesc(raw_ostream &OS, CodeGenTarget &Target,
1127                                    CodeGenRegBank &RegBank){
1128   emitSourceFileHeader("Target Register and Register Classes Information", OS);
1129
1130   OS << "\n#ifdef GET_REGINFO_TARGET_DESC\n";
1131   OS << "#undef GET_REGINFO_TARGET_DESC\n";
1132
1133   OS << "namespace llvm {\n\n";
1134
1135   // Get access to MCRegisterClass data.
1136   OS << "extern const MCRegisterClass " << Target.getName()
1137      << "MCRegisterClasses[];\n";
1138
1139   // Start out by emitting each of the register classes.
1140   const auto &RegisterClasses = RegBank.getRegClasses();
1141   const auto &SubRegIndices = RegBank.getSubRegIndices();
1142
1143   // Collect all registers belonging to any allocatable class.
1144   std::set<Record*> AllocatableRegs;
1145
1146   // Collect allocatable registers.
1147   for (const auto &RC : RegisterClasses) {
1148     ArrayRef<Record*> Order = RC.getOrder();
1149
1150     if (RC.Allocatable)
1151       AllocatableRegs.insert(Order.begin(), Order.end());
1152   }
1153
1154   // Build a shared array of value types.
1155   SequenceToOffsetTable<SmallVector<MVT::SimpleValueType, 4> > VTSeqs;
1156   for (const auto &RC : RegisterClasses)
1157     VTSeqs.add(RC.VTs);
1158   VTSeqs.layout();
1159   OS << "\nstatic const MVT::SimpleValueType VTLists[] = {\n";
1160   VTSeqs.emit(OS, printSimpleValueType, "MVT::Other");
1161   OS << "};\n";
1162
1163   // Emit SubRegIndex names, skipping 0.
1164   OS << "\nstatic const char *const SubRegIndexNameTable[] = { \"";
1165
1166   for (const auto &Idx : SubRegIndices) {
1167     OS << Idx.getName();
1168     OS << "\", \"";
1169   }
1170   OS << "\" };\n\n";
1171
1172   // Emit SubRegIndex lane masks, including 0.
1173   OS << "\nstatic const unsigned SubRegIndexLaneMaskTable[] = {\n  ~0u,\n";
1174   for (const auto &Idx : SubRegIndices) {
1175     OS << format("  0x%08x, // ", Idx.LaneMask) << Idx.getName() << '\n';
1176   }
1177   OS << " };\n\n";
1178
1179   OS << "\n";
1180
1181   // Now that all of the structs have been emitted, emit the instances.
1182   if (!RegisterClasses.empty()) {
1183     OS << "\nstatic const TargetRegisterClass *const "
1184        << "NullRegClasses[] = { nullptr };\n\n";
1185
1186     // Emit register class bit mask tables. The first bit mask emitted for a
1187     // register class, RC, is the set of sub-classes, including RC itself.
1188     //
1189     // If RC has super-registers, also create a list of subreg indices and bit
1190     // masks, (Idx, Mask). The bit mask has a bit for every superreg regclass,
1191     // SuperRC, that satisfies:
1192     //
1193     //   For all SuperReg in SuperRC: SuperReg:Idx in RC
1194     //
1195     // The 0-terminated list of subreg indices starts at:
1196     //
1197     //   RC->getSuperRegIndices() = SuperRegIdxSeqs + ...
1198     //
1199     // The corresponding bitmasks follow the sub-class mask in memory. Each
1200     // mask has RCMaskWords uint32_t entries.
1201     //
1202     // Every bit mask present in the list has at least one bit set.
1203
1204     // Compress the sub-reg index lists.
1205     typedef std::vector<const CodeGenSubRegIndex*> IdxList;
1206     SmallVector<IdxList, 8> SuperRegIdxLists(RegisterClasses.size());
1207     SequenceToOffsetTable<IdxList, deref<llvm::less>> SuperRegIdxSeqs;
1208     BitVector MaskBV(RegisterClasses.size());
1209
1210     for (const auto &RC : RegisterClasses) {
1211       OS << "static const uint32_t " << RC.getName() << "SubClassMask[] = {\n  ";
1212       printBitVectorAsHex(OS, RC.getSubClasses(), 32);
1213
1214       // Emit super-reg class masks for any relevant SubRegIndices that can
1215       // project into RC.
1216       IdxList &SRIList = SuperRegIdxLists[RC.EnumValue];
1217       for (auto &Idx : SubRegIndices) {
1218         MaskBV.reset();
1219         RC.getSuperRegClasses(&Idx, MaskBV);
1220         if (MaskBV.none())
1221           continue;
1222         SRIList.push_back(&Idx);
1223         OS << "\n  ";
1224         printBitVectorAsHex(OS, MaskBV, 32);
1225         OS << "// " << Idx.getName();
1226       }
1227       SuperRegIdxSeqs.add(SRIList);
1228       OS << "\n};\n\n";
1229     }
1230
1231     OS << "static const uint16_t SuperRegIdxSeqs[] = {\n";
1232     SuperRegIdxSeqs.layout();
1233     SuperRegIdxSeqs.emit(OS, printSubRegIndex);
1234     OS << "};\n\n";
1235
1236     // Emit NULL terminated super-class lists.
1237     for (const auto &RC : RegisterClasses) {
1238       ArrayRef<CodeGenRegisterClass*> Supers = RC.getSuperClasses();
1239
1240       // Skip classes without supers.  We can reuse NullRegClasses.
1241       if (Supers.empty())
1242         continue;
1243
1244       OS << "static const TargetRegisterClass *const "
1245          << RC.getName() << "Superclasses[] = {\n";
1246       for (const auto *Super : Supers)
1247         OS << "  &" << Super->getQualifiedName() << "RegClass,\n";
1248       OS << "  nullptr\n};\n\n";
1249     }
1250
1251     // Emit methods.
1252     for (const auto &RC : RegisterClasses) {
1253       if (!RC.AltOrderSelect.empty()) {
1254         OS << "\nstatic inline unsigned " << RC.getName()
1255            << "AltOrderSelect(const MachineFunction &MF) {"
1256            << RC.AltOrderSelect << "}\n\n"
1257            << "static ArrayRef<MCPhysReg> " << RC.getName()
1258            << "GetRawAllocationOrder(const MachineFunction &MF) {\n";
1259         for (unsigned oi = 1 , oe = RC.getNumOrders(); oi != oe; ++oi) {
1260           ArrayRef<Record*> Elems = RC.getOrder(oi);
1261           if (!Elems.empty()) {
1262             OS << "  static const MCPhysReg AltOrder" << oi << "[] = {";
1263             for (unsigned elem = 0; elem != Elems.size(); ++elem)
1264               OS << (elem ? ", " : " ") << getQualifiedName(Elems[elem]);
1265             OS << " };\n";
1266           }
1267         }
1268         OS << "  const MCRegisterClass &MCR = " << Target.getName()
1269            << "MCRegisterClasses[" << RC.getQualifiedName() + "RegClassID];\n"
1270            << "  const ArrayRef<MCPhysReg> Order[] = {\n"
1271            << "    makeArrayRef(MCR.begin(), MCR.getNumRegs()";
1272         for (unsigned oi = 1, oe = RC.getNumOrders(); oi != oe; ++oi)
1273           if (RC.getOrder(oi).empty())
1274             OS << "),\n    ArrayRef<MCPhysReg>(";
1275           else
1276             OS << "),\n    makeArrayRef(AltOrder" << oi;
1277         OS << ")\n  };\n  const unsigned Select = " << RC.getName()
1278            << "AltOrderSelect(MF);\n  assert(Select < " << RC.getNumOrders()
1279            << ");\n  return Order[Select];\n}\n";
1280       }
1281     }
1282
1283     // Now emit the actual value-initialized register class instances.
1284     OS << "\nnamespace " << RegisterClasses.front().Namespace
1285        << " {   // Register class instances\n";
1286
1287     for (const auto &RC : RegisterClasses) {
1288       OS << "  extern const TargetRegisterClass " << RC.getName()
1289          << "RegClass = {\n    " << '&' << Target.getName()
1290          << "MCRegisterClasses[" << RC.getName() << "RegClassID],\n    "
1291          << "VTLists + " << VTSeqs.get(RC.VTs) << ",\n    " << RC.getName()
1292          << "SubClassMask,\n    SuperRegIdxSeqs + "
1293          << SuperRegIdxSeqs.get(SuperRegIdxLists[RC.EnumValue]) << ",\n    "
1294          << format("0x%08x,\n    ", RC.LaneMask)
1295          << (unsigned)RC.AllocationPriority << ",\n    "
1296          << (RC.HasDisjunctSubRegs?"true":"false")
1297          << ", /* HasDisjunctSubRegs */\n    ";
1298       if (RC.getSuperClasses().empty())
1299         OS << "NullRegClasses,\n    ";
1300       else
1301         OS << RC.getName() << "Superclasses,\n    ";
1302       if (RC.AltOrderSelect.empty())
1303         OS << "nullptr\n";
1304       else
1305         OS << RC.getName() << "GetRawAllocationOrder\n";
1306       OS << "  };\n\n";
1307     }
1308
1309     OS << "}\n";
1310   }
1311
1312   OS << "\nnamespace {\n";
1313   OS << "  const TargetRegisterClass* const RegisterClasses[] = {\n";
1314   for (const auto &RC : RegisterClasses)
1315     OS << "    &" << RC.getQualifiedName() << "RegClass,\n";
1316   OS << "  };\n";
1317   OS << "}\n";       // End of anonymous namespace...
1318
1319   // Emit extra information about registers.
1320   const std::string &TargetName = Target.getName();
1321   OS << "\nstatic const TargetRegisterInfoDesc "
1322      << TargetName << "RegInfoDesc[] = { // Extra Descriptors\n";
1323   OS << "  { 0, 0 },\n";
1324
1325   const auto &Regs = RegBank.getRegisters();
1326   for (const auto &Reg : Regs) {
1327     OS << "  { ";
1328     OS << Reg.CostPerUse << ", "
1329        << int(AllocatableRegs.count(Reg.TheDef)) << " },\n";
1330   }
1331   OS << "};\n";      // End of register descriptors...
1332
1333
1334   std::string ClassName = Target.getName() + "GenRegisterInfo";
1335
1336   auto SubRegIndicesSize =
1337       std::distance(SubRegIndices.begin(), SubRegIndices.end());
1338
1339   if (!SubRegIndices.empty()) {
1340     emitComposeSubRegIndices(OS, RegBank, ClassName);
1341     emitComposeSubRegIndexLaneMask(OS, RegBank, ClassName);
1342   }
1343
1344   // Emit getSubClassWithSubReg.
1345   if (!SubRegIndices.empty()) {
1346     OS << "const TargetRegisterClass *" << ClassName
1347        << "::getSubClassWithSubReg(const TargetRegisterClass *RC, unsigned Idx)"
1348        << " const {\n";
1349     // Use the smallest type that can hold a regclass ID with room for a
1350     // sentinel.
1351     if (RegisterClasses.size() < UINT8_MAX)
1352       OS << "  static const uint8_t Table[";
1353     else if (RegisterClasses.size() < UINT16_MAX)
1354       OS << "  static const uint16_t Table[";
1355     else
1356       PrintFatalError("Too many register classes.");
1357     OS << RegisterClasses.size() << "][" << SubRegIndicesSize << "] = {\n";
1358     for (const auto &RC : RegisterClasses) {
1359       OS << "    {\t// " << RC.getName() << "\n";
1360       for (auto &Idx : SubRegIndices) {
1361         if (CodeGenRegisterClass *SRC = RC.getSubClassWithSubReg(&Idx))
1362           OS << "      " << SRC->EnumValue + 1 << ",\t// " << Idx.getName()
1363              << " -> " << SRC->getName() << "\n";
1364         else
1365           OS << "      0,\t// " << Idx.getName() << "\n";
1366       }
1367       OS << "    },\n";
1368     }
1369     OS << "  };\n  assert(RC && \"Missing regclass\");\n"
1370        << "  if (!Idx) return RC;\n  --Idx;\n"
1371        << "  assert(Idx < " << SubRegIndicesSize << " && \"Bad subreg\");\n"
1372        << "  unsigned TV = Table[RC->getID()][Idx];\n"
1373        << "  return TV ? getRegClass(TV - 1) : nullptr;\n}\n\n";
1374   }
1375
1376   EmitRegUnitPressure(OS, RegBank, ClassName);
1377
1378   // Emit the constructor of the class...
1379   OS << "extern const MCRegisterDesc " << TargetName << "RegDesc[];\n";
1380   OS << "extern const MCPhysReg " << TargetName << "RegDiffLists[];\n";
1381   OS << "extern const unsigned " << TargetName << "LaneMaskLists[];\n";
1382   OS << "extern const char " << TargetName << "RegStrings[];\n";
1383   OS << "extern const char " << TargetName << "RegClassStrings[];\n";
1384   OS << "extern const MCPhysReg " << TargetName << "RegUnitRoots[][2];\n";
1385   OS << "extern const uint16_t " << TargetName << "SubRegIdxLists[];\n";
1386   OS << "extern const MCRegisterInfo::SubRegCoveredBits "
1387      << TargetName << "SubRegIdxRanges[];\n";
1388   OS << "extern const uint16_t " << TargetName << "RegEncodingTable[];\n";
1389
1390   EmitRegMappingTables(OS, Regs, true);
1391
1392   OS << ClassName << "::\n" << ClassName
1393      << "(unsigned RA, unsigned DwarfFlavour, unsigned EHFlavour, unsigned PC)\n"
1394      << "  : TargetRegisterInfo(" << TargetName << "RegInfoDesc"
1395      << ", RegisterClasses, RegisterClasses+" << RegisterClasses.size() <<",\n"
1396      << "             SubRegIndexNameTable, SubRegIndexLaneMaskTable, 0x";
1397   OS.write_hex(RegBank.CoveringLanes);
1398   OS << ") {\n"
1399      << "  InitMCRegisterInfo(" << TargetName << "RegDesc, " << Regs.size() + 1
1400      << ", RA, PC,\n                     " << TargetName
1401      << "MCRegisterClasses, " << RegisterClasses.size() << ",\n"
1402      << "                     " << TargetName << "RegUnitRoots,\n"
1403      << "                     " << RegBank.getNumNativeRegUnits() << ",\n"
1404      << "                     " << TargetName << "RegDiffLists,\n"
1405      << "                     " << TargetName << "LaneMaskLists,\n"
1406      << "                     " << TargetName << "RegStrings,\n"
1407      << "                     " << TargetName << "RegClassStrings,\n"
1408      << "                     " << TargetName << "SubRegIdxLists,\n"
1409      << "                     " << SubRegIndicesSize + 1 << ",\n"
1410      << "                     " << TargetName << "SubRegIdxRanges,\n"
1411      << "                     " << TargetName << "RegEncodingTable);\n\n";
1412
1413   EmitRegMapping(OS, Regs, true);
1414
1415   OS << "}\n\n";
1416
1417
1418   // Emit CalleeSavedRegs information.
1419   std::vector<Record*> CSRSets =
1420     Records.getAllDerivedDefinitions("CalleeSavedRegs");
1421   for (unsigned i = 0, e = CSRSets.size(); i != e; ++i) {
1422     Record *CSRSet = CSRSets[i];
1423     const SetTheory::RecVec *Regs = RegBank.getSets().expand(CSRSet);
1424     assert(Regs && "Cannot expand CalleeSavedRegs instance");
1425
1426     // Emit the *_SaveList list of callee-saved registers.
1427     OS << "static const MCPhysReg " << CSRSet->getName()
1428        << "_SaveList[] = { ";
1429     for (unsigned r = 0, re = Regs->size(); r != re; ++r)
1430       OS << getQualifiedName((*Regs)[r]) << ", ";
1431     OS << "0 };\n";
1432
1433     // Emit the *_RegMask bit mask of call-preserved registers.
1434     BitVector Covered = RegBank.computeCoveredRegisters(*Regs);
1435
1436     // Check for an optional OtherPreserved set.
1437     // Add those registers to RegMask, but not to SaveList.
1438     if (DagInit *OPDag =
1439         dyn_cast<DagInit>(CSRSet->getValueInit("OtherPreserved"))) {
1440       SetTheory::RecSet OPSet;
1441       RegBank.getSets().evaluate(OPDag, OPSet, CSRSet->getLoc());
1442       Covered |= RegBank.computeCoveredRegisters(
1443         ArrayRef<Record*>(OPSet.begin(), OPSet.end()));
1444     }
1445
1446     OS << "static const uint32_t " << CSRSet->getName()
1447        << "_RegMask[] = { ";
1448     printBitVectorAsHex(OS, Covered, 32);
1449     OS << "};\n";
1450   }
1451   OS << "\n\n";
1452
1453   OS << "ArrayRef<const uint32_t *> " << ClassName
1454      << "::getRegMasks() const {\n";
1455   if (!CSRSets.empty()) {
1456     OS << "  static const uint32_t *const Masks[] = {\n";
1457     for (Record *CSRSet : CSRSets)
1458       OS << "    " << CSRSet->getName() << "_RegMask,\n";
1459     OS << "  };\n";
1460     OS << "  return makeArrayRef(Masks);\n";
1461   } else {
1462     OS << "  return None;\n";
1463   }
1464   OS << "}\n\n";
1465
1466   OS << "ArrayRef<const char *> " << ClassName
1467      << "::getRegMaskNames() const {\n";
1468   if (!CSRSets.empty()) {
1469   OS << "  static const char *const Names[] = {\n";
1470     for (Record *CSRSet : CSRSets)
1471       OS << "    " << '"' << CSRSet->getName() << '"' << ",\n";
1472     OS << "  };\n";
1473     OS << "  return makeArrayRef(Names);\n";
1474   } else {
1475     OS << "  return None;\n";
1476   }
1477   OS << "}\n\n";
1478
1479   OS << "const " << TargetName << "FrameLowering *\n" << TargetName
1480      << "GenRegisterInfo::getFrameLowering(const MachineFunction &MF) {\n"
1481      << "  return static_cast<const " << TargetName << "FrameLowering *>(\n"
1482      << "      MF.getSubtarget().getFrameLowering());\n"
1483      << "}\n\n";
1484
1485   OS << "} // End llvm namespace\n";
1486   OS << "#endif // GET_REGINFO_TARGET_DESC\n\n";
1487 }
1488
1489 void RegisterInfoEmitter::run(raw_ostream &OS) {
1490   CodeGenTarget Target(Records);
1491   CodeGenRegBank &RegBank = Target.getRegBank();
1492   RegBank.computeDerivedInfo();
1493
1494   runEnums(OS, Target, RegBank);
1495   runMCDesc(OS, Target, RegBank);
1496   runTargetHeader(OS, Target, RegBank);
1497   runTargetDesc(OS, Target, RegBank);
1498 }
1499
1500 namespace llvm {
1501
1502 void EmitRegisterInfo(RecordKeeper &RK, raw_ostream &OS) {
1503   RegisterInfoEmitter(RK).run(OS);
1504 }
1505
1506 } // End llvm namespace