folly/json.cpp

   1 /*
   2  * Copyright 2015 Facebook, Inc.
   3  *
   4  * Licensed under the Apache License, Version 2.0 (the "License");
   5  * you may not use this file except in compliance with the License.
   6  * You may obtain a copy of the License at
   7  *
   8  *   http://www.apache.org/licenses/LICENSE-2.0
   9  *
  10  * Unless required by applicable law or agreed to in writing, software
  11  * distributed under the License is distributed on an "AS IS" BASIS,
  12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
  13  * See the License for the specific language governing permissions and
  14  * limitations under the License.
  15  */
  16
  17 #include <folly/json.h>
  18 #include <cassert>
  19 #include <boost/next_prior.hpp>
  20 #include <boost/algorithm/string.hpp>
  21
  22 #include <folly/Conv.h>
  23 #include <folly/Range.h>
  24 #include <folly/String.h>
  25 #include <folly/Unicode.h>
  26
  27 namespace folly {
  28
  29 //////////////////////////////////////////////////////////////////////
  30
  31 namespace json {
  32 namespace {
  33
  34 char32_t decodeUtf8(
  35     const unsigned char*& p,
  36     const unsigned char* const e,
  37     bool skipOnError) {
  38   /* The following encodings are valid, except for the 5 and 6 byte
  39    * combinations:
  40    * 0xxxxxxx
  41    * 110xxxxx 10xxxxxx
  42    * 1110xxxx 10xxxxxx 10xxxxxx
  43    * 11110xxx 10xxxxxx 10xxxxxx 10xxxxxx
  44    * 111110xx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
  45    * 1111110x 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx 10xxxxxx
  46    */
  47
  48   auto skip = [&] { ++p; return U'\ufffd'; };
  49
  50   if (p >= e) {
  51     if (skipOnError) return skip();
  52     throw std::runtime_error("folly::decodeUtf8 empty/invalid string");
  53   }
  54
  55   unsigned char fst = *p;
  56   if (!(fst & 0x80)) {
  57     // trivial case
  58     return *p++;
  59   }
  60
  61   static const uint32_t bitMask[] = {
  62     (1 << 7) - 1,
  63     (1 << 11) - 1,
  64     (1 << 16) - 1,
  65     (1 << 21) - 1
  66   };
  67
  68   // upper control bits are masked out later
  69   uint32_t d = fst;
  70
  71   if ((fst & 0xC0) != 0xC0) {
  72     if (skipOnError) return skip();
  73     throw std::runtime_error(to<std::string>("folly::decodeUtf8 i=0 d=", d));
  74   }
  75
  76   fst <<= 1;
  77
  78   for (unsigned int i = 1; i != 3 && p + i < e; ++i) {
  79     unsigned char tmp = p[i];
  80
  81     if ((tmp & 0xC0) != 0x80) {
  82       if (skipOnError) return skip();
  83       throw std::runtime_error(
  84         to<std::string>("folly::decodeUtf8 i=", i, " tmp=", (uint32_t)tmp));
  85     }
  86
  87     d = (d << 6) | (tmp & 0x3F);
  88     fst <<= 1;
  89
  90     if (!(fst & 0x80)) {
  91       d &= bitMask[i];
  92
  93       // overlong, could have been encoded with i bytes
  94       if ((d & ~bitMask[i - 1]) == 0) {
  95         if (skipOnError) return skip();
  96         throw std::runtime_error(
  97           to<std::string>("folly::decodeUtf8 i=", i, " d=", d));
  98       }
  99
 100       // check for surrogates only needed for 3 bytes
 101       if (i == 2) {
 102         if ((d >= 0xD800 && d <= 0xDFFF) || d > 0x10FFFF) {
 103           if (skipOnError) return skip();
 104           throw std::runtime_error(
 105             to<std::string>("folly::decodeUtf8 i=", i, " d=", d));
 106         }
 107       }
 108
 109       p += i + 1;
 110       return d;
 111     }
 112   }
 113
 114   if (skipOnError) return skip();
 115   throw std::runtime_error("folly::decodeUtf8 encoding length maxed out");
 116 }
 117
 118 struct Printer {
 119   explicit Printer(fbstring& out,
 120                    unsigned* indentLevel,
 121                    serialization_opts const* opts)
 122     : out_(out)
 123     , indentLevel_(indentLevel)
 124     , opts_(*opts)
 125   {}
 126
 127   void operator()(dynamic const& v) const {
 128     switch (v.type()) {
 129     case dynamic::DOUBLE:
 130       if (!opts_.allow_nan_inf &&
 131           (std::isnan(v.asDouble()) || std::isinf(v.asDouble()))) {
 132         throw std::runtime_error("folly::toJson: JSON object value was a "
 133           "NaN or INF");
 134       }
 135       toAppend(v.asDouble(), &out_, opts_.double_mode, opts_.double_num_digits);
 136       break;
 137     case dynamic::INT64: {
 138       auto intval = v.asInt();
 139       if (opts_.javascript_safe) {
 140         // Use folly::to to check that this integer can be represented
 141         // as a double without loss of precision.
 142         intval = int64_t(to<double>(intval));
 143       }
 144       toAppend(intval, &out_);
 145       break;
 146     }
 147     case dynamic::BOOL:
 148       out_ += v.asBool() ? "true" : "false";
 149       break;
 150     case dynamic::NULLT:
 151       out_ += "null";
 152       break;
 153     case dynamic::STRING:
 154       escapeString(v.asString(), out_, opts_);
 155       break;
 156     case dynamic::OBJECT:
 157       printObject(v);
 158       break;
 159     case dynamic::ARRAY:
 160       printArray(v);
 161       break;
 162     default:
 163       CHECK(0) << "Bad type " << v.type();
 164     }
 165   }
 166
 167 private:
 168   void printKV(const std::pair<const dynamic, dynamic>& p) const {
 169     if (!opts_.allow_non_string_keys && !p.first.isString()) {
 170       throw std::runtime_error("folly::toJson: JSON object key was not a "
 171         "string");
 172     }
 173     (*this)(p.first);
 174     mapColon();
 175     (*this)(p.second);
 176   }
 177
 178   template <typename Iterator>
 179   void printKVPairs(Iterator begin, Iterator end) const {
 180     printKV(*begin);
 181     for (++begin; begin != end; ++begin) {
 182       out_ += ',';
 183       newline();
 184       printKV(*begin);
 185     }
 186   }
 187
 188   void printObject(dynamic const& o) const {
 189     if (o.empty()) {
 190       out_ += "{}";
 191       return;
 192     }
 193
 194     out_ += '{';
 195     indent();
 196     newline();
 197     if (opts_.sort_keys) {
 198       std::vector<std::pair<dynamic, dynamic>> items(
 199         o.items().begin(), o.items().end());
 200       std::sort(items.begin(), items.end());
 201       printKVPairs(items.begin(), items.end());
 202     } else {
 203       printKVPairs(o.items().begin(), o.items().end());
 204     }
 205     outdent();
 206     newline();
 207     out_ += '}';
 208   }
 209
 210   void printArray(dynamic const& a) const {
 211     if (a.empty()) {
 212       out_ += "[]";
 213       return;
 214     }
 215
 216     out_ += '[';
 217     indent();
 218     newline();
 219     (*this)(a[0]);
 220     for (auto& val : range(boost::next(a.begin()), a.end())) {
 221       out_ += ',';
 222       newline();
 223       (*this)(val);
 224     }
 225     outdent();
 226     newline();
 227     out_ += ']';
 228   }
 229
 230 private:
 231   void outdent() const {
 232     if (indentLevel_) {
 233       --*indentLevel_;
 234     }
 235   }
 236
 237   void indent() const {
 238     if (indentLevel_) {
 239       ++*indentLevel_;
 240     }
 241   }
 242
 243   void newline() const {
 244     if (indentLevel_) {
 245       out_ += to<fbstring>('\n', fbstring(*indentLevel_ * 2, ' '));
 246     }
 247   }
 248
 249   void mapColon() const {
 250     out_ += indentLevel_ ? " : " : ":";
 251   }
 252
 253 private:
 254   fbstring& out_;
 255   unsigned* const indentLevel_;
 256   serialization_opts const& opts_;
 257 };
 258
 259   //////////////////////////////////////////////////////////////////////
 260
 261   struct ParseError : std::runtime_error {
 262     explicit ParseError(int line)
 263       : std::runtime_error(to<std::string>("json parse error on line ", line))
 264     {}
 265
 266     explicit ParseError(int line, std::string const& context,
 267         std::string const& expected)
 268       : std::runtime_error(to<std::string>("json parse error on line ", line,
 269           !context.empty() ? to<std::string>(" near `", context, '\'')
 270                           : "",
 271           ": ", expected))
 272     {}
 273
 274     explicit ParseError(std::string const& msg)
 275       : std::runtime_error("json parse error: " + msg)
 276     {}
 277   };
 278
 279 // Wraps our input buffer with some helper functions.
 280 struct Input {
 281   explicit Input(StringPiece range, json::serialization_opts const* opts)
 282       : range_(range)
 283       , opts_(*opts)
 284       , lineNum_(0)
 285   {
 286     storeCurrent();
 287   }
 288
 289   Input(Input const&) = delete;
 290   Input& operator=(Input const&) = delete;
 291
 292   char const* begin() const { return range_.begin(); }
 293
 294   // Parse ahead for as long as the supplied predicate is satisfied,
 295   // returning a range of what was skipped.
 296   template<class Predicate>
 297   StringPiece skipWhile(const Predicate& p) {
 298     std::size_t skipped = 0;
 299     for (; skipped < range_.size(); ++skipped) {
 300       if (!p(range_[skipped])) {
 301         break;
 302       }
 303       if (range_[skipped] == '\n') {
 304         ++lineNum_;
 305       }
 306     }
 307     auto ret = range_.subpiece(0, skipped);
 308     range_.advance(skipped);
 309     storeCurrent();
 310     return ret;
 311   }
 312
 313   StringPiece skipDigits() {
 314     return skipWhile([] (char c) { return c >= '0' && c <= '9'; });
 315   }
 316
 317   StringPiece skipMinusAndDigits() {
 318     bool firstChar = true;
 319     return skipWhile([&firstChar] (char c) {
 320         bool result = (c >= '0' && c <= '9') || (firstChar && c == '-');
 321         firstChar = false;
 322         return result;
 323       });
 324   }
 325
 326   void skipWhitespace() {
 327     range_ = folly::skipWhitespace(range_);
 328     storeCurrent();
 329   }
 330
 331   void expect(char c) {
 332     if (**this != c) {
 333       throw ParseError(lineNum_, context(),
 334         to<std::string>("expected '", c, '\''));
 335     }
 336     ++*this;
 337   }
 338
 339   std::size_t size() const {
 340     return range_.size();
 341   }
 342
 343   int operator*() const {
 344     return current_;
 345   }
 346
 347   void operator++() {
 348     range_.pop_front();
 349     storeCurrent();
 350   }
 351
 352   template<class T>
 353   T extract() {
 354     try {
 355       return to<T>(&range_);
 356     } catch (std::exception const& e) {
 357       error(e.what());
 358     }
 359   }
 360
 361   bool consume(StringPiece str) {
 362     if (boost::starts_with(range_, str)) {
 363       range_.advance(str.size());
 364       storeCurrent();
 365       return true;
 366     }
 367     return false;
 368   }
 369
 370   std::string context() const {
 371     return range_.subpiece(0, 16 /* arbitrary */).toString();
 372   }
 373
 374   dynamic error(char const* what) const {
 375     throw ParseError(lineNum_, context(), what);
 376   }
 377
 378   json::serialization_opts const& getOpts() {
 379     return opts_;
 380   }
 381
 382 private:
 383   void storeCurrent() {
 384     current_ = range_.empty() ? EOF : range_.front();
 385   }
 386
 387 private:
 388   StringPiece range_;
 389   json::serialization_opts const& opts_;
 390   unsigned lineNum_;
 391   int current_;
 392 };
 393
 394 dynamic parseValue(Input& in);
 395 fbstring parseString(Input& in);
 396 dynamic parseNumber(Input& in);
 397
 398 dynamic parseObject(Input& in) {
 399   assert(*in == '{');
 400   ++in;
 401
 402   dynamic ret = dynamic::object;
 403
 404   in.skipWhitespace();
 405   if (*in == '}') {
 406     ++in;
 407     return ret;
 408   }
 409
 410   for (;;) {
 411     if (in.getOpts().allow_trailing_comma && *in == '}') {
 412       break;
 413     }
 414     if (*in == '\"') { // string
 415       auto key = parseString(in);
 416       in.skipWhitespace();
 417       in.expect(':');
 418       in.skipWhitespace();
 419       ret.insert(std::move(key), parseValue(in));
 420     } else if (!in.getOpts().allow_non_string_keys) {
 421       in.error("expected string for object key name");
 422     } else {
 423       auto key = parseValue(in);
 424       in.skipWhitespace();
 425       in.expect(':');
 426       in.skipWhitespace();
 427       ret.insert(std::move(key), parseValue(in));
 428     }
 429
 430     in.skipWhitespace();
 431     if (*in != ',') {
 432       break;
 433     }
 434     ++in;
 435     in.skipWhitespace();
 436   }
 437   in.expect('}');
 438
 439   return ret;
 440 }
 441
 442 dynamic parseArray(Input& in) {
 443   assert(*in == '[');
 444   ++in;
 445
 446   dynamic ret = {};
 447
 448   in.skipWhitespace();
 449   if (*in == ']') {
 450     ++in;
 451     return ret;
 452   }
 453
 454   for (;;) {
 455     if (in.getOpts().allow_trailing_comma && *in == ']') {
 456       break;
 457     }
 458     ret.push_back(parseValue(in));
 459     in.skipWhitespace();
 460     if (*in != ',') {
 461       break;
 462     }
 463     ++in;
 464     in.skipWhitespace();
 465   }
 466   in.expect(']');
 467
 468   return ret;
 469 }
 470
 471 dynamic parseNumber(Input& in) {
 472   bool const negative = (*in == '-');
 473   if (negative && in.consume("-Infinity")) {
 474     if (in.getOpts().parse_numbers_as_strings) {
 475       return "-Infinity";
 476     } else {
 477       return -std::numeric_limits<double>::infinity();
 478     }
 479   }
 480
 481   auto integral = in.skipMinusAndDigits();
 482   if (negative && integral.size() < 2) {
 483     in.error("expected digits after `-'");
 484   }
 485
 486   auto const wasE = *in == 'e' || *in == 'E';
 487
 488   constexpr const char* maxInt = "9223372036854775807";
 489   constexpr const char* minInt = "9223372036854775808";
 490   constexpr auto maxIntLen = __builtin_strlen(maxInt);
 491
 492
 493   if (*in != '.' && !wasE && in.getOpts().parse_numbers_as_strings) {
 494     return integral;
 495   }
 496
 497   if (*in != '.' && !wasE) {
 498     if (LIKELY(!in.getOpts().double_fallback || integral.size() < maxIntLen) ||
 499          (integral.size() == maxIntLen &&
 500            (integral <= maxInt || (integral == minInt && negative)))) {
 501       auto val = to<int64_t>(integral);
 502       in.skipWhitespace();
 503       return val;
 504     } else {
 505       auto val = to<double>(integral);
 506       in.skipWhitespace();
 507       return val;
 508     }
 509   }
 510
 511   auto end = !wasE ? (++in, in.skipDigits().end()) : in.begin();
 512   if (*in == 'e' || *in == 'E') {
 513     ++in;
 514     if (*in == '+' || *in == '-') {
 515       ++in;
 516     }
 517     auto expPart = in.skipDigits();
 518     end = expPart.end();
 519   }
 520   auto fullNum = range(integral.begin(), end);
 521   if (in.getOpts().parse_numbers_as_strings) {
 522     return fullNum;
 523   }
 524   auto val = to<double>(fullNum);
 525   return val;
 526 }
 527
 528 fbstring decodeUnicodeEscape(Input& in) {
 529   auto hexVal = [&] (char c) -> unsigned {
 530     return c >= '0' && c <= '9' ? c - '0' :
 531            c >= 'a' && c <= 'f' ? c - 'a' + 10 :
 532            c >= 'A' && c <= 'F' ? c - 'A' + 10 :
 533            (in.error("invalid hex digit"), 0);
 534   };
 535
 536   auto readHex = [&]() -> uint16_t {
 537     if (in.size() < 4) {
 538       in.error("expected 4 hex digits");
 539     }
 540
 541     uint16_t ret = hexVal(*in) * 4096;
 542     ++in;
 543     ret += hexVal(*in) * 256;
 544     ++in;
 545     ret += hexVal(*in) * 16;
 546     ++in;
 547     ret += hexVal(*in);
 548     ++in;
 549     return ret;
 550   };
 551
 552   /*
 553    * If the value encoded is in the surrogate pair range, we need to
 554    * make sure there is another escape that we can use also.
 555    */
 556   uint32_t codePoint = readHex();
 557   if (codePoint >= 0xd800 && codePoint <= 0xdbff) {
 558     if (!in.consume("\\u")) {
 559       in.error("expected another unicode escape for second half of "
 560         "surrogate pair");
 561     }
 562     uint16_t second = readHex();
 563     if (second >= 0xdc00 && second <= 0xdfff) {
 564       codePoint = 0x10000 + ((codePoint & 0x3ff) << 10) +
 565                   (second & 0x3ff);
 566     } else {
 567       in.error("second character in surrogate pair is invalid");
 568     }
 569   } else if (codePoint >= 0xdc00 && codePoint <= 0xdfff) {
 570     in.error("invalid unicode code point (in range [0xdc00,0xdfff])");
 571   }
 572
 573   return codePointToUtf8(codePoint);
 574 }
 575
 576 fbstring parseString(Input& in) {
 577   assert(*in == '\"');
 578   ++in;
 579
 580   fbstring ret;
 581   for (;;) {
 582     auto range = in.skipWhile(
 583       [] (char c) { return c != '\"' && c != '\\'; }
 584     );
 585     ret.append(range.begin(), range.end());
 586
 587     if (*in == '\"') {
 588       ++in;
 589       break;
 590     }
 591     if (*in == '\\') {
 592       ++in;
 593       switch (*in) {
 594       case '\"':    ret.push_back('\"'); ++in; break;
 595       case '\\':    ret.push_back('\\'); ++in; break;
 596       case '/':     ret.push_back('/');  ++in; break;
 597       case 'b':     ret.push_back('\b'); ++in; break;
 598       case 'f':     ret.push_back('\f'); ++in; break;
 599       case 'n':     ret.push_back('\n'); ++in; break;
 600       case 'r':     ret.push_back('\r'); ++in; break;
 601       case 't':     ret.push_back('\t'); ++in; break;
 602       case 'u':     ++in; ret += decodeUnicodeEscape(in); break;
 603       default:      in.error(to<fbstring>("unknown escape ", *in,
 604                                           " in string").c_str());
 605       }
 606       continue;
 607     }
 608     if (*in == EOF) {
 609       in.error("unterminated string");
 610     }
 611     if (!*in) {
 612       /*
 613        * Apparently we're actually supposed to ban all control
 614        * characters from strings.  This seems unnecessarily
 615        * restrictive, so we're only banning zero bytes.  (Since the
 616        * string is presumed to be UTF-8 encoded it's fine to just
 617        * check this way.)
 618        */
 619       in.error("null byte in string");
 620     }
 621
 622     ret.push_back(*in);
 623     ++in;
 624   }
 625
 626   return ret;
 627 }
 628
 629 dynamic parseValue(Input& in) {
 630   in.skipWhitespace();
 631   return *in == '[' ? parseArray(in) :
 632          *in == '{' ? parseObject(in) :
 633          *in == '\"' ? parseString(in) :
 634          (*in == '-' || (*in >= '0' && *in <= '9')) ? parseNumber(in) :
 635          in.consume("true") ? true :
 636          in.consume("false") ? false :
 637          in.consume("null") ? nullptr :
 638          in.consume("Infinity") ?
 639           (in.getOpts().parse_numbers_as_strings ? (dynamic)"Infinity" :
 640             (dynamic)std::numeric_limits<double>::infinity()) :
 641          in.consume("NaN") ?
 642            (in.getOpts().parse_numbers_as_strings ? (dynamic)"NaN" :
 643              (dynamic)std::numeric_limits<double>::quiet_NaN()) :
 644          in.error("expected json value");
 645 }
 646
 647 }
 648
 649 //////////////////////////////////////////////////////////////////////
 650
 651 fbstring serialize(dynamic const& dyn, serialization_opts const& opts) {
 652   fbstring ret;
 653   unsigned indentLevel = 0;
 654   Printer p(ret, opts.pretty_formatting ? &indentLevel : nullptr, &opts);
 655   p(dyn);
 656   return ret;
 657 }
 658
 659 // Escape a string so that it is legal to print it in JSON text.
 660 void escapeString(StringPiece input,
 661                   fbstring& out,
 662                   const serialization_opts& opts) {
 663   auto hexDigit = [] (int c) -> char {
 664     return c < 10 ? c + '0' : c - 10 + 'a';
 665   };
 666
 667   out.reserve(out.size() + input.size() + 2);
 668   out.push_back('\"');
 669
 670   auto* p = reinterpret_cast<const unsigned char*>(input.begin());
 671   auto* q = reinterpret_cast<const unsigned char*>(input.begin());
 672   auto* e = reinterpret_cast<const unsigned char*>(input.end());
 673
 674   while (p < e) {
 675     // Since non-ascii encoding inherently does utf8 validation
 676     // we explicitly validate utf8 only if non-ascii encoding is disabled.
 677     if ((opts.validate_utf8 || opts.skip_invalid_utf8)
 678         && !opts.encode_non_ascii) {
 679       // to achieve better spatial and temporal coherence
 680       // we do utf8 validation progressively along with the
 681       // string-escaping instead of two separate passes
 682
 683       // as the encoding progresses, q will stay at or ahead of p
 684       CHECK(q >= p);
 685
 686       // as p catches up with q, move q forward
 687       if (q == p) {
 688         // calling utf8_decode has the side effect of
 689         // checking that utf8 encodings are valid
 690         char32_t v = decodeUtf8(q, e, opts.skip_invalid_utf8);
 691         if (opts.skip_invalid_utf8 && v == U'\ufffd') {
 692           out.append("\ufffd");
 693           p = q;
 694           continue;
 695         }
 696       }
 697     }
 698     if (opts.encode_non_ascii && (*p & 0x80)) {
 699       // note that this if condition captures utf8 chars
 700       // with value > 127, so size > 1 byte
 701       char32_t v = decodeUtf8(p, e, opts.skip_invalid_utf8);
 702       out.append("\\u");
 703       out.push_back(hexDigit(v >> 12));
 704       out.push_back(hexDigit((v >> 8) & 0x0f));
 705       out.push_back(hexDigit((v >> 4) & 0x0f));
 706       out.push_back(hexDigit(v & 0x0f));
 707     } else if (*p == '\\' || *p == '\"') {
 708       out.push_back('\\');
 709       out.push_back(*p++);
 710     } else if (*p <= 0x1f) {
 711       switch (*p) {
 712         case '\b': out.append("\\b"); p++; break;
 713         case '\f': out.append("\\f"); p++; break;
 714         case '\n': out.append("\\n"); p++; break;
 715         case '\r': out.append("\\r"); p++; break;
 716         case '\t': out.append("\\t"); p++; break;
 717         default:
 718           // note that this if condition captures non readable chars
 719           // with value < 32, so size = 1 byte (e.g control chars).
 720           out.append("\\u00");
 721           out.push_back(hexDigit((*p & 0xf0) >> 4));
 722           out.push_back(hexDigit(*p & 0xf));
 723           p++;
 724       }
 725     } else {
 726       out.push_back(*p++);
 727     }
 728   }
 729
 730   out.push_back('\"');
 731 }
 732
 733 fbstring stripComments(StringPiece jsonC) {
 734   fbstring result;
 735   enum class State {
 736     None,
 737     InString,
 738     InlineComment,
 739     LineComment
 740   } state = State::None;
 741
 742   for (size_t i = 0; i < jsonC.size(); ++i) {
 743     auto s = jsonC.subpiece(i);
 744     switch (state) {
 745       case State::None:
 746         if (s.startsWith("/*")) {
 747           state = State::InlineComment;
 748           ++i;
 749           continue;
 750         } else if (s.startsWith("//")) {
 751           state = State::LineComment;
 752           ++i;
 753           continue;
 754         } else if (s[0] == '\"') {
 755           state = State::InString;
 756         }
 757         result.push_back(s[0]);
 758         break;
 759       case State::InString:
 760         if (s[0] == '\\') {
 761           if (UNLIKELY(s.size() == 1)) {
 762             throw std::logic_error("Invalid JSONC: string is not terminated");
 763           }
 764           result.push_back(s[0]);
 765           result.push_back(s[1]);
 766           ++i;
 767           continue;
 768         } else if (s[0] == '\"') {
 769           state = State::None;
 770         }
 771         result.push_back(s[0]);
 772         break;
 773       case State::InlineComment:
 774         if (s.startsWith("*/")) {
 775           state = State::None;
 776           ++i;
 777         }
 778         break;
 779       case State::LineComment:
 780         if (s[0] == '\n') {
 781           // skip the line break. It doesn't matter.
 782           state = State::None;
 783         }
 784         break;
 785       default:
 786         throw std::logic_error("Unknown comment state");
 787     }
 788   }
 789   return result;
 790 }
 791
 792 }
 793
 794 //////////////////////////////////////////////////////////////////////
 795
 796 dynamic parseJson(StringPiece range) {
 797   return parseJson(range, json::serialization_opts());
 798 }
 799
 800 dynamic parseJson(
 801     StringPiece range,
 802     json::serialization_opts const& opts) {
 803
 804   json::Input in(range, &opts);
 805
 806   auto ret = parseValue(in);
 807   in.skipWhitespace();
 808   if (in.size() && *in != '\0') {
 809     in.error("parsing didn't consume all input");
 810   }
 811   return ret;
 812 }
 813
 814 fbstring toJson(dynamic const& dyn) {
 815   return json::serialize(dyn, json::serialization_opts());
 816 }
 817
 818 fbstring toPrettyJson(dynamic const& dyn) {
 819   json::serialization_opts opts;
 820   opts.pretty_formatting = true;
 821   return json::serialize(dyn, opts);
 822 }
 823
 824 //////////////////////////////////////////////////////////////////////
 825 // dynamic::print_as_pseudo_json() is implemented here for header
 826 // ordering reasons (most of the dynamic implementation is in
 827 // dynamic-inl.h, which we don't want to include json.h).
 828
 829 void dynamic::print_as_pseudo_json(std::ostream& out) const {
 830   json::serialization_opts opts;
 831   opts.allow_non_string_keys = true;
 832   opts.allow_nan_inf = true;
 833   out << json::serialize(*this, opts);
 834 }
 835
 836 void PrintTo(const dynamic& dyn, std::ostream* os) {
 837   json::serialization_opts opts;
 838   opts.allow_nan_inf = true;
 839   opts.allow_non_string_keys = true;
 840   opts.pretty_formatting = true;
 841   opts.sort_keys = true;
 842   *os << json::serialize(dyn, opts);
 843 }
 844
 845 //////////////////////////////////////////////////////////////////////
 846
 847 }