Fix TFO refused case
[folly.git] / folly / io / async / AsyncSSLSocket.cpp
1 /*
2  * Copyright 2016 Facebook, Inc.
3  *
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at
7  *
8  *   http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  */
16
17 #include <folly/io/async/AsyncSSLSocket.h>
18
19 #include <folly/io/async/EventBase.h>
20 #include <folly/portability/Sockets.h>
21
22 #include <boost/noncopyable.hpp>
23 #include <errno.h>
24 #include <fcntl.h>
25 #include <openssl/err.h>
26 #include <openssl/asn1.h>
27 #include <openssl/ssl.h>
28 #include <sys/types.h>
29 #include <chrono>
30
31 #include <folly/Bits.h>
32 #include <folly/SocketAddress.h>
33 #include <folly/SpinLock.h>
34 #include <folly/io/IOBuf.h>
35 #include <folly/io/Cursor.h>
36 #include <folly/portability/Unistd.h>
37
38 using folly::SocketAddress;
39 using folly::SSLContext;
40 using std::string;
41 using std::shared_ptr;
42
43 using folly::Endian;
44 using folly::IOBuf;
45 using folly::SpinLock;
46 using folly::SpinLockGuard;
47 using folly::io::Cursor;
48 using std::unique_ptr;
49 using std::bind;
50
51 namespace {
52 using folly::AsyncSocket;
53 using folly::AsyncSocketException;
54 using folly::AsyncSSLSocket;
55 using folly::Optional;
56 using folly::SSLContext;
57 using folly::ssl::OpenSSLUtils;
58
59 // We have one single dummy SSL context so that we can implement attach
60 // and detach methods in a thread safe fashion without modifying opnessl.
61 static SSLContext *dummyCtx = nullptr;
62 static SpinLock dummyCtxLock;
63
64 // If given min write size is less than this, buffer will be allocated on
65 // stack, otherwise it is allocated on heap
66 const size_t MAX_STACK_BUF_SIZE = 2048;
67
68 // This converts "illegal" shutdowns into ZERO_RETURN
69 inline bool zero_return(int error, int rc) {
70   return (error == SSL_ERROR_ZERO_RETURN || (rc == 0 && errno == 0));
71 }
72
73 class AsyncSSLSocketConnector: public AsyncSocket::ConnectCallback,
74                                 public AsyncSSLSocket::HandshakeCB {
75
76  private:
77   AsyncSSLSocket *sslSocket_;
78   AsyncSSLSocket::ConnectCallback *callback_;
79   int timeout_;
80   int64_t startTime_;
81
82  protected:
83   ~AsyncSSLSocketConnector() override {}
84
85  public:
86   AsyncSSLSocketConnector(AsyncSSLSocket *sslSocket,
87                            AsyncSocket::ConnectCallback *callback,
88                            int timeout) :
89       sslSocket_(sslSocket),
90       callback_(callback),
91       timeout_(timeout),
92       startTime_(std::chrono::duration_cast<std::chrono::milliseconds>(
93                    std::chrono::steady_clock::now().time_since_epoch()).count()) {
94   }
95
96   void connectSuccess() noexcept override {
97     VLOG(7) << "client socket connected";
98
99     int64_t timeoutLeft = 0;
100     if (timeout_ > 0) {
101       auto curTime = std::chrono::duration_cast<std::chrono::milliseconds>(
102         std::chrono::steady_clock::now().time_since_epoch()).count();
103
104       timeoutLeft = timeout_ - (curTime - startTime_);
105       if (timeoutLeft <= 0) {
106         AsyncSocketException ex(AsyncSocketException::TIMED_OUT,
107                                 "SSL connect timed out");
108         fail(ex);
109         delete this;
110         return;
111       }
112     }
113     sslSocket_->sslConn(this, timeoutLeft);
114   }
115
116   void connectErr(const AsyncSocketException& ex) noexcept override {
117     VLOG(1) << "TCP connect failed: " << ex.what();
118     fail(ex);
119     delete this;
120   }
121
122   void handshakeSuc(AsyncSSLSocket* /* sock */) noexcept override {
123     VLOG(7) << "client handshake success";
124     if (callback_) {
125       callback_->connectSuccess();
126     }
127     delete this;
128   }
129
130   void handshakeErr(AsyncSSLSocket* /* socket */,
131                     const AsyncSocketException& ex) noexcept override {
132     VLOG(1) << "client handshakeErr: " << ex.what();
133     fail(ex);
134     delete this;
135   }
136
137   void fail(const AsyncSocketException &ex) {
138     // fail is a noop if called twice
139     if (callback_) {
140       AsyncSSLSocket::ConnectCallback *cb = callback_;
141       callback_ = nullptr;
142
143       cb->connectErr(ex);
144       sslSocket_->closeNow();
145       // closeNow can call handshakeErr if it hasn't been called already.
146       // So this may have been deleted, no member variable access beyond this
147       // point
148       // Note that closeNow may invoke writeError callbacks if the socket had
149       // write data pending connection completion.
150     }
151   }
152 };
153
154 void setup_SSL_CTX(SSL_CTX *ctx) {
155 #ifdef SSL_MODE_RELEASE_BUFFERS
156   SSL_CTX_set_mode(ctx,
157                    SSL_MODE_ACCEPT_MOVING_WRITE_BUFFER |
158                    SSL_MODE_ENABLE_PARTIAL_WRITE
159                    | SSL_MODE_RELEASE_BUFFERS
160                    );
161 #else
162   SSL_CTX_set_mode(ctx,
163                    SSL_MODE_ACCEPT_MOVING_WRITE_BUFFER |
164                    SSL_MODE_ENABLE_PARTIAL_WRITE
165                    );
166 #endif
167 // SSL_CTX_set_mode is a Macro
168 #ifdef SSL_MODE_WRITE_IOVEC
169   SSL_CTX_set_mode(ctx,
170                    SSL_CTX_get_mode(ctx)
171                    | SSL_MODE_WRITE_IOVEC);
172 #endif
173
174 }
175
176 BIO_METHOD sslWriteBioMethod;
177
178 void* initsslWriteBioMethod(void) {
179   memcpy(&sslWriteBioMethod, BIO_s_socket(), sizeof(sslWriteBioMethod));
180   // override the bwrite method for MSG_EOR support
181   OpenSSLUtils::setCustomBioWriteMethod(
182       &sslWriteBioMethod, AsyncSSLSocket::bioWrite);
183
184   // Note that the sslWriteBioMethod.type and sslWriteBioMethod.name are not
185   // set here. openssl code seems to be checking ".type == BIO_TYPE_SOCKET" and
186   // then have specific handlings. The sslWriteBioWrite should be compatible
187   // with the one in openssl.
188
189   // Return something here to enable AsyncSSLSocket to call this method using
190   // a function-scoped static.
191   return nullptr;
192 }
193
194 } // anonymous namespace
195
196 namespace folly {
197
198 /**
199  * Create a client AsyncSSLSocket
200  */
201 AsyncSSLSocket::AsyncSSLSocket(const shared_ptr<SSLContext> &ctx,
202                                EventBase* evb, bool deferSecurityNegotiation) :
203     AsyncSocket(evb),
204     ctx_(ctx),
205     handshakeTimeout_(this, evb),
206     connectionTimeout_(this, evb) {
207   init();
208   if (deferSecurityNegotiation) {
209     sslState_ = STATE_UNENCRYPTED;
210   }
211 }
212
213 /**
214  * Create a server/client AsyncSSLSocket
215  */
216 AsyncSSLSocket::AsyncSSLSocket(const shared_ptr<SSLContext>& ctx,
217                                EventBase* evb, int fd, bool server,
218                                bool deferSecurityNegotiation) :
219     AsyncSocket(evb, fd),
220     server_(server),
221     ctx_(ctx),
222     handshakeTimeout_(this, evb),
223     connectionTimeout_(this, evb) {
224   init();
225   if (server) {
226     SSL_CTX_set_info_callback(ctx_->getSSLCtx(),
227                               AsyncSSLSocket::sslInfoCallback);
228   }
229   if (deferSecurityNegotiation) {
230     sslState_ = STATE_UNENCRYPTED;
231   }
232 }
233
234 #if OPENSSL_VERSION_NUMBER >= 0x1000105fL && !defined(OPENSSL_NO_TLSEXT)
235 /**
236  * Create a client AsyncSSLSocket and allow tlsext_hostname
237  * to be sent in Client Hello.
238  */
239 AsyncSSLSocket::AsyncSSLSocket(const shared_ptr<SSLContext> &ctx,
240                                  EventBase* evb,
241                                const std::string& serverName,
242                                bool deferSecurityNegotiation) :
243     AsyncSSLSocket(ctx, evb, deferSecurityNegotiation) {
244   tlsextHostname_ = serverName;
245 }
246
247 /**
248  * Create a client AsyncSSLSocket from an already connected fd
249  * and allow tlsext_hostname to be sent in Client Hello.
250  */
251 AsyncSSLSocket::AsyncSSLSocket(const shared_ptr<SSLContext>& ctx,
252                                  EventBase* evb, int fd,
253                                const std::string& serverName,
254                                bool deferSecurityNegotiation) :
255     AsyncSSLSocket(ctx, evb, fd, false, deferSecurityNegotiation) {
256   tlsextHostname_ = serverName;
257 }
258 #endif
259
260 AsyncSSLSocket::~AsyncSSLSocket() {
261   VLOG(3) << "actual destruction of AsyncSSLSocket(this=" << this
262           << ", evb=" << eventBase_ << ", fd=" << fd_
263           << ", state=" << int(state_) << ", sslState="
264           << sslState_ << ", events=" << eventFlags_ << ")";
265 }
266
267 void AsyncSSLSocket::init() {
268   // Do this here to ensure we initialize this once before any use of
269   // AsyncSSLSocket instances and not as part of library load.
270   static const auto sslWriteBioMethodInitializer = initsslWriteBioMethod();
271   (void)sslWriteBioMethodInitializer;
272
273   setup_SSL_CTX(ctx_->getSSLCtx());
274 }
275
276 void AsyncSSLSocket::closeNow() {
277   // Close the SSL connection.
278   if (ssl_ != nullptr && fd_ != -1) {
279     int rc = SSL_shutdown(ssl_);
280     if (rc == 0) {
281       rc = SSL_shutdown(ssl_);
282     }
283     if (rc < 0) {
284       ERR_clear_error();
285     }
286   }
287
288   if (sslSession_ != nullptr) {
289     SSL_SESSION_free(sslSession_);
290     sslSession_ = nullptr;
291   }
292
293   sslState_ = STATE_CLOSED;
294
295   if (handshakeTimeout_.isScheduled()) {
296     handshakeTimeout_.cancelTimeout();
297   }
298
299   DestructorGuard dg(this);
300
301   invokeHandshakeErr(
302       AsyncSocketException(
303         AsyncSocketException::END_OF_FILE,
304         "SSL connection closed locally"));
305
306   if (ssl_ != nullptr) {
307     SSL_free(ssl_);
308     ssl_ = nullptr;
309   }
310
311   // Close the socket.
312   AsyncSocket::closeNow();
313 }
314
315 void AsyncSSLSocket::shutdownWrite() {
316   // SSL sockets do not support half-shutdown, so just perform a full shutdown.
317   //
318   // (Performing a full shutdown here is more desirable than doing nothing at
319   // all.  The purpose of shutdownWrite() is normally to notify the other end
320   // of the connection that no more data will be sent.  If we do nothing, the
321   // other end will never know that no more data is coming, and this may result
322   // in protocol deadlock.)
323   close();
324 }
325
326 void AsyncSSLSocket::shutdownWriteNow() {
327   closeNow();
328 }
329
330 bool AsyncSSLSocket::good() const {
331   return (AsyncSocket::good() &&
332           (sslState_ == STATE_ACCEPTING || sslState_ == STATE_CONNECTING ||
333            sslState_ == STATE_ESTABLISHED || sslState_ == STATE_UNENCRYPTED));
334 }
335
336 // The TAsyncTransport definition of 'good' states that the transport is
337 // ready to perform reads and writes, so sslState_ == UNINIT must report !good.
338 // connecting can be true when the sslState_ == UNINIT because the AsyncSocket
339 // is connected but we haven't initiated the call to SSL_connect.
340 bool AsyncSSLSocket::connecting() const {
341   return (!server_ &&
342           (AsyncSocket::connecting() ||
343            (AsyncSocket::good() && (sslState_ == STATE_UNINIT ||
344                                      sslState_ == STATE_CONNECTING))));
345 }
346
347 std::string AsyncSSLSocket::getApplicationProtocol() noexcept {
348   const unsigned char* protoName = nullptr;
349   unsigned protoLength;
350   if (getSelectedNextProtocolNoThrow(&protoName, &protoLength)) {
351     return std::string(reinterpret_cast<const char*>(protoName), protoLength);
352   }
353   return "";
354 }
355
356 bool AsyncSSLSocket::isEorTrackingEnabled() const {
357   return trackEor_;
358 }
359
360 void AsyncSSLSocket::setEorTracking(bool track) {
361   if (trackEor_ != track) {
362     trackEor_ = track;
363     appEorByteNo_ = 0;
364     minEorRawByteNo_ = 0;
365   }
366 }
367
368 size_t AsyncSSLSocket::getRawBytesWritten() const {
369   // The bio(s) in the write path are in a chain
370   // each bio flushes to the next and finally written into the socket
371   // to get the rawBytesWritten on the socket,
372   // get the write bytes of the last bio
373   BIO *b;
374   if (!ssl_ || !(b = SSL_get_wbio(ssl_))) {
375     return 0;
376   }
377   BIO* next = BIO_next(b);
378   while (next != NULL) {
379     b = next;
380     next = BIO_next(b);
381   }
382
383   return BIO_number_written(b);
384 }
385
386 size_t AsyncSSLSocket::getRawBytesReceived() const {
387   BIO *b;
388   if (!ssl_ || !(b = SSL_get_rbio(ssl_))) {
389     return 0;
390   }
391
392   return BIO_number_read(b);
393 }
394
395
396 void AsyncSSLSocket::invalidState(HandshakeCB* callback) {
397   LOG(ERROR) << "AsyncSSLSocket(this=" << this << ", fd=" << fd_
398              << ", state=" << int(state_) << ", sslState=" << sslState_ << ", "
399              << "events=" << eventFlags_ << ", server=" << short(server_)
400              << "): " << "sslAccept/Connect() called in invalid "
401              << "state, handshake callback " << handshakeCallback_
402              << ", new callback " << callback;
403   assert(!handshakeTimeout_.isScheduled());
404   sslState_ = STATE_ERROR;
405
406   AsyncSocketException ex(AsyncSocketException::INVALID_STATE,
407                          "sslAccept() called with socket in invalid state");
408
409   handshakeEndTime_ = std::chrono::steady_clock::now();
410   if (callback) {
411     callback->handshakeErr(this, ex);
412   }
413
414   // Check the socket state not the ssl state here.
415   if (state_ != StateEnum::CLOSED || state_ != StateEnum::ERROR) {
416     failHandshake(__func__, ex);
417   }
418 }
419
420 void AsyncSSLSocket::sslAccept(HandshakeCB* callback, uint32_t timeout,
421       const SSLContext::SSLVerifyPeerEnum& verifyPeer) {
422   DestructorGuard dg(this);
423   assert(eventBase_->isInEventBaseThread());
424   verifyPeer_ = verifyPeer;
425
426   // Make sure we're in the uninitialized state
427   if (!server_ || (sslState_ != STATE_UNINIT &&
428                    sslState_ != STATE_UNENCRYPTED) ||
429       handshakeCallback_ != nullptr) {
430     return invalidState(callback);
431   }
432
433   // Cache local and remote socket addresses to keep them available
434   // after socket file descriptor is closed.
435   if (cacheAddrOnFailure_ && -1 != getFd()) {
436     cacheLocalPeerAddr();
437   }
438
439   handshakeStartTime_ = std::chrono::steady_clock::now();
440   // Make end time at least >= start time.
441   handshakeEndTime_ = handshakeStartTime_;
442
443   sslState_ = STATE_ACCEPTING;
444   handshakeCallback_ = callback;
445
446   if (timeout > 0) {
447     handshakeTimeout_.scheduleTimeout(timeout);
448   }
449
450   /* register for a read operation (waiting for CLIENT HELLO) */
451   updateEventRegistration(EventHandler::READ, EventHandler::WRITE);
452 }
453
454 #if OPENSSL_VERSION_NUMBER >= 0x009080bfL
455 void AsyncSSLSocket::attachSSLContext(
456   const std::shared_ptr<SSLContext>& ctx) {
457
458   // Check to ensure we are in client mode. Changing a server's ssl
459   // context doesn't make sense since clients of that server would likely
460   // become confused when the server's context changes.
461   DCHECK(!server_);
462   DCHECK(!ctx_);
463   DCHECK(ctx);
464   DCHECK(ctx->getSSLCtx());
465   ctx_ = ctx;
466
467   // In order to call attachSSLContext, detachSSLContext must have been
468   // previously called which sets the socket's context to the dummy
469   // context. Thus we must acquire this lock.
470   SpinLockGuard guard(dummyCtxLock);
471   SSL_set_SSL_CTX(ssl_, ctx->getSSLCtx());
472 }
473
474 void AsyncSSLSocket::detachSSLContext() {
475   DCHECK(ctx_);
476   ctx_.reset();
477   // We aren't using the initial_ctx for now, and it can introduce race
478   // conditions in the destructor of the SSL object.
479 #ifndef OPENSSL_NO_TLSEXT
480   if (ssl_->initial_ctx) {
481     SSL_CTX_free(ssl_->initial_ctx);
482     ssl_->initial_ctx = nullptr;
483   }
484 #endif
485   SpinLockGuard guard(dummyCtxLock);
486   if (nullptr == dummyCtx) {
487     // We need to lazily initialize the dummy context so we don't
488     // accidentally override any programmatic settings to openssl
489     dummyCtx = new SSLContext;
490   }
491   // We must remove this socket's references to its context right now
492   // since this socket could get passed to any thread. If the context has
493   // had its locking disabled, just doing a set in attachSSLContext()
494   // would not be thread safe.
495   SSL_set_SSL_CTX(ssl_, dummyCtx->getSSLCtx());
496 }
497 #endif
498
499 #if OPENSSL_VERSION_NUMBER >= 0x1000105fL && !defined(OPENSSL_NO_TLSEXT)
500 void AsyncSSLSocket::switchServerSSLContext(
501   const std::shared_ptr<SSLContext>& handshakeCtx) {
502   CHECK(server_);
503   if (sslState_ != STATE_ACCEPTING) {
504     // We log it here and allow the switch.
505     // It should not affect our re-negotiation support (which
506     // is not supported now).
507     VLOG(6) << "fd=" << getFd()
508             << " renegotation detected when switching SSL_CTX";
509   }
510
511   setup_SSL_CTX(handshakeCtx->getSSLCtx());
512   SSL_CTX_set_info_callback(handshakeCtx->getSSLCtx(),
513                             AsyncSSLSocket::sslInfoCallback);
514   handshakeCtx_ = handshakeCtx;
515   SSL_set_SSL_CTX(ssl_, handshakeCtx->getSSLCtx());
516 }
517
518 bool AsyncSSLSocket::isServerNameMatch() const {
519   CHECK(!server_);
520
521   if (!ssl_) {
522     return false;
523   }
524
525   SSL_SESSION *ss = SSL_get_session(ssl_);
526   if (!ss) {
527     return false;
528   }
529
530   if(!ss->tlsext_hostname) {
531     return false;
532   }
533   return (tlsextHostname_.compare(ss->tlsext_hostname) ? false : true);
534 }
535
536 void AsyncSSLSocket::setServerName(std::string serverName) noexcept {
537   tlsextHostname_ = std::move(serverName);
538 }
539
540 #endif
541
542 void AsyncSSLSocket::timeoutExpired() noexcept {
543   if (state_ == StateEnum::ESTABLISHED &&
544       (sslState_ == STATE_CACHE_LOOKUP ||
545        sslState_ == STATE_ASYNC_PENDING)) {
546     sslState_ = STATE_ERROR;
547     // We are expecting a callback in restartSSLAccept.  The cache lookup
548     // and rsa-call necessarily have pointers to this ssl socket, so delay
549     // the cleanup until he calls us back.
550   } else if (state_ == StateEnum::CONNECTING) {
551     assert(sslState_ == STATE_CONNECTING);
552     DestructorGuard dg(this);
553     AsyncSocketException ex(AsyncSocketException::TIMED_OUT,
554                            "Fallback connect timed out during TFO");
555     failHandshake(__func__, ex);
556   } else {
557     assert(state_ == StateEnum::ESTABLISHED &&
558            (sslState_ == STATE_CONNECTING || sslState_ == STATE_ACCEPTING));
559     DestructorGuard dg(this);
560     AsyncSocketException ex(AsyncSocketException::TIMED_OUT,
561                            (sslState_ == STATE_CONNECTING) ?
562                            "SSL connect timed out" : "SSL accept timed out");
563     failHandshake(__func__, ex);
564   }
565 }
566
567 int AsyncSSLSocket::getSSLExDataIndex() {
568   static auto index = SSL_get_ex_new_index(
569       0, (void*)"AsyncSSLSocket data index", nullptr, nullptr, nullptr);
570   return index;
571 }
572
573 AsyncSSLSocket* AsyncSSLSocket::getFromSSL(const SSL *ssl) {
574   return static_cast<AsyncSSLSocket *>(SSL_get_ex_data(ssl,
575       getSSLExDataIndex()));
576 }
577
578 void AsyncSSLSocket::failHandshake(const char* /* fn */,
579                                    const AsyncSocketException& ex) {
580   startFail();
581   if (handshakeTimeout_.isScheduled()) {
582     handshakeTimeout_.cancelTimeout();
583   }
584   invokeHandshakeErr(ex);
585   finishFail();
586 }
587
588 void AsyncSSLSocket::invokeHandshakeErr(const AsyncSocketException& ex) {
589   handshakeEndTime_ = std::chrono::steady_clock::now();
590   if (handshakeCallback_ != nullptr) {
591     HandshakeCB* callback = handshakeCallback_;
592     handshakeCallback_ = nullptr;
593     callback->handshakeErr(this, ex);
594   }
595 }
596
597 void AsyncSSLSocket::invokeHandshakeCB() {
598   handshakeEndTime_ = std::chrono::steady_clock::now();
599   if (handshakeTimeout_.isScheduled()) {
600     handshakeTimeout_.cancelTimeout();
601   }
602   if (handshakeCallback_) {
603     HandshakeCB* callback = handshakeCallback_;
604     handshakeCallback_ = nullptr;
605     callback->handshakeSuc(this);
606   }
607 }
608
609 void AsyncSSLSocket::cacheLocalPeerAddr() {
610   SocketAddress address;
611   try {
612     getLocalAddress(&address);
613     getPeerAddress(&address);
614   } catch (const std::system_error& e) {
615     // The handle can be still valid while the connection is already closed.
616     if (e.code() != std::error_code(ENOTCONN, std::system_category())) {
617       throw;
618     }
619   }
620 }
621
622 void AsyncSSLSocket::connect(ConnectCallback* callback,
623                               const folly::SocketAddress& address,
624                               int timeout,
625                               const OptionMap &options,
626                               const folly::SocketAddress& bindAddr)
627                               noexcept {
628   assert(!server_);
629   assert(state_ == StateEnum::UNINIT);
630   assert(sslState_ == STATE_UNINIT);
631   AsyncSSLSocketConnector *connector =
632     new AsyncSSLSocketConnector(this, callback, timeout);
633   AsyncSocket::connect(connector, address, timeout, options, bindAddr);
634 }
635
636 void AsyncSSLSocket::applyVerificationOptions(SSL * ssl) {
637   // apply the settings specified in verifyPeer_
638   if (verifyPeer_ == SSLContext::SSLVerifyPeerEnum::USE_CTX) {
639     if(ctx_->needsPeerVerification()) {
640       SSL_set_verify(ssl, ctx_->getVerificationMode(),
641         AsyncSSLSocket::sslVerifyCallback);
642     }
643   } else {
644     if (verifyPeer_ == SSLContext::SSLVerifyPeerEnum::VERIFY ||
645         verifyPeer_ == SSLContext::SSLVerifyPeerEnum::VERIFY_REQ_CLIENT_CERT) {
646       SSL_set_verify(ssl, SSLContext::getVerificationMode(verifyPeer_),
647         AsyncSSLSocket::sslVerifyCallback);
648     }
649   }
650 }
651
652 bool AsyncSSLSocket::setupSSLBio() {
653   auto wb = BIO_new(&sslWriteBioMethod);
654
655   if (!wb) {
656     return false;
657   }
658
659   OpenSSLUtils::setBioAppData(wb, this);
660   OpenSSLUtils::setBioFd(wb, fd_, BIO_NOCLOSE);
661   SSL_set_bio(ssl_, wb, wb);
662   return true;
663 }
664
665 void AsyncSSLSocket::sslConn(HandshakeCB* callback, uint64_t timeout,
666         const SSLContext::SSLVerifyPeerEnum& verifyPeer) {
667   DestructorGuard dg(this);
668   assert(eventBase_->isInEventBaseThread());
669
670   // Cache local and remote socket addresses to keep them available
671   // after socket file descriptor is closed.
672   if (cacheAddrOnFailure_ && -1 != getFd()) {
673     cacheLocalPeerAddr();
674   }
675
676   verifyPeer_ = verifyPeer;
677
678   // Make sure we're in the uninitialized state
679   if (server_ || (sslState_ != STATE_UNINIT && sslState_ !=
680                   STATE_UNENCRYPTED) ||
681       handshakeCallback_ != nullptr) {
682     return invalidState(callback);
683   }
684
685   sslState_ = STATE_CONNECTING;
686   handshakeCallback_ = callback;
687
688   try {
689     ssl_ = ctx_->createSSL();
690   } catch (std::exception &e) {
691     sslState_ = STATE_ERROR;
692     AsyncSocketException ex(AsyncSocketException::INTERNAL_ERROR,
693                            "error calling SSLContext::createSSL()");
694     LOG(ERROR) << "AsyncSSLSocket::sslConn(this=" << this << ", fd="
695             << fd_ << "): " << e.what();
696     return failHandshake(__func__, ex);
697   }
698
699   if (!setupSSLBio()) {
700     sslState_ = STATE_ERROR;
701     AsyncSocketException ex(
702         AsyncSocketException::INTERNAL_ERROR, "error creating SSL bio");
703     return failHandshake(__func__, ex);
704   }
705
706   applyVerificationOptions(ssl_);
707
708   if (sslSession_ != nullptr) {
709     sessionResumptionAttempted_ = true;
710     SSL_set_session(ssl_, sslSession_);
711     SSL_SESSION_free(sslSession_);
712     sslSession_ = nullptr;
713   }
714 #if OPENSSL_VERSION_NUMBER >= 0x1000105fL && !defined(OPENSSL_NO_TLSEXT)
715   if (tlsextHostname_.size()) {
716     SSL_set_tlsext_host_name(ssl_, tlsextHostname_.c_str());
717   }
718 #endif
719
720   SSL_set_ex_data(ssl_, getSSLExDataIndex(), this);
721
722   handshakeConnectTimeout_ = timeout;
723   startSSLConnect();
724 }
725
726 // This could be called multiple times, during normal ssl connections
727 // and after TFO fallback.
728 void AsyncSSLSocket::startSSLConnect() {
729   handshakeStartTime_ = std::chrono::steady_clock::now();
730   // Make end time at least >= start time.
731   handshakeEndTime_ = handshakeStartTime_;
732   if (handshakeConnectTimeout_ > 0) {
733     handshakeTimeout_.scheduleTimeout(handshakeConnectTimeout_);
734   }
735   handleConnect();
736 }
737
738 SSL_SESSION *AsyncSSLSocket::getSSLSession() {
739   if (ssl_ != nullptr && sslState_ == STATE_ESTABLISHED) {
740     return SSL_get1_session(ssl_);
741   }
742
743   return sslSession_;
744 }
745
746 const SSL* AsyncSSLSocket::getSSL() const {
747   return ssl_;
748 }
749
750 void AsyncSSLSocket::setSSLSession(SSL_SESSION *session, bool takeOwnership) {
751   sslSession_ = session;
752   if (!takeOwnership && session != nullptr) {
753     // Increment the reference count
754     CRYPTO_add(&session->references, 1, CRYPTO_LOCK_SSL_SESSION);
755   }
756 }
757
758 void AsyncSSLSocket::getSelectedNextProtocol(
759     const unsigned char** protoName,
760     unsigned* protoLen,
761     SSLContext::NextProtocolType* protoType) const {
762   if (!getSelectedNextProtocolNoThrow(protoName, protoLen, protoType)) {
763     throw AsyncSocketException(AsyncSocketException::NOT_SUPPORTED,
764                               "NPN not supported");
765   }
766 }
767
768 bool AsyncSSLSocket::getSelectedNextProtocolNoThrow(
769     const unsigned char** protoName,
770     unsigned* protoLen,
771     SSLContext::NextProtocolType* protoType) const {
772   *protoName = nullptr;
773   *protoLen = 0;
774 #if OPENSSL_VERSION_NUMBER >= 0x1000200fL && !defined(OPENSSL_NO_TLSEXT)
775   SSL_get0_alpn_selected(ssl_, protoName, protoLen);
776   if (*protoLen > 0) {
777     if (protoType) {
778       *protoType = SSLContext::NextProtocolType::ALPN;
779     }
780     return true;
781   }
782 #endif
783 #ifdef OPENSSL_NPN_NEGOTIATED
784   SSL_get0_next_proto_negotiated(ssl_, protoName, protoLen);
785   if (protoType) {
786     *protoType = SSLContext::NextProtocolType::NPN;
787   }
788   return true;
789 #else
790   (void)protoType;
791   return false;
792 #endif
793 }
794
795 bool AsyncSSLSocket::getSSLSessionReused() const {
796   if (ssl_ != nullptr && sslState_ == STATE_ESTABLISHED) {
797     return SSL_session_reused(ssl_);
798   }
799   return false;
800 }
801
802 const char *AsyncSSLSocket::getNegotiatedCipherName() const {
803   return (ssl_ != nullptr) ? SSL_get_cipher_name(ssl_) : nullptr;
804 }
805
806 /* static */
807 const char* AsyncSSLSocket::getSSLServerNameFromSSL(SSL* ssl) {
808   if (ssl == nullptr) {
809     return nullptr;
810   }
811 #ifdef SSL_CTRL_SET_TLSEXT_SERVERNAME_CB
812   return SSL_get_servername(ssl, TLSEXT_NAMETYPE_host_name);
813 #else
814   return nullptr;
815 #endif
816 }
817
818 const char *AsyncSSLSocket::getSSLServerName() const {
819 #ifdef SSL_CTRL_SET_TLSEXT_SERVERNAME_CB
820   return getSSLServerNameFromSSL(ssl_);
821 #else
822   throw AsyncSocketException(AsyncSocketException::NOT_SUPPORTED,
823                              "SNI not supported");
824 #endif
825 }
826
827 const char *AsyncSSLSocket::getSSLServerNameNoThrow() const {
828   return getSSLServerNameFromSSL(ssl_);
829 }
830
831 int AsyncSSLSocket::getSSLVersion() const {
832   return (ssl_ != nullptr) ? SSL_version(ssl_) : 0;
833 }
834
835 const char *AsyncSSLSocket::getSSLCertSigAlgName() const {
836   X509 *cert = (ssl_ != nullptr) ? SSL_get_certificate(ssl_) : nullptr;
837   if (cert) {
838     int nid = OBJ_obj2nid(cert->sig_alg->algorithm);
839     return OBJ_nid2ln(nid);
840   }
841   return nullptr;
842 }
843
844 int AsyncSSLSocket::getSSLCertSize() const {
845   int certSize = 0;
846   X509 *cert = (ssl_ != nullptr) ? SSL_get_certificate(ssl_) : nullptr;
847   if (cert) {
848     EVP_PKEY *key = X509_get_pubkey(cert);
849     certSize = EVP_PKEY_bits(key);
850     EVP_PKEY_free(key);
851   }
852   return certSize;
853 }
854
855 const X509* AsyncSSLSocket::getSelfCert() const {
856   return (ssl_ != nullptr) ? SSL_get_certificate(ssl_) : nullptr;
857 }
858
859 bool AsyncSSLSocket::willBlock(int ret,
860                                int* sslErrorOut,
861                                unsigned long* errErrorOut) noexcept {
862   *errErrorOut = 0;
863   int error = *sslErrorOut = SSL_get_error(ssl_, ret);
864   if (error == SSL_ERROR_WANT_READ) {
865     // Register for read event if not already.
866     updateEventRegistration(EventHandler::READ, EventHandler::WRITE);
867     return true;
868   } else if (error == SSL_ERROR_WANT_WRITE) {
869     VLOG(3) << "AsyncSSLSocket(fd=" << fd_
870             << ", state=" << int(state_) << ", sslState="
871             << sslState_ << ", events=" << eventFlags_ << "): "
872             << "SSL_ERROR_WANT_WRITE";
873     // Register for write event if not already.
874     updateEventRegistration(EventHandler::WRITE, EventHandler::READ);
875     return true;
876 #ifdef SSL_ERROR_WANT_SESS_CACHE_LOOKUP
877   } else if (error == SSL_ERROR_WANT_SESS_CACHE_LOOKUP) {
878     // We will block but we can't register our own socket.  The callback that
879     // triggered this code will re-call handleAccept at the appropriate time.
880
881     // We can only get here if the linked libssl.so has support for this feature
882     // as well, otherwise SSL_get_error cannot return our error code.
883     sslState_ = STATE_CACHE_LOOKUP;
884
885     // Unregister for all events while blocked here
886     updateEventRegistration(EventHandler::NONE,
887                             EventHandler::READ | EventHandler::WRITE);
888
889     // The timeout (if set) keeps running here
890     return true;
891 #endif
892   } else if (0
893 #ifdef SSL_ERROR_WANT_RSA_ASYNC_PENDING
894       || error == SSL_ERROR_WANT_RSA_ASYNC_PENDING
895 #endif
896 #ifdef SSL_ERROR_WANT_ECDSA_ASYNC_PENDING
897       || error == SSL_ERROR_WANT_ECDSA_ASYNC_PENDING
898 #endif
899       ) {
900     // Our custom openssl function has kicked off an async request to do
901     // rsa/ecdsa private key operation.  When that call returns, a callback will
902     // be invoked that will re-call handleAccept.
903     sslState_ = STATE_ASYNC_PENDING;
904
905     // Unregister for all events while blocked here
906     updateEventRegistration(
907       EventHandler::NONE,
908       EventHandler::READ | EventHandler::WRITE
909     );
910
911     // The timeout (if set) keeps running here
912     return true;
913   } else {
914     unsigned long lastError = *errErrorOut = ERR_get_error();
915     VLOG(6) << "AsyncSSLSocket(fd=" << fd_ << ", "
916             << "state=" << state_ << ", "
917             << "sslState=" << sslState_ << ", "
918             << "events=" << std::hex << eventFlags_ << "): "
919             << "SSL error: " << error << ", "
920             << "errno: " << errno << ", "
921             << "ret: " << ret << ", "
922             << "read: " << BIO_number_read(SSL_get_rbio(ssl_)) << ", "
923             << "written: " << BIO_number_written(SSL_get_wbio(ssl_)) << ", "
924             << "func: " << ERR_func_error_string(lastError) << ", "
925             << "reason: " << ERR_reason_error_string(lastError);
926     return false;
927   }
928 }
929
930 void AsyncSSLSocket::checkForImmediateRead() noexcept {
931   // openssl may have buffered data that it read from the socket already.
932   // In this case we have to process it immediately, rather than waiting for
933   // the socket to become readable again.
934   if (ssl_ != nullptr && SSL_pending(ssl_) > 0) {
935     AsyncSocket::handleRead();
936   }
937 }
938
939 void
940 AsyncSSLSocket::restartSSLAccept()
941 {
942   VLOG(3) << "AsyncSSLSocket::restartSSLAccept() this=" << this
943           << ", fd=" << fd_ << ", state=" << int(state_) << ", "
944           << "sslState=" << sslState_ << ", events=" << eventFlags_;
945   DestructorGuard dg(this);
946   assert(
947     sslState_ == STATE_CACHE_LOOKUP ||
948     sslState_ == STATE_ASYNC_PENDING ||
949     sslState_ == STATE_ERROR ||
950     sslState_ == STATE_CLOSED);
951   if (sslState_ == STATE_CLOSED) {
952     // I sure hope whoever closed this socket didn't delete it already,
953     // but this is not strictly speaking an error
954     return;
955   }
956   if (sslState_ == STATE_ERROR) {
957     // go straight to fail if timeout expired during lookup
958     AsyncSocketException ex(AsyncSocketException::TIMED_OUT,
959                            "SSL accept timed out");
960     failHandshake(__func__, ex);
961     return;
962   }
963   sslState_ = STATE_ACCEPTING;
964   this->handleAccept();
965 }
966
967 void
968 AsyncSSLSocket::handleAccept() noexcept {
969   VLOG(3) << "AsyncSSLSocket::handleAccept() this=" << this
970           << ", fd=" << fd_ << ", state=" << int(state_) << ", "
971           << "sslState=" << sslState_ << ", events=" << eventFlags_;
972   assert(server_);
973   assert(state_ == StateEnum::ESTABLISHED &&
974          sslState_ == STATE_ACCEPTING);
975   if (!ssl_) {
976     /* lazily create the SSL structure */
977     try {
978       ssl_ = ctx_->createSSL();
979     } catch (std::exception &e) {
980       sslState_ = STATE_ERROR;
981       AsyncSocketException ex(AsyncSocketException::INTERNAL_ERROR,
982                              "error calling SSLContext::createSSL()");
983       LOG(ERROR) << "AsyncSSLSocket::handleAccept(this=" << this
984                  << ", fd=" << fd_ << "): " << e.what();
985       return failHandshake(__func__, ex);
986     }
987
988     if (!setupSSLBio()) {
989       sslState_ = STATE_ERROR;
990       AsyncSocketException ex(
991           AsyncSocketException::INTERNAL_ERROR, "error creating write bio");
992       return failHandshake(__func__, ex);
993     }
994
995     SSL_set_ex_data(ssl_, getSSLExDataIndex(), this);
996
997     applyVerificationOptions(ssl_);
998   }
999
1000   if (server_ && parseClientHello_) {
1001     SSL_set_msg_callback(ssl_, &AsyncSSLSocket::clientHelloParsingCallback);
1002     SSL_set_msg_callback_arg(ssl_, this);
1003   }
1004
1005   int ret = SSL_accept(ssl_);
1006   if (ret <= 0) {
1007     int sslError;
1008     unsigned long errError;
1009     int errnoCopy = errno;
1010     if (willBlock(ret, &sslError, &errError)) {
1011       return;
1012     } else {
1013       sslState_ = STATE_ERROR;
1014       SSLException ex(sslError, errError, ret, errnoCopy);
1015       return failHandshake(__func__, ex);
1016     }
1017   }
1018
1019   handshakeComplete_ = true;
1020   updateEventRegistration(0, EventHandler::READ | EventHandler::WRITE);
1021
1022   // Move into STATE_ESTABLISHED in the normal case that we are in
1023   // STATE_ACCEPTING.
1024   sslState_ = STATE_ESTABLISHED;
1025
1026   VLOG(3) << "AsyncSSLSocket " << this << ": fd " << fd_
1027           << " successfully accepted; state=" << int(state_)
1028           << ", sslState=" << sslState_ << ", events=" << eventFlags_;
1029
1030   // Remember the EventBase we are attached to, before we start invoking any
1031   // callbacks (since the callbacks may call detachEventBase()).
1032   EventBase* originalEventBase = eventBase_;
1033
1034   // Call the accept callback.
1035   invokeHandshakeCB();
1036
1037   // Note that the accept callback may have changed our state.
1038   // (set or unset the read callback, called write(), closed the socket, etc.)
1039   // The following code needs to handle these situations correctly.
1040   //
1041   // If the socket has been closed, readCallback_ and writeReqHead_ will
1042   // always be nullptr, so that will prevent us from trying to read or write.
1043   //
1044   // The main thing to check for is if eventBase_ is still originalEventBase.
1045   // If not, we have been detached from this event base, so we shouldn't
1046   // perform any more operations.
1047   if (eventBase_ != originalEventBase) {
1048     return;
1049   }
1050
1051   AsyncSocket::handleInitialReadWrite();
1052 }
1053
1054 void
1055 AsyncSSLSocket::handleConnect() noexcept {
1056   VLOG(3) <<  "AsyncSSLSocket::handleConnect() this=" << this
1057           << ", fd=" << fd_ << ", state=" << int(state_) << ", "
1058           << "sslState=" << sslState_ << ", events=" << eventFlags_;
1059   assert(!server_);
1060   if (state_ < StateEnum::ESTABLISHED) {
1061     return AsyncSocket::handleConnect();
1062   }
1063
1064   assert(
1065       (state_ == StateEnum::FAST_OPEN || state_ == StateEnum::ESTABLISHED) &&
1066       sslState_ == STATE_CONNECTING);
1067   assert(ssl_);
1068
1069   auto originalState = state_;
1070   int ret = SSL_connect(ssl_);
1071   if (ret <= 0) {
1072     int sslError;
1073     unsigned long errError;
1074     int errnoCopy = errno;
1075     if (willBlock(ret, &sslError, &errError)) {
1076       // We fell back to connecting state due to TFO
1077       if (state_ == StateEnum::CONNECTING) {
1078         DCHECK_EQ(StateEnum::FAST_OPEN, originalState);
1079         if (handshakeTimeout_.isScheduled()) {
1080           handshakeTimeout_.cancelTimeout();
1081         }
1082       }
1083       return;
1084     } else {
1085       sslState_ = STATE_ERROR;
1086       SSLException ex(sslError, errError, ret, errnoCopy);
1087       return failHandshake(__func__, ex);
1088     }
1089   }
1090
1091   handshakeComplete_ = true;
1092   updateEventRegistration(0, EventHandler::READ | EventHandler::WRITE);
1093
1094   // Move into STATE_ESTABLISHED in the normal case that we are in
1095   // STATE_CONNECTING.
1096   sslState_ = STATE_ESTABLISHED;
1097
1098   VLOG(3) << "AsyncSSLSocket " << this << ": "
1099           << "fd " << fd_ << " successfully connected; "
1100           << "state=" << int(state_) << ", sslState=" << sslState_
1101           << ", events=" << eventFlags_;
1102
1103   // Remember the EventBase we are attached to, before we start invoking any
1104   // callbacks (since the callbacks may call detachEventBase()).
1105   EventBase* originalEventBase = eventBase_;
1106
1107   // Call the handshake callback.
1108   invokeHandshakeCB();
1109
1110   // Note that the connect callback may have changed our state.
1111   // (set or unset the read callback, called write(), closed the socket, etc.)
1112   // The following code needs to handle these situations correctly.
1113   //
1114   // If the socket has been closed, readCallback_ and writeReqHead_ will
1115   // always be nullptr, so that will prevent us from trying to read or write.
1116   //
1117   // The main thing to check for is if eventBase_ is still originalEventBase.
1118   // If not, we have been detached from this event base, so we shouldn't
1119   // perform any more operations.
1120   if (eventBase_ != originalEventBase) {
1121     return;
1122   }
1123
1124   AsyncSocket::handleInitialReadWrite();
1125 }
1126
1127 void AsyncSSLSocket::invokeConnectErr(const AsyncSocketException& ex) {
1128   connectionTimeout_.cancelTimeout();
1129   AsyncSocket::invokeConnectErr(ex);
1130   if (sslState_ == SSLStateEnum::STATE_CONNECTING) {
1131     assert(tfoAttempted_);
1132     if (handshakeTimeout_.isScheduled()) {
1133       handshakeTimeout_.cancelTimeout();
1134     }
1135     // If we fell back to connecting state during TFO and the connection
1136     // failed, it would be an SSL failure as well.
1137     invokeHandshakeErr(ex);
1138   }
1139 }
1140
1141 void AsyncSSLSocket::invokeConnectSuccess() {
1142   connectionTimeout_.cancelTimeout();
1143   if (sslState_ == SSLStateEnum::STATE_CONNECTING) {
1144     assert(tfoAttempted_);
1145     // If we failed TFO, we'd fall back to trying to connect the socket,
1146     // to setup things like timeouts.
1147     startSSLConnect();
1148   }
1149   // still invoke the base class since it re-sets the connect time.
1150   AsyncSocket::invokeConnectSuccess();
1151 }
1152
1153 void AsyncSSLSocket::scheduleConnectTimeout() {
1154   if (sslState_ == SSLStateEnum::STATE_CONNECTING) {
1155     // We fell back from TFO, and need to set the timeouts.
1156     // We will not have a connect callback in this case, thus if the timer
1157     // expires we would have no-one to notify.
1158     // Thus we should reset even the connect timers to point to the handshake
1159     // timeouts.
1160     assert(connectCallback_ == nullptr);
1161     // We use a different connect timeout here than the handshake timeout, so
1162     // that we can disambiguate the 2 timers.
1163     int timeout = connectTimeout_.count();
1164     if (timeout > 0) {
1165       if (!connectionTimeout_.scheduleTimeout(timeout)) {
1166         throw AsyncSocketException(
1167             AsyncSocketException::INTERNAL_ERROR,
1168             withAddr("failed to schedule AsyncSSLSocket connect timeout"));
1169       }
1170     }
1171     return;
1172   }
1173   AsyncSocket::scheduleConnectTimeout();
1174 }
1175
1176 void AsyncSSLSocket::setReadCB(ReadCallback *callback) {
1177 #ifdef SSL_MODE_MOVE_BUFFER_OWNERSHIP
1178   // turn on the buffer movable in openssl
1179   if (bufferMovableEnabled_ && ssl_ != nullptr && !isBufferMovable_ &&
1180       callback != nullptr && callback->isBufferMovable()) {
1181     SSL_set_mode(ssl_, SSL_get_mode(ssl_) | SSL_MODE_MOVE_BUFFER_OWNERSHIP);
1182     isBufferMovable_ = true;
1183   }
1184 #endif
1185
1186   AsyncSocket::setReadCB(callback);
1187 }
1188
1189 void AsyncSSLSocket::setBufferMovableEnabled(bool enabled) {
1190   bufferMovableEnabled_ = enabled;
1191 }
1192
1193 void AsyncSSLSocket::prepareReadBuffer(void** buf, size_t* buflen) {
1194   CHECK(readCallback_);
1195   if (isBufferMovable_) {
1196     *buf = nullptr;
1197     *buflen = 0;
1198   } else {
1199     // buf is necessary for SSLSocket without SSL_MODE_MOVE_BUFFER_OWNERSHIP
1200     readCallback_->getReadBuffer(buf, buflen);
1201   }
1202 }
1203
1204 void
1205 AsyncSSLSocket::handleRead() noexcept {
1206   VLOG(5) << "AsyncSSLSocket::handleRead() this=" << this << ", fd=" << fd_
1207           << ", state=" << int(state_) << ", "
1208           << "sslState=" << sslState_ << ", events=" << eventFlags_;
1209   if (state_ < StateEnum::ESTABLISHED) {
1210     return AsyncSocket::handleRead();
1211   }
1212
1213
1214   if (sslState_ == STATE_ACCEPTING) {
1215     assert(server_);
1216     handleAccept();
1217     return;
1218   }
1219   else if (sslState_ == STATE_CONNECTING) {
1220     assert(!server_);
1221     handleConnect();
1222     return;
1223   }
1224
1225   // Normal read
1226   AsyncSocket::handleRead();
1227 }
1228
1229 AsyncSocket::ReadResult
1230 AsyncSSLSocket::performRead(void** buf, size_t* buflen, size_t* offset) {
1231   VLOG(4) << "AsyncSSLSocket::performRead() this=" << this << ", buf=" << *buf
1232           << ", buflen=" << *buflen;
1233
1234   if (sslState_ == STATE_UNENCRYPTED) {
1235     return AsyncSocket::performRead(buf, buflen, offset);
1236   }
1237
1238   ssize_t bytes = 0;
1239   if (!isBufferMovable_) {
1240     bytes = SSL_read(ssl_, *buf, *buflen);
1241   }
1242 #ifdef SSL_MODE_MOVE_BUFFER_OWNERSHIP
1243   else {
1244     bytes = SSL_read_buf(ssl_, buf, (int *) offset, (int *) buflen);
1245   }
1246 #endif
1247
1248   if (server_ && renegotiateAttempted_) {
1249     LOG(ERROR) << "AsyncSSLSocket(fd=" << fd_ << ", state=" << int(state_)
1250                << ", sslstate=" << sslState_ << ", events=" << eventFlags_
1251                << "): client intitiated SSL renegotiation not permitted";
1252     return ReadResult(
1253         READ_ERROR,
1254         folly::make_unique<SSLException>(SSLError::CLIENT_RENEGOTIATION));
1255   }
1256   if (bytes <= 0) {
1257     int error = SSL_get_error(ssl_, bytes);
1258     if (error == SSL_ERROR_WANT_READ) {
1259       // The caller will register for read event if not already.
1260       if (errno == EWOULDBLOCK || errno == EAGAIN) {
1261         return ReadResult(READ_BLOCKING);
1262       } else {
1263         return ReadResult(READ_ERROR);
1264       }
1265     } else if (error == SSL_ERROR_WANT_WRITE) {
1266       // TODO: Even though we are attempting to read data, SSL_read() may
1267       // need to write data if renegotiation is being performed.  We currently
1268       // don't support this and just fail the read.
1269       LOG(ERROR) << "AsyncSSLSocket(fd=" << fd_ << ", state=" << int(state_)
1270                  << ", sslState=" << sslState_ << ", events=" << eventFlags_
1271                  << "): unsupported SSL renegotiation during read";
1272       return ReadResult(
1273           READ_ERROR,
1274           folly::make_unique<SSLException>(SSLError::INVALID_RENEGOTIATION));
1275     } else {
1276       if (zero_return(error, bytes)) {
1277         return ReadResult(bytes);
1278       }
1279       long errError = ERR_get_error();
1280       VLOG(6) << "AsyncSSLSocket(fd=" << fd_ << ", "
1281               << "state=" << state_ << ", "
1282               << "sslState=" << sslState_ << ", "
1283               << "events=" << std::hex << eventFlags_ << "): "
1284               << "bytes: " << bytes << ", "
1285               << "error: " << error << ", "
1286               << "errno: " << errno << ", "
1287               << "func: " << ERR_func_error_string(errError) << ", "
1288               << "reason: " << ERR_reason_error_string(errError);
1289       return ReadResult(
1290           READ_ERROR,
1291           folly::make_unique<SSLException>(error, errError, bytes, errno));
1292     }
1293   } else {
1294     appBytesReceived_ += bytes;
1295     return ReadResult(bytes);
1296   }
1297 }
1298
1299 void AsyncSSLSocket::handleWrite() noexcept {
1300   VLOG(5) << "AsyncSSLSocket::handleWrite() this=" << this << ", fd=" << fd_
1301           << ", state=" << int(state_) << ", "
1302           << "sslState=" << sslState_ << ", events=" << eventFlags_;
1303   if (state_ < StateEnum::ESTABLISHED) {
1304     return AsyncSocket::handleWrite();
1305   }
1306
1307   if (sslState_ == STATE_ACCEPTING) {
1308     assert(server_);
1309     handleAccept();
1310     return;
1311   }
1312
1313   if (sslState_ == STATE_CONNECTING) {
1314     assert(!server_);
1315     handleConnect();
1316     return;
1317   }
1318
1319   // Normal write
1320   AsyncSocket::handleWrite();
1321 }
1322
1323 AsyncSocket::WriteResult AsyncSSLSocket::interpretSSLError(int rc, int error) {
1324   if (error == SSL_ERROR_WANT_READ) {
1325     // Even though we are attempting to write data, SSL_write() may
1326     // need to read data if renegotiation is being performed.  We currently
1327     // don't support this and just fail the write.
1328     LOG(ERROR) << "AsyncSSLSocket(fd=" << fd_ << ", state=" << int(state_)
1329                << ", sslState=" << sslState_ << ", events=" << eventFlags_
1330                << "): "
1331                << "unsupported SSL renegotiation during write";
1332     return WriteResult(
1333         WRITE_ERROR,
1334         folly::make_unique<SSLException>(SSLError::INVALID_RENEGOTIATION));
1335   } else {
1336     if (zero_return(error, rc)) {
1337       return WriteResult(0);
1338     }
1339     auto errError = ERR_get_error();
1340     VLOG(3) << "ERROR: AsyncSSLSocket(fd=" << fd_ << ", state=" << int(state_)
1341             << ", sslState=" << sslState_ << ", events=" << eventFlags_ << "): "
1342             << "SSL error: " << error << ", errno: " << errno
1343             << ", func: " << ERR_func_error_string(errError)
1344             << ", reason: " << ERR_reason_error_string(errError);
1345     return WriteResult(
1346         WRITE_ERROR,
1347         folly::make_unique<SSLException>(error, errError, rc, errno));
1348   }
1349 }
1350
1351 AsyncSocket::WriteResult AsyncSSLSocket::performWrite(
1352     const iovec* vec,
1353     uint32_t count,
1354     WriteFlags flags,
1355     uint32_t* countWritten,
1356     uint32_t* partialWritten) {
1357   if (sslState_ == STATE_UNENCRYPTED) {
1358     return AsyncSocket::performWrite(
1359       vec, count, flags, countWritten, partialWritten);
1360   }
1361   if (sslState_ != STATE_ESTABLISHED) {
1362     LOG(ERROR) << "AsyncSSLSocket(fd=" << fd_ << ", state=" << int(state_)
1363                << ", sslState=" << sslState_
1364                << ", events=" << eventFlags_ << "): "
1365                << "TODO: AsyncSSLSocket currently does not support calling "
1366                << "write() before the handshake has fully completed";
1367     return WriteResult(
1368         WRITE_ERROR, folly::make_unique<SSLException>(SSLError::EARLY_WRITE));
1369   }
1370
1371   // Declare a buffer used to hold small write requests.  It could point to a
1372   // memory block either on stack or on heap. If it is on heap, we release it
1373   // manually when scope exits
1374   char* combinedBuf{nullptr};
1375   SCOPE_EXIT {
1376     // Note, always keep this check consistent with what we do below
1377     if (combinedBuf != nullptr && minWriteSize_ > MAX_STACK_BUF_SIZE) {
1378       delete[] combinedBuf;
1379     }
1380   };
1381
1382   *countWritten = 0;
1383   *partialWritten = 0;
1384   ssize_t totalWritten = 0;
1385   size_t bytesStolenFromNextBuffer = 0;
1386   for (uint32_t i = 0; i < count; i++) {
1387     const iovec* v = vec + i;
1388     size_t offset = bytesStolenFromNextBuffer;
1389     bytesStolenFromNextBuffer = 0;
1390     size_t len = v->iov_len - offset;
1391     const void* buf;
1392     if (len == 0) {
1393       (*countWritten)++;
1394       continue;
1395     }
1396     buf = ((const char*)v->iov_base) + offset;
1397
1398     ssize_t bytes;
1399     uint32_t buffersStolen = 0;
1400     auto sslWriteBuf = buf;
1401     if ((len < minWriteSize_) && ((i + 1) < count)) {
1402       // Combine this buffer with part or all of the next buffers in
1403       // order to avoid really small-grained calls to SSL_write().
1404       // Each call to SSL_write() produces a separate record in
1405       // the egress SSL stream, and we've found that some low-end
1406       // mobile clients can't handle receiving an HTTP response
1407       // header and the first part of the response body in two
1408       // separate SSL records (even if those two records are in
1409       // the same TCP packet).
1410
1411       if (combinedBuf == nullptr) {
1412         if (minWriteSize_ > MAX_STACK_BUF_SIZE) {
1413           // Allocate the buffer on heap
1414           combinedBuf = new char[minWriteSize_];
1415         } else {
1416           // Allocate the buffer on stack
1417           combinedBuf = (char*)alloca(minWriteSize_);
1418         }
1419       }
1420       assert(combinedBuf != nullptr);
1421       sslWriteBuf = combinedBuf;
1422
1423       memcpy(combinedBuf, buf, len);
1424       do {
1425         // INVARIANT: i + buffersStolen == complete chunks serialized
1426         uint32_t nextIndex = i + buffersStolen + 1;
1427         bytesStolenFromNextBuffer = std::min(vec[nextIndex].iov_len,
1428                                              minWriteSize_ - len);
1429         memcpy(combinedBuf + len, vec[nextIndex].iov_base,
1430                bytesStolenFromNextBuffer);
1431         len += bytesStolenFromNextBuffer;
1432         if (bytesStolenFromNextBuffer < vec[nextIndex].iov_len) {
1433           // couldn't steal the whole buffer
1434           break;
1435         } else {
1436           bytesStolenFromNextBuffer = 0;
1437           buffersStolen++;
1438         }
1439       } while ((i + buffersStolen + 1) < count && (len < minWriteSize_));
1440     }
1441
1442     // Advance any empty buffers immediately after.
1443     if (bytesStolenFromNextBuffer == 0) {
1444       while ((i + buffersStolen + 1) < count &&
1445              vec[i + buffersStolen + 1].iov_len == 0) {
1446         buffersStolen++;
1447       }
1448     }
1449
1450     corkCurrentWrite_ =
1451         isSet(flags, WriteFlags::CORK) || (i + buffersStolen + 1 < count);
1452     bytes = eorAwareSSLWrite(
1453         ssl_,
1454         sslWriteBuf,
1455         len,
1456         (isSet(flags, WriteFlags::EOR) && i + buffersStolen + 1 == count));
1457
1458     if (bytes <= 0) {
1459       int error = SSL_get_error(ssl_, bytes);
1460       if (error == SSL_ERROR_WANT_WRITE) {
1461         // The caller will register for write event if not already.
1462         *partialWritten = offset;
1463         return WriteResult(totalWritten);
1464       }
1465       auto writeResult = interpretSSLError(bytes, error);
1466       if (writeResult.writeReturn < 0) {
1467         return writeResult;
1468       } // else fall through to below to correctly record totalWritten
1469     }
1470
1471     totalWritten += bytes;
1472
1473     if (bytes == (ssize_t)len) {
1474       // The full iovec is written.
1475       (*countWritten) += 1 + buffersStolen;
1476       i += buffersStolen;
1477       // continue
1478     } else {
1479       bytes += offset; // adjust bytes to account for all of v
1480       while (bytes >= (ssize_t)v->iov_len) {
1481         // We combined this buf with part or all of the next one, and
1482         // we managed to write all of this buf but not all of the bytes
1483         // from the next one that we'd hoped to write.
1484         bytes -= v->iov_len;
1485         (*countWritten)++;
1486         v = &(vec[++i]);
1487       }
1488       *partialWritten = bytes;
1489       return WriteResult(totalWritten);
1490     }
1491   }
1492
1493   return WriteResult(totalWritten);
1494 }
1495
1496 int AsyncSSLSocket::eorAwareSSLWrite(SSL *ssl, const void *buf, int n,
1497                                       bool eor) {
1498   if (eor && trackEor_) {
1499     if (appEorByteNo_) {
1500       // cannot track for more than one app byte EOR
1501       CHECK(appEorByteNo_ == appBytesWritten_ + n);
1502     } else {
1503       appEorByteNo_ = appBytesWritten_ + n;
1504     }
1505
1506     // 1. It is fine to keep updating minEorRawByteNo_.
1507     // 2. It is _min_ in the sense that SSL record will add some overhead.
1508     minEorRawByteNo_ = getRawBytesWritten() + n;
1509   }
1510
1511   n = sslWriteImpl(ssl, buf, n);
1512   if (n > 0) {
1513     appBytesWritten_ += n;
1514     if (appEorByteNo_) {
1515       if (getRawBytesWritten() >= minEorRawByteNo_) {
1516         minEorRawByteNo_ = 0;
1517       }
1518       if(appBytesWritten_ == appEorByteNo_) {
1519         appEorByteNo_ = 0;
1520       } else {
1521         CHECK(appBytesWritten_ < appEorByteNo_);
1522       }
1523     }
1524   }
1525   return n;
1526 }
1527
1528 void AsyncSSLSocket::sslInfoCallback(const SSL* ssl, int where, int ret) {
1529   AsyncSSLSocket *sslSocket = AsyncSSLSocket::getFromSSL(ssl);
1530   if (sslSocket->handshakeComplete_ && (where & SSL_CB_HANDSHAKE_START)) {
1531     sslSocket->renegotiateAttempted_ = true;
1532   }
1533   if (where & SSL_CB_READ_ALERT) {
1534     const char* type = SSL_alert_type_string(ret);
1535     if (type) {
1536       const char* desc = SSL_alert_desc_string(ret);
1537       sslSocket->alertsReceived_.emplace_back(
1538           *type, StringPiece(desc, std::strlen(desc)));
1539     }
1540   }
1541 }
1542
1543 int AsyncSSLSocket::bioWrite(BIO* b, const char* in, int inl) {
1544   struct msghdr msg;
1545   struct iovec iov;
1546   int flags = 0;
1547   AsyncSSLSocket* tsslSock;
1548
1549   iov.iov_base = const_cast<char*>(in);
1550   iov.iov_len = inl;
1551   memset(&msg, 0, sizeof(msg));
1552   msg.msg_iov = &iov;
1553   msg.msg_iovlen = 1;
1554
1555   auto appData = OpenSSLUtils::getBioAppData(b);
1556   CHECK(appData);
1557
1558   tsslSock = reinterpret_cast<AsyncSSLSocket*>(appData);
1559   CHECK(tsslSock);
1560
1561   if (tsslSock->trackEor_ && tsslSock->minEorRawByteNo_ &&
1562       tsslSock->minEorRawByteNo_ <= BIO_number_written(b) + inl) {
1563     flags = MSG_EOR;
1564   }
1565
1566 #ifdef MSG_NOSIGNAL
1567   flags |= MSG_NOSIGNAL;
1568 #endif
1569
1570 #ifdef MSG_MORE
1571   if (tsslSock->corkCurrentWrite_) {
1572     flags |= MSG_MORE;
1573   }
1574 #endif
1575
1576   auto result = tsslSock->sendSocketMessage(
1577       OpenSSLUtils::getBioFd(b, nullptr), &msg, flags);
1578   BIO_clear_retry_flags(b);
1579   if (!result.exception && result.writeReturn <= 0) {
1580     if (OpenSSLUtils::getBioShouldRetryWrite(result.writeReturn)) {
1581       BIO_set_retry_write(b);
1582     }
1583   }
1584   return result.writeReturn;
1585 }
1586
1587 int AsyncSSLSocket::sslVerifyCallback(
1588     int preverifyOk,
1589     X509_STORE_CTX* x509Ctx) {
1590   SSL* ssl = (SSL*) X509_STORE_CTX_get_ex_data(
1591     x509Ctx, SSL_get_ex_data_X509_STORE_CTX_idx());
1592   AsyncSSLSocket* self = AsyncSSLSocket::getFromSSL(ssl);
1593
1594   VLOG(3) <<  "AsyncSSLSocket::sslVerifyCallback() this=" << self << ", "
1595           << "fd=" << self->fd_ << ", preverifyOk=" << preverifyOk;
1596   return (self->handshakeCallback_) ?
1597     self->handshakeCallback_->handshakeVer(self, preverifyOk, x509Ctx) :
1598     preverifyOk;
1599 }
1600
1601 void AsyncSSLSocket::enableClientHelloParsing()  {
1602     parseClientHello_ = true;
1603     clientHelloInfo_.reset(new ssl::ClientHelloInfo());
1604 }
1605
1606 void AsyncSSLSocket::resetClientHelloParsing(SSL *ssl)  {
1607   SSL_set_msg_callback(ssl, nullptr);
1608   SSL_set_msg_callback_arg(ssl, nullptr);
1609   clientHelloInfo_->clientHelloBuf_.clear();
1610 }
1611
1612 void AsyncSSLSocket::clientHelloParsingCallback(int written,
1613                                                 int /* version */,
1614                                                 int contentType,
1615                                                 const void* buf,
1616                                                 size_t len,
1617                                                 SSL* ssl,
1618                                                 void* arg) {
1619   AsyncSSLSocket *sock = static_cast<AsyncSSLSocket*>(arg);
1620   if (written != 0) {
1621     sock->resetClientHelloParsing(ssl);
1622     return;
1623   }
1624   if (contentType != SSL3_RT_HANDSHAKE) {
1625     return;
1626   }
1627   if (len == 0) {
1628     return;
1629   }
1630
1631   auto& clientHelloBuf = sock->clientHelloInfo_->clientHelloBuf_;
1632   clientHelloBuf.append(IOBuf::wrapBuffer(buf, len));
1633   try {
1634     Cursor cursor(clientHelloBuf.front());
1635     if (cursor.read<uint8_t>() != SSL3_MT_CLIENT_HELLO) {
1636       sock->resetClientHelloParsing(ssl);
1637       return;
1638     }
1639
1640     if (cursor.totalLength() < 3) {
1641       clientHelloBuf.trimEnd(len);
1642       clientHelloBuf.append(IOBuf::copyBuffer(buf, len));
1643       return;
1644     }
1645
1646     uint32_t messageLength = cursor.read<uint8_t>();
1647     messageLength <<= 8;
1648     messageLength |= cursor.read<uint8_t>();
1649     messageLength <<= 8;
1650     messageLength |= cursor.read<uint8_t>();
1651     if (cursor.totalLength() < messageLength) {
1652       clientHelloBuf.trimEnd(len);
1653       clientHelloBuf.append(IOBuf::copyBuffer(buf, len));
1654       return;
1655     }
1656
1657     sock->clientHelloInfo_->clientHelloMajorVersion_ = cursor.read<uint8_t>();
1658     sock->clientHelloInfo_->clientHelloMinorVersion_ = cursor.read<uint8_t>();
1659
1660     cursor.skip(4); // gmt_unix_time
1661     cursor.skip(28); // random_bytes
1662
1663     cursor.skip(cursor.read<uint8_t>()); // session_id
1664
1665     uint16_t cipherSuitesLength = cursor.readBE<uint16_t>();
1666     for (int i = 0; i < cipherSuitesLength; i += 2) {
1667       sock->clientHelloInfo_->
1668         clientHelloCipherSuites_.push_back(cursor.readBE<uint16_t>());
1669     }
1670
1671     uint8_t compressionMethodsLength = cursor.read<uint8_t>();
1672     for (int i = 0; i < compressionMethodsLength; ++i) {
1673       sock->clientHelloInfo_->
1674         clientHelloCompressionMethods_.push_back(cursor.readBE<uint8_t>());
1675     }
1676
1677     if (cursor.totalLength() > 0) {
1678       uint16_t extensionsLength = cursor.readBE<uint16_t>();
1679       while (extensionsLength) {
1680         ssl::TLSExtension extensionType =
1681             static_cast<ssl::TLSExtension>(cursor.readBE<uint16_t>());
1682         sock->clientHelloInfo_->
1683           clientHelloExtensions_.push_back(extensionType);
1684         extensionsLength -= 2;
1685         uint16_t extensionDataLength = cursor.readBE<uint16_t>();
1686         extensionsLength -= 2;
1687         extensionsLength -= extensionDataLength;
1688
1689         if (extensionType == ssl::TLSExtension::SIGNATURE_ALGORITHMS) {
1690           cursor.skip(2);
1691           extensionDataLength -= 2;
1692           while (extensionDataLength) {
1693             ssl::HashAlgorithm hashAlg =
1694                 static_cast<ssl::HashAlgorithm>(cursor.readBE<uint8_t>());
1695             ssl::SignatureAlgorithm sigAlg =
1696                 static_cast<ssl::SignatureAlgorithm>(cursor.readBE<uint8_t>());
1697             extensionDataLength -= 2;
1698             sock->clientHelloInfo_->
1699               clientHelloSigAlgs_.emplace_back(hashAlg, sigAlg);
1700           }
1701         } else {
1702           cursor.skip(extensionDataLength);
1703         }
1704       }
1705     }
1706   } catch (std::out_of_range& e) {
1707     // we'll use what we found and cleanup below.
1708     VLOG(4) << "AsyncSSLSocket::clientHelloParsingCallback(): "
1709       << "buffer finished unexpectedly." << " AsyncSSLSocket socket=" << sock;
1710   }
1711
1712   sock->resetClientHelloParsing(ssl);
1713 }
1714
1715 void AsyncSSLSocket::getSSLClientCiphers(
1716     std::string& clientCiphers,
1717     bool convertToString) const {
1718   std::string ciphers;
1719
1720   if (parseClientHello_ == false
1721       || clientHelloInfo_->clientHelloCipherSuites_.empty()) {
1722     clientCiphers = "";
1723     return;
1724   }
1725
1726   bool first = true;
1727   for (auto originalCipherCode : clientHelloInfo_->clientHelloCipherSuites_)
1728   {
1729     if (first) {
1730       first = false;
1731     } else {
1732       ciphers +=  ":";
1733     }
1734
1735     bool nameFound = convertToString;
1736
1737     if (convertToString) {
1738       const auto& name = OpenSSLUtils::getCipherName(originalCipherCode);
1739       if (name.empty()) {
1740         nameFound = false;
1741       } else {
1742         ciphers += name;
1743       }
1744     }
1745
1746     if (!nameFound) {
1747       folly::hexlify(
1748           std::array<uint8_t, 2>{{
1749               static_cast<uint8_t>((originalCipherCode >> 8) & 0xffL),
1750               static_cast<uint8_t>(originalCipherCode & 0x00ffL) }},
1751           ciphers,
1752           /* append to ciphers = */ true);
1753     }
1754   }
1755
1756   clientCiphers = std::move(ciphers);
1757 }
1758
1759 std::string AsyncSSLSocket::getSSLClientComprMethods() const {
1760   if (!parseClientHello_) {
1761     return "";
1762   }
1763   return folly::join(":", clientHelloInfo_->clientHelloCompressionMethods_);
1764 }
1765
1766 std::string AsyncSSLSocket::getSSLClientExts() const {
1767   if (!parseClientHello_) {
1768     return "";
1769   }
1770   return folly::join(":", clientHelloInfo_->clientHelloExtensions_);
1771 }
1772
1773 std::string AsyncSSLSocket::getSSLClientSigAlgs() const {
1774   if (!parseClientHello_) {
1775     return "";
1776   }
1777
1778   std::string sigAlgs;
1779   sigAlgs.reserve(clientHelloInfo_->clientHelloSigAlgs_.size() * 4);
1780   for (size_t i = 0; i < clientHelloInfo_->clientHelloSigAlgs_.size(); i++) {
1781     if (i) {
1782       sigAlgs.push_back(':');
1783     }
1784     sigAlgs.append(folly::to<std::string>(
1785         clientHelloInfo_->clientHelloSigAlgs_[i].first));
1786     sigAlgs.push_back(',');
1787     sigAlgs.append(folly::to<std::string>(
1788         clientHelloInfo_->clientHelloSigAlgs_[i].second));
1789   }
1790
1791   return sigAlgs;
1792 }
1793
1794 std::string AsyncSSLSocket::getSSLAlertsReceived() const {
1795   std::string ret;
1796
1797   for (const auto& alert : alertsReceived_) {
1798     if (!ret.empty()) {
1799       ret.append(",");
1800     }
1801     ret.append(folly::to<std::string>(alert.first, ": ", alert.second));
1802   }
1803
1804   return ret;
1805 }
1806
1807 void AsyncSSLSocket::getSSLSharedCiphers(std::string& sharedCiphers) const {
1808   char ciphersBuffer[1024];
1809   ciphersBuffer[0] = '\0';
1810   SSL_get_shared_ciphers(ssl_, ciphersBuffer, sizeof(ciphersBuffer) - 1);
1811   sharedCiphers = ciphersBuffer;
1812 }
1813
1814 void AsyncSSLSocket::getSSLServerCiphers(std::string& serverCiphers) const {
1815   serverCiphers = SSL_get_cipher_list(ssl_, 0);
1816   int i = 1;
1817   const char *cipher;
1818   while ((cipher = SSL_get_cipher_list(ssl_, i)) != nullptr) {
1819     serverCiphers.append(":");
1820     serverCiphers.append(cipher);
1821     i++;
1822   }
1823 }
1824
1825 } // namespace