Add IOBufQueue::wrapBuffer, which handles buffers > 4GB.
[folly.git] / folly / experimental / io / IOBufQueue.h
1 /*
2  * Copyright 2012 Facebook, Inc.
3  *
4  * Licensed under the Apache License, Version 2.0 (the "License");
5  * you may not use this file except in compliance with the License.
6  * You may obtain a copy of the License at
7  *
8  *   http://www.apache.org/licenses/LICENSE-2.0
9  *
10  * Unless required by applicable law or agreed to in writing, software
11  * distributed under the License is distributed on an "AS IS" BASIS,
12  * WITHOUT WARRANTIES OR CONDITIONS OF ANY KIND, either express or implied.
13  * See the License for the specific language governing permissions and
14  * limitations under the License.
15  */
16
17 #ifndef FOLLY_IO_IOBUF_QUEUE_H
18 #define FOLLY_IO_IOBUF_QUEUE_H
19
20 #include "folly/experimental/io/IOBuf.h"
21
22 #include <stdexcept>
23 #include <string>
24
25 namespace folly {
26
27 /**
28  * An IOBufQueue encapsulates a chain of IOBufs and provides
29  * convenience functions to append data to the back of the chain
30  * and remove data from the front.
31  */
32 class IOBufQueue {
33  public:
34   struct Options {
35     Options() : cacheChainLength(false) { }
36     bool cacheChainLength;
37   };
38
39   explicit IOBufQueue(const Options& options = Options());
40
41   /**
42    * Add a buffer or buffer chain to the end of this queue. The
43    * queue takes ownership of buf.
44    */
45   void append(std::unique_ptr<folly::IOBuf>&& buf);
46
47   /**
48    * Add a queue to the end of this queue. The queue takes ownership of
49    * all buffers from the other queue.
50    */
51   void append(IOBufQueue& other);
52   void append(IOBufQueue&& other) {
53     append(other);  // call lvalue reference overload, above
54   }
55
56   /**
57    * Copy len bytes, starting at buf, to the end of this queue.
58    * The caller retains ownership of the source data.
59    */
60   void append(const void* buf, size_t len);
61
62   /**
63    * Copy a string to the end of this queue.
64    * The caller retains ownership of the source data.
65    */
66   void append(const std::string& buf) {
67     append(buf.data(), buf.length());
68   }
69
70   /**
71    * Append a chain of IOBuf objects that point to consecutive regions
72    * within buf.
73    *
74    * Just like IOBuf::wrapBuffer, this should only be used when the caller
75    * knows ahead of time and can ensure that all IOBuf objects that will point
76    * to this buffer will be destroyed before the buffer itself is destroyed;
77    * all other caveats from wrapBuffer also apply.
78    *
79    * Every buffer except for the last will wrap exactly blockSize bytes.
80    * Importantly, this method may be used to wrap buffers larger than 4GB.
81    */
82   void wrapBuffer(const void* buf, size_t len,
83                   uint32_t blockSize=(1U << 31));  // default block size: 2GB
84
85   /**
86    * Obtain a writable block of contiguous bytes at the end of this
87    * queue, allocating more space if necessary.  The amount of space
88    * reserved will be between min and max, inclusive; the IOBufQueue
89    * implementation may pick a value in that range that makes efficient
90    * use of already-allocated internal space.
91    *
92    * If the caller subsequently writes anything into the returned space,
93    * it must call the postallocate() method.
94    *
95    * @return The starting address of the block and the length in bytes.
96    *
97    * @note The point of the preallocate()/postallocate() mechanism is
98    *       to support I/O APIs such as Thrift's TAsyncSocket::ReadCallback
99    *       that request a buffer from the application and then, in a later
100    *       callback, tell the application how much of the buffer they've
101    *       filled with data.
102    */
103   std::pair<void*,uint32_t> preallocate(uint32_t min, uint32_t max);
104
105   /**
106    * Tell the queue that the caller has written data into the first n
107    * bytes provided by the previous preallocate() call.
108    *
109    * @note n should be less than or equal to the size returned by
110    *       preallocate().  If n is zero, the caller may skip the call
111    *       to postallocate().  If n is nonzero, the caller must not
112    *       invoke any other non-const methods on this IOBufQueue between
113    *       the call to preallocate and the call to postallocate().
114    */
115   void postallocate(uint32_t n);
116
117   /**
118    * Split off the first n bytes of the queue into a separate IOBuf chain,
119    * and transfer ownership of the new chain to the caller.  The IOBufQueue
120    * retains ownership of everything after the split point.
121    *
122    * @warning If the split point lies in the middle of some IOBuf within
123    *          the chain, this function may, as an implementation detail,
124    *          clone that IOBuf.
125    *
126    * @throws std::underflow_error if n exceeds the number of bytes
127    *         in the queue.
128    */
129   std::unique_ptr<folly::IOBuf> split(size_t n);
130
131   /**
132    * Similar to IOBuf::trimStart, but works on the whole queue.  Will
133    * pop off buffers that have been completely trimmed.
134    */
135   void trimStart(size_t amount);
136
137   /**
138    * Similar to IOBuf::trimEnd, but works on the whole queue.  Will
139    * pop off buffers that have been completely trimmed.
140    */
141   void trimEnd(size_t amount);
142
143   /**
144    * Transfer ownership of the queue's entire IOBuf chain to the caller.
145    */
146   std::unique_ptr<folly::IOBuf>&& move() {
147     chainLength_ = 0;
148     return std::move(head_);
149   }
150
151   /**
152    * Access
153    */
154   const folly::IOBuf* front() const {
155     return head_.get();
156   }
157
158   /**
159    * Total chain length, only valid if cacheLength was specified in the
160    * constructor.
161    */
162   size_t chainLength() const {
163     if (!options_.cacheChainLength) {
164       throw std::invalid_argument("IOBufQueue: chain length not cached");
165     }
166     return chainLength_;
167   }
168
169   const Options& options() const {
170     return options_;
171   }
172
173   /** Movable */
174   IOBufQueue(IOBufQueue&&);
175   IOBufQueue& operator=(IOBufQueue&&);
176
177  private:
178   static const size_t kChainLengthNotCached = (size_t)-1;
179   /** Not copyable */
180   IOBufQueue(const IOBufQueue&) = delete;
181   IOBufQueue& operator=(const IOBufQueue&) = delete;
182
183   Options options_;
184   size_t chainLength_;
185   /** Everything that has been appended but not yet discarded or moved out */
186   std::unique_ptr<folly::IOBuf> head_;
187 };
188
189 } // folly
190
191 #endif // FOLLY_IO_IOBUF_QUEUE_H