Adding benchmark file for encrypted cloud storage.
[iotcloud.git] / version1 / doc / iotcloud.tex
1 \documentclass[11pt]{article}\r
2 \newcommand{\tuple}[1]{\ensuremath \langle #1 \rangle}\r
3 \usepackage{color}\r
4 \usepackage{amsthm}\r
5 \usepackage{amsmath}\r
6 \usepackage{graphicx}\r
7 \usepackage{mathrsfs}\r
8 \usepackage{algpseudocode}% http://ctan.org/pkg/algorithmicx\r
9 \usepackage[all]{xy}\r
10 \newtheorem{theorem}{Theorem}\r
11 \newtheorem{prop}{Proposition}\r
12 \newtheorem{lem}{Lemma}\r
13 \newtheorem{defn}{Definition}\r
14 \newcommand{\note}[1]{{\color{red} \bf [[#1]]}}\r
15 \newcommand{\push}[1][1]{\hskip\dimexpr #1\algorithmicindent\relax}\r
16 \begin{document}\r
17 \section{Approach}\r
18 \r
19 \subsection{Keys}\r
20 \r
21 Each device has: user id + password\r
22 \r
23 Server login is:\r
24 hash1(user id), hash1(password)\r
25 \r
26 Symmetric Crypto keys is:\r
27 hash2(user id | password)\r
28 \r
29 Server has finite length queue of entries + max\_entry\_identifier +\r
30 server login key\r
31 \r
32 \subsection{Entry layout}\r
33 Each entry has:\r
34 \begin{enumerate}\r
35 \item Sequence identifier\r
36 \item Random IV (if needed by crypto algorithm)\r
37 \item Encrypted payload\r
38 \end{enumerate}\r
39 \r
40 Payload has:\r
41 \begin{enumerate}\r
42 \item Sequence identifier\r
43 \item Machine id (most probably something like a 64-bit random number \r
44 that is self-generated by client)\r
45 \item HMAC of previous slot\r
46 \item Data entries\r
47 \item HMAC of current slot\r
48 \end{enumerate}\r
49 \r
50 A data entry can be one of these:\r
51 \begin{enumerate}\r
52 \item All or part of a Key-value entry\r
53 \item Slot sequence entry: Machine id + last message identifier \r
54 \newline {The purpose of this is to keep the record of the last slot \r
55 from a certain client if a client's update has to expunge that other \r
56 client's last entry from the queue. This is kept in the slot until \r
57 the entry owner inserts a newer update into the queue.}\r
58 \item Queue state entry: Includes queue size \newline {The purpose \r
59 of this is for the client to tell if the server lies about the number \r
60 of slots in the queue, e.g. if there are 2 queue state entry in the queue, \r
61 e.g. 50 and 70, the client knows that when it sees 50, it should expect \r
62 at most 50 slots in the queue and after it sees 70, it should expect \r
63 50 slots before that queue state entry slot 50 and at most 70 slots. \r
64 The queue state entry slot 70 is counted as slot number 51 in the queue.}\r
65 \item Collision resolution entry: message identifier + machine id of a\r
66 collision winner\r
67 \newline {The purpose of this is to keep keep track of the winner of \r
68 all the collisions until all clients have seen the particular entry.}\r
69 \end{enumerate}\r
70 \r
71 \subsection{Live status}\r
72 \r
73 Live status of entries:\r
74 \begin{enumerate}\r
75 \item Key-Value Entry is dead if either (a) there is a newer key-value pair or (b) it is incomplete.\r
76         \r
77 \item Slot sequence number (of either a message version data\r
78 or user-level data) is dead if there is a newer slot from the same machine.\r
79 \r
80 \item Queue state entry is dead if there is a newer queue state entry.\r
81 {In the case of queue state entries 50 and 70, this means that queue state \r
82 entry 50 is dead and 70 is live. However, not until the number of slots reaches \r
83 70 that queue state entry 50 will be expunged from the queue.}\r
84 \r
85 \item Collision resolution entry is dead if this entry has been seen\r
86 by all clients after a collision happens.\r
87 \end{enumerate}\r
88 \r
89 When data is at the end of the queue ready to expunge, if:\r
90 \begin{enumerate}\r
91 \item The key-value entry is not dead, it must be reinserted at the\r
92 beginning of the queue.\r
93 \r
94 \item If the slot sequence number is not dead, then a message sequence\r
95 entry must be inserted.\r
96 \r
97 \item If the queue state entry is not dead, it must be reinserted at the\r
98 beginning of the queue.\r
99 \end{enumerate}\r
100 \r
101 \r
102 \paragraph{Reads:}\r
103 Client sends a sequence number.  Server replies with either: all data\r
104 entries or all newer data entries.\r
105 \r
106 \paragraph{Writes:}\r
107 Client sends slot, server verifies that sequence number is valid,\r
108 checks entry hash, and replies with an accept message if all checks\r
109 pass.  On success, client updates its sequence number.  On failure,\r
110 server sends updates slots to client and client validates those slots.\r
111 \r
112 \paragraph{Local state on each client:}\r
113 A list of machines and the corresponding latest sequence numbers.\r
114 \r
115 \paragraph{Validation procedure on client:}\r
116 \begin{enumerate}\r
117 \item Decrypt each new slot in order.\r
118 \item For each slot:\r
119     (a) check its HMAC, and\r
120     (b) check that the previous entry HMAC field matches the previous\r
121     entry.\r
122 \item Check that the last-message entry for our machine matches the stored HMAC of our last message sent.\r
123 \item For all other machines, check that the latest sequence number is\r
124 at least as large (never goes backwards).\r
125 \item That the queue has a current queue state entry.\r
126 \item That the number of entries received is consistent with the size\r
127 specified in the queue state entry.\r
128 \end{enumerate}\r
129 \r
130 Key-value entries can span multiple slots.  They aren't valid until\r
131 they are complete.\r
132 \r
133 \subsection{Resizing Queue}\r
134 Client can make a request to resize the queue. This is done as a write that combines:\r
135   (a) a slot with the message, and (b) a request to the server. The queue can only be expanded, never contracted; attempting to decrease the size of the queue will cause future clients to throw an error.\r
136 \r
137 \subsection{Server Algorithm}\r
138 $s \in SN$ is a sequence number\\\r
139 $sv \in SV$ is a slot's value\\\r
140 $slot_s = \tuple{s, sv} \in SL \subseteq SN \times SV$ \\ \\\r
141 \textbf{State} \\\r
142 \textit{SL = set of live slots on server} \\\r
143 \textit{max = maximum number of slots (input only for resize message)} \\\r
144 \textit{n = number of slots} \\ \\\r
145 \textbf{Helper Function} \\\r
146 $MaxSlot(SL_s)= \tuple{s, sv} \mid \tuple{s, sv}\r
147 \in SL_s \wedge \forall \tuple{s_s, sv_s} \in SL_s, s \geq s_s$ \\\r
148 $MinSlot(SL_s)= \tuple{s, sv} \mid \tuple{s, sv} \r
149 \in SL_s \wedge \forall \tuple{s_s, sv_s} \in SL_s, s \leq s_s$ \\\r
150 $SeqN(slot_s = \tuple{s, sv})=s$ \\\r
151 $SlotVal(slot_s = \tuple{s, sv})=sv$ \\\r
152 \r
153 \begin{algorithmic}[1]\r
154 \Function{GetSlot}{$s_g$}\r
155 \State \Return{$\{\tuple{s, sv} \in SL \mid s \geq s_g\}$}\r
156 \EndFunction\r
157 \end{algorithmic}\r
158 \r
159 \begin{algorithmic}[1]\r
160 \Function{PutSlot}{$s_p,sv_p,max'$}\r
161 \If{$(max' \neq \emptyset)$}  \Comment{Resize}\r
162 \State $max \gets max'$\r
163 \EndIf\r
164 \State $\tuple{s_n,sv_n} \gets MaxSlot(SL)$\Comment{Last sv}\r
165 %\State $s_n \gets SeqN(\tuple{s_n,sv_n})$\r
166 \If{$(s_p = s_n + 1)$}\r
167         \If{$n = max$}\r
168         \State $\tuple{s_m,sv_m} \gets MinSlot(SL)$\Comment{First sv}\r
169                 \State $SL \gets SL - \{\tuple{s_m,sv_m}\}$\r
170         \Else \Comment{$n < max$}\r
171                 \State $n \gets n + 1$\r
172         \EndIf\r
173     \State $SL \gets SL \cup \{\tuple{s_p,sv_p}\}$\r
174         \State \Return{$(true,\emptyset)$}\r
175 \Else\r
176         \State \Return{$(false,\{\tuple{s,sv}\in SL \mid \r
177     s \geq s_p\})$}\r
178 \EndIf\r
179 \EndFunction\r
180 \end{algorithmic}\r
181 \r
182 \subsection{Client Algorithm}\r
183 \subsubsection{Reading Slots}\r
184 \textbf{Data Entry} \\\r
185 $k$ is key of entry \\\r
186 $v$ is value of entry \\\r
187 $kv$ is a key-value entry $\tuple{k,v}$, $kv \in DE$ \\\r
188 $ss$ is a slot sequence entry $\tuple{id,s_{last}}$, \r
189 id + last s of a machine, $ss \in DE$ \\\r
190 $qs$ is a queue state entry (contains $max$ size of queue), $qs \in DE$ \\\r
191 $cr$ is a collision resolution entry $\tuple{s_{col},id_{col}}$, \r
192 s + id of a machine that wins a collision, $cr \in DE$ \\\r
193 $de$ is a data entry that can be a $kv$, $ss$, $qs$, or $cr$ \\\r
194 $DE$ is a set of all data entries, possibly of different types, in a single message \\\r
195 $s \in SN$ is a sequence number \\\r
196 $id$ is a machine ID\\\r
197 $hmac_p$ is the HMAC value of the previous slot \\\r
198 $hmac_c$ is the HMAC value of the current slot \\\r
199 $hmac_{p_g}$ is the HMAC value of the previous slot in procedure $\Call{ProcessSL}{}$ \\\r
200 $hmac_{c_g}$ is the HMAC value of the current slot in procedure $\Call{ProcessSL}{}$ \\\r
201 $Dat_s = \tuple{s,id,hmac_p,DE,hmac_c}$ \\\r
202 $slot_s = \tuple{s, E(Dat_s)} = \r
203 \tuple{s, E(\tuple{s,id,hmac_p,DE,hmac_c})}$ \\ \\\r
204 \textbf{States} \\\r
205 \textit{$d$ = delta between the last $s$ recorded and the first $s$ received} \\\r
206 \textit{$id_{self}$ = machine Id of this client} \\\r
207 \textit{$max_g$ = maximum number of slots (initially $max_g > 0$)} \\\r
208 \textit{$sl_{last}$ = info of last slot in queue = \r
209         $\tuple{s_{last},sv_{last},id_{last}}$ (initially $\emptyset$)} \\\r
210 \textit{DT = set of $\tuple{k,v}$ on client} \\\r
211 \textit{MS = associative array of $\tuple{id, s_{last}}$ of all clients on client \r
212 (initially empty)} \\\r
213 \textit{$LV$ = live set of $kv$ entries on client, contains \r
214         $\tuple{kv,s}$ entries} \\\r
215 \textit{$SS_{live}$ = live set of $ss$ entries on client} \\\r
216 \textit{$CR_{live}$ = live set of $cr$ entries on client} \\\r
217 \textit{$MS_g$ = set MS to save all $\tuple{id, s_{last}}$ pairs while\r
218 traversing DT after a request to server (initially empty)} \\\r
219 \textit{SK = Secret Key} \\\r
220 \textit{$SM$ = associative array of $\tuple{s, id}$ of all slots in previous reads\r
221 (initially empty)} \\ \\\r
222 \textbf{Helper Functions} \\\r
223 $MaxSlot(SL_s)= \tuple{s, sv}$ \textit{such that} $\tuple{s, sv}\r
224         \in SL_s \wedge \forall \tuple{s_s, sv_s} \in SL_s, s \geq s_s$ \\\r
225 $MinSlot(SL_s)= \tuple{s, sv}$ \textit{such that} $\tuple{s, sv} \r
226         \in SL_s \wedge \forall \tuple{s_s, sv_s} \in SL_s, s \leq s_s$ \\\r
227 $Slot(SL_s,s_s)= \tuple{s, sv}$ \textit{such that} $\tuple{s, sv} \r
228         \in SL_s \wedge \forall \tuple{s_s, sv_s} \in SL_s, s = s_s$ \\\r
229 $SeqN(\tuple{s, sv})=s$ \\\r
230 $SlotVal(\tuple{s, sv})=sv$ \\\r
231 $CreateLastSL(s,sv,id)=\tuple{s,sv,id}=sl_{last}$ \\\r
232 $Decrypt(SK_s,sv_s)=Dat_s=\tuple{s,id,hmac_p,DE,hmac_c}$ \\\r
233 $GetSeqN(Dat_s = \tuple{s,id,hmac_p,DE,hmac_c})=s$ \\\r
234 $GetMacId(Dat_s = \tuple{s,id,hmac_p,DE,hmac_c})=id$ \\\r
235 $GetPrevHmac(Dat_s = \tuple{s,id,hmac_p,DE,hmac_c})=hmac_p$ \\\r
236 $GetCurrHmac(Dat_s = \tuple{s,id,hmac_p,DE,hmac_c})=hmac_c$ \\\r
237 $GetDatEnt(Dat_s = \tuple{s,id,hmac_p,DE,hmac_c})=DE$ \\\r
238 $GetLiveSS(SS_{live},ss_s)= ss$ \textit{such that} $ss \in SS_{live} \r
239         \wedge \forall ss_s \in SS_{live}, ss = ss_s$ \\\r
240 $GetLiveCR(CR_{live},cr_s)= cr$ \textit{such that} $cr \in CR_{live} \r
241         \wedge \forall cr_s \in CR_{live}, cr = cr_s$ \\\r
242 $GetLivEntLastS(LV_s,kv_s)= s$ \textit{such that} $\tuple{kv, s} \in LV_s \r
243         \wedge \forall \tuple{kv_s, s_s} \in LV_s, kv_s = kv$ \\\r
244 $GetKV($key-value data entry$)=\tuple{k_s,v_s} = kv_s$ \\\r
245 $GetSS($slot-sequence data entry$)=\tuple{id_s,s_{s_{last}}} = ss_s$ \\\r
246 $GetCR($de$)=\tuple{s_s,id_s} = cr_s$ \\\r
247 $Hmac(Dat_s,SK) = hmac_c$ \textit{value computed from $s$, $id$,\r
248 $hmac_p$, and $DE$ taken from $Dat_s$} \\\r
249 $IsKv(de) = true$ \textit{if $de$ is a $kv$, false otherwise} \\\r
250 $IsSs(de) = true$ \textit{if $de$ is a $ss$, false otherwise} \\\r
251 $IsQs(de) = true$ \textit{if $de$ is a $qs$, false otherwise} \\\r
252 $IsCr(de) = true$ \textit{if $de$ is a $cr$, false otherwise} \\\r
253 $GetKey(kv)=k$\Comment{$kv = \tuple{k, v}$} \\\r
254 $GetVal(kv)=v$ \\\r
255 $GetId(ss)=id$\Comment{$ss = \tuple{id, s_{last}}$} \\\r
256 $GetSLast(ss)=s_{last}$ \\\r
257 $GetS(cr)=s$\Comment{$cr = \tuple{s, id}$} \\\r
258 $GetId(cr)=id$ \\\r
259 $GetLastS(sl_{last})=s$\Comment{$sl_{last} = \tuple{s,sv,id}$} \\\r
260 $GetSV(sl_{last})=sv$ \\\r
261 $GetID(sl_{last})=id$ \\\r
262 $GetKeyVal(DT_s,k_s)= \tuple{k, v}$ \textit{such that} $\tuple{k, v} \r
263         \in DT_s \wedge \forall \tuple{k_s, v_s} \in DT_s, k = k_s$ \\\r
264 $MaxLastSeqN(MS_s)= s_{last}$ \textit{such that} $\tuple{id, s_{last}} \in MS_s \r
265         \wedge \forall \tuple{id_s, s_{s_{last}}} \in MS_s, s_{last} \geq s_{s_{last}}$ \\\r
266 $MinLastSeqN(MS_s)= s_{last}$ \textit{such that} $\tuple{id, s_{last}} \in MS_s \r
267         \wedge \forall \tuple{id_s, s_{s_{last}}} \in MS_s, s_{last} \leq s_{s_{last}}$ \\\r
268 $MinCRSeqN(CR_s)= s$ \textit{such that} $\tuple{s, id} \in CR_s \r
269         \wedge \forall \tuple{s_s, id_s} \in CR_s, s \leq s_s$ \\\r
270 $MaxSMSeqN(SM_s)= s$ \textit{such that} $\tuple{s, id} \in SM_s \r
271         \wedge \forall \tuple{s_s, id_s} \in SM_s, s \geq s_s$ \\\r
272 \r
273 \begin{algorithmic}[1]\r
274 \Procedure{Error}{$msg$}\r
275 \State $Print(msg)$\r
276 \State $Halt()$\r
277 \EndProcedure\r
278 \end{algorithmic}\r
279 \r
280 \begin{algorithmic}[1]\r
281 \Function{GetQueSta}{$DE_s$}\r
282 \State $qs_{de} \gets qs$ \textit{such that} $qs \in DE_s, \r
283         de_s \in D \land IsQs(de_s)$\r
284 \If{$qs_{de} \neq \emptyset$}\r
285         \State $qs_{ret} \gets qs_{de})$\r
286 \Else\r
287         \State $qs_{ret} \gets \emptyset$\r
288 \EndIf\r
289 \State \Return{$qs_{ret}$}\r
290 \EndFunction\r
291 \end{algorithmic}\r
292 \r
293 \begin{algorithmic}[1]\r
294 \Function{GetSlotSeq}{$DE_s$}\r
295 \State $DE_{ss} \gets \{de | de \in DE_s \land IsSs(de)\}$\r
296 \State \Return{$DE_{ss}$}\r
297 \EndFunction\r
298 \end{algorithmic}\r
299 \r
300 \begin{algorithmic}[1]\r
301 \Function{GetColRes}{$DE_s$}\r
302 \State $DE_{cr} \gets \{de | de \in DE_s \land IsCr(de)\}$\r
303 \State \Return{$DE_{cr}$}\r
304 \EndFunction\r
305 \end{algorithmic}\r
306 \r
307 \begin{algorithmic}[1]\r
308 \Function{UpdateLastSeqN}{$id_s,s_s,MS_s$}\r
309 \State $s_t \gets MS_s[id_s]$\r
310 \If{$s_t = \emptyset$}\r
311         \State $MS_s[id_s] = s_s$  \Comment{First occurrence}\r
312 \Else\r
313         \If{$id_s = id_{self}$}\r
314                 \If{$s_t \neq s_s$}\Comment{Check for mismatch on $s$}\r
315                         \State \Call{Error}{'Mismatch on $s$ for $id_{self}$'}\r
316                 \EndIf\r
317         \Else\r
318                 \If{$s_t > s_s$}\Comment{Check for rollback on $s$}\r
319                         \State \Call{Error}{'Rollback on $s$ for $id_s$'}\r
320                 \EndIf\r
321         \EndIf\r
322         \State $MS_S[id_s] \gets max(s_t, s_s)$\r
323 \EndIf\r
324 \State \Return{$MS_s$}\r
325 \EndFunction\r
326 \end{algorithmic}\r
327 \r
328 \begin{algorithmic}[1]\r
329 \Function{UpdateKVLivEnt}{$LV_s,kv_s,s_s$}\r
330 \State $s_t \gets GetLivEntLastS(LV_s,kv_s)$\r
331 \If{$s_t = \emptyset$}\r
332         \State $LV_s \gets LV_s \cup \{\tuple{kv_s,s_s}\}$\Comment{First occurrence}\r
333 \Else\r
334         \If{$s_s > s_t$}\Comment{Update entry with a later s}\r
335                 \State $LV_s \gets (LV_s - \{\tuple{kv_s,s_t}\}) \cup \r
336                         \{\tuple{kv_s,s_s}\}$\r
337         \EndIf\r
338 \EndIf\r
339 \State \Return{$LV_s$}\r
340 \EndFunction\r
341 \end{algorithmic}\r
342 \r
343 \begin{algorithmic}[1]\r
344 \Function{AddSSLivEnt}{$SS_{s_{live}},de_s$}\r
345 \State $ss_s \gets GetSS(de_s)$\r
346 \State $ss_t \gets GetLiveSS(SS_{s_{live}},ss_s)$\r
347 \If{$ss_t = \emptyset$}\r
348         \State $SS_{s_{live}} \gets SS_{s_{live}} \cup \{ss_s\}$\Comment{First occurrence}\r
349 \EndIf\r
350 \State \Return{$SS_{s_{live}}$}\r
351 \EndFunction\r
352 \end{algorithmic}\r
353 \r
354 \begin{algorithmic}[1]\r
355 \Function{AddCRLivEnt}{$CR_{s_{live}},cr_s$}\r
356 \State $cr_t \gets GetLiveCR(CR_{s_{live}},cr_s)$\r
357 \If{$cr_t = \emptyset$}\r
358         \State $CR_{s_{live}} \gets CR_{s_{live}} \cup \{cr_s\}$\Comment{First occurrence}\r
359 \EndIf\r
360 \State \Return{$CR_{s_{live}}$}\r
361 \EndFunction\r
362 \end{algorithmic}\r
363 \r
364 \begin{algorithmic}[1]\r
365 \Function{UpdateSSLivEnt}{$SS_{s_{live}},MS_s$}\r
366 \State $s_{s_{min}} \gets MinLastSeqN(MS_s)$\r
367 \ForAll{$ss_s \in SS_{s_{live}}$}\r
368         \State $s_{s_{last}} \gets GetSLast(ss_s)$\r
369         \If{$s_{s_{min}} > s_{s_{last}}$}\Comment{Remove if dead}\r
370                 \State $SS_{s_{live}} \gets SS_{s_{live}} - \{ss_s\}$           \r
371         \EndIf\r
372 \EndFor\r
373 \State \Return{$SS_{s_{live}}$}\r
374 \EndFunction\r
375 \end{algorithmic}\r
376 \r
377 \begin{algorithmic}[1]\r
378 \Function{UpdateCRLivEnt}{$CR_{s_{live}},MS_s$}\r
379 \State $s_{s_{min}} \gets MinLastSeqN(MS_s)$\r
380 \ForAll{$cr_s \in CR_{s_{live}}$}\r
381         \State $s_s \gets GetS(cr_s)$\r
382         \If{$s_{s_{min}} > s_s$}\Comment{Remove if dead}\r
383                 \State $CR_{s_{live}} \gets CR_{s_{live}} - \{cr_s\}$   \r
384         \EndIf\r
385 \EndFor\r
386 \State \Return{$CR_{s_{live}}$}\r
387 \EndFunction\r
388 \end{algorithmic}\r
389 \r
390 \begin{algorithmic}[1]\r
391 \Function{UpdateSM}{$SM_s,CR_s$}\Comment{Remove if dead}\r
392 \State $s_{cr_{min}} \gets MinCRSeqN(CR_s)$\r
393         \State $SM_s \gets SM_s - \{\tuple{s_s,id_s} \mid \tuple{s_s,id_s}\r
394                 \in SM_s \wedge s_s < s_{cr_{min}}\}$\r
395 \State \Return{$CR_{s_{live}}$}\r
396 \EndFunction\r
397 \end{algorithmic}\r
398 \r
399 \begin{algorithmic}[1]\r
400 \Procedure{CheckLastSeqN}{$MS_s,MS_t,d$}\r
401 \For {$\tuple{id, s_t}$ in $MS_t$}\Comment{Check $MS_t$ based on the newer $MS_s$}\r
402         \State $s_s \gets MS_s[id]$\r
403         \If{$d \land s_s = \emptyset$}\r
404         \State \Call{Error}{'Missing $s$ for machine $id$'}\r
405         \ElsIf{$id = id_{self}$ and $s_s \neq s_t$}\r
406                 \State \Call{Error}{'Invalid last $s$ for this machine'}\r
407         \ElsIf{$id \neq id_{self}$ and $s_{s_{last}} < s_{t_{last}}$}\r
408         \State \Call{Error}{'Invalid last $s$ for machine $id$'}\r
409     \Else\r
410                 \State $MS_t[id] \gets s_s$\r
411         \EndIf\r
412 \EndFor\r
413 \EndProcedure\r
414 \end{algorithmic}\r
415 \r
416 \begin{algorithmic}[1]\r
417 \Procedure{CheckCollision}{$MS_s,SM_s,cr_s$}\r
418 \If{$cr_s \neq \emptyset$}\r
419         \State $s_s \gets GetS(cr_s)$\r
420         \State $id_s \gets GetId(cr_s)$\r
421         \State $s_{s_{last}} \gets GetLastSeqN(MS_s,id_s)$\r
422         \If{$s_{s_{last}} < s_s$}\r
423                 \State $id_t \gets SM_s[s_s]$\r
424                 \If{$id_s \neq id_t$}\r
425                         \State \Call{Error}{'Invalid $id$ for this slot update'}\r
426                 \EndIf\r
427         \EndIf\r
428 \EndIf\r
429 \EndProcedure\r
430 \end{algorithmic}\r
431 \r
432 \begin{algorithmic}[1]\r
433 \Function{ValidSlotsRange}{$s_{s_{min}}$}\r
434 \State $s_{s_{last}} \gets MaxSMSeqN(SM)$\r
435 \If{$s_{s_{min}} \leq s_{s_{last}}$}\r
436         \State \Call{Error}{'Server sent old slots'}\r
437 \EndIf\r
438 \State \Return{$s_{s_{min}} > s_{s_{last}} + 1$}\r
439 \EndFunction\r
440 \end{algorithmic}\r
441 \r
442 \begin{algorithmic}[1]\r
443 \Procedure{CheckNumSlots}{$|SL_s|,sz_s$}\r
444 \If{$|SL_s| \neq sz_s$}\r
445         \State \Call{Error}{'Actual number of slots does not match expected'}\r
446 \EndIf\r
447 \EndProcedure\r
448 \end{algorithmic}\r
449 \r
450 \begin{algorithmic}[1]\r
451 \Function{StoreLastSlot}{$MS_s,sl_l,s_s,sv_s,id_s$}\r
452 \State $s_{min} \gets MinLastSeqN(MS_s)$\r
453 \If{$s_{min} \neq \emptyset \land s_{min} = s_s$}\Comment{$MS$ initially empty}\r
454         \State $sl_l \gets CreateLastSL(s_s,sv_s,id_s)$\r
455 \EndIf\r
456 \State \Return{$sl_l$}\r
457 \EndFunction\r
458 \end{algorithmic}\r
459 \r
460 \begin{algorithmic}[1]\r
461 \Function{ValidHmacChain}{$Dat_s,s_s,hmac_{p_s},sl_l$}\r
462         \State $hmac_{p_{stored}} \gets GetPrevHmac(Dat_s)$\r
463         \If {$ \neg(s_s = 0 \land hmac_{p_s} = 0)$}\r
464                 \State $s_l \gets GetLastS(sl_l)$\r
465                 \If {$(s_s > s_l + 1) \land (hmac_{p_{stored}} \neq hmac_{p_s})$}\r
466                         \State \Call{Error}{'Invalid previous HMAC value'}\r
467                 \EndIf\r
468         \EndIf\r
469         \If{$Hmac(Dat_s,SK) \neq GetCurrHmac(Dat_s)$ }\r
470                 \State \Call{Error}{'Invalid current HMAC value'}\r
471         \EndIf\r
472         \State $hmac_{p_s} \gets Hmac(Dat_s,SK)$\Comment{Update $hmac_{p_s}$ for next check}\r
473 \State \Return{$hmac_{p_s}$}\r
474 \EndFunction\r
475 \end{algorithmic}\r
476 \r
477 \begin{algorithmic}[1]\r
478 \Function{UpdateDT}{$DT_s,DE_s,LV_s,s_s$}\r
479 \State $DE_{s_{kv}} \gets \{de_s | de_s \in DE_s \land IsKv(de_s)\}$\r
480 \ForAll{$de_s \in DE_{s_{kv}}$}\r
481         \State $kv_s \gets GetKV(de_s)$\r
482         \State $LV_s \gets \Call{UpdateKVLivEnt}{LV_s,kv_s,s_s}$\r
483         \State $k_s \gets GetKey(kv_s)$\r
484         \State $\tuple{k_s,v_t} \gets GetKeyVal(DT_s,k_s)$\r
485         \If{$\tuple{k_s,v_t} = \emptyset$}\r
486                 \State $DT_s \gets DT_s \cup \{\tuple{k_s,v_s}\}$\r
487         \Else\r
488                 \State $DT_s \gets (DT_s - \{\tuple{k_s,v_t}\}) \cup \r
489                         \{\tuple{k_s,v_s}\}$\r
490         \EndIf\r
491 \EndFor\r
492 \State \Return{$DT_s$}\r
493 \EndFunction\r
494 \end{algorithmic}\r
495 \r
496 \begin{algorithmic}[1]\r
497 \Function{InitExpSize}{$s_{min}$}\r
498 \If{$s_{min} < max_g$}\Comment{Check whether $SL$ is full on server}\r
499         \State $sz_s \gets s_{min}$\r
500 \Else\r
501         \State $sz_s \gets max_g$\r
502 \EndIf\r
503 \State \Return{$sz_s$}\r
504 \EndFunction\r
505 \end{algorithmic}\r
506 \r
507 \begin{algorithmic}[1]\r
508 \Function{UpdateExpSize}{$sz_s$}\r
509 \State $sz_s \gets sz_s + 1$\r
510 \If{$sz_s > max_g$}\Comment{Expected size $\leq max_g$}\r
511         \State $sz_s \gets max_g$\r
512 \EndIf\r
513 \State \Return{$sz_s$}\r
514 \EndFunction\r
515 \end{algorithmic}\r
516 \r
517 \begin{algorithmic}[1]\r
518 \Function{UpdateQS}{$Dat_s,max_s$}\r
519 \State $DE_s \gets GetDatEnt(Dat_s)$\r
520 \State $qs_s \gets \Call{GetQueSta}{DE_s}$\Comment{Handle qs}\r
521 \If{$qs_s \neq \emptyset \land qs_s > max_s$}\r
522         \State $max_s \gets qs_s$\r
523 \EndIf\r
524 \State \Return{$max_s$}\r
525 \EndFunction\r
526 \end{algorithmic}\r
527 \r
528 \begin{algorithmic}[1]\r
529 \Procedure{UpdateCR}{$DE_s$}\r
530 \State $DE_{s_{cr}} \gets \Call{GetColRes}{DE_s}$\Comment{Handle cr}\r
531 \If{$DE_{s_{cr}} \neq \emptyset$}\r
532         \ForAll{$de_{s_{cr}} \in DE_{s_{cr}}$}\r
533                 \State $cr_s \gets GetCR(de_{s_{cr}})$\r
534                 \State $\Call{CheckCollision}{MS,SM,cr_s}$\r
535                 \State $CR_{live} \gets \Call{AddCRLivEnt}{CR_{live},cr_s}$\r
536         \EndFor\r
537 \EndIf\r
538 \EndProcedure\r
539 \end{algorithmic}\r
540 \r
541 \begin{algorithmic}[1]\r
542 \Function{UpdateSS}{$DE_s,MS_s$}\r
543 \State $DE_{s_{ss}} \gets \Call{GetSlotSeq}{DE_s}$\Comment{Handle ss}\r
544 \If{$DE_{s_{ss}} \neq \emptyset$}\r
545         \ForAll{$de_{s_{ss}} \in DE_{s_{ss}}$}\r
546                 \State $\tuple{id_d,s_{d_{last}}} \gets GetSS(de_{s_{ss}})$\r
547                 \State $MS_s \gets \Call{UpdateLastSeqN}{id_d,s_{d_{last}},MS_s}$\r
548                 \State $SS_{live} \gets \Call{AddSSLivEnt}{SS_{live},de_{s_{ss}}}$\r
549         \EndFor\r
550 \EndIf\r
551 \State \Return{$MS_s$}\r
552 \EndFunction\r
553 \end{algorithmic}\r
554 \r
555 \begin{algorithmic}[1]\r
556 \Procedure{ProcessSL}{$SL_g$}\r
557 \State $MS_g \gets \emptyset$\r
558 \State $\tuple{s_{g_{min}},sv_{g_{min}}} \gets MinSlot(SL_g)$\r
559 \State $\tuple{s_{g_{max}},sv_{g_{max}}} \gets MaxSlot(SL_g)$\r
560 \State $d \gets \Call{ValidSlotsRange}{s_{g_{min}}}$\r
561 \State $sz \gets \Call{InitExpSize}{s_{g_{min}}}$\r
562 \For{$s_g \gets s_{g_{min}}$ \textbf{to} $s_{g_{max}}$}\Comment{Process slots \r
563         in $SL_g$ in order}\r
564         \State $\tuple{s_g,sv_g} \gets Slot(SL_g,s_g)$\r
565         \State $Dat_g \gets Decrypt(SK,sv_g)$\r
566         \State $id_g \gets GetMacId(Dat_g)$\r
567         \State $SM \gets SM \cup \{\tuple{s_g,id_g}\}$\r
568         \State $s_{g_{in}} \gets GetSeqN(Dat_g)$\r
569     \If{$s_g \neq s_{g_{in}}$}\r
570                 \State \Call{Error}{'Invalid sequence number'}\r
571         \EndIf\r
572         \State $hmac_{p_g} \gets \Call{ValidHmacChain}{Dat_g,s_g,hmac_{p_g},sl_{last}}$\r
573         \State $sz \gets \Call{UpdateExpSize}{sz}$\r
574         \State $max_g \gets \Call{UpdateQS}{Dat_g,max_g}$\Comment{Handle qs}\r
575         \State $MS_g \gets \Call{UpdateLastSeqN}{id_g,s_g,MS_g}$\Comment{Handle last s}\r
576         \State $MS_g \gets \Call{UpdateSS}{DE_g,MS_g}$\Comment{Handle ss}\r
577         %\State $DE_{g_{ss}} \gets \Call{GetSlotSeq}{DE_g}$\Comment{Handle ss}\r
578         %\If{$DE_{g_{ss}} \neq \emptyset$}\r
579         %       \ForAll{$de_{g_{ss}} \in DE_{g_{ss}}$}\r
580         %               \State $\tuple{id_d,s_{d_{last}}} \gets GetSS(de_{g_{ss}})$\r
581         %               \State $MS_g \gets \Call{UpdateLastSeqN}{id_d,s_{d_{last}},MS_g}$\r
582         %               \State $SS_{live} \gets \Call{AddSSLivEnt}{SS_{live},de_{g_{ss}}}$\r
583         %       \EndFor\r
584         %\EndIf\r
585         \State $\Call{UpdateCR}{DE_g}$\Comment{Handle cr}\r
586         %\State $DE_{g_{cr}} \gets \Call{GetColRes}{DE_g}$\Comment{Handle cr}\r
587         %\If{$DE_{g_{cr}} \neq \emptyset$}\r
588         %       \ForAll{$de_{g_{cr}} \in DE_{g_{cr}}$}\r
589         %               \State $cr_g \gets GetCR(de_{g_{cr}})$\r
590         %               \State $\Call{CheckCollision}{MS,SM,cr_g}$\r
591         %               \State $CR_{live} \gets \Call{AddCRLivEnt}{CR_{live},cr_g}$\r
592         %       \EndFor\r
593         %\EndIf\r
594         \State $sl_{last} \gets \Call{StoreLastSlot}{MS,sl_{last},s_g,sv_g,id_g}$\r
595         \State $DT \gets \Call{UpdateDT}{DT,DE_g,LV,s_g}$\r
596 \EndFor\r
597 \State $\Call{CheckLastSeqN}{MS_g,MS,d}$\r
598 \State $\Call{CheckNumSlots}{|SL_g|,sz}$\r
599 \State $\Call{UpdateSSLivEnt}{SS_{live},MS}$\r
600 \State $\Call{UpdateCRLivEnt}{CR_{live},MS}$\r
601 \State $\Call{UpdateSM}{SM,CR_{live}}$\r
602 \EndProcedure\r
603 \end{algorithmic}\r
604 \r
605 \begin{algorithmic}[1]\r
606 \Procedure{GetKVPairs}{}\r
607 \State $s_g \gets GetLastSeqN(MS,id_{self}) + 1$\r
608 \State $SL_c \gets \Call{GetSlot}{s_g}$\r
609 \State $\Call{ProcessSL}{SL_c}$\Comment{Process slots and update DT}\r
610 \EndProcedure\r
611 \end{algorithmic}\r
612 \r
613 \begin{algorithmic}[1]\r
614 \Function{Get}{$k_g$}   \Comment{Interface function to get a value}\r
615 \State $\tuple{k_s,v_s} \gets \tuple{k,v}$ \textit{such that} $\tuple{k,v} \r
616         \in DT \land k = k_g$\r
617 \State \Return{$v_s$}\r
618 \EndFunction\r
619 \end{algorithmic}\r
620 \r
621 \subsubsection{Writing Slots}\r
622 \textbf{States} \\\r
623 \textit{$cp$ = data entry $DE$ maximum size/capacity} \\\r
624 \textit{$ck_p$ = counter of $kv \in KV$ for putting pairs (initially 0)} \\\r
625 \textit{$ck_g$ = counter of $kv \in KV$ for getting pairs (initially 0)} \\\r
626 \textit{$cs_p$ = counter of $ss \in SS$ for putting pairs (initially 0)} \\\r
627 \textit{$cs_g$ = counter of $ss \in SS$ for getting pairs (initially 0)} \\\r
628 \textit{$cc_p$ = counter of $cr \in CR$ for putting pairs (initially 0)} \\\r
629 \textit{$cc_g$ = counter of $cr \in CR$ for getting pairs (initially 0)} \\\r
630 \textit{$hmac_{c_p}$ = the HMAC value of the current slot in procedure \r
631 $\Call{PutDataEntries}{}$} \\\r
632 \textit{$hmac_{p_p}$ = the HMAC value of the previous slot \r
633 ($hmac_{p_p} = \emptyset$ for the first slot) in procedure \r
634 $\Call{PutDataEntries}{}$} \\\r
635 \textit{$id_{self}$ = machine Id of this client} \\\r
636 \textit{$sl_{last}$ = info of last slot in queue = \r
637         $\tuple{s_{last},sv_{last},id_{last}}$ (initially $\emptyset$)} \\\r
638 \textit{$sz$ = expected size of received slots from server} \\\r
639 \textit{$th_p$ = threshold number of dead slots for a resize to happen} \\\r
640 \textit{$m'_p$ = offset added to $max$ for resize} \\\r
641 \textit{$reinsert_{qs}$ = boolean to decide $qs$($max_g$) reinsertion} \\\r
642 \textit{$KV$ = set of $\tuple{ck, \tuple{k,v}}$ of kv entries on client} \\\r
643 \textit{$SS$ = set of $\tuple{cs, \tuple{id,s_{last}}}$ of ss entries on client} \\\r
644 \textit{$CR$ = set of $\tuple{cc, \tuple{s_{col},id_{col}}}$ of cr entries on client} \\\r
645 \textit{$SL_p$ = set of returned slots on client} \\\r
646 \textit{SK = Secret Key} \\ \\\r
647 \textbf{Helper Functions} \\\r
648 $CreateDat(s,id,hmac_p,DE,hmac_c)=Dat_s=\tuple{s,id,hmac_p,DE,hmac_c}$ \\\r
649 $CreateSS(id_s,s_{s_{last}})=\tuple{id_s,s_{s_{last}}} = ss_s$ \\\r
650 $CreateQS(max'_s)=qs_s$ \\\r
651 $CreateCR(s_s,id_s)=\tuple{s_s,id_s} = cr_s$ \\\r
652 $Encrypt(Dat_s,SK_s)=sv_s$ \\\r
653 $GetColSeqN(SL_s,s_s)= \tuple{s, sv}$ \textit{such that} $\tuple{s, sv}\r
654 \in SL_s \wedge \forall \tuple{s_s, sv_s} \in SL_s, s = s_s$ \\\r
655 $GetKVPair(KV_s,k_s)= \tuple{ck,\tuple{k, v}}$ \textit{such that} \r
656 $\tuple{ck,\tuple{k, v}} \in KV_s \wedge\r
657 \forall \tuple{ck_s,\tuple{k_s, v_s}} \in KV_s, k = k_s$ \\\r
658 \r
659 \begin{algorithmic}[1]\r
660 \Function{Put}{$KV_s,\tuple{k_s,v_s}$}  \Comment{Interface function to update a key-value pair}\r
661 \State $\tuple{ck_s,\tuple{k_s,v_t}} \gets GetKVPair(KV_s,k_s)$\r
662 \If{$\tuple{ck_s,\tuple{k_s,v_t}} = \emptyset$}\r
663         \State $KV_s \gets KV_s \cup \{\tuple{ck_p, \tuple{k_s,v_s}}\}$\r
664         \State $ck_p \gets ck_p + 1$\r
665 \Else\r
666         \State $KV_s \gets (KV_s - \{\tuple{ck_s, \tuple{k_s,v_t}}\}) \cup \r
667         \{\tuple{ck_s, \tuple{k_s,v_s}}\}$\r
668 \EndIf\r
669 \State \Return{$KV_s$}\r
670 \EndFunction\r
671 \end{algorithmic}\r
672 \r
673 \begin{algorithmic}[1]\r
674 \Function{PutSSPair}{$SS_s,\tuple{id_s,s_{s_{last}}}$}\Comment{Insert a set of $ss$ entries}\r
675 \State $SS_s \gets SS_s \cup \{\tuple{cs_p, \tuple{id_s,s_{s_{last}}}}\}$\r
676 \State $cs_p \gets cs_p + 1$\r
677 \State \Return{$SS_s$}\r
678 \EndFunction\r
679 \end{algorithmic}\r
680 \r
681 \begin{algorithmic}[1]\r
682 \Function{PutCRPair}{$CR_s,\tuple{s_s,id_s}$}\Comment{Insert a set of $cr$ entries}\r
683 \State $CR_s \gets CR_s \cup \{\tuple{cc_p, \tuple{s_s,id_s}}\}$\r
684 \State $cc_p \gets cc_p + 1$\r
685 \State \Return{$CR_s$}\r
686 \EndFunction\r
687 \end{algorithmic}\r
688 \r
689 \begin{algorithmic}[1]\r
690 \Function{CheckResize}{$MS_s,th_s,max_t,m'_s$}\r
691 \State $s_{last_{min}} \gets MinLastSeqN(MS_s)$\r
692 \State $s_{last_{max}} \gets MaxLastSeqN(MS_s)$\r
693 \State $n_{live} \gets s_{last_{max}} - s_{last_{min}} + 1$\Comment{Number of live slots}\r
694 \State $n_{dead} \gets max_t - n_{live}$\r
695 \If{$n_{dead} \leq th_s$}\r
696         \State $max'_s \gets max_t + m'_s$\r
697 \Else\r
698         \State $max'_s \gets \emptyset$\r
699 \EndIf\r
700 \State \Return{$max'_s$}\r
701 \EndFunction\r
702 \end{algorithmic}\r
703 \r
704 \begin{algorithmic}[1]\r
705 \Function{CheckSLFull}{$MS_s,max_t$}\Comment{Check if $ss$ is needed}\r
706 \State $s_{last_{min}} \gets MinLastSeqN(MS_s)$\r
707 \State $s_{last_{max}} \gets MaxLastSeqN(MS_s)$\r
708 \State $n_{live} \gets s_{last_{max}} - s_{last_{min}}$\Comment{Number of live slots}\r
709 \State $n_{dead} \gets max_t - n_{live}$\r
710 \State \Return {$n_{dead} = 0$}\r
711 \EndFunction\r
712 \end{algorithmic}\r
713 \r
714 \begin{algorithmic}[1]\r
715 \Function{HandleCollision}{$SL_s,s_s$}\r
716 \If{$SL_s = \emptyset$}\r
717         \State \Call{Error}{'No slots received from server'}\r
718 \EndIf\r
719 \State $\tuple{s_{col},sv_{col}} \gets GetColSeqN(SL_s,s_s)$\r
720 \State $Dat_{col} \gets Decrypt(SK,sv_{col})$\r
721 \State $id_{col} \gets GetMacId(Dat_{col})$\r
722 \State $cr_s \gets CreateCR(s_{col},id_{col})$\r
723 \State $\Call{ProcessSL}{SL_s}$\r
724 \State \Return{$cr_s$}\r
725 \EndFunction\r
726 \end{algorithmic}\r
727 \r
728 \begin{algorithmic}[1]\r
729 \Procedure{CheckLastSlot}{$sl_{s_{last}}$}\r
730 \State $s_s \gets GetLastS(sl_{s_{last}})$\r
731 \State $sv_s \gets GetSV(sl_{s_{last}})$\r
732 \State $Dat_s \gets Decrypt(SK,sv_s)$\r
733 \State $DE_s \gets GetDatEnt(Dat_s)$\r
734 \ForAll{$de_s \in DE_s$}\r
735         \State $live \gets \Call{CheckLiveness}{s_s,de_s}$\r
736         \If{$live$}\r
737                 \If{$type(de_s) = ``kv"$}\r
738                         \State $\tuple{k_s,v_s} \gets GetKV(de_s)$\r
739                         \State $KV \gets \Call{PutKVPair}{KV,\tuple{k_s,v_s}}$\r
740                 \ElsIf{$type(de_s) = ``ss"$}\r
741                         \State $\tuple{id_s,s_{s_{last}}} \gets GetSS(de_s)$\r
742                         \State $SS \gets \Call{PutSSPair}{SS,\tuple{id_s,s_{s_{last}}}}$\r
743                 \ElsIf{$type(de_s) = ``cr"$}\r
744                         \State $\tuple{s_s,id_s} \gets GetCR(de_s)$\r
745                         \State $CR \gets \Call{PutCRPair}{CR,\tuple{s_s,id_s}}$\r
746                 \ElsIf{$type(de_s) = ``qs"$}\r
747                         \State $reinsert_{qs} \gets true$\r
748                 \EndIf\r
749         \EndIf\r
750 \EndFor\r
751 \EndProcedure\r
752 \end{algorithmic}\r
753 \r
754 \begin{algorithmic}[1]\r
755 \Function{CheckLiveness}{$s_s,de_s$}\r
756 \State $live \gets true$\r
757 \If{$de_s = kv$}\r
758         \State $s_l \gets GetLivEntLastS(LV,de_s)$\r
759         \If{$s_l = \emptyset \lor s_s < s_l$}\r
760                 \State $live \gets false$\r
761         \EndIf\r
762 \ElsIf{$de_s = ss$}\r
763         \State $ss_s \gets GetSS(de_s)$\r
764         \State $ss_l \gets GetLiveSS(SS_{live},ss_s)$\r
765         \If{$ss_l = \emptyset$}\r
766                 \State $live \gets false$\r
767         \EndIf\r
768 \ElsIf{$de_s = cr$}\r
769         \State $cr_s \gets GetCR(de_s)$\r
770         \State $cr_l \gets GetLiveCR(CR_{live},cr_s)$\r
771         \If{$cr_l = \emptyset$}\r
772                 \State $live \gets false$\r
773         \EndIf\r
774 \ElsIf{$de_s = qs$}\r
775         \State $qs_s \gets GetQS(de_s)$\r
776         \If{$qs_s \neq max_g$}\r
777                 \State $live \gets false$\r
778         \EndIf\r
779 \Else\r
780         \State \Call{Error}{'Unrecognized $de$ type'}\r
781 \EndIf\r
782 \State \Return{$live$}\r
783 \EndFunction\r
784 \end{algorithmic}\r
785 \r
786 \begin{algorithmic}[1]\r
787 \Function{CreateSlotSeq}{$sl_s$}\r
788 \State $id_s \gets GetID(sl_s)$\r
789 \State $s_{s_{last}} \gets GetLastS(sl_s)$\r
790 \State $ss_s \gets CreateSS(id_s,s_{s_{last}})$\r
791 \State \Return{$\tuple{ss_s}$}\r
792 \EndFunction\r
793 \end{algorithmic}\r
794 \r
795 \begin{algorithmic}[1]\r
796 \Function{AddQueSta}{$DE_s,max'_s,cp_s$}\Comment{Insert a $qs$}\r
797 \State $DE_{ret} \gets \emptyset$\r
798 \State $qs_s \gets max'_s$\r
799 \State $DE_{ret} \gets DE_s \cup \{qs_s\}$\r
800 \State $cp_s \gets cp_s - 1$\r
801 \State \Return{$\tuple{DE_{ret},cp_s}$}\r
802 \EndFunction\r
803 \end{algorithmic}\r
804 \r
805 \begin{algorithmic}[1]\r
806 \Function{GetKVPairs}{$DE_s,KV_s,cp_s$}\r
807 \State $DE_{ret} \gets \emptyset$\r
808 \If{$|KV_s| \leq cp_s$}\Comment{$KV$ set can span multiple slots}\r
809         \State $DE_{ret} \gets DE_s \cup\r
810         \{\tuple{k_s,v_s} \mid \tuple{ck_s,\tuple{k_s,v_s}} \in KV_s\}$\r
811 \Else\r
812         \State $DE_{ret} \gets DE_s \cup\r
813         \{\tuple{k_s,v_s} \mid \tuple{ck_s,\tuple{k_s,v_s}} \in KV_s,\r
814                 ck_g \leq ck_s < ck_g + cp_s\}$\r
815 \EndIf\r
816 \State \Return{$\tuple{DE_{ret}}$}\r
817 \EndFunction\r
818 \end{algorithmic}\r
819 \r
820 \begin{algorithmic}[1]\r
821 \Function{GetSSPairs}{$DE_s,SS_s,cp_s$}\r
822 \State $DE_{ret} \gets \emptyset$\r
823 \If{$|SS_s| \leq cp_s$}\Comment{$SS$ set can span multiple slots}\r
824         \State $DE_{ret} \gets DE_s \cup\r
825         \{\tuple{id_s,s_{s_{last}}} \mid \tuple{cs_s,\tuple{id_s,s_{s_{last}}}} \in SS_s\}$\r
826         \State $cp_s \gets cp_s - |SS_s|$\r
827 \Else\r
828         \State $DE_{ret} \gets DE_s \cup\r
829         \{\tuple{id_s,s_{s_{last}}} \mid \tuple{cs_s,\tuple{id_s,s_{s_{last}}}} \in SS_s,\r
830                 cs_g \leq cs_s < cs_g + cp_s\}$\r
831         \State $cp_s \gets 0$\r
832 \EndIf\r
833 \State \Return{$\tuple{DE_{ret},cp_s}$}\r
834 \EndFunction\r
835 \end{algorithmic}\r
836 \r
837 \begin{algorithmic}[1]\r
838 \Function{GetCRPairs}{$DE_s,CR_s,cp_s$}\r
839 \State $DE_{ret} \gets \emptyset$\r
840 \If{$|CR_s| \leq cp_s$}\Comment{$CR$ set can span multiple slots}\r
841         \State $DE_{ret} \gets DE_s \cup\r
842         \{\tuple{s_s,id_s} \mid \tuple{cc_s,\tuple{s_s,id_s}} \in CR_s\}$\r
843         \State $cp_s \gets cp_s - |CR_s|$\r
844 \Else\r
845         \State $DE_{ret} \gets DE_s \cup\r
846         \{\tuple{s_s,id_s} \mid \tuple{cc_s,\tuple{s_s,id_s}} \in CR_s,\r
847                 cc_g \leq cc_s < cc_g + cp_s\}$\r
848         \State $cp_s \gets 0$\r
849 \EndIf\r
850 \State \Return{$\tuple{DE_{ret},cp_s}$}\r
851 \EndFunction\r
852 \end{algorithmic}\r
853 \r
854 \begin{algorithmic}[1]\r
855 \Procedure{PutDataEntries}{$th_p,m'_p$}\r
856 \State $success_p \gets false$\r
857 \State $CR_p \gets \emptyset$\r
858 \While{$\neg success_p$}\r
859         \State $DE_p \gets \emptyset$\r
860         \State $s_p \gets MaxLastSeqN(MS)$\r
861         \State $cp_p \gets cp$\r
862         \State $max'_p \gets \Call{CheckResize}{MS,th_p,max_g,m'_p}$\r
863         \If{$max'_p \neq \emptyset$}\Comment{Add a qs entry}\r
864                 \State $\tuple{DE_p,cp_p} \gets \Call{AddQueSta}{DE_p,max'_p,cp_p}$\r
865                 \State $reinsert_{qs} \gets false$\r
866         \Else\Comment{Check if there is $qs$ reinsertion}\r
867                 \If{$reinsert_{qs}$}\r
868                         \State $\tuple{DE_p,cp_p} \gets \Call{AddQueSta}{DE_p,max_g,cp_p}$\r
869                         \State $reinsert_{qs} \gets false$\r
870                 \EndIf\r
871         \EndIf\r
872         \If{$SS \neq \emptyset$}\Comment{Add $ss$ entries}\r
873                 \State $\tuple{DE_p,cp_p} \gets \Call{GetSSPairs}{DE_p,SS,cp_p}$\r
874         \EndIf\r
875         \If{$CR \neq \emptyset$}\Comment{Add $cr$ entries}\r
876                 \State $\tuple{DE_p,cp_p} \gets \Call{GetCRPairs}{DE_p,CR,cp_p}$\r
877         \EndIf\r
878         \State $\tuple{DE_p,cp_p} \gets \Call{GetKVPairs}{DE_p,KV,cp_p}$\Comment{Add $kv$ entries}\r
879         \State $hmac_{c_p} \gets Hmac(DE_p,SK)$\r
880         \State $Dat_p \gets CreateDat(s_p,id_{self},hmac_{p_p},DE_p,hmac_{c_p})$\r
881         \State $hmac_{p_p} \gets hmac_{c_p}$\r
882         \State $sv_p \gets Encrypt(Dat_p,SK)$\r
883         \State $\tuple{success_p,SL_p} \gets \Call{PutSlot}{s_p,sv_p,max'_p}$\r
884         \If{$\neg success_p$}\r
885                 \State $cr_p \gets \Call{HandleCollision}{SL_p,s_p}$\r
886                 \State $\tuple{s_{p_{col}},id_{p_{col}}} \gets GetCR(cr_p)$\r
887                 \State $CR \gets \Call{PutCRPair}{CR,\tuple{s_{p_{col}},id_{p_{col}}}}$\r
888         \EndIf\r
889 \EndWhile\r
890 \State $MS \gets \Call{UpdateLastSeqN}{id_{self},s_p,MS}$\r
891 \If{$|DE_p| = cp$}\Comment{Update set counters}\r
892         \State $ck_g \gets ck_g + cp_p$\Comment{Middle of set}\r
893         \State $cs_g \gets cs_g + |SS|$\r
894         \State $cc_g \gets cc_g + |CR|$\r
895 \Else\Comment{End of set}\r
896         \State $ck_g \gets 0$\r
897         \State $cs_g \gets 0$\r
898         \State $cc_g \gets 0$\r
899 \EndIf\r
900 \State $need_p \gets \Call{CheckSLFull}{MS,max_g}$\r
901 \If{$need_p$}\Comment{SL on server is full}\r
902         \State $\Call{CheckLastSlot}{sl_{last}}$\Comment{Salvage entries from expunged slot}\r
903         \State $ss_p \gets \Call{CreateSlotSeq}{sl_{last}}$\r
904         \State $\tuple{id_p,s_{p_{last}}} \gets GetSS(ss_p)$\r
905         \State $SS \gets \Call{PutSSPair}{SS,\tuple{id_p,s_{p_{last}}}}$\Comment{Add ss}\r
906 \EndIf\r
907 \EndProcedure\r
908 \end{algorithmic}\r
909 \r
910 %\note{Lots of problems with PutDataEntries: (1) What happens if lose network connectivity after adding the key value pair, but before reinserting the last slot?  You probably need to create space first and then insert your data entry...  (2) What if reinsertlastslot kicks something else important out?  What if the server rejects our update because it is out of date?  At the very least, any putdataentries function w/o a loop is wrong!}\r
911 \r
912 %\note{General comments...  Work on structuring things to improve readability...  This include names of functions/variables, how things are partitioned into functions, adding useful comments,...}\r
913   \r
914 %\note{Also Missing liveness state definition in algorithm...}\r
915 \r
916 \r
917 \subsection{Formal Guarantees}\r
918 \subsubsection{Definitions}\r
919 \r
920 \begin{defn}[Message]\r
921 A message $\mathsf{t}$, is the tuple \r
922 \begin{center}\r
923 $\mathsf{t = \tuple{s, E(Dat_s)}}$ \\\r
924 $\mathsf{Dat_t = \tuple{s,id,hmac_p, DE,hmac_c}}$\r
925 \end{center}\r
926 containing $\mathsf{s}$ as sequence number and $\mathsf{Dat_t}$ as its \r
927 encrypted contents. $\mathsf{Dat_t}$ consists of $\mathsf{s}$, \r
928 $\mathsf{id}$ as machine ID of the sender, $\mathsf{hmac_p}$ as HMAC \r
929 from a previous message, $\mathsf{DE}$ as set of data entries, and \r
930 $\mathsf{hmac_c}$ as HMAC from message $\mathsf{t}$ respectively.\r
931 \end{defn}\r
932 \r
933 \begin{defn}[Equality]\r
934 Two messages $\mathsf{t}$ and $\mathsf{u}$ are equal if their $\mathsf{s}$, \r
935 and $\mathsf{Dat_t}$ are exactly the same.\r
936 \end{defn}\r
937 \r
938 \begin{defn}[Parent]\r
939 A parent of a message $\mathsf{t}$ is the message $\mathsf{p_t}$, \r
940 unique by the correctness of HMACs in $\mathsf{Dat_t}$, such that \r
941 $\mathsf{hmac_p(t) = hmac_c(p_t)}$.\r
942 \end{defn}\r
943 \r
944 \begin{defn}[Chain]\r
945 A chain of messages with length $\mathsf{n \ge 1}$ is a message sequence \r
946 $\mathsf{R = (r_s, r_{s+1}, ..., r_{s+n-1})}$ such that for every sequence \r
947 number $\mathsf{s < k \le s+n-1}$, $\mathsf{r_k}$ has sequence number \r
948 $\mathsf{k}$ and is the parent of $\mathsf{r_{k-1}}$.\r
949 \end{defn}\r
950 \r
951 \begin{defn}[Partial sequence]\r
952 A partial sequence $\mathsf{P}$ is a sequence of messages, no two \r
953 with the same sequence number, that can be divided into disjoint chains.\r
954 \end{defn}\r
955 \r
956 \begin{defn}[Total sequence]\r
957 A total sequence $\mathsf{T =}$ $\mathsf{(t_1, t_2, ..., t_n)}$ with \r
958 length $\mathsf{n}$ is a chain of messages that starts at $\mathsf{s = 1}$.\r
959 \end{defn}\r
960 \r
961 \begin{defn}[Path]\r
962 The path of a message $\mathsf{t}$ is the chain that starts at $\mathsf{s = 1}$ \r
963 and whose last message is $\mathsf{t}$. The uniqueness of a path follows \r
964 from the uniqueness of a parent.\r
965 \end{defn}\r
966 \r
967 \begin{defn}[Consistency]\r
968 A partial sequence $\mathsf{P}$ is consistent with a total sequence \r
969 $\mathsf{T}$ of length $\mathsf{n}$ if for every message $\mathsf{p \in P}$ \r
970 with $\mathsf{s_p \leq n}$, $\mathsf{t_{s_p} = p}$. This implies that \r
971 $\mathsf{\{p \in P | s_p \le n\}}$ is a partial sequence of $\mathsf{T}$.\r
972 \end{defn}\r
973 \r
974 \begin{defn}[Transitive closure]\r
975 Transitive closure set at sequence number $\mathsf{s_n}$ is a set \r
976 $\mathsf{\mathscr{S}}$ of clients comprising a connected component of an \r
977 undirected graph, where two clients are connected by an edge if they both \r
978 received the same message $\mathsf{t}$ with sequence number $\mathsf{s_t > s_n}$.\r
979 \end{defn}\r
980 \r
981 \subsubsection{Lemmas and Proofs}\r
982 \r
983 \begin{prop}\r
984 \label{prop:parentmessage}\r
985 Every client $\mathsf{J}$ who sends a message $\mathsf{t}$ \r
986 has parent $\mathsf{p_t}$ as its latest stored message, and \r
987 $\mathsf{s_t = s_{p_t} + 1}$. \r
988 \end{prop}\r
989 \begin{proof} True by definition, because $J$ sets \r
990 $\mathsf{hmac_p(t) = hmac_c(p_t)}$ and \r
991 $\mathsf{s_t = }$ $\mathsf{s_{p_t + 1}}$ when a message \r
992 is sent. \r
993 \end{proof}\r
994 \r
995 \begin{prop} \r
996 \label{prop:rejectedmessage}\r
997 If a rejected message entry is added to the set $\mathsf{CR}$ \r
998 at sequence number $\mathsf{s}$, the message will remain in $\mathsf{CR}$ \r
999 until every client has seen it. \r
1000 \end{prop}\r
1001 \begin{proof} Every $\mathsf{CR}$ entry $\mathsf{cr}$ remains in the queue until it \r
1002 reaches the tail, and is refreshed by the next sender $\mathsf{J}$ at that time if \r
1003 $\mathsf{min(MS) > s_{cr}}$; that is, until every client has sent a message with \r
1004 sequence number greater than $\mathsf{s_{cr}}$. Because every client who sends a \r
1005 message with sequence number $\mathsf{s}$ has the state of the set $\mathsf{SL}$ at \r
1006 $\mathsf{s - 1}$, this client will have seen the message at $\mathsf{s_{cr}}$. \r
1007 \end{proof}\r
1008 \r
1009 \begin{figure}[h]\r
1010   \centering\r
1011       \xymatrix{ & & L \\\r
1012 \dots \ar[r] & q \ar[dr]_{J} \ar[r]^{K} & l_1 \ar[r] & l_2 \ar[r] & \dots \ar[r] & m \ar[r] & \dots \ar[r] & l_n = u \\\r
1013 & & r_1 \ar[r] & r_2 \ar[r] & \dots \ar[r] & r_m = t \\\r
1014 & & R\r
1015 \save "2,3"."2,8"*+\frm{^\}}\r
1016 \save "3,3"."3,6"*+\frm{_\}}\r
1017 \restore\r
1018 \restore\r
1019 }\r
1020 \caption{By \textbf{Lemma \ref{lem:twomessages}}, receiving both $t$ and $u$ here is impossible.}\r
1021 \end{figure}\r
1022 \r
1023 \begin{lem}\r
1024 \label{lem:twomessages}\r
1025 Two messages are received without errors by a client $\mathsf{C}$; \r
1026 call them $\mathsf{t}$ and $\mathsf{u}$ such that $\mathsf{s_t \le s_u}$. \r
1027 Then $\mathsf{t}$ is in the path of $\mathsf{u}$. \r
1028 \end{lem}\r
1029 \begin{proof}\r
1030 Assume that there are some pairs of messages $\mathsf{(t,u)}$ that violate this lemma. \r
1031 Take a specific $\mathsf{(t,u)}$ such that $\mathsf{s_u}$ is minimized, and \r
1032 $\mathsf{s_t}$ is maximized for this choice of $\mathsf{s_u}$. We will show that $\mathsf{C}$\r
1033 cannot receive both $\mathsf{t}$ and $\mathsf{u}$ without throwing an error.\r
1034 \r
1035 Clearly $\mathsf{C}$ will throw an error if $\mathsf{s_t = s_u}$. So \r
1036 $\mathsf{s_t < s_u}$. Additionally, if $\mathsf{C}$ receives $\mathsf{u}$ before \r
1037 $\mathsf{t}$, this will cause it to throw an error, so $\mathsf{t}$ is received \r
1038 before $\mathsf{u}$. We will prove that an error occurs upon receipt of $\mathsf{u}$.\r
1039 \r
1040 Let $\mathsf{r_1}$ be the earliest member of the path of $\mathsf{t}$ that is \r
1041 not in the path of $\mathsf{u}$, and $\mathsf{q}$ be its parent. Message \r
1042 $\mathsf{q}$, the last common ancestor of $\mathsf{t}$ and $\mathsf{u}$, must exist, \r
1043 since all clients and the server were initialized with the same state. Let \r
1044 $\mathsf{l_1}$ be the successor of $\mathsf{q}$ that is in the path of $\mathsf{u}$; \r
1045 we know $\mathsf{l_1 \neq r_1}$. Let $\mathsf{R = (r_1, r_2, \dots, r_{|R|} = t)}$ be \r
1046 the distinct portion of the path of $\mathsf{t}$, and similarly let $\mathsf{L}$ \r
1047 be the distinct portion of the path of $\mathsf{l_{|L|} = u}$.\r
1048 \r
1049 Let $\mathsf{J}$ be the client who sent $\mathsf{r_1}$; that is, such that \r
1050 $\mathsf{{id_{self}}_J = GetMacID(r_1)}$, and $\mathsf{K}$ be the client who \r
1051 sent $\mathsf{l_1}$. Because no client can send two messages with the same sequence number, and \r
1052 $\mathsf{s_{r_1} = s_{l_1} = s_q + 1}$, $\mathsf{J \neq K}$.\r
1053 \r
1054 We also know the following facts: \r
1055 \r
1056 \begin{prop} \r
1057 \label{prop:bothmessages}\r
1058 No client sends both a message in $\mathsf{(r_2,...,t)}$ and a message in $\mathsf{(l_2,...,u)}$. \r
1059 \end{prop}\r
1060 \r
1061 \begin{proof}\r
1062 To send a message $\mathsf{p}$ that is the parent of some other \r
1063 message, one must have received the parent of $\mathsf{p}$. Since \r
1064 $\mathsf{u}$ is the message with smallest sequence number received by any \r
1065 client that violates Lemma \ref{lem:twomessages}, no client receives both a message \r
1066 in $\mathsf{r}$ and a message in $\mathsf{l}$. \r
1067 \end{proof}\r
1068 \r
1069 \begin{prop} \r
1070 \label{prop:seqnumb}\r
1071 $\mathsf{C}$ does not receive any message with a\r
1072 sequence number strictly between $\mathsf{s_t}$ and $\mathsf{s_u}$. \r
1073 \end{prop}\r
1074 \r
1075 \begin{proof} If there were such a message with sequence number smaller than \r
1076 $\mathsf{s_u}$, it would contradict the assumption that $\mathsf{u}$ is the \r
1077 message with the least sequence number that violates Lemma \ref{lem:twomessages}. \r
1078 \end{proof}\r
1079 \r
1080 There are two cases:\r
1081 \begin{itemize}\r
1082 \item Case 1: $\mathsf{J}$ did not send a message in $\mathsf{L}$. Then, where $\mathsf{s_{t_J}}$ \r
1083 is the greatest sequence number of the messages that client $\mathsf{J}$ sent in \r
1084 the path of message $\mathsf{t}$, $\mathsf{s_{t_J} > s_{q_J} = s_{u_J}}$.\r
1085 \begin{itemize}\r
1086 \item Case 1.1: $\mathsf{C}$ never updates its slot sequence list $\mathsf{SS}$ \r
1087 between receiving $\mathsf{t}$ and receiving $\mathsf{u}$; this can only happen if \r
1088 $\mathsf{s_t = s_u - 1}$. Since $\mathsf{t}$ is not the parent of $\mathsf{u}$, \r
1089 $\mathsf{hmac_p(u) \neq hmac_c(t)}$, causing $\mathsf{C}$ to throw an error.\r
1090 \item Case 1.2: Case 1.1 does not occur; therefore, $\mathsf{C}$ must update \r
1091 its slot sequence list $\mathsf{SS}$ at some point between receiving $\mathsf{t}$ \r
1092 and $\mathsf{u}$. \r
1093 The latest sequence number of $\mathsf{J}$ decreases during this time, which \r
1094 means it must decrease when some message is received, which means $\mathsf{C}$ \r
1095 throws an error in the $\mathsf{CheckLastSeqN()}$ subroutine.\r
1096 \end{itemize}\r
1097 \r
1098 \item Case 2: $\mathsf{J}$ sent at least one message in $\mathsf{L}$. Call the \r
1099 first one $\mathsf{m}$. We know that $\mathsf{s_m > s_{r_1}}$, since \r
1100 $\mathsf{J \neq K}$ and $\mathsf{m \neq l_1}$. Message $\mathsf{r_1}$ must be sent \r
1101 either before or after $\mathsf{m}$.\r
1102 \begin{itemize}\r
1103 \item Case 2.1: Client $\mathsf{J}$ sends $\mathsf{m}$, and then $\mathsf{r_1}$. \r
1104 Before sending $\mathsf{m}$, the greatest sequence number of a message that \r
1105 $\mathsf{J}$ has received, $\mathsf{{s_{last}}_J}$, must be equal to \r
1106 $\mathsf{s_m - 1 \ge s_{r_1}}$. Since $\mathsf{{s_{last}}_J}$ never decreases, \r
1107 client $\mathsf{J}$ cannot then send a message with sequence number \r
1108 $\mathsf{s_{r_1}}$, a contradiction.\r
1109 \item Case 2.2: Client $\mathsf{J}$ sends $\mathsf{r_1}$, and then $\mathsf{m}$. \r
1110 Let $\mathsf{X = (r_1 = x_1, \dots , x_n)}$ be the list of messages $\mathsf{J}$ sends \r
1111 starting before $\mathsf{r_1}$ and ending before $m$; clearly these all have sequence \r
1112 number $\mathsf{s_p = s_q + 1}$.\r
1113 \begin{itemize}\r
1114 \item Case 2.2.1: Some message in $\mathsf{X}$ was accepted. Before sending $\mathsf{m}$, \r
1115 $\mathsf{J}$'s value in $\mathsf{MS_J}$ for its own latest sequence number would \r
1116 be strictly greater than $\mathsf{s_{q_J}}$. If there is a sequence of messages with \r
1117 contiguous sequence numbers that $\mathsf{J}$ receives between $\mathsf{r_1}$ and \r
1118 $\mathsf{m}$, $\mathsf{J}$ throws an error for a similar reason as Case 1.1. Otherwise, \r
1119 when preparing to send $\mathsf{m}$, $\mathsf{J}$ would have received an update of its \r
1120 own latest sequence number as at most $\mathsf{s_{q_J}}$. $J$ throws an error before \r
1121 sending $\mathsf{p}$, because its own latest sequence number decreases.\r
1122 \item Case 2.2.2: All messages in $\mathsf{X}$ were rejected, making $\mathsf{m}$ \r
1123 the first message of $\mathsf{J}$ that is accepted after $\mathsf{r_1}$.\r
1124 \r
1125 We will show that $\mathsf{C}$ sees $\mathsf{r_1}$. Assume not. Then $\mathsf{(r_2, ..., u)}$ \r
1126 must have at least $\mathsf{{max_g}_C} \geq 2$ messages for $\mathsf{r_1}$ to fall off the \r
1127 end of the queue. Consider the sender of $\mathsf{r_3}$ and call it $\mathsf{H}$. \r
1128 $\mathsf{H \neq J}$ by Proposition \ref{prop:bothmessages} and the existence of $\mathsf{m}$. \r
1129 Since $\mathsf{H \neq J}$, then by Proposition \ref{prop:bothmessages} it could not also \r
1130 have sent a message in $\mathsf{(l_2,..., u)}$. Therefore, $\mathsf{s_{u_H} < s_q + 2 = s_{t_H}}$, \r
1131 so upon receipt of $\mathsf{u}$, $\mathsf{C}$ will throw an error by the decrease in a \r
1132 last sequence number similar to Case 1, a contradiction.\r
1133 \r
1134 Now that we know that $\mathsf{C}$ sees $\mathsf{r_1}$, note that C receives $\mathsf{u}$ \r
1135 immediately after $\mathsf{t}$ by Proposition \ref{prop:seqnumb}. Therefore, \r
1136 $\mathsf{C}$ could not have seen a message after $\mathsf{t}$ with sequence number less \r
1137 than $\mathsf{s_m}$. In the $\mathsf{PutDataEntries()}$ subroutine, $\mathsf{J}$ adds every \r
1138 $\mathsf{cr}$ entry that contains sequence number $\mathsf{s}$ and machine ID \r
1139 $\mathsf{id}$ of the messsages that win in the collisions before $\mathsf{m}$ into \r
1140 $\mathsf{CR}$; $\mathsf{CR}$ keeps the collection of live $\mathsf{cr}$ entries, namely\r
1141 those which not all clients have seen. Hence, for every $\mathsf{i}$, $\mathsf{1 \leq i < |X|}$, \r
1142 the collision winner that has collided with $\mathsf{x_i}$ will be recorded appropriately. Since all the $\mathsf{cr}$ entries that record the results of the collisions before $\mathsf{p}$ will also be seen when $\mathsf{u}$ \r
1143 is received, and $\mathsf{C}$ sees $\mathsf{r_1}$, ${l_1}$ will be recorded in a $\mathsf{cr}$ entry as the winner in the \r
1144 collision against ${r_1}$.\r
1145 \r
1146 When $\mathsf{C}$ receives $\mathsf{u}$, if $\mathsf{C}$ \r
1147 has seen the $\mathsf{cr}$ entry that records the collision at index $\mathsf{s_q + 1}$, it will throw \r
1148 an error from the mismatch of $\mathsf{\tuple{s_q+1, id_J}}$ with \r
1149 $\mathsf{\tuple{s_q+1, id_K}}$ in the corresponding $\mathsf{cr}$ entry.\r
1150 \r
1151 \end{itemize}\r
1152 \end{itemize}\r
1153 \r
1154 \end{itemize}\r
1155 \end{proof}\r
1156 \r
1157 \begin{lem} \r
1158 \label{lem:pathmessages}\r
1159 If there are two messages $\mathsf{t}$ and $\mathsf{u}$, with \r
1160 $\mathsf{s_t \leq s_u}$, such that $\mathsf{t}$ is in the path of $\mathsf{u}$, \r
1161 then for any message $\mathsf{p}$ with $\mathsf{s_p \leq s_t}$, iff $\mathsf{p}$ is in \r
1162 the path of $\mathsf{t}$, it is in the path of $\mathsf{u}$. \r
1163 \end{lem}\r
1164 \r
1165 \begin{proof}\r
1166 If $\mathsf{s_t = s_u}$ or $\mathsf{s_p = s_t}$, then we are done, because the two \r
1167 relevant messages are the same. If they are different messages, then:\r
1168 \begin{itemize}\r
1169 \item Reverse direction: The definition of $\mathsf{t}$ being in the path of \r
1170 $\mathsf{u}$ is the existence of a message sequence $\mathsf{(\dots, t, \dots, u)}$ \r
1171 such that each message except $\mathsf{u}$ is the parent of the succeeding message. \r
1172 The path of $\mathsf{u}$ must contain some message with sequence number $\mathsf{s_p}$; \r
1173 because $\mathsf{p}$ is in the path of $\mathsf{u}$, this message is $\mathsf{p}$ \r
1174 itself. The path of $\mathsf{t}$ is then the prefix of this path ending at $\mathsf{t}$, \r
1175 which clearly contains $\mathsf{p}$.\r
1176 \r
1177 \item Forward direction: The path of $\mathsf{t}$ is a substring of the path of \r
1178 $\mathsf{u}$, so if the path of $\mathsf{t}$ contains $\mathsf{p}$, so does the path \r
1179 of $\mathsf{u}$.\r
1180 \end{itemize}\r
1181 \end{proof}\r
1182 \r
1183 \begin{theorem}\r
1184 Suppose that there is a transitive closure set $\mathsf{\mathscr{S}}$ of clients, \r
1185 at sequence number $\mathsf{s_n}$. Then there is some total sequence $\mathsf{T}$ of \r
1186 length $\mathsf{n}$ such that every client $\mathsf{C}$ in $\mathsf{\mathscr{S}}$ \r
1187 sees a partial sequence $\mathsf{P_C}$ consistent with $\mathsf{T}$. \r
1188 \end{theorem}\r
1189 \r
1190 \begin{proof}\r
1191 \r
1192 The definition of consistency of $\mathsf{P_C}$ with $\mathsf{T}$ is that every message \r
1193 $\mathsf{p \in P_C}$ with sequence number $\mathsf{s_p \le s_n}$ is equal to the message \r
1194 in that slot in $\mathsf{T}$. Let $\mathsf{C_1}$ be some client in the transitive closure \r
1195 set, with partial sequence $\mathsf{P_{C_1}}$, and let $\mathsf{u}$ be some message with \r
1196 $\mathsf{s_u > s_n}$ that $\mathsf{C_1}$ shares with another client. Then let $\mathsf{T}$ \r
1197 be the portion of the path of $\mathsf{u}$ ending at sequence number $\mathsf{s_n}$ and \r
1198 $\mathsf{t}$ be the message at that sequence number. Clearly, by Lemma \ref{lem:twomessages}, \r
1199 $\mathsf{P_{C_1}}$ is consistent with $\mathsf{T}$. We will show that, for every other client \r
1200 $\mathsf{D}$ with partial sequence $\mathsf{P_D}$, $\mathsf{P_D}$ has some message whose path \r
1201 includes $\mathsf{t}$. Because $\mathsf{D}$ is in the transitive closure, there is a sequence \r
1202 of clients $\mathsf{\mathscr{C} = (C_1, C_2, ..., D)}$ from $\mathsf{C_1}$ to $\mathsf{D}$, \r
1203 where each shares an edge with the next.\r
1204 We prove by induction that $\mathsf{P_D}$ has a message whose path includes $\mathsf{t}$.\r
1205 \begin{itemize}\r
1206 \item Base case: $\mathsf{P_{C_1}}$ includes $\mathsf{u}$, whose path includes $\mathsf{t}$.\r
1207 \r
1208 \item Inductive step: Each client in $\mathsf{\mathscr{C}}$ has a partial sequence with a message \r
1209 that includes $\mathsf{t}$ if the previous client does. Suppose $\mathsf{P_{C_k}}$ has \r
1210 a message $\mathsf{w}$ with a path that includes $\mathsf{t}$, and shares message $\mathsf{x}$ \r
1211 with $\mathsf{P_{C_{k+1}}}$ such that $\mathsf{s_x > s_n}$. By Lemma \ref{lem:twomessages}, \r
1212 $\mathsf{w}$ or $\mathsf{x}$, whichever has the least sequence number, is in the path of the other, \r
1213 and therefore by Lemma \ref{lem:pathmessages}, $\mathsf{t}$ is in the path of $\mathsf{x}$.\r
1214 \r
1215 \item Let $\mathsf{z}$ be the message of $\mathsf{D}$ whose path includes $\mathsf{t}$. \r
1216 By Lemma \ref{lem:twomessages}, every message in $\mathsf{P_D}$ with sequence number smaller \r
1217 than $\mathsf{s_w}$ is in the path of $\mathsf{z}$. Since $\mathsf{t}$ is in the path of \r
1218 $\mathsf{z}$, every message in $\mathsf{P_D}$ with smaller sequence number than \r
1219 $\mathsf{s_t = s_n}$ is in $\mathsf{T}$. \r
1220 Therefore, $\mathsf{P_D}$ is consistent with $\mathsf{T}$.\r
1221 \r
1222 \end{itemize}\r
1223 \end{proof}\r
1224 \r
1225 \subsection{Future Work}\r
1226 \paragraph{Support Messages}\r
1227   A message is dead once receiving machine sends an entry with a newer\r
1228   sequence identifier\r
1229 \r
1230 \paragraph{Persistent data structures}\r
1231         Root object w/ fields\r
1232         Other objects can be reachable from root\r
1233         Each object has its own entries\r
1234         Dead objects correspond to dead \r
1235 \r
1236 \paragraph{Multiple App Sharing}\r
1237 \r
1238 Idea is to separate subspace of entries...  Shared with other cloud...\r
1239 \end{document}\r