complete hashtable implementation with separate socket pools for read and
[IRC.git] / Robust / src / Runtime / DSTM / interface / dstm.h
1 #ifndef _DSTM_H_
2 #define _DSTM_H_
3
4 #ifdef MAC
5 #define MSG_NOSIGNAL 0
6 #endif
7
8 /***********************************************************
9  *       Macros
10  **********************************************************/
11 #define GET_NTUPLES(x)  ((int *)(x + sizeof(prefetchqelem_t)))
12 #define GET_PTR_OID(x)  ((unsigned int *)(x + sizeof(prefetchqelem_t) + sizeof(int)))
13 #define GET_PTR_EOFF(x,n) ((short *)(x + sizeof(prefetchqelem_t) + sizeof(int) + (n*sizeof(unsigned int))))
14 #define GET_PTR_ARRYFLD(x,n) ((short *)(x + sizeof(prefetchqelem_t) + sizeof(int) + (n*sizeof(unsigned int)) + (n*sizeof(short))))
15 /*****************************************
16  *  Coordinator Messages
17  ***************************************/
18 #define READ_REQUEST            1
19 #define READ_MULT_REQUEST       2
20 #define MOVE_REQUEST            3
21 #define MOVE_MULT_REQUEST       4
22 #define TRANS_REQUEST           5
23 #define TRANS_ABORT             6
24 #define TRANS_COMMIT            7
25 #define TRANS_PREFETCH          8
26 #define TRANS_ABORT_BUT_RETRY_COMMIT_WITH_RELOCATING    9
27
28 /*********************************
29  * Participant Messages
30  *******************************/
31 #define OBJECT_FOUND                    10
32 #define OBJECT_NOT_FOUND                11
33 #define OBJECTS_FOUND                   12
34 #define OBJECTS_NOT_FOUND               13
35 #define TRANS_AGREE                     17
36 #define TRANS_DISAGREE                  18
37 #define TRANS_AGREE_BUT_MISSING_OBJECTS 19
38 #define TRANS_SOFT_ABORT                20
39 #define TRANS_SUCESSFUL                 21
40 #define TRANS_PREFETCH_RESPONSE         22
41 #define START_REMOTE_THREAD             23
42 #define THREAD_NOTIFY_REQUEST           24
43 #define THREAD_NOTIFY_RESPONSE          25
44 #define TRANS_UNSUCESSFUL               26
45 #define CLOSE_CONNECTION                27
46
47 //Max number of objects 
48 #define MAX_OBJECTS  20
49 //Max remote-machine connections
50 #define NUM_MACHINES 2
51 #define LOADFACTOR 0.5
52 #define DEFAULT_OBJ_STORE_SIZE 1048510 //1MB
53 //Transaction id per machine
54 #define TID_LEN 20
55 #define LISTEN_PORT 2156
56
57
58 #include <stdlib.h>
59 #include <stdio.h>
60 #include <string.h>
61 #include <pthread.h>
62 #include "clookup.h"
63 #include "queue.h"
64 #include "mcpileq.h"
65 #include "threadnotify.h"
66 #include <sys/types.h>
67 #include <sys/socket.h>
68 #include <netdb.h>
69 #include <netinet/in.h>
70 #include <sys/types.h>
71 #include <unistd.h>
72 #include <errno.h>
73 #include <time.h>
74 #include "sockpool.h"
75
76 //bit designations for status field of objheader
77 #define DIRTY 0x01
78 #define NEW   0x02
79 #define LOCK  0x04
80 #define LOCAL  0x08
81
82 #ifdef COMPILER
83
84 #include "structdefs.h"
85
86 typedef struct objheader {
87         threadlist_t *notifylist;
88         unsigned short version;
89         unsigned short rcount;
90 } objheader_t;
91
92 #define OID(x)\
93     (*((unsigned int *)&((struct ___Object___ *)((unsigned int) x + sizeof(objheader_t)))->___nextobject___))
94
95 #define COMPOID(x)\
96     (*((unsigned int *)&((struct ___Object___ *) x)->___nextobject___))
97
98 #define STATUS(x)\
99          *((unsigned int *) &(((struct ___Object___ *)((unsigned int) x + sizeof(objheader_t)))->___localcopy___))
100
101 #define TYPE(x)\
102         ((struct ___Object___ *)((unsigned int) x + sizeof(objheader_t)))->type
103
104 #define GETSIZE(size, x) {\
105   int type=TYPE(x);\
106   if (type<NUMCLASSES) {\
107     size=classsize[type];\
108   } else {\
109     size=classsize[type]*((struct ArrayObject *)&((objheader_t *)x)[1])->___length___+sizeof(struct ArrayObject);\
110   }\
111 }
112
113 #else
114
115 typedef struct objheader {
116         threadlist_t *notifylist;
117         unsigned int oid;
118         unsigned short type;
119         unsigned short version;
120         unsigned short rcount;
121         char status;
122 } objheader_t;
123
124 #define OID(x) x->oid
125 #define TYPE(x) x->type
126 #define STATUS(x) x->status
127 #define GETSIZE(size, x) size=classsize[TYPE(x)]
128 #endif
129
130
131 typedef struct objstr {
132         unsigned int size; //this many bytes are allocated after this header
133         void *top;
134         struct objstr *next;
135 } objstr_t;
136
137 typedef struct oidmidpair {
138     unsigned int oid;
139     unsigned int mid;
140 } oidmidpair_t;
141
142 typedef struct transrecord {
143   objstr_t *cache;
144   chashtable_t *lookupTable;
145 #ifdef COMPILER
146   struct ___Object___ * revertlist;
147 #endif
148 } transrecord_t;
149
150 // Structure is a shared structure that keeps track of responses from the participants
151 typedef struct thread_response {
152   char rcv_status;
153 } thread_response_t;
154
155 // Structure that holds  fixed data to be sent along with TRANS_REQUEST
156 typedef struct fixed_data {
157   char control;                 /* control message */
158   char trans_id[TID_LEN];       /* transaction id */
159   int mcount;                   /* participant count */
160   short numread;                /* no of objects read */
161   short nummod;                 /* no of objects modified */
162   short numcreated;             /* no of objects created */
163   int sum_bytes;                /* total bytes of modified objects in a transaction */
164 } fixed_data_t;
165
166 /* Structure that holds trans request information for each participant */
167 typedef struct trans_req_data {
168   fixed_data_t f;               /* Holds first few fixed bytes of data sent during TRANS_REQUEST protcol*/
169   unsigned int *listmid;        /* Pointer to array holding list of participants */
170   char *objread;                /* Pointer to array holding oid and version number of objects that are only read */ 
171   unsigned int *oidmod;         /* Pointer to array holding oids of objects that are modified */
172   unsigned int *oidcreated;     /* Pointer to array holding oids of objects that are newly created */
173 } trans_req_data_t;             
174
175 /* Structure that holds information of objects that are not found in the participant
176  * and objs locked within a transaction during commit process */
177 typedef struct trans_commit_data{
178   unsigned int *objlocked;      /* Pointer to array holding oids of objects locked inside a transaction */
179   unsigned int *objnotfound;    /* Pointer to array holding oids of objects not found on the participant machine */
180   void *modptr;                 /* Pointer to the address in the mainobject store of the participant that holds all modified objects */
181   int numlocked;                /* no of objects locked */
182   int numnotfound;              /* no of objects not found */
183 } trans_commit_data_t;
184
185
186 #define PRINT_TID(PTR) printf("DEBUG -> %x %d\n", PTR->mid, PTR->thread_id);
187 /* Structure for passing multiple arguments to a thread
188  * spawned to process each transaction on a machine */
189 typedef struct thread_data_array {
190   int thread_id;        
191   int mid;    
192   trans_req_data_t *buffer;     /* Holds trans request information sent to participants */  
193   thread_response_t *recvmsg;   /* Shared datastructure to keep track of the participants response to a trans request */
194   pthread_cond_t *threshold;    /* Condition var to waking up a thread */
195   pthread_mutex_t *lock;        /* Lock for counting participants response */
196   int *count;                   /* Variable to count responses from all participants to the TRANS_REQUEST protocol */
197   char *replyctrl;              /* Shared ctrl message that stores the reply to be sent to participants, filled by decideResponse() */
198   char *replyretry;             /* Shared variable that keep track if coordinator needs retry */
199   transrecord_t *rec;           /* To send modified objects */
200 } thread_data_array_t;
201
202
203 //Structure for passing arguments to the local m/c thread
204 typedef struct local_thread_data_array {
205         thread_data_array_t *tdata;     /* Holds all the arguments send to a thread that is spawned when transaction commits */ 
206         trans_commit_data_t *transinfo; /* Holds information of objects locked and not found in the participant */ 
207 } local_thread_data_array_t;
208
209 //Structure to store mid and socketid information
210 typedef struct midSocketInfo {
211         unsigned int mid;               /* To communicate with mid use sockid in this data structure*/
212         int sockid;
213 } midSocketInfo_t;
214
215 /* Initialize main object store and lookup tables, start server thread. */
216 int dstmInit(void);
217 void send_data(int fd, void *buf, int buflen);
218 void recv_data(int fd, void *buf, int buflen);
219 int recv_data_errorcode(int fd, void *buf, int buflen);
220
221 /* Prototypes for object header */
222 unsigned int getNewOID(void);
223 /* end object header */
224
225 /* Prototypes for object store */
226 objstr_t *objstrCreate(unsigned int size); //size in bytes
227 void objstrDelete(objstr_t *store); //traverse and free entire list
228 void *objstrAlloc(objstr_t *store, unsigned int size); //size in bytes
229 /* end object store */
230
231 /* Prototypes for server portion */
232 void *dstmListen();
233 void *dstmAccept(void *);
234 int readClientReq(trans_commit_data_t *, int);
235 int processClientReq(fixed_data_t *, trans_commit_data_t *,unsigned int *, char *, void *, unsigned int *, int);
236 char handleTransReq(fixed_data_t *, trans_commit_data_t *, unsigned int *, char *, void *, int);
237 char decideCtrlMessage(fixed_data_t *, trans_commit_data_t *, int *, int *, int *, int *, int *, void *, unsigned int *, unsigned int *, int);
238 int transCommitProcess(void *, unsigned int *, unsigned int *, int, int, int);
239 void processReqNotify(unsigned int numoid, unsigned int *oid, unsigned short *version, unsigned int mid, unsigned int threadid);
240 /* end server portion */
241
242 /* Prototypes for transactions */
243 /* Function called at beginning. Passes in the first parameter. */
244 /* Returns 1 if this thread should run the main process */
245
246 int dstmStartup(const char *);
247 void transInit();
248 int processConfigFile();
249 void addHost(unsigned int);
250 void mapObjMethod(unsigned short);
251
252 void randomdelay();
253 transrecord_t *transStart();
254 objheader_t *transRead(transrecord_t *, unsigned int);
255 objheader_t *transCreateObj(transrecord_t *, unsigned int); //returns oid header
256 int transCommit(transrecord_t *record); //return 0 if successful
257 void *transRequest(void *);     //the C routine that the thread will execute when TRANS_REQUEST begins
258 void decideResponse(thread_data_array_t *);// Coordinator decides what response to send to the participant
259 char sendResponse(thread_data_array_t *, int); //Sends control message back to Participants
260 void *getRemoteObj(transrecord_t *, unsigned int, unsigned int);// returns object header from main object store after object is copied into it from remote machine
261 void *handleLocalReq(void *);//handles Local requests 
262 int transComProcess(local_thread_data_array_t *);
263 int transAbortProcess(local_thread_data_array_t *);
264 void transAbort(transrecord_t *trans);
265
266 void prefetch(int, unsigned int *, unsigned short *, short*);
267 void *transPrefetch(void *);
268 void *mcqProcess(void *);
269 void checkPrefetchTuples(prefetchqelem_t *);
270 prefetchpile_t *foundLocal(prefetchqelem_t *);// returns node with prefetch elements(oids, offsets)
271 prefetchpile_t *makePreGroups(prefetchqelem_t *, int *);// returns node with prefetch elements(oids, offsets)
272 void checkPreCache(prefetchqelem_t *, int *, unsigned int, int);
273 int transPrefetchProcess(transrecord_t *, int **, short);
274 void sendPrefetchReq(prefetchpile_t*, int);
275 int getPrefetchResponse(int);
276 unsigned short getObjType(unsigned int oid);
277 int startRemoteThread(unsigned int oid, unsigned int mid);
278 /* Sends notification request for thread join, if sucessful returns 0 else returns -1 */
279 int reqNotify(unsigned int *oidarry, unsigned short *versionarry, unsigned int numoid);
280 void threadNotify(unsigned int oid, unsigned short version, unsigned int tid);
281 int notifyAll(threadlist_t **head, unsigned int oid, unsigned int version);
282
283 /* end transactions */
284 #endif