abortreaders option finished
[IRC.git] / Robust / src / Runtime / DSTM / interface / trans.c
index 0fe01246f763126de19c894cfec57c3bb307fcdb..85564b8b05127ad1449518bbb7c49598ed723c7a 100644 (file)
@@ -10,6 +10,8 @@
 #include "addUdpEnhance.h"
 #include "addPrefetchEnhance.h"
 #include "gCollect.h"
+#include "dsmlock.h"
+#include "prefetch.h"
 #ifdef COMPILER
 #include "thread.h"
 #endif
@@ -18,6 +20,7 @@
 #define PREFETCH_CACHE_SIZE 1048576 //1MB
 #define CONFIG_FILENAME "dstm.conf"
 
+
 /* Global Variables */
 extern int classsize[];
 pfcstats_t *evalPrefetch;
@@ -54,9 +57,13 @@ int nchashSearch = 0;
 int nmhashSearch = 0;
 int nprehashSearch = 0;
 int nRemoteSend = 0;
+int nSoftAbort = 0;
+int bytesSent = 0;
+int bytesRecv = 0;
 
 void printhex(unsigned char *, int);
 plistnode_t *createPiles(transrecord_t *);
+plistnode_t *sortPiles(plistnode_t *pileptr);
 
 /*******************************
 * Send and Recv function calls
@@ -67,6 +74,7 @@ void send_data(int fd, void *buf, int buflen) {
   int numbytes;
   while (size > 0) {
     numbytes = send(fd, buffer, size, MSG_NOSIGNAL);
+    bytesSent = bytesSent + numbytes;
     if (numbytes == -1) {
       perror("send");
       exit(0);
@@ -82,6 +90,7 @@ void recv_data(int fd, void *buf, int buflen) {
   int numbytes;
   while (size > 0) {
     numbytes = recv(fd, buffer, size, 0);
+    bytesRecv = bytesRecv + numbytes;
     if (numbytes == -1) {
       perror("recv");
       exit(0);
@@ -131,7 +140,7 @@ inline int arrayLength(int *array) {
 inline int findmax(int *array, int arraylength) {
   int max, i;
   max = array[0];
-  for(i = 0; i < arraylength; i++){
+  for(i = 0; i < arraylength; i++) {
     if(array[i] > max) {
       max = array[i];
     }
@@ -272,9 +281,15 @@ void transInit() {
 
   //Create the primary prefetch thread
   int retval;
+#ifdef RANGEPREFETCH
+  do {
+    retval=pthread_create(&tPrefetch, NULL, transPrefetchNew, NULL);
+  } while(retval!=0);
+#else
   do {
     retval=pthread_create(&tPrefetch, NULL, transPrefetch, NULL);
   } while(retval!=0);
+#endif
   pthread_detach(tPrefetch);
 #endif
 }
@@ -299,50 +314,97 @@ void randomdelay() {
 
   t = time(NULL);
   req.tv_sec = 0;
-  req.tv_nsec = (long)(1000000 + (t%10000000)); //1-11 msec
+  req.tv_nsec = (long)(1000 + (t%10000)); //1-11 microsec
   nanosleep(&req, NULL);
   return;
 }
 
 /* This function initializes things required in the transaction start*/
-transrecord_t *transStart() {
+__attribute__((malloc)) transrecord_t *transStart() {
   transrecord_t *tmp;
-  if((tmp = calloc(1, sizeof(transrecord_t))) == NULL){
+  if((tmp = calloc(1, sizeof(transrecord_t))) == NULL) {
     printf("%s() Calloc error at line %d, %s\n", __func__, __LINE__, __FILE__);
     return NULL;
   }
   tmp->cache = objstrCreate(1048576);
   tmp->lookupTable = chashCreate(CHASH_SIZE, CLOADFACTOR);
-#ifdef COMPILER
-  tmp->revertlist=NULL;
-#endif
+  //#ifdef COMPILER
+  //  tmp->revertlist=NULL; //Not necessary...already null
+  //#endif
   return tmp;
 }
 
+// Search for an address for a given oid                                                                               
+/*#define INLINE    inline __attribute__((always_inline))
+
+INLINE void * chashSearchI(chashtable_t *table, unsigned int key) {
+  //REMOVE HASH FUNCTION CALL TO MAKE SURE IT IS INLINED HERE                                                          
+  chashlistnode_t *node = &table->table[(key & table->mask)>>1];
+
+  do {
+    if(node->key == key) {
+      return node->val;
+    }
+    node = node->next;
+  } while(node != NULL);
+
+  return NULL;
+  }*/
+
+
 /* This function finds the location of the objects involved in a transaction
  * and returns the pointer to the object if found in a remote location */
-objheader_t *transRead(transrecord_t *record, unsigned int oid) {
+__attribute__((pure)) objheader_t *transRead(transrecord_t *record, unsigned int oid) {
   unsigned int machinenumber;
   objheader_t *tmp, *objheader;
   objheader_t *objcopy;
   int size;
   void *buf;
+  chashlistnode_t *node;
+  chashtable_t *table=record->lookupTable;
 
   if(oid == 0) {
     return NULL;
   }
+  
+  node= &table->table[(oid & table->mask)>>1];
+  do {
+    if(node->key == oid) {
+#ifdef TRANSSTATS
+    nchashSearch++;
+#endif
+#ifdef COMPILER
+    return &((objheader_t*)node->val)[1];
+#else
+    return node->val;
+#endif
+    }
+    node = node->next;
+  } while(node != NULL);
+  
 
-  if((objheader = chashSearch(record->lookupTable, oid)) != NULL){
+  /*  
+  if((objheader = chashSearchI(record->lookupTable, oid)) != NULL) {
 #ifdef TRANSSTATS
     nchashSearch++;
 #endif
-    /* Search local transaction cache */
 #ifdef COMPILER
     return &objheader[1];
 #else
     return objheader;
 #endif
-  } else if ((objheader = (objheader_t *) mhashSearch(oid)) != NULL) {
+  } else 
+  */
+
+#ifdef ABORTREADERS
+  if (trans->abort) {
+    //abort this transaction
+    longjmp(trans->aborttrans,1);
+  } else
+    addtransaction(oid,record);
+#endif
+
+  if ((objheader = (objheader_t *) mhashSearch(oid)) != NULL) {
 #ifdef TRANSSTATS
     nmhashSearch++;
 #endif
@@ -419,6 +481,7 @@ objheader_t *transCreateObj(transrecord_t *record, unsigned int size) {
 #endif
 }
 
+#if 1
 /* This function creates machine piles based on all machines involved in a
  * transaction commit request */
 plistnode_t *createPiles(transrecord_t *record) {
@@ -437,11 +500,7 @@ plistnode_t *createPiles(transrecord_t *record) {
       //if the first bin in hash table is empty
       if(curr->key == 0)
        break;
-
-      if ((headeraddr = (objheader_t *) chashSearch(record->lookupTable, curr->key)) == NULL) {
-       printf("Error: No such oid %s, %d\n", __FILE__, __LINE__);
-       return NULL;
-      }
+      headeraddr=(objheader_t *) curr->val;
 
       //Get machine location for object id (and whether local or not)
       if (STATUS(headeraddr) & NEW || (mhashSearch(curr->key) != NULL)) {
@@ -458,6 +517,40 @@ plistnode_t *createPiles(transrecord_t *record) {
   }
   return pile;
 }
+#else
+/* This function creates machine piles based on all machines involved in a
+ * transaction commit request */
+plistnode_t *createPiles(transrecord_t *record) {
+  int i;
+  plistnode_t *pile = NULL;
+  unsigned int machinenum;
+  objheader_t *headeraddr;
+  struct chashentry * ptr = record->lookupTable->table;
+  /* Represents number of bins in the chash table */
+  unsigned int size = record->lookupTable->size;
+
+  for(i = 0; i < size ; i++) {
+    struct chashentry * curr = & ptr[i];
+    /* Inner loop to traverse the linked list of the cache lookupTable */
+    //if the first bin in hash table is empty
+    if(curr->key == 0)
+      continue;
+    headeraddr=(objheader_t *) curr->ptr;
+
+    //Get machine location for object id (and whether local or not)
+    if (STATUS(headeraddr) & NEW || (mhashSearch(curr->key) != NULL)) {
+      machinenum = myIpAddr;
+    } else if ((machinenum = lhashSearch(curr->key)) == 0) {
+      printf("Error: No such machine %s, %d\n", __FILE__, __LINE__);
+      return NULL;
+    }
+
+    //Make machine groups
+    pile = pInsert(pile, headeraddr, machinenum, record->lookupTable->numelements);
+  }
+  return pile;
+}
+#endif
 
 /* This function initiates the transaction commit process
  * Spawns threads for each of the new connections with Participants
@@ -467,167 +560,243 @@ plistnode_t *createPiles(transrecord_t *record) {
 int transCommit(transrecord_t *record) {
   unsigned int tot_bytes_mod, *listmid;
   plistnode_t *pile, *pile_ptr;
-  int i, j, rc, val;
-  int pilecount, offset, threadnum, trecvcount;
-  char control;
-  char transid[TID_LEN];
-  trans_req_data_t *tosend;
-  trans_commit_data_t transinfo;
-  static int newtid = 0;
-  char treplyctrl, treplyretry; /* keeps track of the common response that needs to be sent */
-  thread_data_array_t *thread_data_array;
-  local_thread_data_array_t *ltdata;
+  int trecvcount;
+  char treplyretry; /* keeps track of the common response that needs to be sent */
   int firsttime=1;
+  trans_commit_data_t transinfo; /* keeps track of objs locked during transaction */
+  char finalResponse;
 
   do {
-    treplyctrl=0;
     trecvcount = 0;
-    threadnum = 0;
     treplyretry = 0;
-    thread_data_array = NULL;
-    ltdata = NULL;
 
     /* Look through all the objects in the transaction record and make piles
      * for each machine involved in the transaction*/
-    if (firsttime)
+    if (firsttime) {
       pile_ptr = pile = createPiles(record);
-    else
-      pile=pile_ptr;
-    firsttime=0;
-
+      pile_ptr = pile = sortPiles(pile);
+    } else {
+      pile = pile_ptr;
+    }
+    firsttime = 0;
     /* Create the packet to be sent in TRANS_REQUEST */
 
     /* Count the number of participants */
+    int pilecount;
     pilecount = pCount(pile);
 
-    /* Create a list of machine ids(Participants) involved in transaction      */
+    /* Create a list of machine ids(Participants) involved in transaction   */
     listmid = calloc(pilecount, sizeof(unsigned int));
     pListMid(pile, listmid);
 
-
-    /* Initialize thread variables,
-     * Spawn a thread for each Participant involved in a transaction */
-    pthread_t thread[pilecount];
-    pthread_attr_t attr;
-    pthread_cond_t tcond;
-    pthread_mutex_t tlock;
-    pthread_mutex_t tlshrd;
-
-    thread_data_array = (thread_data_array_t *) calloc(pilecount, sizeof(thread_data_array_t));
-    ltdata = calloc(1, sizeof(local_thread_data_array_t));
-
-    thread_response_t rcvd_control_msg[pilecount];      /* Shared thread array that keeps track of responses of participants */
-
-    /* Initialize and set thread detach attribute */
-    pthread_attr_init(&attr);
-    pthread_attr_setdetachstate(&attr, PTHREAD_CREATE_JOINABLE);
-    pthread_mutex_init(&tlock, NULL);
-    pthread_cond_init(&tcond, NULL);
+    /* Create a socket and getReplyCtrl array, initialize */
+    int socklist[pilecount];
+    int loopcount;
+    for(loopcount = 0 ; loopcount < pilecount; loopcount++)
+      socklist[loopcount] = 0;
+    char getReplyCtrl[pilecount];
+    for(loopcount = 0 ; loopcount < pilecount; loopcount++)
+      getReplyCtrl[loopcount] = 0;
 
     /* Process each machine pile */
+    int sockindex = 0;
+    trans_req_data_t *tosend;
+    tosend = calloc(pilecount, sizeof(trans_req_data_t));
     while(pile != NULL) {
-      //Create transaction id
-      newtid++;
-      tosend = calloc(1, sizeof(trans_req_data_t));
-      tosend->f.control = TRANS_REQUEST;
-      sprintf(tosend->f.trans_id, "%x_%d", pile->mid, newtid);
-      tosend->f.mcount = pilecount;
-      tosend->f.numread = pile->numread;
-      tosend->f.nummod = pile->nummod;
-      tosend->f.numcreated = pile->numcreated;
-      tosend->f.sum_bytes = pile->sum_bytes;
-      tosend->listmid = listmid;
-      tosend->objread = pile->objread;
-      tosend->oidmod = pile->oidmod;
-      tosend->oidcreated = pile->oidcreated;
-      thread_data_array[threadnum].thread_id = threadnum;
-      thread_data_array[threadnum].mid = pile->mid;
-      thread_data_array[threadnum].buffer = tosend;
-      thread_data_array[threadnum].recvmsg = rcvd_control_msg;
-      thread_data_array[threadnum].threshold = &tcond;
-      thread_data_array[threadnum].lock = &tlock;
-      thread_data_array[threadnum].count = &trecvcount;
-      thread_data_array[threadnum].replyctrl = &treplyctrl;
-      thread_data_array[threadnum].replyretry = &treplyretry;
-      thread_data_array[threadnum].rec = record;
-      /* If local do not create any extra connection */
-      if(pile->mid != myIpAddr) { /* Not local */
-       do {
-         rc = pthread_create(&thread[threadnum], &attr, transRequest, (void *) &thread_data_array[threadnum]);
-       } while(rc!=0);
-       if(rc) {
-         perror("Error in pthread create\n");
-         pthread_cond_destroy(&tcond);
-         pthread_mutex_destroy(&tlock);
-         pDelete(pile_ptr);
+      tosend[sockindex].f.control = TRANS_REQUEST;
+      tosend[sockindex].f.mcount = pilecount;
+      tosend[sockindex].f.numread = pile->numread;
+      tosend[sockindex].f.nummod = pile->nummod;
+      tosend[sockindex].f.numcreated = pile->numcreated;
+      tosend[sockindex].f.sum_bytes = pile->sum_bytes;
+      tosend[sockindex].listmid = listmid;
+      tosend[sockindex].objread = pile->objread;
+      tosend[sockindex].oidmod = pile->oidmod;
+      tosend[sockindex].oidcreated = pile->oidcreated;
+      int sd = 0;
+      if(pile->mid != myIpAddr) {
+       if((sd = getSock2WithLock(transRequestSockPool, pile->mid)) < 0) {
+         printf("transRequest(): socket create error\n");
          free(listmid);
-         for (i = 0; i < threadnum; i++)
-           free(thread_data_array[i].buffer);
-         free(thread_data_array);
-         free(ltdata);
+         free(tosend);
          return 1;
        }
-      } else { /*Local*/
-       ltdata->tdata = &thread_data_array[threadnum];
-       ltdata->transinfo = &transinfo;
-       do {
-         val = pthread_create(&thread[threadnum], &attr, handleLocalReq, (void *) ltdata);
-       } while(val!=0);
-       if(val) {
-         perror("Error in pthread create\n");
-         pthread_cond_destroy(&tcond);
-         pthread_mutex_destroy(&tlock);
-         pDelete(pile_ptr);
+       socklist[sockindex] = sd;
+       /* Send bytes of data with TRANS_REQUEST control message */
+       send_data(sd, &(tosend[sockindex].f), sizeof(fixed_data_t));
+
+       /* Send list of machines involved in the transaction */
+       {
+         int size=sizeof(unsigned int)*(tosend[sockindex].f.mcount);
+         send_data(sd, tosend[sockindex].listmid, size);
+       }
+
+       /* Send oids and version number tuples for objects that are read */
+       {
+         int size=(sizeof(unsigned int)+sizeof(unsigned short))*(tosend[sockindex].f.numread);
+         send_data(sd, tosend[sockindex].objread, size);
+       }
+
+       /* Send objects that are modified */
+       void *modptr;
+       if((modptr = calloc(1, tosend[sockindex].f.sum_bytes)) == NULL) {
+         printf("Calloc error for modified objects %s, %d\n", __FILE__, __LINE__);
          free(listmid);
-         for (i = 0; i < threadnum; i++)
-           free(thread_data_array[i].buffer);
-         free(thread_data_array);
-         free(ltdata);
+         free(tosend);
          return 1;
        }
+       int offset = 0;
+       int i;
+       for(i = 0; i < tosend[sockindex].f.nummod ; i++) {
+         int size;
+         objheader_t *headeraddr;
+         if((headeraddr = chashSearch(record->lookupTable, tosend[sockindex].oidmod[i])) == NULL) {
+           printf("%s() Error: No such oid %s, %d\n", __func__, __FILE__, __LINE__);
+           free(modptr);
+           free(listmid);
+           free(tosend);
+           return 1;
+         }
+         GETSIZE(size,headeraddr);
+         size+=sizeof(objheader_t);
+         memcpy(modptr+offset, headeraddr, size);
+         offset+=size;
+       }
+       send_data(sd, modptr, tosend[sockindex].f.sum_bytes);
+       free(modptr);
+      } else { //handle request locally
+       handleLocalReq(&tosend[sockindex], &transinfo, record, &getReplyCtrl[sockindex]);
       }
-
-      threadnum++;
+      sockindex++;
       pile = pile->next;
+    } //end of pile processing
+      /* Recv Ctrl msgs from all machines */
+    int i;
+    for(i = 0; i < pilecount; i++) {
+      int sd = socklist[i];
+      if(sd != 0) {
+       char control;
+       recv_data(sd, &control, sizeof(char));
+       //Update common data structure with new ctrl msg
+       getReplyCtrl[i] = control;
+       /* Recv Objects if participant sends TRANS_DISAGREE */
+#ifdef CACHE
+       if(control == TRANS_DISAGREE) {
+         int length;
+         recv_data(sd, &length, sizeof(int));
+         void *newAddr;
+         pthread_mutex_lock(&prefetchcache_mutex);
+         if ((newAddr = prefetchobjstrAlloc((unsigned int)length)) == NULL) {
+           printf("Error: %s() objstrAlloc error for copying into prefetch cache %s, %d\n", __func__, __FILE__, __LINE__);
+           free(tosend);
+           free(listmid);
+           pthread_mutex_unlock(&prefetchcache_mutex);
+           return 1;
+         }
+         pthread_mutex_unlock(&prefetchcache_mutex);
+         recv_data(sd, newAddr, length);
+         int offset = 0;
+         while(length != 0) {
+           unsigned int oidToPrefetch;
+           objheader_t * header;
+           header = (objheader_t *)(((char *)newAddr) + offset);
+           oidToPrefetch = OID(header);
+           int size = 0;
+           GETSIZE(size, header);
+           size += sizeof(objheader_t);
+           //make an entry in prefetch hash table
+           void *oldptr;
+           if((oldptr = prehashSearch(oidToPrefetch)) != NULL) {
+             prehashRemove(oidToPrefetch);
+             prehashInsert(oidToPrefetch, header);
+           } else {
+             prehashInsert(oidToPrefetch, header);
+           }
+           length = length - size;
+           offset += size;
+         }
+       } //end of receiving objs
+#endif
+      }
+    }
+    /* Decide the final response */
+    if((finalResponse = decideResponse(getReplyCtrl, &treplyretry, record, pilecount)) == 0) {
+      printf("Error: %s() in updating prefetch cache %s, %d\n", __func__, __FILE__, __LINE__);
+      free(tosend);
+      free(listmid);
+      return 1;
     }
-    /* Free attribute and wait for the other threads */
-    pthread_attr_destroy(&attr);
-
-    for (i = 0; i < threadnum; i++) {
-      rc = pthread_join(thread[i], NULL);
-      if(rc){
-       printf("Error: return code from pthread_join() is %d\n", rc);
-       pthread_cond_destroy(&tcond);
-       pthread_mutex_destroy(&tlock);
-       pDelete(pile_ptr);
-       free(listmid);
-       for (j = i; j < threadnum; j++) {
-         free(thread_data_array[j].buffer);
+
+    /* Send responses to all machines */
+    for(i = 0; i < pilecount; i++) {
+      int sd = socklist[i];
+      if(sd != 0) {
+#ifdef CACHE
+       if(finalResponse == TRANS_COMMIT) {
+         int retval;
+         /* Update prefetch cache */
+         if((retval = updatePrefetchCache(&(tosend[i]), record)) != 0) {
+           printf("Error: %s() in updating prefetch cache %s, %d\n", __func__, __FILE__, __LINE__);
+           free(tosend);
+           free(listmid);
+           return 1;
+         }
+
+
+         /* Invalidate objects in other machine cache */
+         if(tosend[i].f.nummod > 0) {
+           if((retval = invalidateObj(&(tosend[i]))) != 0) {
+             printf("Error: %s() in invalidating Objects %s, %d\n", __func__, __FILE__, __LINE__);
+             free(tosend);
+             free(listmid);
+             return 1;
+           }
+         }
+#ifdef ABORTREADERS
+         removetransaction(tosend[i].oidmod,tosend[i].f.nummod);
+         removethisreadtransaction(tosend[i].oidmod,tosend[i].f.numread, record);
+#endif
+       }
+#ifdef ABORTREADERS
+       else if (!treplyretry) {
+         removethistransaction(tosend[i].oidmod,tosend[i].f.nummod,record);
+         removethisreadtransaction(tosend[i].oidmod,tosend[i].f.numread,record);
+       }
+#endif
+#endif
+       send_data(sd, &finalResponse, sizeof(char));
+      } else {
+       /* Complete local processing */
+       doLocalProcess(finalResponse, &(tosend[i]), &transinfo, record);
+#ifdef ABORTREADERS
+       if(finalResponse == TRANS_COMMIT) {
+         removetransaction(tosend[i].oidmod,tosend[i].f.nummod);
+         removethisreadtransaction(tosend[i].oidmod,tosend[i].f.numread, record);
+       } else if (!treplyretry) {
+         removethistransaction(tosend[i].oidmod,tosend[i].f.nummod,record);
+         removethisreadtransaction(tosend[i].oidmod,tosend[i].f.numread,record);
        }
-       return 1;
+#endif
       }
-      free(thread_data_array[i].buffer);
     }
 
     /* Free resources */
-    pthread_cond_destroy(&tcond);
-    pthread_mutex_destroy(&tlock);
+    free(tosend);
     free(listmid);
-
     if (!treplyretry)
       pDelete(pile_ptr);
-
     /* wait a random amount of time before retrying to commit transaction*/
     if(treplyretry) {
-      free(thread_data_array);
-      free(ltdata);
       randomdelay();
+#ifdef TRANSSTATS
+      nSoftAbort++;
+#endif
     }
-
     /* Retry trans commit procedure during soft_abort case */
   } while (treplyretry);
 
-  if(treplyctrl == TRANS_ABORT) {
+  if(finalResponse == TRANS_ABORT) {
+    //printf("Aborting trans\n");
 #ifdef TRANSSTATS
     numTransAbort++;
 #endif
@@ -635,10 +804,8 @@ int transCommit(transrecord_t *record) {
     objstrDelete(record->cache);
     chashDelete(record->lookupTable);
     free(record);
-    free(thread_data_array);
-    free(ltdata);
     return TRANS_ABORT;
-  } else if(treplyctrl == TRANS_COMMIT) {
+  } else if(finalResponse == TRANS_COMMIT) {
 #ifdef TRANSSTATS
     numTransCommit++;
 #endif
@@ -646,8 +813,6 @@ int transCommit(transrecord_t *record) {
     objstrDelete(record->cache);
     chashDelete(record->lookupTable);
     free(record);
-    free(thread_data_array);
-    free(ltdata);
     return 0;
   } else {
     //TODO Add other cases
@@ -657,180 +822,109 @@ int transCommit(transrecord_t *record) {
   return 0;
 }
 
-/* This function sends information involved in the transaction request
- * to participants and accepts a response from particpants.
- * It calls decideresponse() to decide on what control message
- * to send next to participants and sends the message using sendResponse()*/
-void *transRequest(void *threadarg) {
-  int sd, i, n;
-  struct sockaddr_in serv_addr;
-  thread_data_array_t *tdata;
-  objheader_t *headeraddr;
-  char control, recvcontrol;
-  char machineip[16], retval;
-
-  tdata = (thread_data_array_t *) threadarg;
-
-  if((sd = getSock2WithLock(transRequestSockPool, tdata->mid)) < 0) {
-    printf("transRequest(): socket create error\n");
-    pthread_exit(NULL);
-  }
-
-  /* Send bytes of data with TRANS_REQUEST control message */
-  send_data(sd, &(tdata->buffer->f), sizeof(fixed_data_t));
-
-  /* Send list of machines involved in the transaction */
-  {
-    int size=sizeof(unsigned int)*tdata->buffer->f.mcount;
-    send_data(sd, tdata->buffer->listmid, size);
-  }
-
-  /* Send oids and version number tuples for objects that are read */
-  {
-    int size=(sizeof(unsigned int)+sizeof(unsigned short))*tdata->buffer->f.numread;
-    send_data(sd, tdata->buffer->objread, size);
-  }
-
-  /* Send objects that are modified */
-  for(i = 0; i < tdata->buffer->f.nummod ; i++) {
-    int size;
-    if((headeraddr = chashSearch(tdata->rec->lookupTable, tdata->buffer->oidmod[i])) == NULL) {
-      printf("%s() Error: No such oid %s, %d\n", __func__, __FILE__, __LINE__);
-      pthread_exit(NULL);
-    }
-    GETSIZE(size,headeraddr);
-    size+=sizeof(objheader_t);
-    send_data(sd, headeraddr, size);
-  }
+/* This function handles the local objects involved in a transaction
+ * commiting process.  It also makes a decision if this local machine
+ * sends AGREE or DISAGREE or SOFT_ABORT to coordinator */
+void handleLocalReq(trans_req_data_t *tdata, trans_commit_data_t *transinfo, transrecord_t *rec, char *getReplyCtrl) {
+  unsigned int *oidnotfound = NULL, *oidlocked = NULL;
+  int numoidnotfound = 0, numoidlocked = 0;
+  int v_nomatch = 0, v_matchlock = 0, v_matchnolock = 0;
+  int numread, i;
+  unsigned int oid;
+  unsigned short version;
 
-  /* Read control message from Participant */
-  recv_data(sd, &control, sizeof(char));
-  /* Recv Objects if participant sends TRANS_DISAGREE */
-#ifdef CACHE
-  if(control == TRANS_DISAGREE) {
-    int length;
-    recv_data(sd, &length, sizeof(int));
-    void *newAddr;
-    pthread_mutex_lock(&prefetchcache_mutex);
-    if ((newAddr = prefetchobjstrAlloc((unsigned int)length)) == NULL) {
-      printf("Error: %s() objstrAlloc error for copying into prefetch cache %s, %d\n", __func__, __FILE__, __LINE__);
-      pthread_exit(NULL);
-    }
-    pthread_mutex_unlock(&prefetchcache_mutex);
-    recv_data(sd, newAddr, length);
-    int offset = 0;
-    while(length != 0) {
-      unsigned int oidToPrefetch;
-      objheader_t * header;
-      header = (objheader_t *)(((char *)newAddr) + offset);
-      oidToPrefetch = OID(header);
-      int size = 0;
-      GETSIZE(size, header);
-      size += sizeof(objheader_t);
-      //make an entry in prefetch hash table
-      void *oldptr;
-      if((oldptr = prehashSearch(oidToPrefetch)) != NULL) {
-       prehashRemove(oidToPrefetch);
-       prehashInsert(oidToPrefetch, header);
-      } else {
-       prehashInsert(oidToPrefetch, header);
+  /* Counters and arrays to formulate decision on control message to be sent */
+  oidnotfound = (unsigned int *) calloc((tdata->f.numread + tdata->f.nummod), sizeof(unsigned int));
+  oidlocked = (unsigned int *) calloc((tdata->f.numread + tdata->f.nummod +1), sizeof(unsigned int)); // calloc additional 1 byte for
+  //setting a divider between read and write locks
+  numread = tdata->f.numread;
+  /* Process each oid in the machine pile/ group per thread */
+  for (i = 0; i < tdata->f.numread + tdata->f.nummod; i++) {
+    if (i < tdata->f.numread) {
+      int incr = sizeof(unsigned int) + sizeof(unsigned short); // Offset that points to next position in the objread array
+      incr *= i;
+      oid = *((unsigned int *)(((char *)tdata->objread) + incr));
+      version = *((unsigned short *)(((char *)tdata->objread) + incr + sizeof(unsigned int)));
+      commitCountForObjRead(getReplyCtrl, oidnotfound, oidlocked, &numoidnotfound, &numoidlocked, &v_nomatch, &v_matchlock, &v_matchnolock, oid, version);
+    } else { // Objects Modified
+      if(i == tdata->f.numread) {
+       oidlocked[numoidlocked++] = -1;
       }
-      length = length - size;
-      offset += size;
+      int tmpsize;
+      objheader_t *headptr;
+      headptr = (objheader_t *) chashSearch(rec->lookupTable, tdata->oidmod[i-numread]);
+      if (headptr == NULL) {
+       printf("Error: handleLocalReq() returning NULL, no such oid %s, %d\n", __FILE__, __LINE__);
+       return;
+      }
+      oid = OID(headptr);
+      version = headptr->version;
+      commitCountForObjMod(getReplyCtrl, oidnotfound, oidlocked, &numoidnotfound, &numoidlocked, &v_nomatch, &v_matchlock, &v_matchnolock, oid, version);
     }
   }
-#endif
 
-  recvcontrol = control;
-  /* Update common data structure and increment count */
-  tdata->recvmsg[tdata->thread_id].rcv_status = recvcontrol;
+/* Fill out the trans_commit_data_t data structure. This is required for a trans commit process
+ * if Participant receives a TRANS_COMMIT */
+  transinfo->objlocked = oidlocked;
+  transinfo->objnotfound = oidnotfound;
+  transinfo->modptr = NULL;
+  transinfo->numlocked = numoidlocked;
+  transinfo->numnotfound = numoidnotfound;
 
-  /* Lock and update count */
-  /* Thread sleeps until all messages from pariticipants are received by coordinator */
-  pthread_mutex_lock(tdata->lock);
-
-  (*(tdata->count))++; /* keeps track of no of messages received by the coordinator */
-
-  /* Wake up the threads and invoke decideResponse (once) */
-  if(*(tdata->count) == tdata->buffer->f.mcount) {
-    decideResponse(tdata);
-    pthread_cond_broadcast(tdata->threshold);
-  } else {
-    pthread_cond_wait(tdata->threshold, tdata->lock);
+  /* Condition to send TRANS_AGREE */
+  if(v_matchnolock == tdata->f.numread + tdata->f.nummod) {
+    *getReplyCtrl = TRANS_AGREE;
   }
-  pthread_mutex_unlock(tdata->lock);
-
-  /* clear objects from prefetch cache */
-  /*
-     if(*(tdata->replyctrl) == TRANS_ABORT) {
-     int i;
-     for(i=0; i<tdata->buffer->f.nummod; i++) {
-      unsigned int oid = tdata->buffer->oidmod[i];
-      objheader_t *header;
-      if((header = prehashSearch(oid)) != NULL) {
-        prehashRemove(oid);
-      }
-     }
-     for(i=0; i<tdata->buffer->f.numread; i++) {
-      char *objread = tdata->buffer->objread;
-      unsigned int oid = *((unsigned int *)(objread+(sizeof(unsigned int) +
-                  sizeof(unsigned short))*i));
-      objheader_t *header;
-      if((header = prehashSearch(oid)) != NULL) {
-        prehashRemove(oid);
-      }
-     }
-     }
-   */
+  /* Condition to send TRANS_SOFT_ABORT */
+  if((v_matchlock > 0 && v_nomatch == 0) || (numoidnotfound > 0 && v_nomatch == 0)) {
+    *getReplyCtrl = TRANS_SOFT_ABORT;
+  }
+}
 
-#ifdef CACHE
-  if(*(tdata->replyctrl) == TRANS_COMMIT) {
-    int retval;
-    /* Update prefetch cache */
-    if((retval = updatePrefetchCache(tdata)) != 0) {
-      printf("Error: %s() in updating prefetch cache %s, %d\n", __func__, __FILE__, __LINE__);
+void doLocalProcess(char finalResponse, trans_req_data_t *tdata, trans_commit_data_t *transinfo, transrecord_t *record) {
+  if(finalResponse == TRANS_ABORT) {
+    if(transAbortProcess(transinfo) != 0) {
+      printf("Error in transAbortProcess() %s,%d\n", __FILE__, __LINE__);
+      fflush(stdout);
       return;
     }
-
+  } else if(finalResponse == TRANS_COMMIT) {
+#ifdef CACHE
     /* Invalidate objects in other machine cache */
-    if(tdata->buffer->f.nummod > 0) {
+    if(tdata->f.nummod > 0) {
+      int retval;
       if((retval = invalidateObj(tdata)) != 0) {
        printf("Error: %s() in invalidating Objects %s, %d\n", __func__, __FILE__, __LINE__);
        return;
       }
     }
-  }
 #endif
-
-  /* Send the final response such as TRANS_COMMIT or TRANS_ABORT
-   * to all participants in their respective socket */
-  if (sendResponse(tdata, sd) == 0) {
-    printf("sendResponse returned error %s,%d\n", __FILE__, __LINE__);
-    pthread_exit(NULL);
+    if(transComProcess(tdata, transinfo, record) != 0) {
+      printf("Error in transComProcess() %s,%d\n", __FILE__, __LINE__);
+      fflush(stdout);
+      return;
+    }
+  } else {
+    printf("ERROR...No Decision\n");
   }
 
-  recv_data((int)sd, &control, sizeof(char));
-
-  if(control == TRANS_UNSUCESSFUL) {
-    //printf("DEBUG-> TRANS_ABORTED\n");
-  } else if(control == TRANS_SUCESSFUL) {
-    //printf("DEBUG-> TRANS_SUCCESSFUL\n");
-  } else {
-    //printf("DEBUG-> Error: Incorrect Transaction End Message %d\n", control);
+  /* Free memory */
+  if (transinfo->objlocked != NULL) {
+    free(transinfo->objlocked);
+  }
+  if (transinfo->objnotfound != NULL) {
+    free(transinfo->objnotfound);
   }
-  pthread_exit(NULL);
 }
 
 /* This function decides the reponse that needs to be sent to
  * all Participant machines after the TRANS_REQUEST protocol */
-void decideResponse(thread_data_array_t *tdata) {
-  char control;
+char decideResponse(char *getReplyCtrl, char *treplyretry, transrecord_t *record, int pilecount) {
   int i, transagree = 0, transdisagree = 0, transsoftabort = 0; /* Counters to formulate decision of what
                                                                   message to send */
-
-  for (i = 0 ; i < tdata->buffer->f.mcount; i++) {
-    control = tdata->recvmsg[i].rcv_status; /* tdata: keeps track of all participant responses
-                                              written onto the shared array */
+  for (i = 0 ; i < pilecount; i++) {
+    char control;
+    control = getReplyCtrl[i];
     switch(control) {
     default:
       printf("Participant sent unknown message in %s, %d\n", __FILE__, __LINE__);
@@ -852,58 +946,22 @@ void decideResponse(thread_data_array_t *tdata) {
 
   if(transdisagree > 0) {
     /* Send Abort */
-    *(tdata->replyctrl) = TRANS_ABORT;
-    *(tdata->replyretry) = 0;
+    *treplyretry = 0;
+    return TRANS_ABORT;
 #ifdef CACHE
     /* clear objects from prefetch cache */
-    cleanPCache(tdata);
+    cleanPCache(record);
 #endif
-  } else if(transagree == tdata->buffer->f.mcount){
+  } else if(transagree == pilecount) {
     /* Send Commit */
-    *(tdata->replyctrl) = TRANS_COMMIT;
-    *(tdata->replyretry) = 0;
-#ifdef CACHE
-#if 0
-    /* Turn prefetching on */
-    int i;
-    for (i=0; i<numprefetchsites; i++)
-      evalPrefetch[i].operMode = 1;
-#endif
-#endif
+    *treplyretry = 0;
+    return TRANS_COMMIT;
   } else {
     /* Send Abort in soft abort case followed by retry commiting transaction again*/
-    *(tdata->replyctrl) = TRANS_ABORT;
-    *(tdata->replyretry) = 1;
-  }
-  return;
-}
-
-/* This function sends the final response to remote machines per
- * thread in their respective socket id It returns a char that is only
- * needed to check the correctness of execution of this function
- * inside transRequest()*/
-
-char sendResponse(thread_data_array_t *tdata, int sd) {
-  int n, size, sum, oidcount = 0, control;
-  char *ptr, retval = 0;
-  unsigned int *oidnotfound;
-
-  control = *(tdata->replyctrl);
-  send_data(sd, &control, sizeof(char));
-
-  //TODO read missing objects during object migration
-  /* If response is a soft abort due to missing objects at the
-     Participant's side */
-
-  /* If the decided response is TRANS_ABORT */
-  if(*(tdata->replyctrl) == TRANS_ABORT) {
-    retval = TRANS_ABORT;
-  } else if(*(tdata->replyctrl) == TRANS_COMMIT) {
-    /* If the decided response is TRANS_COMMIT */
-    retval = TRANS_COMMIT;
+    *treplyretry = 1;
+    return TRANS_ABORT;
   }
-
-  return retval;
+  return 0;
 }
 
 /* This function opens a connection, places an object read request to
@@ -942,178 +1000,130 @@ void *getRemoteObj(transrecord_t *record, unsigned int mnum, unsigned int oid) {
   return objcopy;
 }
 
-/* This function handles the local objects involved in a transaction
- * commiting process.  It also makes a decision if this local machine
- * sends AGREE or DISAGREE or SOFT_ABORT to coordinator.  Note
- * Coordinator = local machine It wakes up the other threads from
- * remote participants that are waiting for the coordinator's decision
- * and based on common agreement it either commits or aborts the
- * transaction.  It also frees the memory resources */
-
-void *handleLocalReq(void *threadarg) {
-  unsigned int *oidnotfound = NULL, *oidlocked = NULL;
-  local_thread_data_array_t *localtdata;
-  int numoidnotfound = 0, numoidlocked = 0;
-  int v_nomatch = 0, v_matchlock = 0, v_matchnolock = 0;
-  int numread, i;
-  unsigned int oid;
-  unsigned short version;
+/*  Commit info for objects modified */
+void commitCountForObjMod(char *getReplyCtrl, unsigned int *oidnotfound, unsigned int *oidlocked, int *numoidnotfound,
+                          int *numoidlocked, int *v_nomatch, int *v_matchlock, int *v_matchnolock, unsigned int oid, unsigned short version) {
   void *mobj;
-  objheader_t *headptr;
-
-  localtdata = (local_thread_data_array_t *) threadarg;
-
-  /* Counters and arrays to formulate decision on control message to be sent */
-  oidnotfound = (unsigned int *) calloc((localtdata->tdata->buffer->f.numread + localtdata->tdata->buffer->f.nummod), sizeof(unsigned int));
-  oidlocked = (unsigned int *) calloc((localtdata->tdata->buffer->f.numread + localtdata->tdata->buffer->f.nummod), sizeof(unsigned int));
-
-  numread = localtdata->tdata->buffer->f.numread;
-  /* Process each oid in the machine pile/ group per thread */
-  for (i = 0; i < localtdata->tdata->buffer->f.numread + localtdata->tdata->buffer->f.nummod; i++) {
-    if (i < localtdata->tdata->buffer->f.numread) {
-      int incr = sizeof(unsigned int) + sizeof(unsigned short); // Offset that points to next position in the objread array
-      incr *= i;
-      oid = *((unsigned int *)(((char *)localtdata->tdata->buffer->objread) + incr));
-      version = *((unsigned short *)(((char *)localtdata->tdata->buffer->objread) + incr + sizeof(unsigned int)));
-    } else { // Objects Modified
-      int tmpsize;
-      headptr = (objheader_t *) chashSearch(localtdata->tdata->rec->lookupTable, localtdata->tdata->buffer->oidmod[i-numread]);
-      if (headptr == NULL) {
-       printf("Error: handleLocalReq() returning NULL, no such oid %s, %d\n", __FILE__, __LINE__);
-       return NULL;
-      }
-      oid = OID(headptr);
-      version = headptr->version;
-    }
-    /* Check if object is still present in the machine since the beginning of TRANS_REQUEST */
-
+  /* Check if object is still present in the machine since the beginning of TRANS_REQUEST */
+  /* Save the oids not found and number of oids not found for later use */
+  if ((mobj = mhashSearch(oid)) == NULL) { /* Obj not found */
     /* Save the oids not found and number of oids not found for later use */
-    if ((mobj = mhashSearch(oid)) == NULL) { /* Obj not found */
-      /* Save the oids not found and number of oids not found for later use */
-      oidnotfound[numoidnotfound] = oid;
-      numoidnotfound++;
-    } else { /* If Obj found in machine (i.e. has not moved) */
-      /* Check if Obj is locked by any previous transaction */
-      if (test_and_set(STATUSPTR(mobj))) {
-       if (version == ((objheader_t *)mobj)->version) {      /* If locked then match versions */
-         v_matchlock++;
-       } else { /* If versions don't match ...HARD ABORT */
-         v_nomatch++;
-         /* Send TRANS_DISAGREE to Coordinator */
-         localtdata->tdata->recvmsg[localtdata->tdata->thread_id].rcv_status = TRANS_DISAGREE;
-         break;
-       }
-      } else {
-       //we're locked
-       /* Save all object oids that are locked on this machine during this transaction request call */
-       oidlocked[numoidlocked] = OID(((objheader_t *)mobj));
-       numoidlocked++;
-       if (version == ((objheader_t *)mobj)->version) { /* Check if versions match */
-         v_matchnolock++;
-       } else { /* If versions don't match ...HARD ABORT */
-         v_nomatch++;
-         /* Send TRANS_DISAGREE to Coordinator */
-         localtdata->tdata->recvmsg[localtdata->tdata->thread_id].rcv_status = TRANS_DISAGREE;
-         break;
-       }
+    oidnotfound[*numoidnotfound] = oid;
+    (*numoidnotfound)++;
+  } else { /* If Obj found in machine (i.e. has not moved) */
+    /* Check if Obj is locked by any previous transaction */
+    if (write_trylock(STATUSPTR(mobj))) { // Can acquire write lock
+      if (version == ((objheader_t *)mobj)->version) {      /* match versions */
+       (*v_matchnolock)++;
+       //Keep track of what is locked
+       oidlocked[(*numoidlocked)++] = OID(((objheader_t *)mobj));
+      } else { /* If versions don't match ...HARD ABORT */
+       (*v_nomatch)++;
+       /* Send TRANS_DISAGREE to Coordinator */
+       *getReplyCtrl = TRANS_DISAGREE;
+
+       //Keep track of what is locked
+       oidlocked[(*numoidlocked)++] = OID(((objheader_t *)mobj));
+       //printf("%s() oid = %d, type = %d\t", __func__, OID(mobj), TYPE((objheader_t *)mobj));
+       return;
+      }
+    } else { //A lock is acquired some place else
+      if (version == ((objheader_t *)mobj)->version) { /* Check if versions match */
+       (*v_matchlock)++;
+      } else { /* If versions don't match ...HARD ABORT */
+       (*v_nomatch)++;
+       /* Send TRANS_DISAGREE to Coordinator */
+       *getReplyCtrl = TRANS_DISAGREE;
+       //printf("%s() oid = %d, type = %d\t", __func__, OID(mobj), TYPE((objheader_t *)mobj));
+       return;
       }
     }
-  } // End for
-    /* Condition to send TRANS_AGREE */
-  if(v_matchnolock == localtdata->tdata->buffer->f.numread + localtdata->tdata->buffer->f.nummod) {
-    localtdata->tdata->recvmsg[localtdata->tdata->thread_id].rcv_status = TRANS_AGREE;
-  }
-  /* Condition to send TRANS_SOFT_ABORT */
-  if((v_matchlock > 0 && v_nomatch == 0) || (numoidnotfound > 0 && v_nomatch == 0)) {
-    localtdata->tdata->recvmsg[localtdata->tdata->thread_id].rcv_status = TRANS_SOFT_ABORT;
   }
+}
 
-  /* Fill out the trans_commit_data_t data structure. This is required for a trans commit process
-   * if Participant receives a TRANS_COMMIT */
-  localtdata->transinfo->objlocked = oidlocked;
-  localtdata->transinfo->objnotfound = oidnotfound;
-  localtdata->transinfo->modptr = NULL;
-  localtdata->transinfo->numlocked = numoidlocked;
-  localtdata->transinfo->numnotfound = numoidnotfound;
-  /* Lock and update count */
-  //Thread sleeps until all messages from pariticipants are received by coordinator
-  pthread_mutex_lock(localtdata->tdata->lock);
-  (*(localtdata->tdata->count))++; /* keeps track of no of messages received by the coordinator */
-
-  /* Wake up the threads and invoke decideResponse (once) */
-  if(*(localtdata->tdata->count) == localtdata->tdata->buffer->f.mcount) {
-    decideResponse(localtdata->tdata);
-    pthread_cond_broadcast(localtdata->tdata->threshold);
-  } else {
-    pthread_cond_wait(localtdata->tdata->threshold, localtdata->tdata->lock);
-  }
-  pthread_mutex_unlock(localtdata->tdata->lock);
-  if(*(localtdata->tdata->replyctrl) == TRANS_ABORT){
-    if(transAbortProcess(localtdata) != 0) {
-      printf("Error in transAbortProcess() %s,%d\n", __FILE__, __LINE__);
-      fflush(stdout);
-      pthread_exit(NULL);
-    }
-  } else if(*(localtdata->tdata->replyctrl) == TRANS_COMMIT) {
-#ifdef CACHE
-    /* Invalidate objects in other machine cache */
-    if(localtdata->tdata->buffer->f.nummod > 0) {
-      int retval;
-      if((retval = invalidateObj(localtdata->tdata)) != 0) {
-       printf("Error: %s() in invalidating Objects %s, %d\n", __func__, __FILE__, __LINE__);
+/*  Commit info for objects modified */
+void commitCountForObjRead(char *getReplyCtrl, unsigned int *oidnotfound, unsigned int *oidlocked, int *numoidnotfound,
+                           int *numoidlocked, int *v_nomatch, int *v_matchlock, int *v_matchnolock, unsigned int oid, unsigned short version) {
+  void *mobj;
+  /* Check if object is still present in the machine since the beginning of TRANS_REQUEST */
+  /* Save the oids not found and number of oids not found for later use */
+  if ((mobj = mhashSearch(oid)) == NULL) { /* Obj not found */
+    /* Save the oids not found and number of oids not found for later use */
+    oidnotfound[*numoidnotfound] = oid;
+    (*numoidnotfound)++;
+  } else { /* If Obj found in machine (i.e. has not moved) */
+    /* Check if Obj is locked by any previous transaction */
+    if (read_trylock(STATUSPTR(mobj))) { // Can further acquire read locks
+      if (version == ((objheader_t *)mobj)->version) {      /* If locked then match versions */
+       (*v_matchnolock)++;
+       //Keep track of what is locked
+       oidlocked[(*numoidlocked)++] = OID(((objheader_t *)mobj));
+      } else { /* If versions don't match ...HARD ABORT */
+       (*v_nomatch)++;
+       /* Send TRANS_DISAGREE to Coordinator */
+       *getReplyCtrl = TRANS_DISAGREE;
+       //Keep track of what is locked
+       oidlocked[(*numoidlocked)++] = OID(((objheader_t *)mobj));
+       //printf("%s() oid = %d, type = %d\t", __func__, OID(mobj), TYPE((objheader_t *)mobj));
+       return;
+      }
+    } else { //Has reached max number of readers or some other transaction
+      //has acquired a lock on this object
+      if (version == ((objheader_t *)mobj)->version) { /* Check if versions match */
+       (*v_matchlock)++;
+      } else { /* If versions don't match ...HARD ABORT */
+       (*v_nomatch)++;
+       /* Send TRANS_DISAGREE to Coordinator */
+       *getReplyCtrl = TRANS_DISAGREE;
+       //printf("%s() oid = %d, type = %d\t", __func__, OID(mobj), TYPE((objheader_t *)mobj));
        return;
       }
     }
-#endif
-    if(transComProcess(localtdata) != 0) {
-      printf("Error in transComProcess() %s,%d\n", __FILE__, __LINE__);
-      fflush(stdout);
-      pthread_exit(NULL);
-    }
-  }
-  /* Free memory */
-  if (localtdata->transinfo->objlocked != NULL) {
-    free(localtdata->transinfo->objlocked);
-  }
-  if (localtdata->transinfo->objnotfound != NULL) {
-    free(localtdata->transinfo->objnotfound);
   }
-  pthread_exit(NULL);
 }
 
 /* This function completes the ABORT process if the transaction is aborting */
-int transAbortProcess(local_thread_data_array_t  *localtdata) {
+int transAbortProcess(trans_commit_data_t *transinfo) {
   int i, numlocked;
   unsigned int *objlocked;
   void *header;
 
-  numlocked = localtdata->transinfo->numlocked;
-  objlocked = localtdata->transinfo->objlocked;
+  numlocked = transinfo->numlocked;
+  objlocked = transinfo->objlocked;
 
+  int useWriteUnlock = 0;
   for (i = 0; i < numlocked; i++) {
+    if(objlocked[i] == -1) {
+      useWriteUnlock = 1;
+      continue;
+    }
     if((header = mhashSearch(objlocked[i])) == NULL) {
       printf("mhashsearch returns NULL at %s, %d\n", __FILE__, __LINE__);
       return 1;
     }
-    UnLock(STATUSPTR(header));
+    if(!useWriteUnlock) {
+      read_unlock(STATUSPTR(header));
+    } else {
+      write_unlock(STATUSPTR(header));
+    }
   }
 
   return 0;
 }
 
 /*This function completes the COMMIT process if the transaction is commiting*/
-int transComProcess(local_thread_data_array_t  *localtdata) {
+int transComProcess(trans_req_data_t *tdata, trans_commit_data_t *transinfo, transrecord_t *rec) {
   objheader_t *header, *tcptr;
   int i, nummod, tmpsize, numcreated, numlocked;
   unsigned int *oidmod, *oidcreated, *oidlocked;
   void *ptrcreate;
 
-  nummod = localtdata->tdata->buffer->f.nummod;
-  oidmod = localtdata->tdata->buffer->oidmod;
-  numcreated = localtdata->tdata->buffer->f.numcreated;
-  oidcreated = localtdata->tdata->buffer->oidcreated;
-  numlocked = localtdata->transinfo->numlocked;
-  oidlocked = localtdata->transinfo->objlocked;
+  nummod = tdata->f.nummod;
+  oidmod = tdata->oidmod;
+  numcreated = tdata->f.numcreated;
+  oidcreated = tdata->oidcreated;
+  numlocked = transinfo->numlocked;
+  oidlocked = transinfo->objlocked;
 
   for (i = 0; i < nummod; i++) {
     if((header = (objheader_t *) mhashSearch(oidmod[i])) == NULL) {
@@ -1121,13 +1131,21 @@ int transComProcess(local_thread_data_array_t  *localtdata) {
       return 1;
     }
     /* Copy from transaction cache -> main object store */
-    if ((tcptr = ((objheader_t *) chashSearch(localtdata->tdata->rec->lookupTable, oidmod[i]))) == NULL) {
+    if ((tcptr = ((objheader_t *) chashSearch(rec->lookupTable, oidmod[i]))) == NULL) {
       printf("Error: transComProcess() chashSearch returned NULL at %s, %d\n", __FILE__, __LINE__);
       return 1;
     }
     GETSIZE(tmpsize, header);
     char *tmptcptr = (char *) tcptr;
-    memcpy((char*)header+sizeof(objheader_t), (char *)tmptcptr+ sizeof(objheader_t), tmpsize);
+    {
+      struct ___Object___ *dst=(struct ___Object___*)((char*)header+sizeof(objheader_t));
+      struct ___Object___ *src=(struct ___Object___*)((char*)tmptcptr+sizeof(objheader_t));
+      dst->___cachedCode___=src->___cachedCode___;
+      dst->___cachedHash___=src->___cachedHash___;
+
+      memcpy(&dst[1], &src[1], tmpsize-sizeof(struct ___Object___));
+    }
+
     header->version += 1;
     if(header->notifylist != NULL) {
       notifyAll(&header->notifylist, OID(header), header->version);
@@ -1135,7 +1153,7 @@ int transComProcess(local_thread_data_array_t  *localtdata) {
   }
   /* If object is newly created inside transaction then commit it */
   for (i = 0; i < numcreated; i++) {
-    if ((header = ((objheader_t *) chashSearch(localtdata->tdata->rec->lookupTable, oidcreated[i]))) == NULL) {
+    if ((header = ((objheader_t *) chashSearch(rec->lookupTable, oidcreated[i]))) == NULL) {
       printf("Error: transComProcess() chashSearch returned NULL for oid = %x at %s, %d\n", oidcreated[i], __FILE__, __LINE__);
       return 1;
     }
@@ -1148,19 +1166,29 @@ int transComProcess(local_thread_data_array_t  *localtdata) {
       return 1;
     }
     pthread_mutex_unlock(&mainobjstore_mutex);
+    /* Initialize read and write locks */
+    initdsmlocks(STATUSPTR(header));
     memcpy(ptrcreate, header, tmpsize);
     mhashInsert(oidcreated[i], ptrcreate);
     lhashInsert(oidcreated[i], myIpAddr);
   }
   /* Unlock locked objects */
+  int useWriteUnlock = 0;
   for(i = 0; i < numlocked; i++) {
+    if(oidlocked[i] == -1) {
+      useWriteUnlock = 1;
+      continue;
+    }
     if((header = (objheader_t *) mhashSearch(oidlocked[i])) == NULL) {
       printf("mhashsearch returns NULL at %s, %d\n", __FILE__, __LINE__);
       return 1;
     }
-    UnLock(STATUSPTR(header));
+    if(!useWriteUnlock) {
+      read_unlock(STATUSPTR(header));
+    } else {
+      write_unlock(STATUSPTR(header));
+    }
   }
-
   return 0;
 }
 
@@ -1191,7 +1219,7 @@ prefetchpile_t *foundLocal(char *ptr) {
        goto tuple;
     }
     //Entire prefetch is local
-    if (newbase==endindex&&checkoid(oid)){
+    if (newbase==endindex&&checkoid(oid)) {
       numLocal++;
       goto tuple;
     }
@@ -1254,7 +1282,7 @@ int lookupObject(unsigned int * oid, short offset) {
 /* This function is called by the thread calling transPrefetch */
 void *transPrefetch(void *t) {
   while(1) {
-    /* lock mutex of primary prefetch queue */
+    /* read from prefetch queue */
     void *node=gettail();
     /* Check if the tuples are found locally, if yes then reduce them further*/
     /* and group requests by remote machine ids by calling the makePreGroups() */
@@ -1465,7 +1493,7 @@ int startRemoteThread(unsigned int oid, unsigned int mid) {
   int bytesSent;
   int status;
 
-  if ((sock = socket(AF_INET, SOCK_STREAM, 0)) < 0){
+  if ((sock = socket(AF_INET, SOCK_STREAM, 0)) < 0) {
     perror("startRemoteThread():socket()");
     return -1;
   }
@@ -1475,7 +1503,7 @@ int startRemoteThread(unsigned int oid, unsigned int mid) {
   remoteAddr.sin_port = htons(LISTEN_PORT);
   remoteAddr.sin_addr.s_addr = htonl(mid);
 
-  if (connect(sock, (struct sockaddr *)&remoteAddr, sizeof(remoteAddr)) < 0){
+  if (connect(sock, (struct sockaddr *)&remoteAddr, sizeof(remoteAddr)) < 0) {
     printf("startRemoteThread():error %d connecting to %s:%d\n", errno,
            inet_ntoa(remoteAddr.sin_addr), LISTEN_PORT);
     status = -1;
@@ -1494,7 +1522,7 @@ int startRemoteThread(unsigned int oid, unsigned int mid) {
 static unsigned int id = 0xFFFFFFFF;
 unsigned int getNewOID(void) {
   id += 2;
-  if (id > oidMax || id < oidMin){
+  if (id > oidMax || id < oidMin) {
     id = (oidMin | 1);
   }
   return id;
@@ -1510,7 +1538,7 @@ int processConfigFile() {
   in_addr_t tmpAddr;
 
   configFile = fopen(CONFIG_FILENAME, "r");
-  if (configFile == NULL){
+  if (configFile == NULL) {
     printf("error opening %s:\n", CONFIG_FILENAME);
     perror("");
     return -1;
@@ -1520,14 +1548,14 @@ int processConfigFile() {
   sizeOfHostArray = 8;
   hostIpAddrs = calloc(sizeOfHostArray, sizeof(unsigned int));
 
-  while(fgets(lineBuffer, maxLineLength, configFile) != NULL){
+  while(fgets(lineBuffer, maxLineLength, configFile) != NULL) {
     commentBegin = strchr(lineBuffer, '#');
     if (commentBegin != NULL)
       *commentBegin = '\0';
     token = strtok(lineBuffer, delimiters);
-    while (token != NULL){
+    while (token != NULL) {
       tmpAddr = inet_addr(token);
-      if ((int)tmpAddr == -1){
+      if ((int)tmpAddr == -1) {
        printf("error in %s: bad token:%s\n", CONFIG_FILENAME, token);
        fclose(configFile);
        return -1;
@@ -1539,7 +1567,7 @@ int processConfigFile() {
 
   fclose(configFile);
 
-  if (numHostsInSystem < 1){
+  if (numHostsInSystem < 1) {
     printf("error in %s: no IP Adresses found\n", CONFIG_FILENAME);
     return -1;
   }
@@ -1549,7 +1577,7 @@ int processConfigFile() {
   myIpAddr = getMyIpAddr("eth0");
 #endif
   myIndexInHostArray = findHost(myIpAddr);
-  if (myIndexInHostArray == -1){
+  if (myIndexInHostArray == -1) {
     printf("error in %s: IP Address of eth0 not found\n", CONFIG_FILENAME);
     return -1;
   }
@@ -1569,7 +1597,7 @@ void addHost(unsigned int hostIp) {
   if (findHost(hostIp) != -1)
     return;
 
-  if (numHostsInSystem == sizeOfHostArray){
+  if (numHostsInSystem == sizeOfHostArray) {
     tmpArray = calloc(sizeOfHostArray * 2, sizeof(unsigned int));
     memcpy(tmpArray, hostIpAddrs, sizeof(unsigned int) * numHostsInSystem);
     free(hostIpAddrs);
@@ -1614,7 +1642,7 @@ int reqNotify(unsigned int *oidarry, unsigned short *versionarry, unsigned int n
     return;
   }
 
-  if ((sock = socket(AF_INET, SOCK_STREAM, 0)) < 0){
+  if ((sock = socket(AF_INET, SOCK_STREAM, 0)) < 0) {
     perror("reqNotify():socket()");
     return -1;
   }
@@ -1645,7 +1673,7 @@ int reqNotify(unsigned int *oidarry, unsigned short *versionarry, unsigned int n
   }
 
   /* Send  number of oids, oidarry, version array, machine id and threadid */
-  if (connect(sock, (struct sockaddr *)&remoteAddr, sizeof(remoteAddr)) < 0){
+  if (connect(sock, (struct sockaddr *)&remoteAddr, sizeof(remoteAddr)) < 0) {
     printf("reqNotify():error %d connecting to %s:%d\n", errno,
            inet_ntoa(remoteAddr.sin_addr), LISTEN_PORT);
     free(ndata);
@@ -1655,29 +1683,21 @@ int reqNotify(unsigned int *oidarry, unsigned short *versionarry, unsigned int n
     *((unsigned int *)(&msg[1])) = numoid;
     /* Send array of oids  */
     size = sizeof(unsigned int);
-    {
-      i = 0;
-      while(i < numoid) {
-       oid = oidarry[i];
-       *((unsigned int *)(&msg[1] + size)) = oid;
-       size += sizeof(unsigned int);
-       i++;
-      }
+
+    for(i = 0;i < numoid; i++) {
+      oid = oidarry[i];
+      *((unsigned int *)(&msg[1] + size)) = oid;
+      size += sizeof(unsigned int);
     }
 
     /* Send array of version  */
-    {
-      i = 0;
-      while(i < numoid) {
-       version = versionarry[i];
-       *((unsigned short *)(&msg[1] + size)) = version;
-       size += sizeof(unsigned short);
-       i++;
-      }
+    for(i = 0;i < numoid; i++) {
+      version = versionarry[i];
+      *((unsigned short *)(&msg[1] + size)) = version;
+      size += sizeof(unsigned short);
     }
 
-    *((unsigned int *)(&msg[1] + size)) = myIpAddr;
-    size += sizeof(unsigned int);
+    *((unsigned int *)(&msg[1] + size)) = myIpAddr; size += sizeof(unsigned int);
     *((unsigned int *)(&msg[1] + size)) = threadid;
     pthread_mutex_lock(&(ndata->threadnotify));
     size = 1 + numoid * (sizeof(unsigned int) + sizeof(unsigned short)) + 3 * sizeof(unsigned int);
@@ -1704,16 +1724,16 @@ void threadNotify(unsigned int oid, unsigned short version, unsigned int tid) {
     return;
   } else  {
     for(i = 0; i < ndata->numoid; i++) {
-      if(ndata->oidarry[i] == oid){
+      if(ndata->oidarry[i] == oid) {
        objIsFound = 1;
        index = i;
       }
     }
-    if(objIsFound == 0){
+    if(objIsFound == 0) {
       printf("threadNotify(): Oid not found %s, %d\n", __FILE__, __LINE__);
       return;
     } else {
-      if(version <= ndata->versionarry[index]){
+      if(version <= ndata->versionarry[index]) {
        printf("threadNotify(): New version %d has not changed since last version for oid = %d, %s, %d\n", version, oid, __FILE__, __LINE__);
        return;
       } else {
@@ -1723,7 +1743,9 @@ void threadNotify(unsigned int oid, unsigned short version, unsigned int tid) {
          prehashRemove(oid);
        }
 #endif
+       pthread_mutex_lock(&(ndata->threadnotify));
        pthread_cond_signal(&(ndata->threadcond));
+       pthread_mutex_unlock(&(ndata->threadnotify));
       }
     }
   }
@@ -1741,7 +1763,7 @@ int notifyAll(threadlist_t **head, unsigned int oid, unsigned int version) {
     ptr = *head;
     mid = ptr->mid;
     //create a socket connection to that machine
-    if ((sock = socket(AF_INET, SOCK_STREAM, 0)) < 0){
+    if ((sock = socket(AF_INET, SOCK_STREAM, 0)) < 0) {
       perror("notifyAll():socket()");
       return -1;
     }
@@ -1751,7 +1773,7 @@ int notifyAll(threadlist_t **head, unsigned int oid, unsigned int version) {
     remoteAddr.sin_port = htons(LISTEN_PORT);
     remoteAddr.sin_addr.s_addr = htonl(mid);
     //send Thread Notify response and threadid to that machine
-    if (connect(sock, (struct sockaddr *)&remoteAddr, sizeof(remoteAddr)) < 0){
+    if (connect(sock, (struct sockaddr *)&remoteAddr, sizeof(remoteAddr)) < 0) {
       printf("notifyAll():error %d connecting to %s:%d\n", errno,
              inet_ntoa(remoteAddr.sin_addr), LISTEN_PORT);
       fflush(stdout);
@@ -1778,6 +1800,9 @@ int notifyAll(threadlist_t **head, unsigned int oid, unsigned int version) {
 }
 
 void transAbort(transrecord_t *trans) {
+#ifdef ABORTREADERS
+  removetransactionhash(trans->lookupTable, trans);
+#endif
   objstrDelete(trans->cache);
   chashDelete(trans->lookupTable);
   free(trans);
@@ -1800,7 +1825,7 @@ plistnode_t *pInsert(plistnode_t *pile, objheader_t *headeraddr, unsigned int mi
        tmp->numcreated++;
        GETSIZE(tmpsize, headeraddr);
        tmp->sum_bytes += sizeof(objheader_t) + tmpsize;
-      } else if (STATUS(headeraddr) & DIRTY)  {
+      } else if (STATUS(headeraddr) & DIRTY) {
        tmp->oidmod[tmp->nummod] = OID(headeraddr);
        tmp->nummod++;
        GETSIZE(tmpsize, headeraddr);
@@ -1847,5 +1872,39 @@ plistnode_t *pInsert(plistnode_t *pile, objheader_t *headeraddr, unsigned int mi
   /* Clear Flags */
   STATUS(headeraddr) =0;
 
+
   return pile;
 }
+
+plistnode_t *sortPiles(plistnode_t *pileptr) {
+  plistnode_t *head, *ptr, *tail;
+  head = pileptr;
+  ptr = pileptr;
+  /* Get tail pointer */
+  while(ptr!= NULL) {
+    tail = ptr;
+    ptr = ptr->next;
+  }
+  ptr = pileptr;
+  plistnode_t *prev = pileptr;
+  /* Arrange local machine processing at the end of the pile list */
+  while(ptr != NULL) {
+    if(ptr != tail) {
+      if(ptr->mid == myIpAddr && (prev != pileptr)) {
+       prev->next = ptr->next;
+       ptr->next = NULL;
+       tail->next = ptr;
+       return pileptr;
+      }
+      if((ptr->mid == myIpAddr) && (prev == pileptr)) {
+       prev = ptr->next;
+       ptr->next = NULL;
+       tail->next = ptr;
+       return prev;
+      }
+      prev = ptr;
+    }
+    ptr = ptr->next;
+  }
+  return pileptr;
+}