buildscript options to enable exaclty which coreprof events are needed, keeps instrum...
[IRC.git] / Robust / src / Runtime / runtime.h
1 #ifndef RUNTIME
2 #define RUNTIME
3 #ifndef MULTICORE
4 #include <setjmp.h>
5 extern jmp_buf error_handler;
6 extern int instructioncount;
7 extern int failurecount;
8 #endif
9 #ifdef DSTM
10 #ifdef RECOVERY
11 #include "DSTM/interface_recovery/dstm.h"
12 #else
13 #include "DSTM/interface/dstm.h"
14 #endif
15 #endif
16
17 #ifdef AFFINITY
18 void set_affinity();
19 #endif
20
21 #ifndef INTPTR
22 #ifdef BIT64
23 #define INTPTR long
24 #define INTPTRSHIFT 3
25 #else
26 #define INTPTR int
27 #define INTPTRSHIFT 2
28 #endif
29 #endif
30
31 extern void * curr_heapbase;
32 extern void * curr_heaptop;
33
34 #define likely(x) __builtin_expect((x),1)
35 #define unlikely(x) __builtin_expect((x),0)
36
37
38 #define TAGARRAYINTERVAL 10
39 #define OBJECTARRAYINTERVAL 10
40
41 #define ARRAYSET(array, type, index, value) \
42   ((type *)(& (& array->___length___)[1]))[index]=value
43
44 #define ARRAYGET(array, type, index) \
45   ((type *)(& (& array->___length___)[1]))[index]
46
47 #ifdef OPTIONAL
48 #define OPTARG(x) , x
49 #else
50 #define OPTARG(x)
51 #endif
52
53 #ifdef DSTM
54 __attribute__((malloc)) void * allocate_newglobal(int type);
55 __attribute__((malloc)) struct ArrayObject * allocate_newarrayglobal(int type, int length);
56 #endif
57
58 #ifdef STM
59 __attribute__((malloc)) void * allocate_newtrans(void * ptr, int type);
60 __attribute__((malloc)) struct ArrayObject * allocate_newarraytrans(void * ptr, int type, int length);
61 #endif
62
63 #ifdef PRECISE_GC
64 #include "garbage.h"
65 #ifdef MLP
66 __attribute__((malloc)) void * allocate_new_mlp(void *, int type, int oid, int allocsite);
67 __attribute__((malloc)) void * allocate_new(void *, int type);
68 __attribute__((malloc)) struct ArrayObject * allocate_newarray_mlp(void *, int type, int length, int oid, int allocsite);
69 __attribute__((malloc)) struct ArrayObject * allocate_newarray(void * ptr, int type, int length);
70 #else
71 __attribute__((malloc)) void * allocate_new(void *, int type);
72 __attribute__((malloc)) struct ArrayObject * allocate_newarray(void *, int type, int length);
73 #endif
74 __attribute__((malloc)) struct ___String___ * NewString(void *, const char *str,int length);
75 __attribute__((malloc)) struct ___TagDescriptor___ * allocate_tag(void *ptr, int index);
76 #elif defined MULTICORE_GC
77 __attribute__((malloc)) void * allocate_new(void *, int type);
78 __attribute__((malloc)) struct ArrayObject * allocate_newarray(void *, int type, int length);
79 __attribute__((malloc)) struct ___String___ * NewString(void *, const char *str,int length);
80 __attribute__((malloc)) struct ___TagDescriptor___ * allocate_tag(void *ptr, int index);
81 #else
82 __attribute__((malloc)) void * allocate_new(int type);
83 __attribute__((malloc)) struct ArrayObject * allocate_newarray(int type, int length);
84 __attribute__((malloc)) struct ___String___ * NewString(const char *str,int length);
85 __attribute__((malloc)) struct ___TagDescriptor___ * allocate_tag(int index);
86 #endif
87
88
89
90 void initializeexithandler();
91 void failedboundschk();
92 void failednullptr();
93 void abort_task();
94 void injectinstructionfailure();
95 void createstartupobject();
96
97 #ifdef PRECISE_GC
98 #define VAR(name) ___params___->name
99 #define CALL00(name) name(struct name ## _params * ___params___)
100 #define CALL01(name, alt) name(struct name ## _params * ___params___)
101 #define CALL02(name, alt1, alt2) name(struct name ## _params * ___params___)
102 #define CALL11(name,rest, alt) name(struct name ## _params * ___params___, rest)
103 #define CALL12(name,rest, alt1, alt2) name(struct name ## _params * ___params___, rest)
104 #define CALL22(name, rest, rest2, alt1, alt2) name(struct name ## _params * ___params___, rest, rest2)
105 #define CALL23(name, rest, rest2, alt1, alt2, alt3) name(struct name ## _params * ___params___, rest, rest2)
106 #define CALL24(name, rest, rest2, alt1, alt2, alt3, alt4) name(struct name ## _params * ___params___, rest, rest2)
107 #define CALL34(name, rest, rest2, rest3, alt1, alt2, alt3, alt4) name(struct name ## _params * ___params___, rest, rest2, rest3)
108 #define CALL35(name, rest, rest2, rest3, alt1, alt2, alt3, alt4, alt5) name(struct name ## _params * ___params___, rest, rest2, rest3)
109 #else
110 #define VAR(name) name
111 #define CALL00(name) name()
112 #define CALL01(name, alt) name(alt)
113 #define CALL02(name, alt1, alt2) name(alt1, alt2)
114 #define CALL11(name,rest, alt) name(alt)
115 #define CALL12(name,rest, alt1, alt2) name(alt1, alt2)
116 #define CALL22(name, rest, rest2, alt1, alt2) name(alt1, alt2)
117 #define CALL23(name, rest, rest2, alt1, alt2, alt3) name(alt1, alt2, alt3)
118 #define CALL24(name, rest, rest2, alt1, alt2, alt3, alt4) name(alt1, alt2, alt3, alt4)
119 #define CALL34(name, rest, rest2, rest3, alt1, alt2, alt3, alt4) name(alt1, alt2, alt3, alt4)
120 #define CALL35(name, rest, rest2, rest3, alt1, alt2, alt3, alt4, alt5) name(alt1, alt2, alt3, alt4, alt5)
121 #endif
122
123 #ifdef TASK
124 #include "SimpleHash.h"
125 #ifndef MULTICORE
126 #include "chash.h"
127 #include "ObjectHash.h"
128 #include "structdefs.h"
129 #endif
130 #include "task.h"
131 #ifdef OPTIONAL
132 #include "optionalstruct.h"
133 #endif
134
135 #ifdef OPTIONAL
136 struct failedtasklist {
137   struct taskdescriptor *task;
138   int index;
139   int numflags;
140   int *flags;
141   struct failedtasklist *next;
142 };
143 #endif
144
145 #ifdef MULTICORE
146 struct transObjInfo {
147   void * objptr;
148   int targetcore;
149   int * queues;
150   int length;
151 };
152 #endif
153
154 #ifdef FASTCHECK
155 extern struct ___Object___ * ___fcrevert___;
156 #endif
157
158 #ifdef MULTICORE
159 inline void run(void * arg);
160 #ifdef MULTICORE_GC
161 inline void setupsmemmode(void);
162 #endif
163 int receiveObject(int send_port_pending);
164 void flagorand(void * ptr, int ormask, int andmask, struct parameterwrapper ** queues, int length);
165 void flagorandinit(void * ptr, int ormask, int andmask);
166 void enqueueObject(void * ptr, struct parameterwrapper ** queues,int length);
167 #ifdef PROFILE
168 inline void setTaskExitIndex(int index);
169 inline void addNewObjInfo(void * nobj);
170 #endif
171 int * getAliasLock(void ** ptrs, int length, struct RuntimeHash * tbl);
172 void addAliasLock(void * ptr, int lock);
173 void * smemalloc_I(int coren, int size, int * allocsize);
174 #else
175 void flagorand(void * ptr, int ormask, int andmask);
176 void flagorandinit(void * ptr, int ormask, int andmask);
177 void enqueueObject(void * ptr);
178 #endif
179 void executetasks();
180 void processtasks();
181
182 #ifndef MULTICORE
183 struct tagobjectiterator {
184   int istag; /* 0 if object iterator, 1 if tag iterator */
185   struct ObjectIterator it; /* Object iterator */
186   struct ObjectHash * objectset;
187 #ifdef OPTIONAL
188   int failedstate;
189 #endif
190   int slot;
191   int tagobjindex; /* Index for tag or object depending on use */
192   /*if tag we have an object binding */
193   int tagid;
194   int tagobjectslot;
195   /*if object, we may have one or more tag bindings */
196   int numtags;
197   int tagbindings[MAXTASKPARAMS-1]; /* list slots */
198 };
199
200 struct parameterwrapper {
201   struct parameterwrapper *next;
202   struct ObjectHash * objectset;
203   int numberofterms;
204   int * intarray;
205   int numbertags;
206   int * tagarray;
207   struct taskdescriptor * task;
208   int slot;
209   struct tagobjectiterator iterators[MAXTASKPARAMS-1];
210 };
211 #endif
212
213 struct taskparamdescriptor {
214   struct taskdescriptor * task;
215   int numParameters;
216   void ** parameterArray;
217 #ifdef OPTIONAL
218   int * failed;
219 #endif
220 };
221
222 int hashCodetpd(struct taskparamdescriptor *);
223 int comparetpd(struct taskparamdescriptor *, struct taskparamdescriptor *);
224
225 void toiReset(struct tagobjectiterator * it);
226 int toiHasNext(struct tagobjectiterator *it, void ** objectarray OPTARG(int * failed));
227 void toiNext(struct tagobjectiterator *it, void ** objectarray OPTARG(int * failed));
228 void processobject(struct parameterwrapper *parameter, int index, struct parameterdescriptor *pd, int *iteratorcount, int * statusarray, int numparams);
229 void processtags(struct parameterdescriptor *pd, int index, struct parameterwrapper *parameter, int * iteratorcount, int *statusarray, int numparams);
230 void builditerators(struct taskdescriptor * task, int index, struct parameterwrapper * parameter);
231 int enqueuetasks(struct parameterwrapper *parameter, struct parameterwrapper *prevptr, struct ___Object___ *ptr, int * enterflags, int numenterflags);
232
233 #endif
234
235 #if defined(__i386__)
236
237 static __inline__ unsigned long long rdtsc(void)
238 {
239   unsigned long long int x;
240   __asm__ volatile (".byte 0x0f, 0x31" : "=A" (x));
241   return x;
242 }
243 #elif defined(__x86_64__)
244
245 static __inline__ unsigned long long rdtsc(void)
246 {
247   unsigned hi, lo;
248   __asm__ __volatile__ ("rdtsc" : "=a"(lo), "=d"(hi));
249   return ( (unsigned long long)lo)|( ((unsigned long long)hi)<<32 );
250 }
251
252 #elif defined(__powerpc__)
253
254 typedef unsigned long long int unsigned long long;
255
256 static __inline__ unsigned long long rdtsc(void)
257 {
258   unsigned long long int result=0;
259   unsigned long int upper, lower,tmp;
260   __asm__ volatile(
261       "0:                  \n"
262       "\tmftbu   %0           \n"
263       "\tmftb    %1           \n"
264       "\tmftbu   %2           \n"
265       "\tcmpw    %2,%0        \n"
266       "\tbne     0b         \n"
267       : "=r"(upper),"=r"(lower),"=r"(tmp)
268                    );
269   result = upper;
270   result = result<<32;
271   result = result|lower;
272
273   return(result);
274 }
275 #endif
276
277
278 #endif