test/Makefile

   1 #===- test/Makefile ----------------------------------------*- Makefile -*--===#
   2 #
   3 #                     The LLVM Compiler Infrastructure
   4 #
   5 # This file is distributed under the University of Illinois Open Source
   6 # License. See LICENSE.TXT for details.
   7 #
   8 #===------------------------------------------------------------------------===#
   9
  10 LEVEL = ..
  11 DIRS  =
  12
  13 #
  14 # Make Dejagnu the default for testing
  15 #
  16 all:: check-local
  17
  18 # Include other test rules
  19 include Makefile.tests
  20
  21 #===------------------------------------------------------------------------===#
  22 # DejaGNU testing support
  23 #===------------------------------------------------------------------------===#
  24
  25 ifneq ($(GREP_OPTIONS),)
  26 $(warning GREP_OPTIONS environment variable may interfere with test results)
  27 endif
  28
  29 ifdef VERBOSE
  30 RUNTESTFLAGS := $(VERBOSE)
  31 LIT_ARGS := -v
  32 else
  33 LIT_ARGS := -s -v
  34 endif
  35
  36 ifdef TESTSUITE
  37 LIT_TESTSUITE := $(TESTSUITE)
  38 CLEANED_TESTSUITE := $(patsubst %/,%,$(TESTSUITE))
  39 CLEANED_TESTSUITE := $(patsubst test/%,%,$(CLEANED_TESTSUITE))
  40 RUNTESTFLAGS += --tool $(CLEANED_TESTSUITE)
  41 else
  42 LIT_TESTSUITE := .
  43 endif
  44
  45 ifdef VG
  46 VALGRIND := valgrind --tool=memcheck --quiet --trace-children=yes --error-exitcode=3 --leak-check=full $(VALGRIND_EXTRA_ARGS)
  47 endif
  48
  49 # Check what to run for -all.
  50 LIT_ALL_TESTSUITES := $(LIT_TESTSUITE)
  51
  52 extra-lit-site-cfgs::
  53 .PHONY: extra-lit-site-cfgs
  54
  55 ifneq ($(strip $(filter check-local-all,$(MAKECMDGOALS))),)
  56 ifndef TESTSUITE
  57 ifeq ($(shell test -d $(PROJ_SRC_DIR)/../tools/clang && echo OK), OK)
  58 LIT_ALL_TESTSUITES += $(PROJ_OBJ_DIR)/../tools/clang/test
  59
  60 # Force creation of Clang's lit.site.cfg.
  61 clang-lit-site-cfg: FORCE
  62         $(MAKE) -C $(PROJ_OBJ_DIR)/../tools/clang/test lit.site.cfg
  63 extra-lit-site-cfgs:: clang-lit-site-cfg
  64 endif
  65 endif
  66 endif
  67
  68 IGNORE_TESTS :=
  69
  70 ifndef RUNLLVM2CPP
  71 IGNORE_TESTS += llvm2cpp.exp
  72 endif
  73
  74 ifdef IGNORE_TESTS
  75 RUNTESTFLAGS += --ignore "$(strip $(IGNORE_TESTS))"
  76 endif
  77
  78 # Both AuroraUX & Solaris do not have the -m flag for ulimit
  79 ifeq ($(HOST_OS),SunOS)
  80 ULIMIT=ulimit -t 600 ; ulimit -d 512000 ; ulimit -v 512000 ;
  81 else
  82 ULIMIT=ulimit -t 600 ; ulimit -d 512000 ; ulimit -m 512000 ; ulimit -v 512000 ;
  83 endif
  84
  85 ifneq ($(RUNTEST),)
  86 check-local:: site.exp
  87         ( $(ULIMIT) \
  88           PATH="$(LLVMToolDir):$(LLVM_SRC_ROOT)/test/Scripts:$(LLVMGCCDIR)/bin:$(PATH)" \
  89           $(RUNTEST) $(RUNTESTFLAGS) )
  90 else
  91 check-local:: site.exp
  92         @echo "*** dejagnu not found.  Make sure 'runtest' is in your PATH, then reconfigure LLVM."
  93 endif
  94
  95 check-local-lit:: lit.site.cfg Unit/lit.site.cfg
  96         ( $(ULIMIT) \
  97           $(LLVM_SRC_ROOT)/utils/lit/lit.py \
  98                 --path "$(LLVMToolDir)" \
  99                 --path "$(LLVM_SRC_ROOT)/test/Scripts" \
 100                 --path "$(LLVMGCCDIR)/bin" \
 101                 $(LIT_ARGS) $(LIT_TESTSUITE) )
 102
 103 check-local-all:: lit.site.cfg Unit/lit.site.cfg extra-lit-site-cfgs
 104         ( $(ULIMIT) \
 105           $(LLVM_SRC_ROOT)/utils/lit/lit.py \
 106                 --path "$(LLVMToolDir)" \
 107                 --path "$(LLVM_SRC_ROOT)/test/Scripts" \
 108                 --path "$(LLVMGCCDIR)/bin" \
 109                 $(LIT_ARGS) $(LIT_ALL_TESTSUITES) )
 110
 111 ifdef TESTONE
 112 CLEANED_TESTONE := $(patsubst %/,%,$(TESTONE))
 113 CLEANED_TESTONE := $(patsubst test/%,%,$(CLEANED_TESTONE))
 114 SUBDIR := $(shell dirname $(CLEANED_TESTONE))
 115 TESTPATH := $(LLVM_SRC_ROOT)/test/$(CLEANED_TESTONE)
 116 check-one: site.exp $(TCLSH)
 117         $(Verb)( echo "source $(LLVM_OBJ_ROOT)/test/site.exp" ; \
 118           echo "set subdir $(SUBDIR)" ; \
 119           echo "proc pass  { msg } { puts \"PASS: \$$msg\" } "; \
 120           echo "proc fail  { msg } { puts \"FAIL: \$$msg\" }" ; \
 121           echo "proc xfail { msg } { puts \"XFAIL: \$$msg\" }" ; \
 122           echo "proc xpass { msg } { puts \"XPASS: \$$msg\" }" ; \
 123           echo "proc verbose args { }" ; \
 124           echo "source $(LLVM_SRC_ROOT)/test/lib/llvm.exp" ; \
 125           echo "RunLLVMTests $(TESTPATH)" ) | \
 126         ( $(ULIMIT) \
 127           PATH="$(LLVMToolDir):$(LLVM_SRC_ROOT)/test/Scripts:$(PATH)" \
 128           $(TCLSH) )
 129 endif
 130
 131 clean::
 132         $(RM) -rf `find $(LLVM_OBJ_ROOT)/test -name Output -type d -print`
 133
 134 # dsymutil is used on the Darwin to manipulate DWARF debugging information.
 135 ifeq ($(TARGET_OS),Darwin)
 136 DSYMUTIL=dsymutil
 137 else
 138 DSYMUTIL=true
 139 endif
 140 ifdef TargetCommonOpts
 141 BUGPOINT_TOPTS="-gcc-tool-args $(TargetCommonOpts)"
 142 else
 143 BUGPOINT_TOPTS=""
 144 endif
 145
 146 ifneq ($(OCAMLOPT),)
 147 CC_FOR_OCAMLOPT := $(shell $(OCAMLOPT) -config | grep native_c_compiler | sed -e 's/native_c_compiler: //')
 148 CXX_FOR_OCAMLOPT := $(subst gcc,g++,$(CC_FOR_OCAMLOPT))
 149 endif
 150
 151 FORCE:
 152
 153 site.exp: FORCE
 154         @echo 'Making a new site.exp file...'
 155         @echo '## these variables are automatically generated by make ##' >site.tmp
 156         @echo '# Do not edit here.  If you wish to override these values' >>site.tmp
 157         @echo '# edit the last section' >>site.tmp
 158         @echo 'set target_triplet "$(TARGET_TRIPLE)"' >> site.tmp
 159         @echo 'set TARGETS_TO_BUILD "$(TARGETS_TO_BUILD)"' >> site.tmp
 160         @echo 'set llvmgcc_langs "$(LLVMGCC_LANGS)"' >> site.tmp
 161         @echo 'set llvmgcc_version "$(LLVMGCC_VERSION)"' >> site.tmp
 162         @echo 'set llvmtoolsdir "$(ToolDir)"' >>site.tmp
 163         @echo 'set llvmlibsdir "$(LibDir)"' >>site.tmp
 164         @echo 'set llvm_bindings "$(BINDINGS_TO_BUILD)"' >> site.tmp
 165         @echo 'set srcroot "$(LLVM_SRC_ROOT)"' >>site.tmp
 166         @echo 'set objroot "$(LLVM_OBJ_ROOT)"' >>site.tmp
 167         @echo 'set srcdir "$(LLVM_SRC_ROOT)/test"' >>site.tmp
 168         @echo 'set objdir "$(LLVM_OBJ_ROOT)/test"' >>site.tmp
 169         @echo 'set gccpath "$(CC)"' >>site.tmp
 170         @echo 'set gxxpath "$(CXX)"' >>site.tmp
 171         @echo 'set compile_c "' $(CC) $(CPP.Flags) $(TargetCommonOpts) $(CompileCommonOpts) -c '"' >>site.tmp
 172         @echo 'set compile_cxx "' $(CXX) $(CPP.Flags) $(CXX.Flags) $(TargetCommonOpts) $(CompileCommonOpts) -c '"' >> site.tmp
 173         @echo 'set link "' $(CXX) $(CPP.Flags) $(CXX.Flags) $(TargetCommonOpts) $(CompileCommonOpts) $(LD.Flags) '"' >>site.tmp
 174         @echo 'set llvmgcc "$(LLVMGCC) $(TargetCommonOpts) $(EXTRA_OPTIONS)"' >> site.tmp
 175         @echo 'set llvmgxx "$(LLVMGCC) $(TargetCommonOpts) $(EXTRA_OPTIONS)"' >> site.tmp
 176         @echo 'set llvmgccmajvers "$(LLVMGCC_MAJVERS)"' >> site.tmp
 177         @echo 'set bugpoint_topts $(BUGPOINT_TOPTS)' >> site.tmp
 178         @echo 'set shlibext "$(SHLIBEXT)"' >> site.tmp
 179         @echo 'set ocamlopt "$(OCAMLOPT) -cc \"$(CXX_FOR_OCAMLOPT)\" -I $(LibDir)/ocaml"' >> site.tmp
 180         @echo 'set valgrind "$(VALGRIND)"' >> site.tmp
 181         @echo 'set grep "$(GREP)"' >>site.tmp
 182         @echo 'set gas "$(GAS)"' >>site.tmp
 183         @echo 'set llvmdsymutil "$(DSYMUTIL)"' >>site.tmp
 184         @echo '## All variables above are generated by configure. Do Not Edit ## ' >>site.tmp
 185         @test ! -f site.exp || \
 186         sed '1,/^## All variables above are.*##/ d' site.exp >> site.tmp
 187         @-rm -f site.bak
 188         @test ! -f site.exp || mv site.exp site.bak
 189         @mv site.tmp site.exp
 190
 191 lit.site.cfg: site.exp
 192         @echo "Making LLVM 'lit.site.cfg' file..."
 193         @sed -e "s#@LLVM_SOURCE_DIR@#$(LLVM_SRC_ROOT)#g" \
 194              -e "s#@LLVM_BINARY_DIR@#$(LLVM_OBJ_ROOT)#g" \
 195              -e "s#@LLVM_TOOLS_DIR@#$(ToolDir)#g" \
 196              -e "s#@LLVMGCCDIR@#$(LLVMGCCDIR)#g" \
 197              $(PROJ_SRC_DIR)/lit.site.cfg.in > $@
 198
 199 Unit/lit.site.cfg: $(PROJ_OBJ_DIR)/Unit/.dir FORCE
 200         @echo "Making LLVM unittest 'lit.site.cfg' file..."
 201         @echo "## Autogenerated by Makefile ##" > $@
 202         @echo "# Do not edit!" >> $@
 203         @echo >> $@
 204         @echo "# Preserve some key paths for use by main LLVM test suite config." >> $@
 205         @echo "config.llvm_obj_root = \"\"\"$(LLVM_OBJ_ROOT)\"\"\"" >> $@
 206         @echo >> $@
 207         @echo "# Remember the build mode." >> $@
 208         @echo "config.llvm_build_mode = \"\"\"$(BuildMode)\"\"\"" >> $@
 209         @echo >> $@
 210         @echo "# Let the main config do the real work." >> $@
 211         @echo "lit.load_config(config, \"\"\"$(LLVM_SRC_ROOT)/test/Unit/lit.cfg\"\"\")" >> $@
 212