cds/compiler/gcc/amd64/bitop.h

   1 /*
   2     This file is a part of libcds - Concurrent Data Structures library
   3
   4     (C) Copyright Maxim Khizhinsky (libcds.dev@gmail.com) 2006-2016
   5
   6     Source code repo: http://github.com/khizmax/libcds/
   7     Download: http://sourceforge.net/projects/libcds/files/
   8
   9     Redistribution and use in source and binary forms, with or without
  10     modification, are permitted provided that the following conditions are met:
  11
  12     * Redistributions of source code must retain the above copyright notice, this
  13       list of conditions and the following disclaimer.
  14
  15     * Redistributions in binary form must reproduce the above copyright notice,
  16       this list of conditions and the following disclaimer in the documentation
  17       and/or other materials provided with the distribution.
  18
  19     THIS SOFTWARE IS PROVIDED BY THE COPYRIGHT HOLDERS AND CONTRIBUTORS "AS IS"
  20     AND ANY EXPRESS OR IMPLIED WARRANTIES, INCLUDING, BUT NOT LIMITED TO, THE
  21     IMPLIED WARRANTIES OF MERCHANTABILITY AND FITNESS FOR A PARTICULAR PURPOSE ARE
  22     DISCLAIMED. IN NO EVENT SHALL THE COPYRIGHT HOLDER OR CONTRIBUTORS BE LIABLE
  23     FOR ANY DIRECT, INDIRECT, INCIDENTAL, SPECIAL, EXEMPLARY, OR CONSEQUENTIAL
  24     DAMAGES (INCLUDING, BUT NOT LIMITED TO, PROCUREMENT OF SUBSTITUTE GOODS OR
  25     SERVICES; LOSS OF USE, DATA, OR PROFITS; OR BUSINESS INTERRUPTION) HOWEVER
  26     CAUSED AND ON ANY THEORY OF LIABILITY, WHETHER IN CONTRACT, STRICT LIABILITY,
  27     OR TORT (INCLUDING NEGLIGENCE OR OTHERWISE) ARISING IN ANY WAY OUT OF THE USE
  28     OF THIS SOFTWARE, EVEN IF ADVISED OF THE POSSIBILITY OF SUCH DAMAGE.
  29 */
  30
  31 #ifndef CDSLIB_COMPILER_GCC_AMD64_BITOP_H
  32 #define CDSLIB_COMPILER_GCC_AMD64_BITOP_H
  33
  34 //@cond none
  35 namespace cds {
  36     namespace bitop { namespace platform { namespace gcc { namespace amd64 {
  37         // MSB - return index (1..32) of most significant bit in nArg. If nArg == 0 return 0
  38 #        define cds_bitop_msb32_DEFINED
  39         static inline int msb32( uint32_t nArg )
  40         {
  41             int        nRet;
  42             __asm__ __volatile__ (
  43                 "bsrl        %[nArg], %[nRet]     ;\n\t"
  44                 "jnz        1f                    ;\n\t"
  45                 "xorl        %[nRet], %[nRet]    ;\n\t"
  46                 "subl        $1, %[nRet]         ;\n\t"
  47                 "1:"
  48                 "addl        $1, %[nRet]         ;\n\t"
  49                 : [nRet] "=a" (nRet)
  50                 : [nArg] "r" (nArg)
  51                 : "cc"
  52                 );
  53             return nRet;
  54         }
  55
  56 #        define cds_bitop_msb32nz_DEFINED
  57         static inline int msb32nz( uint32_t nArg )
  58         {
  59             assert( nArg != 0 );
  60             int        nRet;
  61             __asm__ __volatile__ (
  62                 "bsrl        %[nArg], %[nRet]    ;"
  63                 : [nRet] "=a" (nRet)
  64                 : [nArg] "r" (nArg)
  65                 : "cc"
  66                 );
  67             return nRet;
  68         }
  69
  70         // LSB - return index (0..31) of least significant bit in nArg. If nArg == 0 return -1U
  71 #        define cds_bitop_lsb32_DEFINED
  72         static inline int lsb32( uint32_t nArg )
  73         {
  74
  75             int        nRet;
  76             __asm__ __volatile__ (
  77                 "bsfl        %[nArg], %[nRet]     ;"
  78                 "jnz        1f        ;"
  79                 "xorl        %[nRet], %[nRet]    ;"
  80                 "subl        $1, %[nRet]         ;"
  81                 "1:"
  82                 "addl        $1, %[nRet]         ;"
  83                 : [nRet] "=a" (nRet)
  84                 : [nArg] "r" (nArg)
  85                 : "cc"
  86                 );
  87             return nRet;
  88
  89         }
  90
  91         // LSB - return index (0..31) of least significant bit in nArg.
  92         // Condition: nArg != 0
  93 #        define cds_bitop_lsb32nz_DEFINED
  94         static inline int lsb32nz( uint32_t nArg )
  95         {
  96             assert( nArg != 0 );
  97             int        nRet;
  98             __asm__ __volatile__ (
  99                 "bsfl        %[nArg], %[nRet]    ;"
 100                 : [nRet] "=a" (nRet)
 101                 : [nArg] "r" (nArg)
 102                 : "cc"
 103                 );
 104             return nRet;
 105         }
 106
 107 #        define cds_bitop_msb64_DEFINED
 108         static inline int msb64( uint64_t nArg )
 109         {
 110             uint64_t  nRet;
 111             asm volatile (
 112                 "bsrq        %[nArg], %[nRet]     ;\n\t"
 113                 "jnz        1f                    ;\n\t"
 114                 "xorq        %[nRet], %[nRet]    ;\n\t"
 115                 "subq        $1, %[nRet]         ;\n\t"
 116                 "1:"
 117                 "addq        $1, %[nRet]         ;\n\t"
 118                 : [nRet] "=a" (nRet)
 119                 : [nArg] "r" (nArg)
 120                 : "cc"
 121                 );
 122             return (int) nRet;
 123         }
 124
 125 #        define cds_bitop_msb64nz_DEFINED
 126         static inline int msb64nz( uint64_t nArg )
 127         {
 128             assert( nArg != 0 );
 129             uint64_t nRet;
 130             __asm__ __volatile__ (
 131                 "bsrq        %[nArg], %[nRet]    ;"
 132                 : [nRet] "=a" (nRet)
 133                 : [nArg] "r" (nArg)
 134                 : "cc"
 135                 );
 136             return (int) nRet;
 137         }
 138
 139         // LSB - return index (0..31) of least significant bit in nArg. If nArg == 0 return -1U
 140 #        define cds_bitop_lsb64_DEFINED
 141         static inline int lsb64( uint64_t nArg )
 142         {
 143             uint64_t nRet;
 144             __asm__ __volatile__ (
 145                 "bsfq        %[nArg], %[nRet]     ;"
 146                 "jnz        1f        ;"
 147                 "xorq        %[nRet], %[nRet]    ;"
 148                 "subq        $1, %[nRet]         ;"
 149                 "1:"
 150                 "addq        $1, %[nRet]         ;"
 151                 : [nRet] "=a" (nRet)
 152                 : [nArg] "r" (nArg)
 153                 : "cc"
 154                 );
 155             return (int) nRet;
 156
 157         }
 158
 159         // LSB - return index (0..31) of least significant bit in nArg.
 160         // Condition: nArg != 0
 161 #        define cds_bitop_lsb64nz_DEFINED
 162         static inline int lsb64nz( uint64_t nArg )
 163         {
 164             assert( nArg != 0 );
 165             uint64_t nRet;
 166             __asm__ __volatile__ (
 167                 "bsfq        %[nArg], %[nRet]    ;"
 168                 : [nRet] "=a" (nRet)
 169                 : [nArg] "r" (nArg)
 170                 : "cc"
 171                 );
 172             return (int) nRet;
 173         }
 174
 175
 176     }} // namespace gcc::amd64
 177
 178     using namespace gcc::amd64;
 179
 180     }}}    // namespace cds::bitop::platform
 181
 182 //@endcond
 183
 184 #endif // #ifndef CDSLIB_COMPILER_GCC_AMD64_BITOP_H