跳到主要内容

科学计数法

科学计数法​

科学计数法把一个数字表示成如下形式，其中a是尾数或者叫有效数字，n是整数，其可以是负的

image-20200629230620793

而在计算器中使用字母E/e(exponent，指数)来表示 10 的乘方，小于 1 的小数就用E-来表示

1.234E+005=1.234∗1051.2E−005＝1.2∗10−51.234E+005 = 1.234*10^5 \\ 1.2E-005＝1.2*10^{-5}

二进制科学计数法​

常见于计算机的浮点数表示，也就是 10 的乘法换成了 2 的乘法形式。值得注意的是这个乘法算式的左边有效数字是二进制，而右边是十进制的乘方，不能直接相乘计算出结果，必须要将有效数字部分二进制转成十进制，两者才能相乘。

171 = 10101011 = 1.0101011 * 2^7

1.0101011 * 2^7转回来：

1*2^0 + 0*2^(-1)+1*2^(-2) ... + 1*2^(-7) = 1.3359375

1.3359375 * 2^7 = 171

// 或者可以这么看，2的指数其实表示浮点数的移位，这里也就是1.0101011的小数点向右移位7个，那么得到的数再转十进制就是原来的整数 171了