Skip to content

Latest commit

 

History

History
15 lines (12 loc) · 1.01 KB

program-how-to-run-03.md

File metadata and controls

15 lines (12 loc) · 1.01 KB

计算机进行小数运算时出错的原因

       用于描述二进制小数的位权(指数)是负数,二进制小数转十进制小数依旧是多项式相加,而十进制小数转成二进制,需要循环乘2后取整数。就像十进制1/3一样,十进制转成二进制小数也会遇到无法表示的问题,所以表述都存在误差,更何况计算呢?

       计算机表述二进制小数依靠IEEE标准,使用了符号指数尾数三个区段来表示,而其中尾数需要使用到正则运算,而指数需要依靠EXCESS系统。