关于JavaScript0.1+0.2=?浮点数精度问题

举报
秋名山码民 发表于 2023/01/22 18:54:36 2023/01/22
【摘要】 不知道大家在计算JavaScript浮点数的时候有没有遇到过0.1+0.2 != 0.3的情况,<script> var a1 = 0.1; var a2 = 0.2; alert(a1+a2);</script> 化浮为整浮点数的计算会出现这个问题,但是整数的计算就不会出现啊,把俩个小数换算为整数进行计算,再除以一个共同的倍数var a1 = 0....

不知道大家在计算JavaScript浮点数的时候有没有遇到过0.1+0.2 != 0.3的情况,

<script>
        var a1 = 0.1;
        var a2 = 0.2;
        alert(a1+a2);
</script>

在这里插入图片描述

化浮为整

浮点数的计算会出现这个问题,但是整数的计算就不会出现啊,把俩个小数换算为整数进行计算,再除以一个共同的倍数

var a1 = 0.1;
        var a2 = 0.2;
        a1 = a1 *10;
        a2 = a2 *10;
        alert((a1+a2)/10);

在这里插入图片描述

但是当俩个位数不同的小数的时候,这个方法便不再适用,这个10不是确定的,应该根据俩个相加的具体数值动态获取

怎么动态获取?

仔细观察不难发现,0.01和0.1只有小数点后面的不一样,我们只需要处理数字的位数,把数字当成字符串来进行处理即可

var a1 = "0.01";
alert(a1.length);//获取a1的长度

然后进行字符串分割(split函数)可以把应该字符串通过某种规则和标记符号进行分割,并且返回一个数组

var a1 = "0.01";
var a1_arr = a1.split(".");
var a1_arr_2 = a1_arr[1];
alert(a1_arr_2.length); //小数点后面的位数

在这里插入图片描述
这下子就转换为取俩个数中较小的那个数,俩个数乘以较小的数的小数点后的位数,化浮为整,因为整数的运算没有丢失精度,计算完成后,再将结果除以倍数,就可以得到正确答案。

那么当为1+1.01时候呢?

  1. toString,转换为俩个字符串
  2. 获取他们个周的小数位数,
  3. 去掉1.01的小数点,用replace
  4. 然后就是我们上面讲的字符串切割
  5. 比较谁的小数点位数大,进行补全

完整代码如下:

	<script>
        var add = function (a1,a2){
            //转换为字符串
            a1 = a1.toString();
            a2 = a2.toString();
            //获取小数点的位置
            var index1 = a1.indexOf(".");
            var index2 = a2.indexOf(".");
            //如果小数点存在,那么再获取各自的小数位数
            var ws1 = 0;
            var ws2 = 0;
            if(index1 != -1){
                ws1 = a1.split(".")[1].length;
            }
            if(index2 != -1){
                ws2 = a2.split(".")[1].length;
            }

            //谁的位数大,谁的位数小,计算要补全的0
            var bigger = (ws1>ws2) ? ws1 : ws2;
            var smaller = (ws1<ws2) ? ws1 : ws2;
            var zeroCount = bigger - smaller;

            //去除小数点
            a1 = a1.replace(".","");
            a2 = a2.replace(".","");

            //比较a1和a2
            if(ws1 == smaller){
                for(var i = 0; i<zeroCount; i++){
                    a1 += "0";
                }
            }else{
                for(var i = 0; i<zeroCount; i++){
                    a2 += "0";
                }
            }

            //计算
            var sum = parseInt(a1) + parseInt(a2);

            //较大的小数位数计算倍数
            var beishu = 1;
            for(var i = 0; i<bigger; i++){
                beishu = beishu * 10;
            }
            sum = sum/beishu;
            return sum;
        }

        alert(add(1.001,2.002));
    </script>

在这里插入图片描述
如果有所帮助还请给个三连!

													——本文参考《JavaScript百炼成仙》
【版权声明】本文为华为云社区用户原创内容,转载时必须标注文章的来源(华为云社区)、文章链接、文章作者等基本信息, 否则作者和本社区有权追究责任。如果您发现本社区中有涉嫌抄袭的内容,欢迎发送邮件进行举报,并提供相关证据,一经查实,本社区将立刻删除涉嫌侵权内容,举报邮箱: cloudbbs@huaweicloud.com
  • 点赞
  • 收藏
  • 关注作者

评论(0

0/1000
抱歉,系统识别当前为高风险访问,暂不支持该操作

全部回复

上滑加载中

设置昵称

在此一键设置昵称,即可参与社区互动!

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。

*长度不超过10个汉字或20个英文字符,设置后3个月内不可修改。