当前位置: 首页 > article >正文

计算机的错误计算(九十一)

摘要  讨论自然对数 ln(x)的计算精度问题。

例1.  计算 ln(0.999999999999996) .

       不妨用Python计算,则有:

若用Java代码计算:

import java.lang.Math;
public class Ln{
    public static void main(String[] args) {
        double x = 0.999999999999996;
        double result = Math.log(x);

        System.out.println(result);
    }
}

则运行后,输出同样的结果:-3.9968028886505714E-15 .

       然而,正确值是 -0.4000000000000008e-14(ISRealsoft 提供)。这样,二者的输出中似乎没有正确数字。实际上,由计算机的错误计算(二十九)知,输出中有3位数字是正确的。故错误率均为 (16-3)/16 = 81.25% .


http://www.kler.cn/a/301799.html

相关文章:

  • 消息中间件分类
  • 【日常记录-Git】git log
  • Python学习笔记(2)正则表达式
  • 谷歌AI进军教育,这将改变未来?
  • CentOS7.9 源码编译 FreeSWITCH 1.10.12
  • 前后端、网关、协议方面补充
  • Python中的内存池机制
  • php实现Socket 编程
  • vue如何做到计算属性传参?
  • 研1日记9
  • 【C++多线程编程】 线程安全与对象生命周期管理
  • Docker Compose与私有仓库部署
  • 10分钟在企业微信中集成一个 AI 助手
  • 汽车EDI:montaplast EDI对接
  • XWiki中添加 html 二次编辑失效
  • C# WinForm:禁用Panel容器滚动条自动移动位置的功能
  • leetcode 刷题周报(9.3-9.10)
  • java框架第五课(终极版本)SpringBoot
  • QT 中使用QXlsx 读写文件
  • Linux学习-Docker文件系统
  • 3. 轴指令(omron 机器自动化控制器)——>MC_PowerMC_MoveJog
  • mysql的zip解压缩版安装
  • MySQL根据日期统计时没有数据的日期也需要返回0
  • 图计算:基于SparkGrpahX计算聚类系数
  • 在Linux系统中“普通场景”下隐匿操作痕迹
  • 算法学习攻略总结 : 入门至进阶,通关之路指南