当前位置: 首页 > article >正文

计算机的错误计算(一百五十六)

摘要  探讨 MATLAB 中双曲反余切函数 acoth(x) 在 \pm1 附近数的计算精度问题。

       Acoth(x)函数的定义为

例1.   已知 x=1.000000000456\,.  计算 \textup{acoth}(x) 与 \textup{acoth}(-x)\,.

       直接贴图吧:

       另外,16位的正确值分别为 0.1110083774360105e2 与 -0.1110083774360105e2(ISRealsoft 提供。通过计算上面定义中公式获得)。

       容易看出,MATLAB的输出中,与红色数字对应的有效数字是错误数字。这样,MATLAB 16位的输出中均有8位错误数字;有效数字的错误率均为 8/16 = 50% .

       注:可参考计算机的错误计算(八十九)。


http://www.kler.cn/a/397645.html

相关文章:

  • GitLab 降级安装出现 500 错误,如何解决?
  • 大三学生实习面试经历(1)
  • 从零开始学习 sg200x 多核开发之 TF 存储卡根文件系统扩容
  • spark 设置hive.exec.max.dynamic.partition不生效
  • # ubuntu 安装的pycharm不能输入中文的解决方法
  • linux企业中常用NFS、ftp服务
  • Git设置用户名及邮箱
  • 接口文档的编写
  • 深入解析 CentOS 7 上 MySQL 8.0 的最佳实践20241112
  • 新版Servlet3.0~5.0和旧版配置的区别
  • 算法练习:438. 找到字符串中所有字母异位词
  • 【Rust中的项目管理】
  • vue之axios根据某个接口创建实例,并设置headers和超时时间,捕捉异常
  • MySQL8 安装教程
  • 【网络安全面经】技术性问题
  • 大数据治理:构建高效数据生态的基石
  • 前端:HTML/CSS/JavaScript基础知识
  • 深入理解 source 和 sh、bash 的区别
  • 【jvm】分代年龄为什么是15次
  • C语言之链表操作
  • C语言第九周课——经典算法
  • 从系统崩溃到绝地反击:一次微服务存储危机的救赎
  • 在uniapp当中隐藏掉默认tabbar并且使用自己的tabbar
  • 查看解决端口占用,以及docker解决端口占用的原理
  • char* 指针转换与打印
  • 【MySQL】MySQL中的函数之JSON_REPLACE