当前位置： 首页 > article >正文

计算机的错误计算（一百五十五）

article 2024/11/16 11:13:12

摘要  探讨 MATLAB 中双曲反正切函数 atanh(x)的计算精度问题。

       浮点运算标准 IEEE 754-2019 中含有 atanh(x)函数。其定义为

例1.  已知 x_0=0.999999999321\,.  计算 \textup{atanh}(x_0) 与 \textup{atanh}(-x_0)\,.

       直接贴图吧：

       另外，16位的正确值分别为 0.1090177358429515e2 与 -0.1090177358429515e2（ISRealsoft 提供。通过公式  \frac{1}{2}\ln(\frac{1+x}{1-x}) 计算获得）。

       容易看出，MATLAB的输出中，与红色数字对应的有效数字是错误数字。这样，MATLAB 16位的输出中均有8位错误数字；有效数字的错误率均为 8/16 = 50% .

       注：可参考计算机的错误计算（八十八）。


http://www.kler.cn/a/395750.html

相关文章：

  • 使用 Vision 插件让 GitHub Copilot 识图问答
  • Vue3 -- 环境变量的配置【项目集成3】
  • python 2小时学会八股文-数据结构
  • react-redux useSelector钩子 学习样例 + 详细解析
  • 第三十一天|贪心算法| 56. 合并区间，738.单调递增的数字 ， 968.监控二叉树
  • StructuredStreaming （一）
  • HTML5实现俄罗斯方块小游戏
  • jenkins用户在执行scp的时候如何做免密登录
  • 【RabbitMQ】08-延迟消息
  • POD-Transformer多变量回归预测（Matlab）
  • 使用Git工具在GitHub的仓库中上传文件夹(超详细）
  • Python爬虫----python爬虫基础
  • Liunx-Ubuntu22.04.1系统下配置Anaconda+pycharm+pytorch-gpu环境配置
  • OpenAI官方发布：利用ChatGPT提升写作的12条指南
  • 低资源集群中的大语言模型分布式推理技术:Reduce、LayerNorm和Broadcast的作用
  • 基于yolov8、yolov5的鸟类分类系统（含UI界面、训练好的模型、Python代码、数据集）
  • vue使用vite-plugin-svg-icons插件组件化svg图片
  • MybatisPlus的基础使用
  • MySQL数据库入门到大牛尚硅谷宋红康老师笔记 基础篇 part 2
  • CICD持续集成与持续交付
  • go-bindata
  • 酷炫的鼠标移入效果(附源码!!)
  • Web基础1 -- HTML（超文本标记语言）
  • Python调用API翻译Excel中的英语句子并回填数据
  • 3. Spring Cloud Eureka 服务注册与发现(超详细说明及使用)
  • 计算机网络中的域名系统（DNS）及其优化技术