当前位置： 首页 > article >正文

计算机的错误计算（一百七十二）

article 2024/12/5 4:20:34

摘要  探讨 MATLAB 对于算式 \frac{1}{9^{6.2}}-\sin(\frac{1}{9^{6.2}}) 的计算误差。

例1.  在 MATLAB 中计算 \frac{1}{9^{6.2}}-\sin(\frac{1}{9^{6.2}}) 的值。

       直接贴图吧：

这样，MATLAB 的输出中只有3位正确数字，有效数字的错误率为 (16-3)/16 = 81.25% .  因为16位的正确输出为 0.2971242332737277e-18（ISRealsoft 提供）。 

       注：可参考计算机的错误计算（一百三十三）。


http://www.kler.cn/a/420010.html

相关文章：

  • Spark和MapReduce场景应用和区别
  • 6.824/6.5840 Lab 1: MapReduce
  • 5G CPE介绍（一）
  • 实时数据开发 | Flink的数据分区策略--物理分区操作
  • 【GPT】主要影响代谢的因素
  • 《数据挖掘：概念、模型、方法与算法（第三版）》
  • 3dtile平移子模型以及修改 3D Tiles 模型的模型矩阵z平移
  • 用原生JS创建简易的axios
  • Django 视图层
  • openjdk17 jvm 对象 内存溢出 在C++源码体现
  • 数据仓库: 8- 数据仓库性能优化
  • 视频video鼠标移入移除展示隐藏(自定义控件)
  • 第22周：机器学习
  • 从Apache Solr 看 Velocity 模板注入
  • Android：生成Excel表格并保存到本地
  • 使用epoll监测定时器是否到达指定时间，并执行回调函数
  • 前端番外小知识——为什么需要箭头函数？
  • Pytorch使用手册-What is torch.nn really?（专题九）
  • 【电子通识】USB Type-C线缆为什么有的用到E-Marker芯片
  • 数据结构自测题4
  • 【docker】docker网络六种网络模式
  • 雪花算法生成ID
  • git 常用命令及问题
  • 多级缓存设计实践
  • Cannot resolve symbol ‘ActivityThread‘ | Android 语法
  • 【目标跟踪】AntiUAV600数据集详细介绍