当前位置： 首页 > article >正文

计算机的错误计算（一百三十七）

article 2025/1/24 17:55:49

摘要  探讨 MATLAB 中 \textup{pow}2(x)=2^x 函数的计算精度问题：\textup{pow}2(x) 函数的输出中有约 x 的整数位数位错误数字。

       在 IEEE 754-2019 中定义有函数 \textup{exp}2=2^x\,.  而在 MATLAB 中该函数被命名为 \textup{pow}2\,.  本节讨论其计算精度。

例1.  计算 \textup{pow}2(2.786)\,,  \textup{pow}2(27.86)\,,  \textup{pow}2(278.6)\,.

       直接贴图吧： 

       上述三个输出中依次有1位、1位、3位错误数字。因为16位的正确值分别为  0.6897148360140768e1、0.2436103182862969e9、0.7361338557977352e84（ISRealsoft 提供）。

       容易想到，\textup{pow}2(x) 函数中亦有约 x 的整数位数位错误数字。


http://www.kler.cn/a/369928.html

相关文章：

  • 正向代理与反向代理的主要区别
  • 从零到一：Spring Boot 与 RocketMQ 的完美集成指南
  • 随机变量的变量替换——归一化流和直方图规定化的数学基础
  • 困境如雾路难寻，心若清明步自轻---2024年创作回顾
  • 逐笔成交逐笔委托Level2高频数据下载和分析：20250122
  • Flutter 改完安卓 applicationId 后App 闪退问题。
  • 理解HTTP、HTTPS、TCP、UDP与OSI七层模型：网络访问的基础
  • Android TelephonyManager 参数定义和功能 API 介绍
  • C语言——网络编程（下）
  • Docker：容器化的革命
  • VUE组件学习 | 五、v-for组件
  • 明达云平台：赋能污水处理厂
  • STM32中的IPR，IRQ，NVCC ，EXTI,AFIO 都是什么意思？
  • elselect iphone上 要点两次
  • ES（2）（仅供自己参考）
  • rand5生成rand7
  • leetcode hot100【LeetCode 394.字符串解码】java实现
  • Shein注册不了的常见原因及解决方法
  • Java知识巩固(十二)
  • 蚁群算法（Ant Colony Optimization）详细解读
  • Flink系列之：学习理解通过状态快照实现容错
  • matlab 绘图操作
  • Rust教程
  • 初探Servlet
  • picomax的rkipc开启rtmp功能
  • Python 基础语法 - 变量