当前位置: 首页 > article >正文

lua除法bug

故事背景,新来了一个数值,要改公式。神奇的一幕出现了,公式算出一个非常大的数。排查是lua有一个除法bug,1除以大数得到一个非常大的数。

function div(a, b)
    return tonumber(string.format("%.2f", a/b))
end
print(1/73003)
print(div(1,73003))
print(1/10)
print(div(1,10))

需要用lua的除法,建议封装一下函数,不然出现神奇的bug。


http://www.kler.cn/a/410902.html

相关文章:

  • 基于FPGA的2FSK调制-串口收发-带tb仿真文件-实际上板验证成功
  • vue 预览pdf 【@sunsetglow/vue-pdf-viewer】开箱即用,无需开发
  • 网络安全学习77天(记录)
  • 直播技术-Android基础框架
  • FFmpeg 音视频同步问题
  • 冒泡排序(Java)
  • Ubuntu下手动设置Nvidia显卡风扇转速
  • shell与QQ邮箱的连接
  • etcd快速入门
  • 业务架构、数据架构、应用架构和技术架构
  • Ubuntu 关闭内核自动更新
  • 因泰立科技:激光技术融合,高速公路治超系统的创新实践
  • C++【日志模块中的writer类】前文中 循环队列用法
  • 2024算法基础公选课练习四(综合2)
  • Java-06 深入浅出 MyBatis - 一对一模型 SqlMapConfig 与 Mapper 详细讲解测试
  • windows下安装wsl的ubuntu,同时配置深度学习环境
  • 小米note pro一代(leo)线刷、twrp、magisk、TODO: android源码编译
  • 解决单元测试时找不到类名
  • 梧桐数据库的高效索引技术研究及实现
  • 如何修复WordPress .htaccess文件
  • c++中set容器的遍历和读取某一位置的值
  • Web安全之XSS攻击的防范
  • 2024“龙信杯“电子数据取证竞赛-服务器取证题目Writeup
  • Docker pull镜像拉取失败
  • Jira关键git
  • 安卓动态添加View