Board logo

标题: [数值计算] 在批处理中如何避免整数型运算方式产生的问题 [打印本页]

作者: 809255073    时间: 2012-1-10 20:36     标题: 在批处理中如何避免整数型运算方式产生的问题

本帖最后由 CrLf 于 2012-1-10 23:37 编辑

例:
在批处理中计算算式:1*3/3
答案是:1
但在批处理中计算算式:1/3*3
答案就是:0

因为批处理的计算过程是:
1除3等于0.33333333………
批处理省略小数点后的数字
则等于0再乘3等于0

怎么样不颠倒输入的顺序通过后面的代码解决这个问题呢?
我问的不仅仅是这个,这只是个例子,希望有人可以解决这一类问题
跪求高手....
作者: find    时间: 2012-1-10 21:30

http://www.bathome.net/thread-3322-1-1.html
作者: 809255073    时间: 2012-1-11 09:55

看完还是不懂耶 他们到底在讨论什么?
作者: find    时间: 2012-1-11 12:52

回复 3# 809255073


浮点除法




欢迎光临 批处理之家 (http://www.bathome.net/) Powered by Discuz! 7.2