标题:
[数值计算]
在批处理中如何避免整数型运算方式产生的问题
[打印本页]
作者:
809255073
时间:
2012-1-10 20:36
标题:
在批处理中如何避免整数型运算方式产生的问题
本帖最后由 CrLf 于 2012-1-10 23:37 编辑
例:
在批处理中计算算式:1*3/3
答案是:1
但在批处理中计算算式:1/3*3
答案就是:0
因为批处理的计算过程是:
1除3等于0.33333333………
批处理省略小数点后的数字
则等于0再乘3等于0
怎么样
不颠倒输入的顺序
,
通过后面的代码
解决这个问题呢?
我问的不仅仅是这个,这只是个例子,希望有人可以解决
这一类问题
跪求高手....
作者:
find
时间:
2012-1-10 21:30
http://www.bathome.net/thread-3322-1-1.html
作者:
809255073
时间:
2012-1-11 09:55
看完还是不懂耶 他们到底在讨论什么?
作者:
find
时间:
2012-1-11 12:52
回复
3#
809255073
浮点除法
欢迎光临 批处理之家 (http://www.bathome.net/)
Powered by Discuz! 7.2