szrunluo
级别: *
精华主题: * 篇
发帖数量: * 个
工控威望: * 点
下载积分: * 分
在线时间: (小时)
注册时间: *
最后登录: *
查看szrunluo的 主题 / 回贴
楼主  发表于: 2008-07-15 00:14
使用除法运算时,DIV,    10000 / 6=1666,   余数是0.666667.       但在PC运行中计算出来的余数是4,我百思不解PC是怎样转换过来的结果,
请求高手指点.
szrunluo
级别: *
精华主题: * 篇
发帖数量: * 个
工控威望: * 点
下载积分: * 分
在线时间: (小时)
注册时间: *
最后登录: *
查看szrunluo的 主题 / 回贴
1楼  发表于: 2008-07-16 06:44
一楼,我是没有用浮点运算,小数点后被PC换成整数,我奇怪的就是这点,我自己换算了一下,却不知用的是哪个公式,结果才会等于4。请你把这个说明一下好吗,谢谢。
szrunluo
级别: *
精华主题: * 篇
发帖数量: * 个
工控威望: * 点
下载积分: * 分
在线时间: (小时)
注册时间: *
最后登录: *
查看szrunluo的 主题 / 回贴
2楼  发表于: 2008-07-16 06:50
我心急想知道这个结果,不知怎样把贴子顶上去,只用这个方法了,请不要见笑,望有知道这是怎么回事的高手们解答一下,谢谢,谢谢。
szrunluo
级别: *
精华主题: * 篇
发帖数量: * 个
工控威望: * 点
下载积分: * 分
在线时间: (小时)
注册时间: *
最后登录: *
查看szrunluo的 主题 / 回贴
3楼  发表于: 2008-07-16 22:39
谢谢各位耐心的讲解,谢谢,