查看: 864|回复: 1
打印 上一主题 下一主题

ICC里数据处理时候的问题

[复制链接]
跳转到指定楼层
沙发
发表于 2014-7-28 16:42:21 | 只看该作者 回帖奖励 |倒序浏览 |阅读模式
两个单独的数是正常的,但是相除之后显示的数是不正常的,例如high和t用1602显示正常。eg:    high=792;
        t=992;
        num=100*high/t;;
显示num=13;应该是80左右啊?这是怎么回事呢》?
回复

使用道具 举报

板凳
发表于 2014-7-28 17:04:36 | 只看该作者
你定义的high是不是unsigned int  ??如果是的话那就是13。。因为100*792=79200 > 65535即溢出了。。所以结果成了79200-65535=13665   13665/992=13 。。个人理解。。。仅供参考。。如有错误。海涵。。{:soso_e100:}
回复 支持 反对

使用道具 举报

您需要登录后才可以回帖 登录 | 加入因仑

本版积分规则

快速回复 返回顶部 返回列表