中科因仑“3+1”工程特种兵精英论坛

标题: ICC里数据处理时候的问题 [打印本页]

作者: 张衍波 时间: 2014-7-28 16:42
标题: ICC里数据处理时候的问题
两个单独的数是正常的，但是相除之后显示的数是不正常的，例如high和t用1602显示正常。eg: high=792;
t=992;
num=100*high/t;;
显示num=13;应该是80左右啊？这是怎么回事呢》？

作者: lxe 时间: 2014-7-28 17:04
你定义的high是不是unsigned int ？？如果是的话那就是13。。因为100*792=79200 > 65535即溢出了。。所以结果成了79200-65535=13665 13665/992=13 。。个人理解。。。仅供参考。。如有错误。海涵。。{:soso_e100:}

欢迎光临中科因仑“3+1”工程特种兵精英论坛 (http://bbs.enlern.com/)