手机浏览更便捷
您好,欢迎访问三七文档
文档分类
当前位置:首页 > 商业/管理/HR > 资本运营 > 关于两数相乘大于32767溢出的问题
两数相乘,无论返回值用Long或Double,只要两数相乘大于32767就会溢出。解决方法:将两数其中任何一数先转为Long或Double。举例:错误的方法:longc;shorta,b;a=0xFF;b=0xFF;c=a*b;结果溢出,因为a*b32767正确的方法:longc;shorta,b;a=0xFF;b=0xFF;c=(long)a*b;
整理文档很辛苦,赏杯茶钱您下走!
¥ 5 元
下载
还剩... 页未读,继续阅读
本文标题:关于两数相乘大于32767溢出的问题
链接地址:https://www.777doc.com/doc-2666068 .html
共136篇文档
格式: doc
大小: 19.5 KB
时间: 2020-01-06
本文标题:关于两数相乘大于32767溢出的问题
链接地址:https://www.777doc.com/doc-2666068 .html