在科学计算时,经常会遇到“溢出”,这是指 ( )

admin2019-02-22  17

问题 在科学计算时,经常会遇到“溢出”,这是指    (     )

选项 A、计算机出故障了
B、数值超出了内存范围
C、数值超出了变量的表示范围
D、数值超出了机器所表示的范围

答案D

解析 在科学计算中,“溢出”通常是指数值太大,超过了机器所表示的范围,得出不正确的结果。
转载请注明原文地址:https://kaotiyun.com/show/VY6C777K
0

最新回复(0)