在科学计算时，经常会遇到“溢出”，这是指 ( )

admin2019-02-22 19

问题在科学计算时，经常会遇到“溢出”，这是指 ( )

选项 A、计算机出故障了
B、数值超出了内存范围
C、数值超出了变量的表示范围
D、数值超出了机器所表示的范围

答案D

解析在科学计算中，“溢出”通常是指数值太大，超过了机器所表示的范围，得出不正确的结果。

转载请注明原文地址:https://kaotiyun.com/show/VY6C777K

计算机

相关试题推荐

随机试题

最新回复(0)