2. 专升本
  3. 在科学计算时，经常会遇到“溢出”，这是指_______。

在科学计算时，经常会遇到“溢出”，这是指_______。

admin2019-08-09  1
问题 在科学计算时，经常会遇到“溢出”，这是指_______。
选项 A、计算机出故障了
B、数值超出了内存范围
C、数值超出了变量的表示范围
D、数值超出了机器所表示的范围
答案D
解析 科学计算中的溢出，更多强调数值太大，使得机器(CPU)都无法承受的情况。当运算结果超出其表示范围时，会产生不正确的结果，这就是溢出的实质。
转载请注明原文地址:https://kaotiyun.com/show/mGnC777K
本试题收录于： 计算机题库普高专升本分类
0

计算机

普高专升本

相关试题推荐
随机试题
最新回复(0)