2. 计算机
  3. 计算机对数值数据进行处理时，其精度主要取决于( )。

计算机对数值数据进行处理时，其精度主要取决于( )。

admin2012-10-29  56
问题 计算机对数值数据进行处理时，其精度主要取决于(    )。
选项 A、计算机字长
B、计算机语言功能
C、算法
D、编程语言数值类型数据位数
答案4
解析 计算机进行数值计算过程中产生误差是不可避免的。例如对某种无穷计算(如积分、无穷级数求和等)过程的截断会产生截断误差，计算机计算过程中数据只能取有限位教会造成舍入误差等。通常用精度表示数值计算的正确程度。为了提高精度，应选择或设计精度较高的计算方法及算法。算法确定后，需要采用某种语言编程，并在计算机上实现，才能达到预期精度。算法是确定精度的前提，而计算机字长、编程语言的功能和语言数值类型数据位数是保证算法实现的条件。后者对精度是有影响的，但算法是决定因素。由此可见C是正确答案。
转载请注明原文地址:https://kaotiyun.com/show/DhqZ777K
本试题收录于： 三级数据库技术题库NCRE全国计算机三级分类
0

三级数据库技术

NCRE全国计算机三级

相关试题推荐
随机试题
最新回复(0)