计算机对数值数据进行处理时,其精度主要取决于( )。

admin2012-10-29  34

问题 计算机对数值数据进行处理时,其精度主要取决于(    )。

选项 A、计算机字长
B、计算机语言功能
C、算法
D、编程语言数值类型数据位数

答案4

解析 计算机进行数值计算过程中产生误差是不可避免的。例如对某种无穷计算(如积分、无穷级数求和等)过程的截断会产生截断误差,计算机计算过程中数据只能取有限位教会造成舍入误差等。通常用精度表示数值计算的正确程度。为了提高精度,应选择或设计精度较高的计算方法及算法。算法确定后,需要采用某种语言编程,并在计算机上实现,才能达到预期精度。算法是确定精度的前提,而计算机字长、编程语言的功能和语言数值类型数据位数是保证算法实现的条件。后者对精度是有影响的,但算法是决定因素。由此可见C是正确答案。
转载请注明原文地址:https://kaotiyun.com/show/DhqZ777K
0

最新回复(0)