计算机对数值数据进行处理时，其精度主要取决于( )。

admin2012-10-29 39

问题计算机对数值数据进行处理时，其精度主要取决于( )。

选项 A、计算机字长
B、计算机语言功能
C、算法
D、编程语言数值类型数据位数

答案4

解析计算机进行数值计算过程中产生误差是不可避免的。例如对某种无穷计算(如积分、无穷级数求和等)过程的截断会产生截断误差，计算机计算过程中数据只能取有限位教会造成舍入误差等。通常用精度表示数值计算的正确程度。为了提高精度，应选择或设计精度较高的计算方法及算法。算法确定后，需要采用某种语言编程，并在计算机上实现，才能达到预期精度。算法是确定精度的前提，而计算机字长、编程语言的功能和语言数值类型数据位数是保证算法实现的条件。后者对精度是有影响的，但算法是决定因素。由此可见C是正确答案。

转载请注明原文地址:https://kaotiyun.com/show/DhqZ777K

本试题收录于：三级数据库技术题库NCRE全国计算机三级分类

三级数据库技术

NCRE全国计算机三级

相关试题推荐

随机试题

最新回复(0)

计算机对数值数据进行处理时，其精度主要取决于( )。

三级数据库技术

NCRE全国计算机三级

段页式存储管理中，内存以______为基本单位分配给每个用户。

对长度为n的顺序存储的线性表，在表头插入元素的时间复杂度为【】。

在对全局E-R模型进行优化时，通常利用规范化理论中的______概念消除冗余联系。

网络安全技术的研究主要涉及三方面问题；______、安全机制和安全服务。

下列问题是基于下面的叙述：某二叉树结点的前序序列为E、A、C、B、D、G、F，对称序序列为A、B、C、D、E、F、G。

SQL的数据定义功能包括

为了提高检索速度，目录分解法把文件控制块(目录项)分解为两部分：【】，包含文件名及相应的文件内部号；基本目录项，包含了除文件名外文件控制块的其他信息。

为保证程序的正确执行，CPU必须按照【】地址访问内存。

哪一个不是基本的操作系统?

设待排序关键码序列为(25，18，9，33，67，82，53，95，12，70)，要按关键码值递增的顺序进行排序，采取以第一个关键码为分界元素的快速排序法，第一趟完成后关键码33被放到了第几个位置?

为确保建设工程进度控制目标的实现，监理工程师必须认真制定进度控制措施。进度控制的技术措施主要有()。

下列明细分类账中，应该采用数量金额式明细分类账的是()。

下图是国家统计局企业景气指数分行业中工业的季度数据，时间区间为2001年1月至2016年9月。根据图表，工业企业负责人对经营状况和经济预期最悲观的时间是()。

下列关于乳类脂肪的描述，不正确的是()。

人类的和平共处是一个不可实现的理想。统计数字显示自1945年以来每天有12场战斗在进行，这包括大大小小的国际战争以及内战中的武力交战。以下哪项如果为真，最能对上述结论提出质疑?

开发策略的制定必须考虑很多问题，但下面()的问题可以不考虑。

表达式12／2＼4的值是

支持子程序调用的数据结构是()。