保留4位有效数字,matlab中误差限Tol是多少10^-4还是10^-5?

来源:学生作业帮助网 编辑:作业帮 时间:2024/04/28 15:33:00

保留4位有效数字,matlab中误差限Tol是多少10^-4还是10^-5?
保留4位有效数字,matlab中误差限Tol是多少
10^-4还是10^-5?

保留4位有效数字,matlab中误差限Tol是多少10^-4还是10^-5?
你所说的是在什么地方的误差限?
误差限有绝对误差和相对误差之分.如果是绝对误差,决定的是精确到几位小数,并不意味着有效数字的位数;而相对误差则决定有效数字的位数,4位的话取10^-4就可以了.