误差分析
- 绝对误差
- 相对误差
p.s. 以上都需要知道真值进行分析
浮点数系
- 十进制
- 进制
- 绝对误差限(舍入误差导致):
- 相对误差限:
- p.s. 有效位数越多,绝对与相对误差相对更小
浮点数系可以使用 表示,分别表示进制, 有效位数, 指数位的上界与下界
- 浮点数系的范围:
p.s. 中的第一位不能取, 浮点数系有一般可以表示正负, 浮点数系还需要包含.
- 浮点数系的个数:
条件数
- Def. 对于函数 在 处,可以计算对应函数的条件数
- 我们一般会把条件数大于 称为是病态的,而条件数小于可以称误差是可以控制的
数值算法
- 浮点运算(flop): 计算机完成一次浮点乘法(除法)
p.s. 浮点加法与减法计算时间基本可以忽略
- 矩阵乘法的浮点运算数 需要 次浮点运算(乘法)