浮動小数点相対精度
表示
eps
詳細
eps は、1.0 からつぎに大きな浮動小数点数までの距離を出力します。
値 eps は、他のいくつかの MATLAB関数同様に pinvや rank に対するデフォルトの許容誤差です。IEEE浮動小数点演算を使ったマシン上では、eps = 2^(-52)で、ほぼ 2.22e-16 に相当します。
pinv
rank
eps = 2^(-52)
2.22e-16
参考
realmax, realmin
realmax
realmin