== 数値計算法 第3週 == === 有限桁の数値 === === Index === * コンピュータによる数値の表現 * 浮動小数点 倍精度実数 ||=符号部=||=指数部=||=仮数部=|| ||-/+|| 10^23^|| 6.0224|| ||1ビット|| 11ビット|| 52ビット|| 2進数の小数 0.5 = 1/2 = 0.1,,binary,, \\ 0.625 = 1/2 + (1/2)^3^ = 0.101,,binary,, 2^1023^ より大きな数はオーバーフローを起こすので表現できない。 同様に、2^-1023^よりも小さな数もアンダーフローを起こして0になる。 仮数部も52ビットと有限なので、これより長い桁数は表現できず、丸め誤差(0捨1入)が生じる。 2進数では0.1,,decimal,,は循環小数になるので、丸め誤差が生じる。 相対誤差:: |α-ξ|/|ξ| 大きな数同士ほど、いわゆる「誤差の範囲」は拡大する[要出典] === MATLABでの多項式 === * 係数の与え方 p = [2 5 3] …… p(x) = 2x^2^ + 5x + 3 を得る * 関数値の計算 y = polyval(p,x) …… xは単一の数値でもベクトルでもよい * ゼロ点 z = roots(p)