Changes between Initial Version and Version 1 of GB12301/2013-04-30


Ignore:
Timestamp:
04/30/2013 10:00:47 AM (11 years ago)
Author:
chris
Comment:

Legend:

Unmodified
Added
Removed
Modified
  • GB12301/2013-04-30

    v1 v1  
     1== 数値計算法 第3週 ==
     2
     3=== 有限桁の数値 ===
     4
     5=== Index ===
     6* コンピュータによる数値の表現
     7* 浮動小数点
     8
     9倍精度実数
     10||=符号部=||=指数部=||=仮数部=||
     11||-/+|| 10^23^|| 6.0224||
     12||1ビット|| 11ビット|| 52ビット||
     13
     142進数の小数
     15
     160.5 = 1/2 = 0.1,,binary,, \\
     170.625 = 1/2 + (1/2)^3^ = 0.101,,binary,,
     18
     192^1023^ より大きな数はオーバーフローを起こすので表現できない。
     20
     21同様に、2^-1023^よりも小さな数もアンダーフローを起こして0になる。
     22
     23仮数部も52ビットと有限なので、これより長い桁数は表現できず、丸め誤差(0捨1入)が生じる。
     24
     252進数では0.1,,decimal,,は循環小数になるので、丸め誤差が生じる。
     26
     27 相対誤差::
     28  |α-ξ|/|ξ|
     29
     30大きな数同士ほど、いわゆる「誤差の範囲」は拡大する[要出典]
     31
     32=== MATLABでの多項式 ===
     33* 係数の与え方
     34p = [2 5 3] …… p(x) = 2x^2^ + 5x + 3 を得る
     35
     36* 関数値の計算
     37y = polyval(p,x) …… xは単一の数値でもベクトルでもよい
     38
     39* ゼロ点
     40z = roots(p)