基数変換

数値計算誤差

  • 桁落ち ... 値が近い数値の減算時などに,有効数字桁数が小さくなる現象
  • 情報落ち ... 極端に差異がある数値の加減算時に,小さい数が無視される現象
  • オーバーフロー ... 演算結果が扱える桁を上回る際に誤差が生じる現象
  • アンダーフロー ... 演算結果が扱える桁を下回る際に誤差が生じる現象
  • 丸め誤差 ... 設定された有効桁で計算を行う中で、四捨五入、切り捨て、切り上げなどによって生じる誤差
  • 打ち切り誤差 ... 浮動小数点の計算において、有効桁を打ち切ることによって生じる現象

情報量の計算

論理演算

情報ネットワーク

アルゴリズム


トップ   編集 凍結 差分 バックアップ 添付 複製 名前変更 リロード   新規 一覧 単語検索 最終更新   ヘルプ   最終更新のRSS
Last-modified: 2017-10-07 (土) 16:03:39 (2385d)