2022-11-01から1ヶ月間の記事一覧
もう記憶にないが、以前何かしらの講義のメモを下書きに残しておいたらしい。勿体ないので公開する。 内容的に恐らく1年次の時の講義だろう。 計算誤差 代入誤差 2進数で表せない値の代入 0.1, π, e(ネイピア数)など 丸め誤差 有限桁の小数の範囲を超える…
もう記憶にないが、以前何かしらの講義のメモを下書きに残しておいたらしい。勿体ないので公開する。 内容的に恐らく1年次の時の講義だろう。 計算誤差 代入誤差 2進数で表せない値の代入 0.1, π, e(ネイピア数)など 丸め誤差 有限桁の小数の範囲を超える…