「丸め誤差」に関連した動画の一覧

	慶應大学 理工学部 講義 数値計算法 第一回 数値計算法の基礎  慶應大学 理工学部 講義 数値計算法 第一回 数値計算法の基礎講師 田中敏幸教科書 田中敏幸：数値計算法基礎 コロナ社Web www.isp.appi.keio.ac.jp YouTube www.youtube.com 2012年04月16日再生回数 685
	基本情報技術者試験ワンポイント講座「計算誤差って何？」  全部無料のe-Learning アイプラスが提供する、情報処理技術者試験講座の中から、「浮動小数点演算の計算誤差」についてご紹介します。 当サイトでは、ITパスポート対策のビデオ講義と練習問題を、無料で配信しています。ぜひご利用ください。 els.ai-plus.com 2011年08月17日再生回数 832
	ソフトウェア開発技術者・平成20年秋・午前問02  ご覧いただき，ありがとうございます。 まとめページは，こちらです。 www.wakuwakustudyworld.com 問題は， www.jitec.jp からダウンロードできます。 わくわくスタディワールド www.wakuwakustudyworld.com 2009年03月22日再生回数 940
	Xperia arc SO-01C 痛恨のバグ  プログラマがやらかしましたね... 正確な値が要求される計算にfloat,double型は使えない！ということです。 floatやdoubleといった型はコンピュータの中では2進数の浮動小数点で表現されています。そのため、0.1のようにどうしても2のべき乗では表せない（無限級数になってしまい、桁数が無限に必要）数値が多く存在します。 10進: 0.1 ⇔ 2進: 0.00011... そのため、このような数値を用いて計算を行うと誤差が発生します。 System.out.println(1.00-9*.10); 普通の感覚では0.10という答えを期待しますが、実際に出力される値は0.09999999999999998です。 しかし、Effective Javaでは0.09999999999999995が出力されると書かれています。おそらく、これは本が間違えているのではなく、実行環境の差異からきているものと思われます。 このように、float型やdouble型は誤差を含む可能性があるため、科学・工学計算で多少の誤差は許容できる場合はよいのですが、金融・会計分野のように正確な値が要求される計算には向きません。 どうしても正確な値が欲しい場合は、BigDecimalクラスを使用することになります。基本データ型のdoubleやfloatと比較すると不便かつ低速ですが、精度が保証されており、丸め方も指定できます。 同じような現象は小数の計算で起こりやすいです。 2011年03月30日再生回数 6836