データサイエンティスト検定 リテラシーレベル データエンジニアリング 練習問題 第76問: 金額を2進数の浮動小数点数で扱うプログラムで、0.1 + 0.2 の計算結果が 0.3 と等しいかを比べたところ、「等しくない」と判定された。この結果の原因の説
データエンジニアリング
– / 81 解いた
第76問
金額を2進数の浮動小数点数で扱うプログラムで、0.1 + 0.2 の計算結果が 0.3 と等しいかを比べたところ、「等しくない」と判定された。この結果の原因の説明として、最も適切なものはどれか。
解答と解説を先に見る
先に見ると、この問題は今回は育ちません。
正解: 2. 0.1も0.2も2進数の有限の桁では表せず、近い値に丸めて持つため、和も0.3を丸めた値とずれる
0.1も0.2も2進数の有限の桁では表せず、近い値に丸めて持つため、和も0.3を丸めた値とずれます。0.1=1/10の分母10は2×5で、2以外の素因数5を含むので、2進数では0.000110011…と同じ並びが限りなく続きます(0.2=1/5も同じです)。
Pythonの文書(Floating-Point Arithmetic: Issues and Limitations、Python 3.15.2)も、0.1は2進数ではちょうど表せないと説明しています。0.1と0.2は表せるとする肢は、この点で誤りです。
64ビットの倍精度でも0.1 + 0.2は0.30000000000000004となり(python3で確かめた値)、倍精度なら一致するとする肢も誤りです。画面の表示は内部の値を丸めたもので、比べるのは内部の値どうしなので、表示の値で比べているとする肢も誤りです。
金額は円や銭の整数で持つか、差が十分小さいかで比べます。
関連キーワード: 浮動小数点数・丸め誤差・2進数・データ型
模試 (100問)
この問題が解けたら、本試験はどうですか?本番形式で、ほかの科目もまとめて確かめる
本番形式の模擬試験で実力チェックPremium (月980円)Premium (ご利用中)本番と同じ制限時間
広告