じゃあ、おうちで学べる

本能を呼び覚ますこのコードに、君は抗えるか

2025-12-25から1日間の記事一覧

0.1+0.2=0.30000000000000004 をRust/PostgreSQLで考える

はじめに テストを書いていて、奇妙なことに気づいた。合計金額のアサーションが通らない。期待値は10.00なのに、実際の値は9.99999999999983。コードにバグはない。SQLも正しい。では何が問題なのか。調べた結果、犯人は浮動小数点の累積誤差だった。金額カ…