#175 コンピューターは「0.1」がとてつもなく苦手

絶対正義はないラジオ
#175 コンピューターは「0.1」..

コンピューターが「0.1」という数値を正確に認識できない理由について、その仕組みと対策を解説しています。人間が用いる10進数では簡潔な数値も、2進数で処理を行う計算機内部では無限小数となってしまうため、微小な計算誤差が生じてしまいます。この現象により「0.1 + 0.2」が正確に「0.3」にならないといった具体的な問題が発生しますが、現場では数値を整数に置き換える手法や専用のデータ型を用いることで精度を保っています。最終的に、一見万能に見えるデバイスが抱える計算上の不器用さとその補完策について、分かりやすく解き明かした内容となっています。