1. ゆるコンピュータ科学ラジオ
  2. 人が天気予報を見る理由は「エ..
2022-03-06 24:59

人が天気予報を見る理由は「エントロピー」で説明できる【情報理論2】#10

エピソードをシェアする

Share on X Share on Facebook Share on Threads

情報理論2本目。「発表された時はaだったのにtheに変わった論文」「全てのコミュニケーションを包括する数学的理論」「熱力学のアナロジーで情報を計算できる(しかもアナロジーじゃないらしい)」など、内容に薄く踏み込んでいます。次回は本気で計算するよ!


【目次】

コミュニケーションはすべて、1冊の本が教えてくれた

前回の復習と、手癖が見える絶望

『通信の数学的理論』の原題は「コミュニケーションの~」

論文タイトル、aにするか? theにするか?

グレンリベットにtheがつく理由【theうんちく】

70年前に完成してしまった理論

情報は熱力学のアナロジーで計算できる

アナロジーかと思ったらアナロジーじゃなかったらしい(あいまい)

人はなぜ天気予報を見るのか?

散らばってる確率はありがたい(だからエントロピーに似ている)

まとめ-熱力学と同じ感じで情報量も計算できる


【参考文献のリンク】

○『通信の数学的理論』

https://amzn.to/3taByzE

→今回のメイン種本。丸ごとシャノンの論文なので難易度は高いが、語り口は意外に堅苦しくない(1940年代の工学論文はそういうトレンドだったらしい)


○『情報理論』

https://amzn.to/3tiWcxI

→研究者によるシャノンの論文の解説。今回の参考文献の中では語り口がいちばん面白いのでオススメ。


○『シャノンの情報理論入門』

https://amzn.to/3tay4Np

→雰囲気だけ分かりたい時におなじみのブルーバックス。とはいえ、ブルーバックスの割にはそこそこ数式も出てきてそれなりに理解できる。


○『情報はなぜビットなのか』

https://amzn.to/3piB5tS

→情報理論の本だと思って読んだらそうでもなかった。「コンピュータって何ができるの?」っていうよもやま本。情報理論の話もちょっとだけある。いちばん平易。


○『教養悪口本』

https://amzn.to/3pkKS2B

→堀元の著書。シャノンの情報理論も悪口として活用しています。買ってね(ダイレクトマーケティング)


○ヨビノリたくみさんのマクスウェルの悪魔解説

https://youtu.be/AFx6CqYtbwQ

→マクスウェルの悪魔についてなんとなく分かった気になれて「すげえ!」と興奮する。


【サポーターコミュニティ加入はこちらから】

https://yurugengo.com/support


【親チャンネル:ゆる言語学ラジオ】

https://www.youtube.com/channel/UCmpkIzF3xFzhPez7gXOyhVg


【おたよりフォーム】

https://forms.gle/BLEZpLcdEPmoZTH4A

※皆様からの楽しいおたよりをお待ちしています!


【お仕事依頼はこちら!】

yurugengo@gmail.com


【堀元見プロフィール】

慶應義塾大学理工学部卒。専門は情報工学。WEBにコンテンツを作り散らかすことで生計を立てている。現在の主な収入源は「アカデミックに人の悪口を書くnote有料マガジン」。

Twitter→https://twitter.com/kenhori2

noteマガジン→https://note.com/kenhori2/m/m125fc4524aca

個人YouTube→https://www.youtube.com/channel/UCYJ335HO_qLZDr7TywpI0Gg


【水野太貴プロフィール】

名古屋大学文学部卒。専門は言語学。

某大手出版社で編集者として勤務。言語学の知識が本業に活きてるかと思いきや、そうでもない。

24:59

コメント

スクロール