人が天気予報を見る理由は「エントロピー」で説明できる【情報理論2】#10
情報理論2本目。「発表された時はaだったのにtheに変わった論文」「全てのコミュニケーションを包括する数学的理論」「熱力学のアナロジーで情報を計算できる(しかもアナロジーじゃないらしい)」など、内容に薄く踏み込んでいます。次回は本気で計算するよ!…
この回の流れ
- 0:00コミュニケーションはすべて、1冊の本が教えてくれた
- 0:37前回の復習と、手癖が見える絶望
- 1:53『通信の数学的理論』の原題は「コミュニケーションの~」
- 4:48論文タイトル、aにするか? theにするか?
- 6:18グレンリベットにtheがつく理由【theうんちく】
- 8:4370年前に完成してしまった理論
- 11:02情報は熱力学のアナロジーで計算できる
- 15:11アナロジーかと思ったらアナロジーじゃなかったらしい(あいまい)
- 17:34人はなぜ天気予報を見るのか?
- 20:43散らばってる確率はありがたい(だからエントロピーに似ている)
- 22:08まとめ-熱力学と同じ感じで情報量も計算できる
番組から(概要欄)
情報理論2本目。「発表された時はaだったのにtheに変わった論文」「全てのコミュニケーションを包括する数学的理論」「熱力学のアナロジーで情報を計算できる(しかもアナロジーじゃないらしい)」など、内容に薄く踏み込んでいます。次回は本気で計算するよ!
【目次】
【参考文献のリンク】
○『通信の数学的理論』
→今回のメイン種本。丸ごとシャノンの論文なので難易度は高いが、語り口は意外に堅苦しくない(1940年代の工学論文はそういうトレンドだったらしい)
○『情報理論』
→研究者によるシャノンの論文の解説。今回の参考文献の中では語り口がいちばん面白いのでオススメ。
○『シャノンの情報理論入門』
→雰囲気だけ分かりたい時におなじみのブルーバックス。とはいえ、ブルーバックスの割にはそこそこ数式も出てきてそれなりに理解できる。
○『情報はなぜビットなのか』
→情報理論の本だと思って読んだらそうでもなかった。「コンピュータって何ができるの?」っていうよもやま本。情報理論の話もちょっとだけある。いちばん平易。
○『教養悪口本』
→堀元の著書。シャノンの情報理論も悪口として活用しています。買ってね(ダイレクトマーケティング)
○ヨビノリたくみさんのマクスウェルの悪魔解説
→マクスウェルの悪魔についてなんとなく分かった気になれて「すげえ!」と興奮する。
Twitter→https://twitter.com/kenhori2
noteマガジン→https://note.com/kenhori2/m/m125fc4524aca
個人YouTube→https://www.youtube.com/channel/UCYJ335HO_qLZDr7TywpI0Gg
このページの情報は「ゆるコンピュータ科学ラジオ」が公開している RSS から取得したものです。サマリは概要欄の文面をもとに機械的に整えたもので、番組の公式要約ではありません。
この番組の近い回
- 2022-04-03【神の声を聞くソフト】おしゃれコンピュータ用語ミュージアム#14
- 2022-03-27キクコとオーキドの鮮やかすぎる対比。あるいは、道を違えた2人の憧憬について【雑…
- 2022-03-20「サクラサク」はシャノン先生ブチギレ符号化。脳はスマホに繋ぐべき【情報理論4】…
- 2022-03-13友だちと親しくなる=情報量の期待値が減る【情報理論3】#11
- 2022-02-27「晩ごはんはカレー」を極限まで短くすると、"沈黙"になる【情報理論1】#9
- 2022-02-20【あなたはどの学科?】哲学エアプから抜け出してみたい【雑談回】#8
- 2022-02-13リリース当日のエンジニアはウォーターボーイズ【サイト製作物語3】#7
- 2022-02-06神は天地の後に納期を作った(エンジニア創世記1章3節)【サイト製作物語2】#6