▼エピソードの内容
今日のテーマは「World Models — LLMの先にある"夢の中で学ぶAI"」です。MCへのメッセージは #ainaked までお寄せください。
▼Chapters
今日のテーマはWorld Models — LLMのその先へ
手を5回叩いて — 言語は現実の不完全な圧縮
LLMの根源的限界 — 現実を描写できても学習できない
マトリックスの比喩 — Video Model vs World Model
コンソメの理解確認 — 架空世界にインプットを与えたら
LLMのイラつき — 5000円が5000ドルになった実体験
動画生成の因果破綻 — ポテチ→袋問題
RunwayのWorld Model転換 — GWM-1
Runwayの戦略 — Video ModelとWorld Modelの依存関係
Not Boring「Computing the Uncomputable」紹介
General Intuition/Medal — セレンディピティの誕生
オーバーレイ→アクションラベルの価値
sim-to-real転移の可能性 — MolmoBot
World Modelの用途 — ロボティクスからデジタル空間まで
目玉焼きのデータ問題 — 何から始めるのか
従来シミュレータ vs World Modelのデータ学習
「言葉を知らない原始人」— World Modelの知性
スイカは凝固するか — LLMの推論の限界
因果関係「理解」は言い過ぎ — 行動と状態のペア学習
Google Genie 3 — 何に使えるんだろう？
Generative World Model — 計算コスト100-1000倍
Latent World Model — ピクセルを捨てる。AlphaGoの系譜
AMI Labs $1.03B / World Labs $1B — 驚異の調達額
Pragmatic vs Platonic — Not Boringの分類
VLA — LLMにアクションヘッド
Hardware Lottery — VHS vs Betamax
データ供給タワマン構想
データの国・民族依存性
まとめ — 3つのアプローチ整理
MarbleはWorld Modelではない — RTFM転換
Fei-Fei Li — AI界のゴッドマザー
▼References
- https://www.notboring.co/p/world-models
- https://www.generalintuition.com/
- https://www.worldlabs.ai/blog/rtfm
- https://deepmind.google/models/genie/
- https://runwayml.com/research/introducing-runway-gwm-1
- https://arxiv.org/abs/2009.06489
▼MC
touyan（@0xtouyan）：マッチングサービスfrommを開発中。通話×AIで「親友が紹介してくれる」体験を設計。
consome（@ZkEther）：oto代表。US拠点。音声データ収集プロジェクト推進。Speech-to-Speechモデル向け雑談データセット構築中。
感想
まだ感想はありません。最初の1件を書きましょう！