AIはいま自らを改善している!?人類史上最も危険で革新的な転換点

OpenAIが記録したIQ136の背景にあるAI自己改善の実態を徹底解説。GoogleのAlphaEvolve、専門家の警告、楽観派の反論まで、骨太な分析でお届けします。

オープニング：AIは自己改善を始めたのか

自己改善とは？I.J.グッドと「知能爆発」

ナデラの見立て：「AIでAIを作る」再帰フェーズ

事例① DeepMind「AlphaEvolve」概要

AlphaEvolveの成果：行列計算/スケジューリング/チップ/訓練

新規性の検証と人間超えの評価

事例② Anthropic：コードの80%をAIが執筆

1年以内にAIが全コード？人間の役割はPM/編集へ

事例③ Google「Dreamer」：9日でマイクラのダイヤ発見

直下掘りvs試行錯誤：自己改善の内側

ここまでの実例まとめ

研究者の警鐘：アッシェンブレナーの予測

コピー可能なAGIと研究加速のメカニズム

社会の不安定化リスクと制御の難しさ

ヒントンの懸念：絶滅リスク10〜20%

国際ガバナンスの必要性（共同声明・WHO的枠組み）

ハサビス：自己改善は進行中だが人のガイダンス必須

小さな連続アップグレード路線が現実的

ルカン：中核要素が未充足—AGIは数年〜数十年先

メリット面：創薬・材料・クリーンエネルギー加速

生産性爆上げの副作用：レビューがボトルネックに

日本のコンサバ文化は安全弁になり得る？

どう備える？OpenAI「Superalignment」

本格フェーズの兆候：3つのシグナル

制御不能か繁栄か—核の比喩からの教訓

まとめ＆エンディング

iPhoneアプリでご視聴の方向けの有料メンバーシップ登録はこちら！

https://www.youtube.com/channel/UCXYstYfeIP6cApPZnMmw2jQ/join

感想