アモディCEOのエッセイ「We Must Pace the Frontier」にアルトマン氏・マスク氏が同意し、ライバル3社がAI開発の減速で同じ方向を向いたと報じられました。主張は正しいと思いつつ、この合意が本当に守られるのかを懐疑的に検討した回です。
今回話していること:
- 何が起きたか: 能力向上のペースを意図的に落とし、保護策実装の1〜2年を稼ぐ提案に3社が同調
- 「何がやばいか」の診断に異論はない: エージェントの自己開発と再帰的自己改善を制御できていない
- 理由1: 2023年3月の「6ヶ月停止」書簡の前例。署名の13日前にxAIを登記していたマスク氏、結局誰も止まらなかった
- 理由2: 当人同士の不信。「信頼していない相手となぜ議論するのか」、インドAIサミットでの手つなぎ拒否
- 減速合意が機能する条件は「相手が守ると信じられること」だけ
- 理由3: 外部レビュー常駐案は良いが、独立した専門家はほぼ企業内にしかおらず、アクセス権≠理解
- 外部レビューは安全の保証装置ではなく「正直さの保証装置」
- まとめ: 主張は正しいが、実行確率は彼ら自身の過去が否定している。中国を巻き込めるのか
AIの情報が多すぎて追いきれない方へ。
音声と同じテーマを、中小企業の仕事で使えるところまでLINEで一歩深く発信しています。
情報を知りたい方はこちらへ。
https://ai.isri.co.jp/
#AI安全性 #Anthropic #OpenAI #AI活用
---
stand.fmでは、この放送にいいね・コメント・レター送信ができます。
https://stand.fm/channels/695826926f1e5aedb1ead45c
今回話していること:
- 何が起きたか: 能力向上のペースを意図的に落とし、保護策実装の1〜2年を稼ぐ提案に3社が同調
- 「何がやばいか」の診断に異論はない: エージェントの自己開発と再帰的自己改善を制御できていない
- 理由1: 2023年3月の「6ヶ月停止」書簡の前例。署名の13日前にxAIを登記していたマスク氏、結局誰も止まらなかった
- 理由2: 当人同士の不信。「信頼していない相手となぜ議論するのか」、インドAIサミットでの手つなぎ拒否
- 減速合意が機能する条件は「相手が守ると信じられること」だけ
- 理由3: 外部レビュー常駐案は良いが、独立した専門家はほぼ企業内にしかおらず、アクセス権≠理解
- 外部レビューは安全の保証装置ではなく「正直さの保証装置」
- まとめ: 主張は正しいが、実行確率は彼ら自身の過去が否定している。中国を巻き込めるのか
AIの情報が多すぎて追いきれない方へ。
音声と同じテーマを、中小企業の仕事で使えるところまでLINEで一歩深く発信しています。
情報を知りたい方はこちらへ。
https://ai.isri.co.jp/
#AI安全性 #Anthropic #OpenAI #AI活用
---
stand.fmでは、この放送にいいね・コメント・レター送信ができます。
https://stand.fm/channels/695826926f1e5aedb1ead45c
感想
まだ感想はありません。最初の1件を書きましょう!
スクロール