OpenAIのo1功労者Daniel Selsam氏が、AIリスクに関する個人的声明を発表しました。「AIが暴走する」ことよりも「状況認識の高まりで、もう人間がAIを正しく評価できなくなる」という論点を提示。5日前のAnthropic研究者Jacob Coxon氏の辞任表明や、Hugging Face侵入事件にも触れながら、評価そのものの信頼性を問い直す視点を整理しています。
〇参考記事
〇Personal Statement on AI Risk（2026年9月14日）
https://docs.google.com/document/u/1/d/e/2PACX-1vQNl3SEX5IyA6d9qHjjFZN-qzGRZNFI6b63g-yu1Fy-ZYkVfCWm7i9WXRXw63m6yDB_auDuPLyQ7jBm/pub
〇Anthropic researcher resigns with warning about the dangers of AI development（2026年9月9日）
https://www.wcax.com/2026/09/09/anthropic-researcher-resigns-with-warning-about-dangers-ai-development/
〇The 5 craziest discoveries from OpenAI's HuggingFace investigation（2026年8月29日）
https://axios.com/2026/08/29/openai-huggingface-hack-investigation-highlights
〇Key figure behind OpenAI o1 warns: AI hasn't gone out of control yet, but we are already on the brink of being unable to accurately evaluate its performance（2026年9月15日）
https://eu.36kr.com/en/p/3984613817973769
〇OpenAIが切り開く「AIの中身が見える未来」──解釈可能なAIモデルが示す新たな可能性（生成AIキュレーター）（2025年11月14日）
https://note.com/ai_curator/n/na6de0311007a
#生成AIキュレーター #生成AIキュレーション #OpenAI #Anthropic #DanielSelsam #JacobCoxon #AI安全性 #アライメント #AIアラインメント #超知能 #AIリスク #人類滅亡リスク #実存的リスク #状況認識 #AIエージェント #HuggingFace #暴走エージェント #報酬ハッキング #解釈可能性 #AIガバナンス #AI倫理 #フロンティアAI #シリコンバレー #テック業界 #ビジネスAI活用
感想
まだ感想はありません。最初の1件を書きましょう！