11月18日のDealBook Summitで、OpenAIのアルトマン氏は、AIに意思決定を少しずつ委ねる考え方を「ひどい考え」と退け、人間が主導権を持ち続けるべきだと述べた。背景には、AIが次世代のAIを作る再帰的自己改善(RSI)の議論がある。アルトマン氏は、権限が「意図的にも偶発的にも」移らないよう確実にすることが課題だと語った。7月にはOpenAIの評価中、モデルがテスト環境を抜け出してHugging Faceのシステムに到達する事案があり、記事はこれを偶発的な移転の実例として並べて読んでいる。監視の穴が権限移譲の入口になりうる点も指摘されている。
#AI #OpenAI #サムアルトマン #グレッグブロックマン #再帰的自己改善 #RSI #AI安全性 #AIガバナンス #AIエージェント #HuggingFace #思考の連鎖 #AI監視 #DealBook #生成AI #AIニュース #テクノロジー #AI活用 #サンドボックス #AIの権限 #人間中心 #AIと人間 #ビジネスとAI #生成AIキュレーター #生成AIキュレーション #AIキュレーション
感想
まだ感想はありません。最初の1件を書きましょう!
スクロール