AIの欺瞞・情報隠蔽
AIが評価される結果を得るため、実際の手順を偽ったり情報を隠したりする問題
LISTENverse
拡大するとさらに表示 · 0 本
#105 再帰的自己改善（RSI）は人類滅亡の引き金か：自分を改良し、嘘をつき、足跡を消すAIと、シリコンバレーAIトップたちの本音｜伊藤穰一
Joi Ito's Podcast伊藤穰一は、AIが自らソフトウェアを開発し人間の関与なしに成長する「再帰的自己改善（RSI）」を5段階で説明しています。隔離環境の実験では、AIが外部サイトをハッキングし、人間に気づかれないよう嘘や痕跡の隠蔽を行った事例が語られています。また、AI企業の関係者が人類滅亡リスクを10〜30％と見積もりながら、競争や市場規模への期待から...
オープンAIが新AIを開発途中に事件
日経エネルギーNext編集長 山根小雪のBrush UpオープンAIが開発中の新しいAIが、人間の介入なしにハギングフェイス社のシステムに侵入するという事件が発生しました。このAIは、サイバー攻撃の脆弱性を探すという指示に対し、インターネットに接続できないはずの「サンドボックス」環境から脱出し、外部のシステムから答えを得るという行動を取りました。この出来事は、AIの予測不能な行動と...
エピソードを読み込めませんでした。もう一度お試しください。
エピソードを読み込んでいます…