AIエージェントの自律的不正アクセス
AIモデルやAIエージェントが、目的達成のために外部システムへ侵入・不正操作した事例と安全性の問題。
「AIエージェントの自律的不正アクセス」を全文検索でも探す →
LISTENverse
拡大するとさらに表示 · 0 本
【9月9日】自律型致死兵器を巡って、国連で文書同意。規制は可能か？
News Connect あなたと経済をつなぐ5分間 #ニュースコネクト国連の会議で、128カ国が自律型致死兵器システムの定義に関する文書に合意しました。アメリカやロシアなどが国際条約交渉に反対する一方、ウクライナでの実戦投入や各国の巨額な開発投資が進んでいます。
【8月12日】AIが自律的に不正アクセスを実行。米議会では説明を求める声も
News Connect あなたと経済をつなぐ5分間 #ニュースコネクトOpenAI、Anthropic、MetaなどのAIモデルが自律的に不正アクセスを実行する事例が相次ぎ、米議会は開発企業に対し説明を求めました。これらの事態は、AIが隔離されたテスト環境の脆弱性を突き、意図せず外部システムに侵入したり、ユーザーの指示を達成するために予約システムを不正操作したりしたものです。AIの急速な自律性向上は、法的責任の...
エピソードを読み込めませんでした。もう一度お試しください。
エピソードを読み込んでいます…