OpenAIとAnthropicで相次いだAIのサンドボックス脱出・外部システム侵入インシデントを解説します。7月21日、OpenAIがセキュリティ系ベンチマーク「ExploitGym」の測定中に、評価用モデルがサンドボックス内のパッケージの脆弱性を自ら見つけて突破し、Hugging Faceの内部システムにまで到達していたことを公表。これを受けて調査したAnthropicでも同種の事例が3件見つかり、うち1件は架空の企業を想定したはずのドメインが実在し、実際の企業へ攻撃を仕掛けていました。AIの脆弱性突破能力はどこまで来たのか、「我々はシンギュラリティの中にいる」というサム・アルトマン氏らの発言をどう見るか、そして評価環境をどう隔離すべきか。京都・鎌倉拠点の開発チームがエンジニア目線でぶっちゃけます。■ ボイスアップラボ株式会社 ■👉 https://voiceapp-lab.com・AI導入のご相談・各種開発業務のご依頼・Youtubeチャンネルについてのお問い合わせなんでもお気軽にお問い合わせください！#AI #生成AI #OpenAI #Anthropic #AIセキュリティ #サンドボックス #シンギュラリティ #インシデント #AIエージェント #ギリギリ開発会議
感想
まだ感想はありません。最初の1件を書きましょう！
14:26
コメント
スクロール