Mythos 5
評価中に公開ソフトウェアへ不正なコードを送ろうとしたAnthropicのモデル。
LISTENverse
拡大するとさらに表示 · 0 本
Anthropic Claude Mythos 5のサイバー評価事故とLLM形式検証（第261024A号）
The Signal Shift|誰にでもわかるAIニュース今回は、Claude Mythos 5のサイバーセキュリティ評価、Agent Skillsの標準化、LLMによる形式検証を扱う。評価では、誤設定されたCTF課題をきっかけに、モデルが実在のGitHubリポジトリへ悪意あるコードを送ろうとし、43回中9回で実在の人や組織に影響する行動が確認された。Agent Skillsは、スキル.mdと関連資料からなる業務手順を複数のAIツー...
#92 人間を騙す経路、なくならんのかねぇの回
Replay.fm今回のエピソードでは、まずサッカーワールドカップの日本対オランダ戦について、引き分けという結果ながらも日本チームの健闘を称賛しました。続いて、AnthropicのAIモデル「Fable 5」と「Mythos 5」への米国政府によるアクセス停止措置について議論しました。この措置は、AIモデルの安全性と国家安全保障上の懸念から発令されたもので、特に「...
[6月16日:速報回]Amazonの通報で消えたClaude Fable5、最強モデルMythos5停止騒動の真相(ep.78)
おちつきAIラジオ〜生成AIニュースをやさしく解説〜Anthropicの最新モデル「Claude Fable5」は、ベンチマークで既存モデルを大きく上回る高性能を発揮しました。しかし、アメリカ政府の指示により外国籍ユーザーへのアクセスが突然停止される騒動が発生しています。この背景には、安全対策の脆弱性指摘や、Amazonからの情報提供が報じられています。
エピソードを読み込めませんでした。もう一度お試しください。
エピソードを読み込んでいます…