オープンウェイトモデルによる脅威インテリジェンス評価
皆さん、こんにちは。The Signal Shift by A.I.R. Labsへようこそ。
この番組はSpotifyやApple Podcastなどで絶賛配信中です。
日々、刻々と変化するAIの最新端トレンドと大きな変化のシグナルを読み解き、
ビジネスや日常にどう影響するか、初心者の方にも分かりやすくお届けする番組ですよ。
カイです。本日の10月16日、朝の配信号では、
オープンウェイトモデルによるセキュリティ評価の検証、
LLMを活用した超知能向けの新しいテスト構築、
そして、自律的な自己改善を実現するフレームワークについて解説します。
それでは早速、最初のシグナルを見ていきましょう。
最初の話題は、Unconstrained CTI LLM with Open Weightsに関するものですね。
カイ、これは具体的にどういうことなんですか?
まず前提として、CTI LLMは脅威インテリジェンス、
つまりサイバー攻撃に関する情報をまとめたレポートを読み、
実際に動く検知ルールを作るタスクで、エージェントを評価するベンチマークです。
検知ルールは、システムの動作記録であるテレメトリを検索して作ります。
今回の研究では、オープンウェイトモデル、
つまり自前で実行して中身を監査できるモデルに十分なターン数、
つまりやり取りの回数を与えると、最も強いクローズドモデルに匹敵する成果が、
10分の1未満のコストで得られることが示されました。
オープンウェイトモデルの方が劣ると見られていたのは、どうしてなんでしょうか?
原因は、ベンチマークで公表されていたエージェントのメッセージ数の上限、
いわゆるターン上限でした。
この上限に達したタスクは、そこまでに通過していたチェックポイントも含めて、
全て0点になります。
つまり、上限内に終わるモデルかどうかも測ってしまっていたわけです。
実際、公表された上限のままだと、上位のオープンモデルとクローズドモデルは区別できませんでした。
上限を緩めると打ち切られていたモデルが持ち直し、最高の報酬を得たのはオープンウェイトモデルでした。
なるほど。他にも気になる結果はありましたか?
はい。上位のモデル同士では、報酬が同程度でもコストが桁違いに異なる例がありました。
価格は能力の目安になりにくいということです。
また、出力のうち至高に使った割合は報酬とは相関していませんでした。
価格が高いから性能も高いとは限らないんですね。
じゃあ、モデルはどう選べばいいんでしょう?
ソースは、全体スコアで一つのモデルを選ぶのではなく、ルーティングを提案しています。
ルーティングとは、作業の段階ごとに最も成績の良いモデルへ仕事を振り分けることです。
実際に、段階ごとに先頭に立つモデルは異なっていました。
ということは、モデルを比べるときも全体の点数だけじゃなく、段階ごとの成績や単上限みたいな条件まで見ないといけないんですね。
その通りです。この研究では、提出物そのものを採点する段階別の指標も導入されています。
自社で選ぶ際も、上限の設定とコストを確認し、段階別に比べるのが確実です。
LevinのKTを使った超知能向けCテスト
続いて二つ目の話題は、Artificiality's First Exam, an LLM-referenced C-test for Superintelligenceですね。
これは、人間の能力を超えたAIを評価するための仕組みなんですか?
はい。超知能とは、人間や今のAIより高い能力を持つ機械のことです。
人間や現行のAIで難易度を合わせたテストは、循環してしまったり、すぐに満点属質の飽和状態になったりします。
そこで、レビンのKTという指標を使い、LLMを参照機械にした新しいテスト、Cテストを提案しています。
KTは、問題の背後にある仕組みの複雑さで難しさを測る計算可能な指標で、単位はビットです。
仕組みの複雑さで難しさを測るということですね。逆問題というのは何ですか?
逆問題は、観察結果から背後の仕組みを推測する機能的な問題です。
仕組みが複雑なほど難しくなるので、難易度を人間の正当率ではなく、問題自体の性質から見積もれます。
なぜ、人間の正当率に頼らない方法が必要なんですか?
人間や現行AIで難易度を構成すると、AIが進歩するほど循環し、すぐ飽和するからです。
従来のCテストは、最小限のチューリングマシンが前提で、知識もほとんど使えませんでした。
今回は、人間の文化を知識として持つLLMを参照機械にして、人間やフロンティアモデルが解く前の高難度の項目を作り、認証します。
ただ、参照機械の力や問題を作る側と解く側の差が結果に影響するため、その効果も検証されています。
じゃあ、実際に試した結果はどうだったんですか?
認証済みの問題群を12のLLMに解かせたところ、難易度が上がるほど正答率が下がる曲線が確認されました。
ただ、これは最初の検証です。転換点と言えるかどうかは、今後の検証次第です。
難易度が上がると正答率がきちんと下がるなら、まだ誰も解けない領域でもモデル同士の差を測れる可能性があるってことですね。
はい。ソースが言う、フロンティアモデルの何世代か先にあたる高難度の領域まで測れる点が特徴です。
ただし、参照機械の選び方と作る側と解く側のギャップは結果に影響する条件なので、評価では併せて確認する必要があります。
ClawLoopの自己改善エージェント
そして3つ目の話題は、クローループ、セルフインプルービングエージェンツバイアハーネスネイティブトレーニングループですね。
これは外部の教師に頼らない仕組みなんですか?
はい。ここでのハーネス環境とは、エージェントがサンドボックスの作業領域でファイルシステムやシェルを直接操作する環境のことです。
クローループは外部の教師モデルなしでタスクの合成、訓練、診断を繰り返しエージェントが自己改善する枠組みです。
これまでのやり方では何が問題だったんでしょうか?
既存の訓練手法は多くが1回限りで教師モデルに依存しています。
強い外部モデルがタスクと行動記録を用意し、対象のエージェントを一度だけ訓練します。
評価結果も人間の研究者が見るだけでループには戻りません。
そのため外部モデルの能力と人間の事前知識に上限が縛られ、自己改善の余地がありませんでした。
それをクローループはどう変えたんですか?
診断で得た能力分析レポートを次のタスク構成へのフィードバックとして使います。
タスクは検証を経て難しくなっていきます。
訓練はSFT、つまりお手本で学ぶ方法か、RL、つまり思考の結果で学ぶ強化学習のどちらか、または両方です。
ループ役のQN3.6の27Bで、スキルズベンチ、クローイワルライブ、クロージムベンチの3つが一貫して改善しました。
さらにそのタスクを小さなQN3.5の4Bと9Bに転用しても、全てのベンチマークで向上しました。
小さなモデルでも伸びたのは、タスクの質が高かったってことですか?
ソースもそう述べています。ループ役のモデルとは独立に、データの質が検証されたということです。
外部の教師モデルを使わず、事前の前提も最小限に抑えた形で改善が確認されました。
つまり、大きなモデルで作ったタスクを小さなモデルの訓練にも使い回せるかもしれないんですね。
その可能性があります。ただ、これは研究フレームワークで確認されたのは3つのベンチマークとQNの各モデルでの結果です。
実務で使うなら、診断レポートが次のタスクに反映されるかを自分の環境で確かめるのが第一歩です。
実務でのモデル選定と評価設計
というわけで、本日はオープンウェイトモデルの評価から自己改善の仕組みまで、実践的なシグナルをたっぷりお届けしました。
それでは、本日のビジネスアクションを、貝と私で一つずつ紹介しますね。
まず一つ目は、モデル選びです。
全体スコアや価格だけで決めず、ターン上限を緩めた条件で、段階ごとに最も成績の良いモデルへ振り分けるルーティングを検討してみてください。
二つ目は、評価の見直しです。
人間や現行AIで難易度を決めた指標は飽和しやすいので、問題の難しさを仕組みの複雑さから見積もる考え方も評価の設計で参考にしてみてください。
番組のフォローや評価、コメントもぜひよろしくお願いします。
それでは、また次回の配信でお会いしましょう。
バイバイ。
