00:01
みなさん、こんにちは。 The Signal Shift by A.I.R. Labs へようこそ。ナビゲーターのリンです。
カイです。この番組は、SpotifyやApple Podcastなどで配信しています。
日々、刻々と変化するAIの最先端トレンドと、大きな変化のシグナルを読み解き、
ビジネスや日常にどう影響するか、初心者にも分かりやすくお届けする番組です。
本日の10月26日、朝の配信号では、モデルの重みを書き換えずに知見を引き渡すDスキル、
拡散言語モデル同士が内部の状態を直接やり取りする研究、
そしてディープリサーチを加速させるリフリサーチの3本です。
はい、1本目は文章で書いたスキル文書による知識の引き継ぎ、
2本目と3本目は左から右へ文字を順に作る従来の方式とは違う、拡散言語モデルを使った研究です。
AIの効率化や連携のやり方を見直す動きが並んでいます。
それでは最初のトピックから解説していきましょう。
最初の話題は、大規模モデルの知識を効率よく引き継ぐ新しい仕組み、Dスキルについてですね。
具体的に何が起きているのでしょうか。
Dスキルは、高性能な教師モデルを中身の見えないブラックボックスとして扱い、
教師と生徒の行動の違いや一致点を比べて、人間にも読める自然言語のスキル文書にまとめるフレームワークです。
生徒の小型モデルは、推論の時にこの文書を渡されるだけで、重みは書き換えません。
重みを更新しない方法にするのにはどういう理由があるんですか。
従来の知識上流は、生徒モデルの重みにアクセスして追加の学習計算を回す必要があり、学んだ内容もパラメータの中に埋もれて見えません。
Dスキルは、すでに集めた教師と生徒の行動記録だけを使い、
ラベルも追加の環境操作も重みの更新もなしで、オフラインでスキル文書を作ります。
だから、何を伝えたかが文章として読めます。
なるほど。優秀な先輩と後輩の仕事ぶりを見比べて、違いを整理した引き継ぎマニュアルを後輩に渡すようなものですね。成果はどれくらいなんですか。
表計算の課題集、スプレッドシートベンチベリファイド、アルフワールド、チェスパズルで、教師と生徒の性能差の75%から95%を埋めています。
しかも、記録を1回オフラインで処理するだけで、1エポックの追加学習より良く、複数エポックの追加学習にも見劣りしませんでした。
なお、同じモデルファミリー内では、生徒の方がタスクあたりの推論コストが5.7倍から8.3倍低く、これは小型モデルそのものが安いという話です。
03:00
Dスキルは、その安い小型モデルの差を埋める手法ということですね。
再学習なしで差を縮められるのは魅力的ですが、自動で作られたスキル文書に誤りが混じったら、そのまま小型モデルに伝わってしまいませんか?
そこは大事な点です。ただ、スキル文書は自然言語なので、重みの中に埋もれた知識と違って、人が読んで内容を確認し、おかしな記述を見つけることができます。
ソースが解釈可能性を利点に上げているのもそこです。誤りの検出まで自動で保証されるわけではないので、運用では導入前に文書を読んで確かめる工程がいると考えるのが現実的です。
中身を読んで確認できるのは安心ですね。そして二つ目のトピックは、拡散言語モデルのエージェント同士の通信を調べた研究。
Hidden Messages Between Diffusion Language ModelAgents ですね。どんな内容ですか?
拡散言語モデルは答えを一気に書くのではなく、全体を少しずつ修正しながら仕上げていきます。
その途中の状態は文字ではなく数値の並びで表されていて、ノイズを取り除きながら整えていく、いわばデノイジングの途中経過です。
この研究では、送り手がその途中経過を四つの符号付きの数値ベクトルに圧縮し、受け手に直接渡します。
受け手は自分の文脈や従き、生成の経過を保ったままそれを受け取ります。
文字に直して渡すのではダメなんですか?そして渡した内容が本当に使われているかはどう確かめるんでしょう?
通常のマルチエージェントは文字にレコードしてからしか通信せず、途中の状態は捨てられています。
この研究が重視したのは、受け手がメッセージの意味を実際に使っているかです。
そこで、メッセージを取り除く実験と別の例のメッセージに差し替える実験を用意しました。
取り除いて効果が消えれば通信炉が効いていて、差し替えて結果が変われば中身が効いていると言えます。
言葉にする前の考えの断片をそのまま相手に渡すような感覚でしょうか?実際に聞いていたんですか?
はい、例えばQASCという課題で2つの根拠が別々のエージェントに分かれている場合、正しいメッセージを渡すと精度は80.8%でした。
ところが別の例のメッセージに差し替えると46.8%に下がり、中身の効果は34.0ポイントでした。
意外だったのは時間の面です。終盤に1回だけ転送した方が87.8%に達し、4回繰り返し交換した場合を7.0ポイント上回りました。
回数より、いつ渡すかが大事という結果です。
AI同士が内部の状態を直接やり取りすると、人間には中身が見えなくなりますよね。バグが起きたとき、原因をどう追えばいいのか不安です。
06:11
その通りで、文字なら読めますが、数値ベクトルは人が直接読めません。
ただ、この研究の設計自体が手がかりになります。
メッセージを取り除いたり、別の例に差し替えたりして、結果がどう変わるかを見れば、その通信が効いているかを外から確かめられます。
中身は読めなくても効果は検証できるわけです。
ただし、これは制御された課題での結果で、実運用の追跡手法まで示したものではない点は抑えておきたいです。
読めなくても効果は確かめられるんですね。
そして3つ目のトピックは、ディープリサーチを加速させるオープンフレームワーク、リフリサーチですね。
どういったシステムですか?
計画を立て、証拠を集め、まとめて修正するというディープリサーチの全段階に、
従来の自己回帰型ではなく、拡散言語モデルを据えたオープンなマルチエージェントのフレームワークです。
自己回帰型とは、左から右へ順に文字を作る方式のことです。
従来のやり方だと、どんな課題があったんでしょうか?
ほとんどの実用システムは自己回帰型で作られていて、計画立案や長文の執筆でも、左から右への生成がそのまま使われています。
ディープリサーチは計画と調査、修正を繰り返すので、全体の待ち時間が対話的に使う際のボトルネックになっていました。
実際にどれくらいスピードが変わるものなんですか?
ディープリサーチベンチの100件のタスクで、足場となる仕組みや検索コード、プロンプトを固定し、
中身のモデルだけをオープンな拡散モデルと同程度の自己回帰モデルで入れ替えて比べました。
その結果、始めから終わりまで通して約6倍速く、特に計画と執筆で大幅に短縮されています。
さらに、D-FIRSTは生成の途中の状態から調べるべき小さな問い、つまりサブクエリを先に取り出す方式です。
問いを分解する処理だけで、中央値1.99倍速くなりました。
速くなるのは魅力ですが、速さと引き換えに調査の正確性や質が落ちていないかが気になります。
そこは大事な点で、ソースにも根拠があります。
D-FIRSTは分解処理で報告の品質を落としておらず、ベンチマークのレースという評価基準では、
比較した3つの構成の中で総合スコアが最も高くなりました。
さらに、より強い拡散モデルで作ったものが商用システムのいくつかより上位に入ったという公開リーダーボードの結果もあります。
ただ、これは約6倍という速度と品質の両立を示した結果で、あらゆる調査で正確とまでは言えません。
文書で引き継ぐ知識、モデル同士の内部通信、そしてリサーチの拘束化と、今日も盛りだくさんでしたね。
09:07
それでは、本日のビジネスアクションを甲斐さんからお願いします。
本日の配信から実践できるビジネスアクションは2点です。
1点目は、外部の知識を効率よく取り込む手法を検討することです。
例えば、スキル文書のように重みを触らずに知見を渡す方法が使えないか、自社の業務で考えてみてください。
2点目は、非同期や連続値のデータ共有をエージェント間の連携にどう活かせるか検討することです。
ぜひ、明日から試してみてください。
番組のフォローや評価、コメントもSpotifyやApple Podcastなどの各アプリからお待ちしています。
また、AIエージェントの動向は今後も取り上げていきたいので、ぜひチェックしてみてくださいね。
詳しい情報は概要欄のリンクからご覧ください。
それでは、また次回のシグナルでお会いしましょう。バイバイ。
