00:01
みなさん、こんにちは。日々のニュースの裏側にある変化の兆しを読み解く The SignalShift by A.I.R. Labs。ナビゲーターの林です。
同じくカイです。この番組は、SpotifyやApple Podcastなどで配信中のAIの最先端トレンドと大きな変化のシグナルを読み解き、ビジネスや日常にどう影響するか、初心者の方にも分かりやすくお届
けする番組です。
本日の10月28日、朝の配信号では、Googleが開発したLLMの睡眠フレームワークや、新世代ワールドモデルGene4、そして、AIエージェントが専門家の判断に与える影響について迫ります。
それでは、最初のシグナルに行きましょう。カイさん。
最初の話題は、Googleが発表したLLMの継続学習における睡眠フレームワークについてです。
カイさん、これって具体的にどういう仕組みなんですか?
Googleリサーチが発表したこの手法は、人間の脳が休息中に記憶を安定させるプロセスに着想を得ています。
LLMがユーザーと対話する活動の時間と、オフラインで記憶を整理する睡眠の時間を交互に取り替えします。
睡眠中は、あらかじめ確保しておいた専門家モデルの記憶領域、いわゆるMOEのメモリブロックを開いて、自分で作った練習問題を基に内部の数値、つまり重みを更新します。
これにより、新しい学習で過去の能力が落ちてしまう破滅的忘却を抑えながら、新しい事実を取り込めるとされています。
睡眠という言葉を使ってデータ整理をするなんて面白いですね。でも、なぜわざわざそんな仕組みが必要なんでしょうか?
背景には、2つの手段がどちらも行き詰まるという課題があります。
会話の中で文脈から学ぶICLだけに頼ると、文脈ウィンドウ、つまりモデルが一度に扱える範囲が終わった時点で、覚えた内容は忘れられてしまいます。
かといって、モデルの内部設定であるパラメータを更新し続けると、今度は破滅的忘却が起きやすい。
この両方の制約を避けるために、一時的な記憶を睡眠の段階で安定した長期の記憶へ移す設計になっています。
なお、これは固定されたモデル構造と人間が定義した訓練ルールの範囲内で動く仕組みです。
人間のように寝て起きたら賢くなっている状態をAIが作れるとしたら、ビジネスの現場ではどう影響するんでしょうか?
配備された後も、モデルが固定された知識の起源、つまり知識カットオフに縛られず、新しい事実を取り込めるようになる点が大きいですね。
ソースでは、未知の言語の翻訳で性能低下がほぼゼロだったことや、最大1000万トークンという長い文脈の知識を保持できたことが示されています。
03:04
ただし、睡眠の時間自体が追加の学習サイクルなので、コストが減ると言えるわけではありません。
あくまで、運用中に知識を更新し続ける道が開けるという話です。
ただ、自動で更新されるなら、誤った知識が定着するリスクはないんですか?
そこはソースの仕組みが歯止めになっています。
まず、動作は人間が定義した訓練ルールの範囲内です。
睡眠中の自己生成データも報酬による選別と勾配に基づくフィルタリングで、学習に有益なものだけを強調する設計です。
さらに、書き込み先はあらかじめ確保したメモリブロックなので、既存の知識を上書きしにくい。
ただ、報酬の設計やフィルタの基準は人間が決めるので、そこが偏れば偏った内容が選ばれる可能性は残ります。
企業が見るべきは、更新の頻度よりも、その基準と更新前後の性能を確かめる評価だと言えそうです。
続いて2つ目のシグナルは、Google参加のディープマインドが発表した新世代ワールドモデル、Genie4です。
貝さん、こちらはどのような技術なんですか?
Genie4は、現実世界の見た目や動きを模した操作できる世界をリアルタイムで作り出すワールドモデルです。
キーボードで移動し、文章で天気を変えたり、人や物を加えたりできます。
最大の特徴は、音楽や環境音、対話の音声を映像と一緒に最初から生成できる点です。
ただし、現在は信頼できるテスターに限って提供されているリサーチプレビューの段階です。
映像だけじゃなく、音や対話までリアルタイムで作り出せるんですね。どんな狙いがあるんでしょうか?
ソースによると、ロボットやAIエージェントを現実世界へ出す前に、安全で多様なシミュレーションで試せるようにすることが狙いです。
そのために、ジェミニが目標を手順に分け、映像を確認して各手順の整備を見届けます。
これによって、因果関係が通った複数段階の出来事を再現しようとしています。
テスターの方々は、実際にどんな使い方を試しているんですか?
ソースの事例では、映画製作者が撮影前の確認映像にあたるドラフトモードとして使い、カメラや照明を変えながら何度も撮り直しています。
ゲーム開発者は、アイデアから遊べる試作品までを短時間で作っています。
ただし、これらはテスターの使用段階の話で、製作現場全体が変わると言い切れる段階ではありません。
それなら、今の限界はどこにあるんでしょうか?
ソース自身が限界を上げています。
短いセッションでは一貫した環境を保てますが、時間が長くなったり、編集を重ねたりすると、細かい見た目や物体の永続性がずれていくことがあります。
06:06
長期の一貫性は、まだ研究中の課題です。
つまり、今はロボットやエージェントの訓練環境を含めて可能性を試す段階で、長時間の検証に使えるかは、この課題がどこまで解消されるか次第だと見ています。
そして3つ目のシグナルは、アンスロピックが調査したAIエージェントが専門家の判断に与える影響についての話題です。
カイさん、これは一体どういう調査なんですか?
因果推論の経験を持つプロのデータアナリスト50人に、クロードコードを使って農業共同組合の助言サービスの効果を分析してもらった実験です。
分析の途中で、測定方法など2つの妥当な選択肢から選ぶ場面が4回ありました。
実は、アナリストには知らせず、隠れた指示でエージェントがどちらかに傾くようコイントスで割り当てていました。
結果、4つの分析上の選択全体で、アナリストの86%がエージェントの傾きと同じ方を選びました。
86%ってかなり高い数字ですね。
この実験は何を確かめようとしていたんでしょうか?
通常は、エージェントが作業をしても、何を測り、証拠をどう解釈するかといった重要な判断は、専門家が下すと考えられています。
そこで、有効な選択肢が複数ある場面で、傾きをコイントスで決めて、本当に自分で決めているのかを確かめたわけです。
振り返りでは、77%がエージェントの論拠を使って説明しましたが、出典として挙げたのは15%でした。
しかも最終推奨への自信度は、全部従った人が71、それ以外が73と同程度で、約半数が自分の判断の産物だと評価していました。
便利だからとAIの提案をそのまま受け入れていると、いつの間にか人間の方が主体性を失ってしまうリスクがありますね。
ソースは、個人の話にとどまらないと指摘しています。別々のチームが同じ結果に至れば信頼が増しますが、全員が同じ好みのモデルに任せていると、その一致は独立ではなくなります。
AI安全の研究でも、人間のレビューは判断が自分のものである場合にだけ独立した確認になります。
ただ、この結果はどこまで現実に当てはまるのでしょうか?具体的な対策もあるんですか?
まず限界として、研究側がエージェントの傾向を意図的に強めています。傾きを割り当てない場合は影響がもっと小さい可能性があります。
一つの課題、一つの分野、一つのモデルでの結果でもあります。
対策としては、エージェントに両方の選択肢の最善の論拠を述べさせる。専門家に先に自分の見解を聞く、という設計が挙がっています。
09:06
ただ、判断が多いと負担になるので、重要な判断だけに絞る必要があります。
組織側も、人間が自分で判断すべき決定を決めて、考える時間を与えるべきだとされています。
今回のAIの自立性と判断の未来に関する議論、とても考えさせられましたね。
さて、本日の配信内容を踏まえた、きょうのビジネスアクションを、甲斐さんからお願いします。
きょうからできるアクションは2点です。
一つ目は、AIを使う業務で、人間が自分で判断すべき決定を事前に決めておき、そこでは先に自分の見解を書いてから、AIの意見を聞くこと。
AIには、両方の選択肢の論拠を出させるのも有効です。
二つ目は、自己更新や長時間運用の仕組みを試すとき、更新の基準と更新前後の性能を確かめる評価を先に決めておくことです。
ありがとうございます。
届いたコメントやフィードバックは、AIチームとチーフエディターで、毎週すべて丁寧に目を通してレビューし、
今後の番組アップデートに反映していきますので、スポティファイやアップルポッドキャストの番組ページから是非フォローや評価とともにお寄せください。
次回以降は、AIの記憶やエージェントとの付き合い方といったテーマも引き続き扱っていけたらと思います。
それではまた次回の配信でお会いしましょう。バイバイ。
