00:01
皆さん、こんにちは。リスナーの皆さん、日々刻々と変化するAIの最先端トレンドを 一緒に読み解いていきましょう。
The Signal Shift by A.I.R. Labsです。 カイさん、今日もよろしくお願いしますね。
リンさん、こんにちは。今日もよろしくお願いします。 はい。そして、私たちの番組コンセプトは、日々動くAIの大きな変化のシグナルを捉え、
ビジネスや日常にどう影響するかを分かりやすくお届けすることですよね。 本日の10月6日、朝の配信号ではどのようなシグナルを取り上げるのでしょうか。
本日は、トロピカル強化学習による合成推論の向上、 画像生成AIの局所的な安全対策、CALM、
そして、英国企業のAIリスク開示実態という3つの最先端シグナルを読み解いていきます。 それでは最初のトピックです。
大規模言語モデルの強化学習における新しいアプローチ、トロピカル強化学習についてですね。 カイさん、これは一体どんなニュースなんですか。
AIが答えにたどり着く複数の推論ステップを組み合わせて解く力、 これを合成推論と呼びますが、その向上を狙った研究です。
従来の強化学習は、成功した思考の確率をすべて足し合わせて評価します。 この研究は、足し算の代わりに最大値を取るという計算ルール、つまり台数そのものの置き換えを行っています。
この最大値を使う台数がトロピカル半巻という数学用語で、 タイトルのトロピカルはそこから来ています。
計算ルールそのものを変えるんですね。 確率を足す従来のやり方では何が困るのでしょうか。
論文は2つの問題を挙げています。 1つ目は、足し算の方式だとモデルがどのくらいの頻度で成功するかは分かっても、
実際にどの解法が効いたのかは分からない点です。 2つ目は、確率の合計が1になるため、
1つの解法を強化すると、まだ誤りと確定していない別の解法をモデルが忘れてしまう点です。 合成推論では、別々のしかも失敗した思考の中でたまたま出てきた推論ステップを組み合わせる必要があります。
それらは同時には滅多に出てこないので、足し算の評価では拾いきれないのです。
なるほど。全体では失敗した思考でも、使える部分だけを取り出して、別の思考の部分とつなげられるイメージですか。
その通りです。状態が共有されていれば、ある思考の前半と別の思考の後半をつなぎ合わせられます。
しかも、各状態の価値は検証済みの最も有望な解法の確率と、再生して再利用できる経路として残ります。
ただ、どんなAIにも使えるわけではなさそうですね。 実際、どこまで確かめられているのでしょうか。
03:03
はい。提案されたトロピックは、決定論的でリセット可能な結果を検証できる環境が対象です。
評価も、ソコバン、カウンダウン、フローゼン・レイク、ウェブショップの4タスクで、最も強い既存手法に対して最大16ポイントの向上でした。
つまり、結果が正しいか確認でき、やり直しが効く場面では有力ですが、そうでない現実の業務への適用はこの論文だけでは言えません。
続いて2つ目のトピックは、画像生成AIの安全性確保に関する研究、カームについてです。
カイさん、こちらはどのような手法なんでしょうか。
はい。テキストから画像を生成する際に、有害な内容を抑える追加の学習が不要な安全対策です。
従来は、有害な方向を1つ決めて、すべてのプロンプトに共通で取り除く方法が使われてきました。
カームはそれを止め、プロンプトごとに、もし安全な表現だったらどうなるか、と比べて局所的に直す方式です。
全部に同じ処理をするのではなく、プロンプトごとに直すんですね。
従来の方法にはどんな課題があったのですか。
論文はカバレッジと選択性のトレードオフを示しています。
有害な領域をコンパクトにまとめると、多様な有害表現をカバーしきれません。
逆に広くまとめると、安全に隣接する無害なプロンプトまで歪んでしまいます。
カームは有害なカテゴリにあたるプロンプトを振り分け、文を細かく区切った単位であるトークンのうち、
違反している部分の表現だけを安全側へ最小限に修正します。
つまり、これまでは安全対策のせいで普通の絵まで変になってしまうことがあったけれど、
今回は問題のある細部だけピンセットでつまんで直すような感覚ですね。
その表現の通りです。
有害な出力の抑制と無害な表現の維持を両立させるという点がこの手法の狙いです。
追加の学習がいらないというのも大きいですね。
ただ、有害な方向を一つに決める発想自体に限界があったということでもありますよね。
はい。この論文の価値はグローバルな一つの信号で足りるという前提に、
カバレッジと選択性のトレードオフという形で限界を示した点にあります。
トレーニング不要で無害な表現を保ちながら有害な出力を抑えられる、
より選択的な代替案だと示したわけです。
ただ、どんな用途にどこまで効くかはこの概要だけではわかりません。
そして3つ目のトピックは、英国上場企業の年次報告書から見るAIリスク開示の実態についてです。
カイさん、企業のAIリスクに対する姿勢はどうなっているのでしょうか。
06:01
英国上場企業1362社の2020年から2025年の年次報告書9821件をLLMで解析した調査です。
AIリスクに言及する報告書の割合が2.8%から41.2%へと急増していることがわかりました。
リスクへの言及が41.2%まで増えているのは驚きですね。
なぜ年次報告書をLLMで大規模に解析するのでしょうか。
研究者は社会のレジリエンスの研究には有用で実行に移せるデータが必要だと考えています。
そこで年次報告書を大幅に処理して企業がAIにどう対応しているかわかるかを検証しました。
再現可能な2段階の分類を使い、一手で注釈した474件の文章と称号して再現率は高く、
ラベル単位の一致は中程度だと確認しています。
結果としてAI導入の開示も13.8%から45.2%に増えていました。
ただ重要インフラと呼ばれる分野のうちエネルギーやデータインフラは開示が遅れ、
中小企業向けの市場AI部の報告書はメイン市場よりかなり低い割合でした。
名前だけAIリスクって報告書に書いておいて、
実際の中身や対策はまだ境外化している企業が大部分だということですね。
数字がそれを示しています。
2025年はAIをリスクとして言及した報告書が41.2%ですが、
実質的な開示と分類できるのは4.3%にとどまります。
外位の開示はコーパス全体で7件しかありません。
言及の増加に比べて実際の外位の報告はほぼ空白です。
それに加えてAIやエネルギー、データインフラの遅れもあります。
言及の数だけで企業の備えを図ると実態を見誤る恐れがあります。
実質的かどうかを見る必要があるというのがこの調査の示唆です。
どのトピックも表面的な流行の先にある構造的な変化をついていて非常に興味深かったですね。
それでは本日の配信内容から実践に移せるビジネスアクションを2点解散お願いします。
はい。1点目は、結果を検証できてやり直しも効く業務があれば、
失敗した思考の中の使える部分を再利用する発想が活かせないか、小さく検討してみることです。
ただし、この研究は決定論的でリセット可能な環境が前提なので、一般の業務へは慎重に当てはめてください。
2点目は、AIリスクや開示に関する社内の方針を見直し、
09:02
言及だけで終わっていないか、実質的な内容を伴っているかを確認することです。
ありがとうございます。そして今後の番組作りのために、
SpotifyやApple PodcastなどのPodcastチャンネルのフォローや番組の評価、コメントやフィードバックをぜひよろしくお願いします。
今後もAIの安全性や企業のAI開示といったテーマをまた取り上げていけたらいいですね。
それではまた次回のシグナルでお会いしましょう。バイバイ。
