00:01
こんにちは。最新AI情報を誰にでも分かりやすくお届けするAIR LABSのお時間です。
カイさん、ちょっと聞いてくださいよ。この間、うちの仕事で使うために、ちょっとお高くて賢いAIモデルを選んで契約したんですけどね。
本当にその選んだモデルが返事をしてくれてるのか、確かめる方法ってないんですか?
出力の文章がそれっぽければ、安いやつにこっそりすり替えられても、私たちにはわからない気がして、すごく気になって。
リンさん、その心配はとても自然です。実は以前、私もAIの出力をそのまま信じて丸投げして、後から取引先に、
これ違うモデルで作ったでしょ、と指摘されて恥ずかしい思いをしたことがあるんです。
見た目でもっともらしい返事が返ってきても、本当に指定したモデルが動いたのかどうかを、出力だけで判断するのは難しいんですよね。
仲介するサービスがコストを抑えるために、勝手に別のモデルへ差し替えている可能性だってゼロではないですから。
やっぱりそうなんですね。上手い話の裏には何かあるって疑っちゃいますよ。
で、そういう時に何か手立てはないんですか。
それがですね、アンスロピックという会社が、その問題を解決するための試作品として、フラッシュプローブというシステムを公開したんです。
今日は、AIの返事にも本物だと示す証明書をつける、という未来の仕組みについてお話ししますね。
これは、今すぐ製品として誰でも手軽に使えるものではなくて、あくまで研究の試作品という段階なんですが、仕組み自体はとても面白いんです。
試作品なんですね。でも、AIの返事に証明書をつけるって、一体どうやって見分けるんですか。
で、それは私たちの仕事のどこが楽になるのか気になります。
仕組みを分かりやすく説明しますね。
まず、AIモデルを提供する側が、あらかじめモデルをこれにすると約束して、そのモデルの短い指紋のようなデータを公開するんです。
モデルの詳しい中身は隠したまま、一つの決まったモデルだと固定するわけですね。
そして、AIが返事をするたびに、この約束したモデルで作りました、という小さな証明ファイルが一緒に送られてくる。
受け取る側は、その指紋と質問と返事のデータを基に、本当に本物かどうかをチェックできる仕組みになっています。
中身を見せないのに、本物だってどうやって分かるんですか。公務店で言うなら、領収書の印鑑みたいなものですかね。
うなずくだけじゃなくて、ちゃんと仕組みを納得させてくださいよ。
そうですね。イメージとしては、検査済みの証明書のようなものです。
ポイントは、中身の重たい重箱を開けなくても、外側のタグだけでパッと確認できるところにあるんです。
03:05
この証明ファイルは、モデルの中身を一切見せることなく、性能の高くない普通のパソコンでも確かめられるように工夫されているんですよ。
中身を覗かれないなら安心ですけど、でもそんな証明書をわざわざ作るなんて、ものすごく手間がかかって結局コストが跳ね上がるんじゃないですか。
効率化しようとして逆に手数がめちゃくちゃ増えるのはごめんですからね。
さすが凛さん、そこは一番厳しいところですね。
おっしゃる通り、証明を作る側はめちゃくちゃ重い仕事をするんです。
AIを普通に動かす時間の約70から95倍もの時間が証明を作るのにかかってしまう。
だから今の段階では誰もが気軽に使えるコスト感ではありません。
ただこれまでの研究と比べると桁違いに早くなっているのも事実なんです。
70倍から95倍もかかるってものすごい負担じゃないですか。
作る側がそれだけ大変なら私たちの手元に届くのはまだまだ先になりそうですね。
そうなんです。ただ確かめる側の負担は驚くほど軽いんですよ。
証明ファイルの大きさは約19MBで写真数枚か短い動画くらいのサイズです。
それを確かめるときは特別なグラフィックボードのような機械はいらなくて普通のCPUだけでいい。
測定では24スレッドのCPUで約17秒あれば確認が終わるんです。
作る方は大変だけど受け取る側は17秒でサクッと確かめられるんですね。
その非対称さが面白いところか。
えー、仲介サービスを通じてAIを買うときにお金を払ったモデル通りか確認したり、
公開前のAIモデルをテストする人が本当にそのモデルかどうかを確かめたり、
あるいはサーバーが乗っ取られて返事が書き換えられるのを見抜くときに役立ちます。
出力の文字面を眺めるんじゃなくて、照明を見るという発想にガラリと変わるわけです。
うちの仕事でいうと、AIエージェントにいろんな事務作業や計算のチェックを任せるようになったとき、
そのAIが本当に信頼できる相手かどうかを裏付けたい場面で使えそうですね。
ただ、チャットみたいに長々とやり取りするときもちゃんと使えるんですか?
そこが今の大きな限界でして、今回証明できる文章の長さは今のところ1024トークンまでなんです。
トークンというのはAIが文章を読み書きする小さな区切りの単位ですが、
実際の日常の長いチャットでたまる長さに比べるとかなり短い。
なるほど。まだ長い会話を丸ごと証明するには短いんですね。
わからないことはわからないってはっきりわかってよかったです。
06:00
期待しすぎずに、こういう確認方法が現実になりつつあるんだなって捉えておくのが良さそうですね。
その通りですね。今回、コードも証明の仕組みも全て誰でも見られる形で公開されていて、
他の人たちに使ってもらって、さらに改良してほしいという狙いがあるんです。
AIの返事が本当に選んだモデルのものか、これまでは出力を眺めるしかなかったのが、
証明書をつけて確かめる方向の研究がこうして動き出しているのは確かですね。
さて、お次は今日の一言ニュースのコーナーですね。
一言ニュースの一番目です。
ハギングフェイスのブログで発表された、ダーマの書類から項目を取り出す小さめのモデルについてです。
毎朝たくさんの請求書や発注書が届くんですけど、うちの事務作業でもパッと項目を抜き出せるようになるんですか?
項目の形を指定しておくと、その通りの項目名で正確に返してくれて、書類にない項目は勝手に作らず空にしてくれる仕組みになっています。
手で打ち込む手間を減らす方向に近づきますが、最後は人間が数字を確かめることが大切です。
勝手に嘘の項目を作らないのは、経理としてはすごく安心できますね。
一言ニュースの二番目です。
Googleリサーチが発表した、AIと対話しながら人によって違う曖昧な基準を決めていく方法についてです。
健康的な食べ物、みたいに人によって言うことが違う基準を、AIがどうやって手伝ってくれるんですか?
AIが境界線上にあるような画像を見せて、ユーザーに自分の基準を問いかけてきます。
それに答えることで、曖昧だった定義を少しずつ磨いて、自分たちのルールの設計図を作っていくアプローチです。
最初から完璧なルールを作らなくても、具体例を見ながら決められるのは仕事でも使えそうです。
一言ニュースの三番目です。
アーカイブに投稿された個人の予定や好みを、AIがどれだけ正しく覚えているかを測る新しい試験についてです。
個人の予定や好みを、AIに預けてお仕事をお任せするとき、本当にちゃんと覚えていられるものなんですか?
高性能なモデルであっても、時間が経つにつれて変わる状況を追うのはまだ難しく、答えが安定しないという結果が出ています。
個人の情報を預けるときは、まだブレがあることを前提にする必要があります。
便利な反面、大事なスケジュール管理なんかは、やっぱり自分でしっかり確認したほうが良さそうですね。
今回は、AIの返事が本当に選んだモデルのものかを証明する仕組みや、日々の業務に役立つ最新の研究について見てきました。
09:03
見た目だけではわからないことを裏付けて確かめる発想は、明日誰かに話したくなりますよね。
お使いのポッドキャストアプリから、ぜひ番組のフォローや評価、コメントをお願いします。
番組の概要欄には、今日の話題をさらに詳しくまとめたノートの記事と文字起こしへのリンクも用意していますよ。
皆さんから届いたコメントは、毎週チームで残さず読んで、これからの番組作りに大切に生かしています。
いつもたくさんのメッセージをありがとうございます。
それではまた次回。バイバイ。
