親友はAIラジオ- 前回の生成AIの仕組みの誤解| 続きです。
前回を聞いてなくても楽しめる内容です。どうぞお聞きください。
じゃあ最後行きましょうか。最後だけなんかチップスみたいなんでね、もともと。
誤解3.長文は全部読めて覚えているが誤解でございます。
一文だけ補足も読むと、長文は取り落としやすいので途中で情報を整形して渡し直すのが効きます。
これね、クロードコードでめっちゃやるわ。
あ、そう。
なんか人と一緒でさ、作業バーって進めてもらってると、あれ?これ忘れてない?みたいなことを出力が見えるからさ。
あるから、もう一回この資料を読んでとか差し込んでいったりはするね。
そういう意味ですかね。なんかフィードバックとしてはよく使うけれども、
なんかフィードバックで使うイメージだな。なんかあんまりこう、長文で渡してるってことは、なんか読んで欲しいんだけどなんか、
それに対してなんか、こう、産業に圧縮できるんだったら、多分長文を渡さないんじゃないかっていうふうに思ったりしてて、最初からようやくできてるわ。
そうだね。それでも、これ最近は長文でもより伝わるようになったから、
今はね。
曖昧になってきてるけど、ちょっと前を考えると確かにそうだね。
プロンプトとしてさ、謎の暗号にまとめてキュッとさせた方がいいとか、そもそも英語の方が直で理解するから、理解?理解しないって話だけど、直で処理するから、正確性、意図した通りなりやすいみたいな、
そういう文脈だとおっしゃる通りかもね。同じ意味合いだったら短ければ短い方がいいし。
確かに。そう思うと余談だけど、時代が変化早いね。
プロンプトエンジニアリング、多分私が新規事業ガンバルドサントになる前ぐらいの時代なんですよ。
半年前とかもっと前とか。
ようやくさせてもたせようとか、英語にせよとか、今って10万文字ぐらい、多分覚えられるんですけど、クロードコードはわかんない。チャットGPTとかで言うとね。
それがちょっと嘘だったらごめんなんですけど、ハリーポッター一冊分ぐらい。
確か。
1回のやりとりでパッと返事が来てると思うけど、そのインプットでハリーポッター一冊バンって入ってる。
そう思うと、相当読めるよね。
長文の定義がだいぶ変わってきてるね。進化ね。
長文が英語ベース。英語で言うと、ハリーポッターの賢者の石が7.75万個なんですって。
5って単語みたいな?
ワードそう。
ワードなんだ。AとかBとかの数でいいのかな?
石、ストーンって一語じゃない。
そうなんだ。
ワイズみたいなのが一語じゃない。
ちょっと意味合い的な。
だから文字量で言ったら、ごめん10万だから多分トークン数に落としたらこれ一冊は入らんかもしれん。
でもそんな規模感のイメージってこと?
それに近いような文字を突っ込めるぐらいになってると思うと、
だいたいの人が思う長文は長文じゃないぐらい、多分長文なんじゃないかっていう今のチャットDBTとでは。
ただ、チャットが続いていくと、もともと渡したやつに続いていって増えていくから。
そうなってすっごい長くしていったら、その中のいつ言ってたっけとか多分仕組み的に強くないはずで、
常に全ての文字を天才的な人がガッと眺めてパッと答えるみたいなのが多分仕組み的にそうなんだ。
時間軸で上からこうなってこうなってこうなってというよりも、
10万文字を一瞬で読んでパッと読んだ時に次に出る確率を選んでいくっていうことは、
やりとりが長くなっていくほどに大事なところが適切につかみにくくなる可能性は高まるよねっていう指示を抜け落とすのはあり得るよね。
ただ、仕組みとして最初と最後を大事にするって言われていて、それはそうなんです。
最初と最後は注意が働きやすい。中が抜けやすい。
それは当たり前なことで、最初に依頼した前提を忘れたら目的がずれちゃうっていう話と、
直近にやりとりしたことを忘れたら最新のフィードバックに答えられないから、
中でやりとりしたことはその分お注意を落としたから、
だから中でやりとりしたことをちゃんと反映させたかったら多分フィードバックで思い起こしてあげると、
それやってたなって思って、それが関連する場所を見に行って、書いてあったなって言って、
次の文字を作ってくれるみたいな仕組みなのかなとは思う。
一応対策のとこも言ってみます?
言ってみましょう。
誤解1と誤解2に比べて、まるでちょっとイメージがわからないというか、私は使ってないですが、
1、重要条件を3行に圧縮する。
2、条件をチェックリスト化する。
3、次に見るべき論点を番号で再提示させる。
3、次に見るべき論点を番号で再提示させる。
あんま頭に入ってこなかったけど、この3つが対策らしいでございます。
なるほどね。
これシステム的には3番だけは実は私は納得してます。
システム的には?
次に見るべき論…
アプリ開発とかで言うと、
次に見るべき論点を番号で再提示。
これ直感的にこういうことなのかなって思ったやつとかで言うと、
例えばワークフローでして、
ステップ1これ、ステップ2これ、ステップ10これ、みたいなものを
プロンプトなのかシステムに入れ込んだとするじゃないですか。
はい。
いわゆるシステムというよりもそれを
LLMのこのSSAIに今ステップいくつだよ、次いくつだよっていうのを
思い起こさせないとステップがループしちゃったりとか動かなくなるとかが
AIエージェントってやつだと言う方がいいのかもしれない。
いわゆるSAIに質問するというよりも
エージェントとしてこのタスクしてこのタスクして
いろいろ順番通りにやらせるよみたいな時とかは
今何番で、次何番でとかっていうのを
意識させる、宣言させたりしていかないと
いつの間にかわからなくなっちゃう。
なるほど。
やることリストみたいなのに近いのかな?
近いと思う。
やることリスト、チェックリストが終わればいいというよりも
順番がついているレシピの手順を渡したとした時に
今私は目の前のことを理解して
食材切りました、お湯を沸かしましたとかを
今お湯が沸いてるとか理解ができないと思うと
ステップ2までやりましたので3、調味料を入れるんだ
私は今4だ、野菜を入れるんだ、私は5だみたいな
これを迷子になりやすい。
しかもこれ再提示させるって書いてあるじゃん。
書いてあるんだけど
AI側に提示させるってことなのかな?
小屋敷が言ってること
多分自己宣言させることで
私は3番、3番ということはここまで終わっているみたいな
多分
なるほど、結果的にやってるわっていうのかもしれないんだけどさ
こっちがこういうのやってって手順決めたら
ファイルにしてもらってるんだけどコーディング版が
コーディングでやることリストをチェックリストで作って
つどつどそこにチェック入れて終わったらチェック入れて
次に進んでねっていうのをやってて
それをやった理由が今しみさまが言ってたように
こうやりましたって言うんだけどやってないんだよ
その精度がこのチェックリストやることリストをね
ちゃんと更新させていく
ある程度本当にやるようになったし
一緒だと思う
長いタスクをこなせるようにするときに
行動とかアウトプットベースでできたかというよりも
こういうことしてねってやるとブレにくくなるんだと思う
なるほどね
チェックリストも一緒だと思う
これは完了条件みたいなチェックリストってことか
多分
この対策によっているのは
もしくはこれとこれとこれを点検してやることみたいなのかもしれない
制約というか
なるほどね
これ系もね