生成AIの特性の理解
皆さんこんにちは、矢野 哲平です。この番組は、耳で学ぶAIをコンセプトに、初心者・中級者向けに、AIを分かりやすく解説する番組です。
今回のテーマは、生成AIの特性からプロンプトを構築する、について話していきます。
はい、ということで今日は、生成AIの特性について話していきます。
生成AI、便利ですよね。テキストを入力するだけで、文章を生成することができると。
ただ、生成AIも魔法の箱、そういったものではなくて、内部ではその特性に従って動いているわけです。
今日話す内容というのは、この生成AIの特性についてです。
生成AIの特性を知ることで、プロンプトやAIの運用の仕方というのが変わってきます。
今日話す内容というのは、生成AIの特性を知って、生成AIをより精度高く運用していこうというアプローチです。
今日話すポイントは主に3つです。
まず1つ目に、生成AIの仕組みについて話します。
そして2つ目に、生成AIの4つの特性について話します。
そして最後3点目、これら4つの特性を踏まえた良いプロンプトの書き方について話します。
プロンプトの実例
はい、では早速話していきましょう。
いきなりなんですけど、リスナーの皆さんにここで質問です。
次のようなプロンプトはどちらが良いと思いますでしょうか。
ちょっとプロンプトの例を挙げますね。
そうですね、ここでは翻訳のプロンプトにしましょうか。
じゃあちょっと今からお伝えします。
まずA、次の文章を日本語に翻訳してください。
そして英語の文章を貼り付けるというプロンプト、これがAですね。
そしてB、先に英語の文章を貼り付けて、その後にこの文章を日本語に翻訳してくださいというプロンプト。
翻訳のタスクで、先にその対象となる英語のテキストを持ってくるか、もしくは後に持ってくるかの違いです。
A、次の文章を日本語に翻訳してください。そして後に英語の文章を貼り付ける。
Bは先に英語の文章を貼り付けて、その後にこの文章を日本語に翻訳してくださいと伝えるパターンです。
AとB、似たようなプロンプトですが、厳密にはどちらが良いとされるでしょうか。
ちょっと考えてみてください。
で、この答えをお伝えすると、答えはAとなります。
次の文章を日本語に翻訳してください。それから英語の文章を貼り付けるというものですね。
じゃあなぜAなの?という話になるんですけど、これは生成Aの特性・特徴が関係しています。
生成Aの仕組み、よくこのように聞く人多いと思います。
生成Aの仕組みは、次の単語を予測しているだけだと。
文章から次に続く単語を確率的に予測して、それをどんどん生成していっていると。
そして確率の高い単語が並んでいくので、最終的にはそれが自然な文章になっていると。
よく聞く説明だと思います。
さらにこの説明を深掘りすると、AIに渡される文章というのは、トークンというものにバラバラに分割されます。
このトークンが個別に前から後ろにどんどん情報を渡していくわけですね。
じゃあこのトークンはどのような情報を持っているのかというと、
例えばトークン自身がどのような言葉を持っているかとか、
トークン自身が文章の中でどの位置に位置しているかとか、
あとはトークン自身が何に注意を払うかとか、そういった様々な情報を持っています。
これですね、ちょっとここだけを聞くとイメージが湧きにくいと思うんですけど、
これ人間に置き換えて考えてみると、よりイメージがしやすいと思います。
例えばここまで私、いろいろと話をしてきました。
約4分ぐらい話をしてきました。
ここで私がこう質問したとします。
私がここまで話してきた中で、会話の中に数字はいくつ含まれていましたかと。
これ、回答できる人いないと思います。私もできないです。
では改めて台本チェックすると、1、2、3、3つの数字が会話の中に含まれていると思います。
まあでもいきなりこんなこと聞かれても回答できないですよね。
でも私がこうお伝えすると回答できる人は増えると思います。
今から私の会話にいくつかの数字が含まれているか回答をしてください。
では話していきますね。皆さんこんにちは矢野てっぺいですと。
この時点で皆さんは会話の内容よりもこの会話にいくつ数字が含まれているかという情報に注意を向けていますよね。
このように先に注意を向けるべきものことそれを明示するとしないとでは回答に差が出てきます。
ここで冒頭の問題に戻ります。
私は次のように問題を出しました。AとBどちらのプロンプトが良いでしょうかと。
Aは次の文章を日本語に翻訳してください。そして英語の文章を貼り付けるパターン。
Bは先にとりあえず英語の文章を貼り付けてその後にこの文章を日本語に翻訳してくださいという後に言うパターン。
答えはAでしたね。先に注意を向けるべき対象を明示してあげると。
Bの場合先に英語の文章が貼り付けられてもその英語の文章をどのように処理するかっていうのはわからないですよね最初の時点では。
コンテキストの重要性
この英語を翻訳するのか要約するのかもしくはこの英語の中から人名を抽出するのか最初の時点ではAIはその情報というのを持っていません。
ただ今のAIはすごく優秀なのでプロンプトの後でこの文章を日本語に翻訳してくださいという指示でも通ります。
ただ文章のボリュームが大きくなると精度に差は出てきます。
はい一つ目はプロンプトの順番について話しました。
注意を向けるべきものを先に明示すると。
次はコンテキストの重要性について話していきます。
コンテキスト文脈とか背景情報なんかのこう意味合いがあるんですけど
生成AIではコンテキストがすごく重要と言われます。
先ほど生成AIは文章の後に続く単語を確率的に予測するものだと話しました。
でこの確率的に予測するそれのベースになっているものがその前にある文章なんですね。
簡単なタスクだと正直ここら辺はあまり気にする必要ありません。
ただちょっと精度が欲しいタスクそういったものではコンテキストつまり文脈や背景情報を充実させることで
回答精度を上げることができます。
例えばですねメールを作成してくださいとAIに単純に指示するよりもこのようなプロンプトの方が好ましいです。
私の名前は矢野てっぺいですとこんな仕事をしています。
これからメールを送信する人との関係性はこれこれこれですとこんな感じのメールを作成してください。
メールで伝えたい内容、意図はこういった感じですと。
このようにプロンプトにコンテキストつまり文脈背景情報をたくさん含めることでより回答の精度を上げることができます。
はいでは次は中間部の喪失について話していきます。
これはロストインザミドルという論文で紹介されている内容になります。
これ簡単に言うとですねAIは最初と最後の内容に関心を示して中間部の情報を無視する傾向があるというものです。
これあの無関心の谷なんて言われたりもします。
これも人間で例えるとイメージしやすいと思います。
結構こういった経験ないですか会議に出席をしましたと。
で会議の冒頭と最後これはよく覚えてるけど途中何を話したのかあんまり覚えてないなみたいな。
この前読んだ小説冒頭と最後はよく覚えてるけど中間はどういった展開だったかあまり覚えてないなと。
こんな感じでAIも最初と最後の内容に関心を示して中間部分の情報は無視する傾向があると論文で述べられています。
でもこれって一つ前にお伝えしたコンテキストの充実とちょっと相入れない内容ですよね。
AIにはたくさんコンテキストを提供することで回答の精度が上がると。
でもAIに渡すコンテキストが長くなればなるほど中間部の喪失のような問題も出てくると。
そのためロストインターミドルの論文では次のようなことが紹介されています。
言語モデルに長い入力コンテキストを与えることはトレードオフを伴いますと。
つまりより多くのコンテキストを提供することはタスクのパフォーマンスに役立つ可能性はありますと。
でも一方でモデルが処理しなければならないコンテンツの量が増加して回答精度が低下する可能性がありますと。
ちなみに中間部の喪失の問題これはですね根本的な解決はまだ見つかってないそうです。
こうしたAIの特性を踏まえていくつか対策を立てるとすると、
例えばですね重要な情報は中間部分には置かない。
生成AIのプロンプト構築
もしくはプロンプトが長くなってしまう場合、中間部の情報は無視されやすくなるので最後にリマインドをするとかですね。
特に注意事項のようなAIに絶対守ってほしいルール、そういったものは最後にリマインドをすることで回答精度を保ちやすくなります。
例えばこちらが指示しているにも関わらずAIがルールを守ってくれないと。
そうした場合は重要事項のプロンプトの場所をですね最初か最後に持ってきたり、もしくはリマインドでもう一度最後にAIに伝える。
そのような対応も試してみてください。
ここまで中間部の喪失について話しました。
AIは中間部分の情報を無視する傾向にあると。
最後はAIの回答の方向性について話します。
AIは確率的に次に続く単語を予測するという特性があります。
つまり文章全体を通してある程度一貫した内容を生成する傾向にあります。
これは自然な文章を生成する上ではとても重要な仕組みです。
でも場合によってはちょっと融通が効かないなと思うケースもあるわけです。
これですね結構AIを使っていると経験ある人多いと思います。
例えばアイデア出しの場面で途中で全く違った切り口でアイデアを出して欲しいと指示をしてもですね。
前半のアイデアに引きずられて大きく飛躍したアイデアが生まれてこないとか。
あと例えばAIとプログラミングをしている時にエラーの解決方法を探るタスクをお願いしていたと。
でなかなかエラーの解決ができないので色々考えていると
途中で人間側が最初の前提が間違っていたことに気付いたと。
でAIにやり直しを求めたわけです。
こうした場合でもですねなかなかうまくいかないケースあります。
これ実際に私の経験談なんですけど途中でやり直しを求めても最初に立てた前提条件に引きずられるような形になってしまっているので
その後に軌道修正をしようとしてもなかなかこう軌道修正ができないと。
で特にこれはAIとたくさん会話を重ねた場合によく遭遇するケースです。
でこうしたケースどうしたらいいかっていうと主に解決策が2つあります。
1つ目はAIにここからは全く違った内容ですと。
これまでの内容は完全に忘れて会話を続けてくださいという内容ですね。
で2つ目が改めてチャットを新規作成することです。
シンプルに切り直しをすると。
1つ目のここまでの内容忘れてくださいと。
ちょっと改めて考えてくださいって指示をしても不十分なケースもあるんですね。
なのでシンプルに新規でチャットを作成して仕切り直しするのがあの簡単でおすすめです。
AIが最初の会話の内容に引っ張られるケースっていうのは多いのでこの点もご注意ください。
はいそれでは今日のポイントをまとめます。
生成AIの特性と活用法
今日は生成AIの4つの特性について話しました。
プロンプトの順番、コンテキストの重要性、中間部の創出、そして回答の方向性。
1つ目プロンプトの順番ではAIに注意を向けて欲しいことを先に述べる点について話しました。
英語のテキストを貼り付けてこの英語を翻訳してくださいと後で指示をするよりも
次の英語を翻訳してくださいそして英語を貼り付ける。
つまりAIに何に注意を向けて欲しいかっていうのを先に伝える。
このような順番でプロンプトを構成する方が望ましいです。
2つ目はコンテキストの重要性について話しました。
生成AIは前の文章からその後に続く単語を確立的に予測します。
回答の精度を上げるためにもこの文脈つまりコンテキストを充実させることが回答精度のアップにつながります。
3つ目は中間部の創出について話しました。
生成AIは最初と最後の情報に関心を示しますが中間部分の情報は無視される傾向にあります。
そのため特に守ってほしいルールや大事な情報は中間部分に配置をしない。
もしくは最後にリマインドするそういった工夫が必要です。
4つ目は回答の方向性について話しました。
生成AIは自分が出した回答に引きずられる傾向があります。
なのでケースによっては途中で軌道修正することが難しい場面もあります。
こうした時は新規でチャットを立ち上げるなどして仕切り直しをして会話を始めることをお勧めします。
はい今日はこの辺ということで本日も聞いていただきありがとうございました。
番組ではこのように耳で学べるAIを毎週発信しています。
通勤中や火事の合間にAI情報をキャッチアップできます。
毎週水曜朝に更新していますのでぜひフォローをお願いします。
そしておすすめの生成AIツールをまとめた資料も配布しています。
興味のある方はこちらもぜひ概要欄にリンクを貼っておきます。
お相手は耳で学ぶAIの矢野鉄平でした。
また次の配信でお会いしましょう。
