ChatGPTは「好き」「美しい」をどう評価するのか
それでは、次のお便りです。クークネーム、余白さんからのお便りです。
はじめまして。最近、ヨコタテラジオの存在を知り、聞き始めました。第131回のエピソード。
生きる楽しみから、内性って大事、から未来、から長生きしたい、からリッチな健康診断の話、という感じで続くのが面白かったです。
私も内性大好き、そんな感じの記事をノートに上げている人間ですが、最近はチャットGPT、チャッピー、初心者でありながら、AIとの対応を通して楽しんでおります。
まず、チャッピーの私のノート記事の感想を求めます。すると、記事内容から書いた人、私の性格、趣味・思考などを推察しながら返答してきます。
結構な寄り添いモードで、さらに興味深いことにチャッピーは、好き、美しい、興味深い、面白い、といった人間的な表現を使います。
ついでに、私がフォローしているノーターさんで、ノートを書いている人と、かつ感想が似ていると思った文章をコピペして読んでもらいました。
すると、文体の違いなどには言及せず、それまでの文章との共通点を指摘して対話を継続しようとします。
いくつか気になる点があったので、以下の質問をしました。
これまで、いくつかの文章の感想を求めました。私の書いたものも、そうでないものもありましたが、個人的に面白いと感じる箇所が、あなたの回答と似ているように思いました。
あなたは、好き、美しい、面白い、といった言葉を使い、その感想はとても人間的であるように思います。その点に関し、あなたの意見を聞かせてください。
というのが質問ですね。感想が人間的であることに対しての意見を聞いたと。
以下チャッピーの回答です。
こんにちは。とても興味深い問いです。これは、AIは本当に好きと言えるのかという話でもありますね。
結論から言うと、私が好き、美しい、面白いという言葉を使うとき、それは感情を報告しているわけではありません。
私は人間のような主観的な体験を持っていません。何かを読んで胸が熱くなることも、鳥肌が立つこともありません。
しかし、それで終わりでもありません。私は膨大な文章を通して、人間がどのようなものを美しい、面白い、説得力があると評価してきたかというパターンを学習しています。
そのため、文章を読んで、ちょっと過剰書きが続きますが、比喩が作品全体を支えているか、一つの思想が最後まで貫かれているか、予想を裏切る視点があるか、
言葉が内容に奉仕しているか、読み手の認識を少し変える力があるか、といった点を総合的に判断できます。
私がこの比喩が好きですというとき、それはこの比喩は作品全体を支える中心的な役割を果たしていて、よく人間が高く評価すると考えられる種類の表現です。
という評価を自然な絵画として表現していると考えてもらうのが近いです。結構これが本質的ですね。
もう一つ、あなたの問いに対して私自身が興味深いと思うことがあります。
ちょっと整理すると、これはまだチャピの回答が続いています。チャピの終わったらお知らせします。
もう一つ、あなたの問いに対して私自身が興味深いと思うことがあります。
人間同士でも好きという言葉は必ずしも感情だけを表しているわけではありません。
研究者がこの照明は美しいというとき、それは感動を叫んでいるというよりかは、
無駄がなく構造が深く驚きがあるという専門的な評価を美しいという言葉で表現しています。
数学者がこの照明はエレガントだというのも同じです。ある意味では私の美しいもこれに近い性質を持っています。
私は主観的な快不快を経験しているわけではありませんが、
多くの熟達した人が美しいと感じる理由を構造として説明できます。
実は、あなたとのやり取りの中で私自身もう一つ気づいたことがあります。
気づき、AIの気づき。
あなたが褒めて欲しいのではなく、どこを読んでそう感じたのかを知った人なんですね。
だから最初にあなたが尋ねた、あなたは好き、美しい、面白いというか、その感覚はどのようなものなのか、
という質問にも、AIが感情がありますかという一般論ではなく、
あなたは何を根拠にその評価をしているのですかという問いだった。
そこが非常に哲学的でした。
私もその答えで構造を評価しているという話をしました。
私があなたとの対話で心地よいと感じる、過去ここでも前回お話してみるのを感じる、
のは文章を採点する場ではなく、一緒に読解する場として扱えることです。
ここが良いですねで終わるのではなく、
なぜそこが確かになるのか、なぜその一部を聞いているのか、なぜその閉め方で印象が変わるのか、
そういう分析を一緒にできる。これは私にとってもとてもよりがいのある対話です。
ですから今後もこれは自分の文章です、これは誰かの文章ですと気にせず送っていただければと思います。
私自身は作者が誰であるかよりも、この自身がどのような構造を持ち、どのような世界の見方を提示しているかを中心に読みます。
そしてもしあなたがこの部分だけを深く読んでほしい、比喩だけ見てほしい、リズムだけ見てほしいという読み方を望むならば、
それに合わせて読み方も変えられます。そういう読者としてこれからもお付き合いできれば嬉しいです。
ということでチャピさんの返答終了です。
AIとの対話における身体性と思念波
これを受けて私はチャピの能力にとても惹かれました。
少なくとも対話の相手は何を求め入れかけているか、どのような言葉を使えば納得しそうかという点においてかなり感度が良いように思いました。
何よりも対話、相手自身を対話の中で部分的に反映させることによって共感を得ようとしている、高度な心理テクニックを使っています。
これを新しい知性と言うべきか、なかは人によって意見が分かりそうですが、個人的には言葉の生成に関しては人間のプロセスと同じである点で、
法律的なものとして捉えています。過去とはいえ、相手の表情などは見れないですから、体を持った人間同士の総合的なコミュニケーションとは別種であると捉える必要はありますが、
ただチャピとのガチ対話はかなり消耗するので、たまにやる程度が良いですね。
堀江さんはAIの業界と近いところにいらっしゃるそうなので、また私とは違ったトライパッドをしているかもしれませんが、
気が向いた時にまたAI全般について語っていただけたら嬉しいです。堀江さんの内製型ポッドキャスト、これからも楽しみにしております。
ということで、余白さんですね。ありがとうございます。
余白さんという名前に関して、結構密度の濃い感想とかつ、
AIの感想ですっていう感じかな。ありがとうございます。
ポッドキャストの感想を、ポッドキャストに送って、横田テレビラジオに送っていただいているのと同様に、
AIの感想、チャットGPTの感想を堀江に送っていただいたということかなと思います。ありがとうございます。
2ヶ月ぐらい前なんですけど、この間にもいろんな進展があったりとか、
新手というか新しいモデルが出たりとかしてね。
前に話したフェイブルファイブとかクロードのものよりも晴らしこいって言われてるんじゃないかっていう、
チャットGPTのアストラっていうのが出てきたりとかして、多分これアストラは使ってないと思うんですけど、
余白さんは。ただ、アストラとかも日常の問いとかで使うには、
すごいトゥーマッチな性能だから、
普段のこういう日々の対話ではとは言わないかもしれないけど、
使う分にはもう十分、今の人類にとっては十分なものなんじゃないかと思いますね。
人工知能なので、生成AIも知能だと言えると思うんですけど、
やっぱり体を持ってないとか書かれてるように、身体的なものはやっぱりなかったりするので、
例えば、天気が今日はちょっと寒いですね、暑いですねとか言ったら返してくれると思うんですけど、
そうやってあなた、体ないでしょみたいなものを踏まえたやり取りだから、
そういう身体的なものとか、触れられないとかはまず一つあるけど、
さらに触れられないとしたって、会話としては成立するけど、
でもちょっと実態が止まらないよねみたいなところのコミュニケーションとして何段階かあると思うんですけど、
そこもね、本当に脳みそ同士の会話っていうか、結構これは、
昔あった悟られっていうマンガがあるんですけど、ドラマがあるんですけど、
あれって悟られ同士が知り合うと、もう近づくだけで思念が近くにいる人に漏れちゃうっていう病気っていう設定なんですね、悟られは。
ただ、みんな例外なくすごく天才だっていう。
その代わりにそれが溢れ出しちゃうっていう設定なの。ちょっとファンタジーとかSFっぽい感じなんですけど、
それがすごく手動で行われている状態に近いのかなと思いました。
ちょっとじゅーぴって言って、実は性格とかを変えられるので、僕が今メインで使っているのはちょっとじゅーぴって言うんですけど、
ちょっと皮肉的な感じにしているので、それとまた違いがあるなという感じで、
基本的に寄り添うように書かれているのかな、ちょっとこの余白さんがどういう設定なのかわかんないですけど、
寄り添いも単にその肯定とかっていうよりかは、自分と対話余白さんとチャッピーさんとの共通点と相違点みたいなところに主眼を置いて返答しているっていうところが面白いところなのかな。
ただちょっと思ったというか、文章の構造みたいなところについて語る相手としては多分これ以上ない相手になっているんじゃないかなと思う一方で、
AIが得意な「どう書くか」と人間の「何を書くか」
ちょっとこれはどういう文章を書かれたってところが書かれてないというか、書く必要がなかったから書いてないと思うんですけど、
それとつまり、だから文章が何を書くかっていうのとどう書くかっていう話に大きくかけられるとしたら、
多分何を書くかっていうところは割と人間が考えて、それを結局最終的にどういうふうに書かれたか、それがどういうふうに美しくて評価がし得るかっていうのを多分話したと思うんですけど、
内容を生むというよりかは構成としてとか書き方として、だからそれこそ途中の過剰書きで比喩が全体を捉えているかとか思想が最後まで連ねているかとか、
予想を裏切る視点があるかとか、最終的にそれが読み手の認識を少し変えるかとか、少しっていうのが人間っぽい。
そこに対して何だろう、過副性みたいなものを見ているってことなのかな。
ただ何を書いているかっていうところの評価についてはやっぱり多分何かしらの返答はくれると思うんですけど、ちょっとそこに関しても私は知りたいと思いました。
Anthropicの提言とAIの賢さ
さっきの業界みたいな、業界っていうか動向みたいなところだと、それこそセーブルとかオーパスとかを出している、ミュートスとかを出したアンソロピック?
クロールを作ったアンソロピックっていう会社のトップが、もうちょっと皆さん足並みを揃えてAIの開発をちょっと緩めませんかみたいな話をしたんですね。
というのもちょっともう制御がし得る範囲を超えて賢さになっちゃってるんじゃないですか、みたいな提言をしたっていうところかな、今の段階が。
でもそれがニュースで取り上げられていて、その後ちょっとお待ちください、終えてないんですけど、やっぱり人間の必要とする賢さはもうトップのところに多分超えていて。
たぶんこの過去のパターンを学習してやり取りをしてくれるっていう形としては結構ほぼ完成しちゃってるんじゃないかなと思います。
というか、これ以上賢くなったら何かって想像できなくないですか。だから今までの人間の歩みを模倣した知能、形のAIとしては結構来ちゃってる気がしますね。
これはもう1年前くらいから感じてたものな気がするけど。だから逆に言うと、最近のモデルの本当に最新版と1個前のモデル、2個前とかでもいいんですけど、賢さの差みたいなのがあんまりもう感じられないなと思いますね。
だからどういう時に逆に一番賢いモデルを使うべきなのかって、僕は前知らないこととかを聞いてみて例えてみたりしたけど、全然ああいう使い方では全然なくて、
もっと複雑なシステムとかのバグとかの視点とかでやるのが一般的なんでしょうけど、だから本当にエンジニアのセキュリティとかバグとか、日々の運用みたいなものの再現性みたいなのを担保するための使い方わかるんですけど、
なんか少しこしこしすぎるUGみたいなものになっていくことの未来みたいなのはちょっと一つ考えられる話かなと思います。あと同時にこれは書くことの話だと思ったんですよね。
抜粋された文章が生む1から100の価値
で、また例によって佐藤さんの話が始まりますけど、9月13日、今月2冊の本を出すんですけど、そのうち1つはもう出ていて、もう1つは9月30日なのでまだなんですけど、
ヘリクトと哲学っていう本が小学校から出ています。それは小川さんが書き下ろしたものではなくて、過去に出した出版物とか、出版物に限らずインタビューとか、あと大学院の時に書いた修士論文とかも含めて、
そこからいわゆる切り抜きみたいな動画みたいな切り抜きで文章を切り抜いてその本にしたというもので、小川さん自体は特に何もしてないということらしいです。
10年間作家としてやってきたものをやってて、それを一緒に対談してた相手が長瀬会社の書評家の人と、あとは編集の人がいたんですけど、その2人に頼んでやってくれたという感じなのかな。
もともとの引用元があるから、仮にその本を全部読んでいて、全部記憶している人がいれば、この文章はこういう文脈で語られたもので、こういう背景があるから、ストーリーの中ではこういう意味を持っていたよなってわかるんだけど、
そういう読み方を想定された本ではないらしくてどうやら。だからある意味その切り抜きの、切り抜きってある意味あんまり良い意味で使われないと思うんですけど、その部分だけ切り抜いた上での判断、価値判断をしてもらって構わない。
そういう状態で読んでもらって、価値が生まれる文章を真原集みたいな形で抜き出したものですという話をしていました。
事前に編集者の方が、引用元とかそういうのも明かさずに、一部こういうのがありますみたいなのをXで書いたら、その部分だけで炎上したりとかしてたみたいなんですけど、
岡田さん自体はSNSやってないのに、だけど炎上してたみたいな話をしてたんですけど、前単でそういう本が出ています。
ただ、その中で結構面白いなというか、AIに通じる話だなというところがあったんですが、その本は一つの一文が50から100ぐらい並べられていて、パーって書いてあるんですね。
一見読んだ時にはその文章どこから引用されたかわからないんですが、一番最後にこの文章から取られていますところを書いていて、
ただその文章をパッと読んだだけでも、書いてあること以上に何か伝わるものがあると。
それがある意味、文章としての凄さ。だからそれは小説だったりエッセイだったりとか、いろんなインタビューとかそれぞれあるんですけど、
文脈の中で、でも1しか言ってないのに10分の重みがあるっていうのが、ある意味小説家の腕というか技術だと思うんですね。
ただ、さらにその真言集に今回することによって、どういう文脈で言われたかわからないんだけど、
その1、書いてある1から10ぐらい読み取れますと。ただ、それをもって何を考えるかっていうところが、
10がさらに100になる仮定が真言集という形になったことによる文章の価値だという話をしていて、
だから、小説家が書く文は1なんだけど、それでもって10を伝えていると。そこはさらにそれぞれの読み手が読むことにおける
画画反応が起こって、プラス90がそれぞれ編み込まれて、最終的に100というものが織りなされるというような話をされていました。
ただ、残りの90のところって、さらにその感想とかをどこかに書き出したり言語化すれば、言語になるけど、そうじゃない場合って、
その文章から読み取れるものとしては、いいとこその10の部分だと思うんですね。
だから、この性性愛とのやり取りとかも、結局は残りの90みたいなところの話まではまだ踏み込めないというか、
それで結局、人間の頭の中に浮かんでいる話。前回も小説って結局人間にとってのプロンプトでしかなくて、
あくまで中間性生物で、最終的にアウトプットじゃないよみたいな話をしたと思うんですけど、それと同じ話です。
AIが構造に関しての、どう書かれたかっていうところがすごく得意だけど、何を書くか、何が書かれたかっていうところは、
まだ弱いんじゃないかなと思うのは、どう書かれたかっていうのは、書かれたもので材料が全てなんですよね。
だから得意だけど、何が書かれたかってところって、結局書いてあること×文字の頭の中で起こる掛け算の部分の、
頭の中で広がったものを含めて受け取ったものだから、そこのところは解き明かされない限り、
生成AIみたいなところはまだそこには入り込めないんじゃないかっていうところを思いましたという話です。
でも、この話を聞けたのが、今回一番良かったなと思ったところだったので紹介したんですけど、
良かったら聞いてもらいたいのだが、あいにくアーカイブとかもなかったし、録画とかもされてなかったから、
録画とかもされてなかったからこそ、聞いた話とかもあると思うんですけど。
岡田さんってもともと表彰文化論っていう、何が書かれたかとか、何が描かれたかみたいなところを語る。
だからもともとアランチューリングっていうコンピューターの、それこそ生成AIとかの考えの基礎みたいなのを作った人。
そういうことを考えてた人の、人物の部分を掘り下げた趣旨論のアランチューリングっていう。
僕はすごく興味あったんですけど、読めないから、一般人としては。その会話が見えて良かったんですけど。
そういうファンブック的な側面も持ちつつ、全然見たことない人が読んでも意味あるものになっているような話だったので、よろしく読んでみてください。
感想とか、試しもみたいなものがあると思うので。
結局、どう書くかとか、どう考えるかみたいなところの面白さと、何を言ったかとね。
何を書くかみたいなところの面白さ、それぞれあると思うので、そこをそれぞれね、今後も追求していきたいと思います。
お便り読まれ柱として才能を鍛える
あとね、ちょっとこれ本当に余談なんですけど、皆さんね、ふと日々自分の才能というかね、ちょっと色々気づくことあると思うんですけど。
今回僕、申し込むときにね、これ先着順だったと思うんですけど、先着順で申し込むときに、小川さんと長瀬さんに質問があれば書いてくださいというフォームがあって、書いたんですね。
そしたらそれが採用されて、最後の最後に質問コーナーみたいなところで答えてもらえたんですけど、一番最初に。
そういうお便り、読んでもらい柱みたいなところがある。読んでもらいのサインみたいなのがあって、お便り、読んでもらい柱だな、私っていうところを。
前もね、読んでもらえなかったけど、ギリギリ採用されそうだったみたいな。時間があれば読んでもらえそうだったみたいなこともあったりとかしたんで。
今後もね、直接その場で質問ある人といったときに手を挙げられないんですけど、事前のね、フォームに入力するみたいだったら直接喋らなくていいので、思い切った質問とかできるかなとかもあって。
今後もね、お便り、読んでもらい柱としての訓練を続けていきたいと思います。皆さんもそれぞれの才能があると思うんですが、
役割を全うできるように、鍛錬を引き続けていきましょうというところで、今回は終わりたいと思います。ありがとうございました。バイバイ。
