1. ツイてるブッククラブ
  2. 第75回「ChatGPTの頭の中」を..
2023-12-17 15:36

第75回「ChatGPTの頭の中」をレビューする回

今月は、ハヤカワ新書から出版されている スティーヴン・ウルフラム著「ChatGPTの頭の中」をレビューしていきます。

Summary

ツイてるブッククラブは、橋本ダイヤ、石谷まさき、セイコー、タツオがお送りしている月に一冊本を読もうというポッドキャストです。今月は、早川書房から出ている新書ですね、スティーブン・ウルフラム・チョ、チャットGPTの頭の中をレビューしていきます。本の良さといわるべきメタ的な本の成り立ちを含めて、私は個人的に非常に好きな本です。

初めに
ツイてるブッククラブ
ツイてるブッククラブです。
ツイてるブッククラブは、橋本ダイヤ、石谷まさき、セイコー、タツオがお送りしている月に一冊本を読もうというポッドキャストです。
今月は、早川書房から出ている新書ですね、スティーブン・ウルフラム・チョ、チャットGPTの頭の中をレビューしていきます。
私、タツオさん、セイコーさん、石谷さんの順でレビューをしていくということなんですけれども、
まず私から、推薦者ですけれども、この本との出会いは、そもそもはブログ、この本ってほとんどブログからできているはずで、
とてもチャットGPTが出てきた早い時期に、英語でウルフラムが長い記事を発表しまして、何しろこの本の元になる。
その記事がマジで長くて。
でも当時、チャットGPTの情報っていうのがあんまりいなかったので、それがものすごく貴重な情報源で、半日以上かけて、その長いブログを読み続けたんですね。
それで、皆さん読まれてわかるように、内容的にはやや難しいので、そのブログもすごい面白いんだけど、すごい難しいっていう印象が長くあってですね。
で、現在だと、そのチャットGPT、生成AIとか大規模言語モデルとか、そうしたものを私有で説明する方法がかなり確立されてきているんですよね。
それで、わかりやすく一言で説明できるように、だんだんなってきたところがあるんですが、これが書かれた当時は全くそんなものはなくてですね。
この本って結構比較的…
かなり、メカニズムに忠実に話そうとしているために、それでやや難しいって捉えられると思うんですけども、でも結構正しい説明なのかなというふうに思っていてですね。
しばらくして、最近これが日本語で出てですね、当時英語で、当時情報もない中で読んだときの難しさと比べるとですね、ものすごい感動的に簡単なんですよ、この新書。
なるほど。
比較すると、それですごく感動したっていうことがありました。
実は多分若干改訂されてるのかなとは思うんですが、時間経ってるから。
っていうことをですね。
あと、ウルフラムアルファっていう検索エンジン、私ずっと長く注目していて、大学でもGoogleを超えるとしたらこれだねなんてことを2000年代言っててですね。
超えなかったんですけれども。
ウルフラムさんって。
それがマスマティカっていうプログラムをはじめとして、結構画期的なものをやってる割に一般向けはあんまりしないみたいなところがあって。
チャットGPTが出てきて、ウルフラムプラグインで、また統計的な手法と記号的な手法って本人言ってるけれども、それがつながることでウルフラムエンジンが花開くかなと思ったら意外に、
その後データアナリシスが出てきて。
計算アルゴリズムとプラグイン機構が出てきたために、すげえ、また花開くのかと思ったら、またそうでもない、目がまたなくなってきたみたいな、ちょっとかわいそうな天才ウルフラムの本で、私はこれすごく大好きなんですよね。
という感じです。
それじゃあ次、誰でしたっけ。
辰夫さんです。
辰夫さんお願いします。
はい、えっとですね、すごい解説文書として、すごくすっきりしてわかりやすいっていうのがありますよね。
なんか小学生でも頑張れば読めちゃうかな的な話かなと思っています。
僕仕事でディープラーニング、使いはしないんですけれども、結構若い人たちが使ってたりする話はミーティングで聞いたりとかね、
LSTMだとかトランスフォーマーだとかバートだなんだとか、いろいろみんなそういうの使って、分析とか研究とかしてる話を、
いろいろ聞いてきて、あんまりエンコーダーの構成がぐちゃぐちゃって、何が何やらよくわからないみたいな話があったんですけれども、
そういうようなレベルの話じゃなくても、この本の解説だと文章がインプットされると、ディープラーニングってぐちゃぐちゃって次の文字が出てきて、
それも含めて次の入力に私とまた次の文字が出てくるっていう、そういう感じで出てくるんだよっていう、
これ本当にその話だけだったら小学生でもわかるじゃないですか。
というベースで何事も説明してるって感じなので、すごくわかりやすいので、一流の解説文章みたいな感じで言ってしまっていいのかな。
とりあえず、チャットDPTの仕組みなんだろうって言ったときに最初に読む本っていうのは確かにその通りだなと思っています。
僕が面白いなっていうか、話としては、
パラメータ数が学習に、
使う文書数と同じくらいだみたいな話があって、
なんかなんだろう、ウェブとかから入手できるのが2000億くらいかな、があって、
それと同じくらいのパラメータ数があるんだと。
何千億っていうパラメータです。
だからそういう話はよく聞くんですよね。
チャットDPT3だと2000億で、4になったら1兆になったとか、
ただその数字のイメージが、
漠然としてたんだけど、
それが大体その世の中に存在する文書数と同じくらいだみたいな話が書いてあって、
なんかすごく頭の中がくっきりしました。
チャットGPTの仕組み
もちろんね、数はまたパラメータ数がどんどん増えていくのかもしれないんですけど、
何だろう、世の中にあるデジタル化された言語データの数のオーダーくらい、
10倍くらいに収まるのかなっていう、なんとなくその世界観的なね、
そのチャットDPT3の、
DPTのディープラーニングネットワークの規模感、世界観みたいなのがだいぶ把握できたので、
その点、自分もすごく読んですっきりできたっていうところが良かったです。
2章のところは、多分誰かまたコメントするかと思うんだけれども、
おまけみたいなもんですよね。
本当なんか、そういう論理的なとか、数式的なものとかね、間違いやすいよ。
だから、これを使うといいですよみたいな話も、なんかちょっと古くなっちゃったってところがあって、
なんかこの、何だろう、この分野の、何だろう、進化の速度の流れの速さっていうのを感じて、
ちょっとしみじみしてしまいました。
そうですね、星をつけるとしたら、これは星5でいいかなと思います。
特に1章だけ読めばいいって話ではあるんですけど、
何じゃろうなと思う人はとりあえず目を通して、
それからまたいろんな本を読んでいくと良いのかなと。
ちょっとこれに先駆けて、結構そのチャットGPTの基礎から説明するとかいうのを、
いろいろちょっとパラパラ見てみたんですけど、
この本がやっぱり一番分かりやすいなと思ったので、
最初に読めということで、星5とさせていただきます。
はい、以上です。
はい、ありがとうございました。
じゃあ次が、せいこうさん。
ウルフラムの業績とチャットGPTの評価
はい、私はそんなにチャットGPT詳しいわけでもなく、
もちろん専門家でもなんでもないわけですけども、
ビジネスの雑誌なんかにチャットGPTをビジネスに活かすとか、
そういう特集をパラパラと眺める程度で、
あと時々暇つぶしと言ったらチャットGPTに失礼ですけど、
そういうふうに使う程度で、そんなにあれなんですけども、
ただ、読んでみたら、こういうふうな仕組みになっているのかと、
漠然と、というか、
本当に初歩のことなんでしょうけども、
いろんな文書とか、ウェブとか、いろんなデータを取り込んで、
次に出てくるのがこういうのであると予想するとかですね、
似たような単語をいっぱい集めて分類していくとかですね。
出てくる事例も、数字の認証、画像認識のあるところが分かりやすい、
身の回りでよくある、そういう事例なんかが出て分かりやすかったなと思います。
後半に、
第2章に弱点があって、それをウルフロムさんが作ったやつだとこんなに上手くできるんですよ、みたいなのがあってて、
今は先ほどちょっと違うって話もあったけど、
やっぱり普通の素人だと、AIが出てきた、
AIが言う数字に関するものってすごい信用しちゃうと思うんですよね。
こういう計算してくださいとかって、まさか3の73乗を間違えるとかそんなのは思わないので、
そういうのはちゃんと、
弱い部分だよとかって言ってくれるのは、嬉しいなと思いました。
ウルフロムさんって、マセマティカとかで、
Macなんかの昔よくデモで、
多面体がぐるぐる動くようなやつとかって、よくデモで使われてたりとかって、
昔からコンピューターの業界で有名な方かと思うんですけども、
今この、いろんなチャットGPTなんかもアイディアっていうか、
理論なんかはずっと昔からあったんでしょうけど、
今このね、
個人的な好みの本
計算量がなせるようになって、こういうのが世に出てきたというのがあるんでしょうから、
今理論で夢見物語みたいなものでも、
10年後とか5年後にはすぐパッとあっという間に、
計算量が、計算機が早くなったり、資源が多くなればできるのかなと思って、
もうちょっとそういう意味でも楽しみだなと思いました。
あと、これね、早川新書で1000円ぐらいで買えますけど、
こういうの出前だとね、
高段車のブルーバックスとか、
そういうのでよく出てたと思いますけども、
早川新書でこういうの出るって、
文系の人にもこういうのが行き渡りやすくなって、
またそういう意味でも面白いんじゃないかなと思いました。
日本語でこういうのがね、1000円程度で読めるというのは、
本当ありがたいなって思いました。
日本の国の素晴らしさとか、
そういうものもちょっと改めて感動するっていうか、
英語できた方が世の中広がるよと言いつつも、
まだまだ日本語でも頑張れるかなとか、
ちょっと思ったりもしまいした本でした。
評価ですけども、
星5で良いっていうのは、
全然入手しやすく、読みやすく、
勉強したい人にとってはもっともっと、
さらに広げていける本だと思いますので、
多くの方に、興味ある人、多くの人に進めたいと思いました。
私は以上です。
はい、ありがとうございました。
じゃあ最後、石谷さんで。
はい。
えーと、
まあ、
本当に過不足ないっていう感じですよね。
難しすぎもしないし、
えーと、なんだろう、
そこはちゃんと説明してほしいよっていうところは、
ちゃんと説明してくれるっていう、
非常に過不足ない、
いい本だなっていうのがありつつ、
まあちょっとさっきダイヤさんがね、
言った話にちょっと近いかなと思うんですけど、
まあまあ達夫さんも言ってたか、
この2章はこれでいいのかみたいなね、
でも、ウルフラムとしてはこの2章の話をしたいんだろうな。
でも、この本の評価には2章関係ねえよな、
みたいなところが若干あって、
あの、この本はいい本なんだけど、
ウルフラムの評価には果たしてつながるのだろうか、
みたいなね、
なんかこう、本の良さと、
そのいわゆるメタ的な本の成り立ち、
みたいなところのちぐはぐ感も含めて、
個人的に非常に好きな本だな。
あの、ちょっと思い出したのは、
僕はほら、そういう意味では、
そのコンピュータサイエンスの専門家ではないので、
その、ボコボコ、やっぱ歯抜けにはなってるんですよね。
で、そのチャットGPT、生成AIが出てきたときに、
どうしても元のベースとしての、
そのニューラルネットワークの話っていうのが出てくるわけじゃないですか。
でも、その解説をちゃんと読んだことが、
なかったので、
僕の中ではこの本は、
あ、これでやっとなんかちゃんとニューラルネットワークのことがわかったかな、
みたいなところは正直あって、
で、それで言うと、
同じようなことを、
そういえば過去にあったなと思うのが、
これ何年前だっけ、
えーと、いつだっけな、
えー、もう20年ぐらい前かな、
あの、エレガントな宇宙っていう本があったと思うんですけど、
あの、超ひも理論。
の解説書だったんですけど、
えー、結果的には相対性理論のことがよくわかるっていう本だったんですよね。
相対性理論がわかんないと超ひも理論がわからないんで、
相対性理論をちゃんと説明した上で超ひも理論の話に行くっていう、
結果として、あの、相対性理論の解説書として非常に優秀っていう本だってあったのと、
結構似てるところはあるなと思って、
ニューラルネットワークの解説書としても非常に優れているっていうところも、
個人的にはとてもありがたかったかなというところです。
で、えーと、星は、そのさっきの本としての成り立ちのちぐはぐ感なところも含めて、
えー、ウルフマンかわいいなみたいなところも含めて、
星5と、はい、させていただきます。
はい、以上です。
翻訳者の繋がり
はい、ありがとうございました。
まあ、私も5なんですけどね。
あの、あとこの本の翻訳者が高橋明さんで、
はい。
あの、以前取り上げた、
えー、翻訳者のための超時短パソコンスキル対戦の著者なんですよ。
あー、なるほど、なるほど、なるほど。
あれなんですよ、実は。
何かそこに繋がってくんですね。
そこに繋がるのね。
そこに繋がって、なるほど、なるほど。
気づかなかった。
おー、気づかなかった。
ほら、まあ、我々今年2冊、高橋さんに載せられたということになるということです。
いや、だって、僕正直、あの、ほら、ウルフマン言語っていうのとウルフラムが繋がってなかったですからね、最初。
あー。
あー。
そういうものがあるんだな、みたいな感じで読んでて、ちょっと待って、ウルフラムってウルフラムか?みたいな。
あー。
そうそう。なんだ、お前の話をしてんのか?みたいな、途中で思いましたからね。
そうですね、ウルフラム。
なんか、そうですね、まあでもウルフラム、なんかまた大ブレイクをしてほしいですけどね。
ちょっとなんか、なんか一回、ちょっと今は逃しそうですけど、チャットGPTでは。また来るんじゃないかと思っております、天才だから。
はい。
はい。
はい。
はい。
はい。
ありがとうございました。また次回。
はい。
ありがとうございます。
15:36

Comments

Scroll