#16の対決で決定した"むかいソロ回"がついに実現!
ねごとはバチボコ仕事なのでおやすみです。(変な日本語だ)
急遽マイクを託されたむかいくんが語ることとは……?
番組公式サイト▼
https://extradio.podmate.fm/
番組へのお便りフォーム▼
https://forms.gle/A7CExVNwgFVMGTpd6
番組SNS
𝕏(旧Twitter)▼
@notfmextradio
Instagram▼
@extradio.notfm
Music by Joakim Karud: http://youtube.com/joakimkarud
Music by Khaim: https://www.khaimmusic.com/
感想
まだ感想はありません。最初の1件を書きましょう!
サマリー
今回のソロ回では、AI、特にChatGPTの歴史と仕組みについて掘り下げていく。AIは突然賢くなったのではなく、コンピューターの性能向上、データ量の増加、学習方法の進化、そしてハードウェア環境の整備といった要因が積み重なって現在の形になった。初期のAI研究からエキスパートシステム、そして機械学習やディープラーニングを経て、現在のLLMへと発展してきた経緯を解説。AIは人間のように思考しているのではなく、次に来る可能性の高い単語を予測して文章を生成しているに過ぎないが、その高度な予測能力により人間との対話が可能に感じられることを説明している。
オープニングとソロ回の告知
今日はね、あのー、ねごとさん、お休みなんですよ。 いや、実は、前回の番組の時に言い忘れた、そう、言い忘れてしまったって言っててね、なんか仕事らしくて、
いつもの土曜日の夜に大体収録してるんですけど、収録できないって話になって、あのー、不意に来てしまいました。 仲良いソロ回。
エキストラジオ エキストラジオ
この番組は、世界の脇役2人が、様々なテーマを緩く語る雑談ラジオです。
リッスン、スポティファイ、アップルポッドキャスト、スタンドFM、アマゾンミュージックにて、毎週日曜日朝9時から配信しております。
各種お使いのプラットフォームでフォローよろしくお願いします。
また、番組へのお便りも概要欄のリンクからお便りフォームにてお待ちしております。
それでは、エキストラジオ、今週も最後までお付き合いください。
AIの歴史と仕組みの解説
はい。いやー、これ、雑談じゃないね。
今日は、あのー、ソロだから、雑談ってさ、対話じゃないですか。
対話じゃないから、これは独り言だね。はい。
じゃあ、独り言していきますか。
なんか、どこに言うこともないんだけど。
大体こう、何か喋ろうかってなった時、
まあ、私はラジオを聞く側の人間で、あんまりね、自分から発信とか、
全然興味がなかった人だからね。
まあ、とりあえず何喋ろうかなって、AIに聞くわけですよ。便利だよね、AI。
だから、じゃあ、まあ、AIに聞いてみようかと思って、
まあ、でも、そもそもね、AIって何って話で、
何で今こうやって急に使われ始めたのかっていうところをちょっと深掘りしていくと、
まあ、なんか個人的に面白かったから、
うん、なんか、今日は独り言で、
チャットGPTみたいなね、AIってどういう歴史を持って生まれたのかっていうのを簡単に分かりやすく、
はい、紹介しておこうと思います。
なんかね、
そもそもチャットGPT、今どういうものかっていうと、
まあ、使ってない人もいるだろうけど、
まあ、使っている人も多いと思うから、
まあ、ざっくり言うと、文章を作ってくれたり、質問に答えてくれたり、
まあ、仕事の資料、資料って言ってもちょっと使い方難しいけど、
作ってくれたり、
あとは画像を作ったり、音声作ったり、プログラムを書いたり、
まあ、プログラムは結構書いてくれるね。便利で使ってるけど、
そういうことしてくれるんだけど、
はい、今もスマートフォンからでも使えるっていう、
まあ、でもこれ、結構唐突に出てきた感があって、
まあ、なんでこんな急に身近な存在になったんだろうかっていうところですね。
まあ、AIは実は突然進化したってわけじゃなくて、
まあ、結構昔から研究されてきて、
で、ある時期急に使われ始めたっていうところ。
まあ、これが今のAIブームなんですよね。
で、まあ、AIでやっぱ大事なのはコンピューターの性能が大きくて、
今使ってるこのタイプのAIは大量の計算をする必要があって、
人間で一瞬で判断できることとかでも、コンピューターにやらせるってしたら、
まあ、とにかく大量の計算が必要になると。
で、昔のコンピューターではやっぱりやりたくても、
現実的な時間では計算できなかったっていうのが、
今はコンピューターの性能向上で、
結構リアルタイムにすぐオートが返ってくるっていうところで可能になってきたっていう。
で、あともう一つはデータかな。
人間が知識を持っているように、当然何か出力するには大量のデータが必要で、
で、そのデータからパターンを学習していくっていうことが必要になってくるんだけど、
今はインターネットが普及して、文章とか画像とか音声とか、
世界中で作られたデータ、人が作ったデータ、この膨大なデータっていうのがデジタル化されていった。
で、AIにとってそれはすごい好都合で、
AIが学ぶための教材っていうのは爆発的に増えている、
共有されてて、昔はテキストベースだったものが今は動画まであるわけですから、
AIにとっては非常に好都合だったっていうところかな。
あとは計算ハードの面で言うとGPUっていうグラフィックボード、
ゲームするときに使うやつ。
あいつが結構発達したというか、性能向上がすごかったので、
ちょっと前でいう機械学習とかディープラーニングとかそういうところが結構進歩したっていう。
だからこうやって並べてみると、AIが急に賢くなったっていうよりは、
コンピューターが速くなったとか、データが増えたとか、AIの学習方法が進歩したとか、
AIを動かすためのハード環境が揃ってきたっていうところ。
それで今のAIがあるっていうところなんですよね。
じゃあそもそもこういう技術がすごいものなら、どうしてもっと昔から、
ちょっと実現は今の手元ではなくてスーパーコンピューターとかかもしれないけど、
昔から何で使われてなかったのって話なんですよね。
AIの考え方自体はもうすごい昔からあって、
元をたどると機械は人間のように考えることができるのかっていう問いになるわけなんですけど、
これもう1950年代、だから我々の年代の父親が生まれた頃かな。
その頃にはもうAI、Artificial Intelligence、人工知能っていう言葉が登場してる。
この時期からね。そうするともうすごい早いよね。
まだこの時なんて当然パソコンどころか、
もう一般家庭にこういうデジタルものはなかった時代なんだけど、
この時の研究者たちはいつか機械が人間の知能を扱えるようになるかもしれないっていうふうに考えていたと。
もちろん当時のAIって今の我々が使ってるようなチャットGPTとかとはもう全く違って、
当時のコンピューターなんでも全然制限がすごいあって、
それでも研究者はまずはゲームを解かせたりとかとは、
数学かな、その問題を解かせたりとか、
あとは人間の言葉をちょっと扱ってみたいとか挑戦を始めていくと。
ここで大きな問題が出てきて、
人間にとって簡単なことってコンピューターにとっては結構難しいっていう問題。
これは人間なら目の前にある写真を見てこれは犬だって簡単に判断できるけど、
文章をあと読んでこの人は怒ってるなとかそういうことはわかるわけですけど、
コンピューターに同じことさせようとするとこれ難しいんですよね。
なので初期のAIは別なブロッチを取るしかなくて制約もかなりあったので、
人間がその考え方を理解してそのルールを教えてしまえばいいとそう考えたんですよね。
例えばAならB、BならC、Cだからこうみたいな。
そういう人間がルールを一つ一つ設定していくわけなんですよ。
これはその当時のコンピューターには非常に相性がいい方法、簡単なんですよね。
ルールが明確であればコンピューターは人間より正確に早く処理できるのでそれは簡単だよね。
だけど1980年代になるとこの考え方を利用したエキスパートシステムっていうAIが注目されるんですよ。
エキスパートだからこれは専門家だね。
専門家として持っている知識や判断ルールをコンピューターに大量に登録して専門家のような判断をさせようとする。
これは例えば医療の診断とかあとは企業の業務とかそういうところでちょっと期待されたんだけど、
実はここにも限界が来ると。
現実の世界ってルールだけじゃ簡単に表現できないんですよね。
人間の専門家なら状況に応じて今回例外だとか言えるけど、コンピューターにそのすべて例外教えをするとルールってすごい増えちゃって。
ルールが増えれば増えるほど今度は別のルールと矛盾が生じる。
だから結果として人間の知識を全部ルールとして書き出すことには限界があったんですよね。
ここが問題が大きくて、AIって期待が急速に絞んできちゃって、
この後AIの冬って言われる時代に突入すると、
AIの研究そのものがなくなったわけじゃないけど、あんまりメジャーではなくなった。
AIなら何でもできるっていうような期待が現実と合わなくなっちゃって、
そうなると予算、研究費とかそういうのも出にくくなるし、注目も減ってきちゃったっていうところなんですよね。
そんな時期があって、じゃあここからどうやって復活しなおかって話なんですけど、
大きな転換点にあったのが、人間がルールを全部教えるんじゃなくて、
コンピューター自身にデータから学習させるっていう発想。
これが機械学習なんですけど、
例えば大量の犬の写真と、これが犬ですっていう正解をコンピューターに与えて、
コンピューター自身で写真の中から犬に共通する特徴とかパターンを探していくんですよね。
多分これって人間がこうだっていうふうな思い込みとかなくて、
完全にコンピューターから、コンピューター自身で見た特徴。
だから人間が耳がこう、目がこう、鼻がこうとかそういうのを教える必要なくて、
そのデータをたくさん与えてそこから判断に使える特徴をコンピューター自身が学習していく。
この発想でAIは人間が知識を書き込むものから、データから知識を学習するものっていうふうに変わっていったんですよね。
ここからが進歩が大きくて、それがちょっと前に話題になったディープラーニング。
ちょっと前つっても結構経つね。10年以上経つのかな。
ディープラーニングは人間の脳の神経細胞を参考にしたニューラルネットワークっていう仕組みを何層も重ねて使うんですけど、
これでコンピューターがデータの中からより複雑な特徴を自動的に見つけられるようになってきたっていうところがあって、
画像で言えば最初の層っていうのかな。そこでまず単純な線や形を見出していって、
その次の階層で目や耳のパーツとか、その上でこれは犬っぽい犬の顔だっていうような複雑な特徴を捉えていく。
実際もっと複雑なんだけどイメージとしてはこんな感じ。
2010年にこのディープラーニングが大きな注目を集める出来事があって、
画像認識のコンテストでディープラーニングを使ったAlexNetっていうのが、
それまでの今まであった手法を大きく上回る性能を出して、
ここで一段レベルアップした軽いブレイクするみたいなものがあって、
これでAIは本当に今までと違うレベルにまで性能を伸ばせるんじゃないかっていうふうな期待から、
だんだんAIに対してまた注目が集まってきたっていうところかな。
2010年代に入るとディープラーニングが出てきて、
AIの性能っていうのは昔に比べたら随分向上してきて、
それを象徴する出来事が2016年にあったGoogleのDeepMindが開発したAIで、
AlphaGoっていうGoのソフトなんですけど、
これが世界トップクラスのEGO騎士に勝利したっていう。
EGOってチェスとか将棋に比べると盤面が非常に広くて、
可能な手の組み合わせっていうのが膨大なんですよね。
これで言うとチェスはすごい簡単で、
その次が将棋。将棋はコマを取ってまた使えるっていうところからだんだん難しくなってくるんだけど、
EGOはそれに比べてさらに複雑で、
なのでこのコンピューターが人間のトップ騎士に勝つのはまだまだ先なんじゃないかって考えられてたんだけど、
これで勝っちゃった。
過去の対局データなどを利用して学習して、
自分自身で対局を繰り返すことでEGOの戦い方を学習していって、
それで人間のトップクラスの騎士に勝利したっていう。
これが割り箇所大きな出来事で、
これがAIが単純な計算や決められた種類の処理じゃなくて、
非常に複雑な問題でもデータからパターンを学習して対応できるってことを、
世界に印象つけたというか、そういうところかな。
ここまでだと、でもまだもう一段進化があって、
それが2017年に、これもまたGoogleなんだけど、
研究者が発表する論文があるんですけど、
その中にトランスフォーマーっていうニューラルネットワークの構造があるんですよ。
このトランスフォーマーでアテンションっていう、
注意とか注目っていった意味を持つ仕組みがあるんですけど、
人間で言えば文章を読むとき、
人間って全ての単語を機械みたいに同じように見てるわけじゃなくて、
ある文章から、誰がとか、何をとか、
そういう文章の中から言葉同士の関係を考えながら意味を読み取ってる、
自然にやってると思うんですけど、
機械でそれをこのような文章の中でどの言葉とどの言葉が関係しているのか、
っていうのを効率的に扱えるようにした技術なんですよね、トランスフォーマー。
なので、これによってAIは長い文章の文脈を扱う能力を大きく伸ばしたと。
このトランスフォーマーを基礎に発展していったのが、大規模言語モデル、
いわゆるLLM、聞いたことないと思うかもしれない、
ラージランゲージモデルってやつなんですけど、
大量の文章データを使って学習して、文章のパターンを非常に大胸に身につけたAIなんですよね。
その代表的な技術の一つが、GPT、聞いたことがあるものが出てきましたね。
Generative Pre-trained Transformerの略。
2022年にオープンAIが、チャットGPTとしてそれを公開すると、
今、AIが一般の人に短いなったってことで、
こうやって振り返ると、積み重ねっていうのもあるけど、
一個一個重要なブレイクスルーみたいなものを挟んでいって、
今こうやって使われているようになったっていう、
なかなかね、今こう突然出てきたように感じるけど、歴史は長いんですよね。
僕らが学習している頃は、ニューラルネットワークっていうワードが出てきたけど、
あんまりAIって注目されていない時代だったので、
興味を持つ学生とかもそんなに多くなかったかな。
私、情報工学系出身なんですけど、あんまりそこに興味を持っていなかった。
研究室でもAI用紙とかは、うちの大学ではなかったかな。
でもあったけど、あんまりメジャーな感じではなかったかな。
そんな感じですね。
AIの文章生成の仕組み
チャットGPTのようなAIって、実際に中で何をしているのかっていう話なんですけど、
AIは文章を作る時、人間のように頭の中で文章を考えている。
頭っていう概念がちょっと難しいけど、そういうわけじゃなくて、
AIは入力された文章を細かい単位に分解して、
その文脈から次に来る可能性が高いものを予測していると。
例えば、今日は朝から雨がって文章があったとして、
それが来たら、降ってるとか激しく降ってるとか、雨がずっと続いてるとか、
その次に続きそうな文章、文章というか言葉を予測していくんですよね。
それで一つを選んで、そこからさらに次の言葉を予測するみたいな。
これを非常に内部で高速に繰り返すことで、一見すると人が最初から最後まで文章を考えて書いているような文章が生成される。
これ、実際には単純に単語を一つずつ選んでいるわけじゃなくて、
その内部で持っている大量のパラメーターを持つニューラルネットワークが、文章中の言葉同士の関係とか、
あとは学習した膨大なパターンを利用して、次に現れる可能性を計算していくと。
だから質問に答えたり、文章の続きを作ったり、要約、翻訳、あとはプログラムを書くのも得意というところ。
そうなんですよね。
ここでちょっと不思議に思うのが、次に来る言葉を予測しているだけでどうして人間と会話できるように感じるんだろうということなんだけど、
これはAIが本当に人間と同じように理解しているのかというちょっと難しい問題になるんですが、
実際にAIの中にあるのは、イメージは多分中を見るとただの数列、数字の塊なんですよね。
これが学習を繰り返すことで、その数字が若干更新されていって、
その数字というのは最終的には単語だったり文章になるんだけど、
次に何の数字が来るか、次に何の単語が来るかというところを予測しながら出していく。
今チャットGPGTでもモデルがあると思うんだけど、
モデルがどんどん進化していくのは中の数字がより人に最適化されているという考え方が近いのかな。
そういう最適化されたものが今公開されて、また我々と会話しながら学習して、
また次のモデルが公開されるというような形でどんどん数字が最適化されている。
それがモデルとして公開されて、今AIとして使われているという感じなんですよね。
だから会話しているという認識はチャットGPGTには意識というものはないので、
そういうふうには人が勝手に感じているだけなんですよね。
会話していると言いつつ、チャットGPGTなりAIはただ文章を吐き出しているだけなのでそこに意識はない。
いつか意識を持つとしたらそれはまた別の何かなのかもしれないね。
AIの進化と今後の展望、雑談
そんな感じですね。そんな感じでAIと歴史と仕組みにざっくりついてお話ししてきましたが、
AIが作った文章と人間が作った文章って今は見分けがつかなくなってきちゃったかな。
動画とかはちょっとまだ怪しいものが出てきているけど、
AIが書いてくれるものって逆にすごく役立ってるんで、仕事でもバンバン使えるようになっちゃったしね。
そうやってどんどん動画なり画像なりそういうところまでAIが作り始めちゃうのかな。
当然今しゃべってきた原稿もこれは全部AIに作ってもらったものだし当たり前だけど、
今日話したテーマはAIですからね。
そんなところかな。
そんなわけで今日はソロ撮りをしてみましたが、
ソロ撮りはあれだね。俺はちょっと続かない気がするな。
これからずっとソロ撮りだったら今日が最終回です。
そんな感じで今週はこれぐらいかな。
今日は天気が悪いんですけど、秋雨前線が登場するってことは秋の訪れは今年は早そうだね。
エルニーの現象?
そういう状態で日本の南の海水温は若干低いはずなので、
そうすると高気圧の張り出しが弱いのかな。
おかげで今年の夏はすごい涼しくて、暑い日もあったけど涼しい日も多かった印象かな。
今日とか結構肌寒いぐらいだからね。
エルニーの現象が起こって一昔前の夏の温度っていうのは恐ろしいことだね。
大気が異常の状態であって普通っていうのは考えたかもね。
これからまた来年暑い夏が続いていくんでしょうか。
エアコンが壊れたら生きていけない世界になってしまいましたね。
いやーこれはもう北海道にみんな住むしかないのかななんてちょっと考えちゃいますが。
まあでもそれでも地球の長い歴史で考えたら昔より涼しいというか、
昔は今より平均気温が高い時代があったって考えると、
地球に長い間人間が住み続ける、いつまで人が生きていられるのかっていうのは怪しいところですね。
まあ大きな隕石が衝突しただけで多分大変なことになるだろうしね。
文明は半分ぐらい崩壊するような感じがしますが。
なんて思いを馳せながら、はい。
今週はここまで。
ここまでのお相手はエキストラジオ向井でした。
コメント
スクロール