シンギュラリティには三つの定義がある
KANERIN シンギュラリティって、何? 何のこと言ってる? っていう話ですね。
しぶちょー 全くそれだね。何のことなんだろうね。
KANERIN 定義、何なの? みたいな。どういう意味の言葉なの? みたいなことを意外と知らずに、
なんかもうAIが世界破壊するんでしょ? みたいな。
AIによってAIが作れるようになっちゃうんでしょ? みたいな。
KANERIN 漢字の言葉でシンギュラリティという言葉を表して、なんとなく理解していると。
今日はそこを定義を知ってもらって、
じゃあイロンマスクとかサムライとか言ってたらどういうことなのかっていうのを
ちょっと腹落ちさせてもらうという回でございますね。
しぶちょー 腹落ちするの?
KANERIN するかどうかは分かりません。
しぶちょー 分かりません。
KANERIN 分かりません。分かりませんが。
しぶちょー 定義はすばっとあるんですか?
KANERIN ありません。
しぶちょー ないの?
KANERIN ないです。
しぶちょー じゃあみんな違うことを指して言ってる可能性あるんだ。
KANERIN ああ、もうすぐさて鋭いことを言うんだから。
ちょっとほっとくとすぐ次話そうとしたこと話すね。
しぶちょー ダメだね、ほっといたら。
KANERIN KANERさんはもう。
しぶちょー 台本つぶしだね。
KANERIN 台本つぶしでいいと思います。いいパスでした。
しぶちょー いいパスだった?
KANERIN もう今日のね、核心というか、本題。
今日覚えてほしいことが、もうそれですね。
それはね、こちらですね。
シンギュラリティには3つの定義があると。
そういうことですね。
しぶちょー 3つ違うパターンがあるってこと?
KANERIN そう、それぞれ違う人が、3人偉い人がいて。
シンギュラリティってこうだよねって言ってる学者が3人いると。
それぞれみんなちょっとずつシンギュラリティの視点が違って。
あのね、この3種類の意味でシンギュラリティって語られているんだけど。
シンギュラリティが来たっていうときに、この3種類の中のどれを指しているのかを誰も明示しないんだよね。
だから一応。
知能爆発型とAIによるAI改良
しぶちょー そんな結構違うの?
KANERIN 全然違う。
しぶちょー いろんな学説がありますみたいな言葉なんだね。
KANERIN 学説というか、もういろんな定義をした人がいて。
これがシンギュラリティだって言ってるのが3つぐらい代表としてあって。
その中のこれだったら確かに来たと言えるのではないかみたいなことがあるから、
来たとも言えるし来たとも言えないという絶妙な状態になってると。
それがね、なんとなくの答えなのよね。
しぶちょー 定義によっては来てるし。
KANERIN 来てるし来てないと。
しぶちょー この定義によっては来てない。
KANERIN で一番言われるシンギュラリティっていうのが、
知能爆発型というもので。
しぶちょー 初めて聞いたんですけど。
KANERIN これがですね、アイ・ジェイ・グッドさんという1965年の人が言ってる人なんですけど。
しぶちょー そんな昔の人?
KANERIN シンギュラリティ自体は非常に古い言葉だね。
しぶちょー あ、そう。
最近のトレンドワードじゃないんだ。
KANERIN じゃないです。もともと一番最初に言い出したのは、ノイマンっていうね。
しぶちょー ノイマン?
KANERIN 天才数学者のノイマンっていう人がいるんですけど。
しぶちょー 知ったことあるよ。数学者?
KANERIN そう、パソコン作って、コンピューター作って開発した人じゃなかったかな、確か。
KANERIN ノイマン型コンピューターとか。
KANERIN その人が最初シンギュラリティっていう言葉を言ったと。
KANERIN そもそもシンギュラリティって日本語で訳すと何て言う言葉になるかというと。
しぶちょー 技術的得意点。
KANERIN あ!
しぶちょー 合ってる?
KANERIN 合ってる。
しぶちょー よし。
KANERIN なんか今調べた?
しぶちょー 調べてない。
KANERIN もともと知ってた。
しぶちょー うん。
しぶちょー シンギュラリティってだって、なんだろう、AI以前からそういう言葉あるよね。
KANERIN 技術的得意点。
KANERIN ある点を超えたら後戻りできないのかなみたいなイメージで。
しぶちょー まさにそういう、ある種の発達の分岐点みたいな。
しぶちょー ここを境にとあることが起こるよっていう点。
KANERIN そう、ここを超えたらもう、あとはなんだ、AIが自分で進化を繰り返して人間の手に追えなくなるみたいな。
KANERIN そういうイメージがあるよ。
しぶちょー あ、そうそう、それがね、知能爆発型と言われるシンギュラリティだよね。
KANERIN 一番最初のやつ?
しぶちょー そう、知能爆発ってそれこそ、AIが自分より賢いAIを作れるようになったら、改良が連鎖して止まらなくなると。
KANERIN なんか怖そうだね。
しぶちょー だから、AI自身がAIを作りますよと。
KANERIN これは知能爆発ってことで、AI自身がAIを作るっていうことで、作られたAIが自分より賢いAIだったら、
KANERIN そしたら次作られたAIがまた自分より賢いAIを作るっていうので、もうAIの改良の連鎖が止まらなくなって知能爆発を起こしますよと。
しぶちょー ずっと天才になり続けるみたいな。
KANERIN そのAIが作れるAIが、自分のAI、作られたAIの性能を越すっていうのが一個シンギラリティだよねっていう。
KANERIN これが知能爆発型のシンギラリティと言われるもの。
しぶちょー 最初に越したところがもう、その点ってこと?
KANERIN そう、それを越してしまった瞬間に、もう爆発が起こるよねと。
KANERIN それが、だって爆発が起こらないんだったら、自分、AIがAIを作ったときに、自分より性能が低いんだったら、別に何も起こらないと。
KANERIN これがちょっとでも越えた瞬間に、もう指数関数的に爆発するんだと。
しぶちょー それさ、素朴に思ったんだけどさ、一回越えただけで終わるかもしれないじゃん。
しぶちょー 次、越えられないかもしれないじゃんね。なんでそれずっと越え続ける前提なの?そこ。
KANERIN ああ、なるほどね。何かしらの物理的な限界があって、成長が止まる可能性があるってことね。
しぶちょー 限界があるかもしれないし、最初のそいつだけかもしれないじゃん。たまたま越えれたけど、その次いけないみたいな。
KANERIN 基本は再現性があるんじゃない?その賢いAIを作るみたいな。
しぶちょー っていう前提に。 KANERIN 前提に立ってる。
KANERIN AIがAIを生み、これ1965年の理論、その、何だろう。
KANERIN 試行実験の話だよね。
しぶちょー 実態はないでしょ、AI。
KANERIN 実態はないと思う。実態はないというか、実態はあるよ。第一AIブームぐらいの最中だと思うんだけど。
しぶちょー 第一次だからもう全然、鼻くそみたいなもんですよね。
KANERIN そう、推論の世界で。普通に問いプログラムっていうね、メールをクリアするみたいなやつを、一生懸命ちっちゃいニューロンでやってたみたいな。
KANERIN ような時代の話だね。
しぶちょー なるほど。
KANERIN なんだけど、自分より賢いAIを、今のイメージではないと思うけどね。さすがにそういう。
KANERIN 理論上は、自分より賢いAIを作ったら、そいつは自分より賢いAIなんだから、
KANERIN この自分より劣ったAIが自分より賢いAIを作れたということは、この賢いAIはさらに自分より賢いAIを作れるだろうっていう前提。
KANERIN それは筋としては通ってるじゃん。っていうのをずっと繰り返していくよねと。
KANERIN また物理的な限界があったら、また何らかの違う形でブレイクスルーする力を持ってるんじゃないかなみたいな。
KANERIN っていうのにどんどん賢くなっていくよっていうのが、知能爆発。これが一個のシンギラリティだね。
しぶちょー それのイメージ強いね。
予測不能型と人間の知能超え
KANERIN あともう一つね、予測不能型と、ボタン押そうとしてる?
しぶちょー 押そうとしちゃった。
KANERIN 予測不能型というシンギラリティがあります。
KANERIN これはね、バーナー・ヴィンチっていう方が1983年に言い出してるらしいんですけど。
しぶちょー それもだいぶ昔だね。
KANERIN そうなんですよね。
しぶちょー 40年以上前。
KANERIN だいぶ昔なんだよね、シンギラリティの定義されたの。これは予測不能型っていうのは、人間より賢いAIが生まれたら、その先の未来は原理的に予想できないっていうシンギラリティ。
しぶちょー 人間より賢いAIが生まれたら。
KANERIN AIの知能が人間を超えたらっていう前提だね。
しぶちょー 人間越え、アインシュタイン越えみたいなこと?
KANERIN そう、人間の。
しぶちょー 人間のどこを超えたらなの?
KANERIN 人間よりもって書いてあるから。
しぶちょー 人間の一番天才?
KANERIN そうだね、人類が到達し得る知能を超えたらってことだと思う。だからアインシュタインとかそういう天才を余裕で超えていったら。
しぶちょー 天才を超えたらか。
KANERIN その先の未来で起こり得ることは原則的に、原理的にもう予想できないものになるよねと。
しぶちょー 天才越えだからね。天才ですらもう予測できない。
KANERIN のにもう人類の知能を超えてしまったら、その先の未来がどうなるかは人が考えたってもしょうがなくて。
KANERIN 一切見ることのできない世界にそこでなると。その特異点がシンギラリティですよという定義だね。
しぶちょー 人間の知能を基準にね。
KANERIN そう、人間の知能を基準と。1個目の知能爆発はAIがAIを作れるっていう前提で、自分より賢いものを作ったらっていうシンギラリティで。
KANERIN これは予測不能、次の予測不能型っていうのは、人間より賢いものが生まれたら、もうその先は人間には予想できないよと。予測不能の世界になってしまうよねというそういうシンギラリティと。
なるほどね。これもまたちょっともっともらしい気はするけど。
でも何をもってこの人間を超えたっていうのが、IQテストみたいなやつ?
KANERIN それまで別に明確に定義されてるわけじゃなくて、試行実験なんで。何だかこう、人間超えたらもう無理だよねみたいな。この地図を超えたらみたいなことは別に定義されてないよね。
なるほどね。
加速型と2045年予測
KANERIN で、次ですね。加速型ですね。レイ・カーツワイルさん。2005年に言ってるんですけど。
聞いたことあるぞ。
KANERIN これはこうなるよっていうシンギラリティの定義じゃなくて、いつそういうのがこのままだと来るかっていう時間を予想した定義なんだけど、技術はこのままだとこのままの勢いだと指数関数的に加速をし
続けて、2045年頃に人間とAIが融合するという予言だよね。
融合?
KANERIN これが2045年にシンギラリティが来るよと。
なんかちょっと気持ち悪いワード出てきたね。
KANERIN 融合というか、ほとんど人間とAIが共存していく世界になるよねと。人間とAIが同等以上になってみたいな。で、このAIが人間に到達するっていうのが2045年にこのままだと起きるよねっていう
のを予想しているのが、このレイ・カーツワイルさんが言ったシンギラリティ。
2045年って聞いたことあるの?それだったんだ。
KANERIN そう。
40年後に起きますみたいな予言だったね。
KANERIN そうそう、そういう予言をしたと。
なんだっけ、それが2045年に何が起こるっていう。
KANERIN これはね、人間とAIが融合するみたいな、すごい曖昧な話なんだけど。だから人間の知能にAIが到達するよねっていうのが2045年に起きるよと。
人間の知能にAIが到達することをシンギラリティとこの人は言ってるわけね。
到達する。
KANERIN 到達する。
さっきのアインシュタインと同等みたいな話。
KANERIN そうだね、同等だね。で、さっきの予測不能型は、超えたら未来は予想できなくなるよねっていうのをシンギラリティって言ってる。
はいはいはい。予測できなくなることが。
KANERIN これがシンギラリティだと。で、加速型、さっき言った最後に言ったのは、同等になるよねっていうのは2045年に起きて、ここがやっぱ技術的得意点になるぞと。
その先何が起こるかは別に特に言ってない。っていうこの3つの有名なシンギラリティの定義があって。
なるほど。
KANERIN めっちゃレイヤーも揃ってなくて、すごくバラバラなのね。
同じ言葉使ってるだけで。
KANERIN そう。だからシンギラリティ来たっていう人は、無意識にこの3つの中のどれかを選んでる。
三つの意味を切り分ける
なんかもう未来が予想できなくなりそうだぞと。シンギラリティ来るよなのか、
AIがよりAIで賢いAIを作れるようになって、もうこう止まらなくなりそうだな。
あ、シンギラリティ来るなみたいな。だから人間の知能に近づいてると。
もうすぐ超えるよ、みたいなことをこのシンギラリティと言ってるか。で、全然意味が変わってくるよね。
でも2つだよね。
KANERIN そう、ゲーム的には2つ。
自分で自分を改良できちゃう。
KANERIN そう。
人間追いついて越しちゃうみたいな。この2つって感じ?
KANERIN そう。
まあなんかこの2つのイメージだったよね。なんかなんとなく。
KANERIN シンギラリティ。
俺の中でも。
KANERIN ああ、まあそうね。
なんかシンギラリティっていう時は、そういうイメージではあったかな?
KANERIN でもAIがAIを作って超えることなのか、人間より賢いものが生まれて、未来が予想できなくなることって全然違う意味としては。
ああ、違う?違うの?なんか似たようなこと言ったな?
KANERIN 知能爆発と。
ああ、別にあれか。人間を超えなくても、あれか、自分より賢いものを作れれば。
KANERIN そうそうそう。まあその結果、人間の知能をあっという間に超えて、未来が予測できるようになった。まあ繋がりはあると思うんだけど。
KANERIN どこをシンギラリティというかによって、だいぶ違ってくるよねと。