高次元空間の理解
あのー、岡野原さんの本でも出てきたんだけど、高次元空間っていうのが はいはいはいはい、3次元以上ね。
そう、3次元以上の高次元空間っていうのが結構キーワードなのかなと思ってて、
高次元空間上に多分概念を、高次元空間のこの辺りに例えば犬っていう概念があるなとか、
この辺りにじゃあ猫っていう概念があるなーみたいのが多分頭の中に、ChatGPTとかの頭の中にあるんじゃないかなと思ってて、
だからそうね、高次元空間っていうののイメージを持ちたいわけよね、俺は。
その高次元空間っていうのがね、あんまりこう視覚化できてなくて、それが視覚化できるともっとより理解が深まるんだけど、
それを何か視覚化したいなーと思ってて、
しおくんの中でその高次元空間ってどういうイメージなんだろうっていうのは聞いてみたかった。
まあでも3次元な気がするけどね、僕の中では。
想像できるのは3次元で。
うん、だから結局3次元で処理してる気がするな。
で、何、なんかすごい、すごいデカい3次元空間みたいな感じ?
いや、そんな感じはしないけどな、何だろう。
もう3次元だけど、高次元だと思うようにしてるって感じなのかな。
うーん、3次元、えっと、その3次元っていうのはどういう図が頭に浮かぶんだろ?
なんかタンパク質みたいな、グニュグニュグニュグニュグニュってこう、なんか。
何それ。
絡まったさ、あの、糸みたいなのがあるとかね。まあ物によると思うけど。
おお?
そんなのがあるイメージかな。
その例えばニューラルネットワーク、どんな文脈で言えばいいんだろう。
例えばその画像が入ってきて、この猫とか犬とかを認知するみたいなのを、
まあ、ニューラルネットワークがやってくれるってなったときに、
この部分が猫の耳とかさ、なんかこの部分が犬の鼻とか、
なんかそういう、まあ圧縮して、実は本質的な部分は少ししかないみたいな。
頭の中にイメージされてるのは、さっきのニューラルネットワークの3層構造が頭の中に浮かんでるってこと?
いやいや、えっとね、その岡野原さんの方にも書いてあった気がするけどさ、
実際の入力データの高次元ほど、世の中は複雑じゃないというか、
本質的なものっていうのは、実は低次元で表せるみたいな感覚が僕にもあって、
実際は3次元ぐらいで表せるみたいな感じ?3次元以上あると思うんだけど、本当は。
岡野原さんの本に何て書いてあったか忘れたけどさ、なんかあの、
例えば犬の写真をさ、入力したとしてもさ、犬が正面向いてる写真もあれば、
ちょっと斜め向いて5度ずれてる、10度ずれてる、真横の90度ずれてる写真もさ、
犬っていう物体は同じだったりすると変わんない、変わってないでしょ、と。
で、変わってるものは犬の顔がどの方向向いてるかっていうだけじゃん。
だから犬が真正面向いてる、角度0、右に角度5度ずれたもの、角度10度、角度90度ずれたっていう、
まあパラメーターは1個しかないみたいな、動いてるパラメーターね。
角度っていうパラメーターしかない。
そう、角度っていうパラメーターが1個しかずれてなくて、他は全部一緒ですと。
だから、それぞれの写真はさ、ベクトルで表すと、もう何万次元みたいな、
100×100ピクセルの3色の、だから、100×100、1万×3、3万次元かける、
なんか、その時にさ、写真撮ってノイズが乗ったりしててさ、
はいはいはい。
全くこう、その画像ベクトルは違うように見えるんだけど、
ただ、ある犬が1次元で表せば、その0のところに1枚目の写真。
はい。
で、それがなんかこう直線になってて、10度のところには10度傾いた犬、
30度のところには30度傾いた犬みたいな、なんかその、本質的にはこれだけですよ、みたいな。
はいはいはいはいはい。
だから、今言ったのは1次元の例だけど、そんな感じで、
ニューラルネットワークの機能
なんか3次元ぐらいで複雑なものも実を表せるっていうのをなんとなくイメージしてる気がする。
ああ。
なんかそれを抽象化って言うんだろうね。
うん、そうね。
うん。
うーん。
その3次元の空間の絵を、ちょっと俺は知りたくて、その頭の中で浮かんでる。
例えば、その岡野原さんの本で言うと、高次元空間っていうのは、なんかめっちゃ広い宇宙、宇宙みたいな空間で、
で、ちょっとこの宇宙空間のこの辺りになんか星雲みたいなのがあって、その星雲の星一つ一つが、
なんだっけ、変数というか、星の一つ一つが概念。
うん。
Aという犬、Bという犬みたいな。
うんうん。
その概念と概念は似てる概念であれば近いところにあるし、違うものであれば離れたところにあるし、みたいな。
うんうん。
なんかそんなことを本に書いてあったような気がしていて、
うん。
なんかそういうイメージなのかなと思ったんだけど。
そうね。
まあ今これ、ちょっとリンク送っちゃったけどさ、画像の。
3次元のXYZってあって、
で、そこに紐とか点とかがいっぱいこう、にょにょにょにょっとこうあって、
はい。
っていう感じ、なんだろう、あのリボンみたいにカールしてるものがあったりとか。
うんうん。
うん。
まあ物によるよね、ほんと何をイメージしてるかだけど、まあ低次元でなんか表せる世界があるとするとはこんな感じかなと言って。
え、なんでこれは紐なの?
紐、紐みたいな感じ?
いや紐じゃなくてもいいと思うよ。なんかイメージするものによるよ。
これが、なんかガス状というか、なんか点が集まってて。
うんうん、はいはいはい。
均一にこう広がってる感じだとすると、
うん。
まあ丸、まん丸な球体かもしれないし。
うんうん。
でももうなんか、なんか10次元以上のすごい広い世界を圧縮すると、
うん。
なんとなく単純な丸ではない気がする。ケースが多い気がする。
うんうんうん。
いや本当にでも何を想像してるかとかによると思うけど。
なんかもうちょっと具体例がある方が正確に答えやすい気がする。
はい。今この我々が見てるのはなんか四角い立体の箱の中に、
うん。
なんか紐みたいのがふよよーんって浮いてる図だよね。
そう。これはかなり言葉で説明するのは難しいけど、
うん。
なんか水の中に液化したプラスチックとかを垂らしたりするとこんななんかひょろひょろ縮れた毛みたいな物体ができて、
うんうん。
あのできるような感じしない?
うんうん。
いや、なんか。
なんでこう音声で説明すればいいんだろう。
いや俺の頭の中だとこの三次元の四角い箱の中っていうのはなんかわかるんだけど、
うん。
だからその三次元の箱の中の大体この辺りかなみたいなあの点とか、
うん。
点の粒、点のいっぱいある集合みたいな。
うんうん。
で表せるイメージがあったんだけど、
うん。
なんでこの紐っぽい形になってんのかなっていうところが俺は不思議。
なんでだろう。
いやまあ、丸だったりすると思うよ。その物によっては。
でも、なんかもっと現実のデータって偏ってたりとか、
はい。
なんていうのかな。もっとランダムなか。
綺麗な形じゃないってこと?
綺麗な形じゃない感じはするけど。
あーだからそういうなんかちょっとフニャフニャした紐っぽいイメージが浮かんだわけだ。
そうそうそう。偏ってる感じ?
うんうん。
ほーほーほーほーほー。
なるほどね。
うん。
なんとなく分かったわ。
なんかさっきのベクトルにすると、この座標みたいのが特定できるってことなのかね。
そうだね。できるね。
三次元で考えるんですよね。
うんうんうんうん。
この座標のここに、この座標のここにあるのはこの概念みたいな。
うん。
感じで理解しているのか。
そうだね。
データの抽象化
実際は三次元じゃないと思うんだけど。
うん。
うーん、なるほどね。だから言葉っていうのを座標に置き換えて。
うん。
その、ChatGPTの頭の中にある座標に照らし合わせて、
で、概念を理解していると。
そうね。
うーん。
はいはい。
なんか今リンク二つほどまた送ったんだけどさ。
まあ僕がイメージするのはなんか、
高次元のやつを圧縮するとやっぱこういうのが見るから。
へー。
なんだろうね。やっぱこう綺麗じゃない感じする。しない?
うーん、これはちょっと言葉では説明しづらいなんか。
なんだろうね。なんだろうこれ。
だから点が、なんていうのかな。
なんかこう、まめ撒き散らしてファッとこう、散らしたようなものもあれば、
なんか一筆書きでパッパッとこう乱雑に書いた線があって、
それが太くなったり細くなったりとかさ、してて、
っていうね、なんかこうランダムな感じを見たような気がする。
うん。
うん。
まあでもこれもさ、どういう風に圧縮するかによってなんだよね。
へー。
見たい軸を取ってる。あのほら、次元を増やすとかさ、言ってたじゃん。白米で。
はいはいはい。
物事の見方を増やす。これとこれやってることとは一緒で、どの三次元を取ってくるか。
で、この三次元の取り方をすれば、実はこれが一直線になるものを取れるとか。
あー、はいはいはいはいはい。
あ、はいはいはい、あ、そういうことね。
うん。
あー、わかった。ちょっとイメージできたわ、今。
見る角度を変えるってことね、軸を変えるってことは。
あ、角度だけじゃなくて軸自体も作り直せるんだよね。
軸自体も作り直す。
そう、一個目と入力1と入力2を3対1で混ぜたような軸みたいなのが作れる。
ふーん。
そうすると、なんか人を並べ、例えば評価するときにさ、
はい。
あの、国語と算数っていうさ、軸で並べるっていう方法もあるんだけど、
国語に重きを置いて、8割の重みをつけて、算数に2割の重みをつけて計算した、なんか特殊な成績、
なんかこのとよだ指標みたいなのを作って、生徒の成績を並べてあげると、一列に並ぶと。
はい。
生成AIの進化
そのとよだ指標での得点っていうのが出て、生徒が並べられるじゃん。
うんうんうん、はいはい。
だからそれは次元を取り直してるみたいな感じよね。
ふーん。
そうすると、なんか全然違った並びになるんだけど、
それは自分で見たい見方の次元を作ってるみたいな感じ。
ふんふんふんふん。
なんかちょっとあんまり響かなかった。
なんかね、ちょっと今音がね、途切れ途切れだったから、
あ、そうだった。
多分あんまり俺に伝わってないんだけど、まあでもなんとなく言いたいことは分かった。
うんうん。
なんか、角度だけを変えるっていうと、
既存のものしか使えないっていうイメージかなと思ったんだけど、
うん。
自在に、自由に実は次元も作り変えられるというか。
なるほど。
組み合わせられるって感じかな。複数の次元を。
そっかそっか。だからやっぱ、なんか、
今その話を聞いて、やっぱ唯一の正解みたいなのはなくって、
どこの軸をどう取るかみたいなのはやっぱ人それぞれあるし、
何をどうとでも多分見えるというか。
そう。
何だろうかと思ったら。
うんうんうん。解釈次第みたいなのは同じように言えるかな。
あー。
うーん、そうか。こういう風になってますね。
でも、これ前回話したやつのさ、
はい。
なんだっけ、面白いとかの話でさ、
言葉のニュアンスとかを僕は結構無視しがちというかさ、
あんまり気にしてない傾向にあることに気づいたみたいなの言ったような気がするんだよね。
うん。
あんまりこう、言葉尻を意識してないというか。
はい。
なんかこの次元圧縮みたいな考え方があるとさ、
うん。
あのー、本質的なものはすごい少ないはずだって思っちゃってるからさ、
うーん。
その枝葉の部分を落としちゃうんだよね。
はいはいはいはいはいはい。
でも、やっぱり面白さとかを追求するならその枝葉とか、
小さいところをやっぱ気にしたり、ニュアンスとかが大事だったりするみたいな。
うーん。
まあでも、それはどうかね。
なんか俺もね、あんまりそういう細かいところは切り捨てるタイプだから、
うん。
情報を極力少なくしようとシンプル化しようっていうタイプなんだけど、
でもなんかその、人が普通はそこ気にしないよねみたいなところをやたらと気にするとか。
ああ。
なんかそういうところがあったりするんだけど、
そこはやっぱその人それぞれのニューラルネットワークの重みづけが。
ああ、重みが違うんだよね。
違うんだよね。
それはなんだろう。
たぶんしおくんにはしおくんの、たぶん重みづけがあって。
うん、あるね。
それは全体的にこう何かが少ないわけじゃなくて、たぶん別のところに偏ってるというか。
ああ、そうだね。
量は一緒なんじゃないかなと思ったね、その。
うんうんうんうん、確かに。
だからそれ気にしたくていいんじゃないか。
そうね。
全体的に少ないわけじゃなくて、
ただ他の人と偏ってる部分がちょっと違うっていう。
そうだね。
だけど。
だからそういういろんな偏りがある方が僕はいい世界だと思ってるわけよね。
画一的な偏りじゃなくて。
画一的な偏り?
みんな同じ方に偏ってるってこと?
そう、みんな同じように偏ってる世界は嫌だなと思っていて、
なんかそういうふうにしようとする動きにはすごい反発心が湧いてくるんだよね。
みんな違う偏りを持って、そのみんな違う偏りを大事にできる世界がいいなと。
なんか面白いなと思ったのが、みんなが違った重みを持ってる方が、人類全体では悟りに近づいてるみたいな。
あー、はいはいはい。
ランダムに近づいてるみたいな。
そうそう、そんな気がするね。
だからみんなの重みづけを全部重ね合わせるとゼロになるってことだよね。
まあ平均化してるというかね。
もしくは進化論的にはダイバーシティを増やしてる方向で、種の保存を優先してる感じもする。
種として生きる確率を上げる方向に。
うん。だから多分偏りをばらけさせてるんだろうなって思うんだけどね。
なるほどね。
はいっていうなんか生成AIからなんかだいぶ遠い世界の話になったんだけど、
AIとの関わり
まあでも俺が話したかったことはだいぶ話せてよかったんだけど、
なんかもっと最後にあの身近な話で言うと、
まあ生成AIをどう使っていくかみたいな話?
あーはいはい。
もっと身近というか現実世界で。
そうだね。
我々生成AIをどう使っていくべきなのかみたいな話ができたらいいなぁとは思ったんだが。
おー、とよだくんは?
僕が最近思ってるのが、なんかあの昔自分が子供の頃ってポケモンとかさデジモンとかさ、
あとメダロットとかさそういうのが流行ってるというかそういうところから影響を受けているんだけど、
だからそういう世界にだんだん近づいてるんじゃないかなと思ってて、
生成AIがなんかポケモンみたいな。
そうだね。
俺のポケモン君に決めたみたいな。
俺はじゃあヒトカゲにしようかなとか俺はじゃあゼニガメにしようかなとか、
なんかそういう世界になんか近づいてるような気がしていて、
例えば俺はじゃあChatGPTを使おうとか俺はじゃあGeminiを使おうとか、
Claude使おうとか。
そうだね。
でその各AIをいかに自分が育てて、
自分の望ましい方向にこう持っていくか、
いかにしてポケモンマスターになるかみたいな。
そうね、AIマスターになるかみたいな。
そういう世界になってるなと思っていて、
なんかそういう世界が今楽しいなと思ってるんだけど。
あー、なるほどね。
しおくんはどういう風に見てるの?この昨今のAIの、AI時代について。
そうね、でもポケモンみたいな感じでさ、
ポケモンボールが棚に並んでて君に決めたじゃないけど、
そのポケモンボールの中にいろんなAIがいるみたいなのはなんか、
僕もイメージしてるかな。
今日はClaudeを使おうとか、
進化してGPT4が4.5になったとか。
そうだね。進化してるね、確かに。
進化してなるとか。
あとは、付き合えば、
自分の情報とかもパーソナライズされてメモリーにたまってってるから、
まあ、懐いてくるじゃないけど、
なんか自分にとって役に立つ存在になる可能性が高まると。
まあ、危険もあるかもしれないけどね。
情報が漏れたりとか。
まあ、そういうイメージはなくはないけどね。
うん。
だから今までちょっと思い出したんだけど、
俺最近あのnoteを書いてるんだけど、
この白米FMで話した内容とかもnoteの記事にしてたりとかするんだけど、
なんかね、あれをなんでやってるかっていうと、
人に見てもらうっていう目的も一つあるんだけど、
自分の考えとかをWeb上に置いておくと、
AIがそれを参照してくれるんだよね。
そうだね。
その自分のコンテキストをAIに理解させるために、
Web上に自分の発言とか考えてることを置いておくと結構便利だなと思って。
なんかそういう意図でも置いてるんだよね。
なるほどね。
なんかそのWebサイトとかもさ、
AIが読み込みやすいような状態にしておこうみたいな記事も見たことある気がするね。
WordPressのファイルを特定の方法やり方で書いておくと、
もうAIが観点に情報を抜き出してくれるみたいな。
そうだね。今まではそのWebサイトにGoogleのクローラーが
その情報を読み取りやすいようなファイルを置いていたんだけど、
それがSEOとかに効いてたんだけど、
今はもうそのAIに読み取らせるためのファイルを置いておくっていうことだよね。
だから情報もAIが読み取りやすいような感じで書いておく方が、
まあいいんでしょうという世界なんですね。
あと面白いのは今日Twitterで見て面白かったのが、
これからはA to Aの時代だと。
ああ、AI同士。
C to CとかB to Bとか、
B to Cとかあるけど、もうA to Aだと。
ビジネスの未来
AI対AIのやりとりがビジネスになる時代になると。
そうだね。
C to A to A to Cみたいな感じだね。
Cの間にAが入ってお互い。
っていう時代ですねと。
なんかもうこれはインターネットができたのと同じぐらいのインパクト、
もしくはそれ以上のインパクトがある社会の変化なのではないかと。
そうだね。
いるんですが、なんかねやっぱり世の中があんまりそこに気づいてないというか、
なんかあんまり僕はねすごいあの今興奮してるというか、
すごいよすごいよって言ってるんだけど、
なんかあんまりそれが周りに伝わってる感じがしなくてねと思って最近。
しおくんはさ、なんか前講演で自分の周りの反応とかを話したって言ってたじゃない。
うんうんうん。
あれはどういうことを話した?
あ、でも周りはちゃんとキャッチアップしないとねっていう感じだよね。
自分たちの、特にホワイトカラーとかの仕事とか、
コーディングとかの話とかね。
ソフトエンジニアとかデータサイエンティストがやってることとかもまあ、
10年後どうなってるかなみたいな感じの危機感というか、
まあ自分たち何するかなっていうのは考え出すよねっていうのは言った気がするけど。
だから楽観論というよりは危機感って感じが強いのかな。
どっちもあるけどね、効率化ツールでは今あるから、
すごい勢いで目的をね設定したら、
今までの数倍のスピードでできるみたいな感じにはなると思うし、
けどいつ足を救われるかというかね、わかんないなっていう感じはあるから、
まあなんか一つの軸だけっていうのは、ポートフォリオ的にはリスクが高いというか。
未来に向けた生き方
そうね。
だからこうテニスのさ、なんていうんだっけ、なんとかポジション?
ウェイティングポジションなのかな?
なんか左右にこう揺れて、いつでもこうたまに反応できるような、
どっちから来てもいいようにってね。
そうそうそう、ちょっと動かしながら左右ってこう世の中が変わるのに対して、
反応できるような体勢とか体にしておく必要はあるのかなとは思うけどね。
うん、なるほど。
適応する力みたいな。
適応できないと生き残れないっていう感じはするよね。
生き残れない、うーん、そうか。
生き残る、生き残るって何なんだろうな。
なんかね、生き残る、生き残るって何だろうって今思ったな。
まあその、文字通りの死、生死っていう意味ではないかもしれないけどね。
あの、自分が生きたい方向に生きれるかみたいな。
なるほど、そうかそうか、自分の生きたい方向に生きれるかどうかっていうことね。
うん、うん、うん、そうか。
でもなんか俺は結構、今楽観的かな。
なんか自分がやりたいなーと思ってることがなんかもう何でもできるんじゃないかみたいな気分になってるから。
うんうんうん。
結構楽観的だな。
うんうんうん。
別に仕事を失ったとしても自分でAIがあればいくらでも仕事を作れるのではないかみたいな。
うんうんうんうん。
という気がちょっとしてるけどね。
うんうんうん。
でもそしたら周りの人を心配しなくてもいいんじゃないかなと思ったんだけど。
うーん、まあそうか、そうか、うーん、そうなのかな。
むしろとよだくんの利益だけを考えるなら別に周りの人は気づいてない方が、
とよだくんのなんかその職が失ってもビジネスで何とかできる確率は上がるんじゃないかなと思ったけど。
はははは、そうだよね。
そうそう、なんかね、今までそういう考え方がなぜかね、あんまりできなかったんだけど、
なんか最近ちょっとね、それもいいかなっていう考えちょっとね、なんか変化してきてるんだよね。
ああ。
自分のなんか、そのちょっとマキャベリっぽさが、ちょっと復活してきてるというか。
ははは、僕の影響してる。
でもしおくんそんなさ、その周りを、周りをなんだ、周りを蹴落としてみたいなそういうタイプではないと思うんだけど、
なんかね、あんまりこう、周りの人をどうこうというよりはやっぱ自分、自分をいかにどうするかみたいな方が、
なんか結構最近の、なんていうんだろう、興味関心としては高くなってきてだんだん。
うんうんうん。
なんかそっちのほうがね、なんか正しい、生物として正しい生き方なんじゃないかなって。
うんうんうん。
ちょっと最近思い始めてるんだよね。
うん。
うん。
なるほど。
だから、2025年はもしかしたらそういう方向になるかもしれない。
うん、いいんじゃないですか。
ふふふ、そうっすかね。
うん、流れが来てると。
うん、だから、そういう、なんだろう、いろんな時期があっていいんだと思うんだよな。
そういう、自分のことを突き詰める時期もあるし、
そうだね。
自分以外のことを見る時期もあるし、どっちも必要で、今までは僕はどちらかというと、
自分はあんまりっていう感じではなかったんだけど、
2025年はちょっとそっちの方向に寄り始めてる気がしますね。
だからちょうどいいタイミングで今AIの波が来てくれてですね、
ここはもう自分の人生に最大限活用しようと思ってるところでございます。
データサイエンスについて
って感じかな。
はい、そんな感じですかね。
うん。
しおくんは話したいこととかあったの?今日、生成AIの話とか。
いや、今日はでも、僕ももうだいぶ、整理はしてきたつもりだし、
それが伝わったらいいなと思う感じかな。
ふふふ、もうだいぶわかってきたよ、その学習のこととかね。
人間と比べて、やっぱ似てるんだなっていうこととかね、わかりましたんで。
感じかな。じゃあ、今日はこんな感じで、次回はデータサイエンスについて考えるみたいな方につなげようかって話をしたんだけど。
そう、データサイエンス。
それやる?もしくは、しおくんが今話したいテーマみたいなのがもしあれば。
いや、今んところね、どうだろう。
前にあがってた候補、なんだっけ、なんかあと2つぐらいあったよね。
え、なんだっけ?
なんか、笑いの、ちょっと忘れちゃったけど、他に2つあったような気がするから。
なんかあったことは覚えてるんだが。
えー、なんだっけ、なんだっけ、なんだっけ、なんだっけ、え、なんだっけ?
ちょっと忘れちゃったんで、またチャット見直すんだりして。
データサイエンスについてだとするとどういう感じになるんだろう、とよだくんの中では。
いや、わかんない、俺データサイエンスのこと何もわからないので、これから本を読んでどういう疑問が浮かんでくるか、それ次第かな。
でもデータサイエンスって今の教師あり教師なしが割と主だから、それが理解できると、なんだそういうことかって感じになるかもしれない。
あー、そっか。じゃあ、データサイエンスはちょっとその話を、本を読んでみて、なんか話したくなったら話すぐらいの感じにして、次はまたちょっと何か考えますか。
そうね。
もしましょう。はい。そんなとこかな。ちなみにもうすぐ2周年になるんですよ。
はいはいはい。
2周年になった時どうするかっていうのもちょっと考えた方がいいかな。
OK。
って感じかな。はい。
うんうん。
じゃあまた考えましょう。
はい。
はーい。じゃあ今日は。
お疲れ様でした。
はい、お疲れ様でした。
はい、どうも。
はい。
