2024-03-05 33:42

#14-3 AIをとりもどせ!「情報技術〈IT〉を説明する哲学」について考える

人工知能について考える(その3)です。


【今回の内容】

面白さが分からない系/本質観取とベイズ推定/哲学とITの関係性/役に立つと真理の探究/非構造化データとベクトルDB/数学ⅡBを習ってない/ChatGPTだった/メタ認知とベイズ推定/因果推論とデータサイエンス/因果と相関:心理的安全性に寄せて/大規模言語モデル(LLM)は強いAIか?/真逆のバイアス/楽観的な未来展望/AIに対するモヤモヤ/Detroit: Become Human/今回の感想/AIについてどう思いますか?


◆Detroit: Become Human

https://www.playstation.com/ja-jp/games/detroit-become-human/


【パーソナリティ】

とよだ:富士通で働くビジネス哲学芸人。

ショーン:シリコンバレーのテック企業で働くデータの魔術師。


【番組へのお便りはコチラへどうぞ!】

https://forms.gle/zGGArQTnfGuKY6Pj9


※このラジオは、個人の見解に基づくものであり、所属組織を代表するものではございません。


#白米FM #哲学 #AI #ベイズ推定 #因果と相関

00:06
だいぶ、なんか散らかした感じだったけど、議論になったのか、なんか。
いやー、わかんないね。これは、またいつもの通り、面白いのか面白くないのか、全然わかんない系だね。
ちなみに、その因果推論の科学、Book of Whyを読んでさ、最初の部分、3つの法則については紹介してくれたけど、
他にも、なんかこう、気になることとか、面白いなーと思ったこととか。
あー、はいはいはい。えっとねえっとねえ。えっとー。はい。あのー、あれだ。
前、我々前回、私を取り戻す哲学で、現象学の話とか本質看取の話をしたじゃない?
うんうん。
で、それって、お互いが主観的確信を持ってますと。で、それをお互い対話をすることによって、
共同的確信にレベルアップしていきましょうよ、みたいな話だったと思うんだけど、
それって、ベイズ推定と同じ営みなのではないかなっていうふうに思ったんだよね。
主観的確信っていうのが、ベイズで言う事前確率っていうのかな。
事前にそのものが起こると、自分がどれだけ信じてるかみたいな、いうのがあって、
で、それをお互いの対話を通してやることによって、観測データが増えていきますと。
で、その観測データが増えていくことによって、自分が元々持ってた仮説の確からしさというか、
尤度っていうのが変化して、事後確率が出ますと。
で、その事前確率より事後確率が上回ってれば、信念が更新されて、
で、それを繰り返していく営みをやることによって、お互いの合ってる部分とかを擦り合わせて、
共同的確信に至り、それをやっぱりみんなとやることによって、
普遍的確信に至るみたいなことと同じこと言ってんじゃねえかなと思った。
それが結びついてるのすごい。確かにそうだね。
なんかそのベイズ推定とかあって、なんかその数値化しにくいもの、自分が信じてることとか、
なんかその、そういうものを確率に織り込みを込みたいっていうモチベーションがあったって言ってたような気がするから、
まさにそうだと思う。で、それを先週話した、前回話したね、
本質看取に当てはめれば、まさにベイズ推定とかベイズ確率に従うね。
だからなんか世界は繋がってんだなと思ったよ。
03:03
繋がってるね。確率論と哲学が。
やっぱそのITの話とか、なんかすごいね、哲学とね、親和性が高いっていうか、
哲学、ITの中で話されてる概念とか、枠組みとかを使うと、
その哲学の思想とかがすごい理解しやすくなる、みたいなのってなんかすごいいっぱいある気がしていて、
なんだろうな、多分、ITってさ、多分一つの世界を作り出す行為なのかなと思って、
例えばサーバーの中に、サーバーっていう物理的な世界があったとして、
その中にソフトなりナンなりで、仮想的な世界を作り出そうとする営みみたいな感じだと思うんだよね。
それと、やっぱ現実の世界がどうなってるのかっていうのが、多分、相似関係っていうのかな、になっていて、
その哲学とITっていうところの、哲学を使ってITを理解するし、ITを使って哲学を理解するみたいなのがなんかすごいあるなと思ったりするんだよね。
だから、我々がやってるのってなんか面白い、面白いことやってんじゃねえかなって思った。
そうだね。どっちからも見てみようみたいな。
そうそうそう。だから、IT業界で働く2人が最新トレンドから哲学思想までを語り合う番組っていうのは、なんか面白いポテンシャルを秘めてるのではないかと思ったんですよね。
あとは、もとをたどれば、そのITも人間の考え方とか哲学的な考え方から着想を得て、そのアーキテクチャを作ってたりとか、それもあるじゃないかな。
そうだね。そうだね。まさにその通りだと思う。
で、哲学が何の役にも立たないと思ってらっしゃる方は、もう役に立つよってことかな。
なんかITはさ、ITはなんかみんな役に立つもんだと思ってるよね。なんかプログラミングができるようになりたいとかさ、デジタル人材があればみたいな。
で、逆に哲学は全然何か役に立たないというか、なんかそういうイメージがあるんだが、本当かなって。
でも、もともとの期待値というか、目的もなんか違うんじゃない?そのITとか工学は役に立つことを前提として、それを目標として何か培ってきていて、
06:01
哲学は何かに役に立つことを目標としてないってことはない?
いや、そんなことないと思うよ。
だから期待値が、でも立とうとして作られたわけじゃないんじゃないかなとか思ったんだけど。
ああ、まあまあまあそうね。
役立てることもできるけど、なんか基礎研究とかと似てて、真理を追求しようとしてて、
別に明日ロケットとか飛行機を作るために基礎研究をしてたとは限らないんだけど、とか数学の問題を解いてたわけじゃないんだけど、
実はこの方程式で、そういう工学を解くのに役に立ったみたいなのと近いのかなと思ったんだね。
そうだそうだ、あと今思い出したんだけど、
ChatGPTとかLLMが非構造化データをベクトルで保持してるという話があったと思うんだけど、
なんかね、自分の頭もそういうふうにできてんじゃねえかなと思っていて、
なんだっけ、脳は世界をどう見てるのかっていう本があったじゃないですか、前。
で、あれを読むと人間の脳みそっていうのは3次元の座標系で世界を理解していて、
その3次元の座標系で脳みその中もできてるっていうか、
それで抽象的な概念。
座標系としか言ってなかった気がしたね。
いやでもね、3次元だった気がするよ。
3次元だと足りないんじゃないかなと思って、同じベクトル表現じゃないかなと思ったんだけど。
えっと、ちょっとこれ俺ベクトル習ってないからさ、ベクトルがよくわかってないんだけど。
えっとね、脳は世界をどう見ているのかは、人間はその3次元の座標系モデルで世界を理解するって言ってたのは確かなんだが、
頭の中の構造が3次元の座標系で何かを保持しているかどうかはちょっとわからないね、そこは。
そこはもしかしたら違うのかもしれない。
今はね、見たけど、ざっくりとまとめてしまえば、真皮質全体を多次元の座標系が存在しって書いてあるような気がする。
多次元じゃないな、ベクトル。
じゃあそうか、多次元ね、はいはいはい。
3次元以上だと思う。
じゃあ、やっぱそのLLMが多次元のベクトルで概念を保持してるっていうのは、やっぱ人間の頭もそんな感じになってるってことですか。
なってる、なってる、同じだと思う。
09:04
じゃあ我々はChatGPTだったということですか。
いや、結構近いと思うよ、やってることは本当に。
そうだよね。
いやー、ChatGPTだったか。
あとはそのベイズ確率の方でちょっと思ったのは、メタ認知するのもこのベイズ確率と同じ?
あれそういうふうに言ったっけ?
いや、それは俺は言ってない。
あのほら、例えばその前回話したフラットアースの話とかもさ、
今目の前で観測できてることだけから何かを導き出そうとすると、確かにフラットアースっていう結論が1個導き出せると思うんだよね。
例えばサイコロ振ってたまたま3が3回出たと。
それだけを見て確率計算すると3分の3だから100%サイコロは3が出るっていうふうに結論も出せるんだけど、
ベイズの定理を使うと、もともと6個コマがあるから、今3回3が出たのは分かるんだけども、
実際その事前に持っているものとして6分の1の確率で出るよねみたいなことを考慮して、
100%っていう確率は出さないんだよね。
なんとなくたまたま今100%になっただけだ、たまたまだっていうふうに判断できるんだけど、
それってメタ認知とやろうとしていることは似てて、歴史っていうのを見るといろんなデータポイントがあるから、
たまたま目の前に起きていることは3が3回出ていることかもしれないけど、
他の歴史の情報とかを照らし合わせれば、
今目の前に起こっていることはちょっと行き過ぎだよねみたいな評価ができるのって、
メタ認知と一緒じゃないかなって思った。
っていうのも今とよだくんの聞いて、そういうことかもなって。
だから事前知識みたいなのをバランスよくとったり広く持っていると、
目の前の事象だけに引っ張られないみたいな。
反ワクチンの話も結局それが良いか悪いかは分からないけどみたいな曖昧な結論にさ、
今落ち着いたと思うんだけど、僕ととよだくん。
事前知識みたいなのを考慮すると、
仮に今例えばワクチンを取った人が本当にみんなすごい確率で亡くなっていたとしても、
それだけじゃないよねみたいな、
12:04
目の前に起きていることだけに引っ張られすぎないみたいな。
本当にその動きって、まさに事前確率が云々って話と似てるなって。
だからその事前確率というか、事前の知識みたいなのはすごい大事だよねみたいな。
歴史を見るとか、他のデータポイントを取りに行くってことが役に立つんだなっていうのが、
数学でも示されているような気がしたんだよね。
他には何か気になったところ、聞いてみたいことってあった?
因果関係の科学を。
はいはい。
データとか統計からは相関しかわからんと。
因果はまた別の仕組み。
なんだっけ?
パスなんとかだっけ?
経路図みたいなやつ?
ダイアグラム書いて。
ダイアグラムか、そうそうそう。
じゃないと因果はわからないですと。
その因果っていうのもデータから客観的に導き出せるものではなく、
あくまで主観的にこうなったらこうなるだろうっていうことでしか因果は示せないというか表現できないと。
言ってるところも結構そうなんだっていう。
今まで俺が理解してなかった部分で。
それやっぱりデータサイエンティストっていう立場から見て、
因果を証明するみたいなのって難しいの?
僕もそれは無理に近いっていうか。
正確に言えば限りなく99.99%かもしれないけど、そうじゃない可能性もあるよみたいなのもあるし、
因果を示すっていうのはめちゃめちゃ難しいなと思う。
解釈だと思う、どっちかというと。
やっぱり解釈だよね。
解釈だよな。
それがどのくらい納得を持って信じられるかみたいなことと言ってることは近いと思う。
そうか、じゃあデータサイエンティストがやってるのって、
いろんなデータを見て、
何?何をやってるの?
よくわかんないな。
でもデータサイエンティストっていろんなことやるから、必ずしも因果だけに絡むことをやってるわけじゃないし、
その相関だって役に立ったり、現実のスタティックな情報すら分かってないで、
世の中、決断をしてることもいっぱいあるから、
いろんなレイヤーがあるよね、データを使って理解できることって。
でもやっぱり基本は相関なの?
15:00
データから相関関係を導き出して、
こことここは何らか関係がありそうだから、この辺りに何かあるんじゃないすか、みたいなのを見つけるというか。
いや、でも因果関係を利用するってのはあるよ。
ABテストっていって、ここでこういう介入とか、自分がこういう動作をしたらこうなるはずっていうのがあって、
で、全く同じようなグループAとBっていうのを作って、Bだけにその介入すると、
AとBは差が出たねってなると、じゃあこの介入が因果の最初のトリガーになったねっていうふうには一応できると。
なるほどなるほど。
でもそういうところは当たりをつけるのはやっぱりデータを見て、相関というか、ここがちょっと
ポイントなんじゃねえの、分岐点なんじゃねえの、みたいのはやっぱり探っていくんだよね、データを見て。
仮説としてね。
でもそのデータをスナップショットみたいな感じで取った瞬間に、その因果を導き出すこと自体は難しくなっちゃう。
もう過去のことだから。
あーそうだねそうだね。
仮説としてはありかもしれないけど、それだけじゃないかもしれないしって言って、
だからその介入してみて実験するみたいなとか、なんかその動作の部分をする必要がある。
なるほど。あとちょっと気になってるのが因果と相関っていう部分で、
なんかね、前あのGoogleのさプロジェクトアリストテレスで、パフォーマンスが高い組織は心理的安全性があるみたいな、そういった話をよく聞くんだけど、
なんだろうな、それってパフォーマンスが高い組織を見ると心理的安全性が高い傾向があったというか、相関関係にあったっていうことであって、
心理的安全性を高めればパフォーマンスが高い組織が生まれるわけではないと思ってるんだけど、その理解はあってる?
多分その因果関係については言ってないんじゃないかなって思うんだけどね。言ってるかも。
いやわかんない。でもそんなのさ証明できないんじゃないかなと思ったんだけど。
うん。
だからなんだろうな、そこがなんかこう、なんか違和感を感じてる部分があって、なんかその心理的安全性を組織で高めればならぬみたいな、
なんかそういう風潮っていうか、結構あるような感じがしていて、日本の社会で最近ね。
でも心理的安全性を高めたからといって、じゃあパフォーマンスが高い組織になるわけじゃないんじゃないのかなーとか思ってたりしていて。
18:07
うんうんうん。
それはどう思う?
いやそこはもう、その実験をちゃんとしないと、それは証明できないと思うし、
その、例えばさっきのABテストみたいな形で、心理的安全性を高めない群と、それを高めた群があって、それを元にパフォーマンスが上がったかどうかを見るんだけど、
実際そんな完璧な実験多分できないと思うんだよね。
すごいすごいデータ数取って、でそのAとBがもうほぼランダムなグループで、その心理的安全性だけが変わった状態って現実的に多分作るのは難しいと思うんだよね。
だしパフォーマンスって何っていう話とか、心理的安全性ってどうやって測るのとか、もういろんなところでデータには現れないものっていうのがありすぎて、
科学的にこれを示すっていうのはめちゃめちゃ難しいはず。だから、まあそれを禁止したっていうのかな、
一面を切り取ってこういうふうにパフォーマンスを測って、こういうふうに心理的安全性を測って、このグループでやれば確かにこういうふうに変わる可能性は、この条件下だったら高いけどみたいな、
なんかそういう感じだよね。
なるほどね。そうだよね。そんな単純な話。
それがアメリカで例えば示されても日本人に当てはまらないとか、条件がもうめちゃめちゃかぶさっている中での、そういう因果関係かもしれないけど、
まあそれができたとしても応用できるかどうかはまた別の問題だったりするかもしれないし、厳密に突き詰めればもう結構難しい話だし、
因果関係が確かに示されてないけど、逆にその心理的安全性を上げようとするだけで確かにパフォーマンスが上がっちゃう可能性もある。
でもそれは別のものをトリガーしてて、それが最終的にはパフォーマンスに影響すると。
そっちもあり得るよね、別に。示されてないんだけど、確かにそういうことが再現というか同じような状況が起こり得るかもしれないし、そこはだから何とも言い難いというか、本当に難しいんじゃないかな。
なるほど、そういう。
心理的安全性を上げようと今できる会社ってそもそもそういう余裕があるとか、なんか別のものと相関してたら多分するじゃん。
で、そういうことにアンテナを張ってる人事がいたりとか、チームリーダーがいるってこと自体がパフォーマンスを良くするキーだったりとかね、
21:08
そういう人をリクルートできるとか、そういう目線で人を評価できると。
だから要は今の時代に合ってる人の見方をできるとか、なんか他にもいろんな要素が揃ってたりして、
この因果の科学でもなんだっけ、コンパウンディングファクターって言って、なんか他の共通する因子みたいなのが別にあったりして、
それが結果的にはパフォーマンスを良くするとかさ、そういうのも十分あり得そうじゃない。
そうね。
今、心理的安全性に興味を全く持ってないところってさ、多分なんか別のものも絡んでる気がするんだよね。
ほんとね。
まあ、なんかそんな単純な話じゃないということは理解した。
うん。単純な話じゃないか。
あとなんか話すことあるかな。
なんか僕が最後ちょっと気になったのがさ、この因果の科学を書いた著者がさ、この本自体はね、
2018年とか7年だっけ、結構前なんだよね、書かれて。
だからChatGPTとか最近のディープラーニングとかが来る前に書いてて、
コメントでね、今の強いAIっていうのはまだ全然できてないですよ、みたいなコメントをどっかにしてたんで確か。
はい。
で、今できてるのは弱いAIっていって、こういった決まったタスクしかできてないと。
何か予測してって言ったらそれだけを予測できるとか、翻訳してって言ったら翻訳することだけしかできないみたいな。
で、その彼らが今のChatGPTを見てどう思うのかなって言って、ちょっと調べてみて。
調べた?俺も気になってた。
そう。で、いや、彼らも言ってるのは、このChatGPTとかGPT4を見て、自分たちが言ってた因果関係とか、ある観測したスタリー、オブザーベーショナルスタリーって言ってるかな。
で、多分第一のステップで観測したことから、反事実的な質問ができないだろうって言ってた、自分の証明、マイプルーフっていうのを再考しなければならないと思ったって。
マジで?マジかよ。なんだよ、じゃあそれ最初に教えてよ。
いや、俺その人の因果推論の科学を見て、その反事実はChatGPTできないだろうと思って、なんかこう反対的な意見を構築してたのに、なんかその人もそこを揺らいでるんや。
24:04
揺らいでることを認めなければいけないみたいなことを書いてる。
でも、まだ否定もしてないから、今はまだそれに驚かされてるのは置いといたとして、自分たちはもう一度再考しなければいけない。
だから否定もしてないし、肯定もしてないけど、でもそれだけやっぱり彼らですら、お?って思うような、その因果的な質問とか反事実的な質問ができてるみたいな。
じゃあちょっと私もAIに対する認識を再考しなければいけなくなりましたね。
再考しなければならない。
うん、今回の回を踏まえてね。
うん。
いや、でもなんかしおくんがやけにAIを低く見積もってるんじゃないかみたいな感じで、
うん。
こう俺に投げかけてきたからさ。
うん。
でもやっぱりなんかそういうバイアスが俺の中にあるのかもなーってちょっと思ってきたね。
うん。
高く見積もりたい何かがもしかしたらあるのかもしれないなーって。
うんうんうん。
深層心理。
深層心理ね。で僕は逆に高く見積もりた方がいいと自分に言い聞かせてるバイアスが多分あると思うんだよね。
なんかしら。
わかんない。なんか自分がこういう立場にいるから知るべきだとかさ、なんかこう知っとかないといけないとか、なんかこう脅迫観念みたいなものがあって、
その一歩先に何が起こるんだろうっていうのを自分は知っといた方がいいとか、そのなんか、なんかしら多分あると思うんだよね。高く見ようとしてるみたいな先に。
なんか今低く見積もってると自分が例えば置いてかれるんじゃないかとかさ、なんかそういう自分の立場的になんかそういうバイアスは多分あると思うから、そこのバイアスが多分逆方向なのをなんか感じ取ったわけよ。
あーなるほど。
だからそういう意味でこういう風に話すと面白い、面白いというか。
なんか結構俺楽観的にそういうあたりは未来に対して感じていて、なんかね、なんかよくわかんないことがあっても、
なんか時間が経つといつの間にかわかるようになってるとか、なんかいつの間にか解決してたりとか、なんかそういうことが結構人生の中で多くあったような気がしていて、なんか結構楽観的なんだよね。
27:00
うんうんうんうん。
なんかそれ、なんか前言ってたじゃん、割と怠惰で、いろいろ触れ幅がある中で真ん中にいれば自分がブレなくていいみたいな話してたじゃない。
うんうんうんうん。
なんかそんな気分なんだよね、今俺はそのAIに対して。
あんまり、あんまりこう今爆速で変化して進歩してる世界に、なんだろう、あんま興味ないっていうか、
そのうち、なんかそれなりのところに落ち着いて、でそれなりのところに落ち着いたら、いい感じで自分のところにやってくるんだろうなってなんか、なんとなく楽観的になんか感じてるんだよな。
うんうんうんうん。
なぜかは知らんが。
うんうんうん。
今日のでも、そろそろ、なんだろう、まあいい時間にもなってきたんだけど。
うん。
今日の僕のなんかスタンスはどうだった?批判的すぎなかった?もしくは挑戦的すぎなかった?
あ、いや、そんなことなかったよ。
うん。
そんなことなかったけど、なんか前ほど、もうなんも言えねえやみたいな感じではなかったので、自分がね。
うんうんうん。
だからやっぱり、なんかまだこう自分の中ですっきりしてない部分がやっぱりあるんだろうなと思って、このAIというものに対して。
うんうんうん。
まだちょっとこう、なんだ、はっきりしないというか。
うんうんうん。
なんかよくわかんねえなあみたいな部分が多分、わだかまりが残ってる気がする。自分の中に今。
まあみんなわかってないと思うよ、自分も含めてなんだろうな。
ああ、まあそうね。そうだね。
あと、そうだね、自律とは何かとか、賢さとは何かみたいな話になったのも結構面白かったなあと思って。
うんうんうん。
なんかあれはまた別に、例えば自由意志とは何かみたいな話とか。
ああそうか、哲学から入ってくるみたいなね。
インテリジェンス、賢さとは何かとか、なんかそういう別のとこに分岐して、なんかもっと。
ああ確かにね。
深く話せそうな気がしたなあ。
うんうんうん。
あとさ、ちょっと話が軽くなるんだけど、
AIが社会に普及して、どういう社会になるかみたいのを描いてるゲームがあって。
ゲーム?
ゲーム。デトロイト・ビカム・ヒューマンっていうゲームがあるんだけど、
これすごいおすすめで、アウターワイルズと同じぐらい名作ゲームだなと俺は個人的に思っているんで。
30:07
ああそうなんだ。なるほどね。じゃあクリアしたらこっちをやれと。
そうそうそう。これもちょっとやってみてほしいなと思って。
OK。
まさにアメリカ社会が未来のアメリカみたいな感じで、未来のアメリカにアンドロイドっていうのをAIが、
人にそっくり、人と見分けがつかないAIが普及している世界で起きる事件を描いてるんだけど、
アメリカ社会のいろいろ問題とか、闇とかそういうところも出てきていて、
これを見てどういうふうに感じるのかみたいのはちょっと話してみたいかなと思った。
OKOK。じゃあアウターワイルズがクリアできたらこれもやるわ。
そうね。だから俺も同じタイミングでもう一回やってみて、
2人で何を感じたかみたいな話すのも面白いかなと思った。
確かに。
はい。僕からはそんな感じかな。どうですかしおくんは。
そうね。今回、本っていうよりは本の中身は別にあんまり重要じゃなかったというか、
どっちかというときっかけに過ぎないというか、それでそれに対してどう思ってるかとか、
その後想像をどう膨らませるかとか、そこから感じる、
自分の中では不安とか周りの人が思ってそうなモヤモヤみたいなところは話してみたいなと思ってて、
それがちょっと話せたかなと。
本の中は別にあんまり言ってもしょうがない内容かなというか、
どっちかというと情報って感じでさ、こういうのがあるとかこういうのがある、こういうのがあるって言うんだから、
それはなぞらなくて正解だったなと。
はい。
そうね。自分の中でもやっぱり、いろんな混じってる感情みたいなのが多分あるんだろうなと思って、
ポジティブに見ようとしてる面もあれば、やっぱりこれはできないだろうって見ようとしてる自分もいるから、
なんかそのお互い、悲観的に見るものと楽観的に見る自分がお互いをこう批判して、
なんかそのバイアスかかってんじゃないのかみたいな。
っていうのを今回はとよだくんとできたのが自分としては良かった。
今まで自分の頭の中でやってるやり取りができたから、
だいぶなんか、まあスッキリというか、面白いなって。
そのやり取り自体を外でやるとこうなるのかっていうのが、なんか具現化できた感じ。
なるほどね。
はい。こんなところからね。
こんな感じかな。なんかそうだね。
なんかこれを聞いて皆さんがどういうふうにAIについて感じてるのかとか、
33:04
なんかお便りとかもらえると嬉しいかなと思いましたね。
はい。お待ちしております。
お待ちしております。
今日はそのところですかね。
そうですね。はい。じゃあそんなところにしておきましょうか。
はい。ありがとうございました。
ありがとうございました。
33:42

コメント

スクロール