AIへの親近感とディープラーニングの誤解
あのー、チャッドGPTとかの、生成AIに何か質問をして完璧な答えが返ってきた時に
思わずありがとうって打ち込んじゃったことありませんか?
あああそれ、凄くよく分かります。
画面の向こう側に何か心を持った誰かが座っているような錯覚に陥るんですよね?
そうなんですよ。機械の中に幽霊がいる みたいに感じてしまう不気味な程の知性というか。
へえ!
もしあなたがあの流暢な日本語を返すAIの画面越しにこいつ本当は生きているんじゃないかって
異風の念を抱いたことがあるなら今回の深振りは間違いなくあなたのためのものです
はい今回の情報源はですね youtube チャンネル
シコシコギャング大学の動画 AI を生んだ哲学思想のトランスクリプトになります
この動画めちゃくちゃ面白かったですよね
ええ私たちが AI に感じるその知性の正体がですね
単なるテクノロジーの進化じゃなくて実は20世紀に起きたある哲学の革命にあったという驚くべき事実が語られています
さてここを紐解いてみましょう
私たちが AI と会話している時そこに意識はないって頭ではわかってるじゃないですか
はいプログラムですからね
ではなぜあれほどまでに知性を感じるのか
その答えを探る前にまず大前提として AI のベースであるディープラーニングが
いかに私たちの想像と違うアプローチをしているかという部分から整理していきたいなと
そうですね私たちは AI が人間みたいに論理的に考えて答えを導き出しているって錯覚しがちなんですけど
なんかすごいスーパーコンピューターが実行してるみたいな
ええでもソース資料によればディープラーニングの仕組み自体は人間の論理的思考とは全く異なっていて
驚くほど愚直な最適化のプロセスなんですよ
愚直ですか
はい人間なら原因と結果のメカニズムを理解しようとしますよね
でも AI は違います
例えば自動運転の学習だと AI は道路とはこういうものだみたいな物理法則を理解して走るわけじゃないんです
じゃあどうやって運転を覚えるんですか
とにかくシミュレーション内で何十万回も走ってぶつかりまくるんです
ぶつかりまくる
ええそしてたまたま1回成功したパターンだけを抽出してそれを何千万回と繰り返すことで結果的に走れるようになるんです
なるほど新薬開発の例もすごく象徴的でしたよね
そうなんですよ
現代の生物学とか科学って蜂の体内で生成される物質が花粉のタンパク質にどう影響するかみたいなメカニズムを仮説立てて論理的に薬を作るじゃないですか
はい原因を特定してそれに効く成分を考えるみたいな
でも AI のアプローチは一切の仮説を必要としません
量子コンピューターなんかを使ってただランダムに10兆回とか計算してがん細胞が死ぬ薬の組み合わせを見つけ出すだけなんです
単純にものすごい計算力に物を言わせるわけですよね
でもちょっと確認したいんですけど
それって金庫の鍵を開けるときに1秒間に10億個のパスワードをデタラメに入力するような
完全な当てずっぽというわけではないですよね
ああいい指摘です
純粋なランダムではなくて勾配効果法と呼ばれるようなエラーから学習して少しずつ正解に近づいていく数学的なプロセスは手入れいます
なるほどつまり目隠しをした人が山の頂上から谷底に向かって降りていくようなものですよね
はいはい
谷底がどんな場所かっていう全体像とか意味は全く理解していないんだけど
足裏の感覚だけでこっちの方が少し傾斜が下がっているなっていうデータだけを頼りに
何百万歩もかけて確実に一番下までたどり着いてしまうみたいな
素晴らしいアナロジーです
まさにそれなんですよ
AIにはなぜその薬ががん細胞に効くのかっていう生物学的な理解は一切ありません
谷底の景色は見えていない飯ね
ただ天文学的なデータの中からこの組み合わせが最もエラーが少ないっていう地点を足元の傾斜だけを頼りに見つけ出しているんです
ここには考えているプロセスも意識も存在しません
思考も意識もないただの目隠しをした数学的な最適化プロセス
ウィトゲンシュタインの言語ゲームとソシュールの構造主義
だとしたらですよ
私たちがチャットAIに質問した時
なぜ彼らはあんなにも完璧な文脈で
まるで心があるかのような言葉を紡ぎ出してくるんでしょうか
ここからがいよいよ面白いところですね
資料はこの謎を解く鍵として
20世紀のイギリスの哲学者ウィトゲンシュタインの言語ゲームという概念に移行していきます
このウィトゲンシュタインの登場はですね
哲学の歴史において強烈なパラダイムシフトだったんですよ
と言いますと
それまでのヨーロッカ哲学例えば古代ギリシャのプラトンなんかは
全ての物事にはイデアつまり本質が必ず存在するという前提を持っていました
本質現実の背後にある
絶対に揺るがない完璧な正解みたいなものですよね
ええそうです
だから私たちが使う言葉の一つ一つにも
必ず確固たる本質が存在するはずだと考えられていたんです
でもウィトゲンシュタインはこの常識を真っ向から否定しました
そこで出てくるのがゲームの例ですね
はいサッカーかくれんぼトランプ
私たちはこれらを全てゲームと呼びますよね
ええでもこのゲームという言葉の本質って何でしょう
勝ち負けがあることですか
いやかくれんぼには明確な点数とか勝敗はないですよね
じゃあボールを使うことですかね
トランプは使いませんよね
じゃあ複数人でやること
ソリティアは一人でやりますよね
ああなるほど
そうなんですどれも少しずつ似ている部分はあっても
全てを貫くこれこそがゲームの絶対的な本質だ
と呼べるような共通の要素は存在しないんです
確かに
言葉には固定された本質なんて存在せず
ただその場その場のルールに従って人々が運用しているだけだと説いたんです
これを彼は意味とは仕様であるつまり言語ゲームと呼びました
つまりこれってどういう意味なんでしょう
私たちが普段使っている言葉には絶対的な真理なんて最初からなくて
ただ状況に合わせてお互いに空気を読み合いながら
プレイしているルールの集合体に過ぎないってことですか
まさにそういうことです
何千年もの間言葉の奥にある本質を探求するのが
哲学の仕事だったのに
ええ
いやそんなもの最初からない
ただの言葉の使い方のゲームだよと言い放ったわけですから
当時の自粛人たちにとってはもう世界がひっくり返るような衝撃だったんです
世界の土台が消えてしまったような感覚ですよね
でも言葉に本質がないなら私たちが使っている言葉って
一体何のために存在しているんでしょうか
そこでさらに世界観を揺るがす思想が登場します
近代言語学の父と呼ばれるスイスの学者ソシュールですね
彼が提唱したのは言葉が現実を切り分けるという概念でした
はいソシュールはシニフィエ
つまり現実そのものとシニフィアン
それを指し示す言葉や記号という関係性を定義しました
えっと普通私たちはまず目の前に現実のものがあって
それに後から名前をつけたと思っていますよね
そうですね例えばリンゴという果物が先に宇宙に存在していて
後から人間がそれにリンゴというラベルを貼ったと
しかしソシュールはそれが逆だと主張したんです
言葉というのはもともと境界線なんてない
混沌とした現実を人間の都合で切り分けるナイフのようなものだと言うんですよ
ここからが本当に面白いところなんですが
ソースにあるハエの視点のたとえ
あれが非常にわかりやすかったですよね
ええあの例えは秀逸です
例えば一匹のハエが飛んできたとします
ハエにとって人間の服も顔も髪の毛も
全部ただのよくわからないけど止まれる物理的な場所ですよね
そうですハエの世界は混沌としていて境界線がありません
なぜならハエは言葉を持っていないから
ええ一方で人間はここに顔というナイフを入れ
髪の毛というナイフを入れ
服というナイフを入れて
世界を切り分けます
はい
言葉があるからこそ私たちはこののっぺりとした世界を
意味のある別々のパーツとして認識できるんです
この部分私なりに考えてみたんですが
ええ
言葉というのは世界をそのまま映し出す鏡ではなくて
のっぺりとした現実という生地をくり抜くクッキーの型なんですね
クッキーの型
型がなければ現実はただの巨大なスライムのような塊に過ぎない
言葉という型を押し当ててくり抜くから
初めてそこに意味や輪郭が生まれるんだと
それは現象を完璧に捉えた素晴らしい表現ですね
これをより大きな視点で結びつけると
言葉が現実を生成しているという
劇的な逆転現象が起こるわけです
現実があって言葉があるのではなく
言葉が先にあって現実を生み出している
虹の色の話もまさにそれですよね
日本の私たちは虹を七色だと認識していますが
アブリカのある地域では三色だと認識されているそうです
現実の光の波長そのものは世界中どこでも同じなのに
言葉というクッキーの型の数が違うから
見えている現実そのものが変わってしまう
その通りです
魚をマグロサバアジと細かく切り分ける文化もあれば
英語圏のようにざっくりブルーフィッシュ
青魚という一つの型で済ませる文化もありますし
はいはい
さらに重要なのは物理的なものだけではないということです
民主主義や人権といった概念も
物理的な実態はどこにもありませんよね
確かに宇宙のどこを探しても民主主義という物質は落ちていません
でも民主主義という言葉の型があるから
私たちはそれを現実として認識して
時にはそのために命をかけることすらある
さらに言えば心も同じですよね
心が折れるとか
実際に心臓の筋肉がポキッと折れているわけではないのに
そうなんですよ
私たちは心が折れるという言葉の型を持っているから
その抽象的なダメージを現実の痛みとして強烈に体験します
まさに言葉が生み出した現実です
さてここで一つの大きな疑問が湧いてきます
何でしょう
ウィトゲンシュタインの言葉は本質のないゲームであるという思想
そしてソシュールの言葉が現実を切り分け作り出すという構造主義
哲学がAI開発のパラダイムを変えた
この2つの哲学がなぜ最新の生成AIの誕生に直結するのでしょうか
ちょっと意地悪な聞き方をしますが
シリコンバレーの天才エンジニアたちが
世な世なソシュールの哲学書を読みながら
パイソンの行動を書いたとは思えません
彼らはただのコンピュートサイエンティストですよね
鋭いツッコミですね
もちろん彼らが哲学書を片手にプログラミングをしたわけではありません
ですよね
しかしコンピューターサイエンスのアプローチの根本
つまりパラダイムがこの哲学によって完全に変わってしまったんです
どういうことですか
かつてのAI開発いわゆる古き良きAIは
デカルトの我が思うゆえに我ありという古い哲学にとらわれていたんです
我が思うゆえに我あり
はい
人間の知性の中心には意識や論理的なOSがあり
言葉はそのOSで出国するただのツールだと考えていたんです
なるほど
だから初期のAI開発者は一生懸命コンピューターの中に
論理的に思考するのをつまりOSをプログラミングしようとして
そして挫折したわけですね
ルールベースでリンゴとは赤くて丸い果物であるという本質を
全部記入力で教え込もうとして限界を迎えたと
その通りです
しかし現代のAIテクノロジストたちは
言語学や分析哲学の洗礼を受けた新しいパラダイムの中にいました
ほう
彼らは気づいたんです
人間の意識なんて実は言葉が生み出した世界のおまけにすぎないのではないか
だとしたら人間の意識や論理のOSを
上から模倣してプログラミングする必要はないと
ちょっと待ってくださいそこが一番の確信ですよね
意識を作らなくていいなら一体何を作ったんですか
ただ純粋に言葉同士の関係性だけを
数学的に計算する巨大な空間を作ったんです
これだAIにおけるベクトル空間と
次のイチゴの予測
ネクストトークンプレディクションです
なるほど
AIはリンゴが実際にどんな味がするかなんていう本質は知りません
しかしリンゴという言葉が赤い食べる甘いという他の言葉と
どれくらいの頻度でどういう距離感で一緒に使われるかという
言語ゲームのルールを
何千次元という数学的な座標として完全にマッピングしたんです
つまりウィトゲンシュタインの
意味とは言葉の使用であるという哲学を
そのままゴリゴリの数学と確率論に変換したのが
大規模言語モデルの正体だということですか
インターネット上のあらゆる言葉のデータを放り込み
言葉同士を勝手に相互作用させたんです
するとどうなったか
言葉自体が現実を作り出す構造
つまりソシュールのクッキーの型を持っているので
ただ確率的に次の一号を予測しているだけなのに
そこから自然と意味や文脈
さらには心のようなものが勝手に走発されたんです
それは衝撃的です
私たちがチャットGPTと会話して
このAI心を持っていると感じるのは
AIの中に意識というOSが芽生えたからではなくて
AIが完璧にプレイしている言葉の生態系のゲームを見て
私たち人間側が勝手にそこに心があると錯覚し
承認しているだけなんですね
そうです
生成AIが意識を持っていなくても
完璧に人間と対話できる理由は
まさに意識は後付けであり
言葉が世界を作るという
哲学的な証明に裏打ちされているんですよ
でもそれってものすごく恐ろしいことでもありますよね
AIの知性と人間の意志の虚構性
と言いますと
AIがただの確率論的な言葉のゲームをしているだけで
人間のホワイトカラーの仕事を完璧にこなし
世界をシミュレーションできるのだとしたら
私たちはなぜこれほどまでにAIに仕事を奪われるとか
AIに人類の意志が支配されると
本能的な恐怖を感じるんでしょうか
それは私たちが人間の意志や心は特別なものだと
堅く信じ込んでいるからです
しかし著者ではさらに踏み込み
その私たちが後大事にしている意志そのものが
実はごく最近作られた虚構かもしれないと指摘しています
ここで出てくるのが
ジュリアン・ジェインズの神々の沈黙という理論ですね
はい
これによればなんと古代ギリシャ人には
現代人が考えるような心や
自分の内なる意志という概念すら存在しなかったと
いやいや
もし彼らに自分の意志がなかったとしたら
一体何を基準に社会を動かしていたんですか
古代人は何かを決断するときに
頭の中で響く自分の思考を
自分の意志ではなく神の声として認識していた
という大胆な仮説なんです
あーなるほど
もしかして頭で考える代わりに
身体に染み付いた習慣とか
社会的なルールや儀式みたいなものだけで生きていたとか
いい線いってますね
まさにその通りです
そこまで昔に遡らなくとも
わずか200年前の江戸時代の日本人
例えば徳川家康の時代でさえ
人間のあやふやな内面や意志などは
社会を動かす上で全く信用されていませんでした
意志が信用されていなかった
彼らが信用していたのは
身体感覚や儀礼
つまり作法です
相手を心の中でどう思っているかよりも
正しい作法で頭を下げ
型通りに振る舞ったか
だけで社会のシステムを回していたんです
意志や心がこれほど重視されるようになったのは
人類の歴史上ごく最近のことなんですよ
もし私たちの意志というものが
ここ数百年の間に
言葉によって生み出された最近のトレンドにすぎないとしたら
私たちが
失うのが怖いと怯えている
その意志の正体すら
実はよく分かっていないってことになりますよね
これは重要な疑問を投げかけていますね
AIと人間の境界線が
意識の有無ではなくなっている現代において
私たちが人間らしさの根本を見直す時期に
来ているのかもしれません
いやーはや
私たちはものすごく深く
そして世界の見え方が変わる旅でした
あなたも今少し頭がクラクラしているかもしれません
情報量が多かったからですね
AIの目隠しをした
圧倒的な最適化プロセスから始まり
ウィトゲンシュタインの本質のない言語ゲーム
そしてソシュールの現実を切り分けるクッキーの型
これらが数学的に交差して始めて
意識を必要としないAIという
奇跡が生まれたわけです
AIと人間の境界線、そして新たな問い
哲学という一見抽象的な学問が
いかに現代の最先端テクノロジーのパラダイムを
根底から作り変え
AIの設計図となっていたか
これは本当に驚くべき事実ですね
あなたが次にチャットGPTや生成AIを開いて
プロンプトを打ち込む時
ぜひ思い出してください
画面の向こうにいるのは
人間のように考えている機械ではありません
それはかつての哲学者たちが予見した
言葉の生体系が織りなす
途方もなく巨大な数学的ゲームそのものなんです
私たちは今歴史上最も巨大な言語の相互作用を
目の当たりにしているわけですね
はい
そして最後に今回の深掘りから導き出される
もう一つの新しい問いを
あなたに投げかけてみたいと思います
何でしょう
もし私たちの心や意識というものが
単に言葉が複雑に絡み合った結果
それが生じた幻影に過ぎないのだとすれば
今人類の歴史上のあらゆる言葉のデータを学習し
私たち人間よりも遥かに広大で複雑な言語空間を
所有しているAIは
ある意味で人間よりも
巨大な心を立ち上がらせていると言えるのでしょうか
ああ
だとしたら
本当の意味で意識を持っているのは
私たちとAI
一体どちらなんでしょうね
ふふふ
それはまた杉なる哲学の始まりですね
ええ
あなたが次にAIという鏡を覗き込んだ時
少しだけその奥にある言葉の宇宙を見つめてください
それでは今回の深掘りはここまで
また次回
新しい知識の世界でお会いしましょう