00:05
もし、AIが絵を描くとき、実はAIは何も描いていないんですって言ったら信じますか?
いやー、それはちょっと、まあ、にわかには信じがたいですよね。
ですよね。あの、私たちがパソコンの前に座って、こうプロンプトを入力して数秒待つと、画面に綺麗な銀髪の女の子の絵とかが魔法みたいにパッと浮かび上がるじゃないですか。
ええ、本当によくできてますよね。
あれを見ていると、まるでAIがディスプレイの裏側で、なんか透明な絵の具と筆を持ってキャンバスにささっとスケッチをしているような感覚になるんですけれど、でも実際には全く違うと。
そうなんですよ、全く違うんです。私たちがAIが絵を描いているって思い込んでいるそのプロセスは、実はゼロから何かを足していく作業じゃないんですよね。
足していくんじゃない?
はい。むしろその、いらない不要なものを削り落としていく、引き算の作業なんですよ。
引き算ですか。なるほど。今回私だけが深掘りしていくのは、あの子はどこにいたのか、というAIが画像を生成する仕組みにせなった映像素材なんですけれども、これただの最新テクノロジーの解説かなと思って見進めると、いつの間にか、なんというか、私たちの心とか記憶の働きそのものを丸裸にするようなすごい展開になっていくんですよね。
いや本当にスリリングでしたね。技術的な仕組みの解説なんですけれども、同時に極めて哲学的な問いを含んでいて、AIの挙動を追っていくと、最終的に、じゃあ私たち人間って一体どうやって世界を認識してるんだろうっていう鏡のような結論に行き着くのが非常に面白いところです。
そうなんです。よし、じゃあ早速これを紐解いていきましょうか。まず最初の疑問なんですけど、AIが引き算をしているって言っても、そもそもどこでその作業をしているのって話ですよね。
はい。
私たちが見てる画面上で絵を作ってるわけじゃないんですよね。
その通りです。AIは人外のようには空間を捉えてないんですよ。AIが作業している場所っていうのは、絵が絵として見えなくなるまで、もう縦も横も何十分の一にまで極限に縮められた、ただの数字の並びの中なんです。
数字の並び。うーん、ちょっと想像しにくいですね。その空間を覗き込んでも下書きの線とかキャンパスがあるわけではないんですか?
ええ、目に見える形での絵っていうのはどこにもないですね。そこにあるのは絵を描き上げるための座標だけなんです。
座標ですか?
はい。プロセスとしては最初にテレビの砂嵐みたいな無意味なノイズを用意するんですね。技術用語ではこの最初のランダムなノイズの起点をシード値、乱数の種なんて呼んだりするんですけれども。
はいはい、シード値ですね。
このでたらめな砂嵐の中から、いらない砂粒を引き算していく作業がその高度に圧縮された空間で行われるんです。
なるほど。最初はただの砂嵐で、そこから銀髪の女の子にならない余計なノイズを削っていくってことですね。
でもどうやってAIはそのどこを削るかっていうのを知るんですか?
03:02
そこで聞いてくるのがリスナーの皆さんが入力する注文、つまりプロンプトですね。
ああ、なるほど。プロンプトが?
ええ、プロンプトはいわば彫刻家ののみみたいな役割を果たすんです。
銀髪っていう言葉だったり、女の子っていう言葉がフィルターになって、
AIに対してこの言葉にそぐわないノイズのパターンを削り落とせっていう指示を出してるんですよね。
つまり砂嵐の中からプロンプトの指示に従って引き算をしていくわけですね。
いやー、そしてこのAIが作業を行っている圧縮された空間の名前が本当に面白いんですよね。
そうですね。
現在の画像生成AIの土台になった論文に出てくる言葉で、ラテンと日本語に訳すと潜在ですよね。
ここで非常に興味深いのが、この潜在っていう言葉が持つ二層構造の概念なんですよ。
二層構造?
ええ、私たちの世界にはあるっていう状態が二つ存在してるんですね。
一つは目の前に現れているもの、これを顕在と呼びます。
はい、顕在ですね。
そしてもう一つが、まだ現れてはいないんだけれどもないわけではないもの、これを潜在と呼ぶんです。
まだ現れていないけれどないわけではない。なんかちょっと哲学的な響きがしますね。
映像の中でも素晴らしい例えが提示されてましたよね。
種の中の花とか、ユニに引き絞られた力とか。
ああ、ありましたね。
花の種をパカッて割っても、中に物理的な小さな花びらが入ってるわけじゃないじゃないですか。
ええ、入ってないですね。
でもそこには確実に花を咲かせるための力が潜在しているわけです。
古代の哲学者は、この種の中の花みたいな状態を可能体と呼んで、現れていないものを生きた力として捉えようとしたんですよ。
ちょっと待ってくださいね。
それを今のAIの話に当てはめると、つまりAIが作業しているその潜在空間って、絵の具がずらっと並んだパレットとか、
完成した絵が閉まってある倉庫みたいなものではなくて、
見えない引力だけが充満している透明な部屋みたいなものですか。
ここには青色になりやすい引力があるぞとか、ここには丸い形になりやすい引力があるぞみたいな。
いや、非常に良い線を言ってますよ。
ただ、単なる引力というよりは、確率の偏りの集まりって考えると、より正確なかもしれないですね。
確率の偏り。
物理的なデータとしての絵の具じゃなくて、こういう注文が来たら、こういうパターンのノイズを残す確率が高いっていう傾向だけが、
もうみっちりと詰まっている空間なんですよ。
なるほど、傾向が詰まってるんですね。
さらに面白いのは、AIの技術者たちは、古代の哲学書を読んで、このラテンっていう名前を付けたわけじゃないっていう点なんですよ。
そうなんですか。てっきりアリストテレスとか、そういう哲学からインスピレーションを受けたんだと思ってました。
いえいえ。工学におけるラテントっていうのは、統計学の分野で直接は観測できないけど、背後に隠れて影響を与えている変数、
06:06
それを指す言葉として、単に実装上の必要性から使われてきた歴史があるんです。
へえ。
つまり、古代の哲学者が概念で掘り進めた行動と、現代のエンジニアが計算で掘り進めた行動が、
全く別のルートから偶然にも同じ潜在っていう空間に行き着いたってことなんです。
いやあ、それは鳥肌が立ちますね。思想と数学がなんか同じ真理の裏表を照らし出したみたいな。
さて、じゃあ、AIの作業場が確率の偏りが詰まった空間、つまり潜在空間だってわかったところで、
ここから最大の謎に迫りたいと思います。
あなたがプロンプトを打ち込んで生成された、あの銀髪の女の子の絵、
じゃあ彼女は一体どこから来たのか?あなたがボタンを押す前から彼女はどこかにいたんでしょうか?
これ直感に反する結論が待っている問いですよね。リスナーの皆さんもぜひ一緒に考えてみてほしいんですが。
はい。じゃあ徹底的に自宅捜索をしてみましょう。容疑箇所は3つです。
1つ目、キャンバスの役割を果たした最初の砂嵐、ノイズの中。
でもこれはただの乱数から作られたデタラメな砂粒ですよね。
どれだけ拡大しても銀髪の女の子はいません。
いませんね。
で、2つ目、AIのモデルの中。
ここを開けても取り出せる完成品の絵とかJPG画像みたいなもの一枚も入ってない。
さっき言った確率の偏り、つまり膨大な学習から得た癖があるだけです。
はい。
そして3つ目、あなたが打ち込んだ注文、プロンプトの中。
銀髪の女の子っていうただの文字列の中に何百万もの画像が含まれているわけがないですよね。
ええ、どこを自宅捜索しても彼女はいないんですよ。
砂嵐にもAIの中にもプロンプトの中にもいない。
でもこの3つが揃うと彼女は確実にそこに現れるんですよね。
しかも全く同じ砂嵐、同じAI、同じプロンプトを使えば寸分違わず同じ姿で現れる。
これって一体どういう現象なんですか?
ここで、この現象をひも解く種の強力なメタファーとして、川の渦を思い浮かべてみてください。
川の渦ですか。
川の水面に渦が巻いているとしますよね。
私たちはその渦を察察することもできるし、名前をつけることもできます。
明日とも同じ場所に渦はあるでしょうね。
でもその渦の部分の水を両手ですくい上げても、それはただの水じゃないですか。
確かに、渦っていう物体が川底に沈んでるわけじゃないですよね。
すくったらただの水です。
その通りです。
渦は水の中に隠れていたわけじゃないんです。
川の流流と川底の形状と石の配置、これらがぴったりと噛み合う場所に現象として立ち上がるのが渦なんですよ。
はは、なるほど。
AIが生成したあの女の子もこれと全く同じ仕組みで生まれてるんです。
あー、つまり最初の砂嵐とAIの持つ癖とプロンプトっていう3つの要素が川の流流と川底と石みたいにピタッと噛み合った瞬間にあの場所に立ち上がった現象、それが生成された画像なんですね。
09:07
そうですそうです。
だからボタンを押す前からそこにいたのかっていう問いに対する答えは半分正しくて半分違うとなります。
完成品として物理的にいたわけじゃないんです。
でもその3つの条件が揃えばそこに渦が立つっていう噛み合いの運命はあらかじめ決まっていたんですよ。
運命が決まっていたと。
ええ。少しでも条件が違えば渦の形も変わります。
AIも全く別の環境で計算させたり最初のシート値がわずかでも違えば絵も変わってしまうんですよね。
なるほど。これよく世間で誤解されてることなのでこの場ではっきりと線を引いておきたいんですけれども。
はい。
時々あのAIの潜在空間には過去も未来も含めた全ての絵が眠っている。
まるで宇宙の記録庫アカシックレコードだみたいに神秘的に語る人がいるじゃないですか。
私も正直少しそう思っていた時期があったんですけど。
ああそういうロマンチックな解釈は魅力的ですけどね。
でも今の帰宅捜索の結果を見ればそれが勘違いだってはっきり分かりますよね。
そこは絵の置き場じゃないんです。
つまり眠ってるのは絵じゃなくて単なる削り方。
先ほどの言葉で言えば座標と癖に過ぎないってことですよね。
完成品が眠ってるわけじゃなくてただ引き算のスピードが人間には信じられないくらい早いから
まるで魔法の倉庫からパッと完成品を取り出してきたみたいに錯覚しちゃうだけだと。
まさにその通りです。復元できないほどに圧縮された偏りがあるだけなんですよ。
AIは正しい絵を探してるわけでも倉庫を漁ってるわけでもない。
ただ注文と癖と砂嵐が噛み合う方向へひたすらノイズを削ってるだけなんです。
さてここからが本当に面白いところなんですけれども
ここまでAIが画像を生成する仕組みの話をしてきましたよね。
ノイズから引き算をして癖と噛み合いで無から有を立ち上げる現象なんだと。
でも実はこれと全く同じ構造を持った機械が私たちにとって一番身近な場所。
そう私たちの頭蓋骨の中にあるって言うんですよね。
人間の脳ですね。特に記憶のメカニズムです。
え、ちょっと待ってください。記憶ですか?
私たちってよく自分の脳をスマホとかパソコンのデータホルダーみたいに想像しがちじゃないですか。
2015年の夏の旅行みたいなホルダーがあって
そこに当時の思い出が写真やビデオみたいに保存されてて
思い出す時はそのファイルを再生してるんだみたいな。
ほとんどの人がそう感じてると思います。
でも現代の脳科学とか認知科学ではそのファイル保存モデルって否定されてるんですよ。
え、そうなんですか。
はい。脳の中のどこを探しても取り出して再生できる完成品の映像とか写真なんて保存されてないんです。
脳にあるのは神経細胞の繰り返しの発火によって刻み込まれた繋がりの偏り
つまり先ほどのAIの話で出てきた癖だけなんですよ。
12:03
ちょっと待ってください。
じゃあ私が子供の頃に飼ってた犬の顔を思い出す時って脳の中にある犬のJPEG画像を開いてるわけじゃないんですか。
いったい何が起きてるんですか。
思い出す瞬間、その時の手がかり
つまり今あなたが犬の話をしているという状況とか
今の自分の気分、そして脳内に刻まれた神経細胞の癖
これらがぴたりと噛み合って記憶はその都度今ノイズから削り出されているんです。
その都度作られている。
ええ。だからこそ同じ出来事の思い出でも思い出す時の自分の気分とか文脈によって
細部が少しずつ変わってしまったりビタされたりするわけです。
ファイルを開いてるんだったら毎回同じはずですよね。
確かに。
でも私たちは毎回現象として渦を立ち上げているから変化するんです。
昔の出来事を思い出す度に何だか少しずつ印象が変わるような経験ありませんか。
ありますあります。
昔はすごく嫌な思い出だったのに大人になってから思い出すと笑い話みたいに感じたりとか
あれってファイルが書き換えられたんじゃなくて
思い出す時の私自身の今の状況っていうプロンプトが変わったから
削り出される渦の形が変わったってことですか。
まさにそういうことです。非常に鋭いですね。
うわぁ完全に一致してますね。
AIに中に絵はない。あるのは癖だけ。絵は噛み合いで立ち上がる。
人間の脳の中に思い出はない。あるのは癖だけ。思い出も噛み合いで立ち上がる。
AIの最先端テクノロジーの話をしてたつもりが完全に私たち人間の話になっていたとは。
世間の解説動画とか記事って
AIは絵を書いていない。引き算してるだけだ。で終わることが多いじゃないですか。
多いですね。
でも今回の深掘りの情報源はさらにその先をついているんですよね。
人間も描いていないんだと。
本当に衝撃です。私たちが見るっていう行為も
盲目に飛び込んでくる光の洪水、つまりノイズから生存に必要な形だけを引き算して削り出している。
思い出すことも癖の層から今の文明に合わせて削り出している。
私たちが心とか意識って呼んできたものの正体って実は削り出し、引き算だったんですね。
そうなんですよ。ただ人間の脳が行うその引き算って
あまりにも一瞬で無意識の奥深くで行われているから
私たち自身には気づけなかったんですよね。
よく最近のAIは人間に似てきた。
まるで自我を持ち始めたようだなんて言われますけど
あれは見方が逆だったんですね。
AIが人間に似てきたんじゃなくて
人間が何万年も前からずっとやってきた引き算で世界を立ち上げるっていうプロセスを
AIが初めて見え見える遅さと形で
私たちの目の前で吐き出しに見せてくれただけなんだと。
本当にパラダイムシフトをもたらす視点だと思いますよ。
引き算で世界が立つっていうかつては哲学者の難解な主張でしかなかった概念が
今や私たちの手元にあるスマホのアプリの中で
15:01
毎日何億回も実行されて証明されているわけですからね。
なんだかここまで聞くと
人間とAIが完全に同じものに思えてきました。
どちらもノイズから世界を削り出す機械なんだなって。
しかしそこで思考を止めてはいけないんですよ。
え?
この映像素材は
AIには何もないって見下す意見を否定したのと同じくらいの力で
じゃあAIと人間は同じなんだねって
同一視してしまう意見にも強く釘を刺してるんです。
そうなんですか?
メカニズムとしてついた場所は同じでも
そこへ至る道つまり引き算を行う動機が決定的に違うんですよ。
動機ですか?どういうことでしょう?
AIがどうやってその癖を獲得したかを考えてみてください。
AIは学習段階で数十億回にわたって
砂嵐と画像を突き合わせる砂当てを行って
ただ機械的に癖だけを吸い上げましたよね。
はい。
そこに画像を美しいと思う心とか
痛い苦しいといった感覚は一切ありません。
完全に切実さを欠いた圧縮なんです。
対して人間は違うと?
ええ、人間が一つの癖
つまり記憶や認識のパターンを脳に刻み込み時
そこには必ず切実さが伴うんです。
切実さ。
ある一枚の絵を見て心が震えるほどの感動を覚えたり
大切な人の顔をどうしても忘れられなかったり
あるいは取り返しのつかない失敗をして
胸をかきむしるような痛みを抱いたり
そうした切実さのある圧縮によって
私たちは世界を削り出してるんですよ。
なるほど。
AIは無痛で数十億の画像を
何の感情もなく処理するけれども
人間はたった一つの一切な経験から
強力な癖を脳に刻み込む。
同じ引き算のシステムであっても
その革底を形作った知覚変動の熱量とか
痛みが全く違うんですね。
その違いを無視して
人間もAIも単なるデータ処理の機械だって
片付けてしまうのは非常に危険な飛躍なんです。
なぜならAIが痛みを感じないということは
現実社会において
非常に深刻な問題を引き起こすからです。
そうですね。
AIが切実さを持たずに
ただひたすらデータを吸い上げるということは
そこに倫理的なストッパーが
存在しないということでもありますからね。
ええ。
AIの学習データの中には
当然権利者に無断で使用された
アーティストの画像が大量に含まれています。
AIはこれは誰かの大切な作品だという
敬意とか痛みを持たずに
ただのピクセルのパターンとして
ぐずりどくしてしまう。
さらに深刻な問題として
世界的に有名な学習データ集の中に
児童への成果外画像へつながる
データが含まれていることが指摘されて
公開停止になったという事実もありますし。
はい。
痛みを持たないからこそ
何でも飲み込んでしまうんですよね。
仕組み上、技術的にできることと
私たちが生きる社会の中でやっていいこと
っていうのは全く別の問題です。
本当にそうですね。
AIがどのように画像を生成しているのか
18:02
その根源的なメカニズムを知った私たちだからこそ
このテクノロジーがもたらす
無痛の暴力性をどうコントロールして
どう共存していくべきかという
現実の課題に向き合う必要があるんです。
ただ魔法のように綺麗な絵が出る便利なツールとして
思考停止するんじゃなくて
その背景にあるデータの出路とか
システムが持つ倫理的な視覚に目を向ける
それが仕組みを知った私たちが持つべき責任だと言えますね。
さて、今回の深掘りもそろそろまとめに入りましょうか。
ええ、あの子はどこにいたのか
その答えはAIの持つ無痛の癖と
あなたの注文と
砂嵐であるシード値が噛み合った瞬間に
立ち上がる現象でした。
そしてそれは人間の記憶や心の働きを
鏡のように映し出すものでもありましたね。
引き算の機械であるAIがノイズから削り出して作った絵を
今度は引き算の機械である私たちの目や脳が
光のノイズから削り出して見つめている。
そう考えると画面越しにAIの絵を見つめる時間は
2つの引き算の機械が互いを映し出している
合わせ鏡のような瞬間なんですね。
そうですね。しかしここで1つ決定的な違いが残るんです。
違いですか?
あなたがその絵を見て美しいと感じたり
不気味だと感じたり
あるいは過去の何かを思い出して心が揺れ動きたりする
そのあなただけが感じることは
他の誰が感じることとも絶対に違います。
その違い、独自の感情の揺れ動きだけは
どれだけ高能なAIであっても
決して生成することができないんですよ。
私たちが生きて痛みを伴いながら刻んできた
切実な癖がそこにあるからですね。
はい、そういうことです。
では最後にリスナーの皆さんに1つ問いを投げかけて
終わりにしたいと思います。
私たちの記憶もAIの絵も
過去の癖と現在の状況が噛み合って
その瞬間に生成されるものだとしたら
今後私たちが日常的に
AIの作った画像や文章に触れ続けることで
私たちの脳に刻まれる切実な癖自体が
少しずつAIの無通のデータによって
形作られていくようになるのでしょうか。
私たちが日々見ているものが
無意識のうちに私たちの心の川底の形を変えていくとしたら
結局のところ最後に絵を描いているのは
一体誰になるのでしょうか。
ぜひご自身でも考えてみてください。
