🌋【耳毒GNB】まずはおさらい〜AI画像生成の仕組み〜

ソース⬇️

* **AIは、絵を描いていない──十秒の魔法の、種明かし** [1]
* **生成AIは絵を"描かない"時間を"巻き戻す"だけ【ゆっくり解説】** [2]

---
stand.fmでは、この放送にいいね・コメント・レター送信ができます。
https://stand.fm/channels/63a663a47655e00c1cbda4e9

00:00

🌋今この瞬間もですね、世界中で何百万枚っていうAIアートが次々と生成されてると思うんですけど、

🌋本当にものすごい数ですよね。

🌋でも実は、AIって絵を描いてなんかいないんですよ。

🌋そうなんですよね。

🌋彼らは筆なんて全く持っていなくて、ただひたすらに消しゴムをかけているだけなんです。

🌋はい。何かをゼロから付け足していくっていう、人間のその想像時対する直感そのものをですね、根本から覆すパラダイムシフトが起きてるんですよ。

🌋というわけで今日もですね、通勤中とか会議の準備中、あるいは純粋な知的好奇心から私たちのこの深掘りに耳を傾けてくれているあなた。

🌋いつもありがとうございます。

🌋あなたの貴重な時間を尊重してですね、最高にエキサイティングな知識のショートカットをお届けしますよ。

🌋今回私たちが飛び込むのは、YouTubeで公開された情報哲学チャンネルとAI真相部という2つの素晴らしい解説動画から得た資料です。

🌋よし、早速紐解いていきましょうか。

🌋はい、よろしくお願いします。

🌋今回のミッションはですね、画像生成AIについての最大の誤解を解くことなんですよ。

🌋そこが一番重要ですね。

🌋はい、そして誰もがAIを使った時に感じる3つの謎。

🌋つまり、なぜあんなに早いのか、なぜ二度と同じ絵が出ないのか、そしてまさか他人の絵をコピペしてるんじゃないかという疑惑ですね。

🌋はいはい、よく言われるやつですね。

🌋さらに不気味な、なぜAIはがんなりに指を6本にしてしまうのかというバグの正体まで、今日は全てを丸裸にしていきます。

🌋多くの方がですね、AIってイメージのない画家が猛スピードで真っ白なキャンバスに色を塗っているって想像してると思うんですけど、まずはそこから修正していきましょうか。

🌋はい、そこですよね。資料を読んで私一番驚いたんですけど、AIの出発点って真っ白な紙じゃないんですよね?

🌋そうなんです。AIのキャンバスっていうのは、昔のテレビで夜中の放送が終わった後に流れていた砂嵐なんですよ。

🌋さーっていう、あのランダムなノイズだらけの画面ですね?

🌋ええ、あそこからAIは色を足すのではなくて、ひたすら注文に合わない余計な砂を消しているんです。

🌋いや、これ本当に面白いですよね。

🌋ここで非常に興味深いのはですね、これが単なるプログラミングの手法の話じゃなくて、歴史的な天才の芸術論と全く同じアプローチだっていうことなんですよ。

🌋え、天才の芸術論ですか?

🌋はい。ルネッサンスの巨匠、あのミケランジロの有名な言葉を知っていますか?

🌋いえ、えっと、何でしょう?

🌋彼はですね、「象は始めから大理石の中にいる。私は余計な部分を取り除くだけだ。」と言ったんです。

🌋うわー、なるほど。

03:00

🌋画像生成AIがやっていることはまさにこれなんですよ。

🌋でたらめな砂嵐っていう大理石の中から、合わない砂粒を削り落として、最後に絵だけを残しているわけです。

🌋つまり、私たちがポップコーン天井のデコボコした模様とかをじーっと見ていたら、なんだか顔に見えてきたみたいな現象をAIがやっていて、

🌋ええ。

🌋で、AIはさらに一歩踏み込んで、その顔以外の天井の模様を全部削り落としているようなものですよね。

🌋完璧な例えですね。人間の脳にはですね、パレイドリアと呼ばれる強力な機能が備わっているんです。

🌋パレイドリアですか?

🌋はい。天井のシミが顔に見えたりとか、火星のただの丘が人面川に見えたりする現象ですね。

🌋これ決して脳のバグとか錯覚じゃなくて、進化の過程で獲得した立派な生存戦略なんですよ。

🌋え?生存戦略?シミが顔に見えることがですか?

🌋ええ。はるか昔、人類が狩猟採集をしていた頃を想像してみてください。

🌋草むらで何かがガサッと揺れたとき、あ、虎の顔かもしれないって過剰に反応して逃げ出したとしますよね。

🌋はい。とりあえず逃げますね。

🌋もしそれがただの風のいたずらだったとしても、まあちょっと恥をかくだけで命は落としません。

🌋確かに死ぬよりはマシです。

🌋でもただの影だろうと思って本物の虎を見逃せば、それは死に直結します。

🌋だから人間の脳はよく知っているパターン、特に顔や生き物の形をノイズの中から過剰に見つけ出すように調整されているんです。

🌋ははー、なるほど。じゃあAIはその人間のパレードリアの超強化版を実装しているわけですね。

🌋ただのデタラメな砂嵐の中に銀髪の女の子の気配みたいな幻覚を見て、その幻覚の邪魔になる砂をひたすら消していくと。

🌋そういうことになります。

🌋いやーでもちょっと待ってください。人間が幻覚を見るのは何万年もの生存競争があったからですよね。

🌋はい。

🌋単なるプログラムであるAIがどうやってそのただの砂嵐から特定の幻覚を見る能力を身につけたんでしょうか?

🌋ここからが本当に面白いところなんですが、AIがその能力を獲得するための特訓がですね、信じられないほどユニークでかつ力技なんですよ。

🌋ほう。

🌋AIの学習プロセスって、まず世界中から集めた完璧で美しい写真をわらと壊すことから始まるんです。

🌋壊す?せっかくの綺麗なデータをですか?

🌋ええ。普通、AIの学習ってこれが猫ですよって綺麗な画像を見せて覚えさせるんじゃないんですか?

🌋違うんですよ。例えば、入れたてのコーヒーにミルクを一滴垂らすところを想像してみてください。

🌋はいはい。白い模様が広がりますね。

🌋最初は白い模様が広がりますが、すぐにかき混ぜられて全体が茶色くなって、二度と元のミルクの一滴には戻せませんよね。

🌋まあそうですね。負荷逆というか。

🌋これ、物理学で拡散、英語でディフュージョンと呼ばれる現象なんです。

🌋AIの研究者たちは元の画像に対して少しずつノイズ、つまり砂を足していって、最終的に完全に元の形がわからないテレビの砂嵐にしてしまうんです。

06:03

🌋えー、わざわざ自分から画像を台無しにするなんてどういう意味があるんですか?ただエントロピーを増大させてるだけじゃないですか?

🌋2015年に研究者たちが忌みたいた学期的なアイディアがこれだったんです。

🌋と言いますと?

🌋ミルクが混ざっていく過程、つまり砂を足して画像を壊していく全工程を細かく記録しておけば、それは時間を巻き戻す、つまり逆再生するための究極の練習問題になる、と気づいたんです。

🌋究極の…あ、なるほど!つまり、このちょっと汚い写真に1秒前に足した砂粒はどれでしょうっていうクイズを自分で作って自分で解いているわけですか?

🌋その通りです。自分で壊したんですから、どの砂を足したかっていう正解を最初から知っているわけです。

🌋あー、カンニングペーパーを持っているようなものだ。

🌋いわば回答付きの問題集を自作してから個テストを受けている状態ですね。最初は当然間違えますけど、答えを知っているからその場で自分の計算式を修正できる。

🌋はえー賢い!

🌋これをですね、数十億枚という途方もない数の画像を使って機械ならではの無人像なスタミナで何兆回と繰り返すんです。

🌋自作自演のタイムトラベルを延々とやっているわけですね。機械だから心が折れることもないし。

🌋そして、足した砂を当てる力っていうのはその砂を消す力と全く同じなんです。

🌋なるほど。

🌋一段階だけ前の綺麗な状態に戻すことができれば、それを千回繰り返すことで完全なデタラメの砂嵐からでも見事な絵を復元できることになります。

🌋砂嵐から絵が浮かび上がるわけだ。

🌋そうです。素子下の階段を逆に下りるように荒い構図から始まって徐々に服や髪の毛が浮かび上がり、最後の数回の引き算で瞳の光や眉毛の一本一本といった細部が削り出されていくんです。

🌋いやーこれめちゃくちゃ面白いですね。この引き算と巻き戻しの仕組みさえわかれば、私たちが実際にAIを使っていて感じるあのイライラする謎が全部解ける気がしてきました。

🌋お、例えばどれでしょう?

🌋例えば、最初の謎です。なんであんなに薄気味悪いほど速いのか。

🌋あー、速度ですね。

🌋プロのイラストレーターが何日も描けるようなクオリティの絵をたった10秒とかで出してきますよね。あれってどうしてなんですか?

🌋人間が絵を描くときは、何時間もかけて筆を動かして情報を一つ一つ足していくからです。

🌋はい。

🌋でも、AIは計算に特化したGPUを使って消す、つまり引き算するという数学的な処理を数十回行うだけなんですよ。

🌋あーなるほど。

🌋描くのには時間がかかりますが、消しゴムをかけるのは一瞬なんです。

🌋消していないから速い。シンプルだけど強烈な事実ですね。じゃあ次の疑問に行かせてください。

🌋はいどうぞ。

🌋もしAIがそんなに高速な計算機なら、計算って再現性があるはずですよね。1たす1は絶対に2になる。

🌋ええそうです。

🌋なのに、私が最高に気に入った絵が出たから、ちょっとだけここを直してって思ってもう一回ボタンを押すと二度と同じ絵が出ないんですよ。

09:08

🌋はい。

🌋いわゆるガチャ要素ですが、あれめちゃくちゃ悔しいんですけど。

🌋あーわかります。紙引きしたのにってやつですね。

🌋そうなんです。計算なら同じ答えを出せるはずじゃないですか。

🌋実はですね、AIは全く同じ計算はしてるんですよ。

🌋え、でも違う絵が出ますよ。

🌋答えが変わってしまうのは、出発点となる砂嵐が毎回違うからなんです。

🌋あの砂嵐は完全なランダムではなくて乱数で作られるんですが、その乱数の種としてシード値という固有の番号が振られています。

🌋シード値。よく設定画面の奥の方にあるあの意味不明な数字の羅列ですね。

🌋はい。全く同じシード値の砂嵐を用意して、同じ注文、同じ設定でAIに引き算をさせれば、実は寸分違わず同じ絵が出力されるんですよ。

🌋え、ちょっと待ってください。ということは、私がもう一回ボタンを連打しているとき、私はAIにさっきの絵をもうちょっと上手に描き直してよと頼んでいたつもりだったんですが。

🌋実際にはですね、アプリが裏で新しいシード値を振り直していて、あなたはただ違う吹く引きのガラガラを回し直していただけなんです。

🌋うわーショックです。

🌋別の砂嵐を渡されたAIは、当然別の幻覚を見て別の絵を削り出しますからね。

🌋それなら、あの紙引きしたときにシード値さえメモしておけば、あれは奇跡の一枚なんかじゃなくて、一でも呼び出せる住所がある一枚だったってことですか?

🌋まさに住所という表現がぴったりです。砂嵐という広大な宇宙の中の特定の座標ですね。

🌋座標かー。よし、じゃあその住所という言葉が出たところで、どうしても避けられない3つ目の最大の謎に切り込ませてください。

🌋はい、何でしょう。

🌋AIは結局、世界中のアーティストの絵をこっそりサーバーに保存して、それをコピペして繋ぎ合わせているだけじゃないのかという疑惑です。

🌋これをより大きな視点に結びつけて考えてみると非常に面白いんですが、この疑問にお答えするには物理的なデータ量の話をしなければなりません。

🌋データ量ですか?住所があるなら、元の絵のデータがある場所を指しているだけなんじゃないかって思うんですが。

🌋先ほど、AIは数十億枚の画像データを学習していると言いましたよね?

🌋はい、言ってましたね。

🌋では、その学習を終えたAIのシステム自体のファイルサイズってどれくらいだと思いますか?

🌋えーっと、数十億枚の高画質画像ですよね?

🌋世界中の美術館とかインターネットの画像を全部合わせたら、間違いなくペタバイト級というか、データセンター丸ごと一つ分くらいの巨大なサーバーが必要なんじゃないですか?

🌋実はですね、私たちが普段使っているような強力な画像生成AIモデルの根幹ファイルは、たったの数ギガバイト程度しかないんですよ。

🌋はい?数ギガ?あなたのスマートフォンに余裕で入るサイズです。

🌋いやいや、ちょっと待ってください。計算が合いませんよ。数十億枚の画像をたった数ギガバイトに収めようとしたら、画像一枚あたりに使えるデータ容量って約一倍となります。半角文字、アラファベット一文字分ですね。

12:09

🌋画像一枚をAとか1っていう一文字のデータサイズで保存するなんて、どんな神がかった圧縮技術を使っても物理的に不可能ですよね?

🌋おっしゃる通りです。物理的に不可能です。

🌋つまりどういうことかというと、AIの中に元の画像は一枚も保存されていないんです。

🌋一枚もですか?じゃあ一体何が入っているんですか?

🌋残っているのはですね、紙は重力に従ってこう流れる傾向があるとか、猫の耳は大体三角でこういう質感だという世界の見え方の癖や傾向のデータだけなんです。

🌋癖ですか?

🌋例えるなら、数え切れないほどの巨匠の絵を模写して練習した画家の卵が、練習が終わった後に、得たキャンバスを全て燃やしてしまったような状態です。

🌋ほほ。

🌋手元には一枚の絵も残っていませんが、画家の頭と筋肉の中には、絵の描き方、つまり腕前だけが残っていますよね。だから、原理的にはコピペではないんですよ。

🌋いやーでも理屈はわかりますが、現実にはAIがミッキーマウスとか有名なキャラクターをそっくりそのまま出力してくることがありますよね。

🌋ええ、ありますね。

🌋一枚も保存していないのに、なんであんなに完璧に再現できるんですか?それはやっぱりどこかに正解を隠し持っているとしか思えないんですが。

🌋それは非常に鋭い、そして重要な指摘です。ここからは客観的な事実としてお話ししますが、先ほどの1バイトというのはあくまで全データを平均した場合の話なんですよ。

🌋と言いますと?

🌋もし、特定のキャラクターや特定のアーティストの画像が学習データの中に何万枚、何十万枚と重複して含まれていた場合、どうなると思いますか?

🌋あー、同じものを何度も見せられるわけですね。

🌋そうです。AIの中でその特定の癖だけが異常に深く刻まれすぎてしまうんです。これを専門用語で科学習、オーバーフィッティングと呼びます。

🌋なるほど。一つの形を練習しすぎたせいで、癖のレベルを超えて丸暗記してしまった状態になるわけだ。

🌋ええ。その結果、元データに保存されていないにもかかわらず、数学的な確率の変容率によって、元の画像とそっくりなものを出力してしまうケースが実際に研究で確認されています。

🌋だからそっくりな絵が出ちゃうことがあるんですね。

🌋現在、著作編などで様々な議論が起きているのも、まさにこの基本はコピペではないが、データに偏りがあると、丸暗記のような出力が起きてしまうという技術的なジレンマがあるからなんです。

🌋ということは、感情的にAIは泥棒だと叫ぶのも、いやいやAIはただ学んでいるだけだと申しんして擁護するのも、どちらも少しずれているんですね。

🌋ええ、そう言えるかもしれません。

🌋引き算のメカニズムと癖の集合体であるという実態、私たちは今、この両方の仕組みを正確に理解した上で、人間社会としてどうルールを作っていくかという難しい段階にいるわけだ。

15:05

🌋その通りです。技術のブラックボックスを透かしてみることで、初めて建設的な議論ができるようになりますからね。

🌋いや、めちゃくちゃスッキリしました。でもですね、AIが癖の集合体であり、見た目の雰囲気の天才であるということがわかったところで、どうしても聞きたい笑えるバグの話があるんですよ。

🌋何でしょう?

🌋どうして、あんなに光の表現とか質感を完璧に描ける天才AIが、人間の手を描かせると途端にポンコツになるんですか?

🌋あー、手のバグですね。

🌋指が6本になったり、手首から謎の関節が生えたり、顔はあんなに完璧なのに。

🌋これは重要な疑問を提起しますね。そして、本当に面白い現象であり、AIが世界をどう理解しているかを最も端的に表しています。

🌋結論から言うと、AIは人間の指を1本、2本、3本と数えているわけではないからです。

🌋数えてない。でも、手の指が5本なんて、それこそ数十億枚の画像に映っているはずですよね。

🌋確かに映っていますが、AIは概念を理解しているわけじゃないんです。

🌋先ほど説明したように、この辺りに指っぽい細長いテクスチャが並んで欲しいというパレードリアの眼角を見て、それに合わせて砂嵐を消しているだけなんですよ。

🌋はー、あくまで模様として見てるってことか。

🌋人間の顔を考えてみてください。目は必ず2つ、鼻は1つ、口は1つ、しかも常に同じ配置です。数十億枚の写真をどう見ても、その配置の癖は超安定していますよね。

🌋確かに、福笑いみたいにバラバラにはならないですからね。

🌋だからAIにとっても非常に覚えやすいんです。

🌋でも、手は?確かに顔に比べると無茶苦茶ですね。握ったり開いたり、誰かと手を繋いだり、ポケットに半分入れたり。

🌋ピースサインとかもありますしね。

🌋見る角度によって形が変わりすぎますもんね。

🌋ええ、データが数十億枚あっても、手の見え方はあまりにもバラバラすぎます。その結果、AIの中で手の癖のデータが混ざり合ってボケてしまうんですよ。

🌋癖がボケる?

🌋そのボケた状態のまま、手っぽいものをそれらしく並べようとして引き算を進めた結果、スペースが余っているからといって6本目の指を削り出してしまうんです。

🌋なるほど。手という立体構造を知っているわけじゃなくて、引き算の序盤で眼角の形を読み違えて、まあこんな感じだろうと最後まで削り続けちゃった勘違いの置きみ上げというわけだ。

🌋まさに、これ文字や看板の生成でも同じことが起きます。看板の文字がミミズのようになったり、解読不能なエイリアンの言語みたいになったりするのを見たことありませんか?

🌋ありますあります。アルファベットっぽく見えるけど、よく見るとどこの国の言葉でもない不気味な文字ですよね。

🌋あれも、世界中にホントや言語が無数に存在するため、手以上に線の屈がバラバラで重症化しやすいからなんです。

18:03

🌋あー、なるほど。

🌋AIにとっては、なんとなく文字っぽいウニョニョした線という眼角でしかないんですよ。

🌋雰囲気だけで英語を書こうとした幼稚園児みたいな状態ですね。

🌋もう一つ、人間の癖を反映した面白い事実があります。

🌋AIに腕時計を生成させると、なぜか時計の針が10時10分を指していることが非常に多いんです。

🌋え?10時10分?それはどうしてですか?

🌋街中や雑誌にある世界中の時計の広告写真を思い浮かべてみてください。

🌋ほとんどの広告で、時計の針は10時10分に設定されています。

🌋あー、言われてみれば。

🌋ブランドロゴが一番綺麗に見えて、かつ針が上を向いていて、スマイルの形になり、心理的にポジティブな印象を与えるからなんですね。

🌋うわ、ホントだ。全部10時10分ですね。

🌋AIはそうした大量の広告画像を学習するため、時間の概念やマーケティング心理学なんて全く理解していないのに、

時計とは針が10時10分の形をしている物体だという、人間の社会の変更をそのまま反映してしまうんです。

🌋なんというか、AIって人間が作った世界の変更とか、無意識の癖をそのまま映し出す鏡なんですね。

🌋ええ、ホントにそうです。

🌋私たちが気づいていない私たち自身の姿を、よくも悪くも見せつけられている気がします。

🌋素晴らしい洞察です。

🌋AIの弱点や変更を知ることは、私たちがAIを過剰に擬人化して、心があるとか意思を持っていると錯覚するのを防いでくれます。

🌋あくまで確率と引き算のツールとして、冷静に扱うための非常に重要な視点となりますね。

🌋いやー、今日は本当に脳みそが強烈にアップダイトされる感覚でした。

🌋私たちが普段魔法だと思って見ているAIの裏側が、実はものすごく泥臭くて気の遠くなるような計算のプロセスだったとは。

🌋知れば知るほど面白い世界ですよね。

🌋今日学んだことを整理しましょうか。

🌋AIは決して白破棄からゼロで絵を描いているわけではない。

🌋ランダムなさな荒らしから、パレードリアによるに幻覚を見て、ひたすら余計なさなを引き算しているだけ。

🌋はい。

🌋その驚異的な能力は、きれいな画像を自ら壊して時間を巻き戻すという回答付きの自作問題集を使った途方もない自習によって身につけたもの。

🌋だから、引き算だけをするAIは恐ろしく早い。

🌋そして、あの悔しいガチャ要素はシード値という砂嵐の住所の違いでしかなく、

🌋新しい絵が出てくるのは膨大なデータから抽出された腕前や癖だけを使って出力しているから。

🌋だからこそ、特定の学習データが多すぎるとコピペのような事故も起きるし、形が複雑な手は癖が読み切れずに六本指になってしまう等。

🌋その仕組みさえ理解すれば、魔法のように不思議に見える現象も全て論理的に説明がつきます。

21:00

🌋表から見るとブラックボックスでも裏側には非常にシンプルで一貫したメカニズムがある。

🌋それを知ることでAIとの付き合い方は劇的に変わるはずです。

🌋次にあなたが画像生成AIのボタンを押す時、あるいはニュースでAIの話題を目にする時、きっと見え方が全く変わっているはずです。

🌋あのツルツルで完璧な画像の裏側に砂まみれになりながら数式と確率で削り出していく見えない彫刻家の姿を感じられるんじゃないでしょうか。

🌋そうであってほしいですね。

🌋さてここまでの深い探究を踏まえて最後にあなたに一つだけちょっとゾクッとするような試行実験を投げかけてみたいと思います。

🌋ほう、どんな考えでしょうか。

🌋今回あの砂嵐を作る乱数にはシード値という番号があることが分かりました。

🌋そして設定や注文そのシード値が全く同じならいつ誰がやっても寸分違わず同じ絵が出る。

🌋ええ、住所のようなものですね。

🌋つまりどの絵が出るかはその番号の砂嵐が配られた瞬間にもう完全に決まっている運命のようなものですよね。

🌋確かに数学的にはそうなります。

🌋だとしたらあなたが生成ボタンを押す前からあの息を飲むような美しい銀髪の女の子の絵はすでにそこに存在していたことになりませんか?

🌋ああ。

🌋私たちが生まれる前からずっと誰もまだ引いていない無限のシード値の砂嵐の中にこれから誰かが生み出すかもしれない誰も見たことのない傑作も見たことのない未来の風景も奇跡のように愛らしい猫の姿もすべてがすでにノイズの宇宙の中に眠っていてただ誰かがその番号を呼び出して余計な砂を払ってくれるのをじっと待っている。

🌋なるほど。

🌋私たちは何も作っていない。ただ見つけているだけだとしたら。そう考えると少し不思議な気持ちになりませんか?

🌋それは本当に想像をかきたてられますね。

🌋それでは次回の深掘りでお会いしましょう。