1. Cra出しRADIO 工芸とカルチャー
  2. S2 ep22 映画『Winny』と画像..

工芸の話に繋がるかよく分からないままに、とにかく生成系AIと人間のクリエイティビティについて語り合う「AIと工芸」シリーズ第2回。前回のChatGPTに続き、画像生成AIの世界が今どうなっているのかを概観します。(そして前回に続き2021年と言うべきところを2001年と堂々と間違えるGPTイワタ…)
使い方によっては社会に混乱をもたらすかもしれない新しい技術をどう使うのか。そんな話から話題はP2P技術を応用したファイル共有ソフトWinnyの開発者金子勇氏を扱った映画『Winny』へ。
本編で言及できていませんでしたが、画像生成AIの近年の流れの整理の部分の大半は、以下の番組上でのプログラマー清水亮さんのお話を参考にさせていただきました。これめちゃくちゃ面白いです!オススメです!
清水亮×さやわか×東浩紀「生成系AIが変える世界2──『作家』は(今度こそ)どこにいくのか」
https://shirasu.io/t/genron/c/genron/p/20230305
【番組の感想・質問・リクエストなどはこちらから】
https://onl.bz/RjZRMXc
#concra でも感想お待ちしています!
【今回の話題の関連リンク】
OpenAI DALL-E2
https://openai.com/product/dall-e-2
Midjourney
https://www.midjourney.com/home/?callbackUrl=%2Fapp%2F
Stable Diffusion Online
https://stablediffusionweb.com
映画『Winny』
https://winny-movie.com
BioClub
http://bioclub.org
Adobe Firefly
https://firefly.adobe.com
【ConCra Information】
ConCra公式サイト
https://concra.jp
誰でも参加できる実験場 ConCra Collective(コンクラコレクティブ)
https://basic.motion-gallery.net/community/concra/
パーソナリティ:岩田篤 蔡海 福原志保

00:01
CRA出しRADIOは、使わなくなった大切なものを、様々な手法で生まれ変わらせるコレクティブ、ConCRAのメンバーが、工芸を軸に、物と人との関係、物を作ることについて、皆さんと一緒に考えていく番組です。ConCRAの司法です。
海です。
岩田です。
はい。
ショウさんのその喋り方は、ちょっとジェネラティブだったかもしれないですね、今。
なんか、人前向けのなんか。
あのー、ちょっとスイッチ入ってやる感じですね。
そうそうそうそう。
こういう風に普段喋ったら、もっとね、聞きやすいのにって凄い怒られる、色んな家族に。
あー。
でも疲れちゃうの。
無理です。
あー、なるほどね。
無理です。
あのー、暮らしラジオで。
ずっとその喋り方されてたら、ちょっとね、それこそアツ感じますけどね。
辛い、辛いね。
感情持っとんのかな、この人。
まあ引き続きAIの話なんですけど。
はい、まあAIの話なんですけど、前回のエピソードはチャットGPTの話題を主に話してきたんですけど、
暮らしラジオとしては、ここから工芸の話にたどり着きたいということで、
最近、寝ても覚めても生成型AIな僕が、僕なりに色々学習して、
至った結論というか、至った暮らしラジオのエピソードの話し運びの方向性としては、
まずチャットGPTの話をして、それから画像生成AIの話をしないと全体像が見えてこないぞというところで予告して終わったんですけれども、
画像生成AIって言って、またどのくらい認知されているか問題なんですけど、
どういうところから話すと一番多くの人が知っている話題になるんでしょうかね。
うーん、なんかでも一時単語でミッドジャーニーっていう言葉はみんな聞いていたと思うしね、
それはでも何のこっちゃか、まだ。
まだ限定的なんですよね、ミッドジャーニーとかもね。
多分もうちょっと何て言うかな、下世話なというか話題で言うと、
03:03
多分TwitterとかでイラストAIとかで検索すると、多分色々出てくると思うんですけど、
いわゆる萌えアニメのイラストとか、コスプレイヤーのどう見ても写真にしか見えない、
これは何というんだ、イラストAIという名前でありながら、写真みたいなものが大量に流布していると今。
イラストじゃないけど写真っぽいってこと?
イラストAIって言ってるのに写真っぽいってこと?
写真っぽいというか写真なんですよね。写真とは何ぞやって話になるけど。
イラストAIで出てくるとどうなんですか?
ミッドジャーニーっていうキーワードを僕も初めて聞いた去年の夏ぐらいとかの時に、
思ってたAIが描く絵みたいなものとはまた違った様相を呈してきている。
もう本当にAIが描いたのか人が描いたのか、
人が撮った写真なのかAIが生成した写真なのかみたいなことが、
かなり見分けがつかなくなっているレベルに来ています、ということなんですけどね。
これでもそうするといろいろ問題が見分けがつかないっていうか、いろんな問題が出てくるじゃん。
いろんな問題出てくるよなって容易に考えつきますよね。
問題しか出てこないぐらいの良い。
ミッキーマウスで入力したら何とも言えないそのものの画像が多分出てくる。
私昔アプリ制作会社で働いてて、その時担当がハローキティのカメラで
自分の顔とか友達の顔を撮るとそこにピッタリと耳とかリボンとか
ハローキティのアイテムがビーって付くみたいな。
これ今言うと普通の話なんだけど、割と初期で開発したんだよね。
重要なポイントが耳の感覚なんですよね。
ハローキティっぽさを作るために耳の距離感とか目の距離感とかを
ピクセル単位ですごいチェックしてくるの、担当者が。
だから例えば今こうやってGenerated by AIでさ、
06:01
ハローキティって書いて出したらね、ピクセル単位でチェック入ってくるの。
するでしょうね。地元からアプローバルが。
そうだよね。で、OK通るか通らないか聞いてみたいなって。
だからライセンスフィーを産業さんに払ってる誰かがデザインすることもめんどくさくなって
キティちゃんのTシャツをデザインしてって言ったやつを出てきて
そのまま行った時にアプローブ通るかどうかって話だよね。
それやってみたいな。そこの自分に戻って。
結構びっくりしたよ。
本当に気づかない。何が起きたかはその時わからなかったんだけど
本当に数ピクセル目だけがちょっとずれちゃってたの。
パッと見わかんない。で、Photoshopでレイヤーかけて透過させて
よーくズームしてみると確かにピクセルでずれてるの。
へー。
これを何百枚って中からパッと見つける人すごすぎじゃん。
多分岩田さんのウォーホルのアミテンの形の違いを見分けるぐらいのスキルだと思う。
僕のは別に何のスキルでもないけど。
だいぶだと思うよ。
それもだいぶだったな。
アミテンAI。
アミテンでウォーホルの年代がわかるAI。
しおさんが今おっしゃった通り、これができるってことはやばくねって思うわけですよ。
まず今のハローキティの例もそうなんですけど著作権の問題とか
あとこれだけリアルな写真が出せるということはフェイク画像がいくらでも作れちゃいますよねっていうこととか
っていうのが大丈夫なのっていうふうに思ったわけですよね。
そこからこっちの世界どうなってるんだろうっていうので
ここ1,2年ぐらいの歴史というか掘り下げたらめっちゃ面白いことが起きてて
ちょっとだけレクチャーっぽい感じになっちゃうと思うんですけど
これめっちゃ面白いので。
むしろ全然知らないもんね。
画像生成AIっていつの間にか出てきたけど何がどうなって出てきたかとかよく知らないですね。
その辺の概要をちょっと岩田さんから。
僕も本当に最近も短い期間に吸収したもので間違ってる可能性は十分あるので
その前提で何の専門家でもないしその前提で聞いてる方も聞いてほしいんですけど
まず今のここまでのレベルになった画像生成AIの一番直近の
09:01
大きく技術がジャンプしたタイミングとしては
2001年にチャットGPと同じオープンAIっていう会社が
画像分類モデルのクリップってやつを発表して
この写真はこれですよみたいなことを分類して生成できるみたいなものを発表して
同時に自然言語処理だから今のチャットGPTと多分つながってると思うんですけど
文章としてテキストとして書かれたものを理解するっていうものを組み合わせた
ダーリーっていうソフトを発表したんですね。
それで何ができるようになったかというとテキストというイメージ
そこでテキストでだけ入力したものが画像として生成されるっていうことがそこで初めてできた
これにこの界隈のというかテック業界というかはすごく湧いたわけですよね
こういうことがようやくできるようになったかと
その後継モデルのダーリー2ってやつを2022年の4月とかにオープンエア出すんですけど
論文でこういう計算でこういうふうにしたらこういうものが出せるんだよっていうことは発表するんですけど
どういうソースコードで動いてるかっていうことは開示されないんですよね
企業秘密として。一応そのダーリー2って実際検索してもらったDALL-Eって書くんですけど
これで検索すると誰でも触れるようになってるんでチャットGBGと同じように
僕もちょっといろいろやってみたりしたんですけど
これが発表された時にさっきの懸念じゃないですけど
例えば性的なポルノ画像とかあと暴力的な画像とか
あと実在の人物とかこういうものの生成を当然といえば当然なんですけど
その単語を入力することとかもそういう単語何か
そういうに関連する単語を入力するとダメですってなったりとか
生成しようと思ったらそれを止めるっていうようなロックがかかってったと
やっぱりその画像生成AIの問題点
やっぱりディープフェイクみたいな問題って以前からあったし
これがあんまり人々にいきなりオープンになることは危険であるっていうことは
オープンAIも考えてて
クローズドな招待メンバーしか使えないみたいな状態にしてたんですよね
でそのオープンAIの態度に豪揚した世界中の勇士たちが
2022年の5月にライオンっていう比喩団体を作って
ラージスケールアーティフィカルインテリジェンスオープンネットワークの頭文字を取ってライオンなんですけど
12:04
もう完全に比喩の団体
企業でもなくてそれで何かお金儲けしようっていう団体でもなくて
そのライオンっていう世界中のプログラマーとか
多分プログラマーだけじゃない
人が組織したライオンっていうグループが
50億を超える画像とテキストのペアをまとめた
そのAI用のトレーニングデータセット
読みながら言っちゃったけど
あれ大丈夫ですかね
多分観念的に僕聞いてたのかな
この画像はこれですっていうのを
手作業でみんな入力したやつを大量に集めて
50億だから5ビリオンのデータセットを集めた
ライオン5Bっていうやつを無償で公開するんですね
ちょっと時系列があれだな
そのオープンAIがダーリン2を発表した直後ぐらいに
オープンAIがソースコードを全然公開せえへんから
別のそういう企業のプログラマーじゃない人たちが
多分こういう風だろうっていうものを
GitHubとかで作り出すんですよ
そういう野良の人たちの
とにかくたくさんデータを集める
とにかくソースコードを書くみたいな動きが
オープンAIがダーリン2の中身を全然公開しない間に
どんどん進めていた
ライオン5Bは無償で公開されたので
Googleとかがそのままそれ使って
GoogleのImagineっていう画像生成のソフトにも組み込んで
Mid Journeyもそのライオン5Bを組み込んで
去年の夏頃に公開したんですよね
だからこのライオン5Bっていうのが何の意味があったかというと
とにかく画像とテキストのセットになっているデータが50億もあるので
これでめちゃくちゃその画像生成の学習のための基礎になるデータがものすごく増えたわけですよ
これによってその画像生成の精度がものすごく上がった
ただまだこの段階では
オープンAIはソースコードを発表していないダーリン2
Googleも当然ソースコードを外に出していないImagine
Mid Journeyも別に誰でも使えるけど
Discordに入ったら誰でも絵は描けるけど
その中身でどう動いてるかっていうのは公開してないっていう状態だったんですね
15:00
でやっぱりGoogleも
フェイク画像とかポルノ画像とかがどんどん生成されるようなことはまずいので
そもそも人間の写真が生成されないようにみたいなことの制限がかかってるみたいな状態だったので
それはおかしくないかと
ビッグテックがAIの倫理基準みたいなものを自分たちで決めて
本来はAIって世界中のすべての人に等しく使える技術になってないと
大きい組織が自分たちの決めた倫理観の中で
これはいいですこれはダメですっていう風に制限をかけてる状況っておかしくないっていうことを
主張したイギリスのスタビリティAIという会社
これのために新しく立ち上がった会社みたいなんですけど
がステーブルディフュージョンっていうのを公開するのが去年の8月
これがパンドラの墓なんですよね
さっきのイラストAIとかに直結する
スタビリティAIのサイトとか見ると
AI by the people for the peopleとかってどんと書いてあるんですけど
人民による人民のためのAI
とにかくこれスタビリティAIがやったのはソースコードを全公開するわけですよ
だからもうこれ使っていいよっていう風に公開されたから
オープンAIがずっと隠してきたソースコードとか全く意味なくなっちゃったわけですよね
誰でもスタビリティステーブルディフュージョンのソースコードをベースにすれば
いろんなサービスも立ち上げられるし
自分で学習させて画像も生成できるし
お金払ってそんな招待制のサービス使う意味がなくなっちゃったわけですよ
ミッドジャーニーが去年の7月とかに話題になって
ちょっとそれからどのくらいこの辺のパワーバランスがどうなっているのか分からないですけど
もうステーブルディフュージョンが出た限りは
もう別にわざわざ特定のサービスを使う必要がないみたいな状態になって
これは今に続く状況
だからイラストAIって検索していろいろアニメのイラストとか
ほとんど写真にしか見えない画像とか出てくるのは
このステーブルディフュージョン以降の状況なんですけど
でもこれって言ったらユーザーが持ってる画像で追加学習させて
新しいモデル作ってそこから新しい画像を生成するみたいなことができるから
ネット上に例えばしほさんの画像でも海さんの画像でも僕の画像でも
18:05
ネット上にあるものもし仮に何十枚か拾ってきて集めたら
しほさんがあたかも全然しほさんがその場にいないような状況のところで
何かをやってる画像みたいなのが生成できちゃうわけですよね
しほさんが大型バイクに乗ってるところって言うとすると
ありえない
ありえない画像が登場するってことですね
ってことが今誰でもできちゃう状況になってしまっているという
今のところ見てるとステーブルAI
ステーブルディフュージョン
ステーブルディフュージョンはわざと3つ似てるけど全然違うっていうのを
意図的に出してる
そうなんだ
僕ステーブルファンデーションのディスコード入ったんだけど
まだちょっと実際に生成するところまでは至れてない
画像から似た画像を無制限に生成できるよって言ってるんだけど
全然わざとちょっと変えてくる感じ
画像を投稿してその画像をちょっと変えるってこと?
ってことは同じような人の写真を何か違うポーズとかさせると
それって勝手にやんなよってなるけど
私の例えば写真を載せたとしても全然キャラクター化されちゃってたりとか
人形みたいになってたりイラストっぽくなってたりとか
そういう風なやり方とか
まあいいかみたいな風に
プリクラみたいなことで目とかが盛られてたりとか
今ステーブルディフュージョンで検索して出てくる
ステーブルディフュージョンオンラインっていうサイトで
実際に画像生成できるのもあるんですけど
そこはちゃんとというか
やっぱりポルノであるとか暴力的であるとかっていうことの制限は欠けてあるんですよ
それはそれで
ただスタビリティAIの考えとして
民主化されないといけない
新しい技術は民主化されてないといけないっていう
ハッカー的なっていうか
言い方が正しいのかどうかわからないですけど
思想のもとに
コードをオープンソースにしてしまって
あとはみんなが自分たちの倫理観で使ってねっていう風になっちゃってる
なってあるので
悪用しようと思ったらできちゃう状況ではある
っていうようなところに
映画のウィニーがつながっていくんですよね
21:00
そうそう
すごい飛ばしたね
ごめんなさい
いきなり映画ウィニーっていう単語ができましたけど
そういうことになってんのかと思って
面白がってたところで
ウィニーという映画を見に行ったんですよね
見ましたね皆さん面白いって
私ウィニーよく知らなかったからね
だからそれで言うと
ステーブルディフュージョンの開発者が
逮捕されるってもおかしくないっていう
そういうことが起こってるのがウィニーであった
そうですね
これ配信されるのは
4月の25日ですけど
まだやってますかねそのタイミングって
東宝シネマって僕見たんですけど
ちなみにどんな感じですか映画館は
結構人がいっぱい
結構入っとる
8割9割は埋まってる感じ
ロングランもあるかもしれないって感じですかね
年齢もバラバラで
今出てきた映画ウィニーがどう繋がるかっていうところで言うと
やっぱりソフトがある程度
悪用されてしまう今の現行法とか
今の倫理上の問題点みたいなことが
十分起こり得る可能性があるものとして
世に発表された時に
どういうことが起きるかみたいなところで言うと
映画ウィニーっていうソフトのことを
ご存知のない方に向けて説明をするのは
海さんにしてもらった方がいいのかな
私が映画見たから
こういうことかっていうのも分かったけど
あと言葉だけは知ってたけど
その時めっちゃ日本にいなくて
海外から言うとウィニーがなぜかすごいバッシングされてて
なんか知らんけど逮捕とか出てて
大変なことになってるらしいぞぐらいの感じで
海外からは見てた
ピアトゥーピアの説明からですね
そんなの普通にみんな使ってるのに
なぜ日本は警察でウィニーの人を捕まえて
いじめてるのっていう感じの見られ方をしてたので
24:03
その辺をちょっと説明してほしかった
なんでそんな大騒ぎになったのかよく分かってない
まずピアトゥーピアの話で言うと
AIの話とはちょっと違う技術トレンドの話なんですけど
中央にサーバーを持たずに
みんなが使ってるパソコン
ネットワークつながってるパソコンがお互いに通信しあって
サーバーがなくてもデータが共有されて
それがソフトウェアを使うユーザー同士のコミュニケーションとして
誰でもデータが共有されてしまうと
何ならば警察の隠したかった機密事項も
不正のところもウィニーから露見した過去があります
2002年とかに公開されて
カネコイサムっていうプログラマーが開発して
一般に公開してみんなが使うようになって
カネコさんが逮捕されるわけなんですけど
そこの逮捕からの裁判を
劇としては中心に描く映画だったんですけど
結局岩田さんに説明させてしまった
やっぱりGPT
説明下手なんだよな
そういう映画だったです
ウィニーの特徴としてP2Pという中心を持たずに
ユーザー同士が繋がるということと
もう一つ暗号化されて匿名性が完全に担保されているところがあって
そこがウィニーの最大の技術的な特徴で
先進的だったのかどうかは
僕その辺詳しくないのでわからないですけど
だったところでかつ
悪用される問題点もそこにはらんでいたということですよね
著作物を違法にアップロードして違法にダウンロードする
当時まだダウンロード違法化みたいなこともまだなかったんですけど
日本の中では
その後ダウンロード違法化みたいな議論が起こりますけど
そういう何でもアップロードできちゃうし
何でもダウンロードできてかつ
誰がそれをしたのかわからないという状況が作れてしまうというところが
ウィニーがどちらかというと裏ソフト的な感じで
27:00
当時扱われていたという状況を作った
僕は当時大学生でしたけど
ウィニーやってる人いるけど怖いなと思って触ったことはなかった派です
意外ですよね
こんだけ好奇心多い
好奇心の塊みたいな噂がウィニーにいかんかったんですね
もう音楽ファイルとかいっぱいそこにはあるんだろうなと思いながら
TSUTAYAで10枚借りたらちょっと安くなるみたいなやつで
いっぱい借りてリッピングしてました
リッピングしてましたね
そっちはどっちの議論がありますけど
iTunesってのはiPod登場前に登場してひたすらリッピングするっていう
それはさておき
あんまウィニーってそんなに私の周りで使ってる人いなくて
僕も使ってないです
Macユーザーだったからかもしれない
Macユーザーにとってのピアトピアはライムワイヤーっていう感じ
そのライムワイヤーっていうものの僕全然知らないんですけど
それの社会的な扱われ方としては別に問題視されたりとかっていうものではなかったんですか
問題視はやっぱされるっていうのはあって
やっぱりどういうものをアップロードするかみたいなので問題になったよね
著作権の音楽だったり映画だったりソフトとか
ソフトウェアもあったよね
プログインとか
だから本当に追っかけて
例えばアドビフォトショップなんとかバージョンみたいなのさ
みんな使ってダウンロードしてたけど
それを結局もうキリがないからライセンスに切り替えちゃった
オンライン化してライセンスに切り替えちゃったりとかして
そういうことできないようにしたとか
っていう感じで影響はあるよね
あるし今やっぱりアドビのソフトウェアが完全にクリエイティブクラウドになっているのは
わりかしそういう過去を反映しているんじゃないかなと思いますけどね
そうですね
あの
どうぞ
いえいえ
カネコイサムさんって人をね
ウィニーの映画見て
すごいこういう人が日本でいるっていうのは
当時は納得な感じ
やっぱり海外から見ても
日本の技術者の技術力ってすげえなってイメージもあったし
いろんな論文とかも出てたと思うんだけど
実際やっぱり確かにこの事件から
あんまりそういうすげえなっていう話とかは
30:02
聞かなくなったかもしれんなっていうところでの
佐藤仕仲本みたいな
ビットコイン
日本人みたいな風の名前を使ってるとか出てきてたりとかして
でもこれ結構トレンドなんだよね
日本人風の名前をペンネームに付けるっていうのは流行ってるんですか
日本人風っていうよりは
その国じゃない名前を付けるというか
例えば今も使ってる人結構いるけど
MaxMSPっていうのがあって
それは音楽を作曲したりとか生成するソフトウェアなんだけど
その前にビデオを生成するソフトがあって
その前っていうか同時進行で
どっちかっていうとクイックタイムを使うもんだから
ちょっと衰退してしまったんだけど
NATOっていうディスペルで
それの開発者MaxMSPはライセンス持ってないと使えませんよと
NATOは確かダウンロードしたら使えるみたいな感じだったから
どっちかってみんなNATOの方にアーティスト食いつくわけで
音楽やらない人は映像やりたい人は
面白いの言語がメールとかも全部数字とか
例えば1だったらLだったり
Bだったら3とか6とか
メッセージもそういうふうに暗号っぽく書いてて
慣れると全然読めるんだけど
本当は6人か7人の作者がいるのに
ロシア人の女性の名前をナタリアなんだかだとか
名前忘れちゃったけど
そんなに存在しない偽造を作って
女性プログラマーでロシアの人を書けみたいな
その人がメールくれてるんだって思い込んでたけど
実際違うんだけど
っていう風なのが流行ってる
ずっとそれは
でも実際カネコさんも2chで
47市っていう名前で
世間というかその中では認知されてた
その方が神っぽくなるじゃん
人の東大のカネコさんかって思うよりは
どこの誰ぞかわからない
知ってる人のクローズドの界隈の通り名の方が
結構かっこいいですよね
そこを踏んでるんだなと思って見てたんだけど
すごい面白いのが
彼の子供の時の興味が宇宙なんだよね
33:00
宇宙を知りたいみたいな星を見てて
それでプログラミングを覚えて
一見宇宙とコンピューターって全然違うものなんだけど
彼はコンピューターを使えば
宇宙の謎の一部に触れることができるかもしれない
みたいなセリフがあったなと思って
実際彼がやってたことって
近い実際にその当時
今思い出したのが話してるんだけど
セティアットホームっていうサービスがあって
宇宙人をみんなで探そうよっていうコミュニティだったのね
その当時はスーパーコンピューターとか高いし
解析とかに間に合わないんで
自分のコンピューターをネットワークにつなげて
分散させながら計算を行うっていう
それで宇宙人探そうぜっていうコミュニティだった
それが結構最初の分散型って言われているコミュニティと言われてる
その考えからすると
金子さんは宇宙が好きだ分散型にして
何かネットワークして
みんなでコミュニティでやりたいって考えて
実はそことつながってるよなっていうのは
岩田さんがハッカー的なっていう風に表現したやつですよね
要は人民による人民のためのっていう
ハッキングってむしろコミュニティベースだよね
すごい市民的な考えっていうか
さっきのだからそのAI by the people for the peopleっていうのと
あんまり関わらない思考の人なのかなっていうのを
今で言うDAO的な
そうそうそうそう
だからやっぱ確かに早すぎたのかって言われると
早すぎたのかもしれないし
遅すぎたのかって言われると
遅すぎたなっていう情報
潰されるのも早すぎたみたいな
ただ下世の方は何でそんな潰す必要があったのか
その辺が映画で描かれるわけですけど
金子さんを弁護した男弁護士が
その劇中で説明してる
わかりやすい説明として
ナイフで人を殺しましたと
じゃあ罪に問われるのは誰ですか
当然ナイフで人を刺したその人のはずやけど
じゃあ持ってたナイフを作った人は
罪に問われるのかと言ったら
問われませんよね
それがまさに行われたのが金子さんの事件であると
ウィニーっていう道具を開発した人が
その道具を使って悪用した人がいるっていうことによって
36:00
罪に問われているっていうことが日本では起こった
それはその当時もその後も
どこでもそんな事例はなく
金子さんが日本ではそういう
著作権違反報助っていう罪で
逮捕されてしまうっていうことが起きた
ちょうど昨日の夜
インタビューをダンさんが見てて
実はその言葉を言っていないと言っていた
包丁じゃなかったらしいんですよ
例えば
高速道路だったらしいんですよ
そこは脚色が入っていると
なんでナイフにしたのか
高速道路の方がすごいわかりやすいと思ったのが
高速道路を作りました
みんな車で走ります
高速便利だよねって
早く走るけどもちろん事故も起こるし
スピード違反する人もいますよと
確かに高速の方がウィニーっぽいな
でしょ
映画的な
ナイフの方がコンクラっぽいんですけど
僕はあの例えに変わってよかったのは
僕ナイフ作ったことはやっぱあるんですよ
昔より玉剥がれの時代よりも
すごい純度の高い鉄は
鉱材屋に発注したら出てくるし
それを叩いてやるのも
今だったら簡単に熱して叩ける
金床とか学生時代ですけど
これ研いだら完全に人殺しの道具だよな
っていう風になったんだけど
作ってる途中からめちゃめちゃ怖くなってきた
それは
これはあかんことやっとるなっていう感じは
やっぱありましたけどね
なんで普通に
人殺しの能力があるみたいな感覚っていう
それもそうだし
多分あれ作ったらいかんのじゃない
免許持ってないと知らんけど
だからその研ぎに研いだら
メスみたいなぐらいのものになる
メスほどちゃんといい
鋼を使えばなると思うんですけど
そこまでは人殺しには十分な能力を持つものは
いけますよね
やっぱそう思ったんですね
思ったんです
それでウィニーの例えは
僕にとっては割とリアリティがある
作ったけ
ナイフの例えは3Dプリンターの事例と
ちょっと分かりやすく繋げたかったんじゃないかと
安倍首相の
そこは3Dプリンターは使ってなさそうだった
使ってなさそうだけど言われてたから
でも確かに私バイオクラブ作りましょうってなった原因が
バイオクラブっていうのは渋谷にある
細胞をいじくれるラボを作るっていう
39:01
すごいバクって言うと
今は遺伝子組みからもできますよと
その前にその話が出たのが
3Dプリンターでいろんなものを作るやつが出てきたぞって時代だったの
ちょうど銃作ったりとか
そうするとその辺の会話の人たちを
ウォッチングしないといけないぞってなって
同時期にFBIが
バイオアーティストとかバイオ系のコミュニティ
アーティストじゃなくてもいいんだけど
の会にわざわざFBIが出資したり
参加してきたりとかサポーティブなんだよやけに
なんでかって言うと
見たいわけよ私たちがやってることを
それを堂々と彼らも言うわけよ
それは潜入捜査みたいなことじゃないですか
全然潜入してないです
堂々とFBIサポートですって言ってくる
同じなんですよね
検査所もやっぱ知りたいよと
そういうコミュニティが何をするかっていうのを知りたいよ
そこそこ悪意があれば生物兵器とか作れるわけですよね
バイオラムとか
実際にそういうアーティストがいて
生物兵器じゃないけど
たまたま大腸菌をメールで買ってた人がいてね
普通大腸菌とかそういう菌って
ライセンスを持ってる研究機関同士でしか買えないわけ
一般の家にそういうものを買うっていうのは
効率的にはダメなんだけど
買ってたアーティストはいるわけですよ
その人は自分で家にラボを作って
誰も来なきゃバレなかったんだけど
たまたま運悪く奥さんが
心筋梗塞か脳梗塞か
突発的に倒れて亡くなっちゃったんだよね
それでその人家帰ってきたら
奥さん死んでるじゃん
ヒェーとかなって
すぐ病院と警察に電話して
救急車引きますよ
奥さん亡くなってますねと
警察すぐ来ますよねと
一旦ちょっと
でもほら死んじゃってるから家で
誰も他にいないから
ちょっと話聞かせてください
なんて言ってる間に
この人の家何これみたいな
バイオラボ見つかっちゃうわけ
運が悪いというか
金子さん状態
金子さん
ウィニー見たとき
実は映画になってるんですよ
それもその話も
私アーティスト知り合いだったから
署名運動とかもしたんだけど
リン・ハーシュマンっていう監督が
映画タイトルなんだったかな
いずれにしてもあれですよね
道具を作った人は罪なのか
その人の場合は両方やってたんだろう
42:00
彼の場合は道具は作ってなくて
買ってるっていう
だからどっちかっていうと
入手の方法がまずかった
ウィニー使ってたって意味近いのかな
そこで牢獄入れられちゃって
半年間か何ヶ月か
外出られない状態になっちゃって
そういうことは海外あったんだが
でもウィニーの話は
すごい考えさせられるものがあるというか
例えばツールを作ったらダメですよ
とか言いながら
ツールを使う人も
やっぱ分かってはいるはずなんだよね
どういう使い方を
間違いをするかもぐらいは
間違いに想像つくわけじゃん
そう思ったから触れないようにしてた
大学生の僕は
すごいリスクヘッジ
リスクヘッジというか
ただビビってただけ
作ってれば絶対そんなさ
別れぼけでやるわけないよねと思うし
だから未完成なものを出すっていうことむしろ
だから最後の産業側とかにしたけど
なぜそこまで我慢できなかったんだろう
というのもあるんだよね
だから新しい技術を作る人
もちろんそれが罪に問われてしまうっていうこと自体
法的に逮捕されるみたいな状況になること自体は
おかしなことだとしても
やっぱり作る人の責任と使う人の責任みたいなことは
両方とも絶対にあるし
多分今のAIの周辺で起きてることにも
それは言えそうだなと思うんですよね
だってパッと思いつきますからね
そういうことできるやろうなって聞いたら
でもやんないじゃないですか
やんないっすね
ただちょっとさ当時のインターネットって
もうちょっと進化化されていて
無名さというか
インターネットがどの家にもあった時代じゃなかったから
っていうのもあると思う
だしあれですよね
Facebookとか出てきてから別に
これが普通になりましたけど
2002年とか3年とかぐらいの時のインターネットって
実名出すっていうことって
ちょっとほとんどありえないぐらいの
ありえない
アノニマスね
アノニマスっているね確かに
僕ミクシーとかやってなかったから
45:03
ミクシーぐらいですよね多分
ミクシーは完全に匿名の会社ですね
誰かわかってるけど
キャリーパミュパミュみたいな
あれミクシーネームだけど
私本名で出すんじゃない?
あれは実名を書かないっていうカルチャーですよね
逆に日本の友達と仲良くなりたいと思って
実名使っちゃった
そういう人はいるし
逆にそれが演出で
特命戦と演出って両方できる場所っていうところで
例えば47っていうのもある意味演出じゃない?
自分の中で
だからバレないだろうみたいなところは
バレないっていうのは
自分の家さえわからなかったら
ちょっと自分はそんな悪いことしてないし
ただ使う人が使い方悪いだけだし
家見つからなかったら来ないだろう警察
うっすら思ってたんではないんだろうかという
私が彼だったらやっぱそう思っちゃう
こんな家まで来ないよねさすがに
当時の自分だったらやっぱ思っちゃうけど
実際そこまでしても
家まで来て捕まえたいっていうのは何だったのか
っていうのがこの映画の気持ち悪いところ
原告が警察であるってことは
不自然さはないのかってとこ
それは映画は見てもらえばいいんですけど
本題に戻ると
映画的にはそこが一番面白いところっていうか
法廷ドラマとしてめっちゃ
エンターテイメントとして面白い映画やから
そこはある程度謎のままっていうかね
警察側の動機が何だったのかみたいなところは
基本善意で
セティアットホームなんて
ある意味すごい画期的だったわけじゃん
家のネットワークをつなげて
自分家のコンピューターを人に使わせるとかって
どんだけオープンなのみたいな
だってウイルス感染したらどうすんだとか
しまくるとか心配じゃん
でもこれは未知との遭遇のために
全世界が同じ夢を叶えるために
やってるんだみたいな意識で
映画的に言うと
金子さんの意図としては
本当に重大なものを持ってるけど
報復を恐れて情報を出せない人の
不明層の保護とか
そういう可能性にも一応触れてはいたんですよね
もともとそれが目的だったかわからないけどね
48:02
若干後付けっぽい感じがします
そういう気持ちになったのは事実だと思う
自分がそういう立場に置かれて
だんだん考えたって
あれだけの体験したら考えが変わるよ
今そういう過虫に倫理的な
渦が起こりまくってるところが
話が戻ると
レスティブディフュージョンっていうことですよね
世間的にどのくらいそれが話題になってるのかどうかが
いまいちわからないんですけど
僕は初めて知った時に
これはいいのかって思ってしまったので
自分の肖像画を異様にいっぱい投稿する人が
一時ずっと投稿してて
自分の顔をいろんなバージョンで
変顔とかですか
いろんなバージョンだから
かっこいいとかキャラクター化されてるとか
なんとか風とか
ずっと前に投稿してるから
最初は面白かったけど
だんだんお腹いっぱいになってきて
みんなにやめてとか言われてて
それでもやめなかったんだけど
そういう使い方あるんだと思って
ひたすら自分の肖像画を
いろんなバージョンで
その人のデータみたいなものは
機械学習しやすい
機械学習しやすい
マテリアルをすごく提供してくれる人なんだよね
その人
肖像さんとか
例えば結構メディアとかで
割と画像検索したら出てくるじゃないですか
フォトショップすっごいきついのしか出てこない
すでにディフュージョンされてるけどね
あれはステーブルディフュージョンとか言っても
誰もみんなびっくりしないんじゃないかな
逆にそうか
それでお二人は
画像生成AIで
ちょっとテキスト打ってみて
絵を生成してみてってやったことは
どのくらいあります?
僕はないです
今アドビのあれを申請してるんですけど
アプローブが遅れててまだ
ファイアフライっていうのが
ちょうど3月とかに
発表するよっていうのが出たんですよね
アドビがファイアフライっていうものの
独自性を謳ってるのは
自分たちの持ってるアドビストック内の画像だけで
学習させてるから
著作権の問題は完全にクリアされてますっていうところを
強みにしてるわけですよね
逆説的にステーブルディフュージョンとか抱えてる
51:00
著作権とかの問題っていうのがあるから
アドビはそこはもうガッチリクリア
でも面白いのは今回知ったのが
日本の法律では
機械学習用には
そこら辺に転がってる画像ってどんだけ学習させても
罪に問われないんですよ
それ私があれに使ったロジックと同じだわ
コモンフラワーズと使ったロジックとは
日本の
コモンフラワーズの説明がまたいるんですけど
一応だから遺伝子組み替えの花を
勝手にクローニングしたんですよ商売商品なのに
本当はそれってダメなんですよね
手術法っていうので
私は国家なんですよ
私は研究として申請済みだから
日本だと研究用に使われるものはクローニング
テストスピーシーズいっぱい作らないと
試験も実験もできないよっていうロジックで
僕が例えば研究したいから申請して
土地乙女っていう一号のクローニングをしたいと思う
それは研究だっていうことが認められない
ということですよね
勝手にクローニングしたら
土地乙女美味しいから自分の中で培養しまくるっていうのは
それ起きてるんだけど
だからその例に出したね
だからそうなんですよね
グレーゾーン
日本グレーゾーン多い問題
面白いですね
だから研究どんだけ画像を食べさせても良い
僕は結構今最初に挙げたような
いくつかのダーリーとか
スティーブルディフュージョンミートジャーニー
スティーブルディフュージョンをベースにした
別のサービスみたいな
いくつかでいろいろ画像生成を試してみて
同じテキストでどんな違いが出るかな
みたいなことをやったりとかしてたんですけど
そこが結構クリエイティビティの問われるとこだなと思ったのが
別に生成させたい絵がないんですよ
こういう絵を作りたいっていう急がない
例えばですけど
言える範囲でどういう画像を生成したい
そもそもヤバいものを作ろうという前提の質問やめなさい
まずやったのは仕事上で
54:01
次にこういうものを作らなあかんっていう時のテストとして使った
こういうところに企業のロゴが入ってて
全体として青色ベースで銀色がここに入ってみたいなことをテキストで言って
生成させるってことをやったんですけど
なぜかというか
これは明確に理由があるんでしょうけど
どの画像生成AIも文字は書けないんですよね
まともな文字が一つも
ディフュージョンモデルっていう画像生成
画像生成の学習のさせ方っていうのが
例えば200ピクセル角の画像があったとして
それをどんどんピクセル数を小さくしていって
2×2ぐらいの完全にただのモザイクみたいな状態まで知って
このモザイクの状態の元の画像はこうだったんですよっていうのを
学習させながらもう一回戻していくみたいなことをすると
そのピクセルの並びの中でどういう並びになったらきれいな画像
この画像がきれいな画像ですよっていうことが
学習されていくっていうやり方をしてるらしいんですけど
そのやり方だと写真とか絵とかはきれいに出せるけど
文字は出せないみたいな
中国製とかそういうのってまた違う発想だもんね
だから日本のみたいなキーワードを入れると
謎のベトナムなのか中国なのか
何かよくわからないパンアジア的な
謎の文字が出力される
ブレードランナーみたいな感じになっちゃう
明らかに日本ではないようになってる
わかるけどね
それはライオン5Bが持ってる50億のデータが
どっちかというと日本のものよりは
ちょっと西側によって
日本のもっと入れてほしかった
なんだっけ
ストレイっていうゲームがあったよね
猫のゲーム
あそこに出てくるサイバーパンク的なところの文字とかは
まさにそういうパンアジア的な読めない文字
ゲームオーバー的なのすらそういう文字だから
慣れるまで
ただの流行りでそうしてんじゃないの
違う
そういうわけではない
流行りなのか
だから最初にテキストを入力しないといけないっていうのって
結構僕たちが絵を描くときに
そういうことだよなと思ったんですよ
絵描くときって先に筆を動かしません
57:00
違うかもしれない
僕のあれかもしれない
僕は別に絵を描ける
そんなにうまく描ける人間ではない
それ結構でもね
興味深い
絵を描くときに
私描く人
俺も描く
文章を描き出す人
先に描き出すんだ
逆に僕
どっちが文章か絵かの
狭間にいて
文章を描き出したことを
俺ついにそっち側に行っちゃったんだ
って思っちゃったタイプだ
昔は絵のほうだったんだけど
私もともと絵が描けないからっていうのもあるし
どっちかってコンセプチュアルなトレーニングを
先に受けてたから
コンセプトまとめてから
逆に絵で崩していく
みたいな感じ
なるほどね
めちゃめちゃ面白い問いかけですね
前回で
テキストツテキストの
AIと
テキストツAIの
話が今回あって
人間って何なのか
っていうので
その中で
いくつかの電球がスパークしました
なんでそう思ったかって
僕の場合
一番自分でものを作るっていうと
作曲をするとかなんですけど
作曲をするときの
順番の中で
最初にタイトルが決まってることって
絶対ないんですよ
僕の場合ですけどね
それは多分人によると思うけど
それこそ今のしほさんみたいな話で
先に何か
コードからだったり
ベースラインからだったりリズムからだったり
そのスタートは
何かしらの音の要素から
始まって
メロディがついて
場合によってはそこに歌詞がついて
この全体の歌詞で言ってることって
こうだよなっていうので
一番最後につくのがタイトルっていう順番
なんですね
僕の場合
そういう作り方を
するので
絵とかも別にそんなに上手く書けないので
適当に書くところから始めたり
するので
だから最初にテキストで
出したいもの出してっていうことで
命令しないと前に進まないとなると
別に
ないですってなっちゃう
それは逆に
チャットGPTにお願いしちゃうでしょ
たぶん併用が出てくるんですよ
その岩田さんの中で
確かに
アーティストとかだと
本当にいろんなタイプがいるから
なんだけど
でも
私は少数派なのかもしれないね
1:00:02
まずグーグルドックで
グループで書き出すコンセプト
今も結局
ジャンルを使っている
みんなで一斉に
いろんな考えを書きながら編集して
まとめて
最終的にはどうやって
そこからアウトプットしていくみたいな
風にまた設計して出すから
社会に出て思ったのが
言葉って
絵よりも
そういう
共有力が高いから
何か概念を共有しなきゃいけないときに
言葉で共有すると
みんな安心するんですよ
まとまり
意見の
社会生活で
また別の回であったかもしれない
言語化制というプレッシャーが
美大卒業してから
急にプレッシャーが
増したんですよね
言語化してまず概念を
共有せんと
っていうところがさっき言った
絵から始めてたのが
そういう感じのやり方も
うまくいかなくなったなという
工芸で文章から始めて
工芸作りますって人って
すごい少数っぽさっぽい
工芸も広いからあれだけど
普通は昔
特に文業だったから
例えば
漆の茶碗作るときに
木工用の回転ろくろで
削ります
削りますけど
体で覚えろよみたいな感じだと思う
雑に言うけど
言葉で教えるけど
言葉は覚えてるけど
それができるようになるかどうかは
フィジカルな体験とか感覚だと思う
文業するから
仕様書みたいなのとかないの?
あ、でも
ウェブとかの
制作とかだとすごい新しい
まだここ数十年だけど
それこそ岩田さんのフィールドの
印刷とかって
なんでその印刷の文業が成り立ってるか
って言ったら
言語感が
共有されてるからって
言ってましたよ
その印刷とか
遅れても
誰かが巻き返したりするのは
その工程を
他のパートの人が
全部把握してて
自分がその中でどういう動きをしてるかっていうのを
説明線でも共有してるから
そういうことが可能か
それが理由かも
これ大学院の時から
ずっとやってて
文章でドキュメントで
みんなで異性のせいで書いて
まとめてコンセプトで
コラボレーションするときって
なんでかって言うとみんなスキルセットと
言語が
1:03:00
全員見事にバラバラなコースに
行ってたから
やっぱり唯一わかる
会話的な文章みたいな
いきなりわっしょいって
プログラム書くんじゃなくて
こういうものをまず
作りたいなんでみたいなとこから
やっていって
最終的にはじゃあ分担ね
やっていってじゃあプログラム君書いてね
私写真撮るわみたいな風になっていく
っていう
感じ
それが今もただ続いている
今も続いてるんですよね
僕はだからその
絵で書くっていうのになんか戻そうと
してんすよ僕なんか最近
意識的に
その中にも会話でほら
言葉でやったらちょっとやっぱり説明
上手くわかる3次元的なもの
の説明
描いた空間だったりここに
こういうのが置いてあってとか文章で
書くより絵で書いた方が
イメージ湧くじゃん雰囲気みたいな
それはねイラストを書く
システム構成図が
僕その間っすね
言語と図解の間とかで
インスタレーションの時は
必ずそれはさほら上から
見た図部屋からの
斜めから見た図とか
やってたし一時も
それが極まって
3Dでレンダリングして
設計したりとかしてたからね
窓で
光はこんな感じですとか
そこまでやんなくてもいいのに
まあでも
イメージできるところまで
持っといた方が
現実に起こることを
評価しやすいんでしょうね
それが
岩田さんのじゃあAIに何を命令するか
って言った時に
そこから入る人じゃない場合は
別に命令することがないっていうのが
さっきの話だったと思うんですよ
だから
あまりにも
なんていうか
世界的な動きなので
主に今出てきた画像生成AIが
どういう風に
活用されているか
あるいは活用というよりは
楽しまれているかみたいなことって
まだ
よくわかってないんですけど
日本の
ある
ある
界隈では盛り上がった
最初に言ったイラストAI
みたいなもの
オタクカルチャーの中
派生として出てきている
ポルノとかも含む
動き
みたいなところで
起こっているのは
明確に
出したい画がある人たちの動きなんですよね
そうっすよね
欲望が
はっきり
で、それを
クリエイティブと
クリエイティブ
なのか
そう
1:06:00
それ言うとさ
コミケでさ
このキャラクターがこういうストーリーを
やってて欲しいみたいなのに
ちょっと近い
だからクリエイティブなんだと思うんですよ
そういう想像力を
働かしてそれを
リアルな絵として見たい
再現性みたいなところで
妄想をね
具現化して
しかもそれを見て欲しいんだよね
他の人にね
共有したいじゃんやっぱ作ったもの
それどうだろう
一人で楽しみたい人と見て欲しい人で
結局分かれる
するんじゃない
なんだかんだ言っても
もう結構いい時間になっちゃって
どうしますっていう
多分そっから
じゃあコンクラ的に
AIの話が
どう影響してくるのか
っていうのは
話すか話さないかですよね
めっちゃ話したいんですけどね
結局クリエイティブっていうのが
何で
何で
っていうところの
ちょっとぼんやりとしても
輪郭を捉えたいところがあって
ちょっとそれ喋りたいですね
なので
それは次回と
次回と
いいですか次回ということで
テーマは何
AIとクリエイティブと人間の話
逆に広がったね
閉じていく
でももっと具体になると思いますよ
次は
とりあえず言語AIと
画像AIが出てきた中で
一つずつ
ワンエピソードずつ
外観するみたいな内容にはなってます
次まとめに
しましょう
ありがとうございます
来週もくだだしラジオ
聴いてください
配信してます
いわたGPT
これも説明してほしい
というリクエストも受け付けております
一応予習してるんで
いわたGPT
いわたGPT
へのリクエストも
そもそも何質問してるか
よくわかんないって人は
ちゃんとGPTに質問を書くと
いいと思います
ハッシュタグは
CON
CRA
CRAで
感想は常駐
ウェルカムですし
Spotifyでフォローすると
我々も励みになって
とっても嬉しいので
よろしくお願いします
というわけで
引き続き来週もAIの話を
締めましょう
ありがとうございました
ありがとうございました
01:08:54

Comments

Scroll