おもしろかった本について語るポッドキャスト、ブックカタリスト。今回は149回。
はい。
ヒトとIIとつくることとAIとが5個か6個か。
はい。今回は暮らしたのターンということで、終わる終わると言いながら続けている2冊セットシリーズなんですけれども、2冊セットシリーズの第6回ということで、確かに1回目も間に等が入っている本を2冊紹介してややこしかったと思うんですけれども、今回も間に等が入っている2冊の本を紹介します。
タイトルをさっき読み上げてもらったらお分かりの通り、AIというもの、近年大盛り上がりを見せているAIというものと、どのように付き合っていったらいいのだろうかということを考えるための2冊となっていまして、いわゆるホゲホゲ仕事術とか。
AIで生産性バック上がりとかそういうのじゃないっていうことですよね。
特定のモデルとかの使い方とか、特定のソフトウェアの使い方とかではなくて、そもそも今言われている生成AIというものと人間というの関係が、この大きなパラダイムが変わっていくだろうということが2冊で紹介されていまして、それぞれ方向性が違うなと思ったんで。
共有的なテーマでありながら提出される方向が違うという2冊を今回は紹介しようと思います。
1冊目が人とAIで、人がカタカナになっているんですけども、岩波新書から出ている本でして、2026年の7月24日なので、ちょい最近に出た本です。
著者が岡野原さんという方で、僕全然プロフィールチェックするまで気づかなかったんですけど、岩波科学ライブラリーの生成AIの仕組み、流れが画像、音声、動画を作るという本を以前読んでたんですけど、同じ著者の方でして。
専門家なわけですね、そのジャンルの。
そうですね、この分野のジャンルでかなり強い方らしく、情報理工学科の博士の方で、1982年生まれなので私たちと年は近いんですけども、それ系の会社の代表取締役の社長をやられているということで、
主に機械的な方面、情報工学的な方面で、生成AIに詳しい方であると、そういう方が書かれた新書でして、最初にざっと初心情報を見ていきますと、画面を見ていただくとあれなんですけど、
表を立てて28章あるんですよ。
新書って23ページですよね。
すごい分厚い新書だなと思いきや、208ページという標準なので、つまり1つの章がめちゃくちゃ短いんですよ。
10ページないんですよね、単純計算したら。
計算でね、もちろんそういうことでデコボコはあるんですけど、ある章なんかも4ページぐらいしかない感じで、
細切れ時間に読んでいくという読書体験でいうと、読みやすいのかなという気はしました。
例えば2時間集中して読むってなると、逆にあまりにも章が早く切れてしまうんで、ちょっと落ち着かない感じがしたかなというのが、読書体験としての感想でしたね。
なかなか28章というのは、どんな書籍でもなかなか見ない。
上下官の本とかでようやく出てくるタイプの章の数ですね。
新書でこういう分け方している本は初めて見たので、それ自身が非常に面白かったんですが、
多分ですけど、書く時の書き方でこうなったんだろうなと。
細切れ時間に読むってことを意識して書いてこうなったというよりは、著者の書き方がこれに合ってたということだと思います。
変わったかな、平均的に。
でも先ほどの正々堂の仕組みの岩並み書籍ライバリーはそういうことはなかったので、
小分けに書かれたのかなという気もしていないですが、
ずらずらと流れを取ったというよりは、このパーツごとに書かれたんじゃないかなという印象はありますね。
28章は立てですけど、一応、一応というかちゃんと部がありまして、
一部、二部、三部に分かれていまして、一部が人以外の知能という部立てで、
生成AIと言われているものがどのような原理で作られているというよりは、
どういう原理性を持っているのかというか、簡単に心象の内容で、
そこまで詳しく専門的なことではなくて、心象を読んだ人がわかるレベルで書かれていると。
第二部が、そうした上で人の知能というのを、生成AIとの対比で見ていったときに、
生成AIが持っていて、人が持っていないものと、
人が持っているけど生成がないものというふうに対比的に見ていくと。
そういった対比を経た上で、第三部がポストAIの社会ということで、
そういう生成があるとすると、生成AIが持っていないものを一応人間が持っているとしたときに、
人間の役割というのが、この2つの存在の中でどう変わっていくのかという、
どう変わっていったらいいのか、どう変わっていくべきなのか、そこでどんな問題が生じるかというのが、
トピックごとにまとめられているという感じが大きな本の流れです。
あれですね、意外とタイトルから想像するのって難しいタイトルですね。
逆にどういうタイトルをつけたらいい?結構話題が広いんですよね。
だからあえてそうしているのか。
話題が結構いろいろあるという感じかもしれないですね。難しいところではある。
説明的になりすぎるか。
そうですね。
ちゃんと書こうとすると。
本のメインメッセージは、第3部のポストAI社会に向けてということを議論したいと。
前提が2つあると。
それぞれ人間の知性と、1部と2部で確認した上で、3部の議論に持っていこうと。
そこを皆さんここは今考えるテーマですよということになっているというのが、
大まかな構成だと思います。
ただし、現状の生成AIがこうである。
おそらく今これが足りてないけど、将来的にはこういうところにも拡張していって、
そういう機能性も持っていくだろうという、技術決定論とまでは言いませんけど、
現状の技術が大幅には変わらないだろうと。
現状の技術を起点とした未来予測という感じが、僕が読んだ印象ではありました。
おそらくはそうでしょうけども、そうじゃないかもしれない可能性は一旦は置かれているという感じがしましたね。
例えば今、生成AIというのが盛り上がっているけど、
それがどんなものであるのかをよく分かっていないと。
Google使ってたらジェミに使えるけど、それがどういう原理性で動いているのかとか、
それがどう構築されているのかが全く知識がないという方が読まれたとしたら、
非常に広くトピックを扱っているので、この話題についていくためには、
なかなかホニャララホニャララ仕事図とかを読むよりは、こういう本から、
5年10年突き飛べるやつですからね。
根本的な原理性を知っておく。
そして彼らが何を持っていなくても、私たちとどう違うのかということを、
大雑把に人工知能といった時に、見えてこない差異というのがあると思うので、
そこをちゃんと引き受けていく上では、重要な話が書かれていると思います。
2冊目の本が、作ることとAI。
生成と複製の間でという副題が続きまして、複製というのはコピーということですね。
リプリケートということですけれども。
こちらの作るもひらがななんですね。
漢字は使われていなくて、開かれたひらがなで作ることとAI。
著者が徳井直さんという方で、
肩書きが面白くて、アーティストスラッシュ研究者。
一応研究者がメインな活動をされていますが、
その研究活動の一環としてもアーティストとしても活動をしているかなという感じを受けました。
アート系の研究をやっておられるので、
当然自分でもアートそのものを作るということをやっておられると。
他にも著作があって、作るためのAIというので、
こっちは漢字、創造の創、クリエーションの創の作るを当てた、
作るためのAIという本を2021年に書かれてまして、
その後にまた同じ出版社、PNNから作ることでAIを出されたと。
この本が2026年7月15日なので、さっきの本が7月の24日だったので、
かなり近いタイミングで出た本として。
もちろんこのぐらいの期間が一番、
あいつらが出て、ちゃんとCPTとかが世に出回って広く使われるようになって、
便利だという話と混乱する話が同時に出てきて、
いよいよ話をまとめようかってなったら、
このぐらいの時期になるというタイミングだと思います。
こちら新書ではなくて、いわゆる単行本のサイズなんですけども、
ちょっと大きめかな。
第4章だけになっております。
逆に4章しかない。
4章しかなくて、結構章の中にある見出しもそんなに大きくはなく。
人とAIについてはね、もうほぼ文字なんですね。
多分ね、図解が多分一個もなかったような気がする。
新書なら別に普通じゃねえって気はするけど。
こっちの本は画像とか図解とか、
書者のデザイン系、アート系の話が出てくるんで、
それに関しての写真とかもたっぷり出ている本でして、
本の作り方として対照的なんですけども、
ここも簡単に初始情報というか目的見とくと、
第1章がAIと創造性というところで、
第2章が生成AIの現在地点。
ここから初期から分かるとおり、
生成AIってどんなものなのかが解説されて、
第3章が複製技術としての生成AIということで、
これ後ほど紹介しますけど、
カタカナで複製という言葉が使われています。
最後の第4章が作るためのAIということで、
作るという行為、
これ今英語でどう当てたらいいのかちょっとないんですけど、
作るという行為と、
生成AIというよりもAIというものとの関係性を。
本来、もともとの意味のAI。
もっと広い意味です。
つまり、生成AIはAIの一ジャンルでしかない。
とした上で、それ以外の可能性もあるよねということを示唆した上で、
人が作るという行為とそのAI的なものとの関係性を再確認とか再検討、
再試行していこうということが提示されていることで、
大まかに言って、生成AIの原理性とかっていうことについては、
2つの本は結構近しいんですけど、
距離感というかスタンスというのがかなり違っていてて、
1つ目の本は、これは避けがたいと。
この技術はあるんだし、このまま発展していくだろうと。
その上で社会をどう再設計したらいいのかということを考えようと。
非常に悪い意味じゃなくて事務的な感じ。
非常に技術的事務的な感じですけど、
こちらはそもそもAIの可能性って他にあるんじゃないのということを考えた上で、
そのAIと人間の作るというプロセスを豊かにしていけないかを考えていこうということで、
こっちはさっきの事務的に対応させると創作的、創造的、
芸術的な営みとして。
イメージですね。
そういうことです。
その2つの方向性で考えられていると。
2冊の方を並べてみると、
同じ生成AIに対するスタンスでも、真逆とは言いませんけど、
向かう方向が逆向いてるなという感じがあって、
だからこれはどちらかを読むよりも、
合わせて読まれた方が、
そのAIとの付き合い方の厄介さというか難しさというのが感じられると思います。
ということで、今の紹介を読んで、読んでみようと思ったら、
ここで止まってもらって、本を買って読んでもらったらいいんですけども。
一応この2冊の本から、
僕なりに読み取ったものを見ていこうというところで、
生成AIとの付き合い方、人間と生成AIとの付き合い方を考えていくときに、
当然、生成AIにないものを、
僕たち人間が引き受けていくという話になると思います。
生成AIができることと競争しても仕方がないわけですね。
しかも得意なことにはどう間違っても勝てない。
なので、苦手なこととかできないこと、引き受けられないことを引き受けていくところに、
人間の役割を見出していくというのは非常に真っ当な理論だと思うんですけども。
人とAIの新書の方では、簡単に言うと、
まず私たちの人類の歴史というのは、
様々な行為とか行為などがテクノロジーによって外部化されてきた。
人間がやってきたことをテクノロジーないしはエトセトラが任せるようになってきたと。
それはもう今までの既定路線だったんですけど、
生成AIというものが成そうとしているのは、
今までずっと人間の行為として行われてきた判断とか意思決定ということ。
それも、いわゆる知能的な振る舞いをする彼らが、
今一応やろうと思えばできるようになってきていると。
今まで人間がそれらをするということが前提で、
社会制度とかが組まれてきたわけですけども、
仮にそうじゃなくなった時には、
新たな制度が必要になってくるだろうというのが本書の問題提起で、
まさに人間にしかできないことは何かっていうのを考えていくと。
例えばですけど、
生成AIのモデルは死なないわけですよね。
死というものがない。概念としての死がない。
ストップすることがあったりとか、
新しいバージョンが生まれて使われなくなったりするかもしれんけど、
それはAIのモデルにとっての死ではないですね、基本的に。
人間が感じる死とはまた異質な概念ですけど。
そのように、あともう一つは、
彼の学習というものが人間とのあり方と結構違うという話が出てきまして。
学習が違う。
学ぶということに違う。
人間と生成AIの学習って似てるよねとよく言われるんですけども、
生成AIの学習って一個一個の場面が断片的なんですよね。
断片的か。
ある情報を当たられて、その情報に関して学ぶということをすると。
人間の場合はこれまで経験してきたことを背景にした上で、
目の前のことを学ぶということをするわけですね。
だから学習が全体的なんですね。
絶対文脈を持ってしまうか、人間は。
ついでに言うと、生成AIの場合ってあるモデルが完成した後に、
ちょこっとだけ新しい知識を入れるということができないんですね。
それをしてしまうと過去学習したことが壊れてしまうということが発見されていると。
だから学ぶときは一気に全部、ものすごい数の断片を瞬時に学ぶんですね。
新しく学ぶときはまたそれをやり直すということで、
人間の歴史を持った学習とは異なる形で学んでいる。
そうか、モデルをアップデートすることができないんだ。
新しいモデルを作るしかないんですね。
常にモデルは新しく生まれている。
あとは文脈を持つしかできないのか。
そうですね。
だから確かに彼らはある種の学習をしていますけど、
人間の学習と言われても全く同じかというと結構違うところがあるというのが、
この一部で確認されまして。
僕もこの本を読むので、確かにそうやなと。
人間とかなり似てるやんとずっと思ってたんですけど、
実は結構時間軸の持ち方が違うんだなということを。
連続性を持っていない生き物じゃないか。
生き物の存在なんですね。
僕らは人間で生きる生物で、
生きた時間の文脈とともに何かを学ぶことをしていると。
そういう過去の背景があるからこそ、
少ない事例から新しく学ぶことができると。
CGIの場合はものすごい数のデータを与えて初めてパターンを捉えることができますけど、
人間は結構少ない経験から学ぶように生物学的に進化してきていると。
結局パターンの学習というのは抽象化ということなんですけども、
抽象化すると、抽象化の能力があると、
短いパターンから学べて非常に学習効率が高いわけですけど、
逆にとんでもない間違いをすることがあるわけですね。
抽象化の適用を間違えると、
本来そこにないパターンを見出してしまうこともあるし、
本来適用する場面でない時でもそのパターンを適用してしまうみたいなこともあって、
抽象化は非常に情報効率がいいけども、
副作用もあるよねという話があって、
抽象化の究極が何かというと言語なわけですね。
人間が扱う言語は。
言語全てはもう抽象化なんですね。
例えばリンゴという言葉がありますけど、
リンゴなんてこの世界にはないわけですよ。
リンゴという実体はないわけですよ。
そこにある一個一個のリンゴに対して、
リンゴという抽象名詞で括っているだけであって、
リンゴというのは実体はない。
例えば固有名詞クラシタタダノリっていうのも、
実はクラシタタダノリと呼んでいるだけであって、
クラシタタダノリというものがあるわけではないんですよね。
僕は例えば1ヶ月経ったら細胞が入れ替わっているわけですけど、
別身になってるんですよね物質としては。
だからクラシタタダノリという固有名詞すら、
基本的には抽象的なレベルで扱っている。
言語は全て具体的なものは何もなくて、
全て抽象化を経た知能作用であると。
その先生がすごいのは、
その言語を扱えるということなんですね。
究極の抽象化である言語を扱えるから、
人間と一疎通ができている。
抽象で通じるか、ちゃんと通じますもんね。
その意味でいうと。
ただし彼らは身体的な経験を持っていないので、
抽象化した知識が間違っていてもわからないわけじゃん。
基本的には。
身体的に理解ができない。
というところが違いはあるけど、
言語という抽象化によって初めて生成し、
機械的知能と私たちが接続できるようになって、
今この現状になっているわけですけども。
その中で一番重要な、さっきの話を引き継ぐと、
AIは判断するが、
その判断を自分のものとして固定し続ける主体にはなれない。
AIには当事者性がなく、
失敗を自らの履歴として背負わず、
有限性を持たないからだ。
この構造的な非対称性は、
AIの能力が高まってもそれだけでは埋まらない。
だからこそ、
AIが判断に深く関与する世界においても、
その結果を引き受けるのは人間であり続ける。
判断を委ねることはできても、
責任を委ねることはできない。
自由とは選択肢の重さではなく、
選んだ結果を自分のものとして引き受ける重さの問題だと、
本書では考えると書かれてまして、
ここの引用で多分、
すべてが濃縮されていると思うんですけど、
責任主体にはなれないんですね、彼らは。
責任を与えるという法律を作ることはできますけど、
それは僕らが感じている責任とは違う概念なんですね、
基本的には。
僕らは生き続ける。
ある日一回の、
例えば僕が謝って誰かを謝めたとしますよね。
その謝めたという判断は、
僕のその後の生涯にすべて背負われるわけですよね。
だからこそ、
一回一回の判断に重みが出てくるわけです。
そんな簡単なことはできないということになるわけですね。
でも生成AIは、
その固有の歴史を体験として持たないので、
AIに責任がありますと言ったところで、
その責任概念が彼らの判断に影響を与えなければ、
それは責任概念としては機能していないわけですよ。
この社会が責任というものを必要とするのであれば、
少なくとも責任を背負う主体としての人間は、
人間がその責任を引き続き追い続けなければならないだろうと。
責任を取ることが人間の仕事であるという上司の仕事みたいなのと
同じことになってきますよね。
結局どこかで誰か、最後に人間が引き受ける。
その引き受けることを前提として社会設計をしていく必要があるだろうというのが、
本書の中心的なメッセージで、
僕はこれは非常に深くなぞったんですけど、
実は前回の僕の回で、
会話と責任という話をしたんですけど、
結局責任なんですよね。そこでも。
僕らが会話、こうやって身近に会話していることですら、
お互いの発言に責任を持っているけど、
前世以外はその責任を負わないから非常にイライラすることを言うわけですよね。
その体感としてもマジでそうですよね。
その通りです。私が間違っていましたとか、
何を言っとるんだお前はっていうことを、
何の思いもなく言いますよね。
だから結局そのレベルで社会の大きな決定をされてしまっても、
僕らは困るわけですよ。
それイライラするとかじゃ済まなくて、
そんなあっさり謝られても、
もう実害は出てますけどみたいなことが頻繁にあるけど、
彼らはその実害に対する影響もないし、
謝るという感覚も多分分かってないですよね。
分かってないよ。
だから責任というものを僕らの中で担保していく必要があると。
で、本社の後半では、
なぜそうなってるか分からないけど、
とりあえず効果があるっていうような、
生成AIの行為が出てくる。
僕らが説明されても分からないけど、
トレーニングだったりなんだったりの。
最終的に判断の話。
判断に関しても。
例えばこういうことをしてくださいとか、
お願いしてこうやりますよってこうやってこうなった時に、
人間がなぜそうやるのかとか、
そうやって効果があるのかが分からないけど、
確かに効果が出てるっていうような状況に、
未来、今でも多分なってると思うんですけど、
未来になった時に、
理解してないけど、
責任を取らなければならないという状況になってくると。
で、それまでは理解と責任って基本的には一致していたけど、
一致しなくなる未来が多分やってくるだろうと。
で、その中に人間っていうのはその、
理解はできないけど、
途中どうなっているのかを見ていくことはできるだろうと。
だから監査っていう概念を、
人間のこういう責任こうしたりとして、
つまり監査する責任はあるだろうと。
途中が分からなくても、
今こうなってるからどうですか、
いやこうしてくださいっていう監査をしないで見逃したら、
それはその人の責任だし、
発見して修正したら、
その責任は回避できるっていうような監査の概念。
理解と責任を合致させるんじゃなくて、
間に監査っていうのを入れていくことで、
理解はできていないけど責任を取れるっていうような、
設計ができるんじゃないかというのが提案されていて、
これは結構面白い話で。
スピードを落とさないといけないってことですよね。
ある程度はそうですね。
走り続けるわけにはいけない。
随所随所で人間の監査を入れて問題ないかを確認していかない限り、
責任概念がこの世界から消えてしまうというのはあると思いますね。
SF作品で、
ビートレスっていうSFがあるんですけど、
人間の主人公がいて、
超高度AIが作ったAIロボットが、
本来は世に出てはいけないけど出てしまうっていう状況があって、
そのうちの一人がマスターを求めるんですね。
人間と同じかそれ以上の知能を持っている
ロボットさんがマスターを求める理由は、
やっぱりロボットは責任が取れないからって、
そのロボットは説明するわけね。
しかも責任を委ねて、
こうしてくださいという依頼を持つことによって、
計算資源をめちゃくちゃ削減できるという話がありまして、
つまりこの世に起こりうることを全て計算するのは、
非常に無駄が多いわけですよね。
しんどいと。
でもマスターがこう望むんだっていうシチュエーションを
フレーミングすれば計算資源はそこに充填できるし、
非常に効果が上げられると。
だから道具としてのAIという風に位置づけ、
AIスラッシュロボットとして位置づけた時も、
やっぱり責任主体っていうのが要請されるっていうのが
そのSFでは書かれてるんですけど、
やっぱりこの一連の話でやっぱり責任主体としての
人間というのが残っていく。
それが嬉しいことかどうかは分かりませんけども。
そうとしかならんやろうなぐらいな。
僕らが人間として生きていく、
今現在の先生AIを使う上でも
自分の責任性っていうのを自覚する人がありますし、
これも後の本の話で触れるかもしれないけど、
先生AIがやってしまったから仕方がないですみたいな
オープンAIとかの言い方。
あれはおかしいですよね。
その管理責任はお前らの。
そういうごまかしみたいなのをやっぱり避けるためには、
どこかが人間が責任を負うべきですよねって話を
ちゃんと制度としても、
僕らの倫理観としても持っておく必要があるかなとは感じます。
それが人とAIの主に前半の話で、
後半の話はもっといろいろあるんですが、
興味を持ったら読んでいただくとして、
次に2冊目の作ることとAI、生成と複製の間でということで、
僕自身はどっちかというと作る方、
クリエーションとかに興味があるんで、
どっちかというとこっちの方に興味を引かれたんですけども、
話の冒頭から2022年の夏で、
カリフォルニアのバークレーに滞在していたと。
そこでイベントみたいなのがあったらしくて、
1ヶ月くらいにおられたらしいんですけど、
2022年のその会では、
テクノロジーとアートで社会に良いインパクトをもたらすっていうことが、
目指された財団が行ったイベントでして、
ちょうどその2020年のテーマが、
AIと創造性、クリエーション、クリエイティビティーだったんですけど、
またその頃はオープンAIが、
デルE2っていう画像を作れる。
何て呼ばれてたやつかな?
画像を生成するAIを発表したばっかりで、
その時はこのコンピューター系の人たちの中では盛り上がっていましたが、
僕ら一般人はすごいなーぐらいで。
AIで絵描けるんやって思っていた記憶がある。
そこの会にもAIの感じのエンジニアがいて、
すごい盛り上がっていたらしいんですけど、
その後の2020年11月にChatGPTが出て、
これは本当に社会的に大きなインパクトになった。
その1年前の2021年に、
作るためのAIという本の著者が書かれていて、
そのAIが人間の創造性を拡張する時代っていうのを描いていた。
機械というものを使うことによって、
人間がこれまで持ってなかったクリエイティビティーを発揮できるようになるのではないかということか、
例えばおそらく初音ミクとか、
あの辺のテクノロジーの話から惹かれて展開されていたと思うんですけど、
読んでないからわかりませんが。
ただその2020年に書いた本と、
その未来予測と、
今2026年の現在を比較した時に、
AIが人間の創造性を拡張する時代になったと言えるのかどうかっていうのが、
著者自身としてかなり疑問に思われてきて、
この本を書いたと。
で、先ほども言いましたけど、
まずポイントとしてこの本は、
創造性の観点を取っていると。
クリエイティビティにとって生成AIがどうかということ。
つまり生産性向上とか事務効率の云々という話は一旦置いておくと。
創造性の観点から今の現在の生成AIの技術が、
どういう位置づけになっているのかを確認し、
この技術があっち方向に向いて進んでいくぞという方向性が、
果たして創造性において好ましいのかどうか。
好ましくないとしたらどのように付き合っていったらいいのかを考えようということを提案すると。
で、創るという行為と人間、あるいはそういったAIが、
どのように関係し得るのかを考えていくというところで。
この本の冒頭あたりで、自分も使っていると、生成AIは。
本を作るとき、この本を書くときに、
クロード、クロードコードって書いてあったかもしれないけど、
もう助けを借りているし、
例えばそのレファレンスを探すときとかは、
もう全然助けてもらっているし、
原稿をチェックするときとかも使っていると。
だから、そんなものを使わなくていいという
反生成AI技術を提示する本ではありません。この本は。
でも、だからといって、
どんな分野でも今の生成AIの技術ってバッチグーだということは
さすがに言い過ぎじゃないかということを考えたい本ということですね。
で、著者自身はさっきも言ったように、
自分でもアート活動をやられていまして、
生成AIを作って音楽を作るという研究をされていて、
その研究技術を使ってアルバムをリリースされている方らしいです。
だから、アーティストっていう肩書きは冗談じゃなくて、
ちゃんとアーティスト活動をされていると。
で、自分自身がアート活動をしているから、
この創造性っていうのをテーマとして持ってきていることももちろんありますけども、
やっぱり一番の問題にしたいのは、
そのクリエイティビティが発揮される分野っていうのが
尺度を持たない領域だと。
何が良いのか悪いのかという明確な答えが
存在しているわけではない分野が創造性、
ないしはそのアートの分野で、
だからこそその分野から見たときに、
生成AIって限界があるんじゃないかっていうことが
分かってくるんじゃないかという話がありまして、
正解が分かっている事務作業について、
生成AIは爆発的に強いわけですよ。これはもう。
コーディングに関しても、
例えばポールループを回して帰ってきた値をみたいなのはあるわけですね。
それも爆速でかけるとして、
アートの分野のようなそういう尺度が
客観的な基準というのがない分野で、
例えば生成AIがどう働くのかどう機能するのかは、
そのさっき言った事務的なものとは別の観点で
考える必要があるだろうという話で、
それはまさに自分の経験としてもそうだろうと思います。
今更言う必要はないですけど、
生成AIの講座ということで、
世の中がそれっぽいものであふれると。
あふれかえっていると。
あくまでそれらしく模倣したものばっかりであると。
それをバイブコーディングに名付けてバイブワークと言うんですけど、
仕事じゃなくて成果物っぽいもので
あふれかえるようになるんじゃないかと心配されているんですけど、
もうあふれかえってますが。
もっとあふれるでしょうね。
これから。
当然頭を抱えることになるわけですけど、
生成AIで使われているこの生成という言葉そのものに
著者は疑問を投げかけると。
AIの研究の分野で、
生成モデルという言い方は昔からあったらしいんですね。
それは識別モデルというものとの対比であって、
識別モデルというのは判断するだけのやつ。
今最近なんか新しく出てますけど。
判断するだけのやつが出てますけど。
研究の分野で判断するだけのものじゃなくて、
何かを作り出すもの。
画像なら画像っていうのを作り出すという意味での生成だったんですね。
判断との。
文字を書くが生成なわけね。
そうそう。だから単に識別するだけのことじゃないよというモデルを対して
生成というのが使われていた。
ここで言う生成、
僕らが日常的な言語感覚で使う生成というのは
それあってるんかなと。
ジェネレイティブ生成っていうのは
生物が生まれて成長する過程を指している言葉。
それは未知の何かを生み出すニファンスが含まれているけど、
今の生成AIって未知の何かを生み出してますかというふうに疑問を投げかける。
コピーなわけですね。
現在の生成はむしろ複製技術、コピーのあるいは自動化の技術として
そういう性格性質を持っているというのが本書全体で主張されていると。
これはそうなんですね。
昔ジェネレイティブアートとかジェネレイティブミュージックっていうアートの文脈でも
生成的って言葉があったんですけど
それはどっちかというと
それまでのアートでは書き手がこう作るっていう思って
書き手の技術において作るっていうことをしていたんですけど
ある程度その関与を減らして
例えばアルゴリズムで出てきた音を並べてみるみたいな
主導権を向こう側に渡すことで
人間が作れなかったような発想とかアイディアを試そうというようなことで
ジェネレイティブっていうのは使われてきたと。
その時は著者は高評価はしてたと思うんですけど
そのようなアーティストからAI企業に主導権が移ったら
そのようなものではなくて
むしろここでいう生成がただ単なる自動化とか
オートメーションの別名になってきてるんじゃないかと
それは面白いんですけど
ChatGPTの最初の方3.5とかでしたっけ
だいぶトンチン感で
トンチン感ならではの面白さがあったんですけど
アメリカ大陸の大統領とか
ありましたね
僕存在しない高校の名前を言って
その効果ってどんなんでしたっけ教えてくださいって言ったら
ちゃんとクリエイトしたんですよね
ジェネレイトだったわけですね
SUNOも最近アップデートして6位になってすごくまともやったんですけど
逆に言うと5より前は変な音楽を作ってたんですよ
人間の発想では出てこないような音楽が出てきて
それは確かに違和感あったんですけど
それを一つのインスピレーションとして
音楽を新しく作っていくことができたように思えたんですけど
バージョン6から結構普通になって
普通はいいんですけど
なんか昔あったような
クリエイティビティの方がどんどんなくなってきている
それは自動型オートメーションが邪魔なことなので
それはそういう発達なんですけど
アート的な側面の能力とか領域が小さくなってきているな
というのは僕自身もちょっと思います
実際使っている人にとっては社会人説法ですけど
生成AIって基本的に過去のデータを学習して
そこから何かを作るんで
だいたい似通ってくるんですね
誰が何作っても似通ってくる
それはもう地股の画像を見たらよくわかりますよね
平均を作るものですからね
そうした時に平均を作るもの
かつてあったものをなぞるようなもの
ぽいものを作るってことは
そこから新しい表現ジャンルが生み出すような
創造性を期待できるかっていうと
それは難しくない
限りなくゼロですよね
そうした時にアート的な行為と非常に
相性が悪いだろうなということで
生成って呼ぶかどうかなんて
二次的なもんだろうっていう言い方もあると思いますけど
これも一つ前の話で
言葉使いってどう認識するのかの
認識概念に影響を与えてしまうんですよね
AIという言葉ってジョン・マッカーシーさんが
作ったらしいんですけど
AIという言葉を作るんじゃなかったと
晩年公開されてたらしいですね
というのも
あたかもAIと呼んだことで
人間の知能を模倣する方向性が生まれてしまったのではないかと
公開されたんですね
むしろコンピューティングインテリジェントですか
計算知能と呼んだ方が
その時の実態には近かったのではないだろうかという話があって
だから現在の生成AIも
僕らが生成という言葉を聞いてイメージしてしまうものが
向かうべき方向とずれているとしたら
あんまり良くないよねと
なんか新しい言い換えっていうのが
あった方がいいではないかと
トランプが言い出してる
ちょうどタイムリーだと思ったんですけど
しかも習近平と同意したわけでしょ
逆に言い方そのものが権力を持っているということですよね
結局は
上から与えられる用語は嫌ですよね
正しいとかではなくて
そうですね
正しい正しくないかを
言葉遣いが決めてしまうことももちろんあるので
だからそこの
生成って言ってるけど本当にそうかなと
彼に例えば今生成AIと言われているものが
自動化アルゴリズムって呼ばれたら
多分こんなにお金は集まってなかったんじゃないかと
言っておられて
まあそりゃそうだろうなと
アルゴリズム
まあでもアルゴリズムとすら言えるのか
一応だってハイゲート語っていうのはアルゴリズムですし
僕たちがわからん形のアルゴリズムではありますけど
わからんレベルの超絶アルゴリズム
アルゴリズムという感じ
確率的理論的に揺れるアルゴリズムというように
言うことも可能なわけですね
それも乱数を入れてるだけですもんね
そういうふうに言えることも可能なんで
別に自動化アルゴリズムが間違ってるとか
自動化アルゴリズムをそのように定義すれば
そういうこともできるということで
どういうかはちょっと考えようかと
気楽に生成生成と言っといていいんかっていうのは
アートの観点の生成から考えた時に
ちょっとズレがあるんじゃないかなという
結構技術とか企業に勤めてる人は
技術ってのはどうしたって誰かが絶対作ってたと
だから誰かの責任ではないし
これはあるべきしてあるんだっていう話をよくされるわけですけど
そんなわけはなくて
これを作ると決めてそれを作った人がいて
それを採用した決済がどっかにあって
そういう会議があるわけですよそれは
それをあたかもないかのように言うのは間違ってるし
開発者の意図がちょっと変わっていけば
方向性っていうのは全然あり得たとし
もっと言うと今の生成AIじゃない形の
AIの方向性もおそらく意識の問題として
あるいはそういう目的意識を持った人たちが
ある程度集まれば生まれたんじゃないかということが
強く熱く述べられております
ここは結構共感しましたね
生成AIがこういうふうに展開していくだろうということで
ABCDEで整理されてまして
最初がアウトメーションですね要するに
あるいは平均化アベレージングに向かう方向
次に飽和していき
消費者化していき
差が出てきて最後にエクスプロージョン探索していく
このEのところまでいけば
想像的なところにいけるんじゃないかなというところです
EはどっちかというとCぐらいのところで
最後にABCプラスFって言って
Fって何だろうと思ったんですけど複製のFですね
複製のFっていうのがキーワードとしてできて
本を読んでいるうちにこのキーワードがちょこちょこ出てくるんですけど
今回は別に覚えなくてもいいですけど
僕たちの生成AIで使っている技術そのものが
オートメーションからアベレージングから始まって
どんどん形が変わっていく
そういう展開があるんだろうということが提案されます
そもそも著者の言われる生成AI
AIアートの歴史って
今さっき言った模倣になってますけど
AIアートって必ずしも人間の模倣を目指していたわけではなかったらしいですね
さっき言ったように
まず音楽を作るというのはどういうことか
ルールを発見し
それをアルゴリズムに落としていくという方向
ここで音楽が採用されているのは
まさに音楽っていうのが理論
数学と理論の話だから
アートの中でも結構独特に数学と数字が出てくる分野だと思うんですけど
作曲とかコード変更
コードの進行とかも
ある種アルゴリズムで規定できるとしたら
それをコードに落とし込めば
音楽っていうのが
人間が介在しないでも作れるんじゃないかっていう探求が
昔は行われていたと
逆に自分の創作を代わりに
コンピューターにやらせるという
方法もあったらしいんですけど
それは自分自身がどう判断しているかを
すごいイフ分でつなぐ
イフ
この時はこう判断してこうする
この時はこう判断してこうするっていう
今でいうとスキル化のようなことかな
これをアートの分野で
つまりアーティストそのものが
自分のクリエイティブコードっていうのを
形式化
形式地化するように
するということが
行われていたりとか
あとブライアン・イーノが
フロッピーで音楽を配ってまして
ゼレディティブミュージックって
音楽を入ってなくて
生成のルールだけが基礎されたフロッピーディスクらしく
専用のアプリケーションでそれを再生すると
音楽が作られる
生成される
だから毎回違うし
人ごとにも違う
自動的に生成される
いかにもブライアン・イーノらしい感じですけども
これは別に人間の代わりに何かをさせるというよりは
一つには
そもそも
クリエイティブってどのように行われているのかを
探索するような
研究するような目的として
行われていたと
で
ブライアン・イーノとかもそうですけど
アーティストがこう作りたいといったものを受け取るんじゃなくて
アーティストもどうなるかわからないよねっていうものを
作るという予測不可能性を受け入れるというところで
生成絵画が研究されていましたが
今は全く逆で
予測不可能性を減らしたいと
こういうものを作りたい
はいできましたという感じになっていくと
これは結局最初の生成アイドル研究が
さっき言ったスキル化とか
超絶なイフ分とかもそうなんですけど
プロセスそのものを
模倣しようとしたんですね
どうやって作るかを研究し
その作り方そのものをなんとかコンピューターで再現する
あるいは再現しようとする中で
自分がどうやって作っているのかを理解するという
講義だったんですけど
今はもうね結果が
プロセスはもういいと
結果を模倣するということに向いてきていると
でもまさに今そうなってますけど
そうか
だから生成AIがなんか僕の代わりにイラストを描いてくれたとしても
僕はイラストを描くとはどういうことか全くわからないわけですよね
それは
ただ似たものは手に入れられているというので
フォーカスの主体が
いわゆる
芸術家そのものが
プロセスを探求するために
使われていたものが
そうじゃない人たちが今結果を模倣するために
使っている
こういうのその結果を模倣することは
データ舎立主義と著者を呼んでいて
面白いと思うんですけど
間にあるプロセスを飛ばして
そこに結果が出てきた
データそのものを
いかに綺麗に映しとるかということが
探求されていると
で
面白いのは
人間による創作のプロセスって
自分もやったことあるんですけど
プロセスそのものを模倣しようとしても
絶対に模倣できない部分が出てくるんですよ
僕は今ありとあらゆる知的精神の技術書を読んで
そのプロセスを真似したことがありますけど
やっぱり乗り切れないところが絶対に出てくるんですね
それは僕の頭の処理と
その方法を考えた人の
処理が違うからだと思うんですけど
で
その模倣できない部分にこそ
その人自身の
何か固有のプロセスの目が
眠ってると思うんですよ
でも結果だけ模倣した場合
そのようなものってないんですよね
だから僕は
誰かなんとかさんのイラストレーター風の絵を
手にすることはできますけど
その人の描き方を真似しようとして
真似できなかった
なんとなく出来上がった自分の描き方みたいなものは
もう手に入れられなくなってしまっていると
で
アートの分野では
意味のアートはそれですよね
おそらく
その人の肉体にしかない
そうですね
だからアートは昔からそれを探求して
テクノロジーを改ざりさせる時も
そのような試みがあったけども
現在のGenerative AIで提供されている
そのアートっぽいものは全て
ただ結果を模倣したものでしかないという
これはちょっとどうかねっていうのが
第1章の話で
非常に現代的な問題しかないと思いますけど
ここでやっぱGenerative AIが何ができないのかというのが
さっきの本と通手して出てくるんですけど
最初にも言いましたけど
答えや評価基準があるものはめちゃめちゃ得意やと
じゃあGenerative AIが
今までになかった音楽ジャンルを
構想することが可能かっていうと
そもそも向いてる方向が逆と
もっともらしさを最大化することと
芸術や文化を更新することが違うと
この更新ということがポイントで
よく文学の話をしますけど
文学の定義って特になくて
小説というものの定義ないんですけど
結局ある時代時代において
ある表現者が
これもこれに加えられますよね
ということをしたきたおかげで
今その広大な小説原野が広がっているわけですよね
例えばですけど
ある時代まで
音が全く流れない4分31秒は音楽足りえるか
っていう問いそのものがなかったわけですよ
でもある時代からそれは問いとして成立したんですよね
あれ芸術ですよね
33秒だった気がする
いや3秒で
とりあえずあとは便器ですね
市販されている便器が芸術アートとして成立するかっていうのも
そのアーティストがそれをするまでは
そもそも問いとしてなかったわけですよ
でもある時からそれが問いとなって
それがその芸術とかアートの分野を更新してきたと
そのような今までの判定基準
評価基準を上書き変更するようなものを
現在の先生から期待するのは激しく難しいと
調査はDJの研究もやっておりますけど
スクラッチ音もあれも今は立派な音楽の音響の一つですよね
あれを好んで聞く人もいますけど
コントロールするしね
あれはでも以前まではただノイズやった
DJというものの音楽活動が
あれも音楽に入れますよという風にして
ジャンルそのものを新しく更新してきたっていうのがあると
考えた時に
物事に対するアプローチっていうのは3段階あるでしょうと
パズルを解くっていう段階
これは問題解決の段階でつまりもう答えはあると
その答えに向かっていかに進んでいくかっていう段階があると
次にこの軸そのパズルがあるとしても
なんかうまくいかない時に
あれちょっとピース足りてないんじゃないの?とか思ったりとか
そもそもこれ完成品の図と
このパズル取り違えてないかっていう風に検討する
その問題そのものは確か発見するという状況
でそれさらに次で
今ここにこんなピースありますけど
こういうの作れませんかなって考える
その時に単に例えば
こういう図柄ができますよってことじゃなくて
ピースをノリでくっつけていったら立体の建物になりますよね
みたいなことも言えてしまう
軸そのパズルを定義をまた上に更新するようなアプローチ
問題解決というよりは
新しい問いを発見するような段階があると
この3つ目の段階の問題解決アプローチ
何か想像性っていうものが
現在の生成AIでは非常に弱いだろうと
それはそうだなと
全然本的にできなさそうだな確かに
現在例えば文章においても
既存のジャンルとか既存の書き方によった文章を生成するのは非常に得意ですが
こんな形の文章を読んだことなかったっていうものを生み出せるかというと
それはかなり難しい
相当プロンプトを練り込まないと難しいと思いますねこれは
本職からたびたび想像性という言葉が出てきてますけど
いろんな定義があるんですけども
マーガレット・ボーデンという方が
新しく驚きがあり勝つ価値のあるアイデアや
人工物を生み出す力というのを
本職の想像性として
あるいは著者自身が採用している定義として述べてるんですけど
想像性といっても実は段階があると
最初が組み合わせの想像性と
イチゴと大福でイチゴ大福みたいなことだと思いますこれは
既存のものを合わせることで
新しい今までなかったものを作り出す
これも想像性ですね
探索性と想像性というのは
そのような2つをただ組み合わせるのではなくて
イチゴと組み合わせられるものを
すべて1個1個層当たりで試していって
うまくいくものを見つけるみたいな感じ
そこにあるジグソーパズルを
1個1個合うかどうか確かめていくような
そうするとそこにある組み合わせは
全部をさらえるわけですね
非常に広い範囲とか
人間が見つけられなかった
直感とか思いつきでは見つけられなかったことを見つけられると
逆に変革的革命的といっても
想像性っていうのは
そこに自分が人間が想定している
ある概念が想定している空間の外にまで出る
層当たりをするんじゃなくて
その層当たりになる先を新しく増やすようなもので
探していくっていうのが変革的想像性で
一番大きな想像性っていうのは
変革的に行われるものであって
組み合わせタイプとか探索的では
もちろん想像的ではあるけども
基本的に既存のもののバリエーションっていうのが
出てきやすくなると
今の世世代はどっちかっていうと
組み合わせか探索が得意だ
それが得意であることは別に悪いことではなくて
むしろそれはテクノロジーの進歩であって
日本列島改造論にこれをたたいてて非常に面白かったんですけど
日本列島改造論って
日本の某総理大臣がやったやつですけど
日本中に道路とか新幹線を張り巡らせて
移動を楽ちんにしようっていう話ですが
それによって僕は今
例えば北海道とか青森に行こうと思えば行けるわけですよね
割と楽に行ける
日本列島の探索がやりやすくなったわけですよ
だから生成愛を使うことで
今まで人間は面倒くさかったような探索ができるようになったと
それは非常に良いことであろうと
ただしでもそこに変革まで行けるのかどうかは
ちょっと考えておいた方がいい
どこでもとマジで作ろうとかって
そういうことですよね多分
そこまでのことがもう想像性には含まれるし
今弱いところではあろうと
だからもしアートとか想像性の分野で
AIとの付き合いを考えていくとしたら
足りないそこをどう補うのかというような
話になってくると思います
面白い話なんですけど
ロシア人の某アーティストが
あるいは国を回って絵を描くんですけど
その時に一般大衆に
自分が好きな絵の構成要素を教えてくださいって言って
アンケートを取って
その上位に選ばれたもので絵を描くんですけど
大体どの国も同じ絵になるんですって
大体自然の風景で山があって木があって
動物がいてみたいな感じの構図になるんですって
平均とったらどんだけつまるのか
そういうこと
一般大衆に多数決で主題を決めさせると
アートっていうのは基本的に平均的なものになっていくと
いかにそこから逃れていくのかというようなところが
2章の話で確認されてまして
結構時間が経ったんですけど