1. メタモヤモヤ
  2. AIのあぶなさ
2025-04-24 16:41

AIのあぶなさ

サラタメさんのNexus解説動画
https://youtu.be/3FcJD5wgPXE
00:05
ウェスティナレンテ、この放送はSWC、スロースウィズクリエイターズ、コミュニティメンバーのマスコットがお送りします。
今日も、昨日から始めましたが、マスコット図という、いつを毎日3Dで作っているんですが、それをやりながら話をしていこうと思います。
実は今、この放送の前に1本撮ったんですけど、言葉の言い方が強いというか、あまり良い言葉じゃない表現をしている部分があるなぁと客観的に聞いたら思った部分があったので、消しちゃいましたね。
なので、また同じようなことを話していこうと思います。 ニュースとして、まず、昨日白井さんが日本にバンクーバーから帰って来られて、
カオルさんと合流して、その放送をライブ配信していましたね。
まず、白井さんが無事に日本に帰って来られて、本当に良かったなと思っています。
あの放送というのが聞いた方はそう思うと思うんですけど、かなりほっこりするというか、すごい笑っちゃうなという感じがありました。
なんでだろうな、ほっこりというか、嬉しいという感じもあるんですけど、そういうのがありました。
面白いなって僕が思ったのは、カオルさんが車で白井さんを迎えに行って、合流した時に、初めましてって言ってたんですよね。
それ結構面白いなと思って、というのも、その後カオルさんのお家に行って、今日泊まっていると思うんですけど、
そういう、なんていうんだろうな、ある種、心を開いているというか、心を許しているみたいな関係性であるのにもかかわらず、
初めましてという風になるというのは、普通の関係性だとなかなかないよなという風に思いました。
でも僕らは、コミュニティにいるメンバーの人たちだったら、そこで関係性があるので、
その中で、だから別にそういうこともあるなというのも自然に受け入れられるんですけど、
確かに、初めて会ったことないし、会ったことは直接会ったことないし、顔も多分見たことはないと思うんで、お互い。
そういう状態から、そこで初めましてって言っているという、なんかそれが面白かったですね。
放送自体もすごいほっこりする感じで、とにかく部屋の呪いが、白井さんを暗くさせていたというのが分かって、
本当に元気に喋っていたというとは言えないですけど、すごい元気になられていたので、それが本当に良かったなと思いますし、
03:07
日本で帰ってきたから、AI白井ではなくて、本当の本来の白井さんになって、またこれから活動してほしいなと思いました。
それとあと、昨日は両太郎さんと裕夫さんの対談をお昼になさっていて、僕は内部では聞けなかったんですけど、録音で聞きました。
お二人の話って、すごい僕は関係性が面白いなと思っていて、
なんでだろうなっていうと、裕夫さんって割とラフにいろんな人に話しかけるみたいな話も放送でなさっていたんですけども、
そういうラフさというか、割と自然体な感じでいろんな話をされる方で、両太郎さんは理を整然としていて、
割と論理的に有益なことをすごい喋るっていうのがご存知の方は思うと思うんですよね。
そこのギャップみたいなのがあるし、たまに噛み合ってないみたいなところがあって、それで面白いんですよね。
だからこれからも続けてほしいなって思いますね。別にたまにでいいと思うんですけど、すごい面白いなと思って聞いてました。
今日本題に入りますが、話そうと思っている、雑談なんで聞いていただかなくても全然大丈夫なんですけど、
話そうと思うこととか、AIの危うさみたいなことについて話をしようと思います。
これ、昨日YouTubeでサラタメさんというYouTube動画、本とかを解説なさっている方で結構知っている方も多いと思うんですけども、
そのサラタメさんがネクサスという、ハラリさんというですね、サピエンス全史というのとかも書いていらっしゃる方の新書なのかな、を解説なさっていたんですよね。
それがAIについてのことを、サムネか何かを見たときに、そのAIの危うさとか危険性みたいなことを書いてあったんで、
サラタメさん、昔は僕結構見てたんですが、最近は全然見てなかったんですが、このAIのことについてだし、ハラリさんの本なので、
ハラリさんの本、僕はちゃんと読んだことないというか、多分読めないんで、すごい熱くて、
でもすごい、なんか多分、ちゃんと読んだら絶対有益なはずなのに、
僕は多分あの本を読むことは決してできない、僕の本が読めないという性質というか性格というかがあるので、
その方の本を解説なさっていました。
それがすごい面白くて、本当に結構難しい本なので、僕もうまく言語化できてないんですけど、
06:09
AIが危ないぞっていうのはすごい解像度低い話ですけど、そもそもAIっていうのはツールではなくて、
エージェントなんじゃないかみたいな話をしていて、だから今までの進化してきた人類の進化の中で、
車とか蒸気機関車とか、そういった発明、人間の生活を変えるような発明っていうのがたくさんあって、
その時々にそれが人間に対して危険性があるんじゃないかということは言われてたんですけど、
AIっていうのはもうそういうレベルのものじゃないぞっていう話をしていて、
AIっていうのはそういう意味でツール、今までの発明はあくまで人間に主導権というかがあって、
その上で使うもの、道具としてのツールとして新しい進化をしていくっていうのでしかなかったんだけど、
AIっていうのはエージェント、つまり人間の補助的な道具じゃなくても、
自立して行動して意思決定を行う存在になってるんじゃないかとか、なってるよっていう話をしていて、
だからAIが人間の情報ネットワークに深く入ってって、社会的に影響を持つ可能性あるよねって、
それってすごい危険で、何が危険かっていうと、情報がとにかくあふれる、嘘の情報もたくさんあふれてくると、
フェイクなんだけど、それがフェイクかどうかも判断できないみたいなぐらい、すごく生存の高い、
例えばディープフェイクとかもそうだと思うんですけど、人間の顔、その人の顔をフェイクで、
AIで作って、それで話をして、本当に危ない発言とかをしていて、
この人がこう言ってるってことは、じゃあこうしなきゃって、それに影響される人がたくさん出るみたいなことですね。
さらに民主主義への脅威みたいな話で、
それこそ選挙とか世論とかにも影響を与えて、結局民主主義自体も危ない状態になっていくよ。
そうすると最終的に人間が、人類滅亡って言うとあれですけど、
最終的にそういう状態までなっていってしまうんじゃないかという危険性があるよということを話をされていました。
だからAIに対してすごい強い規制したりとか、
あと進化のスピードが速すぎるっていうのもすごい問題をしていて、
それっていうのは、例えばアメリカがチャットGPTを開発していって、
中国もやっていって、各国のある種そのポジションを奪われたら、
そこで覇権を握られてしまうことへの恐怖から、どんどん進化スピードを上げていっているじゃないですか。
09:04
それこそAIを追っている人はわかると思うんですけど、
本当に昨日できなかったことが今日できているぐらいな、
そういうスピードで進化していってしまっているがゆえに、
どんどんそういう情報が溢れていって、フェイクも溢れていって、
最終的にどれが本当かもわからなくなって、
貧乏論みたいなのがすごい強い時代になっちゃうよねっていう話をされていました。
僕もそのAIの使ったりとかもしているし、
AIのサービスとかも作ったりしていて、
AIを割と工程的に、割とというか全工程ですね、ほぼ。
してこうやってやっているんですけど、
でもそういう危険性っていうのは確かにあるし、
目をつむっているまで言わないですけど、
そこまでちゃんと理解していなかったなというのを思いました。
50分ぐらいのすごい長い動画です。
青田さんが解説していて、
僕の今の話というのは結構切り取っているし、
うまくちゃんと説明できていない部分も大きいと思うので、
もし興味ある方はリンクつけるので見てみてください。
さらにですね、それ以外にもちょっとAIのことを考えることがありまして、
というのも庵野隆寛さんって東京都知事選にも出ていたりとか、
AIのことをすごい詳しくて、
企業家でもいらっしゃると思うんですけど、
YouTubeがあって、
もちろん建成さんとかと対談しているので、
ご存知の方もたくさんいらっしゃると思うんですけど、
そのYouTubeの中で柴崎さんという画家ですね、
アーティストのおじいさんの方と対談で、
AIの絵について語るということをYouTubeでちょっと前にされていました。
その動画自体めちゃくちゃ面白くて、
僕もすごい興味深く見ていたんですけど、
柴崎さんが言っていたのは、
AIというのは一見上手な絵を描いているけど、
そういうことを昨日話した千葉さんのセンスの哲学を描いた千葉さんの話で言えば、
AIというのはある種のリズムというものを理解していないから、
この場所では強くした方がいいとか、
この場所では弱くした方がいいというような強弱だったりとか、
凹凸があったりとか、てこぼこ的な部分というのをバランスですからね、
そういう部分がまだできていない。
それができるようになるかどうかもわからないけど、
現状この絵を見る限りそういうものができていませんよというような話を
柴崎さんがなさっていました。
これはすごい面白いし、
AIとかを使ってアートとか芸術とかそっちのデザインとか、
そういうことに興味ある人は見たら面白い動画だなと思って見てたんですよね。
そしたら本当につい昨日か一昨日ぐらいに安野さんが、
12:03
実はそのYouTubeにあまりいいと思わないというコメントをされる方がたくさんいて、
さらにその動画だけだったら良かったんだけど、
柴崎さんの方にもそういう強い意見というか、
みたいなのを言う人が現れてしまって、
ちょっとご迷惑をかけてしまったので、
その動画を削除しますというのをXの方で投稿なさっていました。
僕はそれを見たときに、
あの動画は何がいけなかったんだろうなって思ったんですよ。
今も投稿されていないと思うんですけど。
そういう別に強くAIを肯定するわけでもないし、
むしろ否定というまではいかないけど、
こういう本当にメタ的な視点で話をされていたし、
だからそういう意味で、
それを強い意見で否定するという人が出るとは思えないんですけど、
でもそれでもそれがあったという話を聞いて、
さらにその安野さんのXの中ではリプライとか見ると、
それを否定する人も何名かいらっしゃいました。
僕はそういう人の意見というのはあまりいるということは理解していたけど、
どういう考えなのかなというのは分からなかったので、
その人とかのプロフィール欄というか、
その人のフィード投稿を見てみたんですよね、
強く否定している方の。
そうするとやっぱりその人は一旦して、
AIに対して否定派の人で、
もちろん絵師さんって本当に命を削ってというか、
本当にすごい努力をなさって、
それで作品を作っている人の絵を勝手に無断で使って、
AIに学習させてというのはありえないという考え方自体、
僕もすごい理解はできるんですよね。
そのかつ、AIというのは結局、
著作権が曖昧なまま進んでしまっているというのも
すごいよく理解できるんですよね。
ただ、そういう否定をするというのが、
じゃあだからと言って、
庵野さんとか柴崎さんにそのことを否定するというのは
僕はちょっと違うとは思うんですが、
ただ僕が思ったのは、ネクサスの件もそうだけど、
AIをただ単に全肯定してすごいよねって言って、
受け入れて、使い方とかどういうふうにやったら面白いかって
考えることもすごい大事なことだと思うけど、
自分自身今までずっとそうだったんですが、
AIの危険性というものに対しても、
意識をして扱っていかないとダメというか、
15:01
僕自身はそうした方がいいなというふうに思いました。
この先、AIによってどういう変化が起きるかというのは
誰も分からないですけど、
ただやっぱりそういう危険性というのは
新しい技術であるがゆえに絶対あるし、
さらにAIというのは確かに今までの進化の中では
なかったものなのかなという気もしていて、
本当にスピードが驚くべき感じなので、
本当に指数関数的に進化しているようなものだし、
さっき言った事実的に動いている道具ではなくて
というエージェントとしてみたいなところもあると思うので、
それは何か考えて、
だからってもうAI使わないよという判断は
僕はするわけじゃないですけど、
だからフェイクの情報が流れていくときに
何を信じればいいかというのを
ちゃんと自分で見極める目を持つというか、
そういう判断をできるようにしたりとか、
じゃあ具体的に何よというと実際ないんですが、
そういう意識をまず持つということは大事だな
ということを思いました。
今日結構真面目な話をしてしまったので、
真面目な話というか結構考えながらめちゃくちゃ話すと
全然作業が進まないなというのは思います。
ですがそんなことを考えたよということを話しました。
今日も最後まで聞いてくださりありがとうございます。
それでは皆さんスロースロースロース。
16:41

コメント

スクロール