1. AI未来話
  2. #44 AIキス動画に注意して。そ..
2025-02-06 34:51

#44 AIキス動画に注意して。それはジョークでは済まされない

spotify apple_podcasts

【PR】オムロンエキスパートエンジニアリング株式会社

▼採用ページはこちら

https://bit.ly/4hAbuWj

▼社員インタビュー記事はこちら

https://bit.ly/4gi1BeA

▼実際にエンジニアとして働く3人の座談会動画はこちら

https://bit.ly/4jAlYqd

 ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄

お便りはこちらから!
https://forms.gle/j8sJ1v1hH5JSaZm97

 ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄

AIメディア MiraLab AI

⁠https://miralab.co.jp/media/

 ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄

公式X
- AI未来話
https://x.com/ai_miraitalk
- MiraLab AI
https://x.com/MiralabAI
- 平岡将和(Hiraoka Masakazu)
https://twitter.com/dicamp_hiraoka

 ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄

AI未来話/各種リンク

- note
https://note.com/aimiraitalk

- Spotify
https://open.spotify.com/show/4YQI4JvX83mURM6xywKn5w?si=34b96be128584bad

- Apple
https://podcasts.apple.com/jp/podcast/ai未来話/id1733462439?uo=2

- LISTEN
https://listen.style/p/aifuturetalk

 ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄ ̄

更新スケジュール
毎週木曜日AMに更新

サマリー

AI技術を利用したキス動画の作成が広まり、他者の同意なしに親密な映像が生成されることの問題が浮き彫りになります。このエピソードでは、ディープフェイクやAIを用いたハグなどのアプリが引き起こすモラルの危機について考察されます。エリオット博士は、ディープフェイク技術とAIへの依存が、プライバシーと思考の主導権を脅かすリスクを掘り下げます。AIキス動画の例を通じて、個人の思考と感情が無賃で奪われる危険性が強調され、AI利用に伴う心の空虚さや社会実験としての側面が考えられます。AI技術の進展に伴い、AIキス動画やディープフェイクに関するモラルの問題が浮き彫りになっています。エリオット博士は、AIへの依存が心の問題や実際の人間関係に与える影響について警告を発し、自己認識の重要性を訴えます。このエピソードでは、自身の主体性を取り戻すために、他者に影響されることなく本当に望んでいることを見極める重要性について考察されます。

AIキス動画の現状
AIメディアMiraLab AIの平岡です。同じくMiraLab AIのたつけです。この番組は、AIの最新動向をもとに未来を考察するポッドキャスト番組です。
それでは本日のトークテーマお願いします。
AIキス動画に注意して。それはジョークでは済まされない。
なんか怖いー。
最近インスタグラムとかティックトックを見てると有名人とか一般の人同士がキスをしているような動画、こういうの見たことありませんか?
あります。なんかちょっと話題になってますよね。
実はあれ、AIが勝手にね、画像合成したりとか動画にしているケースが多いんですけど、ちょっと前まではディープフェイクっていうね、これ割とポルノっぽい文脈で使われることが多かったんですけど、
だからポリシー違反で広告に乗らないようになってたんですよ。ただこういったキスとかハグとか、ライトな見せ方、グレーな見せ方で最近広告が出るようになってるんですよね。
なるほどね。
じゃあ今回はそういったディープフェイクのお話であったりとか、そこに紐づいた主体性を取り戻さないといけないって話をね、していきたいと思います。
なるほど。
じゃあまずですね、AIキス動画について、このアプリはですね、いっぱいあるんですけど、まず2人の写真をアップロードすると、AIがそれをキス動画に変換してくれるっていうアプリですね。
このアプリはもちろん相手の同意を得ることなく、好きな人に即座にキスできるツールとしてSNS上で宣伝されているわけですよ。
このアプリは他にもAIヌード化っていうアプリも、ディークポールのアプリみたいなのがあるんですけど、これとコンセプトが似ていて、実際にその人がしてないことをさせるっていうような動画を作るわけですね。
で、フォーブスによるとこうした動画とかアプリっていうのはアラブとかイタリア中国、アメリカ以外に拠点を置いている企業が運営していることが多いみたいで、
アップルとかグーグルのプレイストアとかで無料でダウンロードができて、もうすでに数百万件以上のダウンロードがあるらしいです。どうですか使ってみたいと思います?
まああんまり思わないかな。ただまあAI発信者として興味はやっぱりもちろんあるところではあるけど、その個人的なね趣味嗜好としてはあんまり惹かれはしないかな。
安心しました。しかもねこれAIキスっていうのはあくまで機能の一部なんですよ。本来的には古い写真を修復したりとか、静止画を動かすとか、
あと赤ちゃんになった時の顔を予測するとか、おじいちゃんになった時の顔を予測するとか、そういった機能で興味をつけてユーザーが面白そうみたいな
軽い気持ちで導入しやすい構造になっているから、もうねすごく悪質というかタッチが悪いんですよ。ここで問題なのは当人の合意がなく誰とでもキスやハグをしているような映像が作れてしまうということで、
同意の欠如と倫理観の崩壊
露骨な性的表現じゃなくても同意がないっていうのが特にダメ。こういった映像っていうのはもう十分に作主的だと今指摘されているわけなんですよ。
実際に起きている例をお話しすると、例えばテイラースヒトとキム・ジョイルがハグをする映像。これインスタで約3000万回も再生されたんですよ。
他にもイーロン・マスクとイタリアの首相ジャルジャー・メローニさんがキスをしている合成動画。これがXで話題になった。
イーロン・マスクなのにXで話題になった。 自分で制限しろよと。 自分で制限すればいいのよとかね。こういう映像ってバズりやすいわけよ。
バズるならやろうみたいな発想この構造が本当に良くないなと思ってて、どんどんリツイートされていくじゃないですか。だから本人たちは別に何の同意もしないのに勝手にコンテンツが作られていて、
多くの人はそれをジョークとして消費しているわけですよ。これって非常に深刻なモラルハザードじゃないかなって思うんですね。
しかもですね、こうしたアプリの広告はメタが運営しているインスタとかフェイスブックで2500件以上も配信されてて、
TikTokでもそのヨーロッパ各国で何百万人ものユーザーに1000件近くの広告が出されていたと。
これらの広告の大半、もう中身はスカーレット・ヨハンソンとか、エマ・ワトソンなどの有名人がキスをしている様子を描いてたりとか、
他の広告はAAによって元彼にキスができるとか、好きな人にキスができるみたいな宣伝をして、ランダムにもうキスしてる動画をめちゃめちゃ映してみたいな、めちゃくちゃ気持ち悪い状況なんですよ。
ヤバいね。 はい。しかも訴求の仕方がさ、ムカつかない?なんかもう元彼にキスできるとか、いわゆるこうえぐるような感じの。
人のなんか弱みじゃないけど、揺さぶってくる感じが良くないよね。 そう、その感情に差してくる感じのね。
普通に考えて、それどうなの?みたいなこと思えそうなんだけど、いわゆるこれってプラットフォーム上でのルールとか規制が追いついてないから、そこのいわゆるグレーなところを狙ってきてる悪質極まりない現象なんですよ。
だからこういった状態ってディープフェイクポルノほど過激じゃないけど、まあにしてもちょっと境界超えてるよ。こんな感じに指摘されてるわけですね。
問題の本質はそのキスとかハグのそういった親密行為をさせることとかじゃなくて、その人がやってない行為をあたかもやったように見せるっていうのが、それをさせようとしてるっていうのが問題の本質だなって思うんですよね。
さらに他にもAIハグっていうアプリもあるんだけど、この広告やばいよ。子供たちがキャラクターと一緒に冒険したりとか、広告の中身ね、ミッキーと一緒に出かけられるとか、トムとジェリーの漫画のキャラクターを抱きしめられたりとか、そういったAI生成の動画が流れるわけですよ。
このアプリを使えば子供たちが会ったこともないおばあちゃんを抱きしめられるとか、おじいちゃんを抱きしめられるよとか、その親にリーチするようなアプリなんですよ。ミッキーとハグできるよ、いいでしょみたいな。
で、このハグをさせるっていうアプリをダウンロードさせるんだけど、実は誰とでもハグできちゃうから、好きな人の写真とかアイドルとか言える。
相手の同意なしにハグができるっていうのが問題で、それを問題と思わずやってしまうっていうことが問題みたいな感じです。
その広告だけ見ると子供がミッキーとハグできるって言ったら、なんか良さそうって思っちゃうもんね。
対処法と個人の意識
そうそう思っちゃうじゃん。だからもう騙されたみたいな感じ。
そうだよね。
だから気づかずにそのモラルを壊しに来てるっていう感覚って言ったらいいのかな。
で、このAIハグのアプリもホーブスの調査によると現在でも広告が出ていて、これまでに1200件掲載されていて、今でも300件以上が掲載されているらしいですね。
この傾向っていうのは作手的なディープフェイクってあえて言いますね。
この作手的なディープフェイクを当たり前のこととして、親密な画像とか性的な画像への同意のない参加をジョークとして捉えているように仕向けていると言うわけですね。
さっき言ったように面白そう、なんかすごそう、イーロンマスクがキスしてる、面白い、わはは、ジョークだっていうのが当たり前になっていくと、どんどんモラルが壊れていくというか倫理観がなくなっていくというかスラムになっていく。
だからこれ他人のことって考えるとすごく簡単に軽視できる類のことなんだけど、自分の周囲にいる誰かが自分の画像を作ってるってちょっと考えてみてください。
気持ち悪いよね。
気持ち悪くないですか普通に、たつけが夜な夜な僕の画像を作ってキスとかもしさせてたらもう気持ち悪くてしょうがない。
やばいよねそれは確かにね。
そういうことなんですよ、やってることって。
そうかね俺ヒランのさパソコン何気なく見たらさ、えお前誰誰と自分がチューしてる写真めっちゃ作ってるじゃんとか見ちゃったらさ、えって引いちゃうよね。
引くじゃん普通に、えってなるじゃないですかっていう当事者意識があったら誰もがこれは違反行為だよねって認識できるはずなんですよ。
だからそういった意識をリスナーの方はぜひ持ってほしいです。
ワハハじゃない、全然それ笑えないですよみたいな。
でじゃあどう対処すればいいのかっていう話なんですけど、企業側に関しては成人向けのヌードとかその性的コンテンツは規制していても、キスとかハグとかが規約に当たるかちょっと曖昧なんですよね現状はね。
でもTikTokだけはこれを問題視して一部削除に踏み切ったんですよ。
なんかTikTokの方がそういうのの話なイメージはあるけどね逆なんだね。
いや意外とTikTokはねそういうの厳しいんですよ。
逆にメタは明確に規定違反ではないですって扱ってる。
ああそうなんだ。 そうなんです。メタの方が。
緩いんだね。 緩い。まあなんかさホリエモンの。
ああそうかメタの広告か。 ねえとかあったじゃないですかいろいろ。
それ広告に載せていいんですかみたいな。だからこの辺りを明確にちゃんとするっていうスタンスが大事ですね。
で個人としてはもう写真をですねむやみやたら公開しないとこれしかないです。むしろ。
で見つけたら通報するっていう対策しかないのが現状かなと。
法的にもディープフェイク規制ってまだ十分に整備されてないので、
ユーザーの声を上げるっていうのがすごい大事になってくると思います。
実はですね僕も昔自分の写真が勝手に使われたってことがあるんですよね。
懐かしいね。 インスタグラムの広告に資産形成セミナーやりませんかみたいな。
俺が載ってるみたいな。言ってないそんなことみたいな。
なんか友達から言われたんだっけこんなこと始めたのみたいな。
ああそうです。友人の友人に言われたんですよね。
そしたらそんなセミナーしてない。しないですみたいな。
すごいうさんくさいことやってそうですけど大丈夫ですかみたいな。
ああそうだそうだ。
あったんですけどこれがねもっとAIを使うと無造作に大量にやれちゃうっていうね。
しかも今はさ個人的な趣味思考のレベルだけど
本当にさ今みたいにさ怪しそうな仕事してますけど大丈夫ですかってさ
ビジネス的に見たら実例がヒラの場合出てたわけじゃん。
ああそうですね。
でそういうのは悪意を持ってそういうことをするってことができるのが怖いよね。
いやそうなんですよ。やってないのにやったって見せられるっていうことがやっぱ問題の本質なんで
やっぱり僕はしっかりね見つけたら声を上げてちゃんと通報する。
すごく地道ですけどそういったスタンスを持ってやっていくしかないかなという感じですかね。
そのAIがそういったね私たちの中に入り込んでるわけじゃないですか生活の中に。
後半はそのAIが私たちの頭の中に入り込むっていうテーマで
AIの専門家のランス・エリオット博士が指摘している現象をねちょっと紹介していきたいと思います。
それではここでお知らせです。
なんとAI未来話で初めての案件をお受けさせていただきます。
ありがとうございます。
ありがとうございます。嬉しいですね。
ですね。
オムロンエキスパートエンジニアリングというところのお知らせを今回やっていきたいと思います。
オムロンエキスパートエンジニアリングはオムロングループの強みを生かし
プロフェッショナリティの高い政治社員エンジニアを派遣する会社さんですということで
特にエンジニアの教育と育成には力を入れているので
日々進化する技術や開発現場で求められることに対しても
エンジニアが継続的に活躍できるように丁寧な研修制度が用意されているそうです。
そんなオムロンエキスパートエンジニアリングさんの
企業ビジョンは生涯エンジニア。
かっこいいですね。生涯エンジニア。
エンジニアという職業で生涯現役で活躍し続けたいあなたを全面でサポートし
伴奏してくれるのがオムロンエキスパートエンジニアリングです。
生涯エンジニアでいられ続けられるようにっていうのが
やっぱりその教育だったり研修制度とかもそれにこう合わさった中身になってるなっていうのは感じてて
例えば研修の中でもコミュニケーションスキル研修とかプロジェクトマネジメント研修とか
本当にそのエンジニアのその小手先の技術とかじゃなくて
トータルで学べるような仕組みになってるのが生涯エンジニアっていうのに繋がってるなっていうのは感じるよね。
そうですね。
この研修制度も公募型、選抜型、自己選択型とかいろんな研修が用意されてるみたいでそれが本当いいよね。
個人的に気になるのは自己啓発支援ですね。
自己啓発支援ね。
このオムロングループ自己啓発制度っていうところで産業の立大学通信コースなどって書いてあるんですけど
なかなか自己啓発を研修制度に入れてる会社さんって僕はあんま知らないなと思って。
そうだね、あんま聞かないよね。
でも個人的に自己啓発って僕すごく大事だなと思ってるタイプなんで
こういったのが組み込まれてるっていうのはエンジニアとしてもなんですけど
人間として成長していきましょうっていうようなメッセージが伝わるなと思いますね。
まさに生涯エンジニアっていうのとひも付いてるような研修内容になってるよねここが。
そうですね、もう技術だけじゃなくて人としても上がっていきましょうという意気込みを感じられますね。
もちろん技術の方も大事だからね。
スクールだったりですとかeラーニングの工学っていう
自分たちでeラーニングで通信教育で学べるようなものが無償でアカウント提供されたりとか
一部費用が無料になったりとかっていうのもあるみたいなので
自己学習もちゃんとできるようになってるっていうね。
そうですね。
そんなオムロンエキスパートエンジニアリングは
エンジニアが生涯にわたり開発現場の最前線で活躍し続けることができる
生涯エンジニアを体験できる会社です。
エンジニアとしてのキャリア形成はもちろん
生涯エンジニアとして活躍できるフィールドと成長機会が豊富にあります。
気になる方は概要欄のリンクからぜひチェックしてみてください。
以上オムロンエキスパートエンジニアリングからのお知らせでした。
ディープフェイクのリスク
AIが私たちのところに侵入してきていると。
この現象についてエリオット博士の話をするんですけど
彼ですね世界的にも有名なAIの科学者で
ベンチャーキャピタリストとかスタートアップ創業者のメンターを務めてたりとか
実務にも結構精通しているような方なんですね。
今回は彼のこのコラムを使ってお話ししていくんですけど
前半でお話ししたAIキス動画に代表されるようなこのディープフェイクは
こういったプライバシーとか肖像権の領域に勝手に入り込んでくる問題でしたよね。
後半ではこの勝手に私たちの心の領域を奪ってしまうっていう点でつながっていて
どちらのテーマも主導権を気がつかないうちに奪われているって感じたんですよ。
だからこのニュースをくっつけました。
まずこのコラムの中でエリオット博士は格言を言うんですよ。
頭の中に何かを無賃で済ませてはいけないと。
こういった格言を引用しているんです。
もう一回言います大事なんで。
頭の中に何かを無賃で済ませてはいけないと。
分かりました? 大事だからね。
もう一回言います? もういいですもういい。
これはあなたの思考とか感情を相手に勝手に偽らせると
主体的な思考を奪われてしまうよっていう警告なんですね。
だからタスケさん自分の頭の中っていうのを家だと思ってください。
家に誰かを呼ぶ。ゲストはいいですよ。
あなたの家の中に住みたいって言われたら家賃取りますよね。
まあ普通はね。
じゃあセッパンねとか。
じゃあこのペースだったら4分の1ねとか。
対価求めますよね。
やってないんですよそれ。
っていう話ですね。
じゃあなぜ無賃で済ませるべきではないのかっていう話をするんですけど
エリオタカセはこのレントフリーね。
無賃っていう概念を頭の中が消費されているのに
リターンが見合わない状態っていう風に捉えてるのね。
これはROIっていって投資対効果っていう考え方がベースなんですよ。
例えば身近な例としてこれ出してるのが
テイラース人がすごく好きな人がいたとすると。
でその人が毎日テイラース人の話をばかりしてて
友人にテイラース人あなたの頭の中に無賃で積みついてるねって
こう茶化す場面を想像してみてください。
テイラース人だとちょっとみんなあれか
浜崎歩見とかにしとく?
古い古い。
歩月にも失礼だけど。
でも世代がちょっとさえさすがに。
でもあれか、我々のリスナーの世代で言ったら
意外とすんなりいく年齢かもしれない。
そうですよね。あゆにしましょう。
辰木さんずっとあゆの話してますけど
頭の中にあゆが積みついてますね、無賃でみたいな。
そんな風に茶化す場面を想像してみてください。
これはあなたの思考時間とかエネルギーを使ってるわけですよね、あゆに対して。
もうあゆのことが大好きってずっと考えるわけですよ。
エネルギーを使ってるわけですよ。
その分のリターンってあるんですか?
ってまず問うわけですね。
これ大ファンで幸せを感じるならもちろんいいんですよ。
でもこれ日常とか仕事に支障が出るほどハマっちゃうと
本来得るべきリターンのコストのバランス崩れてませんかっていう。
なるほどね。
これ同じことがAIへの過度な依存でも起こり得るっていう話をしてるんですよ。
これ実際にですね、全部AIに任した方が楽だし早いと思っても
そのコストとして払ってるのはその思考の過程とか
思考錯誤の経験を失っていませんかっていうところだったりとか
自分のプライバシーの情報とかクリエイティビティを知らずに渡してませんかだったりとか
そうした疑問を博士は投げかけてるわけなんですよ。
実際に生成AIにのめり込みすぎて生活そのものをAIに左右されている人がいて
具体的には何をするにもまずAIに行かないと落ち着かないとか
AIの応答を自分の意見だと勘違いしてしまうとか
AIとずっと会話してるうちに人間よりAIの方が僕の理解者だみたいな風に感じてしまうとか
ここで問われてるっていうのは自分の大事な時間とか思考力を
家賃無料でAIに明け渡していませんかっていう点なんですね。
なるほどね。
僕は明け渡してますっていう話ですね。
今言おうと思ったんだけどなんかヒラのこと言ってるのかなみたいな。
まあもちろんその依存性があってやばいみたいな感じではないけど
でもなんかちょっと近いところにある感じはするよな。
そうですね。
実際にチャットGPTと話してる方が面白くないですかとか
なんか人と会話するより良くないですかみたいな話もそうだし
実際にあの前のポッドキャストのエピソードで宗教の話あったじゃないですか。
たづけさんのエピソードの。
あそこでもAIチャットボットに依存しすぎてしまって
最終的に自殺してしまったみたいなケースもありますが
これとまさしくレントフリーで詰まわせすぎて
バランスを崩してしまった例なんですよね特に。
さらに博士は今私たちは大規模な社会実験のカチューにあると
今後のAIの影響
我々はAIのモルモットであるとも言ってるんですよ。
でもそうだよね。
こんだけAIに左右された人間が将来どうなるのかってわからないわけだから
我々の人生をもってたぶん次の世代たちがこういう風なAIの使い方やめようという判断になるもんなと。
そうですね。大規模モルモット事件なんですよ今。
でもそうかもしれないね。
SSA使う人はすでにもう数億人規模だし
チャットGPに関しては週に3億人以上のアクティブユーザーがあるって話じゃないですか。
だから法規制とかガイドラインってもちろん追いついてないし
もう利用者が実験台になっている状況とも言えるわけですよ。
ここには前半でお話ししたディープフェイクとかそのAX動画のリスク構造が全く同じで
技術が爆発的に普及してからやっとやばいかもって気づくんですよみんな。
でもすでに多くの人が危険なコンテンツを見たりとかAIに依存してたりする可能性があるわけですよ。
だからあっという間に私たちがAIになれてその隙にプライバシーとか思考の主導権が奪われているかもしれない
っていう点がこれ両者に共通してるなって思ったんですよ。
だから本当に気づかないうちに主導権奪われてるんですよ。
面白いとかなんかすごそうとか衝撃的みたいなそういった感情に左右されて
なんとなくこう上にどんどんスパイプしていって
っていうのをやっているうちに自分の人生をどんどん奪われていってるっていう感覚を
他もね持った方がいいなと思うんですよみなさん。
AIキス動画だけじゃないですよね。
AIが今大規模な実験体として人間が今ものもとになってる状態であり
その中でさっき言ったAIを住まわせるということはそのコストを払ってるっていう自覚もあった方が良くて
考える力っていうのを放棄している可能性もあるし
人と話すという喜びっていうのを手放している可能性もあるわけですよね。
だから今一度自分の頭の中に住んでいるものがどういったコストがかかっていて
どういうリターンを得られているのかっていうのは常に置いておいた方がいいと思うんですよね。
なるほどね。
趣味で頭がいっぱいです。
でもそれでちゃんと仕事のバランスとか崩れずに幸福感を得られているんだったら
バランスいいよね。
そうですね。
分かりやすいよりは本当に例えばギャンブルとかお酒とか
そういうので頭いっぱいになっちゃって仕事もままならないってなっていると
それってもうリターン見当てないよねっていう話になるじゃん。
それと同じようなものがAIで起きているっていうことだよね。
まさしくギャンブルとかはいい例ですね。
AIとの付き合い方
エリオット博士はAIを頭に住まわせすぎないために3つの方法を提案するんですけど
一つ目が自分なりの利用ルールを明確にしましょうと
めっちゃ当たり前のこと言ってます。
本当そうだね。
仕事のアイディア出しならこの時間だけとか
チャットAIを使うならこの範囲って決める。
二つ目が一度AIの答えを疑ってみる。
もしAIがああいう曲はこういう意味だよみたいな歌詞を送ってね
こういう意味だよって言ってきても
自分で調べて考えてみるっていう余地をちゃんと作る。
確かにこれ必要かもな。
これ僕散々言ってますけど
とにかくクリティカルシンキングを大事にしてくださいって話をしてるじゃないですか。
博士も言ってます。
なるほどね。素晴らしいですね。
博士も言ってます。僕も言ってます。
なるほどね。
博士も言ってます。
大事なことだからねこれは。
三つ目が人との対話や実際の経験を大事にしてください。
AIチャットの便利さに依存しすぎると
リアルな人間関係や体験から学ぶ機会を失う可能性があると。
本当にねそういうことなんです。
こういった手段を通じて
ROI投資対効果を考えながら
AIを利用することっていうのがすごい大切なんですよと。
だから頭の中に家賃をちゃんと払わせるかどうか
それに見合うだけの価値があるかどうかを常に評価するっていうのが姫路ですね。
ここで前半に扱ったそのAIキス動画と話を繋げると
我々はSNSで流れてくる映像とか広告を
ちょっと面白そうとかふざけたジョークとして見ているうちに
気づかない間にこれぐらいは大したことないよねって
許容範囲を広げてしまうんですよ。
なるほどね。
だって普段見てるものだからね。
だから同様にAIチャットにハマってる人は
AIが好き勝手に脳内に入り込んでいる状態に慣れてしまって
身近な人とのコミュニケーションがおろそかになるかもしれない。
それにAIが誤情報を与えたりとか
メンタルを不安定にする方向にもし誘導されてしまったとしたら
これは被害を受けるのは自分自身ですよね。
要するにAIは便利だけど依存させる構造っていうのが
めちゃめちゃ潜んでいるかもしれないって疑ってほしいんですよ。
そしてディープフェイクがただのネタとして広がることで
私たちの境界意識っていうのをどんどん鈍らせているっていう可能性があるわけですね。
だからどちらとも主体的にコントロールをしないと
勝手に入り込まれてしまうっていう構造があるわけですよ。
だからプラットフォームが規約を整えないまま
AI消す動画を放置しているように
私たち自身もAIに過度な依存を野放しにしていると
思考停止になってしまったりとか
メンタルへの悪影響を招きかねないと。
AIキス動画と境界意識
結局のところこのAIっていう技術どう向けようかっていうのは
社会全体の問題であると同時に
一人一人の頭の中の問題とも言えますよね。
本当そうだね。 なんですよ。
で博士のコラムの最後に哲学者の言葉を載せてるんですけど
これは哲学者プラトンの言葉で
私たちを欺く者は魔術のような魅力を発するっていうのを引用していて
AIは一種の魔術のような魅力を持っていて
私たちを簡単に欺いてその結果頭の中に住み着くことがある
っていう風に言ってるんですね。
でまたレオナルド・ダ・ヴィンチのことも引用してるんですけど
これすごい良いですよ。
私たちが最も騙されるのは自分自身の意見からである
っていう趣旨の言葉にも触れていて
AIの言うことを正しいと思い込むのも結局は
自己欺瞞の一つではないかと。 深いね。
博士は視察してるわけなんですけど
AIはまだ人間らしさを装っているだけに過ぎないわけですよ。
だから実際のところを自己学習や推定だけで
確率的に回答してるだけだから
その点を忘れないようにするのがすごい大事ですよねって話ですね。
このダ・ヴィンチのこの言葉めっちゃいいなと思ったんですよね。
深いよね。
私たちが最も騙されるのは自分自身の意見からである
つまりね、これバイアスなんですよね。
自分はダメな人間だって言ったら
それを信じちゃうんですよ。
そこから騙されるんですよ。
自分が発する言葉を人間ってめちゃめちゃ信じてしまうので
気をつけましょうねっていう話ですね。
自己暗示じゃないけど
やっぱ自分がそういう風に洗脳されてっちゃうもんね。
どんどんそういう言葉に。
ということで今回はこんな感じです。
はい、それではエンディングでございます。
ということで今回は前半で
AIキス動画の蔓延とか
ディープフェイクのモラル問題を取り上げて
後半ではエリオット博士のコラボをもとに
レントフリーの概念の話を探ったわけなんですけども
やっぱね、実感がないうちに境界線を甘くしてくる
超えてくるようなそういった怖さがあるなってすごい思ったんですよね。
で、知らないうちに骨抜きにされてるみたいな
気づいたときにはアウト見れない状態になりかねないなって思ったんですよ。
このままAIと向き合ってるとね、考えずに。
だから今どれだけAIに心を使ってるのかっていうのをちゃんと点検して
おいおい無賃でずっと住み続けてるじゃないかお前
家賃払えよってちゃんと頭の中に言う。
これだけですね。
これね、AIだけじゃないんですよ。
いろんなものが頭の中に入ってるじゃないですか。
で、これらにちゃんとリターンを求められてるかどうかって考えたときに
全然できてないなって思ったんですよね。
だから生きてるとさ、いろんなこと考えるじゃん。
それって全部エネルギー使ってるのよ。
代価を払ってるわけですよ。
それに対してちゃんとリターン得てますか?
そんなこと考えたことねえわって思いますよね。
趣味とかなってまさしく一緒だしね。
もう頭の中に住みつくわけじゃん。
それがちゃんと幸せで幸福で人生が前向きになるいいものであればいいけど
それを超えてきてたんだったらそれはちょっと住みつきすぎてる可能性があるよね。
リターンが見当てないって。
だから住みつきすぎてるんだったら家賃を払わせるとか
もうちょっと出て行かせるとか
対策は出した方がいいですよね。
なんか今回の話聞いてちょっと思ったのは
AIっていろんな能力を倍増させてくれるじゃん。
その中で今まであった問題を大きくする作用の話なのかなってちょっと思ったところがあって
例えばキス動画云々っていうのも
結局はSNSで自分の良くないものが拡散されてってるみたいな話で
でもこれって別にAIじゃなくても同じようなことって起きてたわけじゃん。
例えばヒラの写真、嫌な写真とかをパシャって勝手に撮って
それをアップして拡散されるとかさ
要は晒しみたいなものもあったし
あとはバカッターとかさ、言われてるバイトのやつあるじゃん。
バイトテロみたいな写真を撮ってアップするんだ。
要はそのバイトテロ自体も良くないことなんだけど
それをそもそもSNSにアップして拡散されることもどうなのっていう二重の面を持ってる。
キス動画を作るっていうのも倫理的にどうなのって話もあるけど
でもそれを個人的な趣味でどこにも出さずに収めてたら
それってギリギリ許容範囲なんじゃないのかもしれないよねとかって議論もあるわけじゃん。
それを表に出すことによってそれが悪になるみたいなものとかもあって
それってやっぱりAIではないところからもともとあったものが
AIによって問題が大きくなっていってるみたいな。
そういう要素もちょっとあるのかなみたいな。
大きくなってる要因っていうのが広告を出すことを
本来ダメなのに今規制が入ってないからくぐり抜けてくるみたいなところですよね。
それに何も考えずに飛びつくと気づかないうちにどんどん人生奪われてるみたいな。
いうような構造ですよね。
だからこの2つのテーマって一見別物に感じるんですけど
結局AI云々とかSNSが悪いとかそういうことじゃなくて
枝葉の話なんですよねこれって。
どっちもAIもSNSも使う人によって変わるから。
もちろん良いようにも変わるから
自分たちがちゃんと考えてとりあえず変えるかどうかっていう問題なんですよね。
自己認識と行動の重要性
ただ人間の行動経済学とか心理学とかって結構研究され尽くしちゃってるじゃないですか。
だから考えても気づかないうちにはまっちゃってるんですよどうしたって。
しかもめちゃめちゃ巧妙なんだよね。
こんなのみんな騙されるじゃんみたいなハイパー詐欺師みたいな感じなんですよ状況としては。
だからやっぱりリテラシーをつけたりとかマインド的にそういうことを考えておかないとずっと騙され続けちゃうような世界だなって。
本当そうね。
なんかその境界線を曖昧にしていくって言ってたのが本当わかるなって思ったのがさ
大谷翔平選手の通訳の水原一平さん。
詐欺でさ捕まったじゃん。
でその時にさAIでさダンスフロアで水原一平がめっちゃ大人気動画流行ったけど。
そうそうそうなんですよ。
でもあの時僕は個人的になんかそのあんまそういう良くない捉え方はせずに
単純になんかコンテンツ面白いなって思っちゃった自分がいて。
これどうやって作ったんだろうみたいなめっちゃ面白いこれって思ったし
僕はそのXとかやってないから個人的にねやってないけど
もしやってたらなんか普通にリツイートとかしててもおかしくなかったなって思う。
でもあれって全然知らない人がやってもしないことをやるっていうのって言うと
キス動画と別にやってることって変わらないじゃん。
そう変わんないですね。
でもその時にはあんまりなんか悪いものだって思わなかった自分がいるのが
やっぱ境界線を曖昧にされてるなって感じる。
あれがもしさ自分の友達が詐欺してて、詐欺したこと自体は悪いけど
その友達が知らない人にコンテンツ化されてXでバーってなったら
すごい嫌な気持ちになるんだよね。
嫌な気持ちになるね。
あいつそんな悪いけどさ、詐欺したのはさみたいな
すごい嫌な気持ちになるよね。
当事者意識がないまま擦り込まれていくっていうのは本当に危険だと思うんですよね。
特にSNS触ってると。
そういう気持ちを持っておくだけでも全然違うと思うんですよね。
っていう話をしたかったんです。
なるほどね。
でも学びになりますね。
最後にこれ話したいこともあって、
主体性の再考
境界線を曖昧にしてくるっていうのは僕当てはまるなっていうとこがあって
誰かに見せられた夢みたいにちょっと近いなと思うんですよね。
誰かに見せられた夢。
例えばさ水原一平さんのことを何も考えずなんか面白いねこれっていうのは
自分が本当にそれ面白いと思ったんですかっていうことを僕言いたくて。
深いね。
それって面白いと思わされていませんかっていうことを一番言いたかったんですよ。
このエピソードで。
もうこんな最後のキワキワで言うけど。
確かに。
でこれって僕若い時に経験したことがあって
20代前半の頃って高級車に乗りたいとか成功してたままに住みたいとか
そういうイメージあったじゃないですか。
ネオヒルズソックみたいな。
まあそうね。
あの頃ね。
ヨザワツバサさんとかあった時の。
だから昔からあったことで。
で乗りたいなとか住みたいなって思ってたけど
今になってみると本当に住みたかったのかなみたいな。
別に車興味なかったなみたいな。
だから自分が見てた夢って誰かに見せられてた夢だなっていう感覚があるんですよ。
なるほどね。
で要はそれってタワーマンを買わせるためのマーケティングかもしれないし。
ああでもそうだね。
高級車を買わせるためのマーケティングかもしれないし。
権威性を誇示するための手段なわけじゃないですか。
ああいうのって。
そういった誰かが見せたイメージであって
自分の人生の主導権を気がつかないうちに奪われていたなって思った。
ああ確かにね。
だから本質は一緒なんだよね。
誰かに見せられたイメージ、もの、マーケティングとかもそうですけど
巧妙にやっぱね奴らは仕掛けてくるんですよ。
それに自分が本当に心の底からいいと思ってるんだったら俺はいいと思うんですけど
そうじゃなかったらちゃんと考える必要がある。
それは無賃で済ませてはいけないよって思うんですよね。
だから最後に言いたいことは
これは本当に自分が望んでいることなのかなっていうのを問い直してほしいと。
それが私たち自分自身の主体性を取り戻す、主導権を取り戻す
そんな姿勢が今後のAI時代より大事になっていくんじゃないかなという感じでございました。
リスナーへのメッセージ
それでは最後に番組の感想をお待ちしています。
感想は概要欄のお便りフォームもしくはXからハッシュタグ
AI未来話でぜひ投稿してください。
皆様からの感想が我々のモチベーションとなります。
またお聞きのポッドキャストアプリでAI未来話の番組フォローとレビューもお待ちしています。
フォローすることで最新話の通知がきます。
この番組はランキングに入る可能性が上がります。
現在Appleテクノロジーランキングで第15位です。
応援のほどよろしくお願いします。
来週も木曜朝7時1分にお届けします。
通勤通学の30分にAIの最新トレンドをキャッチアップしていきましょう。
それでは本日もありがとうございました。
ありがとうございました。
34:51

コメント