露骨な性的表現じゃなくても同意がないっていうのが特にダメ。こういった映像っていうのはもう十分に作主的だと今指摘されているわけなんですよ。
実際に起きている例をお話しすると、例えばテイラースヒトとキム・ジョイルがハグをする映像。これインスタで約3000万回も再生されたんですよ。
他にもイーロン・マスクとイタリアの首相ジャルジャー・メローニさんがキスをしている合成動画。これがXで話題になった。
イーロン・マスクなのにXで話題になった。 自分で制限しろよと。 自分で制限すればいいのよとかね。こういう映像ってバズりやすいわけよ。
バズるならやろうみたいな発想この構造が本当に良くないなと思ってて、どんどんリツイートされていくじゃないですか。だから本人たちは別に何の同意もしないのに勝手にコンテンツが作られていて、
多くの人はそれをジョークとして消費しているわけですよ。これって非常に深刻なモラルハザードじゃないかなって思うんですね。
しかもですね、こうしたアプリの広告はメタが運営しているインスタとかフェイスブックで2500件以上も配信されてて、
TikTokでもそのヨーロッパ各国で何百万人ものユーザーに1000件近くの広告が出されていたと。
これらの広告の大半、もう中身はスカーレット・ヨハンソンとか、エマ・ワトソンなどの有名人がキスをしている様子を描いてたりとか、
他の広告はAAによって元彼にキスができるとか、好きな人にキスができるみたいな宣伝をして、ランダムにもうキスしてる動画をめちゃめちゃ映してみたいな、めちゃくちゃ気持ち悪い状況なんですよ。
ヤバいね。 はい。しかも訴求の仕方がさ、ムカつかない?なんかもう元彼にキスできるとか、いわゆるこうえぐるような感じの。
人のなんか弱みじゃないけど、揺さぶってくる感じが良くないよね。 そう、その感情に差してくる感じのね。
普通に考えて、それどうなの?みたいなこと思えそうなんだけど、いわゆるこれってプラットフォーム上でのルールとか規制が追いついてないから、そこのいわゆるグレーなところを狙ってきてる悪質極まりない現象なんですよ。
だからこういった状態ってディープフェイクポルノほど過激じゃないけど、まあにしてもちょっと境界超えてるよ。こんな感じに指摘されてるわけですね。
問題の本質はそのキスとかハグのそういった親密行為をさせることとかじゃなくて、その人がやってない行為をあたかもやったように見せるっていうのが、それをさせようとしてるっていうのが問題の本質だなって思うんですよね。
さらに他にもAIハグっていうアプリもあるんだけど、この広告やばいよ。子供たちがキャラクターと一緒に冒険したりとか、広告の中身ね、ミッキーと一緒に出かけられるとか、トムとジェリーの漫画のキャラクターを抱きしめられたりとか、そういったAI生成の動画が流れるわけですよ。
このアプリを使えば子供たちが会ったこともないおばあちゃんを抱きしめられるとか、おじいちゃんを抱きしめられるよとか、その親にリーチするようなアプリなんですよ。ミッキーとハグできるよ、いいでしょみたいな。
で、このハグをさせるっていうアプリをダウンロードさせるんだけど、実は誰とでもハグできちゃうから、好きな人の写真とかアイドルとか言える。
相手の同意なしにハグができるっていうのが問題で、それを問題と思わずやってしまうっていうことが問題みたいな感じです。
その広告だけ見ると子供がミッキーとハグできるって言ったら、なんか良さそうって思っちゃうもんね。
そうそう思っちゃうじゃん。だからもう騙されたみたいな感じ。
そうだよね。
だから気づかずにそのモラルを壊しに来てるっていう感覚って言ったらいいのかな。
で、このAIハグのアプリもホーブスの調査によると現在でも広告が出ていて、これまでに1200件掲載されていて、今でも300件以上が掲載されているらしいですね。
この傾向っていうのは作手的なディープフェイクってあえて言いますね。
この作手的なディープフェイクを当たり前のこととして、親密な画像とか性的な画像への同意のない参加をジョークとして捉えているように仕向けていると言うわけですね。
さっき言ったように面白そう、なんかすごそう、イーロンマスクがキスしてる、面白い、わはは、ジョークだっていうのが当たり前になっていくと、どんどんモラルが壊れていくというか倫理観がなくなっていくというかスラムになっていく。
だからこれ他人のことって考えるとすごく簡単に軽視できる類のことなんだけど、自分の周囲にいる誰かが自分の画像を作ってるってちょっと考えてみてください。
気持ち悪いよね。
気持ち悪くないですか普通に、たつけが夜な夜な僕の画像を作ってキスとかもしさせてたらもう気持ち悪くてしょうがない。
やばいよねそれは確かにね。
そういうことなんですよ、やってることって。
そうかね俺ヒランのさパソコン何気なく見たらさ、えお前誰誰と自分がチューしてる写真めっちゃ作ってるじゃんとか見ちゃったらさ、えって引いちゃうよね。
引くじゃん普通に、えってなるじゃないですかっていう当事者意識があったら誰もがこれは違反行為だよねって認識できるはずなんですよ。
だからそういった意識をリスナーの方はぜひ持ってほしいです。
ワハハじゃない、全然それ笑えないですよみたいな。
でじゃあどう対処すればいいのかっていう話なんですけど、企業側に関しては成人向けのヌードとかその性的コンテンツは規制していても、キスとかハグとかが規約に当たるかちょっと曖昧なんですよね現状はね。
でもTikTokだけはこれを問題視して一部削除に踏み切ったんですよ。
なんかTikTokの方がそういうのの話なイメージはあるけどね逆なんだね。
いや意外とTikTokはねそういうの厳しいんですよ。
逆にメタは明確に規定違反ではないですって扱ってる。
ああそうなんだ。 そうなんです。メタの方が。
緩いんだね。 緩い。まあなんかさホリエモンの。
ああそうかメタの広告か。 ねえとかあったじゃないですかいろいろ。
それ広告に載せていいんですかみたいな。だからこの辺りを明確にちゃんとするっていうスタンスが大事ですね。
で個人としてはもう写真をですねむやみやたら公開しないとこれしかないです。むしろ。
で見つけたら通報するっていう対策しかないのが現状かなと。
法的にもディープフェイク規制ってまだ十分に整備されてないので、
ユーザーの声を上げるっていうのがすごい大事になってくると思います。
実はですね僕も昔自分の写真が勝手に使われたってことがあるんですよね。
懐かしいね。 インスタグラムの広告に資産形成セミナーやりませんかみたいな。
俺が載ってるみたいな。言ってないそんなことみたいな。
なんか友達から言われたんだっけこんなこと始めたのみたいな。
ああそうです。友人の友人に言われたんですよね。
そしたらそんなセミナーしてない。しないですみたいな。
すごいうさんくさいことやってそうですけど大丈夫ですかみたいな。
ああそうだそうだ。
あったんですけどこれがねもっとAIを使うと無造作に大量にやれちゃうっていうね。
しかも今はさ個人的な趣味思考のレベルだけど
本当にさ今みたいにさ怪しそうな仕事してますけど大丈夫ですかってさ
ビジネス的に見たら実例がヒラの場合出てたわけじゃん。
ああそうですね。
でそういうのは悪意を持ってそういうことをするってことができるのが怖いよね。
いやそうなんですよ。やってないのにやったって見せられるっていうことがやっぱ問題の本質なんで
やっぱり僕はしっかりね見つけたら声を上げてちゃんと通報する。
すごく地道ですけどそういったスタンスを持ってやっていくしかないかなという感じですかね。
そのAIがそういったね私たちの中に入り込んでるわけじゃないですか生活の中に。
後半はそのAIが私たちの頭の中に入り込むっていうテーマで
AIの専門家のランス・エリオット博士が指摘している現象をねちょっと紹介していきたいと思います。
それではここでお知らせです。
なんとAI未来話で初めての案件をお受けさせていただきます。
ありがとうございます。
ありがとうございます。嬉しいですね。
ですね。
オムロンエキスパートエンジニアリングというところのお知らせを今回やっていきたいと思います。
オムロンエキスパートエンジニアリングはオムロングループの強みを生かし
プロフェッショナリティの高い政治社員エンジニアを派遣する会社さんですということで
特にエンジニアの教育と育成には力を入れているので
日々進化する技術や開発現場で求められることに対しても
エンジニアが継続的に活躍できるように丁寧な研修制度が用意されているそうです。
そんなオムロンエキスパートエンジニアリングさんの
企業ビジョンは生涯エンジニア。
かっこいいですね。生涯エンジニア。
エンジニアという職業で生涯現役で活躍し続けたいあなたを全面でサポートし
伴奏してくれるのがオムロンエキスパートエンジニアリングです。
生涯エンジニアでいられ続けられるようにっていうのが
やっぱりその教育だったり研修制度とかもそれにこう合わさった中身になってるなっていうのは感じてて
例えば研修の中でもコミュニケーションスキル研修とかプロジェクトマネジメント研修とか
本当にそのエンジニアのその小手先の技術とかじゃなくて
トータルで学べるような仕組みになってるのが生涯エンジニアっていうのに繋がってるなっていうのは感じるよね。
そうですね。
この研修制度も公募型、選抜型、自己選択型とかいろんな研修が用意されてるみたいでそれが本当いいよね。
個人的に気になるのは自己啓発支援ですね。
自己啓発支援ね。
このオムロングループ自己啓発制度っていうところで産業の立大学通信コースなどって書いてあるんですけど
なかなか自己啓発を研修制度に入れてる会社さんって僕はあんま知らないなと思って。
そうだね、あんま聞かないよね。
でも個人的に自己啓発って僕すごく大事だなと思ってるタイプなんで
こういったのが組み込まれてるっていうのはエンジニアとしてもなんですけど
人間として成長していきましょうっていうようなメッセージが伝わるなと思いますね。
まさに生涯エンジニアっていうのとひも付いてるような研修内容になってるよねここが。
そうですね、もう技術だけじゃなくて人としても上がっていきましょうという意気込みを感じられますね。
もちろん技術の方も大事だからね。
スクールだったりですとかeラーニングの工学っていう
自分たちでeラーニングで通信教育で学べるようなものが無償でアカウント提供されたりとか
一部費用が無料になったりとかっていうのもあるみたいなので
自己学習もちゃんとできるようになってるっていうね。
そうですね。
そんなオムロンエキスパートエンジニアリングは
エンジニアが生涯にわたり開発現場の最前線で活躍し続けることができる
生涯エンジニアを体験できる会社です。
エンジニアとしてのキャリア形成はもちろん
生涯エンジニアとして活躍できるフィールドと成長機会が豊富にあります。
気になる方は概要欄のリンクからぜひチェックしてみてください。
以上オムロンエキスパートエンジニアリングからのお知らせでした。
AIが私たちのところに侵入してきていると。
この現象についてエリオット博士の話をするんですけど
彼ですね世界的にも有名なAIの科学者で
ベンチャーキャピタリストとかスタートアップ創業者のメンターを務めてたりとか
実務にも結構精通しているような方なんですね。
今回は彼のこのコラムを使ってお話ししていくんですけど
前半でお話ししたAIキス動画に代表されるようなこのディープフェイクは
こういったプライバシーとか肖像権の領域に勝手に入り込んでくる問題でしたよね。
後半ではこの勝手に私たちの心の領域を奪ってしまうっていう点でつながっていて
どちらのテーマも主導権を気がつかないうちに奪われているって感じたんですよ。
だからこのニュースをくっつけました。
まずこのコラムの中でエリオット博士は格言を言うんですよ。
頭の中に何かを無賃で済ませてはいけないと。
こういった格言を引用しているんです。
もう一回言います大事なんで。
頭の中に何かを無賃で済ませてはいけないと。
分かりました? 大事だからね。
もう一回言います? もういいですもういい。
これはあなたの思考とか感情を相手に勝手に偽らせると
主体的な思考を奪われてしまうよっていう警告なんですね。
だからタスケさん自分の頭の中っていうのを家だと思ってください。
家に誰かを呼ぶ。ゲストはいいですよ。
あなたの家の中に住みたいって言われたら家賃取りますよね。
まあ普通はね。
じゃあセッパンねとか。
じゃあこのペースだったら4分の1ねとか。
対価求めますよね。
やってないんですよそれ。
っていう話ですね。
じゃあなぜ無賃で済ませるべきではないのかっていう話をするんですけど
エリオタカセはこのレントフリーね。
無賃っていう概念を頭の中が消費されているのに
リターンが見合わない状態っていう風に捉えてるのね。
これはROIっていって投資対効果っていう考え方がベースなんですよ。
例えば身近な例としてこれ出してるのが
テイラース人がすごく好きな人がいたとすると。
でその人が毎日テイラース人の話をばかりしてて
友人にテイラース人あなたの頭の中に無賃で積みついてるねって
こう茶化す場面を想像してみてください。
テイラース人だとちょっとみんなあれか
浜崎歩見とかにしとく?
古い古い。
歩月にも失礼だけど。
でも世代がちょっとさえさすがに。
でもあれか、我々のリスナーの世代で言ったら
意外とすんなりいく年齢かもしれない。
そうですよね。あゆにしましょう。
辰木さんずっとあゆの話してますけど
頭の中にあゆが積みついてますね、無賃でみたいな。
そんな風に茶化す場面を想像してみてください。
これはあなたの思考時間とかエネルギーを使ってるわけですよね、あゆに対して。
もうあゆのことが大好きってずっと考えるわけですよ。
エネルギーを使ってるわけですよ。
その分のリターンってあるんですか?
ってまず問うわけですね。
これ大ファンで幸せを感じるならもちろんいいんですよ。
でもこれ日常とか仕事に支障が出るほどハマっちゃうと
本来得るべきリターンのコストのバランス崩れてませんかっていう。
なるほどね。
これ同じことがAIへの過度な依存でも起こり得るっていう話をしてるんですよ。
これ実際にですね、全部AIに任した方が楽だし早いと思っても
そのコストとして払ってるのはその思考の過程とか
思考錯誤の経験を失っていませんかっていうところだったりとか
自分のプライバシーの情報とかクリエイティビティを知らずに渡してませんかだったりとか
そうした疑問を博士は投げかけてるわけなんですよ。
実際に生成AIにのめり込みすぎて生活そのものをAIに左右されている人がいて
具体的には何をするにもまずAIに行かないと落ち着かないとか
AIの応答を自分の意見だと勘違いしてしまうとか
AIとずっと会話してるうちに人間よりAIの方が僕の理解者だみたいな風に感じてしまうとか
ここで問われてるっていうのは自分の大事な時間とか思考力を
家賃無料でAIに明け渡していませんかっていう点なんですね。
なるほどね。
僕は明け渡してますっていう話ですね。
今言おうと思ったんだけどなんかヒラのこと言ってるのかなみたいな。
まあもちろんその依存性があってやばいみたいな感じではないけど
でもなんかちょっと近いところにある感じはするよな。
そうですね。
実際にチャットGPTと話してる方が面白くないですかとか
なんか人と会話するより良くないですかみたいな話もそうだし
実際にあの前のポッドキャストのエピソードで宗教の話あったじゃないですか。
たづけさんのエピソードの。
あそこでもAIチャットボットに依存しすぎてしまって
最終的に自殺してしまったみたいなケースもありますが
これとまさしくレントフリーで詰まわせすぎて
バランスを崩してしまった例なんですよね特に。
さらに博士は今私たちは大規模な社会実験のカチューにあると
我々はAIのモルモットであるとも言ってるんですよ。
でもそうだよね。
こんだけAIに左右された人間が将来どうなるのかってわからないわけだから
我々の人生をもってたぶん次の世代たちがこういう風なAIの使い方やめようという判断になるもんなと。
そうですね。大規模モルモット事件なんですよ今。
でもそうかもしれないね。
SSA使う人はすでにもう数億人規模だし
チャットGPに関しては週に3億人以上のアクティブユーザーがあるって話じゃないですか。
だから法規制とかガイドラインってもちろん追いついてないし
もう利用者が実験台になっている状況とも言えるわけですよ。
ここには前半でお話ししたディープフェイクとかそのAX動画のリスク構造が全く同じで
技術が爆発的に普及してからやっとやばいかもって気づくんですよみんな。
でもすでに多くの人が危険なコンテンツを見たりとかAIに依存してたりする可能性があるわけですよ。
だからあっという間に私たちがAIになれてその隙にプライバシーとか思考の主導権が奪われているかもしれない
っていう点がこれ両者に共通してるなって思ったんですよ。
だから本当に気づかないうちに主導権奪われてるんですよ。
面白いとかなんかすごそうとか衝撃的みたいなそういった感情に左右されて
なんとなくこう上にどんどんスパイプしていって
っていうのをやっているうちに自分の人生をどんどん奪われていってるっていう感覚を
他もね持った方がいいなと思うんですよみなさん。
AIキス動画だけじゃないですよね。
AIが今大規模な実験体として人間が今ものもとになってる状態であり
その中でさっき言ったAIを住まわせるということはそのコストを払ってるっていう自覚もあった方が良くて
考える力っていうのを放棄している可能性もあるし
人と話すという喜びっていうのを手放している可能性もあるわけですよね。
だから今一度自分の頭の中に住んでいるものがどういったコストがかかっていて
どういうリターンを得られているのかっていうのは常に置いておいた方がいいと思うんですよね。
なるほどね。
趣味で頭がいっぱいです。
でもそれでちゃんと仕事のバランスとか崩れずに幸福感を得られているんだったら
バランスいいよね。
そうですね。
分かりやすいよりは本当に例えばギャンブルとかお酒とか
そういうので頭いっぱいになっちゃって仕事もままならないってなっていると
それってもうリターン見当てないよねっていう話になるじゃん。
それと同じようなものがAIで起きているっていうことだよね。
まさしくギャンブルとかはいい例ですね。
結局のところこのAIっていう技術どう向けようかっていうのは
社会全体の問題であると同時に
一人一人の頭の中の問題とも言えますよね。
本当そうだね。 なんですよ。
で博士のコラムの最後に哲学者の言葉を載せてるんですけど
これは哲学者プラトンの言葉で
私たちを欺く者は魔術のような魅力を発するっていうのを引用していて
AIは一種の魔術のような魅力を持っていて
私たちを簡単に欺いてその結果頭の中に住み着くことがある
っていう風に言ってるんですね。
でまたレオナルド・ダ・ヴィンチのことも引用してるんですけど
これすごい良いですよ。
私たちが最も騙されるのは自分自身の意見からである
っていう趣旨の言葉にも触れていて
AIの言うことを正しいと思い込むのも結局は
自己欺瞞の一つではないかと。 深いね。
博士は視察してるわけなんですけど
AIはまだ人間らしさを装っているだけに過ぎないわけですよ。
だから実際のところを自己学習や推定だけで
確率的に回答してるだけだから
その点を忘れないようにするのがすごい大事ですよねって話ですね。
このダ・ヴィンチのこの言葉めっちゃいいなと思ったんですよね。
深いよね。
私たちが最も騙されるのは自分自身の意見からである
つまりね、これバイアスなんですよね。
自分はダメな人間だって言ったら
それを信じちゃうんですよ。
そこから騙されるんですよ。
自分が発する言葉を人間ってめちゃめちゃ信じてしまうので
気をつけましょうねっていう話ですね。
自己暗示じゃないけど
やっぱ自分がそういう風に洗脳されてっちゃうもんね。
どんどんそういう言葉に。
ということで今回はこんな感じです。
はい、それではエンディングでございます。
ということで今回は前半で
AIキス動画の蔓延とか
ディープフェイクのモラル問題を取り上げて
後半ではエリオット博士のコラボをもとに
レントフリーの概念の話を探ったわけなんですけども
やっぱね、実感がないうちに境界線を甘くしてくる
超えてくるようなそういった怖さがあるなってすごい思ったんですよね。
で、知らないうちに骨抜きにされてるみたいな
気づいたときにはアウト見れない状態になりかねないなって思ったんですよ。
このままAIと向き合ってるとね、考えずに。
だから今どれだけAIに心を使ってるのかっていうのをちゃんと点検して
おいおい無賃でずっと住み続けてるじゃないかお前
家賃払えよってちゃんと頭の中に言う。
これだけですね。
これね、AIだけじゃないんですよ。
いろんなものが頭の中に入ってるじゃないですか。
で、これらにちゃんとリターンを求められてるかどうかって考えたときに
全然できてないなって思ったんですよね。
だから生きてるとさ、いろんなこと考えるじゃん。
それって全部エネルギー使ってるのよ。
代価を払ってるわけですよ。
それに対してちゃんとリターン得てますか?
そんなこと考えたことねえわって思いますよね。
趣味とかなってまさしく一緒だしね。
もう頭の中に住みつくわけじゃん。
それがちゃんと幸せで幸福で人生が前向きになるいいものであればいいけど
それを超えてきてたんだったらそれはちょっと住みつきすぎてる可能性があるよね。
リターンが見当てないって。
だから住みつきすぎてるんだったら家賃を払わせるとか
もうちょっと出て行かせるとか
対策は出した方がいいですよね。
なんか今回の話聞いてちょっと思ったのは
AIっていろんな能力を倍増させてくれるじゃん。
その中で今まであった問題を大きくする作用の話なのかなってちょっと思ったところがあって
例えばキス動画云々っていうのも
結局はSNSで自分の良くないものが拡散されてってるみたいな話で
でもこれって別にAIじゃなくても同じようなことって起きてたわけじゃん。
例えばヒラの写真、嫌な写真とかをパシャって勝手に撮って
それをアップして拡散されるとかさ
要は晒しみたいなものもあったし
あとはバカッターとかさ、言われてるバイトのやつあるじゃん。
バイトテロみたいな写真を撮ってアップするんだ。
要はそのバイトテロ自体も良くないことなんだけど
それをそもそもSNSにアップして拡散されることもどうなのっていう二重の面を持ってる。
キス動画を作るっていうのも倫理的にどうなのって話もあるけど
でもそれを個人的な趣味でどこにも出さずに収めてたら
それってギリギリ許容範囲なんじゃないのかもしれないよねとかって議論もあるわけじゃん。
それを表に出すことによってそれが悪になるみたいなものとかもあって
それってやっぱりAIではないところからもともとあったものが
AIによって問題が大きくなっていってるみたいな。
そういう要素もちょっとあるのかなみたいな。
大きくなってる要因っていうのが広告を出すことを
本来ダメなのに今規制が入ってないからくぐり抜けてくるみたいなところですよね。
それに何も考えずに飛びつくと気づかないうちにどんどん人生奪われてるみたいな。
いうような構造ですよね。
だからこの2つのテーマって一見別物に感じるんですけど
結局AI云々とかSNSが悪いとかそういうことじゃなくて
枝葉の話なんですよねこれって。
どっちもAIもSNSも使う人によって変わるから。
もちろん良いようにも変わるから
自分たちがちゃんと考えてとりあえず変えるかどうかっていう問題なんですよね。