00:00
オカルトパラダイス。パーソナリティの Nao です。
今日、ちょっと考えたいのが、 証拠が証拠じゃなくなる日が来るんじゃないかっていう話。
例えばさ、誰かと揉めたとするじゃん。 そんなこと言ってない。いや、言った。言ってないって。
じゃあ録音聞くって言われたら、これ強いじゃん。 だって本人の声入ってるんだもん。
じゃあ動画だったら? もっと強い。
顔も映ってる。声も本人。 今まで私たちって、証拠があるっていう言葉に、かなり強い力を持たせてきたと思うんだよね。
写真がある。録音がある。 防犯カメラに映ってる。動画が残ってる。
じゃあ本当じゃんって。でもちょっと待って。 その全部が作れるようになったら。
今日は、AIってすごいよねって話じゃなくて、 何を見せられたら私たちは本当だと判断できるんだろうっていう話をしたい。
昔から100分は一見にしかずって言うじゃん。 人から100回聞くより、自分の目で見た方が確か。
でも今って、自分の目で見ても確かじゃない可能性がある。 写真は加工できる。声も作れる。動画も作れる。
ここまでは、まあ知ってるよって人も多いと思う。 ディープフェイクね。怖いね。って終わりそうなんだけど、
私が今回気になったのは、その先なんですよ。 2024年、香港で実際に起きた事件。
ある会社員のところにイギリス本社のCFO、つまり財務責任者を名乗る人物から 機密性の高い取引を進めたいという内容のメールが届く。
でもこの会社員、最初はこれ詐欺じゃないって疑ったんです。 最初からホイホイと信じたわけじゃない。
ちゃんと怪しいと思った。 ところがその後グループでのビデオ会議に参加することになる。
画面には会社のCFO、さらに他の会社関係者たちも写ってる。
顔も声も知ってる。いつもの会社の人たちが画面の中にいるように見える。 これ信じない?
メールだけだったら、いやー怪しいなーって止まれるかもしれない。
でも本人の顔まで見た。声も聞いた。会社の人たちもいるって。 そうなったら本物なんだって思わない?
03:07
で、このビデオ会議をきっかけに会社員は、これは本当に会社の取引なんだって信用しちゃうんだよね。
その後送金の指示に従って複数の口座への送金を承認した。
ところがビデオ会議に映っていたCFOや会社関係者たちは本物ではなかった。
香港警察によるとネット上などで公開されていた本人たちの映像や音声を使って作られた事前収録のディープフェイク映像だったとみられてるんだって。
つまりこの会社員は本人たちを確認できたって思ってたんだけど、その確認そのものが偽物だったってことなんだよね。
そして結果的に5つの銀行口座へ合計15回、約2億香港ドル、当時の米ドル換算で約2500万ドル規模を送信してしまった。
これさ、もちろん金額もやばいんだけど、一番怖いって思ったのはそこじゃないんだよね。
この人、最初は疑ってるんだよね。怪しいと思った。だからちゃんと確認してるんだよ。
それで本物だって判断したのに。
なのにその確認自体が偽物だったってことなんだよね。
これ、騙された人が無用心だったっていう話だけでは片付けられないと思うんだよね。
だって、私たちが普段やってる怪しいから本人に確認するっていう行動をちゃんとやってるから。
それでもダメだった。
じゃあこれからの本人確認って何?
もう一つ、実際に起きた事件があるんだけど、
2024年、アメリカの高校で校長先生が人種差別的な発言などをしているように聞こえる音声がSNSで拡散されました。
まあ当然問題になる。だって校長先生本人の声に聞こえるから。
ところが警察の捜査では、学校に勤務していた男性職員がAIを使って校長先生の声を模倣し、偽の音声を作ったとされた。
つまり、校長先生が実際には言っていないことを本人が喋っているように聞こえる音声が作られたってことなんだよね。
これもさ、昔だったら録音残ってるじゃんで終わった話なんだよね。
でも今は録音があること自体が決定打にならない。
06:01
ここまでの二つの事件ってやってることは違うけど共通してることがある。
存在しないものを証拠として作れてしまうってこと。
香港ではそこにいない人たちがそこにいるように見えた。
アメリカでは言っていないことが本人の声で言ったように聞こえた。
でもさ、今回このテーマを調べてて私が本当に怖いって思ったのは、実はこっちじゃなかったんだよね。
ここから話が逆になるんですよ。
ここまでは偽物を本物に見せられるっていう話。
でもディープフェイクにはもう一つややこしい問題がある。
それがライヤーズディビデント。直訳すると嘘つきの配当みたいな意味なんだけど。
これ何かっていうとディープフェイクが存在することで、今度は逆に本物の証拠まで
それAIでしょって否定できるようになるっていう問題なんだよね。
これ何かというとディープフェイクが存在することで、今度は逆に本物の証拠まで
それAIでしょって否定できるようになるっていう問題なんだよね。
つまりディープフェイクって嘘を本当に見せる技術だけじゃない。
存在するだけで本当のものまで疑える世界を作ってしまうってことなんだよね。
でね、これ実際に15000人以上を対象にした研究も行われてるの。
細かい実験方法は置いといて、そこで分かったことを簡単に言うと
本当に起きた出来事でも当事者がそれAIで作られたフェイクだぜって否定すると
あれ?じゃあ本当じゃないのかもって考える人が実際に出てくる。
ここで重要なのって本当にディープフェイクだったかどうかじゃないんだよね。
ディープフェイクかもしれないっていう選択肢が私たちの頭の中にできちゃったことなんだよね。
昔だったら動画を見せられたりさ、録音聞かされたりしたら
あ、映ってる、言ってるみたいな感じだったでしょ?
でも今はもう一つ選択肢が出てくる。
これAIかもしれないよねって。
ここまで香港の会社とかアメリカの学校とかちょっと遠い話をしてきたけど
これを自分たちの生活まで持ってきたらどうなるんだろう?
例えばさ、家族から突然さ、今すぐお金貸してとか連絡きたりね。
子供の声で助けてとかって電話きたりさ。
09:04
恋人から今ここにいるよとかって動画送られてきたりしたらさ
じゃあビデオ通話なら信用する?
香港の事件ではその顔を見て確認するっていうところまで偽物だった。
逆もあるよね。
例えば自分の彼氏が浮気してるように見える動画が送られてきた。
もちろん顔も本人だし声も本人。どう見ても本人。
でもさ、彼氏が
いやこれAIだよ、俺じゃないよっていう。
だけど本当に浮気してるかもしれないし。
さらに逆を言うとさ、自分が絶対に言ってないことを自分の声で喋ってる音声が出回った。
友達が聞く、家族が聞く、会社の人が聞く。
自分は違う違う私じゃないって言う。
でも周りは、いやあんたの声じゃんって言う。
それさ、どうやって説明するって。
私じゃない証拠って何?
そしてさらに本当に自分が言ったのに、それAIだよって。
嘘をつくことだってできる。
もうどっちもあるんだよね。
偽物なのに本物だって思われるとか、本物なのに偽物だって言えたりとかさ。
今までだったら、証拠が出たらそこで決着だった。
でもこれからは、証拠が出ても
まず、その証拠が本物かどうかを疑わなきゃいけない。
つまり、証拠が答えじゃなくなっちゃうんだよね。
これ、結構大きな変化じゃない?
写真があります。動画があります。
本人の声も顔も写ってます。
今までだったら、じゃあ間違いないねーだった。
でもこれからは、全部揃ってても最後にこう聞かれる。
で、それが本物だってどうやって証明するの?って。
ちょっと待って。
証拠ってなんだっけ?
昔は人から聞いた話より写真、写真より動画。
動画に声まで入っていたらかなり強い証拠だった。
だから100分は一見にしかずだった。
これからは100回聞いてもわかんない。
一回見てもわかんない。
じゃあ最後に何が残るんだろう?
この人を信じる。なのかな?
でもそれって、証拠がなかった時代に戻ってない?
私たちはこれから、嘘を見抜く時代に入るんじゃないのかもしれない。
12:00
むしろ逆で、本当のものを本当だと証明しなきゃいけない時代に入るのかもしれない。
今日はそんな感じで終わりにしたいと思います。
ここまでご視聴ありがとうございます。
また次回お会いしましょう。バイバイ。