AIクローン音声の危険性
こんばんは、おやこITノートのハルです。このラジオでは、子育てに関する親子で知っておきたいIT・ディテランシー情報をお届けしています。
夏休みに入って、子どもたちが家にいましたので、たくさん遊んで、なかなかラジオを更新する時間もなかったんですけれども、
宮崎県の方は、小学校は学校が始まりまして、本日から学校に行きました。
なので、ラジオも再開できるかなと思いますので、また話をしていきたいと思います。
本日は、AIクローン音声についてお話しさせていただきます。
AIクローン音声というのは、聞いたことがありますでしょうか?どういうものでしょうか?
簡単に説明すると、声をそっくりに真似する技術です。
例えば、SNSなどで取得したお子さんの声を録音して、AIに学習させると、お子さんの声そっくりの音声を作り出すことができます。
この元々の音声というのは、数秒間の声でもそっくりの声を作り出すことができるんですね。
この技術、最近はものすごい勢いで進化していて、誰でも簡単に高品質なクローン音声を作れるようになりました。
このクローン音声を利用して、海外で偽の誘拐詐欺事件が発生しています。
発生していて、同様の事件が広がってきています。
今後、日本でも増えてくるかもしれませんので、本日は事例を紹介したいと思っています。
まず事例としては、昨年、2023年です。
アメリカで娘さんの声を真似たAIクローン音声で母親を騙して、ミルシロ菌を要求する事件がありました。
この母親は、たまたま周りに友人やいろんな方がいらっしゃったので、手分けしていろんなところに電話をしたようなんですね。
例えば娘さんだったり警察だったり、いろんなところにすぐに連絡をすることができたので、
騙されずに、すぐに偽の誘拐事件だと分かって大丈夫だったようなんですけれども、
もし一人で電話を受けたと思ったらどうでしょうか。
電話口から、ママ助けてというようなお子さんの声がするとパニックになってしまいますよね。
なので、こういう誘拐事件、日本でも起こる可能性があります。
誘拐事件だけではなくて、日本で起こる可能性というのが発生するのではないかなという可能性の事件というのが、
まずは高齢者への詐欺電話です。オレオレ詐欺と呼ばれるものですね。
普段家族と頻繁に連絡して、いつもなら騙されないような高齢者の方でも、
詐欺への対策
AIのクローン音声を使われると、逆に騙されてしまうのではないかと思います。
完全にお子さんの声で話を聞くと、騙されてしまうのかなと思います。
またですね、高齢者はこのようなAIクローン音声というものの存在について知らないことが多いと思いますので、
ぜひご自身のご両親ですとか、身近な高齢者の方がいましたらぜひ伝えて、
事前に対策を取っておく必要があると思いますので、ぜひ伝えてあげてください。
次にですね、家族の緊急事態を装った詐欺電話も増えてくるのではないかなと思います。
例えば、オレオレ詐欺に似ているんですけれども、息子さんの声を真似た電話で、
車で事故を起こしてしまって、自宅勤を払わないといけないのですぐにお金が欲しいとか、
そういうような緊急事態を装った詐欺電話です。
こういうものも高齢者に限らず、やはり他人事ではないな、騙されるかもしれないなというふうに
ちょっと意識しておくことがとても大事かなと思います。
身近で覚えられる問題なので、ぜひ気をつけてください。
そして最後に、先ほどアメリカの事例、事件の事例をお伝えしましたけれども、
小さい子どもの誘拐を装った詐欺電話、これももしかしたら日本でも発生するかもしれません。
親を標的にしてAIクローン音声を使い、子どもの誘拐を装います。
子どもとそっくりな声だとパニックになりますよね。
なかなか冷静な判断というか、できなくなると思いますので、そこを狙っていきます。
すぐにバレてしまうような見ろしの金の要求よりも、
おそらくスマホをつないだままATMに行かせて、ATMを操作させるというような手口が多くなることが予想されます。
こういうお子さんの声、絶対パニックになってしまいますので、
お子さんといろんな約束ごと、誘拐をされないような教育というのと、
もし誘拐された場合というのも、シミュレーションをして、
どういうふうにしたらいいかというのをお伝えしていた方がいいかもしれないですね。
もしクローン音声とか、詐欺事件に引っかかったときに、
お子さんと助けを求めるための暗号のようなものを作っておくと、
本当に自分の子供だなということが分かるような状態になるのかなと思いますので、
そういう工夫もしていく必要があるのかなと思います。
海外では実際発展しているAI音声を利用した誘拐詐欺事件を紹介いたしました。
海外はやはり日本よりもAIをとてもよく使っていますので、
こういう詐欺事件が広がってきているんですけれども、
おそらく日本もちょっと時間が後からにはなるかもしれないんですが、
必ずこういう詐欺事件が起こってくると思います。
自分のお子さんの声で誘拐されるような電話がかかってきたら、
騙されない自信がありますでしょうか。
こういう事例があるということを知っているだけでも違うかなと思いますので、
ぜひ検索して、どういう事件なのかなというのも調べてみると、
とても勉強になるのかなと思います。
ぜひ参考にしてください。
次回はグッドナイトでお会いしましょう。
それでは、明日も良い1日をありがとうございました。
