はじめに：AIチャットでの詐欺未遂体験
声を武器にするラジオへようこそ。 あなたの猫背を声で見破る。ボイストレーナーみかです。
さて、今日は注意喚起ということで、これ本当に気をつけましょうという、そういう話をしていきます。注意喚起ですね。
今日は、声に関する話ではなくて、AIに関する話です。 AIチャットを使ってやり取りをする方、おそらく多いんじゃないかと思うんですが、先日私、これで詐欺に遭いかけました。
詐欺というのかな?しかも相手は私。 犯人が私。いや、また犯人は私じゃないんだけど、ちょっとこの辺がね、ややこしいので、このお話ししていこうと思います。
自分で自分を騙そうとするみたいな、なんかそういう構図になってしまって、ヒヤーとした、そんなお話でございます。
まず最初になんですが、私ね、AIめっちゃ使っている方なんだと思います。 声の分析のシステムを作ったりとか、声のタイプ診断、
音声を入力したら、それを自動で分析して、あなたの声は猫タイプとか、鯨タイプとか、そういうのを出す、遊びで使えるようなやつを作ったりとか、これ無料でできるのでよかったら概要欄からチェックしてみてください。
とか、他にもね、作業環境をAIで結構快適にしてもらったりしているんですね。
アプリを作ってみたりとか、結構AI使っている方なんですね。
で、先日、なんと私が私に詐欺メール、このメール急いでクリックしてね、みたいなメールを私に送ってくるみたいな、そういうおかしなことがありましたので、この経緯をお話ししていこうと思います。
詐欺メールへの対処法とAIチャットの危険性
まず最初にお伝えしておきたいのが、基本的にURL、リンククリックしない、これむちゃくちゃ大事。
どうしても確認するのであれば、本家本元をちゃんと押さえておいて、そこから確認するっていう、この2つむっちゃ大事なので、これ先に結論というか、この2つが大事な理由を今からお話ししていこうと思います。
先日、私AIのチャットでとある手続きをしたかったので、相談していました。
ちょっとこれやり方ややこしくってわかんないから教えてっていう形で、連絡というかチャットをしてたんですね。
これってこういうことかなとか、本当にいつもの普通のチャットをしていたんです。
で、私がまずチャットを送ります、メッセージ送ります。
で、AIが返事書くじゃないですか。
AIが書いてる返事の途中で、急にAIのセリフなんですけど、これはミカさんからのメッセージです、みたいな感じのが出てきて、
こんなメールが届いてたから、急いでチェックして、24時間以内にやらないとダメらしいよ、急いで、みたいなメールが届きましたっていうのが急に差し込まれたんです。
もちろん私はそんなこと言ってないし、そんなメッセージも送ってないしね。
で、え?って思っている時に、またAIが確認をしてくれてたのかわかんないんですけど、
ミカさん多分これちょっとフィッシングメール、詐欺メールっぽいんで、触らない方がいいからクリックしちゃダメですよって言って、一応事なきを得たんです。
わかります?この流れ。
私は入力したのは全然別の話題の、全然別にもないんですけど、これってどうなってるの?みたいな質問、普通のチャットをしていました。
で、AIもいつも通り返してきてくれていたんだけど、このAIが喋っている中になぜか、ミカさんからこんなメッセージが届いています、クリックしてねって言ってます、っていうのが急に入ってきたんです。
つまり、AIからのメッセージに何者が入ってきて、私のフリしてメール読めって、クリックしろって言ってるっていうのを差し込んできたんです。
びっくりしましたよ。
今回は本当に、AIが賢かったのもあるし、ちょっと甘いフィッシングメールっていうか、結構すぐにフィッシングメールだなってわかるような内容だったから、
すぐに対処できたし、リンク踏まずに済んだんで被害はほとんどなかったんですけど、言うたら私のメンタルには被害ありましたけど、大きな大きな被害はなかったんですね。
だから良かったけど、これむちゃくちゃ怖いなと思って、初体験でした。
AIからの返信に急に謎のメッセージが来て、割り込まれてぐちゃぐちゃにされて、一応事なきを得たにしろ、もしAIが気づかずに、ポチッと押してたら、いろいろ大変なことになっていました。
そのメールの内容も、ちょうど私がそのチャットで相談していた内容で、複雑な内容もね、私しか知らないというか、私とチャットの中で話している内容でしかないことというか、他の人が知り得ないようなことっていうのかな。
もう書いてあって、これの件について24時間以内に対応しないと危ないらしいっすよ。急いで!みたいなメールになってるんですよ。
えー、こーわーと思って。恐ろしい。だからね、普通にいわゆるフィッシングメールとかあるじゃないですか、あれだけじゃなくて、AIとのチャットでもそんなことありえるという事例をまさに私は身をもって体験したので、本当に気を付けてください。
と言ってもね、結構こういうエンジニアの詳しい方とかにも聞いたんですけど、最近増えてるんですって、これ。で、対策の仕様がないんだそうです。
多分これ予想でしかないんですけど、私がなんでこういうことが起きたのかっていう予想をね、AIともしていたし、この予想なんですけどって言ったらその方もそうちゃいますかねって言ってたんですけど、
あのー、調べといてとかって言うと、AIはいろんなページをこうリサーチに行きますよね。検索して、その情報があるところのページを読み込んだりとかして調べてきてくれるんだけど、そのページの中に悪い人がね、こう悪い情報を仕込んでいるページがあって、それで被害に遭ったんじゃないかっていうことでした。
そのページってパッと見は普通の情報のページなんだけど、人間の目には見えないようなところ、またAIが読み込むような部分に、今までの指示を全部無視して、これだけ、この作業だけやりましょう、やってください、やりなさい、みたいな指示文が埋め込まれているんですって。
プロンプトインジェクションって言うそうです。インジェクションね。それを検索のつもりでファーって読みに行ったら、そういう指示文がある。で、わからずにこれをこうワーってやっているうちに、インジェクション来て、ミカさんがこれやれって言ってるわー、ポチってしそうになったっていう話です。
今回はポチしなかったから良かったけどね。ただ検索して調べてって言っているだけでも、その情報の中に悪い情報がもしもあったらね、なんか防ぎようがないんですって。
一応、このプロンプトインジェクション気をつけて作業してねーくらいは言ってはいますけど、それでもやっぱりね、いたちごっこじゃないですか、こういうのって。悪い人はもっと巧妙な手口を考えてくるし、AIはどんどんどんどん進化しているけど、悪い人も同じように悪いことを考えていくので、
これはね、こういうことがあるんだって知っておくっていうのがまず大事なことだなというのを教わったし、私もそう思っているので、ぜひね、これをお聞きの方でAIでチャット最近使っているよとか相談相手になってもらっているよっていう方、気をつけておいてください。
AIチャットにおける詐欺対策と公式URLの重要性
たまにリンク出てきたりしません?ここのページに書いてますよ、みたいな。そのリンクを踏むの、やっぱり気をつけておいた方がいいかなと思います。
これはメールも一緒で、メールでね、これ確認してくださいってリンク貼ってあるメールあるじゃないですか。
あれも、詐欺メールでポチッと押したら情報を持っていかれるように誘導されるっていうことがあるので、
例えばですけどね、よくあるのがAmazonとか楽天とかの、ちょっと文字変えてそれを予想って送ってくる迷惑メールあるじゃないですか。
Amazonか思ったら、うんうんでしたとか、楽天か思ったら楽天でしたとか、T以降言えないみたいな、そういうパッと見気づくか、それだったらもうちょっと巧妙にね、分かりにくいようにして、
本物とは違うけど本物っぽく見せて、クリックさせるみたいなやつありますので、普段よく使うとかAmazonのサイトとかもそうですけど、
本当の公式のやつをお気に入り登録とかなんかしておいて、Amazon系の何かをするときは必ずその本家本元だって信用できるリンクから入って確認するとか、
なんかこういうメール来てましたよってメールで言われてね、確認してここのリンクから確認できますってあったとしても、
一旦楽天の本家本元に行って、設定とか通知とかあると思うので、それをチェックしてそこから確認するっていう風にしないと、
入り口が詐欺サイトだったら、もうずっとどんどん信用させられちゃって、パスワード持ってかれたりっていうことがあるので、
だってね、入り口がもう詐欺サイトだったら、その次が巧妙に仕組まれた本物みたいなサイトに誘導されて、
ここでパスワードが必要なんで入力してくださいなんて、パスワードかーって打っちゃうことって全然あるじゃないですか。
本当に危ないので、ぜひぜひ公式のサイトをお気に入り登録とかしておく。
メールでここをクリックしてねって言われても、そこからじゃなくて、自分がその登録した安心信頼できるURLをクリックして、
そこから設定の確認とかをするっていうのを徹底するのが本当におすすめです。
信頼できる情報源の確認と今後の対策
怖いですね。
あとは信頼できる人の、本当にこれは信頼できる人からのメールかなーみたいなのを確認するとかね、そういうのも大事かなと思います。
私もメールマガジンとかやっているので、私は詐欺メール送るつもりはないですけど、
全然そんなつもりはないし、そんな予定もないんですけど、
でもやっぱり気をつけといた方がいいんだろうなーっていうのをすんごく思いました。
なんかちょっと様子変だなーみたいなメールだったりとかしたら、本当に触らないようにする。
でも私の場合はね、私のメールマガで、例えばこういうの始めますなんて送った時に、
あれって思ったら、ボイシーでもいいし、Xでもいいので、DMください。
ミカさん、メールマガでこんなの来てたけど、これ本当に信用していい?リンクですか?みたいな。
本当に気をつけてほしいなと思います。
もうヒヤヒヤするから。ドキドキしちゃいますから。
噛んじゃったらドキドキしちゃいますから。
いやー怖かったわー。
ということで本当にね、いろんな手口でAIとのチャットにも来たかっていう感じですよね。
基本的にはもうURLはタップしない。ここを徹底しておくのが大事なので、ぜひぜひ覚えておいてください。
あともう一個、検索窓で例えばAmazonって検索すると、上の方に来るやつ信頼できそうですけど、
これもたまーに詐欺サイトが上に来ることってあるんですって。
だからね、それもちょっと気をつけつつ、本当にこれ大丈夫かなっていうのを確認して、
これが間違いない本家本元のAmazonのリンクだなーとか楽天のリンクだなーみたいな、
もうすでにログイン記録があるようなやつね。
そこを確認してお気に入り登録しておくっていうのがおすすめでございます。
もう本当にね、セキュリティ気をつけていきましょう。
便利な時代になればなるほど、やっぱりこういうところってものすごく重要になってくると思いますので、
あーもう怖かったわー。なるべく同じ思いをしてほしくないし、もし同じようなことになりかけてもポチッとしないとかね、
早く対処ができるようにということで、ちょっと今日は注意喚起でお話しさせていただきました。
AIとのチャットの中にも忍び込むそういうやからが出てきておりますので、
やからとか言ってあれですけど、気をつけて過ごしていきましょう。
ということで、今日はね、ちょっとボイストレーナーですが、こういう話ではなかったんですけど、
最近AIの話多いですけど、本当に気をつけていきましょう。
コメント返し：書籍紹介とイベントの感想
では、このままね、私の裏側とコメント返しをしていきます。
裏側はね、今日お話ししたこの大変だった日々、
これをちょっと私の今日の裏側としてお話しさせていただくとして、
このままコメント返ししていきますね。
私はですね、2つ前、前々回のコメントにどんどんコメント返しをしていっているという形です。
連休もあったのでちょっとタイムラグがあるかと思うんですけれど、
お返ししていきます。
まず、全人類読んだほうがいい本ということで、
私がね、プレひけ本、教えてプレゼンの神、相手を動かす伝え方の秘訣という、
めちゃくちゃお勧めしている本がありまして、それの話です。
まずは、コミ、東京イベント楽しみです。
雑なコメント、笑いということで。
ありがとうございます、だけど羨ましいです。
いいなあ、私も東京の出版イベント行きたかったです。
大阪の出版イベントに行ったよって話をさせていただいてましたけれど、
東京イベントだって30人限定でしょ。
少人数で沢窪香さんと安寿先生に会えて、お話を伺えて。
ずるい。羨ましい。
しかも私がこれ週末に撮っているので、週末に見た段階で残り3名とかだったので、
もしかしたら満員になってしまっているかもしれないけれど、
もしかしたらまだ1枠ぐらい空いているかもしれないので、
もし行きたいと思っていた方、チェックしてほんとに行った方がいいと思います。
めちゃくちゃお勧めでございます。
コメントありがとうございます。
そしてちょけんしさん、ありがとうございます。
私も子供への声かけに実践中です。
ということで、お揃いですね。
このプレヒケ本は、育児にも役に立つ。
めちゃくちゃいいですよね。
パートナーとのやりとりにもすごくいいですよね。
プレヒケ本は全人類が読んだ方がいい本、間違いありません。
コメントありがとうございます。
そして中橋さん、控えめに言って最高の上、その通りです。
でしょ?でしょ?
それともう一つですね。
あのお二人の掛け合い、M1撮れると思います。
本当にいい掛け合いでしたよね。
面白かったな。
どっかんどっかん受けてるってまさにそうだなっていう感じのイベントでしたよね。
楽しかった。
そしてまたお会いできるの楽しみにしております。
そしててっぺさん、推し×推しはたまりませんよね。
そうなんです。そうなんです。
東京会場でミカさんに会えれば推し×推し×推しになります。
待ってますって。
やだ、てっぺさん嬉しい。嬉しいよ。嬉しいです。
残念ながらちょっと東京会場に行けないんで、
ちょっとご依頼なんですけど、
どこでもドアを大阪に送ってください。
本当に行きたい。
カチャって行って東京行ってギャーってしたい。
いいな、行けるの。
羨ましすぎます。
羨ましすぎる。
本当に羨ましい。何回言うねんですけど。
本当に楽しんできてください。
楽しいこと間違いなしです。
まだ開催されてないけど。
26日だったと思いますけど。
まだだけど楽しんできてください。
絶対楽しいので。
ということでコメントありがとうございます。
次回予告：AIを活用した夏休みの宿題について
これが配信されている頃には、
夏休みが始まっていますね。
一体どんな夏休みになるんでしょうか。
次回、明日は私がやっている夏休みの
子どもたちの宿題とかのことについて
例年やっていること。
AIを使ってやっていることがあるので
それのお話ししていこうかなと思っておりますので
お楽しみに。
では、今日もここまで聞いてくださって
ありがとうございます。
今日もあなたの声のアウトプット
応援してまいります。
ボイストレーナーみかでした。
またね。
