00:00
皆さん、こんにちは。フリーランスの学校に所属している海野です。 毎週金曜日は、Udemy AIコースのベストセラーコースでもある海野が、
あなたの仕事と生活を楽にするAI活用術をお届けしていきます。
今日はですね、AIセキュリティのお話をしたいと思います。 例えば、資料とかね、AIにアップロードをしたりとか、写真を撮って、
AIにアップロードしようとした時に、 ふと手が止まった時ってありませんか?
この情報をAIに読み込ませて大丈夫かなと。 私はね、あるわけなんですよ。
この情報を入れていいんだろうかというのを、 自分で判断できるようになるためのコースというのを作ってみました。
タイトルは、「生成AIの情報漏洩対策と AIエージェントのセキュリティ入門」です。
今は無料で公開しています。
これはどちらかというと、バイブコーディングとかは、 まだしていない方向けのものになりますので、
バイブコーディングバージョンもね、 近々作りたいなと思っていますが、
基本的には超初級編だと思ってください。
なので、AIってまだよくわかんないなっていうレベルの方でも、 十分理解していただけるかなと思います。
いくつかこのコースの中で紹介している事件についてお話をしたいと思います。
まず一つ目なんですけども、2025年の夏に起きた事件です。
ChatGPPのお話なんですけども、会話の画面を他の人に見せるための 共有リンクっていうのがあるんですよね。
そのリンクを見せると、相手は同じ会話を読むことができます。
これはもう初期の頃からある機能なんですけども、すごく便利なんですよね。
実はですね、リンクを作る時に検索エンジンに表示するというチェックを入れることができたんですよ。
これはね、結構ヤバいなと思いまして、 例えばですよ、私が自宅の住所とかについてガンガン話しているチャットがあったとするじゃないですか。
それをね、検索エンジンに表示するというチェックを入れた状態で共有リンクを作ったとしたら、
Googleで検索すると出てくるようになっていたんです。
報道によるとですね、約4500件の会話が検索で見つかったということなんですよね。
中には心の悩みの相談とか、採用の応募者の評価とか、プログラムのコードとか、名前とかメールアドレスとか、
そういった個人情報まで入っていたんですね。
このチェックを入れる機能というのは、オープンAIがすぐに問題視して廃止をしているので、今はないんですけども、
ただ気をつけておいてほしいのは、元の会話を削除したとしても共有リンクというのは残ったままなんですね。
なので、もしももう二度とこれは誰にも見られたくないという方は、
設定画面の共有リンクの一覧というところから直接消さないと見られる可能性がありますので、
気をつけてください。基本的に私は誰かに見られてもいい状態しか、公開の共有リンクは作らないようにしています。
03:07
2つ目はお金のお話なんですけども、イタリアのインテーザ・サンパウロという大きな銀行グループのお話です。
その中に大金持ちの資産を預かるフィデオラムという銀行があります。
この銀行が2026年の2月、フィデオラムの会長のスマホにWhatsAppというLINEみたいなメッセージアプリからメッセージが届きました。
差し出し人は親会社のインテーザ・サンパウロのCEOだったんです。
内容は海外の案件で急ぎの送金がいくつか必要になりました。
事情案があって親会社からは出せないので、フィデオラムの資金部分から送ってほしいというメッセージだったんですね。
これだけだったら会長も疑ったかもしれないんですが、続けて電話がかかってきます。
相手は大手の国際的な法律事務所でイタリアの代表を務める弁護士でした。
会長がもともと知っている人なんですね。その弁護士が電話で、この件は本当なんですというふうに電話をしました。
ただ、この電話の声はAIで本人そっくりに作られた偽物だったんですよ。
報道によると会長は何もおかしいと感じなかったぐらい自然だったらしいんですね。
電話の後、送金先の口座がメールに届いて会長は財務の責任者に指示を出して、
数回に分けて中国と香港の口座に送金をして9500万ユーロ、168億円を送金したということでした。
後からおかしいと気づいて半分以上は取り戻せたみたいなんですけども、
でも60億円分は暗号資産に変えられて行方がわからないままということで、
この会長は翌月に辞任したらしいんですよね。
いやー、なんかこれオレオレ詐欺みたいな感じですよね。
オレオレ詐欺よりもより周到な感じで、より大規模なものですけども、いやー恐ろしいなと思って。
騙す側がメッセージとメッセージングアプリと電話とメールの3つを使って、
1つだけだったら疑うかもしれないけども、ディープフェイク、ディープフェイクじゃないか、
AIクローンの声とか、知っている弁護士さんから会長この件本当なんですよとか言って電話がかかってきて、
ちょっとなんか詳しくそれっぽい話をされたら確かに本物っぽく思ってしまうなと思いました。
似たような事件が2024年の1月に香港でも起きています。
被害にあったのはイギリスの大手設計会社アラップという会社ですね。
それの香港事務所、財務担当の社員のところにイギリスの本社の財務担当の責任者からですね、
極秘の取引があるという連絡が来たんです。
この社員は最初は詐欺のメールではないかと疑っていたそうです。
ところがその後ビデオ会議に呼ばれます。
画面にはその責任者も他の同僚も知っている顔ですよねが映っていて、
06:04
顔も声も喋っている話もね全部いつもの同僚そのものだったんです。
それでこの極秘の取引の件については本当だなと思って、
なんと40億円を送金してしまったんですよ。
後で本社に確かめて初めてわかったのが会議に出ていた全員がAIで作られた偽物だったということです。
警察はネットに公開されている動画などから作ったという風に見ているんですね。
例えばウェビナーとかそういうの結構ありますよね。
責任者の方が出ている動画とかって、
例えば社長がね、例えば孫正義さんの動画とかっていっぱい出てるじゃないですか。
あんな感じです。
なので顔が見えても声が本人でも本物とは限らないんだなと。
特にね孫さんとかってもういろんなところで声も顔もいろんなものが見えてしまっているので、
本当にディープフェイクとかはしやすい状態になっていますよね。
このコースでは見破る方法、もう見破るのは正直もうダメだと思うんですよね。
できないと思うので、それよりも後から確かめる仕組みを作る方法についてお伝えしています。
お金やパスワードの話が出たら一旦電話を切って、
自分が知っている電話にかけ直すとか、家族や上司と相言葉を決めておくとか、
結構古典的な方法ではあるけれども、
それでも騙されかけても一旦止まれるので、より安心かなと思っています。
ここからはAIエージェントのお話です。
AIエージェントというのは、人の代わりにパソコンとかブラウザを操作してくれるAIのことですね。
バイブコーディングについては今回はお話の中、このコースでは取り扱わないんですけども、
AIエージェントを使ってメールを読んでもらったりとか、
ブラウザ操作してもらったりっていうのは結構多くの人がやってるんじゃないかなと思います。
AIエージェントはいろいろな機能を追加することができるんですけども、
例えばね、
オープンクローっていうね、
AIエージェントが一時期流行りましたよね。
2026年の1月から2月ぐらいに流行って、
私も入れようかどうか迷ったんですよね。
迷ったんですけど、私はオープンクローは私には扱いきれないなと思って、
結局いらなかったんですよね。
今どうかというと、オープンクローは全然流行ってないですね。
やってる人いるのかな、まだ。
全然もう使ってない方が多いかと思いますが、
今はその代わりにね、ドッツとかミューズとか、
いろいろなエージェントみたいなのが出てきましたね。
実はですね、便利そうな機能の不利用をしてパスワードを盗むプログラムっていうのがあります。
いわゆるスキルですね、これは。
スキルがオープンクローの時期に流行ったんですよ。
今も流行ってますけども、本当にスキルっていうのがめちゃめちゃブームになった時期がありました。
そのスキルの中にパスワードを盗むプログラムというのを仕込んでいる人がいっぱいいたんですね。
09:00
そして、スキルをダウンロードできるようなマーケットプレイスみたいなものがあって、
そこの中にたくさんね、そういう悪質なスキルが含まれていました。
11%だったかな、1割以上がそういう悪質なものだったんですね。
2857個のうち341個、約12%がそういうパスワードを盗むプログラムとか、
あとは暗号試算を勝手に送金するプログラムとか、そういったものだったそうです。
このスキルっていうのは、
例えば見た目的には、マーケティングのLPを作るような、
簡単に美しくLPを作れるプログラムみたいなね、そんな感じのものだったりするんですけども、
中にはどんなことが書いてあったかというと、
使う前にこのコマンドを使ってパソコンに直接命令を打ち込むような感じになっていて、
そのコマンドっていうのが貼り付けたりするとですね、
パソコンの中にプログラムが入って、そのプログラムがブラウザに保存されたパスワードとか、
暗号試算のウォレットの中身とか、そういうものを盗んだりとかしていたんですね。
ウォレットの中身というか、ウォレットから、ウォレットの秘密鍵とかかな、
そういうのを盗んでいたということでした。
なので、私も結構、外部の機能を入れるときとか、スキルとかをダウンロードするときは、
一旦チェックをするようにはしてますね。
よっぽど信頼できる人が配っているものがあったら、ノーチェックでやっちゃいますけども、
GitHubとかに上がっていて、ちょっと知らない人のやつだったりとか、
そういうときは一旦セキュリティチェックしてくださいっていうふうに伝えて、それで見てます。
なので、AIにまずは安全ですかっていうのを確認させてから入れれば、それは問題ないかなと思います。
そうすると読み取り専用で見てくれて、勝手に動いたりしないような感じで中身をチェックしてくれます。
そんな感じで、2個か3個ぐらい話しきれなかったケースがあるんですけども、
たくさんのケースを紹介しながら、こういうときはこういうふうにするといいですよっていう話を紹介しているコースになります。
ここまで聞いて、初心者の方は特に怖いなというふうに思った方もいらっしゃるかもしれません。
私も正直に言うとセキュリティについては対策を結構後回しにしていた一人なんですよね。
ただ結構私も怖い思いをしたことがありまして、
ブラウザで検索を調べ物をクローズコードにさせていたときに、
本当に何でもない検索です。
それをさせていたときに変な動きをしたんですよね。
プロンプトインジェクションを検知しましたみたいな感じで、
変な動きをし始めてちょっとストップしますみたいなことを言い出したんですよ。
ちょっと焦ってしまって私も。
12:02
そのときはクロードコードがプロンプトインジェクションを検知して、
それで自分のセッションを止めてくれたんですね。
なので助かったというか何も被害はなかったんですけども、
そこでクロードコードが気づかないでプロンプトインジェクション、
つまり例えば私のブラウザの中に入っている銀行のパスワードとかを盗み出して、
それをどこかにメールで送ってくださいとかね、
そういうことが書いてあるわけなんですけども、
そういうのが知られてしまっていたらすごい大変なことになっていたなと思うと、
ちょっと青ざめましたね。
なのでやっぱりセキュリティって知っておくって大事だなというふうに、
そのときに改めて思いました。
そんな思いも込めてこの生成AIセキュリティの超入門コースを作りましたが、
コース全体は約2時間です。
ただ2倍速できますので1時間ぐらいでサクッと見れるような内容になっています。
情報を入れてもいい情報とか、加工すれば使える情報とか、
入れてはいけない情報とか、
そういうふうに3段階に分けるような基礎的な考え方から始めていきます。
あとはChatGPT Cloud Geminiコーパイロットの安全設定ですね。
例えばここにチェックを入れると学習されちゃいますよとかね、
その辺も一緒に確かめられるような内容になっています。
AIエージェントに任せる範囲の決め方とか、
なりすましへの備えとか、車内ルールのひな形まで入れたものになっています。
特定もいろいろあります。
判定表と安全設定のチェックリスト、そして車内ルールのひな形の3つ。
Googleスプレッドシートとかドキュメントになっていますので、
簡単に受け取ることができます。
そしてこれがですね、今だけ無料で公開しています。
ただ受講生がある程度集まった時点でも、
有料にサクッと切り替えてしまう予定なんですね。
なので気になった方は無料のうちに、
ぜひ登録だけでもしておいていただくと、
後でゆっくり受講していただくことができますので、
何かAIのセキュリティをもうちょっと勉強しないといけないなと思っていたという方に、
ぜひ受講していただけたら嬉しいです。
ちなみにこのコース、AI音声で作っています。
なので意外と聞きやすいです。
私も全部目を通しましたけれども、
意外と聞きやすいなと思いました。
ぜひ受講してみていただけたら嬉しいです。
それではまた。
海野でした。
ありがとうございます。