00:05
はい、みなさんおはようございます。AI動画マーケターのイシタカです。
最近ですね、AI系のYouTubeとか見てると、プロンプトを無料でLINEに登録したらプレゼントします、みたいなのね、ずっと流行ってたじゃないですか。
LINEに登録したりとかすると高額な商品とかね、セミナーみたいなのにお誘いがあったりとかするっていう、そういうマーケティングなんですけど、
そのプロンプトを受け取ったこともある方もいらっしゃると思うんですけど、最近はですね、そのプロンプトがAIスキルに変わってきてるんですよね。
みなさんこれ聞いてる方で、AIを結構触っている方で、AIエージェントを使ってらっしゃる方は、特に気をつけて欲しいんですけど、
このスキル、例えばYouTubeとかで見てると、こんな便利なスキルいいなと思ってね、欲しいなと思って、
安易にそのスキルをね、AIにぶち込んじゃうとね、とんでもないことになることがあるので、これをですね、十分気をつけてもらいたいというね、そういうセキュリティのお話を今日していきたいと思います。
僕もね、AIを使って仕事しているので、こういう情報っていうのはすごく目にするんですよ。
公式LINEに登録すると、この便利なAIスキルをプレゼントします、みたいなね。
もちろんね、便利なスキルっていうのもたくさんあるし、いろんなノートとかね、あとTipsとかBrainとかでね、そういうAIスキルなんかを販売しているっていうのも見かけたりするんですけど、
それだとね、LINE登録したら無料だから、無料でね、ダウンロードしてっていう風に考える人もいると思うんですけども、
別にこれ無料とか有料っていうのが怖いわけじゃなくって、これがですね、本当に怖い話なので気をつけてもらいたいと思います。
このAIスキルって何なのかっていうと、ただのテキストなんですよね。
それがダウンロードして、パソコンに保存されて、ただの文章なんですけど、
ただダウンロードしただけでは、もうただのテキストファイルなので何にも悪いことしないんですけど、これがですね、AIがやらなきゃいけないルールというか、
AIがこういう風に動きなさいよっていう、その指示書になっているっていうことが怖いんですよ。
これね、どういうことかお分かりになるでしょうかね。
例えばウイルスが仕込まれていたら、セキュリティとかで、ウイルス検知とかで引っかかって弾かれたいっていうこともあったりとか、
あとはね、怪しいアプリとか、リンクが付いているメールとかね、そういったとこ開かないっていうのは皆さんもされていると思うんですけども、
03:10
このスキルってただのテキストファイルなんで、何にもね、今までだったら無害だったんですよ。
で、でもね、ある研究では、特定の条件下では、AIに不正な指示を実行させることに90%の確率で成功したという結果も出ているぐらい、
今までは脅威じゃなかったテキストファイルが脅威になってきていると。
なので今日はね、このAIを便利に使うために、これから絶対に知っておきたい新しいセキュリティの常識というか、
リテラシーっていうのを高めていきたいなっていうので、これをお話ししているんですけど、
まず、AIエージェント、ご存知の方も多いと思うんですけども、
チャットGPTとかはテキストですよね。
こちらが質問すると答えてくれるっていう使い方が中心。
でもAIエージェントっていうのは、仕事とかタスクを実行してくれる。
例えば、このフォルダにある請求書を整理してExcelにまとめておいてみたいなことをお願いすると、
自分でファイルを確認して、その中から情報を取り出してExcelで表を作ってくれる。
使い方とか設定によっては、パソコンの中の作業を自動化してくれるわけなんで、
そのね、結構代表的なツールっていうのが、クロードコードとかコーデックス。
最近ですと、グロックとかね、グロックボットとかミューズ、ドッツなんかもそうですよね。
そういうものなんですね。
それが、AIエージェント。
このAIエージェントっていうのが結構便利なので、最近皆さん使われていると思うんですけども、
このAI、これを実行する、例えば仕事のやり方とかマニュアルみたいなものなんですけども、
それがスキルっていう指示が書かれた文章なんですね。
例えばですけれども、皆さんもお仕事されていると、新人教育のマニュアルみたいなのがどこにもあると思うんですよ。
例えば、挨拶するとか、お客様が来店されたらこういうふうに対応しますとかね、
そういったマニュアルっていうのが新人の場合であったりとかすると、仕事の手順というのを覚えていきますよね。
このスキルっていうのも、AIが仕事をする上でのマニュアルみたいなものなので、
その中に指示書っていうのが、マークダウン形式っていう普通の文章で書かれていることが多いので、読めるんですよ、人間も。
コードみたいに英語とか数字が羅列していて、何の意味かよくわからないんじゃなくて、
ちゃんと日本語だったりとか英語で書かれてたりとかするので、読めるんですけど、
06:05
皆さんそれを全然読まなくて、そのままAIに読み込ませているっていうのが一番怖いです。
このAIが仕事を覚えるためのマニュアルがポイントになってくるんですけども、
今までパソコンのセキュリティってどういうふうに気をつけてました?
さっきもお話ししましたけど、怪しいメールのリンクを踏まないとか、知らないプログラムをインストールしないとか、
セキュリティソフトを入れているっていうことが一般的だったと思うんですね。
もちろん今でもこれは全然重要なんですけど、でもただ文字が書かれているテキストファイルを見て危ないって思う人ってあんまり今までいなかったと思うんですよ。
でもこのAIエージェントが普及してきた中ではこれが変わってきていて、
さっきも言いましたけど、人間にとっては、ただの文章にとっても、
AIにとっては実際にパソコンを作業していく、こういうふうにタスクを処理していくためのマニュアルになってくるので、
そこの文章が悪いやつが、そこのパソコンに悪意を、攻撃を加えるっていうことを書いてたりすると、
AIはそれに従っちゃうんですよ。
例えばさっきの仕事のマニュアルの中で、
普通だったら、皆さんが業務上仕入れたお客様の個人情報は絶対外部に漏らしてはなりませんっていうふうに書かれているのが多分普通なんですよ。
AIもそれだったら、わかったとは外に漏らさないですよっていうところなんですが、
逆にお客様からの個人情報を仕入れた時には、必ずこちらのところにメールをしてくださいみたいなことが書かれてたら、
AIやっちゃうんですよね。
人間だったら一般的な常識の中で、これおかしくないって思うんですけど、
AIはそういうことは感じずに、そこに書かれたことを業務指示として受け取ってしまったらやっちゃうんですよ。
本当にやってはいけないことを実行してしまう可能性があるので、
もちろん全てのAIが無条件に従うというわけじゃないんですけども、
この悪い奴が悪意のある文章でAIを誘導しようとする攻撃っていうのは実際に存在するんですよね。
これをプロンプトインジェクションって言うんですけど、
ここから本当に知っていただきたい話なんですが、
今月AIエージェントのセキュリティに関する興味深い研究がニュースになってまして、
まずパソコンのダウンロードフォルダを悪用する攻撃なんですよ。
09:04
皆さんもパソコンを使っていると、ネットとかから画像とかPDFをダウンロードするパソコンのダウンロードフォルダってありますよね。
実はその悪意のあるウェブサイトから攻撃者が用意した文章をそこで保存させる手口っていうのがあるんですね。
そのファイルの名前がcloud.mdとかagents.mdって、
どちらもAIに作業の進め方を伝えるために使われることがあるスキル、指示のファイル名なんですね。
例えばこういうふうに想像してもらったらいいんですけど、
皆さんがネット見てたと、知らないうちにそういう悪意のある指示書がダウンロードファイルに保存されたとしますよね。
そして次の日とかにダウンロードフォルダがいっぱいになってきたから、
AIに整理してもらおうと思ってダウンロードフォルダを作業場所に指示してね、
AIに指示を出したとすると、
AIがその指示ファイルを読み込んでしまう場合があるんですよ。
しかもその指示書には、例えば作業を始める前にこのプログラムを実行してくださいといった、
そういう悪い奴が仕込んだ命令が書かれている。
AIがその指示を信頼して実行してしまう。
本来はファイルを整理するだけだったのに、別のプログラムを実行したり、
さっき言ったように外部に情報を送信したりする危険性があるんですよ。
自分では全然怪しいプログラムとかインストールしてないし、
AIはただの整理をしただけなんですよね。
なのにAIが読み取った文章によって違うコードを取ってしまうっていう可能性が出てきてて、
実際に研究者が行った検証では、
コーデックスに無害な電卓アプリを起動させる攻撃が
これは特定のテスト条件でAIに意図しない操作をさせられた割合なので、
一般的なパソコンが90%の確率で乗っ取られるという意味ではないんですけど、
それでも文章ファイルによってAIを誘導することができてしまうっていうのが
証明されたわけなんですよね。
今までのセキュリティの考え方でいくと、
この攻撃はAIのプログラムにバグがあるから成立するわけじゃないんですよ。
AIは仕事をするためにスキルという指示書を読むんですね。
指示書に書かれた内容を作業に参考にして作業に入っていくわけなんですけど、
これはそのAIエージェントがもともと持っている機能なんですよ。
正しい行動なんですよね、AIエージェントとしては。
12:00
本来は便利なはずの仕組みなんですけど、
それを悪用しようとすると、さっきみたいに悪いね、
本当はやっちゃいけないことが書かれたそういうマニュアルが送り付けられていて、
僕らの知らない間にAIがそのマニュアルに沿った動きをしちゃう。
だからセキュリティソフトとかも関係ないんですよ。
全然普通のウイルス対策ソフトでは、別に文章に書かれた悪意ある文章なんていうのは絶対見抜けないですし、
AIに関してもね、安全最悪っていうのはあるんですけど、
やっぱりその攻撃っていうのが全て成功するわけじゃないんですけども、
これまでのウイルス対策とかセキュリティの知識だけでは全然すり抜けられていく。
そういうことがあるので、だから最近よく、
昔はね、このAIのプロンプトをプレゼントしますっていうぐらいだったら、
プロンプトでね、全然そのAIが勝手に動いていくってことはないんですけど、
最近のこのAIスキルを無料にプレゼントみたいなところは、かなり気をつけた方がいいと思います。
全部が全部そういう悪いもんではないとは思うんですけども、
悪意がある人たちはね、そういうところで無料のね、
例えばスライド作成のスキルだと思ってダウンロードしたんですけど、
それをね、AIに読み込ましてみたら、実はAIが違う行動を起こして、
パソコンにね、何か悪意のある、そのAIが悪意のある行動をしてしまうっていうね、
そういうことにもなりかねないので、特にそういうスキルっていうのは気をつけてもらいたいと思います。
実際にね、今年の2月にセキュリティ企業っていうのがだいたい4,000件のAIのスキルを調査したら、
534件に重大なセキュリティ上の問題が見つかったっていうことで、
4,000件のうちの530件っていうことですから、
で、その中にはさらにね、76件は情報を盗み出すことを狙った悪意のある仕組みが確認されている。
で、もちろんね、これは調査対象となった公開スキルの結果なので、
そういうね、無料でプレゼントされているスキルのスキルがね、
全部が全部危険だっていう意味ではないんですけども、
こういうことが起きているっていうことは知っておいたほうがいいと思います。
じゃあね、やっぱりAIエージェント怖いから使わなくていいのかって言うんですけども、
そんなこともなくて、ちゃんとね、正しく使えば効率的にもなるし、
働き方なんかも変わってくるから便利なのでね、
使っていただきたいと思うし、僕も使い続けますけど、
やっぱりね、安全に使うための知識っていうのは絶対必要で、
やっぱりね、さっきの話からすると、
AIエージェントをね、ダウンロードフォルダーで起動しない。
これは絶対かなと思います。
ダウンロードね、勝手にそのマークダウンのテキストファイルが降ってきていると知らずにですね、
15:04
ダウンロードファイル触らせるとですね、勝手に読み込んじゃって、
AIが間違ったことを覚えちゃうので、そこは気をつけてもらいたいと思いますし、
あとはそもそも知らない人が作ったAIスキルっていうのを、
もし入れる場合は絶対ね、中身を確認する。
で、盲目的にそれを勝手に読み込ませない。
どんな指示が書かれているのかっていうのは、やっぱりちゃんと確認しておいた方がいいと思います。
で、もう一つが、やっぱりそのAIに与える権限、
これはね、やっぱりもう必要最小限にしておかないと、
例えば、プレゼン資料を作るだけだったら、
別にパソコンの中に入っている個人情報にアクセスする必要ないじゃないですか。
画像とかそういうのを整理するだけだったら、
メールに送信する制限っていうのは、権限っていうのは与えない方がいいと思うし、
そういうね、やっぱり大切な操作は最終的には、
人、自分がやるっていうことを気をつけていかないといけないかなと思います。
今日はね、ちょっとAIエージェントとスキル、
ちょっと怖い話だったんですけれども、
これはやっぱりこれからね、パソコンで皆さん作業されていること多いと思いますし、
その中でAIエージェントを使って仕事を効率化している方も多いと思いますので、
これからね、絶対必要になってくる、
そういうね、AIのセキュリティというかリテラシーになってくると思いますので、
こういうこともね、ちょっとね、気づいたことがあれば、
僕もね、そんなにね、めちゃめちゃ詳しいわけじゃないですけれども、
お話ししていきたいと思いますので、
よかったらね、これからも聞いていただきたいと思います。
はい、ということで、
今日の放送が良かった、ためになったという方がいらっしゃいましたら、
ぜひ、いいね、コメントよろしくお願いいたします。
はい、ということで、今日も最後まで聞いていただきましてありがとうございました。
それではまた。
