00:01
こんにちは、いっかくです。 今日は、AI時代のセキュリティということで、お話をしたいと思っております。
まず、最初からお伝えしたいことがありまして、 録音環境、私はスマホのアプリで録音しているんですけれども、
ちょっと音質面が自分で聞いていて気になりまして、 これをまわると録音のアプリを変えて、
ドルビイオンというのに変えてやってみました。
多分、ポッドキャストとかやってらっしゃる方、 使っている方多いのかなと思うんですけど、調べましたところ。
ちょっとこれでしばらくやってみます。
だいぶ、クックロードとかに音声解析させたら、 良くなっているよというふうに、
何かそんなような解析結果が出ていたので、 ちょっとしばらくこれでやってみようかなと思っております。
もし、何かちょっと気になるとかありましたら、 お知らせいただけたら大変ありがたいです。
すみません。よろしくお願いいたします。
戻りまして、AI時代のセキュリティということで、 何を気をつけたらいいのかという基本的なところが、
それから最近新しい手口が出てきているので、 そこのところをまるっと触っていけたらと思っています。
まずなんですけど、AIの学習履歴設定というのは、 学習とか履歴設定はありますよね。
ここら辺をオフするというのがありますね。
チャットGPTとか設定データコントロール、 モデルの解禁のためのデータを押しないとか、
多分そんなような感じじゃないですか。
多分GPTもクロードもデフォルトオフになっているかなと 思うんですけれども、
ちょっとそこを練るために業務で使うときは 見ていただけたらなというふうに思っています。
まずこれは一つ目ですね。
二つ目なんですけど、 決めた情報をAIに貼らないというもので、
社内情報、顧客データ、規約書を そのまま入力しないと。
必要なら特命化マスキングをしてから行う。
これも本当に超重要ではあるんですけど、 多分結構ある話ではありまして、
ついついやっちゃってるという方が 結構いらっしゃるようなので、
そこはちょっと気をつけて、絶対に。
AIに解析させるときはこういうミュージシャンの ところはとりあえずマスキングして渡すという。
どこの会社かはわからないけれども、
一般的な例えばこういうような問題というか 課題があったときにどうするかみたいな形で
手で聞くということをまず心がけるというのは 非常に大事かなと思っています。
それから三つ目なんですけど、
多要素認証、二段階認証と言いますけど、 MFAというやつですね。
これの徹底ですね。
AIツールとクラウドサービス全般で、 パスワード単体というのは防御として弱すぎるんですよ。
徹底してもやられてしまうものなので、 ここは絶対に気をつけてください。
03:08
意外とこれの未設定でやられてるって大きいですね。
今日の私、朝もですね、
某決済サービスからメールが来ててですね、
あなたの個人情報が漏洩しておりまして 申し訳ございませんと言って、
メールアドレスとペグアドレスと名前だったかな。
名前と何がもう一個で、 カード情報が抜かれてなかったっていう。
今やっぱりシステム的にかなりやばいから、 カード情報だけ分離するようになってるんだと思うんですけど、
そんなのが今日の朝来てましたね。
それの理由は二段階認証できてなかったから、 社員さんのパスワードが抜かれたっていう。
機密情報が外に送信されてたっていう、 ログが残ってたって、
そのようなことを言ってました。
これ対応相認証は絶対にやっていただきたいと思ってますね。
というところです。
それからフィッシングメールの高度化について、 これ4つ目なんですけども、
AIで文章がきちんとした文章を作れるようになったじゃないですか。
だから文章がおかしいとは見抜けないですね。
送信元ドメインってどこから来てるかっていうのを見てください。
必ず怪しいドメインかどうかっていう、
これ絶対存在してないなっていうものは 基本的には信じないっていうことですね。
今、変な日本語で送られてくることは かなり減ってますね。
AIでクローズとかできれいな文章、 上手い文章を書かせたら出てくるじゃないですか。
だからこれは本当にちゃんとした文章が 流れてくるようになってるんで、
気をつけてください。
本当に驚くべきほど高度になってますね。
それから5つ目、ディープフェイク、 なりすましい詐欺ですね。
音声とか動画偽造による振り込み詐欺は、
急増って重要な手段で本人確認とあります。
これいいやな、これあんまりいいやな ほうがいいのかなってあれですけど、
でもちょっともう言うんですけど、
例えば私とかが電話でしゃべったとすると、
電話を向こう側が学習して、
学習してそれで私の音声をパクった後、
別のコーチャーとか300番振り込んでくれるみたいな、
そういうようなことが技術的に可能なんですよ。
もうちょっとしゃべっただけ。
だから我々みたいな音声配信やってる人たちだけ、
危ない感じですよね。
そういうふうな事例ができてて、
06:01
本当にわずかなこういった音声を学習させることで、
全然別の音声、私がしゃべっている風の音声も
作れてしまうので、
それでお母さんとかに電話してとか、
そういうような感じで、
俺なんだけどみたいな感じで、
そういったことができてしまう。
それから社長さんのとこに、社長の声で、
会社で電話がかかってきたみたいな、
そういうのも可能なわけですよ。
だからこれ気をつけてください。
必ず電話があったら本当に本人が言ってるかどうかっていうのを、
本人が言ったことを本当に強く確認していただきたい。
声が一瞬だからでは判別がつきません。
それからプロンプトインジェクションっていう話なんですけど、
エージェントとか、クロードを使う場合、
外部から取得したファイルへの不正命令に注意って言うんですけど、
これ難しいんですよね。
クロードコードとかって外部サイトを読みに行って、
結果を返してくるじゃないですか。
返してきた結果の中に不正な、
自分のパソコンにあるファイルを読んでおくれみたいな、
そういったプロンプトを忍び込ませておくことができて、
それをやられてしまうと、
例えば機密情報とか、
APIキーというあまり漏れたらいけないものが中に含まれていて、
それを送信するような感じのことをやられてしまうんです。
たぶんアンソロピストがそういうところの対策をしてるんじゃないかなとは思いますけれども、
たぶんパーフェクトではないんですよね。
やられてしまうという危なかった事例が存在するんでしょうかって。
ただこれはすごい難しいので、
何を防御すればいいのかという、
そういうのを、
その工夫の仕方はそもそも機密情報を書かれたファイルを読ませないようにする。
具体的に.envというのに書いたりするんですけど、
それをそもそも読ませないようにするという設定ができたりとか、
いくつかあとはcloud.amdというのに、
そもそもそういうのを送信機能を読むなど、
結構きつめに書くっていうぐらいしかないんですよね。
なのでそこら辺は専門的な知見が要るので、
この辺は専門家に聞いていただけたらと思います。
結構難しいじゃないですか。
それからAIが書いたコードの脆弱性ということで、
これはしょうがないというのもおかしいですけど、
プログラムを書いたら当然起こり得ることですね。
これはプログラムを開発するときには、
セキュリティレビューというか、
あっちゃいけないことをしているということで、
これはもうマストかなと思います。
それからあとは、
AIエージェントへの最小権限付与といって、
09:05
例えばcloudコードとかで、
プログラムを書かせるのもそうですけど、
いろんな事務作業とか、
例えば赤書を書かせたりとか、
あとはリサーチをしたりとか、
幅広いことができるわけですけど、
そういった理由のところであっても、
権限を与えすぎないというところですかね。
そこの権限の制御の仕組みというのが
cloudコードについているので、
ここまでは許可するけど、
ここから先は必ず許可を得るようにという形のことを、
必ずするといいですかと聞いてくるので、
そこをやるということは大事かなと思っております。
ババババンと語ってしまったんですけど、
これ今すごく難しいところになってきまして、
cloudコードは急速に普及が進んでいるんですけども、
ちょっとここのところは追いついていないと、
ここはちょっと気をつけながらやっていただきたいというような形でございます。
以上でございます。
今日もありがとうございました。