Notion AIとFireworks AIのインシデント
5分で学べるハチコのAI実践カフェ。
おはようございます。こんにちは。こんばんは。
この番組では、ママエンジニアハチコが、おすすめのAI活用法や、AI時代の歩き方をお届けしています。
さて、今日のテーマは、Notion の外部AIベンダーでインシデント発生、
そして、この一見から学ぶ3つのことでお届けします。
先日、Notion AIという、Notion の中に入っているAI機能があるんですけど、それでセキュリティインシデントがあったんですよね。
これは、影響がある方には、すでにNotion から連絡が行っていて、特に連絡を受けていない人は問題なしとのことです。
もし、Notion 使っていて、Notion AIも使ったことがある方は、アカウントに連携しているメールを確認してみて、Notion から何かお知らせが来ていないか見てみてください。
これは、Notion が何かやらかしたというわけではないんですよね。
今回、どういう流れでこういうインシデントが起きたのか、そして、この事件から学べる3つのことを、今日はお話ししていこうと思います。
まず、何が起きたのかというと、Notion には、Notion AIという機能があるんですけども、そのAI機能の一部で、外部のインフラベンダー、Fireworks AIというものを使っていたん
ですね。
そのFireworks AIでセキュリティインシデントが発生して、その一部にNotion のワークスペースへの影響があったということです。
影響があったのは、すべてのNotion のワークスペースの1%未満ということで、実際にどんなデータが流出したかもしれないかというと、誰が書いたかはわからない状態のチャット履歴がほとんどだそうです。
Notion のページを読み込んだデータとか、誰がそのチャットをしたのかとか、そういったことは含まれないケースが多いようです。
誰かが特定できないのであれば、よほどまるっと大事な情報をAIに伝えていなければ、まあ大丈夫じゃないでしょうかね。
とはいえ、やっぱりね、ちょっとヒヤッとしましたね。あのNotionがあって一瞬思いました。
インシデントから学ぶ3つの自己防衛
今回のこの事件から学べること3つ、今日はご紹介したいと思います。
まずは一つ、便利なクラウドサービスの裏側には大体別の企業が絡んでいますという意識を持ちましょう。
今回の件で言ったら、表向きはNotionなんですけど、実際はFireworks AIというところがそのAI機能の一部を担当していたということです。
なので、どんなにその表側の企業、今回だったらNotionが頑張っても、そういったリスクをゼロにはできないということですね。
去年の秋頃でしたかね、ChatGPTとかクロードとか、いろんなAIサービス、ジェミニー以外のAIサービスとか、他のさまざまなホームページ、Canvaとかも使えなくなった時があって、
それはクラウドフレアで障害があったんですよね、実は。つまり裏側ではクラウドフレアが頑張ってくれているので、クラウドフレアに何かあると、そこの上で動いているサービスにもリスクがあると。
もうクラウドで動くサービスであれば、何かしらどこかしらで、実は裏側でこういう会社が支えていますということはあるので、そういうものだという認識を持っておきましょう。
そして2つ目、AIに何を渡すか自己防衛しましょう。今回は流出した可能性のあるチャット履歴には、誰が書いたかとか、どこのワークスペースのやり取りかということが含まれていなかったので、
もしパスワードとかが飛んじゃっていても、そこにご丁寧にユーザーIDとかまで書いていなければ、誰のか分からないから、そこまで深刻ではないはずなんですけど、でもやっぱりAIに渡していない方がいいわけです。
最近はクラウドとかはすごく賢くて、APIキーとかパスワードが必要になるタイミングで、私には言わないでください、そこのチャット欄には書かないでください、こっちのターミナルにこのコマンドで打ってください
とか結構言ってくれるんですけど、日頃からAIにそういった機密情報、大事な情報を渡さないという運用を心がけましょう。
影響を切り分けて対応する
そして3つ目は不安に振り回されない、冷静に何があったか切り分けましょうということです。
今回のこのノーションも、やばいぞやばいぞみたいな投稿を見かけて、私もそうなんだって思ったんですけど、そうやって教えてくれるのはすごくありがたいことですよ。
なんだけど、その中テンションのまま、どうしようどうしようってなっててもどうにもならないので、まず自分に影響があるかどうか、もし影響があったらどこまでの被害があるのか、とかを冷静に追っていくしかあり
ません。
今回もノーションAIにパスワードを言っちゃったって、ひーってなるかもしれないですけど、今回の場合はユーザーIDもワークスペースも特定できないので、もちろん送らない方が一番いいんだけど、いきなり何か投稿
ってことはない。
でも万が一に備えてそのパスワードは変えておこうかな、みたいに行動できるといいですよね。
ということで、今日はノーションのインシデントから学ぶ3つのことについてお話ししました。
一応繰り返しておくと、まず便利なクラウドの裏側には別のサービスが動いていますということ。
そして2つ目は、AIに何を渡すか事故防衛しましょう。
そして3つ目は、こういったインシデントがあった時に慌てず冷静に状況を切り分けて対応しましょう、ということでした。
ここまで聞いてくださって本当にありがとうございます。
今日も一緒にAIでちょこっと進化していきましょう。
それではまたねー。
