AIを導入した会社は、どんな新しい攻撃面を抱えるのでしょうか。
本エピソードでは、OWASP LLM Top 10を軸に、AI導入企業が直面する新しいサイバーリスクを解説します。
取り上げる主なテーマ
- OWASP LLM Top 10
- プロンプトインジェクション
- 間接プロンプトインジェクション
- RAG汚染・RAGポイズニング
- 社内文書データベースの汚染
- AIエージェント化のリスク
- 過剰な権限付与
- MCPと外部ツール連携
- DNSリバインディング
- AIサプライチェーン
- Hugging Faceとモデル配布リスク
- Pickleファイルの危険性
- 悪意あるパッケージやSDK
- ディープフェイクとAIフィッシング
- MFA突破とセッショントークン窃取
- シャドーAIとAI資産管理
- ヒューマン・イン・ザ・ループ
AIのリスクは、攻撃者がAIを使うことだけではありません。
企業がAIを導入した瞬間に、社内データ、RAG、API、プラグイン、外部ツール、AIエージェントの権限が、新しい攻撃面になります。
特に危険なのは、AIが自然言語を「命令」として解釈し、メール、PDF、Webページ、社内文書に埋め込まれた見えない指示に従ってしまうことです。
AIに何を読ませるのか。
どのデータベースに接続するのか。
どのAPIを呼び出せるのか。
どこまで自動実行させるのか。
その出力を誰が検証するのか。
これらを決めないままAIを導入すると、便利な業務支援ツールが、機密漏えい、意思決定の汚染、権限濫用の入口になります。
AI時代のセキュリティは、モデルの賢さだけでは守れません。
必要なのは、権限の最小化、データの来歴管理、監査ログ、システムの分離、人間による承認、そして「AIが読んだ情報は本当に信頼できるのか」と問い続ける姿勢です。
自然言語がシステムを動かす時代に、企業は何を守り直すべきなのかを考えます。
感想
まだ感想はありません。最初の1件を書きましょう！