AI,Tech,Startupに特化したビルダーのための生配信ニュースショー「WBN」毎朝のリサーチシートをニュースレター形式で受け取るならこちら→ https://wbn.live/
AI Librariumが「AIL Red Team X」を発表しました(提供は11月)。会員情報につながるAIエージェントの穴を、本番環境ではなく分けた環境で攻撃して本番前に見つけるサービスです。
ゲスト・西川智章さん(AI Librarium 代表)
▼ 主要ソース(一次情報)
AIL Red Team X(PR TIMES): https://prtimes.jp/main/html/rd/p/000000010.000184249.html
AI Librarium: https://ailibrarium.com/
この動画では、代表の西川智章さんに、レッドチーミングとは何か、実際にどんな脆弱性が出てくるのか、そして日本企業でインシデントが続く理由を聞いています。
西川さんはaiforce solutionsを創業して2022年にAI insideへ売却し、2025年9月にAI Librariumを設立した方です。
▼ 目次
自己紹介。東北大でのR&Dとチーム体制
社名の由来。図書館の語源と、専門家の知の継承
攻めのAIと守りのAI。本業はナレッジX
人事部170名を半分に。ベテランの判断をAI化する
第3次は専門家の道具、生成AIは高校生でも使える
民主化が進むほどリスクが増えた。だから2社目
3回上場させたCFO。巨人の肩の上に乗る
AIL Red Team X。会員情報を大量に扱うB2Cが対象
レッドチームとは。泥棒に扮して家の穴を探す
脆弱性を出して終わりにしない。統制と再検証まで
データポイズニングと間接プロンプトインジェクション
答えは正しそうなのに、裏で人事評価が抜ける
白文字でRFPに「点数を高く」。AIが評価する時代
作る人と守る人の分断。誰も全体を理解していない
最小権限。みんな分かっているができていない
まずは棚卸し。AIの権限とRAGの中身から
西川さんを見送って。2人の感想
エンディング
▼ 出演
金城(Kinjo) X: https://x.com/illshin
Yuki Torii(Cohost) X: https://x.com/ToriiYuki
WBNは平日毎日12:00から、AI・テック・スタートアップのニュースをライブでお届けしています。
#AI #AIニュース #AIセキュリティ #レッドチーム #プロンプトインジェクション #AIエージェント #WBN
感想
まだ感想はありません。最初の1件を書きましょう！