00:00
実際に攻撃を仕掛けて、本当にセキュリティの穴になっているかを検証します。 トークンの上限が近いので、霧のいいところで作業を止めて、と指示します。
AIのセキュリティ監査は、見落としも嘘もよくあるからです。 こんにちは、超実践AI論のたいちです。今回は、Cloudflare公式のセキュリティスキルを実際のアプリで使ってみた、というテーマでお話し
します。
前回の動画で、Webコンテンツ分析アプリのデザインまで完成しました。 今回は、リリース前の仕上げとして、アプリ全体のセキュリティ監査をしていきます。
Cloudflare公式のセキュリティスキルはGitHubで公開されていて、誰でも使うことができます。 このスキルは、セキュリティ対策の漏れがないように、かなり厳密に作られています。
まず、アプリ全体の地図とセキュリティ台帳を作ります。 地図を網羅しながら、セキュリティ対策が必要な候補を台帳に書いていきます。
セキュリティ対策箇所の候補が出揃ったら、最初に候補を出したのとは、別のAIエージェントが候補に漏れや過剰がないかをチェックします。
そして、候補が確定したら、また別のAIエージェントが各候補が正しいかを批判的にチェックします。
批判的チェックまで終わったら、サンドボックス環境というパソコンとは別の隔離された環境で、実際に攻撃を仕掛けて、本当にセキュリティの穴になっているかを検証します。
その検証結果も踏まえて、別のAIエージェントがさらにそれらのセキュリティ対策候補が正しいかをまた検証します。
最後に、セキュリティ調査結果をレポートにまとめるという流れです。
なぜここまで厳密に調べるかというと、AIのセキュリティ監査は見落としも嘘もよくあるからです。
コード全体の一部だけを見て全体を検証したと言ったり、セキュリティの穴を見つけたと主張しても、それが間違いであることもよくあります。
最悪、自分でセキュリティの穴を作って、あたかも自分が見つけた脆弱性のように自作自演することもあります。
脆弱性というのはセキュリティの穴のことです。
だからこそ、クラウドフレアのセキュリティ監査スキルはここまで厳密な手順になっているのです。
ただ、厳密に検証する分、トークもめちゃくちゃ消費するので気をつけてください。
僕は自分のウェブコンテンツ分析アプリを丸ごと監査させたら、
クラウドの月額100ドルのプランで5時間ごとの利用上限を丸2回使い切っても、まだ全工程の7割くらいしか終わっていませんでした。
ここからは、実際にこのセキュリティ監査スキルをインストールして使うところまでお見せします。
監査に使うのは、僕のウェブコンテンツ分析アプリです。
このアプリでは、僕の運営するYouTubeチャンネルや、ウェブサイトのGoogle SearchConsole、Google Analyticsなどのデータを自動で取ってきて、さまざまな分析をする
ことができます。
アプリには、MCPサーバーというAIエージェント用の窓口も用意しているので、
Cloud CodeやCodeXで、AIに直接分析データを参照させて、コンテンツの改善策を提案させるといった使い方もできます。
AIを使ってこのウェブアプリをゼロから作る全工程は動画コースにしているので、興味がある方は概要欄のリンクから見てみてください。
アプリの監査をさせるために、まずはスキルをインストールします。
インストール方法は簡単で、ターミナルでこのワンコマンドを実行するだけです。
03:03
実行すると、まずどのAIエージェント向けにスキルをインストールするか聞かれます。
CodeXとCloud Codeはデフォルトで選択されているので、それだけで問題なければEnterを押します。
そして、プロジェクトとグローバルのどちらに入れるのかを聞かれます。
プロジェクトというのは、特定のフォルダ専用にスキルを入れるという意味で、
グローバルというのは、パソコン全体で使う用途としてスキルを入れるという意味です。
つまり、このスキルを一つのアプリだけで使うなら、プロジェクトとしてそのアプリのフォルダにインストールし、
複数のアプリでセキュリティ観察をしたいなら、グローバルスキルとして入れるべきです。
ちなみにグローバルスキルとして入れても、先ほど説明したセキュリティ観察用の台帳などのアプリごとに必要なものは、
それぞれ専用のフォルダを作成して作業してくれるので問題ないです。
僕は複数のアプリで使いたいので、グローバルを選択します。
そしてこのインストール方法は、SIMリンクとCopy to all agentsがありますが、SIMリンクがおすすめです。
Copy to all agentsというのは、各エージェント用にスキルをコピーしてインストールするという意味です。
エージェントスキルの置き場所は、クロードコード、コードX、アンチグラビティ、マルスなど、
AIエージェントによってバラバラなことが多いです。
なので、Copy to all agentsを選ぶと、各AIのスキル置き場にそれぞれスキルフォルダ一式がコピーして配置されます。
一方でSIMリンクを選ぶと、スキルフォルダ一式は一箇所だけに置かれ、
各AIエージェントのスキル置き場には、その一箇所のスキルフォルダのリンクが置かれます。
なので、スキルの製本が一つで管理がしやすいSIMリンクがおすすめです。
僕もここではSIMリンクを選びます。
そして最後にインストール概要が表示されます。
スキルのインストール場所は、このホームディレクトリの.agents スキルズ セキュリティオーディットの中に入ります。
この.agents スキルズフォルダは、CodeXやCursorなど多くのAIエージェントで共通して使うスキルフォルダです。
そしてこのフォルダをSIMリンクでクロードコードも参照するという形です。
インストール内容が問題なければ、Yesが選択されている状態でEnterを押せばインストールが完了します。
これでスキルのインストールは完了し、基本的な監査はできるようになりました。
ですが先ほど説明したパソコンから隔離されたサンドボックス環境で、
実際にセキュリティの穴を攻撃できるかまで試すには、そのサンドボックス環境も用意してあげなければいけません。
なので僕はクロードコードを開いて、そのサンドボックス環境を構築してもらいました。
僕はクロードコードでコンテンツ分析アプリのフォルダを開き、セキュリティ監査スキルにメンションした上で、
このスキルの監査をするためにはサンドボックス環境の用意が必要です。
このMacで環境を構築するなら何を使うべき?と質問しました。
そしてこのMacならDockerを使えばスキルのサンドボックス要件を満たせるという回答が来たので、
Docker環境の構築に対応してもらいました。
僕がやったのはクロードコードの指示通りにDocker Desktopのアプリをインストールしたり立ち上げたりしただけです。
Dockerとはコンテナというパソコンとは隔離された環境にアプリの実行基盤を丸ごと構築できるツールです。
06:03
先ほど見せたDocker Desktopというアプリは、
従業員数250人未満かつ年間売上が1000万ドル未満なら所要利用も無料です。
そしてサンドボックス環境の構築もできたので、続けて新しい会話でセキュリティ監査の指示を出しました。
指示内容はリポジトリ全体のセキュリティ監査をし、対応計画を立てて、
計画にはAIエージェントが対応しやすい流度のPR分割も含める、
この作業自体もコンテキスト的に1回での完了が厳しければ、
適切なところで止めて別スレッドで再開できるようにしておいて、です。
このようにスキル名を指定しなくてもセキュリティ監査を頼むだけで、
AIがインストールしたスキルを自動で読み込んで使ってくれます。
大量のセキュリティ修正事項が見つかったときに、
それを一気にAIに直させるとミスや見落としにつながるので、
AIが対応しやすい流度での計画も一緒に作ってもらいました。
そしてAIのコンテキスト、つまり記憶領域には限りがあるので、
1回の監査の分量がコンテキスト量を超えてしまうようであれば、
会話を分割する指示も加えました。
そして監査の途中でトークンの利用上限が迫ってきたら、
このようにトークンの上限が近いので、
霧の良いところで作業を止めてと指示します。
そうするとAIは作業を止めて再開用のメモも作ってくれます。
作業再開時にどのような会話をするかもAIが書いてくれているので、
再開する時は新しい会話を開いてこの指示を貼り付けるだけです。
そしてそのメモの内容がこちらです。
この動画の冒頭で解説した複数フェーズの検証手順に沿って、
かなり厳密にセキュリティ観察をしていることがわかります。
そしてメモにはアプリのどこにどんな脆弱性の候補があるかも書かれています。
現時点ではまだ未検証のものが多いですが、
これからサンドボックス環境で実際に攻撃を仕掛けて、
その結果によって状態も書き換わっていくはずです。
見つかった脆弱性の候補には、例えば、
ユーザーの入力した文字列が直接AIエージェントに届いてしまう、
データを取得する操作は10秒で打ち切っているが実際は打ち切れていない、
データを重複して記録し続けてしまう、などがあります。
監査が終わったら、対応が必要なものを僕が一つ一つ見て、
やるべきと判断したものをクロードコードに対応させる流れです。
ここで一つお知らせです。
業務のAI活用の個別サポートや研修・システム開発などのお仕事は、
概要欄の公式LINEからお問い合わせください。相談は無料です。
動画の内容やその他のご質問にも公式LINEで回答しています。
今回の内容をまとめます。
AIによるセキュリティ観察は、抜け漏れも嘘もあります。
だからこそ、クラウドフレア公式のセキュリティ観察キルで、
実際に攻撃するところまで試して、本当に対処が必要な脆弱性は解消するべきです。
観察キルのインストールはNPXのワンコマンドでできて、すぐに使えます。
ただ、実際に攻撃するところまでを試すには、
自分でサンドボックス環境を用意する必要があるので、
それもクロードコードに作成してもらいましょう。
クラウドフレアのセキュリティ観察キルは、今回のようにアプリ全体の観察をさせることもできますし、
09:04
特定の機能やPRを指定して、その部分だけピンポイントで観察させることもできます。
ぜひあなたもこのスキルで、自分のアプリのセキュリティ上の弱点を塞ぎましょう。
次回の動画では、このコンテンツ分析アプリを自動で本番リリースする仕組みの構築と、
実際のアプリの使い勝手を紹介します。
概要欄にも今回の内容を解説した記事を貼っておきます。
それでは今日はこの辺で。