1. 聴くだけフリーランス講座
  2. AI開発、セキュリティ大丈夫?
AI開発、セキュリティ大丈夫?
2026-11-06 16:25

AI開発、セキュリティ大丈夫?

おたよりを送る

Claudeセミナーアーカイブ👇

https://www.udemy.com/course/vibe-coding-security/?referralCode=F0E29617EE29B69E8FB1


▼ウミノのアカウント

noteメンバーシップ「自動化オタクの頭の中」: https://note.com/taraco_mom/membership

無料ChatGPT講座: https://x.gd/ETflm

Udemy講師の無料コミュニティ:https://discord.gg/TS6eAWg7z8

X:https://x.com/umino_chibi

YouTube:https://www.youtube.com/@AIDesignJuku

Voicy:https://voicy.jp/channel/821320

Standfm:https://stand.fm/channels/5fba3d73c64654659098efa4

Spotify:https://open.spotify.com/show/7yMHBwmDGsIQRRaWIcECNI


▼ 過去放送をVoicyで探す

⁠https://r.voicy.jp/0pvmbkvZ9eA

感想

まだ感想はありません。最初の1件を書きましょう!

00:00
皆さん、こんにちは。フリーランスの学校に所属している海野です。 毎週金曜日は、Udemy AIコースのベストセラー講師でもある海野が、
あなたの仕事と生活を楽にするAI活用術をお届けしていきます。 最近は、クロードコードやコーデックスとか、カーソルとかね、
アンチグラビティとか、そういったツールを使って、バイブコーディングをしている方が結構増えていると思います。
もともとエンジニアではない、プログラミングはできない方も、AIを使ってサイトを作ったり、
住宅開発をしたりだとか、そういう方がどんどん増えているんですよね。 私自身も、よくAIエージェントを使って、いろいろなツールとかアプリを作っています。
大体は、基本的には自分のためのものを作っています。 以前だったら、プログラミングの知識全くない方にはですね、
本当に雲の上の存在というんですかね、全くできなかったものが、今は日本語でこういう機能のついたアプリを作ってくださいという風に、
AIエージェントにお願いをするだけで、かなりのところまで作れるようになりました。 かなりのところまでというか、本当に作れるようになったんですよね。
これって本当にすごいことだと思っていて、私はですね、楽しくて楽しくてしょうがなくてですね、本当に何十個と作っています。
でも今日お話ししたいのは、そのアプリの作り方ではないです。 そのアプリ本当に安全ですかというお話をしたいと思います。
例えばこんなことありませんでしょうか。 例えばAIでですね、お願いをして、例えばじゃあ住宅開発をすることになって、
会員登録ができるアプリを作りましたと、サイトを作りました。 いわゆる会員サイトですね。
登録をしたら動画が見れるとか、そういうサイト。 ログインもできるし、データも保存できますと。
決済もできるようにしました、みたいな感じですね。 実際に自分で使ってみても、ちゃんと動いているというのが分かって、よし完成だと思ったということがあったとしましょう。
でもですね、ちょっと待っていただきたいんです。 インターネットに公開する前にチェックしなきゃいけないことがいくつかあります。
例えばそのサイトは他の方の個人情報が見えてしまう状態になっていないでしょうか。
また自分のAPIキー、これは例えばですね、OpenAIのAPIキーであれば、
あなたのAPIキーが漏れてしまうとですね、他の人に見られてしまうと、あなたのクレジットカードからどんどんお金が漏れ出てしまうようなこともあったりするんですね。
APIキーが外部から見えるようなところに置かれていないかだとか、他の人の個人情報が見えている状態になっていないかだとか、そういうのってすごくすごく大事なんですね。
誰かが大量にアプリを使ったときに、その請求があなたに来ないか、みたいなことも考えなきゃいけないわけです。
実はアプリが正常に動くことと安全に動くことというのは全く別の話なんですね。
03:04
実はViveコーディングで作ったアプリの91%に問題が見つかったという研究結果があります。
2026年に発表された研究で、Viveコーディングによって作られた実際に公開されているウェブアプリ200件を調べたところ、なんと91%にですね、少なくとも1つ以上のセキュリティの脆弱性が見つかった
そうです。
もちろんこれは調査対象の200件についての数字なので、AIで作った全ての91%が危険という意味ではないんですけども、
ただそれでも結構、91%に脆弱性があるってすごい衝撃的でした、私としては。
なんでこんなことになったのかというと、理由の一つはAIがこちらから指示されていない安全対策については十分に実装しないっていうことがあるからなんですね。
例えば、ユーザーの情報を保存できるアプリを作ってください、みたいな言い方で私もよくやってました。
でもそうするとですね、他のユーザーの情報は他の人からは見えないようにしてくださいっていうふうに明確にお願いしていないと、そこが不十分なままになってしまうことがあるんです。
そして怖いのは普通にアプリを使っているだけではその問題には気づかない。
でも悪いことをしようとしている人が悪いことをしようとすると見えちゃうみたいなことがあるんですよね。
自分の情報を普通に登録して自分の画面で確認をするとちゃんと動いているように見えると。
なので安全だと思ったんだけれども、実は他のユーザーからもその人の個人情報が見えてしまうみたいなことが起こり得るわけです。
じゃあ何に気を付ければいいのかというと、まず最初に意識していただきたいのが個人情報はできるだけ集めないということです。
例えば何かの申し込みフォームをAIに作らせるとします。
AIはもしかしたら名前とメールアドレスと電話と住所とSNPとかいろんな入力項目を作ってくれるかもしれないんですけども、本当にそれって全部必要なのか。
それを考えた方がいいんですよね。もしかしたらメールアドレスだけでもいいかもしれないし、実はメールアドレスすらいらなくて何か改善の意見だけが欲しい場合もありますよね。
そもそも自分で集めていない情報というのは自分のデータベースからも流出しようがないので、個人情報を安全に管理するということはもちろん大切なんだけれども、その前に不要な個人情報は集めない。
これが一番一番大事です。これはプログラミングの知識がなくても判断できることなので、本当に誰でもすぐに始められる安全対策の一つだし一番強力ですね。
AIにこのサービスに本当に必要な個人情報だけを集めるフォームにしてくださいというふうにお願いをするだけでも、そうしたら住所いらないですねとか、設計を見直すきっかけにもなります。
もう一つ気をつけたいのが会員限定サイトですね。さっきお話ししたような、例えばディスコードのコミュニティを運営していて、有料のメンバーだけが見られるようなサイトを作りたいと思ったとします。
06:08
その場合ってディスコードログインとかね、Googleログインとかそういうのをつければ会員サイトらしい仕組みっていうのは作れるんですけども、ただログイン機能をつけただけでは不十分なんですよね。
ログインしてない人が有料ページのURLを直接入力したら実は見えちゃうみたいなことが結構あったりします。
あとは別のユーザーのデータを指定したときにその情報が表示されてしまったりだとか、そういうこともあったりするんですね。ここまで確認する必要があります。
なので会員サイトを作るときはパスワードを自分で管理する仕組みっていうのを一つ、一から作るよりはGoogleとかディスコードなどの認証サービスを利用して作るっていうのがお勧めです。
もちろんこれだけで全て安全になるわけではなくて、メールアドレスとパスワードで使い回ししてる人も多いですよね。それを預からないっていうのはすごくすごく大事なことだったりします。
私も自分でまだ作ってないですけども、そういう会員サイトとか作るんだったら絶対にクレジットカードの番号とかメールアドレスとかパスワードとかを入力させてやるような仕組みのものは作らないようにしたいなという
ふうに思っています。
あとは決済も同じですね。さっきクレジットカードという話をしましたけども、ストライプという世界で一番大きな決済システム。これを使えばクレジットカードの番号そのものは自分のツールではサイトでは保存しなくて
いいんですね。
その分ストライプから3.6%とかそのぐらいの手数料取られちゃうんですけど、それでも安全料に比べたら全然安いです。本当に安心料にしたら安いかなと思います。また決済の仕組みを作っても決済が完了した人だけに
有料コンステンツを見せる仕組みみたいなものはまた別途きちんと確認しないといけないです。
なのでこの辺を考えて設計してAIに作らせるっていうところがすごく大事です。あともう一つスパベースっていう仕組みがあります。バイブコーディングしてると結構出てくるんですけども、これデータベースとして
便利なサービスになってます。私も使ってます。
ただ便利だからといって言われるがままに使っているとちょっと危険だったりします。このスパベースはRLSというデータを誰に見せていいのかを制限する仕組みがあります。ちょっとマンションを想像してほしいんです
けども、マンションの住人ってもちろん自分のお家に入ったりすることできますよね。
でも他の人のお家には入れない。データベースも本来はそうあるべきで、AさんはAさんのデータだけを見れる、BさんはBさんのデータだけを見られるみたいなふうにしなきゃいけないんだけども、この設定、RLS
09:08
の設定が間違っていると他の人の情報が見えてしまうことがあるそうです。
こういったことを私のUdemyコースでは取り扱って、わざと設定を間違えたデモアプリというのを作って、それをやって実際にどんなふうに情報が見えてしまうのかというのを画面を見ながら説明しています。
あともう一つだけ。ここまでは個人情報の話だったんですけども、特に気をつけていただきたいのがAPIの高額請求ですね。例えば、ChatGPTのクロードとかの20ドルとか100ドルのプランに入っていれば、
APIは使い放題ってわけではないんですよ。
通常の月額のプラン100ドルとか20ドルとか、それと開発で使用するAPIの料金っていうのは別になっていることがほとんどなんですね。APIっていうのは何かというと、使った量に応じて料金が発生するような重
量課金になっていることが一般的なんですけども、例えばAIを使って文章を生成するようなアプリを作ったとしますよね。
文章を入力すると全部ギャグになるとかね。そういうアプリを作ったとして、ボタンを一回押すとオープンAIのGPT6.1ソルが呼び出されるみたいな。そうすると数円とか数十円とか、ちっちゃいけどお金がかかって
きます。
一回なら問題ないんですけど、それが千回一万回という風に呼び出されたら大変なことですよね。実はですね、そういう例がありました。
海外の例なんですけども、世界の偉人とかだったかな。世界の偉人についての具体的なことを忘れてしまったんですけども、何かまとめサイトみたいなものを作っていて、
それはAPIではなくて、例えばクラウドフレアみたいな何回もアクセスされたりとかダウンロードされたりとかすると、それに応じて、回数に応じて利用金額が膨れ上がるみたいな感じのサービスを使っていた人が
いて、
それにね、オープンAIのまとめチャットGPTです。チャットGPTとクラウドから何万回何十万回という風にアクセスがあったらしいんですよ。多分学習の過程でアクセスをしたんだと思われますが、ちょっとそこは
ね、答えてくれなかったみたいです。
それで100万円だったか1000万円だったか忘れましたけども、すごい金額の請求が発生したというニュースがこの間流れてきました。他にも、それは自分の作ったオープンなサービスがものすごい回数使われてしま
ったというケースですけども、他にもAPIキーというのが流出してしまうということもあります。
12:01
このAPIキーが誰かに見られてしまったら、わずか2日間で1000万円を超える請求が発生したという事例もあるんですね。なので小さな個人で作っているアプリだから大丈夫だというわけではなくて、APIキーが絶
対に外部に公開されていない状態であることっていうのは本当に本当に大事です。
例えば、サイトの中に埋め込んでしまっているとかそういうこともありますし、GitHubっていうコードとかを管理できるクラウドがあるんですけども、そこにアップロードして、しかもパブリックに公開してしま
ったりとかすると、もう目も当てられないような状態になります。
多分GitHubとかは監視しているボットみたいなのがいるので、APIキーを書いてしまううっかりさんを探すためのボットとかがあるので、やられたら一発でアウトです。
そういうのの対策としては、利用料金の上限とか通知を設定することですね。ただサービスによっては上限の設定っていうのができない。ただ警告がメールで送られるだけみたいなものが結構あったりします。
クラウドフレアもそのタイプですね。なので必ずしも処理を強制停止するわけではないです。なので1回あたり、例えば1人あたり3回までとか、そういう利用回数の制限とかとも組み合わせて作ることがすごく大事にな
ります。
私のコースではオープンAIとクロードとジェミニのAPIだけではなくて、バーセルとかスパベースとかGoogleクラウドといったサービスの料金とか通知の設定についても解説をしています。そういうコースを作
ったんですよね。
ここまで聞いて、本当に情報量いっぱい過ぎて無理ですっていうふうに思われた方もいらっしゃると思いますし、私も結構そういうタイプなんですけども、バイブコーディングをやめる必要は全然なくて、AIを使って作
ったんだったら、安全性の確認にもAIを使えばいいんです。
例えばクロードコードにセキュリティ上の問題がないかのチェックをしてもらうということができるんですね。そういったチェックリストっていうのをこのコースではつけています。それをコピペしてAIに投げれば直して
くれるみたいな、そんなものを作っていますので、よかったらそういうコースを作りましたので、無料です。
しかも無料なので受けていただけたらと思います。タイトルはバイブコーディングのセキュリティ入門非エンジニア向けクロードコードで個人情報流出とAPI高額請求を防ぐ方法という1時間半ぐらいのコースになって
います。2倍速で聞けば45分ぐらいで受講できますので、よかったら受けてみてください。
このコースの特徴はプログラミングの専門知識がなくても理解できるように割と優しい言葉で書くようにしています。なのでコードとか一切出てきません。一切出てこないのでバイブコーディングでいろんなツールを開発
15:02
しているよとか、自分の趣味のツールを作っているよというような方がどんなことを確認すべきなのかとか、AIにどんな指示を出せば直してくれるのかとか、そういうことを学ぶことができる講座になっています。
内容は大きく分けて2つで、個人情報の流出を防ぐこととAPIの高額請求を防ぐこと、この2つに特化しているコースになります。
得点としてAIエージェントに渡して使える公開前のチェックリストとコピーして使える指示文集というのを用意していますので、本当にどなたでも使っていただけるような内容になっているかなと思います。
今だけ無料で受講登録できますが、ある程度受講者数が集まったらそこで有料化しようと思っていますので、今だけ席だけでもとっておいていただければと思います。
ぜひですね、APIの高額請求とか、個人情報漏れちゃったとか、そういう怖いことになる前に一度受けていただいて、それのチェックリストを使ってですね、自分のヘルスチェックをしていただければと思います。
概要欄にコースの無料登録ができるリンクを貼っておきたいと思います。
それではまた。
海野でした。
16:25

コメント

スクロール