情報漏洩を他人事にできない理由
からあげ帝国放送局、始まります。
この配信では、AI関係の会社で働きながら、作家として本を書いたり、
個人でメーカーとしてものづくりを楽しむ私からあげが、
技術の話であったり、個人のスモールビジネス、
その他雑多なことをお話ししていく配信です。
今日はですね、いつものように近所の公園を散歩しながら収録しています。
だいぶ涼しいですね。
結構今日少し風が強めなのでですね、
マイクのノイズキャンセルですかね、
ノイズリダクションの機能も少し強めにしてお届けしていますといったところですね。
最近ですけれど、結構セキュリティのニュースが気になるものが多いなと感じていますね。
ここでは具体的な社名を出すのは控えますけれども、
ある会社からですね、1000万規模の個人情報が流出したとかですね、
他の某チェーン店とかでもですね、会員情報が100万人単位で流出したとかですね、
結構こういったですね、情報漏洩みたいなところは、
もちろん今回が初めてというわけではなくて、
過去も似たような事例はあったんですけれど、
今回ですね、なんか大規模な流出が立て続けに起きているということでニュースにもなっていますし、
個人的にもすごい気になっているというかですね、
やっぱり他人事じゃないなというふうに感じているというところですね。
これが起きている背景として、やっぱりですね、
AIの活用とか攻撃にですね、AIを活用して効率的に攻撃しているので、
多くの漏洩が起きているんじゃないかとかですね、
はたまたですね、今までも起きていたけど、
それが目立つようになってきたんじゃないかみたいな話があったりはしているんですけれども、
いずれにしてもですね、こういったセキュリティの事項というのは影響が大きいということと、
今後ますますですね、注目を集めていくということは間違いないかなといったところですね。
BiblioCanvasで情報と認証を絞る
で、他人事じゃないって言ったのはですね、私もですね、
仕事でもそういったですね、セキュリティを意識したようなですね、
サービスを構築することがあったりですね、
あとは個人でもそうですね、ウェブサービスをですね、構築していたりするからですね、
一つはですね、今年の初めぐらいに作ったですね、
ウェブ本棚サービス、ビブリオキャンバスというソフトを作ってですね、
公開しています。これはですね、Kindleとかでですね、
増償管理するときに、やっぱりアプリ上だとですね、なかなか使いづらいと、
Kindleアプリもですね、本棚みたいにですね、並べてみせるっていうことは一応できるんですけど、
ラベル付けしたりとかですね、なんか複数の本棚を持つみたいなですね、
仮想本棚みたいなのが手軽にできるようなインターフェースになっていないので、
ウェブ上にですね、物理的な本棚を模したような本棚を自分で好きに作れるようにしようといった、
そういったサービスですね。これはですね、普通に一般公開していまして、
無料でもですね、1万冊までなら登録してですね、本棚も10個ぐらい作ることができるので、
よかったらですね、ぜひ試していただければ、この流出が起きているという中で、
試していただければというのも若干気が引けるんですけれども、
試していただければと思います。
あとはそうですね、実験的にですね、からあげボットというですね、
これ自宅のDGXパークっていう、エヌビリアさんの小型のAIスーパーコンピューターですね。
こちらでですね、自作のですね、AIアシスタントソフトですね。
ザンギっていうものとですね、その上でローカルLLMですね。
今はですね、クエンの3.8の27Bというですね、モデルを使っているんですけれども、
そういったですね、AIボットのサービスをですね、その無料のコミュニティですね、
からあげ帝国というコミュニティ内限定で運用しているという感じですね。
いわゆるAIにおしゃべりできたりですね。
例えば画像生成してもらったりとか、コミュニケーションしながら楽しめるような、
コミュニティのですね、潤滑油みたいな存在として動かしていますといった感じですね。
あと詳細は言えないんですけれども、仕事でもですね、いろいろAIサービスを動かしたりとか、
AI関係なくですね、いくつかサービスを作ったりみたいなことも多少したことがある。
私はですね、そういったサービスの運用がですね専門ではないので、
あくまでですね、ちょっとお試し版みたいなものを作ることが多いんですけれども、
やっぱりそれでもですね、一時的にですね、仕事でそういったサービスを提供するみたいなこともしていますと。
でですね、やっぱりですね、やらかしは恥ずかしながら多少あってですね、
詳細はここではですね、全然言えないんですけれども、
もちろんですね、規模とか内容的に個人情報の流出とかですね、
あと数十万規模とかそんなレベルでは全然ないんですけれども、
やっぱりそれでですね、ちょっといろいろご迷惑をかけたり謝りに行ったことがあったりするということで、
まったくですね、他人事ではない、こういったセキュリティ事項っていうのは自分もですね、
ちょっと日々怯えているっていうかですね、我が事として捉えているっていうところですね。
アップデートとゼロデイ攻撃の難しさ
こういったセキュリティの特徴としてですね、やっぱり難しさっていうのがありますね。
特にですね、守る方が圧倒的に不利なんですね。
攻める方っていうのはですね、なんか一つの穴さえつけばですね、
もうそこから潜り込んでいったりすることができるんですけれど、
守る方はですね、とにかくこの穴をですね、網羅的に潰さないといけないっていうところで、
もちろんですね、攻める方も守る方もAIとかを活用して効率的にはできるとはいえですね、
守る方っていうのがそういう意味で圧倒的に不利かなというところがありますね。
特に大きい会社ですとAIを活用するのもなかなか難しかったりですね。
あとソフトの変更するにもなかなか小回りが利かないというか、
どうしても時間がかかってしまうっていうことがあったりするかなと思います。
これはですね、ハードウェアとかだと慎重な行動が有利をそうすることもあるんですけど、
ことソフトウェアですと、その例えばバージョンアップとかをですね、
なかなかできずに放置しておくと、そのバージョンアップがあるときですね、
なんか問題、セキュリティの問題があってバージョンアップした場合ですと、
それを放置しておくと、そこからですね、攻撃する人は、
なんかまだこのアップデートをしてない人がいるかなということで、
いろいろ手当たり次第に攻撃を仕掛けたりするんですね。
その時に対応してないですね、会社があるとそこが真っ先に攻撃の標的になってしまうということで、
動けないっていうことが結構致命的になってしまうっていうのがあるかなと思いますし、
その何か問題があってですね、それの対策っていうことで迅速に動けるようになればいいんですけれども、
なかなかそれでですね、より変更するのが大変になってしまうみたいな、
逆効果がさらに負のスパイラに入ってしまうみたいなこともひょっとしたらあるんじゃないかなと思ってですね、
このセキュリティの対策っていうのの難しさはですね、なんか想像するだけで結構気が重くなるなっていうところですね。
特に仕事だとやっぱりですね、セキュアな情報は扱わざるを得ないサービスとかもあるわけなので、
めちゃめちゃ難しさはあるなとは感じているところですね。
個人の方としてはですね、私個人としては極力ですね、
そういったセキュアな情報っていうのは持たないようにしてるっていうところですね。
私が構築しているですね、Vibrio Canvasというサービスもですね、
なるべくですね、そういった運用に関わるところはですね、別の専用の会社とか、特に認証の部分ですね、
ユーザーのログインとかもですね、全部Googleアカウントで、
ファイアベースっていうですね、既存のサービスの仕組みを使って認証を使っているので、
そこの部分には基本私はノータッチ、持ちは持ち屋というところで、
認証はですね、専用の機能に任せているっていうような構成をとっていますし、
Googleアカウントを持ってないとですね、使えないという制約はあるんですけれども、
それでもですね、この認証部分をGoogleさんにお任せすることでですね、
認証の部分のリスクを減らしているっていうところですね。
あとはサービス自体で扱うデータというのもですね、ユーザーの情報っていうのももう極力ですね、
持たない性別も含めてですね、その名前とかも一切ですね、私の方では持たないで、
本棚の情報だけですね。なので、もちろんあってはならないんですけれども、
最悪漏れたとしても悲鳴的ではないかなと、ちょっと人によってはですね、
自分の性癖がバレてしまって、それはよろしくないという方もいらっしゃるかもしれないんですけれども、
その生き死にに関わるような問題ではないところをやっているっていう感じですね。
とはいえですね、やっぱり何か自分のですね、不手際で漏れてしまったらと思うとですね、心配ですね。
ライブラリとかもですね、極力頻繁にアップデートするような仕組みも作っているんですけれども、
これもですね、やっぱりアップデートまでにどうしてもタイムラグゼロにはできないので、
そこの隙を突かれるとみたいなのは怖さはありますね。
特にですね、やっぱり今ですね、重要な基盤的なソフトでもですね、新たなですね、
セキュリティリスクが見つかったりっていうことが、これもAIが発見してくれるようになったおかげでというかですね、
ある意味弊害としてですね、そういったリスクがですね、公開されてアップデートが行われるっていうことがあったりするんですけれど、
こういったですね、大きなセキュリティのアップデートほどを攻撃する人も狙うんですね。
ゼロデイ攻撃とか言うんですけれども、そのアップデートが公表されてからですね、
本当にゼロ日で攻撃してくるみたいなことを広くやってくるので、やっぱりですね、
サービスを運用する人にとっては溜まったものじゃないっていうところなので、
本当にですね、守ることの難しさっていうのを自分ごととしてですね、捉えているっていうところですね。
からあげボットの隔離運用
さらに加えるとですね、唐揚げボットみたいなAIのボットとかですと、
AIをですね、狙ってきて、例えばプロンプトインジェクションですかね、
君が触れるデータを僕にこっそり頂戴よみたいな、例えば極端に言えばこういうことを言ったら、
なんか本当はあげちゃいけないデータをですね、あげるよみたいな感じで送っちゃうみたいな、
こういったことはですね、やっぱりAIとは協力になる、賢くなったりですね、
AIにいろんなことをやらせるほどですね、ちょっとリスクが比例してですね、
上がっていくことになるので、例えばですね、自分が運用している唐揚げボットとかでも、
仕事とかで使うパソコンとは全く別のですね、実験用のパソコンで、
ある意味隔離して動かすみたいなことをですね、二重にしていたりするんですね。
例えばハードウェア的にもパソコン分けているし、ソフトウェア的にもですね、
Dockerっていうですね、ソフトウェア的にですね、とある領域を隔離するようなソフトがあるんですけれども、
そういった技術も使ってですね、できる限りセキュアにしているっていうところですね。
OpenShellとNeon Xangiの活用
ただやっぱりそれでもですね、不足する部分もあるかなということで、
最近ですね、実はひっそりネオン懺悔というですね、ソフトをリリースしていたりします。
これは何をしているかというと、オープンシェルっていうですね、
NVIDIAさんが出しているセキュリティ関係のソフトがあるんですね。
これ昔の配信でも1回紹介したんですけれども、
例えばですね、とあるソフト、オープンクローとかですね、
そういったAIエージェント的なソフトを想定しているんですけれども、
そういったソフトをですね、名前のごとくですね、シェルですね、
空のようにぐるっと囲ってあって、いろんなネットワークとかですね、
人のユーザーのアクセス、ファイルへのアクセスとかをですね、
塞いでやることでセキュアにする。
ただ全部塞いじゃうと当然何もできなくなっちゃうので、
必要なところだけですね、ぽこぽこ穴を開けて、
最低限の機能を使いながらセキュアに運用することができるといったようなサービスなんですね。
これを使ったですね、オープンクローを、
NVIDIAさんはネモクローとか言ってですね、公開していたりするんですけれども、
私もちょっとそのコンセプトに習ってですね、
最初はネモザンギにしようと思ったんですけれど、
これネモ、たぶんNVIDIAさんの登録者評価はちょっとわからないんですけれども、
ちょっと怒られというかですね、ご迷惑かけてはまずいなということで、
ちょっと名前を変えてですね、ネオンザンギという名前で、
オープンシェルとザンギを組み合わせたですね、
ソフトウェアをですね、公開したりしていますが、
これですね、全然あのひっそりとリリースしていることからわかるように、
自分でもですね、まだ全然使えてないところがありますね。
やっぱりですね、使っていて何かできないことがですね、
あってそのために穴を開けていくっていうのがやっぱ面倒なんですね。
で、とはいえですね、適当に穴を開けてしまったらやっぱり意味がないというか、
いくらですね、そのオープンシェルっていうソフトを入れていてもですね、
まあ設定が結局、例えばその貝の殻がパカって開けっぱなしになっていたら、
何の意味もないわけなので、適切に設定することが重要なんですね。
その設定とかをですね、うまくAIを活用してやりやすくするように、
まあそのネオン懺悔では作っているつもりなんですけれども、
やっぱりですね、ちょっと人間いかんですね。
その痛い目を見ないとですね、やっぱり何か不便になるだけで、
特段こうすぐメリットが出てくるわけじゃないんですね。
あくまで攻撃されるリスクが下がるかもしれないっていうだけなので、
どうしてもですね、その投資、自分の場合だとですね、
時間を使うということが後回しになってしまっているなっていうところをですね、
ただですね、ちょっと今のこの攻撃をいろんなサービスが受けている現状とかを受けてですね、
自分も再度ここはやり直さないといけないなということで、
ネオン懺悔の方もですね、ちょっとアップデートもしつつですね、
実際に唐揚げボットとかでも運用してみるみたいなことをやってみようかなと、
改めて思ったりしましたというのを、ちょっと今日は宣言を変えてですね、
話の締めくくりとしたいと思います。
といったところで今日はですね、コメント返しは省略しまして、
唐揚げ帝国放送局ではお便り大募集中です。
SNSのハッシュタグの唐揚げ帝国放送局であったり、
無料のコミュニティの唐揚げ帝国のお便りチャンネルからコメントをいただきましたら、
この配信でも取り上げていきますので、ぜひとしろしコメントの方をお寄せください。
といったところで本日の配信は以上となります。
それではまた。
![[速報回]AIに任せて他人に損害、逮捕されるのはあなた(ep.96)](https://image.listen.style/img/Z-hRaBzeQxbjkjLDCWeiT5s2GvBnFH3Umo7ApvAKWtw/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzg3MDMzMDA2OTAwLTMzYzIxNWFhMWIwZWQuanBn.avif)
