AIを禁止することで生まれるシャドーAI
こんにちは、遠藤克樹です。 久野勝也の「労務の未来」久野先生、よろしくお願いいたします。
さあ、ということで、今日も行きたいと思いますが、今日は、社会保険労務士法人、東海さんで収録ということで、超巨大画面をつなぎながらやっておるんですけども、ということで、リアル収録よろしく
お願いします。
という中ですが、リアルなのにもかかわらず、テーマはサイバー。
サイバー。今度、広島県の社会保険労務士会で、福山支部、福山で。
え、福山ですか。
福山城から福山です。
福山って井上健一郎先生で、組織マネージメントの出身で。
福山なんですか。
他にも福山出身の人、やたら周りにいるんですよ。
福山って何かあるんですよね、常に縁が。
あの福山ですね。
福山に行って、なんとAI活用のセミナーを、広島県会の方向けにやるんです。
せっかくなんで、その話を共有したいなと。
ちょうど配信される頃には、講演が終わっている頃からということですね。
AI活用におけるセキュリティの守るべきこと。
一応三部構成で、私が喋った後に、事例をうちのメンバーとか、セキュリティをうちのメンバーが話すみたいな、三段階で。
三部構成ですね。
一応今、セキュリティがいろいろ問題になっているじゃないですか。
セキュリティの話をしたいなと思っていて。
AI活用のセキュリティの超基本みたいな話ですけど。
いいですね。まず抑えるべきことですね。
特に始業事務所なんて言っても、ドハマる内容ですよね。
そうなんですよ。今、情報漏洩が多いので、もうやめようかなみたいな人も多いと思うんですよ。
もうやめようっていうのは、経営を。
いやいや、AIを。
やめたら本当に終わっちゃうので、いろんな意味で。
どう安全に使っていくかっていう話。
そっか、でも話の前置き長いですけど。
そもそも、AI使うのやめようかの方に振っちゃうのもあるのか。
いや、多いですよ。
意外と世の中って、びっくりすることがいっぱいあって、
AI使いこなしている大企業が多そうに思えるじゃないですか。
僕の付き合っている感覚だと、禁止されている人が圧倒的に多いですよ。
大企業?
大企業で。使うなって言われてますとか。
でも仕事で使えないから、本当に個人のどこに行こうとか、そういう程度しか使えない。
使えないのと、問題になっているのは、シャドウAIって知ってます?
知らない。シャドウAI?
シャドウAIってこれ一番リスク高いと思うんですけど、
会社のアカウント渡さずに個人のアカウントを使ってやってるんですよ。
会社で使うなって言われてるけど、使った方がパフォーマンス上がるじゃないですか。
でもさ、絶対そうなりますよね。
カンニングみたいな感覚でしょ?
こっそり使うっていう。
だから、禁止なんかしない方がいいと思うんですよね。
逆にね、セキュリティを高めて。
そう、個人アカウントでやらせた方が危ないんで。
それをシャドウAIって言うんですか?
シャドウAI。
なるほど。でもすごい納得しますね。
なりますよね。
なんか全然関係ないですけどね。
今日は関係ない話で話してください。
Claudeエンタープライズ版のコストと管理機能
本題に入る前に、クロードってあるじゃないですか。
クロードって個人で使ってる方多いと思うんですけど、
うちはずっとチームで使ったんですよ。
クロードチームっていうのがあって。
チームで使うと、例えばコワークとかのプロジェクトを共有したりだとか、
そういう色んな共有機能があったり。
どれだけ使ってるかとか色々見れますよね。
そうなんですよ。
で、何を持ったか10月にエンタープライズにしたんですね。
エンタープライズにすると、ログも分かるし、共有もさらにしやすくなるし、
色々連携できるMCPとかも増えるんですよ。
そしたらですね、めちゃくちゃコスト上がりまして。
AIの固定費って意味でのコストが。
固定費がやばいですね。
これ興味ないかもしれないですけど、
チームって時間が近いんですよ。
アカウント10個作りましたっていって、
1人当たり何時間みたいな制約があって、
その時間我慢すればまた使えたりするんですけど、
単純にエンタープライズは、まず20人が最低ロットで、
1年分まず仕上がった後にフルトークンで課金してくるんですよ。
トークンオンリーで課金になるので、
社内で何が起こっているかというと、
これは俳句でやろうとか、これはオーパース使おうとか、
フェーブルはやめとけとか、そういう話でしょうもない議論になってて。
使った後に蓋開けて金額がやっと上がるみたいな。
そうなんです。
すごい金額いくのにすぐに上限いっちゃって。
弁護士相談でよく分からない状況になっている時に近いですね。
これ終わった後課金いくらくるんだろうみたいな。
そうなんですよ。
しかも自分でどのモデルがいいかというか、分からないじゃないですか。
分からないですね。
かといって両方試したらまた金がかかりますし、
こっちの方がいいなとか言っている場合じゃないので。
エンタープライズ版契約しているんですね。
エンタープライズやりましたら、2週間くらいしか経っていないのに、
初期費を一旦置いておいて、20人で使って、
もう40万くらい。
40万!?
初期費用は別ですからね。
エンタープライズって初期費用はどうなっているんですか?
初期費用は20人で80万くらいです。
あれチームのやつって確か5人最低ロットで、
基本的には個人とあまり変わらず最低ラインだと3,500件くらいかける人数くらいでしょ?
人数くらい。そうなんですよ。
全然次元が違うんですか?
もう次元が違う。なので契約される前によく考えて。
よく考えてくださいよ。
やってみて。
やってみて。何でもやってみちゃうから。
こんながガンダムみたいな。
どうなんですか?結果パフォーマンスとかアウトプット的なものとか。
やっぱエンタープライズだなみたいな。
セキュリティー考えたら絶対エンタープライズだと思う。
エンタープライズすごいのは、この人にはコードアーク使わせないとか、
この人はコード使っちゃいけないとかもできるので、
確かにセキュリティーはいいので。
それはセキュリティーとして管理をすることに徹底した場合ですよね。
ちゃんと使わせてたら、単純に金額がボコボコいくだけの話でもある。
攻めの部分に関してはチームの方が絶対コスト高いですね。
結局何のためにエンタープライズしたんですか?
セキュリティーです。
そっちなのね。一応大丈夫だね。
目的には…
お客さんには一応、私たちは安全安心に金かけてますよっていうアピールは。
これそのうち東海値上げしそうで怖いな。
クロード分が乗っかってくる。
まだ半月月ですからね。
そうなんですよ。
AIセキュリティの基本は侵入防止と被害限定
この話をした上で、
今日は最低限抑えておくべき、
AIを入れる上でのセキュリティーの考え方。
もう終わりそうですけどね。
時間使いすぎて終わらないかもしれない。
次回ですか。
ちょっと触りだけやりましょう。
やりましょう。
善用だけ。
一応、AI、冒頭話しましたけど、
怖がって禁止するのじゃなくて、
消し方を知ってというか、
安全に使うみたいなのが原理原則かなと思ってて。
なので、安全な使い方を今からレクチャーしたいなと思ってて。
次回ですかね。
万が一の時に消し方を知っておくと。
消し方?
これ今ここで掘り下げちゃいけないかもしれませんが、
消し方ってなんだろう?
あるんですね。
それあるんですよ。
意外とマニアックなことあるんで。
一応今、情報漏洩やばいじゃないですか。
AIの情報漏洩ってどんな感じなのかというと、
IPAが重大脅威2026っていう、
IPAってわかりますよね。
情報セキュリティーの団体みたいなところが言ってるのが、
1位がランサム攻撃による被害と、
2位がサプライチェーンや委託先を狙った攻撃みたいなのが、
1位、2位なんですよね。
3位がAI利用のサイバーリスクみたいな感じで、
ただ攻撃は全部AIがやってるっていうのが、
一番のところかなと思いますけど。
これAI利用を巡るサイバーリスクって、
AIでやってるって意味ですか?じゃなくて、
AIを使うことでやられちゃうってことですか?
AI、いろんな側面があるんですけど、
AIを使っている中で突然、
今のところまだAIの、例えば、
アンソロピックの中からデータ漏れたってことはない。
出てないですね。
出てないんですけど、実際に、
AIにいろんなデータアクセスさせるようにしていくと、
もし万が一何かあったときに出てってしまうとか、
あと、クロートとかだとコアークとか、
あと今、チャットGPTもそういう機能出てますけど、
ローカルのホルダーとか指定して、
それで、AIエージェントを動かすことができると思うんですけど、
そこの設定とか間違うと、
間違ったデータを人に送っちゃうとか、
そういうようなことはあるよね、みたいなところで。
あった意味でのサイバーリスクですね。
そういったところですね。
セキュリティ2つ視点を持ってもらって、
基本ですけど、
侵入防止と被害限定というところで、
当たり前ですけど、侵入防止って何かというと、
AIとかに、そもそも例えば、
一番まずいのはIDとパスワードを盗まれるのがまずいので、
めちゃくちゃ当たり前ですけど、
パスワードとか二要素認証とか、
あと許可したAIだけ使うとか、
怪しいリンクを開かないとか、
そういう侵入防止という観点と、
あと被害限定は、
よく皆さん、漏れない前提で色々組みたがるんですけど、
漏れても小さく消せると。
入れる情報を絞るとか、
設定で外部露出を止めるとか、
消し方を知っておくとか、
設定ミスとうっかり入力による漏洩事例
今だとあれですよね、
本当はタイムズとかがありましたけど、
辞めた人の情報とか、
ああいうのを本当は消しておかなきゃいけないですよね。
でもあれ、外残ってそれで出ちゃったみたいな話だしね。
そういう被害に遭う前提も、
ちょっと持っておいた方がいいよね、みたいな。
大会をしたら消してくれてると思ったらってことですよね。
そうですね。
でも事業者側からすると、
リストを持っておきたいみたいなのもあって、
でも多分消せないんでしょうね。
社同市事務所もあるんですけど、
意外と解約して、
データ消しますよと約束してて、
実際消すと後から問い合わせくるんで、
現実的には若干持たさせてもらってるところがあったりとか。
いや、ありますよね。
消したら消したら怒られるし。
いついつまでにダウンロードしてくださいねって言うと、
ほとんどお客さんはしてなかったりとか、
そういうのは結構ありますね。
結果それが繋がると。
そういうのもありますというところで。
最近、事例だけ話して一旦次回に詳細を持っていきたいなと思うんですけど、
最近のAIとかで漏洩してる事例って、
あんまりAIの事例よりは全然、
AIのサイバー攻撃の事例が世の中的には多いんですけど、
結構、個々の会社見ていくとミスってありまして、
例えばサムスン電子なんかだと、
エンジニア側の機密情報を誤って入力したと。
どういう感じかというと、
エンジニア側の機密のソースコードなどをチャットGPTに入力して、
それで社内で生成のAIの利用を禁止してたにも関わらず、
チャットGPTに入れたことによって、
そこが学習しないような設定にしとかなきゃいけなかったのに、
学習してしまった。
チェックを外してなかったんですね。
あれね、結構気を付けなきゃいけないのは、
個人アカウントとかだと勝手に規約変わるときに外れちゃったりとか。
気づいたら?
気づいたらとか。
設定変えてて戻ってるみたいなことがある?
戻ってることがあるらしいんですよ。
法人版なんかだとかなり制御とかできるので、
そういったところを気を付けなきゃいけないんじゃないかみたいな話がありまして。
ライザップ事例と第三者委託の規約
よく言われるシャドーAIっていう。
さっき言われてたやつですね。
ライザップの事例なんですけど。
知らない、ライザップさん出てるんですか。
AIに顧客情報を入力したみたいな事例がありまして。
何に使ったんですかね。
いろいろ管理するときとかによかったのかね。
でも2026年9月3日の公表事案で、
1万9千人分くらい。
そういう話?
ただ、外に漏れてないんですよ。
要は会社が許可してないAIのチャットGPTとか、
ジェミニとかあると思うんですけど、
そこにデータを読ませただけなんですよ。
アップロードしただけ?
なんでこれ事件化したんですか。
システム検知してるので。
ここの事案って意外と難しいんですけど、
例えば個人情報を預かるじゃないですか。
それを社内のサーバーに入れるんだったら、
委託にならないんですけど、
AIの中のクラウドサーバーとか、
外部のボックスとかに入れるっていうのは、
一応第三者委託になるんですよ。
第三者委託をしてないデータを入れたとか、
そういう観点で、
会社として誠実に公表したという感じだと思うんですよ。
なるほどね。公表してこれが発覚したってことなんですね。
だからAIに入れますよっていうのを、
規約とかに書いておかなきゃいけないんですよ。
なるほど。
個人のサービスとかでも、
規約変わってると思うんですけど、
やっかん読むと、
規約なんて適当じゃないですか。
とんでもない量ですからね。
だいたい書いてあるのは、
AIで解析することがありますよとか、
マイナンバーを除いた個人情報、
生年月日とかを、
AIに読み込ませて、
マーケティングの目的で使用します、
って書いてあるんですよ。
そういうのはなかったというか、
なのに、そうした形だったので、
誠実に公表したっていうのが、
この回の経験だったんですね。
そういう感じだと。
でも2万人分弱ってことは、
現場でやってるっていうよりも、
きっと管理部門系が、
まるっとデータを入れちゃったんですかね。
そうですね。
個人で使う外部の生成アイに、
集計作業中に誤ってアップロードしてしまって、
会社しっかりしてるので、
システムの検知とか、
発覚のきっかけは個人の申告で、
ちゃんと、
自己申告か。
行き出しが高い方がやってるので、
まずかったということで、
学習には使われてないということで、
とりあえずことなきを得てるみたいな、
こういうのが問題になってるよね、
みたいな感じです。
ですね。というわけで、
セキュリティの大枠と、
激しいヨタ話を、
させていただきましたが、
次回は具体的に何に注視しなきゃいけないか、
という話を、
していただきましょうか。
消し方って気になりますので、
楽しみにしております。
ということで、今日のところで終わりたいと思います。
くの先生、ありがとうございました。
本日の番組はいかがでしたか。
この番組では、
くのまさやの質問を受け付けております。
番組内のURLからアクセスして、
質問フォームにご入力ください。
たくさんのご質問、お待ちしております。
