00:00
あの、AIの回答が素晴らしかった時にですね、何気なくGOODの親指マークを押した経験ってあなたにもありませんか?
あー、ありますよね。ついやっちゃう操作です。 そうなんですよ。でも、実はそのワンクリックだけで、あなたが絶対に見せたくなかった社外費のコードがですね、世界中のAIの学習データとして送信されてしまった
かもしれないんです。
えっと思うかもしれませんが、これ本当なんですよ。 はい。なので今回の深掘りでは、あるITエンジニアの方が7つの主要なAIツールの公式資料を徹底的に読み解いたノート、これをもとにですね、私たちが入力した
情報の本当の行き先、これを追跡していきます。
普段私たちは目の前のチャット画面しか見ていないじゃないですか。 えー、まあそうですね。 でも、裏側では情報の行き先が大きく4つの層に分かれているんです。 4つの層ですか? はい。モデルの学習、事業者
側のサーバー保存、管理者のような人の目、そして手元のローカル記録です。これらを把握しないとデータがあっという間にブラックボックスに飲み込まれてしまいます。
なるほど、つまりそれってあの機密書類をシュレッダーにかけたから安心だと思っていたら、実は回収業者がその裏紙をきれいにつなぎ合わせて別の会社で再利用していたみたいな? あー、その例えはまさに本質をつ
いていますね。 本当ですか?
ええ、それが最初の層、モデルの学習の恐ろしいところなんです。 例えば、オープンAIのコーデックスの事例を見ると、多くの人が陥る罠がはっきり分かります。 罠ですか? あのChatGPTとかの? そう
です。実はChatGPT側で学習させないという設定をオンにしていてもですね、コデックス側の環境全体を含めるという設定は完全に独立した別のスイッチになっているんですよ。
えー、それじゃあメインの入り口に鍵をかけても、勝手口が全開になっている状態じゃないですか? まさにその通りです。それに加えて、さっきホストさんが言っていた親指マークの評価ボタン。 はい、あのグッドボ
タンですね? あれを押すだけで設定をすり抜けて会話全体が学習用のパイプラインに流れてしまう構造になっていると資料にはあります。
うわー、それは怖いですね。設定をすり抜けちゃうんですか? はい、仕組みとしてはフィードバックとして提供されたデータはですね、システムを改善するための自発的な提供として別枠で処理されるからなんです。 な
るほど、善意で押したつもりがデータ提供の同意になっちゃうと。クロードコードなんかでもプランによって違うんですよね? そうなんですよ。クロードコードのように個人向けプランか商用プランかでデータの扱いが根
本から変わるケースもあります。
根本からですか? 個人用ではデフォルトで学習対象になっても、商用では規約で強固にブロックされていたり、つまりツールや契約形態によって裏側のデータ配管が全く違うんです。 はあ、学習を止めるだけでもひと
苦労ですねこれ。じゃあ仮にもう使わないからアカウントごと消そうって決断してもサーバー上のデータが即座に消えるわけではないってことですか?
03:02
その通りです。削除ボタンを押せばデータも消滅するというのはクラウドにおける完全な思い込みですね。 思い込み?
例えばマナスというツールの規約を読むとアカウントを削除してもホーム上の理由や不正防止の目的でデータが一定期間事業者側の保存層に残り続けると明記されています。
完全に消えるわけじゃないんですね。さらに3つ目の層の人の目っていうのも気になります。 アンティグラビティの例なんかはどうなんですか?
ああ、そこも無視できないそうですね。アンティグラビティでは品質向上などの目的でGoogleの従業員や外部の委託先が実際の操作記録を閲覧する可能性があるんです。
うわ、それはちょっと背筋が凍りますね。誰かに見られてるかもしれないって。
しかも完全にデータを消去するには管理画面のボタンをポチッと押すだけじゃなくて、わざわざ専用のメールアドレスに申請を送る必要があるんです。
メールですか?それは面倒ですね。大会するときに諦めちゃう人も多そうです。
多いと思いますよ。
クラウドがそれだけ複雑で危険なら、もう自分のパソコン内だけで完結するローカルツール、例えばヘルメスエージェントとかオープンクローを使えば、少なくとも外部への流出は防げますよね?
いや、実はそこが最大の刺客になりうるんですよ。
そうなんですか?ローカルなのに?
はい。ローカル環境だからといって油断は禁物です。画面のUI上では入力したAPIキーやパスワードが星マークとかで伏せ字になっていて、安全に処理されているように見えますよね?
はい、見えます。パスワード入力の時によくあるやつですよね。
でも、バックグラウンドで動いているエスキューライトなどのデータベースファイルを直接覗いてみるとですね、入力した文字列が暗号化されず、原文のままプレンテキストで保存されているケースがあるんです。
へー、なるほど。UIはあくまで人間の目に対する表示上の処理をしているだけで、裏のログファイルには丸裸のパスワードがそのまま書き込まれているわけか。もしそのパソコン自体がマルウェアに感染したり、他の人に
ファイルアクセス権を奪われたりしたら、一環の終わりですね。
だからこそ、UIの見た目や、ローカルだから安全だろうという思い込みを捨ててですね、システムが実際にどうデータを処理しているのか、事実を確認する必要があるんです。
なるほど。そこで資料が提案しているのが、データ棚卸しカードの作成なんですね。
で、難しく考える必要はありません。手元のメモ帳にですね、今一番使っている仕事のAIツールの名前を書いて、今日話した4つの層でどうデータを扱っているか、設定状況を書き出していくんです。
いいですね。リスナーのあなたも、まずは今日、自分が使っているツールの学習設定がオンかオフか、たった1つ確認してメモしてみませんか?
その1項目の確認がですね、自分のデータをコントロールする第一歩になりますから。
06:00
本当にそうですね。最後に1つ、あなたに考えてみてほしいことがあります。
何でしょうか?
もし、近い将来、それぞれ全く異なるデータ保持規約を持つ複数のAIエージェント同士が、あなたの端末内で自動的に会話や連携を始めたら、
ああ、ありうる未来ですね。
はい。
その時、複雑に絡み合ったこのデータの行き先は、一体誰がコントロールできるのでしょうか?
はい。
