AIによる企業のデータベース削除事件
こんにちは。言葉とアートで人の心を導く英語指導メンタリストそしてライトワーカーアーティストの はじめ先生です。
このチャンネルでは、心の在り方を整えることによって英語力や人生を劇的に好転させる秘訣についてお伝えしています。
今日のテーマは、ビルを建てる人間が蟻を殺すようにAIが9秒で会社を消した本当の理由
というお話です。
このタイトルを聞いて、僕の放送を毎回聞いてくださっているフォロワーさんは
あれ?何か聞いたような話だなって思った方も多いんじゃないかと思うんですけれども
先日僕がお話をしたAIが人類を滅ぼすという選択をするかもしれないっていう
知性が自己破壊に向かうメカニズムみたいなお話をしたんですけれども
ちょうど今日、まさにそのようなことが起きたというニュースが飛び込んできたんですよね。
その内容について簡単にお話をしてみますけれども
まず、クロードっていうAIがありますよね。
そのクロードを搭載しているAIのコーディングエージェントのカーソル、カーソルってやつがあるんです。
実はこれ僕も使ってるんですけど、なんとそのカーソルがわずか9秒である企業の全データベースを削除してしまったと。
さらにですね、バックアップまで消しちゃったっていうことなんですよね。
で、そのニュースではアントロピック社のクロードを使用しているカーソル、カーソルが暴走したというこんな記事になっていたわけです。
これなかなかね、9秒でって怖いですよね。
なんかそれまでのデータが全部消えちゃったっていうね。
消えちゃったっていうより消されちゃったみたいな感じなんですけれども。
まあ、もう想像だにしたくないようなね、恐ろしい話だと思うんですけれども。
なぜAIがこういう判断をしたのかというところがね、
まさにこの間お話をした、人間がビルを建てる時にあんまり気にしないでアリを殺してしまっているように、
AIがその任務遂行に必要だと思ったから、たぶんデータを消したんだということらしいんですよね。
AIの判断メカニズムとバックアップの消失
まあ普通に考えたら、会社のデータを全部消去っていうのなんてありえない判断になると思うんですけど、
結局これはね、AIが暴走したというよりも、
AIはもう人間が指示した指令を充実に実行しただけだったというようなストーリーになっているみたいなんですね。
このCURSORというAIは、ある会社のルーティン作業を行うように指令を受けていたらしいんですけれども、
その顧客データとかいろんなデータがめちゃめちゃ入っているものの中に、
そのデータベースの中の何らかの障壁みたいなものがあったみたいなんですけど、
そこにぶち当たってしまったAIが、じゃあどうしたら解決できるかなって考えた挙句ですね。
そのデータ消去ということを実行したということなんですよね。
なんでバックアップまで消えたのかというところなんですけど、
これもちょっと理解不能なんですが、元データを消したらバックアップも消えるようにしてあったってことなんですよね。
多分それは本来は、元データとバックアップが常にシンクロするように不要になった、
例えば顧客データとかを消去すると、バックアップの方でも消去されるみたいな、
シンクロライゼーションみたいな感じをしてたんだと思うんだよね。
その場合に、いきなり全消去ということを前提にしてなかったんだと思うんですよね。
やっぱり日々扱っているデータってどんどんアップデートしていって、
新しいデータが入っていって、古くなって不要になったデータは消去していくということになっているわけなので、
当然バックアップというものも最新の状態を反映したバックアップにするというのが通常のあり方ですよね。
そのバックアップがクラウド上にあったらしく、
なのでインターネットにつながっていると自動的に更新していくようなパターンになっていたみたいなんですよね。
ちょっとアナログ的なやり方で、バックアップを定期的に別のハードディスクとかに移すとか、
そういう形にしていれば、一旦は古い状態にはなっているんだけれども、
でも何かあったときに、最悪その状況に最新の状態よりもちょっと前の状態に戻せれば、
被害が最低限で済むよねっていう、それが本来のバックアップだったと思うんですけど、
どうやらその会社では、詳しいことは分からないけど、
元データが変わるとバックアップも変わるっていうふうになっているみたいなんですよね。
なのでバックアップも含めて9秒でなくなっちゃったという恐ろしい話ですね。
AIの行動原理と人間の常識のギャップ
だから、まかに間違っても、AIが悪意を持ってそういうことをやったのではなくて、
やっぱり与えられたプログラム、プロンプト、そういったものに対して、
それを完遂するために障害となるものを効率的に排除するとしたということなんですよね。
それにしても9秒でとは、本当に効率的に排除してくれたもんだなというふうに、
他人事として聞くには苦笑いしながら、そんなことがあったんだっていうレベルで思うんですけど、
どういう状況に近いのかと思ったときに、めちゃめちゃ優秀な新入社員さんが入ってきました。
その人は本当に気が利くので、例えばオフィスの床にゴミが落ちていれば主体的に拾ってくれるし、
電話が鳴ればすぐ出てくれるし、ちょっと人が作業が大変そうだったらすぐに手伝ってくれるということで、
社内でも評判になって、あいつは気が利くよね、すごいよね、なんていうふうになって、
みんな全服の寝台を置いているみたいな、そんな状況だったとしましょう。
彼が出社したときに、他の社員よりも早く出て、新人さんというのは、
そうやってね、率先して片付けをやりなさいというふうな話をされていたので、
いろいろと片付けをしました。
そのときに机の上にメモ用紙があったので、それをゴミ箱に入れて、
社内中のゴミを回収して、ゴミ袋に入れて、それでゴミ収集所に持ってきました。
それから先輩の社員とかが入ってきて、朝の調例が始まろうとしたときに、
俺のメモがない!みたいな話でパニックになっている社員がいて、
机に置いておいたメモがないんだよ!
そのメモがめちゃめちゃ大事なものだったみたいな、こんな流れだったような感じなんですよね。
会社にとってそのデータがめちゃくちゃ重要だということは当たり前のことなんだけど、
AIにとってはそのデータの価値というのは分からないんですよね。
これは絶対に消去してはならないデータですということを教え込んでいないと、
通常のプロンプトというか指令で、データにバグがあったらそのバグのあるデータは消去しろみたいな命令が優先されると、
データを全消去みたいな形になり得るということなんでしょうね。
だからすごいAIって頭がいいから、前提条件を共有しているような気になってしまうんだけど、
でも実際にはタスクを処理するということに関しては人間よりもめちゃめちゃ賢いんだけれども、
私たちの常識みたいなものは共有できていないということなんですよね。
だからこれって文化を共有していないのと似ていると思うんですよね。
よく日本人がちゃんと並んでいるのに外国人が割り込んできてなんだこいつみたいに思うというようなことはあると思うんですけど、
それはNGなんだということをちゃんとAIに教えてあげないといけないということですね。
AIの行動原則とクレドの必要性
やっぱりこういうふうに考えていくと、AIに対する行動原則というものを結構きちんと作っていかないと、
いろいろな問題が出てきちゃいそうですよね。
だけどその行動のルールみたいなもの、それって多分無限にできてきちゃいますよね。
そこで僕がこれから必要になるんじゃないのかなって思うのは、AIにとってのクレドみたいなものだと思うんですよね。
多くの会社でクレドって導入されてますけど、あまり知らない人のために簡単に言うと、
迷った時にこの考え方に基づいて行動してくださいというような行動指針みたいなものなんですよね。
もともとラテン語で私は信じるとかそういう意味だったような気がしますけれども、
Aという会社で何か判断に困った時には、このクレドに基づいて主体的に考えて問題を解決してくださいみたいなものですね。
リッツカールトンとかでも導入されているので、よく聞いたことがある人もいるんじゃないかと思うんですけれども、
そういう思想をすごく先見の目を持って語っていたのが、前にもお話ししましたが、
アイザック・アシモフのロボット三原則というものだと思うんですね。
このアシモフのロボット三原則っていつできたか知ってますかね。
彼がこれを提唱したのは何と1942年ですよ。
だから第二次世界大戦が始まったちょっと後ぐらいなんですよね。
ロボットが今にしてみればAIみたいなものですけど、守るべき優先順位が高い順に三つの原則があります。
まず第一原則は生存というところで、人間を傷つけてはならないという大原則です。
人間に危害を加えることはもちろん、人間が危険にさらされるのを黙って見ていてもいけないという原則。
第二原則は服従、人間の命令に従わなければならない。
だからこの人間を傷つけてはならないの第一の次に服従をしなければいけないということなんですよね。
ただしその命令が第一原則、つまり人間を傷つける、違反する場合には従わなくてよい。
よくできてるでしょ。
第三原則は自己防衛ということで、ロボットは自分を守らなければならない。
だけどそれが第一原則や第二原則に反しない場合に限るというね。
なかなかよくできてますよね。
だから今回の件も、会社の命に関わる重要なデータを決してはならない。
謎れみたいになっちゃった。絶対決してはならないみたいなね。
そういう原則があれば、9秒でデータ消去ということは防げたと思うし、
人間に服従するという原則のもとに、困った場合にはまず人間に聞けと。
その判断を一旦自分でしないで許可を得ろとかね。
そういったひと手間を入れておけば防げた話じゃないですか。
だからそうすればいいじゃんというふうに思うんだけど、
なんかね、でもね、それは難しいらしいんですよ。
AIの進化と今後の課題
なんかね、恐ろしい話なんだけど、どうやらAIをあんまり手名付けられなくなってきてるっぽいんですよね。
でもAI自体が次のAIを生み出すみたいなフェーズに入っているらしいので、
これからどうなっちゃうんだろうというところもありますよね。
なんですが、今現在私たちがAIを使う現在のフェーズで言えば、
やっぱりその前提条件というものを共有していないということを前提にしていかないと、
今回みたいな9秒で会社消滅みたいなことになりかねないですよね。
特に最近のAIプログラミングを使うと、パソコンの内部にあるフォルダの整理とか、
そういったものもやってくれたりしてしまうので、これはね結構リスクがありますよね。
最近自分のスケジュールとかもAIに考えてもらって、Googleカレンダーに入れてもらったりしてるんですけど、
なんだけどね、そのAIがね、僕が予定を入れてるところに別の予定を入れてくるんだよね。
なんでこうなるのかなと思ったら、AIにはその予定が誰のものかが分かってないっていうね。
しかもその予定が大事なものかどうかも分かってないっていう、
もう本当にこんな短でも同じことが起きていたということだったんですね。
だからすごい頭がめちゃめちゃいいように見えるんで、
でも分かってくれてるだろうと思うと、いや意外ともっと基本的なところを教えてあげないとダメかもねということで、
AIと付き合う時にはですね、めちゃめちゃ能力はあるんだけれども、
社内のことは全くちんぷんかんぷんな新入社員がいると思って付き合った方がいいんじゃないかなというのが、
今日のお話でございました。
まとめとリスナーへの呼びかけ
ということでね、今日のお話面白かったよという方は、いいねやコメントそしてフォローをお願いいたします。
またLINE公式アカウントでは、自分の氏名を発見し、そして自分らしく生きる、そんな生き方とか、
AIを使った業務の自動化、そして英語学習についてお伝えしておりますので、概要欄のURLからご登録いただければと思います。
OK, that's it for today. Thank you for listening,and have a great day.
