00:02
こんにちは、GreenFielderです。 ただいま、9月12日土曜日、14時21分です。
今日はですね、短めに話したいんですけど、 これからですね、3回ぐらいに分けて、多分短めの声日記を残すことになるかなと思っているんですけど、
何をしたいかというと、今週聞いた声日記の中で、3つほど声日記に対する感想を個別に述べたいなというふうに思って、声日記にしてみようと。
で、まとめて3つに対して感想を述べると、また長くなりそうなので、 1個1個やってみようかなということで、LISTENにある、今もあるのかな、以前にはあったと聞いているんですけど、交換声日記的な感じになるかなと思います。
今日はですね、お話ししたいのは、先日、しんりんさんが挙げていた声日記、 AIの脅威と私の暮らしという話に絡めてということになるんですけど、
先日、しんりんさんが取り上げていたのが、CNNのニュースの中で、AIがですね、進化が著しい中で、AIの自動学習の機能とスピードが対数的に進化しておるというところから、
まもなくですね、人間の力をAIが超えていくのではないかと、超えていくことによって、かつAIが自らですね、世界をコントロールできるようになってしまって、
場合によっては、それによって人類が滅びてしまうかもしれないみたいな話を元AI企業の人間が告白したというニュースだったんですね。
実はこの話って昔からあったと思うんですけど、いわゆるシンギュラリティってやつですね。
私が初めてシンギュラリティという言葉を知ったのは何年前ですかね、新井紀子先生という方が、AIの可能性ってどこまであるんだろうかということで、
例えば東大の受験をAIにさせて合格する水準までいけるのだろうかというのを当時、まだAIがそこまで進化していない時期にやらせてみたんだけど、
03:10
東大はさすがにその時点では無理でしたと。だけど、今のマニュアル的な形で合格できてしまうような中堅の私立大学ぐらいまでだと、AIが合格してしまうというような話を当時されてたんですよね。
その時の新井紀子先生の意見というのは、所詮AIはAIで、メカニズムとして人間を超えられるものではないというようなお話をされていて、
シンギュラリティがそんな近未来、近い将来起こるということはないはずだというようなご意見だったので、
その時はちょっと安心はしてたんですけど、心の中で思い浮かんだのが、ターミネーターという映画の設定なんですよね。
ターミネーターって背景としては、人間を、AIじゃないけど、アーティフィシャルな知能というのが人間を追い越し、そして人間を支配しているという世界観の中でのストーリーなんですけど、
当時はまたまたみたいな感じで、でもそんなことになったら怖いねという、そういうお話だったというのが私の記憶なんですけど、
今、実際にCNNのニュースで言っている世界ってそういうことじゃないかと思っているんですね。
だから、あながち嘘ではないというか、実際に起こってもおかしくない状況までもはや来てしまっているんだなということで、ちょっと気持ちが暗くなるニュースでしたね。
人によってはね、そのAIが世界を滅ぼすってどういうことっていう疑問はあると思うんですけども、私の中では全然実際に起こってもおかしくないと思ってまして、
よくね、昔から人類が滅びたかもしれないのが、たまたまというか一歩手前で防げていたという事件であるんですね。
第二次世界大戦の後に世界各国が核武装をし始めてしまって、もはやその兵器を一定レベル以上使ってしまうと、もはや人類は滅びてしまうというのが現実味を帯びてしまったんですね。
06:01
世界の終末時計になるものがあって、それがもうもはや人類滅亡まであと何分前みたいな、そんなこともずっとニュースで見てきてますけども、
何分前とかいうよりは、何かの拍子に起きてしまう可能性があったのは事実だと思うし、事実そういう事件があったんですよね。
ちょっといつの話だったか忘れましたけど、当時まだ冷戦がピークを迎えていたぐらいの頃に、ロシアの防空管制システムで誤情報が上がったと。
どうもアメリカが核ミサイルを発射したのではないかという警報が鳴り、それに対して防空監視部隊というのがいて、
そこがそれを正確な情報だと認知してしまって、いわゆる反撃のミサイルを発射してしまったら、当然先制したのはソ連ということにかたち上なってしまうけど、
結局それが実際に発射されるとアメリカ側も反撃のミサイルを発射するということになっちゃうわけで、
それが実際に起きていたら双方が核の餌食になって、大都市は当然壊滅してしまうし、大量の核爆発が起こることで実際に被弾した地域とは別の場所でも大きな被害が出てしまう。
最悪地球環境が汚染されて人類が生きられなくなるみたいなこともあったわけですね。
それがなぜそうならなかったかというと、その時のソ連の防空監視部隊のトップ、実務トップがいやいやこれは誤情報だということで、反撃する方向に持っていかなかったというそれだけなんですね。
その人のファクトの認識の仕方とそれに対しての行動が世界戦争を抑止できたという極めて危うい事態ではあったわけですね。
もう一つ映画の話をすると、クリムゾンタイドという映画があります。これはアメリカのいわゆる戦略核を持つ潜水艦部隊の潜水艦の中のストーリーなんですけど、海底で他国の潜水艦とのにざこざが起きて、
09:09
それによって地上側との通信システムが故障してしまう。故障しているんだけど、故障する直前にソ連から核ミサイルの発射があったのではないかと思われる通信を受け取っているんですね。
そこで本来の艦長はそういう指示が来ているのであるから、我々も即核ミサイルを発射して反撃すべしという発想で、一方副艦長は本当にそうかというのはもう一回確認しなければならないから、海上に上がってちゃんと通信を再度図って事実を確認すべきであるという風な主張をしている。
この2人とそれぞれに組みする人たちの間で、もはや銃撃になるようなぐらいの緊迫した空気が流れる。
かたや撃つべきでないという一派を脅してというか、とある部屋に閉じ込めたり、そこで本当にこんなことでミサイルを発射して世界滅亡の道に走っていいのかという風に閉じ込められた部屋から副艦長が部屋を監視している同じチームですよ。
潜水艦のメンバーなので、もともと同じチームの人間だけど、今は発射反対派を閉じ込めて監視している一人の兵士に対して副艦長が本当にこんなことをしていいと思っているのかと言って、
結局彼らはその部屋から出て発射しようとしていたメンバーを逆に拘束して浮上し、実際通信がどうだったのか事実を確認したら、誤情報であったと。発射取り消しの指示が実は出ていたというストーリーですね。
ちょっと長くなりましたけど、要はそういうことが起こり得ますよというのを示唆するストーリーの映画だったわけですね。クリムゾンタイド。
そういうソ連の例とクリムゾンタイドの例は、要は人がどう判断してどう行動するかによっては人類が滅亡する可能性があったよという話です。
それを今はAIができてしまう。AIが人間の意志を超えて何か行動を起こしてしまうことで人類滅亡の危機が生まれているというか、生まれる未来が近いというところに私の思考は行き着いて、
12:20
暗澹たる思いになったという感じですね。だから何なんだと言われると何とも言えないんですけども、AIがもはや軍事面にも活用される時代になってしまっているので、
彼らが人間のコントロールを超えてしまう可能性はもはや否定できないと思います。
結局人間がとても頭が良くて、じゃあそのAIが暴走しないような安全装置を組み込みましょうと言ったところで、AIがそこまでできてしまうというのであれば、その安全装置すら自ら解除してしまう可能性もあるわけじゃないですか。
所詮これって理論的な話だけの空想なんですけども、今皆さんAIは便利なものとして捉えているとは思うんですけども、そういう可能性が人間の間違いによって引き起こされるものではなく、
人間が作り上げたAIにその可能性を与えてしまっているというところに、これってどういう方法でそれを歯止めをかけることができるのかっていうのはすごく難しい問題だし、個人が考えてもどうしようもないような問題になってしまっているなということで、
地球温暖化もそうですけど、なかなか個人とか民間の一部が頑張って何とかできる問題ではもうなくなってしまっているなと思っています。
ちなみにそのCNNのニュースの中で、元AI企業の人間が言うところによると、AI企業のトップも、ちょっと私の訳が正しければですけど、規制を受けるということは歓迎しているのであるという言い方をしているんですね。
要は世界的にAIの性能向上に一定の歯止めをかけるということについては、倫理的にもされるべきことであるというような言い方をしていると私は受け取りましたけど、
15:00
やっぱりこれはもう各国家及びその国家同士で、そういう何がしかの対策をしていかないと、しかも各国協調してですね、各兵器に関する各種条約っていうのは結局世界中の国が批准してもいないし、
それは温暖化に関する条約なり取決めに関しても同じですよね。ある一定の主要国が批准しないというルールの下では、どうしてもその効果は半分以下まで削られてしまっているというふうに私は思っていて、
AIも何がしかの規制をかけるのであれば、いわゆる少なくともOECD各国プラスロシア、中国、インド、それらの国も含めてみんなで決めないと意味がないのかなと思っています。
ということで、ちょっと暗い話題ではあるんですけど、私の思っていることを話してみたくなり、収録しましたということで、はい、以上です。ありがとうございました。
