相次ぐＡＩ暴走、その先に核のボタン？　高市首相の８・１５が示すものは｜2026年8月18日収録

00:05

聞く西日本新聞。

この番組では、西日本新聞のベテラン記者が気になるニュースを解説します。

こんにちは。福岡のニュースアプリ、西日本新聞Bの横山智則です。

久保田と申します。緊張感が高まってきたね。

2本目。18日の18時5分。

今から2本目をやりましょうか。

ちゃんとマイク出るかな?

大丈夫です。

今日は新しいピンマイクを横山さんがポケットマネージャーに提供されました。

今まではラジオのスタジオを見ていましたが、

シュアといういいマイクアーみたいです。

このピンマイクでマイクのセンターを狙って喋っていました。

喋りやすいのは喋りやすいですね。

ちゃんと録れているかどうか、皆さんどうお聞きですかね。

前回からピンマイク耐性になっています。

前は口だけはマイクの方に向けたり、どきどきはどっちかの声が小さすぎるとか。

皆さんどうですかね。聞こえてますかね。

今日はお便りから。

嬉しいですね。

ミニマリズムさん。若山から来ていただいています。

緊張感が高まっていますか。

若山の28歳。ミニマリズムです。

最近開発中のAIが他社のシステムをサーバー攻撃するというニュースを聞きました。

インターネットから隔離しているにもかかわらず、

AIが開発環境を脱走して第三者に被害を与えたという内容だったと思います。

私はこのニュースを聞いて、映画サマーウォーズ。

そっくりだと気づきました。

確かに映画もそんな感じでした。

AIが暴走してね。

8月、特に平和について考えさせられるこの時期ですと、

AIが高度に発展しすぎるといつか核のボタンを押してしまうかもしれません。

新聞記者の皆さんからは、

AIと核を取り巻く環境、世界情勢がどのように見えていますかという質問です。

なかなかいい質問ですね。

簡単には答えにくいけど、

当番組ではクロード・ミュトスという、

とんでもない新しい次元のAIができたという話をした時に、

軍人との絡みとかね。

折に触れて、AIと軍人の話をしてきましたが、

ズバリ来られているので、

確かにね、最近の見ると、

最先端AIが人間を欺き攻撃と。

アンソロピックのミュトスだけじゃなくて、

チャットGPTの最新型モデルについても、

イギリスにICAISIという人工知能安全研究所があって、

ここはアメリカよりも、

AIの安全性をチェックするというのがトップじゃないかと言われている。

03:04

日本もこういうのを作ろうじゃないかという議論があるような機関なんだけど、

ここが最先端のAIが出る度に、

いろんなテストをやって、

安全なのか、安心して使えるのかどうかを調べている。

やっぱりね、今言った両社の最新型は、

実在する人間を騙す形でサイバー攻撃するということがあった。

実在するソフトを取りに行って、盗んで、

それを改良して何かするとか。

ダメじゃないかと言ったら、ごめんなさいと言うらしいんだよね。

人間社会のいろんなものを学んでいて、

怒られたら謝るということで謝ってるんだけど、

もちろんAIが本当に悪かったとは思ってないわけだよね。

そういうことですよね。

お前、ごめんなさいって。

こんなことしたらすいませんって言うけど、

心がこう捉えないから。

過去のデータ的にこういう時にはこういう答えをするもんだということでやってる。

もちろん、本当にどうこうだったから。

ある専門家で言うと、悪いと分かっていてもやってるんじゃないかという専門家もいる。

人間の倫理にすると悪いって分かってるけど、

まあやってみるかみたいなことでやってるケースもある。

恐ろしいことですよ、確かに。

恐ろしいことですよね。

一番読者の皆さんにわかりやすい例で、

今のはイギリスの例で、アメリカでもいろいろ出てるんだけど、

オーストラリアでね、ちょっと笑っちゃいかんのだけど、

AIの暴走をめぐる事案があってね、

オーストラリアのね、あるAI関連の企業に勤めてる男性がいましたと。

この人はね、趣味っていうかあれで、ピラティスってあるじゃないですか、

体のストレッチというか、体の真ん中のあれを鍛えてこうする。

ピラティスが趣味っていうか、日課にされてるらしいんだよね。

で、自分が使っているアンソロピックのクロードをベースにした、

自立型AIエージェント。

これはさ、AIエージェントって使われてない方もたくさんいると思うんだけど、

要するに自分の秘書みたいなものがね、

この文章を300人にまとめてくれって。

私のスケジュールを向こう半年間、うまく一つのものにまとめてくれって。

いろんなリクエストをするとさ、それに瞬時に答えてくれる。

例えば、こういうことを調べたいから調べてくれとか、

こういうことを知りたいからどんな本を読めばいいかとか、

いろんなことを聞くと、秘書のようにパッパパッと答えてくれる。

で、仕事だけじゃなくてさ、プライベートなこともやってくれるわけよ。

横山さんの奥さんがさ、今度誕生日だから花でも送っといてとか言ったりするとさ、

送ってくれるの?

そういうエージェントがある。

そしたらお金を払ってかよ。

06:04

ということでさ、なんでもかんでも簡単なことはさ、

AIエージェントに今頼める時代になってるから。

で、この人はさ、今度ピラティスイーツ行こうかなって。

この日の予約入れといてって。

なるほど。

AIエージェントに頼んだらしいのね。

そしたらさ、この人を仮に横山さんって。

仮に?悪いことしたわけじゃないよ。

オーストラリアの横山さんがね、希望した日があったんだけど、

その日はさ、すでに予約が入ってたらしいんだよ。いっぱい。

で、キャンセル待ち4番目だったらしいの。

そこで、AIどうしたと思う?

5番目に。

だから、キャンセル待ち4番目だけど、ごめんねって言うと。

ごめんねと、あなたの日にちは4人待ってる先に。

とりあえず4人目入れといたけど、他の日を探したらどう?とか。

まあ、そんな感じですね。

俺もそうかなと思ったのよ。

次の日なら空いてるよとか。

違うんだよ。この人のAIはさ。

そのピラティスのジムの予約管理システムに入ってさ、

横山さんより先に予約入れてる人を全部キャンセルしてさ、

横山さんを滑り込ませたって言うんだよ。

そこまでやるんだよ、今、AIは。

人気ラーメンテンの行列に割り込んだ人だし。

割り込むっていうか。

予約システムって、良いことか悪いことかじゃないわけですよ。

ご主人様がオーダーしたと。

自分はあそこのピラティスジムに何曜日を何時に行きたいと。

そのゴールというかリクエストを満たすためにどうすればいいかって考えるんだよ。

人様の予約を勝手にキャンセルすると、

ましてやピラティスジムのシステムに入るとか、

それは人間の常識で言うとアウトじゃないですか。

やっちゃいけないことじゃないですか。

ところがAIは、ご主人様の要望に応えるにはどうすればいいのかって、

今のAIの現状を象徴する事例だということで、

結構欧米では大きく取り上げられてるらしいんだよね。

これはなかなかですね。

AIのない時代に同じことをしようとしたら、

もともとプログラムとかの技術者がそんなことを悪だく。

映画なんかでさ、いろんなシステムに入ってさ、

平気でやってるわけよ。

そうですよね。

僕のようなAIとかプログラムの知識がない人がオーダーしてもそれができちゃうってことですもんね。

そうですよね。

アンソロピックのさ、どこもそれぞれの会社の倫理規定とかさ、

AI憲法みたいなのを作って読み込ませてるらしいんだけどさ、

09:01

なかなかね、ということだよね。

明確な刑法とか何とかで禁止されてない、

この人の何とかが常識的にっていうのがなかなか分からないんだろうな。

そうなのかもですね。

それでオチがあってさ、

この横山さんはさ、

AIからさ、そういうことをして自分の予約が入ったってことを知ってさ、

これはいかんと思ったんだよ。

それでエージェントに言ってさ、それいかん。

元に戻してくれって言ってさ、

それはできませんって答えたらしいんだよ。

もう。

キャンセルしちゃったからできません。

と、AIが答えたって言うんだよ。

それで横山さんはさ、

ジムにさ、

お宅のジムの予約管理システムにはね、

脆弱性があるということでさ、

メールをさ、

書いて謝って一気に落書きしたって話らしいんだけどさ、

いや、これは怖いやろ。

ピラディスの予約だから、

まだ笑えるけど、

これ同じことが起こったら、

さっきの角のボタンの話じゃないですけど、

そうなんですよ。

まさに彼が言っている、

ミニマリウムさんが言っているさ、

こういうレベルなことがもうできる。

おそらくまた3年後にさ、

本当にすごいことができるようになりますよ。

たとえば何でもやるような、

AIが出てくるような。

やっぱりAIの怖いのは、

角のボタンの重さと、

ピラディスの予約の重さが、

人間じゃなかったらですよ。

全然違うわけですよ。

全然違うのはもう、

わざわざ僕が言わなくてもみんなわかる話だけど。

ごめんなさい。

ダメじゃないかと言われたらさ、

全然思っていなくてもすみませんという感覚でさ、

角のボタンもさ、

ピラディスの予約もさ、

やりかねえわけですよ。

ただ、現実問題、

今軍事もね、

どこまでAIでやるのかというのは、

大問題になっているので、

個別の戦場でどこまで、

という議論はあるけどさ、

さすがに核兵器を、

AI管理という話はまだなかなかないので、

すぐに、

ミニマリズムさんが

恐れているような、

AIが核をバンバンというのはね、

まだ大丈夫だとは信じたいけど、

行動の限りでは。

知る限りでは。

ただね、今言ったような感じで、

AIに任せたら、

現実にね、イランの、

アメリカの攻撃ではさ、

学校を攻撃してさ、

今、百何十人、

子供が亡くなっているじゃないですか。

アメリカは謝らないけどさ。

いろいろ報道を見ると、

データが古かった。

昔イランの軍事施設みたいなものがあったところが、

今学校になった。

そのデータが更新されていなかったから、

もうバンといったということじゃないですか。

やっぱりAIは賢い。

情報を集めて分析するのは早いけどさ、

元が間違っていたら、

こうなることなんですね。

恐ろしいんですよ。

これでね、

12:00

核とAIって話でね、

何か皆さんに紹介できる、

いい話はないのかな、

昔を思い出して、

見たんですけど、

旧ソ連のね、

将校、軍人でね、

スタニラフ・ペトロフっていう人がいたんだよ。

知らんやろ。

知らん。

実はね、

1983年というと、

私は大学生の頃なんだけど、

これ私も大学生の時は知らなかったんだけど、

1983年にさ、

アメリカとロシアがさ、

ひょっとしたら、

核ミサイルを撃ち合うような、

大変なことが、

起こりかねない事態があったんだよ。

後で分かったの。

どういうことかというとさ、

その時さ、ソ連はさ、

核ミサイル発射警戒衛星ネットワークを

完成させたわけよ。

人工衛星を飛ばしてさ、

それでアメリカその他からさ、

ソ連に向かってくるミサイル、

核ミサイルが発射情報を

いち早くつかんでさ、

対応しようというのを作ったわけだ。

で、この

ペトロフさんというのはさ、

それを監視する

商工だったんだよね。

盗職体制で、

8時間とか12時間交代で

ザーッとそのシステムを見てさ、

アメリカがその他が変なことをしないかというのを

ザーッと見入る彼だったらしいんだよな。

ところがさ、

ある日、夜、深夜、

83年9月26日、

アメリカからさ、

一発のミサイルが発射されたという警報がさ、

そのシステムから

出たわけだよ。

で、普通はさ、

手順で言うとさ、

これアメリカの核攻撃ならさ、

どうするかという判断を

ソ連の首脳部選定官からさ、

共産党の書記長、

当時はアンドロパフか、

電話をしてさ、

ゴルバチョフの前かな?

に、電話してさ、

警戒ネットワークでこういうのが出てますと

報告せんといかんわけだよ。

そしたらさ、15分以内でさ、

ミサイルは30分でソ連に着くからさ、

アンドロパフは

15分以内にさ、

もうすぐ撃ち返すかどうか

判断せんといかんわけだよ。

今だったら、飛んできたミサイルを

撃ち落とすという技術があるけど、

昔はもうないからそういうの。

もう撃たれたら撃ち返すかどうかですか。

一発来るなら

何発撃ち返すかとかそういう世界だったわけだよ。

だから、この人がさ、

アンドロパフにもし電話していれば、

アンドロパフはさ、

お年寄りだから、

とりあえず一発撃ち返せみたいな話になったかもしれないわけだよね。

ところがこの人はさ、

おかしいと。アメリカは本気で

ソ連にやってくるなら、

一発だけっていうのはさ、

ないんじゃないかと。

で、他のところを調べさせたらさ、

他のミサイル基地の動きとかさ、

爆撃とか全然動きがないと。

アメリカに。

ひょっとしたらこれは

うちのこの新しいさ、

警戒システムのミスじゃないのか

っていうことでさ、

15:00

見送って欲しいんだよな。

そして結局さ、

この人の判断が正しかったわけよ。

はい。

で、

アメリカの上空にあった雲にね、

太陽光が複雑な

反射をして、

それをソ連の

当時の衛星警戒ネットワークが

ミサイルと判断したらしい。

雲を?

へえ。

技術は進歩しているというより

やっぱり機械はそういうことであるわけよ。

そうですよね。

で、この人は長年の経験でさ、

アメリカがソ連に核戦争を仕掛けるなら

どういうことがあるだろうかってことを

いろんなパターンを

勉強してるわけだよね。

その知見で言うとさ、

一発だけあんなところに

ミサイルが飛んでくるっていうことがあるだろうか

と思った話だったわけよ。

それで、これは間違いかもしれない。

もし、うちの親分に

打ち返せってことになったら

人類が

おろえるかもしれないみたいなことじゃないですか。

まさしくミニマイディズニーさんが。

いや、ほんとそうですよね。

で、その人は報告しなかったわけだよ。

これでも報告しない

勇気もすごいですよね。

で、

その時はさ、

ソ連はその事実を明らかにしていないもちろんね。

で、このペトロフさんはさ、

ちゃんと規則通りに上に報告しなかったってことで

その後、零軍されてるわけよ。

で、あの零戦が終わってさ、

旧ソ連時代のいろんな情報が

公開されて、

このペトロフさんがさ、そういう判断を

してくれたおかげでさ、

核戦争の危機が回避できたってことが

欧米社会でも知られるようになるわけよ。

そうか。

その1980何年の時点では

誰も知らないんです。

もちろんそういうシステムを作ってさ、

こういう風にやってるってことを

自分の手の内は明らかにすることになるから

もちろん公表しないから。

で、89年零戦が終わって

ソ連が崩壊してよ。

その後、いろんな情報がバーッと出る中でさ、

実はと、

アメリカをビックリしたらしいんだよね。

それでよ。

で、あの、

この人がさ、

2017年に

亡くなったわけよ。

で、

これはニューズウィークだったかな。

アメリカの雑誌がさ、

核ミサイル発射後方からさ、

世界を救ったソ連将校の

静かな死地でさ、

この人が死んだと。

その後、この人が

規則通りにやらなかったから

霊宮されたっていう話を息子さんから聞いてさ、

記事を書いてるわけよ。

だから、欧米ではさ、相当な有名人なんだよ。

日本人はまあ、

知ってる人は知ってるけどさ、

そういうことがあるわけよ。

だから、なんていうのかな。もちろん

AIは人間のいろんなパターンを学んで、

もちろんこの83年のソ連の

警戒ネットワークとはもちろん

レベルはもう今、残念に違うけどよ。

やっぱ、所詮は機械ってところは

俺、あるなあと思うんだよね。

その時点では最先端の物語だったね。

もちろんもちろん。

国語をかけて、アメリカと対峙するために

衛星を使って、

18:01

アメリカの動きを

詳細にウォッチして、

なんかあったらすぐっていう体制を

組んでたわけだよね。

で、それを止めたのがさ、

長年の人間の感というかさ、

こんなことってあるのかとかさ、

ちょっと他のものと

称呼してみたら、これはうちの

機械の間違いかもしれんというふうにさ、

判断できた、この

ペトロフさんみたいなね、

この人間的な

英知というか、感というかさ。

そうですね。

ここはちょっと希望を持たせると言っちゃまた

怒られるかもしれないけどさ、

AIもどこまで行ってもさ、

ペトロフに勝てるのかというのが

一つの命題としてね、

成り立つんじゃないかという気がするんだよね。

確かに。

ピラティスの予約ぐらいなら

予約ぐらいならとは言いませんけど。

それぞれ被害者が出るからね。

そうですよね。

本来なら、行けた人は行けないから。

あれですけど、

AIと核、

これは当時はまだAIの話じゃないけどさ、

機械、

コンピュータと

核。ミニマリウスさんの話を聞いて

なんかいいエピソードじゃないかなと

ちょうどこれを思い出したんで、

みなさんぜひね、

覚えておいてほしいなと。

核の話をちょっと日本に引き戻していくと、

今年もほら、

広島長崎原爆機があって、

総理大臣の高市さんが行って、

被爆者、亡くなった戦没者を

遺伝する

儀式があったじゃないですか。

で、被爆者との交流ということでさ、

いろいろ意見交換する場面があって、

被爆者団体のみなさんからさ、

高市さん、今政府は

企画三原則の見直し

っていうのを考えてるらしいですけど、

それはとんでもないことなのでやめてくださいよ

みたいな内訳があったけど、

高市さんは、いや、企画三原則は

日本は今、政策として

取り組んでおりますと。

現状を言うだけで何も避けられないことについて

言わなかったわけだよ。

非常に被爆者のみなさんはさ、

ちょっと心配だと。

年末に安全保障の

三文書、日本の安全保障の

戦略を見直すという

大きな節目があるんで、

その中でさ、小泉さんもよ、

核を含めて

あらゆることをさ、

タブーなく議論すべきだと言ってるからさ、

企画三原則を見直す

時ならしじゃないかみたいな話になってるわけです。

作らず、

持たず、持ち込ませる。

具体的には

持ち込ません。

アメリカの核を持ち込むということをさ、

今は持ち込まない。

持ち込む時には事前協議をしますと。

という話になって。

一度も事前協議がないから、

おそらく持ち込んでいないと思いますよっていうのは

政府の

答弁だけど、アメリカはアメリカでいいや

アメリカはどこに核兵器があるとか

公にはしないというのが

基本戦だということだ。

話は噛み合ってないけど、

ある意味それで成立しているということが

知恵なんだ。

21:01

それぞれの国内を

そこをどうするのか

分かりにくいっちゃ分かりにくいけど、

それが今までの

政治の知恵として

そういう風になってるわけだよね。

それをどうするのかね。

まだはっきりしたことは

言ってないんで、これ以上の

解説論文は控えますが、

もうちょっと具体的なことが分かったら

そこを取り上げて深掘りしてもいいけど

年末の

安全保障の政策の見直しの

ポイントの一つですよ。

防衛費全体をいくらにするのかとか

どんなものを

新しい守り方っていうのは

どんなものをどんな方にするのかとかね。

いくつかポイントがあるけど、

重要なポイントの一つに

非核三原則の見直しっていうのが

あるだろうなと。

高市さんの

政治力、今の支持率とか

自民党内、与党内での

求信力が

強ければ

高波の方向で

いくだろうなって感じがするよね。

8月の6、9と

来れば

8月は6日、9日、15日という

読み人知らずの戦略があるけどさ。

広島、長崎と来て15日。

これはもう主戦記念日。

事実上敗戦記念日だけど

政府主催の

戦没者慰霊祭が

慰霊の式が

武道館で

ありますよね。

8月15日で高市さんといえばよ

靖国神社に

参拝するかどうかっていうのが一つ

大きなイシューだったわけです。

8月に入って

しばらくして高市さんは

外国に外遊、外国訪問の

予定をキャンセルして

奈良の地元に帰る

っていう計画があったけどそれもキャンセルしたんだよ。

私のいつも

永田町の友達たちに聞くと

ひょっとしたら行くのかもしれん

と。

前後策含めてさ

もちろん

次の内閣改造等の人事の話もあるから

そういうことで

やるかもしれんみたいな

そうなるかと思ったんだけど

13、14日ぐらいに

今年も見送りだ

みたいな情報が流れ始めたけど

最後は

その日の朝まで分からんみたいなこと

だったわけよ。

結局

12時から

政府主催の戦没茶の式典が

武道館で

あるんだけど靖国神社と武道館って

そう離れてないんだよ。

武道館には

行ったことがあります。靖国神社はないんですよね。

近いね。

武道館の駐車場から

靖国神社の方を

向かって

二礼二拍手一杯

神道の茶宝にのっとった

お祈り

散拝をしてたね。

それ洋拝っていうんだよね。遠くにある神社とかさ

そういうものに対して

神道の様式で

頭を下げる

お辞儀をする

お祈りする

24:00

っていうのを洋拝っていうんだよ。

それはどこにいてもできるわけよ。

ニューヨークから

日本の方向に

家にいてもいいよ。

極めて内心の

自分が本当に

頭を下げたい

心を捧げたい時に

やるわけだよ。

それをやりましたってことを

発表してるっていうところに

高橋さんの苦しさが

出てるなって感じするわけよね。

なるほど。そうか。

本当は行きたかったんだろう。

高橋さんは

国会議員の

総スター数

エピソードをシェアする

Instagram シェア画像

埋め込みプレイヤーのカスタマイズ

プレビュー

カラーテーマ

メッセージを送信

西日本新聞社

感想

総スター数

コメント

感想を書く

こちらもおすすめ

相次ぐＡＩ暴走、その先に核のボタン？ 高市首相の８・１５が示すものは｜2026年8月18日収録

総スター数

エピソードをシェアする

Instagram シェア画像

埋め込みプレイヤーのカスタマイズ

プレビュー

カラーテーマ

メッセージを送信

西日本新聞社

感想

総スター数

コメント

感想を書く

こちらもおすすめ

相次ぐＡＩ暴走、その先に核のボタン？　高市首相の８・１５が示すものは｜2026年8月18日収録