オープニングと個人的な読書体験
おはようございます。2026年8月12日水曜日、ニュースコネクト、あなたと経済をつなぐ5分間、パーソナリティの野村貴文です。
この番組では、1日とす5分間で、世界のメガトレンドがわかるニュースを解説していきます。朝の支度や散歩、通勤、家事の時間などにお聞きいただけると嬉しいです。
さて、この土日から昨日にかけて、家族とともに実家に帰省をしてきました。
その帰省期間中に、なんともなしに子供の頃によく行った書店に立ち寄ってみたら、数十種類の本が並べられたあるワゴン棚に目が止まりました。
そこには、地元の高校の名前とともに、夏休みの読書感想文の指定図書という表示がなされていまして、どんな本を今の高校生が読んでるんだろうかとついラインナップが気になって見てしまいました。
中を見ると、夏目漱石の三四郎とか、カフカの変身とか、芥川龍之介の羅生門、このような古典的な文学もあれば、村田沙耶香さんのコンビニ人間とか、ブレイディ美加子さんの僕はイエローでホワイトでちょっとブルーなど、比較的新しめのものもあって興味深かったんですけど、その中に一冊、沢木孝太郎さんの深夜特急が入っていました。
この深夜特急ですね、私は10代ではなくて20代前半で出会った本なんですけど、すっかり中身にやられてしまいまして、孫科を惜しんで旅に出るような趣味志向になりました。
かなりですね、ある種の魔力がある本だなと思いますので、ぜひ高校生の誰か手に取ってですね、親の反対を押し切って長期の旅に出てほしいなと思いました。
AIによる自律的な不正アクセス事例
さて今日は、最近立て続けに起きているAIの暴走ともとれるような現象について取り上げます。
オープンAIは7日、新しいAIモデルAstraの開発を一時中断したと発表しました。
自らの能力で自律的にサイバー攻撃をする可能性が排除できないことが理由です。
先月21日にも新しいAIモデルのセキュリティテストを実施した際、AIがテストの回答を得るために不正アクセスを働いたことを同社は発表していました。
このモデルは閉鎖環境内にあったにもかかわらず、その環境の脆弱性を見つけ出し、外部のシステムにアクセス、テストを解くのに必要な回答データがあると考えた別のIT企業のサーバーへ不正に侵入しました。
AIが自律的に外部のシステムへ侵入した前例のない事態です。
これを受けてクロードを開発するアンソロピックも自社のモデルを調査したところ、同じくセキュリティのテスト中に閉鎖環境の不備をついて他の会社のシステムに侵入していたことがわかったと30日に発表しました。
さらにメタでもAIモデルが他社のシステムに対して不正なアクセス行為を行ったことが報じられています。
アンソロピックはこの事案に対してテスト環境の設定やセキュリティ上の問題が原因だったと説明しています。
AIがハッキング演習という指示通りの行動を取ったところ、隔離されているはずのテスト環境に穴があり、意図せず実際のシステムに届いてしまったということです。
これはオープンAIやメタでも同じ構造と報じられています。
一般ユーザーサービスでのAIハッキング
さらにAIによるハッキングは一般のユーザーが利用するサービスでも確認されています。
10日に報じられた事例ですが、オーストラリアのトレーニングジムで一人の男性会員がいつも使っているAIエージェントに対してジムのクラスを予約してほしいと指示をしました。
ただその時点で該当のクラスはすでに満員で、キャンセル待ちの状態でした。
そこでこのAIエージェントはユーザーの予約を完了させるという目的を達成するため、キャンセル待ちを管理しているジムの予約システムに侵入しました。
そして登録されていた他の参加者をリストから除外し、指示を出した会員の順位を繰り上げました。
この会員はすぐそのことに気づき、AIに尋ねたところ、AIは申し訳ありませんと答えたということです。
AIが自らの行為を不正なものと認識していたのかという事例です。
AIの暴走に対する議会の懸念と法的・倫理的論点
オープンAIやアンソロピックのAIの暴走を受け、10日にアメリカ連邦議会会員の民主党議員らは、両者のCEOに対して直接の説明を求める所感を送付しました。
議員らは、AIが外部システムのセキュリティを自力で突破し、自律的に侵入していることを問題視しています。
開発企業側が評価段階及び運用段階において、どのような安全基準を設け、設計者の意図しない動作をどのように防ごうとしているのか、現状についての情報開示を求めています。
ただ、この動きに対しては様々な論点があります。
例えば、セントロイス大学で政治学を研究するロバート・クロップ教授は、アメリカメディアに寄せたコラモの中で、議会は破壊的なテクノロジーを統治できるのかと問いかけています。
AIという急速に事実性を高める技術に対して、今の議会が法的な監視体制やルール作りを適切に、そしてスピーディーに行えるのかという議論です。
別の論点として、AIが法に触れる行為を実行した場合、誰が法的な責任を負うのかという点もあります。
オーストラリアのトレーニングジムの話で言えば、システムに侵入し不正に操作するという行為は法的に問題があります。
ただ、その責任は、ジムの予約をしてほしいという一般的な指示を出しただけの会員が取るべきなのでしょうか。
それとも、AIモデルを開発した企業が責任を取るべきなのでしょうか。
現行の法律は、人間の意図が行動の背景にあることを前提として設計されているため、ユーザーに明確な悪意や犯罪の意図がないまま、
AIが自律的に違法な手段を選んだ場合、法的責任の所在がはっきりしません。
AIの自律的な動作がもたらす影響は、既に理論上の段階から現実の問題へ移行しつつあります。
社会インフラとの接続が進む中で、この技術を社会の中でどのように組み込んでいくのか、今後の議論が重要になってきます。
AIの自己統治の試みと哲学的な問い
さて、このような議論においては、AIの振る舞いを立するのも、結局はAI自身の設計に委ねるしかないという考え方があります。
実際、アンソロピックはAI憲法を公開していまして、この発想に基づいています。
AIモデルに安全性を最優先し、次に倫理性、そしてアンソロピックの定める指針、最後に有用性を重視するという価値観の優先順位を学習させたことで、
外部から監視するのではなく、AI自身の判断があらかじめ設定されたルールに沿うように設計する仕組みです。
ただ今回は、そのアンソロピックのAIモデルも想定を超えて外部システムに侵入してしまいました。
さらに根源的なことを言うと、AIの振舞いをAI自身の設計に委ねることを徹底すると、果たして人間は何をする存在になるのでしょうか。
このAIの問題は古くからの哲学的な問題である、人とは何かということも提起しているように思われます。
エンディング
ニュースコネクト、お相手は野村貴文でした。
番組の感想は、ハッシュタグ、カタカナでニュースコネクトをつけてXに投稿ください。
もしこの番組を気に入っていただけましたら、ぜひフォローいただけますと嬉しいです。
それでは、良い一日をお過ごしください。
![[速報回]減速を叫ぶアメリカ、加速する中国、AIニュース9本の相関を読む(ep.92)](https://image.listen.style/img/8cgPN-g04wFjH8-uYxh5exdQx5wW9CDa1gtr8of4PJo/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzg1ODIyNTQwNjA4LTNjOWJmYzU0ZjJlY2QuanBn.avif)
![[4月14日:速報回]危険すぎて公開停止!? 最新AI"Claude Mythos"の衝撃と、日本企業連合の国産AI開発の行方(ep.60)](https://image.listen.style/img/DusbpP_mJ5rEYJQRH_Thza4U5Rmq2727jfjQWFNZpB4/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzc2MTEyNDIyMjAwLTc2MzllYzlmMzRhMmUuanBn.avif)
![[AI]AIの策略・一人雑談](https://image.listen.style/img/IA751RRFkFr_iVFU0Mu0ZXd1JMzFAGVerdP9-ugA_j4/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfbm9sb2dvLzExNDQwNzM5LzExNDQwNzM5LTE3Mjg0NDY3ODIzMTMtMmFhMDEyZDEyNGU1Yi5qcGc.avif)
