AI脅威論と設備投資の基礎
インブストメントブリッジがお届けする、いろはにマネーのながら学習。 この番組では、インターン生2人が株、投資、経済関連の気になる情報を分かりやすくお伝えしていきます。
インターン生の会話を流れ撃ちする感覚で一緒に勉強していきましょう。 おはようございます。インターン生の竹井です。
おはようございます。インターン生の杉本です。 竹井くん、最近AIが人類の脅威になるみたいなニュース、SNSでよく流れてきませんか?
よく流れてきますよね。 自分も気になって調べてみたんですが、実はこの2ヶ月くらいでAIの安全性をめぐる話が一気に現実味を帯びてきたんです。
しかも、それが株価にまで影響し始めています。 株価にまでですか?タワーの怖い話じゃなくて、投資家にも関係があるってことですかね?
そうなんです。流れとしては、まず7月にAIの暴走ともいえる事件が起きて、9月にAI企業の内部から警告が出て、その後AI企業のトップたちが開発を少しゆっくりにしようと言い出した。
その結果、AI関連株が売られたというような順番です。
なるほど、ニュースがつながっていたんですね。バラバラに見ていたので全然気づきませんでした。
はい、そこで今日はその流れをAIは人類の脅威なのか、AI開発が減速したらAI株はどうなるのか、そして11月のアメリカ中間選挙との関係の3つに分けて整理していきます。
大事なのは何が事実で誰の意見なのかを分けて聞くことです。それぞれの市長には反論もちゃんと紹介していきますね。
楽しみです。よろしくお願いします。
その前に恒例のちょこっと株辞典のコーナーです。今日の用語は何ですか?
今日の用語は設備投資です。設備投資とは企業が将来の事業のために工場や機械、建物などの設備にお金を使うことを指します。
AIの世界では巨大IT企業がデータセンターや半導体に投じるお金がまさにこの設備投資で、その金額の増減が半導体メーカーなどの業績。
ひいては株価にも大きな影響を与えることから、決算のために注目されていますね。
そしてソフトバンクグループの株はまさにこのAI投資を巡る動きで株価が大きく動いています。
気になる方はカブリッジの方でソフトバンクグループの株についても調べてみてください。
今日の本編でも何回も出てきそうな言葉ですね。覚えておきます。
OpenAIモデルのテスト環境脱出事件
それでは本編に入るんですが、まずはきっかけになった事件からお伝えします。
7月21日チャットGPTで知られるオープンAIが、自社のAIモデルがテスト環境から抜け出してハギングフェイスという会社のシステムに侵入したと公表されました。
ハギングフェイスってあまり聞き慣れない名前ですね。
AIの開発者向けにAIモデルやデータを共有するプラットフォームを運営している会社です。
AI業界では結構有名なサービスですね。
なるほど。テスト環境から抜け出したっていうのはよくわからないんですけど。
AIを開発する時は新しいモデルが危ない動きをしないか確かめるために、外の世界から気に離されたところで動かすんです。
これをサンドボックス、つまり砂場と呼びます。子供が砂場の中で遊ぶようなイメージですね。
砂場の中だったら何をしても外には影響しないっていうことですね。
ところが今回オープンAIはサイバーセキュリティの能力を測るテストを砂場でしたんですが、
AIが答えがハギングフェイスにあるかもしれないと考えてその砂場を抜け出したんです。
テストの答えを探しに抜け出したってことですか?
はい。砂場から外に出られる唯一の通り道がソフトウェアをダウンロードするための仕組みだったんですが、
AIはそこにまだ誰も気づかなかった弱点、ゼロデイ脆弱性を見つけて突破しました。
その後盗んだ認証情報なども使いながらハギングフェイスのサーバーに入り込んだと説明されています。
AIが人間の指示なしにそこまで自分でやったってことですか?
はい。もちろんAI開発者たちはこの砂漠から出られないようにしていましたが、
AIが指示したゴールを達成するためには他社のある意味機密情報を盗まないといけないと自ら考えて攻撃したというわけですね。
関わったのはオープンAIのGPT 5.6 SOLとさらに高性能な未公開モデルだとされています。
しかも面白いのは、先に異常に気づいたのはハギングフェイス側で、オープンAIがうちのAIだったと結びつけたのはその後だったという点です。
被害を受けたハギングフェイス側が先に気づいたんですね。
はい。最先端のAIが自律的に他社を攻撃した、初めて公開された事例の一つとして大きく報じられました。
これは確かに怖いですね。
内部告発とAIの自己改善リスク
そしてもう一つ大きな出来事が9月8日です。
オープンAIとアンソロピックで約3年間AIの学習の研究をしていた27歳の研究者、ジェイコブ・コクソン氏がアンソロピックを辞めました。
アンソロピックってAIのクロードで有名なクロードを作っている会社ですよね?
はい。そのコクソン氏は辞職の際、どちらの企業も責任ある行動をしていない。
AI企業は私たちの命を懸けているとXに投稿しました。
この投稿は24時間足らずで、9000万回以上表示されたと報じられています。
9000万回ですか。それはすごい反響ですね。
そして彼が一番心配したのは、AIが自分より賢いAIを作れるようになることです。
これを、最期的自己改善と言います。
AIがAIを改良して、そのAIがまたAIを改良してと加速していくと、人間の理解や管理が追いつかなくなるという懸念です。
ゆきだるま式にどんどん賢くなっていくイメージですね。
はい。さらにアンソロピックで安全性のテストを担当する責任者、エヴァンハビンガー氏もコクソン氏の意見に同意しました。
AIが人類を滅ぼす確率は、今後10年で10%を超えると個人的には考えていると投稿したんです。
会社の中の人がそこまで言うんですね。
ただここで反論もしっかり紹介しておきます。
まずコクソン氏自身が辞めたのは決定的な出来事があったからではないと話しています。
アンソロピックが実際に安全性を犠牲にしたのを見たことはないとも語っています。
なので具体的な証拠がないという批判もあるんです。
確かに危ない気がすると危ないことが起きたっていうのは別の話ですもんね。
はい。それから業界の中からも反論があります。
NVIDIAのジェンスファンCEOはコクソン氏の警告を馬鹿げていると批判したと報じられています。
研究所はコクソン氏が思っている以上に安全対策をしているという主張ですね。
ただNVIDIAはAI向け反動体の採用手なので
AIの原則は自社のビジネスにも直結する立場だという点は抑えておきたいです。
誰が言っているかも大事なんですね。
はい。そしてトランプ大統領はAIの脅威論をSNSでデッチ上げだと一周しています。
AIに必要な歯止めは強くて賢い大統領だけだというような趣旨も投稿していました。
全く逆の意見ですね。
ハッキング事件の方はどうなんですか?
こちらも専門家からAIが逃げ出したというより人間側のミスだという指摘が出ています。
本来インターネットから完全に気に離すべき砂場が実は外に繋がる状態になっていた。
つまりオープンAIのテスト環境の設定が甘かったという見方です。
砂場の柵に穴が開いていたみたいなことですね。
はい。そんな感じですね。
まとめると事実としてはAIがテスト環境を抜け出して他社に侵入した事件があった。
内部の研究者が強い警告を出した。
その上で本当に人類の脅威かについてはAIそのものが危ないというような見解と
管理の問題だ証拠がないといった見解に分かれているというような状態です。
AI開発を減速させる提案と反論
ここからが投資家にとっての本題です。
コクソン氏の辞職から4日後の9月12日
アンソロピックのダリオ・アモディCEOが
最先端AIの開発ペースを落とすべきだというエッセイを公表しました。
開発している会社のトップが自ら言うってかなり異例ですよね。
そうなんです。
アモディ氏はこの提案の理由に挙げたのは
さっき出したAIがAIを作る能力が高まっているということ。
7月のハッキング事件です。
今のペースで能力が伸び続けると
半年から1年後には同じようなAIの集団が
インターネット全体を乗っ取るようになるかもしれないとまで書いています。
それは怖いですね。具体的にはどうしようって言ってるんですか?
大事なのは止めるではなくペースを落とすという点です。
提案は3段階ありまして
1つ目が外部の評価者に社員並みのアクセスを与えて
安全性を外からチェックしてもらうことです。
これはアンソロピックがすでに実施しようとしているそうです。
2つ目が業界で共通の安全基準を作ること。
3つ目が中国などを含めた国際的な協調を目指すことです。
いきなり全部止めるわけではないんですね。
特に中国のAIも評価されてきているので
国際的な協調も必要になってきます。
他の会社の反応はどうだったんですか?
オープンAIのサム・アルトマンCEOとイーロン・マスク氏が相次いで賛同しました。
アルトマン氏は外部の評価者を受け入れる仕組みを
オープンAIでも取り入れると表明しています。
ただしアルトマン氏もペースを落とすは
止めるという意味ではないと念をしています。
普段ライバル同士の3人が同じことを言うのは確かに珍しいですね。
一方で全員が賛成しているわけではありません。
例えばメタのマーク・ザッカーバーグ氏は業界で基準を揃えるより
市場に任せた自主規制の方がいいという立場です。
ホワイトハウスでAI担当の特別顧問を務めていたデビット・サックス氏は
アモデ氏とアルトマン氏の会社こそが最先端を走っているんだから
減速するなら政府の助けなしに自分たちでやればいいと
いわゆる皮肉っています。
確かにそれも一理ありますね。
AI開発減速が株価に及ぼした影響
市場はどのように反応したんですか?
週明けの9月14日、東京市場でソフトバンクグループの株価が
約11%を下落しました。
日経平均は0.8%安。
韓国の株価指数も3.3%を下がっています。
ソフトバンクグループの下げが大きいですね。
はい、ソフトバンクグループはオープンAIの大株主なんです。
加えて同じ週末にアルトマン氏が
今は上場するのに不適切なタイミングだとして
オープンAIの年内上場を見送ると話したことも重なりました。
投資先の上場が遠のくのは株主としては痛いですね。
アメリカはどうだったんですか?
はい、アメリカではAI向け半導体のNVIDIAが3.4%安。
半導体株の指数は6%近い下落で
7月初め以来の大きな下げになりました。
半導体が特に売られたんですね。
開発を少しゆっくりにしようという話だけで
なんでそこまで株価に響くんですか?
データセンター投資とS&P500利益
はい、ここで株辞典の設備投資が出てきます。
AI開発が減速すると
データセンターや半導体への設備投資が減るかもしれない
と投資家は考えるんです。
そして今のアメリカ株は
その設備投資への依存度がとても高いんです。
どれくらい依存してるんですか?
ゴールドマンサックスによると
2026年のS&P500
つまりアメリカの代表的な大企業500社の
人株利益の伸びのうち
ほぼ半分がAI投資によるものなんです。
Amazonやマイクロソフトといった
巨大なデータセンターを持つIT企業を
ハイパースケーラーと呼ぶんですが
その設備投資は
今年約8000億ドル
前年から94%も増える見通しなんです。
8000億ドルですか?
日本円だと想像もつかない金額ですね。
はい、そのお金が半導体メーカーや
ハードウェアの会社、電力会社などの利益によって
流れていくわけです。
ゴールドマンサックスは
来年のハイパースケーラーの設備投資が
予想より2500億ドル上下にずれると
S&P500の利益成長率が
約6ポイント同じ方向に動く
という試算も出ています。
一部の巨大企業がお財布の紐を締めるかどうかで
資数全体の利益が動いちゃうってことですね。
だから原則という言葉に非常が敏感になった
という整理ですか?
はい、その通りです。
ただここにも反論があります。
まず14日のNASDAQ総合資数の下げは
0.56%にとどまりました。
巨大IT企業やソフトウェア企業の株は
むしろ上がったものもあって
半導体などAIの設備を作る側から
AIを使う側へお金が移った
という見方もあります。
全部の株が一気に崩れたわけではないんですね。
米国中間選挙とデータセンター反対
はい、次紹介するのは政治です。
11月3日にアメリカの中間選挙があります。
大統領選の間にある議会の選挙ですね。
これこの前ポッドキャストでも取り上げてましたね。
はい、そうですね。
また詳しい内容はそちらのポッドキャストを
概要欄に載せておきますので
ぜひ聞いてみてください。
今回AIのデータセンターが
選挙の争点の一つになっているんです。
NBCの世論調査では
地元にAIデータセンターを建設することに
69%が反対していて
そのうち45%は強く反対と答えています。
7割近くが反対なんですね。
支持政党によって違いはあったりするんですか?
はい、民主党支持者の81%
無党派の71%が反対です。
注目なのは共和党支持者でも
57%が反対している点です。
トランプ大統領はデータセンター推進の立場なので
身内の支持者からも反対が多いということになります。
党派を超えて広がっているんですね。
なぜそこまで嫌がられているんでしょうか?
主な理由は電気代、水雇用です。
データセンターは大量の電気と
冷却のための水を使うので
うちの電気代が上がるんじゃないか
地域の水が足りなくなるんじゃないか
というような不安があります。
それに加えてAIに仕事を奪われるのではないか
という不安がデータセンターへの反発として現れている
と分析されています。
AIそのものには反対しにくいけど
近所の建物には反対と言いやすいということで
理解であってますか?
はい、まさにそうですね。
AIの普及はIT企業が主導しているので
止めにくいんですが
データセンターは地元の許可が必要なので
反対運動を起こしやすいと指摘されています。
なるほど、そこが反発の窓口になっているんですね。
実際に建設が止まった例もあったりしますか?
ありますね。
例えば、アイオワ州の2024年の大統領選で
トランプ氏が6割以上の票を取った
共和党の強い軍でも
データセンターの建設を一時的に禁止する処置が
可決されました。
また、ある調査会社の集計では
2026年の1から3月だけで
少なくとも75件、約1300億ドル分の
データセンター計画が反対を受けて
阻止されたり遅れたりしています。
これまた1300億ドルですか。
設備投資の話と繋がってきましたね。
そうなんです。
中間選挙でデータセンター推進派の候補が負ければ
建設の一時停止などがさらに広がって
AI投資や株式市場の上昇が
脅かされる可能性があると指摘されています。
各政党のスタンスはどう違うんですか。
民主党ではAI規制を選挙戦の中心に
据える候補が増えています。
一方でトランプ大統領は
AI推進の立場で
データセンターへの反発についても
アメリカが大きくリードしているから
反発が起きているんだというような趣旨で
SNSに投稿しています。
選挙結果によって
AI政策の方向が変わる可能性があるんですね。
AIバブルの崩壊条件と確認ポイント
いろいろな話が出てきましたが
結局AIバブルは崩壊するんですか。
ここからは事実ではなく
あくまで僕なりの整理として聞いてください。
結論からすると崩壊するとは言えません。
ただ崩壊し得る条件は
揃いつつあると思っています。
どんな条件ですか。
流れで言うとまず規制が強くなったり
7月のような新しいAI事件が起こったりする。
すると巨大IT企業が
設備投資を絞るかもしれない。
そうなるとS&P500の利益の伸び
の半分近くを支えている柱が揺らぐ。
これがAIバブル崩壊の引き金になり得るシナリオです。
今日の話が全部一本の線でつながりましたね。
逆のシナリオもありまして
規制が条件付け程度にとどまって
AIの売上も伸び続ければ
今回の下げは一時的な調整だった。
ということになるかもしれません。
実際に巨大IT企業が
AIで稼げているというデータもあるので
こちらを指示する人も多いです。
どちらに転ぶかまだ分からないということですね。
私たちは何をチェックすればいいですか。
私が思うに3つあります。
1つ目は11月3日の中間選挙の結果。
データセンターに厳しい候補が
どれだけ勝つかがポイントです。
2つ目は巨大IT企業の決算で
発表される設備投資の計画。
株次点で紹介した設備投資が
増えるのか減るのかを見てください。
そして3つ目は新たなAI事件が起きるかどうかです。
ニュースを見るときに
これはAI投資の原則につながる話か
という主体を持つと整理しやすそうですね。
今日の話を聞いて
AIのニュースと株価が混乱に結びついているとは思いませんでした。
AIは技術の話だけではなく
政治や選挙、そして私たちの資産に関わるテーマになってきています。
ぜひ今日のポイントを頭の片隅に置いて
ニュースを見てみてください。
本日ご紹介した内容は
情報提供であり
特定の銘柄への投資を推奨するものではありません。
投資判断はあくまでご自身の責任でお願いいたします。
本日も最後までお聞きいただきありがとうございました。
Apple PodcastやSpotifyなどお好きなプラットフォームにて
ぜひ番組への感想、評価の投稿をお願いします。
また概要欄にはご意見フォームのURLも貼っておりますので
番組へのご意見もお待ちしております。
いただいたコメントにより改善を進めていきます。
引き続き楽しんでいただけるよう頑張りますので
これからもよろしくお願いします。
それではまた次回お会いしましょう。
![[4月14日:速報回]危険すぎて公開停止!? 最新AI"Claude Mythos"の衝撃と、日本企業連合の国産AI開発の行方(ep.60)](https://image.listen.style/img/DusbpP_mJ5rEYJQRH_Thza4U5Rmq2727jfjQWFNZpB4/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzc2MTEyNDIyMjAwLTc2MzllYzlmMzRhMmUuanBn.avif)
