00:01
皆さんこんにちは、TRY-CATCH FMです。このポッドキャストは、IPMに同期入社し、現在は別々の企業で働くソフトウェアエンジニアの二人が、最新のテクノロジー、ライフハック、キャリアなどをテーマに、雑談形式でお送りする番組です。
最近またオアケーションに行ってきて、おなじみレンタサイクルを借りたんだけどさ、いつか話すかもしれない、浜中湖一周レンタサイクルロードバイクでやったっていう話と、街中を普通のどこもシェアバイクみたいな、ああいうレンタサイクルで走った話の二つあって、今回は公所の方なんですね。
街中に普通にある、普通にあるって言うと、ソシブじゃない人に怒られるかもしれないけど、レンタサイクルの話で、あれ電動が多いじゃないですか。
福岡も前は電動じゃないのが多かったんだけど、今電動がかなり増えてて、静岡もそうだった、東京もそうだった。あれ電動の方が嬉しいんかっていう話をちょっと気になっているんですよ。
まあそうですね、逆に電動だと何がまずいのか。
あれってさ、僕の体感だけど、ちょっと性能低めの電動自転車じゃない?
ああ、そうなのかな。
ギアが3つまでしかなくて、全部ちょっと軽めでさ、ちょっとスピードを出そうとかすると、全然進まない。結局パワーでカバーみたいな感じ。
ゆるっとだけ進む。事故を防止するためなのかもしれないけど、ゆるっとしか進めないなって思って。
観光とかで、ちょっとあっちまで足を伸ばそうみたいな時とかに全然向かねえなって、静岡の街を漕ぎながら思ってたんだけど。
でもそれって電動じゃない場合より漕ぎづらいっていうことなの?
あれだったら、電動自転車ってなんだかんだちょっとお金がかかるじゃないですか。
かかりますね。
本体が高いからね。なんかもうちょっと電動じゃないから本体が軽くて、普通に5段6段ぐらい変速のあるシティーサイクルみたいなやつ、普通の自転車のほうが何ならスピード出るんではっていう。
本当に坂がどうかだけだと思うんでね。
坂が少ない地域だったら別にそれで良くないって思うんだけど、どうなんだろう。自転車によく乗るかどうかでも結構意見変わりそうだから。
確かにそれ思ったことなかったな。
でもちょっと進みたいときに電動でめっちゃ加速されて動きづらいみたいなのは確かに思ったことがあるかもしれない。
そうだね。
電動のやつって、そもそもレンタサイクルの機構のためにQRコードを読み込んで自動で鍵を開けるとかのためにちょっと電力がいるじゃん。
あれと合わせてるのかなっていう思いと、どっちにしろ電池切れるじゃんっていうので、電池切れたらただの重い自転車なんだよね。
いやマジあれはね、だいぶ前のポッドキャストで言いましたけど、電池切れるとマジで面倒だからね。
そこで結局、もしその電力を共有している部分があるんだとしても一長一短なのは変わらんなと思ってて。
静岡でもさ、ここからちょっと何時間か乗りたいんだよなーみたいな色んなとこ行くからと思ってたけど、なんか全然残り20%とかしか見つからんときがあって。
なるほどねー。
そういうのがあるから、電池気にしなくていいやつがいいなーって思うときもあるんだよ。
確かにそれはあるかもしれない。
なんでだろうね、まあでも電池が入ってないと、いや関係ないよな別に、それでロック開くもんが別に電動じゃなくても。
そう、電動じゃないレータサイクルあるからね、普通に。
なるほどね、そういうのもあるってことね。
そう、ちょっと気になってたので、今後も利用探っていくが、そもそも長時間レータサイクルに乗る人がいない終了かもしれない。
まあ確かに。
ちょっとあればいいやろ、電池なんかみたいなね。
今後もね、レータサイクルをずっと気にしてるので話題は降っていくかもしれないけど、色々な話として聞いてください。
じゃあ本題行きますか。
AIのリスクに関する警告
本題がですね、昨日一昨日くらいにBBCのニュースで、
AIが人類滅亡を招く恐れ、専門家やテクニカルトップが警告っていう記事が出てたわけですよ。
はいはいはい。
で、どういうことかというと、センターオブAIセーフティっていうサイトがあるらしく、そこにAIのリスクが書かれてるらしいです。
生命分みたいな。
で、その生命分にオープンAIのサムアルトマンとか、そのあたりのAI系の企業のトップの人たちが署名してると。
なるほど。
で、センターオブAIセーフティに書かれてるシナリオというか、人類滅亡のシナリオみたいなのがあるらしいんですけど、
今までね、AIができたら人類滅亡するっていう人とかがちょいちょいいたけど、それどういうロジックなんてずっと思ってたんよね。
ここにある程度書いてあるので読もうと思うんですけど、まずはAIを兵器化するっていう話ですね。
新薬開発ツールが科学兵器の製造に使われるといった可能性。
で、その次がAIで生成された偽情報が社会を不安定化させ集団での意思決定に害を及ぼす可能性。
これどうなんだろうって感じだけど。
で、その次がAIの力がより少数の人に集中し、国家が監視と抑圧的な検閲を通じて狭い価値観を調整できるようになる可能性。
これもなんかよくわからんけど。
わかるね。
4番目が映画ウォーリーで書かれたシナリオのように人類がAIに頼って衰退する可能性。
これわかります?
AIがもたらす悪影響
ウォーリーってロボットの映画だよね。
ウォーリーってどういうあらすじなんですか?
あれ見てなかったんだよな。ゴミ掃除のロボットがロボットに恋をして打ったらじゃなかったっけ?
あらすじ。
人間は汚染し尽くされた地球を捨てて、全ての危機を統合した巨大企業の主導により世代宇宙戦で生活してたっていうような世界で、
ウォーリーっていうロボットが地球に人がいない状態で、ウォーリーっていうロボットが残されてて、そこでなんかいろいろやっていくよみたいな話らしいんだが、
人間は何なんだろうね。
特にあらすじに出てこないけど、最初以外。
何なんだろうね。
AIに頼りすぎてね。
AIの限界と人間の役割
まあまあそれは本当なんかわかるけどね。
人間が衰退する。
人類滅亡の恐れとAIの進化に関する議論
勉強とかしなくなるっていうことか?
この中で一番信憑性があるのが一番目だね、多分。
これって科学兵器の製造がすごい進むとかの話で、結局ただの科学の進歩なんだよ。
AIがあろうがなかろうが、これはいずれ進化するよねって話か。
今時点、地球にある爆弾系だけで多分地球何回か吹っ飛ばせるんじゃなかったっけ?
まあね。
子供の頃に読んだ本でそんなレベルだった気がするけど。
AIがなかろうとボタン一つ押せば人類を滅亡するよねって話だよね。
そうなんだよね。結局使う側の話でっていうので。
使う側の意思決定とかの方に寄ってくるんじゃないっていうのがあって、
そうなるとどっちかっていうとあれじゃない?
宮城日野というのわかる?
手塚治虫のね。
あれのなんか、タイトル忘れた未来編?
未来世界でAIが都市国家みたいなのをそれぞれ統括してるみたいなのがいくつかあるみたいなね。
そういう世界の未来があって。
そこではもうAI同士がいろいろ外交とかもやってるんだけど、
お互いにあの国を滅ぼさねばっていう結論に達して、
お互い同士に核兵器のスイッチから押して滅亡するみたいなのがあって確か。
そういう意思決定の方、どうせ兵器はあるんだから意思決定でAIがちょっとそういう決断をしちゃう方が、
しかもそういう決断を任せるところまで行っちゃったら滅亡に関与するかもね。
っていう話だよね。
だからあんまり今から開発、新しいものが開発されるのを恐れるっていうのはおかしな話ではっていう気がする。
だからなんかここの記事、BBCの記事の途中くらいに、
AIによる情報操作と人間によるAI利用のリスク
なんかFacebookに所属している、
ルカン教授って誰だ、そういう学者っぽい人がいるのかな。
が、なんかいやそれは言い過ぎだろうみたいな、心配せすぎだろうみたいなことを言ってたり。
あとは、
サムアルトマンとかGoogleのサンダーピチャリとかも、
イギリスのスナック大統領と、スナック大統領とスナック総理と言ってて、
まあそこまで批判するもんじゃないよみたいなことは言ってるって書いてあるね。
そうだね。
正直、
そういう人たちが言ってるのって、危ないぞって、
それこそサムアルトマンとかの人が言ってるのが、
どういうレベルのポジショントークなのか、知ってるから言ってるのか、話題にしたいから言ってるのかって結構わかんないじゃん。
イロン・マスクとかもさ、
お前らAIを開発しないという協定結ぼうぜって言った後、急に要移動したじゃんみたいな、
ああいうのの可能性も全然あるし。
GTU回収にしたみたいなね。
そういうのの可能性もあるから正直、
ふんわりしたことを言われてもよくわからんっていうのが正直。
まあね、何言ってもポジショントークに聞こえてしまうよね。
根拠があればいいけどっていう話で。
そうだね。
まだAIが自立行動してないうちは、
そうなんだよね。
結局人間依存だと思うけどね。
本当にAIが、
今のAIの権限ってもう、
リコメンドするくらいしかできないわけじゃないですか。
まあでもそれの権限が将来的にはどんどん取っ払われていって。
あれやっといてって言ったらやってくれるんだけど、思ったのと全然違うやばいことをしてる。
そうそうそうそう。
そういう未来があれば、ちょっとそのうち人が死んだりするのかもしれない。
自動運転なんてある意味それだしな。
まあそうだね。
人を殺せる威力のものを完全に機械の制御に任せてるわけで。
そうだね。
AIって言われてるものかどうかなだけで、機械の制御なんていくらだって。
まあそうだね。
ボートパイロット、飛行機のやつとかどうなりすんだよっていう話だし。
車がブレーキしかなくなっちゃったとかね。
そういう話はいくらでもあるから。
そうだね。
ただその意思決定とか、例えば選挙に関するものとかでさ、
セロンを動かすのにいろいろ、フェイク情報とかいろんな、
それこそみんなが使うチャットGPTなりグーグル検索なりのリクメンドに出てくるやつを
そのAI的なやつが人的にいい感じに誘導したら、
まあセロンぐらい動いて選挙の結果ぐらい変わるよね。
まあね。
あるだろうから、影響力がないとは言わないけど。
AIの進化と人間の関係における未来の展望
そうだね。
まあちょっとね、もともとできたことがやりやすくなっちゃったよね。
っていうような話に基本落ち着くんじゃないかな。
あとあれだね、ちょっと話変わるかもしれないけど、
イーロン・マスクがやってるニューラリンクとかは、
まあまさになんだろう、そういう問題に対応するためのものというか、
要は人間よりAIが賢くなってしまうっていう状況を、
要は脳にインプラントを埋め込んでいって、
人間もAIと同じくらい賢くなるというか、
AIを自分の中に取り込む。
高画期動態味とかいろんなものがあるね。
あるね。
まあでもそれによって人類滅亡っていうところを防ぐ、
みたいなことを言ってた気がするな。
滅亡を防げるんかな。
この人たちの言うような恐れ方だと別にそれを助長する顔だと思うけど。
まあね、助長しかれないね、確かに。
まあでもAIが暴走した時に、
人間誰も止められないみたいな感じになったらまずいんじゃね?みたいな話かな。
でも脳みそ、AIと繋いでるんでしょ。
AI暴走したらその人たちも暴走するじゃん。
より良くない?
そこは分離してるのか分かんないけど。
確かに、独立してるかもしれない。
スタンドアローンで動いてるかもしれない。
あとあれだよね。
SFとかからこういうのもさ、さっきのウォーリーとかもあったし、
よく読み取ってるじゃん。
僕も昨日取り出したし。
AIによる滅亡のシナリオ
保身師とかは結構出してるよね。
AI。
あー、聞いたことある。
人間の肩にインコみたいなのが止まってて、
そのインコがお互いコミュニケーションしてくれるみたいな。
前に僕らが話してた、メールのめんどくさいメールを。
それと同じ話ですよ。
それもあったし、いろいろ教えてくれる。
さっき言った統括してくれるAIみたいなやつの話もあって。
それもね、ちょっと滅亡に近い話だったんだけど。
なんだっけ、かばかなんかをめちゃめちゃあがめろみたいな、
わけわからんことを言い出して、
もうめちゃめちゃ大事にして、
変なことをAIが指示してきてるから、
派閥が分かれるんだよね。
AIなんて当てにならん人と、
それでも信じるって人に分かれて、
でも結局カバはめちゃめちゃ増えたんだけど、
その後、カバ以外の動物がめちゃめちゃ死滅するような
ウイルスみたいなのが出てきて、
食糧なのになったんだよね。
今めっちゃいるカバを食糧としてして、
しばらく生き延びながら解決策を探そうね、
みたいな感じになって、
やっぱりAIすごいじゃんってなる。
でも、それで一回信じちゃった結果、
AIにバグが起きたときに誰も気づけなくて、
AIがバグで、
人間は四足方向で生活しなさいって言ったら、
みんながそのまま生活しちゃったっていう。
一回疑わしいものが出てきて、
でもそれが実は正しかったって。
やっぱりAI万歳ってなったら、
その後何を言ってもみんな信じるようになっちゃうよね、
みたいな話があるんだけど、
それはマジで起きそうな気がしてる。
信じるか疑うか、AIとの競争
競争って感じだな。
一回そういうカタラシスっていうか、
おおーってなるとみんな結構、
僕も騙される可能性あるからな。
確かに。
結構SFとか読んで、
こうなるんじゃないかなって想像しながらやるのは楽しいし。
案外来そうだよね。
対策にも対策というか、
先見の目は得られるかもしれない。
なるほど、なるほど。
今後も論点になるというか、
そういうニュースとかバババ出てきそうなんで、
今回取り上げてみました。
また規制とかにも関わるからね。
大きい動きがあったら取り上げてみましょう。
はい、じゃあ終わりましょうか。
はい、ではこんな感じで週2回のペースで配信しているので、
Apple PodcastもしくはSpotifyでお聞きの方はぜひフォローお願いします。
では今回も聞いていただきありがとうございました。
はい、ありがとうございました。
