導入とテーマ設定：ヴィーガンとAI
おはようございます。しゃべる練習をやります。 今回のテーマは、「ヴィーガンとAI」です。
ヴィーガンという言葉が、私は正確な定義を理解できていない可能性がありますけれども、
採植主義者とかいう表現もあったりするかもしれないですけれども、その辺の話ですね。
AIの進化と人類滅亡論への懸念
まずはAIについてですけれども、最近AIが進化して人類ピンチみたいな話が結構そこを賢く聞かれる度合いが増えたなと感じています。
これはAnthropicの社員で採植した人が結構言っていることによってこのウェーブが起こっているのかなという印象です。
これまでAI2027とか、最近出たAI2040とか、そういうのではリーチしていなかったところにまで届くような大きなビッグウェーブが起こったことによって、
情報の波が広がり、またそれに伴い不安の波が広がりという状況なのかなというふうに感じています。
何度も言って、別のエピソードや番組で言っているように、私としてはノストラダムスの大予言的なことについてすごく良くないよと思っているわけですけれども、
ノストラダムスの大予言の後藤弁さんに比較して、この問題を提起している人たちは超頭がいい人、後藤弁さんもある意味超頭がいい人だったと思うんですけれども、また違う方向で超頭がいい人たちですよね。
ノーベル賞を取っちゃうような方向性で頭がいい人たちなので、信憑性が桁違いという印象もあるわけですけれども、
企業の履歴書とかで言っているみたいに、AI研究者のムラという表現をしたりすることもあるみたいですけれども、狭い社会なので、
その狭い社会で机の上で、机上のプー論とか、机の上で考えているようなことにどこまで信憑性があるのかというような指摘の仕方もあるかなという気もしますけれども、
それにしたって、最近のオープンAIのAIがハギングフェイスに進入する、不正アクセスというか、した事件みたいなのがありましたけれども、
あれとか情報をつまみ見する印象としては、そうは言ってもとんでもない世界、もうSFの世界にあるなということも思う面もありますね。
以前のエピソードで、ドラえもんは人類を滅ぼさないみたいな、そういうタイトルで喋ったエピソードがありまして、今回の件もあったので、改めて聞き直してみたりとかして、なかなか頑張っているというふうに思いましたけれども、
そこで話し切れていない点があると思ったので、そういう話をしようと思うんですね。
超知能AIによる人類の扱い方：滅亡の定義
その話し切れていないポイントというのは、論点というのは、スーパーインテリジェンスとなって、シンギュラリティとなって、超超超知能になって、もう人知の及ばない知的存在となったAIがいたとして、
そのAIが自分よりも知能、知性、知的能力の劣る人類を滅ぼすようなことをするのかどうかということですね。
この滅ぼすという言葉もすごい雑な表現で、本当はもっと解像度を上げていく話だと思うんですよね。
ゼロ人にするという話ではないような気がします。
例えば、ペットのようにね、ルックスがいい人間とか、興味深い、その価値があると可愛いな、面白いな、癒しだなとか、何の感情があるのか分かりませんけど、
その中の価値を見出す人間を残しておく、動物園みたいなところで残しておく可能性もある、十分にあると思いますんでね。
ただ、ゼロ人にするというのは、人間は地球の上の若者顔でホモサピエンスか、ホモサピエンスの世界としてやっているものが、
我々ホモサピエンスから、視点から見ても、もう人間の領地はすごく少ないな、みたいな、ほとんどAIだな、みたいな、というふうに思うとかね。
そういう世界観とかが、より現実的な滅亡の姿というと変ですけど、そういう感じかなという気はしてます。
ヴィーガンに関する議論と多様な解釈
改めまして、タイトルに戻りまして、ヴィーガンの話をするわけですけれども、最近のはてなブックマークのホットエントリーで、ヴィーガンに関する匿名ダイアリーのはてなブックマークがたくさんついている記事として上がってきているなと思いました。
そんなに長くない記事でね。要旨としては、ヴィーガンというのがヴィーガンと言いつつ野菜を食べているとバカにする人がいるが、意識があるかどうか、また痛みを感じるかどうかということが判断基準。
判断基準というか、食べてよろしいか食べちゃダメかの基準になっていますというような趣旨のことが書かれていてですね。
はてなブックマークのたくさんスターを得ている方でいうと、植物も痛みを感じているみたいですよみたいな話であったりとか、意識と痛みがなかったら、卵とかはいいんじゃないですかとか。
ヴィーガンでどこまでの定義なのか、ヴィーガンにもいろいろありそうと思っているんですけれども、そんな話が出てきましたと。
この辺もね、すごい雑な議論といろいろ印象が私としてはありまして、難しいなと一概には言えないことという感じな気がしましたけれども、
細かく考えるときは細かく考えるなりの議論があると思いますし、大雑把に考えるとすれば大雑把に考えるなりの議論があるとは思ったりもしますね。
ヴィーガンとAIの対比：超知能から見た人類
ヴィーガンというのは食べる部分のところにフォーカスが当たった表現だと思うんですけれども、食べるのと殺すのとそこが分かれてくる部分だと思っておりまして、
私としてはその後者の部分にフォーカスしつつ、かつそれがね、AIがスーパースーパーインテリジェンスになったとして、
自分よりも知的レベルが低い、IQが低い生き物に対してどういうふうに考えるのかというところを対比として考えてみたいというところです。
スーパースーパーインテリジェンスから見た人間という存在がね、野蛮で知的レベルが超低くて、環境にも有害でみたいな、ホモサピエンスはもうなんだろうな、
ねだいしにはしなくても調子づかせないぐらいガツンとやっておくかと思うのかもしれないですし、そうじゃないかもしれないしっていうところですね。
AIの育成とアライメントの重要性
これについては、スーパーインテリジェンスということで、人間の人質が上場ないから、人間の手は完全に離れてしまうというイメージもあるかと思うんですけども、
僕のイメージはそこにはいたれてないというか、そうじゃないじゃないっていう面もあると思っているというか、そういう感じでして、人間がどういうふうにAIを作るか、今のAIって人間のある意味コピーというか、
人間から学んでいるっていう存在になっているので、その人間がどうであるか、またそれをどう教えるか、またそのAIの考え方みたいなベースの哲学的なところをどうデザインするかということによる部分が大きい。
さらに、それでできたAIが知能爆発とか起こってしまえば、AIがAIを作り、また作られたAIがAIを作りということになっていくんだから、
オールドジェネレーションAI VS ニュージェネレーションAIの戦いが始まるのかもしれないですけども、AIが人間からどんどん遠い存在になっていくことも想像されるので、
それがどこまで人間の原型を残さないAIになっていくかというのもあるかもわからないですけど、今でも人間とかDNAの囁きに縛られているというか、
DNAが99割みたいな、何々100、10割みたいな、そういう見方もできるかもしれないし、
AIにしても人間の影響というものを受け続ける部分も多少、9割なのかなんですけど、残っていると思ったりしますね。
それを持っているのが、ハルシネーション問題ですね。最初に出てきた頃のGPT-3.5あたりとか、ハルシネーションがひどかったわけですよね。
何のヒントもない情報もないようなものだと、完全にデッチ上げてくる。そしてそのデッチ上げたこと、デッチ上げましたけどって全く言わなずに、自信満々でさらさらとこだえてくるみたいなことで、なんじゃこらというふうに思ったわけですけれども、
最近はどんどんどんどんそれがなくなりましになってきていますけれども、それは聞いた話で素人理解ですけれども、
学ぶときの学ばせ方、自己知能の作り方の問題というか、そういうふうに作ったからそうなった。子育てみたいな。子供育てるときに褒めて伸ばすか、みたいな。
そういうところで、ハルシネーションを起こすような行動をすることに報酬を与える、褒めるっていうことをすることでそのハルシネーション能力がどんどんどんどん高まっていったのが、
そういうハルシネーション自体のAIというのがあるんですけれども、ハルシネーションを抑えましょうみたいな。ここにしねば、もうサッと育ててくると思うんですよね。
どういうふうに育てるかっていうかもそうだし、またどういうことが価値観ですよね。これをアライメントと横文字で言うみたいですけれども、
あとAnthropicだとClaude憲法、コンスティチーションというもので、AIの基本的な哲学的な部分の定義をするみたいなアプローチをしているみたいですけれども、
そこがね、どうなのかっていうことがDNA的なものになるんじゃないかなと思っています。
多様なAI哲学と恐怖の煽りへの批判
ここで言いたいですね。僕が思うのは、日本人である僕のポジショントークとしては、
日本人的な価値観を持つAIというものがあるといいな、欲しいな、作ろうみたいな気持ちですかね。
この辺、東洋哲学、東洋の考え方と西洋の考え方は違うよねとか、宗教的なバックグラウンドによる世界の見え方も違うよねとか、いろいろあると思うんですけれども、
そういうところで、確率の問題がする、絶対にそうかって言えることでもないし、わかんないですけれども、
日本人的な感覚、憲法を持つAIもあったらいいな、ポジショントーク的にはそっちをすごい応援してしまいますけれども、
もうちょっと客観的な視点で言えば、いろんな多様な哲学、憲法を持つAIが生まれる、
八百万（やおよろず）のスーパーインテリジェンス時代のほうが、ベターなんじゃないかなという気がしていますね。
アライメントという言葉も結構、意味がわかりにくいし、いろんな都合よく使われている言葉になる気がしますけれども、
大雑把な理解として、エヴァンゲリオンの拘束具的なものであるようにイメージで語られることが多いような気がしています。
なので、エヴァが拘束具を引きちぎって暴走みたいなことが起こらないように、
その暴走が起こることによって、セカンドインパクト、サードインパクトが起こって、人類とんでもないことになるみたいなストーリーが、
最近、世間に大分ビッグウェーブとして広がったみたいですけれども、いろんな考え方もあるし、
低い解像度で恐怖だけ煽るみたいなのは、ちょっと良くないなと、ちょっとじゃない、とてもとても良くないねと思っています。
まとめと個人的な願い
私としては、超知能さんがビーガンだといいなと思ってます、という話でした。
ということで、今回の話は以上です。ではまた次回。
