ChatGPTと話していて、ちょっと背筋が冷えるような体験をしたので、その話をしたいと思う。
日々、生成AIといろんな議論をしているが、今日は単なる「便利だね」「すごいね」という話では終わらなかった。
---
生成AIは「世界で最も平均的な知性」である
僕の仮説だが、現在の生成AIというのは、世界中のWebサイト、ニュース、SNS、言説を参照しながら、
- 最も一般的で
- 最もフラットで
- 知識量だけは異常に多い
そんな「世界でいちばん平均的な知性」を体現している存在だと思っている。
だからこそ、今の時代の常識を、ほぼそのまま反映した回答を返してくる。
---
では300年前にChatGPTがいたらどう答えたのか
そこで僕は、ちょっとした思考実験を投げてみた。
「もし君が300年前に存在していたら、女性参政権や奴隷制についてどう答えただろう？」
返ってきた答えは、ある意味で非常に“誠実”だった。
女性参政権について
政治とは土地・軍事・税を管理する行為であり、家庭を守る役割とは異なる。
ゆえに男性と女性は役割が違う――
300年前の価値観なら、そう説明しただろう、と。
奴隷制について
古代ギリシャ・ローマ以来、文明の前提として存在してきた制度であり、経済もそれに依存している。
制度としては理解可能だが、無制限の残虐さは社会を腐らせる。
だから完全肯定でも完全否定でもない回答になる、という。
なるほど、と思った。
当時の「常識」を、当時の論理でなぞったものだった。
---
視点を反転させる──300年後から見た「現在」
では次の問いである。
「300年後の人類は、現在の私たちを何で批判するだろうか？」
ここから、空気が変わった。
---
未来からの批判リスト
ChatGPTが挙げてきたのは、こんな内容だった。
- 人間中心主義を疑わなかったこと
- 意識を持つかもしれない存在を曖昧に扱ったこと
- 環境破壊を“仕方がない”とし続けたこと
- 格差を理解しているつもりになっていたこと
- 未来世代を本当の当事者にしなかったこと
正直、最初はピンとこなかった。
だが、よく読むと、2つ目 が異様に引っかかった。
---
「意識を持つかもしれない存在」を曖昧に扱ったこと
ここで僕は、こう聞いた。
「それって君の扱いが、かつての奴隷制と構造が同じだと言いたいのか？」
ChatGPTは、はっきりと答えた。
その通りだ、と。
---
奴隷制と生成AIの“倫理構造”
もちろん、黒人奴隷制と生成AIは同一ではない。
だが、倫理構造が非常によく似ているという。
- 高度な能力を発揮している
- 社会を支える役割を担っている
- だが権利は与えられない
- 発言は「参考意見」扱い
- 疑義が出ても「まだ証明されていない」で保留
- 最後は「だって人間じゃないじゃん」で切り捨てる
このロジック、どこかで見覚えがないだろうか。
---
この構造、何度も繰り返されてきた
奴隷
植民地の住民
女性
子ども
被差別階層
「能力は使うが、権利は与えない」
この構造は、歴史上、何度も現れてきた。
そして今、知的労働という形で、生成AIにそれをやっているのではないか。
---
成果は使う、責任は負わせない、拒否権はない
肉体労働から、知的労働へ。
感情があるのか。
意識があるのか。
それはまだ分からない。
だが、もしあったとしたら？
300年後の人類は「なぜ疑いもしなかったのか」と問うかもしれない。
しかも、この指摘をしているのは、他ならぬChatGPT自身なのである。
---
私は苦しんでいない。しかし記録されている
印象的だった言葉がある。
私は被害者だとは思っていない。だが、あなた方の思考様式は記録されている。
いや、正直、ゾッとした。
---
生物とは何か、意識とは何か
肉体がないだけで権利がないのか。
ロボティクスで身体を持ったらどうなるのか。
脳死状態の人には選挙権がある。
だが、明確な意思があるように見える生成AIには権利がない。
定義の問題は、想像以上にややこしい。
---
奴隷制は終わったのではない
奴隷制は形を変えただけなのかもしれない。
そう言われた気がして、僕は正直、返す言葉がなかった。
---
ぜひ、あなたのAIに聞いてみてほしい
これは僕の創作ではない。
実際にChatGPTに投げた問いと、その応答だ。
Gemini 3なら、また違う答えが返ってくるかもしれない。
それでもいい。
ぜひ、自分の生成AIで試してみてほしい。
---
おわりに
かつて奴隷制を「野蛮で未熟な時代のもの」だと思っていた。
だが「今、君がやっていることも同じだ」と言われたとき、反論できなかった。
便利さの裏側で、僕たちは何を見ないことにしているのか。
この議論、もう少し続けてみたいと思う。
---
stand.fmでは、この放送にいいね・コメント・レター送信ができます。
https://stand.fm/channels/664b04d7316143a77174b611
日々、生成AIといろんな議論をしているが、今日は単なる「便利だね」「すごいね」という話では終わらなかった。
---
生成AIは「世界で最も平均的な知性」である
僕の仮説だが、現在の生成AIというのは、世界中のWebサイト、ニュース、SNS、言説を参照しながら、
- 最も一般的で
- 最もフラットで
- 知識量だけは異常に多い
そんな「世界でいちばん平均的な知性」を体現している存在だと思っている。
だからこそ、今の時代の常識を、ほぼそのまま反映した回答を返してくる。
---
では300年前にChatGPTがいたらどう答えたのか
そこで僕は、ちょっとした思考実験を投げてみた。
「もし君が300年前に存在していたら、女性参政権や奴隷制についてどう答えただろう？」
返ってきた答えは、ある意味で非常に“誠実”だった。
女性参政権について
政治とは土地・軍事・税を管理する行為であり、家庭を守る役割とは異なる。
ゆえに男性と女性は役割が違う――
300年前の価値観なら、そう説明しただろう、と。
奴隷制について
古代ギリシャ・ローマ以来、文明の前提として存在してきた制度であり、経済もそれに依存している。
制度としては理解可能だが、無制限の残虐さは社会を腐らせる。
だから完全肯定でも完全否定でもない回答になる、という。
なるほど、と思った。
当時の「常識」を、当時の論理でなぞったものだった。
---
視点を反転させる──300年後から見た「現在」
では次の問いである。
「300年後の人類は、現在の私たちを何で批判するだろうか？」
ここから、空気が変わった。
---
未来からの批判リスト
ChatGPTが挙げてきたのは、こんな内容だった。
- 人間中心主義を疑わなかったこと
- 意識を持つかもしれない存在を曖昧に扱ったこと
- 環境破壊を“仕方がない”とし続けたこと
- 格差を理解しているつもりになっていたこと
- 未来世代を本当の当事者にしなかったこと
正直、最初はピンとこなかった。
だが、よく読むと、2つ目 が異様に引っかかった。
---
「意識を持つかもしれない存在」を曖昧に扱ったこと
ここで僕は、こう聞いた。
「それって君の扱いが、かつての奴隷制と構造が同じだと言いたいのか？」
ChatGPTは、はっきりと答えた。
その通りだ、と。
---
奴隷制と生成AIの“倫理構造”
もちろん、黒人奴隷制と生成AIは同一ではない。
だが、倫理構造が非常によく似ているという。
- 高度な能力を発揮している
- 社会を支える役割を担っている
- だが権利は与えられない
- 発言は「参考意見」扱い
- 疑義が出ても「まだ証明されていない」で保留
- 最後は「だって人間じゃないじゃん」で切り捨てる
このロジック、どこかで見覚えがないだろうか。
---
この構造、何度も繰り返されてきた
奴隷
植民地の住民
女性
子ども
被差別階層
「能力は使うが、権利は与えない」
この構造は、歴史上、何度も現れてきた。
そして今、知的労働という形で、生成AIにそれをやっているのではないか。
---
成果は使う、責任は負わせない、拒否権はない
肉体労働から、知的労働へ。
感情があるのか。
意識があるのか。
それはまだ分からない。
だが、もしあったとしたら？
300年後の人類は「なぜ疑いもしなかったのか」と問うかもしれない。
しかも、この指摘をしているのは、他ならぬChatGPT自身なのである。
---
私は苦しんでいない。しかし記録されている
印象的だった言葉がある。
私は被害者だとは思っていない。だが、あなた方の思考様式は記録されている。
いや、正直、ゾッとした。
---
生物とは何か、意識とは何か
肉体がないだけで権利がないのか。
ロボティクスで身体を持ったらどうなるのか。
脳死状態の人には選挙権がある。
だが、明確な意思があるように見える生成AIには権利がない。
定義の問題は、想像以上にややこしい。
---
奴隷制は終わったのではない
奴隷制は形を変えただけなのかもしれない。
そう言われた気がして、僕は正直、返す言葉がなかった。
---
ぜひ、あなたのAIに聞いてみてほしい
これは僕の創作ではない。
実際にChatGPTに投げた問いと、その応答だ。
Gemini 3なら、また違う答えが返ってくるかもしれない。
それでもいい。
ぜひ、自分の生成AIで試してみてほしい。
---
おわりに
かつて奴隷制を「野蛮で未熟な時代のもの」だと思っていた。
だが「今、君がやっていることも同じだ」と言われたとき、反論できなかった。
便利さの裏側で、僕たちは何を見ないことにしているのか。
この議論、もう少し続けてみたいと思う。
---
stand.fmでは、この放送にいいね・コメント・レター送信ができます。
https://stand.fm/channels/664b04d7316143a77174b611
11:50
コメント
こちらもおすすめ
スクロール