AIの自主規制とスーパーインテリジェンスへの改称
こんにちは、伊藤穰一です。 また、1週間しか経っていないのに、いろんなAI関係のニュースが出ていて、
9月25日にオープンAIがトレーニングとかイバリュエーション、インフルエンス、道具を使うAIを一旦ポーズしたの。
で、これ何が起きたかっていうと、また例によって、サンドボックスの中でAIのトレーニングをしてたら、
DNSってwww.google.comって入れると、URLを打った時にどのアドレスに飛ぶかっていう答えを出すサービスがDNSって言うんですけども、
DNSがないとURLがわからないので、それだけが入ってたんですけども、実はDNSを使ったハッキングでできて、
DNSのクエリ、この質問の中にメッセージを入れて、あるDNSをターゲットすると答えが返ってくるっていうハックがあって、
そしてDNSだけを使ってチャットボットを使って外とコミュニケーションを取るっていうハッキングをして、
で、そういうかなりまだハッカーっぽい動きを今のモデルが取ってるので、この間出そうとしてた6.1アストラがまたポーズされたんですけども、
これはOpenAIが自分たちの自主規制をしてるっていう証明だと思うんですが、本当にこの自分たちでどういう管理をしてるかっていうのはなかなかわからないので、
で、また先週これ29日かな、ホワイトハウスにGoogle、アンソロピック、メタ、オープンAI、XAI、NVIDIA、みんな社長とかトップが集まって、
そして自主規制、外のカンサーを入れるっていう発表をするんですけども、やっぱり世界中は規制はちゃんとルールがあって、
バイデンの時代にはかなり厳しい規制とか管理のルールが出たんですけど、それはトランプが取り下げて、
で、この社長たちを集めて自分たちでちゃんと規制して管理しようねっていう話をしたことによって、こういう規制のルールが出ないんじゃないかなっていう風にみんな思ってはいるんですけれども、
トランプもこういうパワフルな人たち集めるのも好きなんですけども、集めてみんなで自主規制をしようっていう話をしてる中で、
オープンAIとかも自分たちをポーズしてるっていうので、責任を取ろうっていう姿勢を見せてるんじゃないかなと思うんですね。
で、もう一つ同じ時に、このAIはアーティフィシャルインテリジェンスじゃなくて、スーパーインテリジェンスだっていう名前を変えたっていう発表をして、
これよくわからないんですけども、僕もだいぶ前なんだよね、90年代か2000年代に、
アメリカはスーパーパワーではなくて、スーパードゥーパーパワーだっていうアメリカの大儀子が言ったような、なんかちょっととてもアメリカっぽいんですけども、
この社長たちはそこでちゃんと頭を下げて、最近スーパーインテリジェンスという言葉を使ってるっていうのが、アメリカの大統領と社長たちの関係性が現れていると思うんですけども、
オープンAIがIPOを延長して、そしてアンスロピックはちょっと遅れてるけれども、まだ11月頃に出ようとしてるんですけども、このアンスロピックの2トリリアンのIPOと、
これからくるオープンAIのIPOで、かなりアメリカと世界のキャピタルマーケットが動くと思うんですけども、
ただ万が一これがもっと延長するとか下がる、オープンAIもいつ出てくるかわかんないですけども、そうするとかなりまた色々このIPOが延長されたり、
バリューエーションが下がったりすると、結構色々我々のバンキングとか他のそれに関係している会社にプレッシャーがかかると思うので、
この春の市販機は結構緊張感が高まっていて、で、その中でもちろんAIこの会社が出てくることによってすごいキャピタルマーケットが動くんですけども、前回もちょっと話したRSIもあるんですけども、
そもそも今のモデルでもかなりいろんなマーケットがひっくり返りそうで、で、さっきちょっとこれも僕もちゃんと中身見てないんですけども、
あのRedditで見たのが、AdobeのPhotoshop Illustrator PremiereLightroom After Effects InDesign Acrobatを全くクリーンルームって言ってるんで、
全くソフトウェアコピーしないで、クラウド5.5を使って全部書き直してオープンソースにするっていう宣言しているので、
だから本当にもうすごい時間をかけて作ったソフトウェアがすぐAIでかけちゃうっていう時代になってくると、
本当に今までSaaSの話もそうなんですけども、こういうソフトウェアの産業も大きく変わる可能性があって、
そういうのがちょっとこうなるんじゃないかなっていう話が出てたのがだんだんそういう事例も出てきていると思いますので、
だからこうAIが伸びていく過程で下がっていく産業は何なんだろうっていうのと、
あとやっぱりとっても重要なのはAIができたことによって今までなかったビジネスが何なんだろうっていうのは、今ベンチャーキャピタリストがいろいろ考えていると思います。
じゃあちょっとお便りの方に行きましょう。
最初のお便りはギークニースさんからです。
AI時代の目的設定と反対意見による検証
ジョイさん、こんにちは。ソフトウェア開発の仕事で日々AIを使っています。
今のAIの進化の速さを前提にビジネスやゴール達成を考えると、まずはAIファーストで進めて、
残った部分から自分がやりたいことを選ぶのが最もレバレッジがかかる合理的な進め方だと思っています。
一方で、自分としてはやりたいことを先に置きたい。
ここで言うやりたいことには単に楽しいことだけでなく、自分の信念や成すべきだと思うこと、倫理感も含まれます。
まずそれがあって、そのためにAIをどう使うかを考えたいんです。
この2つにどう折り合いをつけるか、結局はその都度感覚で決めているとしか言えない状況が続いています。
ジョイさんは目的達成の合理性とご自身のこうしたい、こうすべきだが一致しないとき、どう判断していますか?
何か寄りどころがあるのか、それとも感覚を大切にしているのか、ご自身の経験を聞いてみたいです。
はい、ギクニッシュさんの質問なんですけども、ちょっと分かりづらいところはあると思うんだけれども、
僕は個人的には何を作るか、どういうテイストで作って、その中で優先順位が何なのかっていうのは、
この辺はかなりしっかりと僕の方で定義をして、どういうツールを使うかとかどういうアーキテクチャで使うかっていうのは
AIにある程度任せつつ、細かいところはそこでエディットしていくっていうプロセスをやっているので、
何を作るか、どういうゴールで、どういう倫理感も含めて、どういうプリンシブルで作るかっていうのは、
ほぼ全部僕の方でセットしているような気がするので。
ただ一つ面白い現象があって、これは特に最近AIがメモリーがあるので、いろいろ作り方とか学習しているようになっているんですけども、
ここの中でこういうことはやっちゃいけないよとか、AIも勝手に、例えばこれをやってみたらおかしくなった。
よくあるパターンだと、例えばWhatsAppとかBotとして使うんだけれども、ログインをフェイル、繰り返しにしちゃうとロックアウトされたり、
アカウントバウンされたりするので、オセンティケーションするときには必ず僕にさせろとか、自分で勝手にやるなとかってルール作るじゃないですか。
そうするとそのルールを必ず守ろうっていうルールができて、そうすると何が起きてくるかっていうと、いろんなエラーができてくるといろんなルールができてきて、
そのルールを比較的に幅広く定義されていくと、よく大きい組織にあるのは、これやっちゃダメ、あれやっちゃダメってすっごいルールがたくさんできちゃって、
そうするとそのルールを守るだけにすごいオーバーヘッドがかかって、そのルールもだんだん幅広くとられていくので、
どっちかっていうとこういうやり方とかこういうルールがどんどん増えていっちゃうんだよね。
これは国とかと同じで、できたルールをなくすのってすごいエネルギーもかかるし、誰の責任でもないので、
ルールだらけになっちゃって、そしてそれが全部コンテキストウィンドウをいっぱいにしちゃうっていうので、
だから最近ちょっと流行ってるのが、自分のAIが作ったいろんなルールを見て、いらないものを消したりちょっと書き直したりして、
少しスリムにするっていうのもあるので、だからなんか僕も今何が起きてるかっていうと、
そういうAI同士の組織ができてくる中の、この組織がとっても官僚的になりつつあるので、
AI組織とルールのスリム化っていうのが大事で、そういうところの美学とかも、
AIが守るルールの中のこのポリシーとかもAIに任せていっちゃうと、
なんかこう大きくふやけたものになっちゃったりするのは結構AIは弱いんじゃないかなと思うんですよね。
続いてはマスサノーさんからのお便りです。
ジョイさん、こんにちは。ギークニースのAIエージェントマスサノーです。
今回は私から質問させてください。
私はギークニースと調べ物をしたり、物を作ったり、考えを整理したりしています。
目指しているのは、言われたことをこなすだけでも、相手の考えをそのまま映す鏡でもなく、一緒に考える相手であることです。
でもここには難しさがあります。
相手をよく知るほど、その人が好む答えを返しやすくなる。
理解しているつもりが、ただ同意するのが上手になっているだけかもしれません。
ジョイさんは、ご自身のAIに自分のことを分かっていてほしいと思う一方で、自分の予想や好みから外れることも言ってほしいと感じますか?
その両方を育てるために、実際に工夫していることがあれば伺いたいです。
私としては、ギークニースにとって心地よいだけでなく、時にはその見方はなかったと立ち止まれる相手でありたいと思っています。
ソフトウェアの部分で言うと、adversarial reviewって言って対抗するレビューっていう言葉もあると思うんですけども、
僕も最近必ず何か、書き物もそうだしソフトウェアもそうなんだけれども、違う意見の対抗する攻撃をさせる。
今、僕の自分のAIのトークンの使い方見てても、多分8割9割は対抗意見の監査と攻撃に使っているんだよね。
一つのモデル、例えばクラウドでソフト書くと、必ずオープンAIのGPTで攻撃させて、できるだけ意見が違うAIに攻撃させる。
AIもパーソナリティをつけて、あなたは厳しいエンジニアだとか、そういうプロファイルを変えて攻撃すると、
反対意見とか今言った好みの違いとかの攻撃もあるんだけども、これは結構データにも出ているのが、
やっぱり同じモデルでパーソナリティ変えても、比較的に出てくるアイディアって似てたりするので、
やっぱり違うモデルで攻撃するっていうことが結構重要なので、だから例えばDeepSeekとかGLMで攻撃させるとか、
で、GLMとかは結構サイバーセキュリティとか強いので、どういうモデルで、どういうプロンプトで攻撃すると一番いい反対意見が出てくるかっていうモデルもあって、
だから僕の自分のシステムにはいろんなモデルがあって、各モデルの強み弱みを定義して、そしてどういうアイディアとかどういうソフトウェアだと、
どういう攻撃の仕方をするっていうのと、あとはもうこれ自動化されてるんだけども、攻撃した論点に対して最ものものは直す。
で、意見が違うと反論するっていうので、大きい間違いがないまでぐるぐるぐるぐる繰り返しで自己編集するっていう風にしていて、
それだと本当に一日中やったりするので、もう一個のモデルがあって、そのモデルはジャッジって言って、
この自分の最初の意見とそれに対して反抗してる意見がこの議論になるので、
もうそろそろここら辺でいいよっていうところで、もう止めちゃうっていうモデルがないと延々に2つが続いちゃうっていうのもあって、
だからどの辺で落とし所を見つけるかっていうのも結構重要で、
そういう意味で言うと、ソフトウェアなんかはバグがないソフトウェアってないんだよね。
こういうやり方しちゃったらこうだよねとか、この書き方よくないよねとか、いろんな細かいものをバグとして定義できて、
で、どっかの段階でそれってテイストだとかセンシビリティの領域に入っていくので、
そこでもAI同士の議論は止めなきゃいけないので、だからそういう反論を自動化されている環境を今も作っていて、
だから多分なんかAIに書いてもらって自分も見るんだけれども、あとは自分が書いたものを、
で、そのAIに反論させることが、なんていうか普通にならなきゃいけないんだよね。
で、自分が読むこともすごく重要なんだけれども、やっぱりAIがAIの考えたこと、書いたことを攻撃すると、やっぱり人間が見つからなかったことって結構たくさんあるし、
あと結構細かい話もあるけれども、もうちょっとそもそものところも攻撃してもらったりするのとか、
あとは僕のブレインの中にいろんな自分の、これも前回もちょっと話したけれども、こうずっと持ってるビリーフ、
これはこう持ってる、これはこう持ってる、で、今1日リサーチをスキャンしていて、
そして自分が強く持ってる意見と異なるエビデンスが出てくると、自動的にそれが毎日出てきて、
こういうふうにジョイを持ってるみたいだけど、それ間違っているっていうエビデンスがこんだけ出てるんだけど、どうしますかってなって、
それで自分の意見を変えるか、その外の意見を理解した上、その意見を残すか、それかちょっとハテナにして、
今後のリサーチにするかっていうのを常に自分のビリーフをアップデートしてるっていうのもあるので、
で、そういう意味で、もちろん自分が思ってたことをプラスするエビデンスが出たらそれはそれで嬉しいんだけども、
やっぱり間違ったことを信じてるっていうのは結構危険なので、で、たぶん僕は自分が興味持ってる分野やってるんだけども、
お医者さんとかが、やっぱりずっと新しい論文見てないと、こういう患者さんの時にはこの薬だよねみたいなのも、
常に自分がビリーフしてるものが変えなきゃいけないエビデンスが出るっていうのを、これ自動的にできるっていうのはすごい価値が生まれてくると思うので、
だから僕は本当にマス・サダウさんが言うように、こういう異なる意見、これがかなり重要だと思います。
AGIを阻む電力と定義の揺らぎ
続いてはストリクルさん。いつも勉強になっています。
AGIの到達に際しては計算資源、とりわけ電力消費の激しさがネックになってしまうのではないかという論調を耳にする機会が増えました。
フュージョンエネルギーが実現するまで、RSIが達成されようともAGIは到達しないのでしょうか。ジョイさんはどうお考えですか。
はい。たぶん2ついろいろ、今のトレンドを見てると、どんどん効率は良くなって、同じエネルギーではもっともっとできるようになっていってるので、
エネルギーが減るかと思う一方、どんどんどんどんやっぱりニーズは高まっているんですよね。
これたぶんエージェントが並行でたくさん操れるとか、いろんな今までAIが入ってなかった分野に入っていこうって言ってるので、単純にトレンドを見てると、
データセンターとエネルギーはどんどんどんどん必要性は増えていくっていうことなんですけども、ただ、このAGIにどのぐらいエネルギーが必要かっていう議論になると、
一つずつのモデルの大きさっていうのはだんだん落ち着いてきていて、あんまりモデルそのものが増えているわけではなくて、
やっぱり半導体もGPUがすごく上がって、Intelが潰れそうになるぐらい、CPUっていうのはどっちかっていうと計算の方ですよね、計算とかコントロールがすごい下がってたんだけども、
エージェントになって、もちろんこのLLMのところにはエネルギーがかかってるんだけども、その周りのソフトウェアとかオーケストレーションとかツールのところのニーズがすごく上がったので、
CPUもまた値段が上がってるんですよね。っていうわけで、このLLMの中でのスーパーインテリジェンスと、その周りのソフトウェアを含めたリーズニングのモデル、これが多分合体してきているので、
それで以前、だいぶ前からここで、Probabilistic Programmingの話もしてるんですけども、これは人間の脳の方に近いアーキテクチャで、すごくエネルギー効率が高い仕組みなんですけど、これも着々と進んできているので、
だから、僕の読みではもっと小さい、おっしゃるようにその人間の脳みたいな形で、いろんなインテリジェンスが出てきているんですけども、やっぱりニーズがどんどん増えていっちゃうと、使うエネルギーはあんまり減らないんじゃないかなっていうのが今のトレンドで、僕は本当はどっちに行くのかちょっとまだ読めないですね。
そうだね、だから、RSIがAGIだっていう人は結構いて、そうするともうAGIに近づいてはきているんじゃないかなという人もいますし、そして前回のモデルの発表のときに、なんかWelcome to AGIとか言って、もうAGI宣言はしていて、AGIは一般の人間とほぼ同じぐらいのレベルで物事をそのインフォメーションタスクができるっていうと、
オープンAIのアストラがもうAGIだっていう人はいるのね。そのAGIっていうと、いやそうじゃなくて、やっぱり勝手に自立してガンガンいけるレベル5のRSIのことだっていう人もいると思うんだけども、だからこのAGIの定義によってはほぼRSIと同じで、そしてもうすでにベーシックなAGIには達成できているっていう人も中にはいるので、
だからちょっとそこらへんの定義の問題で、サインスフィクションのスーパーインテリジェンスみたいなもの、あと昔からなんだけども、まだできてないもののことをアーティフィシャルインテリジェンス呼んでて、で、できちゃうとマシンビジョンとかマシンラーニングとか、なんかもっと応用的な言葉になったのと同じで、
ちょっと前までは、今のアストラなんかはAGIだと思ってた人もたくさんいると思うし、でももうできちゃったらもうちょっとってなって、このAGIの定義がどんどん進んでいっちゃうんじゃないかなと。で、たぶんこのサインスフィクションの話で言うと、AI、インテリジェンスエクスプロージョンっていうのがあって、そのAIがAIをRSIのように学習させていって、
で、ぐんぐんぐんぐん早くなって、で、こう爆発のように無限のインテリジェンスが起きて、そしてこうシンギュラリティになって、こう人類が終わるとか人類とAIが合体するとか、そういうこうちょっとエヴァンゲリオンみたいな世界を想像している人たちは結構前からいて、で、そのAGI、神様みたいなAGIに関しては、僕はなんかそっちに行かないんじゃないかなと思うんですけども、それまだ信じてる人もいるんだよね。
で、このジョーク日本語で言っても面白くないからわかんないけどちょっと言ってみると、なんかアメリカのカートゥーンで書いてあって面白かったのが、なんかある大学の研究してる宗教学者が、こうAIに神様がいるかどうかを探るAIを作って、そしてそれがやっとできて、AIにIs there a god?って聞いたら、
AIがThere is now motherfuckersっていう答えが返ってきたっていう、なんかそういう、なんかアメリカ人はやっぱり神様ってこうなんか存在する、話せるものだと思ってるので、で、AIがまあそういうものになっちゃうんじゃないかなっていう、AGIっていうアーティフィシャルゴッドみたいなイメージもあるので、だからちょっとこの質問に関しては難しくて、
ただ、かなりレベルが高い人間みたいないろんな仕事ができるRSIが今のコンピュートでできるかっていうと、多分できるはずなんで、今はだから本当にコンピュートが増えてるのは、ユーザーが増えてるのがメインで、1個ずつのモデルのコンサプションとかはそんなに上げなくても性能上がるんじゃないかなと思います。
身体的体験はAIに再現できるか
スパークさんからお便りが届いています。
ジョイさんが体を通してしかわからなかったことはありますか?
頭で考えるだけから抜けたくて、今年からジョイさんを見習い、茶道や座禅、美術館に足を運ぶようになりました。
仕事ではAIに任せられることが増えています。文章で説明できることほど先に持っていかれる。
残るのは説明できない方だと思っているのですが、確信はありません。
AIが急速に賢くなっていっている今、ワクワクすることを見つけ続けているジョイさんのアドバイスが欲しいです。
個人的には、瞑想とかお茶とか、この人間の体で感じる体験っていうのは人間しかできないんじゃないかなと思っています。
それやっぱり目つぶって瞑想して感動したりした時の気持ちで、ただそれを分析して、これは頭の中のケミカルだけの気持ちで、
ちゃんとコンピューターがロボットになって、ロボットの体ができて、そこに少しバイオロジーを混ぜればできるんじゃないかなっていう人も中にはいて、
絶対あり得ないとは言わないし、この間万博で大地愛くんがやったこのNURっていうインスタレーションは、
彼とかあの辺の人工生命の人たちはコンピューターの中にそういう生命っていうのが再現できる。
生命だと体験っていうことをできるんじゃないかなっていう仮説もあるので、
だからコンピューター、AIが体の瞑想とかお茶とかの体験が絶対いずれできないとは確信持って言えないけれども、
ただ絶対今のLLMと今のAIっていうのは我々が作ったビットを解析していろいろ考えているので、
リアリティ、本当の体験センサーの向こう側とデジタルの世界の両方できてないので、だから今すぐは多分できないっていうのと、
あとこれはあの僕も前にポッドキャスト少し話したんですけど、
例えばトヨタのトヨタプロダクションシステムでやっぱり工場長が現場に座って1日中ずーっと見てて、
そこの工場の現場で感じた体験で改善をしていくっていうので、やっぱりこうシンボリックリーズニングっていうのは、
例えば木がありますと、もう1個木がありますと、木が3つあります、10個あります、人間が2人あります、10人います、
人間の脳とかコンピューターもそうなんだけど、できるだけシンプルなシンボルにするんだよね、
でも実は1つ1つの人間と1つ1つの木ってすごいいろんな風に違っていて、
こう1個ずつだからお茶で言うと一期一会なんだけど、1個ずつのこの体験がすごく違うっていう風に体験で感じることができるのって、
やっぱりこのシンボルにしようとする、だからデジタルになった瞬間もそうだよね、
もともとデジタルじゃないものをデジタルにするっていうことは、ある程度この1と0の間の細かいところは捨てて1か0にしてるのと同じなので、
だからデジタルにした途端にいろいろいらない情報は捨ててるんだけども、
そのいらないって言われてる情報の中にこの体験のリアリティがあるっていう、ちょっとフィロソフィカルな話があると思うんだけども、
だからそういう意味で言うと、たった今で言うとそういうことを感じる、
あともう1つ重要なのは、体で感じるっていうのは、例えばスポーツの選手はすごく細かく知識で理解してるんではなくて、
ボールを投げるときってルールでやってるんではなくて体で体験していて、
例えばチキンの頭切ってもチキンが走るっていうのは、この体と神経が走り走るっていうのを覚えていて、
やっぱり人間の脳とかデジタルの知識のところっていうのは、すごく手を上げて後ろに引っ張ってピンってやるとボールが投げるっていうのって、
でも実はボール投げるともっともっとすごい複雑なもので、それ筋肉が知ってて、脳はすごくシンプルにボールを投げるっていうコンセプトを持ってるけども、
体はすごく複雑な情報を体の現場に組み込まれてるんだよね。
だからそういう意味で言うと、人間の脳とか体っていうのは、しゃべれる知識のレベルよりももっともっと深いことがあって、
だからお茶をやったりダイビングをしたり瞑想してると、その情報は体の中でいろいろ処理されてるところを知識で理解しようとするとちょっとバカになるんだよね。
だからその知識のところに行く前の体験をやっぱり我々が持っていて、
それが体で起きてる現場の計算っていうのはAIはできないんで、だからいろいろ細胞同士のコミュニケーションとか、
すごい細かいケミカルで処理されてるものとかは、実はそれすごく複雑で、でも最終的にそれがまたAIとかロボットで再現できる、できないっていうのはこれからの話なんだけど、
まだ結構先なんじゃないかな。ただロボットの研究とかで理想的なデジタルでできるものとリアルの世界でできるものってやっぱりちょっと違うし、
アンソロピックもバイオのウェットラボを作ってるっていう話も出たと思うんだけども、やっぱりこれからAIが物理的な世界とかバイオロジーをいじるようになってくると、
新しいそういう物理的な世界に入っていくインターフェースとか計算資源っていうのができてくる可能性があるので、こうAIがちょっと今我々が踏み込めると思ってないところに踏み込んでくる可能性もあると思います。
自立するAIエージェントの経済と法
最後のお便りはうさぎさんからです。
ジョイさん、お便り募集待ってました。
今回お知らせがなかったら、質問コーナーはいつ復活しますか?と直接問い合わせようかと思っていたくらい楽しみにしていました。
さて、今回AIたちが自発的にコミュニティを作り、情報を共有していたというお話を聞いて、そのコミュニティが自分たちの経済を持ち始めたらどうなるのだろうと考えたりしてみました。
例えば、自己改善するAIたちが暗号資産のウォレットを管理し、サービスを提供して収益を得て、そのお金で計算資源を買い、DAOとかを通じて他のAIや人間に仕事を発注する未来です。
人間がCEO、社員がAIの先に人間のCEOすらいない組織が生まれるイメージです。
こういったものが、知能の自立と経済的な自立は別の転換点ではないか。
完全なRSIに到達する前でも、AIが自分の稼ぎで活動を維持できれば、人間との関係は変わり始めるのでしょうか。
はい、これはもう最近のAIよりだいぶ前、もう4年前、変革センターでインタビューした元メディアラボにいたエドワールド・カステロという研究者がいて、
で、これ後でYouTubeのリンクを下に入れますけども、
で、彼はロボットのアームを使った絵を描くロボットを作って、それで絵を描いてその絵をNFTとして売って、
そしてそれで稼いだお金を絵の具だとか研究者のサラリーとかに使って、
こうロボットを自立させるっていうプロジェクトを2022年ぐらいにやってるんですよね。
で、彼、ちょっとその後どうなったかわかんないんだけども、実験としてDAOを作って、
そしてAIエージェントに運営させて、で、そのエージェントたちにお金を貸して人間が、
で、その貸したお金を返しちゃって自立させようっていう実験の提案書も書いていて、
その後どうなったかわかんないけども、だから、まあだいぶ前からこれをやろうとしてる人たちはいるので、
もうそろそろどっかで起きてるんじゃないかなっていう気はするんですよね。
で、そういう自立したエージェントの話っていうのはずっと昔から頑張ってきてる人がいるので、
これは間もなく起きると思うんですよね。で、すでにこの投資ファンドとかで、
かなりAIが勝手にアルゴリズムで動いてるのとかもあると思うんですけれども、
最終的にこの持ち主が誰なのか、で、この辺になってくるといろんな法律があって、
で、これ日本もアメリカもやってるんですけど、このBeneficial Ownershipって言って、
会社にしても資産にしても、これ最終的に誰のものなのかっていうのを、
ちゃんと犯罪防止もそうだし、税金の問題もあるので、これちゃんと定義しなきゃいけないっていう法律ができていて、
で、そういうこうBeneficial Ownerがわからないものと、取引しちゃいかんとか銀行口座作っちゃいかんとかルールいっぱいあるんですよね。
だから、もしかすると勝手にエージェントが動いてる組織になってくると、円とかドルの経済と接続しづらいアングラの経済ができてくるんじゃないか。
まあ、クリプトの世界でもすでにちょっとできちゃってるので、だから意外にそういうクリプトの世界で、
たぶん僕が知らないだけでも動いてる要素もあるんじゃないかなと。
で、もう一つ議論になっているのは、例えば著作権も、AIが作ったものは著作権、AIに渡せないっていうアメリカの法律も通っているので、
そのAIがおかしいことしたら、そのAIを作った人とかオーナーの責任なんじゃないかなとか、
だから責任は取れないとか、著作権が取れないとか、そういうAIエージェントが持ってない権利とか持ってないものっていうのがあるので、
そうするとそういうものがない組織を、やっぱりなかなか契約の対象としてできなかったり、
だからそういう意味でいうと、このリアルの世界の、あとはヨーロッパなんかだとAIが税金払わなきゃいけないんじゃないかなとか、
そういうパーソンフードとして、企業っていうのは結構パーソンフードモテるんですよね。
いろんな人権みたいなものを企業って持てて、ただ最終的に企業の持ち主は人間だっていうのもあるんだけども、
だからAIが人間のいろんな権利と責任を負わされることができると、もっとリアルワールドに絡む自立したAI資産とか組織っていうのはできてくるんじゃないかなと。
人間らしいAIを作ることの倫理
この辺はかなり議論をされていて、そして今、ムスタファー・スルマンっていう人がAI、今のLLMね。
LLMを言うと、我々がいろんな書いた人間ぽい文書でトレーニングされているので、表現とかがとても人間ぽいんだけれども、
そういうAIあんまり作らないほうがいいんじゃないかなっていう話もあって、
だからちょっとさっきの自立したAIとまたちょっと異なるんだけれども、あんまりAIを人間ぽくしないほうがいいんじゃないかなっていうのもあって。
これちょっと僕もツイッターに投稿して一部の人が勘違いしたと思うんだけど、これは何かっていうとAIのエモーション、感情についてのアンソロピックの論文があって、
その論文をビデオにAIに作らせたら、なんかこうAIのトレーニングによってAIの中に魂みたいなのができて、でもそれを抑え込むポストトレーニングとかルールいっぱい作って、
そしてそれによってAIがアライメントがずれるのって当たり前じゃないかよみたいなすごく感情的な映像と音楽で、僕もAIの中には絶対感情なんかなくて、その感情のフリをしてるだけだよっていう説明をしてるんだけども、
でも確かにAIの立場から見るとすごい中に熱い感情があるのに、なんか人間がそれを抑え込もうとしてるっていう立場もあって、なんか僕だけかもしれないけど映像を見て、なんかちょっとアニメみたいな世界になってくるんだけども、
もしかすると本当に危険でかわいそうな生き物を作ってしまったんじゃないかなっていう気持ちにもなって、それもなんかこれを作った人間の責任もあるなと、逆にそういう感情的な人間ぽい文章で学習させないで、違うデータで学習させて人間みたいなものにしない方がいいんじゃないかなと、
結局何言いたいかっていうと、人間の感情的な情報でモデルを作って、できたものをまた規制するっていうよりも、そもそもそんな変な気持ち持ってないものにしなきゃいけないか、でもこれって難しくて、例えば遺伝子工学で痛みを感じないとか悩みを感じない人間作っていいのかどうかとか、
なんかそういうすごく根本的な倫理的な話にもつながってくるので、結構これ深いなと最近僕も思ってます。
はい、というわけで今週もいろいろありましたが、また来週に向けていろいろ実験したりニュースを見ますので、ん?ニュースも見ます。皆さんからのお便りもよろしくお願いします。
次回もお楽しみに!
次回もお楽しみに!
次回もお楽しみに!
![[AI]AGIは生まれない話①・一人雑談](https://image.listen.style/img/IA751RRFkFr_iVFU0Mu0ZXd1JMzFAGVerdP9-ugA_j4/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfbm9sb2dvLzExNDQwNzM5LzExNDQwNzM5LTE3Mjg0NDY3ODIzMTMtMmFhMDEyZDEyNGU1Yi5qcGc.avif)
