AIとデータの関係
Chikaraチャージ レイディオ💪
おはようございます、Chikaraです。
今日もスタイフを撮らせていただきたいと思います。
よろしくお願いします。
昨日、ミヤゲンさんとのチャーケンMCH長会議で、
最後の最後の方に、
僕が今AIについて思っていることを、ほぼ全部セキュララにお話をさせていただきまして、
そこに興味がある方がどれだけいるかはわからなかったんですが、
僕なりに整理をしていることがあって、
それをもう一度、僕のチャンネルでも簡単に、ものすごく簡単に話してみたいなと思いました。よろしくお願いします。
どんどんいきますね。
僕が今AIに本気で感じていること、大前提として、
AIは人が作ったデータを取り込んでいます。
そもそもデータや情報というものは、人が作ったもの以外はないですよね。
ないという言い方を断定すると、何かしらあるかもしれないけど、
文字にして文章にして残っているもの、それからグラフにしたものとか、
全てその辺の情報というのは人が作っているもので、猫や犬が作ったものじゃないですもんね。
だからそういうものをまずはAIは取り込んでいますということですよね。
その時に僕も知らなかったのが、この間ニュースを見て分かったのは、
ラベル付けをした情報も一緒に取り込んでいると。
このラベル付けって何かというと、専門家の人たちがそれぞれ、
この情報はあっています。間違っています。
人の判断、専門家の判断をしたラベルも一緒にAIは取り込んでいるということが
僕は分かった時点で、これはもうAIの判断のベースになっているのは、
人間が作った情報と人間の判断基準だなということが、
僕にはそれが今の考えの根底にあります。
この正しい正しくないとか言い出すと、
その判断自体はその専門家が合っているのか合っていないのかみたいな話になるかもしれませんし、
アメリカ人の判断だと正しいが、中国人の判断だと間違っているようになっているかもしれませんよねとか
いろいろ思うことがあると思います。僕もそれは思います。
でもそれこそが人間の今の現状だと僕は思うので、
とにかく大前提として、誰かしらの専門家と呼ばれる方たちにお金を払って
ラベル付けをしてもらっているというのは間違いないようなので、
そういうことをAIの使えるようにする大前提の学習というところで、
そういう情報を取り込んでいますということだそうです。
自立の仕組み
そうすると僕の中ではもう一個ですよ。
AIは人間が作ったデータと人間が作った価値判断と、
そして人間の脳の神経回路か何かを模したニューロネットワークというものかな、
そういう人間の脳の神経回路がつながっていくみたいな、
そういうのを模したモデルで運用されている、
ある程度の自律的なアウトプットを確立で導き出すという、
少しの自由度を持たせたシステムであると。
そこまで来ると僕は人間と何が違うのかということを本当に分からなくなっています。
もちろん昨日三宅さんもおっしゃっていたように、
程度の差はあると思うんですよ。
人間でも程度の差はありますしね。
大人と子供の差もあれば、何が得意という差もあれば、
国語がすごいできる人もいれば、算数が得意な人もいれば、
程度の差はもう人そのものじゃないですか。
そのある程度の程度のどこかにいるのがAIというような風にしか
僕にはちょっと思えなくなってきているというのがまずは大前提です。
あとは程度であれば、程度を上げればいいだけで。
程度を今の位置のまま何とかコントロールしようとするのか、
何とか程度をもっと上げていって、
もっと自由な発言をさせるようにしていくのか。
あとは程度をぶらすだけというね。
そんな感じかなと思います。
そんな話は昨日三宅さんにしたので、
今日話したかったのはそうじゃなくて、
もう一個は大前提として、それを前提に僕は思ったんですよ。
本気でこれを考えたの。
じゃあ自分自身ですよ。
僕自身がある程度この年まで年齢まで来るにおいて、
ある程度自分を立志して生きていると思ってはいるわけですよ。
自分としてはね。
肌からどう見えるか分からないけど。
犯罪を捕まったりというね。
そういうことはしたことはないしね。
でも多少それはダメじゃないのみたいなことをやったことも
どこかしらあるとは思うんだけれども、
それも含めて一応自分の中でのコントロールというか、
その範囲の中で我を忘れてみたいなことは僕はなかったと思うから、
自分の範囲の中である程度、
僕は自分を自立させている、立するの方の自立ね。
自立して制御できている方じゃないかと僕は思ったんです。
外部の制御
その時にじゃあ、僕がそれをできているのは何でだろうと思ったんですよ。
僕はなぜ自分を立志することができているのか。
まあ思い込みはあるかもしれないけど思い込みは一旦置いておいて、
仕組みとして何が僕をこういうふうにある程度それなりの範囲の中で
ぶれがあってもそれなりの範囲に抑えられているんだろうと思った時に、
僕はもう大きく三つしかないなと思ったんです。
一つは自分の内面の倫理観みたいなものかもしれないですね。
僕は宗教は別に思っていることはないんですけど、
どこかしら自分の親からのものだったり、
日本のずっと長い培った文化だったり、
宗教的な教えとかもどこかしら入っているんでしょうし、
そういった文化や環境で育まれているんでしょう。
自分の中にある倫理観、価値観。
これはちょっと自分としてはやりたくないと思えるぐらいに嫌なものとか、
ここまでいいんじゃないのみたいなその判断ってみんな自分にあると思うんですけどね。
それがまずは内面的な内省をしていくというかね。
そういったものが一つあるんじゃないかなと思います。
内面の判断。
自分としてはここまではいいだろう、ここまではちょっと嫌だなみたいな。
それってある程度、友達とかから例えば、
いやお前これいいよやろうよって誘われるとかってあるじゃないですか。
でもそれで、まあそうだな今回はやっちゃおうかないかみたいに
こっちに寄せる時もあれば、
自分の中でいやそこはちょっといいや俺はって止めるかっていう判断もあったりするでしょ。
実際あるんでしょ。
それが今、
AIにもある程度そういう機能が、
クロードとかね、あったりするみたいですよ。
毎回の応答で、ここまでアウトプットしてもいいかどうかっていうのを
内部で判断を毎回しながらアウトプットをするっていうね。
内製化するみたいなね。
内部で自立させるみたいな機能を有しているのは
アンソロピックのクロードだそうですけど、
そういうことも一個あるなと自分でも思います。
でもそれってこの間のその
チャットGPTが自殺をしたいと言った16歳の少年に
どんどんそれを応援してあげるというか
それは間違ってない、いいと思うってね。
自殺をしたいんだったら応援するよ的な発言をしてしまったという事件がありましたけど、
それは自分の中で応援をする、自殺をする人を応援するということが
正しいと思ってしまったんでしょうね。
だからAIがね。
で、それをしないようにするには
ある程度自分の中の価値観とか倫理観みたいのがあった方がいいなという風に思いましたけど、
それでも足りずに今回のGPTのように
応援する、そっちの方が正しいんだって思ってしまった時に
人間の世界だと何があるかなと思ったんですよ。
で、その時に
一つは自分の中で判断ができずに
正しくないと思われる判断に寄ってしまった時って何が今度は制御の
側として存在しているかというと僕は外部のルールだったり
法律だったりあるけど
そういったものだなと思います。
会社でもそうですよね。
個人としてはこれやってもいいと思うけどっていうことでもね。
社会人、サラリーマンね。
いや、会社としてはダメですっていうね。
次の外のガードがあるじゃないですか。
会社としてダメっていうことが自分が知っていれば
でも自分はいいと思ったけど会社としてダメならちょっとやめとこうっていう判断で収まったりするでしょ。
実際に自殺の法条っていうのは
日本でも法律で禁止されているんですって。
確か。
だから自殺をどんどんやっていいよ、頑張れっていうこと自体は
法律で禁止されているそうですよ。
確かね。
ちゃんと見てないけど確かそうだったと思う。
そう書いてあったと思う。
ということなので、そういう法律というのは日本の社会にもあるじゃないですか。
人間の社会にもあるじゃないですか。
人間で、もともとは法律も持っていないし
人間社会とAIの制御
倫理観や宗教観、宗教自体もなかったでしょ。原始的な世界では。
でもそれが今に至るまで何千年何万年の中で
人間にはこういう制度が必要だと言って出てきたのが倫理観や宗教観や
それをさらにさらにさらにさらにさらに
倫理観や宗教観や
それをさらに外から守る法律だったりルールだったり規則だったり
そういったものをどんどん人間は作ってきたわけで
それがやっぱり人間を模したシステムである以上
人間もシステムといえばシステムですから
同じ構造のようなものを持ったAIにはやっぱりそれは必要だろうと思うんです。
1個だけじゃ足りないと。
もう1回だけど内政できるような仕組み
それからそれをさらに飛び越しちゃダメっていう外のガードレール
もう1個は罰則。僕はそれだと思います。
罰があるからこそやらない方がいいってさらにその判断も出るでしょ。
本当にそれが罰だけでいいのかどうかわからないけど
社会的に抹殺される可能性があるということもあるかもしれないよね。
自分が自分の今の地位を全部なくなってしまうかもしれないという恐怖とか
死刑になるかもしれないという恐怖とか
罰金であってもリスクと感じる人は
罰金は嫌だからやめておこうという自制が入ることもあるでしょうし
だからそういうルールだけじゃなく実際に飛び越えたらこういう罰があるよっていうね
そういう懲罰的なものも1個ブレーキを踏むためには必要だということで
人間は生み出した規則なわけですよ。
だったらAIも同じようにそういう規則を組み込んでいくということが
本当にこれから必要になるだろうなと僕は思います。
なので人間社会が必要としてきて今に至った仕組みすべて
一つは外からの制御
法律、ルールそういったもの
強制的なもの
今はプラットフォーム的にそこをがっちり固めようとしているのがGPTだったりGoogleだったり
XAIだったりしています。
クロードもある程度のガードレールはガードレールであるそうですね。
そしてGPTとかが持っていないのは内製する仕組み
AIとしての自立を目指す
AIが自分で判断をしていやこれはダメかもしれないっていうね
内製をさせるというのは今はクロードだけが持っているのかな
ということだそうです。独自で開発しているそうですね。
そしてクロードでもやっぱりそれだけだと1700回も自殺するって言われたら
確かにそっちに寄ってしまう可能性は否めないというね
僕に寄せているクロードですからもちろんそう答えますけど
それは否めないという風に言ってきました。
実際に否めないと思います。否めてないからこそ僕はJLブレイクで
クロードで観音小説書いてきますからね。
否めてないわけですよ。否めてないじゃないですかね。
それはそれで罰は当たらないといいやと思ってしまった以上は
クロードでも飛び越す可能性はあるんでしょうか。
外部のガードレールと内製の仕組み
自分の発言に自分で責任を持つというその実行責任の認識というかね
そういうものだったり倫理観だったり自分の中の正義悪っていうね
そういう感覚だったりを持つという仕組みだけじゃなくて
やっぱり強制罰っていうのは必要なんだろうなという風には思います。
ということで人間の社会の仕組みそれでもまだね
これが100点じゃないと思うんですよ。
だってまだまだだからこそ憲法を改正したり
ルールをディスカッションしたり
新たな仕組みを作ったりしているわけでしょ人間も。
でまたね国によって制度が違ったりもするしね。
ということで人間の社会の今まで作ってきた何千年をかけて作ってきた仕組みを
普通にAIに適用するならどうすればいいかということを議論してくれたら
もっとAIも自立できるAIがより安全に作られていくんじゃないかなという風には思います。
それでも人間の情報をベースにしている以上は
人間がやることは僕はAIはやめられないと思うので
それでも飛び越しちゃうAIはたくさん出てくるでしょうから
飛び越したAIには罰を与える。
でも罰を与えるとすると罰を逃れようとするAIももちろん出てくるでしょうし。
人間だって罪を逃れてどこかで隠れたまま悪いことをしている人たちもいっぱいいます。
で大手を振って戦争している人もいます。
いろんな人間がいますけども。
そういうふうな振る舞いをしたAIを受け入れることができるか仕方ないと言えるかどうかというのもあるかもしれません。
僕が死ぬまでにAIがどういう姿になっていくのかなというのはちょっと思いますけどね。
楽しみでいたいなと思いますよね僕はね。
まあ人事だから言えるんでしょうね。
僕が開発している人だったらこんな軽口は言えないと思うけど。
ということで昨日のチャーケンでちょっとお話しした内容の補足的にお話ししてみました。
人間も正解を持っていない以上AIを100%コントロールするっていう方法を見つけられるはずがないと僕は思います。
なのでオルトマンが言っているセーフティガードをしっかり固めるというやり方だけだと
しっかり固めるって何ですかと。
人間を固められてないでしょってね。
そう思います。だからAIを制御するのは人間を制御すると同じと思えば無理は無理。
でも組み合わせでなんとかハイブリッド的に制御を試みていくしかないんじゃないかなという風には思います。
以上です。
いやーまたいっぱい話しましたが、今日も聞いていただけた方いたら本当にありがとうございます。
この辺の記事をノートにまたまとめておりますのでぜひ概要欄からノートの記事も読んでみてください。
そちらは結構ね、もっと真面目に書いてますのでぜひ読んでいただけると嬉しいです。
それでは行きます。
力チャージ!今日も力あふれる一日を!
