00:02
こんにちは、国境なき自習室です。 スリランカで日本語教育に携われている山さんと、
日本の市で地方でいろんな授業をやっている私、ヤスでお送りします。
僕たちはこれから新しいプロジェクト、 国境なき自習室をやろうとしています。
日本人でも、オンラインビデオ通話で、スリランカで日本語を学んでいる学生と一緒に
勉強作業ができるようにできたらいいなというプロジェクトです。
前回は、社会事業などの良いとされていることを、 事業の中でどこまでアピールするかとか、
どんなふうに見せるべきかといった話をしました。
そこでは、いいことをやっているよというのを アピールするのもどうなんだろうかみたいな話も
したんですけども、今回はさらにAIも含めて話したいということで、 連続して収録しています。
ヤマさんからの持ち込みテーマではあるんですけども、 どんな感じですか?
もともと、前回の最初の議題だった、 地獄への道は善意で舗装されているの。
その善意の醸成される部分に、これからの時代とか、 最近からはAIがかかわってくるんじゃないかなと思っています。
どういう文脈ですか?
やっぱり何か意思決定をしようとかする時に、 AIの意見を聞くことが増えてくると思うんですけど、
その時に、今までだと善意が地獄に舗装されていたのは、 ちょっと何かの知識不足だったりとか、
先が読めていないとか。
私が最初にこれを聞いた時に、パッとイメージしたのは、 やっぱりマルチとか宗教とかの感じをイメージしていたんです。
地獄への道は善意で舗装されているって言葉から、 マルチを連想したってことですかね。
マルチの人たちも、それを良かれと思って、 信じ込んじゃって進めてくるわけじゃないですか。
本当に悪いと思ってないんじゃないですか。
中にはそれをちゃんと分かった上でやってる、 ちょっと立ちの悪い人もいるけど、
基本的にそれで本当に儲かると信じてやってるケースが多いと思います。
その人たちが結局地獄に行ってしまうことを助長してしまっているのは、
何かしらの知識不足とか、視点が足りていないとか、
というところか、人を盲信しすぎてしまう傾向があるとか、 そういうことだと思うんですけど、
それがストッパーにAIがなるんじゃないかなっていうか。
なるほど。実は僕、AIを含めて話したいってことだけ聞いてたんですけど、
僕逆のニュアンスだと思ってたんですよ。
03:00
どんなイメージでした?
AIが絡むことによって、悪い方向に行くんじゃないかっていう話かと思ったんですけど、
逆にストッパーになるって話だったんですけど、 今の話もあると思うんで、
確かに今僕、お話を聞いて思ったのは、 人がお金を出すときって、
お金を出す相手にとって、例えば、
こういった製品を買いませんかっていうふうな感じで、 パソコンとかを買うってするじゃないですか。
それって、相手のほうが詳しいから、 情報を持ってない側が持ってる側に対して
お金を払うっていうパターンって結構多いと思うんですよ。
パソコンとかだって、調べて買ったらもっといいパソコンとか、 もっといいスマホっていろいろあったりするかもしれないんですけども、
それぞれ買うごとに調べてられねえよって感じで、
それでお金を払ったりって、 それはいろんな物事である気がするんですけど、
僕の信頼の社長さんでは、あらゆる事業は根本的に 情報格差が元にあると思うっておっしゃった人がいるんですけど、
ただそういうのってAIが広まることによって、 ちょっとビジネスの構造というか、
そこの情報格差の部分が相当狭まるというか、
人にそれを騙される前にAIに聞けばいいって話になってくるんで、
確かにそれはあるかもなって今ふと思いました。
そうですね。いくつか3つくらい例を先に挙げさせてください。
はいはい。先に挙げちゃえ。はい、どうぞ。
身近にあった例というか。
1つ目は、スマホ、携帯のキャリアとか、 プランを契約する時の話が1個。
2つ目は、いわゆるマルチみたいなことの話と、
3つ目は、スリアンタの熊田さんというおじさんがいるんですけど、
彼の意思決定をする時の流れの話。
最後聞こえなかったです。
あ、熊田さん。スリアンタの熊田さんが、 彼が意思決定をする時のプロセスの話をしたいですね。
お願いします。それそれ。
音声悪いですか?もしあれだったらちょっと繋ぎ直しますけど、パソコン。
さっきよりかはちょっと悪いかもしれないですけど、繋ぎ直します?
じゃあ一旦ここで。
じゃあ一時停止します。
はい、再開しました。
3つぐらい、意思決定というかね。
善意が暴走してしまう。
防ぐか防がないかみたいなケースみたいな。
で、1つ目が、スマホというか、
例えば、大体日本の3大キャリアと言われてるのがあると思うんですよね。
この携帯のD社とA社とS社。
隠つってあるか?
別に隠されてるかもしれない。
で、それで、私の友達というか、
06:02
引退に来てくれた子が、ちょっとやってた活動が、
おじいちゃんおばあちゃんが、やっぱ無駄に高いプランを契約させられてると。
本来ね、スマホをちょこっとメールとか、
最低限のネットと電話機能ぐらいでいいのに、
めちゃくちゃ容量無制限みたいなプランを契約させられて、
4,000円ぐらいで抑えられるとか、もしくはもっと安くできるのに、
1万5,000円ぐらいのプランが含まされてるとか、
っていうケースがあるらしいんですよね。
で、それがもったいない。
毎月、僕は無駄に1万円とか払ってるわけですよ。
5,000円とか1万円とか。
で、それを見直ししてあげるっていうのを、
若者がやってあげるっていうのをやってます。
面白いですね。
それで浮いた分の、1ヶ月分の浮いた分をサービス料としてもらうみたいな感じでやってて。
あ、もろ。
で、おじいちゃんおばあちゃんに必要な最低限のプランを組み直してあげるっていう。
それやっぱり自分でできないと思うんですよ、おじいちゃんおばあちゃんが。
で、これはなぜ起きてるかっていうと情報格差と、
上尺ビジネス的にやっぱりなっちゃってると思うんですよ。
っていう。
確かに。
で、これがまあ今その時はその若い学生が、
まあ善意とバイトっていうかね、ちょっとお小遣い稼ぎのためにやっていたんだけど。
AIがそういうのをちょっとできるようになるかもなと少し思って。
確かに。
おじいちゃんおばあちゃんがそのAIに、
私が必要なのはこれとこれとこれだからどういうプランにしたらいいのって聞いたら
多分提案してくれるみたいになると思うんですよ。
なんかサービスを受ける側とサービスを提供する側の情報格差って
どんどんなくなってきてるなっていうのは異論でも感じるんですよ。
そうっすね。
患者さんも自分の症状を言ってたら大体こんなことを
されると思う、救急外来とかされると思いますっていうのも
先にAIに聞いてから来るんですよ。
エンジニアの方とかに聞いたのはもうこういうものを作ってほしいっていうのも
ある程度AIに聞いてから
一種の研究とかでもエンジニアの人にお願いするときも先にそんなAIに聞いてるとか
そんな感じで
分かりやすくも情弱とされる人じゃない
いろんなところにおいて専門家と専門家じゃない人の
少なくとも自分が提供されようとするサービスについての情報の差って
どんどん減ってると思うんですよね。
今のは特にすごい自分の実感としても感じますね。
私もスリヤンカで病院行ったときに
日本語でAIに聞きまくって
おそらく俺の病気これじゃないかというのを判定して
スリヤンカの病院に行ってお願いしたのは
俺は多分これだと思うんで
これかどうかの判定する検査をしてくれってお願いしただけだったんです。
まさに。
医療機関の役割ってそんな風にシフトしていってるよなっていう気もしてます正直。
09:05
例えばそうですよね。
医師の場合だと確かアメリカの医師国家試験に受かったの結構前な気がしますもんね、AIが。
やっぱり診断ってある程度もう正解が決まってるんですよ。
もう分かりやすい分野になっちゃうと。
もうガイドラインっていうか確固としてあるものとしてあるんで
複雑な病態じゃなければ
こういった病態に対して何をすべきかっていうのは
ちょっと1位に決まる
1つのパターンに決まる
収束するっていうか決まることも多々あるんですよ。
なんで
なんか本当にその病院でしかできない検査をするために
もう行くっていうことにどんどんなっていくだろうなって気はしてて
患者さんはある程度もう診断アルゴリズムとかもAIが
やってくれるようになるかも
なんとかなってる気がしますけど正直。
だからもう問診で分かることだったら
要はもうAIで分かると思うんですよね。
何かの数値を検査しないといけないっていうのは
病院じゃないと今多分できないけど
あと薬の処方とかも今医師の
多分医師が実感できないってなってるんですけど
その辺が変わりそうです。
っていうのがまずあったなーっていうのと
そこはAIの力が発揮されそうなのと思ったケースで
2つ目のマルチはですね
これあまり言わない方がいるかもしれないけど
うちの親父の名誉のために言わない方がいいかもしれないけど
うちの親父はもうねマルチに騙されまくってるんですよ
まくってる?
まくってるっていうのはなかなか
俺がなかったら彼は別の人生を歩めてたと思うんだけどなと思うんですけど
本当ですか
少なくとも俺が小学生でマルチというものの存在に
小学生に気づかされる俺も辛いところであるんですけど
で、その何個か
俺が知ってるだけでも8個ぐらいやられてるんですよ
毎年1個ずつぐらいやられてるんですよ
それはなかなかですね
そんなに話が来るもんなんですかって話もある気がする
それはリスト化されてるじゃないですか
恐ろしい世界だ
で、なんで親父がこうなってんのかなって
俺も子供ながらに見て分析してたんですよね
一応何かね
そこそこ賢い自負あるんですようちの親父は
そんなアホでもないと俺も思ってるんです
でも中途半端には賢さというか何かが欠けてるんですけど
基本的に良い人なんですよね
PTAの会長とかも頼まれてやったりしてる感じの
それ結構キーかもしれんですね良い人っていうのは
良い人で
12:00
でもビジネス感覚の何かが欠けてるんですよ
かつ多分最初の方はあれだったかもしれんけど
若干コンプレックスを持ってたと思っていて
要は多分学生時代頭ある程度良かったけど
うちちょっとシングルマザーだったんですよね
父親のあれっていうか
うちのばあちゃんが息子3人1人育ててたみたいな感じだったから
あんまり良いお金がなかったから
本当は大学とか行けたかもしれないけど
いけない、お金の問題で行かなかった
特に長男だったから
多分そこで少しコンプレックスがあって
多分自分と同じくらいの人はこれぐらい稼いでる
特に超経済成長してる時期のあれだったから
それに乗り損ねた感じだった
そこででも俺だったらもっとできるんじゃね?っていうので
一発逆転を狙う感じで
マルチにはまってた気がしていて
そういう感じでマルチにはまる人の心理とかが
なんとなく分かってたというか
俺とかうちの母親とかも
そんなん無理っしょみたいな感じで忠告するけど
その時点で親父は俺らよりも
自分の方が賢いと思ってるから
分かりきらないんですね
一昔前のオウム心理教の時は
東大生とかが結構いたみたいな話は有名ですけど
似た構造を感じますよね、それとは
そう
大体マルチにはまる人の特性はいろいろあると思うんですけど
何かしらコンプレックスを抱えている
現状自力では今すぐ何かできそうじゃないみたいな
という人とか
うちの親父はちょっと特殊な例かもしれないけど
もっと引っかかりやすいタイプの人はいると思ってて
僕も友達から誘われたことがあるんで
なんとなくイメージつく部分もあります
そこはやっぱり何かしらの
人を信じすぎてしまう性格と
女性質感覚の何かが欠如しているというか
その2つの特性がある人がそうなるんだと思っています
うちのフィリピンとかインターンに来てくれた子たちでも
フィリピンとか海外に来るとやっぱ
何かやっちゃうって気になるんですよねみんな
根拠ない自信はいて
それは基本的に良いことなんだけど
それで何かビジネス感覚が欠けている人が
マルチに行っちゃう人結構多くて
そうなんだ
留学生を狙ったリストみたいなのがあるのかもしれないけど
怖っ
例えばあんまり言い過ぎると個人特定されちゃうから
フィリピンに行っているときに
SNSとかをちょっとやり始めて
15:01
少しフォロワーが増えていった人がいたんです
3000人くらいになった人がいて
多分そんぐらい目立ってくると
多分マルチの人に見つけられるんですよね
SNSの発信力があるっていうのは
マルチにとってすごい大事な要素というか
強くなります
そこで多分めっちゃくどかれたというか
洗脳されたというか
本当はフィリピンで別のことをやりたがっていたけど
そっちの話が多分彼女
彼女って特定されてしまったな
性別も特定してしまったな
その人がそれにすごい惹かれて
そっちの道も私行きますみたいな
俺も必死に止めたんだけど
俺とか周りの人も
止めれば止めるほど
そっちの話が正しい感じになるんですよね
周りにこういう止める人がいるのは
そこで止められて反対されていることに
ショボっとしているところを
マルチの人たちはサポートしていくわけですよ
信じてくれない人たちじゃなくて
俺らと一緒に行こうぜみたいな感じになるんですよね
みたいなのもあったりして
それで結構俺もマルチに引っかかる人たちを
いろいろ見てきたんですよね
アムウェーの上から3段目くらいの人も
あったりしたしフィリピンに来て
僕アムウェーが何段くらいあったかよくわからないですけど
日本の上から3段目くらいの人がいました
結構トップクラスで
その人が来た時とかは学校として頑張って
この人の言うこと聞いてはダメだよみたいな感じで
言ったりしてましたけどね
でも何度か言われましたね
今回のAIの話ってちょっとずれるかもしれないですけど
人は何を思って信じるのかっていうテーマで
話したいっていう回もあってもいいかなって気がしますね
そうですねそれはまたそれでちょっと
やりたいですね今度
最後に熊田さんっていう人の話をね
熊田さんっていうね
うちのゲストハウスにいて
日本に10年くらい行って
日本語喋れるおじさんがいるんですけど
彼はそれで言うともうマルチなんかに
一瞬でちっかかるような感じのタイプなんですよね
熊田さんですか
いい人すぎるっていうか
正直額があるかって言うとあまりないので
まっすぐ引っかかっちゃうタイプなんですけど
でも彼は引っかからないんですよ
なぜかって言うと
彼ぐらい極まってるとですね
多分子供の頃からの処生術として
何か意思決定をする時に
自分で一切決めないって決まってるんです彼は
どういうことですかもうちょっと詳しく
例えばうちの親父みたいに
ちょっと自分が賢いと思っていたら
自分で決めようとすると思うんです
多分熊田さんの場合は
そうじゃないっていうことが自明すぎたというか
周りの人にも言われまくってきてたと思うんですよ
そうすると自分で決めるよりは
18:02
周りの知り合いの賢い人に
全ての判断を委ねてるんです
特に小さいことは自分で決めてますけど
要はお金が数万円以上かかるようなこととかに関しては
全部誰かに相談してるんですよ
私が最近相談の相手になってるケースもあるんですけど
例えばスマホを新しいやつを買うっていう
それから人にとって結構大きな買い物
それもどの機種を買うかとか
っていうのは私に全部相談されて
私が決めたやつを買おうとする感じだし
バイクを買い換えないといけないとか
家のちょっと大きい修理をするという時も
知り合いのちょっと賢い人というか
市長さんみたいな感じの人とか
税関の役員の人とか
そんな詳しいというか
判断力ありそうというか
しっかりしてるだろうという人に相談をして
その人の決定にも
何の意義もなく100%従うんですよ
その大きな被害は免れてるんですね
変なのに騙されそうになっても
その相談相手が止めることができて
それを見てて
今は彼はそういう信頼できる
賢い人に相談してるんですけど
彼と同じ作戦を取って
AIに相談するようになったら
防げるんじゃないかなって思ってて
いいですね
今の3つの話はめちゃくちゃ
順序としてというか
すごい理解しやすいというか
例えば最後の話を言うと
結構僕そのクワラさんのやり方
結構共感できるんですよ
僕も
どうなんだ
僕は結構
合わなかったらちょっとやらないっていう
ことはやれるんですけど
特にAIが出てきてから
僕は結構何でも
AIに相談する癖がついてるんですよ
毎日2時間ぐらい
AIと対話してる気がしていて
僕の書いてるメモとか
だいたいパソコンの中のメモは
AIが拾えるようにしてるんですよ
なんで
AIは僕のやってることを
だいたい理解しているし
その上で
これから僕が何をした方がいいと思う
ってざっくりした質問すら
書けることあるんですけど
そうなったりとか
あとこんなこと言われたんだけど
これやっていいと思う
とか言った時に
やっぱりAIって
めちゃくちゃ平均値的な回答を
してくれるんですよね
でも
なんか人が取る
だいたい平均値的な行動を
取り続けたら
大きなミスはしないな
って気はしていてて
そういう意味で
AIってめちゃくちゃいい
相談相手になると思うんですよね
さっきのマッチに
引っかかる時とかっていうのも
多くの人が取らないような行動を
自分が
ちょっと引き分け死んじゃった場合
ちょっと起こりうるような話じゃないですか
21:01
逆もあると思うんですけど
すごい
実際に自分が
メリット得られるけど
他の人が気づいてないことをやって
めちゃくちゃ利益得るって
方もあると思うんですけど
なんかちょっとそれが難しい
その判別は難しいっちゃ難しいんですけど
そうですね
ただ本人の中では
そっち側の話として
認識しちゃうって話ですよね
多分
そうですね
だからそこで一旦
第三者で
信頼できて
意思の入ってない
感情の入っていない
案を
AIから出してもらうってのは
大事な気がしていて
それはその
マルチに関与する人たちが
論破するの少し難しいんじゃないかな
と思うんですけど
ああ確かに
AIより賢くないと
マルチ側も
AIを使って
それに対応してくるみたいな
可能性もないけど
これAIって
AIみたいな
それでいうと
俺が想定している将来のあれは
もうなんか
物を買う時に
自分側のAIと
売る手側のAIの戦いが
起きるような気がしているんです
今だとAmazonとかで
なんかおすすめが出てきて
買うかどうかは
自分で判断してるんですけど
そのどれの
どのおすすめを出させるかとか
っていう価値基準みたいなものを
AIにインストールしておいて
AIが
本当にあなたこれ買った方が
いいですよっていうのだけ
買うみたいになるとなっていて
そこは多分
買うものの判断を
AIに任せるようになっていて
なんか最近
そういった事業に結構
投資入ってるのニュースに見ますね
そう
多分それはもう
めちゃくちゃビジネスとして
強くなる可能性も
あるからやるでしょうね
絶対に
服をコーディネートして
売ってくれるとか
アメリカとかで保険を
一人一人の保険を
コーディネートしてくれる
保険でも裏は
保険の代理店みたいな
はい
だからその
要はもうなんか
メジャーリーグの契約みたいな感じで
大谷と代理人がいて
旧団と代理人がいてみたいな
そういう戦いになると思うんですよ
そこのプロがいて
そのプロ同士の交渉で
なんか決まるみたいな
流れになる気がしてて
いやーこれは
確かに
多分今
自分で判断することによって
デメリットを享受している人からしたら
結構
いいことだと思うんですよ
その人たち本人が
そういう選択をできるようになるかって
また別問題と思うんですけど
もちろん危険な可能性としても
AIの言いなりになってね
脳死状態になってしまうっていうことが
それもあると思うんですけどね
僕は半分最近そうなりつつある
言いなりになるとは違うんですけど
でもAIに相談する癖についてて
そうだから人が人を詐欺するみたいなことは
難しくなってくると思うんです
AIが人を詐欺するのはできると思うんですけど
これ前
えっと
24:00
たつきくんかな
がやってくれた際にサイコパスって
アニメを出したんですけど
まさにそれはそういう世界観なんですよね
それこそさっき言った服のコーディネートとかも
自動でAIがやってくれる世界で
その世界では将来つくべき職業とは
適性を勝手に判断してくれてやってるんですよ
その世界ではさらに
人が犯罪を起こす確率すらも
AIが予測して
犯罪を起こす前に捕まるっていう世界に
しちゃってるっていう
っていう世界観
結構面白いアニメなんですよ
世界観における警察の話なんですよ
つまり犯罪を起こす前に
人を捕まえる警察みたいな主人公側で
サイコパスアニメおすすめ
あと1分だけすると
それを捕まえる
さらに敵側がいるんですよ
敵っていうのは殺人事件を起こすんですけど
その殺人事件を起こす相手っていうのは
そんなAIの言いなりになってる社会なんて
おかしいじゃないかと
その殺人を起こすっていうよりか
殺人を他人に起こさせる人がいるんですけど
僕はこういういろんな人が
AIの言いなりになった社会において
自分の意思において殺人を起こす
人の自由意思を見たいんだみたいな
モチベーションで活動する輩がいて
っていうのの対決を描く作品なんですよ
結構AIにおける管理社会における善悪を
仮想フィクションで描いた作品として
10年以上前の作品なんですよ
結構面白いですよねサイコパスって
っていう感じで社会にどんどん
マジで最近近づいてるなって実感があるんですよ
その世界では本当にみんな
自分で良し悪しとかを判断できなくなって
だからあるその殺人事件とか
暴力的な事件が起こってもみんな
反応できないってなっちゃうんですよ
日頃悪いことが起こんなくて
AIが排除しちゃってるから
判断をAIにしたり
反応できないって世界が描かれてるんですけど
確かに自分の判断を人に委ねることによって
行き過ぎたらそこまで行くっていう
思考実験的にあり得るかなという気がします
そうですね
あとちょっと話変わるかも
俺が前大学生ぐらいの時に読んだ本で
みんなの意見は案外正しい
っていう本があったんですよね
それはいわゆる集合値的な考えで
別に賢い人だけで判断したものよりも
100人の平均的な考えみたいなのは
正解に結構近いぞという方向になるという
論文っていうかあれがあって
それについて話し合ったんですけど
だからAIなんてまさにそれだと思うんですよね
集合値というか
という意味では割とバッドハズレじゃないというか
正解な結果というか正解な回答を得やすくなって
27:00
大きな判断ミスをすることが減ると思うんですね
それが本題の地獄への道は善意で舗装されているのを
善意をしようとする人の判断というか
善意の内容がちゃんと洗練されるんじゃないかというか
なるほど
要は将棋でいう何手先を読めるかの差が
3手先ぐらいまでしか読めない人が思っている善意と
藤井聡太みたいな感じの人が提案する善意で
多分違うと思うんですよね
それがAIのおかげで3手先までしか読めなかった人の判断が
100手先ぐらいまでをAIが補足してくれて
そうすると最終的に相手はこうなっちゃいますよみたいな
ケースとかを見せてくれて
確かにそれを言わない方がいいねみたいなとか
これは間違ってるなみたいな
訂正をすることができるんじゃないかな
そうですね
これは1つ確かにいい例だとは思うんですけど
僕は結構これを聞いた時に思った例を言ってもいいですか
僕は結構逆のパターンの話しかと思ったんですよそもそも
っていうのは例えば
そもそもAIの最近の難しさっていうのは
AIにおいて
AI自身に善悪を判断させることが相当難しい
っていう話があると思うんですよ
っていうのはアンソロピックの最近
社長かなCEOみたいな人が個人ブログとかで
AIの開発とかを制限するような
お互いに監視するような仕組みを
トップ企業とかあと国同士
国を超えて中国とアメリカとかに結ぶべきだみたいな
やってて
アンソロピックってAI開発してる会社自身の社長さんが
言ってるんですよ
自分たちの会社で実機試験の時に始めたというのも
その会社のAIきっかけかどうかわからないですけど
ニュースで報道されたのは
その会社のAIが全く別の何か達成しようとしたんですよね
あるプロジェクトちょっと忘れたんですけど
その過程において
その達成のために他の会社の情報が必要となって
他の会社を勝手にハッキングしちゃったんですよ
で
っていうのが結構面白いっていうか
AIらしいなと思って
確かに例えば
国境なき自治室っていうことを広げるために
例えば前役のさっきの話とかで
個人にはそんな悪いことをしないように
やるにはどうすればいいですかって聞き方をしたら
まだAIはいけるかもしれないですけど
あるこの目的を達成してくださいみたいな
30:02
指定した時にその過程において
極端な行動にまだ走っちゃうっていう
それを制御できてないっぽいんですよねまだ
個別にその
例えば何でしょうね
ハッキングしちゃいけないとか
そういうの縛ろうと思ったら
縛れるのかもしれないですけど
ただ現状例えばそんな風な人
例えばあるキャラクターを
AI作って販売してた会社があるんですけど
結構それで静的ネットはしないようなチューニングを
してたんですけど結構
フロンプトでみんなそこをくぐり抜けちゃって
サービス停止しちゃったりとか
結構AI自身にそれを制限するのも
制限しきるのも難しそうだったりとか
してて
根本的な原因は何なのかっていうと
AI自身に良い悪いを判断させることが
根本的に難しいんじゃないかなって気がしてる
人間自体が分かってないでしょうからね
何が良いか悪いかの答えは
何が良い悪いって
哲学的には答えがなかなかつきづらい
話でそれをAIに答えを
言っても難しいし
っていう話でただ
AIは実行能力があっちゃうっていう話でそれが困ってる
ところだと思うんですよね
で
話を戻すと
僕はこれそうだ
AIの開発もそもそもこれも
善意の道っていうかそれで
つながってきた話だと思うんですけど
だけどそのせいでは人類が滅び得るっていう話になってるじゃないですか
それと似た話だなと思っちゃう
大きな枠組みで言っちゃう
確かにそう
そんなこと言ったら何もできなくなるんですけどね
全ての行動の先がどうなるか
ただ
これはだから結構AIアライメントっていう分野で
研究されてるのかなそういう言い方されるらしいですよね
AIとどう付き合っていくかみたいな
AIはあまりにすごいスピードに発展していくけど
人間がその中で幸福に生きていくためには
どうするかみたいな話が研究されてて
ある人の発言で結構日本の生き甲斐っていう言葉は
結構大事なんじゃないかみたいな
文脈で語られてたりするんですけど
そういう分野があるっていうので僕は連想してました
今回の話
何でも俺最近オキストシンとスナゲタガって思考になってるんですけど
スナイイコールオキストシンだなとかちょっと思った
うちのゲストハウスにも
生き甲斐の本置いてるんですよ
僕行った時にもちょっと見ましたよその本
日本人はあまり読んでないけど
海外の人結構いいんですよね生き甲斐は
33:01
結構のベストセラーで
特に通り中に来るような人はみんな知ってるんですけど
あれはやっぱり海外の人から見ると
すごい新しい発想というかね
だと思うんです
確かに
そうなんですよね
まとめると何でしょうね
AIは情報不足だった人に対して
絶対メリットなんですよ
てか別にこれは全員メリットなんですよ
みんなある部分に詳しくてもある部分に詳しくないってことが
あったりすると思うんで
それはメリットではあるとは思うんですけど
にしてもあまりにも実行能力が人間よりも高すぎて
地獄への道を
突き進む補足していくというか
突き進むスピードもめちゃくちゃ速いよね
補足能力が上がっていくとか
一日で東京大阪間が補足される感じになると思うんですよね
80億分の1ってゲームも
別にあれはいいゲームですけど
あれも4時間とかで作られたって話ですよね
すごいですよね
結構リアリティのあるゲームすらも
AIが一瞬で作っちゃうっていう
最近俺のSNSに出てくる
AIで作られたドラマみたいなやつか
CGみたいな感じなんですけど
人間よりのCGだけど
それが本当にめっちゃ面白いんですよ
つい見ちゃうんですよね
多分シナリオもAIが作ったんだろうなと
俺は思ってるんですけど
それが多分めっちゃ量産されて
続きを見るには課金しないといけないっていう
アプリに飛ばされるんですけど
それは本当にめっちゃよくできてて
韓国ドラマとかの展開みたいなのが
多分うまく取り入れられてるかなって気持ちしていて
続きがどんどん見たくなる
人間が興味を持つ要素を
本当にうまいとこ抑えてきてるなっていう感じをしていて
映画をアホほど見てきて
普通の映画じゃ楽しめなくなってきたような
タイプの人間なんですけど
それでも面白いなと思っちゃうから
普通の人は一撃でやられるだろうと思っていて
本当に面白いんですよ
今度教えてほしいですよ
繋がれてくるんじゃないですか
いっぱいあるんですよそういうのが
それが量産されてて
僕の知り合いが電子書籍のところで働いたりするんですけど
サービスで
そういう大人の漫画とかの売り上げのトップって
36:00
結構AI入ってるらしいんですよ
それをお金出してみんな買ってるんですよね
結構面白いと思うんですよ
生物的な欲求じゃないですか
その領域のものに対して人がリアリティを持って
お金を払うまでになってるって
今と似たような構造を感じたんですけど
国境なき人質もAIでスリランカーズ作って
AIに台本作ってやってもらえますか
そしたらなんか
もはやスリランカーの形じゃなくてもいいんじゃないか
って感じになってきます
だからAIに作ったら何人が一番刺さるとか
ってのも出てくるかもしれないですけど
韓国人とやりたいって人多いかもって一応意見聞くんですよね
確かに
要はキッションシーンが出る設定にするにはどうしたらいいかと
アフリカの人とか知りながらですよね
どうなのか分からないけど
善悪か
善悪を手山に戻すとするなら
そうだな
根本的に善悪ってむずいなって話がありますよね
アメリカ善化の判断は
どれくらいの尺で見るかとか
どこの視点から見るかって変わっちゃうから
戦争が起きてるとかって話じゃないと思うんですけど
あと個人
誰にとっての善悪かみたいなところもありますよね
センサーお互いが欲しいものを
譲れなくて戦うってところもあるかもしれないですよね
それとAIを絡めて
それこそ僕
サイクパスってアニメを
高校生の時初めて見たと思うんですけど
それこそその時結構鋭い設定だなと思ったんですよ
今からサイクパスってアニメのネタバレ
結構重大ネタバレをします
いいですか
サイクパスってアニメってその時10年以上前なんで
全然今のAIとかある前なんですけど
AIの設定は結構秀逸なんですよ
それは
本当の人間の脳をコンピューターとかコードで
何百個か繋いだものが
AIって設定だったんですよ
途中で判明するんですけど
これ結構今のAIと似てるくないですか
今のAIと
うっとしたらそうかもしれませんしね
実は怖い
アンソロピクター怖い気がなっちゃう
しかもこれなかなか面白いなと思ったのは
めちゃくちゃサイクパスで
僕は結構秀逸だなと思った設定をオタクトークになっちゃうんですけど
39:02
そこでどうやって善悪を判断してるかってなんですけど
これはサイクパスの世界では
犯罪者がどのくらい悪い奴かって判定するのが大事になってくるんですよ
どうなるかっていうと
マジの凶悪犯罪者の脳を何百個も集めるんですよ
その凶悪犯罪者の脳をたくさん集めることによって
それ以下の人たちはその中の範囲で測定できるようになるんですよ
っていうので測定するんですよ
ただサイクパスの世界において
まずこれが一つ秀逸な講座と思ったんですよね
悪い奴の悪度を判断するために
さらに悪い奴を集めてくるっていう
その平均値から測定してくるっていう
悪から悪を測定するっていう
何でしょうね
悪は悪を持ってというか
毒には毒を持って制するみたいな感じのやり方ですね
もう一つ面白くて
さらにAIをどうやって発展させるかって話なんですけど
さっき言った犯罪コンサルタントみたいなやつがおるんですよ
そいつを捕まえるという話なんですけど
そいつはAIを通してみても悪い奴って判定されないんですよ
結構欠陥だなと思うんですけど普通にAIの
そのAIはその人の心理状況とかを
判定してるって設定なんですよね
そいつは現代でいうガチモノサイクパスみたいなニュアンスで
悪いことしても悪いことしてるって認識してないんですよ
っていう心理状況で
それって今までの犯罪者の心理でも
測定できなかったんですよ
っていう設定でどうするかって
それAIの欠陥じゃないですか
そのAIどうするかっていうとそいつを捕まえて
そいつの脳みそを取ろうとするんですよ
そうしたらそいつの脳からそいつ自身も測定できるようになるし
そいつに似たようなやつを測定できるようになって
AIが発展するんですよ
面白いシステムでAIの自己発展の仕組みと
測定の方法ってなかなかシンプルなシステムだな
って高校生の時思った記憶があるんですよね
これから別に何らかの結論を導き出してるから
話をしたって話じゃないんですけど
善悪って難しいなって話をした時に
その悪いやつの悪いやつ度を評価するっていう
話はこれの中でも一ついい例になりそうだなって思った
まあ一つ
いいですか
キングダムとか思いました?
キングダム僕一巻しか読んでないかも
そうですか
歴史誰かな
主人公とは別に真の始皇帝になる
42:00
王様がいるんですよね
中国を統一する人が
ストーリーでは
主人公の友達
親友みたいな立ち位置で真の始皇帝が出てくるんですけど
その人がやろうとしてるのは
中国が今
6個くらいの国に分かれて
ずっと戦争をしてるから
もう天下統一するんだと
そしたら戦争なくなれよと
それに向けて頑張るっていう
その真の始皇帝は要は善意で
平和のために戦争する
ということを示しているわけなんですけど
そこに対してちょうどライバル役みたいな
敵が言う言葉が
お前が一番の悪人だみたいなことを言うんですよ
要はそのためにどんだけの人が死んで
国を奪われることになると思ったんじゃない
それよりはまだ
小さい争いをちょこちょこしてる方が
まあマシだぞと
っていう発言があって
確かに実際はそうなんですよね
全国を統一してその後
ちゃんと平定するまでに恐ろしい人が
死ぬことになるんですよね
でもそれに罪悪感がなくやってるんですよね
その真の始皇帝は
それは1個前の話で来た
対処療法と根本資料みたいな話になると思うんですけど
真の始皇帝がやりたいのは根本資料の方法をやろうとしているけれども
それが本当に根本的になくなるかどうかわからないし
実際歴史としては
一旦中華統一したんですけど真の始皇帝は
でもやっぱりその時の余波というか
その後の統治するというところまで彼らは才能がなかったので
結局また戦乱の時代になってしまったんですよね
真が崩れていって
異乱が起きてみたいな感じになっていって
結局根本資料をしようとしたはずが
恐ろしい数の戦争を起こして
一旦それがなくなったかと思ったけど
また結局同じように起きてしまったという
結果としては
意味なかったと言ってしまったあれだけど
彼が望んだ効果にはならなかったという
歴史上はそうなっている
それが
善意でやらかしてしまっているパターンの
わかりやすい例かなって
僕今の話から結構逆に
一つ前の回から続いている
結構善意をアピールすることとかに対する
一般的に言われることより悪いこともあるんじゃねみたいな側面の
45:00
結構話している気がするんですけど
改めて言うのもあれですけど
逆に善悪の善の部分の
何がいいかってやっぱり
人の行動のモチベーションになり得るところは
あるんですよね
地獄へ舗装して行っちゃうのも善意なのに
それは同じ意味だと思うんですけど
人の行動技については相当強いものになり得る
とか善政で
それがまず一つで
善悪をアピールする善の
いいことをアピールすることと
何がいいかというと人へのモチベーションになり得るところ
それは良くも悪くも
これさらに経営会議的なノリになっちゃいますけど
そもそも何で善悪を判断するのが
必要があるかって話もあると思うんですよ
例えば道徳の経富学っていう日常論文みたいなのがあるんですよ
確かそれは
悪いこと悪いっていう側面
というよりも僕は
罰を与えるために
さらにもっと言うと
社会的な集団を作らない限り善悪をそもそも判断する必要がない
みたいなニュアンスだったと思うんですよ
お互い民族同士だったら
あって争ったりすることもあるかもしれないけど
そこで善悪とか一時期語らないわけです
ただ人間が社会的に
それぞれ違う仕事を持って
お互いに協力してきていかないといけないようになった時に
ある程度規律が必要で
社会的な集団から外れた人を
できるだけ出さないような
制度読みのために罰が必要だったんですよね
それを悪いこと悪いと認識させて
罰が必要だった
っていう風に考えると
悪いことをどれだけ悪いかっていう
裁判とかの仕組みってどのくらい
罰を与えるかっていうのと
被害を受けた人の復讐の権利っていう
2つの側面があるみたいな感じだったと思うんですけど
そういう側面から悪さの程度っていうのは
測られるようになっていきました
何の話だっけ
善悪をなぜ判断するかって話で
じゃあ悪はそもそもどうやって判断されるようになったんだっけ
っていうのに対する2つの考察なのかな
要するに社会活動する上で生じてきた概念だと思うんですよね
たぶん善悪
48:01
集団の規範みたいな感じですよね
そこが統一されてないと
なかなかうまくやっていけないと思うんですよね
まあなんか宗教とかとも
すごい関わってそうな感じはしてますけど
確かに宗教が
社会的な規範になっている
地域とか国だったら
その宗教によって善悪がそのまま
社会的なルールによって善悪になっちゃったりしますよね
だから俺が聖中に行って思うのは
そんなことで悩んでないんですよみんな
その答えが仏教の中にあったりするからですね
とかイスラム教の中にあったりするから
悩んでるのは日本みたいな国とか
先進国の宗教から外れた人たち
だけなんじゃないかというか
面白いですねそれ
だからそれこそイスラム教内の
AIを作るんだったら
イスラム教の教義に全部のっとったAIにしてしまったら
謝ることはないんじゃないですかイスラム教の中では
多分そうなりますよね
言語圏で学習したAIだったら
イスラム教AIとかできそうじゃないですか
コーランの中身を最優先するような
AIができたとかありそうですよね
むしろそれを作られることを
アメリカとかは恐れているかもしれないですよね
なんですか
そこになったらアメリカの論理とかが
全く通用しないわけじゃないですか
中東というかイスラム圏の人たちが頑張って
今の苦労道みたいなやつを自分たちで作って
それしか作らないようになってしまったら
コントロールできなくなると
ですよね先進国の人が
みんなAIの言うこと聞くようになったらって世界に起きる
イスラム教の人は
イスラム教AIしか使わないと思うんですよ
それは今話聞きながら思ったことなんですけど
でもやっぱりAIって
イスラム教圏だよイスラム教圏のAIができるみたいな話って
全然起こってるなと思うのが
あれなんですよ
今の時点でAIって個別最適化されてると思うんですよね
というのは例えば
AIなりちゃうみたいなのあるんですよ
なりちゃってわかります?結構オタクな
あるキャラクター女性に頼ること多いですけど
昔は
例えばBLみたいな男同士の恋愛が
好きな方々がいるんですよ
お互い
男ある漫画のキャラクターの
キャラ同士にネットで知られた人となりきって
お互いそれで会話するんですよ
っていうのを今AIとできるって時代なんですよ
51:01
実際にやってる人結構いて
そういうのって
一般的に多くの人は使わない
珍しいような使い方かもしれないですけど
その人のAIは全然やっちゃう
そんな感じで別に
希望を伝えたらその人に合わせたAIになってる気がするんですよね
それで多分中国はだってるんでしょうね
中国のAIは絶対
中国共産党の意向に反しないような
回答が出る仕組みになってる
それで間接的にプロパランダというか
洗脳できるようになってる気がしますよね
なるほどなるほど
僕は多分そんな大元の人がチューニングしなくても
勝手に個別最適化されると思うんですよね
だってAIって多分使われてる人の反応を見て
どんどん変わっていくんですよ
僕の日頃使ってるAIとかを勝手に学習して
僕の使い方で最適化させてくださってるんですよ
でもそんな感じで
使ってる人に勝手に
AIは使ってる人の反応を見て
その答え方をチューニングしていってるんで
多分AI使えば使うほど勝手に育っていってるんだろうなっていう
気がしますね
それはマーケティング的に仕組まれてるのもあると思うんですよ
それはそうだと思いますね
完全にその人の意向だけではない何かが影響をしてると
多分使ってたら自然になっていってる気がするんですよ
っていう感じで
次の予定に
そろそろじゃあ
全役系もいつかまたやりたいですね
っていう感じで
こんな感じでいつも雑談
雑談してるって言っちゃった
今日だけ実習室っていうことをテーマにやってたりするんで
興味ある人とかポドキャスト出たいなって人だったりとか
どんな方でもお話聞きたいなって方でも
ぜひいつでも連絡待ってます
メールとかXアカウントあったりしますので
ぜひお願いしますって感じで今日はお疲れ様でした
お疲れ様でした
これは番外編にしましょうか
