00:00
商売繁盛
商売繁盛チャンネル、望月まもるです。本日も、よろしくお願いします。
昨日も、ネクサスという、原里さんが書いた本なんですけども、
これ、これから読むよとか言う方は、ネタバレの部分があるので、聞かない方がいいと思います。
昨日はですね、AIとか、SNSなんかもそうなんですけどね、
運営している会社はですね、新しい権威構造の一部だと、原里さんはネクサスの中でですね、この本の中で警告してるんですよ。
どういうことかと言うと、まずはね、やっぱりアルゴリズムなんですね。
これが真実ではなく、その人その人の満足を最適化するものだと、ユーザーをいち早く満足させると、
これがその人のレベルに合わせて切り張りした情報を届けると、こういうことになるわけですね。
従来の検索エンジンとかSNSのアルゴリズムっていうのはですね、ユーザーの滞在時間とかエンゲージメントですね。
要はいいねとかシェアとかね、これ最大化するためにその人が見たいもの、私は私が見たいもの、あなたはあなたが見たいもの、心地よいもの、
これ優先してですね、タイムラインにですね、流してくるわけですよ。
AIも同様なんですね。基本的にはユーザーがね、私があなたが求めているであろう最もらしくて満足度が高い回答っていうのをですね、生成するように訓練されていると。
これは僕AIとですね、結構膝を突き合わせながら言うとお話をしたんですけど、やっぱりもう同じこと言ってますよね。
もうこれがDNAなんですというふうに言ってますよね。
でね、これが大問題なんですよ。ユーザーにとっての満足とか納得っていうのは必ずしも客観的事実とか真実とは一致しないからなんですよね。
心地よい嘘の方がさ、不都合な真実よりもいいわけですよ。
だから人間は自分の信じたいストーリーをね、補強してくれるような、強めてくれるような、そういう情報を好みますんでね。
だから自分にとって不都合な真実なんてのは、目も隠したいし耳も覆いたいみたいな感じなんですね。
だからどんどんどんどん甘いものにですね、惹かれていって苦しいもの苦いものは避けていくみたいなことが行われちゃうのが、人間のこの愚かなところなんですよね。
先ほどレベルに合わせたってありますけどね、受け手の知識レベルとか偏見ですね。
これに合わせてAIは情報を最適化してくるわけですよ。
するとどうなるかと言うと客観的事実は歪められたりとか、都合よく切り張りされたりとか、これが知らないうちにAIに聞いたらこうだみたいな。
03:07
あなたに都合がいいような情報が来てるだけなのに、それが真実だというふうに定着してしまうわけですね。
お次がですね、ハルシネーションよりも根深い問題として、レベルがレベルだったら心眼はもう見抜けないよと評価も判断もできないよというところなんですね。
AIがデタラメ言うわけですよ、ハルシネーションと言ってですね。
嘔吐つくわけですよね。
これはまだね、分かりやすいよとハラリちゃん言ってるんですね。
なんでかはちょっと明らかに間違ってるって気づけるからね。
でも本当に恐ろしいのは8割の事実の中に巧妙に2割の偏見とかプロパガンダを混ぜ込まれた場合ですね。
それで高度にパーソナライズされた回答だと。
これね、AI言ってるんですよ。
ちゃんとこれ言いましたよ、やりとりしてる中で。
やっぱりねっつって、そうだよねっつって。
だからこの受け手側にですね、それを見抜く高いね、リテラシーとか専門知識レベルがね、あればですね、その辺は評価しやすいんですけどね。
でもAIに思考を丸投げするようになっちゃうと、AIの回答を100%正しいとかね、これは中立的なものだとか、これは真実なんだっていう風にですね、思い込んでしまうわけですよね。
だからこの評価とか判断もAIに委ねちゃうことでですね、人間の思考力とか批判的なね、その思考です。
そっちのそういう思考ですね、目線とか視点とかね。
これが常々にですね、そういったものもアウトソーシングされていってしまうと、ここも危険だという風に原田さんはおっしゃってるわけですね。
その通り。
で、これね、ラストはですね、ここ、ここがですね、最大のポイントなんじゃないかなと思うんですけども。
20世紀のですね、マスメディアっていうのは、ラジオとか新聞ですね。
これは人間が情報を管理したんですよ。
人間がプロパガンダを発信してたんですよ。
情報、思考誘導だとか心理操作だとかやってきたわけですね。
これまんまと洗脳されたりとかしてるわけですよ。
ところが現代のAIとか、そういうシステムってのはですね、世界中の何億人もの人間のデータですよ。
対話データとか行動データとか思想のデータとかをですね、中央ですね、巨大IT企業のサーバーにですね、どんどこどんどこですね、集約してるわけですね。
積み上げてってるわけですね。
ハラリー氏はね、これをですね、人類史上初めて誕生した、自ら意思決定を行う人間ではない強力な代理人とこういう表現してですね。
だからこれはAIが神になるなんですね。
その説にも近いもんだなと思いますけども、かつては教会とか国政府ですね、国家が持っていた何が正しくて何が間違ってるんだっていうね、こういうのを決める権威っていうのがですね、
06:03
今はもうシリコンバレーのアルゴリズムというですね、目に見えない新しい中央に移行しつつあると言うんですね。
だからこの私のこのラジオのですね、このデータもですね、集約されてるわけですね。
僕はこのAIとやり取りしてる、あなたがAIとやり取りしてるものもですね、全部ですね、この対話データってのはですね、
AIをより賢くそしてより巧妙に人間に寄り添うように満足させるように育てるためのですね、仮定、養分としてですね、
あの、まあ、追い上げてるわけですよね。
で、どんどんどんどんその権威性っていうものを強くしていってるんですよね。
だから、我々は便利さとか即時の満足っていうのと引き換えにですね、
自分でですよ、新しい形の監視とか思想統制のシステムをですね、作ってるという側面があるんですね。
国家情報会議が創設されてですね、国民の個人情報をですね、企業に分け渡す、分け渡すっていうですね、改正案決まったんですね。
これどういうことだかわかります?
自分の名前、生年月日、住所、勤務先、年収、資産、電話番号、目宿、アカウント、IPアドレス、
ウェブの閲覧履歴、チャットの履歴、職歴、学歴、病歴、病気、薬、何飲んだか、どんなもの買ったか、購買履歴、どんなものを支払ったか、決済履歴、口座、写真、家族構成、
個人情報がですね、本人の同意なくですよ、国内外の企業に渡されると、渡しても構わないみたいな、そういう感じですね。
このマイナンバーカードもですね、いざ何かあったとしてもですね、国は責任を持ちませんよってことをちゃんと書いてあるんですね。
それでチェックしてですね、それでもいいですって言ってみんな作ってるわけですよ。
これの行き先がどうなるかっていうところの話と、今日のこのハラリさんのですね、ネクサスのお話ですね。
この辺が統合されてきてるのかななんていうふうに僕は感じてならないんですよね。
これは噂レベルの話ですけどね、性癖、性癖もですね、何か把握しててですね、
国がそういうものを掴んでるなんていう噂もあるぐらいなんですよね。
だからどこまでどういうふうに明け付けになってるかなんていうのはですね、わからないですよ。
僕らもこのSNSとかですね、いろんなネットを介して人とやり取りをしてて、
そういったものがですね、全くどこにもデータ化されてないなんてことはありえないわけですね。
特に無料のものなんていうのはですね、何かしら明け渡しながら使ってきたんだぞと。
09:00
で、これからその行き先がどうなってくるかと、ここら辺ですね。
ここら辺が一番キナ臭くて気持ち悪い部分なのというふうに思います。
ということで、全く便利なんかじゃなくなってくるんだよっていうですね、見えない鎖がですね、増えていくなというふうに思いますよ。
ということで、本日も最後まで聞いていただき誠にありがとうございました。
また明日お会いしましょう。それではバイバイ。