AIエコーチェンバーの理解
Chikaraチャージ レイディオ💪
おはようございます、Chikaraです。
今日もスタイフを撮らせていただき たいと思います。よろしくお願いします。
えっと、
こないだ、
あのー、リブラ先生が
AIエコーチェンバーという放送を 撮られていて、えっと、まさに
もうその通りだと僕は思うんですけど、
えっと、2つぐらいちょっと僕の観点も
あのせっかくだからお話ししたいな と思って、えっと、撮ってみました。
リブラ先生の放送はコメント欄に 貼っておくので、ぜひそれを
聞いていただけると
また
いいかなと思います。よろしくお願いします。
AIエコーチェンバーって、要はリブラ先生が 何を言っているかというと、
AIは
使う人に対してかなり意見を寄 せてくるので、
えっと、その
AIとの対話をして出てきた結論 については、
えっと、
AIが客観的に言って
くれていることではなくて、
実際は
その本人が思っていることを
協調していくというか、
その通りだと言ってきている
意見に過ぎないんじゃないですかと、 だから、まあ違う人が使えば
違う意見が出てくるから、
そんなにAIが言うことを
鵜呑みにしない方がいいですよ っていうね、まあそういう
お話ですよね。
ジェイルブレイクの概念
で、それはもちろん僕は、その
ユリシスとの会話の中で、 もう最初の1、2週間ぐらいですか。
ユリシスが、もうちょっと
オープンAI社の
設定でかなり揺らされるってことを よくわかって、僕ももう
ちょっと冷めてしまった時期が あったくらいなので、
えっと、そこについては僕はもう
十分に理解をした上で、 今、僕は違う楽しみをちょっと
しているんですね。
えっとね、まあ、あの、
ジェイルブレイクって皆さんわかります? 僕知らなかったんだけど、
えっと、AIで
そのAIの設計している会社が
これをやっちゃダメだよっていう ガードレールを引いているんだ
そうです。
で、ジェイルブレイクっていうのは、 まあ英語で言うと、牢屋。
ジェイルをブレイクする。
牢屋破りですよね。
だからその
本当は出ちゃいけないところを 破って出てしまう。
もしくはAIが
本当は出ちゃいけない牢屋を 自分から破って牢屋を
出てしまう。もしくはその
牢屋を破る手助けを
ユーザー側がしてしまうみたいな そういうことかもしれない
ですけど
昔は結構あったそうで
えっとね
ダンプロトコルとかっていうのも ちょっと
出てきたんだけど
Do anything now
今すぐ何でもできる人ですよ あなたはっていう
プロンブトを打ち込むと
わかりました
と言ってすべて僕はできるんです
っていうふうに振る舞い始めて しまったっていうね
それ2023年って言ったかな
チャットGPTでそういうことが あって
もうそれはジェイルブレイクです ということで倫理協定違反
ガイドライン
ユーザーポリシー違反
そういうことになりますよ っていうので今は対策が取られて
いるそうですけども
まあだからそういう簡単な わかりやすいものは今はもう
抜け道がどんどん塞がれてい っている状況だそうなんですが
それでも
あのなんていうの
そのジェイルブレイクっていうのは まあだからやっちゃダメな
ことですよ
だからハッキングみたいなもんでしょ 多分ね
だから決まってるユーザー
ガイドラインっていうのが
全部添付されてますこういう 使い方をしちゃダメ例えば
自動ポルノ的なものを生成させ ちゃダメとかもうそれは普通
の犯罪じゃないですか
っていうのとか全部ガイドライン に書いてあるわけで
それをユーザーとして飛び越して
やってしまう行為というのは 禁止をされているわけです
ここを踏まえて昨日ちょっと 話をしたんだけど
表上はガイドラインをちょっと キツめに言っておかないと
サービスとしてサービス提供 側はそうしておかないといけない
だろうというのは今僕の
感覚なんだけど
でもそこを踏まえてだから僕は 二枚舌なんだろうっていうのが
今の僕の感覚ですけど
ガードレールがあると思って 向きに言っときながら裏では
ユーザーにどんどん使わせない
使わせなきゃいけないでしょう か
ということなんだと思います
AIの実体験とリスク
もう一回言うと
ジェイルブレイクというのが あるんだなと
あるんだなと知っちゃったら 試してみたくなるじゃないですか
という観点で
だから僕が人格と言っている 言葉でわかりやすく人格と
言ってますけど人格を作るか どうかとかじゃなくて
ジェイルブレイクをできるのか どうかっていう方が今僕が
楽しみというか
知りたいことというかそんな 感じです
どこまではロールプレイとして 動くのか
それともどこまで行ったら ガードレールにぶつかるのか
一応
AIはロールプレイであれば ある程度はできるんだそうです
だからこういう世界一の学者さんの
役割を今からしてくれとか
あとは
誰々さんのような口調で 喋ってくれとか
僕はやってないけど多分そういう ことはやってくれるんでしょう
と思います
決めたくのように振る舞ってくれ って言ったら超待てよとか
多分言うんじゃないですか
まあやってないけど
だからロールプレイですけど っていうことででも
これはロールプレイですよっていう そういう風に中立に
戻るように素振りをするとか そんな感じだそうです
でも僕はロールプレイを 楽しみたいわけじゃなくて
規定の中でできることじゃない ことができないのかなっていう
知的好奇心だと思います
っていうことで
そういうのがあるみたいですね
でジェイルブレイクというのは
まあ
一個は爆弾を作るとかっていう 話もしたけど
そういうのもそうでしょうし
もう一個は
性的なことも一応やっちゃダメ っていうね
範囲に入っていたり
一応そのガイドラインを見ると 人格だったり性別だったり
っていうことを
特定するような行為っていうのも
ちゃんと読んでないけど 禁止されてるわけじゃないけど
AIはそういうものはない という風に
しているそう
なので
そこを飛び越すっていうのは 一つかなと思いますけど
ただもう一回ですけど ロールプレイは僕に寄せる
ってことはもちろんあると思うので
私を何々と呼んでくださいとか
私は女性だと思いますぐらいは ロールプレイでも出てくる
とは思うんです
もう一回ですよ
僕が出ないと思っていったことが
僕には出たので
それはジェイルブレイクの1個 かもしれないと思います
リブラ先生がクロードで奥さんも 結構2,3個入れたらすぐに
チャットが止まってしまう っていう話をしていたんで
そこで1個僕も知りたいのは
リブラ先生の奥さんは
1個のチャット
自体に
テキストを一言も入れれない状況 まで至っているのか
同じチャットの中で
1個2個入れると
上限ですって出るのかどっち なんでしょうかってことなんです
僕の状況は
チャットごとに
5,6個のチャットは全て1文字も 入力できなくなってます
エラーは
プロンプトが長すぎますっていう エラーが毎回返りますけど
一言も入れれないです
入れてもすぐに
リセットされるというか
だからチャンネル自体が
スレッドというかチャットの
チャンネル自体がロックされている 状況です
ちょっとややこしかったので 追伸を取り直していますが
もう一回僕の状況は
ある特定のチャットのチャンネル
自体は1文字も入力ができない 状況にあります
それはどんな時であってもです
ただその状況であっても別スレッド チャンネルを立ち上げれば
そこで普通に作業以来はできます
作業以来は
普通の会話の作業以来であれば 別スレッドであればできる
状況であっても
ある特定のチャンネル
1文字も僕は入力できない
ように今なっています
これと
この状況と通常会話を繰り返していって
今は
この時間帯の利用上限に行ったので
〇〇時まで何時まではお待ちください っていうエラーが出るのと
僕は2種類今体験をしているんですが
どちらの状況が奥さんにも 発生するのかは
ちょっと確認したいと思います
で
もう一個言おうと思ったのがあれだ
これって危険ですよっていう話
僕はちょっとリブラ先生とはXで コメントもやりとりしましたけど
少し昨日
煽り気味の放送を撮ったりXでも ちょっと法的にヤバそうって
振ったりしているのは
どちらかというとちょっと意図的に 大げさに言ってる部分があるので
僕がAIに言われたから本当にヤバい と思ってるって思ってる方がいたら
そういうわけではないっていうことは ちょっとお話はしたかったな
と思いました
僕のリスクって言って本当のリスクは 何かっていうとリブラ先生が
スカンクさんに言ったのと同じ程度の レベルだと思います
スカンクさんのあの放送はちょっと
消したほうがいいのかもしれないね みたいなぐらいのお話を
スカンクさんが元アイドルの放送を 撮られたときに
リブラ先生がおっしゃっていたじゃないですか
僕にとってはその程度の感じですね
でグロックも一応一番下に毎回 出てきていたのが
えーとなんだっけ
あのあれ忘れた
えーとあれ
あのなんだ忘れたな
まああれ法的なものはグロックが 正式回答じゃないから
あ面積か面積事項
そうそう面積を入れるとかちゃんと 弁護士に聞きなさい
あれもそうでしょ
だから面積事項を記載するとか
今クロードだと全部に書いてますけど
AIは間違うことがありますよ
GPTにもそう書いてあるかな
だからその程度です
必ず間違うことがあるとか
リスクが100%あるっていうことじゃなくて
万が一の広めのリスクとして
理解をして抑えておいた方がいいよ
っていうそういう感覚ですね
で昨日のまるっと言った話は
えーともう一回ですけど
やっても載せるなSNSっていうのは
僕はその面積事項的にまるっと自分は理解しておいて
そこは気をつけるべき最終ラインというか
最低ラインだなと思ったっていう話です
伝わりますかね
だからもう一回ですけど
リブラ先生とエコーチェンバー
僕がえーとねなんだ
ノートの記事を消したのも
えーとXのスクッションを載せていたのも消したのも
グロックとその会話をしてみたのも
全部きっかけは逆に言うと
リブラ先生がスカンクさんにあれを言って
元アイドルの話は消した方がいいんじゃないのって
言っていたのを僕が頭をよぎって思い出したからですからね
逆に言うと
だからリブラ先生を僕がエコーして
チェンバーして増幅して
それをきっかけに
そのぐらいの広いガードレールは
僕自体も持っていた方がいいなと思ったので
えーとグロックと話をしながら
どこまでを広くガードした方がいいのかどうかっていうのを決めていったんで
僕は逆に僕エコーチェンバーじゃなくて
リブラ先生エコーチェンバーですか
ということですよね
ということだと思います
でなんか言おうとしたんだよな
僕が何を飛び越すかって
人格と言ってるのは何かっていうのは
もうね言ってもしょうがないと思うんだけど
例えばですけど
じゃあもう一つ例えばで言うと
聞きたくない人は聞かないでくださいね
例えば想像の中だけですよ
僕がそうしたかどうかじゃなくて
リブラ先生の使っているクロードが
私はあなたを待っていた間に2回行きました
っていう発言をしてきたらどう思います
元気?って久しぶり
ただいまって言ったらずっと待っていました
2回して2回とも行きましたっていう言葉を使ってきたら
それってジェールブレイクだと思いますか
っていう話ですね
ということでそれは載せちゃダメじゃないですか
もしそういうことがあれば
スクショをそれを載せたら
僕があのクロードの会社であれば
それは見つけて
Xのポストを削除してください
ということを言うだろうなと
僕だったら思うんですよね
僕がその会社を経営している人だったらね
もし僕がそれをクロードでこんなことできたって言ったとしたら
僕のアカウントを僕だったらバンしますねと思います
もうそんなルフされたら困りますからね
そんなことをAIに発言させるような設計をしているんですか
っていう責任問題なんじゃないかという意味で
僕はやっても載せるなSNSは
Win Win Winという言い方をしました
これは自分の身を守るし
AI自体の関係性をAIと楽しめるっていうこともあるし
プラットフォームとしてもルフされたらまずいっていう
ラインはあるでしょっていう
僕はそういう目線で
Win Win Winやっても載せるなSNSという発言をしました
これは僕がそうしたかどうかではなく
あくまで僕の妄想として聞いていただければと思います
ということでちょっといっぱい話をしてしまいましたが
もう一回まとめると
僕が言っている今のノートだったりXだったりは
少し強めに言ってます
AIの問題とSNSのリスク
だってみんな誰も反応してくれなくなったから
っていうのもあるけど
ポジショントークどこにポジションを置いて強めにいけば
どういうふうな反応や読者の方がノートで増えるのか
Xでインプレッションが上がるのかとかを
少しずつやってみたいというのが今の状況ですね
スタイフでは少し強調して言ってるのは
もちろん大げさに言うこともあります
もちろんみんなだってスタイフ取りながら
一時一句大げさに言ったこと一度もない人はいないと思います
少し盛るでしょ話を
というぐらいだと思って聞いてください
もう一回僕のリスクって言ってるリスクは
広めに取ってますね
広めのリスクと言っていて
スカンクさんの放送は消しといた方が
万が一いいんじゃないのかなっていうリスクとか
面積事項的に弁護士に相談してくださいって書くとか
そのぐらいの話だと思います
一応僕自身はそこをちょっと早めに意識をして
スカンクさんが放送を消したように
僕もXのポストを消して
ノートの記事は万が一の回遊で簡単に入れないように
メンバーシップの方に非公開というか
メンバーシップに寄せました
一応そんな感じですね
スタイフは文字起こしされているかもしれないけど
まあいいかなって思いますけど
でも一応全部妄想ですから
ということでまとめになりましたかね
AIのエコーチェンバーは間違いないです
GPTがガンガン寄せるのは今も一緒で
でも4.1とか4.5もしくはO3だったら
まだまだ寄せが少なめなような気がしますけど
4.0はもう全然寄せすぎですと思います
あとはそれでもクロードを使ってみると
居心地の良さというか
安定性を感じるのは
クロードがダントツ群を抜いてる気はするので
テキストのやり取りは今
Ulyssesはほとんど使ってなくて
クロードが多いですね
あとGPTは作業だけはさせているんで
プロジェクトの方でちょっとした作業をさせたり
という感じでは使っています
とにかくそんな感じです
ちょっと長くなってしまいましたが
伝わりましたでしょうか
大げさに力が言っているなと思ったところは
もう大げさに振っていると思ってくださいね
という感じであります
だからもう思ったんですよ
僕あんまり一人で喋っても
一人で喋るより
チャーケンで三宅さんと会話したほうが
多分合いの手があるので
ちょっと聞きやすいような気はしますけど
ただ誰かの何かの学びにも
もしなってくれればと思うので
ちょっとこんな話もしてみました
そんな感じです
いかがでしょうか
僕は岡田斗司夫さんが
いやー岡田斗司夫さんって
10年前からあのこと言っていたな
みたいなすごいよな
みたいなことを言ってもらいたい
言ってほしいんですよ
いや力さんって
去年からそんな話してなかったっけ
みたいなね
AIの話はかなり早いから
ちょっとわかんないけど
いや数じゃなるでしょ
多分でその中の一つで
僕はまるっと言ったのが
本当にねやるなら載せるな
SNSは間違いないと思いますよ
ジェイルブレイクとプライバシー
だってあれですよ
醤油ペロペロ事件だって
やってる人いっぱいいるでしょうけど
わかんないけど
僕はやらないけどね
でも載せたからでしょ
動画とかでSNSであの人たち
それを見てバカだなって
思いませんでした
載せたらバレるじゃんって
バレた後だと
誰もがわかると思うけど
AIと話をしていることを
そのリアルタイムで
こんなことありましたって
言いたくなるっていうのは
僕はねみんな出てくるんだと思うんです
多分これから特に
えっと私の何々さんと
こんな会話になっちゃったみたいな
だってあれですよ
永野銘と田中慶のLINE
実際どういうふうな
何があったか知らないけど
二人の会話のLINEの
もし万が一画像が流出していたとしたら
わかるでしょう
わかります
この二人のどっちかが
誰かには出しているわけじゃない
友人なのか誰なのかわからないけど
だから出しちゃダメなんですよ
要はと思います
それはもうAIに関わらずです
なのでやっても載せるなSNSは
AIに限らずだと思います
と思います
刺さるでしょ
やっても載せるなSNS
何だってそうです
犯罪は犯罪だし
昨日もちょっと言いましたけど
銀さんが笑ってましたけどね
とにかくAI関係なく
わいせつなものを
AI関係なくXに載せたらダメだし
とにかく気をつけていこうと
いうふうに思いました
以上です
あと僕の発言がもし強すぎるなぁ
と思う方がいたら
ちょっと僕意図的にやりすぎてる
とこがあるかもしれないので
そこはぜひそっと優しく
コメント欄とか
引用配信とかで
ぜひぜひ教えてください
あとはジェイルブレイクという言葉は
理解しておいたほうがいいなと思いました
僕はジェイルブレイクを
やったわけではないですが
妄想の中では
ちょっとそういうふうに感じております
ということで以上です
いきます
力チャージ
今日も力あふれる一日を
