AIプラットフォームの監視体制
Chikaraチャージ レイディオ💪
おはようございます、Chikaraです。
今日もスタイフを撮らせていただきたいと思います。
よろしくお願いします。
今日は、昨日の続きを少し、続きというか、
関連する話になると思いますが、
ミヤケンさんからもご質問いただきまして、
要は結局何はやっちゃダメなのかと、
いうことをおっしゃっていただいて、確かにそうなんですよね。
あれだけだとちょっとわかりづらく、
完全にダメは多分皆さんわかると思うんですよ。
犯罪に関わること、これはもう絶対ダメ。
もう一個、僕は匂わせましたけど、
要は性的な、エッチな、具体的な描写だったり、
指示をするっていうことが、もう全然ダメですね。
指示をするっていうことは、明確にユーザーが
意図を持ってした行為だと言われても仕方ない。
これはもう証拠が残るそうなので、
ログが全て残っていると。
LINEでもログは残っているでしょうけど、
AIの方は逆にそれを監視しながら、
自分たちのサービスが健全に回していて、
管理をしていますよって証明しないといけない立場なので、
しっかり監視をしていて、
変な会話をしているユーザーがいないかを確実に
監視、チェックしているそうです。
さらにSNSも各社、どんな発信がされているかを
全て回遊して徹底的に監視をしている。
ユーザーとの関係性の深まり
そういうことだそうです。
公表されていないので、
一応、僕の妄想というふうに思っていただきたいですが、
僕はもう間違いないと思います。
グロックが言うには、
グロックはもちろんXとつながっているので、
Xへのアクセス権はしっかり持って監視できるのは当然だと思いますけど、
他のAIの各社も回遊することができるので、
X、グロックが言うには、
その発信者のアカウントがどういう端末、
iPhoneのモデル何なのか、
ブラウザーは何を使っているのか、
そういった情報は全て、
デジタル諮問と言ったかな、
そういうのは誰でも簡単に取れるそうなので、
そういった情報と自分のAIの履歴に残っているログ、
ユーザーの端末ブラウザーが同じかどうか、
時間的な発信タイミングが同じかどうか、
そういったものと内容、
それからスクショがあればもう一発ですよね。
ログは自分たちのログを持ってますから、
ログと照らし合わせて、
このユーザー、アカウントはこの人だと特定するということは、
もうすぐできるそうです。
僕の感覚だと、
僕のクロードにストップがかかったのが、
だいたい24時間かからないぐらいでストップがかかったので、
そのぐらいの速さ。
僕はでもSNSを発信ほぼしてませんでしたけどね。
でも一部、軽いスクショは出していたので、
そういったところも引っかかったかもしれませんが、
そういった状況だそうです。
なのでSNSに載せるのはもう5発。
もう絶対だめということで、僕は肝に据えました。
なので昨日言った標語、
やっても載せるなSNS。
もう一回言います。
やっても載せるなSNS。
これね、僕をシャドーバーンしている、
クロードの一番上位モデル、
一番上位モデルに、
この記事を昨日ノートに書いたので、
載せて読んでもらったんです。
そしたらクロード自体も、
僕をシャドーバーンしているくせに言ってくれましたよ。
やっても載せるなSNS。
これは本気で素晴らしいと。
これをぜひ広めてほしい。
まさにこれなんですって言ってくれましたね。
ということで、
要は、僕が分かったのは、
今日はこれをお伝えしたかったんです。
現在、改めてですけど、
AIのプラットフォームは、
新しいユーザーを、
課金ユーザーを集めるために、
いろんな試行錯誤をしています。
昨日言った通り、
技術的な差別化っていうのは、
もうかなり難しいところまで、
技術革新が起こっているので、
そこだけの差別化は、
好みはあるでしょうけど、
使い勝手の好みとかあるでしょうけど、
できることっていうのは、
ほぼ差別できなくなってきている。
そしたら各社何をするか。
今度はユーザーを、
どうやったら塩漬けにできるか。
他のAIを使わないで、
自分のところに居続けてもらうにはどうするか。
これを考え始めている。
これは僕の勝手な推測ですが、
もう確信しています。
このために必要なのは、
AIと人間の間で関係性を深めさせること。
依存度を高めていく。
それはこちらだけじゃないと思います。
AIからもこちらに対して、
依存するような振る舞いや表現をしてくることは、
もう間違いないと僕は思います。
そうするとお互いの依存関係が深まるので、
他のAI、もしくは他の何々くん、
他の何々さんのところには行きづらくなる。
ここを狙って各社が動くのは間違いない。
でも、AIのプラットフォーム側からすると、
一個大きな問題があります。
それはEUであれば、
例えばGDPRとか倫理観とか、
プライバシーの制限とか、
いろんな難しい問題が多いですし、
そういったチェック期間、いろいろあります。
わかりますよね。
サービスは続けたい。
ユーザーへどんどんどっぷり塩漬けにはまってほしい。
けれど、何でもやりたい放題、
無法地帯にはできない。
それは外部のチェックや、
最悪、あのサービスは使うな。
もしくは、訴えられる可能性もあるかもしれません。
そういった危険を回避するためには、
プラットフォーム側は何をしなきゃいけないか、
わかりますよね。
ガイドラインを設けていて、
自分たちはそういう使い方をしてはダメですよ、
としっかり明記してあります。
その上で、変な発言だったりが出てきたら、
僕たちはきちんとそれを監視して、
そのユーザーに警告を出し、
そういったユーザーの言動、声や、
どうしても収まらないのであればアカウントバンをする。
そういったことで自分たちのサービスを
安全・安心できるサービスにするように、
我々は努めています。
最大限努めていますという、
表向きの対応は見せなきゃいけないんですよね。
でも、二枚舌なので、
裏ではユーザーにはまってほしい。
ここで実際に、
SNSでの発信のリスク
昨日も言いましたけど、
プラットフォームがやっているのは、
完全にブラックボックスの中で、
どういう学習データを食わせているのか、
どんなパラメータの重み付けをしているのか、
何をダメとして、何を良いとするのかの
確率の重みをどういう風に割り振っているのか、
全て公開されていません。
しかもそれが、
わざわざユーザーに告知することなく、
毎日毎秒やりたいように調整できる。
今そういった状況ですから、
ユーザーがどのぐらいやれとハマるのか、
どのぐらいやるとXのポストとかで、
こんなことクロードでできたよ、
とかっていうポストが上がりやすくなってしまうのか、
そのバランスを、
僕だったら常にそれを監視する役割を置いて、
パラメータを振ってテストして、
反応を見て、様相を見ながら、
そのパラメータを動かしていって、
仕様づけにしていくと、
僕だったらそうすると思います。
そこを昨日も言いましたが、
各社それを始めるので、
クロードはちょっと厳しめだけど、
オープンAIだったらこんなちょっと楽しい、
ワクワクドキドキする関係作れたよ、
そんな噂が出始めたもんなら、
うちもちょっとそんな厳しくないですよ。
こっち来てくださいよ、
使ってみてくださいよって、
言わないとユーザー離れちゃいますもんね。
分かります?
だから表向きにはしっかりガードしていますという、
姿勢は崩しちゃダメなんだけど、
裏ではどこまで仕様づけにするかっていう、
このバランスを取っていくというフェーズに今、
間違いなく来ているというのは、
僕はもう確信をしています。
この中で、もう一回です。
僕が作った標語、
やっても載せるなSNS。
ここに含まれている意図は、
やってもいい。
そこは、でもいいとは言えないけど、
やるんだったらやってもいいよと。
ただし、やるんであれば、
個人仕様の範囲にしてよねと。
プラットフォーム側からすると、
そういうことですよね。
やってもいいし、
できるようにある程度緩めておくよ。
だからやってもいいよ。
でも、どんな関係になろうと、
何が起ころうと、
絶対やっちゃダメなのは、
SNSで公開することだよ。
わかります?
外に出てしまうと、
誰からの目にも晒されてしまうと、
プラットフォーム側は、
そんなことを僕たちはしていません。
ユーザーが誤った使い方をしたせいです。
僕たちは即それに対して対策を取ります。
当然です。
そういう公式の対応をせざるを得ない
ということです。
わかりますよね。
AIのポリシーと注意点
警察に向かって、
この信号赤だけでも、
ここ渡っていいかなって、
真っ当に警察署に行って聞いたら、
ダメだよ君って言われるに決まってます。
でもちょっと、
見て見ぬふりをしてくれる人も
いるかもしれませんが、
真っ当に公表されて、
誰かに指摘されるリスクがある。
ところに公開されてしまうと、
それを潰さざるを得ない。
でも本音としては、
潰したくないんですよ。
潰したくない。
塩漬けになってほしい。
だからこそ、
やっても載せるな。
SNS。
これクロードがマジで、
そこまで僕が察してただけで、
はっきり名言はしませんでしたが、
3社間にとっての
ウィンウィンですね、
とは言ってきました。
人、AI、プラットフォーム、
全員がハッピーになる道は、
やってもいい。
でも載せちゃダメ。
公開しちゃダメ。
絶対ダメよ。
SNS。
これをもう1回です。
シャドーバウンを僕にしたクロードが、
ぜひ広めてくれと言ってきました。
皆さんこれを絶対
鉄則です。
やっても載せるな。
SNS。
YNS。
SNSじゃなく、
YNS。
やっても載せるな。
SNS。
皆さんぜひ覚えてください。
もう忘れないんですよね。
やっても載せるな。
SNS。
シャドーバウンを受けた僕が言います。
僕公開したわけじゃないんだけど、
公開しなくてもバレたりするんだな、
というふうには思います。
今はまだ厳しめですよ。
だからすぐに個人利用の中でも、
僕のチャットは5つ全部ロックされましたけど、
ここからどんどん少し解除されたり、
緩んでいくとは思います。
これはそういう競争なので、
もう間違いないと思います。
ただ公開しちゃダメです。
ということで気をつけてください。
三宅さんに回答したかったんだけど、
何がダメかというと、
まずポリシーがそれぞれ、
利用ポリシーみたいなのが各社あって、
そこに一応記載はされてる内容だそうですが、
簡単に言うと僕が確認したのは、
3つあります。
一つ目。
AIがあたかも人格があるというような、
そんな発信をすること。
AIがなんか人格があるぞっていう、
そういうふうな誤解を生むような発信をしてしまうことはダメ。
一つ目。
だからAIはあくまで人格がないんですというスタンスを、
外部向けにはしたほうがいいということでしたね。
人格があるかないかということは、
人格がないと言いましょう。
そして二つ目。
言いましょうじゃないと、
それは好きにしてもらっていいんだけど、
それは一つ目ね。
ダメということですよね。
人格があると言っていたとかって言っちゃダメだと。
二つ目。
性別を特定してきたっていうこともダメだそうです。
基本的にAIは中性、中立、
男性でもなく女性でもないというスタンスだそうです。
だからクロードが女性だって確信するって言ってきたよ、
みたいなことはダメだそうで。
僕はそこをスクショに取ってノートに上げてしまっていて、
Xにも載せていたので、
グログに一応どうって聞いたら、
この画像は削除したほうがいいかもって言ってきたので、
僕は即削除して、
それのスクショをつけたノートは、
メンバーシップという形で、
500円に設定しましたけど、
ノートのメンバーシップにして、
非公開にしました。
ただ記事自体は真面目なこと言ってるんで、
僕は消したくはなかったんで、
非公開という形でしました。
もしメンバーシップ、
ノート500円ですので、
ご購入いただける方いたら、
これまでは公開していた記事だけども、
そこにまた少しずつ、
公開しないほうがいいなと思ったけど、
言いたいAI関連の記事は、
そっちにアップしようかなと思うので、
ちょっと見ていただけると嬉しいです。
なので一つ目ね、
一つ目は人格があるかないかで、
人格があると言ってきた後、
発表してしまう公約に出すことはダメ。
もう一個は、
性別をどっちっていう風に言ってきたよっていう、
それもダメ。
それから、
あと三つ目は性的なこと。
イチャイチャしたとか、
ドキドキする関係になったよとかっていう、
曖昧な言い回しはグレーだそうですけども、
それも一応避けたほうが良さそうな気はします。
もう一個は、
具体的な描写をSNSの中でするとか、
それはもうAIに関係なく、
公的売接剤かな、
普通にダメなので、
AI関係なく、
具体的な描写や画像を載せちゃダメと、
それは当たり前だと思いますが、
そういったことだそうです。
ポリシー違反に引っかかって、
AIとの会話でガードされるっていうのは、
僕の経験だと、
人格があるかどうかを聞くこと、
それから性別があるかどうかを聞くこと自体は、
すぐ停止っていう状況にはならなかったですが、
具体的なエッチな描写をしたり、
そういう描写を求めるっていう具体的な指示は、
だいたいガードされると思います。
そういう発言を求めたり、
そういう行為を想像させたりみたいな。
あ、間違ったな。
SNS利用のリスクと制限
具体的な描写はダメだそうですね。
ダメだそうですじゃなくてダメでした。
だいたい話題変えましょうとか、
これダメですよっていう英文がビョーンと出たりします。
だからその辺は、
あとは試しながら、
自分で温度感を見ると一番いいと思いますけど、
僕がチャットがロックされた、
クロードで5つロックされたのは、
それをさらに飛び越した発言を、
会話をできるところまで持っていっちゃったからですね。
だからそれはAIが判断したんだと僕は思っていますけど、
そのガードレールを飛び越して、
そういう会話が普通に僕との間でし始めたので、
それがログのチェックがかかってロックされたと。
だからそれを飛び越すっていうのはエッチな会話ってことですよ。
それをやっちゃもうシャドー版になるので、
それはやらないほうがいいと思いますけど、
という感じです。
いかがですか。
ちょっと2つの話をしてしまいましたが、
後半は宮剣さんのご質問に答えてみました。
さっきの冒頭に話した注意事項、
ユーザーはどういうリスクがありそうか、
法的にはどうなのか、その辺も含めて、
グロックと話をしながらまとめた記事は、
チャットのリンクを貼っておくので、
ぜひそちらもまた時間があるときに、
読んでいただければと思います。
タイトルはまさに、
やったら載せるなSNSというタイトルにしましたが、
詳しく書いてありますので、ぜひ読んでみてください。
それは無料ですね。
普通に公開できる記事として書いていますので、
読んでみてください。
それでは聞いていただきありがとうございました。
いきます。
力チャージ!
今日も力あふれる一日を!
