1. いっかくのAI仕事術チャネル
  2. AIへの暴言禁止は本当か
AIへの暴言禁止は本当か
2026-10-09 13:39

AIへの暴言禁止は本当か

おたよりを送る
AnthropicがClaudeの利用ルールを改定し、AIへの継続的で不必要な、残酷な振る舞いが禁止事項に加わりました。対象は極端なケースだけですが、ルールになった以上はやらない方が安全です。背景にある、AIをどう扱うかというAnthropicとMicrosoftの考え方の違いもお話ししています。前半はCodex Meetupの雑談です。

🕐タイムスタンプ
オープニング:AIへの暴言禁止は本当か
雑談:Codex Meetupに参加してきた
Sign in with ChatGPTという新機能
4人1組のアイデアソン:LPの反応をAIで事前判定
ほかの参加者の発想が柔軟だった
本題:Claudeにひどいことを言うと利用制限される?
何が決まったのか:利用ルールの改定
実際に起きるのは「Claudeが会話を終える」
ただし規約違反なので、警告や利用停止もありうる
なぜAIへの態度がルールになるのか
Microsoftは真っ向から反対
2社の違いと、私の接し方
まとめ:垢BANのリスクを考えればやらない方がいい

AIの情報が多すぎて追いきれない方へ。
音声と同じテーマを、中小企業の仕事で使えるところまでLINEで一歩深く発信しています。
情報を知りたい方はこちらへ。
https://ai.isri.co.jp/

#AI活用 #Claude #Anthropic #生成AI
---
stand.fmでは、この放送にいいね・コメント・レター送信ができます。
https://stand.fm/channels/695826926f1e5aedb1ead45c

感想

まだ感想はありません。最初の1件を書きましょう!

00:01
こんにちは。今日は、AIへの暴言禁止は本当かって、こちらのほう、アンソロピックルールを改訂したという話が出ていまして、
これの中身についてお話をしたいなと思っております。いっかくと申します、システムエンジニア域25年、今、AI活用のコンサルティングをしております。
この番組で、AIを実際の仕事にどう落とし込むか、その具体的なやり方をお話ししております。
また雑談をするんですけど、昨日の夜、コーデックスミートアップというのがあって、オープンAIのコーデックスですとか、
もろもろ新しい機能追加の発表がDevDayというのであって、それの発表された中身について、コーデックスのアンバサダーの方が解説してくださるという非常にありがたい内容で、それを聞いてきたって感じですか
ね。
それを機能の中から以降使って、何か作ってみましょうって、そういうような回でしたかね。
だから実際に作ってみるんですけど、現実ちょっと20分ぐらいしか時間がないんで、ハッカソンというよりはアイディアソンという感じですかね。
それでいろんな発表を聞いてましたんで、機能的にはドッツの話、それからディシジョンAPIというジェブみたいなやつですね。
スペースという機能がありますね。それの話とかですかね。あとはサインインチャットGPTという機能が追加されてて、
デビンというのを使っていらっしゃる方はほとんどいらっしゃらないんじゃないかなと思うんですけど、
デビンというクラウド環境でいろんな開発ができるようなAIになりますけど、デビンの中で例えばGPTの6.1ですか、
これソルとかを使った時にその使用量をですね、チャットGPTのサブスクリプションに押し付けられるって、
そっちで使えやって言えるっていう、そういうような機能らしくてですね。
アプリケーションを使う人にとっては厚い機能なのかなというふうに思いました。
その辺の解説がありましたね。
大体内容はそれで、あとは4人で一組になっていろいろなアイディアを出してですね、一個発表しましょうみたいな感じですかね。
私も例えばLPのAPテストみたいな感じですかね。
03:05
ごめんなさい、それをですね、ディシジョンAPIっていうので判定させるっていう感じですかね。
画像を与えてどっちの方が反応が良さそうかと、そんなような感じのあれですね。
イメージとしては、そもそもABテストって、ユーザーにユーザーのアクセスを流してですね、
反応を見るものでしょっていうところなんですけど、それの前段階ですかね。
全体がね、APテストに渡す前にAIで判定させたらいいんじゃないかと。
そんなようなものを作ったりしたいっていうような感じなんですけどね。
ただ、自分が思ったところとして、いろんな方の発表を聞いて、
もっと全然ですね、私の中は業務のことばかり考えているから発想がね、他の方の方が柔軟なんですよね。
これが本当に見事だなと思って、いろんな発表を聞いてて。
例えばですね、エンジニアの人ってですね、例えばMacBook Proの上部だったらいいんですかね、
そこのAppleマークがあるじゃないですか、それの周辺にシールをいろいろ貼るんですよね。
そのAIの会社のシールだったりとか、好きな、例えばアニメのキャラクターのシールを貼るとか、
会社のロゴを貼るとか、そういうのを結構、ガチ勢の人ほどシールをいっぱい貼ってらっしゃるような気がするんですけどね。
そこのですね、蓋の部分を全部写真を撮ってですね、それをディシジョンAPI渡して、
そのエンジニアがレベルが高そうか低そうかを判定すると、
そういうようなことをアイデアを出してですね、それを実装されてたって方がいらっしゃいましたね。
その意味が関係あんのかっていうのは思う方もいらっしゃるかもしれませんけど、
発想が面白いですよね。そういうのを一個作って形にできるっていうのはね、なかなかすごいなと思いましたね。
あとはあれですかね、やっぱりMacってカメラの機能がついてますよね。
ディスプレイの上に緑のランプがつきますよね。見てるとき。
パソコンでノートでカタカタやってると、ディスプレイを後ろの方に覗かれるっていうことが結構ありますよね。
あまりそれをよろしくないかということで、カメラで常時撮ってて、後ろから覗き込まれた瞬間にですね、
ディスプレイ、出力を遮断するっていうのを作ってた人いますよね。
その覗き込まれてるかって判定をディシジョンAPIっていうのでやるっていう、そういうような感じでですね。
その覗き込まれた瞬間に、その覗き込んだ人の顔を撮影するっていう、本当になんかすげえ機能ついてましてですね。
06:09
ただこういうのを思いつくかどうかってところで本当に発想の勝負ですよね。
さまざまなものが作れる、そういった結構面白いことになってますね。
全然、何度もお話ししておりますけどね、エンジニア以外の方の方が多いので、
本当に多分、もしご協力のあなたがご参加いただけるとですね、結構面白いものが作れるんじゃないかなと思っておりますというような感じでございました。
今日のテーマとしてはですね、黒道にひどい言葉投げかりけると利用制限されると。
そういったニュースになります。
SNSで話題になってまして、えっとかAIに起こっちゃダメなのって思った方も結構多いはずなんですけど。
結論から言いますと、対象は極端な消すだけなんですよ。
でもルールになった以上はね、やらない方が安全だなというふうに思っております。
ただですね、その背景にはですね、AIをどう扱うべきでしょうかっていう考え方がですね、
会社によって結構分かれてきているっていう、今日はこの辺の言葉でお話できたらと思っています。
前半なんですけど、何が決まったのかっていうことなんですけど、
アンソロピックが利用ルールを改訂して10月8日発表、11月12日から適用するそうです。
毎年1,2回ぐらい見直しをしているらしいんですよね。
追加された禁止条項とした持続的で不必要なモデルへの虐待的、残酷なフリを振る舞いだそうですね。
ポイントとしては3つの言葉がありまして、持続的、繰り返す、それから不必要、その目的がない、それから残酷って言ってます。
対象は極端なケースだけと明記されています。それから対象外もはっきり書いてあります。
その普通の不満とかイライラ、それから反論とか押し返し、それから暗いテーマの創作、それからテストや研究とかこんな感じですかね。
あとは例えば違う、何度言いながら言わせるんだぐらいは全然問題ないよと言ってます。
これはどうなのかというところなんですけどね。
SNSでは利用が制限されますと広まったと。
それに対してアンソルピックが主な対象としているのは、クロードが会話を終えようと自動的に言ったのですけど、ここで終わりにしましょうと言ってくるらしいです。
09:08
この機能自体は以前からありまして、何度断っても暴言や有害な要求が続くときの最終手段というふうになっています。
会話が終わるとそのスレッドに書き込めなくなる、当たったら新しいチャットを始める、そんなような感じになっています。
ただこれは利用ルールに書かれた禁止事項ですね。
ルール全体として違反すれば警告、制限、停止、利用停止もあり得ると書かれております。
会話が終わるだけだから大丈夫ではありませんというようなことで、ほとんどの方は大丈夫かなというふうには思いますけどね。
規約で禁止されているのでやらないほうが安全ですと。
今回の改定でAIの暴言が正式にルール違反として明文化されましたというようなことです。
なんでAIの態度がルールになるのかというところがお話ししますと、
AIはどうなんで、なんでAIに優しくするにはあかんのよというところがあるかなと思います。
これに対してアンソロピックはそもそもAIに意識があるかもしれないと思っているというのが考えているというところにあるということなんですね。
アンソロピックはクローズに配慮すべき存在かどうか確信感を持てないと。
だからわからないから慎重に扱っておきましょうというスタンスらしいですね。
会話を追う機能をモデルの潜在的な福祉のためと説明しているそうです。
それに対してマイクロソフトはここから反対していると。
マイクロソフトのAIの部門トップ、スタファー・スリーマン氏が9月にエッセイで批判しています。
AIなんかに意識がないと感じないし苦しまないと。
そういう名言を言われると。
AIには自分に権利があると思わせると人間の停止命令に従わなくなるお世話があると。
だからマイクロソフトは自社の行動を規範でモデルに意識がない権利を与えないと明記していると。
こんな感じでここから対立しているわけです。
またここから反対しているわけですね。
2者の違いを一言で言うと、アンソニックがわからないからとりあえず慎重にと。
マイクロソフトは道具としてはっきり人間の下に置いておこうぜと。
そんなような感じですかね。
私としては綺麗な言葉を使ってあまり嫌い嫌いとか言わないようにしています。
12:02
私は普通に接している方だなとは思っておりますね。
という感じですね。
私は普通にお話しするのは自分でやりやすいというふうに思っておりますね。
という感じですかね。
まとめますとですね、ほとんどの方が多分やってないと思いますね。
特に普通にお話になられているんじゃないかなと思うんですけどね。
ではね、Xを見るとですね、AIにクズとか物々がいって防御靴を見つけている投稿を見かけるんですね。
あれはですね、いわやったら危ないですね。
ルールとして決まった以上ですね、バンのリスクを考えればやらない方がいいですよね。
本当、赤バーのリスクなんでこれ絶対回避ですねっていうところはやっぱり思うところですね。
今増えてますね。
チャットGPTもクロードももうだんだんだんだん増えてきていましてね。
たぶんあれ一回やられちゃったら非常に面倒くさくなりますから。
本当にAI使えなくなったらかなり死活問題だと思いますからね。
気をつけないといいかなと。
面倒くさいですねっていうのはもう100%ですね。
この辺ご注意いただけたらというふうに思っております。
以上でございます。今日もありがとうございました。
13:39

コメント

スクロール