AIの安全装置の仕組み
皆さん今日はね、珍しいと思うんですけど、AIのことについてちょっと話したいかなと思います。
今日はちょっと事情あって、iPhoneで録音してるんですけど、
まあ、AIを使っててたまにその質問には答えられませんとかって表示されるときありませんか?
なんだよこいつ知らねえのかよと思うかもしれないんですけどね。
それはね、あの、AIに備えられた安全装置が働いているからですね。
今回はね、この安全装置の仕組みと意義について解説をしていこうかなと思います。
今すごい自由な感じでね、だらっと座りながら録音しているので、なんか物音が聞こえたら申し訳ないです。
安全装置はね、AIが害を与えられないように設けられた仕組みですね。
車で言えばなんか自動ブレーキとか、そんな感じのものにあたるのかなって思いますね。
AIの場合はね、出力と入力と学習データと、この3つのところで制御が行われているんですよね。
まあね、昨今、AI使った人が死んじゃったみたいな話もあると思うんですけど、
まあね、そうやって便利な一方でね、間違った情報とか、なんか危険なこと、
だからその死ぬことを進めるようなことみたいなのを言ってしまったりとかっていう危険があるんですよね。
まああとはなんか犯罪に関わることの方法を教えてしまったりとかね、
そういうのがあったらすごい大きなリスクになるっていうので、安全装置の導入がね、されてるんですね。
あれなんですよ、皆さんが使っているAIって、言語モデル、その言語モデルのところに安全装置がついてて、
ライオンの檻みたいなやつですね、な感じに入ってて、音声の認識の枠組みでどんどん入り込むみたいな感じに入ってて、
ライオンの檻に閉じ込めておくみたいな感じのイメージをしてもらえればと思います。
開発者向けのAIはですね、その檻が取っ払われている状態なので、もう何をしてもし放題みたいな、そんな感じなんですよね。
だからまあ、その昨今話題になっているAIの人は、その安全装置ついてたのかなって思っちゃうんですよね。
あとはローカル、自分のパソコンにダウンロードして使うAIとかは、その安全装置を自分で入れなきゃいけないので、
開発者向けのAIは安全装置のさらに、その状態のものがもっと取り払われたものなので、
気をつけなきゃいけないんですけど、そんな感じですね。つけなきゃいけないんですよね。
入力段階で危険なキーワードを検出したりとかね、受け付けない。
ありましたよね、なんかね、中国のAIとかね、ありましたよね、受け付けない仕組みとかね。
出力段階とか、生成した文章が不適切にならないかっていうのを、
AIは行列計算で文章を出しているので、そういう計算を内部で行えるようにしてるんですよね。
あとは、学習段階の中で偏りや差別的な内容をね、学習するのを減らすっていう目的もありますね。
一時期ありましたよね、なんか、片方のすごい思想に偏ったAI出来上がっちゃったみたいなやつ。
あんな感じのをね、減らす目的があるんですね。
だって悪意ある言葉なんて、X見てるとめっちゃあるじゃないですか。
X見てるとめっちゃあるじゃないですか。
だからXの中にいるグロック君はね、Xの中にいそうな人たちの口調をしてるんですけど、あんな感じなんですよね。
それが安全装置です。
安全と自由のバランス
わかりやすかったかしら。
安全装置には課題もあるんですよね。
表現の自由と安全性のバランスみたいなところ。
もうちょっとマイルドじゃなくて過激な発言してほしいみたいな人とかっているのかな、わかんないけど。
例えばいるとしたら、それが物足りないよって言ったりとか、AIだからもうちょっと想像性が欲しいよみたいなことを言い出すわけですよね。
で、あとはなんでこの回答が拒否されたのかわかんないから教えてよみたいな、そういう感じのもあったり。
文化とか国の価値観によってもその禁止事項とかいろいろ違うじゃないですか。
この国ではOKだけど、この国ではダメみたいな。
二次元キャラクターの規制とほぼ同じ感じですよね。
それが問題点にはなってますね。
まあでも安全こそ最優先のってね、なんかもう危険な感じの、だからね、AIが全部危ないよって言われてるじゃないですか。
AIが全部危ないよとか、なんかそういうのじゃないところまで行ってほしいなと思いますね。
AIの安全装置っていうのは本当に大事で、昨今事件とかを見ると本当にそのバランスが難しい。
ユーザーの使い方って逐一監視はできないので結構難しいよなと思ってたりしますね。
だから完全な回答っていうのはないんですけどね。
その安全装置があるよっていうのを意識した上で使うといいんじゃないかなって思いますね。
安全と自由はね、どっちも欠かせないのにそのバランスが難しいところですねっていう話ですね。
まあ一般市民の我々にはどうすることもできないわけですが、
開発者向けの大規模言語モデルを触れる人はそこが一番苦労しているということで、
今日はね、AIについて話してみました。
これ番外編なんですけど、最近あの、里氏が引退した新しいポケットモンスターをね、
1話から一気見を始めたんですけど、キャラデザー可愛いですね。今時って感じ。
あとリコとロイが可愛い。
あのショタキャラ好きな人はなんか幾分刺さってる人いるんじゃないかしらと思うんですよね。
私ポケモンだとね、スター団のボタンが推しなんですよね。可愛いですよ。
曲もすごい物語性を感じられて好きですね。
あと昔のポケモンだとあの、ブラックホワイトのNとかも好きなんですよね。
ということでなんかね、なかなか見れなかったポケモンを今一気見しているところです。
そんな番外編でしたということで、今日はここで失礼します。
