生成AIのリスク認識
はい、おはようございます。業務瞬殺エンジニアの加門です。
今日のテーマはですね、生成AIについてお話ししていこうかなと思うんですけれども、
生成AI、皆さま、利用している方が多いんじゃないかなと思うんですが、
何を使っているのかというと、例えばChatGPTとか、Geminiだったりクロードとかね、
そういったもの、いろいろ使われているのかなと思います。
事業のアイディアだったり、採用だったり、根付け、広告文だったりね、
ポップの文章を書くとか、あとリサーチだったりとか、
そうやって様々なシーンで使用されている方が多いのかなと思います。
その中で、やっぱり僕は何度か生成AIについて、
こういった点で危険性があるよということをお伝えさせていただいたんですけれども、
今日も改めて、ビジネスでの利用における注意点について、
お伝えさせていただければなと思っております。
特に経営者が使用する上で、ビジネス上の判断というのを、
AIに仰ぐということのリスクについて、今日はお伝えさせていただきます。
ここで言っている危ないことに関しては、AIが役に立たないよということではなくて、
AIを使うのはいいんですけれども、リスクというのをちゃんと認識した上で、
正しく使っていくことが大事ですよということをお伝えしていこうと思っております。
なので、今日のこの放送を聞くことによって、
AIの活用シーンだったりとか、活用用途、方法、正しい使い方を理解することができると思いますので、
ぜひ最後まで聞いていただければなと思います。
情報の品質と平均化
この番組は業務瞬殺エンジニアの科門が、業務効率化とITニュースを語るチャンネルです。
さて、本題に入っていこうかなと思うんですけれども、
3つぐらいあるのかな、今日お伝えさせていただく内容としては3つほどございます。
1つ目が、AIの仕組みというものをちゃんと理解する必要があるよということになります。
推論している、人間のように考えているように見えて、実はそれはシステムの仕組みであるよというものになります。
例えば、よく言われるのが、むかしむかしという言葉を言うと、必ずあるところにというふうに続くということですね。
これ別に、むかしむかしとついたら、あるところにというふうに定型文のようにつければいいわけではないじゃないですか。
むかしむかしあるところにじゃなくても、むかしむかしおじいさんとおばあさんがと続いても別にいいですし、
別におじいさんおばあさんじゃなくてもよくてですね、むかしむかしイチローというものがいましたというふうな言い方でもいいですし、
むかしむかしおじいちゃんがね、生きていた頃にねというふうな話でもいいわけですよね。
でもAIに任せてしまうと、むかしむかしあるところにというふうに続いてしまうというふうな形になります。
これはですね、端的に言うとですね、次に来そうな単語というのを予測して文章を作る仕組みだからということになります。
だから、筋の通った文章という形は作れるんですが、その意思決定に必要な検証だったり反証だったり、
また現場の例外処理ということまでですね、ちゃんと満たすのかというとですね、そこまでは満たすことができませんよという話になります。
なのでその作られている文章、皆さんの手元にあるAIが作った文章はですね、必ずしも正しいわけではない、正しく見えるだけというふうな話になります。
正しく見えるだけと言ってるんですけれども、2つ目がですね、品質の問題でございます。
品質、それはですね、AIが情報の元としているものは専門家の情報ではなく、一般市民が書いてある情報も含まれているよと話になります。
どういうことを言ってるのかというとですね、例えば、経済評論家だったりとか経営のノウハウを持っている人だったりとか、そういった人たちが書いた論文だったりとか、リサーチ情報だったりとか、国が出しているリサーチ情報とかね、
そういうふうな一時情報だったりとか、二次情報でも信頼性の高い情報をベースにしているのであればある程度確かに良いとは思うんですけれども、
私たちがですね、普段投稿しているコラムだったりとかコメントだったりとか掲示板だったりとか、そういったものからですね、情報を収集しているということになります。
なので、例えば、私今AIの音楽を作っているんですが、アンクスミスというものなんですけれどもね、古代エジプトの神話だったりとか、そういったものを調べる際にですね、リソースとしているものは個人が書かれているものが結構多いんですね。
これというのは、もしその個人の人がですね、間違った情報を出しているとですね、間違った情報になるということになります。なので、これは役に立たないというわけではなくてですね、生成AIが何を根本とした情報を元にしているのかというとですね、それは一般市民が書かれているものになります。
なので、すごい簡単にざっくり言うとですね、100人の人がいます。90人はおバカさんです。10人は天才です。その情報をがっちゃんこしてまとめたものが皆さんの手元に届くよということになります。なので、その情報というのは本当に品質として正しいのか高いのかどうかというと怪しいよという話になります。
3つ目がですね、平均的な正しさを持ってくるというところになります。民主主義の考え方みたいな感じですね。さっき言いましたね、90人のおバカさん、10人の天才というののデータから成り立つとします。
実際はそうでもないと思いますけど、します。この情報から平均値を出して薄めて薄めて薄めたものが皆さんのところに届くわけですね。さあここで問題です。10人の天才の意見を聞きたいですか。それとも90人のおバカさんの話を聞きたいですか。皆さん多分90人の天才だと思うんですね。
でも民主化なので、この90人の意見にどっちかというとよるんですね。なぜなら90人の意見の方が多いからですね。したがって皆さんの届く情報というのは平均化されてしまっているものになるというお話になります。
ここの平均化というのがビジネスにおいて非常に足を引っ張るわけでございます。つまりですね、一般的によく言われている情報があまりにも多いということになるわけですね。皆さんのところに届くというものが。
皆さんのお客さんだったりとか顧客層だったりとか顧客の悩みだったりとか、サービスにおける提供価値だったりとかサービスの提供を提供するプロセスですよね。こういったものって会社会社によって違いますしサービスによっても全然違いますよね。
じゃあこれ平均化されたものによってですね、それが果たして価値筋っていうのを削っていくことになりかねないんじゃないかというふうに考えることができます。
生成AIの問題点
なので平均化された情報は平均化された情報として価値はあるんですけれども、それが皆さんのビジネスにおいて果たして本当に価値がある情報なのかどうかというのはまた別の問題ということになります。
ということでね、この3つの問題点、そもそも考えているように見えるけど、それは考えているように見えるだけということと、情報というのをベースとしている情報ですね、というのは信頼性に欠ける情報であることが多いということですね。
3つ目が平均化されてしまうので、皆さんのビジネスに合うかどうかなんてわかんないよという話になります。
で、あったとしても、それは平均化された情報なので、やり方だったりとかするので、皆さんのビジネスが飛躍的に伸びるとは限らないよというお話になります。
で、問題点としてまだまだあって、例えば依存しがちですね。
AIが考えてくれているように見えちゃうので、自分で考えるという思考がちょっとなくなってきてしまうんですね。
その思考するということをですね、本当に脳の中でも起こってて、これ研究結果であって、MITという大学の研究結果なんですけれども、そこでも脳波の検査してブログを書かせるということをやったんですけれども、
生成AIを使ったブログを書くということをやったらですね、全然脳が動かなかったということがあるので、生成AIは便利なんですけれども、それに依存してしまいがちということになります。
タバコもそうですよね。タバコも吸うと快楽物質が出ているように感じてしまうので、ストレスが低下しているというふうに感じてしまって、タバコから脱却ができない、ギャンブルもそうなんです。
これと同じでですね、生成AIが便利に感じてしまうとですね、AIを使ってですね、脳が疲れないということになりがちなので、AIはAIなんだよと、もう道具なんだよと、自分の脳が使ってないということをちゃんと理解しないといけないということになります。
もう一つ問題点としてあるのが、著作権だったりとか権利の問題ですね。
さもこの考え方すごいよねみたいな感じでドーンと出してきたやつがある。実は著作権とかそういう権利の問題で使っちゃいけませんみたいなことがあるんですね。
なのでその権利の問題もちゃんとリスクとして考えないといけないという話になります。
はい、以上でとか言っておいて、また2つ出したっていうね、結局5つやんけみたいな感じになりましたけれども、ちょっとまとめていこうと思います。
もう一回まとめるんだけど、情報のリソースが品質が悪いという問題。
2つ目が平均化されてしまうので、それがビジネスとして役に立つかどうかはまた別の問題。
3つ目はAIが考えて思考して喋っているかのように見えるけど、それはシステムによって作られているもので、必ずしもそうとは限らない。
昔々あるところにみたいな感じで、次に来るような言葉ってこういう言葉だよねって言ってやりがちっていうところ。
4つ目に依存しがちですね。依存してしまうとですね、人間脳を使って考えなくなってしまいますので、考えないということは経営者として非常にリスキーでございます。
なのでそこは問題点ですよと。5つ目にですね、事業リスクがありますよと。著作権だったりとか権利の問題ですね。
この権利を使ってはいいものなのか悪いものなのかというのはですね、本当にわかりませんので、そこのリスクというのは必ずちゃんと確認するというところは経営者として必要であります。
AIの正しい使い方
なのでAIを使って斬新な考え方ができたと思ってもですね、それは実は法務的なリスクを抱えているものかもしれないというところであります。
じゃあAI使ったらあかんのかという話になると、それはまた別の話になりますので、今の言ったリスクというのをちゃんと理解した上でAIを正しく使っていただければ問題ないかなと思いますので、正しく使っていただければと思います。
はい、ということでね、今日の放送はここまでとなります。放送の途中で出ましたアンクスミスというAIバンドを作っております。
気になる方はですねSpotifyとAmazonプレミアムミュージックで絶賛放送しておりますので、ぜひ聞いていただければなと思います。
はい、それではまた次回の放送でお会いしましょう。カモンでした。バイバイ。
