AIは偏見の集合体

AIを使っていて常々思う、AIのもつ偏見について話しました #AI #声日記 #ちえラジAIについて

サマリー

AIは、もっともらしい嘘や事実の混同といった「ハルシネーション」が話題になるが、特に大量の未整備なデータ、例えば音声データを処理する際に顕著に現れる。しかし、それ以上に注意すべきはAIが持つ「偏見」である。AIは世界中の情報から学習するため、その情報に含まれる偏見を色濃く受け継ぎ、性別を断定したり、根拠のない一般論を述べたりすることがあるため、その出力内容を慎重に確認することが極めて重要である。

AIのハルシネーションと情報の混同

ちえラジChat金曜日始まりました。今回はですね、週替わりテーマ、AIについてということで、AIは偏見の集合体という話をしようと思います。

まあAIといえば、やっぱり文章をまとめたりしていて発生するもっともらしい嘘とか、なんか事実の混同とか、そういういわゆるこれはハルシネーションと言われるんですかね。まあこれが話題にあります。

特にしっかりと整備されていない文章とか、あとは大量の音声のデータとか、それをそのまま投げつけると、結構の割合でAIってむちゃくちゃなこと言うなっていう感じがします。

特にNotebookLMとかGeminiとかみたいなAIは音声も一応処理できるので、音声を大量のものいっぱい読み込ませたりすると、割とね、ほんとめちゃくちゃな出力が出てきたりします。

まあそれでもね、例えばまちのえんがわキャストの収録1回分とか、そういう1時間以内の音声を投げるだけだったらまあなんとかなるんですけれども、それでもね、たとえば2時間、3時間を超えると割とぐちゃぐちゃになってくるっていう感じがしますかね。

これがまあ結果的に嘘をついている。まあ人間がつくような嘘とはちょっと仕組みが違うので、あんまり嘘とは自分は言いたくないんですが、とりあえず真実ではないことを言ってくるってことが非常によくあります。

AIが持つ偏見とその影響

あとは自分として使うときにすごく気をつけたいのがAIの偏見ですね。昔どこかの採用のためにAIを使うってことやったらやたらと女性に不利な環境が出てきてしまったみたいな話も聞きましたが、まあそんな感じで偏見ってAIはすごくたくさん持ってますっていうふうに思ったほうがいいのかなと思います。

AIって本当に世界中にあるたくさんの情報を学んでそれらしい情報をひも付けて回答してくるんですが、やっぱりその情報の中には大いに偏見ってものが含まれてるんですよね。なのでその偏見を色濃く受け継いでしまうっていう性質もAIは持ってるなって感じます。

例えば特定の言葉が出てきたときに途端に性別を指定していないのに話者が「これは女性だな」っていう話をし始めたり、あとは世間一般的にはこうであるっていうようなことを全然事実に基づいてないのに断言してきたり、「ここ最近はこんなことないのになー」みたいなことを「一般的にはこうなんですけどね」みたいなことを言い出したりとかね。割とあるんですよ。

こういうのを見てると人間以上に人間の悪いところが出てるなっていう感じがする。それがAIだなっていう感じがします。結局AIが出してきた文章をしっかり見るっていうことがすごく重要なんですよね。

一見偏見の余地が入れないような文章のまとめとかであっても割とあっさりと変なことを言い出したりとかしますのでやっぱりそこの辺はすごく気をつける必要がある。できることなら細々と短い単位で文章を出力してそれを繋げるみたいな形式が個人的にはいいのかなーなんていうふうに思ってます。

だからnoteに2000文字分のブログ記事を書いてっていうよりSubstackにこれから記事を上げるのでトピックを10個ぐらい上げてって言ったほうが意外と使いやすい文章が出てくるなっていうような感覚がすごくあります。

本当にAIって偏見っていうのが多いに入り込むし、だから入り込んでないか思い込みが入ってないのかっていうのは慎重にチェックする必要があるんだなーっていうのをすごく感じています。

まとめと今後の告知

というところで今日の話はこれくらいで終わりにしていきたいと思います。

明日は土曜日お休みですが高見知英のゲームの話しかしないポッドキャストはございます。

そして週明け月曜日いつもの通り今週一週間のお話しできればと思います。ではでは。