AIのハルシネーション
それではやってまいります。みきさっくのJust DAO it！ヘンなラジオ始まるぜ。
この放送は、NFTは面白い、NFTは面白いんだぜ、をお伝えするNFT伝統史のみきさっくがお届けいたします。
最近さ、こんな言葉を知ったんだぜ。みなさん知ってるかな?
ハルシネーション、ハルシネーションという言葉を知ったって話。
ハルシネーション自体はさ、英単語なんだよね。英単語でハルシネーション。
どういう意味かと言いますと、幻覚。幻覚だよね、あの一光ちゃんの。
まぼろしー。幻覚のことをハルシネーションと言います。
でもさ、Web3AI業界で使われているハルシネーションっていうのはさ、このまぼろしーではなくてさ、
まぼろしーじゃないってことはどういうことだというので、まぼろしーっていう話をしようと思う。
この放送ももしかしたらまぼろしーっていう話かもしれないんだぜ。
そう、ハルシネーションとはAI流行ってんだろ。生成AIがさ、質問したら何でも答えてくれる。
でもさ、その答えの中には実は全然ちげーじゃねーかお前。
ちゃんと正しいこと教えてくれよっていう状況が発生します。
そう、AIが正しくないことをあたかも正しいぜーという風に言うことをハルシネーション。
そう、間違った回答を正しい回答かのように答えることをハルシネーションと言います。
まぼろしーって感じだよね。よくわかんない。
そんなことを言いたいわけじゃないんだぜ。
いつも言いたいことはただ一つ。NFTは面白い。NFTは面白いんだぜ。
話を戻してさ、ハルシネーションは正しくねー回答をあたかも正しいかのように答えること。
これをハルシネーションと言うんだけどさ、ちげーこと教えんじゃねーよという風にさ、
その場で判断できねーんだよね。
納得感の危険性
なんて言ったってこのAI君っていうのはさ、自信たっぷりに言うんだよね。
自信満々で即答してくれる。だからこそ、合ってるよね、間違ってねーよねーということが判断できねーぐらいにさ、
いやーこっちがわかんない質問したことに対して、そんだけ綺麗に自信満々で答えてくれるんだったら、
合ってるにちげーねーっていうことになっちゃうんだよね。
これさ実は多様性の時代だろ今。多様性の話にもつながってくる。
多様性の時代っていうのはさ、正解が一つではないんだよね。
一方、一方向から見たら正しいと思っていることも、逆方向から見たり斜め方向から見たら、
んーちげーんじゃねーかという風になるんだよね。
別角度から見ると納得感が存在したりする。
この納得感があればなんでもいいぜ、納得感こそ100%だぜっていう人もいるんだけど、
その考えはちょっと危険だぜ。
なんて言ったって納得感があればなんでもありっていう世界はさ、ちょっと昔の芸人の世界に似てんだよね。
芸人っていうのはさ、危険なこと危ねーことをやったとしても、
いやー面白かったぜーなんて言われたら、あー面白かったーならいいかーという風にさ、
納得させられていた、納得していたという状況で、危ねーことをさせられたり、
今となっちゃさ、規定違反のこと、訴えられることという風なことを納得させられてやらされていたということ。
これ極論いくとさ、人殺しすらも納得かいみたいな感じでさ、
言われちゃったりするんだぜーということで、納得感、納得感も偏りすぎるとちょっと危険だぜー。
時にはさ、自分が正しいと思っている軸を持ってさ、その軸がぶれたりしたらさ、
自分でぶれてんだぜーということで、自立立していこうぜーというお話でした。
本日もお聴きいただき、ありがとうよー。
メキサクのジェスティー、変なラジオまた聴いてくれよな。
![[9月23日]AIの嘘「ハルシネーション」の原因が判明。現役AIエンジニアが最新論文を徹底解説 (ep.2)](https://image.listen.style/img/rKVRD5j6tyNwNDXyhIV_Tva0o7Wdz0ws3WDSh-nPgRo/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzU4NTYyODkwNzEyLTE3OGUzY2ZjYjQ5ODIuanBn.avif)
