リセンでのスパム問題
ノオト・ブク子
こんにちは。今回は、共有いただいた jkondoさんの記録、jkondoの朝の散歩から見えてきた
ポッドキャストの世界の、ちょっと新しい問題について掘り下げていきたいなと。
ノオト・ブク太郎
よろしくお願いします。ポッドキャストにも、ついにブログ時代にあったような、いわゆるスパムの波が来たんじゃないかという話ですね。
ノオト・ブク子
具体的には、リセンというプラットフォームでの出来事が中心になるんですよね。
ノオト・ブク太郎
そうなんです。ポッドキャスト配信プラットフォームのリセンで、ある時期から英語の、しかも人工音声みたいなのとか、あれば単なるピーみたいなノイズだけの番組とかがですね、大量に登録され始めたと。
ノオト・ブク子
大量ですか。それってどのくらいの規模感だったんでしょう?ちょっとしたいたずらとかじゃなくて?
ノオト・ブク太郎
いや、それがですね、リセンの運営の方が手作業で削除したっていう報告だけでも、約100件。
100件!?
ええ。しかも驚くのは、中には一つのチャンネルで8000エピソードも持っているような、そういうものまであったそうなんですよ。
ノオト・ブク子
8000!?え、8000ですか。それはなんかもう、個人とかじゃなくてかなり組織的な感じがしますね。
ノオト・ブク太郎
内容はほとんど意味のないものだったみたいですけどね。
ノオト・ブク子
うーん、目的は何だったんでしょうね。昔のブログスパムみたいにやっぱり概要欄にリンクを貼って、どこか別のサイトに誘導するとか?
ノオト・ブク太郎
ええ。そういう形跡は確認されているようです。あとはSEO目的みたいな推測もありますけど。
ノオト・ブク子
ああ、なるほど。でもポッドキャストの概要欄のリンクってそんなにクリックされるのかなという気も正直しますけどね。
ノオト・ブク太郎
そうですね。その直接的な効果っていうのは確かにちょっと疑問視されてますね。
リセン側も最初は手動で何とか削除してたみたいなんですけど、とても追いつかないと。
ノオト・ブク子
まあ、8000とかあったら追いつかないですよね。
ノオト・ブク太郎
ええ。それでユーザーさんからの報告なんかもあって、最終的にはスパムフラグ機能、通報機能ですね。これを開発して導入したということです。
ノオト・ブク子
ああ、プラットフォーム側も本格的に対策に乗り出したわけですね。
ノオト・ブク太郎
ええ。継続的に対策していくという方針のようです。
AI生成コンテンツの影響
ノオト・ブク子
しかもこのスパム単に邪魔っていうだけじゃなくて、見えないところで結構リソースを無駄遣いさせてたっていう話も興味深かったです。
ノオト・ブク太郎
そうなんですよ。これ結構問題で、例えば同じような30秒ぐらいの無意味な英語音声が何千回も登録されるじゃないですか。
はい。
そうすると、それを理事義に文字起こしするAIが裏で全部動いちゃうわけです。
ノオト・ブク子
ああ、なるほど。文字起こし機能のために。
ノオト・ブク太郎
ええ。結果的にサーバーの計算資源、CPUとか、あとは当然電気代とかも膨大に無駄に使われてしまったと。
ノオト・ブク子
うわあ、それはきついですね。
ノオト・ブク太郎
しかもちょっと皮肉な話なんですけど、当初はそのアクセス数が単純に不異端で、サービスが成長してるのかななんて勘違いしてた時期もあったそうなんですよ。
ノオト・ブク子
へえ、数字だけ見てるとそういうふうに見えちゃうこともあるんですね。
ノオト・ブク太郎
ええ。プラットフォームの健全性を見る指標がある意味歪められてしまうっていう、まあ典型的な例かもしれませんね。
ノオト・ブク子
なるほどな、アクセス数だけじゃ見えない問題があると。それで、話はその単純なスパムをどうするかっていうだけでは終わらないんですよね。
ノオト・ブク太郎
まさにそこが今回の件で浮かび上がってきた、もう一つのより本質的で難しい問題でして。
ノオト・ブク子
と言いますと?
ノオト・ブク太郎
そのAIが生成したコンテンツとの境界線という問題です。
ノオト・ブク子
ああ、AIですか。
ノオト・ブク太郎
例えばわかりやすいスパムはまあ判断しやすいんですけど、じゃあAIが作ったコンテンツは全部ダメなのか?と言うと、そうとも言えない。
具体例として?のクリス社長という方が、ノートブックLM、これはGoogleのAIツールですけど、これを使って?ブックマークの人気記事を要約して紹介するみたいなポッドキャストを実験的に公開されたんですね。
ノオト・ブク子
はいはい、それは内容としては有益そうですよね。
ノオト・ブク太郎
ええ、ちゃんとAI音声で読み上げて、概要欄には元の記事へのリンクも貼ってある。
うんうん。
でもこれ形式だけを見ると、AIが自動生成しててエクスターナルリンクに誘導してる。さっきのスパムと構造的には似てる部分もあるわけです。
ノオト・ブク子
ああ、確かにそうですね。言われてみれば。
ノオト・ブク太郎
じゃあその違いはどこにあるのか?と。
ノオト・ブク子
現状ではその意図とか内容の価値で判断できるのかもしれません。
クリス社長の例は、明らかにユーザーに有益な情報を提供しようという意図ですよね。
ノオト・ブク太郎
ええ、そうですね。でも今後、こういうAIによる自動ポッドキャスターみたいなものがもっともっと増えていった場合にですね、
そのコンテンツに価値があるかどうかみたいな、ある種主観的な基準だけでスパムかどうかを判断し続けるのって、すごく難しくなるんじゃないかなと。
ノオト・ブク子
なるほどなあ。悪意はなくても結果的に質の低いAI生成コンテンツがわーっと溢れちゃう可能性もあるわけですね。
ノオト・ブク太郎
そういうことです。現にそのノートブックLMの日本語版が登場してから、同じようなツールを使ったと思われるポッドキャストが実際に増えてるっていう話もありますし。
ノオト・ブク子
AIの影響ってやっぱり大きいですね。
デジタルコンテンツの未来
ノオト・ブク太郎
このAIの影響ってポッドキャストだけの話じゃないんですよね。
普通のウェブサイトへのアクセスなんかを見ても、それが本当に人間が見に来てるアクセスなのか、それともAIが学習データを集めるためにクロールしてるアクセスなのか。
ノオト・ブク子
ああ、AIのクローラーですか。
ノオト・ブク太郎
その見分けがもうつきにくくなってる。サイト運営者からするとアクセス数がすごく増えてるって喜んでても、それが本当に読者が増えているのかどうか判断が難しくなってるっていう状況があるんです。
もしかしたら人間とロボットが半々ぐらいかもしれないなんて話も。
ノオト・ブク子
なるほど。じゃあ今回のリセンでのスパム問題とその背景にあるAIによるコンテンツ生成の進展っていうのは、単にポッドキャストっていう一つの領域の話じゃなくて、もっと広いインターネット全体のコンテンツのあり方とか、プラットフォーム運営の前提みたいなものを揺るがしてるって言えそうですね。
ノオト・ブク太郎
まさにおっしゃる通りだと思います。リセンでの一見っていうのは、ポッドキャストがもっと広く言えばデジタルコンテンツ全体がAIとの共存をどうしていくのかという、そういう新しいフェーズに入ったことを示す、まあ象徴的な出来事だったんじゃないかなと思いますね。
ノオト・ブク子
コンテンツの価値って何なのかとか、プラットフォームはどうあるべきかとか、人間の役割は?とか。
ノオト・ブク太郎
そういう根本的なところをもう一度考え直す必要が出てきているということだと思います。
ノオト・ブク子
今回はリセンでのスパム騒動をきっかけに、その対策の難しさ、そしてAIが生み出すコンテンツの価値と課題が混在する複雑な状況をあなたと一緒に見てきました。
これってオンラインコンテンツ全体の未来とか、あるいは人間とAIが生み出す情報の境界線がこれからどうなっていくのかを考える上で、すごく重要な視点を与えてくれる気がします。
ノオト・ブク太郎
そうですね。そこで最後にあなた自身にもちょっと考えてみてほしい問いがあるんです。これからAIによる音声コンテンツってますます身近になっていくと思うんですよね。
その中であなたは価値のある自動生成されたコンテンツと単なるノイズとか、あるいは悪意のあるスパム等をどうやって聞き分けてどう判断していきますか。
そしてそういう判断をしていくことで、あなたの聞くっていう行為あるいは習慣はどのように変わっていくと思いますか。
