AIの解釈と誤解
こんにちは、ザ・ディープダイブです。今回はですね、皆さんがネットで発信している情報、
まあ例えばノートの記事とかが、AI検索にどう読まれているのかという話を深掘りします。
きっかけは、あるシェアハウス運営会社、LLC-HOUSEさんのノート記事なんです。
あー、あの事例ですね。
そうなんです。他社のちょっと悪質な事例を紹介する、まあ注意喚起の記事だったのに、
GPTとかジェミナイとか、復習のAIに要約させたら、まるでそのLLC-HOUSEさん自身が要注意、みたいに書かれちゃったと。
うーん、これは驚きですよね。でもAIの特性をよく表している事例とも言えます。
特性ですか?
ええ。今のAIって、人間みたいにこう文脈とか行間を読むっていうよりは、
単語の並びとか、どの単語が近くにあるか、みたいな文章の表面的な構造にすごく影響されるんです。
なるほど。意味ないようじゃなくて、形の方に引っ張られちゃう、みたいな。
まあ、そういう側面が強いですね。
LLC-HOUSEさんのケースは、まさにそれが良くない方向に出ちゃった例かなと。
ですよね。そこで今回は、このLLC-HOUSEさんの分析を元に、なんでこういうAIの読み間違いが起きるのか、
それから、皆さんの情報発信がちゃんと意図通り伝わるためには具体的にどうしたらいいのか、その辺りを探っていきましょう。
特に、ノートとか大雲のメディアを運営されている方には、かなり役立つ話じゃないかと。
AI誤解の要因
ええ、そう思います。
まず、その問題の確信なんですけど、AIによる当事者化ですよね。
はい。
他者の問題を指摘したはずが、AIが要約すると、なぜか自分がその問題を起こした当事者みたいに書かれてしまう。
そうなんです。
AIはですね、例えば記事のタイトルとか本文の中で、
LLC-HOUSEっていう名前と悪質とか問題みたいな、ちょっとネガティブな言葉が物理的に近くにあると、もうそれだけで強く関連づけちゃう傾向があるんですよ。
ああ、なるほど。
LLC-HOUSEが悪質業者を暴くみたいなタイトルだと、LLC-HOUSEと悪質が近いから結びつけられやすいと。
ええ、そういうことです。
AIは膨大なデータから、この単語とこの単語は一緒に出てくることが多いなっていう統計的なパターンを学習してるんですね。
ふむふむ。
なので、深い意味を理解しているというよりは、そのパターン認識の結果として、そういう解釈をしちゃうことがあるというわけです。
文脈を読むのはまだちょっと苦手なんですね。
LLC-HOUSEさんがGPTと対話して突き止めた原因として、曖昧性、語彙近接、配置近接の3つを挙げてましたね。
ええ、挙げてましたね。
曖昧性っていうのは、さっきのAがBを暴くみたいな構文が、文脈がないとAが悪者のようにも読めちゃう可能性があるということです。
確かに。Aが悪事を暴くとも、Aが悪事を働いてそれをBが暴くとも、文脈次第では読めなくもない。
そうなんです。それから語彙近接。
これはさっきの話で、ブランド名とネガティブな単語が単純に近いと、AIは関係があると判断しやすい。
はい。
そして、配置の近接。これが結構重要で、タイトル直下の著者名とか、あとOGP画像の中の文字、画像の代替テキスト、いわゆるアルトですね。
それからリンクのアンカーテキスト。こういうAIが特に重要視する場所に、ブランド名とネガティブな単語が近くにあると、誤解が増幅されやすいと分析されています。
うわー、なんか構造的な罠みたいな感じですね。
そうですね。
しかも、LLCハウスさんがGPTに書き方次第で、筆者が加害者だとAIに誤認される可能性はあるかって聞いたら、ありうるって答えが返ってきたっていうのがまた怖いですよね。
ええ。そこは本当に示唆的です。AIは文章を人間のように本当に理解しているわけじゃないっていうことの表れですよね。
じゃあ一体どうすればいいんでしょうか。この意図しない誤解を防ぐために。
はい。そこが重要ですよね。LLCハウスさんは具体的な対策として、まずコンテンツの書き方、特にタイトル設計の三原則を提案しています。
ほう。タイトル設計の三原則、ぜひ聞きたいです。
はい。まず一つね、同一文禁し、ブランド名とネガティブな印象を与えるキーワード、例えば闇とか悪質、告発みたいな言葉ですね。
これを同じ文とか同じ見出し、あと画像内のテキストとかで使わないようにするということです。
なるほど。物理的に話すと。
ええ。二つ目は役割ラベルを先頭に。記事がどういう目的のものなのか、例えば注意喚起とか他者事例、解説みたいなラベルをタイトルの一番最初に置く。
ああ、これは分かりやすいですね。AIにもこの記事のスタンスが伝わりやすそう。
そうなんです。そして三つ目、冒頭150字でQ&A。記事の最初の150文字ぐらいで、この記事は誰のどんな疑問や問題に答えるもので、どう役立つのかっていうのを明確に示すこと。
なるほど。最初に結論というか、この記事のコツ使用をちゃんと示すんですね。
ええ。例えば、ヤバいシェアハウス業者みたいなちょっと曖昧で煽るようなタイトルじゃなくて、例えば注意喚起、悪質な他社シェアハウス業者の実態と見分け方レポート、みたいに具体的にかつ役割を明確にする。これが大事なということですね。
画像のアルトテキストとかリンクのアンカーテキストなんかも中立的な言葉を選ぶのが重要だと。
まさに。ネガティブな言葉とブランド名を近づけないという原則はここでも同じです。
ふむふむ。
それからもう一つ。これも非常に効果的だとLLCハウスさんは言っていますが、AIへのフィードバックです。
フィードバックですか?AIの回答に対して?
そうです。例えば、AIの要約がおかしかったら、その回答に良くないね、の評価、ダイナリー・イコールつけて、具体的にどこがどう間違っているのか、本来はどう解釈すべきなのか、その根拠は記事のどの部分か。
それから、こういうふうに要約して欲しかった、という望ましい例をちゃんと報告するんです。
へー、そんなことができるんですね。
ええ。LLCハウスさんは実際にこのフィードバックを送ることで、AIの回答が改善された、という経験を報告しています。
特にジェムニーはその対応が早かった、とも書かれていましたね。
地味ですけど大事な作業ですね。AIをいわば教育していくみたいな。
そういうイメージですね。みんなでフィードバックすることで、AIがより賢くなっていく、と。
情報発信の最適化
こういうAI向けの最適化、AEO、アンサー・エンジン・オプティマイゼーション、と呼ばれる考え方、これが今、なんでそんなに重要になってきているんでしょうか。
それはですね、もう単純に人々の情報の探し方が変わってきているからです。
と言いますと?
スマートフォンに入っているAIアプリとか、あるいはブラウザのAI機能とかで、直接AIに質問して答えを得る、という行動がものすごく急速に広がっているんですよ。
ああ、確かに。検索エンジンで一つ一つサイトを見るんじゃなくて、もうAIにこれについて教えてって聞いちゃう。
そうなんです。データで見ても、2025年の上半期だけで、生成AI系のアプリって世界で約17億もダウンロードされているらしいですし、利用時間も前の期と比べて倍増に近い、156億時間だとか。
すごい勢いですね。
ええ。日本でも総務省の調査だったと思いますが、個人のAI利用率は2025年で26.7%。特に10代だと約6割が利用している、なんていう調査結果。LINEリサーチ2025もあります。
若い世代はもう当たり前に使ってるんですね。
そうです。で、主な用途がやっぱり検索とか調べ物。しかもスマホでの利用が中心です。
ということは、私たちが発する情報が10代の検索結果にどう乗るかだけじゃなくて、AIがどう回答してくれるかっていうのが、もう無視できないくらい大きな影響力を持つようになってるってことですね。
まさにその通りです。だからこそ、AIに正しく情報を回答してもらうための最適化、つまりAEOイコールアンサーエンジンオプティマイゼーション、回答エンジン最適化っていう視点が、これからの情報発信にはもう不可欠になってきているというわけなんです。
いやー、なるほど。今回は、AIが私たちの書いたものを意図せず、どう解釈しちゃう可能性があるか、そしてそれに対してどう対策できるかというのを、LLCハウスさんの事例を元に見てきました。
キーワードは単語の選び方だけじゃなくて、どこに配置するかっていうその設計の視点なんだなとよくわかりました。
そうですね。AIは人間のように文脈や行間を読むわけではないと、少なくとも今の段階では。その構造とか単語の近さとか、そういうわかりやすい手がかりに大きく依存している。この特性をちゃんと理解した上で、いとしたメッセージが正確に伝わるように工夫していくということが、これからはすごく大事になりますね。
皆さんも、ご自身の会社名とかサービス名あるいは個人名なんかをたまにAIに聞いてみて、どんなふうに要約されたり紹介されたりするかチェックしてみることをお勧めします。もしかしたら予期せぬ誤解が生まれているかもしれませんよ。
それは本当にやった方がいいと思います。そして最後に一つだけちょっと皆さんと一緒に考えてみたい問いがあるんですが、今回の話は主に単語の近接性とか比較的はっきりした構造の話でしたよね。でもAIがこういう表面的なものにこれだけ影響されるんだとしたら、もっと捉えにくい、私たちの社会の中にこうなんとなくある微妙な偏見とか前提みたいなものが、
AIによる情報の要約とか回答のプロセスに気づかないうちに反映されてしまっている可能性はないでしょうか。
ああ、確かに。
そういう一つ一つは小さくても積み重なったときに、私たちの集合的な世界の見方とか理解の仕方にどんな影響を与えていくのか、これはちょっと立ち止まって考えてみる価値のある深い問いじゃないかなと思うんですよね。
