1. ゆるITエンジニア道場
  2. AIクローラーに対する課金機能..
2025-07-27 13:45

AIクローラーに対する課金機能がでた話

AI時代におけるコンテンツ公開について熱く語りました!


参考記事:

--------------------------------------------------------------


riddle : https://x.com/riddle_tec

ひびの : https://x.com/nasustim


番組へのお便りはこちら:https://forms.gle/gp78XNFgERDFDkb88

サマリー

AIクローラーへの課金機能が新たに導入され、コンテンツクリエイターの収益獲得の可能性が広がっています。この機能により、ウェブサイト運営者はAIエージェントからのアクセスを制御し、適切な収益化が図れるようになります。また、AIクローラーに対する課金機能の導入に伴い、ウェブサイト運営者の収益化やユーザーの利便性についての懸念が浮き彫りになります。特に、AIクローラーのアクセス制御が購買行動に与える影響についての考察が行われています。

AIクローラーへの課金
こんにちは、リドルです。こんにちは、ひびのです。
今日のお題は、AIクローラーに対する課金機能が出た話、イエーイ。
これあれですよね、僕ちょっと前に、クラウドフレアの記事で見たんですけど、
ユーザーエージェントでAIを見分けて、AIだったら40何ペイメントリクワイヤードを出すみたいな記事ありましたよね。
はい、ありましたね。それです。
僕思ったんですけど、リドルさんちょっと前の回で、テックブログを10年続けてみたみたいな話をされてたじゃないですか。
はい。
リドルさんの10年の学びがそこに詰まってるわけですよね。
まあまあ、多少詰まってますよ。
かつ、いわゆる昨今のAIからしてみたら、めちゃめちゃいい食料がたくさんあるウェブサイトというか。
いや、そんなことはないと思うけど。
ちなみに何記事くらいあるんでしたっけ、今10年続けられたブログ。
いくつかブログ持ってるんですけど、合計すると1000以上あると思いますね。
でも個人だとだいぶ多いですよね。
まあそうだと思いますね。
とはいえね、別に一時情報じゃないんでね。
感想とかは一時情報ですけど、技術系のやつって、まあ三次情報ぐらいだとしてるじゃないですか。
そうですね。この技術があって、こういう解説ブログがあって、実際に使ってみました。くらいのなんだろう。
そうそうそうそう。薄いやつね。
段階に分けられることがまあ多いですもんね。
はい。
ってことはじゃあリドルさんのブログには今後もPayment Requireは実装しないんですね。
そうですね。ちょっとPayment Requireって何やねんって話を先にちょっとしましょうか。
はい。
で、ひみのさんがさっき言ってくれたクラウドフェリアの記事の話から、これ喋ろうかなと思ったんですけども、
ちょうどその日に他の会社の記事も出てて、ファストリーもやるらしいんですよ。
ファストリーもあれですよね。クラウドフェリアと同じくCDNを運営してる会社ですもんね。
そうです。そこがAI Botのアクセスを収益化するサービスを提供するということが書かれてましたと。
ちょっと背景から説明したいんですけど、これはギヒョウさんのブログの内容とクラウドフェリアさんのブログの内容の引用になるんですけども、
もともとGoogleがコンテンツクリエイターと交わした契約は、私たちが検索のためにあなたのコンテンツをコピーすることを許可してくれれば、その代わりにトラフィックを送りますというシンプルなものでしたと。
そうですね。
そのトラフィックからアドセンスとかアフィリエイトとかの広告を表示して、収益をコンテンツを作った人は得ますっていう感じが最初でしたと。
はい。
ただですね、最近変わってて、昔のGoogleは検索したら検索結果バーって出して、上の方に表示させるほどたくさんクリックされます。
Googleは自分の検索ページからすぐに他のページに遷移しやすくなるように、いろいろUXかUIを工夫したと思うんですよ。
そうですね。
今見てください。皆さん何か今検索したらジェミニ君が出してくれませんか。
本当だ。ジェミニの要約が今本当に雑に検索してもついてますね。
そうなんです。今Googleは自分のサイトの中で完結させようとしてるんですよね。
それは前提が変わってきますね。
1ユーザーとしては便利なんですよ。だってジャンプしなくて済むから。
そうですね。
ただコンテンツを作ってる人たちにとっては自分のサイトにアクセスをしてくれないんですよね。
アクセスしてくれるのはAIエージェントだけ。
AIエージェントに広告見せても無駄ですもんね。
無駄だしロードしない気がしますからね。そもそも。
そうですよね。それは優越式問題だ。
ということでCDNと呼ばれるウェブサイトと我々の間に入るようなサービスがあるんですけど、
それを作っているクラウドフェラーという大きな会社が
7月1日、2025年の7月1日かな、コンテンツ独立記念日と呼ぶ日を立ち上げ。
コンテンツ独立記念日。あれですかね。もしかしてアメリカの独立記念日と被せてる7月1日ですかね。
あれ、そうじゃなかったんですか。
でも面白いですね。コンテンツ独立記念日。
何をやってるかというと冒頭でひめのさんがおっしゃってた
AIクローラーがそういうコンテンツにアクセスする場合にはCDNが間に入って
お金払ってくださいよ。払うなら通しますよっていう機能を作りますと。
アクセス制御の新時代
作りましたかな。作りましたので皆さん使えますよというようなことを提案してくれたと。
革命的ですね。しかもウェブサイトの運営してる人からしたら
CDNの間にかませるだけならそんなに手間じゃないですもんね。
そうなんですよ。今最近はクローラーってウェブサイトに対して
Googleとかからアクセスしに来てこのウェブサイトってどういう構造になってるのかなっていうのを
作れるクローラーっていうやつがいるんですけど、そいつに対してこういう挙動してねっていうのを
robots.txtっていうファイルを置いて制御するじゃないですか。
AIエージェントに対してはまた別の方法で制御できるじゃないですか。
そうですね。いわゆるユーザーエージェントが分かれば
その人たちに対して振る舞いを定義できますもんね。
そうですね。それをこのLLMがめちゃくちゃ進歩してる中で
このエージェントはこうする、ああするみたいなことをまだ終えてない人も多いと思うんで
そういうのも含めてクラウドフレアにお任せすることができますと。
なるほど。いわゆるロボッツ.txtの定義とかバリエーションを
マネージドサービスで管理できるみたいな感じですかね。
そうです。で、有料コンテンツにアクセスさせる方法を
クラウドフェアは2つ用意していて、1個は
リクエストしました。402でペイメントリクエストを返します。
お金払えですね。価格はいくらです。USドル、5ドルですみたいな。
そしたらAIクローラー側が社内に同意する場合はOK払えますよみたいな感じ。
もう1個は初めからAIクローラーがアクセスする時に
MAX3ドルまで払いますってリクエストします。
設定された金額が3ドルよりも以下だった場合は
OKと一緒にコンテンツを返してくるけど、
ダメだった場合はペイメントリクエストを返ってくる。
なるほど。あれですね。AIを使ってクロールする側も
しっかり予算を設定してクロールするみたいな時代になるんですかね。
そうですね。そうかもしれない。
なので自分がやってるブログとかはそんな気にしないですけど、
例えば小説を書いたりとか研究結果を載せたりとか
一時情報を作ってたりとかされる方は報われてほしいなと思うので
そういう方はぜひオンにしてお金取ってってくれる未来の方が
ハッピーなんじゃないかなと思いますね。
うん、そうですよね。
でもすごいAI時代っぽいですね、こういう話が出てくるのは。
AIクローラーと課金機能の影響
そうですね。ただいわゆる多くのユーザーが使っているブログサービスって
CDNを意識しないじゃないですか、普通。
そうですね。ハテナブログとかアメーバブログとか
間にCDN、サービス側が設定してるかもしれないですけど
僕らは意識しないですよね。
そうですよね。しかもかっこいいサイト作ろうってして
独自でワードプレス立ち上げてる人も結構ブログ界隈だと多いんで
そういう人がCDNをわざわざかますかって絶対分かんないと思うんで
やんないはずなんですよ。
で、あってくるとクラウドフレアのそういうところに乗らないと
課金とかそういうのを簡単に作る仕組みができないってことを考えると
クラウドフレアの囲い込み感もありますよね。
そうですね、確かに。
なんかクラウドフレア、それこそこれまでも自分のウェブサイトに
簡単にCDNかませられますよみたいな売り方してた記憶がありますもんね。
そうですね。
ただ、ユーザー側からすると結局これユーザーのサブスクリの費用に乗っかる気がするんで
例えば今10ドルで使えてます。10ドルじゃないか、30ドルぐらいかGPTの
そうですね。
それが5000になりますとか50ドルになりますみたいな話ですよね。
で、かつ何だろう、もしそういうペイメントリクワイヤードの仕組みが普及したら
例えばいわゆるラグというかウェブへのリクエストを含むクエリは1日何回までですよとか
なんかそういう仕組み作られそうですね。
そうですね。ただなんかキャッシュしたらもう問い合わせに行かないっていう機構になるかもしれないですね。
ああ、確かに。
オープンAIとかにチャットGPTなんかみんないっぱい聞くと思うんで
よくアクセスされるタイトルなんてもう決まってるからもう1回聞いたら
eタグが変わらない限りは見に行かないよみたいな感じがしちゃって
今もやってるかもしれないですけど
そうすると最初の2、3回だけお金もらうみたいな
それって逆に損してるのでは?
そうですね。なんかおそらくウェブサイトの運営してる人としては本当に意図してないけどですよね。
そうなるとeタグが変わるように毎秒微妙な変化をウェブサイトに加え続けるという謎のハックが生まれるかもしれない。
いやー、それは本当に健全なのか?
そうすることによってコンテンツを毎回取りにくるからチャリンチャリンする可能性が
うーん、なんかウェブサイトの未来がすごく不安ですね。
情報アクセスの取り扱い
ウェブサイト、そうですね。
でも個人的にはお金はちゃんと還元してあげてほしいなっていう思いが強いですね。
それこそもうなんだろう、AIクローラーはすべてブロックしていわゆるMCP側にリダイレクトするとか
いや、これ難しいなと思ってるのが
自分最近ディープリサーチを結構使っていて、新しいジャンルの買い物はディープリサーチ経由でするんですよ。
ディープリサーチベースとショッピング。
実際のショッピングはAmazonとかでするんですけど、商品の提案自体はディープリサーチしてもらうんで
別に各サイトがMCPって標準で持っているわけないじゃないですか。
そうですね、おっしゃる通り今の時点では。
でなると、そっち経由の購買行動が恐らく今後増えてくることを考えると
単純にAIクローラーからのアクセスをブロックするっていうのはあんまりよろしくない気がするんですよね。
そっか、それこそそうですよね。
ショッピング、こういうものが欲しいんだっていうAIへのクエリに対して
例えばAIがAmazon.comを参照できないってなるとそこの商品をリコメンドできないですもんね。
そうですね、自分でも話して思いましたけど
Amazonとか楽天とかそういうECサイトとかはフルオープンにして
論文とかレビューサイトとかそっちはクローズにするかもしれないですね。
いやでもそれも困るなぁ。
いやそうなんですよね。
その一時情報といえども、そういう
みんなにオープンになっていなければならない情報もあるじゃないですか。
それこそ論文だったり。
難しいですね、線引きが。
そうですね、とりあえず我々ができるのは
世の中がどういうふうに変わっていって、どこでマネタイズして
どうやってクリエイターに還元されて
結果ユーザーにはどういう形で価格転化されるのかっていうところを
ウォッチしておくと、映える技術とか
伝われる技術とかわかると思うので
皆さんもこういう記事を見かけたらウォッチしておくといいかなと思います。
そうですね、ちょっとオッとなる記事から
思いがけず未来を馳せられるかもしれないですね。
はい、ということで今回はこの辺りにしようと思います。
はい、このpodcastはハッシュタグURITで
皆様からの感想やコメントをお待ちしております。
またpodcastの概要欄からGoogleフォームのリンクもありますので
そちらからのコメントも大歓迎です。
ありがとうございました。
ありがとうございました。
13:45

コメント

スクロール