AIへの画像アップロードと学習に関する誤解
こんにちは、アシカガコウジです。
AIに自分の絵をアップロードすると、その絵がAIに学習されてしまうと信じている人が多いようです。
自分の絵を誰かに、勝手にAIで加工されてしまった人が自分の絵柄を盗まれたと不安に思い、悲しんだり、意気通りを感じています。
自分の絵を元に、AIで色を塗ったり、加工したりした事例をSNSに投稿している人に対して、
AIに詳しい風な人が、絵柄データの学習はされますけどね、みたいなコメントをしたりしているのを目にします。
でも、AIに自分の絵をアップロードしたことで、絵柄や絵そのものが学習されてしまって、
他の人が画像を生成した時に自分の絵柄そっくりな絵、あるいはもうその絵そっくりな画像が生成される可能性はほぼゼロです。
100%ありえないと言い切れないのも非常に特殊なケースで、そのAI企業が買収されて方針が変わったとか、
ほぼありえないだろうけども可能性はゼロじゃないということがあるくらいで、可能性は非常に低いです。
もしそのようなケースがあったとしても、1枚とか2、3枚の画像から絵柄を学習するというのは難しいです。
じゃあ1枚の人物のイラストを右向いたり左向いたりすることが今の生成AIだったらできるじゃないかと突っ込まれるかもしれませんが、
それは参照画像を元にした画像生成なので、絵柄の学習とは全く別の話です。
最初から難しい話をしたくなかったので、あえて前提の話をしてなかったんですが、
今回の話はチャットGPTやGeminiなどに参照画像として画像をアップロードして、
この画像に色を付けてとか、ぷっくりシール風にしてとか、三面図を作ってみたいなAIによる加工を行っても、
参照画像としてアップロードした画像がAIに学習されるわけではないので安心してほしいということです。
AIモデルの学習設定と紛らわしさ
悪意を持った人があなたの画像を大量にAIに絵柄を学習させるために追加学習させるといった話とは全く別な話です。
でもチャットGPTやGeminiの設定に品質向上のためにデータを学習に使用しますって書いてあるよと、
それをオンにしてたら危ないんじゃないと思う人もいると思います。
確かにそれが気になる人はこの設定はオフにしておいたほうが一番安心です。
ただ仮にこれがオンになっていたとしても、あなたの絵柄が他の人の生成結果に出てくるような学習をされるわけではありません。
チャットGPTの設定ではあなたのコンテンツをモデルの学習のために使用することを許可という文言になっているので、
画像をアップした場合はその画像が画像生成AIの性能アップのために学習データに使われるように感じてしまいますよね。
学習って言葉を使ってるところが紛らわしいですよね。
でもここでの学習というのはAIがユーザーがどんな指示を出してどんな画像を出したかという対話の安全性のチェックとかバグの修正、対話能力を向上するために使われるという意味です。
画像生成AIにあなたの絵柄を覚え込ませるための学習とは、学習って言葉の意味が全く別の扱いです。
参照画像として使っている画像はAIに画像をアップして色を塗ってとかプックリシール風にしてと指示したときにこのアップした絵を見ながら作業してねと一時的に見せているだけです。
AIがその絵を覚え込んで他の人に使い回すということではないので安心してください。
絵柄学習に必要な追加学習と画像生成AIの仕組み
画像生成AIが特定のクリエイターの絵柄スタイルを意図的に真似できるようにするには追加学習という作業が必要です。
ローラというのが有名ですよね。
最近は技術が進んで少ない枚数でも絵柄の特徴をつかめるようになってきてはいるんですけども、それでもやっぱりしっかりと絵柄を再現するには通常数十枚以上の画像とそれをAIに覚え込ませるための意図的な訓練が必要です。
参照画像としてアップした画像は学習されていませんよと言いましたが、それを信用できないと言っても一枚の画像だけでAIがその絵柄を完全に自分のものとして世界中のユーザーの生成に使うみたいなことはできないと考えていいです。
クリエイターの人が恐れるべきは追加学習として画像をたくさん使って学習されてしまうこと。一方で自分の絵柄をAIで再現したいという人にとっては追加学習が便利な機能ということですね。
一般的に追加学習のローラーを使う場合、キャラクターを覚えさせるときには15枚から30枚ぐらいが一般的だと。で、絵柄をスタイルを覚えさせる場合は30枚から100枚以上と言われているようです。
ただ最近は技術が進んで少ない枚数でも5枚から10枚ぐらいあれば追加学習である程度絵柄を再現できるということらしいです。
さらにここで一つ知っておいてほしいのは画像生成AIは画像のデータベースを持っていないということです。
追加学習じゃなくて基礎学習という最初の学習の段階で何億枚もの画像を学習しているんですけども線とか色のパターンとか統計的な特徴を学んでいるだけでその画像をどこかに保存しているわけではありません。
画像そのものがどこかにあってAIがそれらを参照して画像を作っている。切り張りコラージュで作っているように思われがちなんですがそんなことはありません。
なので万が一何かの手違いがあったとしても参照画像として1枚とか数枚アップしたあなたの画像がそのままの形でAIから引っ張り出されて再現されるということは原理的にゼロだと言えます。
生成AIに参照画像としてアップロードされたあなたの絵が画像生成AIの学習データというデータベースの中に保存されていつでもアクセスしてその絵を引き出せるみたいなイメージを持つ人が多いのかなと思います。
でも実際は全然違う画像データベースはない。画像の統計的な特徴やパターンを学習しているだけです。
メモライゼーション現象とAIの進化
じゃあキティちゃんとかピカチュウをそっくりに描けるじゃないかと。それはなぜと思う人もいると思いますがこれはメモライゼーションという現象で学習データに同じ画像が大量に含まれていると例外的にAIがその形を覚えてしまうという現象なんですね。
AIを作っている側が意図したものではなく結果として起きてしまった現象だと説明されています。
でも出たての頃の画像生成AIよりもどんどん進化していくにつれキティちゃんとかピカチュウとかのキャラクターを描くのがうまくなってるじゃないかと。
なんか人間が操作してるんじゃないかと思う人もいると思いますがある意味人間が操作しているとは言えるようです。
AIは人間の手によるファインチューニングというのをやっているのでAI側に何かを働きかけるというよりもじゃあピカチュウを描いてと言っていくつかできた画像の中からこれが一番いいよねと人間が選んだものは元の本来のピカチュウに似ているものでしょうし
元のピカチュウに似ているものをみんなが選ぶのでAIがだんだんピカチュウという言葉に対してこういう絵を作れば喜ばれるんだなということを学習していくとそういう効果が起きているということですね。
このメモライゼーションキャラクターを覚えてしまうみたいなことに対しても1枚2枚の画像でメモライゼーションが起こることはまずないということです。
参照画像と学習に関する整理とクライアントワークの問題
ここまでのことを整理するとそもそも参照画像としてアップした画像は画像生成AIに学習されません。
もし万が一何かの手違いで画像生成AIの基礎学習に使われたとしても1枚2枚程度では絵柄が模倣されるということはまずありません。
そもそも画像生成AIは画像そのものをデータベースとして持っているわけではないのであなたの画像がそのままの状態で再現される可能性はゼロだと言えるでしょうということです。
クライアントに納品したイラストを勝手にAIで加工されたという話を最近よくSNSで見かけるようになりました。
クライアントも悪気がないケースも多そうです。
AIに参照画像として使われてもあなたの絵柄がAIに盗まれるという心配はいらないということはここまでの話で理解してもらえたかなと思います。
でも勝手にクライアントにAIで加工されるということに対しては泣き寝入りすることはありません。
まずクライアントの依頼でイラストを書いてそれを納品して対価を受け取ったとしてもそのイラストの著作権は書いた人間にあります。
著作権を譲渡しますという契約をしない限りですね。
その著作権者、その絵の持ち主に無断でAIなどを使ってイラストを加工してしまうという行為は著作権法にある著作者人格権、同一性保持権の侵害にあたる可能性が極めて高いです。
作者の意図に反して勝手に作品を改編してはいけないという法律を破っていることになります。
クライアントのために書いたイラストだし、お金ももらってるし、だとクライアントに渡してしまっている状態なので
AIで勝手に加工されてしまってもしょうがないのかなとか言い出しにくいみたいなことはあるかもしれませんが
あくまでもそのイラストの著作権は自分にありますと勝手にAIを使う使うなに限らず勝手に改編することは法律違反ですよと
そこはちゃんと主張すべきだと思います。
クライアントもその辺知らなかっただけということも多いと思うのでちゃんと主張すべきです。
あとクライアントが勝手にAIで加工するというのは多分何か別な用途に使うためだと思うので
それも契約的にダメなはずですよね。
本来どういう目的のためにイラストを納品するという約束事があるはずなので
その目的以外に納品したイラストを使うということもルール上認められないはずです。
その辺はちゃんと契約する時点で詰めておくべきところではあるでしょうね。
ただちゃんと契約をしてなかったとしても著作権は譲渡してない限り書いた本人にあるので
著作者人格権の侵害ですというところで戦います。
モラルと著作権侵害の法的・倫理的問題
似顔絵を描く人が有料で似顔絵を描いて渡したら
その描いてもらった人がAIで加工するみたいなことを言ったらしく
それにひどくショックを受けて
AIに自分の絵柄が学習されてしまうんだと
落ち込んでいる人をSNS上で見かけたので
参照画像としてAIで加工していろいろするということに対して
そのせいで自分の絵柄が学習されてしまって
他の人があなたの絵柄で画像を生成できてしまうようになるということはあり得ないので大丈夫ですよと
伝えたかったことが今回のエピソードのきっかけです
でももちろんとはいえ勝手にAIで加工されるということへの悲しみ
意気通りは薄れないと思います
そもそも法律動向よりもモラル的にダメですよね
当たり前ですけどもその絵を描いた人がプロかアマチュアか有名か無名かは
全く関係ありません
作者がSNSにアップしている画像を勝手にAIで加工するのはもちろんダメですし
先ほど話したようにお金を払って描いてもらった絵でもダメです
例えば何百万円とか払って購入した絵画だったとしても
その絵の著作権をもらっているわけではないので
勝手にAIで加工するのはダメです
SNS上にアップされている画像を勝手にAIで加工した場合
それを発表しない限りバレないわからないというのはあるんですが
SNSなどに発表した時点で本案件という改変する権利の侵害になりますし
公衆送信権の侵害にもなるはずです
誤解の拡散と番組の意図
参照画像として画像生成AIに画像をアップしたとしても
その画像が学習されるわけではないので
そんなに大騒ぎするなよと言いたいわけではありません
ただ学習されるという間違った認識があまりに広がっているのと
学習されてしまったとセンシティブになっている人がすごく多いので
今回その辺の話をしました
番組への感想・要望の募集
アシカガCASTでは皆さんからの感想ご意見要望などを受け付けています
フォームとメールアドレスを概要欄に載せていますので
そこから送っていただけると嬉しいです
ハッシュタグアシカガCASTをつけて
Xに投稿していただけるといずれ発見すると思います
それではまた次回お会いしましょう
アシカガコウジでした
キャストアシカガ
