生成AI時代のフェイク情報とファクトチェック
こんにちは。経済キャスターの佐々木まなみです。
【ニュースコネクト 国際欄】のお時間です。
今日は前回に続いて、国際大学グローバルコミュニケーションセンター教授の山口真一さんとお届けします。
前回は、オーストラリアを先駆けに世界で広がっている青少年のSNS禁止の現状について伺いました。
今回は、SNS規制が与える効果や影響、また今後始まろうとしている日本の制度設計についてもお話を聞きました。
それでは本編をどうぞ。
ゲストは国際大学グローバルコミュニケーションセンター教授の山口真一さんです。前回に引き続きよろしくお願いします。
よろしくお願いいたします。
さて先生なんですけども、実はつい最近ですね、10月8日に一番優しいファクトチェックの本というのを出されたと聞きました。
あのファクトチェックと言いますと、最近もAIがね普及してめちゃくちゃ難しくなったなという印象で、
昔だったら結構見破ることできてたものも、私最近のAIで作られた画像とか動画、見破ることなかなかできなくなってきたなって感じていて、
平気で騙されるようになっちゃいました。こういったような内容も書かれてるんですかね。
そうですね。もちろんフェイク情報問題っていうのは、特に世界的には2016年の米国大統領選挙から非常に大きな問題になって、
その後もどんどんどんどん問題が膨れて、そして最近だと性性愛の発達によって偽の画像や偽の動画も非常に増えてしまっているというような現状があるのかなというふうに思います。
ですのでそういったことを踏まえてですね、まず今の情報環境の特徴というところ、そしてエビデンスですね。
いったいどれくらいの人がフェイク情報を誤っていると気づけているのかとか、実はすごい少ない人しか気づけていなくてですね、多くの人が騙されていることが分かってるんですけども、そういったこととか。
そしてそれが生成AIによって環境がガラリと変わって、フェイク情報の質問量も非常に変化しているというような中で、私たちはどんなふうにそれをチェックすればいいのかとか、
さらに社会的にどういう対策をすればいいのかとか、そういったところを分かりやすくお伝えしている本です。
この一番優しい7AIの教本シリーズというものはですね、これは最初に依頼を受けたときに講演しているように書いてください、つまりお話ししているように書いてくださいというふうに言われまして、
各トピックについて、レッスン60まで書いているんですけども、各トピックについて非常に分かりやすく話しているように書いているというのが特徴かなと思います。
これはなので、この時代、ぜひね、どの世代の方にも見ていただきたい本ですね。
青少年SNS規制の副作用と年齢確認
そしてですね、ちょっと本題に移っていきたいと思いますが、先生とは先週からですね、青少年のSNS規制についてお話を伺っていました。
ただ、青少年のSNS規制、今は一種のトレンドのようになってきているということでしたけども、一方でなかなかね、一律で規制しても効果がないとか、あとは結局イタチごっこになってしまうっていう、そういった
ような現状もあるかと思っています。
SNSをやっぱり無理に禁止とか規制ってすることによる副作用みたいな、反発みたいなこともあったりするんですかね。
そうですね。やっぱり強い規制を入れると、どうしてもネガティブな面も出てきてしまうというのは実態としてあります。
まず言えることとしては、メリットをすべて奪ってしまうというところ。
これは先週もお話した通りですけども、SNSという場を使ってですね、いろんな表現をしたい子がいるとか、いろんな情報収集をしたい子がいる、さらにそこが居場所になっている子がいる。
こういったことをある意味で無視してですね、とにかくリスクから遠ざけるために使わせないというのは、これは非常に管理する側からすると簡単なんですけども、
ただ子どもからするとそのメリットを奪われてしまうというところが、やはり副作用としては挙げられるかなというふうに思います。
さらに言うと、やっぱり規制をどういうふうにかいくぐろうかというところに行き着いてしまうわけですね。
なぜかというと、すごく魅力的で面白いサービスだから使いたいとなってしまう。
そうすると、例えば対象となっていない小さいサービスに子どもが集中するかもしれない。
しかしながら、言ってしまえばですね、大手のサービスっていうのは人数が多いから、もちろん問題も目立つんですけども、
ただそれなりに対策していることが多いんですね。
子ども用の何か設定を用意していたりとかですね、
例えば夜遅い時間には使えなくなるような設定があるとかですね、
さらに保護者が見守りをするような設定があるとか、いろいろあるんですけども、
小さいサービスって必ずしもそうではない。
そうなってくると、よくわからない、見えないサービスに子どもたちが移っていって、
そこで問題が大きくなる可能性もあるということは一つ言えます。
またですね、年齢確認っていうところがやっぱり一つすごく大きなポイントになってくるわけでして、
年齢確認を厳格化することはとても大事なわけですよね。
つまり、その子が13歳なのか16歳なのか15歳なのか、こういったことをそもそも偽られてしまう。
どんな対策しても意味がないって。
こういう厳格化も大事。
しかしながら、例えばマイナンバーコードでやりましょうとかってなると、
今度はサービス側が青少年のそういった非常に機微な情報を全部収集して、
それを保存するっていうことになるわけですよね。
その結果として、例えば漏洩してしまうということになれば、非常に大きなリスクになりますので、
そういったようなリスクも高まってしまう。
ですので、一律規制というのは非常にある意味ではやりやすい対策ではあるんですけども、
やはりやるということに関しては慎重な議論というものは求められるかなと思います。
禁止してしまうと、どんどんどうしても人って、じゃあ規制の網を買いかぐってとか、
なので、いわゆる闇とか地下、アンダーグラウンドみたいな、どんどんどんどんね、行ってしまうと、
結局親も、本当は子供が心配で規制したはずなのに、
結果、親の目がより行き届かないところで、SNSをこっそり使ってしまったり、悪用してしまうっていう危険性も一方ではらんでるわけですもんね。
すごく難しいですね。
そんな中で、いろいろと厳格なSNS規制を行うと、負の面もある。
利用者のプライバシーも守る必要がある。
これって今、世界でどこかで正解って出てるんですかね。まだ出てないですかね。
そうですね。この問題、結局正解が出てないから、日本もどうしようかというところで、今議論が進んでるのかなと思います。
やっぱり、どこまで行ってもおそらく、これが正しいんだ、これならベストなんだっていう正解は出てこないと思います。
それぐらいの対策に良い面、悪い面というのがあって、なおかつその国の状況とか文化とか、子どもの置かれてる環境とかですね、そういったことによって正解って一つ一つ違うわけですよね。
例えば、一律禁止をしませんと、日本は今してないわけですけども、しませんってなると、じゃあどこに負担がいくかというと、例えば保護者なわけですよね。
結局、保護者に任せられることが多くなりますので、保護者が知識をしっかり持っていて、適切に子どもとITの関係を作れる。
こういう家庭では子どもにとって非常に安全な環境が提供されるし、しかもその子どもの状況に応じて段階的にサービスを利用できるわけですね。
しかしながら、全部の保護者にそれを求めてくるのか、それはやっぱりちょっとおかしいですよね。
つまり、そういったことの知識に疎いような保護者もいらっしゃるでしょうし、また時間がないっていうようなこともあるでしょう。
そういった中で、じゃあどういうふうな対策ができるのか、どこまでのサポートができるのか。
一律規制しない場合も、しっかりとクリア自治体として対策を進めているということはいずれにせよ求められると思いますし、
そういった中で、やはり一つ言えることとして、プラットフォーム事業者に対して子ども向けの適切な設計を求めていく。
こういったことはあると思うんですね。
例えば、無限スクロールとかで気がついたら時間溶けてた、こういったような設計がされていて、もちろんそれはある意味ではビジネスのコアの部分ですので、
やめなさいということはなかなか言いづらい。
でも子どもには少なくともものすごい悪影響があって、特に子どもはコントロールしにくいわけですので、自分でコントロールしにくいわけですので、
じゃあ子どものアカウントでは無限スクロールをやめようかとか、アルゴリズムを変えようかとか、
何らかの設計の適切な設計というところ、こういったことを要請していくということが一つ方法性としてはあるかなと思います。
規制の方法を制限する方法はあると思うんですけど、一方、子どもの自由を抑えつけるというところだけではなくて、
大人の加害とプラットフォームの責任
私これもう一つ議論としてしっかり考えてもらいたいなって個人的にも思うのが、大人側の加害ですよね。
一つ日本でもよく問題になっているのが、SNSを通じて、それこそ未成年の子を誘い出して、
何か防護を加えるとか性暴力を加えるとか、そういった危険な目に遭うという事例は後を絶たないかと思うんですけども、
そういった大人側のSNSの使い方、ちゃんとしっかり加害側をバスするということも必要なんじゃないかなと思っていまして、
そこはどうですか?山口先生。
そこはもちろんそうですね。やはり未成年が非常に大きいダメージを受けることとして、今おっしゃっていただいたような誘い出しとか、
あるいは過去の例でいうとですね、ある子どもが体の悩みを抱えていたと。
同級生、同じぐらいの年だと思われるような子どものアカウントとやり取りしていて、その過程の中で写真を提供してしまった。
しかしながら実は相手は全く違う大人だったというようなことで騙されていたわけですよね。
こういうことができてしまうという状況、そこに少なくとも仮にこの規約を守っていたとしても13歳以上の青少年は入るわけですよね。
規約を守らない人もいますので、そうすると小学生とかもいる。
そのような環境だと思わずに入っているということがあるわけです。
ですのでこういったことはまず絶対になくさなければならない。
そのためにはもちろん罪が明らかになったらそれを適切に罰するということは必要ですし、
プラットフォーム事業者もそういったことが発生しない対策は絶対にしてほしい。
例えば今メタ社のInstagramなどでのTeenアカウントといわれる青少年向けのアカウントでは、
最初の設定では見知らぬ人とのDMができないというような設定になっているわけですよね。
そういったことで守るという設定を厳しく子供向けのアカウントにはするということが大事だと思っておりまして、
でもこれも結局年齢を偽られたら機能しないわけです。
ですのでやっぱりここでも厳格な年齢確認ということが求められますし、
同時に大人側の対策ですね。そういった問題行動をしているアカウント、
こういったものを適切にバンするといったような対策とか、
さらに明らかに犯罪につながっているということであれば警察と連携するとかですね、
そういったことも含めて求められていくかなと思います。
規制が産業と市場競争に与える影響
ただそのSNSの事業を行っているプラットフォーム側では、
子供がいろいろとそういった自由に操作できない、使えないみたいな状態になると、
一定程度なのでビジネスとしては影響があるのかなというふうには思うんです。
産業の面ではこのSNS規制って結構問題視されているんですかね。
そうですね。問題視されていないわけではなくて、
実際に例えばオーストラリアではメタ社が大量にアカウントを削除するということになりましたし、
またインドネシアではもっともっと削除していたりとかということで、
まずアカウントが減ればそれだけサービスの収入とかも減りますので影響はあるでしょう。
ただおそらくすごい大規模なサービスですので、全体からするとかなり一部、
むしろ重いのはそういった売上の低下というよりは対応ホストのほうかなというふうに思います。
つまり例えば年齢推定AIの開発とか、あるいは書類の確認とかですね、
さらにそれのデータを取得する場合の扱いのためのセキュリティとかですね、
さらに怖いというか、プラットフォーム事業者側からして怖いのが国ごとに全然違うわけですよね。
この国では何歳、この国では何歳とか。
しかもその規制の仕方も一律禁止の国もあれば全然違う形態もあってですね、
その対応が全部バラバラになっているっていうことがグローバルな企業にとってのリスクというかネガティブな面にはなっているのかなとは思います。
ただやはり大手の事業者は安全にサービスを提供するという責任があるかと思いますので、
そこに関しては対応してほしいなというのは正直なところですね。
ただ見落とされがちな産業という切り口での視点というところで申しますと、
現在のところ執行の中心は大手サービスなんですけども、
ただ今後の環境の変化とか問題がなかなか解決しないとかそういった状況になっていけばですね、
中小企業とか振興のサービスが対象になるっていうことももちろんあり得るし、国によってはそういうこともあるでしょう。
そういった中で対応するコストですね、これは結局大手にとっての対応コストっていうのは売上に対して相対的に小さいわけですけど、
中小にとってはものすごいデカいんですよね。
ですので何が起こるかというと、この規制そのものが参入障壁になってしまう。
つまり大手はいつまでも大手でいられるけども、振興勢力はなかなか対応コストのところだけが膨らんで、
サービス展開できずにしぼんでなくなってしまうとか、こういったことにつながる可能性がありますので、
市場競争の観点からもあまりに規制を厳しくしすぎると、もしかしたら悪い影響が出るかなということは言えると思います。
確かにSNSで何か新規参入するってなったら、もちろん若者をターゲットにする場合も多いと思うので、
こんなに毎月毎年のように規制がコロコロ変わっちゃビジネスも展開できないよっていう風に感じる事業者の方は、
これから出てくる可能性はありそうですね。
なるほど、わかりました。
日本の制度設計と海外事例
では今まで議論があまりできていなかった、日本はどうなのっていうところも先生にお伺いしていきたいと思いました。
オーストラリアやアメリカの例を前回取り上げていただきましたけども、
現状日本はこの収録現在では特に青少年に対するSNSの利用を規制するような法律はないんですよね。
そうですね、現時点ではそういった法律はありません。
私自身も総務省とか子ども家庭庁でこういった検討会に入ってこのような法律の議論に関わらせていただいているんですけども、
日本の方法制として現時点ですぐに一律の年齢規制をしようってことにはなっていないです。
ただこれも結構変化が激しくて、例えば今年に入ってこの議論が活発なわけですけども、
子ども家庭庁の議論も途中までの整理では一律の規制というところは基本的にやらないというような話だったし、
総務省も年齢による一律制限は望ましくないというふうに整理していたんですけども、
ただちょっと風向きが変わって、今年の7月末ぐらいから年齢の一律規制も含めて議論を進めていくというふうになっております。
ですので今後どうなっていくか、現段階では結局何とも言えないところであると。
しかしながら共通している点もあって、それは一つは年齢確認の厳格化を要請していく。
これは間違いなく進んでいくと思います。
もう一つがやっぱりサービスごとにリスク評価と保護措置を求めるっていう、
つまり子どもをしっかり保護する措置を求めていくと同時に透明性ですね。
それに対してどういう対策をして、どういう結果が出ているのかとか、こういったことを求めていこうというところ。
このあたりは一律による年齢制限、年齢規制よりもかなりやりやすいところですので、こういったところは今後進んでいくかなというふうに思います。
じゃあ日本でもちょっと風向きが変わってきたっていうようなことなんですね。
これもそういった世界がそういう流れだからっていう影響も大きいんですかね。
そうですね。やはり世界的にそういった潮流がある中で、例えばこれは議事録公開されていると思いますけども、
ある芸能界では日本として一律規制しないという結論に達したとしても、でも世界的にはそういう流れができている。
せめて日本としてはなぜそれをしないのかという理由、そしてしないならば別の何をするのかということをはっきりさせるということ。
こういったことはすべきなんじゃないか、みたいなことも有識者の方からは指摘が出ていました。
ですので、やっぱり世界的な状況を見ながら、日本にとってベストな選択を今模索しているというところなのかなというふうに思います。
日本にとってのベストな選択。
でもこれって世界でまだ正解が見えていない問題の一つだと思うので、なかなか難しいですよね。
山口先生が今まで世界の事例をいろいろ見てくる中で、一番このSNSの青少年の利用の仕方でうまくいってるな、この事例は一つ参考にできそうだなというものってございますか?
青少年っていうキリクスでは正直あんまりいい例はないと思いますね。
前回のオーストラリアの例や、あとEUのミニアカウントの例とか、どうなんですか?効果出てるのですかね?
そこで結局始めたばかりで、まだ効果があんまり分かっていない。私はやっぱりエビデンスをベースに考えていくのが大切だと思ってますので、そのエビデンスがまだ蓄積されていないというところが一つありますけど
も、
ただ少なくとも現段階で見えている、例えばオーストラリアのやり方というのは、デビリットの割には得てるものが少ないなという印象はございます。
ですので、今のところはあれをすれば正解というふうにはちょっと言いづらいですし、またこの日本社会に合うようなやり方は海外とは別の可能性もありますので、何とも言えないところかなとは思います。
フェイク情報対策とメディア・リテラシー
ただ子供だけの問題ではないわけですよね。例えばフェイク情報とか誹謗中傷とか使いすぎとかって、いずれも大人でも問題になっているところですので、そういう意味では各課題に対しての適切な対処をまずする
ということ、その上で子供向けに適切な設計をしていくということ。
この2つが非常に大事だと思っておりまして、例えばフェイク情報に関してはもう方針として定まっていて、AIを使ったディープフェイクとかそういったことに関してまだ規制はないんですけど、今回改正公選法とかジ
ョープラ法とかで選挙時の扱いということが今盛んに議論されているところで、
その中では、例えばAIを使ってコンテンツを作った場合にはAIというふうに表示させる、つまり透明性を持たせるというようなこととか様々なことが議論されていて、ただ例えばお隣の韓国に目を向けると選挙時のディ
ープフェイク禁止してるんですよ。
やっぱりそれはやり方としてはあり得るんじゃないかなと私は思っていて、つまり結局この手の問題って全部表現の自由と安全のバランスですよね。選挙時、例えば選挙時とかってみんなの自由な議論っていうのはものすご
く大事なのでできるだけ制限はしたくないわけです。
ところがですね、例えば今の選挙って注目を集めて動画再生回数とか閲覧数とかを伸ばしてお金を稼ごうっていう意図でいろんな人が選挙の話題をして、その中にはフェイク情報があったり誹謗中傷があったりする
っていう状況が続いてしまってるんですね。
ですので、こういった中で、例えばディープフェイクによる表現だけはちょっと禁止して、別にAI使った表現しなくても自由に表現はできますので、そういったところで規制するとか、あるいは収益化ですね。選挙時の大
きな選挙時の関連コンテンツの収益化を一時的に停止するとかですね。
そういった様々な対策っていうのは今後も議論していくべきだと思いますし、それが引いては結局子どもたちを守ることにもつながっていくと思うんですよ。つまり安全な情報環境がある、そこに子どもも行くという話だけ
ですから、安全な情報環境をまず作る。そしてさらに子どもにもあった対策をしっかりやっていく。こういったことを今まさに日本で議論している最中で。
つい最近、メディア・リテラシー教育をどんどん広げていこうって文科省が決めたわけですけども、情報活用とかそういったことを今後大幅に増やしていくということが決められていますので、教育という面でもそうい
った対策をしていって、アルゴリズムの抑制とか様々なところで対策していく。制度、技術、教育の3大でしっかり対策をしていくということが大事かなというふうに考えています。
お話に出たディープフェイクとかフェイクニュースって本当に大人でも騙されるので、大人で騙される状況で、それをなんか子どもにこうだよって、まだ伝えられる資格すら自分ないっていうふうに感じてしまうんですけど
も。
子どもと一緒に学ぶSNSとの向き合い方
まず最後に山口先生にお伺いしたいのは、こういったいろいろテクノロジーが日々進化する中、そして青少年のSNSの使い方も日々変わっていく中で、現状我々がなので、よりヘルシーにそして安全にSNSを使っていく
ために求められることって何でしょうかね?できること何でしょう?
そうですね。私がよく保護者の方とか一般の方、一般市民の方向けにお話するときに申し上げているのが、子どもと一緒に学んでいってくださいってことなんですね。
つまりこの分野って結局大人も知らないこと多いし、子どもも知らないことももちろんあるわけですよね。しかもすごく進歩が早いので、去年正解だったことが今年正解じゃない可能性もあったりしてですね。技術の進歩が
すごく早い。性性愛がどんどんどんどん普及してますよね。
こういった中ではやっぱり大人も子どもと一緒に学んでよく話していくということ。こういったことがすごく大切だと私は考えています。私の研究ではまず親がですね、子どもと長くコミュニケーションする過程ほど子ども
のネットトラブルが少ないということが分かっているんですね。
ですからぜひ子どもとコミュニケーションし、一緒にこういったテーマも話し合って、そして例えば見守りの仕方とかもですね、一方的に何か押し付けるのではなくて、こういうことで取り決めしようかというふうに作って
いくと。
で、これも私の研究ですけど、家庭内ルールがある家の方がやっぱりトラブル少ないわけですが、ただ家庭内ルールをですね、親が押し付けている場合には長続きしないというような結果が出てるんですね。
なのでやっぱり子どもと一緒に学んで、大人も結局フェイクに騙されたり、誹謗中傷書き込んでしまったりとか、いろんな問題があるわけです。
その中で私がよく申し上げてるのはですね、他者を尊重し自分も尊重するっていうことが結局一番大事ですよっていうことをよく講演の最後に申し上げてるんですね。
で結局、今SNSの問題だとか言ってSNS禁止してますけども、そもそもそこで見えてるものって全部人間の投稿なんですね。
で結局この人間の本質的な部分が見えてしまってるのが今の状況で、誹謗中傷書もフェイク情報も書いてるから人間であると。
だとしたらやっぱりこの人間としてどう生きるかっていうところが実はこの時代はものすごく重要でして、ですから他者を尊重するというのは自分が言われて嫌なことを相手に言わない。
こういったことは当たり前の道徳心なんですけども、子ども知ってる道徳心ですが結局大人も含めてできてない。
だからこういった誹謗中傷問題とか出てきてしまってるわけですよ。
そこに加えてぜひ自分を尊重してほしいんです。
自分を尊重するのはなぜかというと、この情報社会で人の繋がりが広く深くなっていくとどんどん比較っていうことが増えてしまう。
で他人と比較してネガティブな気持ちになるっていうことは非常に子どもが多い。
そういった時に大事なのが自己肯定感なわけですよね。
自分はいていいんだ。自分はいるだけでいい。
こういうふうに自己肯定感を高めるっていうことすごく大事です。
そのためには自分を尊重する。
そして子どもと向き合う親もですね、ぜひ子どもの自己肯定感をうまく育んでほしいなというふうに思うんですね。
これはわがままに何でもいいよっていうことではないんですよ。
ただ子どもがそこにいるだけであなたは素晴らしいということを態度そして言葉で示していくということがすごく大切だなと思っておりまして、
他者を尊重し自分も尊重するということ。
これがこれからの情報社会においては欠かせないところなのかなというふうに思います。
自分のその自己肯定感があり、そして家族や周りの人としっかりコミュニケーションとれていれば、
わざわざやっぱりSNSで誰かと比べて落ち込むっていうことも減るかもしれませんし、
しっかり自分自身が持てる判断基準が持てるっていうことにもつながってきますからね。
結局大事なのはやっぱり人として当たり前のことなのかなっていうふうに思いました。
山口先生今回は2週にわたって貴重なお話本当にありがとうございました。
ありがとうございました。
ニュースコネクト国際ランお相手は笹木まなみでした。
ご感想はハッシュタグカタカナでニュースコネクトをつけてSNSに投稿ください。
また番組をフォローしてくだされば嬉しいです。
それではまた次回お会いしましょう。