デジタル民主主義と事件の紹介
はい、というわけで、メタ編もね、もうかなり過境というか、後半になってきましたが、本日はどんなお話をしましょうか。
はい、こんにちは。今日はですね、デジタル民主主義の闇、Facebookも大に巻き込まれな、あの事件について語りたいと思います。
おお。
てかさ、ナオキマンの真似をしてるんだから、ちゃんと突っ込もうよ。
ナオキマンの真似か、ノートブックLMのポッドキャストの男の人かなと思って、ちょっと迷ってスルーしました。
そうですね、そうなんです。今日は話したいのはですね、ある資料に基づくことを解説したいんですよね。これはあれですよね、ノートブックLMのポッドキャストの男の人。
ちょっとわかる、ちょっとわかる。ちょっとだけ似てる。
なんだけれども、真面目な話ですね。今回話すことって、マジ?陰謀説?みたいな話なんですけども、限りなくこれは事実に基づいた話ということをしていきたくて。
なんと、もうFacebookのプライベートデータをうまく発掘する形で、EUの離脱、イギリス離脱だったりとか、さては前回のトランプの選挙だったりとか、そういったものまで実は影響を受けてしまったんじゃないかって言われている事件。
それがケンブリッジアナリティカ事件なので、この辺の話を日本でなかなか語られないこと。もう一個大事なのが、この影響として今AIを含めて、なぜプライバシーとかAIに関しての制約みたいな議論が重視されているか、みたいなことの文脈がわかる話としてしていきたいなって思ってるんですよね。
データ収集のメカニズム
なるほど。じゃあ早速事件の詳細を聞きたいんですけれども、これがまず何年ぐらいの事件なんですか。
そうですね。2016年、さっき言ったようにトランプの前回選挙ですね。クリントン陣営バーサストランプって動いた時に起こった事件なんですけれども、これが何がやばいかっていうとですね、なんと最大で8700万人分のユーザーデータが本人の同意なしに不正に収集されて。
しかもこれでいいねを押したりとか、そういうようなユーザーの行動からあなた多分こういう性格してるから、だったらこういうふうにすれば投票が変わっちゃうんじゃないのとか。
というふうに、今認知戦という言葉がちょっと流行ったりしますけれども、そういうふうに気づかないうちに自分の行動が変えられている。こういうようなことが起きちゃったっていうことなんですよね。
ものすごくわかりやすい例えで言うと、例えばめっちゃ犬が好きな人が、例えばこの大統領が犬を抱いている写真みたいなのをたくさん見せると、好意が上がって投票率が上がるよねみたいなのをデータで見ながら、ある意味操作しちゃって、その人の考えとかまで変えちゃうっていうのが、Facebookのデータを不正に使うとできちゃったってことなんですかね。
そうなんですよ。まさに今お話ししたように、コロナこったんって検数もよく診断アプリみたいなのとか、自分を構成する5つの漫画みたいな感じで、ちょっと自分の趣味、趣向性だったりとか、ないしは検数はあんまりやらないけど、性格診断アプリだったりとかさ、ああいうのでネットでバツるみたいなことって結構あったりするじゃないですか。
ありますね。
それと全く同じで、データとして収集の原点になったのが、This is Your Digital Lifeっていうですね、性格診断アプリ。これをユーザーが簡単な質問を答えるだけで、あなたはこういう性格ですよみたいなものが流行らせたんですね。
ここから大事なんですけども、これが流行ったことによって、直接接触した人って27万人なんですよ。なんだけれども、この接触した人間が結局この診断アプリをやるために、フェイスブックにつないでいいよという同意を取るわけですよね。
これって今でもわりとよくあることじゃないですか。なんだけど、ここからが恐ろしくて、結局この27万人の方が同意したがゆえに、その友達の個人データにもアクセスできるようになっちゃって。それで最大8700万人分のフェイスブックのユーザーの個人データが収集されちゃったって話になるわけです。
大平 だからハッキングとかではないが、正直さほど読まないこのデータもらえますよっていうのはみんなOKしちゃって、性格診断アプリ経由でたくさんの情報を抜かれてしまったっていう感じなんですね。
しかもこの時のフェイスブックって、とにかく早く開発するみたいなことを中心にやってた文化みたいなところがあって、ここまで抜かれるってあんまり想定してなかったんですよね。
大平 なるほどね。
大平 公開メッセージも含まれていたと。これだけの膨大な情報が抜かれていたっていうことから、発端が生じるわけなんですけども。ただ抜かれたっていうだけだったら、それはそれで大変ですけど、
影響と心理操作の技術
大平 本当に重要なことって、これをベースになんでブリクジットって呼ばれるEUが、イギリスがEUから離脱するかどうかみたいな投票だったりとか、トランプに投票したくなっちゃうなだったりっていうところに、なぜ影響を受けちゃったのかっていう話なんですよね。
大平 これがマイクロターゲティングとかダークポストとかっていうものが重要になっていて、そういう心理操作じゃなくても、いわゆるケンスってビジネスをネット上でするときにデモグラフィカルターゲティングとかサイコグラフィカルとか、
そういうのって結構使ったりしますよね。
デモグラフィックっていうのは、やっぱりPersonaの回でやったように、お客様がどういうふうに理想の自分になりたいと思って行動したくなるかっていうことを考えるために、
この人はターゲットとなるお客様って20代なのかな、30代なのかなとか、女性なのかなとか、どういう職業をされてらっしゃるのかなみたいなことを考えたりするっていうことがデモグラフィックなんですけれども、それに対してサイコグラフィックっていうのは、
結局、僕らみたいな引きこもり属性の人間に対してカスタマージャーニーを考えて、お客様がこうなるといいなって思って我々の商品を使っていただくっていうものと、リア充で外でヘイヘイってパーティーする人に対して、そのメッセージの出し方って全然違うじゃないですか。
まあそうですよね。
そういう投稿とか傾向から分析する技術もあって、さらに取った個人情報をもとに、こういうタイプはこれをやると意見変わるよねみたいなものをある意味実行できちゃう状態というか、そういう技術を持った会社がそれをやったってことですね。
そうなんです。だから、じゃあこの技術って何かっていうと、結構ベーシックなそういう心理学、まさにメンタリストダイゴさんが大得意な領域ですけれども、ビッグファイブって言われるオーシャンモデルとか。
有名のね。
はい。もうその人間の心理特性って5つの軸に分かれるよねと。
開放型なのか、内放型なのか、それとも誠実なのか、それとも外交生なのか、内交生なのか、協調的なのか、それとも一人でコツコツやることを望むタイプなのか、やや神経質的な感情の不安定さがあるのか、安定的な人なのかっていう、
オープンネス、コンサーシネス、エクストラバージョン、アグレッシブ、ニューロクラティブっていう、この5つの頭文字を取ってオーシャンモデル。日本の場合はビッグファイブって呼ばれたりするんですけれども、この心理特性って結構1回決まるとなかなか変わらない特性と呼ばれていて、この5つにプロファイリングしていって。
じゃあこのプロファイルに合わせて相手の行動をどうやって変えていくかってことをやってたんですよね。
おだしょー でもビッグファイブが元なんですね。ビッグファイブって僕らも診断アプリとか作るときによく使ってるやつなんですけども、割とオープンになっていて誰でも使えるようなものではありますが、逆に言うとそのFacebookのデータがあるとビッグファイブぐらいのそういうよく使われるやつを掛け合わせるだけで、そんな世界を揺るがすような世論形成ができちゃったってことなんですね。
ヤバいじゃないですか。
そうめっちゃヤバいんですよ。だから1つはそうやってプロファイリングをしていくことによって、1人1人の属性に合わせたら、こうすれば意見が変わるんじゃないですかっていうことを判別するっていうマイクロターゲティングっていう話。
あともう1個大事なのがダークポストって呼ばれるやり方で。
ダークポスト。
結局広告をうまく使うと、Facebookのポストだと友達全員に見えたりとか、公開で投稿したと全員に見えちゃうじゃないですか。でも広告で出すと結局ターゲットになる人以外には見えないんですよね、そのポストって。
そっか。
そうすると自分にとってはよく出てくる投稿っていうものが、実は他の人に見えてないからバレないし、本人にとってはその投稿が主流に見えちゃうんですよね。
こういうのをフィルターバブルっていう言い方をして、FacebookとかYouTubeとかのアルゴリズムで。僕だったら猫とブドウの動画ばっかりショート動画で貼ってくるんですけど、件数が見るときは陰謀論ばっかり回るみたいな。
僕、犬が泳いでる動画ばっかり出ますね。
めっちゃフィルターされてんじゃん。
そうなんですよ。だから犬が泳ぐ動画ばっかり出るんだなと思って見てますね。
そうなんですよ。これってGoogleとかFacebookとか、そういったプラットフォームがその人に長く滞在してもらいたいから、自然とチューニングされていくもので。
こういったものって当然当たり前だけれども、みんながそういう状況になってくるから非常に問題にされて、こういったものが変な方向に向かわないようにっていうふうに各社プラットフォーム気をつけてるわけだけど、
広告としてやられちゃうと、完全にFacebookとかGoogleがわからない間に、いつの間にかそれぞれの人っていうのが動かされてるんですよね。
そうですよね。想定してないですもんね。世論を動かすために広告を活用するみたいなことが、あんまり想定されてなくて、やっぱりターゲットだけに出すっていう機能ですもんね。
だから例えば、しかもそれがすごく巧妙で、例えばトランプ、クリントンみたいなところがものすごく争ってるわけですよね。でもそれってご存じのように大統領選って州別に決まっていくから、
要は僅差の表数を集まってる、いわゆるスイングステートって呼ばれる全体の結果が効くところにピンポイントに当ててあげれば、その全体の効果に結果が出るっていうところのターゲティングが大事だったりとか。
確かに。
勝利確定みたいなことを逆にダークボストとして増やすと、心理状況は変えなくても行動は変えられるわけですよ。
確かにね、もう全然勝ってるから行かなくてもいいですよって思ったら行かないですね。
そうなんです。とか、あとそこにさらに何にインタレストがあるのみたいなところにさらに掛け算していくと、例えばやっぱりアメリカの中だと銃を持っていいのかダメなのかみたいなことってすごく大事だったりとかして、
大統領選の影響
そこに完璧主義者型の人に対しては、やっぱり銃というのはアメリカの歴史の誇りであるみたいな話をやっていくと、じゃあそれを支えてるのはトランプだよねみたいな話をするとか。トランプに投票したいわけじゃないんだけれども、自分たちの職業としての誇りだからみたいな形でいくとか。
なるほどね。だからそれぞれの候補の一番の政策とかではなくて、たまたまこれを支持しているみたいなところだけをひたすらそれが聞きそうな人に出すみたいな効率的なこともできてしまうので、
そんなにもうめっちゃ十三政派とか反対派とかではない候補だったとしても、トランプ大統領トランプさんはこう言ってるとかヒラリーさんはこう言ってるみたいな記事だけをピンポイントでやると、結構行動が変わっちゃう。投票したりしなかったりするとか起こるわけですね。
こういうのって今や書店に行くといっぱい本があるいわゆる行動経済学っていうことを本当に実践に大規模にやっちゃったんですよね。
なるほどな。
選択アーキテクチャって言い方をするんですけど、さっき言ったように人のタイプによってどういうふうに物事をフレームとして捉えるのか。
内緒はどういうふうなことを語りかけられるとその人にとっては大きな影響を受けるのかみたいな認知バイアスってタイプで分かれるわけですよね。
その現状維持をしたいっていうさっき言った、その俺たちの誇りである十五みたいなタイプもあれば損失回避として、もう決まってるんだったらなんで俺わざわざ行かなきゃいけないのみたいなものだったりとか。
そういったものをフルに活用して人の行動を変えていく集積として、もしかしたら大統領選結果決まっちゃったんじゃないのみたいな話になってくるわけですよね。
それってもう証明されてるというか、やってたよねっていうのはもう分かってるんですか。
まず結論として、そういうダークポストの結果によって、このぐらいの比率の人が意思決定を変えたよねみたいな追徴数は結構出ていて。
それに対してご存知のようにトランプとクリントンの大統領選って、実は得票総数でいうとクリントンの方が勝ってたわけなんですよね。
なんだけれどもさっき言われた大統領選って間接選挙なので、微妙な票数の多いスイングステートと呼ばれる州に関してピンポイントに勝っていけたっていうところでトランプが決まっちゃってるわけで。
この2つっていうのは直接的な証明はされてないんだけれども、結構な確率でそういうふうに取れるんじゃないんですか。
少なくともそういったケンブリッジアナウンサーという団体がそういう意図を込めてやったし、結果ユーザーが態度を変容させ報道も変えちゃったっていうところなんですよね。
なるほど。これ怖いのはもちろん大統領選とかEU離脱みたいなすごい大事な意思決定に関わっちゃってるっていうのもありますし、結構簡単に操作できんだなっていうところもすごく怖いところですよね。
ケンブリッジアナリティカの役割
そうなんですよ。ここから次は若干信じるか信じないかはあなた次第みたいな話に若干なってくるんですけど、しかもこのケンブリッジアナウンサーの裏を見ていくと、結構軍事的な背景がボロボロボロボロ出てきたみたいなのが追調され分かっていて。
このケンブリッジアナウンサーっていうのは元々1990年に行動ダイナミックス研究所という形で作られたもので、元々はテレビの制作とか広告業界での経験の中からさっき言った行動経済学だとか集団行動心理学だったりとか、そういったものを集めてて。
当時で言うとやっぱり軍事的な偽キャンペーンみたいなところで、軍事的なアフガニスタン戦争だとかイラク戦争だったりとか、そういったものに対する意見誘導をしていくっていうための組織で。
なるほど。
だったんですよ。当時実際このSCLは空戦闘もできるみたいな話を結構主張していて。
1994年以降、イタリア、ラトビア、ウクライナ、南アフリカ、ナイジェリア、ケニア、インド、インドネシア、台湾とかの25カ国以上の政治や選挙カンペーンに関わっていたところで。
ところでここがだんだんだんだんマスメディアにおけるそういう意見誘導みたいなところから、だんだんだんだんSNSというものに人の意見の集積場所が変わってきたときに、2013年公害者としてケンブリッジアナルキカ社が設立されていたという話ですよね。
ちなみにトランプ大統領のその後出席戦略官になられて、今でも影の御意見版と呼ばれるスティーブバノン。彼はこのケンブリッジアナルキカの副社長だったんですよ。
バノンさん。
バノンさん。みたいな話になってくると、おおって感じになってきますよね。
おおってなりますね。
ちなみに今言ったことはファクトベースとしての積み上げている話であって、彼ら自体が直接選挙管理とか情報操作をどこまでやられているかという話に関してはまだ両論があるので、少なくとも大事な話は前半で話した。
少なくともそれだけの人数、最大3700万人のユーザーデータっていうのが本人の同意なしに不正に収集されて、それによって投票行動を変えるみたいなことが起こっちゃったっていうのが現実って話になってますよね。
なるほどな、これは。だから外国勢力とかがすごく活用できちゃって、例えば中国とかが日本の政治家を反米の人をたくさん当選させようとか考えた時に、やっぱりこの手法思いつきますよね。
そうなんですよ。そこがさすがの視点で、結局これって難しいのは、米国の中で自分の陣営の有利に持っていきたいっていうところもあるわけなんですけれども、逆に言えば第三国が、あの国をより自分の国に有利な状態に持っていくためにはこういうふうにしたほうがいいよねとかっていう、
いわゆる傍聴戦、張望戦、認知戦って呼ばれるようなものにも悪用されかねないものなんですよね。
そうですよね。外国勢力だったら、自国内ではそれが良しとされて捕まったりするリスクがない中で、他国のSNSの世論を操作できてしまうとなると、まあ使いますよね。
しかも困ったことに大事なことが、結局こういうことって、僕ら特に日本のゲーミフィケーションと呼ばれる領域に関しては、結構ゲームを使っていただくためには無意識に使ってる技に近いんですよね。
なので、この後当然の議論として、当たり前ですけど、まずFacebookはそのAPIを強烈に制限して、ちゃんとユーザーの同意があるものにしかデータは開示しないし、
あと全てのプラットフォームですけれども、APIで他社のサービスとつなぐときに、必ずどういうタイプの情報が共有されますよっていうことが表示された上で同意するとか、ちゃんとそれを理解したい人たちには、このデータは共有するけど、このデータは共有したくないとか、
そこの共有されるデータのところをクリックすると、分かりやすく共有されるデータが詳しく解説されるみたいなふうに当たり前になりましたよね。
なので、基本的にはこういった事件というものが再現されないような防止策っていうのはもう打ってますよっていうのは大前提あるし、あともう一つでかい話として、こういう文脈があるから、政治に関する宣伝ってむちゃくちゃ出しにくくなったんですよね。
というのは、このぐらいの規模感のことが起こっちゃったからだということを皆さん知っておいてもらいたいんですよ。
なるほどな。いやでもこれテレビの時代だったらね、結構その特定の政党だけに有利な放送するとかはなかなか起こりづらいですけど、SNSだとね、いろんな勢力がいろいろこう広告を使ったりポストを使ったりすることによってできちゃうので、よりちょっと防ぎづらい感じしますね。
そうですね。結局この事件というものが、さっき言ったようにFacebookにとっては信頼必須になるんですけれども、やっぱりこういったものに関して信じられるっていうのが、内部告発者っていうものが出てくるんですよね。
実際この事件に関して言えば、このケンブリン・ディ・アナリカ社の元リサーチディレクターの方だったりとか、それにこうする形でFacebookの内部の人間だったりとか、そういった方々が内部告発があり、さらに言えばその外部の記者がそれを深く探求していくという流れがある中で、
どんどんどんどん連鎖的に事実の情報が出てきて、やっぱりこういったものをこの後どう止めるんだっていう話になったっていう話ですし。こういうのをデジタルのパンドラの箱を開けとるみたいな言い方をしたりするんですけれども、
実際これが起こったことによって、当たり前ですけどFacebookの株価は低落して、たった数日間で時価総額が1000億ドル以上ですね。だから10兆円ぐらいマイナスになるというようなところ。
だからもうたった2018年ですね、1年間で4分の1ぐらいの株価を創出するみたいなことになっていくわけですし、ということの中で実際にFacebookは対象として、さっき言ったプライバシー設定を変更したりだとかですね。
そうすると26%、いわゆる4分の1のちょっと怪しいなっていうもののアプリを削除するみたいな大中を振るっていくことで、どうにかこうにか戻していくわけなんですけれども、Twitter上ではハッシュタグデリートFacebookっていうものが。
そうなんですよ。みたいなことが起こり、次にこれは国に飛び火していくわけですね。皆さんももう海外のサイトに行くと、このサイトにどこまでのクッキー情報を渡していいですかみたいなポップアップが現れて、なんかめんどくさいなと思ったことないですかね。
あれがいわゆるEU一般デジタルデータ保護規則、いわゆるGDPRですね。これってなんでこんなことが起きたのかっていうと、やっぱりこの事件がきっかけなんですよ。
EUのGDPRとその影響
そうなんですね。ここから結構影響を受けてるんですね。
そうなんです。やっぱりこういったデジタルに関して、特に政治判断を含めて影響を及ぼすって、もう民主主義の危機じゃないですか。
そうですよね。
だとしたら、やっぱりこういう操作をできるだけされにくくしなきゃいけないよね。そのためには、個人がちゃんとデータをハンドルできるように明示的に確認をしなければいけないっていう原則だったりとか。
特にそういったことに関して、やっぱりサーバーっていうものが海外のコントロールできないところにあると困るから、プライバシーデータに関しては必ずユーザーのいる国に置きなさいっていうことだったりとかっていうような規制が厳しく作られるし、何よりもこのEUのGDPRにおいて恐ろしいところが、
もしそういったことを違反した場合は、最大グローバル年間収益の4%を罰金として払いなさいっていうぐらいのことを課してるんですよね。
実際、Facebookはこれの後、いろんなプライバシーデータに対しての調査を受けて、EUのユーザーデータを実は適切な保護なしに米国に転送してたじゃんかっていうことが証明されて、2023年に12億ユーロですね。
だから当時のレートで言うと、大体2,000億円ぐらいかなの罰金。
なるほど。払わなきゃいけない罰金が。
AIと感情操作のリスク
っていうところまで発展していくっていうことだったりするんですよね。そういう観点で見たときに、じゃあ今これの議論になってるのが、今度はAIが知らないうちに人の意見を変えるんじゃないんですかっていう話になってきて。
だから実際に今のAIの規制議論の中では、例えばやっぱりAIが自らがどんどん進化できてコントロールできないようになるのをどう止めるんですかみたいな議論もあれば、
AIが例えばバイオ兵器みたいなものだったりとか核兵器だったりとか、そういう大量殺戮兵器を作れちゃうんじゃないんですかみたいなことと同じレベルで感情操作というのを人が認知できないうちにしてしまうリスクっていうことをパーシュエーションって言うんですけど、
そういうのを重きを置いてやっていて、実際今のEUにおけるAIアクト、AIの規制にはそこがしっかり入ってるって話なんですよね。
そうですね。SNSで今回のようにされたみたいに、例えばそのAIに聞いても、やたらこの候補についてはポジティブな話が出てきやすいみたいなことされるだけで、やっぱり全然変わっちゃいそうですもんね、行動が。
だからやっぱりこういうものって、Facebookみたいなソーシャルメディアもそうだし、今や僕たち、特に我々はAIに毎日相談をするっていうことが当たり前になっていく時代。
その中でどんどんどんどん僕らは個人の情報を信頼して、僕たちの個人データをプラットフォームに進託していくっていうことが、便利さを享受するためには当たり前の時代になっていく中で、
それの反面として、こういった個人の心理ってものが知らないうちに誰かに、第三者に操作されているっていうリスクをどう防ぐかっていうことって、民主主義の根幹に当たるところなんだよっていうのが、なかなか日本だとわかりづらいので、
一気にまとめて解説をさせていただいたっていう話になってきました。
メディアと行動コントロール
なるほど。これはなかなかメタ社だけではなくて、SNSとかテクノロジー全般の負の面の感じがしますね。
そうなんですよ。もちろんこれも当たり前だけど、これFacebookに限らず、Twitter上だったり、失礼、X上だったりとか、他のSNSプラットフォームにもある話だし、昔のテレビで言えば、ぜひ興味ある方は戦争代理人っていう書籍だったりとか、あと多分Netflixで見れると思うんですけれども、
マッドメンっていうですね、タバコを吸うことだったりとか、ビールをカーッて飲むことだったりみたいなことが、かっこいいって思われた時代って、なんでできたんだっけとかっていう、単なる本当に戦争みたいなクリティカルなものから、なぜ僕たちはこれにお金を使ってしまうんだろうみたいなことを含めて、
これはメディアに限らずずっとあることなので、ぜひそういったドラマとか本も合わせて読んでいただけると、知らないうちに君の感情が操作されている。そういったことがないようなふうに思っていくっていうことが大事っていうことですね。
なるほど。僕、独裁者のデザインっていう本が結構好きで、スターリンとかヒトラーがどのようなポスターをやって、どういう目線でどういうメッセージやってたかみたいなのとか、もう本当に認知戦というか、人の印象を操作して有利なようにしてたかっていうのがわかって、面白かったですね、あれ。
そうなんでしょうね。だから、大事なことって、ほらケンスってめちゃめちゃいい人じゃないですか。でも、いい人だからこそ、こういう感情操作だとか、時代の波っていうものがどういうふうに作られていくかってことを知ると、それを操られないっていうことができるようになっていくのでね。
もしかしたら、この辺のダークパターンっていう言い方をしたりするんですけども、どうやって人が知らないうちに行動コントロールされるかみたいなことはショート特集でやってもいいかもしれないね。
そうですね。確かに面白そう。
というのが、今日のまとめでございます。
ありがとうございます。面白かったですね。ちょっと負の一面でしたが、次回もね、ちょっと失敗例をお話しするのかな。
そうですね。次回は同じように、やっぱりFacebookがどんどん世界の共通のプラットフォームになっていくというふうになっていくと、こんな大失敗もあるんだよっていうような話として、みんな覚えてるかな。
DMっていうですね、Facebookが世界共通の通貨になろうとした話っていうのをしていきたいというふうに思っております。
ありがとうございます。今日はそんな感じですかね。ありがとうございました。
はい。信じるか信じないか君次第。
