パランティア社とAIの役割
こんにちは、KOHIMOTOの藤本ゆかです。 前回に引き続き、ピーター・ティールとパランティアについてお話ししていきたいと思います。
前回はピーター・ティールという人がどういう思想を持っているのかを、この哲学家出身だったりとか、あとは、
魔法欲望、独占、ゼロ・トゥ・ワンの思想、エクジット思想、テクノリバタリアンという視点から紐解いていきました。
ティールは単なる投資家ではなく、自身の哲学を持って、PayPal、パランティアといった企業を通じて、技術と資本を用いて社会の前提そのものを変えようとしてきた人物というふうに見ることができました。
今回のテーマはパランティアとAI国家にしてみたいと思います。
パランティアは単なるデータ分析企業ではなくて、政府、軍、情報機関、企業のデータを統合し、AIでの意思決定を支援する企業です。
つまり、パランティアを見ると、AIが単なる便利ツールではなくて、行政や軍事や国家の判断の中核に入っていく技術であるということが見えてきます。
ティールは以前、暗号資産はリバタリアン、AIは共産主義的と表現しています。
文脈としては、AIが大量のデータ収集、中央集権的な判断システムと結びつきやすいという問題意識です。
それをもって、今回考えたい問いはこれです。
なぜ、AIが中央集権的とティールが言うのか。
また、本当にAIは大量のデータ収集、中央集権的な判断システムと結びつきやすいのか。
私たちはAIをどう使うべきなのか、みたいなことについて一緒に考えていければいいなと思います。
ではまず、パランティアとは何かを簡単に整理します。
パランティアは2003年に設立されたアメリカのテクノロジー企業です。
共同創業者の一人がピーター・ティールです。
もともとは政府機関や情報機関向けのデータ分析プラットフォームとして設立しました。
テロ対策、犯罪捜査、軍事、安全保障、災害対応、企業のオペレーション管理など複雑なデータを統合して
意思決定に使える形にすることを得意としています。
ここで重要なのは、パランティアが扱っているのは単なるデータではないということです。
データを集めて、データ同士をつなげて、現状世界の状況を可視化する、リスクを予測する、
次に何をすべきかを判断する。
つまりパランティアはただの分析ツールではなく、組織の判断能力を作るインフラとして機能しています。
企業であれば物流、在庫、顧客、売上、サプライチェーンをつなげる。
政府であれば人口、治安、移民、福祉、災害、軍事情報をつなげる、などです。
こうした情報を一つのシステム上で見えるようにする。
ここでAIが入ってくると何が起きるのか。
単に人間がAIを見るのではなく、AIがデータを読み、優先順位を付け、不足し提案するようになります。
つまりパランティアは一言で言うと、現実世界をデータ化しAIが判断できる状態にすることをやっている企業だと見ることができます。
個人的には歴史の流れ的にはこのような企業が出てくるのは自然ではあるのかなと思いました。
ここで今回の中心テーマに入ります。
AIが中央集権的技術となりやすい理由
なぜAIは中央集権の技術になりやすいとピールは注意喚起するのでしょうか。
AIというと私たちはチャットGPTのような個人が使うツールをイメージしがちです。
文章を書いたり画像を生成してもらったりアイディアを出してもらったり。
このレベルではAIはむしろ個人を助ける分散的な技術に見えます。
でも国家や大企業のレベルで見るとAIは違う顔を持ちます。
AIの性能を高めるには大量のデータが必要です。
膨大な計算資源やクラウド基盤やセキュリティが必要です。
そして現実世界の業務や制度とうまくつながる必要があります。
つまりAIは規模が大きくなるほどデータを持っている組織や計算資源を持っている組織、インフラを持っている組織に力が集中しやすいという側面があります。
つまりAIは表面的には便利なツールですが構造的にはデータと計算資源を持つ側に権力を集める技術でもあるといえます。
さらにAIは単に情報を整理するだけではなく予測し分類しリスクをスコア化します。
優先順位を決めたり人間に行動を提案したりします。
そうなるとAIはだんだん判断の補助から判断の前提になっていくことになります。
例えば行政で考えてみたときにどの地域に予算を配るのか、どの過程を支援対象とするのか、どの支援制を防いリスクが高いと見えるのか、
AIがこれを支援すること自体はかなり有効です。
人間では見落とす情報も拾えるしバイアスも省けますよね。
スピードも上がるし社会課題の解決制度も高まる可能性があります。
ただしここで誰を優先するのか、どこまで監視して良いのか、誰が異議申し立てができるのか、
AIがミスを犯したとき責任の所在はどこにあるのかなどはAIは決められません。
それを決めるのは人間です。
だからAIの制度が高いことと、AIの統治が正しいことはまた別物になってきます。
ここが国家でAIを扱う上で考えるべき大事なポイントになってくると思います。
ティールの「AIは共産主義的」発言の真意
ではピーター・ティールはなぜAIを共産主義的と表現したのか、
それに対して暗号師さんはリバタリアン的だと語っていたのかということについてなんですが、
これはAIが悪という意味で使っているわけではないと思います。
暗号師さんは国家や銀行のような中央管理者を通さず分散的に価値をやり取りしようとする民主的な技術です。
つまり国家の外に出る技術です。
一方でAIは膨大なデータを集め社会を予測し管理し最適化できる技術です。
つまり中央に情報を集められる技術です。
ここの意味でティールはAIを中央集権的な技術として見ています。
これを2003年の時点で予測していたのはかなり鋭い見方だった、
私が何を言うんだって感じなんですけど、だなという印象です。
ただしここでちょっと疑問に思ったのは、
AIが中央集権的な技術だと分かっているなら、
なぜ彼はペイパルという中央集権の外に出る企業をやった後にパランティをやっているんだろうということです。
なぜ政府や軍や安全保障国家にAIとデータ基盤を提供しているのでしょうか。
これが一見すると矛盾に見えて、
私もなんかうちと外みたいなやってることが逆だなと思ったんですけど、
ティールの中では矛盾していないと捉えられることもできます。
彼が脅威に思っているのは中央集権そのものではなく、
中国的な中央集権だったりとか、国家機関的な管理だったりとか、
今の民主主義に懐疑的な姿勢を持っているみたいなことから、
リベラル官僚的なものだったりとか、
彼が無駄といったらあれだけど、
そういうと違う思想を持っているものによる中央集権を脅威とみなしているんだと思います。
一方で米国の安全保障国家や民間的企業や商業者的意識決定による中央集権はむしろ必要だと考えているように見えます。
つまり問いは中央集権か分散かではなくて、
誰が中央に立つのが正解かと考えているっていうことです。
それはティールがパランティアをやっていることの確信になっています。
AIの軍事利用と抑止力のジレンマ
ここでパランティアをめぐる議論で難しいのは、完全に悪と言い切れない部分も一例あるなということもあります。
なんか中国のような権威主義国家がAAを国家統治や軍事に使っていることは明白で、
トップダウンで進められるのでスピードも速いし、社会前提をデータ化し監視し最適化することもできますよね。
この状況で民主主義国だけがAAの導入をためらっていたらどうなるのかっていうことを考えたときに、
軍事だけでなくサイバー戦や情報戦で民主主義が不利になってしまう可能性が、不利というか弱くなってしまう可能性があるっていうことも一例あって、
だからパランティア的な考え方では、
AIは必ず誰かが主権を握る、中国が握るのは危険で、じゃあ西側諸国が先に握るべきだっていう理屈になっているのかなって思います。
これは資生学的にも理解できる一面もあると思います。
AI時代において力の均等を作るために、相手がAIを軍事利用とかするならこちらも一定のAI能力を持つこと?
そうしなければ交渉のテーブルとかにすら立てないようになってしまいます。
この意味でパランティアAI時代の抑止力を作っているとも言えます。
ただここに危険がはらむこともあると思います。
抑止力として作ったAIはそのまま統治装置にもなると思います。
最初はテロ対策、戦争をしないためみたいな感じだと思うんですけど、
次に犯罪対策だったり移民管理や、さらに福祉の不正検知や行政の効率化、市民のリスクスコア化というように、
最初は限定的だった目的が少しずつ広がっていく。
このことをミッションクリープと呼びます。
一度AIとデータ基盤が国家の中に入ると、それを抜くのってすごく難しいことで、
なぜなら便利で早く効率的、安全保障上必要といえる側面もあるため、
制度は後戻りが難しい設計になっているからです。
でもその便利さの裏で民主主義の重要な機能が弱まる可能性もあるという点が指摘されています。
バランティアやスティールがやってることが完全に悪とは言えず、むしろ主張には一理ある面もあって、
そこは民主主義が遅い。
それならAIが合理的な判断した方がいいっていうのは確かにその通りではあるんですけれども、
それはなんで遅いかっていうと、議論したり、反対意見を聞いたり、考える。
過去の事例を持って考えたり、その調査委員会みたいなのを通したりとか、
選挙で問われたりとか、そういう補助線がたくさん引かれているので遅いので、
緊急時やその軍事、軍閣、安全保障とか災害対応の面では、この遅さがマイナスに働くこともあると思うんです。
だからAIで判断を早くしたり、データで制度を高めたり、官僚制を効率化したりすることは、
合理的な判断と言えると思います。
でも民主主義の遅さは欠陥でもあり、ブレーキでもあるっていう側面もあると思って、
それは国家権力が暴走しないためのブレーキになってると思うんです。
過去の歴史から人間は間違えるし、多数派も間違えるし、政府も間違えるっていうのは明白ですよね。
平和だった生活から一気に戦争万歳変わる瞬間があったと思います。
AIももちろん目的を持ってるわけじゃないので間違えることもある。
だから一旦止まって考えたり検証したり、いろんな人の意見を集めたり、選挙で変えられるってことは、
効率は悪いかもしれないけど取り返しのつかない判断を避けるための遅さというか、
安全装置でもある側面もあると思うんです。
なのでここを軽視して合理性だけに振り切るとAI統治は結構危険になっちゃうんじゃないかなと思います。
ちょっと複雑な議題ではあるし、多分答えが出ないことでもあるので一旦整理したいと思います。
ティールの主張の評価とAI統治の課題
ティールの質問弱点を主張と一理ある部分、足りない部分に分けて見ていきたいと思います。
民主主義は遅い。ティールの主張、民主主義は遅い。これはその通りです。議論も多いし妥協も必要。
でも足りないのは、遅さは権力暴走を防ぐ機能でもあるっていう視点です。
早ければいいわけではなく、早く間違える社会は、後戻りできない社会は危険にもなり得ます。
また、模倣欲望ですよね。人間は流されやすい。これもその通りだと思います。
恐怖や不安を煽られると極端な選択に流されちゃいがちだし、世論や多数派に流されてしまいます。
だからAIがデータに基づいて判断を補助することには結構意味があると思います。
でもここで足りない視点は、AIの目的設定も人間が行ったものという視点です。
AIは人間の偏りを消すわけではなく、むしろ高速化、大規模化するリスクもあることを念頭に置くべきだなと思います。
AIの方が精度が高いっていう主張、これも領域によっては正しいです。
医療や物理や災害対応や厳事分析、AIが人間より早く広く精密に判断できる場合はたくさんあります。
でも、その精密に判断できる部分と正当性、また前世みたいなものを駆動しているかっていうのはまた別物っていう視点も大事だなと思っていて、
例えばあるAIがこの地域は犯罪リスクが高いと公正度で予測したとします。
ではその地域の住民全員を重点的に監視してよいのか、その結果偏見や差別が強化されないのか、
そういうことは精度の問題じゃなく倫理や正当性の問題になってくると思います。
で、ティールの主張4つ目、中国がAIを握るのは危険。これは私はかなり正しいと思っています。
中国は福国をすごい押してるし、昔の自分たちが強かった時代みたいなのの栄光みたいのを取り戻そうみたいな思想があるし、
根本民主主義ではない国家がAIをトップダウンで進めることで、監視や見聞や社会管理、軍事に使うことは結構深刻なんじゃないかなって思ってます。
でも、だからアメリカの企業が派遣を握るべきっていう主張もまた飛躍があると思っていて、
中国が危険だからといって、米国の民間企業が中核になることが自動的に正しいっていう理論は成り立たないですよね。
むしろ企業は選挙とかで選ばれてるわけじゃないから、何か間違ったことをしたりしても選挙で落ちるみたいなこともないし、
意思決定のプロセスや透明性も担保されてない側面があったりとか、
アメリカも過去の歴史の中で正義をもとにたくさん戦争もしてますし、今もしてますし、
自分的にはもう中国もどこも軍事に扱わないって一旦みんなで決めて約束守ろうよって思うんですけど、
でもなんかその約束が機能しないなら、相手が軍事AIとか監視AIとかサーバー攻撃とか情報操作にAIを使っていたらどうするのかって言われると、
その不穏があるからみんな同じことをするし、これがAIだけじゃなくて軍閣のジレンマって言われているものですよね。
だから現実的には誰が握るかではなくて、核みたいに分散的に握る形になっていくのかなと思ったりしてて、
そこでパランティアのような企業が出てくるのも必然的ではあるなって思ったりして、
彼らがAI時代の力の均等を作る存在にもなり得る、力強くにもなり得るけど同時にその力は国内の民主主義を主張しながら民主主義を壊しているという矛盾にもなってしまうっていう難しい問題があるなぁと思いました。
そのAI文革のジレンマが核とかそういうのと違って他の国が何をやってるかっていうのはすごく見えにくいっていうのも問題の一つかなと思っていて、
インターネット上でデータベースとかAIモデルとかアリゴリズムとかAI時代の権力は見えない部分で社会を動かしていくみたいなことになっていくのかなって思って、
民主主義の手続きが残ったまま実質的な判断基盤が別の場所に移る可能性もありますよね。選挙はあるし法律もあるし行政もあるけど実際にその判断の前提を作ってるのはAIのシステムかもしれないし、
そのシステムを設計しているのは民間企業かもしれない。政府とかじゃないかもしれない。でそのロジックは機密や知的財産として見えないものになっていたら?ってなると、
なんか形式としては民主主義だけど、実質的な設計権は技術企業、テック企業、クラウド企業を軍事AIとかデータ基盤企業に移っていくみたいなことにもなりかねないのかなと思いました。
それがそのティールが予測している未来っていうのにも当てはまるんだろうなーって思いました。
AIの社会課題解決への貢献と監査の必要性
ではバランティアは完全にダメ悪みたいな感じで、今までの話で単純に悪とは言えない現状も私はあるなと思っています。
まずなぜならAIやデータ基盤は本当に社会課題解決に役立つ側面もあると思うからです。災害対応を早くできたり、医療リソースを適切に分配できたり、
医療生の無駄を減らしたり、人間のバイアスとか、公平性じゃない部分って人間誰しも持ってると思っていて、そういうのを減らしたりとか、戦争やテロのリスクを早期に発見できたり、
サプライチェーンを安定させられたり、人間が見落とすパターンを発見できたりします。
これは、AIを使わない社会が正しいわけではなく、むしろAIを使わないことで止められない争いや解決できない課題もあると言えます。
だから問題は、その情報を取って分析する企業が存在することではなくて、その監査みたいなものをどう設計するかが問題な気がしています。
AIの倫理的問題は、使うか使わないかではなくて、便利な技術はもう使われていくっていうのは、もう人間そうなってるので、使われていく前提で、
で、使うなら、その、どう監視、監査、誰が、なんかどういう透明性を持って、どう縛り、どう守るか、みたいなところが重要なのかな、というようになってくるのかな、
なんかそういう制度を私は、なんだろう、考えたりするのはできないけど、なんか考えて、めちゃ他人任せになっちゃうけど、考えてほしいなーって思ったりしています。
AI国家と自由の未来
で、ここで今回のタイトルに近い結論に入りたいと思います。
パランティア的な思想は、自由を守るためにAI国家能力を高めようとしています。
中学に負けないため、権威主義に対抗するため、テロや戦争から守るため、この目的自体は理解できますよね。
でもその過程でAI国家と企業が強く結びつくと、自由を守るためのAIが、自由を管理するAIになる可能性もあります。
なんか、安全のためとか、安全保障のため、治安維持のため、国益のためとか、こうした言葉はどれもすごく正しそうに聞こえます。
でもそれらが積み重なると、個人の自由は少しずつ狭くなる側面もあります。
監視されたリスクを明かされる、しかもその判断はAIが出した合理的な判断として扱われるので、
人間の偏見なら反論とかができるかもしれないけど、中立的な判断ですと言われると反論もできなくなっちゃったりとか、
でも実際にはAIの目的も設計も人間が作ってます。
なのでAIの合理性をそのまま信じることも危険ではあるんですよね。
で、どうすればいいんだろうっていうところはまた繰り返しになると思うんですけど、
パランティア的なAI国家に対して、私はAIを使わないとか止めるとかっていうのが答えになるわけじゃないと思っています。
AIは社会課題解決にも使った方がいいし、なんか社会を良くする道具にも絶対なると思ってるので、
でも必要なのはAI能力を高めると同時に、AIの権力を縛ることなんじゃないかなと思います。
具体的には2点の次のような視点が必要だと思います。
まずはAIは判断の補助にして、最終責任は人間と制度が持つ設計をすること。
で、次に目的設定は民主主義で行うこと。
AIに何が社会にとっていいかを最終決定させないことなのかなって。
そして、透明性と監査できる仕組みを作ること。
第三者が検証できたり、誰でも意義申し立てできたり、判断理由が説明されていることが、
それが間違っていたとしたらアップデートもできるし、民主的な使い方なのかなと思いました。
最後に、自由主義を掲げてパランティアは、
もしやってるなら、自身のAI権力も上記の視点を持って使うことが大切なんじゃないかなって思いました。
自由主義の本質は、自分たちの権力を疑えることだからです。
国公をしないで遂行していくと、自由主義はただの名前になってしまうのでは?って思ったりします。
今回はパランティアとAI国家について考えていきました。
パランティアはAI時代の抑止力を作る存在にもなり得ます。
中国型AI統治に対抗する上で、西側がAI能力を持つことは確かに現実的な意味があります。
でも同時にパランティアのような企業が行政、軍事、企業の判断の中核に入ることは大きなリスクも伴います。
AIは社会課題を解決する道具になり得るけど、監視や管理の道具にもなり得るし、
民主主義を強くすることもできるけど、民主主義を弱らせることもできちゃうかなと。
だから今回の着地点は、AI時代に必要なのは性能の高いAIを国家が持つことだけではなく、
強くなった、またこれから強くなるその権力を、誰がどう止められるのか、それを修正できるのかっていう設計をする方向なんじゃないかなということで、今思ってます。
この流れでAI時代の民主主義や人権やルール、そしてみんなが考え方が違っても共存できるための設計について、これからもこのラボとかまたみんなで考えていけたらいいなって思います。
ではでは、ちょっと今回規模でかい話になったのですが、今の世界を知るために私も勉強になったので共有しました。お聞きいただきありがとうございました。ではでは。