2024-06-24 22:14

渡邊満久 principledrive(株) 代表取締役

法律だけじゃない、デジタルテクノロジーのガバナンスとコンプライアンス


2023年に「法律事務所」と「株式会社」の2本柱でスタートしたprincipledrive。現在は主に株式会社側でデータとAIを代表としたデジタルテクノロジーの社会実装を推進するための事業支援、ガバナンス体制の構築の支援を行っています。

従来型の「法務」「リーガルチェック」のあり方では、AIの利活用が止まってしまう・・・そうした思いから提案される「最適なガバナンス」について。

さらには、個人情報保護法改正でAIについても議論される?そして現行の個人情報保護法において企業側に求められる「魂をふきこむ」作業・・・など法律の枠組みを超えた“法”についてのお話を聞かせて頂きました。


サマリー

プリンシップルドライブの渡辺光久さんが登場し、法務事務所と株式会社の二つを経営していることが紹介されます。主な業務はデータとAIの法的ガバナンス支援であり、AI関連のリスク評価やガイドラインの作成に取り組んでいます。今回のエピソードでは、AIガバナンスについての考え方や企業の責任について話されています。特に個人情報保護法や法律の対応についての議論がなされており、企業側が自ら考えて行動する必要性が強調されています。デジタルテクノロジーから出発した経緯もあり、この文脈で活動していきたいとの考えが述べられています。主体的に行動を起こすためには上からの指示だけではなく、現場からの声も重要だと述べられており、今後はそこを改善していきたいとの意向が示されています。

会社の紹介
Location Weekly Japanです。今週はプリンシップルドライブの渡辺さんにお越しいただきました。渡辺さんよろしくお願いします。
よろしくお願いします。
じゃあ早速会社紹介でご紹介をお願いします。
はい、私は渡辺光久と申しまして、今、法律事務所と会社の二つをやらせていただいております。
もともとは2012年に弁護士登録しまして、そこから法律事務所で勤務しておりまして、昨年2023年の9月に独立開業をしました。
名前はプリンシップルドライブという法律事務所とプリンシップルドライブ株式会社という二つがあるんですけれども、主に最近は株式会社の方で色々案件を受けしております。
で、やってることはデータとAIに最近代表されるデジタルテクノロジーですね、特にテクノロジーの社会実装っていうものを推進するために様々な事業支援をしたりですとか、ガバナンスの体制構築ですね、そういったものを支援している会社、法律事務所になります。
昨年来からのブームで言うと、これは位置情報のロケーションのRubyMAさんなんですけども、最近我々AIの方の事業も非常に多くてですね、AI倫理ということを皆さん聞かれたことあるかもしれませんが、倫理って言っても何のこっちゃわからんというお話でして、これは実は位置データにも関連してまして、プライバシーとか個人データ保護って言われたときに実は中身がよくわからないって話はよくあるんですけれども、
この中身をですね、分解しまして事業を進めたりですね、経営側の意思決定に資するようなガバナンスっていうのをどうやって作ればいいかという、そういう仕事をしております。まあちょっと抽象的ですが、一旦自己紹介としたらこれぐらいにしておきます。
はい、ありがとうございます。何で会社を作ってんすか?弁護士だけれども全然やってきるために。
法律事務所って名乗りますと、皆さんイメージされるのは法律相談ですね。大きな会社にお勧めの方であればよりイメージしやすいかもしれないですけど、大きな会社だと今日本の会社にも法務部というのがありまして、高齢対応、狭い意味でのコンプライアンスですけれども、高齢対応っていうので法務部に相談されること多いと思いますけれども、
法律事務所を名乗りますと同じ現象が起きまして、一、データとの関係で言うと個人情報方法上どうのこうのっていう相談に極小化されてしまうんですね。たださっきご説明したように、我々がやってるのはどっちかっていうと、事業をローンチするためのデータの取り扱い方ですとか、AIっていうものをどう利活用するか、利活用する過程で人々に対するこういうリスクがあるとか、
そのリスクっていうものをどう評価して、どういうリスクならテイクしておくて、どういうリスクならテイクすべきでないのかっていう意思決定のところにまでつなげるということを意識して業務をやっておりますので、そうなってくると法律事務所の看板でやるとちょっとイメージと違うということがありますので、そういう意味もありますし、中にお客さんでは法律事務所じゃなくて個人である会社に相談したいっていうお客さんがいらっしゃることもあるので、そういう過程経緯があって会社が出来上がったということになります。
そうですね。確かに弁護士さんに事業相談ってしないもんだっていう、なんかそんなイメージありますね、多分ね。
しないんじゃないでしょうか。昨日も実はそういう話をある会社の、いくつかの会社の事業部の人と法務部の人、知財部の人が集まってたまたまそういう話をしてたんだけども、本来もっと早めに相談をしてほしいっていう人たち、私と仲がいいので、みんな私と同じような考えを持ってるんで、ある意味偏っているのかもしれないですけども、もっと早く相談してもらって、どう事業を組み立てていくのか、それはルールの側面からですけれども、
そういうところを一緒に本当はやらないといけないと。その事業が大体出来上がって、最後の最後にじゃあこれリーガルチェックよろしくっていうやり方でやられると、もう何もできないですとか、今更言われてもということになるっていうのもあるので、そういう意味でも従来の相談の仕方を変えたほうが事業部側の人にとっても多分メリット大きいですよというところもあるかなと思います。
そういう意味で言うと、AIについてせっかくならお伺いできたらと思うんですけど、AIってどうなんですかね、法の整備ってまだ追いついてないですよね。
AIに関して言うと、法律という形で存在しているのはEUのAIアクトだけです、今のところ。それに追随する動きっていう意味で言うと、もう世界中ほとんど今のところなくて、カナダでちょっとそういった話があるっていうところぐらいでして、アメリカもイギリスも法律を作ってっていうことをやってません。
どうしてるかっていうと、例えばアメリカですとNISTっていう国立の技術の基準を作ってるところがあるんですけども、NISTっていうところがAIリスクマネジメントフレームワーク、AIRMFと呼ばれるものを作っていて、そこでそのAIにおけるリスクとはこういうものでとか、それをどう軽減するかみたいなガイドラインっていうとちょっと語弊があると思いますが、そういったものを作ってたりしたりしますし、
AIの法的整備
OECDでAI5原則っていうものが先日改訂版の新しいのが出ましたけれども、その5つの原則があって、その原則を守っていくために皆さんいろいろやってねというところで、こういう法律じゃなくて日本でいうところのガイドラインで近いものでやっていく、これソフトローと最近呼んでいますけれども、こういうソフトローでやるっていう動きがAIに関しては多いと。
日本もずっとそうだったんですが、なんか最近ちょっと日本おかしいなことになってまして、ソフトローで行くって言ってたのに、なんか突然法律を作るんだっていうことを言い出したりして、ちょっとなんかまた雲行きが日本は正直怪しいかなと思ってます。
最初に話が出たAIアクトも今年ですかね、施行されたのは。
成立したのがもうついこの間っていう形で、条文はほとんど固まってたんですけども、この間成立しまして、施行っていう意味で言うとEU法と日本法の施行のちょっとニュアンスが違うんであれなんですけれども、効力を発生し始めるっていう意味で言うと、AIアクトの中で一番早いもので半年後ぐらいからだと思います。
この半年間でみんな準備しろよっていう。
一部なんで半年後でやられるのは、ちょっと記憶が正しいかとかあれですけれども、禁止AIっていうものがあって、この禁止のところに関して一番早く効力が生じるはずです。
我々もEUの弁護士に来てもらって、この話は去年の末ぐらいにして、いつ効力が発生するか、モニャモニャみたいな話はしてたんですけれども、それでも成立まで持ってったっていうところは、早いは早いですよね。他が誰もできてないっていうところはありつつなんですけど。
じゃあ日本ってどうなんのっていうところなのかなと、このポッドキャスト的には。
私の考えという意味で言うと、先ほどもハードローとかソフトローとかっていう言葉が出てきましたけれども、追随する必要は私はないかなと思っています。
言いますのは、個人情報保護法でも同じなんですけれども、今データの世界で言うと、個人情報保護法守ってるだけではダメでっていう話がようやくなんとなく浸透し始めてきたぐらいだというところで、そこにプライバシーっていう話が出てきて。
プライバシーってそもそも何なんですかとか、プライバシーと個人データ保護法っていうのは違うんだという話とか、いろいろそういう話がようやく出てきているところですけれども。
ひるがいとAIに関して言うと、EU AIアクトでは禁止されているようなAIって本当に日本で禁止する必要があるんですかと。
EUはEU域内において達成したい世界観っていうものを当然持っていて、それを達成するためにEUのAIアクトっていうものを作って、特に禁止AIとハイリスクAIっていうものを定めたという中で、じゃあ日本は日本の政策目標があるはずですよというところで、じゃあいきなりAIアクト真似すればいいんですかと言うと、別にそれは違うと思いますし、
AI倫理っていうところ、私はあんまり倫理っていう言葉自体もあんまりほんとは好かんのですけれども、AI倫理っていうふうに言ったときに、みんな中身わからないですよねと今。中身わからないままEUの真似事をして何か法律を作ったらどうなるかというと、個人情報保護法と同じことが多分起きますと。中身よくわからないまま何か規制が出てワーワー騒いでいるという状況になると思うんですけども。
あんまり望ましくなくて、じゃあ日本においてはAIを使ってこういうことをしたい、ああいうことをしたいっていうことと、それをすると実はこういう権利侵害、権利に対する人々が持ってる権利に対するこういう危ないことが起きるかもしれないよっていうところを踏まえて、じゃあ日本どうしたいんだっていう話をしないといけないはずでして本当は。
その議論が煮詰まった段階でハードローっていう形で法律を作るっていうことをするのが本当は望ましいはずで、そこに至るまではソフトローを駆使してAI事業者ガイドラインっていうのができましたけれども、ソフトローを駆使してみんなである程度考えながらやらないと、もうどうせまたあの日の方ではガイドラインが出たらそれ守らないといけないって思考停止になってみんなよくわからないどうしたらいいのっていうふうに多分データのときと同じことになっちゃうと思います。
そうですね。じゃあ倫理って何っていう話って、難しいというか倫理自体がそもそも文化に対して正しいかどうかなのかなと私は思ってて、その文化がEU圏と日本って全然違いますよねっていうのはあると分かりやすいかなとは今の話に伺ってて思いました。
で、そんな中プリンチフレードライブさんはどんなことをご提供していらっしゃるのか企業に対して。
AIっていう文脈で申し上げますと、今まさに申し上げた通りでして、法律はないですと。で、AI事業者ガイドラインはできましたし、分厚い別冊があれついていてジレーションみたいになってますけれども、あれをですね、さっきちらって言いましたけど、盲目的にこれを守らないといけないってやってしまうとですね、とてもAIの利活用進まないですよねというところで、
AIガバナンスと企業の責任
じゃあ会社さんごとに我々のクライアントごとにAI原則って呼ばれてるところで守らないといけないことを皆さんが思うのはどれかとかですね。皆さんの事業展開の中で具体的にこういうAIがいいですよ、要するにバイアスがダメとかね、いろいろ書いてますよね。個人の人格的自立を守りましょうとかって書いてますけれども、それを細かく分類したりとか、海外の事例とか日本の事例でもいいんですけども、こういう事例をもしやったときにこういう問題がありますよねっていうのを分析して、
これじゃあ皆さんの会社としてこれってやりますかやらないですかと。その判断軸はどこにあるんですかと。例えば中期戦略の中に社会課題解決としてこういう課題を解決したりとか、最近だとどの大きな会社さんだったらそれいろいろ持ってるはずなんですけど、それに照らしてそれは正しい方向に行ってますか、それともそれは間違った方向に行ってますかと。
もっといろんなこと、いろんな試行実験をするんですけれども、そういうものをやりながら各社ごとにですね、各社でこれ考え方は違うところなので、各社ごとにその会社に適したAIのガバナンスとか、AIに対するそのものの考え方の道しるべみたいなのをまとめて、そういう基準を実際に運用してもらうというところを運用してもらって、運用するとダメなところとかいいところ、どっちも分かってくれるので、それをいろいろ見ながらダメなところは改善していくっていうので、
だんだんガバナンスっていうものを、体制っていうものがうまく運営するようにやっていくという、だから法律事務所がやってる話と全然違うと思うんですけど、そういうサービスをやらせてもらってます。
例えば、さっきEUの話ありましたけど、EUのAIアクトはEUのこういう権利に対する考え方があるからこういう定めがあるんじゃないかというような仮説を持ってきて、それに対してじゃあEUはそう言ってるけど、日本の企業である我々が日本でAIをもし利活用するんだったら、ここはもうちょっと緩めてこういう課題解決をしたほうがいいんじゃないかとか、
そういう単純にEUのAIアクトの条文を勉強して、なんかこれが禁止で、これがハイリスクでっていうのじゃなくて、EUがどうしてそういうものを作ったのかなっていうところから踏まえて各社ごとにですね、その考え方をどこの場面だったら活かせるのかとか、どこの場面だったら緩めるのかみたいなようなそういうこともやってます。
なんか結局法律があって、法務部とか顧問弁護士の役割ってそれが方法かどうかっていうのをチェックするっていうのがまあトラディショナルな企業での活用のされ方だったと思うんですけど、あの今のお話伺ってると、まあまだ法律もないよと、それでじゃあそのガバナンスって何に対してのガバナンスなんですかっていうと、なんですかね、社会的なざっくりと炎上しないこと?そういう観点ですかね。
えっと、なんかその話し始めると結構だんだんややこしい面倒くさい話になっていきそうですけれども、そもそもガバナンスって何なんですかだと思うんですよ。で、コンプライアンスとガバナンスって違うんですかとか、私はちょっと違うと思ってますけれども、詰まるところじゃあ現状、我々がガバナンス、特にAIガバナンスっていう文脈でいうと、そのAIがもたらす権利侵害とか人の利益に対する侵害とかっていうものと、便益って言ったらいいですかね。
AIがもたらすことで解決される、いろんな課題解決とかでもたらされる利益があると思うんですけれども、その辺をどういうふうにそれを評価するかっていうことと、その評価を踏まえてAIを使ったあるビジネスをやるかやらないかっていう意思決定ですね。
そこの経営側の意思決定をするための道具立てをいろいろ作って、意思決定に資する。で、ビジネスがうまくいくようにするし、ただでも止めるべきものは最後は止めますよっていう、そこの意思決定のところの仕組みがガバナンスだっていうふうに思ってるので、いわゆる法律上適法ですか違法ですかみたいな話よりは広い話ではなってると思ってます。
なんかあれですか渡辺さんがその2012年に弁護士になったときにこういうことをやろうって思ってたんですか。
全く思ってませんでした。私はもともとはタックスローヤーになろうと思ってました。
すごいですね真面目なところ。
なので票試験の選択科目っていうのがあるんですけれども、それも税法でした昔は。
また何でこんなコーパレットのデータタクノロジーみたいなところに。
あのですね、私何個か法律事務所転職してるんですけれども、そのうちのある一つの法律事務所にいたときにM&Aの案件があって、対象会社が位置情報をやっているベンチャー、いわゆるスタートアップ企業だったと。
そのM&Aをするときにホームデューデリジェンスっていうのをやると思うんですけれども、
ホームデューデリジェンスをやると個人情報保護法上適法ですっていうレポートを書いたんですよね当時。
一応適法だと。
ところがそのスタートアップがやってる位置情報ビジネスってかなり際どいことをやってましたというところで、
この法律は一体何の役に立つのかなっていうとぼくな疑問をそのときに思いましたというところから始まって勉強し始めましたね。
そこから今になるっていう感じです。
なるほど。ありがとうございます。
そうですね、ちょっと真面目な話ばっかりしてるとあれだ。
その個人情報保護法は次は2025年ですかね、改定を予定されてるのが。
企業側の自己考察と行動
なのでそこに向けてAIどれぐらい入ってくるんだろうねみたいな議論は最終局面に今来てるのかなと思うんですけれども。
位置情報もしっかりですけれども、おっしゃるとおりで何の目的なんでしたっけ?
違反したら誰がどう困るんでしたっけ?みたいなところが法律としてある部分っていうのはもちろんあると思うんですけど、
我々業界団体としてはその事業者がエンドユーザー、データ提供者に対してどんな約束をしているかっていうところの方が重要なんじゃないかなと。
まあ方が重要っていう言い方おかしいですけど、それをしっかりと、それも法律じゃなくてユーザーとの約束なので、
その約束をしっかり守っていく。で、どんな約束をするんですか?みたいなところをしっかりフォローできたらなというようなことは考えてますっていう中で、
プリンシパルドライブさんにはもっといろいろ活躍していただけたらなと思っておりますけれども。
ありがとうございます。私もそこは大事だと思っておりまして、また真面目な話ね。
いいですよ。
さすがにいい加減に何でもどういうときはいいのかみたいな話もようやく日本でも活発になってきてて、
今の見直しのところでも有意識者の人たちがいろいろそういう話を言ってくれていると言っていただいていると、
資料を見ているとそういうふうに感じているところなんですけれども、
やっぱりそれは理想でしょうって言われるかもしれませんけど、
やっぱり私は国の側というか、そちら側で法律としてちゃんとしてもらうっていうのもやっぱり非常に大事だし必要なんで、
当然それはやっていただきたいと思うんですけども、
一方で企業側が、特に自分たちは先端を走っていきたいって考えている企業が、
行政とか法律を作るのは国会ですけれどもね、概念的には。
が言っていることを待っているだけではやっぱり私はダメだと思っていて、
企業の側でやっぱり自分たちで考えるべきだと思うし、
自分たちがこういう事業をやりたいで、それがやっぱりこういう社会的価値があるんだっていうのであれば、
それと個人データの保護との関係性っていうものをやっぱりそこは自分たちでセキュリティに考えていくべきだと思っていますので、
だから我々もそこにサービス提供しているというところになっていますし、
経営者への啓発活動
今の約束ごとっていうところはまさにそこがやっぱり自分たちで考えないと約束ごとって出てこないはずなので、
そこで出てくる約束ごとが個人情報保護法に書いてある第三者提供がどうのこうのっていうような、
そういう事件の話ではないはずなので、
つまりところ現状の個人情報保護法はほとんどが形式的な対応を求めているだけで、
実質的な中身に関してはほぼ何も言っていない状況なので、
何も言っていない中身、実質のところ、私よく魂を吹き込めとかって言うんですけれども、
そこに魂を吹き込むっていうところを、
それは企業側でもぜひ考えて欲しいっていうことを結構強く思っています。
ありがとうございます。いいですね。魂を吹き込む。一瞬北斗の剣の情景が浮かびました。
はい。ちょっとじゃあ最後に今後の展望について最後厚く語っていただいて。
そうですね。今後の展望っていうことか。
そういう意味で言うと、やっぱり個別の事業をどんだけサポートしても限界があると言いますか、
無数の新規事業の発想っていうものが会社内で起きているので、
それを全部今言ったような形で支援するのは無理ですよね。
というとやっぱりガバナンスっていう話に戻ってきて、
じゃあそこをどうやって全社的にコントロールしましょうかっていう話になると思っていまして、
そこは今まで従来やってきたホームと言われる領域の仕事だと、
やっぱりそこは手は回ってないんだと思うんですよね。
そこに自分たちで考えるとか、
自分たちの会社のビジョンとか社会で成し遂げたいことと踏まえると、
こうだよねっていうところに行かないといけなくて、
これは従来のホーム業務を飛び越えると思います。
ただそういう機能って、
例えばCLOっていう新しいポジションの名前がなんとなく浸透してきていると思いますけども、
本当に日本の大企業の経営側がCLOに本当にやってほしいこととかやるべきこととか、
CLOに頼むべきこと。
もっと言うとホーム部長とCLOってどう違うんですかみたいな話になってくると思うんですけれども、
その辺をもっと経営の人にも知ってもらいたいなっていうのは思っていて、
もっと今私この20分、30分くらいかなでお話ししてきた、
そういう使い方ができるよというところをもっと経営の方に知っていただけるような活動をしていきたいと思っていますし、
それを経営の人たちに知ってもらうことで、
テコにした事業価値向上
さらにルールをテコにして企業価値を向上していくんだっていう、
そういう取り組みが日本でもある程度浸透するといいなというふうに思っていますので、
我々はたまたまデジタルテクノロジーから出発したんで、
この文脈でやっていきたいと思いますけれども、
そこをテコにしてもっとルールとか、
そういうものをテコにした事業価値向上っていうことのやりようがあるんだよっていうことが、
少しずつ広めていきたいというふうには思っているところです。
なるほど。ありがとうございます。
ホームってなんか事業側からすると敵じゃないですか。
よく言われますね。
あの構図をやめなきゃいけないんですよね。
そうだと思います。
一方で当然必要ではあって、
契約フォームいらないんですかって言ったら、
いや、そんなことはないんですよね。
ただ、じゃあ現状ホーム部が両方できるかって言ったら、
そもそも人的リソース的に全然足りてないので、
両方やるのは無理ですし、
しかも頭の使い方もこの2つかなり違うので、
ここを抜本的にテコ入れしようと思うと、
やっぱりトップダウンで上からこういうことをやってっていうところで、
上から言ってもらわないと、
いくら現場から声を上げてもなかなか難しいと思うので、
そこがうまく私はいってないと今思っているので、
現場側でこういう問題意識を持っている人はいっていることは
もう分かってきたんですけれども、
それをトップダウンでガッとできる環境が
日本の会社の中にあるかっていうと、
ガバナンスなどとしての実現
ちょっと残念ながらまだないかなと思っているので、
そこら辺は何とかしたいなと思います。
はい。提案があるんですけど、
要はそのガバナンスなのかコンプライアンスなのか、
その会社として、
ホームとして実現したいところっていうのを、
事業側とか他の社員が
労働的に実践することに対して、
お金あげりゃいいんじゃないかなと思っていて。
一つの回としてはそうだと思います。
予算を作るとか、
そういうことをやると、
ちゃんと評価に結びつくよってならないと、
やっぱり会社の中では物事動かないと思うので、
当然一つのやり方だと私は思います。
やっぱり金じゃないですか。
人は善意で動かないので。
おっしゃる通りです。
なんかそういう仕組み作ってください。
儲かる。
そしたらもっと意識高く、
初期段階で検討とかそういうのも、
いろいろボトルネックが解消されるんじゃないかなと。
私もコンサル事業をやりながら、
どうしてもホームチェックで2週間待ちみたいな。
やっぱり違うんですよね。
もっと早くからやってりゃいいじゃんっていう話が。
そうだと思いますね。
必ずあるので、
じゃあそこに対してっていうのと、
その事業側の敵対心的な心情みたいなのを解決は、
善意ではできないので、
上からトップダウンで言われたとしても、
しょうがねえからやるっていうので、
だとあれだなと思うんで、
え、やったら1万円もらえんの?の世界が、
やっぱいいんじゃないかなって気がしました。
評価とお金を結びつけるのは大事だと思います。
なんかまあ私、
我々の人数がいないんでご手に回ってるんですけれども、
川島さんとせっかくなんで協力したいですね。
その辺は広めていきたい。
いけるといいと思います。
ありがとうございます。
今日結構面白かったですね。
ありがとうございます。
ありがとうございます。
プリンシパルドライブの渡辺さんでした。
どうもありがとうございました。
どうもありがとうございました。
22:14

コメント

スクロール