1. 拝啓、3000年の人類へ
  2. #S2-18 AI時代の技術者倫理【..
2024-01-05 30:06

#S2-18 AI時代の技術者倫理【モノの価値の本質は?】

生成AIが急速に普及する現代、アーティストやエンジニアの倫理は?

アーティスト ぷにぷに電機さん と一緒に、旅行を通じて気づいたテクノロジー、アーティスト・エンジニア倫理、モノの価値の本質について考えてみます


ゲスト:ぷにぷに電機さん

番組:LAUNDRY AM

https://open.spotify.com/show/3RiERAPOFhmIb2lSKkmKAH?si=EhzCze9RTGec2hsqRViUbA


関連エピソード

「094 ぷに散歩〜北欧、前編〜」

https://open.spotify.com/episode/3zzl0lGTYtGnSKpfQAdwwr?si=Pa_RnJusQwy2DI6RV77XPA


「095 ぷに散歩〜北欧、後編〜」

https://open.spotify.com/episode/7zlNY8bKElPGGXnNTZNUgK?si=c9MgbessQQqusPu6jsYfEQ


この番組は、西暦3000年の、未来を生きる人類に向けて、現代人が日々感じることや、ワクワクする未来への想いを発信し、今を生きる皆さんと一緒に、未来に音声を残そうとする番組です。


BGM素材:DOVA-SYNDOROME、効果音ラボX@echo3000_radio https://twitter.com/echo3000_radio

感想等は #echo3000 でツイートしていただけると喜びマス

00:18
未来人の皆さん、こんにちは、あっちゃんです。 今回ですが、ゲスト回全編ということで、インターネットを中心に音楽活動、
アーティストをされているプニプニ電機さんにお越しいただき、 ゆるっと最近思うことを話しながら、音楽や社会、技術やアーティスト輪についてお話をしているんですが、
事前のお話が楽しくなっちゃって、いきなり雑談から始まっちゃってます。 ご了承ください。
それでは、どうぞ。
ということで、今回ゲストに来ていただいたプニさんです。
はい、プニプニ電機です。よろしくお願いします。
よろしくお願いします。
どうですか、最近。
最近どうですか、難しいですね。
そうなんですよ。
難しくはないですね。
実は今週、1週間夏休みだったんですよ。それで島に行ってました。
前回のやつ?南の島、伊豆諸島のやつ?
そうですね、伊豆諸島に行ってましたけど、ちょうど一昨日帰ってきたばかりで、4日間ぐらい行ってましたね。
どうでしたか?
めちゃくちゃ良かったですね。
島いいですよね。
島めちゃくちゃいいんですよ。
島は生態系的にも保存されているじゃないですか。海で隔てられているからこそ残っているものが結構島にはありますよね。
ありますね。ちゃんと文化がめちゃくちゃ残っているところがすごくあってですね。
初日に歴史の資料館みたいなのがあったんですけど。
私も好き、それ。
最初に行ったんですよ。まずこの島のこと知りたいなっていうので。
1週間前に予約をしてすぐに行ったっていう感じだったので。
思いつき?
思いつきで行ったんですけど、せっかくなんで島のことを知りながらもあると楽しいかなと思って行きましたよ。
ローカルな、いわゆるめっちゃデカイ、上野のバカデカイ美術館だなんだっていうのももちろん素晴らしいけど、
結構小さい町の小さい郷土資料館ってめちゃめちゃ内容濃いっていうか。
濃いですね。
濃いですよね。すごい些細なものまでやっぱり全国の博物館だと見落とされてしまうようなものまで保管されているから結構見る価値あるんですよね。
私も大好きなんですよ。図書館とかローカルな図書館とかローカルな博物館。
やっぱり郷土の保存をすごいやっているところを見ると安心するよね。
03:05
しますね。いきなり最近の大衆文化から入るんじゃなくて、きちんと島の成り立ちっていうか、
例えば行った島は神津島という島でしたけど、この島がどういう風にできたのかとか、
この島では例えば黒曜石というガラスの石ですけど取れるところから始まっていたり。
ゾンビとか倒せるやつだよね。
そうですそうです。槍みたいな形でいけちゃうやつなんですけど。
ガチコンピとか倒せるやつ。これゲームオブスローンズネタなんですけど。
そうなんですよね。きれいですね。
そういった石が取れるところから始まり、じゃあ実際にどういう風に他の伊豆諸島だったり、
郷土と交流というか交易してきたから始まって、じゃあ実際に生活はどうだったのかという感じで、
ちゃんと島の歴史が途絶えないように終えるっていうところがいいですね。
いいですよね。私も先月ロンドンから北欧諸国、4カ国くらい回ってきたんですけど、
もちろん1日か2日ぐらいしかいなかったような国は、ざーっと観光地を回っただけだったんですけど、
結構デンマーク、私デンマークがめっちゃ好きなんで、デンマークにはかなり時間をとって、
コペンハーゲン、首都のコペンハーゲンだけじゃなくて、結構周辺の田舎町の方までわーって出かけていって、
基本的にすごい音楽と気候変動のこととかにすごく興味があったから、
現地に住んでるジャーナリストの人に、デンマークって気候変動対策ですごい先進国なんですけど、
ロラントっていう彼女が住んでいる島は、コペンハーゲンの南に位置する島なんですけど、
その島は風力発電で、その島の全人口の4倍、使用量の4倍の発電ができる島で、
そうなんですよ。風力発電の輸出ができる島っていうので、近年すごく注目されている島で、
そこに住まれているジャーナリストの方にお話を聞いたんですけど、
これもすっごい面白い話で、もちろんそういう町、ロラントのマリボーっていう町にいて、
そこのマリボーの博物館があって、小さいローカルな町なんですけど、
やっぱりロラントの歴史、そういうものがきちんと保存されていて、
最近便利で、Google画像で翻訳してくれる、あるじゃないですか、
あれがあるので、最初に入った時に、すいません、表示が全部デンマーク語だから、
ちょっと読めますかね、大丈夫ですかってすごい師匠の人に心配されたんだけど、
I have Googleみたいな感じで、やっぱりテクノロジーのおかげで、
06:01
海外の小さな町のローカルな博物館の情報も見ることができるのは、
結構テクノロジーの恩恵だなと思いつつ。
そうですね。日本に限ってだとしても、やっぱり沖縄とか青森とかもそうですけど、
方言の形で残っている文章もいっぱいあると思うんですよね。
そういったものを、最近だと古文とかの文字とかも、今おっしゃっていただいたように、
画像認識で読めるようになったりとかするので、
そういった意味で、ちゃんと文化が途絶えないようにテクノロジーもついてきているところは、やっぱりいいですね。
いいですよね。テクノロジー、マジそういう使い方してくれって思ったよ。
本当ですよね。
どうしてもお金儲けっていうところでテクノロジーが進んでいる側面って、
最近もずっとありますよね。
私、趣味が放送大学を見ることなんですけど、
最近お気に入りの講義があって、それが人生の技術者倫理。
技術者っていうのがどういう人たちかっていうのを考えると、
自然にある、自然の力とか、そういうものを応用して人類の発展に役立てる人たちだ、みたいな定義があったとして、
その技術者っていう人たちは、やっぱり自然に即して人類が発展することを目指さなければいけないので、
例えばテクノロジーを作り上げた人には、社会的責任があるっていうことを考えていく講義で、
めちゃめちゃ面白くて、
すごい例に挙げられてたのが、アポロ計画に参加した技術者の人が、
インタビュー動画が講義の中で使われてたんだけど、
一回ボスがある部品を持ってきて、これを承認してくれって言ったんですって、彼に。
で、その人はそれを拒否したんです。
まだこの装置の安全性は確立されてないっていうので、
リフューズしたら、なんかすっごい怒られたらしくて、上司から。
で、お前のせいで2ヶ月ぐらい遅れるって言われて、
いや、自分のせいっていうか、自分の仕事はファイロットを安全に月まで届けるっていうのが、
自分の技術者としての使命なので、これは譲れないって言って、
断ったんですよね。
彼はやっぱり、社会的な圧力、上司からのプレッシャーとかそういうものよりも、
技術者倫理をやっぱりしっかり持ってる人だから、それを跳ねのけることができたっていう話で、
彼は今、アメリカの大学で先生として教授として教えてるらしいんですけど、
必ず学生たちにいつもこの話をする。
そういう技術者であるべきだみたいな。
で、なんかめっちゃ大事な気がすると思って。
09:00
確かにそうですね。
技術者倫理、僕もある種技術者というかエンジニアみたいなものなので、
よく考えることはあるんですけども、
作ったものに対して責任を取らなきゃいけない部分ってやっぱりあると思うんですよね。
どんなに便利なものでも、悪用されるリスクっていうのがやっぱりあるんですよ。
例えば最近のAIなんてまさにそうなんですけども、
便利なふうに使ってもらう分にはいいんですけど、
ある種性善説というかなんかわかんないですけども、
いい人が使ってくれるというふうに想定して作ったものとしても、
悪い人が悪用することでお金稼ぎだったり、
人の命に関わる部分に影響を与えることもあったりとか、
社会的な信用を失うみたいなことにつながったりするので、
そこはちゃんと学ばなきゃいけないなっていうふうに僕も思いますね。
そうっすよね。
なんか前に他のポッドキャストでAIの話になった時に、
その回ね、ポシャったんですよ。
なんでかっていうと、その時自分は結構やっぱり楽観的に捉えてて、
やっぱりAIを上手に使えば、
今まで音楽、私は音楽家なので、
今まで音楽を作ることができなかった人も、
AIの力をヘルプを借りることによって音楽が作れるようになるっていうのは、
すごくいいことなんじゃないか。
例えば詩人の人とか、すごい優れた詩人の人が音楽を作ったらどうなるかっていうのは、
私は音楽家としてすごく興味があるし、
文化の発展にすごく寄与するんじゃないかっていうことを、
実はポッドキャスト内でお話をしてたんですけど、
それを撮り終わって編集した段階で、
やっぱり生成AIの問題がものすごく議論されるようになって、
今ハリウッドでストやってるじゃないですか。
そこにやっぱ、あって思って、
うわ、ちょっと自分楽観的すぎたな、これはっていうのを反省して、
これはとても世に出せないので、
ちょっともう少しAIについては慎重に議論するべきなので、
この回はポシャリましょうっていうので後悔せず、ボツにしちゃったんだけど、
今やっぱ目まぐるしい。
そうなんですよね。
そういうペースで、技術とか倫理観っていうのがやっぱり進んでるなと思って。
僕もこの10年くらい、大学生くらいの時からずっと、
生成AIに関わるような分野について研究も含めやったことがあるんですけども、
この4,5年くらい急に飛躍的にできるようになって、
理由の一つとしては、ハードウェアの方ですよね。
たくさんのデータを扱えるっていうところもありますし、
たくさんのデータを使ってAIを学習させることができるようになったっていうところが一つあるんですけど、
それを想定してなかったわけではないんですよ。
ただ、挙動がどうなるのかっていうのは、
まだブラックボックスなところがたくさんあるんですよね。
それをきちんとまだ解析できてない部分もたくさんあるので、
12:03
手探りで研究者の方々もされてるのかなと思うんですけども、
それがまだ終わってないにもかかわらず、
一般の人でも誰でも使えるようになっちゃったというところが今の状況だと思ってまして、
だからこそ、お金を稼ぎたいっていうところだったり、
もっと楽したいっていうところが悪い方向に行っちゃうと、
今起こっているような犯罪とかいうことになっちゃう。
著作権、私はインディペンデントアーティストとして、
ジャスラック会員でもあるんですよ。
著作権を自分で持っているっていう立場の人間からすると、
AIどうしようねみたいな感じの話には当然なっていて、
ジャスラックなんかも結構声明を出したりしてるんだけど、
やっぱり技術として新しすぎるので、
法律とかも一体どうしたらいいのか誰もわからない。
そうなんですよね。
当初、法律ができたときっていうのは、
思想を享受しなければ使っていいっていうところで、
学習としては使ってもいいよとなってたんですけども、
明らかに模倣ができてしまうものはできてきてしまった。
そうなんですよね。
というところで、何々さんに似たような曲作って、
何々さんに似たような絵を描いてみたいなところを悪用して売りつけるとか、
それを使った情報商材を作るみたいな悪い人が出ちゃって、
これいかんでしょというところにもなってきてるんですね。
やっぱお金ですよ。
やばいよ、お金って。
でも、貨幣ができたとき、きっとみんな、
貨幣って昔は自由の象徴だったはずなのに、
今こうやって人間の首をじわじわ絞めていて、
貨幣システムですら制御できてないじゃんっていうのは
すごい思うんですよね。
貨幣も、私はテクノロジーの一つだと思っているので、
技術、むずいみたいな。
昔と違うのは、僕すごい思うことがあって、
貨幣って昔は全部紙とか、今もそうですけど、
高価だったじゃないですか。
それが今はデータになってるんですよね。
だからお金を儲けしたい人っていうのは、
数値を上げるゲームみたいなふうに扱ってるんじゃないかなって思っちゃって、
価値をちゃんとわかってないんじゃないかなっていう。
お金としての価値があったものを単なるデータとして見出してるからこそ、
面白おかしくそれをどうやって稼ぐかっていうゲームにしちゃってて、
本来の貨幣のありがたみとか価値っていうのを見落としちゃってるのが。
貨幣のありがたみってあるんですかね、そもそも。
一つは何にでも交換ができるっていうところはあるのかなって思いますよね。
売買のシステムが面白いなって思うのは、
物の価値の判断基準がずれてないと売買契約が成り立たないっていうシステムがあるじゃないですか。
15:01
そうですね。
例えば物を、フリーマーケットとか私ずれるの好きなんですけど、
フリーマーケット行って、じゃあこのカップは300円で売ろうと思って、
私は300円の価値があるって思ってる物を、
やっぱりこれ500円くらいの価値あるんじゃないって思う人が買っていく。
このカップを10円の価値しかないって思ってる人は買わないんですよね。
私は300円で、相手は300円以上の価値を感じている時にだけ売買契約が成立するっていうのが、
実はこれが商売の本質じゃないですか。
そうですね。
それは物の価値って実はものすごく相対的なもので、
一体どこに価値の本質があるのかっていうのは結構難しい議論だなって。
確かにそうですね。
お金っていう数値の絶対値はあるんですけど、
人によってその交換したい物の価値っていうのはそれに定まるわけではない。
そうなんですよね。
マネーゲームになっちゃってる数値をどんどん増やしていくのが楽しいみたいなのは、
結構理解できるなっていうところはあって、
私なんかゲームめっちゃ好きなんですけど、
ゲームで数増えていくのも超面白いじゃないですか。
まあそうですね。
そうだと思うんだけど。
気持ち合ってますよ。
で、すごく必要なのがお金ってどうやって稼いでるか、
いくら持ってるかっていうのがあんまり重要なのではなくて、
何に使ってるかっていうのが実は重要なんじゃないかなって最近は考えていて、
物の価値って1つに1個の物質に自分は1つの価値しかつけてないかもしれないけど、
この物質を、例えば私は音楽作ってるんですけど、
音楽1つの作品を位置づけたときにさまざまな価値判断の基準があって、
それが人間の面白いところだなと思いながら音楽を作ってるわけなんですけど、
お金を使ったりするときに、
私は結構やっぱりこのお金を使った先で一体何が起こっているのかっていうことに
めちゃめちゃ興味があって、
最近ほら私は気候変動に興味があるので、
買うんだったら絶対エシカルなやつがいいみたいな、
それは環境負荷が低いだけじゃなくて、
会社の労働条件がどうかとか、
例えば役員のジェンダーバランスがどうかとか、
LGBTQに対しての活動に対して寄与してるかとか、
そういうことまで私には物質の価値に含まれていくんですよね。
今この瞬間見えているものだけじゃなくて、
背景にあるものの価値まで詰めて買うかどうかっていうところの判断にしていると。
そうなんですよ。
18:01
どうですか?
どうですか?
僕も確かにそれはすごく思うところで、
難しい部分ももちろんあると思うんですが、
自分がどれだけゴミを増やさないものを買うかという観点があったりとか、
例えばスーパーとかでも割引されているものってこのまま捨てられちゃうから、
買うか食べるかとか、
そういった庶民的なものはあるんですけど、
ジェンダーとかそういう先のところまで見通すっていうのはまだまだできない。
できていない会社のほうが全然多くて、
できているところを見たら、
お!みたいな。
次から買うかっていうか、
広告とか謎じゃないですか。
広告っていうシステムってやべえなっていつも思うんですけど。
例えばどういう時もありますか?
情報っていう目に見えないものに、
ものすごいお金が今動いてるじゃないですか。
ぶっちゃけそのものの値段よりも、
目に見えない分、不可視化されてるんですね。
しかも情報にかかってるお金って結構不可視化されてて、
例えばCM一本作るのにみんなどれくらいのお金がかかってるかってわかんないと思うんですけど、
莫大なお金がかかってるんですよ。
私音楽の仕事をしてて、
広告付きの案件ってなると、
もうバンって跳ね上がるんですよ、ギャランティーが。
結構すごい跳ね上がり方なんですよね。
それっていうのは、
こんだけお金が集まるし、
その価値があるもの、
実は私はそれよくわかんなくて、
今どんどん広告を見なくなってきてるので、私は。
自分が気にするのは、
言って見てるんですよ、見てるんですけど、
いわゆるテレビCMとか、めちゃめちゃメジャーな広告っていうよりは、
この商品の説明みたいなイメージ、
商品イメージじゃなくて、
商品の性能を見たり、
会社理念とかの方を重視するので、
いわゆるものすごく美しい人たちがわんさか出てきて、
髪の毛がめちゃくちゃサラサラになるぞ、みたいなものに
あんまり興味がなくなってきてるっていうのが本当のところで、
そういう立場の自分だからこそ、
情報、何これ、なんでこんなに金が動いているんだ、
みたいなのはめっちゃ謎で、謎なんですよ。
僕も今思ったのは、
そのもの本来の価値っていうのはそれぞれにあるとして、
それに何か追加で有名だとか、
21:02
イメージを付与するっていうところに、
めちゃくちゃ金が動いているところに奇妙さを感じているっていう。
そうなんですよね、奇妙で、
それに大体音楽ってものすごく使われるんですよね。
やっぱりそこで自分なりの技術者倫理じゃないけど、
アーティスト倫理みたいなのがすごく関わってくるなと思っていて、
本当にこの製品売っていいのか、みたいなのに直面しちゃうんですよ。
見せかけの性能をイメージでカバーしているっていうのは、
逆じゃないのかっていうことですよね。
本来持っている性能をきちんと皆さんが認識をして、
価値を持っているっていうふうに判断してもらえればいいんだけど、
それをCMなり何かしらのイメージングで持っている。
持っているの嫌だなと思って、
実際本当にCMもいくつか自分の持っているアーティストのブランド、
自分のアーティストブランドとしての理念とCMのブランディングが合わないと、
どうしても難しいですねっていうふうに企業同士の話でなったりするんですけど、
でもやっぱううううって感じのギャラなんですよ。
断るには。
うううってなりながら。
確かに生きていくためにはお金もいるし、
経済活動をしないといけない側面もあるので、
そことの天秤という言い方が正しいかわからないんですけども、
少し飲まなきゃいけない部分もあるっていうような気が持ち入れて。
やっぱり私がお断りするときに気になっている問題点みたいなものをお伝えしたときに、
やっぱ担当者さんベースだとすごい気持ちわかってくれるんですよ。
そうですね。
そうですよねって。
だからみんなそう思ってるよねって感じなのになぜかやっぱり広告業界では、
最近はもしかしたらちょっと改善してるのかもしれないですけど、
昔のCMとかだとジェンダーステレオタイプですよね。
例えば潜在のCMは女性が主役で、
消臭剤のプレ式消臭剤の出てる俳優さんは男性でとか、
サラリーマンイコール男性、
家に家事をしてるのはイコール女性みたいな感じのジェンダーロールになってしまっていたりとか、
それを再生産しまくってるんですよね。
そうですね。
やっぱりそういうのだと、それは興味ちょっと、
多分結構な割合で皆さん思ってると思うんですけど、
なぜかやっぱそれが解決していかないのもまた広告と思って。
そうなんですよね。
一つ理由としては僕思ってるのは、
どういうマスに対してCMをするかっていうところで、
効果が強いからまだ使ってるっていうのは多分あるんでしょうね。
24:00
嫌ですけど。
嫌ですけど本当に嫌なんじゃないですか。
やっぱSNSとかインターネットとか出てきて、
私たちみたいなのは、
これが流行ってるからやりますっていうよりは、
自分はこういうのが好きだなっていうのを選んでいくタイプだから、
結構周りに似たタイプが多くなっちゃうなっていうのをめっちゃ感じてて、
それは本当にネットでも加速したし、
ネット上でのいわゆる広告的な側面あるかもしれないですけど、
デザインで分かるじゃないですか。
何て言うんですか。
めっちゃもう金使ってくれみたいな場所なのか、
それとも本質的な何か理念があるお店なのかっていうのが、
出るんじゃないですか不思議に。
出ますね。
これ何なんですかねって思ったけど。
売りたくて仕方ないとか、
これ絶対いいんだよっていうのを全面的に出すところと、
本当に自分たちが向き合ってるのはこれでっていうところを、
一度出してるところの二極化っていうのもいいんですけど、
それはCMに限らずホームページとかもそうですし、
最近のSNS、
ツイッターとか今Xですけど、
そのターゲティング広告の中でも結構見えますよね。
あるよね。
ありますあります。
ターゲティング広告とかでさ、
結構なんかこれ結構いいやっていうの出てくると、
なんか怖くなるし逆に。
ターゲティングされてるんで、
クッキー全部拒否しているのにみたいな感じでこうなってて、
恐ろしいですけど。
いや恐ろしいですね。
例えばフォローしている人とかフォローされてる人の世代とか、
そういうのを使ってるんでしょうね。
うわー!
ねー!じゃないですか。
いやー、ガメツイところありますよそういう。
どうですか?3000年の皆さん、
愚かでしょ?
はいはい。
これがね、
どうなんでしょうね。
2023年ですか。
現時点の話なんですけど、これ実は。
そうですね。
どうなってるんですかね。
でもSFとかでよく出てくるサイバーパンクとかじゃないですけど、
ああいう街並みって結構広告めっちゃありません?
ある。
あれだって結構その新宿とかモデルにしてて、
やっぱ多分そのSF作家さんたちは、
このまま人間の欲望は加速し続けるって考えたんだろうなって。
そうですね。
思うんですよ。その倫理観とか。
で、すっごい汚いじゃないですか。
サイバーパンクの世界って。
産業革命時代か何かなのか?
ずっと地面濡れてるみたいな。
そう、なんかちょっと雨っぽい日が多い。
ちょっと雨っぽい日が多い。
これ絶対気候変動やばいでしょとか、
27:02
大気汚染やばいでしょみたいな国になってて。
それでも広告は続けてるっていう風にSFの方は思ってるかな。
ビジュアル的にかっこいいみたいなのはあるんでしょうね。
不健康感。
確かに。ちょっと淀んでる感じありますよね。
空気もそうだし、街もそうだし。
で、多分地面濡らしてるのはネオンの広告反射させるためでしょ、多分。
映えですね。
映え、映え。
良くないよってなんか言ってますけど。
そうなんですよ。
でもね、好きなんですよね。SFも。
私も分かるよってなる反面、こうなったら嫌だなって。
確かに思いますね。
僕らの創作の中での理想であってほしいなとはもちろん思っていて、
現実世界がこうなった時に本当に日本大丈夫かとか世界大丈夫かってなりますよね。
本当に。だから例えば3000年がマジでサイバーパンクみたいな感じだったら、
多分タイムマシンとかで女装つけて殴られに来られる気がする。
お前ら何やってたんだって絶対言われると思って恐ろしいんですけど。
そうですよね。
できれば緑豊かでみんな心穏やかに戦争とかせずに生きていてくれると非常にいいんですけどって私は思っちゃいますよね。
そうですね。
ということで、ウォーミングアップはここまでです。
次回はいよいよ本編ということで、さらに雑談が加速していきます。
音楽と環境、そして未来に音楽を残すにはという観点でもお話をしていきます。
来週をお楽しみに。
また今回ゲストにお越しいただいたプニプニ電機さんは、
めちくろさんと宇宙の果ての小さなコインランドリーからお届けするポッドキャスト番組ランドリー4AMも配信されていまして、
我々の番組とも共通する好奇心や自分自身で体験をしたことの解釈、そういったものを配信されています。
僕も大好きになった番組ですので、ぜひお聴きください。
番組の感想やお便りは、Xのハッシュタグエコー3000、また概要欄記載のお便りフォームまでお願いいたします。
ということで、今回はここまでです。
現代人の皆さんも未来人の皆さんもまた次回お会いしましょう。
じゃあね!
30:06

コメント

スクロール