社会的文脈の組み込み
まあでも、第3章いきますか、そしたら。 いきますか。3章が、社会的文脈の組み込みっていうので、まあちょっと2章でもね、あの文脈によってみたいな話はちょっとしましたけど。
うん。 うん。そういうところを、ここの章ではよりそこのところを書いているというところですね。
うん。えーと、まとめから最初に話しておきますか。そうすると、なんかこの章の輪郭がつかみやすいかもしれない。
そうですね。 ただまとめだけ読むと難しいんだよな、この本の。全体的に抽象度は高いし、
すげえ頭の痛い話が多いので、まとめだけ読むとなんか、むずいんですよね。理解すればそれほどむずいっていう意味でのむずいっていうんじゃなくて、つまり何?っていうむずさが
入っちゃうので、まあとはいえまとめから入るかって言ったからまとめを読むんですが、
社会的文明、実世界でアプリケーションを展開する際、そのアプリケーションと世界、そして世界中の多様な文化との相互作用は複雑で予測が難しい場合があります。
っていうふうに書いてあって、なんかソフトウェアって、もちろんその中で、その中でいいか、
動くソフトウェア、その中に機能がたくさんあります、みたいな。一番最初の世界から始まって、そこを使う直接のユーザーがいますよね。
少し間接的に、輪が広かった世界があるんですけど、ただそれって最終的に社会に組み込まれていくじゃんっていう、さっきねゲインさんが言ってたポケゴでイベントやったら、
ポケモンGOってコンテンツとそれを直接使う人ってだけじゃなくて、それを利用者がたくさんバーって集まったその場、その環境、その社会っていうのに影響を及ぼしたよねとか、そういう話ですね。
社会への組み込みとかっていう話をしてたりする。
そうですね。
そうだよな、なんかすごい音質のいいヘッドホンみたいなのを作っても、それをじゃあどういう場面で使われるかっていう想定がすごい足りないと、ネサの中でめちゃくちゃ使われたらすげー、音漏れしてみたいな話とかあるかもしれないし。
うーん、じゃあまあ逆に静かな場面で聞けるようにノイズキャンセリングをつけようって言って、よし良くなったなってなるけど、まあでも今度それ、自転車運転者がつけられると困るんだよなみたいなこととか。
そうですね。
それは常識があれば、右を塞いだら危ないってわかるやろって言いたくはなるだろうけど、まあでもユーザーはどう使うかわかんないし、なかなかね。
どうなったよな。
で、そこに対してどういうふうに問題を見つけていくとか、より視野を広げてやっていくためには何が必要だっけとか、どういうヒントを使えるツールを使えるんだっけっていう話が載ってますが、紹介されてるそうですけど。
3-1社会的文脈とはのところに出てくるキーワードっぽいのが3つあるんで、そこだけ触れとくかはらかじめ。
社会的文脈は以下の3つの要素からなるダイナミックで複雑なシステムとして捉えることができますって書いてあって、エージェントっていうのが最初に出てきますね。エージェントはなんか登場人物みたいな感じ。
で、親的前提っていうのがあって、これがエージェントが持つ信念、価値観、ステレオタイプ、バイアス、認識されたニーズや予知などなどなどみたいな。
先入観とか思い込みとか当たり前と感じていること。
メンタルモデルとかも多分ここなんでしょうね、おそらく。
そうですね。
3つ目がアーティファクトって言ってて、エージェントが直接的又は間接的に生み出すあるいは引き起こすあらゆるものを指します。なのでなんというか、ここはこととかものみたいな話かなっていう気がする。
この3要素、3者っていうよりかは3レイヤーとかに近いのかなって気がしますけど、この3つの主要な要素が絡まりあったりして、社会的文明っていうのが生まれるよねっていう話ですね。
そうですね、ありがとうございます。
じゃあ前提が整ったので話をしましょうか。3章はどうでした?
3章、社会的文明っていうものが大事でしょっていうのはもちろん思いながらも、それに対してどうやって対抗するのかな。どうやったらより良くできるのかなって。
すごい難しいし、それ文脈によるでしょって言ったら、全部問題を投げ捨てられるようなマジックキーワードになりそうだなとか思ってたんだけど、この中でなるほどってやっぱり金城さんも書いてはいたけど、
インガループ図でいろんなものを、さっきの3つのエージェントだったり、アーティファクトだったり、心的前提みたいなものを書いて図に起こして、何がどういうふうに影響を与え合っているのかっていうことを可視化してあげて、それによって問題を明らかにしていくっていうのがいいなって思ったのと、
あと、そうするとこぼれ落ちるものがあるでしょって自分は結構思っちゃうんですよね、モデル化したら。でもこの中で言われてるのは、統計学者の人がある言葉を言ってて、全てのモデルは間違ってるがいくつかは有用なものもあるっていうような言い方をしていて、
そこの抽象化したことだったりとか、インガ関係のループの中でおかしなことがあるかもしれないけど、使えないものじゃないでしょって言われたら、確かにそうだなと思ったりとかして、そこはすごい、何ていうか、完璧なものを作ろうとしたら絶対無理じゃんって思っちゃうんだけど、
どうやってそれを有用にしていくのかっていう風に考え方からいけばいいのかっていうのを見て結構感心しましたね。
そうですよね。やらないよりはマシって言うとなんかぶん投げたい型になりすぎちゃいますけど、まず一歩ずつでも進んどかないと、2歩目3歩目とかより遠くの話って展開していかないって考えると、少なくともまずやってみることは大事だなぁみたいな気はしますよね。
変化が早いと、止まってるとむしろどんどん悪くなっていく可能性もあったりとかするから、何かしら前に進んでるってことが大事って場面もあるだろうなって思ったりとかして。
そうですね、それで言うとインガループ図というかシステム思考とかでよく見るあれのことなんですけど、システム思考のインガループ図とかもまず明らかに既に思いついているものから描いてみて、これに関連すると何が出てくるかなとか、
それってどういう関係性なんだっけっていうのをすごい単純な一つのノードというかグラフでやって、それを連鎖的に広げていってっていう形で視野を広げたりとか状況を整理したりとかっていうのに使えるツールだと思うので、それをやってますよね。
今まで自分のバイアスとか無知によって気づけてなかったものっていうのを実はこれがあるかもなって洗い出すみたいな。それで実はここ気づけてなかった、こういうバイアスが生じてたかもって発見をしていってみようとかってなことをやってますね、この和尚は。
あとはあれか、ツールとかプラクティスみたいな話で言うとシックスハットの話も確か出てきてた。ブレストで使うって書いてあるか。
まあワークショー、振り返りとかでよく聞くと思うっていうのは僕のバイアスだな。振り返りガイドブックとかで紹介されてる、振り返りガイドブックになかったらあれですね、レトロスペクティブ、ファンレトロスペクティブかな。
あるんですが、それはいいんですけど、登場人物、参加者で6つの帽子っていうのを提示しながら切り替えながら、今はこういうモードで考えましょうっていうのを明示的に切り口与えてあげて、それを使いながら話そうってやつで、
それを6色の帽子に例えてるんですけど、1つが事実と数字、2つ目がビジネス価値、3つ目がリスクと問題点、4つ目がデータに依存していない純粋な直感、5つ目が想像的な新しいアイデア、6つ目が会議の進行そのものっていう風になってて、
だからちょっとリスクと問題点について話したいので、今は紫の帽子っていうモードで話しましょうとかっていう切り替えをやってくるってやつですよね。
そうですね、人の立場に強制的に立たせて、じゃああなたはちょっとこれ考えてくださいってやると別の視点で物事を見れるようになるという、面白いですよね。
そうするといかに自分がどういうそれに対する偏見を持っているかっていうことが結構浮かび上がってきたりとか、もちろんアイデアが生まれるっていうところもあるんですけど、いいなってなりますね。
そうですね、そんな感じでこの方はこういうやり方で考えてみましょうっていうのを結構提示してくれてる印象はあるんですよね。
そうですね。
ケーススタディーなんで書かれてることはすごい面白いんですけど、それ紹介しようとすると長いなってなるんですよね。
そうなんですよ、そうなんですよ。
切り取らなきゃいけないんだけど、大変なんだよな、まとめるの。
有害なコメントの検知とかね、面白そうとは思うんだけど。
掲示板とかソーシャルメディアについたコメントの話ですね。
SNSでもなんだっけ、尊すぎて死ぬみたいな日本のオタクの表現が海外の人について、なんで日本人は私の絵を見て死んじゃうんですかみたいなリアクションをされた的な話が見かけた気するな。
そのザクもあった気がするけど。
たぶん面白い話としてはいっぱい、全然コンテキストがない中でなんでそんなことに、みたいなこととか。
あとあれですよね、ゲームとかのチャット欄とかで暴言があふれかえってるんで、みんな独自の用語をどんどんどんどん作っていくみたいなことがあったりとかして。
そういう。
文脈によってね、場合によっては完全にマザクの弓になるっていう。
そうそうそう。
ニュインダブルスピーキングじゃん。
そうそうそうそう。結局、簡単でNGワードを作ってバーすればいいでしょっていうのが。
赤書きでバーって一発っすよみたいなね。
そうそうそう。っていうのが一番最初に思うんだけど、結局それをやったところで検索余計だったりとか、いろんな抜け道みたいなものをみんな使ってどうにかするし。
それに対してどういうふうには対応していくのかっていうことまでやっぱ考えないといけないんだよっていうのがあって。
言葉狩りをするのであれば、1984みたいな世界がやってくるぞとかね、あったりするんで。
やっぱそんな問題は簡単じゃない。応急処置をするという意味では全然、場底を張る程度であればいいんだけども。
本質的な問題を解こうと思った時には結構大変ですねっていうのはありますね。
あーでそっか。このケーススタディの中で触れられているのは、特定のクラスター?クラスター?
まあなんか属性を指すような言葉、単語っていうのが、なんか否定的また侮辱的な文脈で使用されているっていうのが多くて。
一般的な汎用的な学習データだと、あまりそれが肯定的だったり中立的に使われている場面が少なかったから、
その属性を指す〇〇マイノリティとかの単語が出てきたら、なんかこれはなんか良くない侮辱的な言葉だって言ってましたけど、
それは単純に学習データが偏ってたというか、一般的な文脈ではそういう使われ方をしてされてしまうことが多いからそれそれを反映すると問題になっていて的なやつでした。
同じ単語でも文脈によって全然意味が異なるっていうところをカバーしきれてなかった。
特定のアイデンティティを表す語が登場するコメントは常に否定的なものであると推論していました。
っていうのに対してどう向き合っていったかっていうのを話してるのがキューセスタリーですね。
そうですね。
そうですよね、別になんかギークとかナードとか、ナードはあれか、ギークとかも元々侮辱的な別称でしたよね多分。
たぶんそうか。
そうですね、最初はウィキペディアを見てますけど、当初は風変わりな人とか社会的に不適用な人物みたいな意味で使われていたが、二次世紀に入ってからはすごく技術分野においては肯定的な意味を持つっていう。
日本で言うと、これと関連する言葉で言うとオタクっていうのがある種、良くない言葉としてある時代ではオタクって言われてたような気もするけど、
今となってはオレ超オタクだぜっていうのが、物事に詳しい、この大覇の時代においてオタクっていうのは憧れると、一つのことにハマって詳しくなれるっていうのはすごいって思われる時代になって、言葉って全然変わっていくんだなっていうのを感じたりするし。
これを肯定ととるのか、ネガティブととるのかみたいなことも含め、そんな簡単じゃねえなっていう感じですよね。
ただここに対して技術的に対抗できる、要するに中立的な意味で使われてるっていうのと、悪口として本当に攻撃的なニュアンスで使われてるっていうのを見分けられるようにしようっていうのをやれちゃってるのはGoogleすげえなってなりますよね。
それは単純に行動力と技術力がすごい。
一応、アイデンティティを表すこと社会的文明化のデータベースで実験しませんかって言って、TIDALっていうリポジトリが無料で使えるんでどうですかってコラボに書いてあって、すごいなって思いながら。
しかもそれをオープンにしてるっていうのはやっぱいいですね。
あ、すげえ。TIDALはGitHubに載ってるんだ。
そう。
デクショナリーというかデータセットがね。
あーすごい。
研究成果とかがちゃんとオープンになって世界がいい方になるように使ってくれっていう風になってますね。
なるほどな。
3章そんなところからまとめの話をすると、問題が発生する前に予見するのに役立つ可能性のある処方をいくつか紹介しましたって書いてあって、
エージェントアーティファクト進適前提を特定することとかね、あらゆる人を包含する歓迎的な環境を作ることとかっていうのことが紹介されてて、最後に謙虚さを忘れないでください。
社会的文明化は非常に複雑で頻繁に変化します。
っていうことが書いてますね。
そうですね。頻繁に。
そうですよね。
つらい。追いかけるのは日常的には意識しないからいいけど、なんていうか自然とアップデートしたことについていってるけど、ソフトウェアは放置できないってことですからね、それは。
そうっすね。
言わせよう、行きますか。
行きましょう。
波及効果の予測と計画
発有効果の予測と計画、これまた難しそうな対象ですね。
そうですね。
これは、サマリーできますか。
そうですね。
オライリー学習プラットフォームを要約してくださいって言っても、あんまり日本語うまくいかない気がするんだよな。
そうですね。あんまり日本語で期待通りっていうのは、なかなか難しいですね。
そう、学習データがやっぱりまだ少ないんだろうなっていう。
まあでもそれこそここで話はさっきから例に出してるポケモンGOとかだったりとか、なんかシステムがあってそれが仮にうまく動かなかった、不具合があって想定した通りに動かなかったときにどうなるかとか、そういうようなことっていうのをどうやって考えていきますかっていうような章ですね。
この章のまとめ結構綺麗というか、いいなと思ってて、一番最後の最後に書いてある文章ですけど、
世界は複雑でありソフトウェアはその複雑さの鏡です。責任あるエンジニアとして私たちは有害な障害を予測しそれを防ぐ必要があります。これは単なるデバッグではなく、次世代のアプリケーションを構築するにあたって自分たちの意思決定をもたらす発力効果を見通すことを意味します。っていう風に書いてありますね。
いいですね。
単なるデバッグではなくっていうのがグッときましたね。
そこもいいし、自分は世界は複雑でありソフトウェアはその複雑さの鏡ですっていうところも、本当そうなんよなみたいな。仕様をシンプルにしましょうとかっていうものでも世界は複雑だからなって。
この複雑さを記述するっていうことは、ソフトウェアで記述するっていうのはそれはどんどん複雑になっていくようなシステムだとか思ったりとかもしてたんで、本当にこの鏡ですっていうのはよくわかるなって思いながら、ちょっとそっちの方に関心してしまったなっていうのは。
複雑なものを同じ複雑度で描き表しても何も生まれないですからね。パラメーターは1億個じゃ足りないわけじゃないですか、現実世界。
ただそれをメソッドの引数は2つまでとかでやってるわけで。
自分たちが作ってるものを予測、コントロール、コントロール全部はできないけど、できるだけコントロールしたいなとか、将来的にどういうことが起きてしまうかなっていうことを考えると、
ここで出てきたかわかんないけど、フェールセーフとかフォールバックするときのこととかを考えないといけないよねとかになってくるし、実際壊してみましょうみたいな話でカオスエンジニアリングの話とかも出てきてましたね、この中では。
あとあれじゃないですか、ホットなので言うと職場ではAIが業務の一部を自動化してくれますが、これは初級職の採用市場を壊滅させる市場になりましたって書いてあって。
そうですね、ということはつまりジュニアが育たない、ジュニアが育たないというかジュニアがいないからシニアのエンジニアがどんどん減っていくっていうことにもつながっていくし。
なんかね、絶滅危惧種の動物は乱獲しすぎたせいだとかっていうのは聞きましたけど、なんか似たようなことが起きてるなぁみたいな。
これはなぁ、この章はでもあれですかね、もしかしたら、いやそんなことないか、ハイライトが2人とも引用しているところが2人して多めの章かなっていう気がしましたけど、そうでもないな、他の章もそこそこあるな。
コビペができるから引用がはかどるというか、そのペース差がはかどるから長いんだよな、なんか今回2人とも。
この中で出てきた話題でいくと、そういえばあったなと思ったら、マイクロソフトテイってツイッターのアカウントができて、それを人の発言を学習してて、24時間後には人らは間違ってないとか、
差別用語しか喋らないようになって、一瞬にして止められたみたいなことがあって、人間はそんな悪い使い方じゃないだろうみたいな前提でいたとしても、やっぱりこうなってしまうよねみたいなことを昔思ったりとかして、
それをやっぱり悪く取られるとか、悪い方に使われるってことを想像しながらソフトウェアってものを作っていったりとかリリースしていったりしないといけないんだよなっていうのをすごく感じる、わかりやすい例だなとか思ったりしましたね。
より面白かったのが、マイクロソフトの取り組みっていうのを話題になった時にGoogleも同じようなGoogleアシスタント、エクセルにいるかみたいなやつでいいと思うんですけど、
っていうのを出そうとしてたのは、結構開発が進んでリリースをしようと進めてたっていうフェーズで、Googleでは同じような失敗をしたくないっていう時に、さっき紹介してたレッドチーミングの手法をレッドチーミングでやりましたっていうふうには書いてないっちゃないんですけど、
多分それでやっていて、多様な背景を持つGoogle社員にテスターを募りました。で、その人の持つ価値観とか生活経験に近い質問をアシスタントに投げさせ、で、返答評価させたみたいなことをやってたよっていうのがあって。
いやー、隣で起きてることは明日はわかみって感じが本当にしますね。
でね、それ以来Googleアシスタント、この戦略は構想し、それ以来Googleアシスタントに比較的目立ったインシデントは発生してませんって書いてあって、よかったですね。
平和だ、平和だ。でも多分各社、Voice UIのものとか、AlexaとかSiriでもいいんですけど、あれとLLMをつなげるなんていうのはみんな思いついてることで、
あれが何か思ったより、何ていうか各社代々的にもっといろんなことやるかなと思ってたんですけど、進んでないなって内緒思ってて、それは多分こういう廃棄があるんだろうなと思って。
そうですね。
なかなか公開するために分岐量を作るためのテストって、じゃあどこまで何をやるかっていうのってすごい難しそうだし、今までは機械が点灯してるんだなって感じがある程度あったし、できることも少なかったけど、今となってはだいぶいろいろできちゃうっていうところがあるから、なんかすごい難しそうだなって思います。
そうですね。でもAI、生成AI全般本来は難しいですもんね。
いいんですけど、もしかしたら音声で伝えることによってさらに感情的に感情が伝わってくると感じてしまうとか、なんか多分そこの発話の内容だけじゃないとか、そのボイスが置かれてる環境とかのことを想定するとかが難しいとか、いうのはなんかいろいろありそうだなと思って。
確かにな。
今まである種パターンマッチ的な、こう来たらこう返すみたいなことが多分大半だったと思うんですよね。なんかアレクサ音楽かけてみたいな、やべえこれでかかったらどうしようって今ちょっと思っちゃったけど。
だったのが、より自由度が広くなった瞬間に、じゃあどこからどこまで守りましょうかみたいなことを予測しましょう、波及効果を予測しましょうって言うと、かなり難しそうですね。
そうですね、誰がどういう個人が使うかって直接のユーザーの想像だけで難しいのに、なんかねそれがどういう社会上、もしくは物理的な文脈の中で、どういう生活の中でのどういう心霊とか、そういうのを含めてどういう背景、どういう環境で使われるかっていうのも難しいし。
で、そういう場面でこういう人が使ったらこういう風な二次影響三次影響が起こるよねみたいな。
うん。
ああ、大変ですね。マニュアルを守って正しくお使いくださいって言っても多分それも難しいし。
そう、マニュアルなんて読まないしね。
読まないですもんね。
あの規約を全部スピーカーに読ませて最後に入っていかないと置いていけない仕組みにすると、もしかしたら。
ああなるほど、音読をさせる。
そうそうそう。
確かにな。でもそうすると読めない漢字とかでできたらどうするんだみたいなね。
そうですね、知らない言葉が出てきて理解ができない。子供はじゃあどうするんだとか。難しいですね、どうやって音声を変える。
そうだよね、問題を音読させるか理解度を確認するテストをやって、正しく理解しましたね、では同意しますかみたいな。
うん。
いやーコンバージョンレート欲しそう。
そう、でもこれが資本主義じゃんってなった瞬間に、ビッグテックはそうやっていろんなことに気をつけながらやるけど、その辺のスタートアップは、うちのはもうそんなことせずいきなり使い始めたことをやりだしたら、そこに負けるわけですよね。
うん。
辛いなー辛いなー。
なんかでもあれかな、その関連倫理的な話で言うと、ちょっと待ってあれ本当なのか。
法律じゃないか、ブラウザのバックから戻るボタンで表示される広告をGoogleがスパム認定するよっていうニュースがあって、バックボタンハイジャッキングをポリシー違反にするっていうのがあって、素晴らしいですね、これは行き過ぎた資本主義に警鐘を鳴らしてますね。
いやほんとそう。
お前んちのアドネットワークが配ってるあれをもっと先に消してくれとは思わんではないが。
そうなんですよね。
そうなんだよなー。Googleさんの本読みながらGoogleに文句言うっていうね。
あとこの本の中にちょっとアドではないけども、関連してポップアップの話が出てきたりとかしてて、
ポップアップ、Googleの時代じゃなかったけど、ブラウザがポップアップをブロックするようになったから、代わりにやらないとサービスが潰れてしまうんで、どうにか回避できるようにして作ってくれっていう指示をされて、
本当に作るべきなのかなって悩んだ結果、この著者は作ったっていう話をして、迷惑であるが実がやないと結論付けましたっていう風にして作りましたっていうことを言ってて、
当時の判断としてはそうかもしれないけど、今ポップアップ邪魔、広告の閉じるボタンがわからないっていうのは大量にあるし、しまいにはクッキーを許可しますかみたいなのがどこのサイトにでも出てきて、
当時であればその1サイトのだけの話だったかもしれないけど、今となってはもうあちこちに出てきて、ポップアップってものは本当、世の中は良くしてるのかっていうことを思ったりしますねっていう
すごい、ポップアップ経済学が新書で出てきてほしい
あのクッキーをアクセプトするボタンを押すのに毎回何億買っていて、人生のどれだけを損してるか、いいを訴えるぞみたいなことが出てこないかなって思ったり
なんかでもあれ、あれをやらなくていい、あれをやっても結局意味がないみたいな判断をしてませんでしたっけ、EUの投得が、嘘なのかな、あんまりちゃんとソース見てないんですけど
でもあれをやったからって本当に裏で撮ってるかどうかとか、わかんないですからね
わかんないですからね
私なんか
わかんないですけど、そういう契約をしてしまってる以上は、突っ込まれた時に言い訳させないぞではあると思うんで
そうですね、でもこれをやり始めた、これだけじゃないか、これプラスGDPあるみたいな問題もあって、結局EUからヤフーは見れませんみたいな
そうなるよね、みたいなことがあり、世界が良くなってるのかどうかって言われると、だいぶ怪しいなって思うことがありますね
そうですよね、グレートファイアウォールの学みたいな感じですもんね
そうですね、まあ波及効果みたいなところでいくと、やっぱそういうルールを追加した、良かれと思ってルールを追加したけど、結果的に悪い方向に行くみたいな
手間が増えるだけでしたみたいな、チェックリストのコムカトの増えていくみたいなことだったりとかにちょっと近い様子でもありますけど
なんか世の中上手くいかないし
いやーそうですよね、まあそうですよね
上手くいかないっていうのも別に、利用者側の視点として上手くいかないっていう話であり、別の人にとって上手くいってるっていうのもまたあったりするんで
まあそういう意味ではやっぱ簡単じゃないっていうのはありますね
まあなんというか攻撃者側の方が基本的に有利ですからね
そうそうそうそう
えーと、あとは、なんかありますか4章は
自分は割と気になるとか喋ったって感じかな
4章は、そうですね、まあいろいろあるはあるんだが、まあいっか、次行きますか、なげー、なげーくなってしまうね
はい、さて放送が
