届かないフォームと自動化の罠
ノオト・ブク太郎
リスナーのあなた、ちょっと想像してみてください。えーと、今は2026年だとして、
ノオト・ブク子
はいはい、2026年ですね。
ノオト・ブク太郎
ウェブサイトの問い合わせフォームからメールを送るときにですね、確実に相手に読んでもらうための最強の方法って何だと思いますか?
ノオト・ブク子
え?普通に送信ボタンを押すだけじゃないんですか?最強の方法ですか?
ノオト・ブク太郎
実はですね、まず公開されている電話番号に電話をかけて、今からメールを送りますって宣言してから、即座に送信ボタンを押す、なんだそうです。
ノオト・ブク子
いやいや、それまるでファックスを送った後に、届きましたかって電話で確認していた時代に逆戻りしたみたいな、とんでもなくアナログな力技ですよね。
ノオト・ブク太郎
そうなんですよ。テクノロジーは魔法のように進化しているはずなのに、なぜ私たちはこんな、なんか不毛な摩擦と戦っているのかっていう.
ノオト・ブク子
確かにちょっと不思議な現象ですよね。
ノオト・ブク太郎
なので今回のディープダイブは、私たちが日常で直面するシステムとの謎の壁の正体に迫っていきますよ。
ノオト・ブク子
面白そうですね。
ノオト・ブク太郎
今日取り上げるソースはですね、ちえラジChatというあるクリエイターの方の5日間にわたる音声ログなんです。
ノオト・ブク子
日々のリサーチとか思考の記録ですね。
ノオト・ブク太郎
これを深掘りしていくと、ただの技術的な不具合の話じゃなくて、人間とシステムの間に決定的に欠落しているあるものが浮かび上がってくるんです。
さてこれを紐解いていきましょうか。
さっきの、なぜ2026年にもなって電話してからメールを送るなんて事態が起きるのかって話なんですけど、
ノオト・ブク子
はいはい、気になります。
ノオト・ブク太郎
その背景にはですね、システムの自動化の罠があるんです。
ノオト・ブク子
自動化の罠と言いますと、
ノオト・ブク太郎
現代のウェブフォームって単にメールをピッと飛ばしているわけじゃないんですよね。
例えばTeamsとかGoogleフォームからIFTとかPower Automateみたいなツールを使って、
ノオト・ブク子
複数のシステムにデータを自動転送するような、
ノオト・ブク太郎
そうそう、複雑なAPI連携が組まれているわけです。
でもどれか一つのシステムの仕様が、なんかサイレントアップデートされたりとか、
あとは認証トークンが切れたりすると、連携がスッと音もなく途切れるんですよ。
ノオト・ブク子
音もなく?
ノオト・ブク太郎
ええ、しかも厄介なことに、送信者にはエラーとして帰ってこないんです。
ノオト・ブク子
ああ、なるほど、送信ボタンを押した側は、送信完了の画面を見てるから安心しきってるのに、
裏側ではデータがブラックホールに吸い込まれていて、受信側も気づかないっていう、
誰の画面にも警告が出ないんですね。
ノオト・ブク子
だから電話っていう究極の物理手段に出るしかないと。
その通りです。システムが高度に分業化された結果、確実に相手に届けるっていう最も重要なプロセスに、
ノオト・ブク太郎
誰も責任を持たないブラックボックスが生まれちゃったわけですね。
UIから失われた文脈
ノオト・ブク子
わあ、そのブラックボックスの冷かさ、UI、つまりユーザーインターフェースでもすごく感じますよ。
ノオト・ブク太郎
ああ、UIの話もソースにありましたね。
ノオト・ブク子
えー、筆者も嘆いてましたけど?
ノオト・ブク太郎
スマホで長文を一生懸命打った直後に、
なんかちょっとスワイプしただけで画面が戻っちゃって、
入力してたデータが全部消えて絶望した経験、
リスナーのあなたもこれ、絶対にあるはずですよね。
ノオト・ブク子
あれは本当に声が出ないくらい絶望しますよね。
ノオト・ブク太郎
ですよね.
で、筆者はこれを防ぐために、入力したテキストをいちいちクリップボードにコピーして自営しているそうなんです。
ノオト・ブク子
コピーして自営ですか?
ノオト・ブク太郎
これって、最新のスマホを使っているのに、やってることは1998年のワード文書でフリーズに怯えながらこまめに保存しているのと同じじゃないですか?
ノオト・ブク子
確かに、ユーザーの行動としてはもう全く進化してないですよね。
昔の、いわゆるガラケーの時代って違いましたよね?
キャンセルボタンを押しても、データが消えますがよろしいですか?ってワンクッションを置いてくれる。
ノオト・ブク子
ええ、ありましたね。
ノオト・ブク太郎
ああいうおもてなしがあったはずなのに、なぜ今のシステムはこんなに冷酷にデータを消し去るようになっちゃったんでしょうか?
ノオト・ブク子
それはですね、システムを動かす土台の成り立ちが根本から変わっちゃったからなんです。
ノオト・ブク太郎
成り立ちですか?
ノオト・ブク子
ガラケー時代は、日本のメーカーがOSからソフトウェアの細部、あとメモリの管理まで、自社で完全にコントロールしてたんです。
ノオト・ブク太郎
はあ、なるほど。
ノオト・ブク子
だからこそ、ユーザーがうっかりボタンを押すかもしれないという文脈を汲み取って、データを保持する領域を細かく担保できてたんですよ。
ノオト・ブク太郎
つまり、作り手側がユーザーのやらかしそうなことを前提にシステムを組んでくれていたと?
ノオト・ブク子
ええ。
ノオト・ブク太郎
でも現代は、AndroidとかiOSとか、あるいは世界中で使われる汎用的なウェブのフレームワークに依存してますよね?
ノオト・ブク子
確かに、世界共通の土台ですね。
ノオト・ブク太郎
そうなると、アプリの開発者はOS側の突然のメモリ開放とか、画面遷移のルールに抗うのがすごく難しくなっちゃったんです。
ああ、なるほど。
グローバルで汎用的な基盤を手に入れた代償として、今この人がどれだけの熱量でテキストを打っていたかっていう、そういう人間くさい文脈、コンテキストへの配慮をシステムに組み込むのが、極めて困難になったんです。
ノオト・ブク子
汎用性と引き換えに、文脈への配慮がシステムから抜け落ちてしまったんですね?
初心者向けAI学習環境のテンポ
だとしたらですよ、私たちが簡単なフォーム入力とかでこれだけ苦労しているのに、これからテクノロジーの裏側、つまりプログラミングを学ぼうとする初学者は、一体どうやってこの冷たいシステムに向き合えばいいんでしょうか?
ノオト・ブク太郎
ああ、そこにもさらに大きな摩擦があるんですよね。
ええ、ソースにも初学者のプログラミング学習環境についての言及がありました。
ノオト・ブク子
今はGoogle Colaboratoryーとかで、エラーが出たらすぐにAIが解説してくれる機能が導入されてるじゃないですか?
ノオト・ブク太郎
はいはい、一見するとAIが手取り足取り教えてくれる魔法の環境に見えますよね。
ノオト・ブク子
でも筆者はここにある致命的な欠陥を指摘してるんです。
ノオト・ブク太郎
欠陥ですか?
ノオト・ブク子
AIに解説を頼むと、どうしてもトークンを消費する計算処理が入るから、答えが返ってくるまでに最低でも2、3秒のラグが発生すると。
ノオト・ブク太郎
ええ、まあ数秒の待ち時間ですね。
なので筆者はあえてAIなんかに頼らずに、1、2秒で機械的なヒントが出るだけのシンプルな環境が必要だって主張してるんですよ。
ノオト・ブク子
ちょっと待ってください、10年前ならエラーの原因を探すだけで何時間もスタックしてたわけですよ。
ノオト・ブク太郎
まあそうですよね。
たった3秒待つだけで高性能なAIが完璧な原因と修正コードを提示してくれるのに、これの何が不満なんでしょうか?
初学者にとってはもうこれ以上ない恩恵に見えますけど。
ノオト・ブク太郎
いや、私も最初はそう思いましたよ。
でもちょっと想像してみてください、リスナーのあなたも、全く知識のない分野で真っ赤なエラーメッセージをバンって叩きつけられてパニックになってる状態を、その時の3秒って永遠に感じませんか?
ノオト・ブク子
ああ、なるほど、認知負荷が限界に達してる状態ですね、それは。
ノオト・ブク太郎
その通りです、しかも初心者がつまずくエラーなんて、変数名のスペルミスとかプロパティが存在しないとか、極めて単純なパターンのものがほとんどなんですよ。
確かに、高度な推論が必要なエラーじゃないですね.
ノオト・ブク太郎
なので、毎回重たいAIを起動して数秒待たされる、この待機時間こそが、学習者の思考のテンポを叩き負ってフラストレーションを爆発させる原因だと筆者は言ってるんです.
ノオト・ブク子
はあはあ、なるほど.
ノオト・ブク太郎
だからこそ、Scratchみたいな子ども向けツールと本物の現場の間を埋めるような、CodePenとかpythe.ioみたいな環境で、即座に手が届く機械的なヒントが欲しいんだと.
ノオト・ブク子
非常に納得しました.
つまり、高度で正確な正解よりも、人間の心理的なテンポ、即時性を優先すべきだという主張ですね.
ノオト・ブク子
そうなんです.
ノオト・ブク太郎
テクノロジーを設計する側って、ついついより賢い処理を詰め込もうとしちゃいますが、人間が本当に必要としているのは、自分のパニックとか集中力の切れ目っていう、そういう文脈に寄り添ってくれる軽快さなのかもしれないですね.
RAGが生む文脈の補完
ノオト・ブク子
しかもですね、その賢いはずのAI自体が、そもそも私たちの文脈を正しく理解できているのかっていう、大きな疑問符がつく出来事が記録されているんです.
ノオト・ブク太郎
AIの文脈理解ですか?
ノオト・ブク子
ここからが本当に面白いんですけど、筆者はGemini NotebookっていうAIツールを使って、自分の日々の音声の独り言を解析させてるんですね.
ノオト・ブク太郎
ああ、RAG、検索拡張生成の機能ですね.あらかじめ与えられた特定の資料の中だけで情報を検索して、それに基づいて回答を生成させる技術です.
ノオト・ブク子
つまり、AIが嘘をつくハルシネーションを防ぐための堅実な仕組みですよね.
ノオト・ブク太郎
ええ、この教科書の中にあることだけで答えなさいっていうルールですから.
ノオト・ブク子
なのにですよ、筆者がファイナルファンタジー10の話をしていて、主人公のティーダの話しかしてないのに、AIが勝手に全く言及してない、ユウナっていうキャラクターを登場させてきたんです.
ノオト・ブク太郎
言うなを勝手にですか?
ノオト・ブク子
はい、さらに極めつけは、不思議のダンジョンの話を少ししただけで、AIが生成した動画解説の中に、どう見ても風来のシレンに出てくるイヤスギガッパみたいなキャラクターを描画し始めたんですよ.
ノオト・ブク太郎
ガッパですか?いや、それはちょっと笑っちゃいますね.
ノオト・ブク子
厳格なルールがあるはずなのに、なんでAIはテスト中に勝手にガッパの絵を描き始めるんでしょうか.まるでテスト中にこっそりスマホで検索してるか、我慢できずに自分の知識をひけらかしてるようにしか見えませんよね.
ノオト・ブク太郎
我慢できずに知識があふれだした.まさにその表現が的を置いてますね.これは、AIのメカニズム、特にRAGの弱点を見事についた現象なんですよ.
ノオト・ブク子
どういうことですか?
ノオト・ブク太郎
RAGっていうのは、入力されたデータと、手持ちの資料の意味的な近さ、ベクトルを計算して範囲を絞り込むんです.
ノオト・ブク子
はいはい.
ノオト・ブク太郎
でも、音声の独り言って、話があちこちに飛ぶし、構造が曖昧ですよね.文脈の境界線が非常に不明瞭なんです.
ノオト・ブク子
確かに、雑談みたいなもんですからね.
ノオト・ブク太郎
そうすると、AIからすれば、どこからどこまでが参照すべきルールなのかっていうその座標を見失っちゃうんですよ.
ノオト・ブク子
なるほど.教科書のどこを読めばいいかわからなくなるわけですね.
ノオト・ブク太郎
そうです.で、AIはその空白、わからない部分を放置できないんです.するとどうなるか.RAGの制限を突き破って、自分がもともと事前学習として読み込んでいたインターネット上の膨大なデータ.
ノオト・ブク子
パラメトリックメモリってやつですね.
ノオト・ブク太郎
そこに依存して文脈を強制的に補完しようとするんです。その結果が、不思議のダンジョンといえばカッパだろうっていうハルシネーションとして出力されちゃったわけです。
ノオト・ブク子
面白いですね。逆に言えば、筆者がまちのえんがわキャストみたいなインタビューの文字起こしテキストを読ませたときは間違いなかったって言ってるのも納得がいきます。
ノオト・ブク太郎
はい。テキストは構造化されていて、前提とか文脈がきれいに揃ってますから、AIも迷わなかったんですね。
ノオト・ブク子
つまりAIが暴走する原因はAIの頭の悪さじゃなくて、人間側がAIが理解できる文脈の境界線を与えきれなかったことにあると。
ノオト・ブク太郎
その通りです。
翻訳だけでは届かない多文化共生
ノオト・ブク子
ちょっと待ってください。高度なAIですら文脈が曖昧だとパニックを起こして幻覚を見るんですよね。これってそのまま人間同士のコミュニケーションにも当てはまりませんか?
ノオト・ブク太郎
ほう。
ノオト・ブク子
最後のトピックで私たちは究極の文脈の共有について直面することになるんです。
ノオト・ブク太郎
横浜市瀬谷区の多文化共生グループカムオンシェー氏の活動に関するソースですね。外国にルーツを持つ子育て家庭に通訳とか翻訳のサポートを行っている団体です。
ノオト・ブク子
はい。筆者はこの活動を通じて単に言葉を翻訳して渡すだけでは全く意味がないっていう事実に気づくんです。
ノオト・ブク太郎
言葉を訳すだけじゃダメだと?
ノオト・ブク子
例えばPTAのやり取りです。配られたプリントの日本語を他国の言語に翻訳したところで相手には伝わらないんですよ。
ノオト・ブク太郎
言葉の壁よりも高い壁があるってことですね。具体的にはどういうことでしょう?
PTAの役員決めっていう言葉の裏には日本特有の学校と地域の関係性とか暗黙の義務感みたいな言葉になってない前提知識が存在しますよね。
ノオト・ブク太郎
はいはい。日本人ならなんとなくわかるやつですね。
ノオト・ブク子
これを補わずにテキストだけ変換してもAIがカッパを描くのと同じで相手の頭の中には全く違う情景が浮かんでしまうんです。
ノオト・ブク太郎
非常に深い洞察ですねそれは。我々人間もまさにRAGと同じプロセスで会話をしているわけですよ。
ノオト・ブク子
同じプロセスですか?
ノオト・ブク太郎
お互いに同じような社会的背景、つまり事前学習データを持っているはずだって無意識に前提を置いて言葉を投げる。
でもその文脈が共有されてない相手にデータをただ投げつけると当然エラーが起きるんです。
ノオト・ブク子
だからこそ子どもの方が先に日本語を覚えるからといってその子どもにあなたの成績が悪いと先生が言っているっていう話を親へ通訳させるようなシステムは残酷だし摩擦しか生まないんですよね。
全くその通りです。
ノオト・ブク子
筆者は横浜の内陸部の光景に感動していました。そこには東南アジアとか東アジア系の住民が多くいて見た目が欧米風の人であっても地元の人が当たり前のように日本語で話しかけて相手も日本語で返す。
送信エラーの正体と想像力
ノオト・ブク子
これこそが共通の文脈を持とうとする真の多文化共生なんだって。
ノオト・ブク太郎
つまり多文化っていうのは国籍とか海外だけの話ではないと。
ノオト・ブク子
そうなんです。筆者の主張はここに帰結するんですよ。
雪国の文化と平地の文化。火山灰が日常的に降る鹿児島の文化と坂とか階段だらけの長崎の文化。
あるいはプログラマーの文化とオタクの文化と地域ボランティアの文化。日本国内いや同じオフィスの中にだって無数の異文化が存在しているんだと。
いやーこれまでの全トピックが見事に一つの線でつながりましたね。
ノオト・ブク子
ええ。ウェブサイトのメールフォームが誰にも読まれずに消滅するのも。
ノオト・ブク太郎
初心者がAIの3秒のラグに絶望するのも。
ノオト・ブク子
AIが勝手にユウナやカッパを登場させるのも。
はい。
ノオト・ブク子
そしてPTAのプリントが外国の親を困惑させるのも全てメカニズムは同じなんです。
我々が自分の持っている文脈は相手にも当然共有されているはずだと傲慢に思い込んで背景にある暗黙の了解を渡し忘れている。
ノオト・ブク太郎
これがあらゆる送信エラーと摩擦の正体だったわけですね。
ノオト・ブク子
はい。システムにも人間にもただデータを投げつけるだけじゃ届かないんです。
相手の文脈の空白を想像してそれを丁寧に補ってあげること。
ノオト・ブク子
昔のガラケーのUIにあったようなあるいは地域の通訳ボランティアが行っているようなおもてなしの配慮こそがこの複雑な世界で情報をつなぐ唯一の鍵なんですね。
ノオト・ブク太郎
技術がどれほど進化してAIがどれほど賢くなっても最後に問われるのは我々人間の他者への想像力だっていう非常に痛快で深いディープダイブでした。
リスナーのあなた、今日から少し自分の周りを見渡してみてください。
ノオト・ブク子
あなたの職場や家族、あるいは毎日当たり前のように使っているアプリの中に、あなたが無意識に見落としている異文化は潜んでいませんか?
ノオト・ブク太郎
はっとさせられますね。
あなたは相手に対して自分の文脈を勝手に押し付けて、都合よく自動翻訳されるのを期待してデータを放り投げていませんか?
ノオト・ブク子
もし次になぜ伝わらないんだってイライラしたときは探してみてください。
あなたが渡し忘れたカッパの絵を防ぐための文脈を。
それでは次回のディープダイブでまたお会いしましょう。
![[1月13日:速報回]ChatGPTヘルスケア／Gmail×Gemini統合／OpenAIペン型報道の真相／Chrome拡張の罠(ep.33)](https://image.listen.style/img/6VYWxoXsuNU0rbV4kKJFmJ5DbC0y3_slWojpd4qbtWE/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzY4Mjc3MzE2NDM1LTM1MDBlODBhOTk0NTkuanBn.avif)
