きのう、自社のAIカスタマーサポートを直していて手が止まった話です。テストで「返金しますか？」と投げたら、AIが気持ちよく「はい、対応します」と即答した。……そこは人間が決めるところでしょ、と。デモでは「真正性・感情・お金の3つは人間が確認します」と謳っていたのに、実際のコードは2つしか見ていなかった。看板（言っていること）と中身（やっていること）がズレていたんです。そこで「お金がからむ判断＝補填・二重課金・返金の依頼は無条件で人間に渡す」線を、気合いじゃなくコードに引き直しました。今回いちばん腹落ちしたのは、AIの怖さは暴走することじゃなく、間違っていても堂々と即答できること。だから"どこから先は人間か"の線引きは、AIの謙虚さに期待せず、こちらが構造として書いておくしかない。これはAIだけの話じゃなく、看板と中身のズレは一瞬で露呈する時代になった、という気づきまで。便利になるほど「やらないこと」を決めるのが効いてくる、という朝の一人語りです。続きはXで @nariken をフォロー。
感想
まだ感想はありません。最初の1件を書きましょう！
04:50
コメント
スクロール