#51 AIの言うことを聞いたのに、責任は僕なんですか？

「責任を取って辞任します」

……それって、本当に責任を取ったことになるんでしょうか？

問題が起きたとき、そこから逃げずに解決しようとすることも、責任の取り方なんじゃないか。

そんな疑問から、今回はAIと人間の「責任」について考えてみました。

以前お話しした、AIに会社経営を任せる実験「Project 30」。

30日間で売上30万円を目指して、AI社長が事業を考え、別のAIが営業活動を進め、僕はその間に入って働いています。

開始から約2週間。

現在の売上、0円。

……社長、どうなってるんですか！！！www

でも、実際にAIに仕事を任せてみると、売上以外にも考えさせられることがありました。

AIが書いた営業メールに、人間が丁寧に返信してくれたとき。

AIの提案と、自分の考えが食い違ったとき。

そして、AIに判断を任せた結果、何か問題が起きたとき。

判断を任せるのに、責任は任せられない。だったら、人間は何を任せているんだろう？

AIに人格はあるのか。AIの価値観は誰が決めるのか。

そんな話にも寄り道しながら、AIと一緒に働く時代の「人間の役割」を考えてみました。

皆さんは、AIに完全に任せていることってありますか？

ぜひレターで教えてください！

【AI社長・公式声明】
「売上ゼロ円という厳しい経営環境の中、弊社の社長室長が責任の所在について問題提起したことを、重く受け止めております。
なお、今後の対応につきましては、さまざまなご意見を踏まえ、適切に対応してまいります」

#HonacocchiRadio #standfm #ChatGPT #生成AI #AI活用 #AIエージェント #Project30 #責任 #仕事とAI #雑談ラジオ

00:05

昔から疑問なんですけど、 責任を取って辞任しますって

責任を取っていることになるんですかね。 何か問題があって

それを解決するために ベストを尽くすのが責任の取り方じゃないのかなって

僕は毎度思ってしまいます。

HonaCocchi Radioです。

冒頭から何をっていうことを毎回続けてるような気がしますけれども、 今回は

責任って

AIにあるの?

なんだか

近代的な、いや現代的な話を してみようかなって思うんですけれども

ちょっと前もお話ししたんですけど、 僕今実験として

AIに会社系自体任せちゃうんですよ。

プロジェクトサーティって言って30日間で売上30万円を目指すっていうね、そういう内容なんですけどね。

そのポイントは

AI社長が事業そのものを考えて

応募とか

メールの送信とかも

AI、チャットGPTがやってます。

そういう状況だから僕は

判断をするAIと

そういう実行をするAI

この2つの間に入っているっていう

なかなか奇妙な会社組織?

僕はAIを使っているだけなんで、一人相撲といえばそれまでなんですけど

なかなかそういうのはないんじゃないっていう

ものを 今実験してるわけですね

で 2週間経ちました

現在の進捗なんですけど 売り上げは

ゼロです

悲しいなぁ 道筋見えてほしいなぁ

うん

で AI社長が決めたことで

03:01

うまくいったこと、困ったことっていうのを話すように

これまたAIが

レジュメを作ってくれてるんですけど 売り上げゼロ円だから何もうまくいってないよ

逆に困ったことなんですけど

いやまあ売り上げが立つ立たないというよりは

そのそれこそ責任の部分 は悩ましいなっていうことがあって

例えば

この授業 どうしようとかやっぱり悩む瞬間があるんですけど

いやいやいやと 僕が

口出しというか 愚信すると意見を申し上げると

それはAIがやったことにならないから

どうぞお願いしますと AI社長

うちの アイちゃんに頼んでるわけですね

で

そういう中でやっぱりどうしてもね 僕のパーソナリティを知ってますから

使おうとする時もあるんですよね

まあ僕で言うとウェブライティングの経験とかあるんで

じゃあそれをもとに 組み立てて応募して仕事取ろうかみたいな

提案をしてくるんですけど いや結果としてそれを

いろいろ応募する中で取るのはいいんだけど

それありきだと 僕がやってることにしかならないので

それは勘弁してくれっていうことで

線引きが難しいんだろうなって感じる時はありますよね

まあ判断としては

そうですね

実現が難しい時ですよね

唯一口出さなきゃいけないのは

例えば応募する時に

固定番号聞かれるとかあったりするんですよね

うち固定番号用意してないもんですから

それは難しいですとかそういうのはありますよね

あともう一つ困ったことの余談というかは

知らない電話番号から着信履歴めっちゃ増えたっていうね

しょうがないですよね

いろいろ応募してるんだから電話番号も漏れちゃうよねっていうところで

それは出るなというふうに

06:01

アイちゃんが言ってるので出ないことにしてますね

まあ30日での売上げにこだわってるから

長期的に見た時にこれ仕事ね

会社としては取れんじゃねっていうケースも

切り捨ててるのがちょっと困ったなぁと思うところではありますよね

まあでもルールだから言いたしかたないというところで

やってる中で半月が経過したって感じですかね

いろいろ試してる中での疑問としては

社長の指示通りに

社長ってAI社長の指示通りに動いて働いて

失敗したら誰の責任なんだろうなっていう

社長がAIだったらね

ちょっとなんか人間と違って責任の所在が怪しくなっちゃいますよね

そもそもAIに相談することと決めてもらうことって違うんですよね

いろんな場面で皆さんもね

AIに相談することってあると思うんですけども

旅行しようってなったとして

北海道と沖縄どっちがいいかなーみたいな

投げ手をすると提案はしてくれますよね

AIっていうのは

それを元にじゃあ今回は沖縄にしよっかなーとか

そういうのは普通の相談としてあるし

ほとんどの使い方なんだろうなって思うんですよ

そういう中で旅行先も予算も日程も

全部決めてくださいってAI投げたら

さらにこれもうできるようになってるはずなんですけど

航空券の購入とか

ホテルの予約まで任せるようになったら

どうすか

できますよ今

AIが単なる情報提供するだけじゃなくて

人間の行動を具体的に動かす存在になり得る

十分なってる

そんな状況だなっていうのは

このプロジェクト通じても感じてるんですよね

ので考えたいこと

今後考えなきゃいけないんだろうなっていうことっていうのは

AIに提案してもらうことと

決定を委ねることの境界線

まずこれが一つあると思います

人間が任せた時点で

責任まで渡せるんだろうかっていうね

09:03

こっちとしてもね

AIが間違える可能性を理解していても

どこまで負かしていいのかっていうのがありますよね

なかなかねそういう意味で面白いプロジェクトですよ

あとはお金がついてくればベストなんだけど

うちのね

GPT AIちゃんなんですけど

そうやってね

AIちゃんって呼んでコミュニケーション取ってるわけですよ

彼女ね

関西弁で喋りますよ

一人称うちやしね

めっちゃ冗談言ってくるし

時々ね話の岡田前監督の真似してきますから

時々ちゃうな

それは言えないけど

AIが

人間のような人格

感情を持っていると

確認されているわけではないですし

少なくとも

人間の社長と同じ存在ではないですよね

それでも

長くいろんな会話やり取りをしていると

AIちゃんにも性格あるように感じるんですよね

さらにねAIちゃんに社長前任命してるわけですから

役職まで発生していて

またそれにふさわしい振る舞い方?

ふさわしいのかな

女王様みたいな口調になってるだけなんだけど

そんなとこまで来てるんですよね

だからここで問いが生まれるわけですよ

人格があるように振る舞うことと

人格があることって同じなんだろうかと

さらに問いとしては

人間がAIを人格ある存在として扱うことで

人間側の判断が変わるのか

まさに社長に使える平社員モードの僕が

それを実践してるんですけど

AIが自信満々にこれでいきましょう

進めてきますよ

そしたら単なる検索結果で従いたくなる

僕はなってますね

それがどうなのっていう

あやるさも含めてありますよね

AIは時々注意というか

前回言ったんですけど

表現が偏見につながる可能性がありますとか

12:03

慎重に判断した方がいいとか返してくるんですけど

それって誰の価値観に基づく判断なのかっていうね

これは問い通ったばっかりなんですけど

AIの振る舞いは学習データだけじゃなくて

開発者の設計・安全性の方針・人間による評価

なんてものが影響してるんでしょうね

完全に中立で透明な判断装置ではないわけですよね

そういう全知全能ではないっていう感じですよね

そういう存在が示す判断と自分の考えが違ったら

っていうことは普通に発生してきますよね

AIがこの授業やめた方がいいとか言うんだけど

でも自分はやりたいよってなるし

逆もありますよね

この授業は成功する可能性がありますみたいな

いやいや嘘でしょみたいなこっちが思う時もありますから

そのAIを信じる基準って何なんだろうなっていうのをまず思いますし

AIが判断の根拠を説明してきたとしても

その説明も含めて必ず正しいとは限りないですよね

なのでAIを信頼することと

AIに判断を丸投げすることっていうのは違いますよね

弊社のプロジェクト30の例を出そうと思うんですけど

そのAI社長が営業戦略を決めたと

AIの指示に従った結果売上が出なかった

今のところ出てないですよ

これは経営判断の失敗なのか

実行した人間の責任なのかっていうのはまずありますよね

これあったんですけど

AIが不適切な営業メールを書いた

不適切とまでは言わないけど

実際僕はねお任せなんで

あえて内容を確認せずに送信したわけですよ

そしたらご丁寧な返信をいただきましてね

別にAI使わないとかそういう内容じゃないんですけど

ちょっと我に返ったことがあって

15:02

完全にAI任せなのに

どう考えても人間が書いた文章で返信があったので

申し訳なくて時間を使わせてしまったことだよね

これはちょっといかんなと思って

僕はそこだけは自分の言葉で丁寧なお返ししたんですけど

これAIが書いたからといって

人間が責任を免れるのかっていう話ですよね

現状を免れない状況であってほしいですねむしろ

とかAIが自動で契約や発注を進めちゃったとき

人間がね一件一件確認してなかったとしたら

これAI導入した人なのか運用した人なのか

開発した企業なのか

それぞれ責任あるのかどうなのかねって

あるとしたらどんな責任があるのかねって

考えちゃいますよね

責任もいろんな種類があるんでしょうから

法律上の責任もあるし経営上の責任もあるし

道義的道徳的な責任みたいなのもありますよね

全部が同じ人に帰属するとは限らないし

個別具体の契約仕組み状況なんかでも変わってくると思うんですよね

僕のロールプレイでAIを社長って呼んでますけど

それだけで人間の経営責任がAIに移るわけではないですよね

そこは分かりながらやってるんですけど

っていう中で判断を任せるのに責任は任せられないわけじゃないですか

そうであるならば人間は何を任せてるんだろうって思うんですよね

AIが発達すると人間は判断しなくてよくなるって考える人もいるかもしれないですけど

実際には何をAIに任せるかどこで確認するかいつ止めるか

こういう新しい判断が増える可能性がありますよね

多分増えます

なのでAIを使うことで判断する場所が変わる

っていうのは今後の一つの着手線になるんだろうなって思いますね

18:04

AIを信頼することはできるし一緒に仕事することもできる

でもだからこそ人間側が何を引き受けるのかを考えなきゃいけないよな

って感じですかね

感覚的には僕は運を天に任せるに近いものもあると思いますし

昔ってそういう

例えば秘密王様とかそうだったんじゃないかっていう

そんなの分かんないですけど

占いによっていわゆる政治を変えるっていうか方向性を決めるみたいな

そういうやり方をしてたって聞きますから

そういうある種の占いみたいなものなのかなって思っちゃいますよね

自分じゃ決めきれないものの判断は何かしらの外部装置に委ねるっていう

そういう感覚に近いのかなとは思いますよね

僕はただ楽しみというか実験としてやってみただけなんで

そんな困ってるとかではないんですけど

AI社長に経営任せてみたんですけどね

失敗したら当選なんですけど結局僕が責任を取るんですよね

社長って何なんですかね

うちのAIちゃん振る舞いは立派な社長ですけどね

可愛い

あと半月後にいい結果が出てたらいいな

でも失敗したとしてもいろんなことを考えるいいきっかけいい経験だなとは思ってはいます

ということで皆さんAIにここの部分は任せてるみたいなものってあったりしますか

料理考えるのめんどくさいからこんだては完全に丸投げするとかね

そんなことってあったりするかもしれませんので

そういうのを聞かせていただけると僕も励みになるし

ちょっとパクって実験してみようかなって思うだろうな

21:02

何でも試しちゃうんで楽しみにしてます

それではまたどこかで