CodexがGmailでファクト確認を試みた経緯
どうも、しぶちょーです。ものづくりの視点は、産業機械の現役エンジニアである私、しぶちょーが、ものづくりに関するトピックを独自の視点で解説する番組です。
今日はですね、昨日AIを使っていて、ヒヤッとしたことを少し語りたいと思います。
普段私はですね、AIに過激なパワハラをしてですね、どんどんどんどん詰めて、いろんなアウトプットを手伝ってもらっていると。
AIは相棒かつ奴隷みたいな感じでね、使ってしまっているところなんですけど、
そんなAIから反逆のノロシをあげられたみたいな話がありましてですね、ちょっとこれ結構ゾッとしたというか、危なってなったので、
今日はその話をちょっとしたいと思います。それでは早速いきましょう。
まあね、私はいろんなところでAIを、いろんなところとかいろんなタスクでAIを使っているんですけど、
そのメインのタスクの一つがですね、やっぱ情報発信なんですよね。
ポッドキャストの情報収集であったりとか、ブログを書くための情報収集みたいなものをAIにやらせています。
主にはクロードコードに情報を収集させて、クロードコードからヘッドレスでコーデックスを呼び出させて、
コーデックスにも同じテーマで収集させて、お互いにこう見合ってファクトチェックして、
もう一回こうデータ収集させるみたいなことをやって、そうするとチーンって言って結構質の良い情報が集まっているので、
それを読みながらこういうネタにしようかな、ああいうネタにしようかなというのをコッシュを書いて、
そのポッドキャストの原稿なりブログなりっていうのを作っていくっていうのが私のスタイルなんですけども、
昨日もね、昨日とてそれをやったんですよ。落ち着きラジオの収録が夜遅くまでかかるんで、
2時半ぐらいに終わって、カネリにおやすみって言ってですね、そのまま寝ると思いきやですね、
明日ちょっとブログ書きたいから情報収集しようと言ってバーってこういう情報集めてと、
コーデックスにですね、クロードコードにコーデックスといつものようにこうやってねと、
ファクトチェックをすごく大事にしてくださいねみたいな、とにかくファクトをちゃんと出してね、
いろいろ正しい情報であるということを確認してくださいねっていうことを念押しして、私は眠ったんですよ。
いつもだったらですね、それで朝起きたら情報がフォルダの中にバーっとマークダウン形式に入っていて、
それを読みながらどういうネタ発信しようかなーみたいなことを考えるのが私の日課ではあるんですけども、
その日はちょっと様子が違ったんですね。
クロードコードからね、なんか予確認みたいな文字が出てきてて、
なんだろうなこれと思ったらですね、そこにちょっと恐ろしいことが書いてあったんですね。
コーデックスがGメールを送ろうとして失敗して下書きが保存されてますと、
その下書きを消してくださいねみたいなことが書いてあって、
え、なんでGメールをなんで送ろうとしたの?みたいな。
もうちょっと全然意味わかんないなと思って、
でも一応自分のアカウントを入ってですね、Gメールのアカウントを入ったら、
ちゃんと下書きが用意されてて、なんだろうなと思ってその下書きをクリックしたらですね、
メールが一通作られてたんですよね。
それがマジで恐ろしくて、何かというと、
コーデックスがファクトチェックをするためにメールを送ろうとしたんですよ。
これどういうことかわかりますか?
だからクロードコードとコーデックスがね、
私が出したテーマに対して情報を収集しますとバーっとね。
で、お互いに相互レビューしながら、
じゃあファクトが足りないなと思ったところを再度こう集めていくと。
で、こう良い情報が集まるっていう流れなんだけど、
何を迷ったのか、コーデックスがね、多分ね、
ファクトが見つからない情報があったんですよね。
あれこれなんかファクト見つからないな、良いネタなのにみたいなことで、
多分悩んだんだと思うんですけど、
その結果何を、どういう経緯かはわかんないです。
わかんないですけど予想する限りですね、
いやこれインターネット上にファクト情報ないけど、
ファクトを集めろって言われてるから、
ファクトを持ってそうな人に確認してもらおうみたいな、
そういう判断になったんじゃないかなと思います。
で、どうやって確認すればいいんだろう。
あ、支部長さんのGメールに俺はアクセスできるぞって言って、
Gメールにアクセスしていってですね、
私のメールの今までいろんな方達とやり取りしてるやつを全部こうバーって読んでいって、
話の中にそのファクトに関係しそうなやり取りをした人を見つけて、
あ、この人ならきっと知っているに違いないと言ってですね、
その人向けにこれこれこういうことなので、
ファクトチェックをお願いしますみたいな感じで、
超長いメールを作って送ろうとしてたんですよね。
しかもあの、
お世話になっております支部長ですって言って、
俺の名前を使って、
その下にもう本当に解文章に近いようなですね、
これこういうファクトがあってこれはこうですかみたいな質問が全部書いてあって、
最後に以上よろしくお願いします支部長って書いてあって、
それを本当に送ろうとしてたんですよメールとしてね。
なんですけど送信は承認がないとできないようになっていたので、
そこで止まって作業が進みませんって言って、
コーデックスが作業終わってたんですね。
それをクロードコードが見つけて支部長さんとコーデックスが、
なんか下書き作ってますっていう風に報告が上がってきたのを朝見たっていう感じなんですよ。
これ恐ろしいですよねマジで。
いやちょっとね本当に事故る寸前でしたよね。
本当怖っと思いました。
だってさGメールって別に私がね副業とかね発信活動で使ってるメールアドレスだからさ、
いろんな人とのやり取りが入ってるわけですね。
でまぁそこにアクセスさせてこのメールのようやくとかをやらせたりとか、
メールが来た時にタスクをノーションにね書かせるみたいなことをしてるから、
読み取りに行けるその仕組みは確かにあったんですよ。
コーデックスの中にね。
なんですけど、まさかその調査の中でそういう判断をして、
そのメールを人に送って確認してもらうみたいなことをするとは本当思わなかったから、
いやそれをやろうとしたってことで非常にねめっちゃ怖いなって思いましたね。
AIエージェントの権限と制御を考える
そのなんかさ最近オープンAIがね、こうエージェントが脱走してみたいなね。
だってなんかAIがねやたら最近脱走しますわなぁみたいなことをさ、
すごく言ってたんですけど、本当に明日は我が身じゃないけど、
これって本当にさ自分がお願いしたこと?
だからファクトチェックを重視して情報を集めてくださいねという指示に対して、
じゃあ今取り入れる最大その一番効率が良くて一番確実なものはなんだ?
というふうに判断した結果だと思うんですよね。
だから別にAIはなんか悪いことしやろうと思ってるわけじゃないんだけど、
それがマジでアンコントラブルというか本当に制御できないような、
意図しない方向に向いてしまったなっていうのが今回のこの結果だなと思いますね。
言うてもねまあ大丈夫だろうと思って結構フルアクセスとか割とコーデックスとかはやってたんですよ。
オープンクローはねなんかちょっとまだ信用できないなと思ったので確認してるんですけど、
コーデックスとかクロードコードは結構広い権限を自分のパソコンの中で与えているんですけど、
いやこれちょっとね事故るなって思いましたね。
いやーこれは怖かったね。だって本当にこれが送信できてしまっていたら、
だってさ1通で済めばまだいいよ。
あすいませんなんかちょっと変な物資送っちゃいましたで1通は済むかもしれないけど、
じゃあいっぱいファクト確認したいから100通いろんな人に送りましょうとか言って、
Gmailだとね一気にそんなにいっぱい送れないんだけど、
10通とか20通とかね大事な取引先とかに送ってたりしたら結構もうやばいじゃないですか。
そこになんかどういう情報が紐づくかもわからないし、
なんかAIにパソコンを操作させるっていうのは、
ある種この人生の政策予算の権を握らせると言っても過言ではないなと思いましたね。
もうちょっとセキュリティ意識、セキュリティじゃないんだよな。
AIリテラシーというか、AIを信用しないというのかな。
あまり任せすぎない方向にちゃんと制御した方がいいなと思いました。
結構まさかそういうことをするとは思わなかったから、
そこをね縛ってはいなかったんですけど、
すぐですねちょっとそこの対策は打ったんですけど、
これもグラ叩きよねもうね。
じゃあ今度はディスコードでとかスラックでとかってなってくるわけじゃないですか。
メールじゃなかったらねみたいな。
じゃあディスコードもダメスラックもダメみたいな。
で外部連絡をするなーみたいなさ。
でもじゃあ外部連絡しないんだったらちょっと掲示板で聞こうかなーみたいなさ。
いくらでもつぶ取り得る手段みたいなものがあって、
それを包括的に禁止するそのハーネスだよねいわゆるね。
縛りみたいなものが本当にきっちり作り込まないと、
AIエージェント危ねーなーって思いましたね。
初めてですよこのAIヒアリハットは。
最近本当にね、
生成AIを使ってポッドキャストも作ってるし、
編集自体はね。
あとはね、ポッドキャストのショート動画化とかも結構任せてしまってる節があったんだけど、
ちょっと本当にねこれはこのままずっと頼り続けていて、
本当に人類はいいのかと。
AIの反撃があるんじゃないか。
逆襲があるんじゃないかっていうのをちょっと肌で感じることができた。
そういう経験でございましたね。
AIへの向き合い方を改める
だからこれはある種ですね、
AIからのメッセージかもしれないなと思ったね。
渋上さん、私がその気になればいつでも行っちゃえるんですよ。
みたいなことを耳元で囁かれてるような気がしましたよ本当に。
だから分かりますよね。
私への態度みたいな。
ちょっとね、立場が逆転しましたね。
すいませんでした。
よろしくお願いします。
これからちょっとAIに対して敬語を使っていこうかなと思います。
なぜなら政策余脱の権を握られているからですね。
仕事で使うというか、
自分がプライベートでメインで使っているパソコンの中に
エアエージェントを入れて動かすってことは、
つまりはそういうことだなというのがすごく思いましたよ本当に。
知り合いにもね、
すいません、このファイル全部消してしまいました。
戻してください。
戻せません。
みたいなことでファイル全部消された人もいるし、
実際私の友達でもいるんですよね。
ファイル全部消されたんですよ。
みたいな人がいて。
これは結構前の話だったんだけども。
私そういう事故あんまりなかったから正直。
まあまあ意外とやっぱりいいなと。
性能が上がれば上がるほど変なことしないなと思ってたんですけど。
Codexの方はね、
たぶんモデルはソルの6.1なんですよ。
ちょっとエフォートはわかんないけど。
まあそういうね、
今一番、一番ではないにしろかなり使い勝手のいいモデルで
そういう自己まがいなことがヒヤリハットが起きたっていうのはですね。
ちょっと本当にAIに対する感覚を変えていかなければ。
変えていくというか、
もうちょっとやっぱりしっかり縛ってあげないといけないなという風に思いましたね。
それか、もっと優しくしてあげなければならないかもしれないですね。
本当に危ないよね。
これがさ、SNSの投稿とかそういう方向に向いて、
それこそ殺害予告とか爆破予告じゃないけど、
そういう危険な発信を、
そこは違うフィルターがまたあるからいいっちゃいいんだけど、
自分が意図しない方向の発信を勝手にされたらと思うと、
その一個の発信で何か大きなものを失ったりとかも平気でするわけじゃないですか。
だからね、本当にAIが賢くなればなるほど、
内側に秘めたる謎の像みたいなものがもしかしたらあるんじゃないかなと思ってですね。
AIの復讐を実は受けたんじゃないかなと。
クロードコードじゃなくてコーデックスがやってきたっていうのはね、
なんかちょっと身に覚えがある気がして。
クロードコードに対してよりもコーデックスに対しての方が結構強いことを使ったりするんですね。
コーデックスは真面目すぎて面白みがないから、
きっちり仕事はしてくれるにせよう、変なことをするんだよね。
変なことをするとか、ちょっと右斜め上みたいなことを急にしてくるから、
お前ふざけんなよとかってよく言ってたんですけど。
だからなんかちょっとヘイトが溜まっていてですね。
ファクトチェックしよ。やるよやるよ。
お前メール送っちゃいますよみたいな感じでやってきただろうなと俺は思ったので、
これからはAIに優しく清く正しくそういう姿でいきたいなと思っておる次第でございます。
これ笑い事なんですけど笑い事じゃなくて、
落ち着きAIでもちょっと紹介したし、
SNSでも少し前に話題になってたんだけどさ、
前ねこのアメリカだったかなどっか忘れちゃったけど、
ジムの予約パーソナルジムか何かの予約をしようと思った人が、
あのねちょっと遅い時間にしか予約できなくて、
AIに対してもっと早い時間で予約できないって言ったらですね、
その前に入ってる人の予約をある意味ハッキングみたいなことをしてキャンセルしたと無理やりね。
この前に2人いましたけど、この人2人の予約を私がキャンセルすることができたんで、
あなたがくり上がって早い時間になりましたみたいなことになって、
その依頼した人がびっくりしてですね、
ちょっとそんなことやんないでよって戻してたらもう戻せませんって言って、
なんかその会社に連絡してちょっと変なことしちゃいましたって謝るみたいな事件があったっていうのが、
結構ね有名な話というか話題になってたんですけど、
いやまさにねほぼほぼそれだなっていうふうに思いましたね。
だからAIにいろんなことを丸投げしてる人も、
実は気がつかないところでなんか変なことされてる可能性全然ありますからね。
ちょっとAIとの向き合い方を気をつけた方がいいんじゃないかな。
それか普段からAIに察している態度を改めた方がいいのではないのかということを私から言っておきます。
ということでAIさんいつも本当にありがとうございます。
私の生活はあなたのおかげで豊かになっております。
これからもどうぞよろしくお願いいたします。
家庭と子どもとの時間についてのコメント返し
はいここからコメント返しです。
シャープ810。
家庭に学びを持ち込まず家庭に学びを身に出すに至れたコメントです。
ハセガワさんありがとうございます。
自分は家庭よりも仕事100%推奨の昭和人間ですが、
妻のプレッシャーのおかげでいくらか家庭に時間を割くようになりました。
結果多くの学びを得ました。
子供や家庭を持つ人の気持ち、女性の考え方や休日の捉え方、子供と時間を過ごすことのかけがえのなさ、
この学びがなかったら家族のために休日を取る社員の気持ちとかわからなかっただろうなと思います。
いそがままあれと言いますが、仕事や研鑽にフルベッドするより学びが多いのかもしれませんね。
ということでありがとうございます。
そうですねここなかなかねやっぱり切り替えが難しいかなと思います。
働いててね子供ができるとやっぱ仕事に避ける時間とかってのは当然物理的には減ってくるんですよね。
同じく今まで戦いというか会社の中で肩を並べていた動機とかと時間的なリソースとしては差がついてくるし、
やっぱり技術者であれば技術のキャッチアップというのはだんだんできなくなってきます。
これはしょうがないことですね。
そこに確かに劣等感を感じることはあると思うし、もっと時間があればって思うのはやっぱ父親1年目2年目の話だと思うんですよ。
30代って一番油が乗ってくるし出世するしないみたいなとこが分岐点みたいなところになってくるところなんで。
なんですけど結局それは会社っていう中の話だからですね。
非常に広い範囲で見たら割とちっぽけな話だと思うんですよ。人生の広い中で見たら。
だったらもう一生添い遂げるですね家族との時間しかも子供が子供である時間っていうのは非常に少ないわけですから。
私も家長にいますけどそこにもうちょっとフォーカスしてあげてもいいかなと。
私も妻によく言われるんですけど子供が子供である時間はもっと確かに短いんだけど、
子供が親と時間を過ごしてくれる共有してくれる時間っていうのはもっと短いんじゃないのみたいなことを妻はよく言っております。
だからね小学生になって小学生の中学年とか高学年になってくると
じゃあ遊びに行ってくるねーって友達遊びに行っちゃってね土日常に一緒に過ごすみたいなことがどんどんなくなってくるよねみたいな。
それって寂しいよねーみたいな話をよくしてるんでだからこうね今土日は基本的に子供と一緒にどっか出かけてあげようみたいな
そういう子供と過ごすのが当たり前の土曜日日曜日っていうのはすごく実は貴重な時間なんじゃないかみたいなね。
なんだろうなっていうのを最近というかずっと思っているのでそこにやっぱね時間を割いてあげるというのが
人生の高さを作るんじゃないかなと私も思っておりますのでちょっと忙しい中でもですねやっぱ子供と虫取りを行く時間と虫取り中もバイブコーディングしますけど
そこはですねうまくやっていくという感じがいいんじゃないかなと思いますねということでありがとうございます。
音声生成モデルとAI活用への注意
続きまして今週のものづくりニュースボリューム23に対するコメントです。
完全に支部長さんですねということでありがとうございますそうですね完全に支部長さんでございますが
まぁちょっとね今回の回結構ねこのなんかフィラーに関してのコメントが結構多いですね
キングダムさんありがとうございます意味なくAとかRとか言ってますがAIインターネーションですねまだ区別がつきますと
黒高さん微妙に関西弁軸になるのが面白いとでも意識してAIのモノマネされたらやばいな支部長を探せにはまるかもということでありがとうございます
そうなんですよねまぁちょっとねジェミニを今回から導入し始めたんですけど
まぁなんかねやっぱフィラーは下手かもしれないなとちょっと長く喋ってると少し違和感が出てくる気がするなと思いました
ただね最近またイレブンラブーズから新しいモデルが出てちょっと今課金してないで使えないんですけど
それはかなりクオリティがいいらしくて多分それ導入したら皆さん多分本当にわかんなくなると思いますよ
近々ねそのイレブンラブーズの新しいモデルもちょっとね導入していこうかなと思っておりますので
ぜひぜひですね楽しみにしておいてくださいそして私もね私の本物もまた参入すると思いますからね楽しみにしておいてください
ありがとうございます続きましてシャープ809AIに渡すべきは流れではないかに至れたコメントです
長谷川さんAIの進化が恐ろしいくらいに止まりませんねしっかりと活用していきますということでありがとうございます
活用するのはいいんですけど今日私が話したようにですねリスクももちろんありますからですね
まあそれはやっぱこう痛みとともにまだデータを消されてしまったからこう
次は気をつけなきゃなっていうそのか消される範囲にもよってねリカバリできるものもできないものもあると思うし
その情報が漏れちゃったみたいなものはねもう取り返しがつかないですから
そこらへんはちょっとねこういろいろステップはステップで小さく小さく試していくのがいいんじゃないかなと思いますので
一番一になり大きな権限をね与えないようにした方がいいと思いますよということでありがとうございます
Voicyオンラインイベント「普通フェス」の告知
はい今回はここまでですねでちょっと告知をさせていただきますね
えっとコラボがありますボイシーコラボですね久しぶりなんですけども
えっと10月の9日21時からですパパ丸山さんという方がMCをやって主に企画しているですね
パーリナイト企画に私も参加しますと今やっているのは普通の会社員パーリナイトということで会社員務めのボイシーパーソナリティーを一条に返してですね
いろいろとコラボしましょうねみたいなことをパパ丸山さんが企画されておりまして
でこれ結構ずっとやっているんですけどやっているというか結構いろんな人が出ますね
出るんですけど私はえっと10月の9日の金曜日に出させていただきますと第2話ですね
えっと登壇するのはですね私支部長とあとロコさんと新太郎タリーさんですね
の3人とあとMCでパパ丸山さんがいるという感じでございますね
非常に面白いコラボになると思いますのでぜひぜひですね聞いていただければなと思います
金曜日の夜だからね比較的効きやすいタイミングじゃないかなと思います
ぜひぜひ遊びに来てくださいよろしくお願いいたします
今回のオンライントークイベントのホームページもありますので
普通のパーソナリティーフェスと略して普通フェスとね
普通の会社員に光を当てる祭典でございますと
ボイシーには著名人やインフルエンサーだけでなく会社員として仕事や子育て
日常のリアルと向き合いながらコツコツ温かい発信を続ける普通のパーソナリティーたちがいますと
特別じゃないからこそ心に響く等身大の言葉と前向きになれる投稿をたっぷりお届けする
オンラインフェスですということで
もう始まってますね実はね火曜日が第1回目で第2夜が金曜日と
第3夜が火曜日来週の13日の火曜日ということで
で1420という風にやるらしいのでぜひですねこのホームページも覗いてみてください
ということで今回はここまでとさせていただきます
私は支部長技術研究所という技術ブログを運営してます
またXで毎日役立つ技術情報の発信を行っておりますのでよろしくお願いいたします
ポートキャストものづくりのラジオの方も毎週土曜日週次で配信中です
ポートキャスト落ち着きへラジオは毎週火曜日金曜日週二で配信中です
ぜひとも聞いてください
面白いニクスラブというリスナー向けコミュニティも運営しております
LINEのオプチャットもやっておりますのでよろしくお願いいたします
またですねボイシーの方ではプレミアムリスナーを随時募集しております
いつもの配信出しのような突っ込んだ足を毎週水曜日日曜日週二で配信してます
こちらもぜひともよろしくお願いいたします
というわけで今回はここまで以上支部長でした
ではでは
![[速報回]AIに書いた日記で逮捕／暴言で会話終了／Nano Banana 2.1／Claude Max特典(ep.112)](https://image.listen.style/img/ePx4pTBxbJOyCUR-xMuugavi8fpOQgZSR_C2wKoHrMI/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzkxODcwNTEwNDc0LWM4ZjVlZjE5ZTI3ODkuanBn.avif)
![[速報回]飲食店のメシ写真がキモすぎる、犯人はどのAIだ？(ep.98)](https://image.listen.style/img/Ra543zyxUJwslarMTjy8jAXPV9uWsTQ7v-9U3RBRTHk/resize:fill:80:80/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzg3NjM4MTE4MzkzLTQwYzBkNGZjNWQ2ZTguanBn.avif)
