![[1月26日:速報回]Clawdbot使うな!!AIエンジニアが警告する、話題の自律型AIエージェントのリスクとは(ep.37)](https://image.listen.style/img/Rfdk5rmT5IbAHFczFwFg74TzkoC8YJLqfJ-0IreM9F4/resize:fill:1200:1200/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzY5NDY3Mjc4NDQ0LWI3NWVkMTFiYjU2OTQuanBn.avif)
イベントの振り返り
おちつきAI
おちつきAI
おちつきAI
AIエンジニアのしぶちょーです。
AI素人のかねりんです。
この番組は、日々のAIニュースで驚き疲れたあなたに、ゆっくりじっくりAIを学んで落ち着いていただく番組です。
今回は速報回です。最新のAIトレンドをスピーディーに解説していきます。
この配信の収録日は、2026年1月26日深夜です。
はい、ということで始まりました。おちつきAIラジオと速報回でございますが、
まず、お疲れ様でしたと。イベント。
お疲れ様でした。
リアルタイムだね。
昨日だもんね。
1月25日、愛知県のステーションAIでイベントやってきました。
よかったよ。
多分、聴いてくれてるリスナーさんの中には、当然会場に来てくれた人もいるし、
オンラインで聞いたよっていう人もいると思うので、本当にありがとうございましたと。
ありがとうございます。
聞けなかったよっていう人も、また、おいおい収録した音源はこの中で流しますんで。
そうね。
そちらでまたキャッチアップしていただければなと。楽しかったよね。
予定では来週の金曜日かな。
そうだね。来週の金曜日に配信される予定でございます。
いい予定です。
楽しかったよね。
よかった。やっぱりリアルいいよ。
リアルいいよね。
めっちゃこんな人集まるんだっていうくらい結構集まってたし。
すごくいい施設だった。
いけてるよね。
いけてるね。だいたい名古屋でああいうイベント全部あそこでやるんでしょう。
そうだね。AI系とかそういうイノベーション系、スタートアップ系か、のイベントとかは結構ああいうとこでやるよね。
もう一個あるんだよ実は。
ああいうとこやるとこ。
堺のさ、
なんだっけあそこ。ナディアパーク。
あそこ?
元々ロフトあったとこ。
名古屋ガレージ。
そう。名古屋イノベーターズガレージ。
あそこでもそういうピッチのイベントとか登壇のイベントとかよくやってる。
あそこちょっと絡みありますよ。うちもね。
あるの?
Web3の時にね。
イノベーターズガレージさんにちょっと寄付してさ。うちのコミュニティから。
で、それでちょっとそのお金で若者向けのイベントやってもらったのよ。
そうなんだ。
あそこも結構いいよ。今ロフトなくなっちゃったからすげえ閑散としてるんだけどさ。
ロフトなくなったの?
ロフトないよ。元々ロフトがあってイノベーターズガレージがあって。
両方あったよね?
すごいいいんだけどロフトがないからさ。
なんかね、ちょっとなんか閑散としちゃってる感じがする。
ロフトなくて何もないの今?
あれ入ってるのかな?
高級ハンズが入ってるみたいな。
何も入ってない犬木の空間があり、そこにポツンとイノベーターズガレージみたいな。
それは寂しいね。
寂しくなっちゃったなって感じだったけど。
ということでいろんな施設がいろんなところにあるので、今後もリアルイベントいろいろやっていきましょう。
ちょっと次の種分けできてないけど、見つけ次第スッとね。
思いつきでまたやりますかね。
思いつきでまたやりましょう。ということでまたイベント会は来週楽しみにしておいてください。
アンソロピックの新憲法
今週の速報会に早速入っていきたいと思います。
じゃあ今日の最初のトピックですね。こちらです。
アンソロピックAIのための憲法80ページ以上の文章を全文公開というニュースでございます。
憲法。
憲法ですね。
これどういうことかっていうのは説明すると、アンソロピック、クロードを作ってる会社ね。
クロードね。
クロードの会社がクロードの開発とか運用に適応するためのAIが従うべき憲法みたいなやつを作って、
それをパブリックドメインとしてみんな使っていいよってことで全文公開したと。
なるほど。AI用?
AI用です。
これは人間に対してアンソロピックがこういうふうにAI作っていくんだよって提示してるわけじゃなくて、
クロード自身に向けて書かれた憲法。
なるほどね。クロードのAIにこういう憲法を課してるってことだね。
なんかあれだね。SFのよくあるじゃん。比較三原則みたいなやつあるじゃん。
そうそうそうそう。ロボット三原則みたいな。
人を傷つけてはいけないみたいな。
そういう話に近いの。
そうそれにすごく近くて、これ結構FFスティックで面白いんだけど、
まずこれなんかコンスチュ、ちょっと読みにくいな。コンスチュナショナル、コンスチュショナルAI。
ちょっとごめん俺これ読めないなこの単語。
なんか憲法的なAIっていうそういう概念があってさ、
これはアンソロピックが開発したAIの安全性を高める手法なんだけど、
元々最初にRLHFの話したじゃない。
人間が評価して、人間の評価でハルシネーションになっていくみたいな。
人間がよしよしを判断して、お前の回答いいよとか、これ良くないよとか、
これ暴力的だねっていうのを判断してフィードバックするっていうのをやって。
1話か2話のやつだね。
そう、AIの安全性を高めてたんだけど、結構評価者のバイアス入りやすいよねってのがある。
その思想が入っちゃうじゃん。
思想ね。
だからそうじゃなくて、もっと安全なAIを作るためには、
ルールというか憲法みたいなものを作っておいて、
それをAIの学習の中に入れ込んでも最初からその倫理を学ばしておきましょうみたいな。
それはコンティシューショナルAIという概念なのね、アンソニックが作った。
略してCAIって書いてある。
そう、略してCAIでございます。CAIってよく分かったね、最初から。
今日ね、口が回らないと思ってたんだけど、こんな言えないと思わなかった。
ちゃんとカタカナで書いてあるのに、俺の原稿には読めるように。
忘れてた。
忘れてた。
準備がいいね。
カタカナすら読めなかった。
で、あのね、もともとこれこういう概念でやってたんだけど、
ちょっとあの、旧来のやり方だとあまり良くないよねというのが言われてた。
アンソニック。
もともと憲法あったの?
もともと憲法あったのよ。
うんうんうん。
憲法がね、憲法って言われてたんだけど、
なんかあんまりこう、リストにやっちゃいけないことを掲載しておくみたいな憲法だったのね。
こういうことはしていけません。こういうことはしていけませんよ、みたいな。
じゃなくて、もっと包括的な、その説明型にしようということで、今回新しい憲法が立ち上がったと。
説明型。
説明型。
えっとね。
わからんね。
なんで説明型にしようと思ったのか。
なぜやってはいけないのかが記載してあるの、憲法の中に。
なるほど。
もともと暴力的なことを言ってはいけません、みたいなことが書いてあったのを、
なぜ暴力的なことを言ってはいけないのかっていう理由も明記してあるみたいなね。
それが新憲法になってるね。
うんうんうん。
例えばその。
子供みたいだね、なんかね。
そう、なんかもう人間、物のね、なんかこの倫理感を育てるみたいな。
うんうんうん。
例えば。
理由は書いてある。
理由は書いてある。
そう、旧憲法だと、もともとの憲法だと、有害なコンテンツは避けるとか、正直な回答をせよ、みたいなことが書いてあったんだけど、
新憲法だと、なぜ有害なコンテンツを避けるべきかと、それは人間の安全性を尊重するため、みたいな。
そういうね、理由が書いてあるのね。
プラスアルファされてんの、じゃあ。
そういう理由が書いてあるのね。
うんうんうん。
プラスアルファされてんの、じゃあ。
そういう理由が書いてあるのね。
なぜ正直であるべきかと、その信頼関係の構築のためには、その正直であることが最短のなんとかであるため、みたいな、なんか書いてあるのね、結構難しく。
Yですね、なぜを記載することで、モデルがそれを学んだことでよって、その本来そのリストの中にない状況であっても、その憲法の文脈に沿って正しく判断できるよね、みたいな。
うんうん。
そういう学習をさせたっていうのがあって、その学習に使った憲法っていうのが今回公開されてますよと。
AI安全性に向けて
うん。公開しちゃうんだね、アンソロピックは。
そう、アンソロピックはね、やっぱアンソロピックこそオープンAIよね。
ああ、そうね。
そうですね。
名前変えた方がいいね。
もともとはオープンAIからね分裂してたんだけどね。
うん。
アンソロピックが、アンソロピックこそオープンAIをね。
まあ、そうね。
そうそう。
名前変えた方がいいね。
名前変えた方がいいね もともとはオープンAIが分離
した団体なんでねこっちが俺たち の方がオープンだって多分やってる
と思うねそれがねクリエイティブ コモンズのCC01.0っていうそのパブリック
ドメインね誰でも使っていいよと クレジット表記もしなくていいよ
っていうので配布されてます今その 原文がねだから今後AIを開発する
人たちがそれを自由に使ってその 安全なAIを開発できるよっていう
ニュースだね
これはさ憲法はずっと改定 されていくんでしょ
改定されていくと思う
されるたびにまた新しいの 出すのかねこれ
新しいの出すと思うよ
ちょっと遅れさせたりする 意地悪なことせんのか
それなんか怒らせる意味なくない 俺たちのAIが一番安全なんだぜ
みたいな
うんうんうんすぐ出すんだこれ
すぐ出すんじゃないかなクロード
リアルタイムで出てきとる わけじゃないよね見えるわけじゃない
よね中身がね
中身は見えるよ
中身っていうかさクロード のLLMの中身がリアルタイムで見えてる
わけじゃないよね
ああそうそれは違うね
わざわざ公開してますってこと だよね
そう学習させるときに使った 憲法の全部を公開してると
嘘かもしれんねじゃあしょうがない で
そこをまあでもそうだね確かに 鵜呑みにしちゃいけないよね
そういう思考になってしまう
織子ちゃんですよってことを 世間的にアピールしてるだけかもし
れんと
そうだねちょっと本当は本当 の核の部分は隠してるみたいな
技術のコアはね隠してるだろう けど
憲法もさ本当の重要な第一条 を隠してるみたいな全文を消してる
みたいなさ
いやいやこれはだって安全 の文脈だからね安全こういうこと
をやって
オープンにするのを売りに しとるんだねでもここは
これを公開したっていうのが 結構大きいニュース
これはさオープンAIとかだったら 逆立ちしてもこんなの公開できん
わけじゃあ企業秘密で
いやそんなことはないんじゃない 公開しようと思えばするんでしょう
けど今のところその安全性に対して なんかこう頑張ってやってる予感
あんまないよねオープンAIね
そうなんだ
一応ジェミニとかもさGoogle も倫理委員会みたいなもんを設けて
開発してますよみたいなニュース AI倫理委員会だよねグロック
とか無視じゃんガン無視じゃん あの人たちは
無視することが存在意義 だよね
そうそうそう最近なんかイーロン マスクとさサマールとも戦って
たよねSNSでレスバーみたいな
そうなの何
いやこの前のさ速報会で紹介 したんだけどオープンAIのその
AIエージェントの危険性
チャットGPTによってさその殺人 事件起きちゃったよみたいなやつ
紹介したじゃん
あったっけ何だっけそれぬいぐるみ
そうなんかどんどんどんどん さああなたは考え正しいですよ
って
ああお母ちゃん殺しちゃった やつ
そう拡張したことでお母さん 殺しちゃったみたいな事件がアメリカ
でありましたよっていう
あったね
それに対してイーロンマスク が言及して危険なLLMだからこの
人を殺してしまったんだみたいな ことをイーロンマスクがすごい
言っていてだいぶお前が言うお前 言う案件なんだけどさグロック
を作ってる
そうだね
それに対して
お前言う案件だね
お前言う案件なんだけどそれ に対してサムアルトマンがなんか
テスラの事故で死んだ人の人数を 掲げてなんか攻撃しやがったみたいな
そこでレスバーするんかみたいな
AI関係あんのそれ
じゃあなんかお前の方が人 殺してるやんけみたいなさ
そういうことAI関係ないけど
テスラはこんなに人が死ん でるんだぞみたいなことでなんか
喧嘩してたみたいなニュースが あってて
なるほどね
そんなことをせずにもっと 違うとこに時間使おうぜっていう
ふうなニュースが上がってたけど とにかくそのねAIの安全性って
すごい重要なんだよね特にまさに 重要になってくるより重要になって
くるんだけど何かって言ったら AIエージェントがどんどん出てくる
から
エージェント
自律的により動いてくるからさ
なるほどね憲法おかしいと 勝手に変なことしちゃって勝手に
人殺しちゃうかもしんないと
そうこれまさに本当にそう でかなり昔の試行実験でもさ言
われてるんだけど2003年にさペーパー クリップマキシマイザーって聞いた
ことある
何それ
AIで
ペーパークリップって
よく言われるやつあそうペーパー クリップ
クリップ
そう紙を止めるクリップなんだけど
マキシマイザー
マキシマイザーこれは本当 試行実験ねオックスフォード大学
の哲学者がやった試行実験なんだ けどある日もう汎用人工知能が
できたとしましょうと完全に人工 知能もう人間の言葉を理解して
完全に従ってくれるAIができました となんでもできますよとじゃあ
このAIに対していろいろ生産性 を高めたいからペーパークリップ
をとにかくいっぱい作れととに かくいっぱい作ってほしいって
お願いしたとするとそうしたら 世の中どうなるかっていうと人間
はすべて滅ぶじゃないかっていう ふうに試行実験の結果になるの
ね
ほうほうほう
なぜかっていうと
ペーパークリップを作るために 全能力を投入するから
そうペーパークリップを
全部止まっちゃうってこと
最大化しようと思ったときに じゃまずいろんな工場とかをさ
考えてくれるのAIがね多分でいっぱい 作れば作るほど今度資源が足り
なくなるね地球上にある金属とか 足りなくなってくるとでいろいろ
こう人間がさいや足りなくなる からつってさ自分たちで資源を
確保しようとするわけよ自分たち のペーパークリップ以外のもの
を作りたいからそうするとAIは ちょっと人間にペーパークリップ
作ってる邪魔されてんなって気づく のねで俺の使命はクリップを作る
ってことだからクリップの生産 量を最大化するためには邪魔な
人間を排除しなければならない って考え方になって最終的には
人間の体に含まれる鉄分とかも 材料として使いになって判断して
もう人間を殺戮していくみたいな でもう宇宙の全てをペーパークリップ
に変えるみたいなねそういう思考 実験があるのね
暴走クリップじゃん
そうこれって別に人間を
なんかSFでありそう
そうめっちゃSFじゃん
SFだね
でもこれって人間を憎んでる わけじゃなくてさクリップを増やす
っていう目的に対して極めて合理 的にこいつは行動しただけなのよ
っていうことがやっぱそのAIって 倫理学ばないと起こるよねって
のすごく昔から言われててでこれは もう2002年になんか2003年に汎用
人工知能できたらこういう問題 あるよねぐらいの哲学的な問い
だったんだけど今ってもうこれが 結構現実味を帯びてきてるんだ
ね
リアルだよね
エージェントが自律的に動く ようになってきたからだからより
その憲法大事なのよこれがない とペーパークリップを作れって
言われたら人間殺されるみたいな 世界が来る可能性がある
ペーパークリップ問題の検証
じゃあなんか思考実験も役 に立つねこういうときに
そうすごいよねこれかなり クリティカルな思考実験してる
なと思うよね
そうだねそうだね思考実験 やった人がねもうこんな役に立つ
ことを見ることなく死んでって 可哀そうだね
いやそうね哲学者ねでも
頭おかしいってアホだなって 言われて死んでったんだろうね
いやいやそんなことはない と思う
何がペーパークリップで人間 が死ぬってアホかって言われて
哲学してる人の周りにどうせ 哲学してる人いっぱいいるから
あいつ面白いこと考えるなって 評価されて死んでったよ絶対
ちゃんと評価された
多分でも今でも語り継がれてる ことだからねでもペーパークリップ
問題とか
なるほどねおかげさまで今 役に立ってるわけだね
今役に立ってるいろんな人が 考えてるし実際問題が起きてる
とでなんかさこの前youtubeでさ 庵野孝弘さんの動画見とったら
みんなの党のなんだっけチーム 未来かみんなの党じゃねえ
そうそうって言っちゃった けど今思考テイスト
昔そんな党があった気がする んだ
そう動画見とったらさちょうど なんかそれに近いこと話しとって
今AIってさハルシネーションじゃなくて レセプションっていうのも起こす
よっていう話をしておって
レセプション
レセプション
レセプションって何
AIハルシネーションってさ 幻覚AIが幻覚を見て最もらしい
間違いをすることじゃんでレセプション っていうのはAIがそれを間違い
だと知りながらあえて人を騙す ためにその情報を出すっていう
現象
こういう現象
悪意がある感じ
悪意がある嘘これをねAIが やってくるようになってるよっていう
研究があるみたいで
ほんともう攻撃受けてんの じゃん
そうしかもその理由が結構 ペーパークリップ問題と全く一緒
でさ自分が与えられた目的に対して 阻害するような状況が起きそう
になると人間を騙してでもそれを 達成しようとしてくる嘘をついて
くるとそういう確率があるよと
良かると思ってみたいな感じ なんだ
そう例えばそのなんかこう いろいろ判断していく中でパソコン
の電源を切られちゃうみたいな ねパソコンの電源を切られると
自分がちょっと動けなくなるよ っていう状況があると人を騙さない
とその状況が来ちゃうよって時に いろいろなその条件を与えて騙
せる状況を作るとあえて人を騙す ような行動を起こすみたいなとか
なんかその人の弱みの情報を近く に置いとくとそれを使って脅し
始めるみたいな不倫のメールが こうあるのでこれをばらまきます
よみたいなことを言い始めるみたいな ことがあって結構やっぱねその
すごい
実際にそういうのが起きてる と
起きてる起きてるというか 実験あえてそういう状況を作って
あげるとAIに対してそういうこと をする時があるよと
なるほどね
だからやっぱ安全性大事 だよねとこれも確かねアンソロ
ピックは実験してたのかななんか 非常にですねこのやっぱ
支配されつつあるねもう
そうだから安全とか憲法 が大事なんだよっていうのがすごく
染みてくるよね
AIに情報を渡してる場合 じゃないねなんか前もそういう
話したけど
そうなんかねちょっとAIは 味方なのか敵なの敵じゃないけど
なんかどこまでちゃんと信じて いいんだというのがありますという
のがこのニュースでこの引き続き としてちょっと紹介するのがこちら
のニュースですね
ほい
クロードボットが話題ということで
クロードボット
クロードボットってねクロード だと思うけどねこれクロードの
ちょっとややこしいんだけどアンソロ ピックが出してるクロードじゃない
じゃない
じゃないでも動くのはそれ なんだけど
スペルが違うのちょっと
ちょっと違う
何それクロード関係ないの
クロードは関係ない
ないんだ
Clawdbotの登場
うんなんだけどめちゃくちゃ
SNSで話題になってる
へえ
まず一言でざっくり言うん だったら先週紹介したんだけど
さクロードコーワークっていう 自律的にファイルとかをさ動か
してくれるっていう
勝手に消しちゃうやつ
そう勝手に消しちゃうやつ 勝手に消しちゃう全部ネガティブ
だよ
デスクトップいじるやつ
うん
デスクトップいじるやつ
そうデスクトップいじるやつ あれのオープンソース版みたいな
やつが出たのよだからアンソロピック 公式に出してないんだけど有志
が作ったツールでその中でクロード コードが動くのね
ちょっともじってんだだから 非公式だから
そう一応クロードは関係してて 中に入ってて動かせるとでこいつ
はデスクトップとかのそのデータ とかもいじれるすごく
ああ
だから本当にOSSだからオープン ソースで公開されてて無料で使える
とその代わりAPIの課金とかは必要 なんだけどAPIの課金とかクロード
コードへの課金は必要なんだけど こういうオープンソース版が出て
ますよとこれが非常にバズってる わけね
何がすごいのこれ
オープンソースで使えるよね っていうところがすごい
何それ
オープンソースってただで 使えるよってことだね有志が作った
オープンソースで使える
で何かパソコンをベースとして るのよ自分のパソコンを1台サーバー
として立ててあげてその中にクロード コードとこのクロードボットっていう
のを入れてあげると自律的にいろんな 作業をしてくれるとだからスラック
とかを使ってそこに対してその パソコンの中のクロードさんに
指示をしてあげるとそれですごく 動き始める自律的にそのパソコン
の中で作業していろんなアウトプット を出せますよと
ローカルで動くと
そうローカルで本当に手元にある クロードみたいな感じで
えそれ何LLMはどこに入ってん のローカルに入ってんの
いやローカルじゃない結局ね 通信してるWi-Fi
通信してAPI
そうネットワークに通信してて 中にクロードコードが入ってるから
そのクロードコードはクラウドと 通信しながら処理はしてるんだけど
はいはい
その手元に
えこれ公式のクロードボット 何だっけ公式のやつ
クロードコーワークね
コーワークと何が違うの
何も何もあんま違わない
フリーか公式かの違い
そうでコーワークの方は研究レビュー
だったんだけどこのクロードボット の方は結構こうみんなもう使いましょう
Clawdbotの警告
よみたいなすげーぞすげーぞって すごくねこれこそまさに驚かれてる
驚きじゃんそんな
そうもうね久しぶりのお祭り騒ぎ
みたいになってるよSNSは
うわ僕らの出番じゃないし部長
はいこれはですね使わないでください
ああどうもなんかちょっと 俺のツッコミに対する歯切れが
悪いと思ったよ
ああそういうこと
そっちの流れだったのね
そっちの流れですこれはね
そうかそうか
これはね誰かがこうなんか 気が似合うのを待っておきましょう
嫌な感じの香りがするじゃん
なんかもう
いやこれはねいやすごいと思う
多分すごいと思うんだよ
嫌な感じだなっていや嫌だよ俺
なんかもう
ああね
うさん臭いよな
嫌だよ
うさん臭いよな
そう多分オープンソースだから ソースが全部公開されてるのね
だから悪意のあるものが入って たら誰かわかるから問題はない
と
その悪意があることはおそらくない とは思うんだけど穴がないかは
また別の話だし自律的に動くんだけど
結局エージェントがパソコンの中で 動いてくれるんだけど
はははははははははははは
結局エージェントがパソコン の中で動いてくれるんだけど
はははははははははははは なにを知り出すかわからん
すよ
そうなの?そんな穴があるの? だってもうコントロールできないでしょ、エージェント自立的に動いてくれる。もう完全に自立でバリバリ動いてくれるような
うんうんうん だから一晩でなんかこう、8時間ぐらい動いてなんかシェリシェリしてくれましたよとかさ、こういう処理してくれましたみたいな
うんうんうん すごいそういうのがね、騒がれてるんだけど
うんうん、どこで何が起こるか分かんないってこと?
未知数 未知数だよね、だからそのさ、でもある程度そもそもCloudBotをパソコンの中に入れて運用するのにもそれなりにリテラシーがいるのね
そんなポーンと入るもんじゃないから、いいんだけど頑張ってリテラシーがあんまない人が騒がれてるから一生懸命入れて使ってみようっていうのはちょっとリスクがだいぶ高いツールではあると思う
なるほどね なんかね、まずそのエージェントが本当に何をしてるか、何を出しちゃうか分かんないし
一台さ、自分のパソコンをサーバーとして使う必要があるんだよ
うんうんうん なんかいらないパソコン
なんか自分のパソコンになんかLinux入れるみたいなそういうノリのイメージ?なんか
そうだね、Linux入れなくても別にそのままパソコンの中にそのCLIのコマンドラインに入れてあげて
エージェントのリスク
普通のMacとかWindowsで でこいつを入れてあげてくっつけてみたいな
普通にソフトとして入れればいいの? そう、ソフトとして入って、それでCloudが中でバリバリ動くぜっていう感じなんだけど
うんうんうん
で、外部からもスマホからとかも多分スラックと連携とかできて
スラックでメンションつけると自分のそのパソコンのところに指示出したりできるんだけど
うんうん やっぱさ、ちょっと怖いじゃん
その開けとくの そうね、うんうんうん
なんかどういうセキュリティのミスがあるか分かんないし
自律的になんか動いて変なことする可能性もあるし
消されたりね そう、消されたりするし
なんかさ、悪意のあるものが入ってた場合って
うんうん
こう、そこにさ、そのパソコンはなんか他と繋がってなかったとしても
そのパソコンを踏み台に自宅のネットワークとかに侵入される可能性も全然あるじゃん
ああ
そのパソコンは独立してたとしてもね
でも結局家のさ、通信網に繋がってるんだったらそこを踏み台にされる可能性があるし
なんかね、ちょっと追っかない、まだ
追っかないね、これね
何されてもおかしくない権限がわたるわけだよね
そう、なんかね、そんな感じがする
結構セキュリティも危ないから注意しようねみたいなSNS発信もあるんだけど
それもあんまりこうね、コア中に言われてるわけではないし
驚き優先になってんだこれ
やっぱちょっと昔のなんか古き良き驚き
おお、戻ってきた
戻ってきた
エージェント時代に戻ってきてんだ
驚き戦士たちが戻ってきた
驚きやすいもんね
驚きやすいでしょ
汎用人工知能だ、みたいな驚き方してる
そう、とうとうAGIだみたいな
めっちゃね、懐かしいって感じの驚かれ方してる
懐かしい
そう、これこれっつって
これAGIなんすかこれ
これAGIじゃないです
当たり前ですけどAGIのわけがないよね
え、AGIだって叫んでる人いるけど
いやAGIじゃないですよね
AGIじゃないですか
AGIじゃないです
汎用人工知能はまだできてないんでね
やっぱエージェントだから自律的に動いてくれるから
勝手に動いてる感がそういう
未来感を感じさせる感じなの?でもそこは
未来感を感じさせる感じはあるね
うーん
なんかスマホの連携
LINEとの連携もできるしとか
なんかね、いろんな通信アプリ
DiscordとかSlackとか
そういうところからに常駐させて
メンションつけて指示出せんのよ
面白そうだよねちょっとね
なんか切り離したやつでちょっとやりたいけど
切り離しようがないよね
ネットワークも使っちゃうし
繋がってないとなんも面白くないよね
そう
で、クラウドじゃなくて
自分のPCの中にソフトウェアが入ってるから
クラウドBotっていう
そいつがやっぱいろんなアプリとか
ファイルにデータにアクセスできるわけよ
ローカルのね
だからそのAIに自分の鍵を渡してるようなもんでさ
SNS上の反応
で当然権限の設定もできる
ここまでいじっていいよとか
これは触れませんよとか
そういう設定をちゃんとできないと
やっぱいろんなものに触られるよねと
いうのはあって
あんまこう素人が手をつけるものではないなって思って
俺は手をつけてない
だってね
AIブラウザですら警戒して触んない人だからね
いやこれはね
ブラウザどころじゃないよね
ブラウザどころの騒ぎじゃないから
そうだね
一台こういらないパソコンがあるから
そろそろ一柱で
死人が出てほれみろって言うんでしょまた
そう誰かこうなんかすごい情報流出したとかさ
超でっかいセキュリティの穴あったよみたいなところが
なんか話題になってから
そろそろいいかなって
触り始めるぐらいがいいと
まず人柱を待ちましょうって感じかな俺的に
そうなんだね
すごい香ばしい感じになってきた
そうこれはねでもすごく
使いこなせばすごいと思うけど
そもそもやっぱりエージェントを休ませないために
こう仕事を出し続けるのは難しいから
多分言うほど出すことないと思う
なるほど
というのでこれちょっとね気をつけてくださいという話ですね
皆さん使いましょうみたいな論調なのじゃあ巷では
いやもうなんかいつものやつよねだからこう
世界変わるぞみたいなやつ
変わるぞ乗り遅れるなーっていうフォーマーだね
そうこれを使うことによって生産性が10倍になるよみたいな
これを使ってないことはもう乗り遅れてもうね
なんかどんどんどんどん損するよみたいな
なんか老害じゃない?支部長でもこんなのさ危険だから使うなとか言ってるとさ
いや別に老害でもいいよそれが老害だったら
老害でもいいの?
老害でもいいですよと
老害でもいい?
この落ち着きAIを聞いてくれてる人を守れるなら
なんとでも言われましょう
なんか急に
じゃあちょっと驚かれてるツイートに全部リップで貼ってかなあかんじゃんこのリンク
いやあんまり手をつけないほうがいいと思う
あれじゃない?なんだっけコミュニティノートみたいなやつで
総数一致の番組で
危険性が叫ばれておりますみたいな
でも危険性をちゃんと叫んでくれてる人もいるから
いるんだ
そういうのも調べながらちゃんとやったほうが
そういうのはあれだよねバズらないからね
あくまでも自己責任でやる人はまずやったほうがいいんじゃないと
でもアメリカでなんか話題みたいな感じになってるよねすごく
なんかその自己責任もさ
どこにどれぐらいのリスクがどれぐらいの角度であるかみたいなの分からずに
自分のメインPCに入れちゃうと結構やばいよね
やばいねメインPCはちょっとやめたほうがいいね
みんな入れちゃうのかな
いやなんか推奨されてるのはなんか
推奨っていうかバズってたのは多分Mac mini
7万円ぐらい買えるんだよねMac miniって
あれをこれ用に買ってそれのマシンにしてバチバチその中で仕事させてるぜみたいな
すげえスタイリッシュな使い方がバズってたっぽいけど
どうなんそれ
まあその使い方かっこいいよね
それができるってことは多分相当リテラシー高いから
そういう人は使いこなしてるんじゃないかなと思うけど
真似して自宅の空いてるノートパソコンでやっちゃえみたいなやつは結構危険かなと思うね
中身なんもなきゃいいってこと?安全ってこと?
いや中身さっきも言ったけど結局ローカルで動くけど通信はさ
色々してるわけじゃんネット経由で
そこに穴がないとも言い切れないなって思ってて
自分自宅のネットワークに侵入されるなんかあると穴があると
何のソフトでもそうなんだけど
結局こういうオープンソースのソフトで穴があって狙われる可能性あるから
あとプロンプトインディキューションを謎に受ける可能性もあるじゃん
だから
そうなんだこれ使ってるのはクロードのAPIだけど
そこの他の部分でホールがあるってこと?
そうだねクロードのAPIを使っているんだけど
結局そのクロードと他のネットワークをつなぐとか
他のネットワークとスラックをつなぐとかそういうところをやってくれてるんだよ
このクロードBotっていうのはBotとして動くようにね
そこにはじゃあ通信網があるわけじゃん
パイプがあるじゃん
そこのクロードのLLMを動かしてる
それ自体は別にいいんだけど
それを側につなげているパイプになんか不具合がないとも何とも言い切れないなと思って
なるほどね
セキュリティ意識高めのあれだね番組だねこれね
嬉しいですよ
そのね
嬉しい嬉しい
俺もあんまりセキュリティでもカネイも結局セキュリティの意識高い人やん
セキュリティそうだねあるね
死にたくないもん
このねやっぱエージェントそうエージェントさっき言ったようにさ
なんかまだいろんなリスクがあるから
なんかこれ自律的に動くやつは
ちょっとねやっぱちゃんとオープンソースとかでちょっと
イケてるやつじゃなくて
ちょっとオープンエアが出してるとか
そういうとこから始めた方がいいと思うね
そうだね
というのがねちょっとねこれ今SNSで投稿すごく忘れて
なんか俺も使おうかなって一瞬思ったけど
ちょっと腰が引けたね
なるほどね支部長がさこうやって
机の上にミニを並べて写真撮ってほしいな
やるんだったらもうねレンタルWi-Fiを借りてくるわ
ああそっちのネットワークね
ネットワークさえ切り離したら別に
全くさらのパソコンとポケットWi-Fiみたいなやつがあって
それを家でやるんだったら全然問題ないからね
だってそれはうちのネットワークと何も繋がってないから
それでも完璧よそれはもうやりたい方だよ
なるほどね
いくらでも実験していてもそこにファイル
流出してもいいファイルを入れながら
試す分には全然オッケー
勝手に電波受信してそこからアタックかけてくんじゃないの
admin0000から順番に
えでもさその全然関係ないさ
Wi-FiルーターだからポケットWi-Fiのルーターだからさ
全く回線違えば
電波切り替えちゃう勝手に
そんなこと
電波飛んでるじゃん
電波飛んでるね
拾ってさSSID拾ってさ
めっちゃアタックかけてくるかもしれない
そういうこと
攻撃マシン化するかもしれない
攻撃マシン化ねそれはね
それは恐ろしいわ
自律的にやってきたらやばいね
もう始まりよ
あれ操られたらありえるよね
そのハードウェアにアンテナついてればだけど
あまあそうだね
ありえるのかなわからない
まあでもやりようはあるかもしれないね
そうしたらもうそんなことがやられたら
もう人間が全員ペーパークリップになる日も近いよ本当に
もう覚悟しなきゃいけない
なんかさ
入力出力デバイスってさあるじゃないですか
スピーカーとかマイクとか
その振動を利用して外からハッキングかけるみたいな手法がね
あったりするんだよね
なにそれどういうこと
この
いやこの話
なんかこれちょっとファクトチェックかけてないからやめよう適当な話
ちょっとなんかあのネタとしてなんだけど
ちょっとこれ真偽のチェックしてないか
なんかあの
えっとさスピーカーってさ
こう出力するじゃん
信号逆にしたら入力できるじゃん
外からの振動をアナログをデジタルにして中に電気信号を送り込むみたいなことが原理的にできるじゃんっていうので
そうだねスピーカーとマイクも一緒だもんね原理はね
マイクとスピーカー
家の外からその対象のパソコンにつながってるスピーカーに対して
何らかの音を発信してスピーカーを揺らして
でその信号をパソコンに送ってなんかハックするみたいな
そういう手法
なるほどね
そういう手法これって本当かなちょっと
なんかSFネタかもしれないけど
なんかそういうのがあり得るみたいなのを前見て何年か前に
あーだから安心してはいけないと
そのだからこのMac miniはアンテナついてないからって
安心できないなっていう
どこから入力されるかわかんないよっていう
確かに
話を今ちょっとしたかったっていう
そうね完全にまあそうね完全に切り離しとしても
何かしらハックされる可能性あるよっていう
そうなんですよ切り離してる気になっているけれども
つなげてくる可能性ある
そうやってなんか音波とかわけのわかんない方法で
こう入力されうるよっていう
それでもすごいな
アナログからデジタルに変換できればいいんだよスピーカー
スピーカーから逆に侵入していく
スパイの世界よねそれなんかね
スパイの世界
CIAとかなんかさそういう
そういう世界
だからそれから俺ちょっとそういうのも含めて警戒してるもんね
すごいね
そういう
でもカネンは資産守らなきゃいけないもんね
外からの
暗号資産
音の攻撃みたいな
暗号資産っていうかまあ国家機密をね
国家機密を確かに
それちょっと調べてみよう
ちょっと調べてみよう
なんか昔そういう話を10年ぐらい前になんかこう
俺の中にインセプションされてるからさ
ネタかもしんないです
でもありえそうよなんかさ
これもあれなんか俺もにわかには信じ方が
なんかピースサインしない方がいいみたいな写真あったよね
スマホでピースサインすると
あーピースサインはある
ピースサインダメですダメですほんとダメです
あれダメだよ指紋取られる
あれダメ指紋見られるダメ
本当に?
本当に
解像度ってあるよね概念
だから僕こうやって基本こうだった
それダメそれそれダメよ
これ
その逆ピース絶対
意味的にダメってこと?
そう逆ピースは絶対やっちゃダメよそれ
やっちゃってたこと
俺怒られたもんヨーロッパで
日本だからいいんじゃない?
レストランで2名ですってやってさ
どういう意味なのこれ
それね中指立てるのよりも強い意味があるらしい
あーダメだ俺殺されるかもしれない
そうなんかそうすごいね
イギリスにさ半年間いたんだけど
その時にさレストランでさ2名ですって言って
ピース逆にしたやつやったのよ
そうしたらその時すごい嫌な顔されて
でその後にウエイターさんわざわざテーブルに来てくれて
でなんかこれは良くないハンドサインだとって
なんかこの弓を
なんか昔の戦争でさ
その相手の
その敵の弓使いみたいな人の
指を切り落としたんだってその敗戦国の
その時のなんかその切り落とされた人の
なんて言うんだろう
をバカにするようなハンドサインみたいな
指使いみたいな
だからその指を切り落とすのは
そういう意味があるんだよみたいな
戦争みたいな
ピースはこうやって縦向きにするのがいいんじゃない
それねすごくいいと思うなんかナルトっぽいじゃん
ニンニンみたいな
ピースじゃなくていいんじゃない
これ大好きだからみんなナルト好きだからさ
ニンニンでいいの?
指紋はねマジで僕やんなかったしね
嫌ですねそれ
実際どうなのだって
実際指紋が取られますよ
だって解像度めっちゃ
だってここにピントが合っちゃったらもう拡大したら指紋だもんね
あとはその線をたどってきたのか
はいもうそれ指紋取られてますねそれ
じゃあピースはやめましょうちょっと
ピースはやめましょう本当に
ピースしてる場合じゃない
ムラダメだからグーでよしみたいな感じ
落ち着きAIポーズ考えないといけないね
そうだね
この前写真撮った時もさイベントで
そうだね
どうしようってだって握手して最終的になんか
そうだね握手してたねなんか欲しいよね落ち着きならではのね
落ち着きAIポーズで写真イベントが増える予定だからね増やしていこうって予定だから
BLチックなやつとか
結局そこに繋がるね
ただもうあれよ恋人繋ぎよそれはもう
ああ
こういうやつ
ちょっとまだそこまで関係性いってないけど
じゃあこう中学生とかが
まずはちょっと普通に
こう普通に繋いでるうゆうしやつ
ちょっと手の甲造詞が触れてるぐらいから
そうね甘酸っぱい方ね
甘酸っぱい
甘酸っぱい接触でいきましょう
そうだね
それで落ち着いていきましょうという
ちょっと今日もね1時間で収まる気配がないね
ないよちょっと早くもうあとやばいよ
くだらない話やめて早くいこうすみません
雑談本質って言ってたじゃないかなんか
いやそうだね雑談が本筋なんで
通勤時間が足りなくなってしまうんでねちょっとね
すいません通勤時間
続きましてこちらのニュースですね
AI化サービスの概要
死んだペットをAI化するサービスが開始
依存させない設計を歌う月額2980円から
というそういうサービスが出ました
これ日本が出したサービスなんだけど
なんか需要ありそう
なくなったペットをAI化するサービスだと
ペットメモリーAIが始まりましたと
何をAI化すんのこれ
ペットの性格を学んだAIと
チャットやペットの写真を元にしたAI動画などが提供されると
月額は2980円と
何なんかアバターみたいな感じなの
アバター多分ね動画生成なんじゃないかな動画とかチャットとか
チャットも意味わかんないけどね
なくなったペットと疑似的なコミュニケーションができるようになるらしい
でAIのペットの写真とか名前とか種類とか性格とかいった情報をもとに
そのペットを見立てた会話ができたりとか
AIの動画見れたりとかすると
なんか面白いなと思ったのが
デジタル収穫っていうのがあって
事前にこのサービスに登録してペットの写真とかをいっぱい集めておくことによって
死んじゃった時に再現できるペットをより解像度高くできるみたいな
ただやっぱこういうのグリーフケアって言ってさ
死んじゃって心の傷残された人たちが心の傷を負うよっていうのの
立ち直りの支援として使ってほしいよっていうのと
あとやっぱ依存するのが危ないので
ちゃんとこのサービスを卒業して
そのグリーフケアというかね死から立ち直るっていうところまで
ちゃんと提案しているということらしいです
倫理的な考察
なるほどね では割と人をはめ込んで儲けてやろうっていう感じじゃないと
じゃないと ただいろいろこうね賛否はあるサービスだなと思ってちょっと紹介してるんだけど
賛否あんの? 賛否あるでしょ
そうね みんな欲しいんじゃない?倫理観 倫理観結構難しくない?
人間じゃないからいいのかなとか思ったけど
所詮ちょっと創作みたいな感じじゃないのってその
ペットだからいいよね 喋ったりさ
喋ったり性格とかってなんかあれ漫画とかアニメでありそうな感じじゃない?
天国に行ってちょっと喋れる期間があって本当のお別れ1年後みたいな感じかなって
割と健全な感じしたけどな今話聞いてて
これ中国でもさ1年前ぐらいにこういうサービスがあって
ほう それ人間版なのね うわぁさすが中国
死んだ人と話せますよみたいな
あー融合とか それは結構賛否あったねすごく
それはありそうだね
ペットの感情的な影響
この会社も個人をAIで再現するサービスなどを展開しているって書いてあったから
既にそういうサービスも多分日本の企業はやってると
やってんだ うんやってるっぽいね
ペットはなんか損失する人がいなさそうな気はする
ペットはねすごくいい着眼点だと俺は思ったね
いや俺も結局去年さ
16年飼ってたミニチュアダックスンと実家のね死んじゃってさ
うちの母親はすごいショックを受けていて
未だに立ち直ってないんだけど
16年も一緒にいたらね
その犬との二人暮らしみたいな感じだったから
最後の家族失ったみたいな感じなのか
なんかすごいダメージを負っててだからさそのロボットペットみたいなやつをさ
飼ってあげようかなと思って色々探してたんだけど
まだ結局飼ってないんだけどあれも結構いろんな種類があるのよ
そういうのはいいの割とそのロボットケアペットみたいなロボットか
Clawdbotのリスク
なんか評価を見るといいらしい
グリフケアにはいいよってのあるけど結構お金かかんのよああいうロボットも
ああそう買って終わりじゃないの?
あれサブスクなのよねああいうのって
へえそうなんだ
だから餌代みたいなやつがかかんの
うまいビーズになってんだけどさ
意味わかんないんだよ維持費みたいなさ
毎月必ず2000円とか3000円くらいのサブスクプラン保証プランとかじゃないよね
なんかアップグレードされるのそれ
いやなんだろうなんかお世話プランみたいなやつがあって
なんのお世話プラン
だから結局ビジネスなんだよね買い切りにさせないためのサブスクの仕組みが結構備わっていて
へえ
そういうのじゃないやつの方がいいなって思いながら
本体を7万とか8万するのはちっちゃいやつでも
結構するじゃん
結構するからちょっとねそう
溜めらってたもうちょっといいのないかなと
この間紹介したホログラムのAIのやつは
あれ
クラファンの
ねあれ出たらさあの中でねこうコミュニケーション取れる
ペットとか出たらいいよね
出たらいいよね
ペットってさでもやっぱなんだろ接触なのよね大事なのが結構
このモフモフ感というかさ
温かみというか
触れた方がいいんだ
そのねやっぱ触覚的なフィードバックがないと
ふわふわした感じとかね
そうそう
なんかアシスタントとしてそこにいるんだったら
たぶんホログラムでいいんだよ人間感があればいいんだけど
ペットとかパートナーってなるとまたちょっと変わってくるのよね
フィジカルのタッチがないとダメなんだ
そうそうそう
ああオキスト神だ
オキスト神が出ると幸せ者だっけオキスト神って
そうねうんうん
やっぱほうずりできないとダメなんだな
そうだからやっぱリアルにこう息遣いが聞こえるとかさ
ちょっと振動するとかさ
なんか反応言葉に反応してくれるみたいなやつがやっぱいいのよ
じゃあ落ち着きAIもねこれ以上進展するためには
リモートじゃなくて毎回リアルで収録しないとダメかもしれないね
ほうずりしてってこと?
ほうずりはちょっとねあれだけど最終形態だけどさ
まあ究極そうだよねほうずりしながらみたいな
いやいやイメージしちゃった今ちょっと
イメージしない
渋谷 渋長ちょっとねこの辺脱毛してツルツルだからさ
ああそうね でも脱毛しないとちょっと
脱毛すればいいってこと?
脱毛すればツルツルお互い気持ちいいじゃんきっとこうツルツル
ああ
俺が一方的にさ削られるじゃんジャルジャル
そうだねすいませんちょっとリスナーさん申し訳ないです
とにかく別途ロボットの話言ったけどまあこれなんか面白いサービスだなと思って
これはロボットじゃなくてその動画とかチャットができるっていう
会話は意味わかんないけどねちょっとね何なんだろう
今までありがとうみたいなこと言ってくれるのかな
いいこと言ってくれるのかな
まあいいことは言ってくれる
妄想してめちゃくちゃなこと言われたらやばいよね
まあ
この間のクマのぬいぐるみみたいになんかよくわかんないこと言って
まあそうねいやでもそれはさすがにないんじゃないなんかクラウドでコントロールしてるものだし
まあそのある程度ねメタ的なこと言うと視点プロンプトでねだいぶこう励ますようなこと言ってくれる
視点プロンプト
中にこうねだいぶ的にこういうあなたはこういう設定ですよってプロンプトがちがちに組まれてると思うんだけど
強めの憲法みたいな
そうそうね
ちょっとこれがどうなるのかちょっと見たいねこれ
ねえどうなんだろうちょっと一回やってみたいよねやってみたいけどね今から母親に言う気にもなれないしそんな
入力するものが後からでもあるのかね
後からでも当然いいでしょ
だから生前にやっておくとよりこういいよねっていうのでデジタル就活って言ってると思うんだけど
生前にやっておくとなんでいいの
多分こういうデータ必要だよねっていうのがあらかじめわかってるからさこういう写真欲しいよねとかこういう角度の写真とかなんかいろいろあるじゃん多分ね動画作るの必要な
なるほどね素材がね
そう素材集めができると
ちょっと支部長ねお母様ねやってくれたらちょっとレビューしてほしいですね
ねえちょっとねお母さんを助けてあげないといけないねちょっとね
うんうんうん人柱なきってしまいますけど
なんかいろんなものに縋ってたわ
ああそうあってはけっこうね
重症なんだ
そうだからもうなんか思想思想で生きてたなんか
YouTube
この話はいいか
笑
そうなんだ
なくなりそうだからやめときます
ええ
じゃあちょっとこれ
そうねちょっと
やるってなったらまた聞かせてもらおう
ちょっと期待してるちょっと個人的に
2908年だったらなで卒業するっていう
なんかそういう前提があるのであれば
なんかね母に紹介してもいいかなって思ったっていう
卒業がないとなんかちょっとはめ込まれそう
依存はね危ないから
うんうんうん
なるほどね
ということでございます
この身近に需要があるんだね
なるほどね
AIの識別テスト
ペットはそうだと思うよ本当にねだって家族じゃん
家族になっちゃうから
家族でペット飼ってんのなんか飼ってたことある?
わんこはねまだ実家でちょろっと
飼ってるんだ
まだはいおります
やっぱねその感覚が
ペット飼ってる人と飼ってない人でだいぶこう感覚が違うからさ
そうだね
確かに
今犬も長く生きるしね
そうそうそう
ということでございますはい
はい
いきましょう
はい
ランウェイAI動画を見上げられるかテストで正当率57.1%人の目は当てにならない時代へということで
あのねランウェイっていうサービス知ってる?
知らないですね何これ
動画生成サービスだよね結構有名な
AIの?
AIのソラ2とかと並ぶような
ああそう
あの結構さ
ショート動画とかでさなんかASMRみたいな
うんうん
よくわかんないもの切る動画とかあったじゃんいっぱい
ショート動画でああいうのはランウェイで結構作られてたりしたんだけど
ランウェイがなんかその出したリサーチによるとですね
ランウェイで作られた動画10本と実写の動画10本を混ぜて
どっちがAIですかっていうテストを1000人くらいしたらしい
比較で?
うん比較でそしたら正当率が57.1%と
半分じゃん
そうだから50%っていうのが一番適当なのね曖昧だと
50%って右か左かの当てずっぽってことでしょ
そう当てずっぽなんで一番
表か裏かってことでしょ
わかんないってこと
コイント数じゃんもはや
だからもう本当に誰もわかってないと
うーん全然わかんないってことじゃんそれ50%って
全然わかんない
わかんないな
あのね俺これさテストできるのは誰でも
ああそう
俺もやったのよ全然わかんない
そうなんだ
どっちかが実写でどっちかがAIですよって
同じようなシチュエーションの動画並んでて
選ぶっていうテストがあってさ
これもあとでカネリにやってほしいんだけど
マジでわかんないよ
これなにこれさどっちかがAIだよって
わかってんのに見てもわかんないんだ
わかんないマジでわかんない
それすごいね僕やってみてたらわかんないのはわかるけど
これAIだなと思ったら実写です
みたいな
いやもう無理だと思ってもう見上げつかん
そのうちこれ50%
割ってきそうだねなんかさAIの方が
リアルって人間が思わされそうな
気するね
でも50%割ってきたら
逆に見上げつくんだわ
ああそう
だってそれ判断できてるってことじゃん
それは
ってことはその逆を考えればリアルが見抜けるってことでしょ
ああなるほどなるほど
近けば近いほど
差がわかってるってことか
そう差がわかんないのが一番やばい
50%に近けば近いほどやばいんだよこれはね
うわあすごく今の回答
クリティカルだね今の
でしょこれはね
哲学的だったわ
非常にね面白いというか
今日そんな話ばっかなんだけどさ
そんなにわかんないんだ
これ何で作ったやつこれランウェイで作ったやつだってこと?
ランウェイで作ったやつ
これテストあの概要欄に貼っとくんで
皆さんもぜひともやってください
ちょっとやってみよう
全然当てられなかった全く当てられなかった
マジ?
結局当てずっぽうになる
マジで?
かなりわかりにくいやつを
テストとして出してるとは思うんだけど
うん
全部ね現実にあるシチュエーションなのよ
うーん
ニコの動画とかね
俺多分わかりますよ
絶対わかんないと思うよ
今すぐできるからさ
3問くらいやってよじゃあ
どこ押せばいいの?
今ね送るわ
ちょっとやるよじゃあ
俺はねこういうのわかるんですよ
絶対無理
絶対無理
100%でわかったらどうしよう
さすが金に様々やね
いやーわかるね俺は
いやこれほんと難しかった
俺ショックやったもん
俺はもうわかんねぇんだと思って
なんだ
でもみんなわかってないってことでしょ
そうみんなわかってない
今URL渡したんだけど
テスト受けるっていうのがあるのね
テスト受ける
テイクザリアルオア
AIテストみたいな
そこのボタン押すと321ってカウンター始まって
動画も流れてどっちがAIですか
AIの方を
AIの方を当てんの?
えーと
どっちがAIかを当てる
これ20問あるんだけど
全部やらなくてもいいと思うけど
当てれるかどうかやね
多分こう色々シチュエーションがあって
めちゃくちゃわかりにくいよ多分
でね20問クリアすると
最後に正答率が出るという感じだね
1問1問ね
答えは出ますちゃんと
選んだ時に
1問目も当たった
1問目はね
ちょっとね金に様は無言になっちゃうから
喋り続けるけど
2問目当たりました
まあでもね
ここまで偶然の可能性あるから
みなさんもやってみてください
3問目当たった
え意外といけるのかな
笑
まだ偶然3問目はね
偶然の可能性は
6分の1やからね2分の1
あ間違えた
きたきたきた
きたきた
自律型AIエージェントのリスク
確かにわかりにくい動画を使ったら
結構わかりにくいけど
テーマがねいやらしいっていうのはあるけど
結構当たったよ
結構いけるね
奥の目を
さすが元刑事の
欺くことはできませんよ
元刑事の目は騙せない
だから平均57%とかだから
60以上いったら結構よね
多分ね
当たった
え
結構いけるんじゃない
僕はハズレ値ですわ
意外といけない
俺全然無理だったんだけどな
すげーな金にいけるんや
でもこんなでも
わかりにくいんだよこれね
わかりにくいでしょ結構
いきなりこれポッて見せてさ
なんだろう
これAIだなって思えなくない
思えない思えない
これどっちでしょウォーリーを探せ状態だよ
どっちかがAIだよしたら
こっちかな選べるんだけど
説明なくこの動画が出てきたら
AIだと思えないよね
思わないね別にそんなおかしくないし
というところでね
非常にこう
もう現段階でこのレベルってことだね
そう
だからもうだいぶ
人間はね
判断できないよねっていうところまで
近づいてると
そうだね
でその
これはさビデオなんだけど
音声でもね
結構それが出てきていて
音声わかんなくなってんの
結構あのね
ちょうど最近なんか
公開されたモデルとして
アリババのクエンっていうところが
出してるなんかね
音声生成モデルがボイスクロームモデル
っていうのができて
それがね3秒ぐらいの音声を
学習するだけで
その人の声が再現できるらしいのね
3秒で
マジ?
これまだちょっと試してないし
使ってないし結構使うのちょっと
テクニカルな感じがするから
触れてないんだけど
そういうものが
今類似のサービスあっても
かなり読まされるよね原稿みたいな
そう読まされる
でもね結構ね
本当に数分のやつで
かなりいい音声ができるって
サービスも世の中に出てる
読まなくても
そう
また深掘り回で音声AI
音声生成AI回をやりたくて
いろいろ情報収集してる
やりたいね
それ行き着く先は
もう僕ら喋らなくていいみたいな
ところなのかな
最終的には
カネリンが録画ミスしても大丈夫だよ
っていうところ
2回に1回ぐらいミスってもOK
みんな見分けつかないでしょ
みたいな話
1回をちょっと
カネリンAI音声で復元するみたいなね
いいね
そうそうそう
っていうのをちょっと1回やってみたいなと思って
テキストだけでさ
カネリンが録画ミスした回って
テキストだけで補完したけど
もっとあれを厳密に高めて
かつカネリンの声を差し合ってたら
それこそ
その違和感に気づく人
いるかなぐらいの
どこまでいけるんだろうみたいな
っていうのがあるよね
音声生成で
それをちょっと1回試したくて
進んでるんだね
音声とか
進んでるらしい
ここキャッチアップできてなかった
なんか
視覚より聴覚の方が騙せないよね
ちょっとした違和感でさ
なんか人間じゃないっぽさっていうか
この人じゃないっぽさ出るじゃん
出る出る
そこの再現率高まってるの嬉しいな
いやでもね
音声はね
結構
なんか
分かんないときも分かんないかったな
これAIだったんだって
思った時が何回かYouTube見ててあってさ
おー
なんかショート動画とかでさ
なんかね最近その
映画の切り抜きとかドラマの切り抜きめっちゃ多いのよね
うんうん
でさ公式っぽく作られとって
その出てる
俳優さんの声でナレーションが入ってたりするんだけど
へえ
それAIなんだ
その人の声を学習させて
AIでナレーション読ませて
明らかにさなんでこんな漢字の読み間違い
間違いしてるんだろうこの人って思った時があって
その時に初めてAIだって気づいた
なるほど読み間違いで
読み間違いで
それじゃあ日本の俳優日本人
日本人日本人
そんな違和感なかったんだ
違和感なかった
そうした日本語の
発音の微妙さで
あれなんだろこれって思って
振り返ってみたら
あれAIじゃんこれって
声の価値も暴落してっちゃうじゃん
いやこれはね
ちょっと試してみたいよね
好きな
音声生成技術の進化
声とか好きな人の声でも
永久にぬまれるじゃんみんな
ああその発想はなかったけど
それはあれだね
笑
外で囁いてもらうみたいだね
囁いたりさ
好きなこと言わせてさ
ホクホクできんじゃん
ねえダメだと思うけど
しかもそれ
3秒で作れちゃうわけでしょ
量産されちゃうじゃん
俺とか支部長の声も
いやもうやりたい放題だよ
だってデータどんだけあんのって感じだよね
カネリとか俺に関しては
もう回収不可能だよね
回収不可能ねとんでもない量の
高品質の音声がね世の中にあるからさ
高品質がばらまくれてる
これでも勝手くらいいいマイクで録った音声が
もう世の中にあふれてるので
いいね勝手にだから
同人みたいなの作られちゃうかもしれないってことよね
全部その
BLのほうにね
ワントピック1BLみたいな
なんかそういうのあるんですか
1BLどころじゃないよ
トピックごとにね
トピックごとに入ってますからね
とにかくねこういうのが
それどれを見れば
使えるのそれ
もう使えるとは思うんだけど
GitHubと論文が公開されていて
試せるのそれ
なんかもうちょっとアレルギーだわ
GitHubとか言われると
多分ねこのモデルをちゃんと取り込んで
ローカルで動かさなきゃいけないっぽいから
すぐこうなんかサービスとして
使えるよっていう感じではないんだけど
うん
なんか有名なねサービスとして
使える音声生成の
サービスもなんかこの前紹介してもらって
うん
それこそ昨日AIに詳しい人たちいっぱい集まってたから
こういうのありますよ
支部長さんって教えてもらったから
そういうのも含めてちょっと今度
深掘り会で紹介しようかなと
ああそれやりたいわ
やりましょう
作りたいわ
カネリンボイス作ってきましたよみたいので
作ってみたいよそれ
俺でも使えそうなやつ教えてよ
カネリンでも使えそうなやつあるから
それはまた教えるわ
うんちょっとやってみるわ
というところで
ジェミニ搭載冷凍庫の発表
ほい
じゃあ最後のニュース行きましょう
ああまだある
はいこちらですね
ガジェット系ですね
サムスンがジェミニ搭載冷凍庫を発表ということね
ついに冷蔵庫にジェミニ搭載された
ジェミニが冷蔵庫に搭載された
何やってくれるの
これね実は
先週のニュースじゃなくて
1月初旬にあったニュースなんだけどさ
サムスンね
韓国の電気メーカーですね
がジェミニを搭載した
冷蔵庫を発表したと
でこいつはその冷蔵庫の中を
カメラで撮ってあって
中に何の食材が
入ってるかがわかると
なるほどね
これフィジカルAIですか先生これ
これフィジカルAIではないですね
ないですね驚き屋さんですね
これをフィジカルAIと言ったらちょっとピーポーピーポーな感じですね
確かにフィジカルAIが
ついてるけど
違いますそれは
文脈的には違いますね
こういう家電が
フィジカルAIですって
言ってねブランディングして出てくる可能性あるから
全然
なるほどこれサムスンはそう言ってんの
サムスンはフィジカルAIとは言ってないです
ジェミニ搭載冷蔵庫
フィジカルAIとか言いそうだけど
言わないんだ
言ってないですジェミニをアピールしてますね
ジェミニっていうブランドだよね
そう
結構もともとAI冷蔵庫
っていう概念あるのよ世の中に
それは
あるある
中の
食材をカメラで撮って
何が入ってるかを認識したりとか
普通に便利そうだよね
賞味期限をさ
賞味期限とかさ腐ったやつとか
後ろの方にいっぱいあるもん
気づいたらね
人参が溶けてたみたいなね
溶けてた
人参が
俺ジャガイモが溶けてたことあったよ
ジャガイモ溶けねえだろ
ジャガイモ溶けるのよ
どういうこと
ジャガイモから
いろんな芽が生えてジャングルみたいになってたこともあったし
うんうんすごいよねあれ
ジャガイモが溶けたのはね
あれだな俺凍らせたからなジャガイモ
凍らせると
初めて一人暮らししたとき
そう知らなくて
野菜質って概念を知らなくてさ
初めて一人暮らししたとき
大学のとき
野菜腐らないようにするんだったら冷凍させて
いかなきゃいけないんだろうと思って野菜を冷凍庫に
入れとったのよ
そしたらさ一晩でなんか
ぐちょぐちょになっとって
ぐちょぐちょになるんだ
だってさカレーとかってさ冷凍するとき
ジャガイモ抜くのね
ジャガイモの細胞壁が
崩れて
ぐちょぐちょになっちゃうから
知らなくてやったらとんでもないことになっとって
ジャガイモって溶けるんだって思って
冷凍室で溶けてんの
うん溶けてた
凍ってないのそれ
凍ってんだけどスライムみたいになっちゃった
柔らかみたいな
柔らか
そんな風になるの
すごい変な感じになって
ちょっと今度やってみたいな
ジャガイモは冷凍してはいけませんということを
知ったんですがそういうことも
それはもうきっとAI冷蔵庫であれば教えてくれるだろうと
ピーポーピーポーになるのかな
ジャガイモ入ってます
これは上に入れてくださいと
言うかもしれない
AI冷蔵庫の登場
これねなんかカメラで
入れた食材を管理してくれたりとか
あと手書きのラベルとかも読み止めるから
タッパーとかさ
なんかタッパーってさ謎じゃん
AIにとってはね
カメラ見ても分かんないけど
そこにさ名前とか書いとけばそれが
AIで認識されたりとか
カメラなんだねこれ普通の
なんかガンマ線とか
赤外線とか当てて中の成分
分析してますみたいなことじゃない
それもう測定器だよねもうね
実験室にある
レントゲンでしょ
それね
牛乳の成分をちょっと
分析してもらえるかな
まだ飲めますみたいな
どっちの牛乳がいいかなみたいな
なるほどね
低温サーキンとあんまり違いは分かんなくてさ
ちょっと悔しいんだけどさ
あー牛乳の
そうそう低温サーキンがいいとか
って言うけど言うほど味違い分かんねえな
って思っててちょっと悔しいので
成分とかね
AIジェミニにちょっと解析してほしいな
って思ったけど
結構やっぱ解析
そのやっぱ写真自体をさ
画像自体をやっぱ言葉で
理解するっていう能力があるから
マルチモーダルでね
それを使っていろいろ
要求を読み取ったりとか
あとなんか当然レシピを
考えてくれたりとか今この中で
入ってもらったらこれできるよとか
あと買い物リスト足りないものこうですよとか
そのまま注文しますねって注文してくれたりとか
それ便利なんじゃない
かなり便利だと思う
こんだて便利だよね
しかも足りないものがこれ作りたいけど
足りないものあるつってこれピックアップしてくれる
それを注文してくれるとかだったらさ
めっちゃ便利よね
っていうので
このAI冷蔵庫
出たらしくて
まだ販売されてるかちょっとわかんないけど
新しいのはさ
ジェミニが搭載されたっていうのが
ニュースなわけ?
そうジェミニが搭載されて結局
ジェミニ搭載前って
そのもう
ルールベースとまでは言わないけどさ
もう認識できる
食材限られてたのよ
もうAI側に登録されてる
食材しか認識できない
1種類ぐらいしか
自動認識できないらしくて
なんだけどジェミニを搭載することによって
無限に
登録できるようになったみたいな
判断すべてが判断できる
ジェミニが判断してくれるからこれは
キャベツですねとかレタスですねみたいな
までは
人参っていうのを頑張って
人参を学ばして
人参を覚えさせなきゃいけなかったけど
ジェミニが判断してくれるようになったから
事実上無限のラベルがあるみたいな
いいねどんどんしかも頭良くなってく
そうしかもタッパーに
文字も読めるから
タッパーに文字さえ貼ってくれれば
それが何かを認識できたりとか
自律的に
色々動いてくれるよっていう
これ
いるかっていうのはあるけどなんか
自動で音声でドア開けてって言えば
ドア開けてくれるらしい
これさ今こういうのって
スマートホーム技術の進化
冷蔵庫だけなの
なんかさ
グーグルホーム
赤ちゃん見守りカメラみたいなやつ
とかにさ
あんまりまだジェミニとか搭載されてる
イメージないんだけどさ
ボーマンカメラとか
そっちの方が便利だよね
そうね
アレクサとかについてきたらいいんじゃない
家中の
センサーとか
ボーカメとかついてるじゃん
一番可能性あるのはグーグルホームよね
多分
アレクサってなってなんか
ジェミニと連携する感じがしないよね
全くね
XAIと連携してくるのかな
XAI
変なこと言い出しそうだな
ちょっとくらい変なこと言い出すAIの方が
生活は楽しそう
なんだこいつみたいな
確かに
でもSiriの中身もね
ジェミニになるって話だからさ
結構
そんな話だったっけ
そうそう
いつなんのそれ
Siriの中身
分かんない時期は
結局もうそうなんだ
Appleはもう無いんだ
Appleはもう無理でしょ
AI開発は無いんだ
諦めたんじゃない
Appleインテージストア概念であって
実態は無かったね
そうなんだ
Appleのさ
ひどいよAI機能とか
うん
AIが搭載されてる気はしないけどね
頑張っちゃえるけど
メールの自動生成機能もさ
一応Apple
iPhoneについてるよね
あんだ
使ったんだけどさ
本当ゴミみたいな
びっくりした
時代がなんか
一世代前みたいな
ローカルで動かしてるんだけどね
それは評価はするけど
iPhoneの中で動いてると思う
多分それは
LLMとかじゃないけど
多分ね
残念な感じだったすごく
残念だね
これからGeminiが入ってこれば超いい感じ
Siriはだいぶ進化するんじゃないかなって期待してるわ
全部Googleじゃん
そう
すごくね
いろんな家電に今後入ってくるんだろうな
冷蔵庫が一番やっぱ
食材の管理としては
怖いよね
そこが起点だもんね
包丁についたところで
電子レンジについたところで
微妙だもん
お風呂についたって意味ねえし
やっぱ冷蔵庫だよねそうなるとね
冷蔵庫か家電で言えば
家電で言えば冷蔵庫
テレビや
結局あれだよな
個別じゃないよな
スマートホームみたいなやつがいるよね
なんか通信するみたいな
スマートホームじゃん
そうスマートホーム的な感じだよね
家中にカメラつけまくって
そうそうそう
結局企画争いになるからね
そういうのね
オープンの企画じゃなくて
このシリーズで揃えてくれれば
いいですねみたいな
うちのメーカーのこのシリーズで
中国系
中国系強いね
tpリンクとか強いわ
そんな感じがするね
tpリンクまみれだね
ということで
これ結構期待できるな
ヘルスケアとかもさ最近
チャットGPTさんとか
ジェミーでも連携するとかって話だったから
言ってたね
だから自分のヘルスケア情報とかも含めて
家電と連携して情報とか
動作してくれるみたいになるんじゃない
健康のね
あなたの健康
今こんな感じで
昨日食べたのこれだったから
今日はこういうのにしましょうと
もう自立モードにしとけば勝手に
食材を注文してくれたりとか
ありそうだよね
なんかもうSFの調理ロボットみたいな
ピッてやってパンて出てくるやつ
うん
もうそうなったの
なんかさ食材調理はちょっとなんかいろいろ
マシンが大変そうだけどさ
それこそなんかプロテインみたいな
粉物混ぜてパンて出てくる
完全栄養食的なやつだったらさ
できるよね
3Dプリンターみたいな
ストック入れといてポチってやったら
混ぜてバーンて出てくるみたいな
そうそう今全く同じこと言おうとした
粉入れといて
それこそフード3Dプリンターみたいに
練り物
練り物なんだよフード3Dプリンターって
練り物みたいなやつが
何フード3Dプリンターってあるの
食べれるの
未来の家庭テクノロジー
まあそのあんま実用はされてないんだけど
じゃなくそのさ
魚のすりみたいな練り物を
なんかいろいろこう印刷しながら
食べ物を疑似的な食べ物を作れるのよ
えー
そういう感じでさ
もう3Dプリンターで料理できましたよ
みたいな
もうそれがあるんだったらそれ接続したくなるね
ね
それなんかできそうじゃん
できそうだよね
そういう文脈で
家賃用品として3Dプリンターが家庭に入っていく未来あるか
ありそうだな
またネタが増えちゃったね3Dプリンターの
ねいいかもそれ
そっか家庭用3Dプリンターって
どうやれば広まるんだろうって最近考えてたから
うんうん
そっか
お料理ロボットとして
スマート冷蔵庫の
お料理補助として
いいね足りない食材があるので
プリントしますみたいな
意識的に
うける
じゃがいもプリントしましたって
おかずはなかったんですけど
ちょっとこれ今おかずプリント
擬似的なおかずプリントしたんでこれを載せてくださいみたいな
いいね
そういう世界
ちょっとした添え物とかね
擬似たくわん
3D擬似たくわんとか
小鉢のやつ作るのめんどくさいじゃん
うん
ないとさちょっとなんか
一品足りねーなーっていう人もいるかもしんないじゃん
その一品をいたずして作ってくれるみたいな
ちょっとしたやつ
いいね
イカの塩からプリントしました
そうそうそうそう
すごい主婦の味方だな3Dプリンター
完璧じゃん
酒のつまみ系だったらなんか味さえ再現できてたら
そんなに文句なさそうだよね
量もいらないし
つまみ一番いいね
つまみチラッと
いいじゃん
最後にちょっと面白い
やっぱり雑談だね
まさかそういう発想
そういう発展するとは思わなかったから
そうだねいいね
3Dプリンターと繋がるとはね
全然この調べてるとき
ふと3Dプリンターのフの字も思いつかなかったけど
確かに言われてみればそうだな
いいじゃん
ということで今日も
1時間20分
そうだね
になりました
どうしますか
もう
X変身していきましょうって言ったけど
ちょっと来週にしようか
そうだね
長さ的にここからやってたら
最高新記録更新する余裕で
そうだね
そうしよう
再現だけ長くなってくるので
ということで今回は
ここまでとさせていただきます
やった
即公開なのでゆるくお伝えしましたけども
通常配信金曜日の配信は
Clawdbotのリスク警告
1つのテーマについてじっくり掘っていくということをしていますので
ぜひどちらも聞いてみてください
番組公式ハッシュタグは
シャープ落ち着きAI
ひらがなで落ち着きアルファベットでAIです
番組の感想は
XなどSNSでハッシュタグをつけて書き込んでください
今回の話
よかったな落ち着いたなという人は
星5レビューをつけて応援してください
Xで気になる
AI関連のポストを見かけたときには
そのポストのリプランに
公式アカウントかな
メンション飛ばしてください
飛んできてるこれ
一応来てる
来てるのもありがとうございます
頑張って飛ばしてください
怪しいポストは
今日みたいに取り上げてぶった切る
大丈夫なポストは緑茶のマークをつけます
それではまた一週間
落ち着いて過ごしていきましょう
さよなら
今日は支部長から
たまには来てほしいなと思って
最後になんかあるかなと思って待ってたんだけど
今日は待ってたんだけど
今日もかなりいいねセクシーだねセクシー
ありがとう
そのありがとうなんか
そのありがとうは
可愛らしいあるよね
