00:06
どうも、タニタクです。AIと発信に迷う方に向けて、最初の一歩が踏み出せるヒントをお届けしています。
今日もよろしくお願いします。
この放送、アイナーシャルプラウンナーの森嗣先生の提供でお送りしております。森嗣先生、いつもありがとうございます。
今日はですね、流行りを追う事とそのリスクについて話してみようと思います。
最近ですね、もうもっぱらAIエージェントの話題ばかりですよね。
自分がそういうところをリサーチしているかもしれないけれども、本当にそのニュースが毎日毎日入ってきています。
要は、AIエージェントというのは、自分の代わりに、AIが自分で調べたり考えたり作業を進めたり、パソコンを触って複数の工程をまとめて動いたらするというものですね。
そういうAIがどんどん出てきているし、今日もですね、複数のそういうAIをまとめるようなサイトのYouTubeとかがあったりしていました。
それ自体はですね、自分はすごく面白いと思っています。
新しいものに触ることもですね、試してみることも大事だと思いますし、
わからないことに挑戦するということが、時代の変化についていく力になることがあるからですね。
そしてこういうものが、今人間がやっている作業を楽にして自分の時間を作るという意味でも、すごくいいものなんじゃないかなと思っています。
ただですね、最近はもうAIを作っている会社の方も、便利になるからどんどん使ってくださいだけではなくて、
安全性とかですね、制御の話をかなり前に出してきています。
例えばクロードの一番新しい形ですね、一番新しいモデルのMITOSというモデルがあるんですけど、
このモデルは頭が良すぎて、今世の中にあるいろんなサイトの脆弱性すら見抜いて、そこを攻撃するようなものを作れているということですね。
なのでこのモデルは今のところは企業の方だけに出しているのかな、そういう守備の方で出しているという話を聞いていますが、
何かそうやって性能が上がれば上がるほど、人間が簡単にできなかったことを簡単にできてしまうということがまず一つですね。
そして、あとですね、よく言われているのがプロジェクトインジェクションか、というものがあります。
またちょっと横文字なんですけど、これは要はAIがいろんなものを読み込むときに、もちろんいろんな情報をAIが動いて読み込んできてくれるので取ってきてくれるんですけど、
03:00
そこで悪意のある指示を受け取って、それを実行してしまうというものがあります。
これは例えば、その人の銀行口座の情報を私に教えて、みたいなことだったりとかですね、いうことをするようなことがプロジェクトインジェクションといって、指示でできたりしちゃいます。
そこが今非常にどうなんだろうというか危険だよという話があるということで、例えば悪用とか詐欺とかそういうものに使われるリスクがあるということですね。
なのでそこでAIエージェントを使って何かをするときには、そのツールの権限だったり安全対策をきちんとしてくださいね、みたいな発信すら最近はされています。
結構ですね、バイブコーディングとかやるときにOK、OK、OK、OKってやっていくとどんどん進んでいくんですけど、実はその裏でそういうリスクすらあるんだよということがあるということですね。
ということを理解しましょうねという話が最近出てきています。
要は何が言いたいかというと、AIがすごいということはもうそれはすごいんですけど、AIをどう制御しながら使うかが大事なテーマになってきているということですね。
ちゃんと自分が何かあったときに対応できる形で使っていくということですね。
例えばブラウザ上で自分の情報を渡さずに使うとかなると安全なんですけど、パソコンの中にAIをインストールして、その中でAIに自動でいろんなことをやらせていくということをメインのパソコンでやってたりすると、そこには自分の大事な情報がたくさんあったりするので、そこから持ち出されるみたいなリスクがあるよということですね。
こういうリスクがあるということなんですけど、いろんな話をしましたが、ここで思うのは、流行りを追うこと自体は全然悪くないと思います。
むしろこれからもこの時代、新しい流れを知ろうとか、気になるものを調べていくとか、何かを変えようとかすることなんてめちゃくちゃ大事なことだと思っています。
ただですね、看護してた時もそうなんですけど、わからないものをわからないまま使うっていうもののリスクはあるんだろうなと思っています。
下手すると時には挑戦しました、でもこんなことがあってとんでもないことになりました、みたいなことになる可能性すらあるということですね。
06:06
気になるというか注意する点としては、AIに大事な情報をそのまま入れてしまうとか、権限をよくわからないまま渡してしまうとか、何をしているのか確認せずに任せてしまうとか、こういうことをやっていると失敗した、では済まないことが起きる可能性がありますよということですね。
最近はクロードですね、アンソロピックという会社ですけど、モデルがすごくてですね、いろんなことを動いて、セキュリティー面とかも含めていろんな動きがあっているけれども、
本当に便利さが増している分、今まで以上にいろんな使い方ができるし、いろんなことを知っておかなきゃいけなくなっているんだろうなと思っています。
ただ今のこの時点での話だからですね、これをまたカバーしたものができてくるのかなというところではあるんですが、ただ今日の時点ではまだそういうところにリスクがあるので、例えばクロードコードがすごいいいよとかクロードコワークがいいよとかいう話って今も世の中にあふれかえっているんですけど、実はそういうリスクがあるんだよということだけは知ってもらっていた方がいいのかなと思っています。
例えばこれはエンジニアさんが使うならですね、そういうセキュリティーのプロだったりするので、そういうところは心配ないんですけど、自分みたいなエンジニアでもないけれども、そういうツールを使って何かができるようになったよってやっておくと、やっぱりそこの部分というのはどうしても弱いので、その部分はやっぱり難しい部分なのかなと思っています。
でもですね、この話をしながらですね、危ないから使わないということではなくて、自分が使うんなら何ができて何が危ないのかっていうのを知った上で使おうということを言いたいんですよね。
本当にいろんなものもですね、車だって便利ですけどルールを知らずに乗ったりですね、ルールを破って乗ったら危ないということと一緒でですね、AIもそういうものになってきているんだろうなと思っています。
なのでですね、どこまで任せるのかとか何を入れていいのかとかですね、確認はどこで必要なのかとか、そこをしっかり考えながら使うというのが大事になっているんだろうなと思っています。
流行りに飲まれるんじゃなくて、自分でしっかり理解して選ぶこと、それがこれからのAIの付き合い方の大事な部分だろうなと思っています。
今日はですね、流行りを追うこととそのリスクについてちょっとお話をしてみました。何度も言いますが、新しいものに触ることは大事だし、わからないものを任せるのではなくて、理解して使うというのをやっていただければいいなと思っております。
09:06
またですね、そういうことのサポートもやっていますので、声かけていただければそういうことをお手伝いすることができるのかなと思っております。
今日も聞いていただきありがとうございました。
ということでですね、コメント返しをやっていきます。
松井さんですね、いつもコメントありがとうございます。
森津先生スポンサーありがとうございます。
動画先生はまだ経験したことがないので、何をどう届けるのかうまく用いて挑戦していきたいですということですね。
松井さんありがとうございます。
そうですね、すごいですね。
今日ちょっとFacebookにあげようかなと思うんですけど、ちょっとした広告だったりとか何か、ちょっとした動画っていうのはもう作れますね。
あとはどう作っていくかってプロンプトの部分をどうコントロールするかの話ですけど、
そこができればもうこのレベルでできるんだというものができていますので、またその辺もですね、しっかり発信していこうかなと思っています。
本当になんかこう、介護とかそういう医療系とかもやっぱり人の顔を出したらとかいう話があったりするので、
そういうところですね、うまく使うこともできるのかなと思っている部分と、
あとはですね、どうしてもその著作権の問題があるので、そういう意味ではどういう人を作って、これはAIですよっていうところで出していくのかとかですね、
いうところかなと思うんですけど、本当にAIが作ったものですかっていうレベルになってきているので、
一番背景がやっぱりですね、ちょっと文字が日本語が書けなかったりするんですけど、そこを目をつぶればもうすごいものができていますよって感じですね。
またちょっと後でFacebookの投稿を上げておきますので、見ていただければいいなと思っております。
松屋さんありがとうございます。
ということでですね、今日は流行りについて少しお話をしてみました。
便利がいいものはだいたいリスクがついてくるよねっていうところでですね、そこの部分を踏まえて使っていくことが大事なんだろうなということでお話をしてみました。
そしたらまた明日の放送も聞いていただければ嬉しいなと思っております。またねー。
