オープニングと組織におけるAI利用の課題
森野誠一の毎日堂マーケティングラジオ。 初めてだな、こんなの。この番組は、私が平日毎日発行しているニュースレター、毎日堂のトピックをもとに、SEO、広告、EC、AIなど11ジャンルをその道の専門家と本音で掘り下げる番組です。
変化が早い業界ですので、一人で追いかけるのは本当にしんどいですよね。 今日も現場のリアルな事件をリスナーの皆さんにお届けしていきます。
今回も前回に引き続き、ECとAIエージェントをテーマに株式会社TAMの大内さんと米本さんとお話をしていきます。よろしくお願いします。
お願いします。
前半はですね、どう使うかって話なんですけれども、だいぶセキュリティ的に危なそうな感じがしたので、後半はですね、ちょっとその辺をお聞きしていきたいと思います。
そもそも米本さんに色々お聞きしたいんですけど、さっき大内さんが、前半でですね、例えば特集ページ作ってってあったんですけども、あれなんか本当にものすごく簡単に言ってるんですけど、
環境を作るとかルール作るとか、その辺ってどうやって進めていったんですかね。もう組織料ってやつですね。一人でやるんだったらもう一人で個人責任でやればいいんですけど、組織なので、その辺どうやって進めるんでしょうかね。
そうですね。やっぱり組織利用が一番どう使ったらいいか迷うと思うんですけども、大きくセキュリティという観点と、あとは環境といいますか文化をどう作っていくかというところが重要かなと思っています。
なので、セキュリティに関しては安全装置ですよね。絶対人間にこれ気をつけてねって言っても、やっぱりヒューマンエラーって起こってしまうと思うんですよ。
なのでそういったところを仕組みで解決するっていうものを土台として作っておくことで対応することができると。
そこが一つ目に必ずやるべきと。
そうですね。なので個人情報を自動でマスクするですとか、あとは危険な操作は止めるようにするとか。
AIにやらせてはいけない危険な操作とルール作り
危険な操作ってどんな操作があります?例えば。
そうですね。危険な操作に行くと、例えばですけどパソコンの中のファイルを削除してしまうとか。
削除しちゃうともう戻せなかったりするので。
そういう作業は基本的には必ず人間が間に挟むようにするとかですね。
あとはそもそもプロジェクト全部のファイルを削除するようなことはさせないみたいなことを仕込んでおくっていう必要がありますね。
あとは読み込める範囲とか書き込める権限の範囲っていうのも重要なので、ちゃんとAIがどこの権限までフォルダまで触っていいのかっていうものを定義しておいてあげるっていう。
これってどうやって決めていったんですか?
何か問題が起きてから順番にルールができたのか、だいたいこの辺は危ないだろうってある程度ルール作ってからなのか、どちらで進んだんですかね?
それでいくともうそうですね、こういう操作はAIに任せてはいけないだろうっていうものをあらかじめ自分の方でリストアップしまして、
それをみんなが使う環境に標準搭載させているっていうような。
それもブラッシュアップしていくみたいな随時?
そうですね。
なるほど。
わかりました。
でもその辺って大地さんにちょっとお聞きしたいんですけど、いくらこの安全なところがあるとはいえ、ちょっと最初怖いですね多分。
怖かったですね。
最初勉強した時に毎回押していい?みたいな。
押していい?みたいな、一個一個がすごい怖かったですけど。
でも今はだいぶ見てきたら、これはいける?これはいけない?は判断してきた。
なるほどね。
ってことはその辺も米本さんが毎回聞かれるから、さっき前半にお話したようにFAQ化されていて、ガイドラインもどんどん作ったみたいなイメージなんですね。
なるほどね。
そうすると、そういったルールを配布したりメンテするっていうのは永久にやらなきゃいけないんですかね?
そうですね。メンテナンスは継続的にやっていく必要はあるかなと思いますね。
一回作って終わりではなくて、それを育てていくっていう必要は。
これでもなんか最初作ると達成感ありそうなんですよね、これ。
なんかもういいかってなりそうなんですけど、そうじゃないってことなんですね。
そうですね。なので継続的に今ちょっと監視と言いますか、
例えば仕組みを作ってご検知してしまうケースもあるんですよね。
本来ブロックしてはいけないものも検知しちゃうとかっていうのもあるので、
そういうものは徐々に、最初はちょっと厳しめに防御もしておいて、
大丈夫なものを徐々に広げていくみたいな考え方で。
結構デリケートですね。
そうですね。
アクセス制限と不可逆な作業の回避
そのルールなんですけど、その線引きってどうやってやっていくんですかね。
難しいですよね。幅が広すぎて、じゃあ最初自社でやろうと思って、
線引き作ろうと思って、上司その方がやったりするとガッチガチで何もできませんとか
なりそうなんですけども、その辺どうやって決めるんですかね、ここは。
そうですね。ここに関してはどのツールまで触っていいのかっていうものを
あらかじめ決めておく必要はあるかなと思います。
なので先ほど大地が言っていたように、ブラウザー操作はしてはいけないですとか、
あと弊社だとGメールとかはアクセスしてはダメになってますし、
スラックとかの情報にもアクセスできないというような最低限のルールと言いますか、
アクセスできない仕組みを作っています。
そのところで、最悪でも事故が起こっちゃった時って、元に戻せなくなっちゃう時ありますよね。
そうですね。
大前提としては戻せる範囲でやるって感じですかね。
はい。なので戻せないような作業は権限として与えないっていう。
でもそれって結構考えると結構ありますよね。
危ない操作、日常的にやっていた危ない操作って結構あると思うんですけど、
どんなものがあります?さっきメールとかいろいろあったんですけど他には。
そうですね。本当にECの運営だと顧客情報を触ってしまうとか、
商品情報をそのまま書き換えてしまって、本番公開しちゃうとか。
それもやろうと思えばできてしまうんですけど、
そういうのはやってはいけないっていう風にルールと言いますか、仕組みで基盤に入れておくっていうことで対象。
AIエージェントによる“やらかし”未遂とAPI問題
その点、おうちさんが失敗しちゃったとかってあるんですか?ルールがちゃんとしてたら大丈夫そうな気がしたんですけど。
そこで言うと、米本先生のおかげで私は大丈夫なんですけど、
逆、1個やらかさなかったことがあって米本さんのおかげで。
それは、うちの環境界と個人名入れたらそもそもチャット欄から送信されないっていう仕組みを入れてくれてて、
で、私自分の署名を書き換えようと思って署名を入れてて送ったら、
署名だったかな?弾かれて、飲んでいこうやろって思って、何回かやって無理やから米本さんに聞いたら、
個人名とかメールアドレスがちゃんと弾くようになってたりとか。
で、逆にやり終えてしまった後に米本さんに、それ良くないですねって言われたことが1個あって。
それは、エンブファイルっていう情報を読みに行くファイルかな?暗黒化されたファイルがあるんですけど、
そこに、それこそ楽天の市場のAPIとか、ヤフーショッピングのAPIとか、あとは政府の統計データのAPIって出てるから、
そこからMD計画を練るためのトレンドデータ取ったらいいやんと思ってやったんですよ。
エンブファイルのAPIを読み込んで楽天市場のトレンドを知って特集を組むぞと。
米本さんに、APIはダメですって。
いろんな観点から、そこのAPIはダメですって。
それもやらかす幸せかもしれませんね。
一律にダメというよりかは、自分を通してやりましょうっていう感じですかね。
みんなが自由自在にAPIやったら収集つかないですもんね。
それが会社単位であったら怖いですもんね。
楽天市場のAPIっていうのは、自社とかお客さんのじゃなくて市場で流れているトレンドデータの方ですね。
持てもダメらしいです。
なるほどね。
言われてみればそうかもってなりますよね。
負荷があるのかな。
使う側は気軽に使いたいですもんね。
そう。めっちゃいいやんと思って。めっちゃいいこと思いついたって思ってたんですよ。
ダメですと。
それはエンジニア的にはどうしてもらえると嬉しいなって。
AI利用における主要なセキュリティリスク
セキュリティリスクっていろいろ出てくると思うんですけど、今みたいなやつですね。
例えばどんなリスクがあるんですか?
ヨネモノさんにお聞きしたいんですけど、ピンとこないのがいっぱいあるので。
そうですね。一個は情報、わかりやすいのは情報漏洩ですね。
手費情報ですとかパスワードとかそういうものが外部に流出してしまうというリスク。
これって意外と気軽にAIのチャットに貼っちゃいますね。
GAが聞いてくるとかなんかしてね。
そうですね。
そこも弊社の環境だと、
そもそも何も入れてないと結構AIって入れてくださいって言ってくるんですよね。
そう言うんですよ。入れてからそれはダメですって言うんですよね。
そうなんですよ。
そもそもそういう振る舞いはしないでねっていう指示も入ってるんですけど、
検知したらもうそこで止めてしまうっていうような処理も入れていて。
まずはここが一つ目と。
二つ目があるんですね。
二つ目がプロンプトインジェクションっていう代表的な攻撃なんですけど、
ウェブページですとか、
あと最近だとメールで、
会社の代表者名を偽ってこういうことをしてくださいっていうメールを送られてくると思うんですけど、
あれ結構プロンプトインジェクションって言って、
会社の人物になりすまして指示を与えたら、
AIはその指示を会社の人だと思い込んで、代表の人だと思い込んで、
実行してしまったりするっていうのがあるんですよね。
そういう攻撃を防ぐっていう必要があります。
これはでも気づかないです。
人間の見たら違うと思うんですけど、
AIからしたら人に見えちゃうんですよね、こういうの多分。
はい、そうなんです。
あと結構その文字、人間には見えない文字で仕込まれたりもするんですよ。
これはでも確かに言われてみればそうですけど、言われないと気づかないですね。
恐ろしいな。
で、まだあるんですね、まださらに。
そうですね。3つ目、次が権限を持たせすぎてしまうことによる事故ですね。
これはさっきもあったと思うんですけど、過剰に権限を与えてしまうと、
AIはどこまでもやってしまうので、
下手したらお金が絡むような決済までやっちゃうんですとか、
送金しちゃうとかまでやれてしまうので、
そういうのはやらせないようにするという権限を縛るという必要があります。
なるほどね。
そうすると与える情報とか権限をちゃんとやるということと、
関係ない人はできるだけかからないでってことなんですね。
そうですね。
いやーでも本当に気軽に今の話やっちゃいそうですけど、
APIキーとかもう収費情報はダメと、プロンプトインジェクションにも気をつけましょうと。
あとはね、これもやってほしいな、あれもやってほしいなって言って、
権限拡大はやめようと。
そうですね。
そういう時は分かる人にこういうのがやりたいんだけどっていうのを相談してもらったら、
安全なやり方を導入していけるかと思うので。
個人と組織におけるAI導入の進め方
でも大地さんがその辺で、もうちょっとできたらなって思う時あります?
なんか自由度が欲しいみたいな。
自由度?
もうないです。
もう逆に米本さんの作った環境という安全な策の中で、
さっきのAPIみたいに飛び出してしまうことあるんですけど、
もうその中やったら逆に何でもしていいくらいの暴れられるので、
もう頑丈にいっててほしいですね。
なるほどね。多少やっても安全なみたいな安心感あるってことですね。
そうですね。
もうなんかちょっとこのセキュリティとは違うんですけど、
PDFってあるじゃないですか、
あの子って実際PDF入れると画像化してOCRするからめっちゃトークン量をくぶし、
1回そのまま入れちゃうと何回も読みに行くとめっちゃトークン量をくぶるんですよ。
だからあれって最初にMD化するっていう作業が必要なんですけど、
知ってたって米本さんに言ったら、入れてますそんなこと。
そんなの最初からデフォルトで入れてるぜみたいな時とか、
ありがとうみたいな。
そうですね。トークン使用量ってね、
使っても使うことようやく気にしますからね。
最初から入ってると。
なるほどね。
あと我々みたいなね、
個人は割とホイホイやるんですけど、
個人と組織で全然違うと思うんですよ。
AIの導入って。
まずですね、よりもとさんにお聞きしたいんですけど、
個人で進めるときってどうしたらいいんでしょうかね。
何でもできるけど何も知らないって感じなので個人で。
そうですね。
個人で進めると情報源とかがめちゃくちゃ多くて、
例えばYouTubeですとかXとかいろんな媒体があって、
誘惑もたくさんあって、
どれからやっていったらいいのかっていうのが、
分からなかったりするかなと思います。
あとAIエージェントを動かすには、
環境構築っていうものが必要で、
そこも結構たくさんの壁があるかなと思います。
なのでそこのあたりは、
何か一本の軸を引いてもらっているような媒体。
あんまり過剰なキャッチーなものの媒体を見るのではなくて、
最初から最後まで筋を通した媒体を見てもらうのがいいのかなと思います。
エンジニア向けの記事とか。
そうですね。
実は自分が電子書籍を書いてまして、
エンジニアじゃない方がどうやったら開発までしていけるかっていうような本を書いているので、
無料で出しているのでよかったらそっちで読んでもらえたらなと。
頼るべき語ね。
設定方法から書いてくれてます。クロードコートの。
本当に情報が山のようにあるんですよ。調べたらね。
そこがもうこれってあるのがすごい助かりますね。
まずはそういうのを読んでやりましょうってことですね。
わかりました。組織の場合はどこから始めるんですか?
組織の場合はやはり再現性と仕組み感みたいなところが重要かなと思っています。
個人だけができるのではなくて、仕組みとして入れたら、
メンバーが同じ品質ではないですけど、
それぐらいのレベルまである程度までいけるっていう仕組みを作る必要があると思っているので、
先ほどのセキュリティのハーネスというようなブロックする仕組みですとか、
あとは勉強会とかを定期的に開いて、
新しい情報を常にメンバーで同期するというような文化を作っていく必要があるかなと思っています。
会社としてAI導入しようって言った時に、
じゃあみんな使いましょうってやる前にちゃんとルールとか作った方がいいってことですね。
そうですね。
あとはいきなりルールから入ってしまうと、
結構がんじがらみになっちゃうと思うので、
まずは何か、よくあるのはAIをやりたいって思っている人とか、
得意な人が第一線を行ってもらって、
そこで得た知見を徐々にチームに落としていって仕組みを作っていくっていうアプローチの方が馴染みやすいかなとは思います。
確かにね。全員は集中つかないですからね。
できる人が慎重にやってもらって、
これはあかん、これはあかんみたいなのをやってもらうということですね。
なるほど。個人と会社で本当に全然進め方が違いますよね。
AIセキュリティの専門家と実践的な対策
これ今のお話聞いてて、
大内さんもし一人だったらできてました?ここまで靴下の特集とか。
靴下の特集はできてたかもしれないですけど、
そもそもクロードコードってあの子インストールしてなかったと思います。
デスクトップアプリを入れるって結構ハードルが高かったりするし、
さっき言ったターミナルの設定とかあるし、
なんでいなかったら、そもそも私はコワークから使ってなかった可能性がある。
なんかできそうだけど、昔の作業でやっちゃうみたいな。
やっぱりできる環境がローカルとかっていうこともあったりするから、
さっき言ったみんなが使ってるのを可視化できるんですね。
私たちはプロジェクトでも情報共有のために入れたりするので、
そういう意味で他の人こんだけ使ってるのに自分使ってないのやばいんじゃないのっていうのが
毎日のように出てくるから、そういう後押しじゃない、
少々感、そういうのが意外とすごく役立つ。
それはもう組織特有ですね。
そうですね。
他の人が使ってたらこれも安心だっていうのもありますしね。
こんなことできるんだが結構わかりやすく文字化されてみて分かるようになってて。
そういうことなんですね。わかりました。
最後ちょっと米本さんにお聞きしたいんですけど、
これを見てる方で、なんとなくまだ始めてない方っていっぱいいると思うんですよね。
性性愛でちょっとやり取りしてる人がいると思うんですけど、
そういう人にAIエージェントを使ってもらうときに、
まずどこから始めようかってところで、個人の人の最初の一歩はどこですかね。
まずは自分ごと化できないと使えないと思うんですよね。
急に業務活用って言われてもなかなかいろんな制限があったりして、
これ無理じゃないかなって諦めちゃうことが多いかと思うんですよね。
なので本当に自分のプライベートな範囲からまずは使ってみるっていうのがいいかなと。
自分の趣味でやってみるとか。
そうですね。
結構体調管理とかやってる人多いですよね。
体重計と連動しますとかね。
そういうとこからやると。
確かに業務だとなんか腰引けますね確かにね。
あとはその線引きはどこから始めますか。
全然違うとこから線引いちゃいそうなんですけど。
やっぱり一番やらかしてしまって困るのはセキュリティ面かと思うので、
そこはちょっとでもセキュリティ面で不安になるなってなったら、
一旦ちょっと専門家に相談するとかっていうのがいいかなと思います。
セキュリティの専門家って言ったら、
例えばネットワークの専門家って大体わかりやすいんですけど、
AIのセキュリティの専門家ってどこにいるんです?
ここに。
AIに詳しい人っているじゃないですか、言われる。
でもAIのセキュリティに詳しい人って。
それでいくと、AIのセキュリティに詳しくないといけないかというと、
そういうわけではないんですよね。
どっちかというとAIが使っているのって、
ターミナルって呼ばれてるものでもあったんですけど、
それって元々エンジニアが使ってたものなんですよ。
エンジニアの方であれば結構判断できる領域かなと思います。
技術的な、基礎的な要素だと思うので。
じゃあAIじゃないってことですね。
エンジニアの人が危ないと思うことはやらないと。
それが重要だと思います。
すごいスッキリですね。AI、AIって思ってたけど違うんだ。
横からすみません。
それでいくと、一番怖かったターミナルの操作については、
ただのクロードとか、そもそものクロードさんとかチャットGPTさんに
ターミナルの処理を全部書き出して、
その中で危険な処理をするものを危険度で、
低い中高で、HTMLで表にまとめてって言ったりすると、
一旦PDFでもいいけど、
そうしたら非エンジニアでも、どのファイルを触っちゃいけない、
どのターミナルを触っちゃいけないかをまず分かるから、
それをまずして認識するのとかはすごい大事かも。
聞くもそうですけど。
確かに、確かに。
それはやったことなかった。
ぜひ。
なるほど、ありがとうございます。
TAMのAIエージェント活用支援とクロージング
そもそもこのインタビューになったきっかけがですね、
大内さんのFacebookの投稿を見て、
ECとAIエージェント勉強会やってるなということで、
最近そういう勉強会まだされるんですか?ECとAIエージェントって。
そうですね。私たちは月2回。
一応これ、事業者側向けなんですけど、
ECの授業をされていらっしゃる方に、
月2回勉強会をスキルでこういうことを活用できます。
そっちはスキル活用ですね。勉強会をしてます。
あともう一つ、めっちゃ弊社としまして、
その参加していただいた方々で、
やっぱり同じようにセキュアな環境下で使いたいとか、
組織に浸透したいっていう方がいらっしゃるので、
弊社、我々は企業様向けのコードコードの環境設定の
勉強会を開催していて、
1日型のサックリタイプと3ヶ月バンスをしますっていう
じっくり型がありまして、
それをするとセキュリティリスクを下げた状態で、
みんなが使える環境下とか、
あとメンバーの利用システムとのスキルの活用を
ご説明したりとかいうことができますので。
今日のお話聞いたら、
米本さんの知見をどんと自分の会社に放り込んだのが
一番早いですよね、安全な環境いきなりできるので。
大きいですね。
いや、一からそれは自社でエンジニアと一緒にやるって
ちょっとなぁと思うもんな、今日の本当話聞いて。
そういう人が今後どんどん出てくるんでしょうけどもね。
わかりました。
ということで、この辺で終わりたいと思います。
今回もお聞きいただきありがとうございました。
少しでも面白かったとか役に立ったと思っていただけたら
フォローや高評価で応援していただけるととっても嬉しいです。
感想や質問、これ困っているとかありましたら
概要欄のリンクからお便りいただくか、Xでですね
ハッシュタグ毎日動マーケティングラジオを付けて
ポストしてください。全部見ておりますのでお返事します。
それではまた次回です。
大地さん米本さんありがとうございました。
ありがとうございました。
