プロンプトインジェクション
偽装メールやウェブページ、人間に見えない文字などを使ってAIに不正な指示を実行させる攻撃。
拡大するとさらに表示 · 0 本
AIセキュリティのこわーい話
聴くだけフリーランス講座本エピソードでは、生成AIの情報漏洩対策とAIエージェントのセキュリティ入門を無料で公開したコースについて紹介しています。ChatGPTの共有リンク問題や、AI音声・顔の偽装による大規模な送金詐欺事件などの具体的な事例を挙げ、被害を防ぐための確認手順や安全設定の重要性を解説しています。
#1300 ただの文章がウィルスよりも怖い！
集客のヒントになるラジオAIエージェントに読み込ませる「スキル」は単なるテキストですが、悪意ある指示が含まれているとAIが不正な操作を実行する危険性があります。研究者の検証では特定の条件下で90%の確率でAIを誘導できることが示されており、従来のウイルス対策では検知できないため注意が必要です。ダウンロードフォルダを作業場所に指定しないことや、不明なス...
【株式会社TAM：大内千佳/米本和生～後編】AIエージェントの危ない操作トップ3／プロンプトインジェクションの恐怖／Gmail・Slackを禁止した理由／安全装置の作り方／森野誠之の毎日堂
森野誠之の毎日堂マーケティングラジオ株式会社TAMの大内氏と米本氏は、AIエージェントの組織導入におけるセキュリティと文化構築の重要性について語っています。ファイル削除や送金といった不可逆な作業を防ぐ安全装置の必要性や、プロンプトインジェクションへの対策について解説しています。また、GmailやSlackへのアクセス禁止など、AIが触れる範囲を厳しく制限し、ルールを継続...
#18 AIで作った教材アプリ、公開して大丈夫？安全を決めるたった1つの基準
先生のためのAIラジオAIを活用して教材アプリを作成する際のセキュリティに関する懸念について、専門家と現役教師が解説。アプリが個人情報や成績情報を扱わない場合は、ソースコードの流出や改ざんのリスクは低いと説明。一方、AIエージェントを利用する際は、ファイル操作の許可設定やバックアップの重要性が強調される。また、AIが誤った指示に従ってしまう「プロ...
人間の得意分野をAIができるようになってきている
声を武器にするラジオ【無料】声のタイプ別診断などはこちらから！ https://micarp1221git.github.io/voice-karte-form/ 質の高い記事で読めるpodyはこちら https://pody.jp/player/8hPbn6HwFScV3cugVgjd noteメンバーシップはこちらから https://note.com/micarp/membership 声のパーソナル診断はこちらから https://note.com/micarp/n/n6bac2d7f91a4 🎁Udemyクーポ...
エピソードを読み込めませんでした。もう一度お試しください。
エピソードを読み込んでいます…