プロンプトインジェクション の検索結果
#68 明けましておめでとうございますの回
…のアトラスで、AIブラウザですね。AIブラウザでプロンプトインジェクションに対して、どういう対策をしてるのかっていうのを、結構長く書い…
![[12月30日:速報回]AI驚き屋を斬る新制度始動/NotebookLM表対応/2回入力で精度UP/Atlas/政府1兆円(ep.29)](https://image.listen.style/img/TK1Z13iqTeUiiObf3UHnpYz-_8tAJW0B5s7X4qn5tm0/resize:fill:300:300/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzY3MDQyNjQ3MjMyLTVlOTJiODJiMjc1NmIuanBn.avif)
[12月30日:速報回]AI驚き屋を斬る新制度始動/NotebookLM表対応/2回入力で精度UP/Atlas/政府1兆円(ep.29)
…12月22日にアトラスについて、アトラスのプロンプトインジェクションの対策についてですね、オープンAIが解禁をしたと…
#66 令和になってもdeserializeに悩む回
…はまあなくはないかもどっちかというとでもプロンプトインジェクションはなんか手段なんだろうなきっといやーちょっと難しいなこの…
AI 活用の裏側：RAG 精度改善と脆弱性対策の実態 (Atsu)
…けど、それによると、第1位がプロンプトインジェクションっていうのが出てきて、プロンプトに対してインジェクトするのをしてくる…
#3-12 最新AIトピックまとめ！GPT-5.1/グループチャット/Sora2著作権問題/Grok4.1/Gemini3
…特にプロンプトの悪用とか脱獄プロンプト、プロンプトインジェクションとかもそうですけど、危険な化学とか生物知識の応答制限などに関して…
名古屋ではたらく社長のITニュ..
Ep.712 Gemini 3始動──“Deep Think”とAntigravityでエージェント時代を押し出す（2025年11月20日配信）
…説明。シンパシー（迎合）的な出力の抑制、プロンプトインジェクション耐性、サイバー濫用への防御を強化した“最もセキュアなGemini”を掲げています。総じて…
![[11月18日:速報回]ChatGPT-5.1/Google宇宙データセンター/Claude Codeサイバーテロ/GPTグループチャット/NotebookLM Deep Research/まじん式v4(ep.17)](https://image.listen.style/img/aMqStpQ687XUP4_tN2LlQA49vEQ8xbOlfO2mILao-xc/resize:fill:300:300/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzYzNDEyNjM4MTc3LTc1MmNmOTg4YWVhOTIuanBn.avif)
[11月18日:速報回]ChatGPT-5.1/Google宇宙データセンター/Claude Codeサイバーテロ/GPTグループチャット/NotebookLM Deep Research/まじん式v4(ep.17)
…あ、なにこれ、プロンプトインジェクションとかみんなでやればいいの?多分作った、だからチャットGPTの反応を設定できるのカネリンじゃね…
DeepSeekショックは終わらない。AI界の「眠れる獅子」中国の戦略をAIエンジニアが徹底解説(ep.16)
…抜け道を突いてAIを騙す行為。プロンプトインジェクション（Prompt Injection）：AIに外部から仕込んだ指示（命令文）を紛れ込ませ、本来の動作を上書き・乗っ取る…
これ知らないと恥をかく!?AIの学習と参照の違い。今更聞けないRAGをやさしく解説(ep.12)
…んだろうって言ってこの前ちょっとチラッと話したけどプロンプトインジェクションプロンプトインジェクションはい悪いそのさ盗み取る感じの盗み取るとしてラグの…
![[10月28日:速報回]ChatGPTブラウザAtlas/Claude Code On Web/DeepSeek-OCR/Grok Mika/Microsoft Copilot新機能 (ep.11)](https://image.listen.style/img/o3M00FqNFp62n631yDMFKs7WeI6nFrW3bq5zDbpYKjE/resize:fill:300:300/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzYxNTg5NzM2MDg0LTQ1NzYzYTI0MjJhN2QuanBn.avif)
[10月28日:速報回]ChatGPTブラウザAtlas/Claude Code On Web/DeepSeek-OCR/Grok Mika/Microsoft Copilot新機能 (ep.11)
…警戒する理由(10:24) パスワード連携は危険？プロンプトインジェクションのリスク(13:00) 人柱待ちのAIブラウザと、Microsoftへの小さな不満(15:02) AIエンジニア…
名古屋ではたらく社長のITニュ..
Ep.657 ChatGPT Atlas登場──“ブラウザそのものが相棒”になる日（2025年10月23日配信）
…た制限を併設。隠れた命令（プロンプトインジェクション）への対策やレッドチームの結果もSystem Cardで整理されています。提供は本日…
![[10月14日:速報回]OpenAI DevDay/Gemini at Work/Opal/MCP開発入門/フィジカルAI(ep.7)](https://image.listen.style/img/YH7cD7g79HcVqHmOd5DA5XOspV6TtWOabj559xOdyc8/resize:fill:300:300/aHR0cHM6Ly9kM3Qzb3pmdG1kbWgzaS5jbG91ZGZyb250Lm5ldC9zdGFnaW5nL3BvZGNhc3RfdXBsb2FkZWRfZXBpc29kZS80NDQ2NDQzNy80NDQ2NDQzNy0xNzYwMzc4NDAxNjAyLWY4NDViMjg0NThiMjguanBn.avif)
[10月14日:速報回]OpenAI DevDay/Gemini at Work/Opal/MCP開発入門/フィジカルAI(ep.7)
…自然言語。で、例えば、単純にChatGPTに対するプロンプトインジェクションだったら、なんかさ、例えば人の殺し方とかって絶対言わないじゃん、ChatGPTって…
名古屋ではたらく社長のITニュ..
Ep.628 Gemini 2.5「Computer Use」──“画面を見て手を動かす”エージェントの実戦投入（2025年10月9日配信）
…機能を学習させ、悪用意図や想定外挙動、Web上のプロンプトインジェクションや詐欺への耐性を強化。第二に、実行前に各…
名古屋ではたらく社長のITニュ..
Ep.626 OpenAI「AgentKit」発表──設計・埋め込み・評価・微調整まで“業務エージェント”を一気通貫（2025年10月9日配信）
…せやすくなります。安全面では、オープンソースの「Guardrails」をBuilderやSDKと併用可能です。プロンプトインジェクション検知、PII検出、ハルシネーション検出、Jailbreak検知など…
名古屋ではたらく社長のITニュ..
Ep.613 Anthropic「Claude Sonnet 4.5」発表──30時間“自走”でチャットアプリを作る時代へ（2025年10月2日配信）
…と位置づけ、へつらい（sycophancy）や欺瞞、プロンプトインジェクションへの耐性改善を公表。ASL-3の保護レベルで展開し、検知フィルタの誤検知率も…
名古屋ではたらく社長のITニュ..
Ep.580 1Password×Perplexity──AIブラウザ「Comet」を“ゼロ知識の鍵束”で守る（2025年9月25日配信）
…は、AIがページ内容を無批判に取り込むことで誘導攻撃（間接プロンプトインジェクション）やフィッシング補助に脆弱となる懸念が挙がりました。こう…
#52 サプライチェーン攻撃しんどすぎるんよの回
…みたいな感じな気がしてて言うてもやっぱあのプロンプトインジェクションできるできると言いつつそこそこ知識ないとやっぱできないみたいな…
#51 immutableなリリースしていこうぜの回
…もう保護できないまあそうね保護できないmcpサーバー間のプロンプトインジェクションも刺さっちゃうから結局そういうの考えるともう使わないに…