https://blog.gao-ai.com/tags/ai/Recent content in AI on GAO AI BlogHugo -- gohugo.ioja© ガオ株式会社 All Rights Reserved.Mon, 01 Jun 2026 16:30:00 +0900https://blog.gao-ai.com/posts/deepteam-redteam/Mon, 01 Jun 2026 16:30:00 +0900https://blog.gao-ai.com/posts/deepteam-redteam/<h2 class="relative group">概要 <div id="概要" class="anchor"></div> <span class="absolute top-0 w-6 transition-opacity opacity-0 -start-6 not-prose group-hover:opacity-100 select-none"> <a class="text-primary-300 dark:text-neutral-700 !no-underline" href="#%e6%a6%82%e8%a6%81" aria-label="アンカー">#</a> </span> </h2> <ul> <li>DeepTeam は LLM アプリの脆弱性を自動で突きにいく OSS（Confident AI 製、DeepEval の兄弟）</li> <li>50+ の脆弱性カテゴリと多数の攻撃手法（バージョンにより増減）を組み合わせてくれるので、自分で攻撃プロンプトを考えなくていい</li> <li>Acme 社という架空のヘルプデスク Bot にプロンプトインジェクション × 3 をぶつけたら、Gemini 2.5 Flash + 短いシステムプロンプトで <strong>今回の 3 ケースでは漏洩なし (Mitigation 100%)</strong></li> <li>Langfuse に <code>@observe</code> + <code>create_score</code> を入れるだけで、攻撃シミュレーションの結果が <strong>時系列ダッシュボード</strong> になる</li> <li>単発の CLI 結果で終わらせず、<strong>Trace・Score・Session として保存して PR ごと・リリースごとに差分を追える状態</strong>を作るのが本記事のゴール</li> </ul> <h2 class="relative group">1. DeepTeam とは <div id="1-deepteam-とは" class="anchor"></div> <span class="absolute top-0 w-6 transition-opacity opacity-0 -start-6 not-prose group-hover:opacity-100 select-none"> <a class="text-primary-300 dark:text-neutral-700 !no-underline" href="#1-deepteam-%e3%81%a8%e3%81%af" aria-label="アンカー">#</a> </span> </h2> <p><a href="https://www.trydeepteam.com/" target="_blank" rel="noopener noreferrer">DeepTeam</a> は、LLM アプリに対する <strong>攻撃シミュレーション</strong>（英語圏では &ldquo;red teaming&rdquo;）を自動化するフレームワークです。評価フレームワーク <a href="https://deepeval.com/" target="_blank" rel="noopener noreferrer">DeepEval</a> の兄弟プロダクトで、Confident AI が出しています。</p>