DeepTeam

github.com

开源 LLM 红队测试框架，模拟越狱、提示注入等攻击，发现偏见、PII 泄露等漏洞并提供护栏。

开源有 API可自部署本地模型命令行Linux

GitHub ★ 3,084被推荐 1 次

访问网站 ↗

适合做什么

适合 AI 安全工程师、开发者对 LLM 应用、RAG 与 Agent 做安全测试与上线前风险排查。

标签与属性

价格

开源

特性

有 API 可自部署

支持模型

本地模型

平台

命令行 Linux Mac Windows

同类推荐

AI 安全 / 护栏

OWASP GenAI Security Project

OWASP 发起的开源生成式 AI 安全项目，提供 LLM Top 10、Agent 管控标准等免费指南

开源网页

genai.owasp.org1 处推荐

AI 安全 / 护栏

Adversarial Robustness Toolbox (ART)

★ 6,295

IBM 发起、LF AI 托管的 Python 机器学习安全库，提供对抗攻击与防御工具。

开源可自部署LinuxMacWindows

github.com1 处推荐

AI 安全 / 护栏

Presidio

★ 11,217

微软开源的敏感数据保护框架，支持文本、图像和结构化数据的PII检测与匿名化。

开源有 API多模态本地模型网页

github.com1 处推荐

AI 安全 / 护栏

garak

★ 9,429

NVIDIA 开源的 LLM 漏洞扫描器，检测幻觉、提示注入、越狱等安全弱点

开源可自部署有 APIGPT本地模型

github.com1 处推荐

AI 安全 / 护栏

PentestGPT

★ 15,717

基于大模型的自动化渗透测试 Agent 框架，支持 CTF 解题与渗透流程，发表于 USENIX Security 2024。

开源可自部署ClaudeGPT命令行

github.com1 处推荐

AI 安全 / 护栏

Purple Llama

★ 4,461

Meta 开源的大模型安全工具集，含 Llama Guard 护栏与 CyberSecEval 安全评测基准。

开源可自部署

github.com1 处推荐