guardrails-llm-filter

Presidio

★ 11,217

微软开源的敏感数据保护框架，支持文本、图像和结构化数据的PII检测与匿名化。

garak

★ 9,429

NVIDIA 开源的 LLM 漏洞扫描器，检测幻觉、提示注入、越狱等安全弱点

PentestGPT

★ 15,717

基于大模型的自动化渗透测试 Agent 框架，支持 CTF 解题与渗透流程，发表于 USENIX Security 2024。

NeMo Guardrails

★ 7,246

NVIDIA 开源的可编程护栏工具包，为 LLM 对话应用添加安全、合规与可控对话流程。

Strix

★ 66,489

开源 AI 渗透测试工具，自主 AI 黑客代理动态运行代码、发现并验证漏洞，还能自动修复。

reverse-skill

★ 39,976

面向 AI 编程客户端的逆向/渗透/安全技能路由包，自动路由方法论并按需自举工具链。