NVIDIA NeMo Guardrails

github.com

英伟达开源的可编程护栏工具包，为 LLM 对话应用添加安全与行为控制。

开源有 API可自部署本地模型LinuxMac

GitHub ★ 7,265被推荐 1 次

其他官方站点github · NVIDIA DeepLearningExamples github · Megatron-LM github · NVIDIA Apex build.nvidia.com nvidia.com

访问网站 ↗

适合做什么

适合开发 LLM 应用的工程师，用于内容安全、话题限制、对话流程控制与工具调用防护。

标签与属性

价格

特性

支持模型

平台

同类推荐

AI 安全 / 护栏

Presidio

★ 11,217

微软开源的敏感数据保护框架，支持文本、图像和结构化数据的PII检测与匿名化。

开源有 API多模态本地模型网页

github.com1 处推荐

AI 安全 / 护栏

garak

★ 9,429

NVIDIA 开源的 LLM 漏洞扫描器，检测幻觉、提示注入、越狱等安全弱点

开源可自部署有 APIGPT本地模型

github.com1 处推荐

AI 安全 / 护栏

PentestGPT

★ 15,717

基于大模型的自动化渗透测试 Agent 框架，支持 CTF 解题与渗透流程，发表于 USENIX Security 2024。

开源可自部署ClaudeGPT命令行

github.com1 处推荐

AI 安全 / 护栏

Strix

★ 66,489

开源 AI 渗透测试工具，自主 AI 黑客代理动态运行代码、发现并验证漏洞，还能自动修复。

开源有 API可自部署GPT命令行

strix.ai2 处推荐

AI 安全 / 护栏

NeMo Guardrails

★ 7,246

NVIDIA 开源的可编程护栏工具包，为 LLM 对话应用添加安全、合规与可控对话流程。

开源可自部署LinuxMacWindows

github.com1 处推荐

Skills 技能

reverse-skill

★ 39,976

面向 AI 编程客户端的逆向/渗透/安全技能路由包，自动路由方法论并按需自举工具链。

开源中文界面可自部署Claude命令行

github.com1 处推荐