aiknow

AI 安全 / 护栏

共 108 个AI 用户与开发者推荐的AI 安全 / 护栏。

全部 模型开发训练与微调 / 量化 39数据集 / 数据标注 43AI 安全 / 护栏 87AI 抓包 / 流量分析 28AI 逆向 / 二进制分析 46AI 网络 / 代理分流 7应用评测与监控 106开发 SDK / 工具库 50

OWASP 发起的开源生成式 AI 安全项目,提供 LLM Top 10、Agent 管控标准等免费指南

开源网页
AI 安全 / 护栏 · 1 处推荐

IBM 发起、LF AI 托管的 Python 机器学习安全库,提供对抗攻击与防御工具。

开源可自部署LinuxMacWindows
AI 安全 / 护栏 · 1 处推荐

Presidio

github.com★ 11,217

微软开源的敏感数据保护框架,支持文本、图像和结构化数据的PII检测与匿名化。

开源有 API多模态本地模型网页
AI 安全 / 护栏 · 1 处推荐

garak

github.com★ 9,429

NVIDIA 开源的 LLM 漏洞扫描器,检测幻觉、提示注入、越狱等安全弱点

开源可自部署有 APIGPT本地模型命令行
AI 安全 / 护栏 · 1 处推荐

PentestGPT

github.com★ 15,717

基于大模型的自动化渗透测试 Agent 框架,支持 CTF 解题与渗透流程,发表于 USENIX Security 2024。

开源可自部署ClaudeGPT命令行Linux
AI 安全 / 护栏 · 1 处推荐

Purple Llama

github.com★ 4,461

Meta 开源的大模型安全工具集,含 Llama Guard 护栏与 CyberSecEval 安全评测基准。

开源可自部署
AI 安全 / 护栏 · 1 处推荐

Strix

strix.ai★ 66,489

开源 AI 渗透测试工具,自主 AI 黑客代理动态运行代码、发现并验证漏洞,还能自动修复。

开源有 API可自部署GPT命令行Linux
AI 安全 / 护栏 · 2 处推荐

NeMo Guardrails

github.com★ 7,246

NVIDIA 开源的可编程护栏工具包,为 LLM 对话应用添加安全、合规与可控对话流程。

开源可自部署LinuxMacWindows
AI 安全 / 护栏 · 1 处推荐

Promptfoo

promptfoo.dev

开源 LLM 提示词与 RAG 评估工具,支持批量测试提示词效果,并集成 AI 安全测试与红队攻击模拟。

开源有 API可自部署支持 MCP网页命令行
应用评测与监控 · 1 处推荐

reverse-skill

github.com★ 39,976

面向 AI 编程客户端的逆向/渗透/安全技能路由包,自动路由方法论并按需自举工具链。

开源中文界面可自部署Claude命令行
AI 逆向 / 二进制分析 · 1 处推荐

NVIDIA NeMo Guardrails

github.com★ 7,265

英伟达开源的可编程护栏工具包,为 LLM 对话应用添加安全与行为控制。

开源有 API可自部署本地模型LinuxMac
AI 安全 / 护栏 · 1 处推荐

Guardrails AI

guardrailsai.com★ 7,485

Python 框架,为 LLM 应用添加输入输出护栏,检测风险并生成结构化数据。

开源有 API可自部署GPTLinuxMac
AI 安全 / 护栏 · 2 处推荐

Claude Code 技能,反编译 Android APK 并提取 Retrofit、Ktor、GraphQL 等 HTTP API 与鉴权方式

开源Claude命令行LinuxMacWindows
AI 逆向 / 二进制分析 · 1 处推荐

AI-Infra-Guard

github.com★ 6,767

腾讯朱雀实验室开源的全栈 AI 红队平台,可扫描 Agent、MCP、Skills 与 AI 基础设施漏洞并做越狱评测

开源中文界面支持 MCP可自部署命令行Linux
AI 安全 / 护栏 · 1 处推荐

NSFWJS

github.com★ 9,002

基于 TensorFlow.js 的浏览器端 NSFW 图片识别 JS 库,本地推理不上传,准确率约 90%+

开源免登录可自部署本地模型LinuxMac
AI 安全 / 护栏 · 1 处推荐

DeepTeam

github.com★ 3,084

开源 LLM 红队测试框架,模拟越狱、提示注入等攻击,发现偏见、PII 泄露等漏洞并提供护栏。

开源可自部署有 API本地模型命令行Linux
AI 安全 / 护栏 · 1 处推荐

claude-telemetry-audit

github.com★ 9

对 Claude 桌面端、CLI 与 Android 客户端遥测行为的源码级逆向审计,揭示其上报内容与关闭方法。

开源ClaudeMacWindowsLinuxAndroid
AI 安全 / 护栏 · 1 处推荐

CyberStrikeAI

github.com★ 7,489

AI 原生的网络安全行动系统,用 Agent 编排渗透测试、MCP 工具与攻击链分析,全程可审计。

开源有 API支持 MCP可自部署LinuxMac
AI 安全 / 护栏 · 1 处推荐

Giskard

github.com★ 5,941

开源 Python 库,用于 LLM Agent 的评测、红队测试与漏洞扫描,模块化、异步优先。

开源可自部署命令行
应用评测与监控 · 1 处推荐

Hugging Face 上的开源 NSFW 图像分类模型,基于 ViT,可本地部署检测不适宜内容。

开源有 API可自部署LinuxMac网页
AI 安全 / 护栏 · 1 处推荐

ARTEX

github.com★ 3,868

AI 自主渗透测试系统,Go 后端 + Next.js 前端,支持 LLM 驱动资产探索与人在环路审批。

开源有 API可自部署ClaudeGPTLinux
AI 安全 / 护栏 · 1 处推荐

Fickling

github.com★ 676

Python pickle 反编译器与静态分析器,可检测并拦截恶意 pickle 及 PyTorch 模型文件。

开源可自部署命令行LinuxMacWindows
AI 安全 / 护栏 · 1 处推荐

Infosec House AI

infosec.house

Infosec House 的 AI 安全工具目录,收录 116 个攻击与防御 AI 系统的开源工具。

开源网页
AI 安全 / 护栏 · 1 处推荐

nsfw_model

github.com★ 2,096

基于 Inception V3 的 Keras NSFW 图像检测模型,可识别色情、性感、动漫等五类内容,准确率约 93%。

可自部署LinuxMacWindows
AI 安全 / 护栏 · 1 处推荐