aiknow

AI 安全 / 护栏

共 108 个AI 用户与开发者推荐的AI 安全 / 护栏。

全部 模型开发训练与微调 / 量化 39数据集 / 数据标注 43AI 安全 / 护栏 87AI 抓包 / 流量分析 28AI 逆向 / 二进制分析 46AI 网络 / 代理分流 7应用评测与监控 106开发 SDK / 工具库 50

Decawork

decawork.ai

为企业训练专属小模型,实时审批 AI Agent 的每一步操作,按公司政策与任务上下文放行或撤销权限。

有 API支持 MCP网页
Agent 开发框架 · 1 处推荐

CLIP-based-NSFW-Detector

github.com★ 473

LAION 开源的轻量 NSFW 图像检测模型,基于 CLIP 嵌入与 AutoKeras,输出 0-1 违规概率。

可自部署LinuxMacWindows
AI 安全 / 护栏 · 1 处推荐

Agentdesktop

agentdesktop.dev

开源桌面 AI 智能体治理层,可清点所有 Agent、MCP 服务器与技能,并用短期网关身份替代磁盘 API 密钥,统一执行策略。

开源可自部署支持 MCP桌面客户端MacWindows
MCP 服务 · 1 处推荐

iFixAi

ifixai.ai★ 25,548

面向 AI Agent 的独立审计平台,通过 GitHub 或 MCP 接入,覆盖 64+ 类失准风险,出具第三方信任报告。

支持 MCP网页
AI 安全 / 护栏 · 2 处推荐

SafAI

safai.shridhar.de

本地优先的 AI 聊天隐私中间件,在发送前自动脱敏 PII 并在回复中还原。

付费支持 MCP可自部署Claude浏览器插件
AI 安全 / 护栏 · 1 处推荐

Agent Guard

github.com★ 17

为编程 Agent 提供可靠性层,把 rm、git 等破坏性操作改为可恢复的隔离、快照与人工升级。

开源可自部署命令行
AI 安全 / 护栏 · 1 处推荐

Agent Blackbox

github.com★ 46

Umanitek 推出的 AI Agent 安全防护层,在 Agent 执行工具调用前检测并拦截提示注入、危险命令与恶意包。

可自部署命令行
AI 安全 / 护栏 · 1 处推荐

Yana AI

github.com★ 8

本地优先的 AI 运行时与控制平面,为 Agent 提供权限治理、钩子与策略引擎。

开源有 API支持 MCP可自部署ClaudeGemini
Agent 开发框架 · 1 处推荐

Agent Assurance

testmuai.com

TestMu AI 推出的 AI Agent 测试工具,通过 Rook CLI 验证 Agent 实际执行效果而非自述,支持对抗性测试。

命令行网页
应用评测与监控 · 1 处推荐

Pangram

pangram.com

高精度AI文本检测工具,可识别ChatGPT、Claude、Gemini等主流模型生成内容。

免费ClaudeDeepSeekGeminiGPT网页
AI 安全 / 护栏 · 1 处推荐

Aligne

aligne.ai

Aligne 提供 AI 治理与 GRC 服务,其 Altrum 平台可发现影子 AI、评估风险并实施护栏控制。

有 API网页
AI 安全 / 护栏 · 1 处推荐

Nightfall AI

nightfall.ai

面向 AI Agent 与 MCP 的实时数据安全平台,可拦截提示注入、防止数据外泄。

有 API支持 MCPClaude网页MacWindows
AI 安全 / 护栏 · 1 处推荐

Noren

usenoren.xyz

面向人与 AI Agent 共享电脑的开源本地优先操作层,内置意图、运行时、记忆、身份、权限等八大原语。

开源可自部署支持 MCPLinux
Agent 开发框架 · 1 处推荐

PyRIT

github.com★ 122

微软开源的红队测试框架,用于主动发现生成式 AI 系统的安全风险。

开源可自部署WindowsLinuxMac
AI 安全 / 护栏 · 1 处推荐

AgentMask-RU

github.com

用于评估 LLM Agent 中个人数据掩码网关效果的基准测试工具,支持俄语场景。

开源免登录LinuxMac网页Windows
AI 安全 / 护栏 · 1 处推荐

Shunt

shunt-engine.vercel.app

反向代理网关,检测 Agent 递归循环并在内存中执行 API 花费上限,不保留提示词。

有 API可自部署GPT命令行网页
中转站源码 / 自建网关 · 1 处推荐

SecAIQ

secaiq.com

面向个人与企业的免费 AI 安全与网络安全工具平台,提供实用防护指南与本地监控工具。

免费免登录Mac网页
AI 安全 / 护栏 · 1 处推荐

透明代理工具,自动过滤敏感数据,保护用户隐私并确保模型不接触真实信息。

开源有 API可自部署网页
AI 安全 / 护栏 · 1 处推荐

pi-key-protector

github.com★ 1

Pi 扩展,在工具结果回传给模型前自动遮蔽环境变量中的密钥,防止凭证泄露。

开源
Skills 技能 · 1 处推荐

Flounder

flounders.xyz

面向 Codex、Claude Code 等 Agent 的白帽安全审计技能,本地控制面驱动代码审计与验证测试

可自部署命令行
Skills 技能 · 1 处推荐

F5 AI Guardrails

calypsoai.com

F5 推出的 AI 安全护栏,防护提示注入、数据泄露与有害输出,支持自定义策略与审计。

有 API网页
AI 安全 / 护栏 · 1 处推荐

Holistic AI

holisticai.com

企业级 AI 治理平台,发现影子 AI、评估风险并执行合规策略。

有 API网页
AI 安全 / 护栏 · 1 处推荐

Lasso Security

lasso.security

企业级 AI 安全平台,为模型、Agent 和应用提供可见性、实时防护与合规治理。

有 API网页
AI 安全 / 护栏 · 1 处推荐

Veldris

veldris.io

主权 AI 与数据运行环境,开源、后量子加密、可气隙部署于自有硬件。

开源可自部署本地模型Linux网页
AI 安全 / 护栏 · 1 处推荐