AI 安全 / 护栏
共 108 个AI 用户与开发者推荐的AI 安全 / 护栏。
Decawork
decawork.ai为企业训练专属小模型,实时审批 AI Agent 的每一步操作,按公司政策与任务上下文放行或撤销权限。
LAION 开源的轻量 NSFW 图像检测模型,基于 CLIP 嵌入与 AutoKeras,输出 0-1 违规概率。
Agentdesktop
agentdesktop.dev开源桌面 AI 智能体治理层,可清点所有 Agent、MCP 服务器与技能,并用短期网关身份替代磁盘 API 密钥,统一执行策略。
面向 AI Agent 的独立审计平台,通过 GitHub 或 MCP 接入,覆盖 64+ 类失准风险,出具第三方信任报告。
SafAI
safai.shridhar.de本地优先的 AI 聊天隐私中间件,在发送前自动脱敏 PII 并在回复中还原。
为编程 Agent 提供可靠性层,把 rm、git 等破坏性操作改为可恢复的隔离、快照与人工升级。
Umanitek 推出的 AI Agent 安全防护层,在 Agent 执行工具调用前检测并拦截提示注入、危险命令与恶意包。
本地优先的 AI 运行时与控制平面,为 Agent 提供权限治理、钩子与策略引擎。
Agent Assurance
testmuai.comTestMu AI 推出的 AI Agent 测试工具,通过 Rook CLI 验证 Agent 实际执行效果而非自述,支持对抗性测试。
Pangram
pangram.com高精度AI文本检测工具,可识别ChatGPT、Claude、Gemini等主流模型生成内容。
Nightfall AI
nightfall.ai面向 AI Agent 与 MCP 的实时数据安全平台,可拦截提示注入、防止数据外泄。
Noren
usenoren.xyz面向人与 AI Agent 共享电脑的开源本地优先操作层,内置意图、运行时、记忆、身份、权限等八大原语。
AgentMask-RU
github.com用于评估 LLM Agent 中个人数据掩码网关效果的基准测试工具,支持俄语场景。
Shunt
shunt-engine.vercel.app反向代理网关,检测 Agent 递归循环并在内存中执行 API 花费上限,不保留提示词。
Flounder
flounders.xyz面向 Codex、Claude Code 等 Agent 的白帽安全审计技能,本地控制面驱动代码审计与验证测试