aiknow

AI 安全 / 护栏

共 108 个AI 用户与开发者推荐的AI 安全 / 护栏。

全部 模型开发训练与微调 / 量化 39数据集 / 数据标注 43AI 安全 / 护栏 87AI 抓包 / 流量分析 28AI 逆向 / 二进制分析 46AI 网络 / 代理分流 7应用评测与监控 106开发 SDK / 工具库 50

LocalGuard

localguard.me

本地运行的密钥脱敏工具,在 AI 请求发出前替换 API 密钥等敏感信息,返回时还原。

免费可自部署免登录MacWindowsLinux
AI 安全 / 护栏 · 1 处推荐

AIR Blackbox

airblackbox.ai

开源本地运行的 AI Agent 合规审计工具,生成防篡改审计链与 EU AI Act 审计报告。

开源可自部署命令行LinuxMacWindows
AI 安全 / 护栏 · 1 处推荐

HackMyAgent

github.com★ 83

开源 AI Agent 与 MCP 服务器安全扫描、红队攻击与修复工具包,号称 AI Agent 界的 Metasploit。

开源有 API支持 MCP可自部署命令行网页
AI 安全 / 护栏 · 1 处推荐

BotGauge

botgauge.com

AI Agent 红队测试平台,提供自适应测试、追踪、评估与护栏,保障 Agent 安全。

有 API网页
AI 安全 / 护栏 · 1 处推荐

Hive

thehive.ai

提供内容审核、品牌保护与内容理解的预训练 AI 模型 API,支持文本、图像、视频、音频。

有 API多模态网页
AI 安全 / 护栏 · 1 处推荐

BAIRAVS Orch Engine

tech.bairavs.com

开源框架,可在自有基础设施上运行开放模型、MCP 工具与智能体,内置 DLP 数据防泄漏代理。

开源可自部署有 API支持 MCP本地模型命令行
Agent 开发框架 · 1 处推荐

SafeToClone

safetoclone.com

免费为 GitHub 仓库给出 A 至 F 安全评分并用通俗语言解释风险信号,还能识别会劫持 AI 助手的有害指令文件。

免费免登录网页
AI 安全 / 护栏 · 1 处推荐

Galileo AI

galileo.ai

AI可观测性与评估平台,提供离线评估、生产护栏和Luna模型低成本监控。

有 API网页
应用评测与监控 · 1 处推荐

Fiddler AI

fiddler.ai

企业级 AI 控制平面,提供评估、监控、护栏与治理,保障 Agent 全生命周期安全合规。

可自部署有 API网页
应用评测与监控 · 1 处推荐

Strix

docs.strix.ai

开源 AI 安全测试工具,用多智能体自动检测应用漏洞。

开源免登录可自部署命令行网页
AI 安全 / 护栏 · 1 处推荐

Subcloak

subcloak.com

面向 MCP 服务器与 AI Agent 的最小权限安全审计服务,按服务器固定收费,7–10 天交付。

付费网页
AI 安全 / 护栏 · 1 处推荐

utplava.dev

utplava.dev

免费检查 AI 搭建的应用是否泄露 API 密钥、.env 文件等安全问题,约 20 秒出结果并给出修复提示。

免费免登录网页
AI 安全 / 护栏 · 1 处推荐

plimsoll

github.com★ 25

运行 AI Agent 生成代码的沙箱服务,每次执行都标注隔离等级(进程/容器/内核/虚拟机),可设最低强度门槛。

开源支持 MCP可自部署命令行Linux
AI 安全 / 护栏 · 1 处推荐

SecureVector

securevector.io

为 AI 智能体提供运行时安全、可观测性与治理的免费开源本地工具,支持主流 Agent 工具。

开源可自部署ClaudeMacWindowsLinux
AI 安全 / 护栏 · 1 处推荐

SecureIntent

secureintent.ai

浏览器扩展,在粘贴文本到 AI 工具前检测并标记暴露的 API 密钥、令牌等凭证,支持本地匿名化。

免费+付费浏览器插件
AI 安全 / 护栏 · 1 处推荐

Starseer

starseer.ai

Starseer 是 AI 运行时安全平台,可在模型运行中检测后门并拦截越界的 MCP 工具调用。

支持 MCP网页
AI 安全 / 护栏 · 1 处推荐

NsfwSpy.NET

github.com★ 398

基于 .NET 的 NSFW 图像与视频分类器,用 C# 编写,可识别色情、性感、二次元等内容。

开源可自部署LinuxMacWindows
AI 安全 / 护栏 · 1 处推荐

免费扫描 AI 生成应用(Lovable、Bolt、Cursor 等)的安全漏洞,发现泄露密钥和开放数据库等问题。

免费+付费免登录网页
AI 安全 / 护栏 · 1 处推荐

ALEX

alexproof.de

为 AI 工作提供可控任务与可独立验证证据的审计层,含签名证据包和 MCP 工具。

支持 MCP可自部署网页
AI 安全 / 护栏 · 1 处推荐

HiddenLayer

hiddenlayer.com

端到端 AI 安全平台,提供模型扫描、红队测试、AI 防火墙与运行时防护。

有 API网页
AI 安全 / 护栏 · 1 处推荐

CybeDefend

cybedefend.com

面向 AI 编程 Agent 的代码安全工具,在提交 PR 前将安全与业务规则注入 Claude Code、Cursor 等工具。

有 API支持 MCP命令行网页
代码审查与测试 · 1 处推荐

SIwithin

github.com★ 3

在 macOS 沙箱内无人值守运行 Claude Code / Codex CLI,带预算上限与运行账本。

开源可自部署ClaudeGPT命令行Mac
桌面 Agent 客户端 · 1 处推荐

toolgate

github.com★ 18

面向 AI Agent 的工具调用防火墙,用校准决策模型判断危险操作,支持 Claude Code 与 MCP 代理。

开源支持 MCP可自部署命令行桌面客户端
AI 安全 / 护栏 · 1 处推荐

Adversa AI

adversa.ai

面向编程 Agent 的运行时安全防护平台,在危险操作造成事故前拦截,并提供 AI 风险评级。

有 API网页
AI 安全 / 护栏 · 1 处推荐