aiknow

AI 安全 / 护栏

共 108 个AI 用户与开发者推荐的AI 安全 / 护栏。

全部 模型开发训练与微调 / 量化 39数据集 / 数据标注 43AI 安全 / 护栏 87AI 抓包 / 流量分析 28AI 逆向 / 二进制分析 46AI 网络 / 代理分流 7应用评测与监控 106开发 SDK / 工具库 50

Prompt Security

prompt.security

面向AI安全从业者的资源平台,提供开源工具、研究分析与防护指南,应对AI威胁。

开源网页
AI 安全 / 护栏 · 1 处推荐

Sightengine

sightengine.com

面向开发者的内容审核 API,可检测图片、视频、文本中的裸露、暴力、AI 生成内容等风险。

有 API多模态网页
AI 安全 / 护栏 · 1 处推荐

OWASP 出品的 MCP 安全测试指南,涵盖威胁、攻击模式与 79 项测试用例。

开源支持 MCP网页
AI 安全 / 护栏 · 1 处推荐

ModelScan

github.com★ 792

Protect AI 开源的模型安全扫描工具,检测模型文件中的恶意代码,支持多种格式。

开源可自部署命令行LinuxMacWindows
AI 安全 / 护栏 · 1 处推荐

面向 AI 建设者的开放社区,通过聚会、直播和实操帮助开发者构建安全的 AI 应用与 Agent。

免费Claude网页
社区论坛 · 1 处推荐

Maskit

github.com★ 295

本地隐私脱敏网关,请求出网前自动打码敏感信息,模型回复流式无感还原,支持 Cursor、Claude Code 等工具。

开源可自部署中文界面GPTClaudeDeepSeek
AI 安全 / 护栏 · 1 处推荐

SynthID Detector

synthid.com

Google DeepMind 的 AI 生成内容水印检测工具,可识别图片、音频、视频中的隐形水印。

免费多模态免登录网页
AI 安全 / 护栏 · 1 处推荐

Arcjet

arcjet.com

AI Agent 运行时安全平台,在动作边界拦截提示注入、越权工具调用与 PII 泄露。

有 API网页
AI 安全 / 护栏 · 1 处推荐

Lakera

lakera.ai

AI 原生安全平台,防护提示注入、越狱与数据泄露,支持红队测试与实时防护。

有 API网页
AI 安全 / 护栏 · 1 处推荐

Continuum AI

github.com

开源 AI 基础设施组织,提供多模型路由、Agent 可观测性、安全与代码审查工具。

开源可自部署有 API网页
应用评测与监控 · 1 处推荐

Drop

droprun.sh

开发者用的无 root 权限 Linux 安全沙箱,隔离代码代理与第三方程序。

免登录可自部署命令行Linux
AI 安全 / 护栏 · 1 处推荐

Kastra

kastra.ai

面向 AI 系统的授权层,在每次提示、工具调用与 API 请求执行前做亚毫秒级策略判定。

有 API支持 MCP命令行网页
AI 安全 / 护栏 · 1 处推荐

Credo AI

credo.ai

企业级 AI 治理平台,发现 AI 资产、执行政策、管理风险并证明合规,支持 Agent 治理。

有 API网页
AI 安全 / 护栏 · 1 处推荐

AiGuard

github.com★ 13

本地优先的 AI 流量安全网关,通过 MITM 代理对发往 AI 服务的请求脱敏、响应流式还原,原文不落盘不上传。

开源可自部署中文界面GPTDeepSeekWindows
AI 安全 / 护栏 · 1 处推荐

CosyRedactGateway

github.com★ 99

面向程序员的 LLM 凭据脱敏网关,用高熵检测在转发前替换密钥,响应中透明还原。

开源可自部署有 APIGPTClaude命令行
中转站源码 / 自建网关 · 1 处推荐

AgentGuard

agentguard-sigma-five.vercel.app

扫描 AI Agent Skill 的安全风险、隐藏能力与质量问题的免费在线检测工具

免费免登录网页
AI 安全 / 护栏 · 1 处推荐

Harden

harden.run

为编程 Agent 提供执行前护栏的 AI 安全平台,可扫描并自动修复应用安全漏洞。

免费+付费命令行网页
AI 安全 / 护栏 · 1 处推荐

NudeNet

github.com★ 2,471

轻量级开源裸露内容检测工具,基于 YOLOv8,支持 Python 包、Docker 与浏览器端本地推理。

开源有 API可自部署本地模型LinuxMac
AI 安全 / 护栏 · 1 处推荐

Private Detector

github.com★ 1,357

Bumble 开源的 NSFW 图片检测模型,基于 EfficientNet-v2,可识别不雅图像并支持微调。

开源可自部署LinuxMacWindows
AI 安全 / 护栏 · 1 处推荐

SafeCheck

safecheck.dev

免费扫描网站、GitHub 仓库或 Android 应用,检测泄露的 API 密钥、开放数据库等安全问题,按 A–F 评级并给出修复建议。

免费+付费免登录网页
AI 安全 / 护栏 · 1 处推荐

Mindgard

mindgard.ai

Mindgard 是 AI 红队与安全平台,自动发现、验证并修复 AI 模型、Agent 和应用的高危漏洞。

有 API网页
AI 安全 / 护栏 · 1 处推荐

HiddenContent.ai

hiddencontent.ai

检测文档中隐藏文本(人看不见但大模型能读)的 API,返回发现、判定、干净文本和可离线验证的证书。

有 API网页
AI 安全 / 护栏 · 1 处推荐

Termaxa

termaxa.com

为 AI Agent 执行的 shell 命令提供预览、拦截与回滚的安全网关,像挡风玻璃而非沙箱。

命令行LinuxMac
AI 安全 / 护栏 · 1 处推荐

Arthur

arthur.ai

企业级 AI 治理与安全平台,提供 Agent 发现、可观测性、护栏和实时行为分析。

有 API网页
AI 安全 / 护栏 · 1 处推荐