ModelScan
github.com
Protect AI 开源的模型安全扫描工具，检测模型文件中的恶意代码，支持多种格式。
开源可自部署命令行LinuxMacWindows
GitHub ★ 792被推荐 1 次
适合做什么
适合下载或部署第三方模型前做安全检查，供 ML 工程师与安全团队使用。
标签与属性
同类推荐
AI 安全 / 护栏OWASP 发起的开源生成式 AI 安全项目，提供 LLM Top 10、Agent 管控标准等免费指南
开源网页
genai.owasp.org1 处推荐
IBM 发起、LF AI 托管的 Python 机器学习安全库，提供对抗攻击与防御工具。
开源可自部署LinuxMacWindows
github.com1 处推荐
基于大模型的自动化渗透测试 Agent 框架，支持 CTF 解题与渗透流程，发表于 USENIX Security 2024。
开源可自部署ClaudeGPT命令行
github.com1 处推荐