Needle

github.com

面向手机、可穿戴与单片机的超小自动化基础模型，2-bit 仅 8-29MB，支持工具调用、结构化抽取与向量嵌入。

可自部署本地模型AndroidiOSLinux

被推荐 1 次

访问网站 ↗

适合做什么

适合在端侧设备上做本地工具调用、表单/发票结构化抽取和语义检索的开发者与嵌入式团队。

标签与属性

特性

可自部署

支持模型

本地模型

平台

Android iOS Linux

谁在推荐

@vince-lam/awesome-local-llms · awesome 列表出处 ↗

1 needle 12,003 +1,002 (+9.1%) Automation foundation model for tiny devices: 2-bit, 8-29 MB, tool calls, structured extraction and embeddings on phones, wearables, smart homes, robots, cars and microcontrollers.

同类推荐

开源模型

Whisper

OpenAI 开源的通用语音识别模型，支持多语言转写、翻译与语种识别，可本地运行。

开源可自部署本地模型命令行Linux

github.com2 处推荐

开源模型

Stable Diffusion v1-4

Stability AI 开源的潜在扩散文生图模型，可根据文本提示生成照片级写实图像。

开源可自部署多模态本地模型网页

huggingface.co2 处推荐

开源模型

Stable Diffusion XL Base 1.0

Stability AI 开源的文生图扩散模型，SDXL 基础版，可本地或云端推理生成高清图像。

开源可自部署有 API网页Linux

huggingface.co1 处推荐

开源模型

CodeFormer

★ 18,173

基于码本查找 Transformer 的盲人脸修复模型，可修复老照片、增强模糊人脸并支持上色与补全。

可自部署LinuxWindows

github.com1 处推荐

开源模型

Llama 3.1 8B Instruct

Meta 开源的 80 亿参数指令微调大模型，支持多语言与长上下文，可本地部署。

开源可自部署本地模型网页Linux

huggingface.co1 处推荐

开源模型

Llama 3.3 70B Instruct

Meta 开源的 70B 指令微调大模型，性能接近 405B，支持多语言与工具调用。

开源可自部署本地模型网页Linux

huggingface.co1 处推荐