小兜模型
装在工具箱里的本地小模型
当前版本 v0.1.4 · 2026-09-28小兜模型是 7AA7 工作室自研的轻量级本地离线小模型，体量控制在 50MB 以内，专为 7AA7 工具箱设计。它把你的自然语言指令翻译成结构化工具调用 JSON，无需联网、低资源消耗，在 Windows / Linux 端侧流畅运行。
为「本地、轻量、可控」而生的设计取舍。
极小体积
量化后 ≤50MB（q4_0 约 24MB），笔记本 CPU 即可流畅推理。
离线工具调用
自然语言 → 结构化 JSON 工具调用，不依赖任何云端服务。
Schema 驱动免重训
新增工具仅注入 Schema 描述，基座无需重新训练。
中英双语
训练与推理均支持中文 / 英文指令。
可控输出契约
固定 JSON 字段，便于客户端程序化消费与校验。
隐私不出本机
本地运算，指令与文件始终不出本机。
当前落地版本 v0.1.4 的关键参数。
| 架构 | LLaMA (hidden=512 / 12 层 / 8 头 / ctx=2048) |
| 隐藏维度 | 512 |
| 层数 | 12 |
| 注意力头 | 8 |
| 上下文长度 | 2048 |
| 词表 | 9256 |
| 量化 | q4_0 · ≈ 24.3 MB |
| 官方评测 | json_rate 1.0 / 1.0 |
我们围绕「更聪明、更轻、更可信」持续推进。
深化工具路由
更精准的指令解析与多步工具编排能力。
端侧推理优化
更低内存占用、更快 CPU 推理、更广硬件覆盖。
Schema 生态扩展
覆盖更多工具类型，统一工具描述协议。
安全与可控
风险分级、拒答与澄清机制持续增强。
让本地小模型成为效率工具的「神经中枢」。
成为工具箱的神经中枢
让 7AA7 工具箱的每个功能都能被自然语言驱动。
端侧无缝体验
在普通笔记本与台式机上实现即时本地推理。
可信可控的 AI
可解释、可校验、可撤回的每一次调用。
稳定持续迭代
以稳定节奏发布更小、更准、更稳的版本。
从小参数工具模型，逐步向更大、更强的大模型演进（以下为规划方向，非当前已发布能力）。
LLaMA 架构工具路由模型，已落地于 7AA7 工具箱。
更大容量，支持更复杂指令与多工具链编排。
引入更强语义理解与更长上下文记忆。
迈向通用助手能力，兼顾端侧可行性与质量。
融合视觉与文档理解，向自主智能体演进。
小兜是一个「工具路由 / 指令解析」模型，而非聊天模型。
{
"status": "ok | missing_param | ambiguous | refuse | no_matched_tool",
"tool_id": "string",
"parameters": { "...": "..." },
"confidence": 0.0,
"risk_level": "low | medium | high",
"lang": "zh | en"
}新增工具免重训：把新工具的 Schema 描述注入 prompt 即可，基座无需重新训练。
清晰的边界，让模型用在最合适的地方。
擅长
自然语言 → 工具调用 JSON、参数抽取、澄清与拒绝（missing_param / ambiguous / refuse / no_matched_tool）。
不擅长
开放式闲聊、长文本创作，以及与工具箱无关的知识问答。
小兜模型在 7AA7 工具箱里的典型用武之地。
文件批处理
按自然语言批量重命名、归档、解压、整理文件。
系统操作
一句话触发清理、备份、计划任务等系统动作。
内容整理
自动归类文档、图片与素材，生成目录结构。
数据提取
从文本 / 表格中抽取结构化参数，交给后续流程。
智能路由
把模糊指令路由到工具箱里最合适的那个工具。
安全管控
高风险操作先确认、可拒绝、可回溯。
极简而务实的端侧推理方案。
基座架构
LLaMA：hidden=512 / 12 层 / 8 头 / ctx=2048。
量化方案
q4_0（约 24.3MB，默认推荐），可选 q5_0。
推理引擎
llama.cpp 0.5.x，CPU 即可推理，无需 GPU。
解码策略
贪心采样 temp=0 + 客户端 JSON 校验兜底。
免重训扩展
新增工具仅注入精简 Schema，基座保持冻结。
双语支持
中文 / 英文指令均可，适配国内外用户。
从首个预演版本到当前推荐版本。
首个公开预演版本：LLaMA ~46M 基座，提供 q4_0 / q5_0 两种量化。
修复训练数据占位符污染；评测升级为键值对 F1，并重生成测试集。
通过回归测试（iter4），稳定性进一步提升。
iter6 权重修复版；官方评测 json_rate = 1.0 / 1.0，当前推荐版本。
目前闭源
小兜模型当前为闭源状态，仅作为 7AA7 工具箱的内置本地推理组件存在，尚不对外公开权重或代码仓库。我们会在内部持续打磨它的能力与稳定性。
未来可能开源
当大模型真正完善、稳定，并通过安全与合规评估之后，我们可能会将它开源，让更多人与社区能够使用、审阅与共建。届时会在官网与官方渠道同步进展。
本地推理，边界清晰
模型能力再强，也不能越过你的授权边界。
我们把「不碰你的数据」当作产品底线，而不是卖点。
本地推理
模型在你的设备上运行，输入内容与文件都不离开本机。
工具调用边界
模型只能调用你授权的工具；越界请求会被明确拒绝，而不是悄悄绕过。
可审计
每一次工具调用都有清晰的意图、参数与结果记录，行为全程可追溯。
私有化部署
企业场景支持私有化部署，满足合规与数据驻留要求。
关于小兜模型，你可能还想了解
关于能力、部署方式与数据流向的常见疑问。