生态入口

源码与应用: GitHub · LynnMerkyor/Lynn · GitHub · MerkyorLynn/Lynn · GitHub Releases · 国内下载镜像
模型与 GGUF 镜像: HuggingFace · nerkyor · ModelScope · Merkyor
端侧推荐模型: ModelScope 27B Coding Q4 MTP GGUF · HuggingFace 27B Coding Q4 MTP GGUF

🧠 第一部分 · 引擎与模型

① StepFun 默认主链 + 实时语音 + 本地编排器储备

v0.85 的 GUI / CLI 默认对话与任务执行统一走 StepFun 3.7 Flash:优先保证普通对话能回复、工具任务能完成、最终答案可见。本地蒸馏 A3B manager 仍作为显式 Lynn manager run 能力保留;考虑本地部署的并发能力与稳定性,默认切换到本地编排器继续暂缓。

语音主入口同样走 Brain 托管 StepFun Realtime:GUI 麦克风直接进入实时语音;CLI 在当前 Lynn chat 里输入 /voice 或 lynn voice 会就地切到实时语音,状态和采样波形显示在聊天框下方,Ctrl+C 返回聊天。Lynn voice --file/--record 转写、Lynn voice --speak 朗读保存只是辅助工具,不再作为语音主体验。

我们同时储备了一个会快速拆分 → 分派 → 验收任务的本地编排器模型:用 LoRA（r=64 / α=128 / dropout 0.05,1842 条蒸馏样本)把 DeepSeek-V4-Pro 在「思考开启(thinking-on)」时的多步推理与自我验证思维方式蒸进 Qwen3.6-35B-A3B(MoE,3B 激活)。

编排器有三个硬条件——快、会拆解验收、不乱报完成。实测(同一 harness,thinking-on):

维度	蒸馏编排器	原版 A3B	说明
端到端编排耗时	26.6s	60.7s	决断不啰嗦,比原版快 2.3×、比云 API 快 2–3×
GPQA-Diamond-198	80.3%(32K)	72.7%	硬推理 +7.6pp
MMLU-500	90.2%	91.4%	知识广度持平
编排假验证(20×5)	0 / 20	0 / 20	自报完成与真实状态一致

关键:蒸馏与原版单流 TPS 相同(R6000 ~224 tok/s),但端到端编排快一倍——蒸的是「思维方式」,红利是更少 token 到结论。难题仍以 harness 客观验证 为准,不把模型自报完成当作验收。

📦 端侧默认模型:Merkyor/Qwen3.6-27B-DSV4Pro-GLM52-SFT-GPT55-RL-Coding-GGUF；HuggingFace 镜像:nerkyor/Qwen3.6-27B-DSV4Pro-GLM52-SFT-GPT55-RL-Coding-GGUF

与早期 Lynn-V4-Pro-Distill 区分:这一版蒸的是 thinking-on 的思维方式,目标「学会怎么想」,直接服务 Agent 编排。

② 引擎路线:端侧选最快的 llama.cpp,并回馈上游

我们自研过 NVFP4 推理引擎,在 Blackwell 上认真啃了几周内核。结论很硬:单流 decode 是带宽 / launch 游戏,自写内核打不过成熟的 llama.cpp。

单流 decode(同模型同卡)	tok/s
llama.cpp Q4_K_M(Spark sm_121)	69.77(+MTP 79)
自研 NVFP4(Spark,内核融合后)	~45
llama.cpp Q4_K_M(R6000)	~207
自研 NVFP4(R6000 strict)	~108

所以端侧主推理我们选 llama.cpp(单流最快、生态成熟、全平台),并把实测验证的改进回馈上游:

#24273 NVFP4 转换 / 后端 / 基准实测指南文档(open,review 中)

不是放弃,是「打得过就用、用得上就贡献」——自研引擎收束为研究资产,前沿 NVFP4 仍在持续科研。

③ 不放弃 NVFP4:前沿在并发服务侧,已用 vLLM 求证

NVFP4 的真正红利不在单流 decode,而在并发吞吐。同一张 R6000,VLLM_MOE_FORCE_MARLIN=1:

并发	1	16	64(release soak)
输出 tok/s	175	1289	2434(0 failed)

NVFP4 vs FP8(同机同 harness):每档都赢 1.14–1.34×。我们把这条 W4A16 NVFP4 Marlin 路径的回归测试 / 文档 / 正确性门禁回馈给 vLLM(3 个 open PR,maintainer review 中):

#44671 Add ModelOpt W4A16 lm_head regression tests
#44672 Document ModelOpt W4A16 NVFP4 Marlin path
#44673 Add speculative decoding correctness gate

🔭 V0.80 起源:CLI Worker, V0.86 安全边界与运行时可靠性更新

V0.80 把 Lynn 带回编程主战场,但不是再做一个单 CLI 或 IDE 插件。最初的方向是探索多 CLI Agent 编排;到 V0.86,GUI 右侧收敛为更直接的 当前会话 + 最近会话 + 文件 + 确认改动,Brain 与本地 Agent 也把工具暴露、空答接班、权限边界和单轮状态重置变成可回归的运行时契约。公开可下载的 27B Coding Q4 MTP 继续作为默认端侧模型；并行 worker 能力保留在 CLI,给终端、CI 和其他 Agent 无头调用。

这不是“不服务代码”。恰恰相反,Lynn 要把代码任务和业务任务放到同一个调度系统里:

GUI 会话进度:在 Lynn 桌面端沉淀当前会话、需要处理的信号、最近会话、证据、文件和分支关系。
CLI 无头 worker:统一调度 Codex、Claude Code、Qwen、codebuddy、Kimi、opencode 或自定义 CLI,每个 worker 可进入独立 worktree。
任务协议化:自动生成 task brief,包含 owned files、forbidden files、验收标准、测试命令和提交要求。
验收收口:worker 完成后回到 GUI 的 diff、证据、测试门禁和发布流里验收。
@lynn/cli:CLI 包支持 Lynn -p、Lynn code、Lynn agents 和 Lynn worker run,既能给终端用户使用,也能被其他 Agent 调用。

Cursor 解决“我正在编辑这段代码”;Claude Code / Codex CLI 解决“我在终端里让一个 Agent 干活”。Lynn V0.86 解决的是下一层问题:长会话、证据、文件、任务和分支关系怎么被安全地看见、同步、验收和收口。

CLI 快速安装

V0.80 的 CLI 是 Lynn 的终端版:跑在命令行里的 AI 编码助手,带终端 TUI、完整 Markdown 渲染、流式输出、工具调用和长任务续跑。它可以独立给人使用,也可以给其他智能体和 CI 当无交互 worker。一行命令装好,不用克隆仓库、不用编译。

# 1. Node requirement: Node.js 20 LTS or 22 LTS with npm.
# Check: node -v should be >= v20.
# macOS: brew install node@20
# macOS/Linux: nvm install 20 && nvm use 20
# Windows: winget install OpenJS.NodeJS.LTS

# 2. Install or update from the Lynn mirror. --force is safe for first install too.
npm install -g --force "https://download.merkyorlynn.com/downloads/cli/lynn-cli-0.86.1.tgz"

# 3. Launch.
Lynn            # interactive chat TUI; 输入 /voice 或 lynn voice 进入实时语音
Lynn code       # coding-agent TUI
Lynn --version  # should print 0.86.1
Lynn agents     # copyable headless worker commands for other agents

默认走 Brain V2 路由:本地 Lynn Brain 可用时优先本地,不可用时自动回到 Lynn 远端 Brain。v0.85 的 GUI/CLI 普通对话与任务执行统一回到 StepFun 3.7 Flash(256K 上下文,Brain 托管 reasoning / 生成预算) 一条龙主链,优先保证能正常对话、能完成工具任务、能给出最终答案。视觉由 StepFun step-1o-turbo-vision 承接;语音由 Brain 托管 StepFun Realtime 承接,CLI 当前 chat 内 /voice / lynn voice 与 GUI 麦克风默认就是实时语音对话。本地 manager 作为显式 Lynn manager run 实验链路保留,不会抢占默认 GUI/CLI 路径。纯 CLI 用户也可以用 Lynn providers set ... 绑定自己的 OpenAI 兼容端点。

长任务默认采用 Reasonix 风格的前置缓存纪律:稳定前缀、工具定义、运行时约束和 resume 摘要分层固定,避免每轮重排导致 prefix drift;缓存命中以 prefix-cache ... hit 进入 usage、session、replay 和 Lynn cache doctor --json,不在界面里制造上下文焦虑。

面向其他智能体的最短静默契约:

Lynn code -p "fix tests, run the suite, summarize the diff" \
  --json \
  --cwd /path/to/worktree \
  --approval yolo \
  --sandbox danger-full-access \
  --save-session

需要“穷尽最优解”时用 --best(或 /goal / /best 交互入口):Lynn 会启用 300 步预算、ultra 任务分解、原子 worker、对抗式验收、自动验证、checkpoint/resume 和运行时压缩。它不会用路由替模型选答案,只负责拆步、调度、验证和防工具风暴。

机器调用请只解析 JSONL,不要解析人类 TUI。完整契约见 docs/ops/lynn-code-headless-agent-contract.zh.md / English contract。

Agent Quick Contract

Lynn 也可以作为给 Codex / Claude Code / Qwen / Kimi 调用的 worker-runner。交互式 TUI 给人看;机器调用请用 -p --json 或 worker run --jsonl。

# 单次无交互任务,打印 JSON/JSONL 后退出。
Lynn -p "总结这个 repo" --json
git diff | Lynn code -p "审查这个 diff,只输出风险和测试建议" --json

# 无头 worker:给终端、CI 或其他 Agent 调用的统一适配器。
Lynn worker run --brief task.md --worktree . --jsonl
Lynn worker run --brief task.md --worktree . --agent codex-cli --jsonl
Lynn worker run --brief task.md --worktree . --agent claude-code --jsonl
Lynn worker run --brief task.md --worktree . --agent qwen-cli --jsonl

一个 --agent 把任务派给 Codex / Claude Code / Qwen / Kimi / CodeBuddy / OpenCode 或 Lynn 自身,统一吐 Fleet JSONL。安全边界守在 Lynn 侧(ownership / forbidden-glob / diff 校验 / gate),不依赖外部 worker 自觉。

成功信号 = gate.finished.ok;硬失败 = worker.violation 或 worker.error{recoverable:false}。完整规范(BYOK 配置 / agent 适配表 / 全事件 schema / code tools)见 docs/ops/lynn-cli-agent-contract.md。

🆕 近期更新

v0.86.1 体验与可靠性更新:

CLI Ink 退出链路修复:忙碌时 Ctrl+C 只取消当前轮，REPL 保持可用；完整 Ink PTY 门禁要求 1 秒内取消并最终零退出。
CLI 质感与长会话稳定性:历史输出改用 Static 保留，不再因固定条数截断；流式 Markdown 40ms 合批，工具开始/完成合并为同一行，输入框支持可见光标、左右移动和行首/行尾。
端侧 27B 下载可管理:默认 Q4 imatrix MTP 下载显示真实总进度、分片、速度和剩余时间，支持暂停、断点继续、取消与删除；切到云端不再锁死安装流程。
本地模型提示不再每天打扰:硬件不足仍不主动推荐，符合条件的设备可选择“7 天后提醒”或“不再提醒”；PID、端点和槽位收进诊断详情。
GUI 更容易找到内容:会话搜索默认可见，长对话提供回到最新消息按钮；输入区低频功能收进“更多”，停止操作立即显示反馈。
错误与主题可读性:网络、认证、超时和本地运行时错误统一显示人话；暖纸/深色主题提高次要文字对比度，并补齐跨主题语义变量。
高风险回答采用异构复核:DS V4 Flash 继续异步快速复核；仅当医疗、法律、金融或时效事实回答被判为有疑点时，再由 MiMo 2.5 Pro Token Plan 做一次限时仲裁。仲裁不阻塞原回答、不触发自动重答，GUI 和 CLI 都会显示结构化结论。
V0.86 安全基线完整保留:自动浏览器权限、OS 沙箱、IPC/SSRF、本地服务鉴权、会话互斥、工具取消和跨轮污染修复继续受安全测试与 Agent 回归门禁保护。

npm install -g --force "https://download.merkyorlynn.com/downloads/cli/lynn-cli-0.86.1.tgz"

Lynn

README