长文

llama.cpp b11552:一个 5 行补丁背后的 Slot 与 Prompt Cache 并发问题

北京时间 10 月 11 日 03:52,llama.cpp 发布构建 b11552,合并了一个只有 5 行的服务端修复。它修补的是 llama-server 中一条被忽略的路径:请求用 id_slot 指定了一个正在生成的 Slot,服务器在让新请求排队之前,先用 RAM 中的 Prompt Cache 改写了这个 Slot 的 KV 状态,导致原本正在进行的生成“换了一份上下文”继续往下写。

本地推理并发隔离Prompt Cache
7 条来源阅读长文

RoboHarness:用 Coding Agent 操作机器人,成绩该怎么读

RoboHarness 的标题是一个很强的论断:“A Simple Harness Outperforms VLA and World Action Models”,即一个简单的 Harness 胜过视觉-语言-动作模型(VLA)和世界动作模型。它的思路是不训练机器人专用模型,而是给通用 LLM Coding Agent(Claude Code 或 Codex)一块“视觉-几何控制面板”,让 Agent 像写代码调 API 一样操作仿真机器人。

物理 AIAgent 基础设施评测与复现
7 条来源阅读长文