Twitter AI - 2026-10-09¶
1. 大家在讨论什么¶
1.1 Harness 设计与验证闭环被视为一等性能杠杆(🡕)¶
信息流中最强的一组讨论,并不是“又一个更大的新模型”,而是 harness。当天至少有三条扎实的信息都在表明:即便底层模型保持不变,任务分解、需求校验和诊断闭环,如今也足以实质性改变基准结果。
@omarsar0 指出(60 次点赞,12 条回复,4,133 次浏览,85 次收藏)称,HERMES harness 在相同模型和 effort 设置下,将 GPT-5.6 Sol 在整仓库迁移任务上的成绩从 6.5% 提升到 31.0%。这条推文的总结少见地具体:仓库组件会被分配常驻 LLM,激活过程具备依赖感知能力,失败会被映射回需要修改的组件,在四项软件工程基准上的平均提升为 12.4 个点;同时,Qwen3-8B 组件方案距离全 GPT-5.6 Sol 方案仅差 4.5 个点,但将 Terminal-Bench 4.0 的推理成本降低了 26.2%。

@DeepLearningAI 强调(37 次点赞,7 条回复,2,219 次浏览,17 次收藏)介绍了 AREX,这是一套 agentic research harness,会按需求逐项验证答案,保留已经验证通过的部分,只针对缺口继续研究。推文本身给出的证据已足够有分量:BrowseComp 达到 82.5%,WideSearch-en 上 F1 为 82.0,仅靠 harness 本身最高可带来 10 个点的提升,而且一个微调后的 4B 模型在六项基准中的五项上击败了未调优的 35B 模型。

同样的思路也出现在更安全的工作流模式中。@freeCodeCamp 分享了(27 次点赞,5 条回复,4,963 次浏览,19 次收藏)描述了一种客服代理设计:它明确拒绝回答每一张工单,转而采用 pure-function 决策器、基于事实依据的起草、共识验证、缓存和可观测性。即便这是一条教程内容,它仍然契合了当天更大的主题:系统通过收窄模型被允许“猜测”的范围来取胜。
讨论洞察: 回复区并不盲目乐观。围绕 HERMES,人们第一时间就追问,提升究竟来自更好的结构,还是仅仅因为调用次数更多、预算更高。这种怀疑本身就是一个信号:AI Twitter 越来越多地在评估完整的 agent 栈,而不只是模型加提示词。
与前一天相比: 与 2026-10-08 相比,讨论焦点已从基准治理和评测器质量,收缩到闭环内部的机制:分解、验证、激活和失败诊断。
1.2 低成本决策层持续成为真正的产品层(🡕)¶
第二组讨论聚焦于完整推理流程之前的那一层。反复出现的主张是,许多生产环境中的选择,应该交给小型、类型化、带概率输出的决策系统来处理,而不是让通用模型先生成一段文字,再从中反推出一个选择。
@testingcatalog 报道(75 次点赞,15 条回复,6,510 次浏览,27 次收藏)称,Microsoft-Decision-1 现已在 Foundry 上可用。推文援引 Microsoft 的说法称,该模型是在 Qwen3.5-9B 基础上做后训练而成,用于快速单次决策评分;在一项涵盖 36 个基准、150,000 道问题,且训练阶段对这些基准保持盲测的比较中取得了最高准确率;运行速度比 Quyet-1.0-Large 快 4.5 倍,比 GPT-6 Sol 快 35 倍。更重要的是,推文称 Microsoft 已在内部测试将其用于事件响应、质量控制和科学发现,这让它从研究新奇点变成了工作流中的一层。
@frankzaga24 放大了(44 次点赞,8 条回复,7,534 次浏览,45 次收藏)提到 Nace.AI 将 Drex 1.5 开源,作为可在本地运行的决策模型。公开的 Drex 网站 和 GitHub 仓库 支撑了核心要点:参数规模低于 10B、128K 上下文、输出概率而非自由生成,以及 Python、llama.cpp 和 Ollama 运行器共同提供相同的 /v1/systemone API。
@freeCodeCamp 补充了(27 次点赞,5 条回复,4,963 次浏览,19 次收藏)则展示了这一思路在客户支持中的实用版本:高风险案例应升级处理,而不是被信心十足地直接回答;决策器也应当是显式的,而不是藏在助手生成的话术里。
讨论洞察: 各条内容下的质疑相当一致:速度固然诱人,但快速地答错,代价依然高昂。Microsoft-Decision-1 讨论串里有一条回复把这种担忧说得很直接:单次评分对路由很有用,但那些自信却错误的首次评分,正是最容易拖垮 agent 运行的东西。与前一天相比: 2026-10-08 的决策层主线集中在 OpenAI Decisions API 的用法和 Jev 部署上。到 2026-10-09,话题进一步扩展到通过 Microsoft 进行的平台分发,以及 Drex 这一股不可忽视的开源制衡力量。
1.3 需要重新设计的,已不只是模型,而是运行时本身(🡕)¶
第三个讨论集群认为,许多计算机使用能力的限制,症结更多在于模型必须依托其运行的机器和支撑框架,而不只是模型本身。Pine Computer 主导了这一视角,独立基准测试也强化了同样的转向:关注点正从 token 价格转向任务价格。
@slash1sol 将其定义为(54 次点赞,16 条回复,870 次浏览,33 次收藏)将 Pine Computer 概括为“输入提示词,输出完成的工作”:它不是给 agent 一个面向人类的浏览器外加截图循环,而是通过 SDK 直接提供一台带有结构化浏览器状态的云电脑。Pine 自己的 发布帖 则把成本主张具体化:在 SaaS-Bench v1.1 上,Pine Computer 上的 GPT-5.6 Luna 以每个任务约 $1.02 的模型 token 成本,取得了 78.3% 的 checkpoint 分数;相比之下,使用 Codex 的 GPT-5.6 Sol 为 $20.50,使用 Claude Code 的 Opus 5 为 $26.50。同一篇帖子也坦率说明了其中的权衡:Pine 通过的 checkpoint 更多,但完成的完整任务数少于前两套对比系统。

@morganlinton 发布了(31 次点赞,10 条回复,2,306 次浏览,8 次收藏)给出了一个独立的 Frontier v4 基准结果,传达出同样更大的结论。在他的总结中,Opus 5.5 和 Sonnet 5.5 的得分略高于 GPT-6.1 Sol,但 Sol 在简单和中等难度任务上成本效益高得多,而在最难的任务上,Opus 看起来值得付费。这是一个关于工作流设计的结论,而不是站队某个模型的结论。
讨论洞见: 共同的衡量标准已不再是模型的表面价格,而是每个已完成工作单元的成本。Pine 的发布、Morgan Linton 的基准测试,以及后续评论,都把重试、努力等级和支撑框架行为视为经济性的一部分,而不是背景噪音。
与前一天相比: 相比 2026-10-08,关于运行时的讨论已经从更轻量的支撑框架和本地部署,推进到了一个更大的判断:正确方向也许不只是更好的支撑框架,而是打造一台为 AI 而不是为人设计的计算机。
1.4 结构化数据引擎与诊断型基准扩展到了机器人、记忆和同行评审(🡒)¶
信息流中更偏研究的一端,把同样这种“找出究竟在哪个失败阶段出问题”的思路,应用到了编程之外的领域。这里的证据不如前面三个集群那么充分,但方向是一致的:不要只给最终输出打分,而要开始隔离整条流程究竟在哪一步出了问题。
@Forget_x0 使用了 用 AXIS 论证,physical AI 从根本上说是一个数据引擎问题(30 次点赞,31 条回复,262 次浏览)。链接中的 AXIS 网站 则把这一点具体化:207 个任务、5 万多条轨迹、基于浏览器的远程操作、自动验证与优化,以及保留测试集评估协议。AXIS-100% pretraining 将 π0.5 在 LIBERO-Plus 上的总体成功率从原始 π0.5 的 83.9 提升到 88.8,而在相同数据量下的 RoboCasa 基线只有 57.5,这有力说明起作用的是整条流程,而不只是原始仿真数据量。

@SakanaAILabs 介绍了(32 次点赞,5 条回复,4,445 次浏览,7 次收藏)介绍了一个同行评审基准:它故意向论文中注入矛盾,以便根据系统是否能识别真实错误来评分,而不是仅仅看它是否听起来像人类审稿人。链接论文 Beyond Imitation 的定位也很明确:AI 是审稿支持工具,而不是审稿人的替代者。
@jiqizhixin 分享了(6 次点赞,1 条回复,435 次浏览,3 次收藏)介绍了 HaluMem,这是一个面向记忆系统、按操作层级划分的幻觉基准。公开的 仓库 对其框架表述得很清楚:memory extraction、memory update 和 memory QA 应该分开评估,因为“错误答案”掩盖了多种彼此不同的记忆失效类型。
讨论洞见: 机器人、评审和记忆这几个方向的共同动作都是分解。无论分析单位是轨迹、矛盾,还是一次 memory update,构建者越来越想知道的,不只是“最终答案不好”,而是“究竟是哪里出了问题”。与前一天相比: 2026-10-08 的评估讨论聚焦于搜索基准、幻觉裁判器,以及动态机器人表面。到了 2026-10-09,同样的诊断式思路出现在同行评审、记忆系统和具身 AI 数据运营中。
2. 什么让人们感到挫败¶
Token 定价依然掩盖了任务成本¶
严重性:高。最强烈的经济层面抱怨,并不是针对价目表本身,而是针对一项完整任务在计入重试、effort 设置和 harness 行为之后,实际究竟要花多少钱。Pine 自己的发布帖比较的是单项任务成本,而不是每个 token 的成本;同时,@morganlinton 展示了(31 个赞,10 条回复,2,306 次浏览,8 次收藏)指出,即使某个模型分数略高,只要任务经济性差,仍然可能不是更好的默认选择。团队目前的应对方式,是按难度拆分工作负载,把更重型的模型留给更难的任务,并把运行时也视作账单的一部分。值得构建:高。
快速决策器仍然需要经过校准的升级路径¶
严重性:高。@testingcatalog 展示了单次决策打分的优势,但回复里立刻提出了核心风险:第一次高置信度的误判,就可能浪费整条工作流。@freeCodeCamp 则给出了人们希望更多系统早已采用的实用模式:决策器应当把高风险案例升级处理,而不是无论如何都给出答案;同时配合有依据的起草与验证。@DeepLearningAI 又从研究角度强化了同一点,提到了 AREX 的逐项需求检查。值得构建:高。
具身 AI 看起来仍受限于数据质量和鲁棒性¶
严重性:高。AXIS 的证据之所以有力,是因为它同时包含了成果与边界。AXIS 网站 展示了通过浏览器收集和增强的仿真数据带来的显著提升,但它自己的扰动表也显示,这些改进在不同维度上并不均衡:轻微滑移和布局方面的提升,相比标题数字都较为有限。令人沮丧的问题并不是“机器人需要更多参数”,而是高质量、多样化、经过验证的轨迹数据,依然很难被稳定地收集、筛选并稳健迁移。值得构建:高。
高风险评估中,人类审核仍然深度嵌入其中¶
严重性:中高。Sakana 的同行评审工作和 HaluMem 从不同方向发出了同样的信号:端到端分数掩盖了真正出错的位置,而要让这些错误变得可见,仍然需要精心构建基准,而且往往离不开人工判断。这些项目的应对方式,是把任务收窄到矛盾、记忆阶段和具体操作上,但它们还没有让人工监督消失。值得构建:高。
3. 人们希望存在什么¶
知道何时不该做决定的路由层¶
信息流反复提出同一种需求:小型、快速的决策系统,同时具备经过校准的置信度,并能顺畅升级到更大的模型或人工。Microsoft-Decision-1、Drex 1.5 和 freeCodeCamp 的支持代理模式都指向同一个缺口:团队想要一个廉价的第一轮判断,但他们不希望这第一轮在高不确定性下悄无声息地变成最终答案。机会:直接。
去掉 harness 管线负担的 AI 原生执行环境¶
HERMES 和 Pine Computer 指向了同一种愿望的两个版本。前者认为,agent 应该把代码仓库理解为一组已激活的组件,而不是一个巨大的上下文块;后者则认为,运行环境应主动推送结构化状态,而不是让模型反复读取像素。两者共同指向的目标产品,不是“更聪明的模型”,而是“减少为弥补糟糕环境而产生的补偿性工作”。机会:直接。
能隔离失败阶段、而非只给最终输出打分的基准¶
AREX、HaluMem 和 Sakana 的矛盾基准都反映出市场对更具诊断性的评测的需求。具体诉求并不只是再来一个排行榜,而是一个能明确指出失败到底来自路由、验证、记忆提取、记忆更新,还是事实矛盾检测的评测界面。机会:直接。
带有来源追踪与过滤能力、可审计的机器人数据管线¶
AXIS 在机器人领域最清楚地展示了这种愿望:一个可通过浏览器扩展的数据采集界面,能够验证任务是否成功、精炼带噪声的示范,并通过清晰的协议产出可直接训练的数据。这个机会并不局限于机器人本身,因为对来源追踪、过滤和任务级可审计性的同类需求,也出现在其他 agent 数据引擎中。机会:直接。
4. 正在使用的工具与方法¶
| 工具 | 类别 | 情绪 | 优势 | 局限 |
|---|---|---|---|---|
| HERMES | Agent harness | (+) | 在代码仓库迁移上带来同模型的大幅提升、具备依赖感知激活、可显式诊断失败 | 证据仍停留在论文阶段;回复中仍有人质疑调用预算和比较公平性 |
| AREX | Research harness / verifier | (+) | 逐项需求检查、复用已验证子部分、小型微调模型也能取得强基准结果 | 更偏研究框架;在信息流中,其更广泛的生产环境表现仍未得到验证 |
| Pine Computer | AI-native runtime | (+/-) | 结构化浏览器状态、公开的单任务低模型 token 成本、以 SDK 为先的产品定位 | 仍处于 private beta,而且在 Pine 自己的表格里,其已解决任务分数落后于头部对比系统 |
| Microsoft Decision-1 | 决策模型 | (+/-) | 单次打分、速度相关主张、企业测试叙事 | 这里的证据仍主要是转述产品方说法,且回复中担心校准问题 |
| Drex 1.5 | 开放决策模型 | (+) | 开放权重、本地部署、128K 上下文、跨运行时稳定的 API 形态 | 仅决策格式,比通用聊天模型更窄 |
| 先升级再处理的支持代理模式 | 工作流方法 | (+) | 显式弃答、有依据的起草、共识验证、可观测性 | 是指导模式,不是经过基准验证的产品 |
| AXIS | 机器人数据引擎 / 基准 | (+) | 浏览器采集、自动验证、增强、保留集评估、公开鲁棒性表格 | 仍然高度依赖仿真,且在不同扰动维度上的鲁棒性并不均衡 |
| Multi-Layered Review | 审查框架 | (+) | 衡量的是发现错误的能力,而非风格模仿,可与人工审查互补 | 仍处于研究阶段,不能替代专家审稿人 |
| HaluMem | 记忆基准 | (+) | 将提取、更新和问答失败拆分开来,使调试更精确 | 只是基准;它更多是在诊断记忆问题,而非解决它们 |
最积极的情绪,集中在那些能够收窄范围并暴露结构的系统上:输出显式概率的决策模型、能把失败映射回组件的 harness,以及在训练前先验证轨迹的数据引擎。当证据主要依赖厂商自报基准,或系统仍需要强升级层来避免静默失败时,整体情绪就转为复杂。
最清晰的迁移模式,是从单体式聊天模型用法转向分层栈:先决策器,后验证器,只在必要时才启用完整推理;用结构化运行时状态取代截图轮询;用数据引擎和保留集协议取代一次性静态数据集发布。
5. 人们正在构建什么¶
| 项目 | 构建者 | 功能 | 解决的问题 | 技术栈 | 阶段 | 链接 |
|---|---|---|---|---|---|---|
| Pine Computer | Pine AI | 面向 AI agents 的云计算机与运行时,提供 SDK 导向的接口 | 模型为了适应面向人的计算机和沉重的 harness,浪费了时间和成本 | 云计算机、浏览器/OS 状态 hooks、运行时层、SDK/API | Beta | 发布帖,推文 |
| Microsoft Decision-1 | Microsoft | 通过 Foundry 分发的快速决策模型 | 如果每个选择都要经过大型推理模型,路由和分类任务就会过慢或成本过高 | Qwen3.5-9B 后训练、单次打分、通过 Foundry 分发 | 已发布 | 推文 |
| Drex v1.5 | Nace.AI | 带本地运行器和稳定 API 的开放决策模型 | 团队希望获得类型化决策、本地控制,以及不依赖封闭托管服务的低成本路由 | Python 服务器、llama.cpp、Ollama、/v1/systemone API |
已发布 | 网站, GitHub, 推文 |
| AXIS | AXIS | 社区驱动的机器人数据引擎与评测套件 | 机器人学习缺乏可扩展、多样化且经过验证的示范数据 | 浏览器遥操作、MuJoCo-WASM、后端清洗、IsaacSim 增强、留出评测 | 已发布 | 网站, 推文 |
| Multi-Layered Review | Sakana AI Labs | 用于论文核查的 AI 审稿框架与矛盾基准 | 类人审稿风格,并不能很好代表一个系统是否真的能发现科学错误 | 知识图谱构建、矛盾注入、多轮审稿工作流 | Alpha | 论文, 推文 |
| HaluMem | MemTensor | 面向记忆系统幻觉的操作级基准 | 端到端问答分数掩盖了失败究竟发生在记忆提取、更新还是检索环节 | 记忆操作任务、操作级指标、开放基准代码 | Alpha | GitHub, 推文 |
最有意思的构建模式并不是“又一个助手”,而是围绕助手构建的专用层:为 AI 打造的计算机、为类型化选择打造的决策模型、为已验证轨迹打造的机器人数据引擎,以及用于隔离特定故障阶段的基准。
第二个模式是,狭窄聚焦正逐渐成为一种优点。Drex 不试图成为聊天机器人。HaluMem 不试图总结记忆系统里所有的问题。Pine 也不宣称自己是一个模型。这些构建者不是在增加通用性,而是在剔除模糊性。
6. 新发布与值得关注的项目¶
Pine Computer 把单项任务成本作为头号指标¶
@slash1sol 放大报道(54 个赞,16 条回复,870 次浏览,33 次收藏)Pine Computer 将自己定位为一台面向 AI、只需一次 SDK 调用即可使用的云端计算机。它值得关注之处不只是产品定位,还有异常明确的 发布文章:Pine 并排公布了每项任务的 checkpoint score、resolved score 和模型 token 成本,而不是把经济性藏在基准截图后面。
Microsoft 把决策模型推向了主流企业平台¶
@testingcatalog 报道(75 个赞,15 条回复,6,510 次浏览,27 次收藏)Foundry 上的 Microsoft-Decision-1。即便考虑到营销包装,一家大型平台推出专用决策模型,依然是一个重要信号,说明路由和分类正在成为独立的产品类别。
Drex 1.5 让“决策层”叙事变成开发者可以自行运行的东西¶
@frankzaga24 重点介绍(44 个赞,8 条回复,7,534 次浏览,45 次收藏)Drex 1.5 是开源的,但更重要的是它的部署形态。公开的 网站 和 GitHub 仓库 清楚表明,本地决策模型如今已成为真正可行的替代方案,不再只是思想实验。
研究助手工具变得更偏重诊断,而不再追求人类式模仿¶
@SakanaAILabs 发布(32 次点赞,5 条回复,4,445 次浏览,7 次收藏)展示了围绕矛盾检测构建的同行评审支持;@jiqizhixin 分享(6 次点赞,1 条回复,435 次浏览,3 次收藏)则展示了 HaluMem 的操作级记忆基准。它们之所以值得关注,是因为其目标被重新定义为错误检测和故障定位,而不是追求人类式风格。
7. 机会在哪里¶
[+++] 校准型路由与决策层 - Microsoft-Decision-1、Drex 1.5、freeCodeCamp 的“优先升级”模式以及 AREX 都指向同一种需求:快速做出结构化决策,并能清晰地弃答和升级处理。
[+++] AI 原生运行时与执行框架 - HERMES 和 Pine Computer 都表明,显著提升可以来自改变模型嵌入环境的方式,而不只是换用更大的模型。
[++] 诊断型评测基础设施 - Sakana 的矛盾基准、HaluMem 和 AREX 表明,市场对能够隔离失败阶段的评测需求正在上升。这个方向很强,但相比前两个主题,仍然更偏研究导向。
[++] 具身 AI 数据运营 - AXIS 表明,在机器人学习中,市场对浏览器规模化的数据采集、验证、增强和溯源确实存在真实需求。信号很强,不过目前仍集中在信息流中较小的一角。
[+] 工作流经济性基准测试 - Morgan Linton 关于 Frontier v4 的帖子,以及 Pine 以“单任务成本”为核心的表述,都表明更好的公共工具仍有空间:将成本、重试次数和解决率一并衡量,而不是只公布模型或 token 统计。
8. 要点¶
- 与单纯选择底座模型相比,执行框架设计正越来越成为更大的杠杆。 HERMES 和 AREX 都展示出,仅靠结构、验证和诊断,也能带来显著提升,而不需要在每一步都依赖前沿级模型。(omarsar0 推文,DeepLearningAI 推文)
- 决策模型正从小众概念走向可部署的系统层。 Microsoft-Decision-1 和 Drex 1.5 从两个角度展示了这一类别:企业级分发与开放的本地部署。(testingcatalog 推文, Drex 网站)
- 在智能体工作流中,真正重要的衡量指标正由 token 价格转向单项任务成本。 Pine Computer 明确点出了这一点,独立基准测试也印证了同样的逻辑。 (Pine 发布, morganlinton 推文)
- 具身智能看起来仍然更像是一个数据工程问题,而不是单纯的模型问题。 AXIS 公布的数据表明,相比一味扩大仿真规模,流程设计和数据整理可能更重要。 (AXIS, Forget_x0 推文)
- 评估正变得更具诊断性,而不是更具表演性。 当天更有分量的研究更关注矛盾识别、记忆操作失效和需求核查,而不是让模型听起来像人。 (Beyond Imitation, HaluMem GitHub)