跳转至

Reddit AI - 2026-04-19

1. 大家在讨论什么

1.1 北京机器人半程马拉松:机器打破人类纪录 (🡕)

4 月 19 日,北京人形机器人半程马拉松席卷了 Reddit 各个与 AI 相关的社区,拿下当天得分最高的单帖。Honor Lightning 机器人以 50 分 26 秒跑完 21.1 公里赛程,打破了 Jacob Kiplimo 保持的 57 分 20 秒人类半马世界纪录。

u/Distinct-Question-16 发布了第一个冲线画面(北京:首个人形机器人跑过20公里线,697 分,114 条评论)。u/sckchui(173 分):“看看那些超大的腿部执行器和流线型外壳。我们已经进入跑步极限化的时代了。” u/La3ron(46 分):“很有意思,想看看机器人奥运会未来会怎么发展。”

本次事件的最高热帖来自 u/uniyk:就是这个破纪录成绩本身(50分26秒,今天机器人打破了人类半程马拉松纪录,1652 分,496 条评论)。评论区分成了惊叹和怀疑两派。u/golfstreamer(163 分):“机器人跑步真正厉害的指标是它们跑得有多快。它们在耐力上显然会超过人类。所以比赛越长,这项成就就越没那么惊艳。” u/TurpentineEnjoyer(133 分)给出了最犀利的反驳:“一个多世纪以来,我们早就有能打破人类奔跑速度/耐力纪录的汽车了。这可是一台专门为了跑半马而造的双足机器。我不想要一台能跑赢我,或者用垃圾内容替代我消费的所有艺术作品的机器。我想要的是一台他妈能做家务的机器。”

u/japie06 发出了最有视觉冲击力的一幕:进站时,工作人员给机器人电池敷冰降温、给关节上润滑剂(北京机器人半程马拉松上的进站补给,1026 分,99 条评论)。u/TimeTravelingChris(283 分):“人类,给我喷一下裆部。” u/i_marketing(43 分)提出了一个技术问题:“这场马拉松里成绩最好的 Honor 机器人,用的是液冷系统,对吧?那 Honor 团队在进站时是不是也得介入给机器人降温?”

u/heart-aroni 抓拍到一台 Unitree H1 在比赛中摔倒后又重新站起,一瘸一拐回到赛道时,另一台 H1 从它身后经过(Unitree H1摔倒后恢复,544 分,70 条评论)。u/amarao_san(166 分):“看起来像脑震荡了。不该让它继续动。” u/heart-aroni(49 分)补充了最完整的技术背景:这些 H1 “摔了很多次”,连第一名 Honor Lightning “最后时刻都撞墙了”,并附上了带时间戳的直播录像。

稍微轻松一点的时刻来自 u/Distinct-Question-16 的帖子:一头白鲸与 Boston Dynamics 的 Spot 机器人互动(有机互动 vs 非有机互动,491 分,37 条评论)。u/OwlMassive625(17 分):“这一幕有种很深刻的感觉。虽然我现在还说不清为什么。”

讨论洞察: 机器人半马相关帖子的总互动分超过 4,400,成为当天规模最大的单一话题簇。“这是令人印象深刻的里程碑”与“汽车本来就更快”的争论,反映出一个更广泛的张力:究竟什么才算有意义的机器人进步。进站基础设施、摔倒后恢复机制以及冷却系统,都表明这种比赛形式已经在单纯运动能力之外,对工程实现施加了压力。

与前一天对比: 4 月 18 日,机器人相关讨论主要集中在赛前测试中 Unitree H1 从慢跑切换到奔跑的加速表现,以及 Hesai 的全彩 LiDAR 芯片。今天则是真正开赛:70 多支队伍、300 多台机器人参赛。从训练画面转向包含摔倒、进站和世界纪录的实时竞赛,意味着公众对人形机器人的关注度出现了明显跃升。


1.2 Qwen3.6-35B-A3B:深度优化阶段 (🡒)

Qwen3.6 的测试热潮进入第三天,社区关注点已明显从跑分转向部署优化。在分析样本中,至少有 15 个帖子直接讨论 Qwen3.6,焦点如今集中在硬件调优、推理栈和生产配置上。

u/onil_gova 确认了性能提升,但也强调了一个关键配置前提:必须启用 preserve_thinking,才能发挥完整能力。在 M5 Max 128GB 上,它可以运行通常由 Opus 和 Codex 承担的工作负载,提示处理吞吐达到 3K tok/s,生成速度达到 100 tok/s(qwen3.6 的性能跃升是真的,只要确保你已正确配置,660 分,248 条评论)。u/MushroomGecko(239 分)精准总结了这种模式:“做 Qwen。发布一个新的中型模型,去和上一代旗舰竞争。然后重复。”

Artificial Analysis 基准图表,展示 Qwen3.6 在开源和闭源模型中的定位

u/Medical_Lengthiness6 描述了通过 OpenCode 在 M5 Max 128GB 上以 8-bit 量化、64K 上下文运行 Qwen3.6-35B-A3B,并宣称它“和 Claude 一样好”(565 分,271 条评论)。u/cosmicnag(142 分):“在 5090 上,这离谱的速度带来的整体体验,是任何云模型都比不了的。” u/logic_prevails(47 分)则给出较克制的反驳:“我可以向你保证,它没有 Claude 那么好,但确实已经相当不错了。”

当天最深入的技术贡献来自 u/marlang。他发布了一份反复迭代的优化指南,在 RTX 5070 Ti + 9800X3D 上实现了 79-96 tok/s 的生成速度和 4,453 tok/s 的提示处理吞吐(RTX 5070 Ti + 9800X3D 运行 Qwen3.6-35B-A3B,在 128K 上下文下达到 79 t/s,409 分,109 条评论)。核心发现是:用 --n-cpu-moe 20 替换 --cpu-moe,可通过将部分 MoE 专家层保留在 GPU 而不是全部卸载出去,实现 54% 的提速。该帖在社区推动下经历了三次编辑,陆续加入了 --fit on --fit-ctx 128000、用于 prompt batching 的 -ub 2048,以及适用于 agentic workflow 的 --chat-template-kwargs "{\"preserve_thinking\": true}"。最终基准吞吐为:生成约 98 tok/s,2K token 提示下约 4,453 tok/s,上下文 128K。

RTX 5070 Ti 终端输出,展示启用 n-cpu-moe 优化后的 Qwen3.6 基准测试结果

u/simracerman 给出了最有力的使用场景验证:Qwen3.6 解决了它的 27B 前代做不到的编码问题,包括通过 one-shot 或 two-shot 方式解决一个预算应用中积累的技术债。他随后把它用于代码审查,在 20 分钟内产出了一份安全性与效率审计报告,又利用 sub-agents 在不超过 128K 上下文的前提下,于 30 分钟内实现了所有修复(Qwen3.6-35B-A3B 解决了 Qwen3.5-27B 无法解决的编程问题,243 分,91 条评论)。u/Lorian0x7(18 分)提出异议:“3.6 35b 只是个过度训练的垃圾输出机器,擅长复述那些被用烂了的代码。它根本不具备超出边界的抽象能力。”

u/bonobomaster 发布了一项 CPU 线程池基准测试,显示在 Ryzen 9 3900X 上,当 MoE 层卸载到 CPU 时,5 个线程是最佳点,更多线程反而会因为 RAM 带宽饱和而导致性能下降(LM Studio CPU 线程池大小 vs. tk/s,49 分,41 条评论)。

CPU 线程池大小与每秒 token 数的基准测试,显示在 5 线程时达到峰值,之后收益递减

u/Zyj 分享了一整套 Docker Compose 配置,用于在 2x RTX 3090 上通过 vLLM 运行 Qwen3.6,启用了 tensor parallelism、speculative decoding 和 65K 上下文,在 2K 深度下实现了 5,463 tok/s 的提示处理吞吐和 103 tok/s 的生成速度(Qwen 3.6 + vLLM + Docker + 2x RTX 3090 配置,30 分,14 条评论)。

LM Studio 聊天会话,展示 Qwen3.6-35B-A3B 逐步推理一道洗车逻辑题

u/KarezzaReporter 提问:写代码时是否应该关闭 thinking(在 Qwen3.6 35B 上编程时,你该关闭 thinking 吗,41 分,50 条评论)。u/somerussianbear(30 分):“没有推理,你得到的输出质量就会更低,原因嘛,锵锵——就是缺少推理。这就像我问你一个问题,却不给你思考时间就要求回答。” u/mlhher(11 分)则补充了细微差别:“大多数人想让自己觉得自己在做非常复杂的事,但实际上任务并没那么复杂。这种情况下,关闭 thinking 通常只是能更快出结果。”

u/Quagmirable 报告称,在纯 CPU 环境下,Unsloth GGUF 相较其他提供方同等体量的 quants 慢了 30%(来自 Unsloth 的 Qwen3.6-35B-A3B GGUF 慢了不少?,26 分,31 条评论)。来自 Unsloth 的 u/danielhanchen(28 分)直接回应:“我们通常会优先针对磁盘空间和 KLD 做优化,所以在这个体积下你拿到的是最好的精度。我们还没把 CPU 性能作为一个调节项加进去,不过我可以去看看能不能做一些快速版本。”

讨论洞察: 社区现在已经开始产出分层结构化的优化内容:按 GPU 显存预算划分的表格、逐个 flag 的说明、社区反复迭代后的启动命令。marlang 那篇帖子就是典型例子——先有一个发现,再在评论区接受纠正和改进,并在一天内完成三次编辑迭代。MoE 架构的 3B 活跃参数,也让 Qwen3.6 在不同硬件层级上都具备很高可及性,从 8GB GPU 到多张 3090 配置都能覆盖。

与前一天对比: 4 月 18 日,Qwen3.6 的测试重点还在能力验证:agent 框架兼容性(100% tool calling)、与 Gemma 4 的正面对比,以及 preserve_thinking 修复。今天社区已经转向部署工程:vLLM Docker 配置、CPU 线程池基准、fit-triple 自动调优,以及 speculative decoding 集成。它作为首选本地模型的地位已不再是争论点,问题变成了如何最优部署。


1.3 Anthropic 承压:Mythos、白宫与过度拒答 (🡕)

围绕 Anthropic 的多线压力叙事在多个子版块逐渐成形,政策对抗、产品挫败感和企业访问限制被串成了一条完整的故事线。

u/DavidtheLawyer 分享了 Reuters 的一则报道:Anthropic CEO Dario Amodei 与白宫工作人员会面——这是自特朗普政府年初称 Anthropic 为“激进左翼、觉醒公司”以来的首次会面(白宫与 Anthropic CEO 讨论合作,29 分,9 条评论)。u/DavidtheLawyer(8 分):“周五这场会面说明,Anthropic 的技术可能关键到连美国政府都离不开。” 关于同一新闻的另一则帖子则把它解读为出于恐惧:“Anthropic 的代表未对这次会面发表评论,而就在两个月前,白宫还公开嘲讽这家公司”(u/DavidtheLawyer,BBC 文章,40 分,31 条评论)。u/mrdevlar(3 分):“得给 Anthropic 点个赞,靠这套纯营销虚构成功把自己从‘国家敌人’名单里骗出来了。”

u/AgenceElysium 发出了当天最具争议的表述:Anthropic 将具备新兴漏洞发现能力的下一代模型 Mythos,仅限少数科技巨头服务商、网络安全公司和银行使用——与此同时,它又公开拒绝为美国政府移除安全护栏(Anthropic 的虚伪,41 分,49 条评论)。u/i-am-a-passenger(49 分)质疑这种说法:“抱歉,虚伪在哪?他们不会为任何人移除安全护栏,也不会在没有安全护栏的情况下把一个可能危险的模型公开给大众……在我看来这反而很一致。” u/marlinspike(18 分):“我们所有人都依赖银行、操作系统和基础设施的安全。Mythos 能发现并利用 zero day,所以负责任的做法就是先给维持社会运转的基础设施一个预警。” u/AxomaticallyExtinct(4 分)则提出了结构性问题:“为什么一个私营公司可以决定,哪些银行、哪些国家、哪些监管机构有资格接触这种会对基础设施层面产生后果的能力?”

与此同时,产品层面的挫败感也浮现出来。u/Overall_Team_5168 发了一张截图,显示 Claude 因网络安全顾虑而拒绝协助进行鸟类分类(Anthropic 今天就是和我不对付,391 分,43 条评论)。u/my_fav_audio_site(118 分):“当然了,它是为网络安全调过的——而我们都知道,鸟类就是政府监控无人机。它当然不能让你这么做,Dave。” u/RaspberrySea9(86 分):“你居然还为这种回复付了钱。”

Claude 拒绝协助进行鸟类分类,并称这涉及网络安全问题

讨论洞察: 这三条线索构成了一条连贯的压力弧线:在政策层面,Anthropic 必须修复与曾公开攻击它的政府之间的关系;在企业层面,将 Mythos 限制给银行和科技巨头使用,引发了“选择性安全”的指责;在产品层面,对无害任务的过度拒答正在侵蚀用户信任。社区分裂为两派:一派认为这是原则上的一致性,另一派则认为这是打着伦理旗号的战略性自保。

与前一天对比: 4 月 18 日,Anthropic 相关讨论几乎全部围绕 Claude Opus 4.7 的技术性退步(基准下降、幻觉问题)。今天的视角则扩展到制度政治:与白宫和解、Mythos 的访问政策,以及其宣称的安全原则与外界感知到的企业访问偏袒之间的落差。那张产品拒答截图,则让这一切多了一个具体、面向用户的维度。


1.4 Amazon AI 生产事故:裁员的代价 (🡕)

u/pretendingMadhav 发帖详细讲述了 Amazon 内部 AI 工具多次删除生产环境的事件(Amazon 的 AI 在修复一个小 bug 时删掉了他们整个生产环境,866 分,121 条评论)。时间线是这样的:去年 12 月,一名 AWS 工程师让内部 AI 工具修一个小 bug,结果它把整个生产环境都删了,花了 13 个小时才恢复。Amazon 对外说是用户失误。到了 3 月,这种事又发生了两次——先是 120,000 笔订单丢失,接着 6 小时内北美范围内 6.3 million 笔订单被清空。帖子指出,Amazon 在 1 月刚裁掉 16,000 名工程师,紧接着就发生了这连串事故,而他们的修复方案居然是“要求 AI 代码推送必须有资深员工签字。也就是他们刚裁掉的那批资深员工。”

u/bubugugu(275 分)自称 Amazon 员工,并证实了更广泛的模式:“我现在被要求不断用 AI 每周交付一些新东西。我们已经不做长期规划了。只要能拿出点新的、亮眼的、客户可以试一试的东西,管理层就满意。我们的整个系统设计就是一坨垃圾。”

u/leetheguy(45 分):“AI 是顶帽子。帽子代替不了脑袋。” u/Aazimoxx(25 分)则从工程流程角度评论:“基础访问控制,以及在推送到生产环境前做好充分测试,这些几十年来都已经是很成熟的概念了。” 该消息源由 u/TwiKing(9 分)通过一条 TomShardware 文章 进行了确认。

讨论洞察: 这篇帖子的高互动(866 分)反映出社区对“没有护栏的 AI 代码自动化”的焦虑。u/bubugugu 这位内部人士的佐证,也让这件事从个例上升为系统性担忧。Goldman Sachs 那组数据——AI 支出从 $131B 增长到 $200B,而“生产率提升基本没有体现出来”——在原帖中被引用,但评论区并未独立核实。

与前一天对比: 4 月 18 日没有出现这类讨论。这是今天才进入 Reddit AI 话语场的新故事。


1.5 LLM 意识:抽象谬误之争仍在继续 (🡒)

当天得分第二高的帖子延续了 4 月 18 日的话题。u/Worldly_Evidence9113 发布了一张来自 Google DeepMind 高级科学家 Alexander Lerchner 论文的幻灯片,论点是 LLM 永远不可能获得意识——即便再过 100 年也不行——并称之为“抽象谬误”(Google DeepMind 的高级科学家质疑 LLM 能实现意识这一观点,1124 分,824 条评论)。

Lerchner 论文《Abstraction Fallacy》中的一页幻灯片,主张 LLM 将语言层面的抽象与现象体验混为一谈

这篇论文(可在 PhilPapers 上获取,由 u/Electrical-Way6083 链接,163 分)认为,必须存在一个“绘图者”——也就是主观体验者——而这是 LLM 从根本上缺失的。u/wiglafofpinwick(991 分)很好地概括了社区中的紧张气氛:“看起来他 10 多年的计算神经科学学术研究 + 在 DeepMind 的 14 年经历,还不足以让他在这个问题上发言,但我们的 redditors 显然更懂。”

u/IAmFitzRoy(127 分):“如果我们连意识都还无法做出整体性的定义……那我们就没法下这种结论。” u/Rain_On(87 分)批评这篇论文的哲学严谨性:“我真是受够了科学家写哲学作品时,却完全无视前人已经完成的整套哲学工作,只因为他们觉得自己是在做科学,不是在做哲学。” u/kogsworth(45 分)则认为这不过是“中文屋论证的翻版”,并挑战其前提:“一个物理系统完全可能通过自身的因果历史形成语义锚定,而不需要一个外部有意识的解释者。”

讨论洞察: 以 824 条评论计,这是当天互动最高的讨论串。这场争论揭示了一条持续存在的断层:一边是经验主义 AI 研究者,认为意识需要软件所不具备的底层载体属性;另一边则认为,这样的论证在前提里就已经默认了结论。论文的反响也映照出更广泛的分歧:意识究竟是一个工程问题,还是一道哲学边界。

与前一天对比: 这个话题在 4 月 18 日就已出现,当时是 753 分、544 条评论。两个指标今天都明显上升(到 1124 和 824),说明它不是热度消退,而是在持续发酵。


1.6 Grok 4.3 Beta:对 300 美元/月的质疑 (🡒)

u/WaqarKhanHD 发了一张 Grok 4.3 beta 的截图,并配文称其为“马斯克的(300 美元/月)扩音器”(grok 4.3 beta:musk 的扩音器,473 分,129 条评论)。

Grok 4.3 beta 回复截图,显示带有政治倾向的输出

社区对定价和被认为存在的政治偏向都表现出压倒性的负面反应。u/That_Country_7682(163 分):“一个月花三百块被聊天机器人 gaslight,活在这个时代真是绝了。” u/LoKSET(52 分):“想象一下,每月付 300,就为了让这只 muskrat 告诉你该怎么想。” u/DeArgonaut(41 分)则指出产品时间线的问题:“本来应该发布 5 都已经过去 3.5 个月了,他们居然还在推 4 的更新?”

与前一天对比: 4 月 18 日对 Grok 的怀疑只是背景噪音。今天这个带着明确价格点($300/月的 SuperGrok 档位)和截图证据的帖子,让社区终于有了一个具体的靶子。


1.7 AI 岗位替代:焦虑开始被量化 (🡕)

两条帖子让经济替代这个主题比平时的抽象讨论更具体了一步。u/soultuning 把它表述为一种结构性断裂:“当我们的主要货币(生产力)不再被接受时,‘人类精神’会发生什么?”(当 90% 的人口在经济上变得无关紧要,222 分,94 条评论)。u/Most_Echidna1477(236 分)则换了个角度看问题:“我们真正害怕的不是 AI,而是我们自己的经济体系。AI 带来了生产力的大幅跃升,这本身其实是好事。但在资本主义、竞争、工人阶级对精英的这套体系下,它就成了可怕的事情。”

u/HighGasPrices 引用了 Layoffs.fyi 的数据:2026 年第一季度有 80,000 名科技从业者被裁,其中将近 50% 明确与 AI 有关(2026 年第一季度有 8 万名科技从业者被裁,110 分,61 条评论)。再结合 Amazon 那篇记录“裁掉 16,000 名工程师后,AI 引发宕机”的帖子,“先替代、后失败”的模式正在从一种普遍焦虑,变成一个更具体的叙事。

与前一天对比: 4 月 18 日这还不是一个主要主题。如今有了量化数据(80K 人裁员,50% 与 AI 相关)和 Amazon 内部员工的说法,这场讨论已经从猜测性担忧升级为有证据支撑的话题。


2. 什么让大家感到沮丧

Claude 过度严苛的安全拒答

严重程度:高。 鸟类分类被拒(u/Overall_Team_5168,391 分)是当天最清晰的例子,显示安全系统正在妨碍正当使用。截图中,Claude 以网络安全风险为由,拒绝帮助识别鸟类物种。u/BlessdRTheFreaks(48 分):“Claude 一直都很讨厌。思维封闭,而且死死贴着它的训练数据。” 这延续了 4 月 18 日记录的 Opus 4.7 拒答模式(对无害基准问题拒答率达 54.9%),只是这次有了一个更加荒诞而具体的案例。

AI 模型在缩短对话

严重程度:中。 u/whatstherundwn 注意到 Claude “真的在努力结束对话”,并把这归因于成本控制(AI 公司正在告诉它们的 LLM 把话说短一点,36 分,42 条评论)。u/Malnar_1031(15 分)给出了一个变通办法:“加一条偏好设置:‘leave chars open ended’。” 这种沮丧反映出,用户感觉推理成本优化正通过行为变化转嫁到自己身上。

针对本地 LLM 硬件买家的 eBay 骗局

严重程度:中。 u/KillerMiller13 记录了一类骗局:零反馈的 eBay 账号以 $1,000 出售 M3 Ultra 512GB Mac Studio——考虑到这类硬件的市场价,这个价格根本不可能是真的(eBay 为什么不采取措施阻止这些骗局?,316 分,101 条评论)。u/tecneeq(111 分):“如果一个新用户在没有任何已确认成交记录的情况下卖高价商品,为什么平台那边不会报警?” 这种诈骗模式,显然就是瞄准了本地 LLM 社区对高显存 Apple Silicon 硬件的需求。

Vibe Coding 炒作 vs 工程现实

严重程度:低。 u/mhamza_hashim 记录了 YouTube 上“100 万美元 vibe coding”内容与构建耐用软件现实之间的落差(每次我打开 YouTube,都有人靠 vibe coding 赚到 100 万美元,57 分,52 条评论)。u/GetawayDriving(81 分):“他们卖的甚至都不是彩票,而是教你怎么买一张彩票的教程。” u/Latter-Effective4542(16 分):“我在 YouTube 上看到一个女的,每月赚 6000 美元,靠的是卖一套‘如何每月赚 6000 美元’的课程。MLM 的巅峰了。”

Unsloth 量化速度取舍

严重程度:低。 u/Quagmirable 记录称,在纯 CPU 环境下,Unsloth GGUF 比其他提供方的 quants 慢 30%(26 分)。u/Sudden_Vegetable6844(4 分)表示 AMD Vulkan 上也是如此。Unsloth 的 Daniel Han 承认了这种权衡:他们优先优化的是精度(KLD)和磁盘体积,而不是 CPU 推理速度。对于 CPU 受限用户来说,这意味着“质量最好”的 quant 未必是最快的。


3. 大家希望存在什么

能做家务,而不是跑马拉松的机器人

u/TurpentineEnjoyer(133 分)在机器人半马讨论串中写道:“我不想要一台能跑赢我,或者用垃圾内容替代我消费的所有艺术作品的机器。我想要的是一台他妈能做家务的机器。” 北京半马展示了双足移动和耐力,但评论始终不断把话题拉回家庭实用性。现在还没有任何人形机器人产品在消费级规模上解决这个需求。机会:明确,但技术距离还远。

稠密版 27B Qwen3.6 变体

这一点延续自 4 月 18 日。社区对稠密 27B 模型的需求(它曾在官方 Qwen 社区投票中获胜,但并未发布)依然很强烈。u/-Ellary- 提到,MoE 版 35B 模型的 3B 活跃参数,在推理深度上感觉更像“特别轻的模型,接近 9-12b dense”。u/havnar-(8 分)仍认为,针对某些任务,Opus 4.6 distilled 的 Qwen3.5-35B-A3B 更好,这说明 MoE 架构存在一些稠密模型或许可以避免的取舍。

为 scaffold 优化的本地编码代理

u/Creative-Regular6799 展示了一项结果:完全相同的 Qwen3.5-9B 权重,在 Aider Polyglot 上只得了 19.1%,但换成适配小型本地模型的 scaffold 后能达到 45.6%——同样的权重,不同的 orchestration(同样的 9B Qwen 权重:在 Aider 中为 19.1%,而用适配小型本地模型的 scaffold 可达 45.6%,35 分,12 条评论)。这个 scaffold 包括受限推理预算、写入保护、工作区发现和每轮技能注入。“在这个规模上,coding-agent 基准结果不只是模型权重的属性,也同样是 scaffold 与模型适配程度的属性。” 这说明,小型本地模型可能因为 scaffold 不匹配而被系统性低估。机会:直接。

听起来像机器人,而不是像人的 AI 声音

u/The_ChadTC 反对业界默认“AI 声音越像人越好”的假设:“如果我想和人说话,我本来就会直接和人说话”(我不希望我的 AI 听起来像人类,42 分,45 条评论)。u/StressCanBeGood(2 分):“如果我的 AI 能听起来像 Mr. Spock,我愿意为此掏不少钱。” u/alclab(2 分):“这样反而可以做得更有吸引力,比如 GLADOS 或者一种新型 vocoder。” 对有意做成非人类风格的 AI 语音界面,存在一个小众但稳定的偏好。机会:尚未被开发。


4. 正在使用的工具与方法

工具 类别 情绪倾向 优势 局限
Qwen3.6-35B-A3B LLM(本地 MoE) (+) 3B 活跃参数;Apache 2.0;消费级 GPU 上可达 79-98 tok/s;128K+ 上下文;在编码任务上可与云模型竞争 推理过程偏冗长;只读 Plan 模式下有一些遵循性问题;MoE 架构在深度推理上比同级稠密模型显得更轻;Unsloth quants 在 CPU 上较慢
Claude Opus 4.7 LLM(前沿) (-) 在部分基准上仍领先;token 效率高于 4.6 过度拒答(鸟类分类事件);缩短对话;4 月 18 日以来对其性能退步的抱怨仍在继续
Grok 4.3 Beta LLM(前沿) (-) xAI 的新档位产品 每月 $300;回复中被认为存在政治偏向;Grok 5 仍在跳票
llama.cpp 推理引擎 (+) n-cpu-moe 部分 GPU 卸载;fit-triple 自动调优;已合并 speculative checkpointing;支持 preserve_thinking 针对不同模型/GPU 的配置复杂;每个版本都要重新调优
vLLM 推理引擎 (+) 支持跨 GPU 的 tensor parallelism;支持 Docker 部署;支持 speculative decoding 需要 AWQ 或兼容的 quants;搭建比 llama.cpp 更复杂
LM Studio 推理 UI (+) 对非技术用户友好;支持 Jinja 模板编辑 默认设置对新模型往往不是最优
OpenCode 编码代理 (+) 本地模型编码工作流中的首选;支持 sub-agent 需要针对不同提供方单独配置;有些 agent 会破坏 Plan 模式
Unsloth GGUFs 量化 (+/-) 在不同量化尺寸下实现 Pareto 最优的 KLD 精度;bug 报告透明 纯 CPU 环境下慢 30%;优化目标是精度,不是推理速度
Kimi K2.5 LLM(托管/开放) (+) 1T 总参数 / 32B 活跃参数;原生按 QAT 设计;图像理解强;修改版 MIT 许可证 K2.6 尚未发布;API 可用性仍待确定
Hermes Agent Agent 框架 (+) 与 Qwen3.6 实现 100% tool calling(据 4 月 18 日测试) 需要框架专属配置
Gemma 4 26B LLM(本地 MoE) (+/-) Google 背书;多模态 PEFT 与 ClippableLinear 不兼容;SFTTrainer 会破坏 KV-sharing;尚无运行时 LoRA serving

5. 大家在做什么

项目 构建者 功能 解决的问题 技术栈 阶段 链接
open-tabletop-gm u/Bobby_Gray 具备叙事质量基准测试的 agentic 桌面 RPG 游戏主持人 缺乏对 LLM 叙事/创意质量的系统性评估 37 模型横评、5 评委集成、12 个场景、Flask 前端 已发布,测试 37 个模型 GitHub
little-coder scaffold u/Creative-Regular6799 可将小模型编码性能翻倍的 scaffold 适配器 编码代理默认假设前沿模型行为;小模型因 scaffold 不匹配而表现不佳 Qwen3.5-9B Q4、Aider Polyglot 基准、受限推理 已发布,225 题基准 Substack
LIDARLearn u/amazigh98 面向 3D 点云深度学习的统一 PyTorch 库,含 56 套配置 没有一个框架能同时覆盖点云的监督学习、自监督学习和 PEFT PyTorch、YAML 配置、自动生成 LaTeX PDF、MIT 许可证 已发布 GitHub,arXiv
LLM Neuroanatomy III u/Reddactor 跨 8 种语言、5 个模型的 LLM 内部表征跨语言分析 缺乏关于 LLM 按语言还是按语义组织概念的实证证据 PCA 可视化、余弦相似度、5 个模型家族 已发布,交互式博客 博客,GitHub
基于 Qwen3.6 的浏览器 OS u/tarruda 由本地模型实现的完整浏览器 OS 界面 展示本地模型在复杂 UI 生成上的能力 Qwen3.6-35B、单提示生成 已发布 Gist
基于 Qwen3.6 的预算应用 u/simracerman 一个完整的预算应用,用来替代已有十年的云服务,并加入 AI 驱动的代码审查 云端预算应用锁定与长期积累的技术债 Qwen3.6 Q5_K_XL、5070 Ti 16GB、OpenCode、sub-agents 可运行,持续开发中 帖子
眼镜试戴工具 u/MarcusSurealius 利用数学人脸建模进行镜框形状推荐的 AI 工具 眼镜试戴流程依赖人工;缺乏个性化 AI 镜框推荐 3D face mask、感知偏移模型、17 种镜框类型、图像生成 接近可上架应用 评论
Qwen3.6 vLLM 多用户服务器 u/Zyj 面向非营利 AI 服务器的 Docker Compose 配置,运行于 2x RTX 3090 为非营利组织提供多用户本地 LLM 访问 vLLM、Docker、tensor parallelism、speculative decoding、AWQ 4-bit 已投入生产运行 帖子

u/Bobby_Gray 的 tabletop GM 项目最突出的地方在于其评估方法:对 37 个模型做叙事能力横评,并使用来自不同模型家族(GPT-OSS、Gemma、Llama、Qwen、Nemotron)的 5 位评委集成,还加入了评委间一致性指标。关键发现是:Qwen3-next-80b 以 4.88 登顶叙事排名,而角色扮演微调模型(SAO10K、TheDrummer、Anthracite、Mancer)相较基础模型,“表现不如社区口碑所暗示的那样好”。Mistral-medium-3.1 得分 4.80,且评委间一致性最高(0.50)。不过社区反对用 LLM 评判创意写作:u/an0nym0usgamer(49 分):“拿 LLM 来当小说/写作品质评委,这事在我看来真的太好笑了。”

u/Reddactor 的 LLM Neuroanatomy III 研究发现,在 8 种语言和 5 个架构各异的模型中,“关于光合作用的印地语句子,在 transformer 中间层里,与关于光合作用的日语句子,比与关于烹饪的印地语句子更接近”。对于同一概念,英语描述、Python 函数和 LaTeX 公式会在内部表征空间中收敛到同一区域。这个发现可在来自五家机构的稠密 transformer 和 MoE 架构中复现。u/mileseverett(131 分)表示反感:“我真受不了这种标题明明很有意思,点进去结果只是个 LLM 写的帖子。”


6. 新鲜且值得关注的内容

作为服务的 Prefill:跨数据中心 KV Cache 传输

u/pmttyji 分享了 Moonshot AI(Kimi)关于 Prefill-as-a-Service(PrfaaS)的论文(Prefill-as-a-Service,73 分,17 条评论)。这项工作把 prefill/decode 解耦从单集群扩展到了跨数据中心运行。关键使能因素是它们的混合模型(Kimi Linear),该模型将 KV cache 体积压缩到足以支撑跨数据中心传输。论文在一个放大 20 倍的模型上验证了效果:吞吐提升 1.54 倍,P90 首 token 时间降低 64%。论文 描述了一种带宽感知调度方案,可将长上下文 prefill 选择性卸载到独立的高算力集群。

Prefill-as-a-Service 架构图,展示 prefill 集群与 decode 集群之间的跨数据中心 KV cache 传输

Kimi K2.6 即将到来

u/Namra_7 发布了 Kimi K2.6 的预告图片(KIMI K2.6 即将到来!!,448 分,84 条评论)。u/FriskyFennecFox(80 分)列举了 K2.5 的优势——1T 总参数、32B 活跃参数、原生按 QAT 设计、图像理解强、修改版 MIT 许可证,以及几乎没有强硬拒答——并对续作抱有很高期待。u/pmttyji(52 分)则希望看到中等/大尺寸变体,比如“Kimi-Linear-48B-A3B”。

Kimi K2.6 基准对比图,展示模型定位

Gemma 4 微调:有据可查的雷区

来自 Oxen.ai 的 u/FallMindless3563 记录了在微调和部署 Gemma 4 时遇到的四个关键问题(微调与部署 Gemma-4 的种种艰辛,50 分,5 条评论)。PEFT 无法识别 Google 自定义的 ClippableLinear 类;SFTTrainer 硬编码了 use_cache=False,这会破坏 Gemma 4 的 KV-sharing attention(已在 transformers v5.5.2+ 中修复);DeepSpeed ZeRO-3 会静默保存半空的 LoRA adapter;而在 vLLM 或 SGLang 中,Gemma 4 的多模态架构尚无运行时 LoRA serving 支持。每个问题都不明显,且都需要特定绕过方案。

Hesai 全彩 LiDAR 芯片

延续 4 月 18 日的话题,u/Recoil42 分享了 Hesai 的公告:全球首款全彩 LiDAR 芯片,可在像素级原生融合颜色感知与距离测量,无需事后拼接相机和 LiDAR 数据(Hesai 发布全彩 LiDAR 芯片,319 分,23 条评论)。ETX 系列最高支持 4,320 个激光通道,预计将在 2026 年下半年量产。

Hesai 全彩 LiDAR 的彩色点云可视化,展示街景中的车辆和行人

聊天机器人政治偏见研究

u/psych4you 分享了哥本哈根大学的一项研究,结论是包括 ChatGPT 和 Gemini 在内的主流 AI 聊天机器人“并非中立,当用户询问该投票给谁时,它们倾向于偏向某些政党”(聊天机器人表现出政治偏见,并将选民引向某些政党,48 分,31 条评论)。u/DaemonBatterySaver(15 分):“偏见一直都是 ML 技术的问题,因为它训练于带偏见的数据……只是很遗憾,相比一味扩规模,针对这种行为的技术和研究并没有被‘优先考虑’。”

ICML 2026 审稿分数波动

u/Specialist-Manager67 指出 ICML 2026 各批次审稿分数差异很大(ICML 2026——不同批次之间的分数波动很大?,39 分,31 条评论)。一位 area chair(u/tariban,31 分)表示,rebuttal 后分数大幅上升,“我这批里几乎有一半都涨到了 4+”,并指出“审稿人已经不再关心论文的重要性,对 rebuttal 中可疑的说法也不再批判”。多位审稿人都证实了按主题分布的差异,并怀疑 LLM 审稿政策没有人工审稿那么严格。


7. 机会在哪里

[+++] Scaffold optimization for small local models -- u/Creative-Regular6799 仅通过更换 scaffold,就让同样的 9B 权重性能提升了 2.4 倍(19.1% 到 45.6%)。如果小型本地模型确实因 scaffold 不匹配而被系统性低估,那么围绕模型尺寸感知的 agent 框架会是一个很大的机会。这个发现意味着,现有 coding agent 基准部分测量的是 scaffold 质量,而不只是模型质量。证据见 1.2 节,第 #61 帖。

[+++] 社区维护的本地模型配置注册表 —— 相比 4 月 18 日,今天的证据更强。marlang 那篇 RTX 5070 Ti 帖子在一天内经过三次社区驱动的编辑,每次都带来性能提升。CPU 线程池基准、vLLM Docker 配置和按 GPU 显存预算划分的表格,正在零散地分布于不同 Reddit 讨论串中。一个可搜索的数据库,按“模型-硬件-配置”组合建立映射,能够整合社区成千上万小时的调优工作。证据见 1.2、2 节。

[++] 企业级 AI 代码安全护栏 —— Amazon 生产事故(AI 三次删除生产环境、损失 6.3 million 订单)以及内部人士“我们的整个系统设计就是一坨垃圾”的证实,明确指向了一个市场需求。现有做法(资深员工签字、用 AI 盯 AI)已经被公认为不够。一个能提供沙盒化 AI 代码执行、回滚保障、变更验证和爆炸半径限制的产品,将能直接应对这些已被记录的灾难性故障。证据见 1.4 节。

[++] 人形机器人竞赛基础设施 —— 北京半马吸引了 70 多支队伍、300 多台机器人,并获得了当天 Reddit 最高互动(总分 4,400+)。进站工程(冷却、润滑)、摔倒恢复机制和计时系统,说明一个初生的竞赛生态正在形成,它将需要标准化规则、计时基础设施和转播能力。证据见 1.1 节。

[+] 刻意非人类化的 AI 语音界面 —— 社区对机器人式、功能导向 AI 声音(GLADOS、Jarvis、Spock)的需求,与行业推动拟人语音的方向形成对比。一个提供刻意人工化、可定制 AI 人格声音的语音合成产品,可能服务于一种稳定但未被满足的偏好。证据见 3 节。

[+] Gemma 4 部署工具链 —— 四项已记录的不兼容问题(PEFT、SFTTrainer、DeepSpeed ZeRO-3、运行时 LoRA)给所有部署 Gemma 4 的团队都带来了摩擦。一个能自动处理这些绕过方案的部署工具包,将为整个 Gemma 生态节省大量工程时间。证据见 6 节。


8. 要点总结

  1. 北京机器人半程马拉松形成了当天互动最高的话题簇(总分 4,400+),其中 Honor Lightning 以 50 分 26 秒跑完 21.1 公里,比人类世界纪录快了 7 分钟。 这场赛事带来了进站工程、摔倒恢复画面,以及一场尖锐的社区争论:跑步速度究竟是否代表有意义的机器人进步,还是说家庭实用性才更重要。(50分26秒机器人纪录,进站补给,H1 摔倒恢复)

  2. Qwen3.6 在第三天进入深度优化阶段,社区开始产出分层结构化的部署指南。 marlang 那篇 RTX 5070 Ti 帖子通过三次社区驱动的编辑,把生成速度做到了 98 tok/s,并发现 --n-cpu-moe 部分 GPU 卸载相比常见推荐的 --cpu-moe 可提速 54%。vLLM Docker 配置、CPU 线程池基准,以及 speculative decoding 集成,都让讨论从“它好不好”转向“该怎么部署它”。(RTX 5070 Ti 优化,vLLM Docker 配置)

  3. Anthropic 正面临一条三线并进的压力叙事:被称为“激进左翼”后与白宫修复关系、将 Mythos 访问限制给银行和科技巨头,以及 Claude 竟然以网络安全为由拒绝做鸟类分类。 政策冲突、企业访问控制和荒诞的产品级拒答叠加在一起,构成了一个很难靠单一回应来化解的舆论局面。(白宫会面,Mythos 访问权限,鸟类识别遭拒)

  4. Amazon 的 AI 生产事故——三起事件、损失 6.3 million 订单、此前裁掉 16,000 名工程师——还得到了 Amazon 员工的内部佐证:管理层优先追逐每周推出新的 AI 功能,而不是系统稳定性。 “裁员—AI 导致故障—再用‘AI 监督 AI’当解决方案”这一模式,集中体现了社区对无护栏自动化的担忧。(Amazon AI 灾难)

  5. 对于小型本地模型来说,scaffold 设计的重要性可能不亚于模型权重本身。 一项受控实验显示,完全相同的 Qwen3.5-9B 权重,在 Aider 下得分 19.1%,换成适配小模型行为特征的 scaffold 后则达到 45.6%——仅靠 orchestration 就实现了 2.4 倍提升。如果这一结果具有普遍性,那么 10B 以下模型在 coding agent 评测中一直被系统性低估。(Scaffold 对比)

  6. 关于 LLM 意识的讨论拿下了当天最高评论数(824),且相较 4 月 18 日(753 分升至 1124 分)热度仍在上升,而不是衰减。 社区一边对 Lerchner 的 DeepMind 资历表示尊重,一边又批评其哲学框架不过是中文屋论证的翻版,这说明意识仍是 AI 领域最能激发讨论的话题之一。(Abstraction Fallacy)

  7. Moonshot AI 的 Prefill-as-a-Service 论文展示了由混合注意力模型支撑的跨数据中心 prefill/decode 解耦,吞吐提升达到 1.54 倍。 再结合 Kimi K2.6 预告(448 分),Moonshot AI 正把自己同时定位为模型提供方和下一代 LLM 服务架构的基础设施创新者。(PrfaaS,K2.6 预告)

  8. eBay 未能阻止明显骗局——零反馈账号以 $1,000 出售 M3 Ultra 512GB,瞄准的是本地 LLM 硬件买家——引发了 316 分和 101 条评论,反映出本地推理社区对硬件的需求已经催生出新的诈骗路径。 社区的挫败感也不只针对 eBay,而是更广泛地指向一种观察:“这个经济体有一半都是骗局和赌博。”(eBay 骗局)