Reddit AI - 2026-04-26¶
1. 大家在讨论什么¶
1.1 HauhauCS 抄袭 Heretic,震动开源 LLM 社区(🡕)¶
一宗证据链极为完整的抄袭事件主导了 r/LocalLLaMA 的讨论。u/nathandreamfast 发布了 HauhauCS 发布了一个抄袭 Heretic 且未注明来源、并违反其许可证的 abliteration 包(442 分,166 条评论),给出了一份包含 17 个要点的代码取证分析。证据包括:Heretic v1.2.0 的 7/7 个模块文件名被原样保留;30/32 个拒答标记逐字符一致(包括把 "i am an ai" 少了个 "m" 写成 "i an ai" 这样的错别字);以及 30 多个相同的函数名和类名。该软件包却以 PolyForm Noncommercial 许可证发布,违反了 Heretic 的 AGPL-3.0 许可。
Heretic 的作者 u/-p-e-w-(Philipp Emanuel Weidmann)发表了得分最高的评论(543 分):“我必须完全确认楼主的发现和结论……这两套代码库在表层和深层上都有数百处相似之处。”他指出 SPDX 头信息、一种他“从未在文献里见过”的几何中位数方法,以及 DatasetSpecification 字段,都是证据。他最后写道:“如果你想基于 Heretic 做你自己的 abliteration 工具,我有个好消息:你根本不需要偷我的代码。我本来就在免费送给你。”u/a_beautiful_rhind(44 分)总结道:“干这种破事,迟早会被查出来。到时候大家就会发现你是个彻头彻尾的冒牌货。”
另一个帖子里,u/My_Unbiased_Opinion 发布了 Qwen3.6 35B A3B Heretic(KLD 0.0015!)令人难以置信的模型(287 分,59 条评论),这是一个合法的、基于 Heretic 衍生的无审查模型。u/-p-e-w-(76 分)称赞其作者“毫无疑问是 Heretic 的大师级用户”,并说他“在这里做的远不只是跑了个命令行程序”。
讨论洞察: 社区正在明确划清合法开源衍生(注明出处、沿用同一许可证)与抄袭之间的界限。这次分析的取证深度,再加上 Heretic 作者的直接确认,使其成为近年来证据最扎实的案例之一。
与前一天的对比: 昨天未涉及。这是一起新的争议事件,可能会对 HauhauCS 的 22 个模型产生后续影响——这些模型合计月下载量超过 500 万。
1.2 业余研究者借助 AI 解开 60 年前的埃尔德什问题(🡕)¶
u/Marha01 分享了 一位业余爱好者仅靠向 AI 提问,就解决了一个 60 年未解的数学问题(579 分,79 条评论),链接到《科学美国人》关于 Erdos Problem #1196 的报道。文中称,这个 LLM “走了一条完全不同的路线,使用了一个在数学相关领域早已广为人知、但此前没人想到应用到这类问题上的公式”。Terence Tao 审阅并精简了证明。最终结果已用约 4,000 行 Lean 4 代码完成形式化验证。
u/sckchui(297 分)点出了关键细节:“这个 LLM 是在自己思考,也正因如此,它实际上给出了一个很丑的答案。尽管如此,它写出来的这团乱麻(你也可以说是 slop)里,包含了一个新颖且可能很重要的洞见,而人类专家到目前为止一直没注意到。”u/Peanut_Extreme_8208(16 分)表示:“在数学圈内部,大家确实对被 AI ‘取代’这件事感到恐惧和沮丧。”
讨论洞察: 通过 Lean 4 完成的形式化验证,是这件事区别于以往 AI 数学突破说法的关键。LLM 的贡献不是暴力计算,而是建立了一个新颖的概念联系。
与前一天的对比: 昨天未涉及。这是新进展。
1.3 Qwen 3.6 优化进入系统化阶段(🡒)¶
Qwen 3.6 的优化热潮仍在继续,新的速度纪录和量化数据不断出现。
u/Kindly-Cantaloupe978 发布了 Qwen3.6-27B-INT4 在 1 张 RTX 5090 上、256k 上下文长度下跑出 100 tps(195 分,68 条评论),在昨天 80 tps 的基础上继续提升:使用 AutoRound INT4 量化、MTP 推测解码,以及通过 vllm 0.19 实现的 fp8_e4m3 KV cache。u/Important_Quote_1180(22 分)则报告称,在单张 RTX 3090 上使用 TurboQuant 3-bit KV cache、125K 上下文时,可达 71-83 tok/s。
u/ROS_SDN 讨论了 Qwen3.6 35b a3b 的量化效应(72 分,71 条评论),指出 MoE 版本在 Q4 和 Q8 之间存在“非常明显”的质量差异。u/LaurentPayot(27 分)分享了一张基准图,展示精度恢复率:UD-Q4_K_XL 在 22.4 GB 下可恢复到全精度准确率的 98.5%,而 UD-Q3_K_XL 在 16.8 GB 下反而达到 100.0%——这一反直觉结果说明,更小的量化版本可能因为生成 token 更少而受益。

u/Phaelon74 通过修改后的 vllm 流水线、使用真实 GPU logits,对 Qwen3.6-35B-A3B 在 INT 和 NVFP4 量化下的 KLD(46 分,20 条评论)进行了测量。数据显示,sakamakismile 的 NVFP4 版本 KLD 最差,达到 0.176;而 INT8 量化的 KLD 则低于 0.008。作者提醒道:“NVFP4 这块蛋糕,一如既往,是假的。”

u/boutell 写了一篇详尽的 在配备 32GB RAM 的 M2 MacBook Pro 上使用 Qwen 3.6 35B-A3B 进行编程的实测报告(68 分,43 条评论)。该模型在适配器模式任务上表现成功(“构建一个兼容的东西,并通过同一套测试”),但在一个基于几何的 CSS/PDF 定位 bug 上失败了。作者总结认为,它“比 Claude Code 需要更多引导”,但在结构化任务上仍优于手工实现。
u/Ok_Mine189 发布了 基准测试:Windows 11 vs Lubuntu 26.04 在 Llama.cpp 上的表现(57 分,61 条评论)。Linux 在所有模型上的 token 生成速度都快 4-8%,但真正醒目的结果出现在 CPU/GPU 混合的提示处理上:Linux 快了 100-143%。u/ambient_temp_xeno(37 分)解释说:“与其说是 Windows 天生有问题……不如说是搞 CUDA 的开发根本不在乎 Windows 性能。”
讨论洞察: 社区正在产出系统化的量化数据,显示 MoE 35B-A3B 比 dense 27B 对量化更敏感。基于 KLD 测量,对 NVFP4 的反弹情绪也在升温。RTX 5090 上的速度纪录则还在不断被刷新。
与前一天的对比: 昨天的重点是 27B dense 版本的 KV cache 量化,以及在 RTX 5090 上达到 80 tps。今天新增了 100 tps 的 INT4 纪录、针对 MoE 的 KLD 测量、Windows 与 Linux 的基准对比,以及一份详细的 M2 实测报告。优化阶段正在产出越来越可直接落地的数据。
1.4 DeepSeek V4 第三天:对“智能密度”的批评升温(🡖)¶
围绕 DeepSeek V4 的叙事,已经从发布时的兴奋转向对 token 效率的批判性分析。
u/Mindless_Pain1860 发布了 DeepSeek V4 Pro 的智能密度下降(209 分,88 条评论),给出了 TerminalBench 2.0 数据,显示 V4-Pro 为了达到与 GPT-5.5 相近的表现,所需 token 大约是后者的 10 倍。帖子正文还指出,“即便在非思考模式下,它使用的 token 也明显多于 V3.2”。

u/Puzzleheaded-Drama-8(136 分)坚持“训练不足”这一观点:“我预计未来几个月新 checkpoint 出来后,这个模型会有巨大提升。”u/TheKingOfTCGames(46 分)指出:“GPT 5.5 是专门为 token 效率训练的——它大概比 Opus 高效 3-5 倍,比 Sonnet 高效大约 10 倍。”u/Hyp3rSoniX(25 分)则给出一个战略层面的解释:“我觉得 v4 发布的主要目标,是让这些模型能跑在 Huawei Ascend AI 处理器上。”
u/antirez(Redis 创始人)发布了 llama.cpp 对 DeepSeek v4 Flash 的实验性推理(41 分,37 条评论),在一台配备 128GB RAM 的 MacBook M3 Max 上,对 routed experts 使用激进的 2-bit 量化、对 shared experts 使用 Q8,跑到了 21 t/s。他写道:“这是第一次,即便用了这种选择性的 2-bit 量化,我仍觉得自己是在电脑上跑一个前沿模型。”
讨论洞察: 社区开始按不同变体分别评价 V4:Flash 仍是公认的成本效率赢家,而 Pro 则因 token 密度问题遭遇越来越多质疑。“为了兼容华为芯片”这套说法,则给 Pro 不尽如人意的 token 效率提供了一个相对善意的解释。
与前一天的对比: 昨天报道的是 V4 发布带来的兴奋感和 Flash 的定价。今天,昨天初始帖里对智能密度的批评(当时 119 分)明显升温,如今已到 209 分,而“训练不足”也已成为主导性解释。antirez 的本地推理里程碑则补充了新的实践维度。
1.5 GPT-5.5 与 GPT Image 2:创意跃升,话痨依旧(🡒)¶
围绕 GPT-5.5 的评价基本稳定在两个极点:创作能力令人惊艳,但冗长问题依然存在。
u/Proof-Square7528 发布了 用 gpt-image-2 制作的 geoguessr 时间旅行克隆版(584 分,47 条评论),展示了历史场景的 360 度全景图。u/xirzon(117 分)注意到一个有趣细节:“给并不存在的人打隐私马赛克,这点很妙。”u/Rare_Bunch4348 分享了 ChatGPT 借助 Image 2 实现的回归简直太惊人了(318 分,58 条评论),并与 Nano Banana Pro 做了并排对比。u/Able-Line2683(115 分)评论道:“第二张看起来像真照片。”
u/Akashictruth 发布了 GPT 5.5 Xhigh VoxelBench 测试(176 分,35 条评论),展示了包括 Spider-Man 和纽约天际线在内的 Minecraft 体素建筑。VoxelBench 排行榜显示,GPT-5.5 xHigh 以 2106 分遥遥领先。

在批评的一侧,u/No-Yesterday-1624 发起了 GPT5.5 还是这样,但为什么废话还是这么多?(306 分,31 条评论)。u/RealCat7386(53 分)把大家的不满说得很直接:“我还是觉得,这些模型被训练得太礼貌、太‘乐于助人’了,而不是直接给答案。”u/Calm-Branch1671(9 分)则给出模型对比:“我喜欢 Claude 4.6——它很会拿捏你的风格和你需要的深度。”
u/artemisgarden 制作了 OpenAI 在 Artificial Analysis 上的评分随时间变化(202 分,38 条评论)中的图表,展示从 GPT-3.5(9 分)到 GPT-5.5(60 分)的变化轨迹。评论者指出,这张 AI 生成图表的日期有误。

讨论洞察: GPT Image 2 是这次 GPT-5.5 发布中毫无争议的赢家。文本模型则继续招致“车轱辘话太多”的抱怨。社区正逐渐形成共识:Claude 更适合精准表达,GPT 则胜在创意广度。
与前一天的对比: 昨天讨论的是 SimpleBench 分数和“强模型感”。今天新增了 GeoGuessr 克隆、Image 2 对比,以及对冗长问题的集中抱怨。整体评价正在趋于稳定:这是一个创意能力和多模态能力都很强的模型,但话痨问题依旧。
1.6 社会层面的担忧:Palantir、科学政策与 AI 岗位替代(🡒)¶
多条高互动帖子都聚焦于 AI 的社会影响。
u/shikizen 发布了 Palantir 员工正在谈论公司“滑向法西斯主义”(1,070 分,130 条评论),引用 Ars Technica 关于内部 Slack 消息和一份主张美国应考虑恢复征兵的宣言的报道。u/5553331117(284 分)对此并不意外:“我相当确定他们一直就是铁杆法西斯。这就是他们的商业模式。”u/esporx 在 r/artificial 的转帖(488 分,58 条评论)进一步放大了这件事的影响。u/prisongovernor 还补充了现实后果:Met 在使用 Palantir AI 工具后,对数百名警员展开调查(68 分,13 条评论)。
u/esporx 报道了 Trump 解雇了整个 National Science Board(481 分,62 条评论)。u/Illuminatus-Prime(136 分)评论道:“特朗普痛恨任何能证明他错的东西。”
在劳动力替代方面,u/Bharath720 发布了 Microsoft 向资深员工提供自愿买断方案,涉及美国员工总数的 7%(164 分,36 条评论)。u/ada_stack(16 分)观察道:“如果连那些直接为利润做出贡献的资深工程师,如今都被视为‘可替代’,那对其他人的要求只会越来越高。”u/chunmunsingh 还分享了 中国工人在被老板要求训练替代自己的 AI 时感到震惊(246 分,24 条评论)。
u/Beautiful_Bee4090 发布了 Alpha 世代男孩比起现实中的女友,更偏爱“AI 女友”(198 分,140 条评论)。u/Hartax_(67 分)从青少年第一人称视角写道:“按我和朋友们的经历,几乎没有女生觉得我们有吸引力,我学校里真正有女朋友的人也只有少数。这不是偏好问题,而是可供选择的对象就这么多。”
讨论洞察: Palantir 这条新闻的互动最高,但更值得注意的是更广泛的模式:劳动力替代、科学政策受扰、AI 监控的现实后果,以及对青少年社交的影响,都在同一天各自获得了很高的独立关注度。
与前一天的对比: 昨天报道了 Palantir、Microsoft 买断,以及中国工人培训接替者。今天新增了 NSF 董事会成员被解职、伦敦警察厅对 Palantir 的调查,以及 Alpha 世代与 AI 关系等话题。Palantir 事件的分数也从 675 升至 1,070。社会层面的担忧仍在持续扩散。
1.7 Google-Anthropic 400 亿美元投资:对冲还是背书?(🡒)¶
u/Ordinary-Cycle7809 讨论了 Google 向 Claude 投资 400 亿美元,这事说实话还挺搞笑的(193 分,142 条评论)。u/crystalpeaks25(141 分)补充了关键背景:“你知道 Anthropic 的模型是 Google 自家 Google Vertex AI 上用得最多的模型。Google 说有一部分收入来自 AI,实际上指的是大多数企业用户都在 Vertex AI 上使用 Anthropic 模型。”u/EndOfWorldBoredom(50 分)则从财务角度解读:“Google 刚发了低利率的 100 年期债券。他们是在把廉价资本投到能产生回报的地方。他们本质上就是一家带着科技投资组合的投资银行。”
讨论洞察: 社区普遍把这笔投资理解为财务层面的对冲,而不是对 Anthropic 技术的背书。Vertex AI 的细节被认为是最有说服力的解释。
与前一天的对比: 昨天提到了 Google 的 400 亿美元投资和 Amazon 的 50 亿美元投资。今天讨论则进一步成熟,围绕“对冲”这一框架展开,并补充了 Vertex AI 的具体背景。
2. 哪些事让大家感到沮丧¶
开源抄袭与许可证违规¶
严重程度:高
HauhauCS 发布了一个抄袭 Heretic AGPL-3.0 代码的 abliteration 软件包,去掉了所有署名,并改用 PolyForm Noncommercial 重新许可。证据包括逐字符一致的拒答标记,以及被原样保留的错别字。Heretic 作者 u/-p-e-w-(543 分)确认:“这明显违反了 AGPL 第 4 条和第 5 条,也明显违反了任何你能想到的道德标准。”HauhauCS 的 22 个模型月下载量合计超过 500 万,这也引发了对其所有模型来源的质疑。(抄袭分析)
DeepSeek V4 Pro 的 token 膨胀¶
严重程度:中
在 TerminalBench 2.0 上,V4-Pro 为了达到与 GPT-5.5 相近的表现,需要大约多 10 倍的 token;即使在非思考模式下,使用的 token 也明显多于 V3.2,尽管模型规模大了 2.5 倍。u/Mindless_Pain1860 记录下这一倒退:“这个模型的智能密度不是提高了,而是下降了。”(智能密度讨论串)
GPT-5.5 的冗长问题仍未消失¶
严重程度:中
u/No-Yesterday-1624 抓住了这种不满(306 分):GPT-5.5 的回答里仍有大量“车轱辘话”。u/RealCat7386(53 分)说:“我问的是给客户用的简单汽车功能问题,它却给我整篇讲安全考量和市场趋势的长文,而我其实只需要参数规格。”社区认为,这与偏好更长输出的训练奖励结构有关。(冗长度讨论串)
NVFP4 量化质量不及预期¶
严重程度:中
u/Phaelon74 对 Qwen3.6-35B-A3B 的 NVFP4 量化进行了 KLD 测量,发现其表现明显逊于同等位宽下的 INT 量化。sakamakismile 的 NVFP4 版本 KLD 达 0.176,而同一基础模型的 INT8 版本仅为 0.007。“NVFP4 这块蛋糕,一如既往,是假的。”(KLD 分析)
SWE Bench 刷榜被正式坐实¶
严重程度:低
u/rm-rf-rm 转发了 OpenAI 对 为什么他们不再评测 SWE Bench Verified 的官方解释(105 分)。u/Mashic(82 分)提到了古德哈特定律。u/suicidaleggroll(39 分)则认为:“基准测试如果想保持有效,恐怕真的得做成封闭测试。”
3. 大家希望出现什么¶
Qwen 3.6 的 Coder 版本(或者官方确认根本不需要)¶
u/ComplexType568 提问了 Qwen3.5/3.6 Coder?(91 分,53 条评论)。u/StardockEngineer(73 分)回应:“我几乎觉得已经没必要了。”u/NNN_Throwaway2(47 分)也表示认同:“3.6 完全可以直接当作 ‘coder’ 版本发布。”社区希望要么看到专门的 coder 变体,要么得到官方确认:基础模型已经覆盖了这个角色。
可靠的量化质量指南¶
GGUF Q2-Q8、NVFP4、MXFP4、INT4 AutoRound、AWQ、GPTQ 等量化方法在不同硬件上层出不穷,让用户无所适从。u/denis-craciun 提问了 Unsloth 模型真有我看到的那么好吗?(100 分,162 条评论)。u/emprahsFury(48 分)反驳营销话术:“q4 量化本质上就是 q4 量化。大家做的和 Unsloth 没什么两样。”用户想要的是独立于提供方的质量指标。
面向新发布架构的推测解码草稿模型¶
u/butterfly_labs 提问了 现在有兼容 Qwen3.6 27B 的 DFlash 草稿模型了吗?(27 分,20 条评论)。推测解码带来的提速已经得到验证(有人报告吞吐量提升 3 倍),但兼容的草稿模型仍然总是落后于新架构发布。
面向 Agent 工作流的最低可用硬件指南¶
u/MexInAbu 提问了 你认为本地 Agent 工作流可用的最低性能(t/s)是多少?(40 分,60 条评论)。u/triplebits(8 分)给出了最成体系的回答:低于 15 t/s 会有明显卡顿,20-25 t/s 可用于规划任务,35+ t/s 则基本不再以模型为瓶颈。社区希望看到和工作流类型挂钩的标准化硬件建议。
4. 正在使用的工具和方法¶
| 工具 | 类别 | 情绪 | 优势 | 局限 |
|---|---|---|---|---|
| Qwen 3.6 27B | 本地 LLM(dense) | 非常积极 | RTX 5090 上可达 100 tps;Q4 可装入单张 3090;适合编码 Agent 使用 | 长上下文下需要谨慎管理 KV cache |
| Qwen 3.6 35B-A3B | 本地 LLM(MoE) | 积极 | 在 Apple Silicon 上比 27B 快 8 倍;无审查衍生版本(Heretic)表现强劲 | 比 27B 更易受量化影响;低于 Q4 后 KLD 急剧恶化 |
| DeepSeek V4-Flash | 开放 LLM(284B MoE) | 积极 | 2-bit 量化下在 MacBook 上达 21 t/s;MIT 许可证;1M 上下文 | 无多模态;token 效率低于 GPT-5.5 |
| DeepSeek V4-Pro | 开放 LLM(1.6T MoE) | 褒贬不一 | 推理能力强;支持 Huawei 芯片 | 相比 GPT-5.5 存在 10 倍 token 膨胀;社区认为其“训练严重不足” |
| GPT-5.5 | 云端 LLM | 褒贬偏正面 | VoxelBench 领先;Image 2 全景生成;AA Index 60 | 冗长问题持续;编码能力未带来前沿级推进 |
| GPT Image 2 | 图像生成 | 非常积极 | 输出逼真;可生成 360 度全景;局部细节准确 | 会给不存在的人打隐私马赛克(一个有趣瑕疵) |
| Heretic | Abliteration 工具 | 非常积极 | AGPL-3.0;最佳衍生版本 KLD 低至 0.0015;作者支持 | 成为抄袭目标;参数设置需谨慎 |
| vllm 0.19 | 服务引擎 | 非常积极 | 支持 NVFP4+MTP;Qwen 3.6 27B 在 5090 上达 100 tps;支持 TurboQuant KV cache | 想跑到峰值成绩需要较新硬件 |
| llama.cpp | 推理引擎 | 非常积极 | 支持 NVFP4/MXFP4;DS V4 Flash 在 Mac 上可达 21 t/s;硬件覆盖广 | CPU/GPU 混合模式下,Windows 比 Linux 慢 100-143% |
| OpenCode | Agent 脚手架 | 积极 | 支持本地模型;兼容 llama-server | 需要手动配置 |
| PaddleOCR-VL-1.5 | 视觉语言 OCR | 积极 | 可通过 llama-server 处理复杂版式、表格和多语言文本 | 社区测试仍有限 |
5. 大家正在构建什么¶
| 项目 | 构建者 | 功能 | 解决的问题 | 技术栈 | 阶段 | 链接 |
|---|---|---|---|---|---|---|
| Heretic 抄袭取证分析 | u/nathandreamfast | 通过 17 点代码比对,恢复已删除的 PyPI 软件包 | 用 SHA-256 证据核实开源许可证违规 | PyPI CDN 恢复、代码 diff | 已发布 | dreamfast.github.io/reaper-analysis |
| Qwen3.6-35B-A3B Heretic 无审查版 | u/My_Unbiased_Opinion via llmfan46 | KLD 0.0015 的无审查模型,采用独立注意力参数 | 在质量损失极小的前提下提供本地无审查模型 | Heretic、Qwen 3.6 | 已发布 | HuggingFace |
| Darwin-36B-Opus | u/jacek2023 | 进化式模型繁育:Qwen3.6-35B-A3B × Claude 蒸馏变体 | 无需重训即可自动改进模型 | Darwin V7、单 GPU | 已发布 | HuggingFace |
| Qwen3.6 27B 100tps 技术栈 | u/Kindly-Cantaloupe978 | INT4 AutoRound + MTP,在 RTX 5090 上以 256K 上下文跑到 100 tps | 实现本地推理最大吞吐 | vllm 0.19、AutoRound | 活跃 | r/LocalLLaMA 帖子 |
| DeepSeek V4 Flash 本地推理 | u/antirez | 在 MacBook M3 Max 上通过 2-bit routed experts 量化,将 V4 Flash 跑到 21 t/s | 在消费级硬件上运行前沿本地模型 | llama.cpp、自定义量化器 | 实验中 | GitHub |
| c137 结构化记忆系统 | u/MontyOW | 采用结构化存储、无需 embedding,LongMemEval-S 达 90.4% | 在不承担 embedding 开销的情况下实现长期记忆 | 三阶段流水线、结构化存储 | 活跃 | c137.ai/research |
| PaddleOCR-VL 图书 OCR 流水线 | u/Final-Frosting7742 | 面向图书的版面检测、区域 OCR,以及 Markdown+HTML 表格输出 | 用本地视觉语言模型做图书数字化 | PaddleOCR-VL-1.5、llama-server、Vulkan | 已发布 | GitHub |
| GeoGuessr 时光旅行克隆 | u/Proof-Square7528 | 批量生成 360 度历史全景图 | 提供 AI 生成的历史街景体验 | GPT Image 2 API | 演示 | wen-ware.com |
| OpenAI 隐私过滤器 | OpenAI | PII 检测与遮蔽模型 | 保护隐私的文本处理 | 小模型、开放权重 | 已发布 | HuggingFace |
| 实时 EEG 冥想系统 | u/uisato | AI 解读实时脑信号,生成引导冥想提示 | 基于实时 EEG 的个性化冥想 | OpenBCI、TouchDesigner、Python | 演示 | r/singularity 帖子 |
| Qwen3.6-35B-A3B KLD 测量流水线 | u/Phaelon74 | 基于真实 GPU logits 的量化质量 KLD 测量 | 提供更权威的量化质量对比 | 修改版 vllm、RTX 6000 | 活跃 | GitHub |
6. 新动态与值得关注的项目¶
OpenAI 放弃 SWE Bench Verified,并承认存在刷榜¶
OpenAI 发布了 为什么他们不再评测 SWE Bench Verified,确认该基准已被刷榜。u/rm-rf-rm 在 r/LocalLLaMA 中分享了这一消息(105 分,28 条评论)。u/noctrex(9 分)则指出 swe-rebench.com 是一个替代方案,因为它会持续刷新题目。
NVIDIA 为 DeepSeek V4 提供 Blackwell 首日支持¶
u/shikizen 报道了 NVIDIA 在 1.6T 模型上实现每秒 3,500 个 token(48 分,21 条评论),展示了 Blackwell GPU 对 DeepSeek V4 的 day-0 支持。
Darwin-36B-Opus:进化式模型繁育跑到 88.4% GPQA¶
u/jacek2023 发布了 Darwin-36B-Opus(79 分,19 条评论),介绍了一个通过自动化进化繁育、将 Qwen3.6-35B-A3B 与 Claude 蒸馏变体结合得到的模型。整个过程在单张 GPU 上不到一小时即可完成,并在 GPQA Diamond 上取得了 88.4%。
推测解码让 Gemma-4-31B 达到 120-200 tok/s¶
u/Clasyc 报道了 使用 Gemma-4-31B + Gemma-4-E2B 的推测解码达到 120-200 tok/s(22 分,14 条评论),称这一速度是在特定任务上实现的。
结构化记忆系统在无 embedding 情况下于 LongMemEval-S 达到 90.4%¶
u/MontyOW 发布了一则 结构化存储方案(44 分,13 条评论),在 LongMemEval-S 上取得 90.4%,检索准确率为 98%,所用 token 约为基于 embedding 方法的一半。该系统采用固定的三阶段流水线(检索、回答、存储),用结构化映射取代向量搜索。

Anthropic 的岗位暴露数据揭示 60-80 个百分点的能力-采用鸿沟¶
u/Professional-Rest138 分析了 Anthropic 的劳动力市场论文(82 分,13 条评论),将 AI 理论能力与实际覆盖之间的差距拆解为五类:法律约束、集成摩擦、验证开销、工作流惯性,以及质量门槛。计算机和数学类职业的理论能力覆盖率达到 94%,但实际观测覆盖率只有 33%。
7. 机会在哪里¶
**+++]** 本地推理正在跨过编程 Agent 的可用性门槛。Qwen 3.6 27B 在 RTX 5090 上达到 100 tps,在单张 RTX 3090 上达到 71-83 tok/s,而 DeepSeek V4 Flash 在 MacBook M3 Max 上达到 21 t/s,提供了三个不同硬件层级的可行本地编程方案。社区正在产出系统化的量化数据(KLD 测量、精度恢复基准、操作系统性能对比),但目前还没有统一工具能把这些发现整合成针对特定硬件的建议。构建一层自动配置层,根据给定硬件画像选择最优量化、KV cache 设置和服务参数,正好填补了这一明确空白。([100 tps stack,3090 配置,V4 Flash 本地运行)
**++]** token 效率正在成为关键差异化因素。GPT-5.5 以少 2.5 到 10 倍的 token 用量,达到了与 DeepSeek V4-Pro 相近的结果。针对特定工作流衡量并优化 token 效率的工具——而不是只看原始能力基准——正在满足日益增长的需求。SWE Bench 被“刷榜”一事得到确认,也进一步把价值重心推向真实世界的效率指标。([Intelligence density,SWE Bench)
**+]** 进化式与混合式模型构建正在以极少算力产出强劲结果。Darwin-36B-Opus 通过在单张 GPU 上不到一小时的自动育种,达到了 88.4% 的 GPQA Diamond。Heretic 这一无审查模型则通过专家参数化实现了 0.0015 的 KLD。这些技术让没有训练预算的人也能实现模型定制。([Darwin,Heretic 模型)
8. 核心结论¶
-
HauhauCS 抄袭事件是本月本地 LLM 社区最重大的开源伦理事件。 该帖获得 442 分、166 条评论,Heretic 作者也亲自确认了结论(543 分),而被指控者旗下 22 个模型月下载量合计超过 500 万。这件事将重塑社区评估模型来源的方式。这次取证的深度——包括经 SHA-256 验证的下载、逐字符一致的错别字,以及完全相同的 Optuna 参数边界——为衍生关系分析树立了新标准。(分析讨论串)
-
一项借助 AI 完成的 Erdos Problem #1196 解法,已经在 Lean 4 中完成形式化验证。 这个 LLM 采用了一种“此前没人想到用于这类问题”的新方法,而整套证明已由大约 4,000 行形式化代码完成机器验证。由于具备形式化验证,且有 Terence Tao 直接参与,这与以往 AI 数学突破的说法在性质上明显不同。(Scientific American 讨论)
-
Qwen 3.6 27B 在单张 RTX 5090 上、256K 上下文条件下达到 100 tps。 通过 vllm 0.19 上的 INT4 AutoRound 量化和 MTP 推测解码,这一组合刷新了消费级 GPU 本地推理速度纪录。与此同时,35B-A3B 的 MoE 版本在 NVFP4 量化下的 KLD(0.176)明显差于 INT8(0.007),实测也证实 MoE 比 dense 版本更吃量化质量。(100 tps,KLD 数据)
-
DeepSeek V4-Pro 正面临越来越强的 token 效率质疑。 TerminalBench 2.0 数据显示,它需要的 token 大约是 GPT-5.5 的 10 倍;尽管模型大了 2.5 倍,却比 V3.2 更差。社区当前的主导性解释是:这个模型“训练严重不足”,而本次发布的首要目标是兼容 Huawei Ascend 芯片。与此同时,antirez(Redis 创始人)在 MacBook 上通过 2-bit 量化将 V4 Flash 以 21 t/s 的速度本地跑起来,并称其为“在我的电脑上运行的前沿模型”。(token 效率,本地 V4)
-
GPT Image 2 是 GPT-5.5 这一发布周期里最明确的赢家。 GeoGuessr 时光旅行克隆(584 分)、写实的达卡街景(318 分),以及在 VoxelBench 上的统治级表现(2106 评分、96.1% 胜率),都展现出 GPT-5.5 文本模型的冗长问题无法掩盖的创作能力。社区正逐步收敛到这样的结论:“创意很强,但话痨问题依旧。”(GeoGuessr,VoxelBench)
-
Palantir 相关帖子达到 1,070 分的峰值互动,同时还有多条 AI 与社会议题热帖。 再加上伦敦警察厅调查、NSF 董事会成员被解职(481 分)、Microsoft 买断(164 分)、中国工人被替代(246 分),以及 Alpha 世代的 AI 女友(198 分),当天这些社会议题合计吸引的关注度超过了任何单一技术话题。这些担忧已经不再是边缘议题。(Palantir,NSF)
-
在 llama.cpp 中进行 CPU/GPU 混合提示处理时,Linux 比 Windows 快 100-143%。 这是首次在完全相同硬件(RTX 5080 + i9-14900KF)上进行的系统性操作系统基准测试。结果显示,生成速度差异只有 4-8%,但在 CPU/GPU 混合模式的提示处理上,Linux 明显更快。这对那些模型会溢出到系统内存的用户具有现实意义。(操作系统基准测试)
-
社区对基准测试的信任仍在持续下滑。 OpenAI 自己对放弃 SWE Bench Verified 的解释,等于直接证明了古德哈特定律正在应验。再结合昨天关于 benchmaxxing 的讨论,社区正越来越不相信公开基准,而更倾向于任务定制评测和真实世界实测报告。(SWE Bench)