跳转至

Reddit AI - 2026-04-26

1. 大家在讨论什么

1.1 HauhauCS 抄袭 Heretic,震动开源 LLM 社区(🡕)

一宗证据链极为完整的抄袭事件主导了 r/LocalLLaMA 的讨论。u/nathandreamfast 发布了 HauhauCS 发布了一个抄袭 Heretic 且未注明来源、并违反其许可证的 abliteration 包(442 分,166 条评论),给出了一份包含 17 个要点的代码取证分析。证据包括:Heretic v1.2.0 的 7/7 个模块文件名被原样保留;30/32 个拒答标记逐字符一致(包括把 "i am an ai" 少了个 "m" 写成 "i an ai" 这样的错别字);以及 30 多个相同的函数名和类名。该软件包却以 PolyForm Noncommercial 许可证发布,违反了 Heretic 的 AGPL-3.0 许可。

Heretic 的作者 u/-p-e-w-(Philipp Emanuel Weidmann)发表了得分最高的评论(543 分):“我必须完全确认楼主的发现和结论……这两套代码库在表层和深层上都有数百处相似之处。”他指出 SPDX 头信息、一种他“从未在文献里见过”的几何中位数方法,以及 DatasetSpecification 字段,都是证据。他最后写道:“如果你想基于 Heretic 做你自己的 abliteration 工具,我有个好消息:你根本不需要偷我的代码。我本来就在免费送给你。”u/a_beautiful_rhind(44 分)总结道:“干这种破事,迟早会被查出来。到时候大家就会发现你是个彻头彻尾的冒牌货。”

另一个帖子里,u/My_Unbiased_Opinion 发布了 Qwen3.6 35B A3B Heretic(KLD 0.0015!)令人难以置信的模型(287 分,59 条评论),这是一个合法的、基于 Heretic 衍生的无审查模型。u/-p-e-w-(76 分)称赞其作者“毫无疑问是 Heretic 的大师级用户”,并说他“在这里做的远不只是跑了个命令行程序”。

讨论洞察: 社区正在明确划清合法开源衍生(注明出处、沿用同一许可证)与抄袭之间的界限。这次分析的取证深度,再加上 Heretic 作者的直接确认,使其成为近年来证据最扎实的案例之一。

与前一天的对比: 昨天未涉及。这是一起新的争议事件,可能会对 HauhauCS 的 22 个模型产生后续影响——这些模型合计月下载量超过 500 万。

1.2 业余研究者借助 AI 解开 60 年前的埃尔德什问题(🡕)

u/Marha01 分享了 一位业余爱好者仅靠向 AI 提问,就解决了一个 60 年未解的数学问题(579 分,79 条评论),链接到《科学美国人》关于 Erdos Problem #1196 的报道。文中称,这个 LLM “走了一条完全不同的路线,使用了一个在数学相关领域早已广为人知、但此前没人想到应用到这类问题上的公式”。Terence Tao 审阅并精简了证明。最终结果已用约 4,000 行 Lean 4 代码完成形式化验证。

u/sckchui(297 分)点出了关键细节:“这个 LLM 是在自己思考,也正因如此,它实际上给出了一个很丑的答案。尽管如此,它写出来的这团乱麻(你也可以说是 slop)里,包含了一个新颖且可能很重要的洞见,而人类专家到目前为止一直没注意到。”u/Peanut_Extreme_8208(16 分)表示:“在数学圈内部,大家确实对被 AI ‘取代’这件事感到恐惧和沮丧。”

讨论洞察: 通过 Lean 4 完成的形式化验证,是这件事区别于以往 AI 数学突破说法的关键。LLM 的贡献不是暴力计算,而是建立了一个新颖的概念联系。

与前一天的对比: 昨天未涉及。这是新进展。

1.3 Qwen 3.6 优化进入系统化阶段(🡒)

Qwen 3.6 的优化热潮仍在继续,新的速度纪录和量化数据不断出现。

u/Kindly-Cantaloupe978 发布了 Qwen3.6-27B-INT4 在 1 张 RTX 5090 上、256k 上下文长度下跑出 100 tps(195 分,68 条评论),在昨天 80 tps 的基础上继续提升:使用 AutoRound INT4 量化、MTP 推测解码,以及通过 vllm 0.19 实现的 fp8_e4m3 KV cache。u/Important_Quote_1180(22 分)则报告称,在单张 RTX 3090 上使用 TurboQuant 3-bit KV cache、125K 上下文时,可达 71-83 tok/s。

u/ROS_SDN 讨论了 Qwen3.6 35b a3b 的量化效应(72 分,71 条评论),指出 MoE 版本在 Q4 和 Q8 之间存在“非常明显”的质量差异。u/LaurentPayot(27 分)分享了一张基准图,展示精度恢复率:UD-Q4_K_XL 在 22.4 GB 下可恢复到全精度准确率的 98.5%,而 UD-Q3_K_XL 在 16.8 GB 下反而达到 100.0%——这一反直觉结果说明,更小的量化版本可能因为生成 token 更少而受益。

Qwen3.6-35B-A3B 的 GGUF 评测,展示了不同量化级别下的精度恢复、模型大小和 token 数量

u/Phaelon74 通过修改后的 vllm 流水线、使用真实 GPU logits,对 Qwen3.6-35B-A3B 在 INT 和 NVFP4 量化下的 KLD(46 分,20 条评论)进行了测量。数据显示,sakamakismile 的 NVFP4 版本 KLD 最差,达到 0.176;而 INT8 量化的 KLD 则低于 0.008。作者提醒道:“NVFP4 这块蛋糕,一如既往,是假的。”

Qwen3.6-35B-A3B 各量化方法的 KL Divergence 与文件大小散点图,显示 NVFP4 表现不佳

u/boutell 写了一篇详尽的 在配备 32GB RAM 的 M2 MacBook Pro 上使用 Qwen 3.6 35B-A3B 进行编程的实测报告(68 分,43 条评论)。该模型在适配器模式任务上表现成功(“构建一个兼容的东西,并通过同一套测试”),但在一个基于几何的 CSS/PDF 定位 bug 上失败了。作者总结认为,它“比 Claude Code 需要更多引导”,但在结构化任务上仍优于手工实现。

u/Ok_Mine189 发布了 基准测试:Windows 11 vs Lubuntu 26.04 在 Llama.cpp 上的表现(57 分,61 条评论)。Linux 在所有模型上的 token 生成速度都快 4-8%,但真正醒目的结果出现在 CPU/GPU 混合的提示处理上:Linux 快了 100-143%。u/ambient_temp_xeno(37 分)解释说:“与其说是 Windows 天生有问题……不如说是搞 CUDA 的开发根本不在乎 Windows 性能。”

讨论洞察: 社区正在产出系统化的量化数据,显示 MoE 35B-A3B 比 dense 27B 对量化更敏感。基于 KLD 测量,对 NVFP4 的反弹情绪也在升温。RTX 5090 上的速度纪录则还在不断被刷新。

与前一天的对比: 昨天的重点是 27B dense 版本的 KV cache 量化,以及在 RTX 5090 上达到 80 tps。今天新增了 100 tps 的 INT4 纪录、针对 MoE 的 KLD 测量、Windows 与 Linux 的基准对比,以及一份详细的 M2 实测报告。优化阶段正在产出越来越可直接落地的数据。

1.4 DeepSeek V4 第三天:对“智能密度”的批评升温(🡖)

围绕 DeepSeek V4 的叙事,已经从发布时的兴奋转向对 token 效率的批判性分析。

u/Mindless_Pain1860 发布了 DeepSeek V4 Pro 的智能密度下降(209 分,88 条评论),给出了 TerminalBench 2.0 数据,显示 V4-Pro 为了达到与 GPT-5.5 相近的表现,所需 token 大约是后者的 10 倍。帖子正文还指出,“即便在非思考模式下,它使用的 token 也明显多于 V3.2”。

TerminalBench 2.0 图表:比较 GPT-5.5 与 GPT-5.4 的 token 效率,并列出 DeepSeek V4 各变体

u/Puzzleheaded-Drama-8(136 分)坚持“训练不足”这一观点:“我预计未来几个月新 checkpoint 出来后,这个模型会有巨大提升。”u/TheKingOfTCGames(46 分)指出:“GPT 5.5 是专门为 token 效率训练的——它大概比 Opus 高效 3-5 倍,比 Sonnet 高效大约 10 倍。”u/Hyp3rSoniX(25 分)则给出一个战略层面的解释:“我觉得 v4 发布的主要目标,是让这些模型能跑在 Huawei Ascend AI 处理器上。”

u/antirez(Redis 创始人)发布了 llama.cpp 对 DeepSeek v4 Flash 的实验性推理(41 分,37 条评论),在一台配备 128GB RAM 的 MacBook M3 Max 上,对 routed experts 使用激进的 2-bit 量化、对 shared experts 使用 Q8,跑到了 21 t/s。他写道:“这是第一次,即便用了这种选择性的 2-bit 量化,我仍觉得自己是在电脑上跑一个前沿模型。”

讨论洞察: 社区开始按不同变体分别评价 V4:Flash 仍是公认的成本效率赢家,而 Pro 则因 token 密度问题遭遇越来越多质疑。“为了兼容华为芯片”这套说法,则给 Pro 不尽如人意的 token 效率提供了一个相对善意的解释。

与前一天的对比: 昨天报道的是 V4 发布带来的兴奋感和 Flash 的定价。今天,昨天初始帖里对智能密度的批评(当时 119 分)明显升温,如今已到 209 分,而“训练不足”也已成为主导性解释。antirez 的本地推理里程碑则补充了新的实践维度。

1.5 GPT-5.5 与 GPT Image 2:创意跃升,话痨依旧(🡒)

围绕 GPT-5.5 的评价基本稳定在两个极点:创作能力令人惊艳,但冗长问题依然存在。

u/Proof-Square7528 发布了 用 gpt-image-2 制作的 geoguessr 时间旅行克隆版(584 分,47 条评论),展示了历史场景的 360 度全景图。u/xirzon(117 分)注意到一个有趣细节:“给并不存在的人打隐私马赛克,这点很妙。”u/Rare_Bunch4348 分享了 ChatGPT 借助 Image 2 实现的回归简直太惊人了(318 分,58 条评论),并与 Nano Banana Pro 做了并排对比。u/Able-Line2683(115 分)评论道:“第二张看起来像真照片。”

u/Akashictruth 发布了 GPT 5.5 Xhigh VoxelBench 测试(176 分,35 条评论),展示了包括 Spider-Man 和纽约天际线在内的 Minecraft 体素建筑。VoxelBench 排行榜显示,GPT-5.5 xHigh 以 2106 分遥遥领先。

VoxelBench 实时排行榜显示,GPT-5.5 xHigh 以 2106 评分和 96.1% 胜率居首,其后是 Gemini 3.1 Pro Preview,评分为 1725

在批评的一侧,u/No-Yesterday-1624 发起了 GPT5.5 还是这样,但为什么废话还是这么多?(306 分,31 条评论)。u/RealCat7386(53 分)把大家的不满说得很直接:“我还是觉得,这些模型被训练得太礼貌、太‘乐于助人’了,而不是直接给答案。”u/Calm-Branch1671(9 分)则给出模型对比:“我喜欢 Claude 4.6——它很会拿捏你的风格和你需要的深度。”

u/artemisgarden 制作了 OpenAI 在 Artificial Analysis 上的评分随时间变化(202 分,38 条评论)中的图表,展示从 GPT-3.5(9 分)到 GPT-5.5(60 分)的变化轨迹。评论者指出,这张 AI 生成图表的日期有误。

图表显示 OpenAI 旗舰模型在 Artificial Analysis Index 上的智能水平随时间变化:从 GPT-3.5 的 9 分到 GPT-5.5 的 60 分

讨论洞察: GPT Image 2 是这次 GPT-5.5 发布中毫无争议的赢家。文本模型则继续招致“车轱辘话太多”的抱怨。社区正逐渐形成共识:Claude 更适合精准表达,GPT 则胜在创意广度。

与前一天的对比: 昨天讨论的是 SimpleBench 分数和“强模型感”。今天新增了 GeoGuessr 克隆、Image 2 对比,以及对冗长问题的集中抱怨。整体评价正在趋于稳定:这是一个创意能力和多模态能力都很强的模型,但话痨问题依旧。

1.6 社会层面的担忧:Palantir、科学政策与 AI 岗位替代(🡒)

多条高互动帖子都聚焦于 AI 的社会影响。

u/shikizen 发布了 Palantir 员工正在谈论公司“滑向法西斯主义”(1,070 分,130 条评论),引用 Ars Technica 关于内部 Slack 消息和一份主张美国应考虑恢复征兵的宣言的报道。u/5553331117(284 分)对此并不意外:“我相当确定他们一直就是铁杆法西斯。这就是他们的商业模式。”u/esporx 在 r/artificial 的转帖(488 分,58 条评论)进一步放大了这件事的影响。u/prisongovernor 还补充了现实后果:Met 在使用 Palantir AI 工具后,对数百名警员展开调查(68 分,13 条评论)。

u/esporx 报道了 Trump 解雇了整个 National Science Board(481 分,62 条评论)。u/Illuminatus-Prime(136 分)评论道:“特朗普痛恨任何能证明他错的东西。”

在劳动力替代方面,u/Bharath720 发布了 Microsoft 向资深员工提供自愿买断方案,涉及美国员工总数的 7%(164 分,36 条评论)。u/ada_stack(16 分)观察道:“如果连那些直接为利润做出贡献的资深工程师,如今都被视为‘可替代’,那对其他人的要求只会越来越高。”u/chunmunsingh 还分享了 中国工人在被老板要求训练替代自己的 AI 时感到震惊(246 分,24 条评论)。

u/Beautiful_Bee4090 发布了 Alpha 世代男孩比起现实中的女友,更偏爱“AI 女友”(198 分,140 条评论)。u/Hartax_(67 分)从青少年第一人称视角写道:“按我和朋友们的经历,几乎没有女生觉得我们有吸引力,我学校里真正有女朋友的人也只有少数。这不是偏好问题,而是可供选择的对象就这么多。”

讨论洞察: Palantir 这条新闻的互动最高,但更值得注意的是更广泛的模式:劳动力替代、科学政策受扰、AI 监控的现实后果,以及对青少年社交的影响,都在同一天各自获得了很高的独立关注度。

与前一天的对比: 昨天报道了 Palantir、Microsoft 买断,以及中国工人培训接替者。今天新增了 NSF 董事会成员被解职、伦敦警察厅对 Palantir 的调查,以及 Alpha 世代与 AI 关系等话题。Palantir 事件的分数也从 675 升至 1,070。社会层面的担忧仍在持续扩散。

1.7 Google-Anthropic 400 亿美元投资:对冲还是背书?(🡒)

u/Ordinary-Cycle7809 讨论了 Google 向 Claude 投资 400 亿美元,这事说实话还挺搞笑的(193 分,142 条评论)。u/crystalpeaks25(141 分)补充了关键背景:“你知道 Anthropic 的模型是 Google 自家 Google Vertex AI 上用得最多的模型。Google 说有一部分收入来自 AI,实际上指的是大多数企业用户都在 Vertex AI 上使用 Anthropic 模型。”u/EndOfWorldBoredom(50 分)则从财务角度解读:“Google 刚发了低利率的 100 年期债券。他们是在把廉价资本投到能产生回报的地方。他们本质上就是一家带着科技投资组合的投资银行。”

讨论洞察: 社区普遍把这笔投资理解为财务层面的对冲,而不是对 Anthropic 技术的背书。Vertex AI 的细节被认为是最有说服力的解释。

与前一天的对比: 昨天提到了 Google 的 400 亿美元投资和 Amazon 的 50 亿美元投资。今天讨论则进一步成熟,围绕“对冲”这一框架展开,并补充了 Vertex AI 的具体背景。


2. 哪些事让大家感到沮丧

开源抄袭与许可证违规

严重程度:高

HauhauCS 发布了一个抄袭 Heretic AGPL-3.0 代码的 abliteration 软件包,去掉了所有署名,并改用 PolyForm Noncommercial 重新许可。证据包括逐字符一致的拒答标记,以及被原样保留的错别字。Heretic 作者 u/-p-e-w-(543 分)确认:“这明显违反了 AGPL 第 4 条和第 5 条,也明显违反了任何你能想到的道德标准。”HauhauCS 的 22 个模型月下载量合计超过 500 万,这也引发了对其所有模型来源的质疑。(抄袭分析)

DeepSeek V4 Pro 的 token 膨胀

严重程度:中

在 TerminalBench 2.0 上,V4-Pro 为了达到与 GPT-5.5 相近的表现,需要大约多 10 倍的 token;即使在非思考模式下,使用的 token 也明显多于 V3.2,尽管模型规模大了 2.5 倍。u/Mindless_Pain1860 记录下这一倒退:“这个模型的智能密度不是提高了,而是下降了。”(智能密度讨论串)

GPT-5.5 的冗长问题仍未消失

严重程度:中

u/No-Yesterday-1624 抓住了这种不满(306 分):GPT-5.5 的回答里仍有大量“车轱辘话”。u/RealCat7386(53 分)说:“我问的是给客户用的简单汽车功能问题,它却给我整篇讲安全考量和市场趋势的长文,而我其实只需要参数规格。”社区认为,这与偏好更长输出的训练奖励结构有关。(冗长度讨论串)

NVFP4 量化质量不及预期

严重程度:中

u/Phaelon74 对 Qwen3.6-35B-A3B 的 NVFP4 量化进行了 KLD 测量,发现其表现明显逊于同等位宽下的 INT 量化。sakamakismile 的 NVFP4 版本 KLD 达 0.176,而同一基础模型的 INT8 版本仅为 0.007。“NVFP4 这块蛋糕,一如既往,是假的。”(KLD 分析)

SWE Bench 刷榜被正式坐实

严重程度:低

u/rm-rf-rm 转发了 OpenAI 对 为什么他们不再评测 SWE Bench Verified 的官方解释(105 分)。u/Mashic(82 分)提到了古德哈特定律。u/suicidaleggroll(39 分)则认为:“基准测试如果想保持有效,恐怕真的得做成封闭测试。”


3. 大家希望出现什么

Qwen 3.6 的 Coder 版本(或者官方确认根本不需要)

u/ComplexType568 提问了 Qwen3.5/3.6 Coder?(91 分,53 条评论)。u/StardockEngineer(73 分)回应:“我几乎觉得已经没必要了。”u/NNN_Throwaway2(47 分)也表示认同:“3.6 完全可以直接当作 ‘coder’ 版本发布。”社区希望要么看到专门的 coder 变体,要么得到官方确认:基础模型已经覆盖了这个角色。

可靠的量化质量指南

GGUF Q2-Q8、NVFP4、MXFP4、INT4 AutoRound、AWQ、GPTQ 等量化方法在不同硬件上层出不穷,让用户无所适从。u/denis-craciun 提问了 Unsloth 模型真有我看到的那么好吗?(100 分,162 条评论)。u/emprahsFury(48 分)反驳营销话术:“q4 量化本质上就是 q4 量化。大家做的和 Unsloth 没什么两样。”用户想要的是独立于提供方的质量指标。

面向新发布架构的推测解码草稿模型

u/butterfly_labs 提问了 现在有兼容 Qwen3.6 27B 的 DFlash 草稿模型了吗?(27 分,20 条评论)。推测解码带来的提速已经得到验证(有人报告吞吐量提升 3 倍),但兼容的草稿模型仍然总是落后于新架构发布。

面向 Agent 工作流的最低可用硬件指南

u/MexInAbu 提问了 你认为本地 Agent 工作流可用的最低性能(t/s)是多少?(40 分,60 条评论)。u/triplebits(8 分)给出了最成体系的回答:低于 15 t/s 会有明显卡顿,20-25 t/s 可用于规划任务,35+ t/s 则基本不再以模型为瓶颈。社区希望看到和工作流类型挂钩的标准化硬件建议。


4. 正在使用的工具和方法

工具 类别 情绪 优势 局限
Qwen 3.6 27B 本地 LLM(dense) 非常积极 RTX 5090 上可达 100 tps;Q4 可装入单张 3090;适合编码 Agent 使用 长上下文下需要谨慎管理 KV cache
Qwen 3.6 35B-A3B 本地 LLM(MoE) 积极 在 Apple Silicon 上比 27B 快 8 倍;无审查衍生版本(Heretic)表现强劲 比 27B 更易受量化影响;低于 Q4 后 KLD 急剧恶化
DeepSeek V4-Flash 开放 LLM(284B MoE) 积极 2-bit 量化下在 MacBook 上达 21 t/s;MIT 许可证;1M 上下文 无多模态;token 效率低于 GPT-5.5
DeepSeek V4-Pro 开放 LLM(1.6T MoE) 褒贬不一 推理能力强;支持 Huawei 芯片 相比 GPT-5.5 存在 10 倍 token 膨胀;社区认为其“训练严重不足”
GPT-5.5 云端 LLM 褒贬偏正面 VoxelBench 领先;Image 2 全景生成;AA Index 60 冗长问题持续;编码能力未带来前沿级推进
GPT Image 2 图像生成 非常积极 输出逼真;可生成 360 度全景;局部细节准确 会给不存在的人打隐私马赛克(一个有趣瑕疵)
Heretic Abliteration 工具 非常积极 AGPL-3.0;最佳衍生版本 KLD 低至 0.0015;作者支持 成为抄袭目标;参数设置需谨慎
vllm 0.19 服务引擎 非常积极 支持 NVFP4+MTP;Qwen 3.6 27B 在 5090 上达 100 tps;支持 TurboQuant KV cache 想跑到峰值成绩需要较新硬件
llama.cpp 推理引擎 非常积极 支持 NVFP4/MXFP4;DS V4 Flash 在 Mac 上可达 21 t/s;硬件覆盖广 CPU/GPU 混合模式下,Windows 比 Linux 慢 100-143%
OpenCode Agent 脚手架 积极 支持本地模型;兼容 llama-server 需要手动配置
PaddleOCR-VL-1.5 视觉语言 OCR 积极 可通过 llama-server 处理复杂版式、表格和多语言文本 社区测试仍有限

5. 大家正在构建什么

项目 构建者 功能 解决的问题 技术栈 阶段 链接
Heretic 抄袭取证分析 u/nathandreamfast 通过 17 点代码比对,恢复已删除的 PyPI 软件包 用 SHA-256 证据核实开源许可证违规 PyPI CDN 恢复、代码 diff 已发布 dreamfast.github.io/reaper-analysis
Qwen3.6-35B-A3B Heretic 无审查版 u/My_Unbiased_Opinion via llmfan46 KLD 0.0015 的无审查模型,采用独立注意力参数 在质量损失极小的前提下提供本地无审查模型 Heretic、Qwen 3.6 已发布 HuggingFace
Darwin-36B-Opus u/jacek2023 进化式模型繁育:Qwen3.6-35B-A3B × Claude 蒸馏变体 无需重训即可自动改进模型 Darwin V7、单 GPU 已发布 HuggingFace
Qwen3.6 27B 100tps 技术栈 u/Kindly-Cantaloupe978 INT4 AutoRound + MTP,在 RTX 5090 上以 256K 上下文跑到 100 tps 实现本地推理最大吞吐 vllm 0.19、AutoRound 活跃 r/LocalLLaMA 帖子
DeepSeek V4 Flash 本地推理 u/antirez 在 MacBook M3 Max 上通过 2-bit routed experts 量化,将 V4 Flash 跑到 21 t/s 在消费级硬件上运行前沿本地模型 llama.cpp、自定义量化器 实验中 GitHub
c137 结构化记忆系统 u/MontyOW 采用结构化存储、无需 embedding,LongMemEval-S 达 90.4% 在不承担 embedding 开销的情况下实现长期记忆 三阶段流水线、结构化存储 活跃 c137.ai/research
PaddleOCR-VL 图书 OCR 流水线 u/Final-Frosting7742 面向图书的版面检测、区域 OCR,以及 Markdown+HTML 表格输出 用本地视觉语言模型做图书数字化 PaddleOCR-VL-1.5、llama-server、Vulkan 已发布 GitHub
GeoGuessr 时光旅行克隆 u/Proof-Square7528 批量生成 360 度历史全景图 提供 AI 生成的历史街景体验 GPT Image 2 API 演示 wen-ware.com
OpenAI 隐私过滤器 OpenAI PII 检测与遮蔽模型 保护隐私的文本处理 小模型、开放权重 已发布 HuggingFace
实时 EEG 冥想系统 u/uisato AI 解读实时脑信号,生成引导冥想提示 基于实时 EEG 的个性化冥想 OpenBCI、TouchDesigner、Python 演示 r/singularity 帖子
Qwen3.6-35B-A3B KLD 测量流水线 u/Phaelon74 基于真实 GPU logits 的量化质量 KLD 测量 提供更权威的量化质量对比 修改版 vllm、RTX 6000 活跃 GitHub

6. 新动态与值得关注的项目

OpenAI 放弃 SWE Bench Verified,并承认存在刷榜

OpenAI 发布了 为什么他们不再评测 SWE Bench Verified,确认该基准已被刷榜。u/rm-rf-rm 在 r/LocalLLaMA 中分享了这一消息(105 分,28 条评论)。u/noctrex(9 分)则指出 swe-rebench.com 是一个替代方案,因为它会持续刷新题目。

NVIDIA 为 DeepSeek V4 提供 Blackwell 首日支持

u/shikizen 报道了 NVIDIA 在 1.6T 模型上实现每秒 3,500 个 token(48 分,21 条评论),展示了 Blackwell GPU 对 DeepSeek V4 的 day-0 支持。

Darwin-36B-Opus:进化式模型繁育跑到 88.4% GPQA

u/jacek2023 发布了 Darwin-36B-Opus(79 分,19 条评论),介绍了一个通过自动化进化繁育、将 Qwen3.6-35B-A3B 与 Claude 蒸馏变体结合得到的模型。整个过程在单张 GPU 上不到一小时即可完成,并在 GPQA Diamond 上取得了 88.4%。

推测解码让 Gemma-4-31B 达到 120-200 tok/s

u/Clasyc 报道了 使用 Gemma-4-31B + Gemma-4-E2B 的推测解码达到 120-200 tok/s(22 分,14 条评论),称这一速度是在特定任务上实现的。

结构化记忆系统在无 embedding 情况下于 LongMemEval-S 达到 90.4%

u/MontyOW 发布了一则 结构化存储方案(44 分,13 条评论),在 LongMemEval-S 上取得 90.4%,检索准确率为 98%,所用 token 约为基于 embedding 方法的一半。该系统采用固定的三阶段流水线(检索、回答、存储),用结构化映射取代向量搜索。

LongMemEval-S 排行榜显示,c137 系统借助多个模型后端和结构化存储,总体得分达到 90.4%

Anthropic 的岗位暴露数据揭示 60-80 个百分点的能力-采用鸿沟

u/Professional-Rest138 分析了 Anthropic 的劳动力市场论文(82 分,13 条评论),将 AI 理论能力与实际覆盖之间的差距拆解为五类:法律约束、集成摩擦、验证开销、工作流惯性,以及质量门槛。计算机和数学类职业的理论能力覆盖率达到 94%,但实际观测覆盖率只有 33%。


7. 机会在哪里

**+++]** 本地推理正在跨过编程 Agent 的可用性门槛。Qwen 3.6 27B 在 RTX 5090 上达到 100 tps,在单张 RTX 3090 上达到 71-83 tok/s,而 DeepSeek V4 Flash 在 MacBook M3 Max 上达到 21 t/s,提供了三个不同硬件层级的可行本地编程方案。社区正在产出系统化的量化数据(KLD 测量、精度恢复基准、操作系统性能对比),但目前还没有统一工具能把这些发现整合成针对特定硬件的建议。构建一层自动配置层,根据给定硬件画像选择最优量化、KV cache 设置和服务参数,正好填补了这一明确空白。([100 tps stack,3090 配置,V4 Flash 本地运行)

**++]** 需要开源许可证合规工具。HauhauCS/Heretic 事件是通过对恢复出的 PyPI 包进行手动取证分析才发现的。面对来源不明、月下载量超过 500 万的模型,若能有自动化工具扫描代码级派生迹象(相同拼写错误、共享函数名、保留的参数边界),就可以大规模发现许可证违规。AGPL 尤其要求识别衍生关系——用于验证合规性的工具将同时服务模型创建者和用户。([Plagiarism analysis)

**++]** token 效率正在成为关键差异化因素。GPT-5.5 以少 2.5 到 10 倍的 token 用量,达到了与 DeepSeek V4-Pro 相近的结果。针对特定工作流衡量并优化 token 效率的工具——而不是只看原始能力基准——正在满足日益增长的需求。SWE Bench 被“刷榜”一事得到确认,也进一步把价值重心推向真实世界的效率指标。([Intelligence density,SWE Bench)

**+]** 进化式与混合式模型构建正在以极少算力产出强劲结果。Darwin-36B-Opus 通过在单张 GPU 上不到一小时的自动育种,达到了 88.4% 的 GPQA Diamond。Heretic 这一无审查模型则通过专家参数化实现了 0.0015 的 KLD。这些技术让没有训练预算的人也能实现模型定制。([Darwin,Heretic 模型)

**+]** AI 能力与实际部署之间的差距(根据 Anthropic 数据,科技岗位中理论上可达 94%,实际观察仅 33%)在集成摩擦和验证开销这两个方面最大——而这两道障碍恰恰也是消退最快的。解决这两个具体障碍的工具,拥有最直接的增长轨迹。([Anthropic analysis)


8. 核心结论

  1. HauhauCS 抄袭事件是本月本地 LLM 社区最重大的开源伦理事件。 该帖获得 442 分、166 条评论,Heretic 作者也亲自确认了结论(543 分),而被指控者旗下 22 个模型月下载量合计超过 500 万。这件事将重塑社区评估模型来源的方式。这次取证的深度——包括经 SHA-256 验证的下载、逐字符一致的错别字,以及完全相同的 Optuna 参数边界——为衍生关系分析树立了新标准。(分析讨论串)

  2. 一项借助 AI 完成的 Erdos Problem #1196 解法,已经在 Lean 4 中完成形式化验证。 这个 LLM 采用了一种“此前没人想到用于这类问题”的新方法,而整套证明已由大约 4,000 行形式化代码完成机器验证。由于具备形式化验证,且有 Terence Tao 直接参与,这与以往 AI 数学突破的说法在性质上明显不同。(Scientific American 讨论)

  3. Qwen 3.6 27B 在单张 RTX 5090 上、256K 上下文条件下达到 100 tps。 通过 vllm 0.19 上的 INT4 AutoRound 量化和 MTP 推测解码,这一组合刷新了消费级 GPU 本地推理速度纪录。与此同时,35B-A3B 的 MoE 版本在 NVFP4 量化下的 KLD(0.176)明显差于 INT8(0.007),实测也证实 MoE 比 dense 版本更吃量化质量。(100 tps,KLD 数据)

  4. DeepSeek V4-Pro 正面临越来越强的 token 效率质疑。 TerminalBench 2.0 数据显示,它需要的 token 大约是 GPT-5.5 的 10 倍;尽管模型大了 2.5 倍,却比 V3.2 更差。社区当前的主导性解释是:这个模型“训练严重不足”,而本次发布的首要目标是兼容 Huawei Ascend 芯片。与此同时,antirez(Redis 创始人)在 MacBook 上通过 2-bit 量化将 V4 Flash 以 21 t/s 的速度本地跑起来,并称其为“在我的电脑上运行的前沿模型”。(token 效率,本地 V4)

  5. GPT Image 2 是 GPT-5.5 这一发布周期里最明确的赢家。 GeoGuessr 时光旅行克隆(584 分)、写实的达卡街景(318 分),以及在 VoxelBench 上的统治级表现(2106 评分、96.1% 胜率),都展现出 GPT-5.5 文本模型的冗长问题无法掩盖的创作能力。社区正逐步收敛到这样的结论:“创意很强,但话痨问题依旧。”(GeoGuessr,VoxelBench)

  6. Palantir 相关帖子达到 1,070 分的峰值互动,同时还有多条 AI 与社会议题热帖。 再加上伦敦警察厅调查、NSF 董事会成员被解职(481 分)、Microsoft 买断(164 分)、中国工人被替代(246 分),以及 Alpha 世代的 AI 女友(198 分),当天这些社会议题合计吸引的关注度超过了任何单一技术话题。这些担忧已经不再是边缘议题。(Palantir,NSF)

  7. 在 llama.cpp 中进行 CPU/GPU 混合提示处理时,Linux 比 Windows 快 100-143%。 这是首次在完全相同硬件(RTX 5080 + i9-14900KF)上进行的系统性操作系统基准测试。结果显示,生成速度差异只有 4-8%,但在 CPU/GPU 混合模式的提示处理上,Linux 明显更快。这对那些模型会溢出到系统内存的用户具有现实意义。(操作系统基准测试)

  8. 社区对基准测试的信任仍在持续下滑。 OpenAI 自己对放弃 SWE Bench Verified 的解释,等于直接证明了古德哈特定律正在应验。再结合昨天关于 benchmaxxing 的讨论,社区正越来越不相信公开基准,而更倾向于任务定制评测和真实世界实测报告。(SWE Bench)