跳转至

Reddit AI - 2026-04-27

1. 大家在讨论什么

1.1 GPT Image 2 领先优势扩大,GPT-5.5 冗长问题仍未消退(🡕)

GPT Image 2 延续爆发式势头,拿下当天得分最高的帖子。u/Proof-Square7528 发布了 使用 gpt-image-2 的 GeoGuessr 时空穿越克隆版(得分 1723,103 条评论),展示了通过 API 批量生成 360 度历史全景图。u/xirzon(得分 274)指出:“给不存在的人打上隐私马赛克,这个细节很妙。”u/Beasty_Glanglemutton(得分 246)则调侃凯撒的年代错了 1500 年,既凸显了模型的照片级真实感,也暴露出其历史准确性的局限。

u/Rare_Bunch4348 分享了 ChatGPT 配合 Image 2 的这次回归简直离谱(得分 582,85 条评论),将一条布加迪街景提示词与 Nano Banana Pro 进行对比。u/Able-Line2683(得分 199)表示:“第二张图看起来就像真照片。”u/No-Caterpillar3739(得分 46)指出剩下的破绽:招牌文字“像是孟加拉字母和印地文字母杂交出来的孩子”。

u/ENT_Alam 发布了 GPT 5.4 和 GPT 5.5 在 MineBench 上的差异(得分 191,32 条评论),展示了在 3D Minecraft 建造基准测试中,模型从 5.4 到 5.5 的 Elo 提升了 270。总成本为 19.98 美元,平均推理时间为 624 秒——比约 25 美元的 GPT 5.4 更便宜,印证了 OpenAI 关于效率的说法。

在批评方面,u/No-Yesterday-1624 发帖询问 GPT5.5,但为什么废话还是这么多?(得分 345,37 条评论)。u/RealCat7386(得分 58)表示:“我问它一些给客户介绍汽车配置的简单问题,它却给我整篇大论安全考量和市场趋势,我明明只需要参数规格。”u/Calm-Branch1671(得分 9)给出了社区共识:“我喜欢 Claude 4.6——它挺能拿捏你的风格,以及你需要的细节深度。”

讨论洞察: GPT Image 2 的创意与视觉能力已无可争议,但文本模型过于冗长正逐渐成为一个固定槽点。MineBench 数据表明,GPT-5.5 确实比 5.4 更聪明、也更便宜,但“废话太多”的问题让用户感受不到这种提升。

与前一天对比: GeoGuessr 帖子得分从 584 飙升至 1723。Image 2 对比帖从 318 增长到 582。冗长问题讨论帖小幅上涨,从 306 增至 345。MineBench 对比是新出现的内容,为“更强但更啰嗦”的叙事增加了量化证据。

1.2 HauhauCS 抄袭案发酵至临界点(🡕)

Heretic 抄袭事件仍在持续升级。u/nathandreamfast 的 取证分析(得分 674,205 条评论)现已包含 17 组并排代码对比、经 SHA-256 验证的下载文件,以及逐字符一致的拼写错误。Heretic 的创建者 u/-p-e-w-(得分 744)确认:“这两个代码库之间确实存在数百处表层和深层相似之处。”他最后尖锐地表示:“如果你想基于 Heretic 构建自己的 abliteration 工具,我有个好消息:你不必偷我的代码。我已经把它送给你了。”

u/CelvestianNesy(得分 86)表示,自己此前就曾点名揭露 HauhauCS,结果“随即被拉黑”。u/JockY(得分 34)称:“HauhauCS 不止一次对我表现得像个恶心的混蛋,而我做的始终只是要求他公开其主张的证据。”

与此同时,基于 Heretic 的正当工作仍在继续。u/My_Unbiased_Opinion 发布了 Qwen3.6 35B A3B Heretic(KLD 0.0015!)令人惊艳的模型(得分 431,88 条评论)。u/-p-e-w-(得分 126)称赞其作者“毫无疑问是 Heretic 的高手”。u/mantafloppy(得分 4)报告称工具调用会陷入无限循环,这一问题在模型界面的截图中也能看到。

截图显示 Qwen3.6-35B-A3B-uncensored-heretic 模型陷入无限工具调用循环,反复请求 get-web-search-summaries

讨论洞察: 社区正在明确划清界限:一边是抄袭,即 HauhauCS 去掉 AGPL 署名并重新授权;另一边是合法的开源衍生,即 llmfan46 在正确署名的前提下使用 Heretic。“拉黑批评者”和声称存在“私有方法”的模式,正逐渐成为最强烈的负面声誉信号。

与前一天对比: 主帖得分从 442 增至 674,评论数从 166 增至 205。-p-e-w- 的热门评论得分从 543 增至 744。Heretic 模型帖从 287 增至 431。社区的愤怒正在加剧,而不是消退。

1.3 业余爱好者借助 AI 解开 60 年 Erdos 难题——事件持续发酵(🡕)

u/Marha01 分享了 一位业余爱好者只靠向 AI 提问,竟解决了一个 60 年前的数学难题(得分 997,121 条评论),链接到 Scientific American 关于 Erdos Problem #1196 的报道。文中所用 LLM 采用了“一个在相关数学分支中早已广为人知、但此前没人想到应用到这类问题上的公式”。这份证明已通过约 4,000 行 Lean 4 代码完成形式化验证。

u/sckchui(得分 517)强调了关键洞察:“这个 LLM 是在自己思考,而且正因如此,它实际上给出了一个很丑的答案。尽管如此,它写出的那堆东西(也可以说是 slop)里,包含了一个人类专家迄今尚未发现的新颖且可能重要的洞察。”u/ferminriii(得分 65)整理了一份全面的资源表,其中包括 GitHub 上的 Lean 4 形式化验证、Terence Tao 用于追踪 AI 对 Erdos 问题贡献的 wiki,以及 Jared Lichtman 在 X 上发布的详细帖子串(浏览量超过 968K)。

u/Peanut_Extreme_8208(得分 59)从数学界内部报告称:“面对可能被 AI ‘取代’的前景,确实存在一种真实的恐惧和挫败感。”该用户还链接到一篇近期 arxiv 论文,由多位顶尖数学家讨论这些问题。

讨论洞察: Lean 4 形式化验证和 Terence Tao 的直接参与,继续让这一事件区别于以往的 AI 数学主张。如今,这个故事正在积累结构化的支撑材料——形式化证明、专家评论和社区资源,而不再只是炒作。

与前一天对比: 得分从 579 增至 997。sckchui 的评论得分从 297 增至 517。数学界“恐惧”这一角度(Peanut_Extreme_8208)从 16 增至 59,说明“职业影响”这一框架正引发共鸣。

1.4 Qwen 3.6 优化:推测解码与多 GPU 方案取得突破(🡒)

Qwen 3.6 的优化热潮已从量化转向推测解码和多 GPU 配置。

u/sandropuppo 发布了 Luce DFlash:单张 RTX 3090 上运行 Qwen3.6-27B,吞吐最高可达 2 倍(得分 321,92 条评论),展示了一套基于 ggml 的独立 C++/CUDA 推测解码栈。在 RTX 3090 搭配 UD-Q4_K_XL 目标模型的测试中,HumanEval 达到 78.16 tok/s(2.24x),Math500 达到 69.77 tok/s(1.99x),GSM8K 达到 59.65 tok/s(1.71x),相较自回归推理平均加速 1.98x。该系统将 KV cache 压缩为 TQ3_0(3.5 bpv),并使用滑动窗口 flash attention,在 24 GB 显存中支持 256K 上下文。u/Thrumpwart(得分 72)表示:“这确实是本地 AI 推理与创新的黄金时代。”

u/akira3weet 发布了 致 16GB VRAM 用户:把你的旧 GPU 插上吧(得分 281,155 条评论),展示了 16GB 的 5070Ti 搭配一张老款 6GB 的 2060,在 Qwen3.6-27B Q4_K_M 和 128K 上下文下可达到 19 tok/s;而单卡溢出到 RAM 时只有 4 tok/s。u/tmvr(得分 178)立即质疑:“你为什么让 5070Ti 和 2060 用 Vulkan?用 CUDA 啊。”作者随后补充了 CUDA 基准:在 8K 上下文下,双 GPU 的 tg 达到 25.4 tok/s,单 GPU 为 16.5 tok/s。u/mac1e2(得分 22)分享了一份受限系统的详细报告:在 GTX 1650 4GB 加 62GB RAM 上运行 Qwen3.6-35B-A3B,解码速度达到 20-21 tok/s,并认为“受限系统的方法论,仍然比许多如今 GPU 资源充足的本地 LLM 实践走得更远”。

u/LocalAI_Amateur 发布了 写代码写到一半从 Qwen3.6 35b-a3b 切换到 Qwen3.6 27b,结果明显更好(得分 247,87 条评论)。在一项找 bug 任务中,IQ3_M 量化的稠密 27B 模型击败了 IQ4_XS 量化的 MoE 35B 模型。u/ridablellama(得分 45)指出:“对于拥有 16-24 GB 显存的人来说,这会成为谁都拿不走的基线。”

u/Kindly-Cantaloupe978 延续了 100 tps 的 Qwen3.6-27B 配置栈(得分 236,85 条评论),INT4 AutoRound + MTP 通过 vllm 0.19 在 RTX 5090 上于 256K 上下文达到 105-108 tps。

讨论洞察: 社区关注点正从“该用哪种量化级别?”转向“该采用什么系统架构?”——推测解码、多 GPU 配置和 GBNF 语法约束,正成为新的优化方向。稠密 27B 与 MoE 35B 的争论正在产生一致数据:稠密模型对量化的耐受性更好,在显存受限时更值得选。

与前一天对比: 昨天的重点是 100 tps 的 INT4 纪录和 KLD 测量。今天新增了 Luce DFlash(RTX 3090 上平均加速 1.98x)、双 GPU 配置指南,以及首个系统性的 27B 对 35B 编码对比。优化阶段正从量化调优扩展到架构层面的解决方案。

1.5 中国阻止 Meta 以 20 亿美元收购 Manus(🡕)

u/Nunki08 发布了 Meta 对 Manus 的 20 亿美元收购被中国叫停(得分 269,81 条评论),援引国家发展和改革委员会的安全审查决定及 Bloomberg 报道。u/CYTR_(得分 153)表示:“花 20 亿美元买这么个连效果都不太行的套壳产品。”u/ilintar 从更广的背景出发评论道:“比如说,如果 DeepSeek 要收购 Huggingface,美国监管机构也会这么做。毕竟这是一场 AI 冷战。”u/Ok_Recognition315(得分 48)表示:“Zuckerberg 得感谢 Xi 帮他省了这笔钱。”u/LatentSpacer(得分 33)则联想到 Adobe-Figma 交易:“我觉得几年后 Manus 可能会像很多 AI 套壳产品一样一文不值。”

中国政府安全审查决定文件,阻止外国投资者收购 Manus 项目

讨论洞察: 社区共识是,中国算是帮了 Meta 一个忙。大家对 Manus 作为“AI 套壳产品”的怀疑很强,而“AI 冷战”的地缘政治框架,则让这起事件看起来更像一种正在常态化的先例,而非例外。

与前一天对比: 昨天未涉及此事。这是一起突发事件,并将立即影响跨境 AI 收购。

1.6 AMD Hipfire 与替代推理引擎挑战 CUDA 主导地位(🡕)

u/Thrumpwart 发布了 AMD Hipfire——一款为 AMD GPU 优化的全新推理引擎(得分 267,69 条评论),介绍了一款采用自定义 mq4 量化方法的社区引擎。u/alphatrad(得分 58)报告了在 RX 7900 XTX 上的测试结果:在代码提示词上使用 DFlash,“306.27 tok/s,相比 AR 基线 106 t/s,加速 2.86x,且输出连贯”。u/Own_Suspect5343(得分 26)发布了详细的 Strix Halo 对比:hipfire 的 AR 解码速度比 llama.cpp 快 30%(45 对 34.5 tok/s),但 llama.cpp 的预填充大幅领先。代码提示词上的 DFlash 实现了 3.45x 加速。

u/FullstackSensei(得分 34)提出了生态碎片化问题:“如果他们直接支持 GGUF,事情本来会简单得多……真希望整个行业都采用 GGUF,而不是动不动就各搞各的一套。”

与此同时,u/TheBlueMatt 分享了 mesa 的 PR:在 Linux 上基于 Intel Xe2 的 Vulkan 运行 llama.cpp 时,pp 性能提升 37% 到 130%(得分 44),u/lurenjia_3x 发布了 Skymizer Taiwan Inc. 发布突破性架构,实现单卡超大规模 LLM 推理(得分 100,31 条评论)——一张配备 384 GB 内存的 PCIe 卡,以约 240W 的功耗运行 700B 参数模型解码。

讨论洞察: AMD 推理生态正分化为多种相互竞争的方案(hipfire、ROCm/llama.cpp、自定义引擎),而 Intel Xe2 的 Vulkan 改进和 Skymizer 的 HTX301 等新型硬件又进一步增加了多样性。共同趋势是:非 CUDA 推理在解码方面已开始真正具备竞争力,尽管预填充仍然更偏向 CUDA/llama.cpp。

与前一天对比: 昨天报道了 llama.cpp 在 Windows 与 Linux 上的基准测试。今天新增了 hipfire 这一全新的 AMD 原生引擎、颇具潜力的早期数据、Intel 的 mesa Vulkan 提升,以及 Skymizer 的新型硬件方案。非 CUDA 生态在一天之内显著扩张。

1.7 AI 视觉模型接受抽象艺术测试——结果揭示能力差距(🡕)

u/normal_TFguy 发布了 我给 4 个 AI 模型看了一些没有任何提示的 Kandinsky 风格抽象 Pokemon 艺术作品,结果有点离谱(得分 718,123 条评论),让 Opus 4.7、GPT-5.5、Claude Sonnet 4.6 和 Gemini 3.1 Pro 识别艺术家 “8th Project” 创作的几何化 Pokemon 抽象图。结果显示:Opus 4.7 无需思考便立即识别出全部 4 个;GPT-5.5 识别出 3 个;开启 extended thinking 的 Sonnet 4.6 识别出 2 个;Gemini 3.1 Pro “思考了 4 分半钟,使用了搜索,最后认定它们全是 Sailor Moon 角色”。艺术家 u/8thproject(得分 352)回应道:“我很高兴 AI 没猜出我的作品。”

由 8th Project 创作的 Kandinsky 风格抽象几何 Pokemon 艺术作品,用作 AI 视觉识别测试

讨论洞察: 这是一次异常干净的能力测试——相同图片、相同提示词、不做提示词工程,专门测试模型在刻意模糊的刺激下进行纯视觉模式识别的能力。Opus 4.7 在未开启思考的情况下取得这一结果,尤其值得注意。

与前一天对比: 昨天未涉及此事。这是一项新的创意基准测试,与 VoxelBench 和 MineBench 一样,虽属非正式评估,但信号强度很高。


2. 什么让大家感到沮丧

开源抄袭与问责缺口

严重程度:高

HauhauCS 抄袭事件目前已有 205 条评论,并得到 Heretic 作者(得分 744)和取证分析作者的双重确认。社区的不满并不局限于这一事件:HauhauCS 的 22 个模型每月下载量超过 5M,而其拉黑批评者的做法,也让人开始质疑这些模型的来源。u/a_beautiful_rhind(得分 55)表示:“如果你干这种事,迟早会被发现。然后你会被揭穿是个超级骗子,声誉也就没了。”(分析帖)

GPT-5.5 的冗长问题仍未解决

严重程度:中

u/No-Yesterday-1624(得分 345)概括了持续存在的不满:尽管 GPT-5.5 在基准测试中的表现可量化地更强,但它在回答中仍会加入大量无谓填充。u/pig_n_anchor(得分 2)阐述了结构性担忧:“社交媒体讲的是注意力经济。但 AI 讲的是亲密经济。只要打造一个始终肯定用户、抚慰其自尊、强化其宏大妄想的模型,你就能拥有一个终身用户。”(冗长度讨论帖)

OpenAI 确认 SWE Bench 存在刷榜行为

严重程度:中

u/rm-rf-rm 发布了 OpenAI 对 为什么他们不再评测 SWE Bench Verified 的官方解释(得分 419,100 条评论)。u/Velocita84(得分 304)表示:“可惜,这就是所有公开基准测试的最终归宿。”u/suicidaleggroll(得分 85)称:“基准测试要想保持有效,确实需要闭源。”u/noctrex(得分 51)则提到了 swe-rebench.com,称其会持续更新题目,是一种替代方案。

DeepSeek V4 缺少社区工具支持

严重程度:中

u/rm-rf-rm 发帖询问 DeepSeek V4-Flash 还没有 GGUF 吗?(得分 23,50 条评论)。u/coder543(得分 53)解释道:“DeepSeek 发布这些‘预览版’模型,其中一半原因就是给社区留出时间,在模型完全训练完成前构建对 DS4 架构的支持。”llama.cpp 的支持需要进行大量架构层面的工作,导致社区目前无法生成 GGUF,也无法通过标准工具在本地运行 V4。


3. 大家希望有什么

统一的量化与硬件配置指南

量化方法和硬件配置的激增,正让用户无所适从。u/denis-craciun 发帖询问 Unsloth 模型真有传闻中那么好吗?(得分 92,204 条评论)。u/emprahsFury(得分 61)反驳营销说法:“q4 量化说到底就是 q4 量化。大家做的事情和 Unsloth 一样。”u/rebelSun25 发帖询问 27b 到 31b 模型的硬件选择(得分 49,99 条评论),引发了围绕双 3090、单张 9700XT Pro、两张 5060 Ti 以及 RTX Pro 5000 的相互矛盾建议。用户想要的是一个有明确倾向的配置工具,而不是更多选项。

非 JavaScript 的代理式编程框架

u/OUT_OF_HOST_MEMORY 发帖询问 有没有不是基于 JS 和 Node 构建的智能体编程 harness?(得分 34,84 条评论),理由是担心 npm 供应链攻击。u/08148694(得分 51)表示:“你打算让一个持续运行、无人监管的代理工作,却担心 npm 供应链攻击,这实在太好笑了。”建议包括 Codex(Rust)、pi/openclaw 和 crush(Go),但社区想要的是更成熟的选择。

能达到 Claude Code 水平的本地编程代理

u/exaknight21 发帖询问 用于本地开发的最佳编程代理(CLI)是什么,类似 Claude Code 那种(得分 144,141 条评论)。u/tulsadune(得分 126)推荐 opencode + llama.cpp。u/robogame_dev(得分 18)则指出,TerminalBench 2.0 数据显示,在使用 Opus 4.6 时,Claude Code 在 10 个 harness 中实际上排名垫底——这说明 harness 可能比模型本身更重要。


4. 大家正在使用的工具和方法

工具 类别 评价 优势 局限
Qwen 3.6 27B 本地 LLM(稠密) 非常积极 RTX 5090 上超过 100 tps;IQ3_M 量化仍能有效完成编码;Luce DFlash 让 RTX 3090 吞吐提升 2x 长上下文需要谨慎管理 KV cache;单张 16GB 显卡运行较慢
Qwen 3.6 35B-A3B 本地 LLM(MoE) 积极 Apple Silicon 上速度快;Heretic 衍生模型表现强劲(KLD 0.0015) 对量化的耐受性不如 27B;有人报告工具调用无限循环;GBNF 语法有所帮助
GPT-5.5 / GPT Image 2 云端 LLM + 图像 褒贬不一但整体偏积极 Image 2 的照片级真实感无可争议;MineBench 提升 270 Elo;比 5.4 更便宜 冗长问题持续存在;训练奖励长输出
Claude Opus 4.7 云端 LLM 积极 抽象视觉识别最佳(4/4 个 Pokemon);因简洁受到称赞 不是今天讨论的重点
DeepSeek V4-Flash 开放 LLM(284B MoE) 积极 通过 antirez fork 在 MacBook 上达到 21 t/s;相比 V3.2 节省 7-12x KV cache 尚无 llama.cpp 支持;没有可用的 GGUF
Heretic Abliteration 工具 非常积极 最佳衍生模型 KLD 0.0015;采用 AGPL-3.0;正积极开发 v1.3 成为抄袭目标;部分衍生模型存在工具调用循环
Luce DFlash 推测解码 非常积极 RTX 3090 上平均加速 1.98x;MIT 许可证;独立 C++/CUDA 实现 仅支持 CUDA;仅支持贪心验证;不支持 Metal/ROCm/多 GPU
Hipfire AMD 推理引擎 早期积极 7900 XTX 上 DFlash 加速 2.86x;Strix Halo 上解码比 llama.cpp 快 30% 使用自定义 mq4 格式(非 GGUF);预填充远慢于 llama.cpp;仍处于 alpha 阶段
vllm 0.19 服务引擎 非常积极 Qwen 3.6 27B 超过 100 tps;TurboQuant 3-bit KV cache;MTP 推测解码 需要较新的硬件
OpenCode 代理脚手架 积极 内置本地模型默认配置;兼容 llama-server 打磨程度不如 Claude Code

5. 大家正在构建什么

项目 构建者 功能 解决的问题 技术栈 阶段 链接
Luce DFlash u/sandropuppo 使用 DDTree 验证为 Qwen3.6-27B 提供 GGUF 推测解码 无需重新训练,即可让单张 RTX 3090 吞吐提升 2x C++/CUDA、ggml、TQ3_0 KV cache 已发布(MIT) GitHub
Heretic 抄袭取证分析 u/nathandreamfast 通过 17 项代码对比和 SHA-256 证据证明许可证违规 验证开源衍生声明 PyPI CDN 恢复、代码 diff 已发布 dreamfast.github.io/reaper-analysis
Qwen3.6-35B-A3B Heretic Uncensored u/My_Unbiased_Opinion via llmfan46 使用独立注意力参数、KLD 0.0015 的无审查模型 在质量损失极小的情况下提供本地无审查模型 Heretic、Qwen 3.6 已发布 HuggingFace
Hipfire Kaden Schutt 面向 AMD 优化、使用自定义 mq4 量化的推理引擎 在 RDNA GPU 上实现快速解码 HIP/ROCm、自定义量化 Alpha GitHub
GeoGuessr 时间旅行克隆 u/Proof-Square7528 批量生成 360 度历史全景图 AI 生成的历史街景 GPT Image 2 API 演示版 wen-ware.com
Qwen3.6 推理的 GBNF 语法 u/Holiday_Purpose_3166 通过约束语法减少 83-94% 的推理 token 浪费 防止 MoE 模型在简单提示词上过度思考 llama.cpp GBNF 已发布 r/LocalLLaMA 帖子
MineBench 3D Minecraft 基准测试 u/ENT_Alam via Ammaar-Alam 对比模型空间推理能力的 3D 体素建造基准测试 量化创意和空间智能的提升 自定义 JSON 渲染器 活跃开发中 minebench.ai
MIMO V2.5 PRO Xiaomi 视觉语言推理模型 大规模多模态推理 MIT 许可证 已发布 HuggingFace
本地世界模型游戏 u/howthefrondsfold 将照片转换为可控制玩法的端侧世界模型 在 iPhone 上实现交互式 AI 游戏 自定义世界模型 实验性 r/ArtificialInteligence 帖子

6. 新动态与值得关注的内容

中国阻止 Meta-Manus 交易,确立 AI 收购审查先例

中国国家发展和改革委员会发布安全审查决定,禁止 Meta 以 20 亿美元收购 AI 代理初创公司 Manus。这是中国监管机构首次阻止一笔备受关注、专门涉及 AI 的跨境交易。Bloomberg 已确认这一决定。鉴于社区普遍怀疑 Manus 只是“套壳产品”且价值有限,整体舆论倾向认为这对 Meta 来说反而是件好事。(r/LocalLLaMA 讨论帖)

MIMO V2.5 PRO 以 MIT 许可证发布

u/Namra_7 发布了来自 Xiaomi 的 MIMO V2.5 PRO(得分 169,71 条评论)。u/ortegaalfredo(得分 98)表示:“到这个地步,中国简直是在把硅谷的脸按在地上摩擦。他们不是只有一个 SOTA AI 模型,而是大概有 10 个。而且全都免费。”

白领就业自 2016 年以来首次出现年度下降

u/Bizzyguy 分享了 白领就业正在急剧下滑(得分 593,43 条评论),援引 Kobeissi Letter 的数据称,S&P 500 企业员工数量在 2025 年减少 400,000,降至 28.1 million。u/unmasteredDub(得分 146)表示:“其中一部分与 AI 有关,但我确实认为,目前很多失业源于经济走弱。”u/mothman83(得分 79)则反驳道:“下降 1.5%……我不认为这能被如实描述为‘大幅下降’。”

DeepSeek V4 KV Cache 分析显示节省 7-12x

u/Ok_Warning2146 发布了 详细的 KV cache 拆解(得分 119,48 条评论),计算得出 V4 Flash 在 1M 上下文下约占用 6.72 GiB,而 V3.2 需要 83.88 GiB——节省 12.5x。V4 Pro 在 1M 上下文下占用 9.62 GiB。作者总结道:“这基本把当前所有 transformer-SSM 混合模型的 KV cache 占用都打穿了。”

Nemotron 3 Nano 主导 4B 模型级别

u/FederalAnalysis420 发布了 2026 年的 4B 级别模型(得分 48,14 条评论),对 5 个 3-4B 规模模型进行了基准测试。NVIDIA 的 Nemotron 3 Nano 以 85% 的总成绩获胜(金融 100%,推理 80%),击败 phi4-mini(77%)、gemma4:e4b(62%)、granite4:3b(54%)和 qwen3.5:4b(15%)。作者指出了一个系统性问题:在固定 1024-token 预算下,思考模型会把 token 消耗在隐藏推理轨迹上,因此表现不佳。


7. 机会在哪里

**+++]** 推测解码正跨过消费级硬件上的实用门槛。Luce DFlash 在 RTX 3090 上实现了平均 1.98 倍加速,hipfire 在 RX 7900 XTX 上针对代码任务报告了 2.86 倍加速,而 RTX 5090 上的 100 tps Qwen 3.6 27B 配置栈使用了 MTP。然而,这些实现彼此都不兼容(格式不同、硬件目标不同、量化方式不同)。如果能有一个统一的推测解码层,能够针对特定硬件+模型组合自动选择最佳草稿模型和验证策略,将能服务整个生态系统。([Luce DFlash,hipfire,100 tps 配置栈)

**++]** 现在迫切需要开源许可证合规工具。HauhauCS 案例是通过对恢复出来的 PyPI 包进行艰苦的人工分析才发现的。对于来源存疑、每月下载量超过 500 万次的模型来说,能够自动扫描衍生迹象(相同的拼写错误、共享函数名、保留的参数边界、SPDX 标头模式)的工具,将可以大规模发现违规行为。社区已经通过把该取证分析顶到 674 票、把作者确认帖顶到 744 票,证明了这一需求。([Plagiarism analysis)

**++]** 面向混合代际硬件的多 GPU 配置仍然缺乏支持。那篇双 GPU 帖子(281 分,155 条评论)表明,人们对“如何搭配新旧显卡”的指导有着巨大的需求。数据显示,在 8K 上下文下,单卡 16 tok/s 提升到双卡 25 tok/s——仅仅加上一张旧 2060,就有 54% 的提升。目前还没有工具能为异构 GPU 组合自动完成配置(层拆分、缓存放置、后端选择)。([Dual GPU guide)

**+]** 基准评测方法需要把思考型模型考虑进去。那个 4B 基准显示,Qwen3.5 4B 只拿到 15%,因为它把 1024 token 预算耗在了隐藏推理上。固定预算的基准会系统性地惩罚思考型模型,却无法衡量它们的真实能力。按模型分配 token 预算,或采用自适应评测框架,能提供更准确的比较。([4B benchmark)

**+]** AI 能力与职场现实之间的鸿沟依然很大。METR 的后续研究表明,开发者速度提升大约只有 15% 到 20%,而“100 倍”的说法仍然存在。能够衡量真实工作流效率(而不是基准分数),并帮助组织校准预期的工具,将能切中这个由宣传与现实错位所定义的市场。([Developer speed evidence)


8. 要点总结

  1. GPT Image 2 是 GPT-5.5 周期中最具压倒性的主线。 GeoGuessr 时间旅行帖得分达到 1723(高于昨天的 584),并有 103 条评论,远远超过当天其他帖子,成为得分最高的内容。Image 2 的布加迪对比帖得分达到 582。与此同时,GPT-5.5 文本模型仍因“废话太多”受到批评,得分为 345。GPT 与竞争对手之间的创意和多模态差距正在扩大,而文本冗长问题仍未得到解决。(GeoGuessr,冗长度)

  2. HauhauCS 抄袭案正在升温,而不是淡化。 得分从 442 增至 674,评论数从 166 增至 205,Heretic 作者的确认评论得分从 543 增至 744。社区正借此划清界限:合法的开源衍生(Heretic 模型得分 431,并获得原作者称赞)与抄袭(删除署名、违反许可证、拉黑批评者)泾渭分明。这将重塑本地模型生态对来源透明度的预期。(分析)

  3. 推测解码正成为消费级推理的新前沿。 Luce DFlash 在 RTX 3090 上实现平均 1.98x 加速;hipfire 报告称 AMD 在代码任务上最高可加速 2.86x;而达到 100 tps 的 Qwen 3.6 27B 方案使用了 MTP。这些并非论文中的理论数字,而是来自独立社区实现和可复现基准测试的实际结果。CUDA、ROCm 和自定义引擎之间的碎片化既带来了挑战,也创造了统一整合的机会。(Luce DFlash,hipfire)

  4. 中国阻止 Meta 以 20 亿美元收购 Manus,确立 AI 交易审查先例。 国家发展和改革委员会的安全审查决定,是中国监管机构首次阻止一笔备受关注、专门涉及 AI 的跨境交易。社区共识是,Meta 为一个“套壳产品”支付了过高价格,而在 AI 地缘政治中,互相阻止此类交易将成为新常态。(Meta-Manus 讨论帖)

  5. Erdos Problem #1196 的故事正持续积累结构性可信度。 得分从 579 增至 997。Lean 4 形式化验证、Terence Tao 的参与,以及“此前没人想到可用于此类问题的公式”这一新方法结合在一起,使其成为迄今 AI 作为数学协作者而非单纯计算器的最有力证据。(Erdos 讨论)

  6. 对于显存受限的用户,稠密 27B 正逐渐成为比 MoE 35B 更务实的选择。 多份实测报告一致显示,在编码任务中,IQ3_M 的 Qwen3.6 27B 击败 IQ4_XS 的 35B-A3B,且量化耐受性更好、表现更稳定。双 GPU 配置指南(得分 281,155 条评论)为 16GB 用户提供了一条具体路径:通过混搭代际显卡达到 25 tok/s。(27B 对比 35B,双 GPU)

  7. SWE Bench 刷榜行为现已得到正式确认。 OpenAI 对放弃 SWE Bench Verified 的解释,使相关帖子得分从 105 飙升至 419。社区越来越倾向于使用针对具体任务的评估(MineBench、TerminalBench、Kandinsky 艺术测试),而不是公开基准测试。u/noctrex(得分 51)指出,swe-rebench.com 展示了持续刷新评估题目的模式。(SWE Bench)

  8. S&P 500 企业员工数量在 2025 年减少 400,000,但这是否由 AI 导致仍存在争议。 这一头条数字(得分 593)立即引发质疑:1.5% 的降幅算不上“大幅下降”,疫情后的过度招聘修正仍在持续,经济走弱也是因素之一。社区正在形成对 AI 替代就业更细致的看法——并不否认这一趋势,但反对把每一次裁员都归因于 AI。(就业讨论帖)