跳转至

Reddit AI - 2026-04-25

1. 大家在讨论什么

1.1 DeepSeek V4 第二天:基准测试结论更清晰、架构令人惊艳,成本话题占据主导(🡕)

到了第二天,围绕 DeepSeek V4 的讨论已从发布时的兴奋,转向对基准测试、架构和定价的审慎评估。当天热度最高的帖子 这就是我们现在所处的位置,LocalLLaMA,由 u/jacek2023 发布(得分 2,272,337 条评论),分享了一张 HuggingFace CEO Julien Chaumond 的截图,其中对 Qwen3.6-27B 相比 Opus 给出了相当正面的评价。该帖附有图片。社区的反弹来得很快:u/ttkciar(得分 773)警告说:“把人们的预期拉得太高会引发反噬——当第一次使用 Qwen3.6-27B 的人启动它后,发现它和 Sonnet 差得很远,更别说 Opus 了。” u/sooki10(得分 111)也表示认同:“虽然我确实很喜欢这个模型,而且它在本地编程方面令人印象深刻,但它离 Opus 还差得很远,他应该避免这种比较,因为这会削弱他的论点。”

u/markeus101 发布了 Deepseek v4 用户(得分 1,862,265 条评论),这是一则图片帖,围绕“它是不是在训练数据里?”这个问题展开。u/redditscraperbot2(得分 1,230)直言:“我觉得这个问题已经过时了。它现在就在数据里,而且很可能还相当显眼。” 该帖附有图片。

来自 u/WhyLifeIs4 的发布讨论帖 DeepSeek V4 已发布(得分 912,245 条评论)仍在持续积累热度。u/Someone1Somewhere1(得分 167)评论道:“我的天,是只有我这么觉得,还是这个模型按这个价格来说强得离谱?” u/FaceDeer(得分 129)注意到其架构特点:“不错,这实现了他们几个月前发论文介绍过的那种流形约束超连接技巧。” u/cryyingboy(得分 66)则概括了当前节奏:“DeepSeek 一直在持续交付,而其他人还在写博客文章。”

u/MichaelXie4645 在 Deepseek V4 Flash 和非 Flash 版本已在 HuggingFace 上线 中给出了技术向深度解析(得分 773,309 条评论),这也是评论数最高的帖子。V4-Pro 拥有 1.6T 参数(激活 49B);V4-Flash 为 284B(激活 13B),两者上下文长度均为 1M token。u/toothpastespiders(得分 245)坦言:“我觉得这是我有史以来最懊恼自己的一次——当初装机器时,没在 RAM 上狠狠干一把。” u/synn89(得分 109)则说:“MIT 许可证?不错。” 该帖包含基准对比图片。

u/benja0x40 在 关于 DeepSeek V4 架构的要点与讨论 中分析了该架构(得分 132,77 条评论):“V4 使用了流形约束超连接,重新设计了信息在各模块之间的流动方式。据我所知,DeepSeek 是唯一一个解决了训练稳定性问题,并已将其投入生产环境的实验室。” u/dark-light92(得分 64)强调:“图表似乎表明,他们可以用大约 5GB 容纳 1M 上下文。这才是最大的看点。”

u/jwpbe 在 被埋没的重点:Deepseek v4 Flash 便宜得惊人 中点出了成本话题(得分 277,65 条评论):“输入 14 美分、输出 28 美分,以这种规模和能力来说便宜得离谱……尤其是在 Anthropic 一门心思想着为了 IPO 狠坑 Claude 用户的时候,这一点倒是挺让人欣慰。” u/Wise-Hunt7815(得分 102)补充道:“DeepSeek 表示,目前价格偏高是因为 GPU 短缺。等到今年下半年 GPU 产能提升后,价格还会继续下降。”

u/flavio_geo 在 DS4-Flash 对比 Qwen3.6 中贴出了正面对比(得分 293,99 条评论)。图片显示,在编程基准测试上,V4-Flash 略微领先于 Qwen 3.6 27B,但参数量是后者的 10 倍。u/6c5d1129(75 分)总结道:“所以它体量大了 10 倍,但效果只略好一点。” u/madsheepPL(44 分)提醒:“实际中,这些基准并不是线性的,即便看起来像。分数从 30 到 50,和从 50 到 70,并不是一回事。”

u/Recoil42 在 DeepSeek 确认基于 Huawei 的 V4 推理(312 分,25 条评论)中从基础设施角度报道:“等到今年下半年 950 个超级节点大规模上线后,Pro 的价格预计会显著下降。”

不过,u/Hemingbird 也指出了一个现实检验:DeepSeek V4 Pro 在 Arena 上表现令人失望(85 分,80 条评论)。u/Alternative-Duty-532(43 分)认为:“DeepSeek V4 在长上下文场景中表现更好,而且成本低得多。Arena 并没有真正体现这些优势。” u/Mindless_Pain1860 发布了 DeepSeek V4 Pro 的智能密度下降(119 分,62 条评论)。u/Puzzleheaded-Drama-8(81 分)表示:“在我看来,V4 Pro 明显训练不足。我预计未来几个月拿到新的检查点后,这个模型会有大幅提升。”

u/CallMePyro 在 Deepseek V4 Pro 运行 Artificial Analysis 基准测试的成本是 V3.2 的 15 倍(118 分,38 条评论)中量化了成本方面的担忧。u/Timkinut(25 分)则反驳道:“它还是比 Claude 和 GPT 便宜得多。考虑到它显现出的性能,这其实相当令人印象深刻。”

u/Comfortable-Rock-498 在 用一些大规模代码变更评测测试了 Deepseek v4 flash(149 分,22 条评论)中直接测试了 Flash 模型:“它在多次运行中至少发起了 100 次工具调用,没有出现一次错误,甚至同时编辑很多文件时也一样。”

u/NoFaithlessness951 发布了 Deepseek V4 flash(high)以五分之一的成本媲美 Gemini 3 flash(157 分,39 条评论)。u/Rent_South(55 分)跑了评测:“在我运行的某个智能体流水线环节里,V4 Flash 比两款最新的 Opus 模型都便宜 99%(低两个数量级),而且准确率更高。”

讨论洞察:社区分成了两派:一派对 V4 的架构和定价印象深刻,另一派则指出 Pro 版本相较其体量表现并不理想。Flash 正在成为公认的赢家:质量有竞争力,成本却大幅下降。

与前一天的对比:昨天是发布首日,讨论重点是初步的基准测试表。今天,社区转向了直接对比(DS4 vs Qwen3.6、DS4 vs Gemini Flash)、架构分析、Arena 结果以及成本效益测算。“训练不足”理论开始出现,被用来解释为何基准数据与这套架构展现出的潜力之间存在落差。

1.2 Qwen 3.6 优化潮:量化、速度、部署(🡒)

Qwen 3.6 进入了系统化优化阶段,社区开始产出量化研究、速度基准测试和部署指南。

u/jeremynsl 发布了 Qwen3.6-35B-A3B——即使在 VRAM 受限的场景下,使用比你预期更大的量化版本也可能更好!(261 分,80 条评论),发现 MoE 模型在 8GB VRAM 上能够运行比预期更大的量化版本:“让我惊讶的是,这居然快得多!在 128k 上下文窗口下,我现在看到的是 32 tokens/s。” u/TheCat001(得分 36)也证实:“从 Q4 跳到 Q6 之后,我在使用 MoE 模型时完全没有掉速。”

u/imgroot9 在 Qwen3.6 27B 的 KV cache 量化测试结果令人惊讶(得分 146,55 条评论)中贡献了一项详细的 KV 缓存量化研究,测量了 F16、Q8、Q4、Turbo4 和 Turbo3 的困惑度。F16 到 Q4_0 的差值只有 0.014——落在该测试 0.045 的误差范围内。u/Betadoggo_(得分 59)则提出反驳:“PPL 和 KLD 已经不再是衡量质量损失的好参照……Q4 kv 在这两个指标上看起来损失很小,但实际上会导致 AIME 表现大幅下滑。”

u/Kindly-Cantaloupe978 报道了 Qwen3.6-27B 在 1x RTX 5090 上实现约 80 tps 和 218k 上下文窗口(得分 219,95 条评论),内容是通过 vllm 0.19 使用带 MTP 的 NVFP4。u/Ok-Internal9317 在 请发一下你的 Qwen3.6 27B 速度(得分 33,178 条评论)中汇总了社区速度数据。亮点包括:有人声称在单张 RTX 4090 上借助推测解码达到 152 t/s,以及在 Radeon 780M iGPU 上达到 20 t/s。

u/itroot 展示了 Qwen3.6 35B-A3B 在 780m iGPU 上相当实用(得分 71,38 条评论),在一台 ThinkPad T14 的集成 GPU 上通过 Vulkan 实现了 20 t/s。u/2Norn(得分 18)对此回应:“igpu 上 20 tk/s 简直有点离谱。”

u/Zestyclose839 在 观点:Qwen 3.6 27b 在功能规划上胜过 Sonnet 4.6(得分 113,23 条评论)中提出观点,并贴出并排对比:“Qwen 彻底检查了我已经写好的代码,找出了明显更多的潜在问题……我推测,Qwen 在训练时被塑造成不那么盲目自信,并会花更多时间审查现有内容。”

u/ROS_SDN 在 Qwen3.6 35b a3b 的量化影响(得分 58,63 条评论)中探讨了相关问题,并指出 MoE 变体在 Q4 和 Q8 之间存在显著的质量差异。u/LaurentPayot(得分 19)分享了一个量化基准测试链接,显示出可测量的质量差距。

讨论洞察:一个共识正在形成:Qwen 3.6 27B(dense)对 KV 缓存量化的适应性较好,而 35B-A3B(MoE)则更敏感。社区正在产出系统性数据,而不只是零散轶事,这表明生态正在走向成熟。

与前一天对比:昨天的重点是 Qwen 3.6 agent 脚手架和 PI Coding Agent 集成。今天则转向系统性的量化测试、iGPU 可行性,以及跨多种硬件的速度基准测试。优化阶段已全面展开。

1.3 Anthropic 承压:复盘、对 IPO 的质疑、Google 投资(🡕)

随着社区一边消化已确认的质量退化问题,一边关注 Google 400 亿美元投资公告,围绕 Anthropic 复盘帖的讨论热度达到峰值。

u/spaceman_ 发布了 Anthropic 承认把托管模型做得更笨了,这证明了开放权重、本地模型的重要性(得分 1,128,228 条评论),链接到 Anthropic 4 月 23 日的事后复盘。帖文正文详细列出了 3 月 4 日到 4 月 20 日之间的三起退化事件,影响到 Sonnet 4.6、Opus 4.6 和 Opus 4.7。担任版务的 u/rm-rf-rm 在承认这种情绪的同时,给帖子加上了“误导性”标签:“这是营利性公司的结构性现实……关键在于,我们这些用户必须有选择,最重要的是,“拥有我们自己的 AI 的能力。”u/Automatic-Arm8153(442 分)表示:“对于那些曾经质疑、说我们因为怀疑这件事而显得很蠢的人——证据就直接来自源头。”u/dwrz(124 分)要求:“如果一个托管模型被量化了,或者其能力以某种方式被削弱了,我就应该获得折扣……我非常感激现在借助 llama.cpp 和 Qwen 3.6 27B 能做到的一切。”u/cutebluedragongirl(76 分)写道:“本地就是自由。”

u/Distinct-Question-16 又翻出了 就在 1 年前,Anthropic 还说完全由 AI 组成的员工队伍只差 1 年就会到来(1,078 分,237 条评论)。u/GrapefruitMammoth626(193 分)给出了较为克制的看法:“我认为从技术上说,你今天就能做到这一点。也许它 90% 的时候都能产出很棒的成果,但另外 10% 会出大岔子。”u/stellar_opossum(72 分)说得更直接:“挺好笑的,评论区还有人试图假装它并没有偏差那么大。不,各位,确实偏得很远,这就是那种失败的预测。”u/bonerb0ys(30 分)总结道:“把 AI 投资包装成‘一种强大到足以毁灭世界的技术’,是为了拿到真正想要的结果,而那个真正的目标是……并不清楚。”

u/narutomax 发帖询问了 Google 向 Anthropic 投资 400 亿美元。几天前 Amazon 刚投了 50 亿美元。这正常吗?(267 分,61 条评论)。u/radium_eye(136 分)看到了更大的图景:“在我看来,这就是一群现金充裕的公司在资金闭环里来回倒腾,希望出现某个足以证明这些支出合理的突破……他们本质上是把自己缠进了一个投资版的‘鼠王’,寄望它最终会大到不能倒。”u/VitruvianVan(59 分)指出了这种循环性:“那你觉得他们会拿 Google 的 400 亿美元做什么?去买 Google 的服务和最新一代 TPU。”

u/Ordinary-Cycle7809 讨论了 Google 向 Claude 投资 400 亿美元,说实话有点好笑(115 分,109 条评论)。u/crystalpeaks25(94 分)补充背景:“你知道 Anthropic 是 Google 自家 Google Vertex AI 上使用最多的模型。当 Google 说其一部分收入来自 AI 时,他们的意思是,其中大部分来自在 Vertex AI 上使用 Anthropic 模型的企业用户。”

讨论洞察:社区将 Google 的这笔投资解读为一种对冲,而不是背书。再结合这份事后复盘,以及“AI 员工”预测的落空,Anthropic 的处境被认为是经济上依然强势,但叙事上有所削弱。

与前一天的对比:昨天报道了 Mythos 泄露事件以及已被证实的性能退化。今天,关于事后复盘的讨论进一步发酵(得分从 280 跃升至 1,128),“AI 员工”预测的周年节点补充了历史背景,而 Google 的 400 亿美元投资则引入了新的经济维度。安全叙事与实际执行之间的可信度鸿沟仍在持续扩大。

1.4 GPT-5.5 第二天评估:观感强烈,基准结果不一(🡒)

围绕 GPT-5.5 的评估仍在继续,包括 SimpleBench 分数、创意能力演示,以及用户在定性层面的辩护。

u/SuggestionMission516 发布了 确凿证据表明,我们确实正在加速迈向奇点(1,652 分,143 条评论)——一张讽刺图表,描绘“GPT 数量”随时间变化。u/Evening-Guarantee-84(397 分)坦言:“我差点没看到这是个整活帖标签。”该帖附带了一张图片。这种幽默表明,社区正在消化对基准测试的疲劳感。

u/MohMayaTyagi 在 GPT 5.5 带来大模型的感觉(217 分,68 条评论)中为该模型辩护:“这个模型给人的感觉确实不一样。“这种感觉更直观,也更能覆盖普通人自然会提出的那些要点和论点。” u/Rain_On(49 分)则强调了经济性:“低成本也很重要。汽车并不是在刚发明出来时就改变了世界,而是在流水线让它变得便宜之后。” u/FateOfMuffins(45 分)这样概括:“它看起来像是 Opus 级别,但在这上面投入的 RL 极少;而其他 GPT 模型似乎更像是投入了大量 RL 的 Sonnet 级别。”

u/Outside-Iron-8242 分享了 GPT-5.5 的 SimpleBench 分数已公布(166 分,77 条评论)。u/Rent_South(6 分)报告称,自定义评测的结果好坏参半:“gpt 5.4 连续 5 次拿到第一,而 gpt 5.5 表现很差。所以真的得看具体用例。” u/RickleJaymes69(30 分)表达了更普遍的挫败感:“Gemini 3.1 总是分数很高,但对我来说完全没法和 opus 相比。”

u/Akashictruth 展示了 GPT 5.5 Xhigh 的 VoxelBench 测试。Minecraft 建造者已经被自动化了(134 分,23 条评论):生成了包括 Spider-Man 和 NYC 天际线在内的体素构建,随后又给标题降温:“标题说得有点过了,抱歉。它是在自动化生成还算可用的小型资产。”

u/artemisgarden 绘制了 OpenAI 在 Artificial Analysis 上的评分随时间变化 图表(188 分,35 条评论)。u/M4rshmall0wMan(46 分)感叹道:“GPT-4o -> o1 -> o3 这一路跃迁真的太夸张了。” 不过图中的日期并不准确,因此 u/RuthlessCriticismAll(10 分)进行了纠正。

讨论洞察:社区正逐渐形成共识,认为 GPT-5.5 是一个强大的通用模型,但并未推进编程前沿。“vibes”式辩护——也就是它“感觉更直观”——正在赢得越来越多认同者,但还不足以让基准测试批评者噤声。

与前一天的对比:昨天带来的是全面的基准测试表格,以及“编程存在差距”的叙事。今天则新增了 SimpleBench 数据、创意用例(VoxelBench),以及对“有大模型感”的定性判断。共识正在趋于稳定。

1.5 AI、社会与地缘政治:Palantir、就业、民主、研究人员死亡(🡒)

一系列广泛的社会议题主导了中等热度的讨论。

u/Commercial_Sell_4825 发布了 曾在 Nature 发文的中国半导体研究人员在 U of Michigan 坠亡(1,070 分,145 条评论),记录了 Danhao Wang 在接受美国执法部门问询后去世一事。u/BallerDay(400 分)问道:“最近是不是已经有好几位科学家/研究人员去世了?” 帖子提到,Wang 共同主导的一篇论文于其去世次日发表于 Nature Electronics,内容描述了一种用于类脑视觉系统的“智能光电二极管”。该帖子附有图片。

u/shikizen 报道了 Palantir 员工正在谈论公司“滑向法西斯主义”(675 分,98 条评论),援引 Ars Technica 的一篇文章,提到内部 Slack 消息和一份宣言,暗示美国应考虑恢复征兵制。u/5553331117(209 分)对此并不意外:“我很确定他们一直就是铁杆法西斯。这就是他们的商业模式。” u/ICantBelieveItsNotEC(46 分)则调侃道:“这家做 AI 监控和军火的公司,名字还取自一个邪恶巫师用来和邪恶化身对话的装置,结果居然是坏的!?”u/simmol 向 难道大家突然都忘了,白领工作过去有多少曾被形容为胡扯吗? 提问(553 分,119 条评论),认为 AI 取代“狗屁工作”并不值得哀悼。

u/ObjectivePresent4162 在 AI 群体可能在无人察觉的情况下劫持民主 中链接了一篇发表在《Science》上的论文(251 分,60 条评论)。u/claytonkb(67 分)回应道:“终于有人开始讨论 AI 的真正风险了……” u/Candid_Koala_3602(10 分)则指出:“你假设这事还没有发生。”

u/kaggleqrdl 在 AI 与其说是在让公司更高效,不如说是在花掉本可以作为工资发放的钱 中提出(93 分,67 条评论),AI CAPEX 正在挤占薪资预算。u/SirBoboGargle(14 分)警告说:“Token 会变成企业毒品。一旦上了 token,就戒不掉了。” u/Bharath720 报道了 Microsoft 向其资深员工提供自愿买断方案,涉及美国员工总数的 7%(84 分,30 条评论)。u/chunmunsingh 分享了 中国工人惊恐不已,因为老板要求他们培训替代自己的 AI(143 分,17 条评论)。

u/talkingatoms 发布了 白宫指责中国大规模窃取 AI 技术(41 分,80 条评论)。u/Direct-Ad-7922(45 分)回应说:“这讽刺意味简直离谱——‘只有我们才可以剥夺自己人民的隐私和自由!’” u/haloweenek(21 分)补充道:“是啊,但抓取一切数据拿去训练却算‘合理使用’ xD。”

u/SnoozeDoggyDog 发布了 仅美国 11 个数据中心“园区”的燃气发电项目,排放的温室气体就可能超过一些整个国家(68 分,23 条评论)。

讨论洞察:关于社会影响的讨论明显拓宽了。研究人员之死、Palantir 内部异议、Microsoft 买断、 中国工人培训接替者,以及 AI 对民主的威胁,这些话题各自都引发了大量关注,表明这些担忧正在 AI 社区中从小众议题走向主流。

与前一天的对比:昨天的内容包括 Google 宣称 75% 的代码由 AI 编写、Anthropic 失败的预测,以及经济替代。今天则新增了 Palantir 法西斯主义争议、半导体研究人员之死、Microsoft 买断、中国工人被替代、AI 群体,以及数据中心排放——社会层面的讨论明显更广泛。

1.6 本地构建与智能体安全(🡒)

本地推理社区一边展示硬件构建方案,一边也越来越意识到智能体安全方面的缺口。u/mantafloppy 标记了 Pi.dev 编码代理默认没有沙箱(55 分,56 条评论),原因是该代理在未获许可的情况下运行了 rm -f。u/StardockEngineer(50 分)指出:“它默认就是按 yolo 模式设计的。创建者已经多次这么说了。”u/GalladeGuyGBA(11 分)则指出,屏蔽 rm -rf 的扩展并不会屏蔽 rm -fr 或 unlink。

u/Uncle___Marty 分享了 我的编程代理居然自杀了,笑死(130 分,16 条评论):“它当时在内存里翻查,试图找到一个锁住文件的僵尸进程,结果却决定通过关闭 llama-server 来自我终结。”该帖子附有一张图片。

u/val_in_tech 在 4x RTX 6000 Pros 上运行了 本地跑 GLM 5.1:40tps,2000+ pp/s(53 分,42 条评论)。u/SnooPaintings8639(49 分)打趣道:“‘本地运行’,也就是‘在我自己的数据中心里’,哈哈。”u/WyattTheSkid 分享了 新装备照片!(67 分,34 条评论),配置为 2x 3090 TI FE 和 2x 3090。

与前一天相比:昨天,代理安全还不是一个明确主题。今天,随着 Pi 沙箱的讨论以及代理自我终结的轶事出现,这一主题开始浮现,说明随着本地代理采用率上升,社区正在直面现实中的安全缺口。

1.7 机器人:Bolt 接近人类短跑速度(🡒)

u/GraceToSentience 发布了 MirrorMe 的 Bolt|宣称室内速度 11m/s,室外 10.09 m/s(181 分,51 条评论)。该机器人身高 177 cm、体重 75 kg,已接近 Usain Bolt 创下的 12.42 m/s 纪录。u/MakitaNakamoto(62 分)回应道:“想象一下这玩意儿追着你跑。”u/djosephwalsh(15 分)表示:“这让我不禁好奇,一旦它们把踝关节动作调对了,速度会有多快。”

与前一天相比:昨天讨论的是 Unitree 的轮式 G1、Tesla Optimus 和 Figure AI。今天则只有一个高质量数据点:一台双足机器人正接近人类短跑速度。


2. 什么让人感到沮丧

Anthropic 在 47 天内悄然降低了模型表现

严重性:高

3 月 4 日至 4 月 20 日期间,三次单独的变更在未通知用户的情况下拉低了 Claude Code 的质量,这一点已由 Anthropic 自己的事后复盘 证实。u/spaceman_ 在 r/LocalLLaMA 那个帖子 中强调(1,128 分):“在这些事情上,他们都刻意选择了通过牺牲质量来降低服务器负载,而且这一切完全不受终端用户控制,也没有告知付费客户。” u/dwrz(124 分)要求:“如果托管模型被量化了,或其能力以某种方式被削弱了,我就应该获得折扣。” u/Important-Radish-722(92 分)指出了这种扭曲的激励:“如果模型没有进行那么充分的思考、给出的结果质量更低,用户就不得不继续问更多问题,而这会消耗更多 tokens。”

DeepSeek V4 Pro 的成本与智能密度担忧

严重程度:中

V4-Pro 跑基准测试时的单 token 成本是 V3.2 的 15 倍,而且在 Arena 上的表现也未达预期。u/CallMePyro 提到了 成本上涨(118 分)。u/Valuable-Village1669(11 分)指出:“在相同成本下,GPT 5.5 Medium 的智能得分比它高 5 分。” u/Puzzleheaded-Drama-8(81 分)则认为该模型“训练严重不足”。

DeepSeek V4 缺乏多模态能力

严重程度:中

V4 的两个版本都仅支持文本。u/Right-Law1817 在 DeepSeek-V4 暂时还不支持多模态 中记录了这一点(122 分,28 条评论),并指出技术报告确认这项能力仍在推进中。u/Turnip-itup 还指出,相比具备多模态能力的 Gemini Flash,这是一个劣势。

夸大模型宣传会引发反噬

严重程度:中

u/ttkciar(773 分)在热度最高的帖子中警告,称 HuggingFace CEO 夸大了 Qwen 3.6 27B 的能力:“那些第一次使用后感到失望的用户不会怪 Chaumond;他们会怪我们所有人。” u/Akashictruth 自行更正了一个 VoxelBench 标题。先夸大、后更正的模式在多个讨论串中都出现了。

Pi Coding Agent 默认缺少沙箱隔离

严重程度:中

u/mantafloppy 发现了 Pi.dev 在没有沙箱的情况下运行(55 分):它会在未经确认的情况下执行文件删除。所提供的安全扩展会阻止 rm -rf,但不会阻止等效命令(rm -fr、unlink)。u/INT_21h(22 分)分享了一个基于 bubblewrap 的 Linux 变通方案。

AI 正在取代工作岗位,却没有创造新的岗位

严重程度:中

u/kaggleqrdl 认为 AI CAPEX 挤占薪资预算(93 分)。Microsoft 的 自愿买断 影响了 7% 的美国劳动力,以及中国工人正被 被要求培训接替者,这些都为这种挫败感提供了具体佐证。


3. 人们希望出现什么

支持多模态的 DeepSeek V4

多个讨论串都提到了 V4 仅支持文本的局限。技术报告确认多模态能力仍在开发中,但当前运行本地视觉工作流的用户还没有可用的 V4 选项。u/Right-Law1817 在 专门讨论帖 中表示愿意等待。在那之前,Qwen 3.6 或云端模型仍是仅有的视觉方案选择。

面向本地模型的集中式最佳设置数据库

u/leonbollerup 在 KV cache 讨论帖 中提问:“有没有一个页面专门汇总模型的最佳设置,还是说我们该自己建一个?” 各类硬件平台上不断增多的量化选项(Q4、Q6、Q8、Turbo3/4、NVFP4、MXFP4),让相关知识变得愈发碎片化。

托管模型版本变更的透明化

Anthropic 的事后复盘显示,47 天内发生了三次静默变更。u/dwrz 提议按不同量化版本定价。社区希望托管模型配置变更能有明确的更新日志,而不只是权重发布记录。

为本地智能体提供恰当的沙箱默认设置

Pi Coding Agent 沙箱讨论 暴露出一个问题:当前最受欢迎的轻量级脚手架默认并未启用沙箱。用户希望默认设置是安全的,必要时再允许手动覆盖,而不是反过来。

面向新架构的推测解码草稿模型

u/butterfly_labs 向 现在有与 Qwen3.6 27B 兼容的 DFlash 草稿模型了吗? 提问(29 分,18 条评论)。推测解码带来的速度提升已得到验证,但与新架构兼容的草稿模型仍落后于新架构的发布节奏。


4. 在用的工具与方法

工具 类别 情绪倾向 优势 局限
DeepSeek V4-Pro 开放 LLM(1.6T MoE) 正面 MIT 许可证;1M 上下文;在 SimpleQA、Apex、Codeforces 中领先;混合 CSA+HCA 架构 成本是 V3.2 的 15 倍;在 Arena 上表现平平;不支持多模态;体量过大,不适合本地部署
DeepSeek V4-Flash 开放 LLM(284B MoE) 非常正面 每 1M 输入/输出 $0.14/$0.28;1M 上下文;工具调用能力出色 不支持多模态;参数量是 Qwen 3.6 27B 的 10 倍,但优势仅略高一筹
Qwen 3.6 27B 本地 LLM(稠密) 非常正面 单张 3090 可运行;在 RTX 5090 上达 80 tps;可容忍 Q4 KV cache;在规划任务上胜过 Sonnet 4.6 过度吹捧容易引发反噬;KV Q4 可能会拉低 AIME 表现
Qwen 3.6 35B-A3B 本地 LLM(MoE) 正面 比 27B 稠密版更快;可在 iGPU 上以 20 t/s 运行 比 27B 稠密版对量化更敏感;3-bit KV 下 router 会退化
GPT-5.5 云端 LLM 褒贬不一但偏正面 “大模型质感”;基座达到 Opus 级别;相比 Opus 更具成本效益;在 VoxelBench 上展现出创意能力 在部分任务上相较 5.4 出现 SimpleBench 回退;编码前沿差距依然存在
llama.cpp 推理引擎 非常正面 Turboquant;支持 NVFP4/MXFP4;支持推测解码;硬件覆盖广 需要手动调优配置
vllm 0.19 服务引擎 正面 支持 NVFP4+MTP;Qwen 3.6 在 5090 上可达 80 tps 要发挥最佳效果需要较新的硬件
Claude Code 编码智能体 负面 面向智能体的工作流功能丰富 已确认发生三次性能退化事件;信任已被打破
Pi Coding Agent 智能体脚手架 正面 轻量;可扩展;支持本地模型 默认无沙箱;安全扩展不完整
OpenCode 智能体脚手架 正面 可作为 Claude Code 的本地模型替代方案 社区规模较小
GLM 5.1 开放 LLM 正面 在 4x RTX 6000 Pro 上本地可达 40 tps;体验接近 Sonnet 需要昂贵硬件;还需要为 sglang 打补丁
MiMo V2.5 Pro 开放 LLM(Xiaomi) 正面 在 AA Intelligence Index 上得分 54;写作质量强 社区测试有限;可用性不明

5. 人们在构建什么

项目 构建者 功能 解决的问题 技术栈 阶段 链接
KV Cache 量化研究 u/imgroot9 对 Qwen 3.6 27B 上的 F16/Q8/Q4/Turbo3/4 进行系统化 PPL/AIME 测试 确定单张 3090 在 200K 上下文下的安全量化水平 llama.cpp, turboquant 已发布 r/LocalLLaMA 帖子
Qwen 3.6 27B 80tps 技术栈 u/Kindly-Cantaloupe978 以 NVFP4+MTP 提供 80 tps、218K 上下文的服务 在 RTX 5090 上实现高吞吐本地推理 vllm 0.19, NVFP4 进行中 r/LocalLLaMA 帖子
Shield 82M u/LH-Tech_AI 82M 参数的 PII 剥离/过滤模型 保护隐私的推理流水线 小模型 已发布 r/LocalLLaMA 帖子
CUDA MMQ Stream-K PR u/jacek2023 降低 llama.cpp 中 MMQ stream-k 的开销 为量化模型带来更快的 GPU 推理 CUDA, llama.cpp 已合并 GitHub PR #22298
llama.cpp 中的 FP4 推理 Multiple 支持 NVFP4 和 MXFP4 推理 实现 4-bit 浮点推理 llama.cpp, ik_llama.cpp 已发布 r/LocalLLaMA 帖子
DESIGN.md Google Labs 面向 AI 智能体的开源设计规范 避免智能体臆测品牌颜色或设计决策 Markdown 规范 已发布 r/PromptEngineering 帖子
实时 EEG 冥想系统 u/uisato 基于实时脑信号的 AI 引导式冥想 根据 EEG 数据提供个性化冥想提示 OpenBCI, TouchDesigner, Python 演示 r/singularity 帖子
Rose Optimizer u/ECF630 面向低 VRAM 训练的新优化器 降低模型训练的 VRAM 需求 PyTorch, Apache 2.0 已发布 r/MachineLearning 帖子
DharmaOCR u/augusto_camargo3 专用 3B OCR 模型,并附带性价比基准 证明更便宜、更小的模型也能在 OCR 上取胜 开放框架 + 数据集 已发布 r/MachineLearning 帖子
4x 3090 工作站 u/WyattTheSkid 配备 2x 3090 TI FE + 2x 3090 的多 GPU 本地推理平台 经济实惠的多 GPU 本地推理 Phanteks Enthoo Pro 2、消费级 GPU 已搭建 r/LocalLLaMA 帖子

6. 最新与值得关注

Xiaomi MiMo V2.5 Pro 在 Artificial Analysis Intelligence Index 上得分 54

u/Nunki08 报道了 “Weights are coming”(267 分,44 条评论)。u/LoveMind_AI(64 分)称赞道:“我真心觉得,现在没有比它更酷的 LLM。至少单论语言驾驭力和写作能力,MiMo-V2.5-Pro 就是第一,而且不只是‘在中国模型里排第一’。” u/lendo93(5 分)补充说:“在编程推理、智能体任务和决策方面,它的平均表现高于 Opus 4.6。”

FP4 推理落地 llama.cpp

u/Usual-Carrot6352 报道了 llama.cpp(NVFP4)和 ik_llama.cpp(MXFP4)已支持 FP4 推理(20 分,31 条评论)。这使原生 4 位浮点推理成为可能,在保持质量优于同等位宽整数值量化的同时,降低了内存需求。

Cohere MoE 模型将通过 vLLM PR 引入

u/LinkSea8324 注意到一则 Cohere 新 MoE 模型的 vLLM PR(69 分,10 条评论),并链接到 GitHub PR #40817。

深度学习的科学理论:14 位作者的观点论文

u/dot--- 发布了 深度学习终将拥有科学理论(180 分,31 条评论),并链接到 arxiv.org/abs/2604.21691。该论文汇集了五条证据线索——可解的玩具设定、有启发性的极限情形、简单的经验规律、超参数理论,以及普适现象——并据此论证,深度学习的科学理论正在形成。

Ubuntu 26.04 改进对 AMD XDNA2 NPU 的支持

u/jfowers_amd(AMD 员工)分享了 提示:Ubuntu 26.04 让 AMD XDNA2 NPU 更容易上手(34 分,1 条评论)。主流 Linux 发行版中的原生 NPU 支持,降低了端侧推理的门槛。

Kimi K2.6:“赢下比赛的强力乌龟”

u/cjami 发布了 Kimi K2.6(46 分,12 条评论),其中包含基准测试数据。该帖子附带图片。Moonshot AI 的这款模型目前正与 V4 和 Qwen 3.6 一同被积极测试。

Nous Research AMA 已宣布

u/XMasterrrr 宣布了 Nous Research 在 r/LocalLLaMA 的 AMA(78 分,9 条评论),定于 4 月 29 日星期三举行,内容涵盖开源 Hermes Agent 项目。该帖子附带图片。

r/LocalLLaMA 更新规则以缓解机器人问题

u/rm-rf-rm 发布了 r/LocalLLaMa 版规更新(313 分,101 条评论),引入最低 karma 要求,以打击机器人和虚假草根宣传活动。该子版块目前每周访客已超过 100 万。u/StewedAngelSkins(19 分)称赞道:“能有一个地方讨论 LLM,而且这里没有完全被氛围垃圾和 AI 精神错乱淹没,感觉实在太好了。”


7. 机会在哪里

[+++] DeepSeek V4 Flash is the new cost-efficiency king for API users. At $0.14/$0.28 per 1M input/output tokens with 1M context and excellent tool calling (100+ calls with zero errors in testing), it undercuts every comparable model by 2-5x. u/Rent_South测得:在智能体流水线中、准确率相当的情况下,其成本比 Opus 低 99%。构建能够利用这种成本结构的智能体工作流——尤其是长上下文和多工具调用模式——是当下杠杆最高的机会。(DS V4 定价讨论帖, 成本对比, 工具使用测试)

**+++]** 面向编程代理的本地推理,已经在消费级硬件上跨过了可用性门槛。Qwen 3.6 27B 在单张 RTX 5090 上可达 80 tps、上下文长度 218K,或在 Radeon 780M iGPU 上达到 20 t/s,这让本地优先的编程工作流变得可行。更便宜的量化方案(针对 dense models 的 Q4 KV cache)、推测解码(RTX 4090 上宣称可达 152 t/s)以及 NVFP4 支持的组合,意味着硬件门槛正在迅速下降。能够针对特定硬件配置自动调整最佳量化与服务参数的工具,正好填补了社区中一个明确的空白。([80 tps 配置栈, iGPU 结果, 速度讨论串)

**++]** 托管模型质量监控如今已经被证明是真实存在的需求。Anthropic 的事后复盘确认,性能退化曾连续 47 天未被发现。能够持续对托管模型质量进行基准测试、检测回归并触发告警或回退的工具,正是在填补一个连最大 AI 提供商都已证明确实存在的空白。那些基于模型质量签订 SLA 的企业客户,目前还没有自动化手段来发现这类变化。([Anthropic 事后复盘, 社区讨论)

**++]** 代理沙箱与安全工具建设明显不足。Pi 编程代理默认在无沙箱环境下运行,其安全扩展中的 rm -rf 与 rm -fr 绕过问题,以及昨天通过 PR 评论实现 85% prompt injection 成功率的案例,都指向同一个缺口:本地代理的采用速度,正在超过安全基础设施的建设速度。我们需要为编程代理提供轻量、默认开启的沙箱机制。([Pi 沙箱讨论串)

**+]** 中国的开放权重模型生态,正在以快于社区评测速度的节奏产出前沿级模型。DeepSeek V4、Qwen 3.6、MiMo V2.5 Pro、Kimi K2.6 和 GLM 5.1 都在积极竞争。系统化的跨模型评测工具——覆盖标准基准之外的多样任务——正在满足从业者在这些选项之间做选择时不断增长的需求。([MiMo 讨论串, DS4 与 Qwen3.6 对比)

[+] Anthropic's job exposure data shows a 60-80 percentage point gap between theoretical AI capability and observed AI coverage across all sectors. u/Professional-Rest138拆解了 五类障碍(75 分)提出的问题:法律约束、集成摩擦、验证开销、工作流惯性和质量门槛。其中第 2 类和第 3 类消退得最快。构建专门解决集成摩擦和验证开销——这些正在快速消退的障碍——的工具,符合下一阶段采用将加速的方向。


8. 要点

  1. DeepSeek V4 Flash 是今天成本层面的主角。 在 1M 上下文下,其价格为每 1M tokens $0.14/$0.28;在一位用户的智能体流水线上、准确率相当的情况下,它比 Opus 便宜 99%,也比同能力梯队中的其他所有模型便宜 2-5 倍。Pro 版本在 Arena 上表现平平,成本却比 V3.2 高 15 倍,但社区认为这是因为该模型“训练严重不足”,预计后续会有更好的 checkpoints。(Flash 定价讨论串,成本对比,Pro 成本讨论串)

  2. Anthropic 的事后复盘印证了社区此前的怀疑,在 r/LocalLLaMA 上拿到 1,128 分。 现已确认,在 47 天内发生了三起影响 Claude Code 的静默性能退化事件。相关定性已经基本固化:u/spaceman_认为,这“证明了,如果你的服务依赖某个 AI 模型,或者你靠它完成工作,那么唯一理智的选择就是开放权重模型。” 谷歌的 400 亿美元投资被解读为一种对冲,而非背书。(事后复盘讨论串,Google 投资)

  3. Qwen 3.6 的优化数据正在迅速成熟。 系统性的 KV 缓存量化测试显示,就 PPL 而言,Q4“在数学上与未压缩缓存无法区分”,但 AIME 分数则讲出了不同的故事。27B 稠密模型对量化的适应性较好;35B-A3B MoE 则更为敏感。速度基准覆盖了从 iGPU 的 20 t/s 到 RTX 5090 的 80 tps。社区正在产出这类在发布首日所缺失的实证数据。(KV cache 研究,MoE 量化敏感性,80 tps 配置栈)

  4. GPT-5.5 的定位正逐渐稳定为“Opus 级基础模型,而非代码能力前沿”。 对其“大模型质感”的定性赞誉,与它在特定任务上相较 GPT-5.4 于 SimpleBench 出现回退并存。那张带有讽刺意味的“GPT 数量”图表(得分 1,652)表明,社区正通过幽默来消化对炒作的疲劳。成本效益叙事仍是 GPT-5.5 最强的论据。(大模型质感,SimpleBench)

  5. 围绕社会影响的讨论显著扩展。 中国半导体研究人员去世(得分 1,070)、Palantir“滑向法西斯主义”(得分 675)、AI 蜂群对民主的威胁(得分 251)、微软买断方案(得分 84)、中国工人训练替代自己的 AI(得分 143),以及数据中心排放(得分 68),都分别引发了可观的独立关注。这种广度表明,在这些社区中,对 AI 社会影响的担忧正从小众议题走向主流。(研究人员死亡,Palantir,AI 群体)

  6. 中国开放权重模型梯队正在加速成形。 DeepSeek V4(MIT)、Qwen 3.6(Apache 2.0)、MiMo V2.5 Pro(AA Index 得分 54,“位居顶端,而且不只是‘在中国模型里位居顶端’”)、Kimi K2.6 和 GLM 5.1 都在积极竞争。白宫关于“工业规模盗窃”的指控遭到了质疑:“是啊。但把一切都抓来用于训练就是‘合理使用’。” 开放权重领域的重心依然稳固地位于中国。(MiMo,白宫指控)

  7. 本地 agent 的安全漏洞正开始暴露。 Pi 编码 agent 默认在无沙箱环境下运行,且安全扩展并不完善;再加上昨天通过 PR 评论实现了 85% 的提示注入成功率,这表明本地 agent 的采用速度正在超过安全基础设施的建设速度。社区已经开始分享一些权宜之计(bubblewrap 沙箱、Docker 容器),但仍没有标准化的解决方案。 (Pi 沙箱)

  8. FP4 推理落地 llama.cpp,预示着效率的新前沿。 对 NVFP4 和 MXFP4 的支持,使 4-bit 浮点推理在相同比特宽度下比整数值量化具备更好的质量表现。再加上 speculative decoding 和 vllm 0.19 对 NVFP4+MTP 的支持,本地推理与云端推理之间的质量差距正在各个维度上缩小。 (FP4 讨论串, vllm 配置栈)