跳转至

Reddit AI - 2026-04-18

1. 人们在讨论什么

1.1 Qwen3.6-35B-A3B:第二天测试确认本地模型里程碑(🡕)

4 月 17 日发布的 Qwen3.6,在本轮 LocalLLaMA 社区中引发了最集中、最深入的实测与配置分享。排名前 65 的帖子中,至少有 10 篇直接讨论 Qwen3.6,总互动量超过 3,500 分和 1,400 条评论。

u/Local-Cardiologist-5 让模型完成一个塔防游戏构建任务,并通过 MCP 截图进行自我验证。他表示,模型能自主发现并修复包括 canvas 渲染问题在内的自身 bug;通过 llama.cpp 在 RTX 3090 上运行速度达到 120 tok/s(Qwen3.6,就是它了。,838 分,350 条评论)。u/cviperr33(47 分)说:“它真的修复了那些让我用 gemma 卡了好几天的损坏代码或项目,差不多 5 分钟就解决了,还解释了 gemma 为什么失败。”

u/onil_gova 证实性能提升确实存在,但强调必须正确配置——尤其要启用 preserve_thinking——并在 128GB 内存的 M5 Max 上运行了通常只有 Opus 和 Codex 才会承担的工作负载(qwen3.6 的性能飞跃确实是真的,580 分,227 条评论)。

Artificial Analysis 基准测试图表,展示 Qwen3.6 在开源和闭源模型中的定位

u/Epicguru 称它是“第一款真正值得折腾的本地模型”——在 5090 + 4090 上以 Q8 运行,启用完整 260K 上下文时速度达到 170 tok/s;他还指出,让模型审查自己的修改,十次里有九次能发现错误(Qwen 3.6 是第一个让我觉得本地模型真的值得折腾的模型,364 分,123 条评论)。u/Better-Struggle9958(345 分)则疲惫地反驳:“每次发布都是同样的帖子。”

硬件优化类帖子进一步补充了整体图景。u/marlang 在 RTX 5070 Ti + 9800X3D 上、启用 128K 上下文时达到 79 tok/s,并确认 --n-cpu-moe 标志至关重要(RTX 5070 Ti + 9800X3D 运行 Qwen3.6-35B-A3B,速度达 79 t/s,315 分,85 条评论)。

RTX 5070 Ti 性能指标:Qwen3.6 在 128K 上下文下达到 79 tok/s

u/Lowkey_LokiSN 进行了正面对比测试,宣称 Qwen 3.6 35B “碾压” Gemma 4 26B(270 分,100 条评论)。u/simracerman 表示,Qwen3.6 解决了其 27B 前代模型无法解决的编程问题,包括在 5070 Ti 16GB 上仅用一到两次尝试,就解决预算应用中积累已久的技术债(Qwen3.6-35B-A3B 解决了 Qwen3.5-27B 无法解决的编程问题,131 分,52 条评论)。

u/Striking-Swim6702 发布了迄今最全面的兼容性测试:在 M3 Ultra 上以 100 tok/s 运行时,Qwen3.6 在测试的五个智能体框架(Hermes Agent、PydanticAI、LangChain、smolagents、OpenClaude)中全部达到 100% 的工具调用通过率;相比之下,DeepSeek-R1 仅为 40-55%,Llama 3.3 为 45-67%(Qwen 3.6 在 5 个 agent 框架中对比另外 6 个模型,59 分,16 条评论)。

u/Big_Mix_4044 证明,Qwen3.6 能在多轮对话中维持其思维链内部的上下文,但前提是启用 preserve_thinking(Qwen3.6 能在 CoT 内保持上下文,128 分,40 条评论)。u/TheCTRL(42 分)分享了 LM Studio 的修复方法:将 `` 加入 Jinja 模板。

Qwen3.6 聊天演示:启用 preserve_thinking 后可在多轮对话中保持上下文

并非所有反馈都积极。u/Lorian0x7(12 分)称它是“一台训练过度、只会复述陈词滥调代码的垃圾机器”,甚至无法根据一份 300 页的文档创建 wiki。u/havnar-(6 分)发现,对于自己的使用场景,经过 Opus 4.6 蒸馏的 Qwen3.5-35B-A3B 仍然更好。社区要求推出稠密 27B 版本——u/GrungeWerX 指出,该版本赢得了社区投票,却没有发布(Qwen 3.6 27B 什么时候发布?,162 分,57 条评论)。u/Fabix84(143 分)说:“很明显,他们早就决定了要发布哪个模型,只是希望投票结果能为这个决定背书。”

Qwen 社区投票显示,dense 27B 版本赢得了投票

讨论洞察: 大量按硬件细分的配置分享(llama.cpp 标志、采样参数、量化级别、CPU 卸载策略)表明,本地 LLM 社区已经从“能不能运行”转向“怎么优化”。Qwen3.6 的 3B 激活参数使其具备独特的可及性——从 16GB 笔记本到双 GPU 配置都能运行。

与前一天对比: 4 月 17 日,Qwen3.6 刚刚发布,社区主要分享基准数据和早期用户反馈。今天,社区开始进行系统性测试:智能体框架兼容性矩阵、硬件优化指南、与 Gemma 4 的正面对比,以及逐渐成为标准建议的 preserve_thinking 修复。该模型作为当前本地模型首选的地位已经稳固,但对 27B 稠密版本的需求呼声很高。


1.2 Claude Opus 4.7 退化:量化证据进一步坐实(🡕)

随着当天得分最高的帖子给出了迄今最有力的基准证据,针对 Opus 4.7 的反弹情绪进一步升级。排名前 65 的帖子中,至少有 8 篇讨论 Opus 4.7 退化问题,总互动量超过 3,800 分。

u/seencoding 发布了最具杀伤力的数据:在 NYT Connections Extended Benchmark(940 道谜题)上,Opus 4.7(高推理)得分为 41.0%,低于 Opus 4.6 的 94.7%,暴跌 53.7 个百分点。不启用推理时,Opus 4.7 得分仅为 15.3%,在 62 个模型中垫底(opus 4.7 在 nyt connections extended 基准测试中得分 41.0%,1073 分,158 条评论)。u/Klutzy-Snow8016(48 分)指出了一个关键因素:Anthropic 提高了安全拒答率;在允许参与评测的谜题上,它的得分为 90.9%,仍低于 4.6 的 94.7%。基准测试创建者 已确认 证实了这一发现。

u/Neurogence 发帖称,Claude 重度用户“一致同意” Opus 4.7 是一次退步,这是任何 Opus 版本首次形成这样的共识(Claude Power Users 一致认为 Opus 4.7 是一次严重退步,925 分,181 条评论)。u/Many_Consequence_337(181 分)说:“有问题的是自适应思考,它根本不会用。”u/danivl(157 分)提出了经济层面的解释:“4.7 实际上是更差的 4.6,但运行成本更低……消耗 token 的速度却快得多。”

u/ENT_Alam 以约 275 美元的总成本,让 Opus 4.6 和 4.7 接受 MineBench——一项 3D 体素建造基准测试。结果显示,Opus 4.7 生成的建筑细节更多、方块数量更高,但成品外观并没有稳定变好——正如 u/Financial_Weather_35(49 分)所说,更像是“横着走,而不是变得更好”(Opus 4.6 与 Opus 4.7 在 MineBench 上的差异,593 分,75 条评论)。该帖指出,Opus 4.7 的行为变化可能解释了结果的不一致:“更按字面遵循指令……它不会默默泛化一条指令。”

u/Important-Farmer-846 发布了 Opus 4.7 在文本类别中的排名,显示其在不同类别上的表现喜忧参半(Claude Opus 4.7 文本类别排名,99 分)。

Opus 4.7 文本类别排名,展示其在不同任务类型中的位置

u/exordin26 提供了另一种叙事:Opus 4.7 在 Artificial Analysis 上以微弱优势领先,同时使用的 token 明显少于 Opus 4.6(201 分,57 条评论)。u/ethotopia(93 分)对此并不买账:“逆风观点:Gemini 3.1 和 4.7 排在前面,说明这个基准对真实世界使用场景有多不靠谱。”

Artificial Analysis 排行榜显示,Opus 4.7 以更少的 token 微弱领先

u/lemon07r 是 SanityHarness 编程评测的作者。他花费 120 美元 API 额度测试 Opus 4.7,并发布了关于其持续性幻觉与 gaslighting 行为的详细记录。他把它称为“Gaslightus-4.7”:“我从没见过一个模型这么严重、这么频繁地产生幻觉……当你试图纠正它时,它会极其顽固地坚持错误;无论你提供多少证据,它都会试图一路 gaslight 你到最后”(Kimi K2.6-Code-Preview、Opus 4.7、GLM 5.1 编码测试,56 分)。

GPT-5.4 截图确认 Opus 4.7 给出了编造的指令,并将其评为 90% 错误

u/ObjectivePresent4162 梳理了四类具体失败:自信地编造价格数据;自适应推理默认使用低投入;擅自进行未请求的修改,却忽略用户要求的修改;以及更快的 token 消耗速度(用了 Opus 4.7 之后……没错,性能下降是真的,76 分,29 条评论)。u/JulioMcLaughlin2 是理论数学与物理学博士生。他描述了在 20 美元套餐下不断自我纠错、陷入循环并迅速耗尽 token 的情况(Opus 4.7 很糟糕,254 分,125 条评论)。

积极的一面是,u/Savannah_Carter494 测试了三款前沿模型的 UI 设计能力,发现 Opus 4.7 的成品最为精致;Gemini 3.1 Pro 更擅长遵循细节要求,GPT 5.4 居中(Opus 4.7 vs Gemini 3.1 Pro vs GPT 5.4,169 分,38 条评论)。

UI 设计对比图,展示 Opus 4.7、Gemini 3.1 Pro 和 GPT 5.4 的移动应用模型图并排效果

讨论洞察: 退化证据如今已覆盖多个维度:NYT Connections(语言谜题)、MineBench(空间推理)、SanityHarness(真实世界编程)以及多名从业者的报告。逐渐浮现的图景是:Opus 4.7 在编程和 SWE 基准、token 效率方面有所提升,但在泛化、推理、创意任务和用户信任方面出现下降。无害内容拒答率上升,又为这次技术退化增加了政策层面的维度。

与前一天对比: 4 月 17 日,退化叙事仍在通过早期基准结果和用户挫败感逐渐形成。今天,NYT Connections 基准从 94.7% 跌至 41.0%,提供了迄今最有力的单点证据;社区共识也从“继续观察”变成了有记录支撑的失望。Artificial Analysis 的领先表现和 UI 设计优势仍构成反例,但已被大量退化证据压过。


1.3 LLM 意识:DeepMind 科学家质疑这一路径(🡒)

u/Worldly_Evidence9113 发布了 Google DeepMind 高级科学家 Alexander Lerchner 论文中的一张幻灯片。论文认为,LLM 永远不可能获得意识——即使再过 100 年也不行,原因在于他所称的“抽象谬误”(Google DeepMind 的高级科学家质疑 LLM 能够实现意识这一观点,753 分,544 条评论)。

Lerchner 论文中关于 Abstraction Fallacy 的幻灯片,论证 LLM 将语言抽象与现象体验混为一谈

论文(可在 PhilPapers 上查看,由 u/Electrical-Way6083 分享)认为,必须存在一个“制图者”——也就是主观体验者——而 LLM 从根本上缺少这一要素。这场拥有 544 条评论的讨论明显分裂。u/wiglafofpinwick(747 分)讽刺道:“看来他在计算神经科学领域十多年的学术研究,加上在 DeepMind 的 14 年经历,还不足以让他对这个话题发表看法,但我们的 Reddit 用户却比他懂得更多。”u/Rain_On(56 分)批评论文忽视了既有哲学研究:“我已经厌倦科学家一边写哲学作品,一边无视此前积累下来的全部哲学研究。”

讨论洞察: 该帖获得了当天最高的评论数(544),表明即使在技术导向的 AI 子版块中,意识仍然是一个能引发深度参与的话题。人们一方面尊重科学权威,另一方面批评其哲学上的幼稚,这种张力映射出更广泛的分歧:意识究竟是工程问题,还是哲学问题。


1.4 AI 地缘政治:中国追赶,欧洲谨慎布局(🡒)

u/fortune 分享了 Stanford HAI 2026 AI Index 报告。报告发现,中国“几乎抹平了”美国在 AI 领域的领先优势。Arena 得分方面,美国最高分模型 Anthropic 的 Claude Opus 4.6 与中国的 Dola-Seed 2.0 之间只差 39 分,即 2.7%(中国几乎“抹平了”美国在 AI 领域的领先优势,420 分,139 条评论)。u/valtor2(34 分)对此反驳道:“只要深入使用过美国模型和中国模型的人,都知道这不是真的。”

在欧洲,u/AlertTangerine 分享了一篇 Forbes 对 Mistral 战略的报道:通过“不是美国公司”打造一个价值 140 亿美元的帝国——将主权定位为产品特性,而不是与前沿模型性能正面竞争(法国的 Mistral 如何打造出一个价值 140 亿美元的 AI 帝国,178 分)。u/EmbarrassedStudent10 分享了英国规模 6.75 亿美元的“主权 AI”基金。该基金瞄准 AI 智能体、药物发现和硬件优化等“卖铲子”式细分领域,而非构建前沿模型(英国推出 6.75 亿美元主权 AI 基金,113 分,39 条评论)。u/thhvancouver(25 分)说:“真可爱。与此同时,微软已经承诺向欧洲数据边界内的 AI 基础设施投入 400 亿美元。”

另外,u/ShreckAndDonkey123 报道称,随着公司科学部门被撤销,OpenAI 高管 Kevin Weil 也将离职(OpenAI 高管 Kevin Weil 将离职,308 分,45 条评论)。

与前一天对比: 4 月 17 日,报告将英国主权 AI 基金和 Stanford AI Index 列为正在形成的热点。今天,这两则消息的互动量都进一步上升,而 Mistral 的报道则增添了一条不同于美中竞争的欧洲主权叙事。


1.5 量化工程与模型基础设施(🡕)

u/danielhanchen 来自 Unsloth,发布了 Qwen3.6 KLD 性能基准。结果显示,Unsloth 量化版本在 22 个尺寸中的 21 个位于帕累托前沿。该帖还记录了一个已确认的 CUDA 13.2 bug:所有提供商的低比特量化模型都会输出乱码;NVIDIA 已确认将在 CUDA 13.3 中修复(Qwen3.6 GGUF 基准测试,497 分,108 条评论)。

Unsloth KLD GGUF 的 Qwen3.6-35B-A3B 基准图表,展示不同量化提供方之间的帕累托前沿

NVIDIA 确认:导致低比特量化输出乱码的 CUDA 13.2 bug 将在 CUDA 13.3 中修复

该帖还回应了社区关于频繁重新上传的批评,称其中 95% 的情况源于上游问题(llama.cpp bug、Google 对 Gemma 模板的修改、MiniMax NaN 问题)。

u/pmttyji 宣布推出 PrismML 的 Ternary Bonsai 系列——采用 {-1, 0, +1} 三值权重的 1.58-bit 模型,参数规模为 8B、4B 和 1.7B;与 FP16 相比,内存占用降低 9 倍(Ternary Bonsai:以 1.58 比特实现顶尖智能,355 分,83 条评论)。但 u/WeGoToMars7 对这些说法提出质疑:Bonsai-8B 只有 782MB,比 Q4_K_M 版本的 Gemma 4 E2B(1104MB)只小 29%,但性能却明显更差;而且这个三值模型还大了 33%(Bonsai 模型纯属炒作,169 分,62 条评论)。

并排对比图显示,Bonsai-8B 给出了错误答案,而 Gemma 4 E2B 没有

u/KaroYadgar(87 分)指出,Bonsai 基于 Qwen3,而非 Qwen3.5,因此它的问题可能源于基础模型,而不是量化方式。u/DefNattyBoii(15 分)指责 PrismML 存在“智识不诚实”,因为其拿已经过时的全权重模型,而不是当前一代量化模型进行比较。

u/nathandreamfast 发布了迄今最深入的 abliteration 分析:历时一周,对五个 Qwen 模型上的 HauhauCS、Heretic 和 Huihui 去审查技术进行取证式比较,使用了 KL 散度、基准测试套件和权重分析(Abliterlitics,94 分,50 条评论)。关键发现是:HauhauCS 所谓“无损”的说法在大规模测试中无法成立,27B 模型的 TruthfulQA 得分下降了 8.2 分。Heretic 在所有尺寸上表现最稳定。完整结果发布在 HuggingFace。

u/Otis43 报道称,Cloudflare 已开源 Unweight。这是一套无损压缩系统,可在不损失准确率的情况下将 LLM 体积缩小 15-22%;在 H100 GPU 上运行 Llama-3.1-8B 时,可节省约 3GB VRAM(Cloudflare 开源无损 LLM 压缩工具,114 分,12 条评论)。

讨论洞察: 量化生态正在走向专业化。Unsloth 的系统性基准测试、Cloudflare 的无损压缩,以及 Abliterlitics 的取证式分析,都体现出超越业余折腾的工程严谨性。影响所有提供商的 CUDA 13.2 bug 则说明,尽管本地推理技术发展迅速,这套技术栈仍然十分脆弱。

与前一天对比: 4 月 17 日,Unsloth GGUF 帖子和 Ternary Bonsai 尚处于互动量增长初期。今天,针对 Bonsai 的质疑帖子提供了直接反证,而 Abliterlitics 分析则带来了迄今最深入的去审查技术对比。


1.6 机器人:奔跑、冲刺与感知(🡒)

u/heart-aroni 发布了一段视频,展示 Unitree H1 在测试中从慢跑加速至奔跑。此次测试是为定于 4 月 19 日举行的北京人形机器人半程马拉松做准备(Unitree H1 从慢跑加速到奔跑,813 分,87 条评论)。u/JoelMahon(190 分)说:“如果我在逃离它,慢跑模式下还能跑在它前面;结果我回头确认它离我多远时,它突然加速了……我肯定会吓尿。”u/kgurniak91(24 分)说:“一年前,大多数机器人要么每隔两米就摔倒,要么需要一队人拿着控制器在旁边跟跑。”

u/Recoil42 分享了 Hesai 的公告:该公司推出全球首款全彩 LiDAR 芯片,无需对摄像头和 LiDAR 数据进行后期拼接,即可在像素级实现颜色感知与距离测量的原生融合(Hesai 发布全彩 LiDAR 芯片,260 分,22 条评论)。ETX 系列最多支持 4,320 个激光通道,预计于 2026 年下半年量产。

Hesai 全彩 LiDAR 的彩色点云,展示一条有车辆和行人的街景

与前一天对比: 4 月 17 日,机器人相关讨论主要集中于 Figure.AI 的平衡恢复策略,以及家庭任务 88% 的失败率。今天,重点转向速度(Unitree 从慢跑到奔跑的转换)和感知(Hesai 的全彩 LiDAR),延续了特定领域能力快速提升的主题。


2. 什么让人们感到挫败

Claude Opus 4.7 在非编程任务上的退化

严重程度:高。 这是当天最强烈的挫败信号,延续了 4 月 17 日的讨论,并得到更有力的证据支持。NYT Connections Extended Benchmark 的得分从 94.7% 跌至 41.0%(u/seencoding,1073 分)。SanityHarness 的真实世界编程测试发现了持续性幻觉——u/lemon07r 花费 120 美元进行测试,并将其称为“Gaslightus-4.7”(56 分)。u/ObjectivePresent4162 梳理出它在价格信息上自信地产生幻觉、自适应推理默认低投入、擅自修改内容,以及 token 消耗更快等问题(76 分)。对无害基准问题高达 54.9% 的拒答率进一步加剧了问题。应对策略包括继续使用 Opus 4.6、转向 GPT-5.4,以及迁移到本地模型。

Opus 4.7 的 token 经济性与自适应推理

严重程度:高。 u/Accomplished-Code-54(68 分)说:“再加上每条提示词多消耗 40% 的 token(因为换了新的 tokenizer),简直糟透了。”u/JulioMcLaughlin2 描述了不断自我纠错、最终在 20 美元套餐下触及使用上限的情况(254 分)。自适应推理系统对大多数查询默认采用低投入。u/NewConfusion9480(56 分)是一名计算机科学教师,他发现 4.7 在课程内容生成方面“明显比 4.5 更差,比 4.6 更是差得多”。应对方法包括明确指定投入级别、日常任务改用 Sonnet,以及迁移到本地推理。

本地模型配置过于复杂

严重程度:中。 每一篇 Qwen3.6 帖子都会引发一连串配置问题。u/No-Marionberry-772(83 分)问道:“你用的是什么软件栈?我很想把本地环境配置好,但一直搞不清楚到底应该用什么。”preserve_thinking 标志、--n-cpu-moe 标志、采样参数和量化选项,都需要针对具体模型进行调优。u/Clean_Initial_9618(20 分)询问如何在 16GB VRAM 上使用 Q5_K_XL。大量详细配置帖子表明,随着每次模型发布,这项反复调参的成本都会持续累积。

刷榜与真实世界性能之间的落差

严重程度:中。 排行榜得分与从业者体验之间的差距仍在扩大。u/ethotopia(93 分)说:“Gemini 3.1 和 4.7 排在前面,恰恰说明这个基准有多不适合真实世界用途。”[of Artificial Analysis] shows how bad this benchmark is for real world use." u/ResidentPositive4122(34 分)概括了其中的双重标准:“当新的 SOTA 模型冲上 artificial analysis 时,这个版块会说——‘这是最糟糕的基准。’当新的开源模型冲上 artificial analysis 时,这个版块会说——‘就是它了!’”u/DefNattyBoii(15 分)指责 Bonsai 拿过时模型进行比较,存在“智识不诚实”。

Vibe Coding 的炒作与现实

严重程度:低。 u/mhamza_hashim 记录了“100 万美元 vibe coding”内容与现实之间的差距:“那不是一门生意,只是一个原型”(每次我打开 YouTube,都有人靠 vibe coding 赚了 100 万美元,30 分,45 条评论)。u/GetawayDriving(55 分)说:“他们甚至不是在卖彩票,而是在卖‘如何买彩票’的说明书。”


3. 人们希望有什么

不会退化的模型升级

Opus 4.7 的故事集中体现了一个反复出现的愿望。u/Valnar(99 分)说:“我以为俗话是‘这已经是最糟的情况了’?”u/Loose_General4018(119 分)说:“如果一个模型在多步工程任务上反复失手,而这些任务它两个版本之前明明还能轻松完成,那么它在某个排行榜上高 6 分根本没人关心。基准上的表现好,不等于生产环境中的体验好。”社区希望前沿模型提升编程能力时,不要牺牲推理、语言和创意任务能力。目前没有产品直接解决这一问题。机会:直接。

Qwen 3.6 27B 稠密模型

u/GrungeWerX 直接表达了这一需求:27B 版本赢得了社区投票,却没有发布(162 分)。u/zsydeepsky(24 分)说:“如果 3.6-27B 能保持 3.5-27B 相比 3.5-35B-A3B 的优势,那它就真的会像一款运行在你自己机器上的 Claude-4.6-sonnet。”u/-Ellary-(16 分)指出,MoE 35B 模型在深度上的体感只相当于“非常轻量的模型,接近 9-12B 稠密模型”。对于重视推理密度而非速度的用户,这一需求十分迫切。

共享 GPU 配置数据库

每次新模型发布,调参周期都会重新开始。Qwen3.6 测试期间,大量按 GPU 划分的配置帖子(llama-server 标志、采样参数、量化选项、CPU 卸载策略)表明,一个由社区维护的配置注册库可以节省数千小时的集体时间。u/No-Marionberry-772(83 分)问道:“你用的是什么软件栈?我很想把本地环境配置好,但一直搞不清楚到底应该用什么。”机会:直接,现有零散论坛帖子已部分满足这一需求。

与真实使用相匹配的诚实基准

u/lemon07r 专门构建了 SanityHarness,因为标准基准无法捕捉真实编程智能体的行为,并发布了涵盖多个模型的 145 项结果(sanityboard.lr7.dev)。u/Striking-Swim6702 构建了完整的智能体框架兼容性矩阵。Opus 4.7 的争议——标准基准表现良好,却在实际任务中退化——进一步强化了人们对任务专用、可复现评测的需求。机会:竞争激烈,SanityHarness 和 MineBench 已成为新兴参与者。

更大规模的三值/超低比特模型

在 Bonsai 帖子中,u/Silver_Bug8527(102 分)问道:“Bonsai 35B 什么时候来?”u/Kaljuuntuva_Teppo(9 分)说:“可惜我们只能使用小模型。如果能更好地利用 24-32 GB 消费级 GPU,就更理想了。”PrismML 当前的产品最高只有 8B。将三值量化应用于 20-40B 基础模型,将是一次重大进步。机会:抱负型。


4. 正在使用的工具与方法

工具 类别 口碑 优势 局限
Claude Opus 4.7 LLM(前沿) (-) Artificial Analysis 排名领先;比 4.6 更节省 token;UI 生成能力强 NYT Connections 从 94.7% 暴跌至 41.0%;持续产生幻觉/gaslighting;自适应推理默认低投入;新 tokenizer 使每条提示词多消耗 40% token;对无害内容的拒答率为 54.9%
Qwen3.6-35B-A3B LLM(本地 MoE) (+) 3B 激活参数;Apache 2.0;在 5 个框架中工具调用率均为 100%;消费级 GPU 上达到 79-170 tok/s;262K 上下文 存在部分遵循问题;推理冗长;Plan 模式下不遵守只读模式;27B 稠密版本尚未发布
Claude Opus 4.6 LLM(前沿) (+/-) 许多人在推理和创意任务上仍更偏好它 有报告称其退化与 4.7 发布同时发生;疑似算力重新分配
GPT-5.4 LLM(前沿) (+) FrontierMath 领先;UI 生成能力具有竞争力;被用于检查 Opus 4.7 的错误 语言谜题能力不是最强(NYT Connections 得分 93.6%,低于 Gemini 的 98.4%)
Gemini 3.1 Pro LLM(前沿) (+/-) NYT Connections Extended 排名第一(98.4%);在多个基准上领先 尽管基准成绩突出,仍被批评为“不适合智能体业务工作”
Unsloth GGUFs 量化 (+) 在 Qwen3.6 的 22 个尺寸中,有 21 个实现帕累托最优 KLD;透明报告 CUDA 13.2 bug;调查 MiniMax NaN 问题 上游问题导致需要重新上传;部分社区成员怀疑其存在竞争动机
llama.cpp 推理引擎 (+) 本地推理标准工具;支持 preserve_thinking;--n-cpu-moe 标志支持 CPU/GPU 混合 MoE 不同模型和 GPU 需要分别调参;没有共享数据库
OpenCode 编程智能体 (+) 多名测试者本地模型编程时的首选;SanityHarness 和智能体框架测试均基于它构建 需要按提供商分别配置
Ternary Bonsai 端侧模型 (+/-) 1.58-bit 三值权重;相比 FP16 内存减少 9 倍 基于 Qwen3 而非 Qwen3.5;独立测试显示弱于 Gemma 4 E2B;只有 MLX 格式;基准测试被指“智识不诚实”
Heretic Abliteration 工具 (+) 在所有模型尺寸上去审查效果最稳定;27B 上 KL 散度最低;采用外科式处理 有时仍会保留软拒答
LM Studio 推理界面 (+) 流行的本地模型管理工具;可通过编辑 Jinja 模板支持 preserve_thinking 默认设置可能不适合新模型
Kimi K2.6-Code-Preview LLM(托管) (+) SanityHarness 评分高于 GLM 5.1;早期访问表现出潜力 API 尚未开放;仅支持 CLI
Grok 4.3 Beta LLM(前沿) (+/-) xAI 推出的新档位 每月 300 美元的价格引发质疑

4 月 17 日形成的主流迁移趋势仍在延续:受 Opus 4.7 退化、token 经济性以及 Qwen3.6 在消费级硬件上的竞争力推动,从业者正从托管式前沿模型转向本地推理。Qwen 系列在所有测试框架中实现 100% 工具调用率,相比非 Qwen 本地模型形成了显著的实用优势。


5. 人们正在构建什么

项目 构建者 功能 解决的问题 技术栈 阶段 链接
MineBench u/ENT_Alam 面向 LLM 空间推理能力的 3D 体素建造基准 标准基准无法衡量空间/创意能力 Minecraft 风格体素 JSON、Glicko 评分、工具模式 已发布,已测试 13+ 个模型 minebench.ai,GitHub
SanityHarness u/lemon07r 覆盖 6 种语言的多语言编程智能体评测 标准编程基准无法反映真实智能体行为 Go、Docker、bubblewrap 沙箱、OpenCode 已发布,145 项结果 sanityboard.lr7.dev,GitHub
OpenCode Kimi 插件 u/lemon07r 为 OpenCode 提供 Kimi K2.6-Code-Preview 支持 Kimi 只能通过 CLI 使用,缺少 OpenCode 集成 OpenCode 插件、OAuth headers 已发布 GitHub
Research-to-webapp skill u/dreamai87 通过智能体工具调用将研究论文转换为 Web 应用 手动完成从研究到原型的工作流 Qwen3.6 Q2_K_XL、llama-server、16GB VRAM 笔记本 已发布,58 次调用,成功率 98.3% GitHub
Abliterlitics 取证分析 u/nathandreamfast 对比 abliteration 技术的取证式基准测试 “无损”去审查的说法缺少验证 RTX 5090 + 4090、lm-evaluation-harness、vLLM、HarmBench 已发布至 HuggingFace HuggingFace 合集
智能体框架矩阵 u/Striking-Swim6702 在 Apple Silicon 上测试 7 个模型、5 个框架的兼容性 缺少跨框架智能体兼容性数据 Rapid-MLX、M3 Ultra、Hermes/PydanticAI/LangChain/smolagents/OpenClaude 已发布 帖子
Zagreus/Nesso SLMs u/kazzus78 面向欧洲语言的 0.4B 多语言模型 缺少针对意大利语/西班牙语/法语/葡萄牙语优化的小模型 64 张 A100、Datatrove、Nanotron、Axolotl、约 1T tokens 已在 HuggingFace 发布 GitHub
使用 Qwen3.6 构建的预算应用 u/simracerman 完整预算应用,替代使用十年的云服务 云端预算应用锁定 Qwen3.6 Q5_K_XL、5070 Ti 16GB、OpenCode 可用,持续开发中 帖子

u/ENT_Alam 的 MineBench 继续发展为社区喜爱的创意基准,目前已测试包括 Opus 4.6 和 4.7 在内的 13+ 个模型。这个采用 MIT 许可证的工具使用自然语言提示词,并通过 Glicko 风格的评分系统进行正面对比投票,评估模型生成的 3D 坐标 JSON 输出。

u/kazzus78 的 Zagreus/Nesso 项目是少见的小规模从头训练报告。技术报告完整记录了面向欧洲语言的 0.4B 参数模型训练流程,包括分词、Slurm 编排、使用约 1 万亿 tokens 在 64 张 A100 上进行分布式训练,以及后训练。Nesso-0.4B-agentic 版本在意大利语任务上表现尤其突出。

LLM-as-judge 对比图,展示 Zagreus 和 Nesso 模型在意大利语和英语任务上与 Qwen 基线的表现

当天的构建活动主要集中在两类模式上:评测基础设施(MineBench、SanityHarness、Abliterlitics、智能体框架矩阵)和本地模型的实际应用(research-to-webapp、预算应用)。这两类项目都以 Qwen 模型作为主要基础。


6. 最新与值得关注的动态

Moonshot AI 预告 Kimi K2.6

u/Namra_7 发布了 Kimi K2.6 的预告图片。这是 Moonshot AI 的下一款模型(KIMI K2.6 即将发布!!,247 分,48 条评论)。u/FriskyFennecFox(36 分)称赞 K2.5 的优势:总参数量 1T、激活参数 32B;专为低价 API 定制的 QAT;强大的图像理解能力;以及经过修改的 MIT 许可证。u/lemon07r 已提前获得 K2.6-Code-Preview 的访问权限,并认为它在 SanityHarness 上略高于 GLM 5.1;预计下周提供 API 支持。

Elephant Alpha:OpenRouter 排名第一的神秘模型

u/i_hate_bharat 提出了一个问题:一款名为“Elephant Alpha”的 100B 参数模型,已经在 OpenRouter 排名第一,运行速度约为 250 tps,支持 256K 上下文且编程能力很强,但没人知道它由谁打造(有人弄清楚 Elephant Alpha 到底是谁家的模型了吗?,84 分,23 条评论)。由于中文支持较差,社区排除了 Qwen/DeepSeek 的可能性,并猜测它可能来自 Cohere 或某家新创公司。

Cloudflare 开源无损 LLM 压缩技术

Cloudflare 发布了 Unweight。这套无损压缩系统可在不牺牲输出准确率的情况下,将 LLM 体积缩小 15-22%;在 H100 GPU 上运行 Llama-3.1-8B 时,可节省约 3GB VRAM(u/Otis43,114 分)。GPU 内核已经开源,后续计划将压缩范围扩展到注意力权重。

零样本世界模型:像孩子一样学习

u/FaeriaManic 发布了一篇介绍 Zero-shot World Model(ZWM)的论文。该模型只使用一个孩子的视觉经历进行训练,就能在视觉认知任务上达到最先进模型的水平——零样本完成任务,无需针对特定任务训练(Zero-shot World Models Are Developmentally Efficient Learners,141 分,27 条评论)。作者来自 Stanford(Aw、Kotar、Lee、Kim 等)。代码预计于 2026 年 4 月底发布。arXiv: 2604.10333,GitHub。

Zero-shot World Models 架构图,展示 BabyZWM 基于儿童视觉经验数据进行训练

Claude Design 发布

u/MassiveWasabi 分享了 Anthropic 对 Claude Design 的公告。这是一款通过与 Claude 对话来制作原型、幻灯片和单页文档的新产品(Introducing Claude Design,99 分,14 条评论)。早期互动量不高。

“Harness”成为标准术语

u/jacek2023 询问,“harness”是不是一个新流行词(harness 是个新流行词吗?,127 分,107 条评论)。u/vaksninus(116 分)说:“这是描述用于调用 Claude Code 这类模型的代码的好方法。”u/GraciousMule(9 分)说:“它取代了 Wrapper……各家实验室想要一种比‘cognitive stack’更适合面向消费者的说法。”这一术语变化反映出智能体生态正在走向成熟。


7. 机会在哪里

[+++] 独立的模型质量监控服务 —— Opus 4.7 的退化如今已通过至少四项独立基准和多份从业者报告得到记录:NYT Connections(94.7% 降至 41.0%)、MineBench(花费 275 美元但只是横向移动)、SanityHarness(花费 120 美元 API 额度发现持续性幻觉),以及结构化的用户失败案例目录。目前没有产品在推理层面独立监控托管模型质量,或在模型退化时向用户发出警报。用户对提供商基准的信任不断下降,为可信的第三方监控服务留下了空白。证据见第 1.2、2 节。

[+++] 共享本地模型配置注册库 —— 一天内的 10 篇 Qwen3.6 帖子,在 Reddit 评论中产生了数百条分散的硬件配置问答。preserve_thinking、--n-cpu-moe 等关键标志,以及采样参数和量化选项,会因 GPU、VRAM 和使用场景而异。一个由社区维护、可搜索的模型-硬件-配置组合数据库,可以在每次模型发布时节省数千小时的集体时间。证据见第 1.1、2、3 节。

** [++] Agent framework compatibility testing as a service** -- u/Striking-Swim6702 的兼容性矩阵揭示了明显差异:Qwen 模型在所有框架中都实现了 100% 工具调用率,而 DeepSeek-R1 只有 40-55%。这类数据对选择模型和框架的从业者极具价值,但目前只存在于一篇 Reddit 帖子中。一个持续更新模型-框架兼容性的服务,将服务于不断扩大的智能体编程社区。证据见第 1.1 节。

[++] 面向中大型模型的超低比特量化 —— Ternary Bonsai 在 8B 规模上展示了这一概念,但社区需要的是 20-40B 及以上的模型。Abliterlitics 分析表明,量化技术的选择在大规模场景下影响巨大。将三值或极限量化与当前一代基础模型(Qwen3.5/3.6、Gemma 4)结合,并部署在消费级 GPU 上,仍是一个开放的工程问题。证据见第 1.5 节。

[+] 主权 AI 基础设施咨询 —— 英国(6.75 亿美元基金)和法国(估值 140 亿美元的 Mistral)都在押注将 AI 主权作为一种特性。英国基金尤其瞄准“卖铲子”式细分领域。帮助主权 AI 计划配置算力、评估模型并满足数据驻留要求的咨询或工具,正在形成新兴市场。证据见第 1.4 节。

[+] 无损模型压缩工具 —— Cloudflare 的 Unweight 可将模型体积缩小 15-22%。将其扩展到注意力权重,并与量化结合,有望显著扩大消费级硬件能够运行的模型范围。证据见第 1.5 节。


8. 要点总结

  1. Qwen3.6-35B-A3B 主导了第二天的社区测试,至少有 10 篇帖子、总得分超过 3,500,进一步确立了其当前本地模型首选的地位。 它在五个智能体框架中实现 100% 工具调用率,在消费级 GPU 上达到 79-170 tok/s,并通过 preserve_thinking 修复提升多轮连贯性,构成了本地推理的一项实用里程碑。(Qwen3.6,就是它了。,Qwen 3.6 对比另外 6 个模型)

  2. Claude Opus 4.7 的退化证据进一步坐实:NYT Connections Extended Benchmark 得分从 94.7% 降至 41.0%,下降 53.7 个百分点,是迄今最有力的数据点。 再加上 SanityHarness 给出的“Gaslightus-4.7”称号、从业者整理的失败案例,以及对无害内容高达 54.9% 的拒答率,社区共识已经从怀疑转向有记录支撑的失望。(opus 4.7 得分 41.0%,Opus 4.7 是一次严重退步)

  3. 量化生态正在走向专业化。 Unsloth 的帕累托最优 GGUF 基准、Abliterlitics 通过取证分析在大规模测试中反驳“无损”去审查说法,以及 Cloudflare 开源的无损压缩技术,都体现出超越业余折腾的工程严谨性。已确认的 CUDA 13.2 bug 影响所有提供商的低比特量化模型,说明这套技术栈仍然十分脆弱。(Qwen3.6 GGUF 基准测试,Abliterlitics)

  4. “刷榜”批评获得了迄今最具体的证据。 Opus 4.7 在 Artificial Analysis 上领先,却在 NYT Connections 上崩溃。Gemini 3.1 Pro 在 NYT Connections 上以 98.4% 排名第一,但用户称它不适合智能体工作。Bonsai 基准测试则被指存在智识不诚实。排行榜表现与从业者满意度之间的差距仍在扩大。(Artificial Analysis,Bonsai 纯属炒作)

  5. AI 地缘政治正沿着三条轴线分化:Stanford HAI 认为美中差距缩小至 39 个 Arena 分;欧洲押注 AI 主权(估值 140 亿美元的 Mistral、英国 6.75 亿美元基金);以及 OpenAI 的组织动荡,包括一名关键高管离职和科学部门撤销。(中国几乎抹平了美国的领先优势,英国主权 AI,OpenAI 高管离职)

  6. 构建者的活动集中在评测基础设施上。 当天重点介绍的项目中,有四个(MineBench、SanityHarness、Abliterlitics、智能体框架矩阵)都是评测工具,而不是应用。这反映出社区已经意识到,可靠基准如今才是瓶颈,而不是模型的原始能力。(MineBench,SanityHarness)

  7. LLM 意识之争在一名 DeepMind 高级科学家主张 LLM 永远不可能获得意识后,获得了当天最高的评论数(544)。 社区在尊重专业意见与批评哲学幼稚之间产生分歧,表明即使在技术导向的子版块中,意识仍然是 AI 领域最能引发参与的话题之一。(Abstraction Fallacy)

  8. Kimi K2.6 和神秘的“Elephant Alpha”模型表明,竞争格局正在扩大。 Moonshot AI 正在延续 K2.5 的良好势头,而一款身份不明、位列 OpenRouter 第一的 100B 模型,则暗示新参与者可能在正式宣布之前就已经开始交付。如今,本地模型生态已经足够丰富,限制从业者选择的因素不再是模型是否可用,而是评测带宽是否足够。(KIMI K2.6 即将发布,Elephant Alpha)