跳转至

Reddit AI - 2026-04-17

1. 人们在讨论什么

1.1 Qwen3.6-35B-A3B 主宰当天讨论(🡕)

这是所有追踪 subreddit 中得分最高的帖子。u/ResearchCrafty1804 宣布发布 Qwen3.6-35B-A3B。这是一款采用 Apache 2.0 许可证的稀疏 MoE 模型,总参数量 35B,活跃参数仅 3B(Qwen3.6-35B-A3B 发布了!,1947 分,615 条评论)。u/NewEconomy55 也发了一个同期讨论帖(476 分,88 条评论)(Qwen3.6-35B-A3B 已发布)。

Qwen3.6-35B-A3B 基准测试图表,对比了 MoE 与稠密模型在 Terminal-Bench 2.0、SWE-bench Pro、SWE-bench Verified、GPQA Diamond、HMMT、MMMU 和 RealWorldQA 上的表现

Qwen 博客 给出的关键基准成绩包括:SWE-bench Verified 73.4、SWE-bench Pro 49.5(高于 Qwen3.5-35B-A3B 的 44.6)、Terminal-Bench 2.0 51.5、GPQA Diamond 86.0,以及 HMMT Feb 26 83.6。该模型原生支持多模态,在多个基准中的 VLM 表现可与 Claude Sonnet 4.5 媲美,同时具备很强的空间智能能力(RefCOCO 92.0、ODInW13 50.8)。模型使用 256 个专家,每个 token 路由其中 8 个;采用混合注意力机制(linear + softmax,比例 3:1),支持 262K 上下文。

u/Kodix(382 分):“这几个月本地 LLM 的发展真不错,对吧?”u/AndreVallestero(144 分):“希望他们发布 3.6 122B,逼 Google 也把他们的 124B 模型放出来。”u/Willing-Toe1942(102 分):“我感觉 qwen 团队太想跟 Gemma 一较高下了,所以才只拿 Qwen3.5/Gemma4 来对比。”u/Middle_Bullfrog_6173(129 分)还指出博客里的预告语:“Qwen3.6 开源家族仍在扩展,敬请期待。”

早期用户反馈几乎一边倒地积极。u/Local-Cardiologist-5 表示,该模型能够自主构建塔防游戏、发现自身 bug,并修复画布渲染问题;通过 llama.cpp 在 RTX 3090 上运行时速度达到 120 tok/s(Qwen3.6。就是它了。,525 分,254 条评论)。u/cviperr33(34 分):“它真的修好了那些我用 gemma 卡了好几天、已经无从下手的坏代码或项目,而且大概 5 分钟就搞定了。”u/CountlessFlies 在由 Rust、TypeScript、Python 组成的多语言代码库中实现了 Postgres RLS,并称其为“本地编码的圣杯”(Qwen3.6 搭配 OpenCode 表现惊艳!,115 分,48 条评论)。

不过,并非所有体验都很积极。u/tkon3 报告称,在使用 vLLM 搭配 RAG 时,它的遵循能力不如前代:推理过程更冗长、对系统提示词的遵循更弱,最终回复也更短(Qwen 3.6:遵循性更差了?,67 分,47 条评论)。u/exact_constraint(30 分):“3.6 在 Plan 模式下很喜欢无视只读限制。”

u/onil_gova 发现了一个关键基础设施改进:Qwen3.6 附带 preserve_thinking 标志,可修复此前版本中的 KV 缓存失效问题(提示:Qwen3.6 默认附带 preserve_thinking,305 分,68 条评论)。该标志会将此前的推理内容保留在上下文中,而不是在每轮对话里将其剥离后重新序列化。u/mlhher(105 分)分享了 llama.cpp 中对应的标志:--chat-template-kwargs '{"preserve_thinking": true}'。

u/danielhanchen 来自 Unsloth,发布了 Qwen3.6 GGUF 的 KLD 基准,显示 Unsloth 的量化版本在 22 种尺寸中的 21 种位于帕累托前沿(Qwen3.6 GGUF 基准测试,227 分,57 条评论)。该帖子还记录了一个已确认的 CUDA 13.2 bug:低比特量化版本会输出乱码;NVIDIA 已确认将在 CUDA 13.3 中修复。

Unsloth KLD 为 Qwen3.6-35B-A3B 提供的 GGUF 基准测试,展示了不同量化提供方之间的帕累托前沿

u/hauhau901 发布了一个采用 K_P 量化的无审查“Aggressive”版本,声称在 465 次测试中 0 拒答,且能力零损失(Qwen3.6-35B-A3B 无审查激进版,250 分,78 条评论)。社区对此感兴趣,但也持怀疑态度:u/llama-impersonator(56 分)指出,“至今仍明显缺乏关于你具体做了什么,以及如何测试‘零能力损失’的信息。”

讨论洞察: Qwen3.6 引发了近期少见的高度集中社区测试潮。3B 的活跃参数量让它能运行在消费级 GPU 上(4090、3090,甚至 16GB 笔记本),而 preserve_thinking 修复则解决了一个真实存在的基础设施痛点。它与 Gemma 4 的竞争定位也非常明确——Qwen 公开的直接对比只针对 Qwen3.5 和 Gemma4。

与前一天相比: 4 月 16 日,Qwen3.6 刚刚发布,社区对基准成绩感到兴奋,但实际用户反馈有限。今天,社区拿出了大量上手测试,从智能体编码到 RAG 工作流都有覆盖,使其成为当前本地模型的首选;不过,部分用户仍遇到遵循能力和系统提示词问题。


1.2 Claude Opus 4.7:基准提升遇上用户反弹(🡕)

Opus 4.7 的全面可用引发了当天最两极分化的讨论。多篇帖子围绕基准成绩、回归证据和用户不满展开。

u/ShreckAndDonkey123 发布了官方基准表(Claude Opus 4.7 基准测试,827 分,222 条评论)。u/policyweb 也发布了补充报道(483 分,33 条评论)。

Opus 4.7 基准测试表,显示 SWE-bench Pro 64.3%、SWE-bench Verified 87.6%、Terminal-Bench 2.0 69.4%,以及与 Opus 4.6、GPT-5.4、Gemini 3.1 Pro 和 Mythos Preview 对比的其他分数

Anthropic 博客 中的关键数字包括:SWE-bench Pro 64.3%(高于 Opus 4.6 的 53.4%)、SWE-bench Verified 87.6%、Terminal-Bench 2.0 69.4%、HLE 无工具 46.9% / 有工具 54.7%,以及 OSWorld-Verified 78.0%。根据 Project Glasswing 的要求,网络安全能力(CyberGym 73.1%)被有意限制在 Mythos Preview 水平以下。价格维持不变:每百万输入/输出 token 分别为 $5/$25。Hex 的早期测试者评价是:“低投入的 Opus 4.7 大致相当于中等投入的 Opus 4.6。”

但反弹来得很快,而且罕见地高度一致。u/Neurogence 发帖称,Claude 的重度用户“一致认为” Opus 4.7 是一次倒退(Claude 重度用户一致认为 Opus 4.7 是一次严重倒退,819 分,162 条评论)。u/Many_Consequence_337(164 分):“问题出在自适应思考被搞砸了,模型根本不会用它。”u/danivl(155 分)提出了这样的看法:“4.7 实际上是更差的 4.6,只是运行成本更低……token 消耗快得多。”

u/seencoding 给出了最尖锐的证据:在 NYT Connections 扩展基准测试 上,Opus 4.7(高投入)得分为 41.0%,而 Opus 4.6 为 94.7%,下降了 53.7 个百分点(opus 4.7(high)得分为 41.0%,618 分,112 条评论)。不使用推理时,Opus 4.7 以 15.3% 的成绩排在第 62 名,垫底。u/Klutzy-Snow8016(36 分)指出了一个关键因素:Anthropic 提高了拒答倾向——基准问题中有 54.9% 因安全原因被拒答,尽管其中并不包含任何 NSFW 内容。它在作答时的得分为 90.9%,仍低于 4.6 的 94.7%。

主题泛化基准测试显示,Opus 4.7 high 为 72.8,而 Opus 4.6 high 为 80.6,另附其他模型排名

u/zero0_one1 在 Thematic Generalization Benchmark 上确认了这一趋势:高推理模式从 80.6 降至 72.8,无推理模式则从 68.8 降至 52.6(Opus 4.7 的表现意外地明显更差,439 分,66 条评论)。u/PaxODST(165 分):“为了最大化它在编码和 SWE 上的提升,其他方面显然砍掉了一些东西。”

u/lemon07r 是 SanityHarness 编码评测的作者。他花费 $120 API 额度测试 Opus 4.7,并发了一篇长篇吐槽:“我从没见过哪个模型会如此严重、如此频繁地产生幻觉……你试图纠正它时,它还会极其顽固地坚持自己的错误”(Kimi K2.6-Code-Preview、Opus 4.7、GLM 5.1 编码测试,52 分)。他给它起了个绰号:“Gaslightus-4.7”。

u/JulioMcLaughlin2 是一名从事理论数学和物理研究的博士生。他描述了模型不断陷入自我纠正循环,并在 $20 套餐下迅速耗尽 token(Opus 4.7 太差劲了,121 分,66 条评论)。u/looselyhuman(71 分):“Anthropic 通过‘自适应’削弱 Opus,是想在建好更多服务器之前维持现有服务运行。”

u/ObjectivePresent4162 列出了四个具体问题:对定价数据产生自信式幻觉、自适应推理默认采用低投入模式、无视用户要求却擅自修改内容,以及 token 消耗速度更快(用了 Opus 4.7 之后……没错,性能下降是真的,65 分,26 条评论)。

讨论洞察: 这一模式已经相当清晰:Opus 4.7 在编码/SWE 基准上有所提升,却在泛化能力、语言谜题、创意任务和现实世界推理方面出现退步。无害基准问题上的拒答率飙升至 54.9%,再加上自适应推理默认采用低投入模式,表明它可能在系统性地针对少数基准优化,而代价是更广泛能力受损。社区正逐渐形成“为刷榜而优化”的叙事。

与前一天相比: 4 月 16 日,报告对 Opus 4.7 的发布持审慎怀疑态度。今天,至少四项独立基准和多名实践者的反馈提供了量化回归证据。舆论已经明确从“先观望”转向有据可查的失望。


1.3 Anthropic 的信任危机:订阅、隐私与本地迁移(🡕)

三条相互汇聚的讨论,构成了围绕 Anthropic 的更广泛信任叙事。

u/kaggleqrdl 转发并放大了一名 GitHub 用户的分析。该分析预测,Anthropic 正在“变相终止其订阅套餐”,转向仅面向企业的访问模式(现在只有 LocalLLaMa 能拯救我们了,391 分,134 条评论)。原帖 GitHub 评论 认为,Anthropic“愿意通过悄然降级,慢慢消耗并流失客户”。u/PhillyG17(200 分):“这和互联网早期‘蛮荒西部’时期发生的事情如出一辙。起初一切都围绕打造最好的产品,后来转向打造能盈利的产品。”u/ttkciar(115 分)是 LocalLLaMA 版主,他保留了该帖,认为其与版块主题相关:“商业推理服务的善变性,正是我们当中一些人来到这个子版块的一大原因。”

u/fulgencio_batista 发帖称,Claude 现在要求进行身份验证,包括有效身份证件和人脸识别扫描(转向本地部署的更多理由,541 分,88 条评论)。u/Makers7886(200 分):“不知道这其中有多少是‘美国实验室联合起来阻止中国实验室使用它们’的一部分,又有多少只是提取个人数据的借口。”u/hideo_kuze_(66 分):“现在每个破网站或应用都要提交护照和 DNA 样本。”

与此同时,u/kaggleqrdl 另行分享了 Anthropic 正走向企业优先模式的预测,并声称一名 AMD 工程师分析了 6,852 个 Claude Code 会话,证明性能发生了变化(GitHub 用户预测 Anthropic 将终止订阅服务,155 分,54 条评论)。u/Weak-Variety-4307(61 分):“Anthropic 和 OpenAI 都在玩长期收入游戏……当现有模型似乎总是在新版本发布前被降级时,这看起来就是光天化日之下的诱导转向。”

讨论洞察: Opus 4.7 的性能回归、身份验证要求和订阅不确定性相互叠加,正在形成复合型信任危机。单独来看,每个问题或许还能被消化;但放在一起,就构成了一家公司优先追求企业收入、牺牲个人用户的叙事。LocalLLaMA 版主明确认可该帖与主题相关,表明社区正将其视为本地模型存在的根本动因之一。

与前一天相比: 4 月 16 日,Anthropic 的信任流失已经是一个痛点。今天,随着“变相终止”分析获得 391 分、身份验证帖子获得 541 分,以及版主明确将其与 LocalLLaMA 的使命联系起来,事态进一步升级。


1.4 AI 伦理与军事用途:Palantir 面临公众问责(🡒)

两段 Palantir 联合创始人的视频获得了强烈关注。u/Algrm 发布了 Peter Thiel 被问及 Palantir 在加沙使用 AI 的视频(Peter Thiel……被问到时吓得失态,1497 分,204 条评论),随后又单独发布了 Alex Karp 将死者称为“有用的白痴”和“主要是恐怖分子”的视频(Alex Karp……提到了那些遇害者,773 分,178 条评论)。

u/justpassingbyteam(209 分):“我的倾向是无论以色列决定什么,我都相信那是对的。这就是他的回答。太疯狂了。”u/Miamiconnectionexo(284 分):“‘主要是恐怖分子’这种表述,正是这些系统得以部署、却无需为平民死亡承担任何责任的方式。”

讨论洞察: 这些帖子处于 AI 与地缘政治的交叉点。两帖合计获得 2,270 分,是按原始数据计算关注度最高的单一议题,不过讨论重点主要在伦理层面,而非技术层面。社区的反应反映出,人们越来越担忧 AI 被部署到军事场景,却缺乏问责机制。

与前一天相比: 4 月 16 日的重点是 Anthropic 反对伊利诺伊州责任豁免,以及白宫获取 Mythos 访问权限。今天,AI 伦理讨论从监管立场转向直接面对军事部署的后果。


1.5 AI 辅助工作的情绪代价加深(🡒)

u/throwawayname46 描述了连续数周用 Claude 解决工作问题后经历的三阶段情绪变化:高强度工作后的疲惫、恢复期间因进展停滞而产生的内疚,以及成果交付后的空虚,因为“你无法诚实地把所有产出都归功于自己”(我:用 Claude 解决了几周工作问题之后,却感到无比空虚,867 分,178 条评论)。

u/wheres_my_ballot(230 分):“对我们很多人来说,满足感来自过程,以及找到解决方案时的成就感。但现在这种感觉已经死了。”u/evendedwifestillnags(100 分):“Claude 之后的清醒时刻。它完成了我 90% 的工作。我感受到前所未有的强烈冒名顶替感。”u/Actual_Editor(24 分):“我们都是 PM。”u/puncheonjudy(45 分)则提出了另一种看法:“想想它给了你什么……如果它能让我更快完成工作,那我通常会陪女儿玩,或者出去散步。”

讨论洞察: 这篇帖子从 4 月 16 日起持续攀升(最初为 663 分,如今达到 867 分),说明这一主题具有持续影响力。“我们都是 PM”这一说法——AI 将专业人士变成自己 AI 产出的项目经理——比此前任何讨论都更简洁地概括了职业身份危机。

与前一天相比: 这篇帖子曾于 4 月 16 日以 663 分登上榜单。今天,它在新增评论推动下达到 867 分,进一步深化了讨论。情绪代价这一主题正在成为反复出现的信号,而不再只是一次性的情绪宣泄。


1.6 机器人:跑得更快、失败更少,为马拉松训练(🡒)

u/Distinct-Question-16 发布了 Figure.AI 的“Vulcan”平衡策略。该策略可让 Figure 03 机器人在最多损失 3 个下肢执行器的情况下保持平衡(Figure.AI 新平衡政策,585 分,109 条评论)。u/Maleficent-Low-7485(209 分):“我们竟然能如此轻描淡写地把机器人设计成可以从部分硬件故障中恢复,这事太疯狂了。”

u/heart-aroni 发布了 Unitree H1 的测试视频:它从慢跑加速到奔跑,为 4 月 19 日举行的北京人形机器人半程马拉松做准备(Unitree H1 从慢跑加速到奔跑,404 分,52 条评论)。u/JoelMahon(118 分):“如果我正在逃离它,慢跑模式下还能跑赢它,结果它突然加速……我会吓尿。”

u/EasyTree12 分享了一篇 Forbes 报道,记录了人形机器人执行家庭任务时 88% 的失败率(人形机器人 88% 的失败率,113 分,85 条评论)。u/RanklesTheOtter(132 分):“它们现在就是最差的时候。”u/DaySecure7642(24 分):“几年前还是 0%,现在已经到 12% 了。到 2030 年,它们将能胜任许多任务。”

u/socoolandawesome 发布了 Physical Intelligence 的一段精彩演示,展示机器人如何通过基于语言的引导,将能力泛化到新任务(来自 Physical Intelligence 的惊艳机器人演示,68 分,20 条评论)。

讨论洞察: 88% 的失败率,与 Vulcan 所展现的韧性提升以及 Unitree 所展现的速度提升形成鲜明对照,恰好体现了当前状态:机器人在大多数任务上依然很差,却又在以肉眼可见的速度进步。社区整体倾向于乐观,将失败重新理解为基线,而非限制。

与前一天相比: 4 月 16 日的重点是 Leju Robotics 的自动化工厂和灵巧机械手。今天则转向韧性(从硬件故障中恢复)和运动能力(马拉松训练),延续了机器人基础设施不断成熟的主题。


1.7 AI 政策:政府访问权、主权基金与市场变局(🡒)

u/exordin26 援引 Bloomberg 报道称,白宫正推动向美国政府机构开放 Anthropic Mythos 的访问权限,尽管此前曾将其列为供应链风险(白宫推动让美国政府机构获得 Anthropic Mythos 使用权限,465 分,53 条评论)。u/AdAnnual5736(321 分):“等等,他们不是供应链风险吗?”u/o5mfiHTNsH748KVq(51 分):“我也把这理解为,OpenAI 手上没有能与之竞争的东西。”

u/EmbarrassedStudent10 发帖称,英国设立了 6.75 亿美元的“Sovereign AI”基金,目标是 AI 智能体、药物发现和硬件优化,而不是打造前沿模型(英国推出 6.75 亿美元主权 AI 基金,98 分,36 条评论)。u/thhvancouver(19 分):“与此同时,Microsoft 已承诺向欧洲数据边界内的 AI 基础设施投入 400 亿美元。”

u/fortune 分享了 Stanford HAI 的 2026 AI Index 报告。报告显示,中国“几乎抹平了”美国的 AI 领先优势——Arena 得分差距已缩小到仅 39 分,分别对应 Anthropic 的 Claude Opus 4.6 和中国的 Dola-Seed 2.0(中国几乎已经抹平了美国在 AI 领域的领先优势,125 分,48 条评论)。

u/GamingDisruptor 发布了 SimilarWeb 数据:ChatGPT 在生成式 AI 流量中的占比在 12 个月内从 77.43% 降至 56.72%,而 Gemini 上升至 25.46%,Claude 上升至 6.02%(OpenAI 持续流失市场份额,130 分,53 条评论)。u/Cagnazzo82(11 分)补充道:“ChatGPT 仍在增长。每月 60 亿次访问……是全球访问量第五高的网站。”

SimilarWeb 图表显示 2025 年 4 月至 2026 年 3 月期间 GenAI 网站流量份额变化:ChatGPT 从 77% 降至 57%,而 Gemini 增长至 25%

讨论洞察: 政策格局正在碎片化:美国政府一边将 Anthropic 定性为供应链风险,一边争取访问 Mythos;英国押注于卖铲子而不是做前沿模型;中国则在缩小差距。市场份额数据表明,这更像是市场健康分化,而非 ChatGPT 衰退,但趋势有利于 Google 的分发优势。

与前一天相比: 4 月 16 日的重点是 Anthropic 在英国扩张以及 OpenAI 的伦敦办公室。今天,英国 Sovereign AI 基金和 Stanford AI Index 为地缘竞争叙事补充了量化背景。


2. 什么让人感到沮丧

Claude Opus 4.7 在非编码任务上的回归

严重程度:高。 这是当天最强烈的挫败信号。四项独立基准都记录了性能回归:NYT Connections Extended 从 94.7% 降至 41.0%(u/seencoding、得分 618);Thematic Generalization 从 80.6 降至 72.8(u/zero0_one1、得分 439);SanityHarness 的现实编码测试发现持续性的幻觉和煤气灯式误导行为(u/lemon07r、得分 52);openmark.ai 上的用户评测显示,Opus 4.6 在所有现实任务基准上都胜过 4.7(u/Rent_South)。在无害基准问题上高达 54.9% 的拒答率进一步加剧了问题。应对方式:继续使用 Opus 4.6、转向 GPT-5.4,或迁移到本地模型。

Anthropic 的自适应推理与 token 经济性

严重程度:高。 u/Accomplished-Code-54(61 分):“再加上每条提示词多消耗 40% 的 token(因为换了 tokenizer),简直糟透了。”u/JulioMcLaughlin2 描述了 Opus 4.7 不断陷入自我纠正循环,并在 $20 套餐下触及使用上限。u/FateOfMuffins 指出,网站上的自适应推理让用户“很难弄明白怎样才能让 4.7 真正思考”。应对方式:使用明确的 /effort high 命令、日常任务改用 Sonnet,或迁移到本地推理。

身份验证与隐私侵蚀

严重程度:中。 Claude 现在要求护照或驾照以及人脸识别(u/fulgencio_batista、得分 541)。u/hideo_kuze_(66 分):“这个世界正变得越来越反乌托邦。”这被明确视为推动用户迁移到本地模型的催化因素。应对方式:转向本地模型,使用开放权重替代方案。

Qwen3.6 遵循能力问题

严重程度:中。 多名用户报告了系统提示词遵循问题,尤其是在 RAG 和智能体场景中。u/tkon3 记录了使用工具时推理 token 膨胀至原来的 2-3 倍、系统提示词遵循能力减弱,以及最终回复变短等问题(得分 67)。u/exact_constraint(30 分):“它开始在只读模式下写文件了。”应对方式:使用 preserve_thinking 标志、调整采样参数,并等待社区模板成熟。


3. 人们希望有什么

一个不会在升级时倒退的模型

Opus 4.7 的经历集中体现了一种反复出现的愿望:升级不能以牺牲既有能力为代价。u/m_atx(35 分)表达了这种疲惫:“每次新模型发布都一定会出现这种情况。把模型编号替换掉就行了。”u/Valnar(72 分):“我记得那句话应该是‘这已经是它最差的时候了’吧?”社区希望前沿模型在编码能力提升的同时,不要牺牲推理、语言和创意任务能力。当前没有产品直接解决这一问题。

模型完整性验证

这一愿望延续自 4 月 16 日,并进一步强化。Opus 4.7 的回归数据、身份验证和“变相终止”分析共同指向同一个缺口:没有独立机制验证用户获得的,是否真是自己付费购买的完整质量模型。u/Loose_General4018(122 分):“基准测试上的感觉,不等于生产环境中的感觉。”机会非常直接——目前没有产品解决这一问题。

共享 GPU 配置数据库

u/No-Marionberry-772(56 分)在 Qwen3.6 讨论帖中问道:“你们软件用的是什么技术栈?我很想搭建一个真正好用的本地环境,但一直弄不清究竟该用什么。”每次新模型发布(今天的 Qwen3.6、上周的 Gemma 4)都会重新启动调优周期。大量详细配置帖子——包括 llama-server 标志、采样参数和量化选项——表明,一个由社区维护的配置注册库可以节省数千小时的集体时间。

与真实使用相匹配的诚实基准

u/lemon07r 专门构建了 SanityHarness,因为标准基准无法捕捉真实编码智能体的行为。u/Desperate-Purpose178(7 分):“Gemini 是刷基准之王。”u/Helpful_Inflation344(5 分):“如果 METR 没有测量这一点,那他们的基准就过时了。”基准榜首与现实效用之间的差距正在扩大,催生了对面向具体任务、可复现评测平台的需求。


4. 正在使用的工具与方法

工具 类别 评价 优势 局限
Claude Opus 4.7 LLM(前沿) (-) SWE-bench Pro 64.3%(比 4.6 高 11 个百分点);视觉能力提升;自我验证 推理/语言基准回归;在无害任务上的拒答率为 54.9%;自适应推理默认低投入;每条提示词多消耗 40% token
Qwen3.6-35B-A3B LLM(本地 MoE) (+) 3B 活跃参数;Apache 2.0;原生多模态;preserve_thinking 修复;3090 上 120 tok/s RAG 场景存在遵循问题;系统提示词遵循弱于 3.5;使用工具时推理冗长
Claude Opus 4.6 LLM(前沿) (+/-) 许多用户在推理任务中仍更偏好它;可供选择 有报告称其降级与 4.7 发布同时发生;疑似进行了算力重新分配
Unsloth GGUFs 量化 (+) Qwen3.6 的 22 种尺寸中有 21 种在 KLD 方面处于帕累托最优;问题报告透明 上游问题需要重新上传;CUDA 13.2 bug 影响低比特量化版本
llama.cpp 推理引擎 (+) 本地推理的事实标准;支持 preserve_thinking;迭代快 每种 GPU 都需要单独调优配置;没有共享数据库
Ternary Bonsai 边缘模型 (+/-) 1.58-bit,比 FP16 小 9 倍;1.75GB 下平均基准成绩 75.5 基于 Qwen3(而非 3.5);基准对比受到质疑;目前仅提供 MLX 格式
OpenCode 编码智能体 (+) 多名测试者进行本地模型编码的首选;SanityHarness 评测基于它构建 非标准提供商需要额外配置
Kimi K2.6-Code-Preview LLM(托管) (+) SanityHarness 评分略高于 GLM 5.1;早期访问表现出潜力 API 支持尚未提供;当前仅支持 CLI
MiniMax M2.7 LLM(本地) (+/-) 全精度下部分用户认为达到 Sonnet 水平 默认设置表现不稳定;缺少空格并存在拼写错误;Bartowski GGUF 中有 38% 出现 NaN;工具调用格式漂移

迁移趋势正在加速:实践者从托管前沿模型转向本地推理,驱动力既包括信任流失(身份验证、订阅不确定性、悄然降级),也包括能力趋同(Qwen3.6 在消费级硬件上逐渐接近前沿模型表现)。Opus 4.7 的回归反而强化了本地模型的理由,正如 u/kaggleqrdl 所说:“现在只有 LocalLLaMa 能拯救我们。”


5. 人们正在构建什么

项目 构建者 功能 解决的问题 技术栈 阶段 链接
通过 Qwen3.6 构建塔防游戏 u/Local-Cardiologist-5 自主开发游戏并自行调试 展示本地模型的智能体编码能力 Qwen3.6-35B-A3B Q6_K_XL、llama-server、MCP 截图 可运行演示 帖子
多语言 RLS 实现 u/CountlessFlies 在 Rust、TypeScript、Python 服务中实现行级安全 跨语言数据库安全模式 Qwen3.6 IQ4_NL、llama.cpp、OpenCode、RTX 4090 已提交 PR PR
SanityHarness 编码评测 u/lemon07r 覆盖 6 种语言的多语言编码智能体基准 标准基准无法反映真实智能体行为 Docker、bubblewrap 沙箱、OpenCode 已发布 145 项结果 sanityboard.lr7.dev、GitHub
Qwen3.6 research-webapp skill u/dreamai87 将研究论文转换为 Web 应用 手动把研究转成原型的工作流 Qwen3.6 Q4_K_XL、llama-server、16GB VRAM 笔记本 已交付,58 次工具调用,98.3% 成功率 GitHub
Qwen3.6 Uncensored Aggressive u/hauhau901 采用 K_P 量化和 imatrix 的零拒答版本 在不损失能力的情况下移除审查 Qwen3.6 基础模型、自定义 K_P 量化 已在 HuggingFace 发布 HuggingFace
PromptCreek library u/Big-Initiative-4256 提供 1000+ 个模板和 1200+ 项智能体技能的免费提示词库 提示词淹没在聊天记录中;缺乏有组织的提示词仓库 Web 应用、通过 npx 安装技能 已上线 promptcreek.com
OpenCode Kimi plugin u/lemon07r 为 OpenCode 提供 Kimi K2.6-Code-Preview 支持 Kimi 只能通过 CLI 使用;缺少 OpenCode 集成 OpenCode 插件、OAuth headers 已发布 GitHub
Open WebUI rich elements u/Mr_BETADINE 在 Open WebUI 回复中提供丰富 UI 组件 纯文本输出的局限 Open WebUI 插件 原型 帖子

当天的构建活动主要围绕 Qwen3.6 展开。8 个项目中有 3 个将其作为主模型,另有 2 个对其进行评测。research-to-webapp skill 在 16GB 笔记本上处理 270 万 token 时,工具调用成功率达到 98.3%,显示出消费级设备上真实可用的智能体能力。


6. 新动态与值得关注的项目

DeepSeek 为下一代模型准备超大规模 MoE 基础设施

u/External_Mood4719 跟踪了一个 DeepGEMM PR #304 更新,新增“Mega MoE”支持:将 dispatch、linear 1、SwiGLU、linear 2 和 combine 操作融合进单个 mega-kernel,并让 NVLink 通信与张量核心计算重叠执行(DeepSeek 更新了其仓库 DeepGEMM,测试 Mega MoE,116 分)。

DeepGEMM PR,展示了 Mega MoE 特性,包括 FP4 Indexer、Blackwell 适配以及贡献者列表

FP8 x FP4 MoE 量化、Mega MoE 内核、通过 DeepEPv2 实现的分布式通信,以及针对 Blackwell GPU 的适配,都指向一款规模大于 DeepSeek V3 的模型。它要求 PyTorch >= 2.9。该仓库附带免责声明:“本次发布仅与 DeepGEMM 的开发有关,与内部模型发布没有任何关系。”

Bonsai 三值模型虽架构新颖,仍面临质疑

u/pmttyji 发布了 PrismML 的 Ternary Bonsai 系列,包括 8B、4B 和 1.7B 参数模型。它们使用 {-1, 0, +1} 三值权重,相比 FP16 可减少 9 倍内存占用(Ternary Bonsai:以 1.58 比特实现顶尖智能,333 分,81 条评论)。但 u/WeGoToMars7 直接质疑了这些说法:Bonsai-8B 的大小为 782MB,仅比 Q4_K_M 下的 Gemma 4 E2B(1104MB)小 29%,却“蠢得多”;而三值版本反而大了 33%(Bonsai 模型纯属炒作,124 分,54 条评论)。u/KaroYadgar(69 分)指出,Bonsai 基于 Qwen3,而非 Qwen3.5,这限制了它的上限。

Anthropic Labs 宣布 Claude Design

u/MassiveWasabi 发布了 Claude Design 的公告。这是 Anthropic 推出的新产品,用户可以通过与 Claude 对话制作原型、幻灯片和单页文档(推出 Claude Design,55 分,4 条评论)。早期关注度很低。

OpenAI Codex 几乎无所不能

u/manubfr 分享了 OpenAI 的公告,内容是扩展 Codex 的能力(适用于几乎一切的 Codex,122 分,12 条评论)。

Kimi K2.6-Code-Preview 成为有力竞争者

u/lemon07r 获得了 Kimi K2.6-Code-Preview 的早期访问权限,并在 SanityHarness 上给出略高于 GLM 5.1 的评价;预计下周提供 API 支持。目前,该模型只能通过 Kimi CLI 使用,采用 OpenAI 兼容格式,并加入 Kimi 专属扩展。


7. 机会在哪里

[+++] 独立的模型质量监测服务 —— Anthropic 宣称性能提升的同一天,四项独立基准记录了 Opus 4.7 的回归。NYT Connections:94.7% 降至 41.0%。Thematic Generalization:80.6 降至 72.8。SanityHarness:持续产生幻觉。openmark.ai 用户评测:4.6 在所有现实任务上都胜过 4.7。身份验证要求和“变相终止”分析进一步放大了信任缺口。目前没有产品在推理层面独立监测托管模型的质量。证据来自第 1.2、1.3 和 2 节。

[+++] GPU configuration registry for local models -- Every Qwen3.6 user thread includes manual config tuning: llama-server flags, quantization choices, sampling parameters, context sizes, preserve_thinking settings. u/No-Marionberry-772 询问应该使用什么技术栈。u/CountlessFlies 发布了 Docker 命令。u/Local-Cardiologist-5 发布了服务器配置。每次模型发布都会重新启动这一循环。一个将 GPU 型号 + LLM + 目标规格映射到优化配置的社区数据库,可以节省数千小时的集体时间。证据来自第 1.1 和 4 节。

[++] Task-specific model evaluation platform -- Standard benchmarks diverge from real-world performance. u/lemon07r 专门构建了 SanityHarness 来填补这一空白。u/Rent_South 在 openmark.ai 上运行自定义评测。u/Helpful_Inflation344:“METR 的测试套件确实已经过时。”Opus 4.7 的案例表明,基准领先与用户满意度可能背道而驰。一个提供可复现、面向具体任务的评测平台,并且能够与实践者体验建立关联,将立即获得需求。证据来自第 1.2 和 3 节。

[++] 本地模型智能体工作流框架 —— Qwen3.6 的 preserve_thinking 标志、工具调用改进和 262K 上下文窗口,使消费级硬件上的持续智能体工作流成为可能。但基础设施仍然碎片化:llama.cpp 负责推理,OpenCode 或 Claude Code 负责智能体脚手架,配置需要手动调优,也没有标准化的记忆/状态管理。一个针对本地模型智能体编码进行优化的统一框架,可以抓住从托管服务迁移的机会。证据来自第 1.1 和 5 节。

[+] 支持本地模型的企业 AI 客户端 —— Mozilla 宣布了 Thunderbolt(MPL 2.0),支持本地模型、MCP 服务器和 Agent Client Protocol,但目前被评价为“处于非常早期的阶段”,远远落后于 Open WebUI。企业市场需要具备合规能力的自托管 AI。Thunderbolt 的愿景与当前状态之间的差距,为开发者提供了可落地的机会。证据来自第 6 节(前一天)。


8. 关键结论

  1. Qwen3.6-35B-A3B 以 1947 分和 615 条评论位居当天首位,成为当前本地模型的首选。 它仅活跃 3B 参数,却取得了接近稠密 27B 模型的基准成绩;preserve_thinking 标志解决了一个真实存在的 KV 缓存失效问题。不过,它在部分 RAG 场景中仍存在遵循问题。(Qwen3.6-35B-A3B 发布了!)

  2. Claude Opus 4.7 获得了 Anthropic 各模型中最为负面、且一致性最高的评价。 尽管 SWE-bench Pro 提升了 11 个百分点至 64.3%,四项独立基准都记录了它在非编码任务上的回归。NYT Connections 下降了 53.7 个百分点。无害问题上的拒答率升至 54.9%。多名实践者描述了持续性的幻觉和煤气灯式误导行为。(Claude Opus 4.7 基准测试、opus 4.7 得分 41%、Opus 4.7 是一次严重倒退)

  3. Anthropic 正面临一场横跨订阅、隐私和模型质量的复合型信任危机。 要求护照和人脸识别的身份验证(541 分)、关于订阅将被“变相终止”的预测(391 分),以及 Opus 4.6 同期出现的多份性能下降报告,共同形成了一个将用户推向本地替代方案的叙事。(转向本地部署的更多理由、现在只有 LocalLLaMa 能拯救我们了)

  4. “为刷榜而优化”的模型批评正在获得量化支持。 Opus 4.7 在编码能力提升的同时出现推理能力回归。Gemini 3.1 Pro 虽然在 METR 上领先,但用户称其“不适合智能体驱动的商业工作”。Bonsai 的基准对比则被指责为智识层面的不诚实。不同提供商之间,排行榜表现与实践者满意度的差距正在扩大。(主题泛化能力下降、Bonsai 模型纯属炒作)

  5. DeepSeek 的 Mega MoE 基础设施更新,表明其正在为一款规模大于 V3 的模型做准备。 DeepGEMM PR #304 中的 FP4 量化、融合 mega-kernel、Blackwell 适配和分布式通信,都指向超大规模的 MoE 训练,尽管免责声明明确将此次更新与模型发布区分开来。(DeepSeek 更新了他们的仓库)

  6. 本地模型生态正在从爱好者实验走向生产级工具。 Unsloth 对 GGUF 质量进行系统性基准测试、preserve_thinking 基础设施修复、K_P 自定义量化,以及真实世界的智能体编码演示(塔防游戏、多语言 RLS、工具调用成功率 98.3% 的研究转 Web 应用),都表明消费级硬件上的专业级本地推理技术栈正在形成。(Qwen3.6 GGUF 基准测试、Qwen3.6 搭配 OpenCode 表现惊艳)

  7. 围绕 Palantir 军事 AI 部署的 AI 伦理讨论显著升温,两篇帖子的总关注度超过 2,200 分。 Peter Thiel 和 Alex Karp 因 AI 在加沙的使用问题受到直接质询。与此同时,尽管此前被列为供应链风险,白宫仍推动向美国政府机构开放 Anthropic Mythos 的访问权限。AI 能力发展与部署问责之间的张力仍在加剧。(Peter Thiel、白宫开放 Mythos 访问权限)

  8. AI 辅助工作的情绪代价仍在引发共鸣,相关帖子的得分从 663 上升至 867。 “专业人士变成管理自己 AI 产出的 PM”这一说法,捕捉到了一种不同于失业焦虑的职业身份危机。AI 能为人们腾出时间陪伴家人和散步,这一反面观点确实存在,但关于空虚感和冒名顶替感的反馈更多。(我:用 Claude 解决了工作问题之后,却感到无比空虚)