Reddit AI - 2026-05-26¶
1. 大家在讨论什么¶
1.1 AI 视频操控的发展速度,正快于信任防线的建立(🡕)¶
5 月 26 日,Reddit 上互动最高的讨论并不是某个新模型的基准成绩或降价消息,而是 AI 辅助视频编辑和视角重建正变得多么逼真,以及这是否会打破人们对视觉证据的既有认知。singularity 板块两条高赞帖子共同推动了这一主题,而讨论也很快从“哇”转向监控、滥用,以及证据体系的崩塌。
u/Able-Line2683 发布了 Gemini Omni 的强项在于视频处理(3000 分,316 条评论)。帖子本身很简短,但评论解释了它为何迅速传播:u/A_Novelty-Account(得分 502)表示,录下来的事件可能很快就不再能证明这些事件确实发生过;而 u/MrKvic_(得分 380)则认为,Omni 真正的强项不是从零生成内容,而是编辑现有媒体。这种组合之所以重要,是因为它让讨论从“新奇”转向了“完整性”:人们反应的不只是质量提升,更是如今可信的编辑内容可以以多低的成本被制造出来。
u/keemalexis 在 从实时画面中重建不同角度(1474 分,145 条评论)中进一步强化了同样的焦虑。帖子介绍了 4D Gaussian splatting,它可以把平面视频转换为空间数据,而回复立刻将其视为监控工具或带有性意味的滥用手段:u/Happy_Brilliant7827(得分 244)把它比作 CSI 式的角度还原,u/CrowdGoesWildWoooo(得分 489)则说,它显然会被用于“研究”用途。技术新意确实存在,但社区的反应表明,公众信任并没有跟上能力曲线的推进。
讨论洞察: 评论者对究竟是哪家实验室推出了这项能力兴趣不大,他们更关心的是,当编辑或重建视频变成日常操作之后,会发生什么。主导性的担忧并不是模型质量,而是媒体素养和“证明力”的削弱。
与前一天相比: 5 月 25 日已经出现了强烈的多模态“现实冲击”氛围,但到了 5 月 26 日,焦点更直接地转向了证据篡改和合成视频操控,成为公众最主要的担忧。
1.2 对 AI ROI 的怀疑正在固化为预算削减和机构规则(🡕)¶
前一天关于成本的争论并没有消退,反而扩展成了更具惩罚性的情绪:内部预算正在被砍,自动化失败的案例不断累积,机构也开始正式制定规则,限制不受约束的 AI 使用。贯穿其中的主线是:“多用 AI”本身已经不再有说服力;人们现在想看到的是工作流层面的证据,证明它确实能省钱或提升判断质量。
u/mpuchala 分享了 Microsoft 的报告揭示了 AI 真实成本的问题:使用这项技术比支付人类员工薪资更昂贵(421 分,93 条评论)。Fortune 称,Microsoft 正在取消大部分 Claude Code 的直接授权,推动团队转向 GitHub Copilot CLI,而 Uber 也已经在 4 个月内烧光了其 2026 年 AI 编码工具预算(Fortune;The Verge)。Reddit 上被引用最多的总结来自 u/Zestyclose-Treat-616(得分 40),他表示,更诚实的比较方式应当是“AI 辅助员工”与“非 AI 辅助员工”,因为重试、幻觉审查、工作流集成、人工监督、安全和可靠性工程都会在生产环境中不断叠加成本。
同样的怀疑也出现在实体运营领域。u/andrewaltair 发布了 Starbucks 的自动化库存 AI 上线仅 9 个月就被叫停(58 分,7 条评论)。Futurism 援引 Reuters 报道称,在 Starbucks 停用该工具、恢复门店人工盘点之前,它经常把牛奶、糖浆瓶等原料算错或标错(Futurism)。尽管这条 Reddit 帖子的得分不高,但在这批数据中,它是最清楚的案例之一:一家真实企业在一个简单的运营任务失败后,撤回了 AI。
治理层面的表达也变得更加明确。u/andrewaltair 发布了 UC Berkeley Law 将从 2026 年夏季开始全面禁止使用 AI(291 分,60 条评论),The Decoder 称,该法学院正在禁止将 AI 用于头脑风暴、起草、编辑、翻译、校对和考试,仅允许用于法律研究(The Decoder)。在一个平行但更宽泛的道德语境中,u/andrewaltair 发布了 Pope Leo XIV 刚刚发布了一篇长达 42,300 词、聚焦 AI 的重磅通谕(356 分,67 条评论);The Guardian 称,这份通谕呼吁对 AI “解除武装”,警告数据与基础设施权力过度集中,并主张战争用途必须受到“最严格的伦理约束”(The Guardian)。
讨论洞察: Reddit 已不再把成本抱怨、学校禁令和道德治理语言视为彼此独立的故事。人们正在把它们读作同一组证据:不受控制的 AI 采用,如今正同时遭遇来自财务、运营、教育和公共伦理的阻力。
与前一天相比: 5 月 25 日的核心问题是,AI 在生产环境中到底是不是真的更便宜。到 5 月 26 日,这一成本争论仍在,但又增加了更强的收缩证据:内部授权削减、失败的库存系统落地、法学院禁令,以及教皇通谕。
1.3 开放本地栈正围绕控制、文档和边缘部署走向专业化(🡕)¶
本地 AI 的讨论热度依旧很高,但重点已从泛泛的硬件话题,转向更专业化的部署:无审查模型工具、文档提取、垂直法律工作流,以及小型板卡上的多模态推理。最受关注的帖子并不是抽象的开源宣言,而是带有模型卡、仓库链接、实测吞吐或部署约束的具体构建。
u/-p-e-w- 在 The Financial Times 已发表一篇关于 Heretic 的文章(786 分,204 条评论)中,把主流注意力引向了无审查模型工具。帖子引用 FT 的说法称,Heretic 在不到 10 分钟内移除了 Llama 3.3 的护栏,而其创建者 Philipp Emanuel Weidmann 表示,该工具已被用于创建超过 3500 个去审查模型,总下载量达到 1300 万次。这场讨论随后又导向了一个具体成果:u/LLMFan46 发布了 Qwen3.5 35B A3B uncensored heretic Native MTP Preserved 现已发布,完整保留全部 785 个 MTP,提供 Safetensors、GGUFs、NVFP4、NVFP4 GGUFs 和 GPTQ-Int4 格式(329 分,63 条评论)。关联的模型卡声称,与原始模型相比,其拒答减少了 85%,KL divergence 为 0.0487,而 MMLU 仅从 84.12% 小幅下降到 83.72%(Hugging Face)。
u/Gailenstorm 发布了 NuExtract3 发布:面向 Markdown、OCR 和结构化提取的开放权重 4B VLM(可自托管)(224 分,51 条评论)。帖子称,该模型面向 PDF、收据、表单、表格和多页文档;模型卡则补充了一个结构化基准,其中 NuExtract3.4_4B-RL 得分 0.651,而 gemma-4-E4B-it 为 0.538,此外还采用 Apache-2.0 许可,并提供最低可在 4GB VRAM 上运行的量化版本(Hugging Face)。最具实际参考价值的回复来自 u/Bubulela(得分 7),他表示自己想替换 Gemini Flash 3,因为“成本会很快累积起来”,这也把构建者的故事重新拉回到了当天的成本主题上。
u/TumbleweedNew6515 在 关于 12x32gb sxm v100 集群 / 本地 AI 用于法律起草的更新(296 分,96 条评论)中发布了当天信息量最大的部署说明。帖子称,这套栈放弃了 vLLM,转向 llama.cpp,因为在 Volta 上运行 MoE GGUF 是唯一能获得可用速度的路径;随后还报告了真实起草提示下的大致解码速度:Gemma-4-26B-A4B 约 113 tok/s,Qwen3.6-35B-A3B 约 82 tok/s,Qwen3.5-122B-A10B 约 50 tok/s。另一个规模更小但同样具体的边缘版本来自 u/Known_Ice9380 在 为 Orange Pi AIPro(Ascend 310B)上的 MiniCPM-V 4.6 编写了自定义 C++ 引擎,以绕过框架开销(39 分,5 条评论)中的分享:仓库称,一个从零实现的 C++/AscendC 引擎将解码速度从 2.88 tokens/s 提高到 5.90 tokens/s,同时让文本和视觉都保持在 NPU 热路径上(GitHub)。

同样的优化思路也出现在 u/Simple_Library_2700 的 V100s 上运行 Qwen3.6 27B 实现每秒 1000 tps 生成(224 分,74 条评论)中,附带的基准表显示,qwen3.6-27b-awq 在提示处理上的总吞吐为 1322.72 tokens/s,峰值为 1562 tokens。在小模型赛道上,u/kevinlch 带出了 MiniCPM5-1B(112 分,26 条评论);模型卡称它拥有 1.08B 参数、679.6M 非 embedding 参数,以及 131,072 上下文长度,而 u/jake_that_dude(得分 15)则表示,这种组合与其说适合作为聊天机器人,不如说更适合做一个廉价的本地工具路由器(Hugging Face)。

讨论洞察: 这些帖子背后的共同诉求是控制权:对拒答的控制、对部署成本的控制、对文档工作流的控制,以及对硬件/运行时路径本身的控制。本地 AI 越来越不是一个“爱好者分类”,而是一种摆脱定价、政策或基础设施约束的方式。
与前一天相比: 5 月 25 日的重点是硬件偏好、AMD 运行时和本地拒答策略绕过。到了 5 月 26 日,控制这一主题仍在,但进一步深入到了更专业化的成果:去审查工具、文档 VLM、法律起草栈,以及低于 200 美元的边缘部署。
2. 什么让人沮丧¶
AI 成本宣称不断无法通过完整工作流的检验¶
严重程度:高。5 月 26 日最强烈的挫败感,并不在于模型单独来看有多贵,而在于组织依然无法预测,一个 AI 工作流在把重试、审查、集成和失败部署都算进去之后,真实成本到底是多少。在 Microsoft/Uber 那条讨论中,u/Zestyclose-Treat-616(得分 40)表示,诚实的比较方式应当是 AI 辅助员工与非 AI 辅助员工,因为重试、幻觉审查、安全和可靠性工作在生产环境中都会累积起来(帖子)(421 分,93 条评论)。Fortune 还补充称,Uber 在 4 个月内耗尽了 2026 年 AI 编码工具预算,而 Microsoft 正在取消大多数 Claude Code 授权,并围绕 Copilot CLI 做标准化(Fortune)。Starbucks 提供了一个具体的现场失败案例:有 Reuters 背书的报道称,其库存 AI 一直在错误统计瓶数,9 个月后被停用(帖子)(58 分,7 条评论);(Futurism)。人们的应对方式,要么是把 AI 限制在辅助角色,要么是把任务迁移到能更严格计量的本地栈上。这看起来是个值得构建的方向,因为这种痛点横跨开发者工具、Agent 和现实世界自动化。
当媒体和 Agent 不再可检查时,信任就会瓦解¶
严重程度:高。当天情绪最强烈的讨论,来自那些觉得自己正在失去验证“眼前所见”或“Agent 做过什么”能力的人。在 Gemini Omni 那条帖子里,u/A_Novelty-Account(得分 502)表示,记录下来的事件可能不再能作为证据,而 u/Enrico_Tortellini(得分 189)则认为,薄弱的媒体素养会让具有说服力的合成内容变得尤其危险(帖子)(3000 分,316 条评论)。同样的信任问题也出现在 Agent 设计中:u/RonnySaya 认为,用户需要知道 Agent 点击了什么、提交了什么、重试了什么、跳过了什么;u/Born-Exercise-2932(得分 2)则说,审计轨迹之所以重要,是因为它让失败回溯和交接成为可能(帖子)(37 分,35 条评论)。人们要的不只是更好的输出,而是验证层。这值得去做,因为失败模式是隐藏错误,而不只是糟糕的 UX。
开放本地栈依然带来沉重的配置和运行负担¶
严重程度:中。构建者显然在持续取得进展,但运维负担依旧很明显。u/weilding 表示,一个开源 Agent 所谓的“五分钟配置”,最后变成了一个晚上都在折腾 YAML、环境变量和 skill markdown(还有谁也对开源 AI agents 需要这么多配置感到沮丧吗?)(10 分,23 条评论)。即便是在积极的构建者帖子中,附带条件也往往是运维层面的:NuExtract3 用户讨论了 vLLM 的 weight-key 问题和配置不匹配,而法律起草集群那条帖子则解释说,在作者的 MoE GGUF 工作流里,Volta 上的 vLLM 是一条死路,迫使其迁移到 llama.cpp(NuExtract3 讨论串)(224 分,51 条评论);(法律起草讨论串)(296 分,96 条评论)。人们的应对方式是高度专业化,并把自己的硬件路径精确文档化。这依然值得去做,因为受众很有动力,但目前太多工作仍然是在给基础设施“看孩子”。
3. 人们希望存在什么¶
能展示每一次动作、重试和交接的 Agent 系统¶
这是数据集中最明确的显性需求。u/RonnySaya 在 AI agents 比起获得更多自主性,更需要可审计的操作轨迹(37 分,35 条评论)中提出,希望 Agent 能暴露每一次点击、提交、重试和停止条件;u/Born-Exercise-2932(得分 2)进一步补充说,审计轨迹正是在人与人或 Agent 之间交接时保留上下文的关键。这是一个直接机会,而不是愿景式需求:痛点是运营层面的,请求的功能也非常具体,信任缺口已经在阻碍采用。
可替代付费云 OCR 的低成本私有文档提取¶
NuExtract3 那条讨论既是发布帖,也是需求信号。u/Bubulela(得分 7)表示,他们正试图替换 Gemini Flash 3,因为“成本会很快累积起来”;其他回复则询问了真实工作流中的图书扫描、多栏布局和密集表格表现(帖子)(224 分,51 条评论)。由于已有一些替代方案存在,这更像是一个竞争性机会,而非一片空白市场;但人们反复强调自托管、低 VRAM 和结构化提取,说明市场确实需要更便宜的私有化管线。
不以“配置马拉松”开局的开源 Agent 栈¶
这里的需求很朴素,但很实际。u/weilding 在 还有谁也对开源 AI agents 需要这么多配置感到沮丧吗?(10 分,23 条评论)中描述,自己花了几个小时处理 YAML、env vars 和 skill markdown,才让一个基础 Agent 跑起来。这是包装器、安装器和带默认配置产品的直接机会,不过很可能也会是竞争激烈的方向,因为很多团队都能看到同样的摩擦点。
4. 正在使用的工具与方法¶
| 工具 | 类别 | 情绪 | 优势 | 局限 |
|---|---|---|---|---|
| Claude Code | 编码 CLI | (+) | 在 Microsoft 内部很受欢迎;在内部比较阶段足够好用,以至于开发者更偏爱它(The Verge) | 授权成本成了预算问题;Microsoft 正在取消大多数直接授权 |
| GitHub Copilot CLI | 编码 CLI | (+/-) | Microsoft 表示,它可以围绕自家仓库、工作流和安全预期进行塑形(The Verge) | 内部用户仍认为它落后于 Claude Code,这也是这次切换引发争议的原因 |
llama.cpp |
推理运行时 | (+) | 让法律起草构建者能够在 V100 硬件上运行 MoE GGUF,并修复了一个 Gemma chat-parser 问题(法律起草讨论串)(296 分,96 条评论) | 在同样硬件上,稠密模型对作者的目标工作流来说仍然太慢 |
| vLLM | 推理运行时 | (+/-) | 是大家熟悉的服务路径,也被用于 NuExtract3 基准测试 | 在 Volta 上,它被描述为目标 MoE GGUF 配置的一条死路;NuExtract3 用户也报告了 weight-key 和配置摩擦 |
| NuExtract3 | 文档 VLM / OCR | (+) | Apache-2.0、支持 Markdown 加 JSON 提取、在多个小模型基准中领先、可在 4GB VRAM 门槛上运行(Hugging Face) | 用户仍然会询问复杂布局、学术论文和运行时怪癖 |
| MiniCPM-V 4.6 | 多模态 VLM | (+) | 通过自定义的 NPU-first C++ 引擎运行在 Orange Pi AIPro 上,不走 torch_npu 热路径(GitHub) |
需要自定义 kernel、Ascend 工具链,以及单 batch greedy decode 假设 |
| Heretic | 模型编辑工具 | (+/-) | 能快速移除护栏,在本地模型社区中有明显需求(Heretic 讨论串)(786 分,204 条评论) | 主流审视、下架风险和法律压力如今已成为其运行环境的一部分 |
| Qwen3.5/Qwen3.6 MoE variants | 本地 LLM | (+) | 在较老的 V100 硬件上也足够快,可用于起草和批量服务;可用格式也很多 | 命名、量化和运行时选择都比较混乱,最佳路径高度依赖使用场景 |
| Gemini Flash 3 | 云模型 / OCR 替代方案 | (+/-) | 用户表示它在文档工作流上表现很好 | 经常被提到成本高到足以推动用户迁移到本地模型 |
总体满意度的分化点在于控制权。云工具在好用时会受到称赞,但最强烈的迁移信号都指向了摆脱不透明账单、转向用户能自行调优或托管的技术栈。最明确的运行时迁移,是从 vLLM 转向 llama.cpp,以适配 Volta 时代的 MoE 工作;最明确的组织级迁移,是在预算压力下从 Claude Code 转向 Copilot CLI;而最清晰的产品替代故事,则是从 Gemini Flash 3 转向自托管文档提取。
5. 人们在构建什么¶
| 项目 | 构建者 | 功能 | 解决的问题 | 技术栈 | 阶段 | 链接 |
|---|---|---|---|---|---|---|
| NuExtract3 | u/Gailenstorm | 开放权重的 4B 文档 VLM,用于 Markdown 转换和结构化提取 | 降低对付费 OCR/文档 API 在表单、收据、表格和扫描件上的依赖 | Qwen3.5-4B base、Apache-2.0、GGUF、MLX、GPTQ、W8A8、FP8、vLLM、SGLang、llama.cpp |
已发布 | 帖子,模型 |
| MiniCPM-V 4.6 Orange Pi engine | u/Known_Ice9380 | 面向 Orange Pi AIPro 20T 多模态聊天的从零实现 C++ 推理引擎 | 避免 Ascend 边缘硬件上的框架开销 | C++、AscendC、Gradio、MiniCPM-V 4.6、Orange Pi AIPro 20T | Alpha | 帖子,仓库 |
| 本地法律起草集群 | u/TumbleweedNew6515 | 面向法律工作的多模型编排式起草与审查工作流 | 在保持可用吞吐的同时,让长上下文法律起草留在本地运行 | llama.cpp、Claude Code orchestration、Gemma-4-26B-A4B、Qwen3.6-35B-A3B、Qwen3.5-122B-A10B、V100 和 3090 服务器 |
Beta | 帖子 |
| Heretic | u/-p-e-w- | 用于移除模型护栏的工具 | 让本地用户对拒答行为拥有更多控制权 | Heretic、GitHub distribution、MPOA-style model editing | 已发布 | 帖子,仓库 |
| Qwen3.5 35B A3B uncensored Heretic release | u/LLMFan46 | 提供多种格式的基准化无审查版本 | 打包成一个通用的无审查本地助手,而不强迫用户绑定某一种运行时 | Heretic、Safetensors、GGUF、NVFP4、GPTQ-Int4 | 已发布 | 帖子,模型 |
反复出现的最强构建模式,并不是“通用 AI 应用”,而是边界非常清晰的基础设施。构建者要么是在工作流中切掉持续性的云成本,要么是在收回对拒答的控制权,要么是在逼着自己已经拥有的硬件去做有用的本地工作。法律起草栈和 Orange Pi 引擎尤其值得注意,因为两者都是对基础设施摩擦的高度具体回应:前者用 MoE 加路由来解决 Volta 时代的吞吐限制,后者则完全绕过重量级框架,让廉价边缘多模态推理变得可行。
6. 新动态与值得关注的点¶
无审查模型工具进入了主流报道¶
Heretic 在 LocalLLaMA 里本来就是活跃话题,但 5 月 26 日让它明显走向了更广泛的公众视野。u/-p-e-w- 表示,Financial Times 测试了 Heretic 在 Meta 的 Llama 3.3 上的表现,并在 The Financial Times 已发表一篇关于 Heretic 的文章(786 分,204 条评论)中引用了“超过 3500 个去审查模型、1300 万下载量”的采用数据。其重要性不只在于这个工具本身,还在于此前主要限于圈内的“移除拒答”争论,如今正被重新表述为一个主流的政策与平台问题。
AI 治理论述如今正由科技圈外的机构来书写¶
5 月 26 日另一个突出点,在于发声者的广泛性。UC Berkeley Law 对除研究场景外的评分作业采用了近乎全面的 AI 禁令(帖子)(291 分,60 条评论),而 Pope Leo XIV 的通谕则呼吁对 AI “解除武装”,并施加严格的伦理限制(帖子)(356 分,67 条评论)。这种组合之所以重要,是因为它表明,治理压力已不再只来自监管者、实验室或记者。
7. 机会在哪里¶
[+++] 面向真实工作流的 AI 成本核算 — 多个部分都指向同一个缺口:Microsoft 和 Uber 难以证明按使用量计费的编码账单是合理的,Starbucks 则在现实错误后回滚了库存系统,而评论者也反复区分“便宜的 token”和“便宜的工作流”。这一机会很强,因为痛点已经十分昂贵,而且分布广泛。
[++] Agent 可审计性与回放 — 用户想知道 Agent 点击了什么、提交了什么、重试了什么,以及如何完成交接。这既出现在围绕合成媒体的信任危机中,也出现在明确要求审计轨迹的讨论里,因此这是一个中等强度、但产品形态非常具体的机会。
[+] 小型硬件上的私有文档提取 — NuExtract3、MiniCPM-V 边缘部署,以及对 MiniCPM5-1B 的兴趣,都显示出对廉价本地文档和工具路由工作流的需求。这是一个正在浮现的机会,因为市场中已经有活跃构建者,但围绕成本、OCR 质量和更简单部署的反复诉求,说明仍有做出更好产品的空间。
8. 要点¶
- 当下公众对 AI 最大的焦虑,不是失业或 AGI,而是编辑和重建后的视频是否还值得信任。 这种担忧推动了当天互动最高的帖子,也塑造了围绕 Gemini Omni 和 4D 重建的讨论。(来源)
- ROI 叙事已经从抽象的定价,转向了具体的回撤与收缩。 人们讨论 Microsoft 和 Uber 时,关注的是预算超支,而 Starbucks 则提供了一个清晰案例:AI 自动化在一个常规任务上失败后被停用。(来源)
- 本地 AI 越来越关乎控制权,而不是意识形态。 被保留下来的构建者帖子,重点都放在拒绝云账单、绕开护栏、把模型塞进自有硬件,或让法律起草、文档 OCR 等特定领域工作流真正跑起来。(来源)
- 治理压力正在超出监管者与实验室的范围。 同一天里,法学院禁令和教皇通谕同时出现,这让 Reddit 获得了格外具体的证据:AI 边界如今正在教育和公共伦理中被讨论,而不只是产品团队内部。(来源)