◈ AILog

agentic-aiai-efficiencyinference··0

小模型何时喊云端大模型?NVIDIA 砍 62% 推理成本

NVIDIA 提出 EdgeWise 边云协作框架:Qwen3.5-9B 本地当主力,关键步骤才求助云端大模型。论文分析 2.4k 条编码 Agent 轨迹后用步级 RL 训 9B 模型自学何时委派,SWE-Rebench 推理成本最多降 62%,平均 46%,性能与全程用大模型相当。

小模型何时喊云端大模型?NVIDIA 砍 62% 推理成本

0

NVIDIA 提出 EdgeWise 边云协作框架:Qwen3.5-9B 本地当主力,关键步骤才求助云端大模型。论文分析 2.4k 条编码 Agent 轨迹后用步级 RL 训 9B 模型自学何时委派,SWE-Rebench 推理成本最多降 62%,平均 46%,性能与全程用大模型相当。

agentic-aiai-efficiencyinferencellm

视频生成投机去噪:1.7 步顶 4 步,提速 1.5 倍

2

KAIST×NAVER 提出 Speculative Forcing:自回归视频生成引入草稿-验证-提交机制,token 收敛即冻结、不再去噪,不改权重。LongLive 上约 1.7 步保住 4 步质量,H100 提速超 1.5 倍;世界生成场景约 2.5 步,提速 1.35 倍。

diffusionefficiencyinferencevideo-generation

上海AI Lab开源统一视觉dLLM:激活参数仅1.4B

2

上海AI实验室开源 Intern Lumina U2:16.9B MoE 扩散模型仅激活 1.4B,统一图像、视频、3D 理解与图像生成。官方评测十个图像理解基准六个第一,PHV 采样让生图加速 4.45 倍,训练在 1024 颗昇腾 910B 完成,Apache 2.0 权重上架 Hugging Face。

diffusionmodel-releasemultimodalopen-source

OmniCompass基准:开源模型音视频理解仍落后

17

香港理工大学团队发布全模态视频理解基准 OmniCompass:820 段视频、2460 条人工标注实例,从时间定位、空间定位、问答三任务考察 50 个多模态模型的「何时、何地、何事」能力。结果显示开源模型整体落后闭源,音视频联合理解差距最明显,头部模型的时空定位也不够精准。

benchmarkllmmultimodalopen-source

英伟达开源120B多模态模型:一块DGX Spark就能跑

7

英伟达发布开源模型Nemotron 3.5 Super VL:120B参数MoE、每token仅激活12B,推理、工具调用与图文视频理解合一,蒸馏自Nemotron 3 Ultra,约五分之一参数量打平旗舰精度,单卡吞吐快5倍,可直接跑在DGX Spark上;同场发布Bolt边缘版,24GB显存本地跑74B。

model-releasemoemultimodalnvidia

Meta 开源 816B MoE 模型 Muse Spark Open:1M 上下文,两台 Mac Studio 跑得动

29

Meta 开源 816B/42B MoE 模型 Muse Spark Open,1M 上下文、两台 Mac Studio 可跑,是 Llama 4 后首个旗舰级开源权重。Intelligence Index 39,JobBench 与 MCP-Atlas 强,Together API 1.25 美元/百万 input

llmmodel-releasemoemultimodalopen-source

Apple MLX 联合 Meta 把 816B 模型装进 Mac Studio 集群

28

Apple 与 Meta 合作,用 MLX 框架和 Thunderbolt 5 RDMA 把 816B 参数的 Muse Spark Open 拆到两台 M5 Ultra Mac Studio 上联合推理,四机集群生成速度超 36 tok/s。

ai-inferenceai-technologyllmopen-source

十分钟用 AI 就让人失去攻克难题的意志力

32

Berkeley、CMU、MIT、Oxford、UCLA 五校联合研究,1,222 名参与者随机对照实验:仅用 AI 工具 10 分钟,人的专注力和攻克难题的意志力就会显著下滑;一旦 AI 被撤走,使用者的准确率与坚持度都会崩塌,而对照组稳中有升。

ai-progressai-safetyai-technologyllm

System1-Arena:30 模型同场比校准

28

UT Austin 10 月 15 日放出 System1-Arena,30 个模型同场跑 92k 题、105 任务、138 闭环环境。静态决策上决策模型精度逼近 GPT-6 Luna、校准更好;闭环任务 Gemma-4-31B 32.9% 成功率,小决策模型最多 3.1%。

ai-progressbenchmarkinferencellm

Meta 开源 816B 模型,Mac 可本地跑

47

Meta 发布开放权重模型 Muse Spark Open:816B 总参、42B 激活、1M 上下文,自称美国最强开源模型。原生多模态,面向编码与智能体任务,经 MLX 优化可在两台 M5 Ultra Mac Studio 上本地跑,实测完成 iOS 应用修复与视频剪辑等工作流。

agentic-aillmmodel-releaseopen-source

微软擦除基础模型LensErase:一图一掩码,万物皆可擦

16

微软联合上海交大等高校发布掩码式擦除基础模型LensErase:一图一掩码,无需文字提示即可抹掉对象、文字、水印及其阴影反射。模型基于文生图底座Lens,通过Mask-Aware RoPE注入掩码信息,在1.01亿组配对数据上预训练,再经SFT与契约引导强化学习精调;六个公开基准与自建500案例评测中均取得大幅提升。

multimodalopen-sourcetext-to-image

KAIST KV4-RL:INT4量化KV缓存,RL训练rollout提速1.8倍

41

RL 训练的算力大头在 rollout。KAIST 发现异步并发把上下文压进更少解码步,KV 缓存成新瓶颈,直接 INT4 量化又伤稳定性。KV4-RL 用 INT4 KV 缓存加关键位置 INT8 保护:Qwen3-8B GRPO 训练提速 1.80 倍,精度差不到 0.5 个百分点。

efficiencyinferencellmquantization

清华把KV缓存当神经网络训练:32倍压缩准确率96.7%

39

清华THUNLP团队提出Latent Compaction,把长文档的KV缓存当作可训练的小神经网络:模型权重全程冻结,只用文档相关通用提示词做测试时训练,不接触下游问答。RULER基准上以32倍压缩取得96.7%检索准确率,同预算KVZip+仅40.0%;方法在Qwen3与MiniCPM5上均有效,代码MIT开源。

compressionefficiencyinferencellm

浙大ATAS登顶HF论文榜:给AI视频装上持久世界记忆

39

浙大联合 Monash 与 UC Berkeley 等团队开源 ATAS 框架:把剧本编译成带场景、机位与事件时间的分镜请求,用场景与事件两套记忆维护持久世界状态,在四个视频生成基座上全部取得跨镜一致性评测最高综合分,人类盲评六项标准全数第一,MIT 协议开源。

benchmarkmultimodalopen-sourcevideo-generation

会计基准首轮:Gemini 4 Argon 91.1%居首,开源GLM-5.3 Flash并列第二

35

DualEntry 首轮会计 AI 基准:18 个模型跑 101 个案例各三轮。Gemini 4 Argon 准确率 91.1%、一致性 86.1% 双第一;开源 GLM-5.3 Flash 并列第二(88.1%),单任务 0.6 美分约为 Argon 十九分之一。应收账款与月末结账平均仅 64.4%。

benchmarkgeminillmopen-source

NetBSD 拒 AI 代码冲上 12 万美元捐款,反 AI 阵营找到新坐标

30

NetBSD 项目 9 月单月收到 120,282 美元捐款,远超 5 万美元筹款目标;该发行版 2024 年起就拒收 ChatGPT、Copilot、Code Llama 等大模型生成的代码,而 Linux 阵营却在大量融合 AI 工具,反 AI 立场正在吸引那些对 AI 代码污染抵触的开发者。

ai-safetycoding-agentllmopen-source

Anthropic 网络验证改三层:Glasswing 并入

49

Anthropic 把 Project Glasswing 并入三层版 Cyber Verification Program,Defense/Red Team/Specialized 三级向安全团队开放 Claude Opus 5.5、Sonnet 5.5、Mythos 5.1,拦截器逐级减少。

ai-safetyanthropicclaudellm

Grok Voice 3.0 拿下 S2S 榜首:AA 86.9 分

24

xAI 10 月 14 日发布 Grok Voice 3.0。AA S2S Index 86.9 超 GPT-Live-1/Gemini 3.8 Live,Big Bench Audio 98.5%,全双工 97%,$0.08/min、延迟 <1 秒,Tesla 与 Starlink 日均百万级对话。

llmmodel-releasemultimodalxai

Linus Torvalds 首批 LLM 辅助内核补丁进入审查

40

Linux 作者 Linus Torvalds 在维护者峰会上透露,他用大模型完成 10 个针对 folio 查找的补丁,已提交邮件列表审查。补丁识别热 folio 并设 RCU 延迟释放标志,在 RCU 保护下做 folio 数据访问,快路径无需引用计数。读密集基准实现数量级性能提升,但社区已发现竞态条件,仍需修复

ai-technologyllmopen-source

阶跃开源 600B MoE:输出低至每百万 2.7 美元

45

阶跃星辰 10 月 15 日开源 Step 5 Preview:600B MoE、27B 激活、1M 上下文,输出低至 2.7 美元/百万 token,仅 Kimi K3 的 18%。表格与 Kimi K3、GLM 5.3 在编程/Agent 上拉平,距 GPT-6 Astra、Claude Opus 5 一档。

china-aimodel-releasemoeopen-source