vLLM 拥抱 NVIDIA Vera Rubin
推理引擎的硬件版图又添一块。vLLM 宣布支持 NVIDIA 下一代 Vera Rubin 平台,早期结果相当抢眼:在 MiniMax M3 的智能体负载上,吞吐量超过上一代 GB200 约 7.8 倍。对推理成本敏感的大规模部署团队而言,这意味着一轮可见的性价比跃迁。
「两组人互相听不懂」已经过时了。现在是一条越收越窄的漏斗:约 60 亿人几乎没碰过大模型。
—— Andrej Karpathy
B200 实测:NVFP4 全面优于 MXFP4
一项在 B200 上以 vLLM 部署 Qwen3-32B 的对比给出清晰结论:NVFP4 整体优于 MXFP4,小批量解码最高快约 8%。作者建议,在 B200 上通常优先选择 NVFP4。对做量化部署的团队,这是一个可以立刻抄作业的经验值。
vLLM-Omni:全模态统一运行时
vLLM 发布 vLLM-Omni 技术报告,提供一个面向全模态生成的统一服务运行时,把文本、图像、音频等多模态生成收敛到同一套服务框架。
Google 面试开闸:允许候选人用 AI
Google 试点新的软件工程师面试:候选人拿到现成代码,开着 Gemini 读代码、找 bug、做优化,面试官考察的是会不会用 AI,以及能不能看出 AI 哪里答错。
OpenAI 数学题,成了开源 RL 环境
Hugging Face 把 OpenAI 的数学问题打包成开源强化学习环境。作者提醒验证器仍粗糙,等价证明可能被判 0 分,但这让研究发布第一次变得「可执行」。
赛博格开始主导数学研究
Ethan Mollick 感叹:AI 辅助的「赛博格」研究者,正突然开始主导数学领域。
小鹏 Iron 人形机器人进入量产
小鹏已开始量产人形机器人 Iron,工厂已经运转,欧洲市场计划 2027 年下半年推出。
Midjourney 8.2 Thinking 上手
Thinking 模式已在 alpha 站开放测试,效果提升明显,但结果仍不完美。
Ideogram 4.5 上线 OpenArt
生成后还能继续调色、调整光照并迭代修改,创作流程被进一步拉长。
Decision 3.0 登陆 Core ML
d3-lite 在 M5 Pro 上以 0.12 秒级速度分流 1000 个 PR,端侧部署的雏形已经出现。
vLLM 祝贺 Decision 3.0 开源
vLLM 官方恭喜 vllm-sr 团队发布 Decision 3.0 多模态模型,权重已在 Hugging Face 开源。
Coinbase 微调 Qwen3.5-9B 超预期
Brian Armstrong 称用内部数据微调开源权重模型 Qwen3.5-9B 后,效果超过现有方案。
KerasHub+JAX+TPU 后训练实验
fchollet 近期用 KerasHub、JAX 与 TPU 做各类 LLM 后训练实验,或开源部分成果。
扩散语言模型评测亟需补课
Sander Dieleman 点评新工作用大量切片应对高维问题,认为扩散语言模型的评测急需推进。
Bitter Lesson 仍未指导决策
Hwang 认为 Bitter Lesson 虽被广泛认同,人们嘴上同意与实际做事之间仍有落差。
无限测试时扩展与前缀滑动
Muennighoff 在 MIT NLP Seminar 分享,模型已接近可自主工作。
三类世界模型表征架构
Turing Post 梳理三种世界模型架构,解释模型内部如何理解世界。
多问一句,快 6 倍省 8 倍
追问「为什么不一开始这么做」,Astra 给出 6 倍提速与 8 倍降本的方案。
丰田式改善:AI 省下的人不能裁
一提效就裁员的公司,员工再也不会主动琢磨怎么把 AI 用好。
REA 逆向后几乎复刻 Claude Slides
用 Codex 配合 REA 逆向混淆代码,还原出几乎完整的编辑器功能。
ML 工程手册新增 GPU 规格表
MAMF/MSMF 对比表新增 MI300X、H100、MI325X、H200 NVL 等实测条目。
16GB 显存微调 Gemma 4 E2B
旧游戏主机上以 LoRA 微调,显存仅 16GB。
瑞士首个自动驾驶接驳试点
SBB 与 imo 合作上线,4 辆车配有安全员。
信任模型预测只能靠置信区间
真实场景下,基本只能依赖统计均值区间。
数学家正经历语言学家的旧路
AI 方案会胜出,但数学仍会被继续研究。
SeeDance 2.5 修复拼接问题
困扰上一代的镜头拼接问题被解决。
智能体读柯达资料复原胶片
重建 Portra 400 与 Kodachrome 64 风格。
无衰减对数曲线暗示已投产
递归自我改进或已在团队大量投入使用。
Opus 5.5 给播客配白板解说
一小时播客仅耗约 2% 额度。
智谱 MMX 对比 OpenAI 增速
同时看股价与收入增速,不言自明。
Vidu Q4 Preview 生成短片
全流程生成并放出邀请码供试用。
日本 AI 社区清单
社区正在壮大,已整理清单便于加入。
levelsio 砍掉几乎全部 SaaS
企业支出只剩 AI 推理、主机、存储与备份。
先进模型能力远未用满
主要集中于安全、数学与 AI 研发。