LFM2.5-VL-DSpark 加速视觉语言模型,端侧解码最高提速 3.13 倍
Liquid AI 发布 LFM2.5-VL-3B 的实验性 DSpark 草稿模型,以投机解码加速视觉语言模型推理,端侧解码最高提速 3.13 倍,H100 上最高 2.66 倍。草稿模型约 280M 参数,使部署模型参数量仅增加 8.9%,首发支持 llama.cpp、MLX-VLM 和 SGLang。投机解码只加速解码阶段,视觉编码与 prefill 仍会限制端到端收益。
Liquid AI 发布 LFM2.5-VL-3B 的实验性 DSpark 草稿模型,以投机解码加速视觉语言模型推理,端侧解码最高提速 3.13 倍,H100 上最高 2.66 倍。草稿模型约 280M 参数,使部署模型参数量仅增加 8.9%,首发支持 llama.cpp、MLX-VLM 和 SGLang。投机解码只加速解码阶段,视觉编码与 prefill 仍会限制端到端收益。
Mistral 与 Mozilla 达成合作,Mozilla 的 AI 浏览助手 Firefox Smart Window(beta)现由 Mistral 模型驱动。初期面向法国和北美用户,英国和德国预计今年晚些时候跟进。隐私方面,对话默认不保存在 Mozilla 服务器,Mistral 同意零数据保留。
Google DeepMind 与 Google Research 发布旗舰天气 AI 模型 WeatherNext 3,据 Brightband 独立实时评测为当前最先进、最准确的全球天气模型。
推荐理由:原文给出了 WeatherNext 3 相比前代在分辨率与更新频率上的提升,以及搜索、Gemini、Maps 等产品的接入范围,可据此了解 AI 天气预报的最新进展。