「大模型推理加速」共找到 8507 篇相关文章
谷歌TurboQuant会绕过“内存墙”？这个判断有点过了｜甲子光年
谷歌发布的TurboQuant论文引发市场震动，其算法可将大语言模型推理的KV缓存大幅压缩并加速。但将其视为绕过‘内存墙’判断过度，它提升单位字节信息密度，改变边际需求曲线，代表范式转移。
State of AI 2025：霍桑效应下，AI 是「赚钱机器」还是「泡沫机器」？
Air Street Capital发布2025年度《State of AI Report》，证实AI成重要经济增长动力，但技术突进伴随矛盾。报告提及AI推理能力有‘霍桑效应’，或成泡沫，不过AI - first公司商业化加速，付费工具采用率和合同价值飙升。
三大核心创新公开，快手开源多模态Keye-VL 1.5拿下视频理解SOTA，8B力压GPT-4o！
快手开源多模态Keye-VL 1.5，为8B视频理解大模型，公开3大核心创新技术。靠Slow - Fast视频编码等，在20 + 基准屠榜。它能精确视频定位，实验显示通用、视频理解和数学推理表现佳。
AI4Science 图谱，如何颠覆10年 x 20亿美金成本的药物研发模式
文章指出AI for Science让生命科学与数字互联网融合，加速科学发现。以四象限为框架，梳理了Biology Foundation Model、AI Scientist等玩家，介绍相关模型和公司，展示其对药物研发流程的重塑。
梁文锋执笔的R1论文登上Nature封面！首次回应外界三大质疑
9月17日，DeepSeek创始人梁文锋通讯作者名义发表的DeepSeek - R1论文登《自然》封面。该模型借助强化学习自主形成推理能力，在Hugging Face下载量破1090万次。新版论文回应质疑，披露训练细节，虽有不足但引发学界关注。
DeepSeek-V3.1震撼发布，全球开源编程登顶！R1/V3首度合体，训练量暴增10倍
DeepSeek正式上线DeepSeek-V3.1，作为首款「混合推理」模型，将开启智能体新时代。它参数共671B，具强大智能体能力，编程击败Claude 4，训练量大幅扩增，在多方面测试表现出色，稳坐编程开源第一王座。
One RL to See Them All？一个强化学习统一视觉-语言任务！
国内初创公司 MiniMax 提出 V-Triune 系统，可让 VLM 单一训练流程学视觉推理和感知任务。它含三个组件与动态 IoU 奖励机制，基于此的 Orsta 模型在多项测试中性能提升显著，凸显统一 RL 方法有效性和可扩展性。
从分钟级等待到20倍超速：LightX2V重写AI视频生成速度上限
今年，开源项目LightX2V在ComfyUI社区走红，单月下载超170万次。它是面向低成本、强实时视频生成的推理技术栈，能在消费级显卡上高效生成视频，还支持多种模型和硬件，覆盖不同用户需求。
开箱即用、本地安全、多 Agent 协同解决方案！
过去一年，Agent热度高，但企业应用面临算力、安全和部署门槛。5月22日浪潮信息推出元脑智能体工作站Z3，整合大模型本地推理等功能，解决本地多Agent运行问题，降低使用门槛，保障安全。
DeepSeek识图模式全量上线，却认不出自家老板梁文锋
端午节前，DeepSeek全量推送识图模式。测试发现，它能认出黄仁勋，但忽略‘豆汁’字样，识别人物和潦草汉字准确率低，不过识别文物能力不错。还比较了与其他模型在乐理推理测试中的表现，开发者有新疑问待解答。