搜索：推理加速技术

「推理加速技术」共找到 4915 篇相关文章

全国首部AI大模型私有化部署标准，公开征集起草单位和个人！

近期AI政策频出，企业对人工智能应用需求攀升，倾向私有化部署，但面临诸多问题。国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》立项，现征集起草单位和个人。

OpenAI研究员Hyung Won Chung离职后发声，认为AI是人类历史上最强大杠杆，结合人力与科技优势。它能提升个人学习效率，智能体作为复合杠杆让小团队创造大价值，还能加速社会科学进步。

现有扩散模型缺乏多模态推理创作能力，在算力和数据不充裕时实现该功能是难题。ICML2025上，港科联合SnapResearch提出ThinkDiff，以较少资源让扩散模型有思考能力，开辟多模态理解生成新路径。

传统Transformer架构处理长文本和复杂推理任务有效率瓶颈，多数领先模型仍依赖传统注意力设计。MiniMax开源基于闪电注意力机制的专家混合模型Minimax，从架构、创新模块、训练框架等多方面优化，表现突出。

北大、北邮和华为研究提出纯卷积扩散模型 DiC，抛弃自注意力机制回归 3x3 卷积。它性能超 DiT，推理速度快 5 倍，证明精心设计的卷积网络在生成任务中也能表现卓越。

享刻智能官宣完成数千万元Pre - A轮融资，创始人陈震是连续创业者。其LAVA厨房机器人获北京市首张具身智能机器人食品经营许可证，已签千台级订单，还将围绕‘三机一体’架构升级技术。

谷歌深夜官宣Gemini 2.5 Pro推出新版本（0605），在代码、推理等任务表现提升，超o3，Elo评分也提高。但发布两小时就被越狱，还被指部分指标较早期版本退步。

文章介绍基于约束解码技术，结合CFG、Jinja模板和XGrammar框架，为大模型SQL生成配备“编辑器”。它能保证语法正确、遵循规则，还具灵活性。但面临约束干扰和性能瓶颈，未来可简化配置惠及更多用户。

最新研究揭示AI存在认知缺陷，读取时钟准确率仅38.7%，判断日历日期准确率26.3%。研究者构建测试集考察MLLM能力，虽部分模型有亮点，但整体表现不佳，凸显训练数据和推理方式改进需求。

Claude Opus 4.7刚发布就遭全网吐槽，价格贵50%，性能却严重倒退，出现幻觉、计算拉胯等问题。用户质疑Anthropic为省钱缩水模型，罪魁祸首可能是新引入的“自适应推理”功能。