「AI智能体推理框架」共找到 12106 篇相关文章
【博客翻译】使用PyTorch加速生成式AI第四部分：Seamless M4T，快速优化
这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分，专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph，在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速，端到端推理2.7倍加速。
李开复陆奇重仓同一家Harness智能体公司，李笛带队，4个月2轮融资3-5年粮草
成立仅四个多月的AI初创公司明日新程宣布连续完成两轮融资，资金储备够未来三到五年创新。其由李笛带队，获李开复、陆奇等投资，聚焦Harness群体多智能体，还将推出新版“小冰岛”。
面壁MiniCPM4端侧模型发布：长文本推理 5 倍提速，0.5B 模型拿下新SOTA
2025智源大会，面壁发布MiniCPM4.0端侧模型，含8B稀疏闪电版与0.5B款。其采用InfLLM架构，实现长文本推理5倍提速、最高220倍加速，还在性能、部署等方面优化，适配多芯片与框架。
英伟达官方推理指南来了！6倍无损加速，最优解全是华人写的
9月2日，英伟达技术博客上线《用投机解码做AI模型协同设计》，给出推理加速选型表。列入指南的核心方案多由华人团队主导，介绍了从外置草稿模型到n - gram查表法等方案，还提到硬件常数对模型架构的约束。
幻觉率降 27%、成本忽略不计：GPT-5.3 与 Gemini 新品对今年AI走向释放什么信号？
3月3日，OpenAI和Google几乎同时发布新模型，OpenAI推出GPT - 5.3 Instant，主打日常对话顺畅；Google发布Gemini 3.1 Flash - Lite，强调规模化智能。二者不追高端能力，分别从成本和体验着手，反映AI竞争重心转移。
通用Agent是伪命题？昆仑万维方汉现场拆解：垂直推理才是胜负手｜新智元十年峰会
在新智元十周年峰会上，昆仑万维董事长方汉分享公司转型故事与多模态AGI见解。他认为通用Agent非万能，垂类推理数据是关键，还提出AI商业落地逻辑，展示多款产品成果。
小米模型实现声音理解新SOTA！数据吞吐效率暴增20倍，推理速度快4倍 | 全量开源
小米全量开源MiDashengLM - 7B模型，它基于Xiaomi Dasheng和Qwen2.5 - Omni - 7B Thinker，实现声音理解新SOTA。性能领先，推理效率高，革新训练范式，全栈开源，将赋能多场景。
GPT-5内测抢先公布：日常推理首次击败人类，编程数学科学问题能力都很强
疑似GPT - 5发布预告刚出，内测体验抢先释出。网友实测其推理能力首超人类，编程、数学等能力也出色，虽提升或没GPT - 3到GPT - 4明显，但市场竞争激烈，8月8日凌晨OpenAI发布或为GPT - 5。
AI首胜人类博士，顶会论文秒变代码！港大90后开源刷爆8k星
香港大学黄超团队开源的DeepCode，能分析论文、生成可运行代码。在四大基准测试中全面领先，首超人类专家，还优于现有AI Coding。它有三大核心能力，采用三阶段框架实现代码自动转换。
ACL 2026｜打破推理同质化！阿里达摩院新作让RLVR从重复采样走向有效探索
阿里达摩院智能决策团队提出面向RLVR后训练的探索增强框架I²B-LPO，改进rollout策略，在关键节点生成更具区分度的推理轨迹，结合信息瓶颈自奖励机制，在多个数学基准上提升准确率与语义多样性。