「推理服务基础设施」共找到 2938 篇相关文章
刚刚，Claude 4.1 发布
刚刚，Anthropic 发布 Claude Opus 4.1，对智能体任务、编码和推理能力全面升级，付费用户已可使用。未来几周还有重大改进。它在多方面能力提升，碾压对手，网友反应热烈。
提速79%！上交大新方法优化企业级AI流程调度 | IEEE ICDCS’ 25
上海交通大学朱怡飞教授团队联合江行智能提出调度框架LLMSched，解决复合LLM应用任务运行时长和结构不确定问题。该框架重构DAG模型，用贝叶斯网络和熵减机制优化调度，实验显示最多降79%平均任务完成时间。
DeepSeek 复盘：128 天后，为什么用户流量一直在下跌？
文章深入分析DeepSeek和Anthropic策略，揭示行业计算资源稀缺难题。指出AI服务定价是延迟、吞吐量、上下文窗口三个指标的权衡，DeepSeek牺牲体验换研发，Anthropic提升‘智能密度’优化资源。
腾讯太极团队实现DeepSeek模型业内H20最高性能15800+ tokens/s
腾讯太极团队揭秘实现DeepSeek模型15800+ tokens/s业内H20最高性能的方法，通过PD分离、多层MTP优化等全栈优化方法论，还介绍多机性能优化方案，后续预计性能突破20000 tokens/s。
硅谷的企业级AI正在这样赚钱｜2025人工智能现状报告
ICONIQ Capital发布的2025年人工智能现状报告聚焦企业级AI变现。报告基于对300名软件公司高管的调查，分析了模型选择、支出、工具使用等情况，指出AI产品战略进入新阶段，定价策略在重塑等。
国产芯片比英伟达整体效率更高！？华为 CloudMatrix384 超节点首曝论文，跑 DeepSeek 效率超越英伟达
今年4月，网上曾争论华为芯片效率是否超国际主流。近日华为团队论文公开，阐述在CloudMatrix 384超节点部署DeepSeek大模型细节，性能指标超英伟达体系，还介绍架构、软件栈及适配优化方案。
Nature警告：AI「数据饥渴症」引爆学术宕机潮！90%知识库濒临崩盘
Nature揭露AI爬虫疯狂「啃食」学术网站数据，致服务器瘫痪。DiscoverLife、BMJ等受影响，运营方难防「坏爬虫」，急需国际协议规范AI数据使用。
一粒「扣子」，开启了Agent的全生命周期进化
2025年被视为Agent爆发元年，自年初通用Agent产品Manus出现后，其受关注程度空前。火山引擎Force 2025大会上，升级后的扣子成焦点，它从开发平台进化为全生命周期平台，覆盖开发、框架、调优、协作四大部分。
MiniCPM 4.0来了！220倍极速狂飙，端侧模型的比赛，结束了
面壁智能联合清华发布MiniCPM 4.0，极限场景220倍加速。它是首个原生稀疏模型，有三级火箭推理加速体系，性能强，适配全平台，应用广泛，或成端侧AI分水岭。
大模型首次打破围棋思维「黑盒」，打通科学发现新路径！上海AI Lab发布新一代InternThinker
上海AI Lab发布新一代书生·思客（InternThinker），它是我国首个具围棋专业水平且能展示透明思维链的大模型。其得益于InternBootcamp训练环境，还在多任务混合训练中现‘涌现时刻’，背后有通专融合底层技术突破。