「推理时代」共找到 3226 篇相关文章
国内首次!8.9毫秒推理速度破纪录,1元打穿百万token
在2025人工智能计算大会上,浪潮信息发布元脑SD200和元脑HC1000两款AI服务器。前者让DeepSeek R1的Token生成速度达8.9毫秒,后者将推理成本降至1元/百万Token,解决了AI智能体速度与成本难题。
扩散LLM推理新范式:打破生成长度限制,实现动态自适应调节
随着扩散大语言模型成为热门,但其推理时存在预设固定长度的限制。香港中文大学 MMLab 等提出 DAEDAL,赋予模型根据问题自主调整回答长度的能力,在性能和计算效率上有提升。
模型「漂移」新范式,何恺明新作让生成模型无须迭代推理
训练生成模型复杂,传统扩散模型训练费时费力。何恺明团队提出「漂移模型」新范式,不依赖微分方程,支持一步推理,实验验证其在多领域性能佳,有望解决生成式AI质量与效率权衡问题。
从极速复制“死了么”APP,看AI编程时代的技术选型
本文以复刻‘死了么’APP为例,分析AI编程时代技术选型。介绍开发工具,如Qoder;给出技术选型原则,像选声明式技术栈;还阐述Supabase优势,能降后端复杂度、省运维成本。
协同办公进入Agent时代,飞书+豆包工作跑在了最前面
本文报道2026飞书未来无限大会,字节跳动发布完成系统性适Agent化改造的飞书8.0,以及国内首个团队智能体产品豆包工作伙伴,原生深度融合打造Agent时代协同办公新方案,披露企业AI选型新趋势,强调企业级AI安全。
Agentic AI 时代,软件工程如何被重塑|QCon北京2026即将开幕
QCon全球软件开发大会·2026北京站4月举办,以“Agentic AI时代的软件工程重塑”为主题。大会有主题演讲探讨Agentic AI边界,设多个专题解析工程化核心,还关注AI向物理世界延伸,讲师分享一线实践经验。
极简RL新范式:一半算力刷新1.5B模型推理SOTA
过去为提升中小参数量模型推理能力,开发者构建复杂RL流水线。JustRL论文提出极简、单阶段、固定超参训练方案,在两主流1.5B模型上刷新SOTA,节省2倍算力,消融实验还揭示部分技巧会致性能退化。
今夜无显卡!老黄引爆Rubin时代,6颗芯狂飙5倍算力
CES 2026上,英伟达黄仁勋发布Vera Rubin超算架构,推理性能比Blackwell提升5倍,训练性能提升3.5倍,成本降10倍,已投产,下半年商用。还展示自动驾驶模型等,且无新显卡发布。
Skill会吃掉APP吗?龙虾时代,这个问题值得认真聊聊|沙龙报名
2026年开年,龙虾掀起Agent浪潮,有人认为APP或被Skill取代。量子位发起「龙虾时代,Skill会吃掉APP吗?」AI沙龙,邀业内人士分享思考,3月31日14:00现场探讨相关问题。
「有望成为Transformer杀手」,谷歌DeepMind新架构MoR实现两倍推理速度
谷歌DeepMind发布新架构MoR,有望成Transformer杀手。它统一实现参数共享、自适应计算,兼顾性能与效率。实验显示其推理吞吐量提升,降低计算需求,但能否取代Transformer存疑。