「推理加速技术」共找到 4901 篇相关文章
DeepSeek之后：中国开源人工智能生态的架构选择
自2025年1月“DeepSeek时刻”，中国开源社区有历史性进展，讨论焦点从模型转向架构与硬件选择。技术架构多元，多模态能力扩展，开源许可宽松，小模型走红，本土硬件采用加快。
Meta超级智能实验室首篇论文：重新定义RAG
Meta超级智能实验室首篇论文提出REFRAG框架，重新定义RAG。它通过“压缩、感知、扩展”流程优化LLM处理外部知识方式，最高将首字生成延迟加速30倍，且性能无损。
DeepMind大佬最新暴论：单体大模型穷途末路，未来买的不是模型，是"智能路由"
DeepMind研究员Andrew Trask认为，因Scaling Law对资源需求攀升，AI将成协议而非程序。组合不同厂商模型有优势，当主流榜单同等评分时变革加速，之后人们将买“智能本身”。
OpenAI发布新模型 GPT-Rosalind：专攻生物学、药物发现和转化医学
OpenAI发布生命科学前沿推理模型GPT - Rosalind，目标是生物学研究等领域。它是生命科学模型系列首款产品，在多方向表现强。当前以研究预览版向特定合作机构开放，有意机构可申请。
首席工程师之路：培养领导力
Sophie Weston 在 QCon 伦敦大会演讲称，成为首席工程师不仅要技术能力，还需影响力等。工作外如体育运动等能提升领导潜力，还建议融入科技社区、公开演讲，这些效果会成倍增长。
xAI工程师播客聊太嗨，马斯克解雇了他
xAI工程师Sulaiman Ghori在播客上透露诸多公司内部细节，如MacroHard技术路线、算力部署方案等，后被解雇，引发网友猜测，其内容或为行业带来启发。
Claude Sonnet 4.5发布，多领域性能超越GPT-5和Gemini 2.5 Pro
Anthropic发布Claude Sonnet 4.5，是目前最强编程模型，在多领域性能超GPT - 5和Gemini 2.5 Pro。操作电脑、数学推理能力提升，产品更新功能丰富，安全性增强，价格不变，获多家公司认可。
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
大模型也需要睡觉！让AI打个盹，醒来更聪明
卡内基梅隆大学和马里兰大学研究发现，大模型处理长上下文易累傻。受人脑机制启发，设计睡眠机制，让模型在上下文窗口快满时打盹，反复咀嚼信息，压缩进长期权重。测试显示，增加“睡眠”轮次能提升深度推理表现。
2025年的冬天，上海凭什么被称为“世界具身智能第一战场”？
2025年上海或成“世界具身智能第一战场”。上海构建服务型政府生态，开放场景、平权算力、建设语料、集聚产业。企业完成蜕变，政策催生技术突变，12月12日GDPS大赛将是成果“实弹演习”。