「推理技术栈」共找到 4680 篇相关文章
免训练加速61倍！陈怡然团队新作DPad：仅关注「彩票token」
杜克大学陈怡然团队新作DPad，发现扩散大语言模型关注少量「中奖」token，推理速度可提61 - 97倍，还增强模型语境学习能力。DPad免训练零成本挑关键信息，实现「少算多准」。
Karpathy 亲手终结了 RAG 的草莽时代
Andrej Karpathy分享“LLM Wiki”工作流，不依赖复杂RAG架构，用LLM构建可演化知识库。该方法引发关注，有人认为它“杀死了”RAG，技术社区和企业反响热烈，预示新的产品方向。
DeepSeek之后：中国开源人工智能生态的架构选择
自2025年1月“DeepSeek时刻”，中国开源社区有历史性进展，讨论焦点从模型转向架构与硬件选择。技术架构多元，多模态能力扩展，开源许可宽松，小模型走红，本土硬件采用加快。
首席工程师之路：培养领导力
Sophie Weston 在 QCon 伦敦大会演讲称，成为首席工程师不仅要技术能力，还需影响力等。工作外如体育运动等能提升领导潜力，还建议融入科技社区、公开演讲，这些效果会成倍增长。
xAI工程师播客聊太嗨，马斯克解雇了他
xAI工程师Sulaiman Ghori在播客上透露诸多公司内部细节，如MacroHard技术路线、算力部署方案等，后被解雇，引发网友猜测，其内容或为行业带来启发。
Claude Sonnet 4.5发布，多领域性能超越GPT-5和Gemini 2.5 Pro
Anthropic发布Claude Sonnet 4.5，是目前最强编程模型，在多领域性能超GPT - 5和Gemini 2.5 Pro。操作电脑、数学推理能力提升，产品更新功能丰富，安全性增强，价格不变，获多家公司认可。
叶子豪、陈天奇等人开源项目FlashInfer入选，MLSys2025最佳论文奖公布
近日，MLSys 2025公布最佳论文奖，FlashInfer等入选。FlashInfer由多机构合作发起，是灵活的LLM推理内核库，优化内存访问、有可定制模板和调度机制，性能提升显著。另一获奖论文提出Negativa - ML可消除ML框架臃肿。
Karpathy加入Anthropic要做的事，被Google提前做了
Karpathy官宣加入Anthropic要组建新团队‘用Claude加速预训练研究’，话音未落，Google&Meta等发论文‘LLMs Improving LLMs’验证了该思路。论文让Claude Code搜索最优推理策略，结果全面超越人类设计。
大模型也需要睡觉！让AI打个盹，醒来更聪明
卡内基梅隆大学和马里兰大学研究发现，大模型处理长上下文易累傻。受人脑机制启发，设计睡眠机制，让模型在上下文窗口快满时打盹，反复咀嚼信息，压缩进长期权重。测试显示，增加“睡眠”轮次能提升深度推理表现。
2025年的冬天，上海凭什么被称为“世界具身智能第一战场”？
2025年上海或成“世界具身智能第一战场”。上海构建服务型政府生态，开放场景、平权算力、建设语料、集聚产业。企业完成蜕变，政策催生技术突变，12月12日GDPS大赛将是成果“实弹演习”。