「推理加速技术」共找到 4910 篇相关文章
Thinking Machines 发布又一神作「在线策略蒸馏」 ，LLM后训练效率飙升50-100倍
Mira的THINKING MACHINES开源「在线策略蒸馏」LLM后训练方法，结合两种主流后训练范式优点，提升训练效率50 - 100倍，成本降低9到30倍，可用于数学推理、模型个性化等场景。
GPT-5 核心成员详解 RL：Pre-training 只有和 RL 结合才能走向 AGI
本文编译 OpenAI 研究副总裁 Jerry Tworek 访谈，探讨 RL 与通向 AGI 路径。他认为 pre - training 与 RL 需结合，GPT - 5 是 o3 迭代，还谈及推理、模型发展、训练方式及 OpenAI 研究情况等。
Karpathy再放大招：8000行代码复现ChatGPT全栈，最低成本仅100美元，4小时跑完
Andrej Karpathy发布项目nanochat，是全栈式ChatGPT克隆体训练/推理流水线，代码约8000行，覆盖训练分词器、预训练等完整流程。介绍不同成本下模型表现，还回答网友关于架构、训练数据等问题。
超越RAG，DRAG让LLM准确率飙升45.5%，问题越复杂能力越强
RAG技术虽能让LLM检索资料生成答案，但存在短板，听不懂话里有话。DRAG方法应运而生，有DRA和RSC两大法宝，经对比实验，它在多任务上领先，准确率大幅提升，计算开销小。
高性能全闪并行文件系统的设计和实践
焱融科技 CTO 张文涛在 QCon 大会分享‘高性能全闪并行文件系统的设计和实践’，介绍了焱融全闪文件存储架构和 YRCloudFile 技术细节，分享其解决 AI 训练存储难题的方案。
GPT-5难产，外媒爆料：性能提升不大，OpenAI高管Slack上当众破防
GPT-5 迟迟未现身，引发众多传言。外媒爆料其虽有改进，但性能飞跃不如早期 GPT 型号。OpenAI 面临技术问题、组织重组压力等，不过 GPT-5 开发仍有进展，且公司新一轮融资顺利。
OpenAI 新任应用CEO 首发长文：人工智能将成为人类历史上最大的赋能源泉。
前Instacart CEO Fidji Simo 8月18日加入OpenAI任应用CEO，她在长文表示AI可成人类最大赋能源泉，提出AI赋能的六个关键领域，强调技术价值在于让更多人受益。
南洋理工、北大、上海AI实验室开源长记忆世界模型
目前世界模型模拟方法在维持长期一致性上有挑战，南洋理工大学、北京大学王选计算机技术研究所、上海人工智能实验室联合开源长记忆世界模型WORLDMEM，介绍了其记忆机制、基础架构、训练技术及检索策略等。
Windsurf打工人被谷歌做局24小时后获收购！华人AI编程明星出手，接收250名员工
AI编程赛道局势突变，谷歌24亿美元挖走Windsurf创始团队，72小时后Devin开发商火速收购其剩余资产和团队。Cognition承诺让员工获经济收益，还与Anthropic达成协议，未来将整合技术。
没想到 2025 年 AI 领域爆发最猛烈的居然是它
文章指出2025年AI编程领域爆发式增长，一年营收从几亿到百亿美金。因其适合编程场景，能帮助各用户群体，未来渗透率有望大幅提升。还分析了发展猛的原因，且认为其潜力大，赛道仍在加速。