「推理工程」共找到 2753 篇相关文章
把RoPE扔掉，AI更能看懂长上下文！Transformer作者团队开源大模型预训练新方法
Transformer架构核心作者之一Llion Jones团队开源新技术DroPE，可丢弃位置嵌入扩展上下文，解决RoPE长序列处理缺陷，在多模型实验中表现卓越。该团队来自Sakana AI，此前还有相关研究成果。
AI 编程 2025 总结：国产模型“能力追平”，国产编程工具还在“情感陪伴”
文章总结2025年AI编程发展，指出国产编程模型能力追平、工具与模型开放集成等六大趋势，同时提到AI替代重复劳动、提升核心能力门槛，呼吁2026年关注工程确定性。
谷歌智能体发力：增强版Gemini Deep Research和专属API都来了
OpenAI强势更新，谷歌也没闲着。正式发布增强版的Gemini Deep Research，配套推出DeepSearchQA基准测试集，还发布了Interactions API，这不仅是Deep Research升级，还是Gemini生态的大升级。
Karpathy：别再问AI「你怎么看了」，这是错误的提示词策略！
Andrej Karpathy提出不要把大语言模型看作实体，应视作模拟器。他建议探索话题时避免用‘你怎么看’提问，给出‘什么样的一群人适合探索，他们会怎么说’的更优策略，还指出不同领域影响有别。
jiSGLang集成ktransformers：2TB内存运行Kimi K2 Thinking模型
对于内存多但GPU资源有限的用户，SGLang集成ktransformers的CPU内核，支持直接运行Kimi K2 Thinking模型。它无需等量化，还能微调，虽性能与GPU方案有差距，但给用户新选择。
Soul APP开源了一款高保真播客生成框架，90 分钟对话零崩盘！
Soul APP背后的Soul AI Lab发布开源项目SoulX - Podcast，是高保真推理框架，能生成90分钟以上连贯对话，有多方言切换等功能，或重塑语音内容产业生产方式。
清华、快手提出AttnRL：让大模型用「注意力」探索
清华和快手团队提出新框架AttnRL，引入注意力机制提升过程监督强化学习效率与性能。它解决传统方法在分支位置选择和采样策略上的效率问题，实验显示在多基准测试中表现优异。
可能是目前效果最好的开源生图模型，混元生图3.0来了
腾讯混元发布并开源原生多模态生图模型混元图像3.0，参数规模80B，是参数量最大的开源生图模型，也是首个开源工业级原生多模态生图模型，效果对标业界头部闭源模型。文中介绍其技术方案、测评效果等。
黄仁勋出手！45倍性能暴涨，英伟达定义物理AI新纪元
在SIGGRAPH 2025上，英伟达发布「物理AI」全家桶。展示完整生态，含新硬件、仿真平台和AI模型。如RTX PRO 6000服务器显卡性能涨45倍，还推多款模型，应用于多领域，推动物理AI落地。
小模型才是 Agent 的未来？这篇立场文把话挑明了
AI Agent浪潮来袭，主流用LLM构建，但英伟达和佐治亚理工学院研究人员论文指出，多数Agent场景中，小语言模型（SLM）已足够强、更好管、更省钱，还给出迁移清单、避坑建议和参考系统形态。