「推理速度」共找到 2509 篇相关文章
R1时代，RAG-Retrieval技术总结与展望~
RAG - Retrieval提供全链路RAG检索模型微调、推理及蒸馏代码，支持多模型、多loss和训练方式。还发布模型技术报告，设计评估框架，未来探索RL在检索领域应用。
Transformer祖传设计遭暴击，COLM顶会三篇论文发难
COLM 2026上，三篇论文对Transformer关键技术发难。《Cracks in the Foundation》指出长上下文架构选择影响大；《Lost in Backpropagation》揭示输出投影层信息损耗严重；《When Fewer Layers Break More Chains》表明层剪枝影响长链推理。
如何训练VLA？丰田研究院发布史上最大实验规模「保姆级」教程
丰田研究院和清华大学发布教程，用大量数据训练89个策略模型并验证。聚焦Co - training，研究五大模态、三种策略，对比不同架构，揭示有效和无效模态，还探讨CoT推理及多方面实验。
Gemini 3.1 Flash-Lite Preview发布：Google完成AI模型分层布局
Google发布Gemini 3.1 Flash-Lite Preview，针对企业和开发者场景优化，速度快，有‘思考级别’功能。基准测试表现不错，价格比Claude 4.5 Haiku便宜，但开发者社区反应复杂，面临市场定位问题。
LLM抢人血案：强化学习天才被挖空，一朝沦为「无人区」！
斯坦福AI+CS博士Joseph Suarez回顾强化学习历史，指出其曾因学术短视、学界追名逐利走向衰落。如今他坚持用小模型从零开始的RL，重建标准，让研究速度和效果大幅提升。
腾讯混元TurboS技术报告首次全公开：560B参数混合Mamba架构，自适应长短链融合
腾讯公开混元TurboS技术报告，该模型是超大型Hybrid Transformer - Mamba架构MoE模型，融合Mamba与Transformer架构优势，有自适应长短思维链机制，激活参数56B。在多评测中表现佳，推理成本低。
谷歌Gemini 3.1新模型深夜掀桌, 每秒狂飙363 token! 1/4价格暴击Claude
谷歌深夜推出Gemini 3.1 Flash-Lite，输出速度363 token/s，价格仅0.25美元/百万Token，跑分碾压GPT-5 mini和Claude 4.5 Haiku。开发者可通过Google AI Studio体验，企业用户可通过Vertex AI接入。
Karpathy刚进Anthropic，转头又投了它
AI初创公司Engram成立8个月，估值达6亿美金，获9800万美元融资。它聚焦AI记忆，用Cartridges技术降内存、提速度，将推理和记忆层拆开，团队成员背景强大，押注AI范式新转向。
14.7M参数，小目标AP达到13.9%！FSDETR用频空融合重新定义目标检测
传统小目标检测问题多，2026年4月FSDETR论文提出频空融合法，用14.7M参数获13.9% APS成绩。它有SHAB、DA - AIFI、FSFPN三个核心模块，还给出训练、推理及导出ONNX部署代码。
刚刚，MiniMax新模型接管「音乐圈」！20秒出歌Cover全风格
4月10日，MiniMax带来重磅更新，上线Music 2.6模型并发布专属Music Skills，核心新功能Cover翻唱可自由进行风格置换。Music 2.6在速度、音乐性和音质上改进明显，还开放三个Music Skills套件。