「高效推理框架」共找到 3696 篇相关文章
MiniMax重磅开源M1模型：百万上下文超DeepSeek R1，实现性能与效率双杀
MiniMax正式开源首个推理模型M1，原生支持百万级上下文长度，在推理效率、计算成本和复杂任务能力上有独特表现。其在性能和效率上超越DeepSeek R1等模型，还提出创新强化学习算法。
提示词压缩竟成大模型新漏洞？港科大提出黑盒攻击框架COMA | ASE 2026
香港科技大学研究发现，大模型的“提示词压缩”模块会重写系统安全边界，成为新攻击面。团队提出“对抗性信息损失”概念和COMA攻击框架，实验有效，还给出隔离压缩防御方案。
从RLHF、PPO到GRPO再训练推理模型，这是你需要的强化学习入门指南
强化学习是当今LLM重要技术，Unsloth团队发布教程，从吃豆人谈起，介绍RLHF、PPO到GRPO，分享用GRPO训练推理模型技巧，涵盖相关概念、训练方法及奖励函数设计等内容。
华人学生立大功！新王Mamba-3直击Transformer死穴，推理效率碾压7倍
新一代开源架构Mamba-3发布，由CMU普林斯顿原班人马打造，15亿参数性能比Transformer高4%，长序列任务端到端延迟仅为其七分之一。它采用新设计哲学，推理优先，有三大核心技术，还能与自注意力层混合提升检索能力。
刚刚，OpenAI最强推理模型o3-pro诞生！碾压Gemini 2.5 Pro击穿底价
OpenAI昨夜官宣上线最强推理模型o3 - pro，还将o3价格暴降80%。o3 - pro专为深度思考和提供超可靠答案而生，在多项测试中表现优异，虽有速度慢等限制，但优势明显，网友实测效果惊艳。
只用图像也能思考，强化学习造就推理模型新范式！复杂场景规划能力Max
现有 MLLM 依赖文本处理视觉信息，会造成信息丢失。剑桥、伦敦大学学院、谷歌团队提出视觉规划范式，以强化学习框架 VPRL 提升模型规划能力，实验显示其性能优于文本规划。
无需再训练即可增强性能！港大团队提出GPC框架，实现机器人「策略组合」
在机器人学习领域，提升策略性能常需巨额成本。香港大学团队提出GPC框架，通过“策略组合”创造超越单一父策略的“组合策略”，免训练且跨架构、模态融合，经仿真和真机实验验证性能提升。
GPT-5难产内幕曝光！核心团队遭挖空，推理魔咒难破，靠英伟达续命
外媒The Information曝出GPT-5诞生内幕，其未取得技术突破，OpenAI面临数据瓶颈与技术难题，核心研究者被撬导致组织架构混乱。不过，OpenAI获巨额融资，推理模型成突破口，还在开发“通用验证器”。
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
OpenAI重新开源！深夜连发两个推理模型，o4-mini水平，笔记本、手机可跑
OpenAI 自 GPT - 2 后重新开源，此次连发两个推理模型 gpt - oss - 120b 和 gpt - oss - 20b。它们性能达 o4 - mini 水平，可在笔记本、手机运行，有宽松许可等亮点，在多测试中表现出色。