「推理加速技术」共找到 4890 篇相关文章
性能比肩DeepSeek-R1，MiniMax仅花380万训出推理大模型性价比新王｜开源
MiniMax开源推理大模型MiniMax - M1，原生支持100万token输入、8万输出，性能比肩DeepSeek - R1，仅花380万训成。采用Lightning Attention机制与CISPO算法，在多领域表现出色，模型权重可在HuggingFace下载。
说实话提前拿到Qwen3.7-Max内测，最让我意外的不是它推理变强了！
作者提前2天拿到Qwen3.7-Max内测，经测试，该版本补齐短板，综合能力强。审美提升明显，代码质量不错，长程思考推理迭代能力佳，适合替换到部分工具里。
加速近5倍！北大与字节团队提出BranchGRPO，用「树形分叉 + 剪枝」重塑扩散模型对齐
北京大学与字节团队提出 BranchGRPO 新型树形强化学习方法，通过在扩散反演中引入分叉与剪枝，解决扩散/流匹配模型人类偏好对齐难题。该方法在图像与视频生成任务中表现优异，迭代时间最高近 5 倍加速。
更长的推理链反而导致更多幻觉，MLLMs 幻觉解法仅「抄作业」还不够？摘要
近日，斯坦福等校学者发现，更长推理链会让 MLLMs 产生更强幻觉。MLLMs 幻觉不仅涉及语言偏差，还有跨模态语义失配。主流多模态架构在结构设计和训练机制上的潜在失衡，是幻觉频发的主因。
消费级显卡可以快速上手跑！面壁智能MiniCPM-o 4.5发技术报告
面壁智能联合多方发布MiniCPM-o 4.5技术报告。该模型是业界首个端到端全双工全模态大模型，参数约9B，依托Omni - Flow框架，多项性能对标前沿大模型，还推出多种使用方式，兼顾普通用户与开发者需求。
「熟悉的陌生人」才是「好老师」？复旦提出简单指标，找出推理蒸馏中真正有教学价值的数据
复旦大学和上海人工智能实验室研究者提出 Rank - Surprisal Ratio (RSR) 度量方法，综合考虑样本信息量与对齐程度，在蒸馏实验中与学生模型后训练性能相关性高，可用于筛选推理轨迹和选择教师模型。
阿里云通义点金发布DianJin-R1金融领域推理大模型，32B模型荣膺榜首
阿里云通义点金团队与苏州大学合作推出DianJin-R1金融领域推理大模型，介绍其开源数据集与模型、基于通义点金平台的数据合成，展示了其在性能测试中的优异表现，推动金融科技智能化进程。
ICCV 2025｜UV-CoT：无监督视觉推理新突破，偏好优化重塑图像级思维链
随着文本领域思维链推理机制成功应用，研究者将其引入视觉理解任务。现有模型有局限，本文提出UV - CoT新框架，设计无监督数据生成与偏好优化机制，提升模型能力，摆脱对人工标注依赖。
东方理工团队提出HiDrop：重构MLLM计算路径，压缩90%视觉Token实现2.2倍加速
东方理工大学沈晓宇团队提出HiDrop，基于MLLM不同层功能差异，设计出延迟注入、凹金字塔式剪枝和提前退出的视觉Token压缩策略。实验显示，它能压缩约90%视觉Token，保持98.3%性能，实现训练和预填充加速。
刚刚！Sam Altman官宣：Plus用户GPT-5推理提至每周3000次，AI版电车难题已来
Sam Altman官宣ChatGPT Plus用户GPT - 5级推理额度提至每周3000次，还将更新UI、公布算力权衡策略。同时指出GPT - 5推出带来AI情感依恋及伦理困境，如AI成情感寄托时公司如何应对等问题。