「FP4训练」共找到 3411 篇相关文章
AI是「天才」还是「话术大师」？Anthropic颠覆性实验，终揭答案！
Anthropic新研究证实Claude模型有一定内省意识，能控制自身内部状态。用「概念注入」实验，Claude Opus 4和4.1表现最佳。不过该能力不可靠、局限大，未来进化情况待察。
强化学习的进化：从PPO到MaxRL，LLM推理训练的算法演进史
本文概述2024 - 2026年推理LLM的强化学习进展，从REINFORCE和PPO讲起，介绍GRPO、RLOO等多种算法。指出critic模型非必需，标准差归一化有副作用，损失聚合很关键，信任域是优化切入点，还提出几个未解决的挑战。
VLM剪枝新SOTA：无需重训练，注意力去偏置超越6大主流方案
常用的attention机制存在位置偏置和padding异常，影响剪枝效果。上海大学曾丹团队提出无需重新训练的attention去偏方法，在多模型、剪枝策略及基准上验证有效，为多模态模型部署提供新思路。
Claude Sonnet 5：更强，但更贵，每任务成本反超Opus 4.8
Anthropic 发布的 Claude Sonnet 5 智能指数追平 GPT - 5.5，但每任务成本比 Opus 4.8 贵 15%。它在知识工作类任务表现佳，推出促销价，不过促销后成本待察。评估迁移时需算 token 消耗。
AI公司烧不起Token了！国产Agent杀出，逼近Opus 4.6还免费
Token成AI时代“电力消耗”，企业成本压力大。昆仑万维推出高性能Agent模型SkyClaw - v1.0及轻量版，性能逼近顶流，价格低且限时免费。经实测能力强，其训练体系独特，未来还将开源。
只用国产GPU训练的大模型性能飙升100%！国内唯一，更懂你
科大讯飞发布全国产算力训练的讯飞星火X1.5，推理效率暴涨100%，综合性能跻身全球顶级。还首发非自回归语音大模型架构，效果提升、成本降低。此外，展示多领域应用成果，发布相关产品，开源智能体平台。
对标GPT-4o和香蕉！浙大开源ContextGen：布局身份协同新SOTA
浙江大学ReLER团队开源ContextGen框架，攻克多实例图像生成中布局与身份协同控制难题。基于Diffusion Transformer架构，用双重注意力机制实现布局精准锚定与身份高保真隔离，在基准测试中超越开源SOTA模型，对标GPT - 4o等闭源系统。
CapRL：用强化学习突破Image Captioning训练瓶颈，3B模型性能媲美72B
上海人工智能实验室联合团队发布 CapRL，首个将 DeepSeek - R1 强化学习策略用于 Image Captioning。CapRL - 3B 模型在图像描述任务媲美 Qwen2.5 - VL - 72B，已开源，团队持续迭代优化。
训练大模型玩《反恐精英》：自带外挂一枪爆头，堪比职业玩家
动视暴雪、斯坦福大学和英伟达等研究人员基于职业玩家游戏数据和Transformer架构，开发游戏大模型MLMOVE。在《反恐精英：全球攻势》测试中，它表现出色，性能超现有机器人，还具提前预判移动等创新。
Cursor滑跪开源技术报告：Kimi基模这样微调能干翻Claude
Cursor放出Composer 2技术报告力证‘自研’，基于Kimi K2.5经持续预训练和异步强化学习，测试表现好。同时，杨植麟分享Kimi团队最新思考，认为大模型要规模化，断言大模型训练进入第三阶段。