「FP4训练」共找到 3412 篇相关文章
Anthropic刚刚宣布Claude Sonnet 4支持100万token上下文窗口
Anthropic官方公告，Claude Sonnet 4上下文窗口扩大到100万tokens，是之前5倍。能一次读懂大代码库或多篇论文，可用于代码分析、文档处理等。超20万tokens价格翻倍，现仅对Tier 4用户测试。
LLM加RL遭质疑：故意用错奖励，数学基准也显著提升，AI圈炸了
华盛顿大学等机构论文引爆AI界，其发现用虚假奖励训练Qwen2.5-Math-7B模型，也能提高MATH - 500成绩。虚假奖励对Qwen模型有效，但在其他模型上有限，凸显RLVR有效性与模型能力有关。
从大模型到多模态，图文混排Agent彻底起飞~
上周智谱多模态开源周，从GLM 4.6v到Autoglm，其图文并排使用场景很吸睛。上传PDF论文，它能生成图文混排解读文章，效果好。作者逆向原理复刻代码，还分享GLM 4.6V三个有意思的能力。
一篇被证明“理论有误”的论文，拿下了ICML2025时间检验奖
2015年发表的Batch Normalization论文在ICML 2025会议获时间检验奖。它引用超6万次，推动了深层神经网络发展。虽2018年被指理论有误，但仍有新研究发现其对训练过程的根本影响。
中国具身模型狂揽全球第一！机器人的人类数据时代来了
00后带队的灵初智能用近10万小时人类数据拆解具身智能，1000小时数据开源。其发布Psi-R2和Psi-W0双系统架构，让Psi-R2登顶MolmoSpace榜单。灵初认为纯人类数据训练必要，还强调开源对具身智能落地重要。
小目标检测难点分析和解决策略
文章基于24年综述论文，分析小目标检测难点，如特征不足、难区分背景等，还给出主流改进方法，涉及数据增强、特征提取、特征融合、损失函数、训练策略等方面，介绍多种算法及效果。
奖励模型也能Scaling！上海AI Lab突破强化学习短板，提出策略判别学习新范式
上海人工智能实验室提出策略判别学习（POLAR）新范式，解决奖励模型设计与训练瓶颈。POLAR可灵活适配多样需求，弥补传统奖励模型短板，契合强化微调框架，实验证明其性能和泛化性优越。
DeepSeek-R1全升级V2版：Token成本低至原来30%
DeepSeek - R1 V2版全维度升级，训练框架从‘单一RL’到‘多阶段协同优化’，推理能力从‘能推理’到‘会优化推理’，还提升了安全可控性，适配生态，推出轻量级模型。
Kimi K2技术报告正式发布：“保姆级”深度解析，一文读懂万亿参数智能体的所有秘密
Kimi K2技术报告发布，Moonshot团队用万亿+参数稀疏MoE架构等打造接近Claude - Opus的通用大模型。围绕训练稳定性等改进，有预训练、架构设计等多方面创新，为智能体领域提供可行路径。
模拟大脑功能分化！北大与港中文发布Fast-in-Slow VLA，让“快行动”和“慢推理”统一协作
北大与港中文研究团队发布 Fast-in-Slow（FiS-VLA）全新双系统视觉 - 语言 - 动作模型，将快速执行模块嵌入预训练视觉 - 语言模型，实现快慢系统一体化。该模型在多平台表现优异，控制频率大幅领先。