「模型训练难题」共找到 8626 篇相关文章
Anthropic让AI先读员工手册再上岗：失控率从54%降到7%
Anthropic最新研究「模型规范中期训练」（MSM）显示，相同训练数据配不同行事原则，模型表现不同。MSM在预训练和对齐微调间加中间阶段，让模型读规范文档理解准则，在特定实验中，将Agent失控率从54%降到7%。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用旋转位置编码 (RoPE) 的现代Transformer模型中，注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值，而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。
Loop-ViT：让AI学会「反复思考」，3.8M参数小模型追平人类平均水平
香港科技大学等团队提出 Loop - ViT，将循环 Transformer 引入视觉推理领域。该模型参数少但性能强，3.8M 小版本追平人类平均水平，揭示视觉推理任务中‘思考时间’比‘模型大小’更重要。
顶尖模型离“科学家”还差得远？AI4S亟待迈向2.0时代
《Nature》研究指出，过度依赖现有深度学习模型或阻碍创新。上海 AI 实验室周伯文提出，应推动科学智能从 AI4S 迈向 AGI4S，还介绍“智者”SAGE 架构、“书生”模型及平台等探索成果，并邀同行共拓蓝图。
大模型越反思越错，原来是长链推理通过自我说服加重幻觉 | 北邮
北邮研究团队通过思维链审计实验，揭示大模型长链推理‘越想越错’现象背后的元认知偏差。研究基于RFC协议文档构建受控知识域，分析推理过程，发现反思会加重幻觉，且现有检测方法难以应对。
全国首部AI大模型私有化部署标准，公开征集起草单位和个人！
近期AI领域政策频出，企业对人工智能应用需求攀升，倾向私有化部署，但行业存在技术错配等问题。国内首部针对AI大模型私有化部署的标准《人工智能大模型私有化部署技术实施与评价指南》立项，正征集起草单位和个人。
VLA大模型做长任务总断片？同济KC-VLA用关键帧链给治好了
VLA大模型记性是短板，处理非马尔可夫任务常束手无策。同济大学等提出KC - VLA框架，用关键帧链接赋予机器人全局时间感知能力，还构建了长时序记忆依赖基准测试，实验显示其性能优越。
扩散语言模型扛把子LLaDA迎来新版本，数学、代码、对齐能力均提升
中国人民大学与蚂蚁集团团队基于前期 8B 扩散语言模型 LLaDA，提出方差缩减的偏好优化方法 VRPO，推出 LLaDA 1.5。它在数学、代码、对齐任务上性能提升，VRPO 为扩散语言模型对齐提供框架。
登顶 Arena！MiniMax 最新 Speech-02 模型屠榜：超越OpenAI、ElevenLabs，人声相似度99%
近期TTS模型领域发展火热，众多机构纷纷发力。MiniMax推出的Speech - 02模型登顶Arena榜单，在字错率和相似度等指标上表现出色，具备超拟人、个性化、多样性特点，性价比高，还创新架构解决了现有痛点。
如何选择最佳多模态大模型压缩方案？哈工大、度小满开源EFFIVLM-BENCH基准测试框架
金融科技智能化转型中，LVLM部署受算力瓶颈制约。哈工大与度小满联合开源EFFIVLM - BENCH基准测试框架，能为多模态大模型压缩方案出具‘体检报告’，还揭示LVLM加速复杂性，推动技术发展。