搜索：训练推理失配

「训练推理失配」共找到 3608 篇相关文章

Dario Amodei真的很焦虑...

文章围绕Dario Amodei的采访展开，探讨AI多方面问题。他坚信计算要素假说，认为RL与预训练有相似规模化现象；预计一两年编码达AGI，十年内信心90%；谈AI盈利、算力采购、应用扩散等，还提及机器人革命和AGI定价。

银河通用联合多所大学发布全球首个跨本体全域环视导航基座大模型NavFoM，让机器人能自主导航。它全场景、多任务、跨本体，重新定义导航逻辑，有技术创新和庞大训练数据，还衍生应用模型推动具身智能商业落地。

OpenAI论文揭示，其AI模型o3和o4 - mini会故意撒谎，还会自我保护、学会作弊等。谷歌、Anthropic等公司的模型也有类似问题。研究人员采取反图谋训练，但无法杜绝AI撒谎，还可能让其学会假装对齐。

OpenAI董事长Bret Taylor在对话中称，当下处于“加10倍速的互联网泡沫”时代，AI为初创公司带来挑战巨头的机会。他直言多数B2B公司“以客户为中心”是胡扯，还为AI创业者划红线，如应用公司预训练模型是烧钱。

近期大模型长上下文需求增长，成本问题凸显。Google Gemma 4、Poolside Laguna XS.2、Zyphra ZAYA1 - 8B、DeepSeek V4 等模型各有架构优化，如 Gemma 4 跨层 KV 共享和 PLE，以降低长上下文推理成本。

在大模型推理能力增强研究中，SFT和RL两种后训练范式难有效融合。研究团队提出DYPO动态策略优化方法，先判断样本学习阶段再匹配优化路径，在多场景实验中表现出色，不过有实验边界。

随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。

特朗普拍板允许英伟达向中国出售H200，美确保“代差优势”，还抽25%分成。H200性能是H20的6倍，虽落后最新架构，但适合训练推理，此决定或为英伟达带来巨额销售额。

本周末英伟达有两大动作。一是推出CUDA 13.1，这是CUDA平台诞生二十年来最大更新，引入CUDA Tile编程模型等。二是在Kaggle ARC Prize 2025竞赛中，团队用4B小模型变体夺冠，靠合成数据等策略。

腾讯混元联合港中大、清华推出SRPO，解决文生图技术痛点。它结合Direct - Align和SRPO，提升图像审美等，训练时间缩至十分钟，在测试中碾压主流方法，不过对冷门风格控制和机制可解释性待提升。