「标签旋转位置嵌入」共找到 128 篇相关文章
四问智谱上市|甲子光年
2026年1月8日,智谱AI在港交所上市。本文围绕其上市提出四问:是否为“中国OpenAI”、投资人押注点、商业模式健康度及“钱路”方向。指出它应卸下标签,回归技术与商业本质。
正交化之外是什么?微软等提出ARO优化器:训练提速1/3,揭示矩阵优化新「蓝海」
微软研究院联合多校发布论文,提出新优化器 ARO。它将梯度旋转作为原则,能让大模型训练提速约 1/3,比 Muon 高效 10% - 15%,还能全模型优化,揭示了矩阵优化新方向。
硅谷最危险战争!Anthropic死扛封杀,营收狂飙190亿
美国政府给Anthropic贴上「供应链风险」标签,OpenAI同期签军方协议。Anthropic CEO Amodei指责OpenAI,备忘录外泄使与国防部解决方案告吹。虽被封杀,但有巨头支持,营收反超OpenAI,其安全红线获广泛支持。
刚刚,微软推出AI浏览器,上网从此不一样了
微软Edge浏览器推出“Copilot模式”,将其变成AI智能体,有跨标签页情境感知等功能。该模式限时免费,支持语音控制等,还将增加新功能。微软此举或引发浏览器大战,未来浏览器AI模式可能收费。
AI版Chrome终于来了
Google正式推出Gemini in Chrome功能,将Gemini整合进Chrome浏览器。Chrome从‘内容展示器’变为‘内容理解器’,有多标签页处理等功能,提升效率,还推动浏览器形态演进,未来或能替用户操作。
关于多模态大模型Token压缩技术进展,看这一篇就够了
多模态大模型跨模态融合带来高计算成本,催生MLLM Token Compression研究。北大等机构人员基于压缩位置对方法系统归类,讨论特定场景压缩机制选择,还探讨了挑战与前景方向。
EMNLP 2026高分论文MathDebugger:当合成数据涌入训练集,如何为数学题做体检?
随着合成数据增多,模型需判断数学数据题目能否被信任。北大DCAI团队提出MathDebugger质检BenchMark,覆盖问答两端,评测主流LLM和PRM。还探究能否判断正误、分类错误、修复数据,证明错误标签可作监督信号。
文本分类重大创新:持续学习新增类别,不会灾难遗忘
在生成环境中,传统文本分类方法新增业务标签需从头训练,易致知识灾难性遗忘。今天介绍的自适应分类器,通过四项创新,可实现动态类添加和持续学习,而不会发生灾难性遗忘。
VLA 推理新范式!一致性模型 CEED-VLA 实现四倍加速!
近年来,VLA模型成机器人领域重要研究方向,但推理速度受限。本文提出一致性蒸馏训练、混合标签监督机制及提前退出解码策略,在多基线模型上实现超4倍推理加速,实验验证其高效通用。
全景视觉的Depth Anything来了!Insta360推出DAP,200万数据打造全场景360°空间智能新高度
Insta360等团队推出全景度量深度基础模型DAP,构建200万量级全景数据引擎,设计三阶段伪标签管线,在模型架构上也有创新,在多项测试中效果优异,项目代码与模型已开源。