「联合自注意力」共找到 2250 篇相关文章
啊？微博7800美元训的大模型，数学能力超了DeepSeek-R1
近日，微博发布自研开源大模型VibeThinker，15亿参数却在数学测试上击败6710亿参数的DeepSeek R1，后训练成本仅7800美元。其为AI产业带来新思考，还将推动微博AI应用发展。
华为中科大联创大模型低比特量化算法，1‰数据实现昇腾无损压缩7倍
华为诺亚方舟实验室联合中科大提出CBQ后训练量化方案，仅用0.1%训练数据实现大模型7倍压缩，保留99%精度。该成果登ICLR 2025 Spotlight，已加入昇腾ModelSlim工具包。
一篇Self-Evolving Coding Agents最新综述
当今编码智能体部署后大多静止，自进化编码智能体应运而生，可让Agent通过交互更新自身。文章介绍了其概念、分类，探讨组件进化机制、时机及评估方法，也提及带来的新挑战。
8.99万的人形机器人来了！中国版Figure发力，价格打穿地板
星尘智能发布T1新品，价格8.99万元起，6月发货。它强调商业化能力，能「一机多用」，打穿多场景。星尘自研「AI模型 - 具身OS - 绳驱本体」架构，已量产，订单多，领先同行。
重新审视SFT的泛化能力：优化动态、数据与模型能力的条件性分析
上海人工智能实验室等联合研究质疑了‘SFT倾向于记忆，RL实现泛化’观点，指出SFT泛化是条件性现象，受优化动态、训练数据、基模型能力影响，还揭示长思维链SFT会带来安全性能退化。
真正的Jarvis要来了？涂鸦智能押注Physical AI
智能家居爆发期，诸多硬件品牌借涂鸦能力发展。如今涂鸦发布AI生活助手“Hey Tuya”，它依托自研架构补齐Agent进入物理世界的关键能力，让涂鸦从幕后走向台前，有望构建家庭生活新基础。
豆包官宣手机助手：AI 还能带来哪些新体验？
字节豆包团队官宣做手机助手，它基于操作系统层面授权，背靠豆包大模型带来交互创新。虽无自研手机计划，但正与多家厂商洽谈合作。开放体验机型是与中兴合作的nubia M153。
从VLA到RoboOmni，全模态具身新范式让机器人察言观色、听懂话外音
复旦大学等联合推出全模态端到端操作大模型RoboOmni，统一多模态，实现动作与语音协同控制。它重新定义机器人交互范式，让机器人具备“察言观色”能力，还构建了OmniAction数据集，实验表现全面领先。
如何破解海量内容审核难题？快手安全大模型技术探索与应用实践
在数字内容爆炸式增长下，传统内容审核模式难应对挑战。快手安全算法中心负责人刘梦怡分享自研多模态大模型技术方案与应用实践，涵盖架构、数据、训练等，还介绍审核智能化应用及未来展望。
原来Scaling Law还能被优化？Meta这招省token又提效
2017年《Attention Is All You Need》提出的Transformer是主流语言模型基础范式。Meta新论文提出旋转不变型三线性注意力机制，证明其表现能改变Scaling Law系数，还证实2 - simplicial Transformer在有限token预算下更优。