「有监督微调」共找到 6448 篇相关文章
欲取代transformer的SSA(次平方稀疏注意力)解读
文章解读了欲取代Transformer的SSA（次平方稀疏注意力）算法。它支持12M tokens上下文，比fastAttention快52倍，训练和推理更快。SSA改变了注意力扩展特性，有计算和内存线性扩展等特性，经三阶段训练可可靠利用长上下文。
离职特斯拉“隐身”14个月，杨硕创业终于亮牌：重新定义机器人训练范式
杨硕从特斯拉擎天柱团队离职创业一年多后，妙动科技团队带来新论文《DiT4DiT: Jointly Modeling Video Dynamics and Actions for Generalizable Robot Control》。该团队用视频训练机器人动作，提出DiT4DiT模型，解决VLA模型不懂物理问题，在人形机器人上有新突破。
最强开源机器人大脑！蚂蚁两万小时真机数据开启物理AI缩放定律
蚂蚁集团开源具身智能基座模型LingBot-VLA，用两万小时真机数据证明机器人学习有缩放定律且未达瓶颈。该模型优势显著，在多平台表现出色，团队还从数据、架构、工程等方面进行优化，并开源代码等加速行业探索。
GLM-4.7-Flash无审查版发布：30B MoE模型，仅3B激活参数
GLM-4.7-Flash无审查版由HauhauCS发布，基于原版移除审查机制。采用30B - A3B混合专家架构，总参数量31B，每次前向传播仅激活约3B参数，推理快，支持200K上下文长度，有两种变体和四种量化版本。
英伟达4B小模型击败GPT-5 Pro！成本仅1/36
英伟达ARC - AGI 2中，4B小模型NVARC以27.64%成绩力压GPT - 5 Pro登顶，单任务成本仅其1/36。亮点是零预训练深度学习法，还靠合成数据、测试时微调等策略。小模型特定领域优化后优势明显。
卡帕西入职Anthropic仅两月疑离职；日媒拆解宇树G1后认输：短期内赶不上中国；腾讯317万年终奖员工被辞退：永不录用｜AI周报
这篇 AI 周报涵盖诸多热点，如 AI 大神 Karpathy 入职 Anthropic 两月疑离职；Kimi K3 超越闭源模型引关注，美指控其蒸馏美模型；腾讯员工晒 317 万年终奖被辞退；360 首任董秘追讨股权；多家公司有模型发布、业务调整等动态。
机器人浓度最高的一届春晚后，具身智能离走进千家万户还有多远？
InfoQ《极客有约》X QCon 直播栏目邀请专家探讨具身智能落地卡点。专家认为其虽面临模型泛化、数据采集等难题，但发展乐观。工业场景对通用性需求不大，Agent 架构或成关键，数据和物理交互等方面也有挑战。
OpenAI被曝瞄准AI音乐赛道商业化，Suno首当其冲
据悉，OpenAI已和艺术学院合作许久，不久将进军AI音乐。它正与茱莉亚学院学生合作标注乐谱用于模型训练，还可能探索To B市场。此前OpenAI就有音乐模型尝试，此次或因Suno盈利佳而重拾音乐梦，Suno恐受冲击。
480P的元宇宙入口：Midjourney不是在做视频，是在造"任意门"
Midjourney发布首个视频模型Video V1，它只能图生视频，操作便捷。虽分辨率仅480P，但采样率高。生成成本低，会员就能用。其美学表现好、生成速度快，不过在提示词理解等方面较弱。该公司有独特愿景。
AI原生产品不等于全部功能AI化，保留传统功能让用户体验更完整 | 对话小卡健康
AI健康管理赛道竞争激烈，产品各有差异。量子位智库访谈小卡健康产品负责人李雅，探讨AI如何赋能、产品功能拓展、数据指标关注、智能设备联动、开发问题及运营推广等，展示其差异化策略和发展思考。