「自监督预训练」共找到 3074 篇相关文章
华为新开源！扩散语言模型突破32K上下文，还解锁了「慢思考」
今年文本生成领域从自回归向扩散语言模型转变，但长序列训练不稳定是痛点。华为发布 openPangu-R-7B-Diffusion，将上下文长度扩至 32K，在多基准创 7B 参数量级 SOTA，还解析了其技术革新。
警惕全球“最大”芯片IPO的暴雷风险
Cerebras 5月14日上市成2026年迄今全球最大IPO。其核心产品WSE工程有突破，但良率计算方式与传统不同。训练未成功，推理找到新机会。与OpenAI超200亿美元合同背后是股权换订单，财务数据也有隐忧，上市后存诸多疑问。
腾讯混元世界模型1.1开源：单卡秒级重建3D世界成为现实
腾讯混元团队开源混元世界模型1.1，它是混元3D世界模型1.0升级版。新增多视图及视频输入，单卡可部署，秒级创造3D世界。有核心突破，能处理多任务，经训练策略优化，多测试表现佳。
“导演梦”不再遥远：Captain Cinema 让你用短片制作出电影
约翰·霍普金斯大学与字节Seed团队推出自动生成短片的Captain Cinema系统。它以剧情文字为输入，先规划关键帧，再补全画面动态合成短片。采用特殊训练法和模型，虽有局限，但为电影自动生成迈关键一步。
专治Demo玩家：「具身灵巧操作奥林匹克」大赛三项第一，全被国内这家公司拿下
星动纪元凭借自研VLA具身智能模型，在具身界灵巧操作奥林匹克Benjie's Olympics大赛中，于翻袜子（银牌难度）、开锁和剥橘子（金牌难度）三项任务上击败技术领先者PI，拿下全球第一，展现全栈技术优势。
VLA进化后降维打击！双手拣货，漂移操作，还能批量化秀舞，太空舱直接开上街，被银河通用卷到了
世界机器人大会上，银河通用的人形机器人Galbot在具身智能小卖部营业，背后是自研端到端具身智能大模型。其与英伟达联合首发的机器人应用表现出色，太空舱也在北京首发，适配多场景，具身大模型商用能力获认可。
GPT-4o图像生成的「核燃料」找到了！万字长文拆解潜在变量，网友：原来AI在另一个维度作画
上月，GPT - 4o图像生成功能爆火。Sander Dielman在博客中探讨生成模型利用潜在空间提高效率和质量，将潜在变量比作「数据精髓」，深入对比多种模型，还介绍训练方法、损失函数等，兼具理论深度与直观洞察。
这可能是，全球最强开源Agent模型，走了一条反Scaling Law的全新范式！
MiroThinker v1.5开源，其30B小模型在Agent benchmark上击败万亿参数的Kimi K2T。它以交互深度为新Scaling维度，训练有严格时间管控，实测表现超Search Agent，“小模型+强交互”或成新方向。
从“云原生”到“智能原生”，AI中间件走到哪一步了？
InfoQ直播栏目邀蚂蚁集团专家探讨AI中间件基建，指出其核心价值，如降低开发门槛等。还谈及云原生到智能原生的转变、记忆服务定位、自研必要性等，分析未来挑战与方向，10月上海QCon大会将聚焦相关话题。
去了一趟中国AI实验室，Linux基金会CTO感叹：西方那两套偏见全破产了
Linux 基金会全球 AI 技术官 Matt White 访华后称，西方对中国 AI 的偏见破产。中国实验室文化黏性强、人才回流，工具反向输出美国。他指出西方出口管制未卡死中国，还让其成自研芯片‘卷王’，开源模型也更受青睐。