搜索：预训练数据精炼

「预训练数据精炼」共找到 3924 篇相关文章

Transformer学不会多位数乘法？MIT和哈佛的研究指出了一个简单漏洞

MIT、哈佛和谷歌DeepMind团队实验发现，Transformer做4位数乘法有软肋。用‘隐式思维链’（ICoT）训练的模型准确率达100%，传统方法仅1%。研究揭示了问题根源，还给出修复方案，但也引发诸多质疑。

松鼠Ai创始人栗浩洋让儿子辍学用AI上课，称其水平超同龄人。该公司获俞敏洪投资，曾负债9亿，后转型靠学习机业务发展。现计划将“AI学校”开到美国，适配当地市场并回应数据安全顾虑。

从上周起，Anthropic 在 Claude 模型所有文本输出中嵌入隐形水印。该水印在文本生成时织入文字，复制粘贴也保留，编辑修改可能仍在。标记机制分文本水印和文件元数据两层，全球生效。

亚马逊、Meta等大厂流行用token摸鱼，员工为拉高榜单数字让AI跑不必要任务。Jellyfish数据显示烧10倍token仅换来2倍产出，成本飙升。这既扭曲生产力，又为资本开支背书。

前小米“技术教父”崔宝秋创办家庭具身机器人公司“若伴科技”，获全明星阵容“亲友+种子轮”融资。他有深厚技术与产品经验，其设想的家庭机器人将打通小米生态，且结合开源构建数据闭环。

自Qwen3-Next发布，GDN成Qwen主力注意力层，随模型规模扩大开销增大。现开源FlashQLA算子库，融合优化GDN Chunked Prefill前反向算子，在NVIDIA Hopper上多场景加速，提升预训练和端侧推理效率。

2026年4月7日，千寻智能完成10亿元融资，30天两轮累计30亿。雷军、马云旗下资本领投。其技术路线与国外Generalist AI吻合，数据采集有优势，还与京东、宁德时代合作，获资本青睐。

LeRobot v0.5.0正式发布，是规模最大的一次发布。在硬件上支持更多机器人，策略模型新增6种，数据集处理优化，还推出EnvHub，代码库也全面升级，此外社区与生态建设也有进展。

苹果推出 30 亿参数的 Ferret-UI Lite 端侧 AI 模型，可解析屏幕图像、与应用交互。现有 GUI 智能体方法存在建模复杂等问题，Ferret-UI Lite 性能有竞争力，训练采用两阶段流程，还给出应用建议。

南洋理工大学NTU S-Lab团队提出DynamicVLA，解决主流VLA模型在动态场景下反应迟缓等问题。它从多层面设计，构建自动化数据体系和DOM Benchmark，在实验中多维度领先。