「预训练时代」共找到 3311 篇相关文章
拟合接近满分，外推却会跑偏：Meta 给缩放律加了一个指数
大模型训练前，团队常用 Chinchilla 缩放律估算模型规模和数据量，但它在模型和数据极不平衡的边界预测易跑偏。Meta FAIR 提出的 Skaling 只增加一个耦合指数，降低外推误差，还采用 L 形采样降低试算成本。
时间会证明光的
市场曾质疑AI资本开支高增长的持续性，如今随着头部模型公司ARR非线性爆发式增长，AI商业正向循环打通。在AI硬件产业链中，光互联是国内厂商全球参与度最高、份额最稳固的环节，正迎来最好时代。
Opus 4.5之后，AI正在催生“巨头型百人公司”
Opus 4.5发布后，Agent赛道洗牌，模型差距由Agent Loop拉开。本文围绕Cherry Studio，与创始人及投资人探讨AI公司护城河、开源意义、用户价值差异等，指出未来将催生“巨头型百人公司”。
Qwen3.7：智能体新前沿
阿里云正式发布面向智能体时代的Qwen3.7-Max模型，将通过API提供服务。它能力全面，编程、办公、长周期执行等表现出色，适配多框架，在多场景评测中领先，能驱动生产力跃升，还经多实战测试验证实力。
国产GPU开始造世界！国内首个全栈具身智能仿真平台来了
摩尔线程发布国内首个全栈国产化具身智能仿真平台MT Lambda，实现Sim-to-Real真机验证。该平台像物理AI训练流水线，集成物理、渲染、AI引擎。其依托全功能GPU和MUSA架构，还构建了云端、端侧、生态闭环。
没绷住...美团竟然做了个这？
美团推出产品 xia345，它聚合主流 AI Agent 客户端、技能市场和 LLM 模型等信息，功能不复杂但信息密度高。其有清晰新手路径，还能成 Agent 技能。产品经理规划了新功能，目标成 Agent 时代迪士尼乐园。
ICLR发了Oral又反悔，理由是查到了制裁名单？
一篇被ICLR接受为Oral的论文，因作者在arXiv预印本提及工作部分在被美国制裁的RAIRI机构完成，遭ICLR无视审稿直接拒稿。网友将其与NeurIPS类似事件对比，还对作者是否“刻意隐瞒”有不同看法。
大规模替换数据库序列，保障百余个服务平稳运行
Coupang从关系型数据库迁移到NoSQL时，为解决序列替换问题，自研了专用解决方案。该方案采用双层缓存与滑动窗口预填充机制，以DynamoDB为数据源，让百余个服务无需重写代码完成迁移，性能和成本表现佳。
小模型用不好Skill？新范式让模型学会Skill的底层逻辑，3B模型推理token省5倍，性能反超
浙江大学联合美团龙猫团队、清华大学推出SKILL0，提出技能内化思路。它在训练中引入关键机制，让小模型把技能内化到参数里。实验显示，其效果出色，token效率高，为小模型成领域专家提供新方向。
刚刚，OpenAI 发了一份 13 页的「超级智能新政」
OpenAI 发布 13 页政策白皮书《智能时代的产业政策：以人为先》，提出让繁荣惠及所有人、降低风险、普及 AI 三大目标，并给出公共财富基金、效率红利分配、税制改革等具体方案，同时 Sam Altman 表达了对 AI 发展的紧迫感。