「预训练研究」共找到 3695 篇相关文章
Nature重磅：AI和人脑的根本区别找到了，我们对“聪明”的理解可能全错了
2025年《自然·机器智能》研究指出AI和人类在‘泛化能力’上本质不同。人类泛化靠抽象，学习高效；AI泛化靠统计，学习笨重。未来AI与人应互补协作，而非谁取代谁。
告别Reasoning模型的“灵光一现”，推理能力可控了
当前GPT - 4o、DeepSeek - R1等大模型推理的‘高级操作’随机触发，不可控。研究者受经典推理三要素启发，教会模型三种‘元能力’，经三阶段训练，模型效果提升，让推理能力可控。
刚刚，北京建了一座AI工厂：目标10万P算力，日产10万亿Token！
九章云极在2026全球智算科技峰会发布AI工厂战略，含训练和Token工厂，目标10万P算力、日产10万亿Token。用DCU度量投入，Token度量产出，重构智能生产与交付体系，适配不同企业需求。
阿里批准林俊旸离职，CTO周靖人接管千问！Gemini周浩确定加盟
阿里巴巴CEO吴泳铭批准林俊旸辞职，周靖人接管千问。此次人事变动突然，引发诸多猜测。阿里高层称是为扩充团队、投入资源。Gemini 3.0核心贡献者周浩据传将主导千问后训练。
英伟达确认恢复 H20 在中国销售，并推出面向中国的全新 GPU
7月15日英伟达官网发文，将恢复H20在中国销售，黄仁勋称正提交重售申请，美政府保证发许可证。还推出面向中国的全新GPU，强调AI成基础资源，致力支持开源研究等。
从零开始200行python代码实现LLM
文章从传统思路实现诗词生成器入手，介绍了词汇表、Bigram模型等概念，接着用Python和PyTorch实现了真正的Bigram模型，阐述模型、训练等内容，最后回顾成果，下一篇将基于此实现完整GPT。
AI“氛围编程”威胁开源，维护者面临危机
开源维护者正加速关闭外部贡献，因AI生成贡献量大质低。研究显示“氛围编程”会造成负反馈循环，降低软件可用性和质量。平台激励加剧问题，虽有应对策略但效果不佳。
ICU昏迷不醒，AI判决生死！取意愿平均值，细思极恐
美国华盛顿大学研究「AI代理人」，用算法预测昏迷患者生死意愿。虽初衷似是人道主义实验，但AI仅基于历史数据推断，易成社会偏见延伸，还会影响决策，掩盖真正意愿，引发伦理担忧。
苹果AI选Mamba：Agent任务比Transformer更好
苹果新研究指出，在长任务、多交互的Agent式任务中，基于SSM架构的Mamba在效率与泛化能力上超Transformer。虽Mamba有局限性，但引入外部工具后性能显著提升。
GPT-5 最强大的，是编程
据报道，OpenAI的GPT - 5即将到来且早期反馈积极。它在编程领域表现突出，尤其在实际编程任务上有提升，不过其具体形式存疑，改进或多来自后训练阶段的强化学习。