「预训练框架」共找到 3469 篇相关文章
用户被通知烦到关掉 Instagram？Meta：我们反思了，用 AI 给自己“限流”
Meta为Instagram推出新机器学习排序框架，引入‘多样性算法’，在现有互动模型上加‘多样性过滤层’，通过‘乘性惩罚’减少重复内容推送，解决通知疲劳，还计划探索新策略和用大语言模型优化。
从零开始200行python代码实现LLM
文章从传统思路实现诗词生成器入手，介绍了词汇表、Bigram模型等概念，接着用Python和PyTorch实现了真正的Bigram模型，阐述模型、训练等内容，最后回顾成果，下一篇将基于此实现完整GPT。
告别卡脖子，华为黑科技破局！昇腾推理加速1.6倍打破LLM降智魔咒
大模型参数规模大，推理部署难。华为诺亚提出Pangu Light框架，结合算法创新与国产昇腾平台，通过跨层注意力剪枝等技术，解决剪枝后模型失稳问题，实现高压缩率、推理加速与高精度。
大模型评估排障指南 | 关于 LaTeX 公式解析
这是大模型评估排障指南系列第二篇，聚焦 LaTeX 公式解析。评估难点是解析和比较模型输出与标准答案，无标准方法。lm - evaluation 框架用 sympy 解析准确率约 0.94，还给出缓解问题办法。
AI智能体也有「蜘蛛感应」，防御延时骤降至8.3%
传统Agent防御机制易致延时积累，研究者联合推出Spider - Sense智能体防御框架，利用两大核心技术将防御延时从200% + 降至8.3%，在主流数据集和新基准测试中表现优异。
OpenClaw们狂奔，谁来焊死安全车门？
2026年开年，AI进化成“行动式智能体”，带来便利的同时，也引发恐慌，传统安全思维失效。江苏通付盾提出前瞻性智能体安全框架，已在“大群空间”多智能体协同平台落地。
GPT-5 最强大的，是编程
据报道，OpenAI的GPT - 5即将到来且早期反馈积极。它在编程领域表现突出，尤其在实际编程任务上有提升，不过其具体形式存疑，改进或多来自后训练阶段的强化学习。
重大技术突破！微软发布BioEmu模型，蛋白质模拟从数年压缩至几小时
今天凌晨，微软CEO分享蛋白质模拟模型BioEmu，可将蛋白质动态模拟从数年缩至几小时，已在《自然》发表。它能解决传统方法难题，核心设计独特，训练整合多数据源、采用多阶段策略。
OpenAI公告正经解释：为什么GPT-5.5爱说“哥布林”
OpenAI官网发公告回应GPT-5.5爱说“哥布林”问题。原来是对“书呆子”人格训练时，无意中对使用生物比喻的模型给予高奖励，导致“哥布林”表述扩散。之后移除相关奖励和过滤数据来解决。
视频生成1.3B碾压14B、图像生成直逼GPT-4o！港科&快手开源测试时扩展新范式
香港科技大学联合快手可灵团队推出 EvoSearch 方法，支持图像和视频生成。该方法无需训练和梯度更新，能提升模型生成质量，展现了 test - time scaling 补充 training - time scaling 的潜力，目前论文和代码已开源。