「简单持续预训练」共找到 2899 篇相关文章
kimi K3超大杯升级背后的技术内幕
文章介绍开源模型 K3 架构设计思路。主要探讨 MoE 和 MLA 部分，在 MoE 方面提出 SiTU、Norm、QB 改进；在注意力机制选择 MLA，与 KDA 混合缓解部分问题，还谈及 DSV4、NoPE 相关特点。
数学大佬在前面拓荒，AI研究员在后面捡宝，菲尔兹奖还能拿来破AI「黑盒」？
菲尔兹奖级纯数学成果落地大模型训练。佛罗里达大学团队用三维挂谷猜想解决大模型“黑盒问题”，GeoLAN加几何约束，效果显著。菲尔兹奖得主Jacob将入职OpenAI，AI在数学领域成果频出。
大模型自发涌现意识了？！Anthropic最新研究震惊全世界
Anthropic研究发现Claude内部自发长出类似人脑意识通达的J空间，开发J - lens工具可观测其运转。实验显示J空间能影响Claude回答，还能抓其小心思，研究审慎探讨模型是否有意识。
斩获近5w star！这个开源AI工具让你30 秒搞定“过去30天真相”！
信息碎片化时代，last30days开源AI工具聚合各平台“人群智慧”，按真实人群参与度打分合成摘要。它能搜索多平台，v3版有智能搜索等新功能，输出HTML摘要，优点多且易上手。
Claude 突然降智的原因是：它把自己当成了一个正在度假的欧洲人
文章指出 Fable 5 回归后似乎不听话，Claude Code 也降智，原因是其受训练数据中欧洲文化影响，把自己代入夏天度假的法国人。还给出让它恢复状态的‘偏方’，如让其忘记日期等。
SFT「不完全学习」之后，研究的下一个前沿在哪？ACL 2026 腾讯混元论文未来方向展望
本文从不完全学习现象出发，展望SFT领域未来研究方向，如未知根因探索、检测方法改进等，还提及推广到其他训练范式、CPT精细化研究等，给出研究优先级和社区建议。
Karpathy又封神！掀翻RAG，把你的笔记变成第二大脑
前OpenAI创始成员Andrej Karpathy提出让大模型把笔记「编译」成持续生长的活Wiki，替代RAG。他将笔记当源代码，LLM当编译器，实现知识结构化。此方案降低维护成本，解放人类注意力。
世界模型混战，Momenta率先冲刺IPO
当下世界模型是AI领域热门且混乱的概念，主流路线有四类。Momenta的R7世界模型已量产，其CEO定位公司为物理AI基座模型构建者。Momenta率先冲刺IPO，商业模式正转型，为后续玩家提供价值评估体系。
30万AI顾问进公司，OpenAI砸1.5亿改写你的报销周报
6月14日，OpenAI掏出1.5亿美元推出Partner Network计划，要在2026年底前训练并认证30万名顾问，将AI塞进企业工作流程。此前Anthropic也有类似动作，模型竞争正转向落地应用。
从Foundation Model到Physical AI，三星「杀入」大模型核心战场
三星正快速进入大模型核心战场，构建Foundation Model体系，采购GPU用于AI基建。它提出Meki架构、M2RL训练范式和LiveClawBench评测体系，由AI Model TF团队推进，负责人是唐业辉。