「简单持续预训练」共找到 2905 篇相关文章
上海AI Lab提出CANON：让RLVR自主识别优质推理模式
上海AI Lab与上海交大团队提出创新框架CANON，解决将人类先验知识融入RLVR训练的难题。它通过条件分组与对比机制，自适应放大有益指标变化趋势，在数学和逻辑推理任务上成果卓越，还能提升推理效率。
Andrej Karpathy深度解读：强化学习之父为何说大模型违背了「苦涩教训」
Andrej Karpathy深度解读Sutton与Dwarkesh的播客对话。Sutton认为大模型不符合「苦涩教训」，因其训练依赖人类数据集。他追求类似动物通过强化学习与世界交互的系统。Karpathy认可批评，认为找到符合原则算法是突破。
先验+后验加持，大模型能否 hold 住推理预测的现实「溢出」？
多数大模型评估基准依赖固定数据集，难测真实推理实力。字节跳动等推出的 FutureX 动态评测基准，将重点移至动态预测能力。实验显示不同模型在不同任务表现有别，大模型在现实场景运用仍待优化。
从少样本到千样本！MachineLearningLM给大模型上下文学习装上「机器学习引擎」
新研究 MachineLearningLM 提出轻量可移植「继续预训练」框架，突破 LLM 在上下文学习局限，能学上千示例，在多领域分类任务超基准模型。它有三项核心创新，效果惊艳且应用潜力大，还指明未来研究方向。
李飞飞一年前究竟说了啥？怎么又火了
AI教母李飞飞一年前访谈再引关注，她指出大语言模型或许并非真正智能，其基于一维语言信号训练，在理解三维物理世界存在局限。相关实验也证实大模型在物理任务表现差，不过也有人提出不同观点。
又多了一个哄孩子AI神器，一张破涂鸦竟能秒变迪士尼动画
年轻父母有了哄娃新法子，用AI可将涂鸦变动画。博主用Midjourney将妈妈30年前涂鸦做成动画，还给出提示词框架。介绍即梦、可灵、谷歌Veo3等工具，它们能快速生成音视频，各有优劣。还提到Meta的Animated Drawings玩法。
OpenAI/微软争夺AGI控制权！重组谈判激烈，年底谈不成软银700亿或撤
OpenAI与微软就重组问题谈判胶着，核心在控制权与确定性，如多云是否松口、微软能否获取训练细节、AGI条款去留。这影响微软持股价值和软银投资，年底是关键节点，若重组未完成，软银或撤回100亿美元。
专治智能体盲跑！微软发布AI Agent 5大可观测性，打通任督二脉
今天凌晨微软官网发布AI Agent 5大可观测性最佳实践，解决智能体盲跑等难题。介绍了智能体可观测性概念和好处，展示5个应用案例，还阐述5大实践，如选模型、持续评估、集成CI/CD等。
OpenAI总裁透露GPT-5改了推理范式，AGI实现要靠现实反馈
OpenAI总裁Greg Brockman在访谈中透露AGI之路，包括技术上转向强化学习推理范式，资源上持续投入计算资源，落地时封装成Agent。还提到GPT - 5改变推理范式，强调计算对AGI的重要性及模型落地等内容。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。