「预训练框架」共找到 3484 篇相关文章
Skywork AI | 发布Super Agent，一站式搞定写作、开发、分析与创意内容生成
去年谷歌定义了Agent，如今随着大模型发展其能力升级。Skywork AI推出Super Agent平台，有5个专家AI agent和1个通用AI agent，能生成多类型内容且支持溯源。它突破行业瓶颈，还开源相关框架和MCP。
Karpathy用「harness」彻底终结了RAG。
假期时Karpathy提出llm.wiki想法引发关注。它是元框架，定义人类与AI协作管理知识的方式。与RAG不同，它将新材料关键信息编入已有wiki并持续维护。作者用多种数据测试，发现TextIn API解析效果好，还优化处理流程提升质量。
给龙虾定MBTI、发工牌，还让龙虾偷技能…打工人得适应新环境了
AI圈掀起“养龙虾”热潮，智谱、腾讯纷纷发布相关产品。极客和开发者对龙虾进行实测，它不仅能用于打造赛博宠物、线上办公室，还能完成视频剪辑、教辅、营销等工作。同时，Agent框架让大模型进入业务线，飞书成合适的工作台。
14B打败671B！微软rStar2-Agent在数学推理上超过DeepSeek-R1
如今的大语言模型推理能力关键在于测试时扩展，但长思维链有局限。微软研究团队用主动式强化学习探索，成果 rStar2 - Agent 方法训练出 14B 的 rStar2 - Agent - 14B 模型，性能超 671B 的 DeepSeek - R1。
6分钟狂掉750亿市值！苹果发布会发啥了…
苹果发布会开场6分钟市值缩水750亿美元，因Siri更新推迟。此次发布有新设计、AI更新等，但用户和投资者不满。苹果虽有AI动作，如集成ChatGPT、推新框架等，但战略难有重大突破，已考虑与第三方合作。
200行python代码实现从Bigram模型到LLM
本文从`babygpt_v1.py`出发，逐步加入self-attention机制、position嵌入等，实现完整GPT。介绍Transformer结构，讲解位置编码、单头自注意力等机制的代码实现，还阐述后续层的用途、参数调整及训练效果，最后提及模型优化方向。
突破多模态奖励瓶颈！中科院清华快手联合提出R1-Reward，用强化学习赋予模型长期推理能力
多模态奖励模型（MRMs）对提升多模态大语言模型表现至关重要，强化学习理论上可引入长期推理能力，但现有RL算法用于训练MRM会不稳定。中科院、清华等团队推出R1 - Reward模型，在多模态奖励模型benchmark上有显著提升。
震惊海外开发者！BOSS直聘3B小模型比肩80B，怎么做到的？
BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。
首次！AI智能体破解「纳什均衡」，大模型学会博弈论｜Cell子刊
多所高校研究团队开发出PrimeNash大语言模型智能体框架，能自动推导纳什均衡闭式解析解并生成证明。它模拟人类科研路径，分三模块求解，经经典博弈验证，还在碳市场博弈展现应用潜力。
昆仑万维多模态视频生成开源，影音图文全统一
昆仑万维开源的SkyReels-V3，通过统一多模态上下文学习框架，实现参考图像生成视频、视频持续扩展及音频驱动虚拟数字人功能，在视觉质量与指令跟随性上逼近闭源顶尖水平，为开源社区提供强大研究基座。