「双预训练架构」共找到 3644 篇相关文章
流式意图检测+永久记忆，NUS&NTU发布Pask：把贾维斯AI拉进现实
南洋理工大学谢之非团队提出Pask，采用「底层小模型流式意图检测」+「上层Agents执行」架构，实现实时、有深度、基于个人全局记忆自进化的主动智能体。它包含需求检测、长期记忆和主动系统模块，经测试效果良好。
震惊海外开发者！BOSS直聘3B小模型比肩80B，怎么做到的？
BOSS直聘楠北阁团队发布3B轻量端侧小模型Nanbeige4.1-3B，性能震惊海外开发者。团队从多方面改进，如优化推理和偏好对齐，重构训练数据，采用多种强化学习算法，使其性能比肩大模型。
腾讯LLM团队：对下一个 Token 预测的深入剖析，多样性 or 精准度？
最新研究证实RL能增强LLM推理，但成效受限预训练token分布。腾讯LLM部把交叉熵重写成单步策略梯度，用超参压熵，为RL打造‘低熵高信号’起点，经实验验证低熵模型优势明显。
钉钉不说话，默默把 AI 表格干到了 1000 万热行
钉钉 AI 表格单表容量突破 1000 万热行，成业内首个实现该能力的智能表格。它基于阿里 AI 技术重构底层架构，实现性能与智能融合，在业务场景应用效果好，推动 AI 办公进入‘原生时代’。
4倍速吊打Cursor新模型！英伟达数千GB200堆出的SWE-1.5，圆了Devin的梦！实测被曝性能“滑铁卢”？
Cognition推出全新AI编码模型SWE-1.5，专为软件工程任务设计，运行速度快，在基准测试中成绩良好。它基于GB200芯片训练，有定制编码环境，开发有新战略，还与Cursor新模型Composer对比引发关注。
Karpathy泼冷水：AGI要等10年！根本没有「智能体元年」
在《Dwarkesh Podcast》访谈中，AI大佬Andrej Karpathy谈AI核心问题。他认为「智能体元年」说法过度，真正能用要十年；AGI也需十年，未来十年AI架构或基于Transformer；还分析了大模型、强化学习等现状与问题。
华人团队终结Token危机：扩散模型数据潜力超自回归三倍
最新研究发现，token数量受限下，扩散语言模型数据潜力超自回归模型三倍多。一个1B参数的扩散模型用1B tokens训练，在基准测试取得不错准确率，且未现性能饱和。
RAG终极框架！港大开源RAG-Anything：统一多模态知识图谱
香港大学黄超教授团队发布开源项目RAG - Anything，构建统一多模态知识图谱架构，解决传统RAG技术局限。它能处理多类型异构内容，提供端到端方案，有多种优势及应用模式，还给出部署指南和未来展望。
图像界的DeepSeek！12B参数对标GPT-4o，5秒出图，消费级硬件就能玩转编辑生成
Black Forest Labs开源旗舰图像模型FLUX.1 Kontext[dev]，专为图像编辑打造，能在消费级芯片运行。12B参数少、推理快，性能媲美闭源模型。有诸多特点，经优化训练，在KontextBench基准表现优。
开源Agent模型榜第一名，现在是阿里通义DeepResearch
阿里开源首个深度研究Agent模型通义DeepResearch，在多权威评测集上超越多个Agent模型。它采用多阶段数据策略，有两种推理模式，革新训练流程，已赋能高德出行Agent和通义法睿等应用，且模型等均已开源。