「预训练研究」共找到 3721 篇相关文章
SFT+RL双管齐下：ReasonGen-R1如何破解文生图「指令不遵」难题？
上海科技大学等机构提出 ReasonGen-R1 框架，结合链式推理监督微调与强化学习，提升自回归图像生成模型推理和创作能力，已全面开源。介绍了其训练阶段、实验结果及推理链模式。
20人团队提前实现DeepSeek构想，AI算力变天？直击大模型算力成本痛点
国内20人玉盘AI团队推出SRDA全新计算架构方案，试图从硬件源头解决当前AI算力核心瓶颈。该架构有诸多创新设计，能应对大模型训推痛点，与DeepSeek构想契合，或成大模型专用架构分水岭。
Theory of Agent：构造知行合一的智能体
当前AI（如ChatGPT）存在行为随机性、效率黑洞等问题，论文指出AI缺乏认知地基，需明确认知框架。还提出革命性等式“推理 = 行动”，分析了知识与决策边界，给出最优行为四象限，介绍落地路径和未来发展方向。
Databricks × Snowflake 纷纷下注，PostgreSQL 成 AI 时代数据库标准？
文章结合作者对数据基础设施的实践与反思，探讨生成式AI时代数据系统的挑战与机遇。介绍数据基础设施新趋势，分析Neon、Supabase等公司受关注原因，指出PostgreSQL成行业标准，还提出Data Warebase概念及优势和应用场景。
【7.2K Star】Google 基于LangGraph打造全栈Deep Research
谷歌开源Deep Research全栈应用，前端用React（with Vite）和Shadcn UI，后端研究代理用LangGraph，需Redis和Postgres数据库，LLM用Google Gemini，网络搜索用Google Search API，还介绍了Agent执行流程。
看似无害的提问，也能偷走RAG系统的记忆——IKEA：隐蔽高效的数据提取攻击新范式
研究聚焦RAG系统，提出全新黑盒攻击方法IKEA。它不依赖异常指令，通过自然查询提取私有信息。经多数据集测试，其效率和成功率高，还证实提取知识实用，揭示RAG系统潜在脆弱性。
中国团队让AI拥有「视觉想象力」，像人类一样脑补画面来思考
上海交通大学等团队提出 Thinking with Generated Images，让大模型像人类一样用「脑内图像」推理。该研究区分三种视觉思维模式，提出核心技术框架，解决视觉推理局限，实验效果好，未来有望在多领域突破。
扩散语言模型九倍推理加速！上海交大：KV Cache并非自回归模型的专属技巧
上海交通大学EPIC Lab团队提出免训练推理缓存机制dLLM - Cache，复用特征降低计算量。它即插即用，通用于主流dLLM架构，在多个基准测试中实现数倍推理加速，且不降低生成质量。
史诗时刻！AlphaGo神之一手突现，谷歌AI颠覆科研极限？
谷歌DeepMind推出AlphaEvolve，它取得多项数学成果，如改进4x4矩阵乘法、推进六边形填充问题研究等。它能自我进化，还可优化谷歌计算基础设施，预示人类与AI强大协作循环的未来。
爆冷！字节Seed 在CCPC 决赛只做出一道签到题，而DeepSeek R1 直接挂零？
第十届 CCPC 举行，字节 Seed 携 Seed - Thinking 参赛，仅做出一题，DeepSeek R1 挂零。不同模型架构在比赛中差异不大，暴露出大模型做算法题短板，推理模式模型表现更好。