「大模型预训练」共找到 9676 篇相关文章
AI不再「炫技」，淘宝要让技术解决用户每一个具体问题
技术发展迅速，淘宝力求将AI融入应用场景解决用户问题。今年3月升级AIGX技术体系，近日郑波公开淘宝全模态大模型进展，认为狭义AGI或5 - 10年到来，多模态智能成关键技术域。
Meta宣布AI研究架构调整，成立TBD Lab，取消AGI Foundations团队，强化超级智能战略
Meta进行AI研究架构大重组，将业务分为研究、训练、产品和基础设施四个团队。成立TBD Lab探索新方向，如构建‘omni’模型；FAIR成创新引擎；解散AGI Foundations团队。旨在强化超级智能战略。
Anthropic最新论文：检测LLM内省意识的方法
Anthropic与MIT等研究表明，LLM能‘感知’被注入的steering vector，‘内省意识’在DPO等后训练阶段涌现。研究构建实验，发现内省能力行为稳健、检测非简单线性关联等，还揭示检测与识别机制不同及两阶段电路。
刚刚，MiniMax直接让龙虾学会自我进化，也认识「马嘉祺」了
在 GTC 2026 大会上，英伟达推出 NemoClaw。国内 MiniMax 加快‘AI 养虾’布局，推出 MaxClaw 模式。新发布的 M2.7 能力升级，在多方面表现出色，还在科研评测中获佳绩，实测效果良好，开启自我进化。
AGI 新技术路线：下一代稀疏注意力机制 Monte Carlo Attention 开源
超对称技术公司在新版基座模型 BigBang - Proton 中使用的 Monte Carlo 注意力开源。它基于二进制块编码技术，用块间代表交流机制实现线性复杂度，兼具多种注意力机制优点，可满足宇宙尺度建模的上下文长度需求。
IEEE TPAMI 2025 | 北京大学提出LSTKC++，长短期知识解耦与巩固驱动的终身行人重识别
北京大学周嘉欢团队在IEEE TPAMI发布LSTKC++研究成果。该框架引入长短期知识解耦等机制，保障模型学习新知识和记忆历史知识。代码已开源，研究在性能和效率上优势明显，有广泛应用价值和拓展空间。
MIT & Google | 提出异步并行生成新范式，LLM推理效率大幅提升！
MIT与谷歌团队在研究PASTA中探索异步生成范式，开发标记语言PASTA - LANG，采用双阶段训练流程，设计推理系统。实验显示PASTA平衡性能与质量，有可扩展性，为LLM推理效率优化开创学习驱动新路径。
Google研究发现：Multi-Agent的核心竟然是Prompt设计！
Google和剑桥大学研究多智能体系统，发现提示设计影响大，有效拓扑结构占比小。提出Mass框架分三阶段优化，实验用Gemini 1.5 Pro和Flash模型，对比多种方法，在多任务上性能显著提升。
「边思考、边搜索、边写作」WebThinker开启AI搜索&研究新纪元！
大型推理模型有推理能力，但静态知识限制其在复杂任务表现。WebThinker 让 LRM 推理中自主搜索、导航及写报告，集成探索器，有自主策略和训练工具，实验显示性能强，还指明未来探索方向。
编程能力开源SOTA，网络安全提升2倍！智谱发布GLM-5.3
智谱发布GLM-5.3，743B参数模型，编程能力达开源SOTA。网络安全能力涌现，基准得分是GLM-5.2两倍多。全部提升来自后训练缩放，还自研Z.ai Code Bench评估，安全评估加固后权重将开源。