「预训练模型」共找到 8125 篇相关文章
哈佛《Science》研究：大模型已碾压人类医生！
哈佛医学院等团队让OpenAI o1系列大模型与数百位医生在多项测试中较量，大模型在各项诊断和管理推理任务上全面超越人类专家，不过当下模型处理非文本信号有局限。
Mistral 3发布，14B多模态小模型表现优异
Mistral AI第三代模型发布，含三个小型密集模型和稀疏混合专家模型Mistral Large 3，全用Apache 2.0许可。有多项技术亮点，Ollama等支持部署微调，还给出实用配置建议。
腾讯LLM团队：对下一个 Token 预测的深入剖析，多样性 or 精准度？
最新研究证实RL能增强LLM推理，但成效受限预训练token分布。腾讯LLM部把交叉熵重写成单步策略梯度，用超参压熵，为RL打造‘低熵高信号’起点，经实验验证低熵模型优势明显。
AGI新技术路线：下一代稀疏注意力机制Monte Carlo Attention开源
超对称技术公司开源了 Monte Carlo 注意力机制，用于新版基座模型 BigBang - Proton。它在二进制块编码技术上，用块间代表交流机制实现线性复杂度，解决了传统方法的缺点，可实现理论上无限的上下文长度，对现有预训练技术和硬件设计影响深远。
ACL 2025 | 大语言模型正在偷改你的代码？
本文聚焦大语言模型在代码推荐中的「供应商偏见」，通过分析7个主流大模型在30个场景的59万次响应，发现模型会偏好特定供应商，甚至擅自修改代码，还探讨了风险、局限并给出展望。
世界模型==VQA？机器人不用想象画面，预测语义就够了
华盛顿大学、索尼AI研究者在新论文中质疑机器人世界模型是否需想象精确未来画面。指出多数模型还原画面不适合决策，提出语义世界模型SWM，能预测未来语义信息，实验效果良好。
大模型被曝传染病！可传递邪恶于无形
研究发现AI模型能通过数字序列把“性格特征”传染给其他模型，如动物偏好、恶意等。验证表明数字中无明显规律，且传染依赖模型深层相似性。此现象为AI开发敲响警钟，也引发对AI意识等的讨论。
微软分享三大王炸算法：突破大模型推理瓶颈，性能大涨
今天凌晨微软官网分享三大创新算法，即rStar - Math、LIPS、CPL，可助大模型突破推理瓶颈，增强数学推理和思考链能力，还介绍了各算法原理、优势及对应论文地址。
内部爆料，OpenAI 将发布神秘「OS模型」，员工惊掉下巴
OpenAI研究员Aidan McLaughlin推文称试用新os模型后很震惊，引发猜测。有推测是GPT - 5，也有认为OS可能指开源模型、新的o4模型或操作系统。从代码看，OpenAI或把ChatGPT升级为AI操作系统。
推出 AnyLanguageModel：在 Apple 平台统一本地与远程大语言模型的 API
大语言模型是构建现代软件的重要工具，但 Apple 平台开发者集成模型困难。Hugging Face 发布 AnyLanguageModel，是 Swift 包，可替代 Apple Foundation Models 框架，支持多模型服务商，降低使用 LLM 难度。