搜索：可微分联合优化

「可微分联合优化」共找到 2239 篇相关文章

OpenAI解释LLM为什么会有幻觉

OpenAI和佐治亚理工联合论文《Why Language Models Hallucinate》深入探讨LLM幻觉根源，指出预训练阶段统计本质和评估体系激励扭曲是主因，还提出改革评估体系引入显式置信度目标的解决方案。

随着大语言模型发展，多智能体系统潜力大但失败率高。新加坡国立大学等机构研究者提出AgenTracer框架，构建标注管线、设计轻量级追踪器，在失败归因任务上超大型闭源模型，还能助力系统自我提升。

清华姚班校友陈丹琦将全职加入Thinking Machines Lab。她是IOI金牌得主、斯坦福博士，论文引用逾7万次。该实验室由OpenAI前CTO等联合创立，陈丹琦加入后成AI创业圈女性力量代表。

OpenAI和Google等大厂联手推出 `AGENTS.md` 标准，旨在用统一文档取代厂家特定配置文件，为AI Agent提供通用‘项目说明书’。它收录AI完成任务所需技术细节，支持嵌套，还倒逼开发者规范文档协作。

Google DeepMind首席科学家Denny Zhou在斯坦福CS25课程分享大语言模型推理见解，总结了四个关键点，阐述推理机制、优化方法及最新进展，还介绍多种推理方法并比较其优劣。

德国TNG公司开源DeepSeek R1增强版DeepSeek - TNG - R1T2 - Chimera，基于三大模型混合开发，采用创新AoE架构，推理效率比R1 - 0528快200%，成本大减，在主流测试中性能更好。还介绍了AoE架构构建子模型方法。

中国人民大学等联合团队研究发现，大模型推理有“信息脉冲”，特定步骤互信息值飙升形成“互信息峰值”，对应“思考词汇”。基于此提出无需额外训练提升推理性能的方法，代码已开源。

彩云科技与北邮联合提出多路动态稠密连接（MUDD）替代残差连接，提升Transformer跨层信息传递效率。实验显示，采用该架构的模型性能显著提升，论文等均已公开。

阿里巴巴淘宝Meta技术团队研发的TaoAvatar技术，能在手机或XR设备实现3D数字人实时渲染与AI对话。今日开源MNN - TaoAvatar应用，可在手机运行，对比主流方案更高效便捷，还介绍其优势、技术及使用说明。

传统高效微调技术成大规模部署瓶颈，论文提出Drag-and-Drop LLMs (DnD)，仅需输入目标任务未标注提示，即可秒级生成适配的LoRA权重，实现LLM秒级免训练适配，效率、性能和泛化性上均有突破。