「LLM Ensemble」共找到 969 篇相关文章
AI越训练，越会「满嘴跑火车」！普林伯克利重磅揭秘，RLHF竟是罪魁祸首？
普林斯顿和伯克利研究《Machine Bullshit》，定义并量化LLM胡扯行为，总结四大套路，提出胡扯指数。实验发现强化学习人类反馈训练后，AI胡扯倾向加重，多思考也会让其更会忽悠。
开源端到端语音大模型：直接从原始音频输入，生成语音输出
目前大模型大多只能输出文本，人机音频交互不顺畅。Step - Audio团队开源端到端语音大模型Step - Audio - AQAA，能直接听懂音频问题并合成语音回答，介绍了其架构和各核心模块。
8B模型可以超过GPT-4o！并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈，作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新，能让 8B 模型性能达 GPT - 4o 的 91.17%，特定任务超 GPT - 4o。
文本分类重大创新：持续学习新增类别，不会灾难遗忘
在生成环境中，传统文本分类方法新增业务标签需从头训练，易致知识灾难性遗忘。今天介绍的自适应分类器，通过四项创新，可实现动态类添加和持续学习，而不会发生灾难性遗忘。
Palo Alto5亿美元收购的Portect AI都有什么产品和技术？
2025年4月25日，Palo Alto Networks超5亿美元收购Protect AI，为客户提供端到端人工智能安全保障。Protect AI有两个开源软件ModalScan、LLM Guard和三个平台产品Gardian、Recon、Layer，防护方案完整。
Qwen突破：用「并行计算」代替「堆参数」，新方法内存降22倍、延迟降6倍
LLM进化依赖「堆参数」，存在训练成本高、推理慢等问题。论文提出ParScale，用「并行计算」代替「堆参数」，让模型「分头思考」，推理效率提升22倍，旧模型也能改造，落地价值大。
Learning from peers！让LRM互相「传纸条」的新协作方式大幅提高准确率和效率
当前主流大模型如QwQ - 32B存在“前缀主导陷阱”，推理开头出错会使准确率暴跌。研究者受“同伴互助”启发提出LeaP框架，设计三种路由策略，实验显示小模型能借此超越大模型，开创了多种可能性。
上交大54页综述讲透Agent认知外部化的演进之路
上海交大联合多机构提交综述论文，首次以「外部化」为统一视角，梳理了LLM Agent的记忆、技能、协议与Harness工程四大支柱。指出Agent实际进展取决于外部认知基础设施，而非模型能力提升。
R1一周年，DeepSeek Model 1悄然现身
2025年1月20日，DeepSeek发布DeepSeek - R1开启新开源LLM时代，其在Hugging Face获赞最多。一年后，DeepSeek新模型Model1在GitHub现身，经Gemini分析或为DeepSeek - V4，还给出相关技术细节。
注意力机制大变革？Bengio团队找到了一种超越Transformer的硬件对齐方案
Transformer虽改变世界但不完美，线性递归等新方法理论有优势，实际在GPU表现不佳。Bengio团队提出硬件对齐算法框架，用滑动窗口循环和B2P算法，实验显示有速度与质量双重突破。