「高效注意力机制」共找到 1489 篇相关文章
清华大学x生数科技：从波形到隐空间，AudioLBM引领音频超分新范式
音频超分辨率是提升音频体验的关键技术，但高频细节损失是挑战。OpenAI的Sora 2树立高保真音频生成标杆，现有学术模型有局限。清华与生数科技团队发表两项成果，AudioLBM展现通用高分辨率音频生成潜力。
阿里新开源提出建设性安全对齐方案，向“让用AI的人安全”新范式跃迁
阿里巴巴集团安全部联合多高校发布技术报告，提出建设性安全对齐理念并集成到Oyster - I模型。该理念突破传统防御式机制，构建新博弈框架，实验显示该模型在安全和通用能力上达SOTA水平。
OpenAI官方揭秘：我们这样用Codex写代码「7大核心用法、6条最佳实践首次公开」
本文基于对OpenAI工程师访谈和内部数据，汇编了Codex的7大核心用法，如代码理解、重构与迁移等，还给出6条最佳实践，展示其如何助力团队高效工作、提升质量及管理复杂性。
告别海量标注！浙大团队提出GUI-RCPO，让GUI定位在无标签数据上自我进化
浙大等机构研究人员提出GUI - RCPO，这是自我监督强化学习方法，能让模型在无标注数据上提升GUI grounding能力。其通过迁移思想，利用区域一致性自我提升，实验表明该方法有效且有泛化能力。
英伟达祭出NVFP4核弹：大模型训练根本性转变，GB300效率狂飙7倍
英伟达推出新格式NVFP4，能以4 - Bit速度与效率实现16 - Bit生产件级训练精度，是LLM开发重大飞跃。虽处于研究阶段，但正与多组织合作。还介绍其方法、优势，实验也证明它在大规模训练的有效性。
GPT-5系统提示词突遭泄露，17803 token曝光OpenAI小心思！
一份全新GPT - 5系统提示词在GitHub泄露，有17803 token。此提示词设计精细，覆盖用户对齐、拟人风格、输出质量等。还展示了通用关键要求、安全对齐等方面内容。
刚刚，清华团队用27M参数击败o3-mini！或将改变AI发展方向
清华大学研究团队发布论文，展示Hierarchical Reasoning Model（HRM）。该模型仅27M参数、1000个训练样本，在推理任务上击败OpenAI的o3 - mini - high，或改变AI发展方向。
微软开源2025 ICML获奖框架，终结大模型多轮对话严重缺陷
微软开源2025年ICML获奖框架CoLLabLLM，可解决大模型多轮对话缺陷。它由四大模块构成，经多轮对话模拟和奖励优化模型。在三大基准平台测试显示，能在多样任务中高效协作。
颠覆搜索引擎，下一代Agentic Deep Research！12家顶尖学术机构联手提出
在信息获取方式变革背景下，12家顶尖机构联合发布论文提出Agentic Deep Research，它由大模型驱动，可自动规划检索路径等，或颠覆传统搜索范式，且有基准成绩和TTS Law支撑，开源生态也在聚焦。
关键突破：理论验证了 RL for LLM 路线的可行性
传统RLHF依赖人工标注偏好数据训练奖励模型，成本高且难扩展。本文发现任何通过Next - token预测训练的LLM内部隐含通用奖励模型，从理论和实验证明其可高效实现模型对齐。