「attention去偏」共找到 297 篇相关文章
谁在重新定义 AI 云?
过去几年,AI成云计算行业统一叙事,但厂商口号趋同,差异化消解。当下AI从“炫技”走向“应用”,华为云在全联接大会2025上提出新组合,回应行业成本、基建和应用难题,不过路径也面临挑战。
103K「硬核」题,让大模型突破数学推理瓶颈
现有大语言模型在数学推理训练时面临数据瓶颈,腾讯AI Lab与上海交大团队推出DeepMath - 103K数据集。它规模大、难度高、数据新颖、严格去污染,让DeepMath系列模型达SOTA,还能实现推理泛化。
阿里权力交接全解读:9人出局、蒋凡上位、3800亿豪赌AI—投资者必读深度研报
过去两年,阿里经历权力重组,合伙人缩减,蒋凡上位,吴泳铭押注3800亿AI。从“分封制”回归“集权制”、从运营驱动转向AI驱动,本文拆解变革,给出投资判断,分析各业务板块营收、竞争力,推演未来情景并提示风险。
AI创业,已经没有“出海”这个词了丨量子位沙龙
量子位举办「聊聊出海应用、场景与渠道」沙龙,实战派分享AI出海生存逻辑,涉及搞钱、降本、捷径等方面。指出AI出海下半场是“去AI化”,用户更关注能否解决问题。还介绍了各企业负责人观点与经验。
复旦等推出「第一人称视听基准」,补齐多模态模型「听觉拼图」
多模态大模型在真实世界会“失聪”,现有第一人称视频问答/理解基准长期偏“视觉中心”。复旦等团队推出首个系统评测第一人称声音理解能力的基准EgoSound,能让模型听懂世界,评测显示当前模型与人类差距大。
诺贝尔经济学奖背后的 AI 投资主线|AGIX PM Notes
本文围绕诺贝尔经济学奖与AI投资展开。以创新驱动的增长范式与AI生产力、商业模式转型相关,还介绍本周全球股市去杠杆情况及AI领域动态,如Meta等公司技术进展,最后解读ETF市场价格与净值关系及投资策略。
基于离散扩散模型的高效音频修复方法
数字音频时代音频易损坏丢失,传统修复法处理长间隙不佳。本古里安大学研究人员提出基于离散扩散模型的音频修复法,经MusicNet数据集实验验证,该方法在各间隙长度上表现优异。
AI图像水印失守!开源工具5分钟内抹除所有水印
一款名为UnMarker的去水印技术,能在5分钟内去除市面上几乎所有AI图像水印,谷歌HiDDeN已被完全破解,SynthID被攻破79%。它保持较高图像质量,已在GitHub开源,凭消费级显卡可本地部署。
PyTorch博客翻译 Accelerating Generative AI Part III: Diffusion, Fast
这篇博客介绍用纯原生 PyTorch 技术将文本到图像的 diffusion 模型(特别是 Stable Diffusion XL)推理速度提升高达 3 倍的方法,讲解五种优化技术,还验证了方法在其他 diffusion 模型上的通用性和有效性。
8B模型可以超过GPT-4o!并行KV Cache压缩支持的128K长度外推方法ParallelComp
大模型长文本推理存在瓶颈,作者提出 ParallelComp 方案。它有并行 Attention 分块、KV 缓存智能淘汰与注意力偏差校准三大创新,能让 8B 模型性能达 GPT - 4o 的 91.17%,特定任务超 GPT - 4o。