「attention去偏」共找到 297 篇相关文章
中国AI芯片迎「华为时刻」
国内AI芯片市场正经历变革，“去英伟达化”成热词。科技巨头推动自研，9月国产芯片捷报频传，性能追赶超越英伟达。这既因地缘政治致供应链风险，也是AI从训练到推理转变下的必然选择。
千问 APP 再更新：为什么说「聊天」并不是 AI 产品的终点？
当前AI市场进入场景战役阶段，头部玩家都在去聊天化。千问APP此次升级，可在同一界面内完成办公场景从需求到成品的全流程，还覆盖多种模板，引入智能编辑器，是务实且有意义的探索。
"将注意力旋转90°"：深入浅出解读 Kimi 最新出圈成果
Kimi论文‘ATTENTION RESIDUALS’引发AI圈热议，马斯克等大佬高度评价。该论文由17岁高中生陈广宇参与，提出‘注意力残差’机制，解决标准残差问题，分全、分块注意力残差，权衡开销与效果。
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
Codex跑了22小时，真赚16.88美元：奥特曼预言的「AI打工人」来了
开发者Chris让Codex按「去GitHub上赚5美元」指令运行22小时，几天后获16.88美元。虽流程细节缺验证，但显示Codex在特定条件有「找漏洞→提PR→跟进审查」能力，不过距真正自主赚钱仍有距离。
AI第一金主黄仁勋：日均花掉20亿
AI投融资火热，黄仁勋成最大金主。过去财年英伟达投资175亿美元，今年已投400亿。投资风格是大手笔、广撒网，涵盖AI模型、算力、硬件等。偏爱OpenAI，投300亿，但与各实验室关系复杂，投资也有商业考量。
无需验证器的RL：RLPR解锁LLM通用推理潜能
现有依赖强化学习与可验证奖励（RLVR）提升大语言模型（LLM）推理能力的方法，受限于领域特定验证器。本文提出RLPR框架，利用LLM生成正确答案的固有概率作奖励信号，实现无需外部验证器的通用领域强化学习，效果显著。
在腾讯、育碧的做过游戏后，他转身做 AI 原生游戏，一上线就好评如潮
AI 原生游戏「动物去哪儿」基于真实地理数据，让玩家的小动物开启真实旅行，经历随机事件。创始人太一曾在腾讯、育碧任职，受 AI 启发制作此游戏。目前游戏在观猹获 9.1 分，本周五将邀太一直播答疑。
千问App更新之后，所有人都该重估阿里｜甲子光年
千问App 6.0版本更新，全面接入阿里生态业务，开放400多项办事功能，面向所有用户测试，成为全球首个能完成复杂生活任务的AI助手。它重构交互逻辑，推动“去App化”，让阿里凭生态优势领跑AI下半场。
CNSNS｜西工大曹文博、张伟伟：克服优化求解器中的损失条件数瓶颈：一种良性损失函数
基于优化的偏微分方程求解方法受关注，但实际慢于经典迭代求解器。本文从条件数角度审视效率瓶颈，指出标准MSE损失导致条件数平方放大、减缓收敛。提出稳定梯度残差损失SGR，在收敛速度与稳定性间建立平衡，实验验证其有效性。