「attention去偏」共找到 305 篇相关文章
10人创业团干翻行业“潜规则”！全员必须会AI、让跑大模型全程“裸奔”，谷歌老兵不烧钱创业
谷歌老兵Bryan Zhou投身AI创业，组建AnyInt团队。该平台定位AI Infra中间件，一个API对接所有模型，提倡“去中心化”。团队一开始就奔着付费用户，还做了极致性能优化，吸引众多开发者。
强化学习之父Richard Sutton：人类数据耗尽，AI正在进入“经验时代”！
强化学习之父Richard Sutton在演讲中指出，人类数据耗尽，AI正进入“经验时代”，真正的AI要从与世界互动的“经验”中获取数据。他还认为创造超级智能体是好事，人类和AI繁荣应基于“去中心化合作”。
5亿买一个域名，这个币圈狠人，想让你60秒拥有自己的AI贾维斯
币圈狠人Kris Marszalek豪掷7000万美元购入AI.com域名，打破人类域名交易纪录。他坚信这是通往AGI的入场券，想借此推个人AI智能体，构建去中心化网络，但此举是豪赌还是愚蠢仍未知。
3A大作！阿里ROLL团队从基建->算法->机理，推动RL4LLM全栈协同优化
阿里巴巴ROLL团队联合高校推出「3A」协同优化框架，推动「强化学习用于大语言模型（RL4LLM）」迈向新范式。Async架构提升GPU利用率，AsyPPO降低计算资源消耗，Attention机制提升训练效率与可解释性。
中国AI芯片迎「华为时刻」
国内AI芯片市场正经历变革，“去英伟达化”成热词。科技巨头推动自研，9月国产芯片捷报频传，性能追赶超越英伟达。这既因地缘政治致供应链风险，也是AI从训练到推理转变下的必然选择。
千问 APP 再更新：为什么说「聊天」并不是 AI 产品的终点？
当前AI市场进入场景战役阶段，头部玩家都在去聊天化。千问APP此次升级，可在同一界面内完成办公场景从需求到成品的全流程，还覆盖多种模板，引入智能编辑器，是务实且有意义的探索。
"将注意力旋转90°"：深入浅出解读 Kimi 最新出圈成果
Kimi论文‘ATTENTION RESIDUALS’引发AI圈热议，马斯克等大佬高度评价。该论文由17岁高中生陈广宇参与，提出‘注意力残差’机制，解决标准残差问题，分全、分块注意力残差，权衡开销与效果。
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
Codex跑了22小时，真赚16.88美元：奥特曼预言的「AI打工人」来了
开发者Chris让Codex按「去GitHub上赚5美元」指令运行22小时，几天后获16.88美元。虽流程细节缺验证，但显示Codex在特定条件有「找漏洞→提PR→跟进审查」能力，不过距真正自主赚钱仍有距离。
AI第一金主黄仁勋：日均花掉20亿
AI投融资火热，黄仁勋成最大金主。过去财年英伟达投资175亿美元，今年已投400亿。投资风格是大手笔、广撒网，涵盖AI模型、算力、硬件等。偏爱OpenAI，投300亿，但与各实验室关系复杂，投资也有商业考量。