「小目标注意力模块」共找到 994 篇相关文章
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
做 AI 产品，最重要的是尊重常识
2026年3月滴滴上线AI出行助手「小滴」，6月支付宝测试AI版「阿宝」，看似先进，但实际存在问题。滴滴将基础目标包装成AI个性化，支付宝承诺办事却像找路，还不敢让AI碰钱。很多AI产品迷信聊天框，未带来体验升级。
「逆龄大脑药」首次人体试验！奥特曼押注RTR242，返老还童将要成真？
AI教父奥特曼首投1.8亿美元给Retro Biosciences，该公司年底前将开展「逆龄大脑药」RTR242人体试验。其目标是逆转衰老，让人类多10年健康寿命，还结合GPT-4b micro辅助研发，与Altos Labs竞争。
DeepSeek被曝融资20亿…可幻方一年就挣50亿啊？
DeepSeek被曝计划首次融资，目标估值超100亿美元，计划融资至少3亿美元。但此前多次融资传闻均被辟谣，且其母公司幻方量化盈利能力强。若融资，或为锚定股权价值、激励人才及获非财务价值。
智能体系统如何「边做边学」？斯坦福团队探索在线优化的新范式
斯坦福等校团队提出 AgentFlow 框架及 Flow - GRPO 算法，让智能体系统能「边做边学」。它由多个智能体模块协作，在多领域基准测试中表现出色，小模型也能超越大模型，为智能体训练提供新思路。
00后投身具身智能创业，剑指机器人界「Model 3」！已推出21个自由度灵巧手
具身智能创业公司灵初智能推出自研灵巧手，每只手21个自由度，操作能力强。其目标是将机器人整机价格打到17000美元，走‘Model 3式的产业破局之路’，还提出分层端到端算法解决训练难题。
对噢！为什么LMs就不能直接输出答案+confidence呢？
当前语言模型在复杂问答任务中存在校准退化问题，本文提出RLCR方法，将概率校准融入RL训练目标，重构奖励函数，在多个数据集实验中显著降低校准误差，不损失准确性，为高风险场景AI部署奠基。
WAIC现场最“聪明”展台！AI眼睛耳朵能力全打开了
WAIC现场，声网展台被观众挤爆，其新奇“AI玩具”都能与玩家流畅对话。声网对话式AI引擎全新升级，新增选择性注意力锁定、视觉理解能力，能与主流数字人方案集成，还可接入大模型，价格低。它已在多领域落地。
2025-04-努力不是做好事情最重要的因素
作者分享个人生活、工作等多方面情况，提及播客发布，认为努力非工作做好的关键因素，深入探讨Agent在业务应用中的问题，还谈及视频更新、投资经历等，最后表示要审视目标、精简事务。
AI 时代的新可观测性：不只看系统崩没崩，还要看模型有没有胡说
New Relic首席技术战略官Nic Benders与主持人探讨可观测性从传统到AI驱动的演进，提及LLM与统计方法协同处理海量数据，还讨论了监控AI系统的难题及可观测性核心是理解业务目标。