「动态背景」共找到 518 篇相关文章
万字长文！大模型(LLM)推理优化技术总结（非常详细）
文章聚焦大模型推理优化技术，介绍推理过程分预填充与解码阶段，还阐述模型并行、注意力机制优化、模型优化及服务技术等，如多查询注意力减少内存，FlashAttention 优化计算顺序。
突破传统检索瓶颈！阿里通义实验室发布 WebDancer，开启多步推理智能体新范式!
在信息爆炸时代，传统检索技术缺乏动态决策能力，难以满足多步推理需求。阿里通义实验室发布的 WebDancer 基于 ReAct 框架，通过四阶段构建，在测试中表现优异，未来规划拓展工具生态、突破任务边界等。
ACL2025 | 抓出0.1%的捣乱分子压缩方法OTT：近乎无损 超越KIVI，内存减6.4倍 吞吐量提2.3倍
LLM生成文本时KV Cache内存占用高，限制模型批量处理能力。论文提出OTT方法，动态追踪异常令牌单独高精度保存，其余压缩。实验显示，它准确性高、效率好，不过在极短文本等场景有局限。
爆火的 AI 玩具赛道，全行业都在等一个「成功者」
过去一年，AI玩具创业火热，众多大厂背景创业者入局。但现状尴尬，鲜少有能售卖产品，已推出的产品反馈不佳。目前AI玩具实质多为毛绒玩具加语音盒子，创业者面临技术和成本等难题。
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
腾讯把WorkBuddy这张王牌，开放给100多家公司｜甲子光年
9月2日，腾讯WorkBuddy举办生态发布会，开放平台正式上线，首批引入超百家生态伙伴，开放底层Agent能力。其在AI办公赛道竞争激烈、产品同质化的背景下做出此开放动作，且面临生态繁荣、商业化等问题。
6个Claude Code神作，Anthropic亲选
Claude 官方晒出一批来自普通用户的 Claude Code 「神作」，覆盖实用工具、可视化创意和趣味应用等领域，如人脸涂鸦、医学影像查看器、代码库动态图等。这些项目反映出 Claude Code 正走出传统编程场景。
大模型落地 B 端营销：京东物流如何用 Agentic Workflow 破解"机械感"难题，实现降本 50%
在数字经济与物流产业融合背景下，B端营销面临挑战。京东物流王春阳分享B端营销实践，从人机协同到全流程大模型培育，用Agentic Workflow破‘机械感’难题，实现降本和转化率提升。
凌晨，OpenAI 与亚马逊云科技史上最大联合发布来了
4月29日凌晨，OpenAI与亚马逊云科技联合发布多个新动态，如OpenAI旗舰模型进Bedrock预览、Amazon Bedrock Managed Agents预览等。双方合作让Agent有持久化记忆，还推出多项产品，亚马逊云科技成MaaS一极。
“为了一个功能，需要再造一个Google！”Jeff Dean最新对话：TPU的诞生，与那些差点把服务器烧了的疯狂往事
在Google Cloud Next上，Jeff Dean和Amin Vahdat分享了Google算力帝国崛起秘史。从TPU诞生背景，到自研硬件血泪史，再到软硬件协同设计，还探讨了AI未来瓶颈，如能源、硬件等，以及代码编写现状。