「低功耗场景」共找到 2751 篇相关文章
LLM加速利器LMCache,极大降低GPU资源消耗
LMCache是大语言模型服务引擎扩展组件,能降低首次响应延迟、提升吞吐量,适用于长上下文场景。它将KV缓存存于多级存储,跨服务实例复用任意重复文本的KV缓存,节省GPU算力,与vLLM结合优化显著。
北大联合阶跃星辰提出TensorCast:统一可编程管理大模型张量,推理「首字延迟」最高降低93.2%
随着模型规模增长、新应用兴起,大模型基础设施面临管理「张量状态」挑战。北大、阶跃星辰与北邮联合提出 TensorCast,解耦张量状态,复用管理能力,在多场景测试中表现出色,为大模型基建提供新范式。
企业 AI:方法论易得,交付力难求
2026年全球AI支出预计大增,但企业AI应用矛盾尖锐,需E2E交付。微软、亚马逊等巨头布局。阿里云蒋林泉总结RIDE方法论,后推出睿系列产品,能交付业务结果,在电销和翻译场景表现出色。
重磅开源!240亿参数力压Nano Banana 2
4月初,京东探索研究院开源JoyAI - Image - Edit图像模型。它是业内首个将「空间智能」写进底层的开源一体化图像模型,能让模型「理解空间,编辑空间」,在电商和具身智能场景极具价值。
不只OpenClaw,这个app让你同时拥有龙虾和云手机
作者在OpenClaw主题直播中翻车,后发现RedClaw app可免配置免费体验OpenClaw。它提供云手机和AI,能突破移动端数据孤岛。作者测了3个场景,虽有不足,但认为方向正确,值得关注。
ICLR 2026 | LongHorizonUI:让 GUI 智能体不再"半途而废"——面向长链路任务的统一鲁棒自动化框架
近年来,基于多模态大语言模型的GUI智能体在自动化操作上虽有进展,但任务步数超10 - 15步时成功率断崖下跌。研究人员提出LongHorizonUI框架,构建LongGUIBench评测基准,推动GUI自动化在复杂场景落地。
Figure 03重磅发布!指尖能感知回形针重量,年产1.2万台,这次要让人形机器人走进千家万户
Figure AI公司发布第三代人形机器人Figure 03,专为Helix、家庭和大规模应用设计。它有全新传感与手部系统,能感知回形针重量,还做了安全、易用设计,实现低成本量产,适用于家庭和商业场景。
狂揽4万星!换掉OpenClaw太爽了,5美元就能养个AI打工人
Hermes Agent是NousResearch推出的开源Agent神器,上线后在GitHub超4万星。它运行在用户服务器,有六大核心特性,能跨平台对话。技能自维护,形成记忆 - 技能 - 训练数据闭环,应用场景丰富,演进注重安全、稳定与智能。
仅需一个混频器的无线射频机器学习推理,登上Science Advances!
杜克大学和MIT教授团队提出广播模型并在射频上完成计算的分离式计算方案,在边缘端混频器模拟计算中完成推理,解决传统方案问题,还在测试平台验证,能耗低且能完成多项机器学习任务。
100万亿Token看懵硅谷!全球一半算力写代码,另一半在「搞颜色」 ?
OpenRouter和a16z联合发布报告,基于100万亿Token实证数据揭秘2025年AI发展。开源模型流量占比达30%,推理模型成主流,编程和角色扮演是主要使用场景,亚洲付费使用量翻倍,中文成全球第二大交互语言。