端侧运行」共找到 673 篇相关文章

新闻资讯7

The Batch: 870 | 手机上的主动式AI助手

谷歌发布Pixel 10,搭载Magic Cue AI系统。它基于新版Gemini Nano,运行在Tensor G5处理器上,能预判用户需求,自动提供相关信息。谷歌早就在手机推AI,此次将其深度融入系统和应用。

DeeplearningAI
开源动态7

智谱开源GLM-4.5工具调用超越Claude Opus 4.1,成本仅1.4%

开源模型GLM-4.5在伯克利工具使用榜单上超越Claude Opus 4.1,运行相同任务成本仅为1.4%。它采用MoE架构,在多场景表现卓越,推理速度快,成本低,还接入多款主流编程工具。

量子位
新闻资讯8

2025临界点:AI智商超越人类,经济规则即将改写

AI平均智商超110,2025年将参与经济全链条操作。AI经济浮现,具备全天候自动运行、无劳动力供给限制、或成非稀缺经济等特点,还能降低交易成本、减少非理性决策,或带来人类第三次理性化浪潮。

新智元
开源动态8

混元3D世界模型1.0 lite版本发布,消费级显卡就能跑

腾讯混元3D世界生成模型HunyuanWorld 1.0发布即开源,可在消费级显卡运行,还能兼容传统CG管线。它分层实现3D生成,通过量化等技术降低显存开销,与同类模型相比优势明显。

量子位
产品应用8

特工现场实录|纳米 AI 如何构建 L4 蜂群系统?

纳米AI更新发布L4级多智能体蜂群系统,将“协作”能力写入Agent系统底层。该系统采用三层架构管理运行逻辑,通过协作空间与A2A通信协议配合,实测稳定性佳。平台降低开发门槛,后续规划聚焦多方向。

特工宇宙
开源动态8

手机也能跑,腾讯混元一口气开源4款小模型

腾讯混元团队开源4款小模型,最大7B。可在低功耗场景运行,支持微调。是融合推理模型,有快、慢思考模式,在多领域表现出色,亮点是agent和长文能力,已落地多元业务场景。

机器之心
开源动态8

MetaShuffling:Meta的Fused MoE kernel工程方案,更激进的Kernel优化和尽量避免Padding

文章介绍Meta的Fused MoE kernel工程方案MetaShuffling,可高效部署Llama 4模型。它处理MoE推理挑战,介绍多种token选择路由方案,阐述运行时设计、不同并行化方式及优化思路,还展示性能测试与Trace分析。

GiantPandaLLM
开源动态8

深度研究白菜化?谷歌将Gemini级AI研究能力开源

谷歌推出'gemini-fullstack-langgraph-quickstart'开源项目,用Gemini 2.5与LangGraph结合,可构建本地运行的深度研究智能代理系统。介绍其技术架构、工作流程、开发配置、部署扩展,还展示了现代AI应用开发趋势。

AI寒武纪
推荐文章8

内核级的真相:为什么 eBPF 正在取代基于用户空间的 Agent 成为安全可观测性的首选

文章指出基于用户空间的安全 Agent 存在与威胁同权限层级、CPU 成本高、易被攻击等问题。eBPF 能在 Linux 内核运行受沙箱保护程序,可降成本、增可见性。上线应分阶段,还介绍工具及部署安全措施。

InfoQ
开源动态8

AI编程 OpenWolf 持久记忆实战

当前AI编程助手缺乏持久记忆,每次新会话都要重新解释项目信息。开源工具OpenWolf在Claude Code运行流程中嵌入Hook脚本,形成记忆系统,能自动积累经验、减少重复工作,还介绍了记忆文件、适用场景等。

小华同学ai