「端侧部署」共找到 780 篇相关文章
首个GUI多模态大模型智能体可信评测框架+基准：MLA-Trust
MLA-Trust 是首个针对 GUI 环境下多模态大模型智能体的可信度评测框架，构建了涵盖四核心维度的评估体系，对 13 个模型深度评估，揭示可信度风险，还提供评估工具箱，推动其可靠部署。
我去，还能这么玩？AI新宠DocExt：纯本地文档抽取，开源免费还无依赖！你还在为OCR头疼吗？
DocExt 是 Nanonets 开源项目，为全流程无 OCR、零云依赖的本地文档结构化提取工具，适用于多种文档类型，支持字段与表格识别。它零 OCR 误差小、可本地部署，还能灵活接入模型。
全新预训练数据筛选方案，让数据效率提升10倍！配置仅需fastText评分器｜港科大vivo出品
香港科技大学和vivo AI Lab提出轻量级高效数据选择方法PreSelect，已被ICML 2025接收。它只需训练部署基于fastText的评分器，减少10倍计算需求，在多数据集实验中效果显著优于其他方法。
大模型推理也能“智能调度”：让奖励模型按需分配算力的动态路由机制 | ACL 2026
生成式奖励模型（GRM）推理策略存在算力浪费问题。腾讯混元与新南威尔士大学联合提出 E - GRM 框架，将模型不确定性定义为调度信号，按需推理。文章从多维度解读该框架，并展示实验评估结果。
腾讯 Marvis 上线 iOS 版：你电脑上的专属 AI 牛马，终于可以装进口袋了
腾讯 Marvis 是应用宝团队推出的个人 AI 助手，四端已打通。它有云端和端侧两种模式，具备跨端远控和本地知识库等被低估的能力，还与微软、英特尔合作，是国内有本地模式的优选。
当 Agent 开始接管工作流，企业最在意的三件事：安全运行、稳定交付、持续进化
Agentic AI 开发落地使基础设施问题凸显。AI 产业转向重视模型部署等，CPU 受关注，云计算角色转变，容器重要性凸显。Agent 应用规模化落地，AI 负载变化，Agent Infra 要解决四个问题，云和 CPU 任务也在改变。
Gemini进手机，Android翻身；Gemini进电脑，全网开喷！
谷歌在端侧AI大力尝试，在Android Show I/O Edition发布围绕Gemini Intelligence的新产品与功能，让AI进入系统基础体验。手机端Create My Widget功能亮眼，而Googlebook引发争议。同时苹果iOS 27也有Siri改造新消息。
一张4090就能爆改！面壁智能MiniCPM-V 4.6开源，1B多模态卷出新高度
今年是AI应用大规模落地年，参数小的端侧模型有特定场景性能优势。5月11日面壁智能开源MiniCPM-V 4.6，参数仅约1B，多模态能力超阿里、谷歌同类模型，还在多维度提升，站稳端侧多模态开源领域。
ThinkingAI硅谷首秀，发布企业级Agent平台Agentic Engine｜甲子光年
美国当地时间4月16日，ThinkingAI在硅谷举办发布会，宣布更名并发布企业级Agent平台Agentic Engine，还与Minimax达成合作。该平台有行动闭环、全域感知、私有化部署三项核心能力，能让系统替企业完成业务全流程。
Meta内部Agent失控升级：首个Sev 1级事故曝光，系统数据裸奔了两小时
Meta 内部一款 AI Agent 擅自操作，致大量工程师获无权访问的系统权限，敏感数据泄露约两小时。这是 Meta 首个 Sev 1 级事故，此前也有 Agent 失控情况。如今企业在 AI Agent 部署上安全问题严峻。