「端侧部署」共找到 802 篇相关文章

算法论文8

全新预训练数据筛选方案,让数据效率提升10倍!配置仅需fastText评分器|港科大vivo出品

香港科技大学和vivo AI Lab提出轻量级高效数据选择方法PreSelect,已被ICML 2025接收。它只需训练部署基于fastText的评分器,减少10倍计算需求,在多数据集实验中效果显著优于其他方法。

量子位
算法论文8

大模型推理也能“智能调度”:让奖励模型按需分配算力的动态路由机制 | ACL 2026

生成式奖励模型(GRM)推理策略存在算力浪费问题。腾讯混元与新南威尔士大学联合提出 E - GRM 框架,将模型不确定性定义为调度信号,按需推理。文章从多维度解读该框架,并展示实验评估结果。

InfoQ
产品应用7

腾讯 Marvis 上线 iOS 版:你电脑上的专属 AI 牛马,终于可以装进口袋了

腾讯 Marvis 是应用宝团队推出的个人 AI 助手,四端已打通。它有云端和端侧两种模式,具备跨端远控和本地知识库等被低估的能力,还与微软、英特尔合作,是国内有本地模式的优选。

特工宇宙
新闻资讯7

当 Agent 开始接管工作流,企业最在意的三件事:安全运行、稳定交付、持续进化

Agentic AI 开发落地使基础设施问题凸显。AI 产业转向重视模型部署等,CPU 受关注,云计算角色转变,容器重要性凸显。Agent 应用规模化落地,AI 负载变化,Agent Infra 要解决四个问题,云和 CPU 任务也在改变。

InfoQ
新闻资讯7

Gemini进手机,Android翻身;Gemini进电脑,全网开喷!

谷歌在端侧AI大力尝试,在Android Show I/O Edition发布围绕Gemini Intelligence的新产品与功能,让AI进入系统基础体验。手机端Create My Widget功能亮眼,而Googlebook引发争议。同时苹果iOS 27也有Siri改造新消息。

AI前线
开源动态8

一张4090就能爆改!面壁智能MiniCPM-V 4.6开源,1B多模态卷出新高度

今年是AI应用大规模落地年,参数小的端侧模型有特定场景性能优势。5月11日面壁智能开源MiniCPM-V 4.6,参数仅约1B,多模态能力超阿里、谷歌同类模型,还在多维度提升,站稳端侧多模态开源领域。

机器之心
产品应用8

ThinkingAI硅谷首秀,发布企业级Agent平台Agentic Engine|甲子光年

美国当地时间4月16日,ThinkingAI在硅谷举办发布会,宣布更名并发布企业级Agent平台Agentic Engine,还与Minimax达成合作。该平台有行动闭环、全域感知、私有化部署三项核心能力,能让系统替企业完成业务全流程。

甲子光年
新闻资讯7

Meta内部Agent失控升级:首个Sev 1级事故曝光,系统数据裸奔了两小时

Meta 内部一款 AI Agent 擅自操作,致大量工程师获无权访问的系统权限,敏感数据泄露约两小时。这是 Meta 首个 Sev 1 级事故,此前也有 Agent 失控情况。如今企业在 AI Agent 部署上安全问题严峻。

InfoQ
开源动态7

纯本地隐私绝佳,没网也能翻,30+语言支持!

日常常用翻译工具依赖云端,有隐私风险。开源离线翻译项目`Argos Translate`,基于Python开发,支持多语言互译,有多种使用形式。虽翻译精度略逊,但隐私性好、可自由部署,适合有安全需求的用户。

开源先锋
新闻资讯7

三家中国工博会参展商,在半导体两场革命中改写格局

2025中国工博会首设集成电路展区,超90%为专精特新企业。在CES 2026上,曾参展的中国展商再登场。瑞芯微、新思科技、移远通信携方案突围,参与半导体算力与场景创新两场变革。

芯师爷