「端侧部署」共找到 780 篇相关文章
大模型"温故而知新"实现了！无需历史数据，Octopus 效果超越全数据训练｜CVPR‘26 Octopus
上海交通大学与vivo团队提出全新持续学习框架Octopus，首创无需历史数据的梯度正交化技术。实验显示，它在UCIT基准上表现超SOTA方法，还实现正向后向迁移，适合端侧部署。
轻量级语音模型Vui开源，支持本地部署，笑声停顿全拟真，4万小时练出人类对话感！
近日，Fluxions - AI团队在GitHub开源轻量级语音模型Vui，可设备端运行。它能精准模拟语气词、笑声等，有三款模型，适用于语音助手、播客生成等场景，解决了传统模型的痛点。
ICML 2025 Spotlight｜华为诺亚提出端侧大模型新架构MoLE，内存搬运代价降低1000倍
华为诺亚和北大研究人员提出端侧大模型新架构MoLE。它解决传统MoE显存开销大、传输延迟高问题，推理时将专家输入改embedding token，用查找表替代矩阵运算，实验显示性能与MoE相当，大幅降推理延迟。
Memento-Skills VS OpenClaw 不改模型也能进化
Memento - Skills让AI Agent自己设计自己，通过部署时学习进化，不动模型参数，将经验写进技能库。经测试，在HLE和GAIA基准测试中准确率大幅提升，与OpenClaw等定位不同，有多种部署方式，不绑定模型。
马斯克都惊呼太强！阿里Qwen3.5又一波端侧小模型发布
上周阿里发布Qwen3.5中等规模超强模型，现又推出端侧小模型，获马斯克称赞。其智能密度翻倍且原生多模态，各型号有Base版。不同参数模型性能出色，阿里布局完整生态链，开启智能化未来。
离谱……面壁让 AI 写了个训练框架，然后它自己训出了最强的 1B 模型：MiniCPM5-1B
面壁发布 1B 参数量级最强端侧文本大模型 MiniCPM5 - 1B，其 Base Model 由 AI 编写的训练框架 ForgeTrain 训出，速度超英伟达 Megatron 10%。该模型性能出色，部署门槛低，数据治理方案对应数据集也已开源。
用 AI 重新定义 RSS 阅读体验FeedMe
FeedMe可一站式了解多信息源新鲜事，轻量自由且可定制。具备多源RSS聚合、AI摘要生成等功能，支持多种部署方式，如GitHub Pages、Vercel、Docker本地部署，还给出开发指南，项目开源方便Fork和自部署。
猛涨25k star！一键检测你的电脑能跑哪些大模型！
最近 Github 出现工具 `LLMFit`，用 Rust 编写，能自动检测硬件配置，判断大模型能否流畅运行，推荐最优量化版本和运行模式。有一键硬件检测等特性，安装使用方便，降低本地部署门槛。
今天，OpenAI杀疯了！砸40亿美元成立新公司、还祭出网络防御利器Daybreak
OpenAI宣布推出OpenAI部署公司，获超40亿美元初始投资，还收购Tomoro。其将派工程师嵌入企业，帮构建部署AI。同时推出网络防御AI Daybreak，可加速防御、保障软件安全。
数据中心不必建在地球！中国企业已经把算力设施送到了太空
国星宇航牵头“星算”计划，首发星座发射成功，将开启全球“太空计算时代”。太空部署算力可节约能源成本、及时处理数据且更安全，未来将与地面“天地协同”，中国在此领域走在前列。