「低功耗设备」共找到 1213 篇相关文章
大模型推理学习新范式!ExGRPO框架:从盲目刷题到聪明复盘
上海人工智能实验室等团队提出经验管理和学习框架ExGRPO,能科学管理经验。与传统RLVR方法比,它在不同基准提升性能,尤其复杂推理任务,还揭示滚雪球效应,为模型推理训练提供新思路。
腾讯发布超低成本AI训练法!120元效果秒杀70000元微调方案
腾讯提出无训练组相对策略优化Training-Free GRPO,无需调整参数,在提示词中学习经验就能提升模型性能。实验显示,该方法在数学推理和网页搜索任务上效果显著,成本远低于传统方法。
晶圆级芯片主流技术路径对比
人工智能时代算力需求爆炸式增长,与半导体工艺进步放缓矛盾凸显。晶圆级计算为算力发展开辟新路径,有Cerebras和特斯拉两种技术路线,邬江兴院士团队提出软件定义晶上系统技术,但我国该技术发展面临多重挑战。
OpenAI硬件,也选了中国“果链”公司立讯精密
The Infromation消息,OpenAI盯上立讯精密、歌尔等“果链”企业,为AI新硬件做准备。立讯精密有丰富生产经验和软硬协同优势,将承担至少一款设备组装。OpenAI还挖走苹果20+硬件人才。
向英伟达发起挑战的 AI 芯片初创公司,估值快五百亿了!
人工智能芯片初创企业 Groq 完成 7.5 亿美元融资,投后估值 69 亿美元。它试图打破英伟达垄断,产品是专用芯片,面向开发者与企业,成本低于竞品,创始人技术背景深厚,服务开发者数量增长快。
AI 本地跑?Google 新开源模型上线,本地量化后占用不到 200MB 内存,支持百余语言
Google DeepMind推出开源嵌入模型EmbeddingGemma,专为本地设备高效运行设计。它用Matryoshka方法和量化感知训练,提升效率。在MTEB测试中成绩佳,支持百余种语言,内存占用少,已集成多种工具。
苹果端侧AI两连发!模型体积减半、首字延迟降85倍,iPhone离线秒用
苹果在Hugging Face放出FastVLM与MobileCLIP2两条多模态主线。前者主打「快」,首字延迟压到竞品1/85;后者突出「轻」,体积减半。模型和Demo已开放,开发者可集成开发。
SIGCOMM 2025|重新定义个性化视频体验,快手与清华联合提出灵犀系统
快手与清华孙立峰团队联合发表论文,提出灵犀系统,这是业界首个大规模生产环境中面向用户个性化体验的自适应视频流优化系统。该系统能解决现有方法在部署中的难题,实现个性化QoE优化。
冲上热搜!美团大模型,靠「快」火了
国内外开发者亲测,美团新开源的LongCat - Flash - Chat模型速度超快,推理速度超每秒100个token。它来自美团LongCat - Flash系列,官网可直接用。该模型架构创新,训练方法高效,还做了专属和系统级优化,跑起来又快又便宜。
KDD 2025 Best Paper Runner-Up | EI-BERT:超紧凑语言模型压缩框架
香港城市大学王茂林等提出 EI - BERT 框架,解决移动设备部署 NLU 模型难题。通过硬令牌剪枝、交叉蒸馏、模块化量化,实现 99.5% 压缩率。在多任务中表现出色,已在支付宝大规模应用。