「端侧推理」共找到 2159 篇相关文章
CES 2026趋势照进现实：算力引擎RK182X重塑千行百业，瑞芯微AI生态大会共建落地生态
CES2026推动AI走向现实应用，瑞芯微RK182X作为AIoT2.0算力引擎，在视觉语言和大语言模型表现卓越，支持Qwen3 - VL系列模型。它在音频体验、多领域赋能出色，瑞芯微还构建产业生态促场景落地。
GAG：超越RAG，无需检索的私有知识注入新范式
在高价值私有场景，主流大模型注入知识的路线各有硬伤。中科院和360AI联合团队提出GAG方案，无需检索、固定底座、单Token、即插即用，实验显示效果佳，也指出跨域组合等局限。
一夜200万阅读，OpenAI神同步！这项测评框架让全球顶尖LLM全翻车
中国团队领衔全球24所高校机构发布评测LLMs for Science能力的论文，一夜阅读近200万，同一时间OpenAI也发文指出现有评测标准在AI for Science领域失灵。论文推出评测体系SDE，发现主流大模型在科学发现上短板明显。
LightX2V fp4 quant kernel代码笔记
这是关于 LightX2V 里 `lightx2v_kernel` 做 FP4 量化 GEMM 的读码笔记，解释接口和约束、kernel 关键路径等问题，还介绍 NVFP4 和 MX-Formats 量化原理、代码实现，以及 LightX2V 项目中的实际使用。
给Agent装上“海马体”！上海AILab开源MemVerse，定义多模态记忆新范式
上海人工智能实验室开源MemVerse，这是首个面向智能体的通用多模态记忆框架。它将多模态信息与文本对齐到统一语义空间，首创‘双通路’架构与‘记忆蒸馏’技术，让智能体有终身记忆能力，在多模态任务中表现出色。
阿里重磅开源 0.5B TTS + 0.8B ASR，支持跨语种音色克隆、说唱识别！
2025 年 AI 圈风向变了，开始卷端侧模型。阿里 FunAudioLLM 团队发布 Fun - CosyVoice3 0.5B 和 Fun - ASR - Nano 0.8B，TTS、ASR 双线程开源，是工程级版本，目标是在本地跑顺‘听 + 说’。
GPT-5.2刚发布就要被网友玩坏了~
11月19日Gemini-3-pro发布，一周抢1200万用户，OpenAI市值受威胁，GPT-5.2提前上线，专注推理、速度和削减幻觉。文中介绍其技术要点，也展示网友实测情况，如被Gemini-3.0碾压等。
AI鸿沟正在拉大！OpenAI报告揭示：不用AI的企业将被淘汰
12月8日OpenAI发布2025年报告，基于百万级企业客户数据，揭示企业AI使用量爆发式增长，重塑全球商业流与组织架构。不同行业、地域加速渗透，同时企业和员工间AI鸿沟也在拉大。
看完最新国产AI写的公众号文章，我慌了！
AI 快砸作者饭碗，智谱 GLM - 4.6V 能根据 NeurIPS 2025 最佳论文生成图文并茂的公众号文章。它还能助力学生看论文、分析财报等，可复刻网站、处理视频，在多模态评测中达同级别 SOTA。
视觉思维链全新架构，加州大学让多模态大模型有了灵性，整体性能提升5.3%
加州大学伯克利分校等团队提出视觉思维链（CoVT）架构，让视觉语言模型推理时生成连续视觉信号。它内化轻量级专家能力，采用对齐策略和四阶段训练，实验显示性能提升，还具可解释性。