「AI推理成本」共找到 11687 篇相关文章
基于Memory Bank的Cursor长会话记忆内存库理论研究与实践
文章围绕Memory Bank展开，介绍其为解决大模型长会话记忆瓶颈而设计的机制，包括存储、检索、更新模块。阐述其在编程和知识库建设的应用，还评测了Codelf等工具，指出Memory Bank是AI迈向智能的重要一步。
美国模型长期霸榜的LMArena，出现了一个国产模型
2025 年底，中美 AI 阵营发展路径有区分，美国多是强模型加工具链，中国在多方面发力。12 月 23 日 LMArena 更新文本榜，百度文心新模型 ERNIE - 5.0 - Preview - 1203 以 1451 分登上榜单，成中国第一且是前 20 名里唯一非美国模型。
AAAI 2026 Oral：明略科技开创稀疏数据「信息瓶颈动态压缩」，精度+速度双SOTA
在机器人和具身智能领域，transformer模型又大又‘重’，边缘设备难以承受。东南大学、中南大学、明略科技联合提出的CompTrack论文，创新性解决AI模型处理稀疏数据的‘双重冗余’，在3D点云跟踪任务上实现精度和速度双优。
5张 H800 带来 20 FPS 高保真实时虚拟人生成
传统扩散模型做视频生成速度慢、画面不稳定，难用于实时虚拟人场景。阿里Live Avatar框架将算法和系统一起设计，用TPP并行推理策略和RSFM机制等，5张H800 GPU能实现20 FPS高保真实时虚拟人生成。
CVPR 2026 ReSAM：每个目标只标1个点，SAM就能学会分割遥感图像
CVPR 2026收录论文《ReSAM: Refine, Requery, and Reinforce: Self-Prompting Point-Supervised Segmentation for Remote Sensing Images》，提出让SAM每个目标只标1个点，通过R³循环自己生成高质量伪标签训练。在WHU建筑数据集上，1点标注与全监督差距仅1.3%，省99%标注成本。
GLM-4.7-Flash无审查版发布：30B MoE模型，仅3B激活参数
GLM-4.7-Flash无审查版由HauhauCS发布，基于原版移除审查机制。采用30B - A3B混合专家架构，总参数量31B，每次前向传播仅激活约3B参数，推理快，支持200K上下文长度，有两种变体和四种量化版本。
具身智能的「Z 世代」，来了
文章与三位具身智能领域的Z世代年轻人对话，他们有不同背景和经历。谭恒楷研究机器人，提出创新模型和算法；吴铭东专注真机强化学习；王乾旭研究蒸馏特征场。他们对AI有独特认知，展现出年轻人的冲劲和思考。
Agent 一年半开发复盘：大家对 Agent 的理解有错位，有效的「认知流程」很关键
本文是作者对一年半AI开发过程的复盘，指出大家对Agent理解有错位，强调有效「认知流程」的关键作用。通过高考、学霸成长等例子阐述Agent核心，对比Chatbot与Agent，还从理论视角解释其有效性，最后点明开发者角色转变及面临的挑战与前沿探索方向。
CVPR 2026 | ReFTA：打破张量化PEFT的「权重重建」瓶颈
随着大模型发展，全参数微调成本高，参数高效微调（PEFT）成主流。常见基于矩阵低秩分解的PEFT方法有局限，张量化PEFT虽有优势但存在权重重建问题。本文提出ReFTA方法解决该问题，有工程和理论优势。
对话智源王仲远：具身智能“小组赛”才刚刚开打，机器人需要“安卓”而非 iOS
智源研究院院长王仲远在对话中指出大语言模型发展遇瓶颈，AI 需走向物理世界。智源推出“悟界”系列，试图打破具身智能“循环悖论”，做具身智能的“安卓”，还提出大小脑协同策略，认为具身智能“小组赛”未结束。