「大语言模型推理」共找到 8379 篇相关文章
解决算力瓶颈，给多模态瘦身！Token压缩完整图谱与选型指南
给多模态大模型瘦身是解决算力瓶颈的关键。Token压缩技术可剔除视觉冗余，提升训练与推理效率。北大等团队剖析其全貌，给出完整图谱与选型指南，还揭示了未来演进路径。
深夜炸场！Claude Sonnet 4.5上线，自主编程30小时，网友实测：一次调用重构代码库，新增3000行代码却运行失败
Anthropic推出Claude Sonnet 4.5，号称‘世界上最好的编码模型’，持续运行时长、推理等能力提升，‘幻觉’等问题改进，Claude Code也有更新，开发者实测有惊喜也有问题，新一轮AI‘内卷’开启。
mcpx？要来拯救mcp！让工具调用不再吃掉你的上下文
MCP传统集成方式需在对话前加载所有工具定义，易使上下文溢出。开发者cs50victor基于mcp - cli构建mcpx，按需发现工具，大幅节省token，提升准确率，适合本地部署，虽有额外推理调用，但利大于弊。
面壁小钢炮 VoxCPM-TTS：开源端到端 TTS，轻量高效低延迟
面壁提出基于扩散自回归建模的端到端语音生成模型 VoxCPM，构建于 MiniCPM - 4 之上。它克服传统离散 token 方法缺陷，实现语义与声学特征解耦，有上下文感知语音生成和零样本语音克隆能力，低延迟。
阿里通义的视觉RAG革命！VRAG-RL：基于强化学习的视觉感知RAG框架，性能飙升30%
阿里巴巴通义实验室推出VRAG - RL，融合视觉感知、多模态推理与强化学习，已在GitHub开源。它破解传统RAG处理视觉数据难题，通过创新机制提升性能，在多数据集表现出色，还将向更拟人化和低幻觉方向发展。
智谱 GLM-4.7，Coding 开源第一，其他也很强
智谱正式发布并开源专为 Agentic Coding 打造的 GLM-4.7 模型，编程、推理、Agent 能力成绩亮眼，价格比 Claude Sonnet 4.5 更优。还推出 Coding Plan 套餐，使用方式多样。发布前几天，智谱港股招股书挂网。
5.6K Star！原本付费现在开源！本地版“ElevenLabs”，视频翻译+声音克隆全免费！
今天给大家安利GitHub上开源神器Voice - Pro，它原本是商业付费软件，因团队无暇管理而开源。整合多个先进语音模型，将视频处理流程打包成本地软件，免费且功能强大。
强化学习 AI 系统的设计实现及未来发展
本文是阿里巴巴算法专家曹宇在 AICon 2025 北京站的分享，结合算法实践展示 RL 系统现状及发展脉络，探讨未来超大规模 RL 发展方向，涉及理论基础、业界实践、开源生态及社区共建。
第二代AI预训练范式：预测下个物理状态
英伟达科学家Jim Fan发布文章《第二代预训练范式》指出，当前以LLM为代表的AI模型基于「对下一词的预测」，在物理世界应用中「水土不服」，第二代范式应是「预测下一个物理状态」，引发机器学习社区讨论。
手机跑多模态也能快到飞起！面壁MiniCPM-V 4.6开源
面壁智能开源多模态模型MiniCPM-V 4.6，以低算力成本、超低首Token延迟打通三大主流手机操作系统。它算力瘦身性能强，是视觉语言多面手，还适配主流系统，降本增效，让AI能力从云端到指尖。