「大模型3.0」共找到 9992 篇相关文章
Qwen 3 VL 模型已并入 llama.cpp，ollama同步支持
近日，Qwen 3 VL 系列模型合并到 llama.cpp 项目，支持图像输入和多轮对话，解决了架构兼容性问题。功能已入主干分支，运行需足够资源。Ollama 最新版同步支持其本地化。
15个前沿大模型，100个职业场景：谁才是最强AI打工人？
通义千问与港中文联合发布OccuBench，用语言世界模型评测AI Agent职业能力。评测15个前沿模型，发现无全能选手，隐式故障难处理，Scaling定律有效，做Agent和环境模拟器能力不同，还给出具体案例。
警惕！大模型成本倒挂：你正在为模型的多余「思考」买单
一项来自多所高校和微软研究院的研究揭示AI模型价格倒挂现象，低定价模型可能产生更高实际开销。研究聚焦8个前沿推理模型和9个主流数据集，指出推理token是成本倒挂主因，且实际开销难以预测。
NUS&复旦&清华：首个系统性大模型Latent Space综述
新加坡国立大学等多机构发布大模型潜在空间领域首个系统性全景综述，从“基础—演进—机制—能力—展望”拆解潜空间范式的底层逻辑、技术路径与未来前景，还对比了潜空间与显式空间差异。
AI Infra进阶：如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略，因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响，给出vLLM实现Batch Invariance的方法。
大模型Agent的核心还是prompt？ 目前有什么挑战？
文章指出大模型Agent核心并非Prompt，而是工程化架构设计、工作流编排与数据闭环。介绍Flow Engineering等概念及工具，分析规划、记忆、工具使用要点，还谈及开发面临的延迟、稳定等挑战，并给出应对建议。
阶跃开源JetSpec，大模型推测解码提速近10倍
随着Agent应用爆发，大模型推理效率成AI行业焦点。阶跃星辰联合多校团队开源JetSpec，该框架面向推测解码，在H100上把MATH - 500解码速度提升到9.64倍，突破了推测解码的扩展天花板。
MiniCPM 4.0极速狂飙，端侧模型的比赛，结束了！
面壁智能联合清华发布MiniCPM 4.0，极限场景220倍加速。它是首个原生稀疏模型，有InfLLM v2、CPM.cu等创新，基准测试碾压对手，适配全平台，还有科研、工具调用等功能，标志端侧长文本时代到来。
Meta将推出闭源模型，并砸数千亿美元打造超算集群
Meta正在酝酿大转向，扎克伯格宣布砸数千亿美元建超算集群，还考虑将强大AI模型Behemoth从开源转闭源。此前Meta一直高举开源大旗，如今因模型内部表现不佳等因素动摇开源信仰。
半量工具，双倍效能：ARPO革新大模型强化学习
大语言模型在多轮工具调用场景有挑战，传统强化学习算法有探索效率低和资源消耗大问题。本文提出ARPO，通过量化token熵分布变化设计自适应探索机制，降低工具调用成本且提升多轮推理性能。