中国大模型」共找到 9554 篇相关文章

推荐文章8

AI Infra进阶:如何让模型输出确定的结果

文章探讨模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略,因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响,给出vLLM实现Batch Invariance的方法。

腾讯技术工程
推荐文章8

模型Agent的核心还是prompt? 目前有什么挑战?

文章指出模型Agent核心并非Prompt,而是工程化架构设计、工作流编排与数据闭环。介绍Flow Engineering等概念及工具,分析规划、记忆、工具使用要点,还谈及开发面临的延迟、稳定等挑战,并给出应对建议。

深度学习自然语言处理
开源动态8

阶跃开源JetSpec,模型推测解码提速近10倍

随着Agent应用爆发,模型推理效率成AI行业焦点。阶跃星辰联合多校团队开源JetSpec,该框架面向推测解码,在H100上把MATH - 500解码速度提升到9.64倍,突破了推测解码的扩展天花板。

AIGC开放社区
新闻资讯7

Meta将推出闭源模型,并砸数千亿美元打造超算集群

Meta正在酝酿转向,扎克伯格宣布砸数千亿美元建超算集群,还考虑将强AI模型Behemoth从开源转闭源。此前Meta一直高举开源旗,如今因模型内部表现不佳等因素动摇开源信仰。

AGI Hunt
算法论文8

半量工具,双倍效能:ARPO革新模型强化学习

语言模型在多轮工具调用场景有挑战,传统强化学习算法有探索效率低和资源消耗问题。本文提出ARPO,通过量化token熵分布变化设计自适应探索机制,降低工具调用成本且提升多轮推理性能。

深度学习自然语言处理
产品应用7

AI应用如何落地政企?首先不要卷通用模型

ISC.AI 2025会显示智能体技术加速渗透产业。360政企AI业务与智能体深度绑定,其落地有三重逻辑:不追通用模型,聚焦小场景;用“乐高式”工厂赋能;安全与AI深度融合是必选项。

量子位
新闻资讯8

模型进入研发体系后,我们看到了这些变化

InfoQ《极客有约》X AICon 直播邀请同程、网易、百度工程师,探讨模型入研发体系的变化。涉及提效、协作、角色分工等方面,还谈及工程师特质、效率焦虑、岗位数量等问题,6 月北京 AICon 会将深入交流。

InfoQ
算法论文8

人格向量:模型性格的数学解码与精准操控

语言模型在应用中会出现危险行为偏移与训练引发的非预期偏移,传统方法难监控干预。本文发现人格特质在线性方向表现为“角色向量”,实现提前预测、实时监控和主动控制,为AI安全提供数学框架。

深度学习自然语言处理
新闻资讯8

“35岁以下科技创新35人” 中国区新一届入选者名单发布,他们是中国科技创新的坚强力量

《麻省理工科技评论》揭晓2025年“35岁以下科技创新35人”中国区入选者名单,AI是核心主线。如罗福莉推动国产模型发展,范铃羚关注低能耗智能计算等。这些青年才俊来自多领域,正塑造中国创新生态。

DeepTech深科技
算法论文7

AI集体“听不懂”!MMAR基准测试揭示音频模型短板

MMAR基准测试对30款音频相关模型进行测试,结果显示,多数开源模型面对复杂音频推理任务远未达实用水平,音乐任务中所有模型表现不佳,且有显式推理能力的模型表现更优。

量子位