大模型推理」共找到 9477 篇相关文章

新闻资讯7

翁荔创业模型首秀!告别“120亿美元估值0模型

Thinking Machines Lab发布首个模型TML - Interaction - Small,联合创始人翁荔演示。该模型让实时交互成原生能力,响应延迟比GPT - realtime - 2.0快4倍,解决了多数AI“回合制”问题,还介绍了实现机制和公司过往情况。

量子位
算法论文8

ICLR 2026 | ProSafePrune:一剪见效,告别模型过度防御

合肥工业学与科讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune,被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪,降低过度拒绝率,不损安全防御能力,还提升通用任务性能,为 LLM 安全部署提供新思路。

机器之心
推荐文章8

真正的AI竞争力,藏在模型“后训练”这一步

当全球聚焦基座模型参数竞赛时,后训练变革正悄然发生。产业共识是,模型后训练是AI落地产业必经之路。后训练技术从SFT演进至强化学习范式,企业应用也有了从技术到商业价值的完整链路。

量子位
开源动态8

英伟达开源9B参数小模型,比Qwen3快6倍

英伟达推出新型小型语言模型Nemotron Nano v2,在复杂推理基准测试上准确率与Qwen3 - 8B相当或更高,速度快6倍。它兼顾推理与非推理任务,支持“思考”预算控制,还开源了创建模型的绝部分数据。

量子位
开源动态8

社区供稿丨35B参数科学性能比肩万亿参数模型,『书生』科学模型Intern-S2-Preview开源

5月15日,上海AI实验室开源新一代模型预览版Intern - S2 - Preview,参数35B,多领域比肩万亿参数模型。它深化与昇腾算力生态协同,探索‘通专融合’,强化科学及智能体能力,‘算法 - 系统 - 算力’协同提升训推效率。

Hugging Face
算法论文8

SRO赋能Qwen-2.5-VL推理性能飙升16.8%

文本领域推理模型成就,但多模态型语言模型推理能力扩展遇阻,如冷启动初始化不足等。提出SRO三阶段训练框架,经测试,ReVisual - R1平均性能提升16.8%。

CourseAI
开源动态8

冲上热搜!美团模型,靠「快」火了

国内外开发者亲测,美团新开源的LongCat - Flash - Chat模型速度超快,推理速度超每秒100个token。它来自美团LongCat - Flash系列,官网可直接用。该模型架构创新,训练方法高效,还做了专属和系统级优化,跑起来又快又便宜。

机器之心
开源动态8

腾讯开源WMT2025冠军模型:拿下30个第一,同类最佳

昨晚腾讯开源WMT2025冠军翻译模型Hunyuan - MT - 7B,它在31种语言测试中获30个第一,成同类最佳。文中介绍其架构、训练过程,还通过多场景翻译案例展现优势,有望推动高质量翻译普及。

AIGC开放社区
开源动态8

开源即爆火!英伟达重磅推出OmniVinci全模态模型

英伟达在华盛顿GTC会开源OmniVinci全模态语言模型,实现视觉、音频、语言统一理解。它性能超竞品,架构有创新,数据引擎庞。实验有重要洞察,在多场景表现佳,代表全新AI范式。

机器之心
开源动态8

蚂蚁抛弃向量推荐!用8B小模型构建「用户“话”像」,实现跨模型通用并拿下SOTA

2026年AI开发者关注爆款模型应用,个性化是关键。蚂蚁集团和东北学团队推出AlignXplore+,实现文本化用户建模新范式,有全域通用、极致迁移、实战适配特性,小参数超越基线,未来将继续探索。

量子位