「AI模型推理」共找到 13620 篇相关文章
推理成本骤降75%！gpt-oss用新数据类型实现4倍推理速度，80GB显卡能跑1200亿参数大模型
OpenAI在gpt - oss开源模型采用MXFP4数据类型，使推理成本降75%，内存占用为BF16模型四分之一，生成token速度提4倍，还能降低硬件资源需求。不过MXFP4也有缺陷，英伟达推出NVFP4提升质量。
全国首部！AI 大模型私有化部署标准起草单位 / 个人征集启动！
国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》立项，正征集起草单位和起草人。该标准全流程覆盖、多方面融合、三方协作，能解决企业部署痛点，构建安全可信生态。
征集全国首部AI大模型私有化部署标准起草单位和个人！
智合标准中心组织起草国内首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》，已正式立项并征集起草单位和个人。该标准能解决企业部署痛点，有全流程覆盖等亮点。
人大高瓴赵鑫团队新作：先拆掉 RLVR，再重建推理模型训练
人大高瓴赵鑫团队围绕RLVR框架做系统实验，完成论文《A3PO: Adaptive Asymmetric Advantage Shaping for Reasoning Models》，提出A3PO方法。该方法将训练重点转向关键决策点，让推理模型学习更可控。
杭州跑出的AI独角兽，突围大模型的“第二战场” | 甲子光年
2025年AI行业有转变，算力堆叠对大语言模型性能提升放缓，空间智能成“第二战场”。谷歌、英伟达等巨头纷纷布局，群核科技作为杭州“变量”，发布业界首个3D室内空间大模型，构建数据飞轮，技术有望落地多领域。
本地LLM万字救场指南来了！全网超全AI实测：4卡狂飙70B大模型
文章围绕本地大语言模型（LLM）展开，针对实用性和经济性问题，用Dell Precision 7960塔式工作站对主流模型测试。涉及不同尺寸模型、推理框架等，给出不同配置下性能指标及使用建议，还模拟真实场景测试。
终于有AI视频模型，解决了体操难题。
前天深夜MiniMax发布Hailuo 02视频模型，虽未正式上线但放了预告片。该模型能生成杂技动作，解决了体操难题，在复杂动作肢体表现上吊打其他模型，还支持原生1080P，价格便宜。
大模型推理学习新范式！ExGRPO框架：从盲目刷题到聪明复盘
上海人工智能实验室等团队提出经验管理和学习框架ExGRPO，能科学管理经验。与传统RLVR方法比，它在不同基准提升性能，尤其复杂推理任务，还揭示滚雪球效应，为模型推理训练提供新思路。
AI 大牛刘威创业公司完成 5000 万美元融资，12 月将发布新模型
当地时间11月5日，刘威创立的Video Rebirth完成5000万美元种子轮融资，用于打造视频生成模型。公司计划12月发布Bach模型及AI视频生成平台，将与OpenAI Sora竞争，虽对手强大，但刘威认为小团队有机会。
小模型也能精确计算：WorldModel-Qwen的推理时代码执行实验
开发者bigattichouse让Qwen - 0.6B小模型推理时生成并执行WASM代码获计算结果。最初尝试加标签生成Python代码效率低，后用WASM，创建三层架构。虽结果未完美，但接近，还通过Gemini审查验证。