「推理性能」共找到 3431 篇相关文章
让大模型“跑”在手机里：vivo蓝心端侧部署创新揭秘，性能功耗双优！
在AICon2025上海站，vivo AI研究院工程师章苏迟分享蓝心大模型端侧部署方案。介绍端侧大模型优势及应用场景，阐述内存、性能、功耗等指标优化方法，还提及多业务场景应对策略与安全合规措施。
AI-Infra-Auto-Driven-SKILLS v0.1.0：给 Codex / Claude Code 的推理框架工作流
AI-Infra-Auto-Driven-SKILLS v0.1.0 版本整理可用 AI Infra SKILLS 并补充说明，沉淀推理框架开发流程约束，适用于 Codex 和 Claude Code，包含核心技能、SOTA loop、OpenAI 目标和提示等内容。
一段 signature，不仅撬开了 Opus 的隐藏推理，还让 Kimi、GLM 露出了"熟悉感"
研究者发现，将 Opus 等强模型返回的加密推理块交给同家族弱模型，弱模型可能转写出隐藏内容。如用 Haiku 读取 Opus 的加密信息。此外，公开的 Agent 轨迹存在隐私泄露风险，部分开源模型易受 Opus 风格影响。
叫板英伟达RTX 5090！GPU初创公司做出13倍路径追踪性能的怪兽显卡
芯片初创公司Bolt Graphics首款GPU模组Zeus 4C，路径追踪性能达RTX 5090的13倍。但它不适合游戏场景，更擅长低功耗高精度图形渲染，不过测试、应用、价格目前都是未知数。
性能不减，吞吐量提升6.4倍！英伟达用混合算子和架构定义小模型新标准
NVIDIA研究团队通过Nemotron - Flash系列模型，打破对‘深而瘦’架构迷信，修正缩放定律，用进化算法搜索混合算子、改进训练策略。该模型在性能、延迟和吞吐量上表现出色，远超同类产品。
以小博大，仅1.7B媲美gemini2.5-pro，达到SOTA文档解析性能
dots.ocr是多语言开源文档解析器，把布局检测和内容识别统一在视觉语言模型中，虽LLM仅1.7B参数，却达SOTA性能。介绍了其预训练三阶段及SFT阶段关键策略。
AI x 大前端性能稳定性：快手亿级 DAU 下的智能诊断实践
本文整理自快手移动端稳定性负责人李锐在 2025 年 QCon 大会的分享。介绍快手大前端性能稳定性挑战，阐述借助「柯南 AI」赋能排障的实践，含根因排障和应急处置案例，还谈了开发中思维切换等认知。
精准调控大模型生成与推理！浙大&腾讯新方法尝试为其注入“行为定向剂”
ACL 2025中选论文里，浙大与腾讯联合团队提出STA方法，深入模型内部分析神经元激活模式，干预关键神经元，抑制有害行为、保留通用性能，还在多模型实验验证效果，并将部分方法开源。
刚刚，OpenAI拿下IOI金牌，仅次于前五名人类选手！参赛推理模型才夺得IMO金牌
2025年国际信息学奥林匹克（IOI）中，OpenAI推理模型获金牌，在AI参赛者中排第一，得分仅落后5位人类选手。其未专门训练，成绩较去年大幅提升。此前它在IMO也获金牌级别成绩。
首个测试时共进化合成框架TTCS：在「左右互搏」中突破推理瓶颈
厦门大学DeepLIT课题组提出全新测试时课程合成框架TTCS，不依赖外部标注，通过生成器与求解器共进化博弈合成课程数据，解决测试样本过难导致的训练坍塌问题，实验显示其推理能力提升显著。