「推理性能优化」共找到 4157 篇相关文章
精准调控大模型生成与推理！浙大&腾讯新方法尝试为其注入“行为定向剂”
ACL 2025中选论文里，浙大与腾讯联合团队提出STA方法，深入模型内部分析神经元激活模式，干预关键神经元，抑制有害行为、保留通用性能，还在多模型实验验证效果，并将部分方法开源。
刚刚，OpenAI拿下IOI金牌，仅次于前五名人类选手！参赛推理模型才夺得IMO金牌
2025年国际信息学奥林匹克（IOI）中，OpenAI推理模型获金牌，在AI参赛者中排第一，得分仅落后5位人类选手。其未专门训练，成绩较去年大幅提升。此前它在IMO也获金牌级别成绩。
首个测试时共进化合成框架TTCS：在「左右互搏」中突破推理瓶颈
厦门大学DeepLIT课题组提出全新测试时课程合成框架TTCS，不依赖外部标注，通过生成器与求解器共进化博弈合成课程数据，解决测试样本过难导致的训练坍塌问题，实验显示其推理能力提升显著。
小模型用不好Skill？新范式让模型学会Skill的底层逻辑，3B模型推理token省5倍，性能反超
浙江大学联合美团龙猫团队、清华大学推出SKILL0，提出技能内化思路。它在训练中引入关键机制，让小模型把技能内化到参数里。实验显示，其效果出色，token效率高，为小模型成领域专家提供新方向。
Valkey 9.0 引入多数据库集群、原子级槽位迁移，并带来大幅性能提升
Linux 基金会宣布开源内存存储方案 Valkey 9.0 正式发布。它有原子级槽位迁移、哈希字段过期等新特性，支持编号数据库集群，可扩展到 2000 节点，每秒处理超 10 亿次请求，性能大幅提升。
刚刚，阿里发布最强推理模型Qwen3-2507，用疯狂一周暴击美国AI行动计划！
美国发布AI行动计划，欲成“世界AI冠军”，但阿里在7月22 - 25日三连发，推出Qwen3 - 235B非思考版本、Qwen3 - Coder、Qwen3 - 235B - A22B - Thinking - 2507推理模型，冲击美国计划。千问3在多领域表现出色，不过也有使用费用等小问题。
扩展外部测试时Scaling Law，中关村学院新发现：轻量级验证器可解锁LLM推理最优选择
文章聚焦大语言模型‘测试时扩展’，指出内部方法接近瓶颈，外部方法的传统实现有缺陷。提出 TrajSelector 策略，用轻量级打分模型复用隐状态打分，训练无需手动标注，实验显示性能增长稳定。
斯坦福华人天团意外爆冷！AI用纯CUDA-C编内核，竟干翻PyTorch？
斯坦福华人团队用纯CUDA - C编写的快速AI生成内核超越PyTorch，成果登上Hacker News热榜。研究者采用KernelBench任务设置，引入新优化方法，实验显示多数最优内核在靠后轮次出现，优化策略集中在几类常见模式。
超越人类标注，Meta提出CoT-Self-Instruct：如何用"推理式自进化"重塑LLM训练
大语言模型发展需海量高质量训练数据，传统人工标注困境重重，现有合成数据方法也有缺陷。Meta提出CoT - Self - Instruct，通过推理式自进化生成数据，实验证明其在多个任务上超越人类标注数据。
硅谷直击：黄仁勋入局龙虾大战，宣告 SaaS 已死，推理算力需求暴涨万倍！
本文为 CSDN 对英伟达 GTC 2026 大会的现场报道。黄仁勋宣告 SaaS 已死，揭幕 Agent 时代，指出 AI 重心正从训练转向推理，还推出 Vera Rubin、LPX 等新品，强调能效即钱，企业软件将向 Agent-as-a-Service 转变。