「推理缓存优化」共找到 3059 篇相关文章
字节Seed数学新模型，SOTA了
字节发布全新复杂数学解决模型Seed-Prover，全面超越谷歌AlphaGeometry2，在MiniF2F数据集达100%正确率。它采用引理式证明，集成几何推理引擎Seed-Geometry，还展现了卓越泛化能力。
FlashInfer集成TensorRT-LLM cubin kernel技术分析
文章以MoE模块为例，分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件，介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。
打破大模型编程「数据污染」与「能力虚胖」困境，Meituan-M17团队构建新一代AI编程评测新标准——OIBench
当前大语言模型编程能力评估体系问题多，如评测集饱和、数据泄漏等。Meituan - M17团队推出OIBench数据集，对18个主流大模型评测，揭示模型真实水平，还将举办人机协作编程竞赛。
UofT、UBC、MIT和复旦等联合发布：扩散模型驱动的异常检测与生成全面综述
多伦多大学、麻省理工学院等高校研究者合作完成长文综述，聚焦扩散模型在异常检测与生成领域的应用，梳理图像、视频等异常检测任务进展，提供分类体系，展望未来趋势。
OpenAI连丢4位大将！Ilya合作者/o1核心贡献者加入Meta，苏黎世三人组回应跳槽：集体做出的选择
OpenAI连失4员大将，Trapit Bansal跳槽Meta，继续研究推理大模型；苏黎世三人组Lucas Beyer等也加入Meta。此外，Meta还在洽谈收购语音AI初创公司PlayAI，连续布局语音AI。
18天光速打脸！OpenAI刚夸TypeScript最合适，转头就用Rust重写Codex CLI
OpenAI推出AI编码神器Codex，向ChatGPT Plus用户开放，还增加互联网访问功能。此前其宣布用Rust重写Codex CLI，该项目维护者Matin入职刚一年，半月前还称TypeScript最合适。改用Rust可带来多方面改进。
清华给电子显微镜加上Agent，DeepSeek V3全程调度，数天流程缩短至几分钟
清华大学牵头，联合多机构推出电镜领域AI Agent AutoMat，它能把原子级STEM图像转成标准CIF结构并给出关键物性，将人工流程缩短至几分钟。它还构建数据集验证，性能超现有工具，不过也有瓶颈待解决。
CVPR 2025 Tutorial：从视频生成到世界模型 | MMLab@NTU团队&快手可灵等联合呈现
图像生成普及，视频生成也有高质量发展，可灵、Sora等模型不断拓宽边界。CVPR 2025 Tutorial将探讨视频生成能否成世界模型桥梁、具身智能核心能力等问题，汇聚一线研究者分享。
真实评估！北理发布全球首个「全场景教育」基准，支持4000+情境
北京理工大学高扬老师团队推出EduBench，是全球首个「全场景教育」基准，涵盖9大教育场景、12个评估维度、超4000个情境。团队将数据、模型等全面开源，评估发现大模型在特殊教育场景有不足，还提出多源知识蒸馏等方法。
DeepSeek 新模型 R1-0528 悄悄开源，与o3 相当，实测来了。
DeepSeek团队悄无声息地在Hugging Face上开源推理模型新升级版DeepSeek R1-0528，基于DeepSeek-V3-0324模型，架构和训练方法有改进，性能与o3相当，实测表现不错。