「推理优化与部署」共找到 3538 篇相关文章
2025 WAIC落幕，深谋科技异军突起，以技术与落地破局具身智能赛道
2025 WAIC落幕，深谋科技作为精英合作伙伴首次亮相，未随波逐流，而是切入脑控、动态视觉伺服和康养场景三大底层能力领域，开拓创新赛道。其产品已商用部署，吸引众多媒体关注。
字节Seed数学新模型，SOTA了
字节发布全新复杂数学解决模型Seed-Prover，全面超越谷歌AlphaGeometry2，在MiniF2F数据集达100%正确率。它采用引理式证明，集成几何推理引擎Seed-Geometry，还展现了卓越泛化能力。
从 Hadoop 到 Kubernetes：Pinterest 在 AWS EKS 上的可扩展 Spark 架构
Pinterest将基于Hadoop的数据平台替换为Moka，这是在AWS EKS上运行Spark的Kubernetes原生系统。Moka实现容器化作业隔离，支持ARM实例，改进调度、简化部署，降低成本、提高效率。
FlashInfer集成TensorRT-LLM cubin kernel技术分析
文章以MoE模块为例，分析FlashInfer集成TensorRT-LLM的技术。探讨如何不依赖源码用其优化内核、动态加载管理CUBIN文件，介绍集成架构、源码集成技术、CUBIN动态加载系统等内容。
The Batch: 848 | 走进沃尔玛的 AI 应用工厂
全球营收最高的零售商沃尔玛披露其云平台与模型无关的 AI 应用开发平台 Walmart Element 最新细节，介绍其工作原理、典型应用，还提及平台推出目的、原则及意义。
打破大模型编程「数据污染」与「能力虚胖」困境，Meituan-M17团队构建新一代AI编程评测新标准——OIBench
当前大语言模型编程能力评估体系问题多，如评测集饱和、数据泄漏等。Meituan - M17团队推出OIBench数据集，对18个主流大模型评测，揭示模型真实水平，还将举办人机协作编程竞赛。
UofT、UBC、MIT和复旦等联合发布：扩散模型驱动的异常检测与生成全面综述
多伦多大学、麻省理工学院等高校研究者合作完成长文综述，聚焦扩散模型在异常检测与生成领域的应用，梳理图像、视频等异常检测任务进展，提供分类体系，展望未来趋势。
GitHub爆款神器 | IOPaint：21.7k star 开源AI图像修复项目，竟能秒删水印、拓展画幅！
IOPaint 是 Sanster 团队出品的开源图像处理工具，集 SOTA AI 模型于一体，支持图像擦除、对象替换等功能，还支持多平台部署，能解决旅游照、电商图等处理痛点。
OpenAI连丢4位大将！Ilya合作者/o1核心贡献者加入Meta，苏黎世三人组回应跳槽：集体做出的选择
OpenAI连失4员大将，Trapit Bansal跳槽Meta，继续研究推理大模型；苏黎世三人组Lucas Beyer等也加入Meta。此外，Meta还在洽谈收购语音AI初创公司PlayAI，连续布局语音AI。
18天光速打脸！OpenAI刚夸TypeScript最合适，转头就用Rust重写Codex CLI
OpenAI推出AI编码神器Codex，向ChatGPT Plus用户开放，还增加互联网访问功能。此前其宣布用Rust重写Codex CLI，该项目维护者Matin入职刚一年，半月前还称TypeScript最合适。改用Rust可带来多方面改进。