搜索：推理性能优化

「推理性能优化」共找到 4197 篇相关文章

The Batch: 855 | 为智能体而生

总部位于北京的 Moonshot AI 发布 1 万亿参数的 Kimi K2 系列大语言模型，包括预训练和微调版本。它输入输出能力强，架构独特，在多基准测试领先，支持工具调用，多家服务商已集成。

7月26日，上海AI实验室在WAIC 2025上发布并开源科学多模态大模型Intern-S1。它融合多学科知识，首创跨模态科学解析引擎，在多学科任务上超越顶尖闭源模型，还支撑构建了多智能体系统。

Crab是人大、清华和腾讯合作论文提出的模型，目标是高效一统多模态场景理解任务。它解决了音频 - 视觉理解模型任务干扰、合作显式化不足等难点，通过构建数据集、设计结构和统一架构实现多任务合作。

OpenAI 发布 ChatGPT Agent，将 Operator 和 Deep Research 能力融合，能在虚拟电脑完成复杂任务。它功能强大亮点多，但也存在价格昂贵、安全隐患等问题，或压缩创业公司空间。

物理学家操控1T - TaS₂量子材料，实现比传统硅基芯片快1000倍的开关速度。硅基芯片有物理极限，而此量子材料切换仅需1皮秒。虽距应用尚远，但为电子设备带来新可能。

谷歌开源面向数据库的MCP Toolbox，位于应用编排框架和数据库间，处理连接池等复杂问题，简化工具管理。它能助开发者构建让智能体访问数据库的Gen AI工具，有开发简便等优势。

文章介绍模型压缩与量化技术，其能在保持性能时降低大模型计算和存储需求，实现边缘设备高效部署。还阐述基础知识、关键技术路径、应用场景，并探讨未来发展方向。

6月23日，国产GPU龙头沐曦IPO辅导完成，将提交申报材料。其为异构计算提供全栈GPU方案，产品有曦思N、曦云C、曦彩G系列。曾与书生・浦语3.0合作，2024年交付多个算力集群。此外，国产GPU厂商纷纷IPO。

字节跳动Seed团队公布全球第一梯队大模型“高考成绩”，Gemini理科655分排第一，豆包文科683分排第一、理科648分排第二。文章解析评测标准，分析各科目表现，还介绍豆包能力提升技术亮点。

音频驱动人体动画技术有局限，阿里夸克团队推出OmniAvatar模型。它用逐像素多层次音频嵌入和LoRA训练法，解决唇动同步等问题，适用于多领域，但也存在颜色偏移等不足。