「并行协同推理」共找到 2551 篇相关文章
jiSGLang集成ktransformers：2TB内存运行Kimi K2 Thinking模型
对于内存多但GPU资源有限的用户，SGLang集成ktransformers的CPU内核，支持直接运行Kimi K2 Thinking模型。它无需等量化，还能微调，虽性能与GPU方案有差距，但给用户新选择。
Soul APP开源了一款高保真播客生成框架，90 分钟对话零崩盘！
Soul APP背后的Soul AI Lab发布开源项目SoulX - Podcast，是高保真推理框架，能生成90分钟以上连贯对话，有多方言切换等功能，或重塑语音内容产业生产方式。
清华、快手提出AttnRL：让大模型用「注意力」探索
清华和快手团队提出新框架AttnRL，引入注意力机制提升过程监督强化学习效率与性能。它解决传统方法在分支位置选择和采样策略上的效率问题，实验显示在多基准测试中表现优异。
可能是目前效果最好的开源生图模型，混元生图3.0来了
腾讯混元发布并开源原生多模态生图模型混元图像3.0，参数规模80B，是参数量最大的开源生图模型，也是首个开源工业级原生多模态生图模型，效果对标业界头部闭源模型。文中介绍其技术方案、测评效果等。
黄仁勋出手！45倍性能暴涨，英伟达定义物理AI新纪元
在SIGGRAPH 2025上，英伟达发布「物理AI」全家桶。展示完整生态，含新硬件、仿真平台和AI模型。如RTX PRO 6000服务器显卡性能涨45倍，还推多款模型，应用于多领域，推动物理AI落地。
万万没想到，这家央企竟让香农和图灵又“握了一次手”
中国电信人工智能研究院研发布局的智传网（AI Flow），让信息技术和通信技术融合。在WAIC中，李学龙提出智传网三律，即信容律、同源律和集成律，打破传递智能的‘壁’，为数字世界带来深远影响。
OpenAI谷歌Anthropic罕见联手发研究！Ilya/Hinton/Bengio带头支持，共推CoT监测方案
OpenAI、谷歌DeepMind、Anthropic联合发表立场文件，提出CoT监测概念，认为是控制AI Agent核心方法。探讨其潜在机遇、局限，还提及不同公司对CoT监测的不同态度，如OpenAI乐观，Anthropic焦虑。
PAS刊发西工大张伟伟教授智能流体力学重磅综述论文
西工大张伟伟教授团队受主编邀请，系统调研人工智能与流体力学交叉领域进展。通过科学计量学方法，展示发展脉络、现状与前沿方向，分析研究格局、梳理团队，为该领域提供全景图。
DeepResearch的概念、核心挑战与进化路径
华为、利物浦大学等研究者撰写综述文章《DEEP RESEARCH AGENTS》，梳理了DeepResearch进展。它由大语言模型驱动，超越RAG等现有技术，介绍其核心技术组件，指出面临的挑战并指明未来发展方向。
智能PPT生成系统
MultiAgentPPT是基于A2A + MCP + ADK的多智能体系统，能流式并发生成高质量PPT。它通过多智能体协作，从大纲生成到内容汇总，提高效率与准确性，还介绍了使用界面、项目结构、快速开始步骤等。