搜索：夸娥智算方案

「夸娥智算方案」共找到 860 篇相关文章

SGLang × RoleBasedGroup（RBG）：打通大模型推理PD分离架构规模化落地的“最后一公里”

PD分离架构对大模型推理部署意义重大，SGLang支持该架构且性能佳。但从测试到生产落地难，存在部署、资源、可靠性等问题。SGLang开源RBG项目，结合二者为PD分离架构生产化落地提供方案。

实时语音转文字和说话人识别需求渐长，但传统工具多依赖云端，有隐私与延迟问题。GitHub上的开源项目WhisperLiveKit是本地化语音识别方案，速度快、延迟低、支持说话人识别，适合会议等场景。

7月26日，在2025世界人工智能大会相关论坛上，中国电子技术标准化研究院联合80余家单位发起《智能体协议共建共享联合倡议》，旨在构建智能体产业生态。目前标准化工作已取得进展，中国方案将为产业发展锚定新航标。

当红通用人形机器人公司 1X 的 AI 副总裁 Eric Jang 提出「智能频谱」概念，阐述当前 AI 面临的「1Hz 壁垒」及实现「Ultra Instinct」能力的先决条件。不同推理方案有望解决部分问题，但通用智能体仍有瓶颈。

训练大模型难度随规模和应用拓展而增加，所需数据海量。机器人领域获取训练数据成本高，研究者尝试找替代方案。强化学习大牛Sergey Levine分析数据组合，认为鱼和熊掌不可兼得，替代数据有局限。

文章聚焦AI实践应用，以后端开发为例，介绍用AI编码实现需求的流程，涵盖工程结构、各层代码生成等。还分析AI编程问题，提出解决方案，给出生产案例，最后展望AI在研发中的应用前景。

中山大学和华为联合提出低成本开源方案 SWE-Factory，可自动收集代码打造高质量代码评估数据集。它能解决传统构建流程繁琐、依赖人工的问题，实现全流程自动化，还构建了 SweSetupBench 数据集，表现出色。

文章聚焦RAG与MCP集成，介绍RAG突破传统模型局限及不足，引出Agentic RAG。阐述MCP革新AI工具连接方式，结合二者构建集成架构，还给出实现步骤、优化策略与代码实践，为释放AI系统潜力提供方案。

本文介绍字节跳动研发的Gödel Rescheduler重调度框架，它能解决传统调度资源分配和任务摆放问题。阐述传统重调度弊端，介绍新方案组件，列举应用场景及成果，还提及未来规划，目前已开源。

上海人工智能实验室提出TPO方案，可让大模型在推理时快速对齐人类偏好，无需更新模型权重。TPO类似文本形式的梯度下降，在多个基准数据集评测中表现出色，还提供“宽深结合”推理拓展策略。