「大规模专家并行」共找到 904 篇相关文章
卷疯了！这个清华系Agent框架开源后迅速斩获1.9k stars，还要“消灭”Prompt？
随着大模型能力突破，Agent 从概念走向应用，各类框架不断涌现。清华系团队发布开源框架 Cooragent，获 1.9k stars。创始人王政分享 Agent 发展洞察，指出大模型能力提升推动 Agent 商业化，还探讨 MCP、框架等多方面问题。
大模型全员0分！谢赛宁领衔华人团队，最新编程竞赛基准出炉，题目每日更新禁止刷题
谢赛宁等人出题，让o3、Gemini - 2.5 - pro等模型全军覆没。LiveCodeBench Pro是实时基准测试，题库每日更新。此前称LLM编程超人类专家，本次测试并非如此，最好模型难题通过率也为0。
从辅助工具到智能决策，大模型如何改变人才选拔方式？
随着大模型应用拓展，企业人力资源管理成落地热点。阿里巴巴技术专家程鹏认为，大模型在人才选拔与培养中有效率、个性化、客观决策等颠覆性价值，也面临落地挑战，还分享应对策略等内容。
SGLang 推理引擎的技术要点与部署实践｜AICon 北京站前瞻
SGLang 是开源推理引擎，截至 2025 年 6 月，GitHub 近 15K Stars，月均下载量超 10 万次，被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升，他分享关键技术等内容，6 月 27 - 28 日他将在 AICon 演讲。
MoE推理「王炸」组合：昇腾×盘古让推理性能狂飙6-8倍
在通往AGI进程中，MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型，经多方面优化，推理性能提升6 - 8倍。还采用多种策略和算法，在昇腾不同平台展现卓越性能，为大模型落地提供支撑。
个人开发者训400亿参数大模型：分布式算力，DeepSeek架构，3090单卡部署
Nous Research推出Psyche Network，可整合全球算力训练AI。它基于Deepseek的V3 MLA架构，有DisTrO优化器等技术，能让个人和小团体创建大规模模型，还实现40B参数LLM预训练。
刚刚，DeepSeek首曝V3降成本秘诀！软硬协同突破Scaling天花板
DeepSeek最新论文从硬件架构和模型设计双重视角，探讨如何相互配合实现低成本大规模训练和推理，分析硬件特性对架构选择的影响，研究两者相互依赖关系，还为未来协同设计提出建议。
字节开源DreamO，一个框架包揽多种图像定制需求
近期图像定制研究展示大规模生成模型潜力，但多数方法通用性有限。字节提出DreamO框架，支持多种图像定制任务，有特征路由约束机制，能解决特征冲突，还介绍其技术原理与各任务效果。
在校生开发，榨干 win 系统全部带宽！
介绍在校生开发的开源工具 HypoMux，它面向 Windows，能把多张网卡「绑」在一起，让下载任务多线路并行。有双模式可选，还能智能分流，兼容主流加速器。操作简便，可解决下载慢问题。
突发！卡帕西官宣加入Anthropic，OpenAI对家挤满了前员工
安德烈·卡帕西宣布加入 Anthropic，负责 Claude 模型大规模训练。他是知名 AI 研究者，曾任职 OpenAI、特斯拉等。此前 AI 人才争夺 Meta 和 OpenAI 是主角，Anthropic 闷声吸纳了卡帕西，OpenAI 联合创始团队成员多有流失。