「并行思考」共找到 862 篇相关文章
SGLang 推理引擎的技术要点与部署实践|AICon 北京站前瞻
SGLang 是开源推理引擎,截至 2025 年 6 月,GitHub 近 15K Stars,月均下载量超 10 万次,被多个行业巨头采纳。InfoQ 专访其核心开发者尹良升,他分享关键技术等内容,6 月 27 - 28 日他将在 AICon 演讲。
MoE推理「王炸」组合:昇腾×盘古让推理性能狂飙6-8倍
在通往AGI进程中,MoE模型成大模型推理提效关键。华为推出Pangu Pro MoE 72B模型,经多方面优化,推理性能提升6 - 8倍。还采用多种策略和算法,在昇腾不同平台展现卓越性能,为大模型落地提供支撑。
腾讯助力Deepseek完善DeepEP,RoCE提升100%,InfiniBand提升30%
Deepseek团队合并腾讯提交的代码完善DeepEP,称有巨大速度提升,RoCE提升100%,InfiniBand提升30%。DeepEP是为混合专家模型和专家并行设计的通信库,有多项创新特性,适合现代AI应用。
在校生开发,榨干 win 系统全部带宽!
介绍在校生开发的开源工具 HypoMux,它面向 Windows,能把多张网卡「绑」在一起,让下载任务多线路并行。有双模式可选,还能智能分流,兼容主流加速器。操作简便,可解决下载慢问题。
对话涌生智能杨梦:AI for Bio的下一场竞争,是把实验闭环验证真正做出来
随着科技巨头进入生命科学领域,AI for Bio竞争升级,焦点转向模型能否进入科研流程。涌生智能与上海人工智能实验室发布成果,为跨越鸿沟提供新路径。对话涌生智能杨梦,探讨相关技术路径、产业思考等。
阿里发布首个「音视频实时交互」模型,实现数字人实时视频聊天
阿里发布原生流媒体端到端模型Wan - Streamer v0.1,能实时聆听、观看、思考、说话和响应视频。它在单个Transformer内完成感知等操作,延迟低,具备端到端多模态统一、低延迟等特点。
人类56年解不出,谷歌AI一夜连破9道世纪难题!
Google DeepMind发布全新AI数学智能体AlphaProof Nexus,一次性攻克9道悬而未决几十年的Erdős开放问题,最老的已悬置56年。证明经Lean编译器验证,无错误可能。此外,还在多数学分支取得突破。
那个刷爆全网的提示词技巧,吴恩达刚官宣:早就过时了!重磅发布2026最新提示词大师课
吴恩达发布《2026提示词工程大师课》,指出过去流行的提示词技巧已过时。课程介绍了成为AI高阶玩家的方法,如给足上下文、引导AI给出真实反馈、用渐进式大纲写作等,还提及AI知识获取、搜索及多模态能力等内容。
7000 亿砸 AI,95% 失败:这一轮可能不会再造"电力时代"
文章指出本轮 AI 革命与前几次不同,虽资本大量涌入,但新需求少,多是降本和耗电。分析了其经济影响,如通缩压力、鲍莫尔病反转、K 型分化等,还给出个人发展建议。
对话微软研究员华文越:横跨数学、哲学与计算机,她如何重构 Agent 的信任基石?
本期访谈邀微软研究员华文越跳出技术视角,探讨如何用跨学科思维解决Agent落地难题,如找模型等间最优解、建信任标准,还将深入其工作逻辑及对Agent未来思考。4月18日直播。