「专家调度器」共找到 854 篇相关文章
Transformer已死?DeepMind正在押注另一条AGI路线
谷歌团队借鉴人类联想记忆,提出嵌套学习,解决AI「灾难性遗忘」问题。强调优化器与架构协同进化,构建联想记忆系统。HOPE架构在多任务表现出色,或开启AI从被动训练到主动进化大门。
AI+直播的新玩法! StreamDiffusionV2让创意零延迟
生成模型改变直播行业,但此前模型难保证时间一致性、有延迟等问题。加利福尼亚大学推出StreamDiffusionV2,通过智能调度和缓存机制优化,支持多GPU并行,可灵活调画质和延迟,实现实时直播。
AI Infra进阶:如何让大模型输出确定的结果
文章探讨大模型输出确定性结果的问题。指推理引擎底层动态组批与算子调度策略,因浮点加法顺序变化使结果波动。还分析GEMM、RMSNorm等算子影响,给出vLLM实现Batch Invariance的方法。
RTP-LLM 在相关性大模型中的推理优化最佳实践
淘宝搜索场景引入大参数LLM模型,面临系统性能挑战。本文分享基于RTP - LLM框架的优化实践,如大BatchSize调度、批次内前缀复用、MoE Kernel动态调优等,还提及未来优化方向。
2025值得一看的31件AIGC作品
2025年AIGC成连接历史与未来的‘文化转译器’。文章盘点MANA网站31件优秀AIGC作品,涵盖与各领域结合形式,呈现与历史对话、激活即时艺术等4大创作趋势,展现AIGC多元玩法。
AI正在疯狂吞噬一切!数据中心价值暴涨,但这场狂欢能持续多久?
文章指出AI数据中心投资使美国GDP增长显著,市场规模将大幅增长。科技巨头疯狂砸钱,投资集中在北弗吉尼亚。专家观点分裂,作者认为需求真实但短期有泡沫,投资可能推动进步,也可能重蹈覆辙。
让AI读懂「言外之意」:AI4SG团队发布首个心理健康污名语料库,破解隐性偏见识别难题
心理健康患者常面临社会偏见,且这种污名化隐蔽难识别。新加坡国立大学AI4SG团队联合多学科专家,构建首个心理健康污名访谈语料库MHStigmaInterview,获ACL 2025认可,为解决该社会问题提供技术支持。
一针注射,体外控波,科学家研发新型无线神经刺激器重塑疼痛管理
全球约20%成年人受慢性疼痛困扰,现有神经刺激设备有局限。纽约大学阿布扎比分校等团队研发SEED可注射无线神经刺激器,大鼠实验实现坐骨神经精准刺激,但面临效率、电荷平衡等问题。
这次,Agentic AI工程化的底牌全被抖出来了 | QCon北京2026
QCon全球软件开发大会·2026北京站4月举办,以‘Agentic AI时代的软件工程重塑’为主题。大会有主题演讲、专题演讲,汇聚一线专家探讨AI工程化等多方面内容,还关注AI向物理世界延伸,讲师分享实践经验。
Harness 工程就是控制论
文章指出OpenAI的Harness工程模式与瓦特离心式调速器、Kubernetes类似,都遵循控制论。代码库此前反馈回路在低层面,大语言模型改变现状,但需校准传感器和执行器,忽视工程实践代价会变得无法承受。