「动态专家调度」共找到 975 篇相关文章
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
讲透 Graph Engineering【2】：从画出一张 Graph，到真正把它工程化。
本文探讨 Graph Engineering 在工程落地的关键问题，介绍 Graph 几种基础协作模式，如顺序协作、动态分流等，还提及从 Graph 到 Engineering 的关注点、开发的主流框架与趋势，最后提醒别为了 Graph 而 Graph。
Anthropic总想摔碎程序员饭碗，甩出了“以后只招两种人”名单。
昨天Anthropic发布新产品Claude Tag，被Karpathy赞为LLM交互第三范式。Claude Tag与之前的Claude Code远程插件有4方面差别。产品负责人Fiona Fung分享，Anthropic人均代码交付量剧增，招人只看两类人。
全国大学生，苦 AIGC 检测久矣
央视报道，多位高校学生毕业论文被 AIGC 检测系统误判，甚至《滕王阁序》《出师表》也被标为高风险。检测原理主要依赖「AI 困惑度」和「突发性」。毕业季检测算法升级致结果大幅波动，引发学生不满。
哈佛《Science》研究：大模型已碾压人类医生！
哈佛医学院等团队让OpenAI o1系列大模型与数百位医生在多项测试中较量，大模型在各项诊断和管理推理任务上全面超越人类专家，不过当下模型处理非文本信号有局限。
DeepSeek多模态真的来了？识图模式已开始小范围灰度
4月29日，DeepSeek多模态团队负责人陈小康在X发布动态暗示多模态进展。部分用户在DeepSeek官方App灰度到“识图模式”，这是其主线产品首次有图像理解能力模式，此前多模态人才有流失，官方未说明开放细节。
首个实时端侧部署世界模型，20万小时人类视频，BeingBeyond实现「两级跃迁」
4月14日，BeingBeyond发布具身世界模型Being - H0.7，将人类视频规模扩至20万小时，采用隐式推理范式，6项权威评测综合第一。还率先实现端侧实时部署，打通数据闭环，推动模型通用与专家能力跃迁。
科研数据不再碎片化！一张可计算图，连起整个科研世界
UIUC研究团队打造ResearchArcade，将ArXiv论文、OpenReview评审等碎片数据连接成动态知识图谱。它有多源、多模态等特征，支持多种格式数据导入导出，定义了六个任务，验证了图结构在科研数据处理中的作用。
训练即服务！让模型训练回归算法语义，150行代码跑通RL
ModelScope团队开源Twinkle框架，采用Client - Server架构，支持20余种算法组件。开发者约150行代码就能编排复杂RL训练循环，底层调度等交给框架。它兼顾易用性与灵活性，有多种特点和优势，代码已开源。
训练加速1.8倍，推理开销降78%！精准筛选题目高效加速RL训练丨清华KDD
清华大学THU-IDM团队与慕尼黑大学CompVis团队合作提出MoPPS框架，解决强化微调代价高问题。它精准挑题，预测难度，开销低、动态适应且平衡探索利用，在多任务表现佳，降本增效，有新范式。