「并行工作」共找到 1162 篇相关文章
DeepSeek开源MoE新利器LPLB:基于线性规划,专攻训练动态负载不平衡
DeepSeek在GitHub开源LPLB,这是基于线性规划的并行负载均衡器,用于优化MoE模型专家并行工作负载分配。它通过动态重排序、副本构建等机制实现动态负载均衡,支持多种拓扑结构,但也存在成本估算等局限性。
对话景鲲:AI 产品的 All in One,是上下文的 All in One
Genspark 创始人景鲲在 AGI 舞台分享发展路径,其产品从 AI 搜索转型,现推出全功能 AI 办公套件。景鲲判断,未来大模型竞争激烈会商品化,AI 公司壁垒在于捕获用户工作上下文,实现「All in One」AI 工作空间。
揭秘!腾讯女程序员的上下班生活
“三八”国际妇女节,腾讯程序媛号随机采访女程序员。闫子、语心等多位女程序员分享工作内容、穿搭、兴趣爱好等,还谈及小时候梦想与工作联系,以及对AI影响的看法,最后评论区有福利。
超越MLA!新架构MLRA百万token,解码最高2.8倍速 | ICLR'26
大语言模型处理长文本时,自回归生成受限于显存带宽。为减少KV缓存开销,业界尝试多种方法,但MLA有缺陷。宾夕法尼亚州立大学等研究人员提出MLRA,拆分KV缓存为四个并行分支,降低显存占用,实现4路张量并行,性能更优。
Moxt 实测:把你的组织,折叠进一堆文件夹
作者实测 Moxt 后发现,它能解决 AI 产品上下文散且脏的问题,提供工作空间,让 AI 在原生格式工作;用户可创建专属 AI,还能精简 Context。此外,它支持技能组合、定时任务等,输出拓展到视觉形态。
不会被AI替代?100年前的农民也这么想的,这些图表让你害怕!
文章指出没有工作能逃过AI替代命运,以农业、制造业岗位变化为例,说明AI将使人力需求减半。微软和谷歌超30%代码由AI编写,还提到人们对AI威胁认知不足,探讨了AI时代谁是受益者等问题。
【博客转载】CUDA Cooperative Groups
文章介绍CUDA cooperative groups,它让开发者创建和管理能同步通信的线程组,为GPU并行算法编程提供更灵活高效方式。文中讨论并行归约算法及用cooperative groups的实现,还对比不同归约求和方法及性能。
为大模型思考装上“猎鹰重装引擎” :腾讯混元 SEAT 重塑深度思考
本文深度解析腾讯混元最新发布的 SEAT 自适应并行扩展推理框架。它让大模型 CoT 升级,应对复杂推理任务。该框架通过多轮并行推理和语义熵导航,解决大模型深度思考的局限,且适配多种大模型,性价比高。
Transformer 中的专家混合模型 (MoE)
文章介绍Transformer中专家混合模型(MoE),它能解决稠密模型扩展瓶颈。阐述其优势,如计算高效、适合并行等,还介绍在transformers库中支持稀疏架构的演进,包括权重加载重构、专家执行后端、专家并行及训练方案。
AI到底会不会取代我们的工作?
作者分析2023 - 2025年10月近1.8亿份全球招聘启事,发现2025年总招聘岗位降8%。创意执行岗、基层员工岗位减少,而创意策略岗、高层领导岗位降幅小。客服、软件工程师岗位较坚挺,机器学习等岗位逆势增长。