在离线混部」共找到 8239 篇相关文章

产品应用8

GLM-5正式发布,744B参数,对标Claude

GLM-5正式发布,对标Claude,参数从355B扩至744B,预训练数据增加。采用GlmMoeDsa架构,部署成本降低。数据表现佳,多测试中成绩亮眼,还能直输Office文档,部署支持多框架和国产芯片,早期反馈积极。

AI工程化
新闻资讯7

加速突围!9款信号链芯片背后的“芯”趋势

高端ADC/DAC领域曾被国际巨头长期垄断。2025年‘芯师爷 - 硬核芯年度评选活动’展示多款信号链芯片。国产芯片发展有高端突破、汽车电子爆发、全产业链延伸三条路径,但也面临参数提升、高端场景拓展及海外竞争挑战。

芯师爷
开源动态8

真实评估!北理发布全球首个「全场景教育」基准,支持4000+情境

北京理工大学高扬老师团队推出EduBench,是全球首个「全场景教育」基准,涵盖9大教育场景、12个评估维度、超4000个情境。团队将数据、模型等全面开源,评估发现大模型特殊教育场景有不足,还提出多源知识蒸馏等方法。

新智元
新闻资讯7

让GPT-4.1「头皮发麻的考试」!OpenAI给大模型上强度,AI能赢吗?

OpenAI 公布 MRCR 评测标准数据集,其针对 AI 模型上下文能力进行「奥运会」级别测评。MRCR 提升了测试难度,能揭示 AI 能力边界,推动模型发展,帮助更合理应用技术。GPT4.1 一些测试中表现出色,未来 AI 能力上限充满可能。

新智元
8

CUDA 20年护城河一个周末崩了 !Claude独自跑通AMD新GPU

一个周末,Claude直接把自家最前沿模型跑全新AMD MI355X机架,人类工程师没改一行代码。AMD还给AI开发调GPU的工具,ROCm.AI可让Agent自己部署操作。Agent补生态积累短板,对CUDA生态形成降维打击。

新智元
推荐文章7

对话蚂蚁吴伟:训推一体池化调度,如何把GPU用到极限

AICon大会前,与蚂蚁集团吴伟深度对话,探讨GPU资源调度解法。他指出CPU和GPU有结构性差异,只推理或训练内优化有资源闲置,国产卡缺全链路生态,软件优化有天花板。还分享架构思路、算法及落地效果等。

InfoQ
开源动态8

一夜之间,AI终获「永久记忆」!最难考试99%刷爆SOTA,全网直呼疯狂

新智元报道,Supermemory团队推出超级记忆系统ASMR,AI记忆界最难考试LongMemEval中刷到99%准确率。它抛弃传统模式,采用多Agent并行推理,4月初将开源代码。此外,其背后的Supermemory引擎功能强大,能让AI真正拥有记忆。

新智元
开源动态7

一年后,DeepSeek-R1的每token成本降到了原来的1/32

几天前,DeepSeek更新R1论文至86页,公开训练全路径等细节。英伟达发表博客展示Blackwell GPU上对其降本增效,通过软硬协同提升每瓦特Token吞吐量,还介绍了TensorRT - LLM软件及相关技术提升性能的情况。

机器之心
开源动态8

机器人进入“边做边学”时代:星尘发布线强化学习框架,让动态投掷成功率提升超141%

星尘智能基座模型团队公布线强化学习框架SmoothRL,解决异步执行环境中具身模型线微调难题。该框架让策略更新对应硬件实际执行,攻克延迟失准问题,多项真机测试中大幅提升任务成功率。

AI前线
新闻资讯8

对话西湖大学刘癸庚:从拓扑光子学到太赫兹芯片,他想做连接AI大脑与身体的人

本文是对西湖大学刘癸庚的访谈。他拓扑光子学研究成果丰硕,如三维光子陈绝缘体、光子轴子绝缘体的研究。如今专注太赫兹芯片与通信,想构建连接‘AI 大脑’与‘AI 身体’的链路。

DeepTech深科技