「GPU池化系统」共找到 2042 篇相关文章
一年后,DeepSeek-R1的每token成本降到了原来的1/32
几天前,DeepSeek更新R1论文至86页,公开训练全路径等细节。英伟达发表博客展示在Blackwell GPU上对其降本增效,通过软硬协同提升每瓦特Token吞吐量,还介绍了TensorRT - LLM软件及相关技术提升性能的情况。
上交大 × 华为小艺推出LoPA:7B扩散语言模型单样例1000+ tokens/s!
上海交通大学DENG Lab联合华为小艺团队提出无需训练的解码算法LoPA,配合自研的LoPA - Dist分布式推理系统,显著提升扩散大语言模型(dLLMs)的推理并行度和吞吐量,将推理效率推向新高度。
数据与舆情双引擎:DeepAnalyze + BettaFish
DeepAnalyze是面向自主数据科学的大语言模型,能自动完成数据科学任务,支持完整流程、开放式研究且完全开源。还提出两项关键技术。微舆 - BettaFish是舆情分析系统,四类智能体协同工作,有六大核心优势。
GPT-5的魔幻现实主义:当技术神话撞上用户预期
奥特曼宣传数月的GPT - 5上线24小时遭用户吐槽,实测基础数学、拼写有问题。其采用智能路由系统,调教欠佳。奥特曼承认自动切换器故障,基准测试结果混乱,还暴露AI评价难等问题。
医疗AI平台Abridge获3亿美元,估值53 亿美元
医疗AI平台Abridge获3亿美元E轮融资,估值达53亿美元。其利用AI为医疗场景服务,核心功能“环境监听”可生成临床笔记。目前超150家医疗系统使用,正拓展收入周期管理等业务。
Claude Code把自己的提示词删掉80%,我照着砍了自己的60%
Anthropic将Claude Code系统提示词删减超80%,编码评测表现无明显下降。文章阐述删减背后判断,给出六条变化策略、四类文件写法及两条方法论,还介绍实施步骤,作者按此精简提示词约60%。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”?
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
全国大学生,苦 AIGC 检测久矣
央视报道,多位高校学生毕业论文被 AIGC 检测系统误判,甚至《滕王阁序》《出师表》也被标为高风险。检测原理主要依赖「AI 困惑度」和「突发性」。毕业季检测算法升级致结果大幅波动,引发学生不满。
3A大作!阿里ROLL团队从基建->算法->机理,推动RL4LLM全栈协同优化
阿里巴巴ROLL团队联合高校推出「3A」协同优化框架,推动「强化学习用于大语言模型(RL4LLM)」迈向新范式。Async架构提升GPU利用率,AsyPPO降低计算资源消耗,Attention机制提升训练效率与可解释性。
刚刚,Figure 03人形机器人登场,能感知一枚回形针重量
Figure 03是初创公司Figure发布的第三代人形机器人,能做家务、胜任服务类工作,指尖可感知3克力。它配备新传感器和手部系统,为家庭设计,实现无线自主运行,也为量产和商业应用做了诸多优化。