「大模型推理系统」共找到 9204 篇相关文章
不拼GPU!中兴扔出AI超节点,把token价格打下来
在万亿级大模型时代,传统‘芯片堆砌’方式面临通信开销剧增等痛点。中兴通讯推出超节点技术,从系统级协同架构出发,通过六大维度创新,绕开单GPU芯片瓶颈,重构AI算力基础设施,推动行业向开放、融合发展。
昆仑万维方汉:通用Agent是伪命题,AI Office仍有存在空间丨MEET2026
昆仑万维董事长兼CEO方汉在MEET2026提出新视角,认为Agent是可验证过程的自动化系统,擅长复制流程。其判断大模型从‘背答案’到‘背过程’跃迁,Agent先落地AI Office,重塑组织,人类成过程架构者。
本文关注vllm V1中管控模型分布式推理的Executor部分,介绍其类型、Executor-Workers架构及数据传输机制,对比V0架构优势,以单机多卡的MultiprocExecutor为例展开讲解,还提及不同数据量的传输方式及相关代码。
深圳的具身智能名片,快IPO了
4月8日,智平方完成股改,或准备IPO。当前硬科技公司上市窗口效应明显,具身智能公司IPO进程加速。深圳机器人产业发达,智平方拥有自研具身大模型,完成股改使其资本化占得先机,成为深圳具身智能名片。
GPT-5 终于发布:别慌、AGI 还没来,第一手的上手体验在这里
GPT-5 发布,距离 GPT-4 发布已过 2 年。它能力强、定价有竞争力,是首个「统一」AI 模型,幻觉率低、代码能力强。免费用户可默认使用,Plus 和 Pro 订阅用户有不同使用额度。开发者可使用三种模式,代码能力测试案例可参考相关网站。
AI一天写4.4万行代码却没合并,程序员:AI Coding 真正的瓶颈来了
本文分享腾讯AI原生研发的真实案例,指出AI Coding产能提升后,最大瓶颈已非模型能力,而是现有研发治理体系与人的注意力适配问题,同时预告2026奇点智能技术大会的行业实践分享。
多家芯片公司业绩飙涨,这个赛道彻底火了?
近期多家A股芯片公司Q3财报亮眼,受益于端侧AI推进。端侧AI优势多,吸引科技巨头布局,但落地有挑战。技术进步使大模型轻量化,手机与AI眼镜较热。其发展面临应用、技术、生态等问题,也有隐私保护方案。
ACM MM 2025 | 小红书AIGC团队提出风格迁移加速算法STD
小红书AIGC团队提出风格迁移加速算法STD。现有一致性模型在风格化任务有缺陷,文章提出从部分噪声状态出发的训练框架STD,设计轨迹状态库减轻计算负担,引入非对称对抗损失增强风格一致性,实验显示其效果优。
解析科大讯飞:把AI做成懂你的那一个|甲子光年
2025年中美AI发展路径分化,中国企业探索本土商业化道路。科大讯飞董事长刘庆峰提出自主可控、软硬一体、行业纵深、个性化四个关键词。其用华为昇腾芯片训练出可商用大模型,在多领域展现优势,还发布新功能和产品,为AI商业化提供“中国答案”。
Claude 通过率不到 4%,SaaS-Bench 撕碎了 Computer-Use 的「全自动办公」幻想
UniPat AI用SaaS - Bench测试,让Agent在真实工作环境中执行任务。结果显示,Claude Opus 4.7端到端完全通过分数仅3.8%,多数模型表现差,还暴露Agent四种致命缺陷,揭示其与真实工作能力有巨大鸿沟。