长链推理」共找到 2777 篇相关文章

推荐文章8

大语言模型的解耦:人工智能基础设施的下一轮进化

人工智能模型发展快,但基础设施滞后,传统单体式服务器架构成瓶颈。文章介绍大语言模型推理的预填充与解码阶段差异,指出解耦架构可突破困境,还阐述其经济影响、实施策略、应用案例及未来展望。

InfoQ
产品应用8

AI改造出行体验:滴滴的试验能否开启行业范式转变?

滴滴近日面向公众内测上线出行AI助手小滴,颠覆传统打车模式。它能精准理解需求,提供个性化方案,还可进行时空推理和订单规划。滴滴用工程打法攻克难题,还上线MCP服务助开发者定制助手。

新智元
产品应用8

AI视频生成走向“演技生成”时代,生数科技Vidu全球发布Vidu Q2 | 甲子光年

9月25日,生数科技全球上线新一代图生视频大模型Vidu Q2,实现从“视频生成”到“演技生成”跨越。它在表情生成、运镜、语义理解、时选择等方面有提升,分闪电和大片模式,已在多端上线。

甲子光年
新闻资讯8

时隔多年,AI芯片又是华为发布会主角了

华为全联接大会上,轮值董事徐直军带来全球最强算力超节点和集群。公布昇腾、鲲鹏芯片未来2年演进规划,还开创灵衢互联协议。虽单芯片受限,但集群层面有望实现超越。

量子位
新闻资讯7

OpenAI 不想再「跪着」买显卡了

《金融时报》消息,OpenAI 正和博通合作自研代号“XPU”的 AI 推理芯片,2026 年量产。其不仅在芯片发力,还在硬件、应用和算力基建多线出击,不过自研芯片也面临资金、人才和软件生态等问题。

AI科技评论
推荐文章8

极佳科技朱政:世界模型会进化成 VLA 的下一代|具身先锋十人谈

具身智能领域数据难题待解,极佳科技朱政投身世界模型研究。他认为世界模型短期内是‘驯化’VLA的容器,期或与VLA融合。其团队成果显著,还将探索多维度建模与数据配比优化。

AI科技评论
开源动态8

SGLang支持GPT-OSS:从Day 0支持到性能增强

SGLang宣布重大更新,聚焦openai/gpt - oss - 120b模型深度性能优化与新功能。预填充和解码阶段吞吐量显著提升,支持多GPU,有推测解码等功能,还支持智能体应用程序,且不损害模型推理能力。

GiantPandaLLM
新闻资讯7

刚刚,DeepSeek最新发文!V3/R1训练细节全公开,信息量巨大

网信办新规生效,DeepSeek回应,标注AI生成内容,公开V3/R1训练细节。介绍训练分预训练和优化训练,深挖数据使用,还谈及推理、开源情况,也提到对抗AI幻觉与滥用风险的措施。

新智元
新闻资讯7

思特威、格科微……十大厂商亮出传感器“王牌”

在全球半导体竞争与供应重构下,中国传感器芯片产业机遇与挑战并存。本文精选2025年参评‘芯师爷-硬核芯年度评选活动’的思特威、格科微等十大厂商及其产品,展现产业感知层关键突破。

芯师爷
开源动态8

完全离线!开源实时语音识别神器,本地实时语音转文字,秒级延迟+说话人识别!

实时语音转文字和说话人识别需求渐,但传统工具多依赖云端,有隐私与延迟问题。GitHub上的开源项目WhisperLiveKit是本地化语音识别方案,速度快、延迟低、支持说话人识别,适合会议等场景。

开源星探