搜索：推理服务基础设施

「推理服务基础设施」共找到 2949 篇相关文章

Token 新译名：「智元」

文章讨论Token新译名「智元」，认为其比「词元」更合适。介绍英伟达GTC 2026上黄仁勋强调AI推理时代智元重要性，OpenClaw消耗大量智元引争议，还提及黄仁勋闭门会观点及多位大佬对「智元」译名的认可。

英伟达CEO黄仁勋发表长文，系统阐释AI产业底层逻辑，定义AI“五层架构”。他指出AI产业尚处早期，潜力待发掘，未来还需巨额投资完善基础设施。还预判传统软件和 APP 形态或消失，AI Agent 将成主流。

浙江大学联合多家机构推出开源基础设施SkillNet，拥有超20万个高质量Skills。它能让AI智能体告别失忆式工作，将互联网资源和人类经验转化为可执行Skills，构建Skills网络，经严苛评测，在真实场景验证了强大实战能力。

阶跃星辰发布最强模型 Step 3.5 Flash，参数强大，性能与前沿顶级大模型并驾齐驱。其架构平衡算力与智力，有独特注意力布局；基础设施保障训练稳定；强化学习激发智能体潜能；评测数据显示战斗力强，未来还将持续优化。

今天发布并开源万亿参数思考模型 Ring-2.5-1T，在生成效率、思考深度、长程执行上大幅提升。与其他模型对比，在高难推理和长程任务执行达开源领先。介绍架构优势、手搓案例，也提及不足与未来计划。

12月24日，安谋科技推出新一代SPU IP——“山海” S30FP/S30P，给出面向高性能计算芯片的全栈安全解决方案。该方案从硬件IP层、软件中间件到云端服务构建一栈式安全防护体系，有五大核心亮点。

近日，字节跳动发布豆包手机助手，标志大模型应用从‘Chat’迈向‘Action’。文章解析其关键技术，指出虽具实用价值，但端侧智能体面临安全、自主任务、个性化服务等挑战，还展望了手机助手与端侧智能体的未来发展。

近年来，“参数越大，能力越强”成行业共识，但带来成本高和资源集中问题。微博AI团队开发的VibeThinker - 1.5B用1.5亿参数和低训练成本，在多项测试中超越头部大模型，还提出SSP框架和MGPO算法。

美团新开源LongCat-Flash-Omni模型，支持多模态，在全模态基准测试达开源SOTA水准，推理快且全模态能力强。实测交互体验丝滑，其迭代逻辑清晰。该模型成功源于架构创新，美团靠软硬件结合实现虚实连接。

雷峰网举办具身智能数据线上论坛，三位嘉宾探讨其从数据采集到闭环学习全过程。指出具身智能数据挑战严峻，分享真机数据稀缺解决方案，认为仿真合成数据是必经之路，还谈及产学协同、数据服务等内容。