「推理服务基础设施」共找到 2949 篇相关文章
谷歌：全栈AI之王
随着Gemini 3模型与第七代TPU的发布，谷歌打破OpenAI与英伟达主导的市场叙事。其全栈AI战略从底层基础设施到用户产品全覆盖，TPU进化、软硬件契合，吸引大客户，C端产品成发展引擎。
英伟达周末双炸！CUDA二十年最大更新，顺手屠榜AGI比赛
本周末英伟达有两大动作。一是推出CUDA 13.1，这是CUDA平台诞生二十年来最大更新，引入CUDA Tile编程模型等。二是在Kaggle ARC Prize 2025竞赛中，团队用4B小模型变体夺冠，靠合成数据等策略。
大模型被确诊「视觉文盲」！多校联合提出MILO，为它植入空间想象力
空间推理是多模态大语言模型（MLLMs）应用关键挑战，当前‘语言描述式调优’让模型成‘视觉文盲’。多校联合提出MILO范式，结合视觉生成反馈与语言调优，还构建GeoGen数据集，经五大任务验证其有效。
机器人“会用手”了！银河通用首破手掌任意朝向旋转难题，拧螺丝、砸钉子样样精通
银河通用推出的灵巧手神经动力学模型DexNDM，让灵巧手实现从能动到能用的飞跃。它首次突破手掌任意朝向旋转难题，实现跨物体、跨姿态稳定操作，助力机器人迈向精细操作，推动灵巧操作走向生产力基础设施。
超越英伟达Describe Anything！中科院 & 字节联合提出「GAR」，为DeepSeek-OCR添砖加瓦
中科院与字节联合提出「GAR」，为构建自然图像的Dense Caption提供新思路。GAR具备精准描述、关系建模和组合推理能力，通过引入新组件，兼顾细粒度与全局上下文，在多测试集表现优异，且代码等已开源。
LLM 长文本处理的“不可能三角”？我们用 E2LLM 把它破解了！
长文本理解与推理是LLM的难题，存在效果、速度、兼容性的“不可能三角”。蚂蚁集团和华东师范大学提出E2LLM新范式，实现三者平衡，在效果和效率上表现出色，开启长文本处理新篇章。
tRPC-Agent-Go：构建智能AI应用的Go语言Agent框架
tRPC是腾讯内部覆盖最广的RPC开发框架，tRPC-Go使用最广。2023年起LLM发展迅速，Agent开发框架成重要基础设施。tRPC-Agent-Go集成LLM等，支持创建多种Agent，为开发者提供构建智能应用的完整技术栈。
阿里AgentBay揭秘，Agent Infra才是真护城河！
在云栖大会上，阿里云无影宣布Agent基础设施AgentBay重大升级，展示全新个人计算产品。它有完善能力，可调用云上资源。文章还阐述了Agent Infra的必要性、进化体现及成本优势，指出优化环境很重要。
AI正在埋葬整个互联网的商业模式！
AI正改写全球网站流量格局，让传统流量模式失效，广告收入蒸发。它带来新规则，如智能体即买手、决策即交易等。企业应将产品服务塞入AI对话路径，普通人也可凭信任溢价等不被碾压。
为 OpenAI 秘密提供模型测试， OpenRouter 给 LLMs 做了套“网关系统”
OpenRouter成立于2023年初，为用户提供统一API Key调用各类模型，OpenAI会用其秘密测试。平台token用量高速增长，还发布模型用量排行榜引关注。创始人认为大模型非赢家通吃，未来想成agent最佳推理层。