「推理服务基础设施」共找到 2938 篇相关文章
神秘模型「Pony Alpha」引外网热议,它会是国产大模型中的谁?
近日,全球模型服务平台OpenRouter上搜索第一的神秘模型「Pony Alpha」引外网热议,它是新一代通用大模型,在多方面表现突出且可免费使用。网友、AI猜测其身份众说纷纭,已有人用它做出惊艳案例。
The Batch: 866|GPT-5 起飞遇乱流
OpenAI推出GPT - 5及其系列模型,涵盖多种类型,有新功能与性能提升。但发布中路由器故障等问题让用户失望。它在部分基准测试表现佳,不过抽象推理能力有不足,还回顾了发布历程。
AI Infra 工程师们如何应对大模型流水线里的“暗涌”?
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
Supabase:百亿美元估值,vibe coding 的默认后端?
Supabase 以 Postgres 为核心,提供一站式后端服务,接近完成 5 亿美元 F 轮融资,估值 100 亿美元。它处于 Postgres 生态和 AI coding 趋势交叉点,产品路线图向 agent 倾斜,面临竞争、UE 等挑战。
金融Agent再获近2亿加码!启明红杉高瓴集体押注,5个月内连获两轮融资
近日,讯兔科技完成近2亿元A轮融资,5个月内连获两轮。其核心团队有投研基因,产品Alpha派服务超8万投研人员。投资人看好其发展,认为2026年垂直领域AI应用将爆发。
卡奥斯奔赴港交所,工业AI开启新征途|甲子光年
中国工业互联网迎来智能化加速阶段,卡奥斯递表港交所,为观察工业智能走向产业基础设施提供了样本。它脱胎于海尔,已实现产业规模化落地并盈利,在中国基于平台的工业数据智能解决方案市场位居第一。
BigQuery 新功能:SQL 直调 17 万 + AI 模型,3800 万行数据处理成本仅 2 美元
Google为BigQuery推出面向开源模型的第三方生成式AI推理功能,允许数据团队用SQL语句部署运行Hugging Face或Vertex AI Model Garden的模型,消除对独立ML基础设施的需求,解决数据团队痛点。
AI修真的一年:学者们怎么看“真智能”?|甲子光年
甲子光年在年终盛典对话三位学者,探讨AI“真假智能”。学者们提及强化学习、推理、多模态等技术突破,分析研究路径,还谈选择标准与未来期待,指出AI是工程实践命题,真与假关乎信念选择。
医疗AI质变时刻来临!国产医疗AI率先突破,临床诊疗能力问鼎全球
文章指出当前医疗AI真实能力与临床期待有落差,为此中国医生联合制定全球首个评估医疗AI临床适用性标准,完成对主流模型测评,中国企业打造的MedGPT夺冠,还推出‘未来医生’平台服务患者。
谷歌AI的“心脏”长什么样?读懂TPU就够了
文章介绍了谷歌TPU的发展历程,从2015年为解决AI计算效率瓶颈自研,发展到如今成为谷歌“经济支柱”。还对比了谷歌、英伟达、亚马逊的芯片路线,强调谷歌全栈垂直整合策略使TPU在推理时代优势明显。