部署挑战」共找到 1718 篇相关文章

推荐文章7

智能投顾的大模型应用,为什么选择了“大小模型协同”?

大模型时代,金融智能投顾落地是技术与业务安全的双重挑战。北银金科高级算法专家尹辰轩表示采用“大小模型协同”架构,能在性能、准确性与合规间找平衡,还阐述了架构亮点、问题解决办法等。

InfoQ
产品应用8

Uber Hive 联邦架构:1.6 万数据集、10PB 数据去中心化,支撑大规模分析零停机

Uber重新设计Hive数据仓库,将超16000个数据集、超10PB数据去中心化部署,解决可扩展性等挑战。采用基于指针方案迁移,系统含四大组件降低运营风险,还减少存储开销,提升生态弹性。

InfoQ
新闻资讯8

xAI 全员大会实录:递归自我改进、5000 万视频/天、月球上的质量驱动器

本文是 xAI 全员大会实录,覆盖公司核心业务,如重组为四大方向、编程模型递归自我改进、Imagine 视频生成使用量等,还提及 X App 增长、太空愿景等,也指出公司存在高层流失、项目落地不明等问题。

宝玉AI
开源动态7

SGLang Model Gateway 0.2 发布:企业级一体化AI原生编排

市面上一体化AI原生编排方案稀缺,Oracle和SGLang团队推出SGLang Model Gateway 0.2。它从SGL - Router重构而来,核心能力升级,架构分三层,部署灵活,还支持Kubernetes集成和向后兼容。

AI工程化
新闻资讯8

万字实录:VLA 范式,具身智能的曙光与迷雾丨GAIR Live

2025年5月9日,雷峰网等举办“具身智能之VLA的实践与突破”线上圆桌沙龙。多位专家探讨VLA定义、起源、技术路线等,指出其面临推理、数据等瓶颈,还讨论了与强化学习结合、数据选择、提升泛化性、长程任务及落地场景等问题。

AI科技评论
产品应用8

火山引擎 veFuser:面向扩散模型的图像与视频生成推理服务框架

近年来扩散模型在图像和视频生成领域取得突破,但 DiT 模型推理面临计算量大、模型多样、实时性需求等挑战。火山引擎推出 veFuser 推理框架,能在图片和视频生成上实现低延迟、低成本的高质量体验,且未来会持续迭代。

InfoQ
推荐文章7

从云原生到 AI 原生:模型引发的新一代基础设施构建

本文整理自蚂蚁集团余锋在2025年QCon上海站的分享。回顾基础设施从云计算到AI原生的演进,指出模型成新数据库,基础设施围绕其构建,还探讨了Agent体系影响、通智一体趋势及面临的挑战与机遇。

InfoQ
新闻资讯7

大模型之后,AI 开始“自己动手”了

从生成式AI到Agentic AI,互联网从“信息获取”转向“任务完成”。全球科技巨头抢滩智能体,国内腾讯云升级智能体开发平台。腾讯吴运声表示,技术与业务需求双轮驱动其发展,还分享了应对落地挑战的办法。

AI科技大本营
新闻资讯8

华为+DeepSeek,推理性能创新高!技术报告也公布出来了

华为昇腾在部署超大规模MoE时推理性能创新高,全面超越英伟达Hopper架构。其采用‘以数学补物理’方式,还将全面开源。团队从多方面优化,在不同硬件上取得优异性能,本周还将举办技术披露周。

量子位
新闻资讯8

全球AI新王诞生!Anthropic估值冲爆1.2万亿,首次反超OpenAI

Anthropic估值达1.2万亿美元反超OpenAI,若上市将成全球第11大上市公司。其年化收入和使用量一季度同比增80倍,获马斯克22万张GPU及谷歌2000亿美元云服务协议,但维持高估值面临挑战

新智元