「云优化」共找到 1652 篇相关文章
AI Infra 工程师们如何应对大模型流水线里的“暗涌”？
InfoQ《极客有约》X AICon 直播邀请华为、蚂蚁集团等专家探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代冲突处理、推理部署成本优化、开源项目挑战及 GPU 虚拟化趋势等内容。
PaddleOCR3.0全面开源！文档解析PP-StructureV3：PDF秒变高质量结构化文件！
在大模型与RAG技术发展下，结构化数据愈发重要。飞桨团队打造PP - StructureV3并随PaddleOCR3.0全面开源，它能将文档精准转为结构化文件，有精度高、能力多等优势，还介绍了使用方式。
DeepSeek研究员1200行代码复刻vLLM，H800硬件实测性能反超原版
DeepSeek研究员俞星凯搞出开源项目Nano - vLLM，仅用不到1200行代码实现最小化且完全可读的vLLM。它有快速离线推理、代码可读性强、含优化套件等特点，在H800硬件实测中性能反超原版vLLM。
AI 渗透金融行业：大模型如何破解风控、服务与决策难题？
在数字化与人工智能驱动下，金融行业变革深刻。InfoQ《极客有约》X AICon 直播栏目邀多位专家探讨大模型赋能金融，涉及风控、服务、决策等难题，分享了大模型应用场景、技术渗透、权衡可解释性与性能等观点。
一文读懂：国产AI芯片与英伟达的差距有多大？
文章围绕国产AI芯片与英伟达的差距展开。从算力性能、生态壁垒、市场现状、技术瓶颈等方面分析差距，指出国产芯片虽在部分场景缩小差距，但高端训练和生态成熟度仍落后3 - 5年，突围需多领域突破。
扩散语言模型扛把子LLaDA迎来新版本，数学、代码、对齐能力均提升
中国人民大学与蚂蚁集团团队基于前期 8B 扩散语言模型 LLaDA，提出方差缩减的偏好优化方法 VRPO，推出 LLaDA 1.5。它在数学、代码、对齐任务上性能提升，VRPO 为扩散语言模型对齐提供框架。
英伟达再破世界纪录，每秒1000 token！刚刚，全球最快Llama 4诞生
英伟达用Blackwell创下AI推理新纪录，单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳，如用TensorRT - LLM优化、应用FP8格式等，满足了低延迟需求。
用多模态LLM超越YOLOv3！强化学习突破多模态感知极限｜开源
华中科技大学、北京邮电大学等多所高校研究团队共同推出纯多模态开源LLM——Perception-R1，该模型用强化学习优化视觉感知，目前论文和代码均已开源，其在视觉任务上表现出色，为后续研究提供强大baseline。
Wan3.0正式上线千问AI平台：稳定、真实、有质感
今天，视频生成模型Wan3.0正式上线千问AI平台。它在多维度全面升级，公测以来收到大量反馈，获创作者、企业用户等好评。在多领域经检验表现出色，还持续进化，部分API限时7折，已被多平台接入。
亿级日活App的“算力生死劫”：推理成本倒挂，他们靠跨云架构砍掉75% GPU集群
一家AI穿搭+购物推荐的出海应用DAU破亿，但算力和传输成本高，ARPU远低于成本。该企业转向Akamai推理云，换用RTX PRO 6000，缩减服务器集群，降低成本，采用跨云架构过渡，实现零阵痛平替。