「云优化」共找到 1648 篇相关文章
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代，包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
腾讯云TencentOS智能运维平台TManager正式发布 | Q推荐
为满足企业运维需求，腾讯云推出 TencentOS Server 首款智能运维管理平台 TManager。它有 30 余项功能，能 AI 智能诊断，内部稳定运行多年，覆盖复杂场景，还赢得标杆客户信任，提升运维智能化水平。
刚刚，云计算一哥出手，大家AI Agent自由了
亚马逊云科技在re:Invent大会发布诸多面向Agentic AI的成果，包括Strands Agents SDK更新、模型定制工具等，还介绍了构建Agent的四个方面，展示了完整蓝图，指引AI时代新方向。
AI 驱动的数据库心脏：如何让云原生「自我进化」
本文深度解析腾讯云自研云原生数据库 TDSQL - C，它融合 Serverless、AI 技术，解决传统数据库痛点。具备存算分离、智能伸缩、AI 预测等特性，能降本增效，还可全球部署，为企业数字化出海提供数据基座。
低延迟、高吞吐，LLM优化与高效推理引擎综述
LLM计算成本高，用户要低延迟，企业要高吞吐。工程师开发优化技术，如动态批处理、KV缓存、模型量化。论文对比25款推理引擎，还探讨了多模态支持、手机端推理、新型架构支持等进化方向。
多模态需求井喷，智能视频云如何靠分布式处理破局？
国内多模态AI发展中，模型层火热但应用层落地慢。多模态应用落地面临体验升级、视频化扩展、大模型部署下沉挑战，催生智能视频云升级需求。火山引擎在FORCE大会展示分布式多媒体处理实践，推出MIPP平台，未来将开源并推商业化产品。
150%训练效率提升：感知检测小模型训练优化方法
文章基于业务实践，总结感知检测小模型在不同算力卡上的训练方法，为智能驾驶场景提供借鉴。介绍测试环境、技术架构，分析环境依赖冲突、源代码适配等问题并给出解决方法，还提及性能优化及测试结果。此外还介绍用 RAGFlow 构建私有知识问答应用。
昨晚，云计算一哥打造了一套Agent落地的「金铲子」
亚马逊云科技在纽约峰会推出全新 AgentAI 方案，涵盖开发架构、多模型支持及多种工具升级。如 AgentCore 改变开发规则，Strands Agents V1.0 降低多 Agent 协作门槛，还推出 Kiro 等应用，推动 Agentic AI 落地。
100亿美元联姻，Meta与Google的AI云计算豪赌
近日，Meta与Google签署超100亿美元、为期六年的云计算协议，Meta用Google Cloud支持AI基建。该交易规模大，源于Meta算力需求迫切与Google TPU优势，也反映AI军备竞赛现状，预示行业新格局。
科研的回归：AutoSOTA如何终结“增量式优化”的重复劳动
当前AI科研中，为提升性能指标，研究者投入大量精力做“增量式优化”，限制原创探索。AutoSOTA项目由清华与中关村学院联合发布，它基于智能体系统构建自动化方案，接管实验迭代，一周发现105个SOTA模型，推动科研回归原创。