搜索：跨层协同优化

「跨层协同优化」共找到 1818 篇相关文章

面壁MiniCPM4端侧模型发布：长文本推理 5 倍提速，0.5B 模型拿下新SOTA

2025智源大会，面壁发布MiniCPM4.0端侧模型，含8B稀疏闪电版与0.5B款。其采用InfLLM架构，实现长文本推理5倍提速、最高220倍加速，还在性能、部署等方面优化，适配多芯片与框架。

文章深入解析TileLang核心编程抽象，介绍写kernel的方式，阐述TileLang三层抽象特点及适用场景，展示JIT工作流、接口和执行后端，还提及性能优化、基准测试、正确性校验，最后用GEMM示例对比三层抽象差异并给出使用建议。

文章聚焦异构算力技术架构与核心组件，解析主流AI芯片特点、国产芯片技术路线；介绍高速互联技术、网络拓扑结构及优化方法；阐述大模型存储需求、分布式存储技术及数据预处理与加载技术，为AI计算提供全面方案。

传统运维依赖电脑，突发故障时受限。阿里云OOS AI助手结合钉钉机器人，实现免登录、跨设备、秒级响应的运维操作。如运维工程师张伟深夜在家用此组合10分钟解决故障，还介绍了使用和配置方法。

钉钉创始人无招回归后对产品走查改造，还拆付费墙，多维表全功能免费。它类似Excel但侧重协同，借阿里电商体系优势推行业化应用，解决AI落地难题，是实用的数智化小工具。

世界计算机三大顶会之一CVPR 2025落幕，小鹏汽车作为唯一受邀车企，其世界基座模型负责人发表演讲分享成果。小鹏用强化学习打造‘AI大脑’，还自研‘世界模型’，从云到端全流程优化，展现中国车企在自动驾驶的创新实力。

文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。

文章指出不懂代码的人爱Vibe Coding，还介绍AI Coding赛道跨行、跨文件补全方向。分析基于AST的上下文构造、提升速度的方法，提及AI IDE采纳率问题，认为实际项目中NES可控度更高。

马里兰大学、MIT、斯坦福等机构研究发现，AI性能提升一半靠模型，一半靠提示词。他们让DALL - E 2和DALL - E 3 PK，发现DALL - E 3性能提升中，模型升级贡献51%，提示词优化贡献49%。

InfoQ《极客有约》X AICon 直播，邀请华为昇腾专家 ZOMI 酱、蚂蚁集团马介悦和 SGLang 尹良升探讨大模型 Infra 工程师实战日常。涉及大模型工程高频问题、版本迭代策略、推理部署优化、开源项目挑战等内容。