「前端部署」共找到 812 篇相关文章
Mini-sglang-01：从Client到Scheduler的消息流转之旅
文章围绕轻量化大模型推理系统mini - sglang，详细介绍消息从客户端经APIServer、Tokenizer到Scheduler的流转过程，分析核心组件功能、消息体系、正反向链路及优化策略，还预告后续分析调度和模型实现逻辑。
刚刚，微软全新一代自研AI芯片Maia 200问世
微软原定于 2025 年发布的下一代 AI 芯片 Maia 200 问世。它基于台积电 3 纳米工艺，性能强、能效高，是异构 AI 基础设施重要部分，将为多个大模型提供支持，已部署在美国中部数据中心区域。
“AI火了，我们却快完了！”顶级开源框架Tailwind之父含泪裁掉75%兄弟：半年后，这个项目可能就没了
前端开源项目 Tailwind CSS 面临生存危机，创始人 Adam Wathan 称因 AI 对业务模式冲击大，一天内裁掉工程团队约 75% 员工。如趋势不变，约 6 个月后无法发工资，这与它在 AI 领域受欢迎形成反差。
92亿美元创纪录营收背后，AMD从英伟达手中“抢”走了什么？｜甲子光年
美国当地时间11月4日，AMD公布2025财年第三季度财报，多项数据创纪录，已悄然抢夺英伟达在AI领域市场。其崛起基于GPU、CPU及软件层面战略部署，在中国市场也有独特策略，但转型仍面临风险。
训练成本暴降99%，35秒出1分钟高清视频！英伟达MIT等引爆视频AI革命
英伟达联合MIT、港大团队提出SANA - Video架构，其核心是创新的全局线性注意力Diffusion Transformer训练框架和全局显存恒定的KV缓存机制。它训练成本低、速度快、可部署，重新定义AI视频生成效率极限。
“像把大象塞进冰箱一样困难”，端侧大模型是噱头还是未来？
InfoQ《极客有约》X AICon 直播聚焦端侧大模型，探讨其落地挑战与破局思路。专家指出端侧部署有隐私、可用性等优势，但面临内存、精度等难题。华为、支付宝等分享方案，还探讨应用场景、商业模式及未来趋势。
Gemini 3.0 Pro内测流出，编程实力惊人！下周上线
十月AI战场热闹非凡，Sora 2刚亮相，谷歌下一代Gemini旗舰模型Gemini 3.0蓄势待发，最晚下周上线。内部代码流出其有Pro和Flash两版本，实测在编程等方面表现惊艳，虽未发布却暗示编码时代将变。
配置驱动的动态Agent架构网络：实现高效编排、动态更新与智能治理
本文提出配置驱动的独立运行时 Agent 架构，解决低代码/平台化 Agent 方案企业级落地难题。介绍其核心架构、注册中心、配置定义等，还提及 Agent Studio、执行引擎等，阐述运行部署、协作、治理，提供通用可落地范式。
6.1B打平40B Dense模型，蚂蚁开源最新MoE模型Ling-flash-2.0
蚂蚁百灵大模型团队开源 MoE 大模型 Ling-flash-2.0，其以轻量级配置展现卓越性能，在推理速度、任务性能、部署成本间找到新平衡，为大模型‘参数膨胀’提供新路径，还在多领域应用表现出色。
Qwen3-Next：迈向更极致的训练推理性价比
文章发布Qwen3-Next架构及Qwen3-Next-80B-A3B系列模型，通过混合注意力等改进提升训练推理效率。介绍模型结构、性能优势，还说明使用方法，包括在多平台部署及处理超长上下文，展望持续优化架构。