「混合部署」共找到 896 篇相关文章
拒绝计算“一视同仁”！Elastic Attention：让大模型学会“看人下菜碟”
现代大语言模型用全注意力机制计算复杂度高，现有混合注意力策略是静态的。为此提出Elastic Attention，引入轻量级Attention Router，具备动态路由等亮点，在主流模型测试中效果好。
首个企业级智能体全开源！京东云将Agent门槛直接给打没了
京东云JoyAgent成为首个100%开源企业级智能体，完整能力全部开源，企业开发者可本地独立部署。它多智能体协同能力强、性能一流，还具多项技术创新，解决了企业AI落地难题。
Qwen3-Next全新架构，32K场景MTP吞吐提升10倍
随着模型大小和上下文长度增加，为应对成本和部署挑战，Qwen3 - Next有突破性架构创新，解决上下文长度和总参数缩放问题。它采用混合注意力、超稀疏MoE等，MTP机制让其长上下文推理吞吐量比前身高10倍以上。
用 AI 重新定义 RSS 阅读体验FeedMe
FeedMe可一站式了解多信息源新鲜事，轻量自由且可定制。具备多源RSS聚合、AI摘要生成等功能，支持多种部署方式，如GitHub Pages、Vercel、Docker本地部署，还给出开发指南，项目开源方便Fork和自部署。
猛涨25k star！一键检测你的电脑能跑哪些大模型！
最近 Github 出现工具 `LLMFit`，用 Rust 编写，能自动检测硬件配置，判断大模型能否流畅运行，推荐最优量化版本和运行模式。有一键硬件检测等特性，安装使用方便，降低本地部署门槛。
今天，OpenAI杀疯了！砸40亿美元成立新公司、还祭出网络防御利器Daybreak
OpenAI宣布推出OpenAI部署公司，获超40亿美元初始投资，还收购Tomoro。其将派工程师嵌入企业，帮构建部署AI。同时推出网络防御AI Daybreak，可加速防御、保障软件安全。
数据中心不必建在地球！中国企业已经把算力设施送到了太空
国星宇航牵头“星算”计划，首发星座发射成功，将开启全球“太空计算时代”。太空部署算力可节约能源成本、及时处理数据且更安全，未来将与地面“天地协同”，中国在此领域走在前列。
通用AI Agent系统AI Manus
AI Manus是通用AI Agent系统，支持在沙盒环境运行工具。文中给出使用示例，介绍环境要求、部署与开发指南，推荐用Docker Compose部署，还提及项目地址、交流群等信息。
英伟达发布统一GPU开发平台DGX Cloud Lepton
英伟达发布专为开发者设计的AI平台DGX Cloud Lepton，可汇聚全球GPU计算资源，提供即时访问和无缝部署能力。它功能强大，支持多环境部署，提供统一体验，还有庞大合作网络。
6.1k星星！这个开源 AI 知识库火了。附教程，简单且实用。
知识管理是刚需，因数据安全问题，本地部署的开源知识库受关注。本文推荐PandaWiki，它是AI驱动的开源知识库搭建系统，安装部署简单，功能丰富，适用于企业和个人。