混合部署」共找到 896 篇相关文章

开源动态8

AI4S又一瓶颈被攻克:两个AI「吵架」,让科研代码部署成功率突破95%

科学软件大多难直接运行,制约AI4S与Agentic Science发展。Deploy - Master应运而生,是一站式自动化工作流。Search Agent筛选工具,Build Agent用双模型辩论机制使部署成功率超95%,为科学智能体交互打基础。

量子位
开源动态8

Github 23000+ star 又一神级开源项目,秒杀市面上主流收费产品,最主要是轻量化部署!!!

Focalboard 是一款开源项目,能解决团队协作和项目管理中任务杂乱、主流工具收费高、需私有部署等痛点。它功能丰富,适用于多种管理场景,支持本地部署,数据完全自控。

小华同学ai
产品应用8

Hybrid Model Support:阿里云 Tair 联合 SGLang对 Mamba-Transformer 等混合架构模型的支持方案

文章介绍阿里云 Tair KVCache 团队与SGLang社区在推理框架上支持混合架构模型的工程化实践。分析混合架构崛起原因、面临挑战,阐述内存管理、关键技术优化方案,验证性能,并指出未来演进方向。

阿里云开发者
开源动态8

银河通用X清华大学发布业内首款开源人形机器人全身遥操系统OpenWBT,支持多机型、跨虚实,小时内可轻松部署

银河通用与清华大学合作发布全开源人形机器人全身遥操作系统OpenWBT,新手小时内可部署。该系统有极简部署、多机型跨平台、兼顾虚实遥操三大亮点,背后技术解决了sim2real迁移难题。

机器之心
开源动态8

Transformer 中的专家混合模型 (MoE)

文章介绍Transformer中专家混合模型(MoE),它能解决稠密模型扩展瓶颈。阐述其优势,如计算高效、适合并行等,还介绍在transformers库中支持稀疏架构的演进,包括权重加载重构、专家执行后端、专家并行及训练方案。

Hugging Face
推荐文章7

为什么 DeepSeek 大规模部署很便宜,本地很贵

文章探讨了DeepSeek-V3大规模服务便宜但本地运行贵的原因。指出推理服务存在吞吐量和延迟的权衡,受批处理大小影响。还分析了不同模型需大批次的原因,如专家混合模型、大型管道模型等。

AI前线
算法论文8

微软OEL框架:大模型一次部署,终身进化

微软最新论文Online Experiential Learning (OEL)提出让LLM在真实部署后持续自我进化的框架,无需人工标注等。介绍了在线体验学习的必要性、OEL方法论及实验验证,揭示关键洞察与启示。

PaperAgent
新闻资讯7

亚马逊发布新AI大模型,部署机器人突破100万

全球电商、云计算巨头亚马逊宣布推出新AI基础大模型Deep Fleet,部署机器人超100万。该模型可提升机器人车队出行效率,还能协调机器人移动,带来交付快、成本低等好处。

AIGC开放社区
开源动态7

11K+ Star!NotebookLM 最强开源平替来了,支持私有化部署

NotebookLM好用但有数据隐私问题,GitHub上的SurfSense是其开源平替,支持私有化部署。它功能成熟,支持多种文件格式等,提供三种入门方式,虽缺PPT生成能力,但知识管理和问答功能够用。

开源星探
算法论文7

Adaptive Reasoning Model:Qwen3混合思考->字节AdaCoT->清华AdaThinking

文章介绍三种处理混合思考模式的方法,阿里 Qwen3 通过 SFT 让模型具备思考能力,但需人为控制;字节 AdaCoT 和清华 AdaThinking 让模型自主决定是否思考,分别用多目标优化和受限优化目标训练。

深度学习自然语言处理