「多模型调度」共找到 9960 篇相关文章
本文关注vllm V1中管控模型分布式推理的Executor部分,介绍其类型、Executor-Workers架构及数据传输机制,对比V0架构优势,以单机多卡的MultiprocExecutor为例展开讲解,还提及不同数据量的传输方式及相关代码。
港科大和微软联合开源 SocialCoach,AI 情商教练!
香港科技大学(广州)与微软亚洲研究院联合开源基于大语言模型的AI情商教练SocialCoach,支持用户在低风险模拟环境练习社交对话,练后提供逐字点评,可在线体验或本地部署,采用Apache 2.0协议可完全商用。
Agent版Hugging Face来了,openJiuwen发布首个开源智能体资产平台
当前Agent能力多局限于单次会话,难以沉淀复用。华为联合多方打造的开源AI Agent平台openJiuwen,发布业内首个开源智能体资产平台,将Agent能力拆分为五类可复用资产,构建完整生态闭环,推动生产级Agent落地。
MinerU又开源了!这次专治OCR跨页失忆症
文档解析领域,MinerU团队开源了专门给OCR结果做“后处理”的4B小模型MinerU - Popo。它能把碎成一页一页的OCR结果重新拼成文档级结构,解决了当前OCR跨页逻辑断裂问题,且效果和成本优势突出。
“GPT-6”Astra能力首次公开!浙大同济校友参与研发
OpenAI为下一代模型Astra(传说中的GPT - 6)拉满预热,公开其能力。它在网络安全测试表现出色,但强大能力带来安全隐患。OpenAI设两道安全闸门,且两位华人研究员参与研发。此外,其新技术或影响可监控性。
用 Astra+Codex 干掉 CUDA!奥特曼9个月AI造芯反杀英伟达 GB300
北京时间昨日凌晨,OpenAI 公布自研推理芯片 Jalapeño 实测结果,其在多指标挑落英伟达 GB300。OpenAI 用 GPT - 6 和加强版 Codex 造芯,9 个月完成硬件设计优化,3 个月搞定软件栈,威胁英伟达 CUDA 根基。
一个Skill让DeepSeek V4 Pro超越Fable 5?热门插件被锤了
前两天J-Space凭夸张测试结果刷屏,宣称一份Skill接入Agent环境,能让V4 Pro在多基准大幅提升,部分成绩超Fable 5。但社区复测结果相反,作者未公开完整评测记录,还删质疑帖,引发公开打假。
无法蒸馏的美国市场,谁在分食 Frontier Labs 百亿美金预算?
本文围绕美国数据市场展开,分析了数据赛道的投资判断、公司增长难题、需求结构、最新趋势等。指出数据虽重要,但外部数据公司份额难线性外推;真实世界数据成新热点,各细分领域格局和投资方向不同。
用3万小时触觉数据补齐具身智能「手感」,新智具身联合复旦大学统一触觉「方言」
新智具身联合复旦大学发布三份技术报告,将触觉跃升为具身智能核心基建。构建3万小时交互语料库统一触觉“方言”;提出新方案让机器人提前预判触觉;在世界模型中重构“触觉想象”,推动具身智能“视触融合”。
显卡为什么卖得越来越贵?NVIDIA 副总裁:别争了,摩尔定律早就死透了
NVIDIA应用深度学习研究副总裁Bryan Catanzaro在播客中指出,嘲笑中国AI“套壳抄袭”是偏见,中国在开源协作上是全球领跑者。他认为摩尔定律已死,显卡难降价,还分享了对开源闭源、模型技术等看法。