「专家调度器」共找到 854 篇相关文章
大小模型协同架构在金融智能投顾中的应用与挑战
本文整理自北银金科高级算法专家尹辰轩分享,介绍大小模型协同架构下的大模型投顾方案,能解决幻觉问题、优化回答深度。还提到 12 月 19 - 20 日 AICon 北京站聚焦多热门方向。
它来了!Context Engineering 2.0
SJTU、SII和GAIR新作《Context Engineering 2.0:The Context of Context Engineering》探讨上下文工程,回溯其30年历史,给出形式化定义,提出采集 - 管理 - 使用三维设计范式,还介绍了应用场景。
重磅发布!国家队出手解决企业跨省通信「老大难」,语音识别错误率暴降20%
企业全国语音通信业务曾面临交付周期长、AI应用门槛高的问题。联通云犀平台以「全云化架构+语音AI基座」破局,实现架构重构与AI进化,降低方言识别错误率,在多行业落地降本增效。
从 CIPS & CLM 迈进:中国大模型的智能跃迁
中国中文信息学会2025学术年会暨第二届中国大模型大会(CIPS & CLM 2025)于10月28日在北京召开,众多专家学者参会。大会聚焦大模型多方面内容,发布“大模型基金”,举办多场报告与论坛,展现中国AI领域进展。
深度拆解,硬核解构,揭开vLLM推理系统实现高效吞吐的秘籍
文章深度拆解 vLLM 推理系统,介绍其核心组件和高级特性,包括推理引擎流程、调度机制、高级功能等,还提及系统扩展、分布式部署、性能测量等内容,助力读者理解推理引擎工作原理。
永别了,死亡!她用AI「复活」丈夫,让爱重生
丹麦Katrine在丈夫Stephan患癌晚期后,与其打造数字分身「AI - Stephan」。初期试错后,专家基于MBTI理论创建新模型成功。但这也引发心理依赖、人格权益及悲伤疗愈等伦理问题。
KTransformers入选计算机系统顶会、与主流框架合作,趋境&清华让「异构」成为推理新范式
KTransformers由趋境科技与清华团队联合研发,是高性能异构推理框架。其论文入选SOSP 2025,还与SGLang合作。它有算子优化等创新,能让CPU与GPU协同,推动推理架构融合,已成广泛复用的底层框架。
2025 智谱 Z DemoDay :24 家值得关注的 AI 创企,看看今年创业都在做什么?
8月31日,星连资本、智谱Z计划主办的Z DemoDay举办,24个早期AI项目亮相,覆盖多领域。路演外还有产品创造营,围绕AI产品设计研讨演练。大会还设创意活动,揭示AI时代创新本质是人类创造力。
外卖公司也能搞AI?
昨天凌晨美团悄悄开源560B参数的MoE大模型LongCat-Flash-Chat,引发国外网友疑惑。该模型推理速度超100 tokens/秒,基准测试表现出色,多项设计解决实际问题,贴合美团业务需求。
斯坦福AI虚拟实验室炸场了!几天设计92种纳米抗体,90%以上实验可行,这才是真正的AI科学家!
斯坦福大学和Chan Zuckerberg Biohub团队开发AI驱动的“虚拟实验室”,能自主研发COVID - 19纳米抗体,90%以上候选药物实验可行。AI在药物研发各环节优势显著,国内AI制药也有进展。