「智能体推理」共找到 5204 篇相关文章
HBM Roadmap和HBM4的关键特性
文章介绍 KAIST TERALAB 公布的 HBM 技术，涵盖 HBM 路线图和 HBM4 特性。HBM 路线图展示从容量升级到计算存储融合的进化，HBM4 在电气规格、封装冷却、架构等方面有突破，AI 工具也用于研发。
不用千亿参数也能合成高质量数据！这个开源框架让小模型“组团逆袭”，7B性能直追72B
上海人工智能实验室与中国人民大学提出GRA框架，以“多人协作”理念让小模型分工生成高质量训练数据。实验显示其生成数据质量高，项目已开源。它打破对大模型蒸馏依赖，展现“集体智能”潜力。
AI自己给自己当网管，实现安全“顿悟时刻”，风险率直降9.6%
大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。
比自回归更灵活、比离散扩散更通用，首个纯Discrete Flow Matching多模态巨兽降临
近年来多模态大模型多采用自回归架构，推理缺乏灵活性。香港大学和华为诺亚方舟实验室研究团队提出FUDOKI，基于全新非掩码离散流匹配架构，能并行去噪、动态修正，为多模态模型开辟新路径。
新赋能•创生态 | 首钢园“产业跃升计划”发布会举办
在数字浪潮下，新质生产力成核心变量。5月28日，首钢园“产业跃升计划”发布会召开。其正构建“1+3+X”产业体系，园区已聚800余家科创企业。会上多位专家分享，还签约伙伴构建企业全生命周期服务体系。
Meta「轻量级」KernelLLM颠覆GPU内核生成，8B参数碾压GPT-4o
Meta推出基于Llama 3.1微调的8B参数KernelLLM，能将PyTorch代码转高效Triton GPU内核。实测单次推理性能超GPT - 4o和DeepSeek V3，多次生成得分更高，让内核开发更易上手。
大模型下半场，阶跃凭什么领跑多模态之战
国内大模型竞争分资源派、技术派、国家队三阵营，多模态成竞争分水岭。阶跃星辰成立两年发22款自研基座模型，16款为多模态。其坚持理解生成一体化路线，在多模态领域有优势，还布局多应用场景。
21
本文聚焦vllm v1中管控模型分布式推理的核心Executor部分，介绍其4种类型及适用场景，以mp类型为例阐述Executor - Workers架构，还说明了大小数据在两者间的传输机制及原理。
OpenAI 详解 GPT-Live 架构如何实现了连续的有状态语音交互
本文是InfoQ翻译的OpenAI技术分享，详细公开GPT-Live实现连续有状态低延迟语音交互的架构设计，分享了架构拆分、协议优化、上线测试等实践经验与设计权衡。
换题还是第一！DM0.5横扫RoboColiseum四榜
本文报道原力灵机DM0.5在智元机器人发起的RoboColiseum具身模型评测中拿下四个单项第一，这已是该模型连续拿下六套不同类型公开评测的榜首，攻破了传统具身模型换题掉分的痛点，目前已开源落地产业场景。