「智能体推理」共找到 5134 篇相关文章
英伟达推理服务器被曝高危漏洞,云端AI模型被攻击直接裸奔
安全研究机构Wiz Research曝光英伟达Triton推理服务器一组高危漏洞链,可组合利用实现远程代码执行,造成模型被盗、数据泄露等后果。英伟达已发布补丁,25.07版本前系统有风险。
光轮智能完成 10 亿元融资,全球首个具身数据独角兽诞生
近日光轮智能完成10亿元A++及A+++轮融资,成全球首个具身数据独角兽。其构建具身规模化数据与仿真引擎,在三领域成全球交付冠军,还推动行业基础设施建设。
具身智能「全明星日」来袭!智源组局30+行业掌门人,激辩机器人终极命题
2025年是具身智能「爆发之年」。智源具身2025 OpenDay上,30多位行业大佬激辩,议题包括具身架构、数据获取、硬件瓶颈、应用落地等,智源还开源多项成果助力行业发展。
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的?
文章介绍了开源推理引擎 vLLM 和 SGLang,包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术,SGLang 基于 RadixAttention 优化。二者竞争激烈,性能趋同,还获投资与基金会关注,受科技公司青睐。
北大提出首个复数大模型,2比特量化,推理仅加法,可手机部署!
北大团队提出iFairy方案,将模型权重量化到复数集合,用2比特表示,压缩至原本1/8。推理仅需加减或交换数据位置,成本更低。Transformer架构“复数化”,iFairy模型PPL降10%,性能反超全精度,相关成果已开源。
专为青光眼设计!科学家开发智能隐形眼镜,24小时监控眼压,超标自动滴药
青光眼致病主因是眼压异常升高,传统治疗有痛点。寺崎生物医学创新研究所团队开发无电池、全聚合物微流控诊疗一体化智能隐形眼镜 AP - TSCL,能 24 小时监测眼压、自动给药,已展现高成药潜力。
HumanSense:探索多模态推理边界,打造「察言观色会共情」的全模态交互伙伴
蚂蚁集团与西安交通大学联合提出并开源 HumanSense,含评估基准与推理模型。通过细粒度评测、全模态消融等研究,提出优化策略,项目已在 GitHub 和 HuggingFace 开源,推动 AI 交互体验革新。
硅基生命的「成年礼」:上海具身智能的入世大考与万亿生态突围
2025年,上海具身智能产业发展迅速。政府通过场景开放、算力平权等举措构建生态。智元、傅利叶等企业成果显著。12月12日GDPS大赛是成果检验,各赛道考验机器人不同能力。
多模态扩散模型开始爆发,这次是高速可控还能学习推理的LaViDa
近期基于扩散模型的视觉 - 语言模型 LaViDa 出现,它继承扩散语言模型优点。与自回归模型不同,扩散模型能并行、处理双向上下文。LaViDa 在多任务测试有竞争力,推理蒸馏和文本填空表现好,还能权衡速度与质量。
具身智能一步踏入Scaling Law!10B+基础模型,27万小时真实数据
AI机器人创业公司Generalist推出新型具身基础模型GEN-0,参数量10B+,专为多模态训练构建。该模型展现强大Scaling Law,能力可扩展,有和谐推理等特性,在多方面有突破,成果备受赞誉。