分布式推理系统」共找到 3605 篇相关文章

算法论文8

分享两篇Claude Skills最新论文,有3个核心结论

文章分享两篇Claude Skills最新论文,总结出技能安全漏洞、技能数量与准确率关系等结论。还探讨单智能体技能系统能否取代多智能体,通过实验验证其效率优势,并提出解决技能选择过载的方案,也对Agent Skills做了安全分析。

PaperAgent
新闻资讯7

谷歌最强大模型付费上线,在DeepSeek开源后被吐槽太贵

谷歌最强模型Gemini 3 Deep Think上线,推理能力强,能将草图变3D场景、搭建游戏。它在多评测基准表现出色,准确率超GPT - 5 Pro等。但仅向Ultra会员开放,月费约1800元,被吐槽贵,开源的DeepSeek-V3.2成冲击因素。

量子位
推荐文章8

李建忠:关于AI时代人机交互和智能体生态的研究和思考

在2025全球产品经理大会中,奇点智能研究院院长李建忠分享了大模型驱动的AI产业生态和产品创新。他谈到推理范式转换使模型进入“经验数据时代”,还分析了应用开发、人机交互范式转换及智能体生态演进,预言孤立App时代终结。

AI科技大本营
开源动态8

不堆参数堆架构,这个8B开源模型把图像理解和生成统一了

商汤开源全新架构的理解生成统一模型SenseNova-U1,虽小尺寸版仅8B参数,却能复刻GPT - Image - 2的不少绝活,在多项指标上登顶开源模型榜首,推理速度逼近主流商用闭源模型。它具备连续性图文创作等能力,底层是NEO - unify架构。

量子位
推荐文章8

你不知道的 Agent:原理、架构与工程实践

文章聚焦 Agent 架构中影响工程效果的关键内容,如控制流、上下文工程等。介绍 Agent 基本运转方式、控制模式,强调 Harness 比模型更关键,还阐述上下文工程、工具设计、记忆系统等要点,并以 OpenClaw 为例说明落地方法。

阿里云开发者
新闻资讯7

Google 团队一年都没做出来的项目 Claude Code 一小时就把代码写出来了

Google首席工程师称团队一年没搞定的分布式Agent编排系统,Claude Code一小时生成代码。但后续有澄清,AI是基于人一年探索成果生成‘玩具版本’。还分析了工作价值、瓶颈转移等,指出AI时代个体和小团队机会。

宝玉AI
开源动态8

国产LLM大爆发的一周,Hugging Face热榜被承包了!

这一周国产开源LLM集中爆发,GLM - 4.5、Qwen3的5连发、Step3等接连发布。GLM - 4.5是新一代开源SOTA模型;Qwen3各版本在不同能力上提升显著;Step3是多模态推理模型;腾讯还发布了混元3D世界模型1.0。

PaperAgent
开源动态7

本文关注vllm V1中管控模型分布式推理的Executor部分,介绍其类型、Executor-Workers架构及数据传输机制,对比V0架构优势,以单机多卡的MultiprocExecutor为例展开讲解,还提及不同数据量的传输方式及相关代码。

猛猿
新闻资讯7

我在618主场,和3位顶尖技术博士聊了聊

本文讲述了作者在618与京东三位技术博士的交流。长林主导同品判别系统优化,采用模型蒸馏和数据筛选提升效率;星衍负责物流机械臂项目,强调打透场景;初雪专注语音识别,提升识别准确率和探索创新方向。京东还推出TGT计划吸引人才。

量子位
开源动态8

6.1B打平40B Dense模型,蚂蚁开源最新MoE模型Ling-flash-2.0

蚂蚁百灵大模型团队开源 MoE 大模型 Ling-flash-2.0,其以轻量级配置展现卓越性能,在推理速度、任务性能、部署成本间找到新平衡,为大模型‘参数膨胀’提供新路径,还在多领域应用表现出色。

机器之心