分布式推理系统」共找到 3608 篇相关文章

推荐文章8

从0开发大模型的17种Agent架构演进详细拆解

文章详细拆解从0开发大模型的17种Agent架构演进,介绍各架构解决的问题、状态、拓扑、路由、失败模式等,指出Agent架构本质是控制流设计,还给出架构选择建议及判断新架构的方法。

腾讯技术工程
算法论文8

读万卷书,大模型就能「看」懂视觉世界?Meta揭秘LLM视觉先验的起源

Meta超级智能实验室与牛津团队新论文发现,只见过文本的大语言模型(LLM)能学到可迁移到视觉任务的先验能力。研究通过超100组受控实验、耗费50万GPU小时,揭开LLM视觉先验来源,还给出预训练数据配方。

机器之心
算法论文8

大模型Agent的下一阶段:可自我进化的AI-Agent

在人工智能飞速发展下,研究者探索让AI自我反思改进。本文作者构建自我进化AI智能体系统,设计四层渐进式架构,经《卡坦岛》实验,证明自我进化能力,不同模型表现有差异,代码级进化潜力惊人。

AINLPer
算法论文8

超越免训练剪枝:LightVLA引入可微分token剪枝,首次实现VLA模型性能和效率的双重突破

文章介绍LightVLA框架,它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题,提出两大创新,在LIBERO实验中性能超经典模型,还实现推理加速。

机器之心
新闻资讯7

智谱 GLM-4.5 团队深夜爆料:上下文要扩、小模型在路上,还承诺尽快发新模型!

今日凌晨,GLM系列模型四位研发成员在Reddit的AMA活动中,回答了GLM系列技术细节、未来规划等问题。透露扩展上下文、推小模型是重点,还承诺尽快发新模型,也探讨了大模型发展观点。

AI前线
推荐文章7

TPU vs GPU 全面技术对比:谁拥有 AI 算力最优解?

SemiAnalysis对Google TPU v7/v8深度拆解,将TPU与Nvidia GPU多方面对比拆到可计算层面。不过其结论有局限性,本文重新分析,指出TCO因场景而异,互联体系分歧在流量假设,Google TPU v8成本优势被削弱。

海外独角兽
开源动态7

最贵缩放录屏软件Screen Studio被这个开源项目复制了,完全免费!

Recordly是开源录屏与编辑工具,适用于演示等场景,支持多系统,比Screen Studio轻便顺滑还免费。有自动缩放等功能,介绍了安装、系统要求和使用方法。

GitHubStore
新闻资讯7

马斯克的Neuralink梦想成真?意识连续谱理论震惊科学界!

美国发育生物学家Michael Levin探讨意识与自我组装关系,强调意识是连续谱系。他从生物自我组装过程、意识与身份特性等多方面阐述,还呼吁用开放视角理解意识本质,并提出研究方向。

新智元
开源动态8

刚刚,新版DeepSeek-R1正式开源!直逼o3编程强到离谱,一手实测来了

临近端午假期,新版DeepSeek - R1凌晨正式开源,模型权重已上传到HuggingFace。其性能几乎与o4 - mini(Medium)相当,编程实测超越Claude 4 Sonnet。有多项更新亮点,经实测性能获“史诗级”加强。

新智元
开源动态7

AI 成为主流负载后,数据基础设施将如何演进?

随着AI应用爆发式增长,数据系统成为智能系统一部分。Apache Doris社区提出2026年主题‘Scale Intelligence, Accelerate Insight’,从场景和能力两方面阐述演进方向,以响应AI时代数据基础设施变化。

InfoQ