「基准测试成本」共找到 3428 篇相关文章
SGLang 优化Triton FusedMoE 的一个新技巧
蚂蚁在SGLang中提交优化PR,针对Fused Triton MoE的Down Projection kernel加入TMA优化,在DeepSeek - R1模型的H200 TP8 prefill场景下性能提升显著,还详细分析了优化背景、思路、实现细节及测试结果。
Anthropic 发布最新研究:LLM 展现初步自省迹象
Anthropic 最新研究表明,Claude 展现出真实但有限的内省能力,能在某种程度上识别自己内部状态。研究团队开发验证方法,通过概念注入等实验进行测试,还发现认知控制证据等,不过该能力有局限。
告别 260 亿美元的低效投入,HappyRobot 为物流业配置 “AI 调度员”
HappyRobot为物流市场搭建AI-native平台,切入“voice agent + 通信自动化”领域,打造“数字员工”。它能提升沟通效率、降低成本,已获6200万美元融资,还尝试拓展至其他行业。不过,也面临AI价值兑现不对称等潜在风险。
DeepSeek开源的不仅仅是个新OCR模型。。。
DeepSeek开源3B参数的新OCR模型,重新思考AI处理长文本方式,用视觉token压缩文本信息。核心组件有DeepEncoder和DeepSeek3B - MoE解码器,实验效果好,成本降低,还解决了一些算法和工程问题。
AI自动生成工作流,n8n官方出品
AI自动生成工作流成趋势,n8n官方已支持该功能。新建工作流时点击“Build with AI”,用自然语言告知需求,AI会搜索节点并连接成工作流。目前仅云端版可用,使用需切换到最新测试版。
Meta「分割一切」3.0曝光!技能语义分割加入概念提示,好好玩,要爆了
Meta第三代“分割一切”模型SAM 3悄然投稿ICLR 2026。它支持基于概念提示的多实例分割,能听懂人话,处理图片快,还设计新架构、构建数据引擎、提出SA - Co基准,实验表现佳但也有局限。
超越单文件代码生成:微软发布的ZeroRepo如何规划构建3.6万行大型软件?
微软等团队提出Repository Planning Graph(RPG),开发ZeroRepo框架,实现从零生成大规模代码库。RepoCraft基准实验显示,ZeroRepo功能覆盖率81.5%,代码近3.6万行,超现有基线,为AI驱动的软件工程开辟新路径。
谁在重新定义 AI 云?
过去几年,AI成云计算行业统一叙事,但厂商口号趋同,差异化消解。当下AI从“炫技”走向“应用”,华为云在全联接大会2025上提出新组合,回应行业成本、基建和应用难题,不过路径也面临挑战。
SGLang × RoleBasedGroup(RBG):打通大模型推理PD分离架构规模化落地的“最后一公里”
PD分离架构对大模型推理部署意义重大,SGLang支持该架构且性能佳。但从测试到生产落地难,存在部署、资源、可靠性等问题。SGLang开源RBG项目,结合二者为PD分离架构生产化落地提供方案。
专访 Aivilization 创始人:数十万人赛博捏崽的背后故事
本文是对 Aivilization 创始人的专访。该项目是“AI 原生”社会实验游戏,玩家可养成智能体。团队本想做公益游戏,没想到爆火。文中还介绍玩法、与其他项目差异、玩家画像,也提及成本、意外现象等。