「性能成本平衡」共找到 3412 篇相关文章

算法论文8

GAIR Paper 106|追踪视觉 Token 的演化轨迹,实现无损压缩与 60% 推理加速|CVPR 2026

近年来大视觉语言模型虽推动多模态智能发展,但推理成本高昂。山东大学和MBZUAI团队提出TransPrune,从演化视角衡量视觉Token重要性,保持性能无损同时降低60%推理成本。

AI科技评论
新闻资讯7

微软发布了 TypeScript 5.9,延迟导入并增强了开发者体验

微软发布 TypeScript 5.9,带来开发者体验改进、新特性和性能优化,如支持延迟导入、改进默认项目设置、引入新模块选项等,也有性能升级,还透露未来版本计划。

InfoQ
开源动态8

首个基于 MCP 架构的低代码 RAG 框架

检索增强生成系统复杂度提升,科研人员面临高昂工程成本。清华大学等联合推出 UltraRAG 2.0,基于 MCP 架构,降低复杂 RAG 系统技术门槛与学习成本,支持低代码构建复杂系统。

GitHubStore
开源动态9

七校联合开源OpenWAM:机器人的「世界模拟器」来了

来自新加坡国立大学、清北等七所高校的研究团队,开源面向世界动作模型的全栈研究基础设施与基座OpenWAM,拆解核心问题,通过实验总结出高性能WAM构建原则,已通过仿真与真实机器人验证。

机器之心
8

4.1K Star!发现一个超轻量的 OpenClaw 平替项目,比 OpenClaw 内存少 99%!

开发者运行OpenClaw成本高,Sipeed推出超轻量开源项目PicoClaw。它内存占用小于10MB,成本只需10美元硬件,启动快、可移植,功能全,还介绍了入手方式和技术路线。

开源星探
算法论文7

ICLR 2025新成果:文档检索“降本增效”,从此“开挂”

传统文档检索系统处理视觉信息丰富的文档存在瓶颈,ColPali方法直接从文档页面图像生成多向量嵌入,简化流程、提高性能、降低延迟。ColQwen - Omni在其架构上扩展到图文+音频多模态匹配。

CourseAI
新闻资讯8

刚刚!微软 | 发布全新一代自研AI芯片Maia 200

微软提前发布自研AI芯片Maia 200,基于台积电3纳米工艺,性能超竞品,是其异构AI基础设施重要部分,将支持多个大模型,已部署在美中数据中心,还开放Maia SDK预览。

AINLPer
开源动态7

不写、不看、不审查:这家安全公司决定不再让人类碰代码,还把这套模式开源了

2026年2月,安全公司StrongDM公开“软件黑灯工厂”式生产线成果,人类不直接写代码和审查,由Agent自动生成。该模式开源,虽有开发者指出问题,但获学界认可,不过面临成本高的现实问题。

InfoQ
推荐文章7

[Triton编程][基础]vLLM Triton Merge Attention States Kernel详解

文章详细介绍vLLM中Triton Merge Attention States Kernel的实现,与PyTorch原生实现对比,该Triton kernel最高可实现3 - 5倍以上算子加速。内容涵盖Merge Attention States概念、PyTorch实现、Triton基础算子、分析及性能评估等。

GiantPandaLLM
产品应用7

作业帮StarRocks替换Presto落地实践

本文分享作业帮 2025 年 StarRocks 替换 Presto 的实践,涵盖历史背景、技术方案、双跑方案、结果分析,还提及核心问题及解决办法,项目上线后在资源、架构、性能上均有收益,也有未来规划。

InfoQ