「一体化方案」共找到 957 篇相关文章

算法论文8

时空压缩!剑桥大学提出注意力机制MTLA:推理加速5倍,显存减至1/8

在大语言模型发展中,Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA,结合时空压缩策略,提升推理效率,在多任务中表现出色,代码已开源。

机器之心
新闻资讯7

AI“租人”平台一夜爆火:时薪3500、2.4万用户抢着“卖身”,专家:警惕劣币驱逐良币

AI社交网络Moltbook引发恐慌后,RentAHuman.ai网站上线将AI雇佣人类变为商业系统。上线一天访问量破50万,超2.4万用户“挂牌待租”,引发热议与担忧,专家也给出相关判断。

InfoQ
算法论文8

Google新研究:降低大模型幻觉的全新视角——充分上下文!

谷歌新研究《SUFFICIENT CONTEXT: A NEW LENS ON RETRIEVAL AUGMENTED GENERATION SYSTEMS》提出“充分上下文”概念,剖析RAG系统失败原因并给出解决方案,对提升企业AI准确性和可靠性有重要意义。

AI工程化
开源动态8

PaddleOCR 3.0发布:OCR精度跃升13%,支持多语种、手写体与高精度文档解析

2025年5月20日,飞桨团队发布并开源PaddleOCR 3.0,适配飞桨框架3.0正式版。其提升文字识别精度,支持多文字类型和手写体识别,满足复杂文档解析需求,结合文心大模型4.5 Turbo提升关键信息抽取精度,还新增国产硬件支持。

开源AI项目落地
开源动态9

刚刚,DeepSeek自曝单集群日跑155万亿Token:白菜价背后,利润率竟高达80%

本文拆解DeepSeek大模型推理框架的底层超大规模集群调度设计,公布其单集群日吞吐155万亿Token,低价API下仍保持80%高毛利率,详解多项极致优化方案。

AI寒武纪
推荐文章9

从记忆到自进化:Agent 走向 RSI 的关键一步

本文结合OpenAI、Anthropic的最新AI研发动向,指出RSI是Agent自进化的核心方向,记忆是RSI的关键基础,介绍了MemoraX的记忆驱动RSI体系与多场景实践成果。

机器之心
开源动态9

SGLang 某些模型的 CUDA Graph 为什么会有上百条 decode cuda stream?

本文分析SGLang运行DeepSeek-V4.1时,CUDA Graph出现上百条decode CUDA流的问题成因,介绍开源PR的修复方案,分享了压缩profiler显示行数的实用脚本方法。

GiantPandaLLM
算法论文8

打破视觉Token的算力诅咒,RedundancyLens如何为多模态大模型推理减负

多模态大模型的 Decoder - only 架构处理视觉 Token 有计算冗余。合合信息团队提出无需额外训练的动态计算削减方法,在不影响性能前提下降低推理成本,适用于多场景。

PaperAgent
开源动态8

LeCun的世界模型单GPU就能跑了

LeCun世界模型有新进展,开源极简训练方案LeWorldModel,单GPU就能跑,基于JEPA架构,速度快、参数小、控制强且懂物理,完胜此前JEPA方法,训练更简单。

量子位
新闻资讯7

百度“龙虾” 全家桶亮相,多款龙虾产品上新,家用小度虾也来了

3月17日百度AIDAY龙虾专场,百度“龙虾”全家桶亮相,多款产品上新。百度集团沈抖谈OpenClaw趋势,还推出桌面AI智能体DuMate、“家用小龙虾”等,多个Skills也发布,持续降低体验门槛。

AIGC开放社区