「芯片方案」共找到 1430 篇相关文章
时空压缩!剑桥大学提出注意力机制MTLA:推理加速5倍,显存减至1/8
在大语言模型发展中,Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA,结合时空压缩策略,提升推理效率,在多任务中表现出色,代码已开源。
行业迎来大洗牌!4万 Agent 挤进一个机柜,AI Infra 要如何构建?
当 AI 从聊天机器人变为 Agent 后,AI 基础设施逻辑改变。浪潮信息副总经理赵帅判断,Agent 迫使 AI 基础设施重新分工,带来新的 CPU 计算需求。企业需关注资源分配、成本控制、系统重构等问题。
老黄公开叫阵谷歌,一个能打的都没有!首次承认低估了Anthropic
在近两小时播客中,英伟达CEO黄仁勋与主持人深度对话,重申技术护城河,对全球竞争格局表达预判。他叫阵谷歌TPU、亚马逊Trainium上MLPerf打擂,无人应战;还承认低估Anthropic,阐述英伟达商业哲学。
几千亿美元远远不够!黄仁勋亲笔长文:AI 是人类历史上最大的基建浪潮
英伟达CEO黄仁勋发布长文,指出AI是关键基础设施,运行依托硬件、能源与经济规律。AI可解构为五层架构,目前投入仅数千亿美元,未来还有数万亿规模待建,正演变成最大基建运动。
AI“租人”平台一夜爆火:时薪3500、2.4万用户抢着“卖身”,专家:警惕劣币驱逐良币
AI社交网络Moltbook引发恐慌后,RentAHuman.ai网站上线将AI雇佣人类变为商业系统。上线一天访问量破50万,超2.4万用户“挂牌待租”,引发热议与担忧,专家也给出相关判断。
Google新研究:降低大模型幻觉的全新视角——充分上下文!
谷歌新研究《SUFFICIENT CONTEXT: A NEW LENS ON RETRIEVAL AUGMENTED GENERATION SYSTEMS》提出“充分上下文”概念,剖析RAG系统失败原因并给出解决方案,对提升企业AI准确性和可靠性有重要意义。
PaddleOCR 3.0发布:OCR精度跃升13%,支持多语种、手写体与高精度文档解析
2025年5月20日,飞桨团队发布并开源PaddleOCR 3.0,适配飞桨框架3.0正式版。其提升文字识别精度,支持多文字类型和手写体识别,满足复杂文档解析需求,结合文心大模型4.5 Turbo提升关键信息抽取精度,还新增国产硬件支持。
震撼!人类第一张在太空生成的图片曝光
人类首张太空生成图片曝光,共绩科技与星测未来两家清华系企业携手开启「天地同算」时代。前者解决算力调度难题,后者让太空有算力可用,未来太空或成分布式超级计算机。
打破视觉Token的算力诅咒,RedundancyLens如何为多模态大模型推理减负
多模态大模型的 Decoder - only 架构处理视觉 Token 有计算冗余。合合信息团队提出无需额外训练的动态计算削减方法,在不影响性能前提下降低推理成本,适用于多场景。
LeCun的世界模型单GPU就能跑了
LeCun世界模型有新进展,开源极简训练方案LeWorldModel,单GPU就能跑,基于JEPA架构,速度快、参数小、控制强且懂物理,完胜此前JEPA方法,训练更简单。