Attention性能瓶颈」共找到 2434 篇相关文章

新闻资讯7

OpenAI IMO金牌团队爆料:AI拒绝作答第六题

OpenAI IMO团队接受采访,透露让模型获IMO金牌的项目仅用两三个月、核心开发者仅三人。还谈及模型证明风格、第六题失分原因、解决千禧年大奖难题距离等,强调通用技术及面临的新挑战。

机器之心
新闻资讯8

OpenAI o1核心大佬离职后首次演讲!AI智能体=人力+代码「无限杠杆」

OpenAI研究员Hyung Won Chung离职后发声,认为AI是人类历史上最强大杠杆,结合人力与科技优势。它能提升个人学习效率,智能体作为复合杠杆让小团队创造大价值,还能加速社会科学进步。

新智元
产品应用8

用完字节的火山 VikingDB,我都不舍得告诉别人

作者所在团队与字节跳动的VikingDB RAG产品合作研发墨问“知识库”功能。介绍了VikingDB的向量库、知识库和长期记忆库能力,对比传统数据库凸显其优势,还阐述了相关技术推动信息连接变革。

MacTalk
开源动态7

Kimi K2发布两天即“封神”?80%成本优势追平Claude 4、打趴“全球最强AI”,架构与DeepSeek相似!

国内独角兽月之暗面发布开源模型 Kimi K2,推出两天就在 OpenRouter 超越 xAI 的 Grok 4。它成本优势大,能力泛化和实用性强,编码、Agent 工具调用等方面表现出色,架构与 DeepSeek 相似。

AI前线
新闻资讯7

Meta为他豪掷2亿美元,上交校友庞若鸣,晒出在苹果的最新论文

苹果基础模型团队负责人庞若鸣即将加入Meta,Meta为其开出2亿美金天价。7月9日庞若鸣宣传在苹果参与的研究《AXLearn: Modular Large Model Training on Heterogeneous Infrastructure》,介绍了AXLearn系统优势、架构、实验评估等。

机器之心
开源动态8

Agent RL和智能体自我进化的关键一步: TaskCraft实现复杂智能体任务的自动生成

当前智能体训练缺高质量任务数据,主流数据集依赖人工标注,规模和复杂性受限。OPPO 研究院提出 TaskCraft 框架,能自动生成智能体任务,构建并开源含约 41,000 条任务的数据集,支撑智能体训练评估。

机器之心
开源动态8

揭秘 GitHub 11.1k 让你的存储秒变“万能盘”?JuiceFS:最好用的存储系统能为你带来怎样革命性的提升?

云存储成本高、性能差等问题让人烦恼,JuiceFS 可零代码改造,将对象存储升级为高速共享文件系统。它功能丰富、架构有优势,代码示例简单,适用于多场景,相比竞品优势明显。

小华同学ai
算法论文8

ICML 2025 Spotlight | 新理论框架解锁流匹配模型的引导生成

西湖大学冯睿骐、吴泰霖等针对流匹配模型能量引导算法难题,推导新理论框架,提出三大类实用算法,给出性能分析与比较,为流匹配引导采样及生成模型应用提供理论基础。

机器之心
算法论文8

GraphRAG太慢LightRAG延迟高?华东师大新方法一招破解双重难题

华东师大李翔老师带领的Planing Lab团队推出E²GraphRAG方法,解决GraphRAG索引慢、LightRAG查询延迟高的问题。该方法用SpaCy识别实体,结合图和树查询,在构建和查询时间上表现出色。

量子位
算法论文8

时空压缩!剑桥大学提出注意力机制MTLA:推理加速5倍,显存减至1/8

在大语言模型发展中,Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA,结合时空压缩策略,提升推理效率,在多任务中表现出色,代码已开源。

机器之心