Attention性能瓶颈」共找到 2427 篇相关文章

新闻资讯8

Claude 5史诗级泄露,史上最强编程模型评测炸裂!核心秘密曝光

Anthropic的Claude Sonnet 5即将发布,已存在于谷歌基础设施中,性能领先谷歌‘Snow Bunny’一代。它价格比Opus 4.5便宜50%,有100万token上下文窗口,SWE - Bench成绩超80.9%,还有自动开发团队模型。

新智元
算法论文8

Embedding黑箱成为历史!这个新框架让模型“先解释,再学Embedding”

来自多高校研究人员推出可解释的生成式Embedding框架GRACE,解决传统文本表征模型黑箱式表征瓶颈。它重新定义对比学习信号,含三个关键模块,训练双模式统一,实验跨任务提升且不损生成能力。

量子位
新闻资讯7

“iFold”,苹果AI新成果

苹果发布基于流匹配的蛋白质折叠模型SimpleFold,被戏称“iFold”。它用通用Transformer模块搭配流匹配生成范式,3B参数版本追平谷歌AlphaFold2性能,还解决了传统模型算力依赖问题,效率高。

量子位
新闻资讯7

大模型平台Mistral正洽谈10亿美元融资

彭博消息,法国大模型开源平台Mistral正与阿布扎比MGX基金及法国贷款机构洽谈10亿美元融资。MistralAI成立于2023年,模型性能佳,2023年末至2024年多轮融资使估值飙升,还开发多款模型。

AIGC开放社区
新闻资讯8

The Batch:835 | 图表中的 AI 市场趋势

知名投资分析师 Mary Meeker 时隔六年发布 340 页 AI 市场报告。报告指出 AI 变革快、性能攀升、有新兴能力,还会影响劳动力等,同时也带来经济不确定性,当下是开发软件应用的黄金时期。

DeeplearningAI
算法论文8

精准调控大模型生成与推理!浙大&腾讯新方法尝试为其注入“行为定向剂”

ACL 2025中选论文里,浙大与腾讯联合团队提出STA方法,深入模型内部分析神经元激活模式,干预关键神经元,抑制有害行为、保留通用性能,还在多模型实验验证效果,并将部分方法开源。

量子位
开源动态8

北大提出首个复数大模型,2比特量化,推理仅加法,可手机部署!

北大团队提出iFairy方案,将模型权重量化到复数集合,用2比特表示,压缩至原本1/8。推理仅需加减或交换数据位置,成本更低。Transformer架构“复数化”,iFairy模型PPL降10%,性能反超全精度,相关成果已开源。

量子位
算法论文8

启发学习:让大模型认知从外化到内生

当下大模型能力多靠人为框架,能力上限受限。文章提出“启发学习”,将其集成到推理侧成Isaac框架,通过Prompt与网络层注入复用旧经验,实验显示能大幅提升大模型任务性能

机器之心
推荐文章8

给野马套上缰绳:Agent Harness 工程实践 ——从范式理论到钉钉AI招聘的真实落地

本文围绕 Agent Harness 工程实践展开,指出瓶颈在‘装’好模型而非模型本身。介绍 Agent 公式、范式跃迁、四条铁律、工程模式,以悟空 AI 招聘为例说明落地,还分析行业标杆、未来趋势,给出心法。

阿里云开发者
推荐文章8

为什么开发者放弃框架而选择原生 JavaScript

前端开发者正在回归原生 JavaScript。原生 API 和 AI 工具使其成为框架疲劳的解药,成熟的 API、性能考量、AI 助力、微前端与无构建架构兴起等因素促使开发者做此选择。

InfoQ