自注意力机制」共找到 1944 篇相关文章

8

分布式事务:共识之外,分布式系统状态管理的另一大基石

文章深入探讨分布式系统中“共识”与“事务”的区别与协同,介绍分布式事务的应用场景、实现范式、隔离级别,还阐述 MVCC 机制及其在并发控制、版本存储等方面的应用,最后调研业界数据库产品的事务实现。

阿里云开发者
算法论文8

Anthropic最新论文:检测LLM内省意识的方法

Anthropic与MIT等研究表明,LLM能‘感知’被注入的steering vector,‘内省意识’在DPO等后训练阶段涌现。研究构建实验,发现内省能力行为稳健、检测非简单线性关联等,还揭示检测与识别机制不同及两阶段电路。

PaperAgent
新闻资讯8

英伟达:RLP 让 AI 在预训练时就学会思考

英伟达研究团队发布 RLP 技术,与传统大语言模型训练不同,它在预训练阶段就让模型学会'先想后说'。通过奖励机制我监督,实验效果惊人,性能提升显著,不挑数据,打破了大模型训练范式。

AI工程化
推荐文章8

卡帕西点赞Transformer内置计算机!每秒3万Token吞吐,拿下世界最难数独

当前大模型推理顶尖但精确计算不足,Percepta团队在Transformer权重里内嵌可执行程序,通过2维注意力头设计提升推理效率,能在普通CPU上实现每秒3万+Token的流式输出,还精确求解了世界最难数独。

量子位
新闻资讯8

李飞飞LeCun疯狂加注!这匹中国黑马,已在因果AI暗战6年

世界模型成AI核心战场,背后是行业向因果科学转向。多数人2026年关注“因果”,中国零犀科技早在2020年就探索因果AI,研因果大模型,搭建工程架构,将能力融入业务体系,提前布局优势凸显。

新智元
算法论文8

RAG外部检索是多余的,英伟达最新成果颠覆认知

英伟达INTRA论文指出RAG架构中检索器和生成器在不同表示空间工作,存在retriever - generator mismatch问题。INTRA让模型用注意力查询检索身编码表示,训练量小,在多跳QA上超越多种检索基线。

PaperAgent
开源动态8

AI记忆革命爆发!Clawdbot如何像大脑般记住一切

2026年初开源个人AI助手Clawdbot引爆社区。它可本地运行、集成聊天平台、主处理任务,有长时记忆和任务执行能力。AI研究工程师Manthan Gupta复盘其记忆机制原理,涉及上下文、记忆存储、搜索等内容。

新智元
推荐文章7

架构师困境:选择已被验证的道路,还是行开辟一条新路?

开发软件时,团队要做产品功能和架构决策,面临选已验证路径还是辟新路的困境。使用平台和框架虽能加快开发,但有副作用。团队需通过实验判断何时扩展或替换平台。

InfoQ
开源动态8

Gemini 3 Pro加持!这款开源神器 Clipsketch AI,帮你动抓帧、画图、写爆文!

媒体内卷,‘视频转图文’是流量入口,简单截图难满足需求。clipsketch - ai 开源项目用 Gemini 3 Pro 和 Nano Banana Pro 模型,实现视频理解、AI 绘画和写作动化,解决创作者素材整理、版权等痛点。

开源星探
新闻资讯7

开盘大涨416%,市值近3000亿元,“国产GPU第一股”今日上市

12月5日,“国产GPU第一股”摩尔线程登陆A股,开盘大涨416%,市值近3000亿。它成立五年成国内代表企业,有全栈研能力。不过,也面临国际巨头、国内竞品、供应链等挑战,且尚未盈利。

芯师爷