「概念研究」共找到 2212 篇相关文章
ICML 2025 | 千倍长度泛化！蚂蚁新注意力机制GCA实现16M长上下文精准理解
在大语言模型发展中，长文本建模挑战大。蚂蚁研究团队提出注意力机制GCA，可端到端学习检索相关片段，实现超长序列处理与泛化，其Triton kernel实现已开源，论文被ICML 2025接收。
比自回归更灵活、比离散扩散更通用，首个纯Discrete Flow Matching多模态巨兽降临
近年来多模态大模型多采用自回归架构，推理缺乏灵活性。香港大学和华为诺亚方舟实验室研究团队提出FUDOKI，基于全新非掩码离散流匹配架构，能并行去噪、动态修正，为多模态模型开辟新路径。
AI 能耗救星！这个能倒着走的「可逆计算」芯片，将能耗直降10倍
最新研究提出可逆芯片，通过让计算「倒着走」，有望将AI能耗直降10倍。它基于热力学原理，避免删除数据以减少热量产生。经几十年探索，如今可逆计算或成延续计算进步关键。
英伟达发现RL Scaling！创造力暴涨，做基座模型做不了的事！
过去学界争论强化学习（RL）对语言模型的作用，此前研究认为其效果有限。本文发现问题出在训练时间短，提出ProRL，让训练突破2000步以上，结果惊人，小模型也能有出色表现。
微软等提出「模型链」新范式，与Transformer性能相当，扩展性灵活性更好
随着大语言模型发展，扩展 Transformer 架构成趋势，但参数规模增长带来训练负担。微软等研究者提出 CoR 概念，构建模型链学习范式，应用于语言模型得 CoLM 系列，实验显示其性能相当且扩展性、灵活性更好。
AI 编程越来越厉害了，我要怎么提升自己的系统架构能力？
文章指出 AI 写代码能力提升，对程序员系统架构能力要求更高且难被替代。介绍系统设计概念，分析做系统设计的难点，给出新人提升系统设计能力的方法，还说明 AI 可辅助提升该能力。
一文解读 LLM Posting-Train技术
文章解读了大语言模型后训练（Post-training）技术，介绍其核心价值，从微调、强化学习、测试时拓展三方面展开，分析现有技术瓶颈，指出前沿研究方向，还给出实践指南和工具链推荐。
OpenAI没做到，DeepSeek搞定了！开源引爆推理革命
文章围绕大语言模型推理能力展开，介绍了推理模型概念，回顾RLHF训练流程，对比OpenAI的PPO和DeepSeek的GRPO，还阐述了GRPO开源升级版DAPO的关键技术点及训练中模型的新能力。
Ruby on Rails 之父 DHH 预言：未来“写代码”会变成不合时宜的念头！
文章介绍‘氛围编程’概念，腾讯入局推出CodeBuddy。开发者分享用此变现路径。Ruby on Rails之父DHH赞赏AI辅助，但反对全外包。网友看法不一，这场讨论揭示AI在编程中角色的核心命题。
CAI+DeepSeek渗透测试情况及扩展分析
文章对CAI+DeepSeek进行渗透测试。介绍CAI安装，在kali按Ubuntu指令装，使用界面友好。测试中CAI执行指令彻底灵活，扫描分析到位。还提及CAI多种能力，称其作为开源框架全面细致，值得研究。