「并行循环Transformer」共找到 615 篇相关文章
Transformer亲爹痛斥：当前AI陷死胡同，微调纯属浪费时间！
Sakana AI创始人Llion Jones是Transformer发明者之一，他警告当前Transformer虽成功，但业界或重蹈RNN覆辙，无数微调是浪费时间。他认为现在LLM非通用智能，已转向探索生物学启发的新架构。
吴恩达最新来信：是时候关注并行智能体了
吴恩达在最新来信中指出，并行智能体正成为提升AI能力新方向，多个agent协作能高效处理不同任务。相比依靠数据和算力提升性能的方法，并行agent提升性能同时无需用户久等，且大模型token成本下降使其可行。
「Tokens是胡扯」，Mamba作者抛出颠覆性观点，揭露Transformer深层缺陷
Mamba作者Albert Gu在博客中探讨状态空间模型（SSM）和Transformer权衡，抛出‘Tokens是胡扯’观点，揭露Transformer深层缺陷，如分词问题、处理噪声能力弱等，还分析两类模型特点及结合优势。
「有望成为Transformer杀手」，谷歌DeepMind新架构MoR实现两倍推理速度
谷歌DeepMind发布新架构MoR，有望成Transformer杀手。它统一实现参数共享、自适应计算，兼顾性能与效率。实验显示其推理吞吐量提升，降低计算需求，但能否取代Transformer存疑。
困住医疗AI的死循环，终于有国产玩家跑通了
文章指出医疗AI行业因数据、模型、场景闭环断裂陷入困境，整体渗透率低。讯飞医疗的星火医疗大模型V3.5评测和临床落地表现出色，其构建自强化循环体系，跑通死循环，或使行业马太效应渐显。
奥特曼宣判Transformer死刑！ AGI两年内降临，下一代架构已在路上
奥特曼在访谈中表示未来将有全新底层架构取代Transformer，还称AGI两年内降临，编程智能体是下一个引爆点。他回忆OpenAI草创期，还给出诸多判断，“后Transformer”竞赛也已打响。
在一台1970年代的PDP-11上训练Transformer需要多久？答案是5.5分钟
近日，开发者复现1970年代技术环境，用PDP - 11汇编语言实现Transformer并训练成功，项目叫ATTN - 11。在低资源下实现功能闭环引热议，大家思考Transformer到底需要什么。
逐个token太慢！大模型原生并行出token，CMU、英伟达新作Multiverse
卡耐基梅隆大学（CMU）和英伟达研究者提出Multiverse，这是能实现原生并行生成的新型生成模型。它解决了现有并行生成模型缺乏连贯性等问题，通过多方面协同设计构建推理模型，还开源了生态系统。
一封来自Transformer之父的分手信：8年了！世界需要新的AI架构
Transformer之父Llion Jones在TED AI大会上称要把对Transformer的爱好调成「低电量模式」。他认为大量资金与人才涌入使研究被「收窄」，大家只顾卷参数、抢发论文，没人探索新架构，他呼吁找回好奇心。
腾讯AI Lab首创RL框架Parallel-R1，教大模型学会「并行思维」
腾讯AI Lab等机构研究者首创Parallel - R1框架，通过强化学习让大模型掌握并行思维。它解决了RL训练的冷启动和奖励设计难题，在多数学基准上提升准确率，还揭示模型思维策略变化及并行思维的‘脚手架’作用。