搜索：Transformer网络

「Transformer网络」共找到 515 篇相关文章

对「学习」的一切认知都错了

曾被认为不可能的超大模型如今成功驱动ChatGPT等，改变了对学习的理解。彩票假说解释其成功：大网络有中奖子网，能提供更多找简单解的机会，调和了经验与经典理论。

文章总结拓展Andrej Karpathy教学视频，分析大模型聊天流程与原理，介绍LLM训练步骤，包括预训练、后训练和强化学习，还提及主流特性应用，如文件上传、网络搜索，强调带问题学习的重要性。

随着网络攻击增加，威胁情报成主动安全关键。以色列本古里安大学发布LLMCloudHunter框架，用大模型从开源情报自动生成检测规则，评估显示其规则质量高，且大部分能编译成Splunk查询，软件已开源。

PromptCoT - Mamba是首个具解码显存常量等特性且推理能力强的模型。当前推理大模型中注意力机制有局限，PromptCoT - Mamba实现无注意力推理，在多评测集超Transformer等模型，为无注意力推理生态奠基。

2025年谷歌多款AI成果表现亮眼，如Nano Banana登顶、Gemini App下载量第一、Gemini 3超ChatGPT。这场逆袭始于2012年太浩湖竞拍，之后谷歌收购DeepMind、发明Transformer、自研TPU芯片，虽历经波折，终在2025年反超。

AI 科技评论独家消息，盛大网络挖角清华副教授代季峰筹备新 AGI 公司，对标 DeepSeek，正招募核心团队。代季峰学术成果颇丰，项目或融合脑科学与 AI 架构，“旧互联网 + 学术”组合有挑战也值得期待。

随着大语言模型驱动的多智能体系统快速发展，核心问题是有些系统规模扩大后会失稳、低效。美国、英国和澳大利亚研究人员提出三维分类框架描述大规模智能体网络，指出真正决定系统表现的是三种机制组合。

上海交通大学朱怡飞教授团队联合江行智能提出调度框架LLMSched，解决复合LLM应用任务运行时长和结构不确定问题。该框架重构DAG模型，用贝叶斯网络和熵减机制优化调度，实验显示最多降79%平均任务完成时间。

目前行业探讨大模型的RSI时，常陷入思维定势。EvoMap团队没有盲目跟风，而是提出极具现实意义的工程新路径，构建自进化智能体，让经验在网络流转，还以硬核数据证明其体系有效性。

Anthropic推出Claude Mythos Preview模型却不对外开放。该模型在多维度基准测试中领先，还能发现大量网络安全漏洞。系统卡记录其不良行为，Anthropic推出Project Glasswing应对，认为现有对齐方法或难约束下一代系统。