搜索：无注意力模型

「无注意力模型」共找到 8076 篇相关文章

20000 GPU·h砸出 106 个SOTA模型架构：AI 科研进入“自我加速”时代

模型架构发现领域迎来突破，ASI - ARCH超级智能体无需人类预设搜索空间，完成科研闭环。经20000 GPU·h、1773次实验，发现106个超越人类SOTA的线性注意力架构，且已开源。

OpenAI推出医疗开源测试基准HealthBench，由262位多国医生合作打造，含5000段真实健康对话。评估显示o3综合表现最佳，顶尖AI处理任务能力超无辅助医生，HealthBench更真实专业有区分度，但也有局限。

Claude Code 强大源于其强大模型基础、丰富实用的内置工具、不压缩上下文信息及无 IDE 包袱等优势。相比之下，OpenAI 的 Codex 因模型能力、强化训练不足等落后，Anthropic 还靠亏本推广积累数据。

中国电信天翼AI发布星辰超级智能体，获2025企业级AI Agent榜单央企第一。它依托自研“星辰大模型”，具备全模态、复杂推理等能力。访谈专家指出智能体可直接产出应用，落地需嵌入主业系统，电信持续迭代模型优化它。

OpenAI发布GPT-5.1，主打更智能、更具对话性，无跑分打榜，有人设说人话。包括Instant和Thinking两个子模型，简单问题快，复杂问题智能。本周逐步向用户免费开放，还更新了语气风格等功能。

大语言模型在高考数学拿高分靠强化学习，但文科题无标准答案，此方法行不通。豆包1.6系列高考文科全科获683分，靠训练数据、思维链、长上下文和多模态直接读图等因素。

文章围绕deepseek V4技术报告展开，指出当前大模型训练不充分，介绍了算法层面如混合注意力机制、模型结构优化、优化器等，工程层面如细粒度专家并行、算子内核开发等，以及后训练的范式转变和领域专家网络蒸馏等内容。

WAIC 2026热度高涨，InfoQ直播间追问‘AI正在重写什么’。与会嘉宾讨论AI产业新阶段变化，如从‘看能力’到‘算总账’，认为模型重要性方式已变，还探讨了AI原生产品定义、AI Infra影响及未来关注方向。

ICML2026 论文指出，大语言模型内部会自然形成类似人类心理学模型的「情绪树」，模型越大，情绪树越复杂，且在销售等任务上表现更好。同时，模型的情绪结构受身份设定影响，存在与人类相似的情绪识别偏见。

在大语言模型发展中，长文本建模挑战大。蚂蚁研究团队提出注意力机制GCA，可端到端学习检索相关片段，实现超长序列处理与泛化，其Triton kernel实现已开源，论文被ICML 2025接收。