「新注意力机制」共找到 4331 篇相关文章
中科院类脑大模型SpikingBrain，2%数据，百倍速度
中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。
“大模型第一股”打响上市前哨战！智谱GLM-4.7 刷新开源编程SOTA，修复代码、终端操作表现超Claude 4.5
冲刺大模型第一股的智谱推出开源大模型GLM - 4.7，主打编程与代理式任务提升。它在多项基准测试中表现出色，UI质量飞跃，还采用新推理机制。智谱上市在即，但亏损扩张快，研发投入大。
OpenAI Astra被曝引入「循环深度」能力飙升！安全专家坐不住了
OpenAI 最强新模型 Astra 或即将发布，它是首个达「关键级」网络安全能力门槛的模型，在测试中表现优异。《The Information》爆料其用「循环深度」技术，能力提升但引发安全专家担忧，该技术可使模型内部计算增多，思维链监控或失效。
一篇多模态大模型推理技术最新综述
华东师大&字节跳动系统回顾基于强化学习的MLLMs推理进展，涵盖关键算法设计、奖励机制创新及实际应用，探讨了RL在LLMs/MLLMs中的关键设计与优化策略，还涉及多模态大模型推理多方面内容。
腾讯混元世界模型1.1开源：单卡秒级重建3D世界成为现实
腾讯混元团队开源混元世界模型1.1，它是混元3D世界模型1.0升级版。新增多视图及视频输入，单卡可部署，秒级创造3D世界。有核心突破，能处理多任务，经训练策略优化，多测试表现佳。
9B“小”模型干了票“大”的：性能超8倍参数模型，拿下23项SOTA | 智谱开源
智谱发布并开源仅9B大小的模型GLM-4.1V-9B-Thinking，在28项评测中拿下23个SOTA，成10B级别最佳VLM模型。它引入思维链推理机制，通过课程采样强化学习提升能力，还获10亿投资。
Qwen3技术报告首次全公开！“混合推理模型”是这样炼成的
本文首次公开Qwen3技术报告，介绍其模型架构、预训练及后训练过程、性能表现等技术细节。Qwen3整合两种模式，引入思考预算机制，降低轻量级模型计算资源，在多基准测试领先，多语言支持扩展至119种，所有模型开源。
【CUDA 博客】TMA简介 & 让矩阵转置在Hopper GPUs上变得更快
文章介绍Hopper GPU新特性TMA，它能高效传输多维数组数据。文中展示用TMA对2D数组操作，如创建张量映射、编写kernel等。还讲了避免共享内存bank冲突的交织方法，最后介绍在Hopper GPU上实现高效矩阵转置的多种方式及性能。
xAI员工赢麻了！全员换股SpaceX，AI月烧10亿美元终于有人兜底了
今天凌晨，计划今年 IPO 的 SpaceX 收购 xAI，全股票交易，新公司估值 1.25 万亿美元。马斯克阐明“太空 AI 算力”路线，认为未来两到三年，AI 计算成本最低的地方会在太空，但面临诸多问题。此次合并或是为 IPO 铺路。
奥特曼首曝GPT-6，亲口承认GPT-5「搞砸了」！接入大脑读心，估值或飙破5000亿
奥特曼在旧金山采访中透露GPT-6相关信息，坦言GPT-5发布‘搞砸了’，GPT-6主打个性化记忆功能。OpenAI新一轮融资后估值或达5000亿美金，但投入算力成本高，其估值也存泡沫争议。