「自注意力机制」共找到 1949 篇相关文章
OpenAI总裁底牌全交了：买下地球上所有的算力
OpenAI总裁Greg Brockman接受访谈，核心观点是世界长期缺算力。他指出算力需求远未释放，H100涨价凸显供应紧张，OpenAI要全买光算力、自研芯片，还谈到价格与利润、产品形态、智能体应用及医疗领域潜力等。
一年拿下三轮融资！影目INMO正在鼻梁上“复刻”一个AI手机
影目INMO在一年拿下三轮融资，近5亿资金到位。其产品INMO GO3等表现出色，首发预订量可观。该公司专注轻量化一体式AI+AR眼镜，结合自研系统与智谱大模型，还拓展线下渠道，全球化布局也在推进。
谷歌卷土重来：你大爷还是你大爷
上周谷歌横扫科技媒体头条，英伟达官方X账号点赞谷歌TPU成绩后话锋一转称自家产品领先。此前有传闻Meta考虑换用谷歌TPU，消息致英伟达市值蒸发、谷歌市值上涨。今年谷歌发布Gemini - 3系列模型，其自研芯片TPU引发关注。
百芯竞逐，芯片产业的“新战国时代”
ASIC发展超预期，成AI竞争胜负手。它适配大厂专属需求，成本与功耗低，出货量和市场规模将扩容。英伟达GPU虽难替代，但份额会被ASIC蚕食，谷歌TPU已撕开其垄断裂缝，大厂纷纷自研ASIC。
DeepDiver-V2来了，华为最新开源原生多智能体系统，“团战”深度研究效果惊人
华为发布DeepDiver-V2原生多智能体系统，采用“团队作战”模式，在复杂知识问答和长文报告生成上表现出色。它以Planner为中心协调多个Executor，有智能任务分解等优势，训练也有新机制，昇腾NPU集群加速。
MiniMax-M1：全球首个开源超长上下文大模型，超越DeepSeek-R1，推理成本仅1/4
MiniMax-M1是全球首个开源超长上下文大模型，刷新三项记录。它采用混合专家架构，闪电注意力让推理复杂度近乎线性增长。CISPO算法加速训练，成本低。在工业级任务测试表现佳，已开源且方便开发者接入。
英伟达、港大等发布创新KV缓存，实现扩散模型无训练加速
多数开源扩散语言模型推理效率不如自回归模型，英伟达、港大、麻省理工研究人员联合提出Fast - dLLM。它用近似KV缓存机制减少冗余计算，还提出基于置信度的平行解码策略，测试显示能加速且保持生成质量。
一篇多模态大模型推理技术最新综述
华东师大&字节跳动系统回顾基于强化学习的MLLMs推理进展，涵盖关键算法设计、奖励机制创新及实际应用，探讨了RL在LLMs/MLLMs中的关键设计与优化策略，还涉及多模态大模型推理多方面内容。
9B“小”模型干了票“大”的：性能超8倍参数模型，拿下23项SOTA | 智谱开源
智谱发布并开源仅9B大小的模型GLM-4.1V-9B-Thinking，在28项评测中拿下23个SOTA，成10B级别最佳VLM模型。它引入思维链推理机制，通过课程采样强化学习提升能力，还获10亿投资。
Qwen3技术报告首次全公开！“混合推理模型”是这样炼成的
本文首次公开Qwen3技术报告，介绍其模型架构、预训练及后训练过程、性能表现等技术细节。Qwen3整合两种模式，引入思考预算机制，降低轻量级模型计算资源，在多基准测试领先，多语言支持扩展至119种，所有模型开源。