「注意力头」共找到 274 篇相关文章
不到一年ARR破亿元，GEO厂商智推时代获数千万元天使轮融资 | 甲子光年
近日，AI营销科技公司智推时代完成数千万元天使轮融资，将用于技术研发等。其成立一年多 ARR 破亿，服务近 400 家头部客户。自研 GENO 系统，与华东师大共建实验室，还布局全球市场。
读完这篇，你就搞懂 DeepSeek v4 了
2026年4月24日，DeepSeek全新系列模型DeepSeek - V4预览版上线并开源，评分接近‘闭源三巨头’。该模型强在1.6T参数+1M上下文，还有从attention到kernel的系统级重构与优化，在架构和工程层面均有创新。
奥特曼「红色警戒」5个月后，GPT Image 2屠榜，断层领先反杀谷歌
被Google按了半年头，OpenAI祭出反杀。GPT Image 2上线12小时登顶Arena文生图榜，领先Nano Banana 2达241分。它是从零重构的通用模型，具备原生思考能力，或改写图像生成赛道规则。
GPU利用率不到15%，AI产业最大的浪费正在被这家公司改写｜甲子光年
AI产业发展中算力成本高、利用率低问题凸显。趋动科技押注‘软件定义GPU’，试图把独占GPU变为共享算力池，其产品使客户GPU利用率平均提升约4倍，已服务超200家头部客户。
从一行代码发现DeepSeek的秘密：Model1到底是什么？
在DeepSeek - R1发布一周年时，有人在GitHub的FlashMLA代码仓库发现神秘代号Model1，可能是V4。文章分析了代码仓库用途、新模型“露馅”原因，还从代码中发现Model1细节，结合论文梳理时间线，最后也提出了怀疑。
NeurIPS 2025 | Code Graph Model：重塑代码大模型架构，利用“代码图”突破仓库级编程瓶颈
在 NeurIPS 2025 上，蚂蚁全模态代码算法团队展示「Code Graph Model (CGM)」，它将代码库图结构注入 LLM 底层注意力机制，打破业界刻板印象，在权威榜单上表现出色。文章解析其架构、训练策略和配套框架。
我MiniMax，用实习生处理数据，照样屠榜开源大模型
MiniMax M2屠榜开源大模型，引发社区热议。它在注意力机制、数据处理、思考模式上另辟蹊径，公开技术细节。M2团队选Full Attention，雇实习生处理数据，提出交错式思维链策略，强调实用性和泛化能力。
库克虎口夺食：马斯克盯上的北大校友AI公司被苹果抢走
苹果和马斯克旗下公司争抢Prompt AI，苹果与该公司进入后期谈判，欲买走核心团队和技术资产。Prompt AI是2023年成立的CV初创公司，旗舰产品Seemour用于提升家用摄像头智能感知能力。
EMNLP 2025 | 动态压缩CoT推理新方法LightThinker来了
随着AI发展，大语言模型处理复杂推理任务能力提升，但推理产生大量中间步骤和文本，拖慢计算速度、增加资源压力。研究者提出LightThinker，模仿人类思考模式，动态压缩推理步骤，削减tokens数量，降低成本。
谷歌大脑之父首次坦白！茶水间闲聊引爆万亿帝国，AI自我突破触及门槛
AI界传奇Jeff Dean在「登月播客」深度访谈中，回顾个人成长、Google Brain早期故事及AI未来思考。他揭秘诸多细节，还谈到神经网络发展、注意力机制突破、LLM可解释性等内容，也提及未来五年规划。