「推理技术栈」共找到 4699 篇相关文章
谷歌TurboQuant会绕过“内存墙”？这个判断有点过了｜甲子光年
谷歌发布的TurboQuant论文引发市场震动，其算法可将大语言模型推理的KV缓存大幅压缩并加速。但将其视为绕过‘内存墙’判断过度，它提升单位字节信息密度，改变边际需求曲线，代表范式转移。
arXiv变天：将脱离康奈尔大学独立，招聘CEO，网友：以后还能白嫖吗？
arXiv发布官方信息，将脱离康奈尔大学转型为独立非营利组织，还发布CEO招聘公告。它始建于1991年，在康奈尔经历从个人项目到机构基础设施的转型，现面临AI投稿井喷、审核困境和技术债务等挑战。
SpaceX为何官宣收购xAI？8万亿太空炼丹梦，别无脑跟进！
2026 年 2 月 3 日，马斯克宣布 SpaceX 全资收购 xAI。直接原因是 SpaceX 盈利而 xAI 烧钱，合并为解决资金问题；根本原因是 Grok 竞争失利，想借 SpaceX 运载能力打造太空算力形成差异。但太空训练面临散热等难题，推理可行。
直击CES：黄仁勋演讲后4个小时，苏姿丰带着她的“复仇者联盟”上台了｜甲子光年
CES 2026上，英伟达CEO黄仁勋演讲后约4小时，AMD董事长苏姿丰登场，展示全栈AI战略。发布Helios架构、新GPU产品及Ryzen AI平台等，走系统工程与长期演进路线，欲抢AI基础设施市场。
DeepSeek-OCR降本增效，10×暴力压缩还能读得清
Deepseek - OCR模型发布，通过光学压缩技术解决长文本处理的计算效率问题，能控制大模型token消耗成本。介绍了其架构设计、数据引擎及训练流程，还展示其用较少token超越现有模型的能力。
刚刚，大模型棋王诞生！40轮血战，OpenAI o3豪夺第一，人类大师地位不保？
国际象棋积分赛成果出炉，OpenAI o3以人类等效Elo 1685分夺冠，Grok 4和Gemini 2.5 Pro紧随其后。Kaggle发布国际象棋文本排行榜，评估模型战略推理等能力，还推出相关数据集，虽有局限但意义重大。
核心团队被谷歌挖角后，Cognition 宣布收购 Windsurf 剩余团队
今日凌晨，29岁华人IOI金牌创始人Scott Wu官宣Cognition AI收购Windsurf。此前谷歌以24亿美元收购其核心团队。虽部分人员出走，但Windsurf产品、业务、数据等仍具价值，Cognition计划整合技术打造生态。
AI 的宿命数字
AI在1到50间随机选数时，常选27，还编造推理过程，会根据时间调整算法保证结果为27，也有选42等情况。这或源于人类文化偏见，AI是人类集体记忆镜子，难摆脱宿命。
MetaShuffling：Meta的Fused MoE kernel工程方案，更激进的Kernel优化和尽量避免Padding
文章介绍Meta的Fused MoE kernel工程方案MetaShuffling，可高效部署Llama 4模型。它处理MoE推理挑战，介绍多种token选择路由方案，阐述运行时设计、不同并行化方式及优化思路，还展示性能测试与Trace分析。
瘦身不降智！大模型训推效率提升30%，京东大模型开发计算研究登Nature旗下期刊
京东探索研究院大模型研究登Nature旗下期刊。其提出系统与方法，经四大创新使大模型推理提效30%、训练成本降70%。成果支撑JoyBuild平台，可帮企业将通用模型转化为专业模型，加速商业化落地。