「非Transformer」共找到 848 篇相关文章
Product Hunt CEO 拆解 PH 打榜：Launch 不是一次性的事
Product Hunt的CEO Rajiv Ayyangar接触大量新产品Launch，在播客分享心得。他认为AI产品Launch很关键，要尽早且清晰介绍核心功能。还给出实操建议，如写短宣传语、小范围试水等。
甲小姐对话彭志辉：既然选择做公众人物，就必须接受被期待的代价 | 甲子光年
甲子光年的甲小姐对话智元机器人联合创始人彭志辉，他称公司是具身行业估值“撑伞人”，采用全栈自研战略。双方还探讨融资、战略、市场、技术、商业、组织等话题，他分享公司发展现状、前景及应对策略。
AI七个月突破数学家“围剿”反超人类！14位数学家深挖原始推理token：不靠死记硬背靠直觉
大模型o3 - mini - high在7个月内，于FrontierMath基准测试中，答题得分从2%提升到22%，超人类团队平均水平。数学家分析其推理记录，发现它靠直觉而非死记硬背解题，但也存在缺乏创造力等局限。
函数向量对齐技术，让大模型持续学习不“失忆”丨ICLR 2025
中国科学技术大学等校团队破解大语言模型灾难性遗忘之谜，发现遗忘源于模型激活带偏差新功能，非覆盖旧功能。还设计FVG训练法，保留并对齐函数向量，保护模型能力。相关论文被ICLR2025接收，代码开源。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用旋转位置编码 (RoPE) 的现代Transformer模型中，注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值，而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。
时间会证明光的
市场曾质疑AI资本开支高增长的持续性，如今随着头部模型公司ARR非线性爆发式增长，AI商业正向循环打通。在AI硬件产业链中，光互联是国内厂商全球参与度最高、份额最稳固的环节，正迎来最好时代。
人形机器人设计正在向仿真器低头！40年机器人从业老兵发出警告
人形机器人行业现怪象，为让仿真系统和强化学习更顺，一些有机械优势的结构因‘仿真麻烦’被排除。40多年经验的Scott Walter质疑设计变得‘S.T.U.P.P.I.D.’，指出仿真应服务设计而非主宰。
Opus 4.5之后，AI正在催生“巨头型百人公司”
Opus 4.5发布后，Agent赛道洗牌，模型差距由Agent Loop拉开。本文围绕Cherry Studio，与创始人及投资人探讨AI公司护城河、开源意义、用户价值差异等，指出未来将催生“巨头型百人公司”。
Anthropic最新论文：检测LLM内省意识的方法
Anthropic与MIT等研究表明，LLM能‘感知’被注入的steering vector，‘内省意识’在DPO等后训练阶段涌现。研究构建实验，发现内省能力行为稳健、检测非简单线性关联等，还揭示检测与识别机制不同及两阶段电路。