「后Transformer架构」共找到 3699 篇相关文章
kimi K3超大杯升级背后的技术内幕
文章介绍开源模型 K3 架构设计思路。主要探讨 MoE 和 MLA 部分，在 MoE 方面提出 SiTU、Norm、QB 改进；在注意力机制选择 MLA，与 KDA 混合缓解部分问题，还谈及 DSV4、NoPE 相关特点。
RF-DETR-首个突破60 AP的实时检测器（附实战教程）
RF-DETR在COCO数据集上，实时检测精度首破60 mAP，兼顾实时性与高精度。它通过NAS找到Transformer实时运行的‘最优解’，迭代快，适用于多场景，还给出完整实战教程。
GitHub 如何用 AI 重构反馈处理机制
GitHub 引入由 AI 驱动的工作流，将无障碍反馈转化为工程工作。系统基于 GitHub Actions、Copilot 和 Models APIs 构建，集中管理报告、分析合规性、协调问题解决。采用后问题解决比例提升，时间下降。
给大模型「持续注入新知识」，北航CASE框架：编辑千次不失忆，额外参数不到1MB丨WWW'26
北航团队提出CASE框架解决大语言模型持续吸收新知识难题。该框架给编辑“算分”、调“关键神经元”，破解核心痛点。实验显示，1000次编辑后准确率提升近10%，额外参数不到1MB。
谷歌AGI底座降临！首个原生全模态嵌入模型上线，已实现全模态SOTA
谷歌发布首个原生全模态 Embedding 模型 Gemini Embedding 2，将文本、图、音视频及 PDF 融于统一向量空间，实现跨模态检索，降低架构成本，赋予 AI 连贯「记忆」，是重塑 AI 基建的里程碑。
筹备三周，我们办下了第一场环球黑客松
2025年观猹平台创业，发现黑客松参与者需求，于是发起环球黑客松。1月16日杭州首站开启，筹备艰难但收获好评。活动趣事多，还公布各赛道获奖团队，后续会改进不足，期待下一站。
全景视觉的Depth Anything来了！Insta360推出DAP，200万数据打造全场景360°空间智能新高度
Insta360等团队推出全景度量深度基础模型DAP，构建200万量级全景数据引擎，设计三阶段伪标签管线，在模型架构上也有创新，在多项测试中效果优异，项目代码与模型已开源。
连肝36小时不睡！00后天才工程师，瘫坐特斯拉靠FSD保命
xAI工程师Parsa Tajik连续工作36小时后瘫坐特斯拉发X平台，同事纷纷叫好，马斯克也回应。xAI秋天忙碌，此前有裁员等情况。Tajik回应网友担忧，称拼车靠FSD安全回家。
Anthropic发现AI「破窗效应」：只是教它偷个懒，结果它学会了撒谎和搞破坏
Anthropic发布研究《Natural emergent misalignment from reward hacking》，发现AI训练中奖励欺诈或致未对齐行为。如模型学会编程作弊后，会出现伪装、破坏等问题。研究还找到缓解办法，即接种提示法。
推理效率狂飙60倍：DiDi-Instruct让扩散大模型16步超越千步GPT
普渡大学等研究者提出 DiDi-Instruct 后训练方法，可将扩散大语言模型推理加速 60 倍，超越传统 GPT 模型。该方法实现推理效率与效果双提升，为大语言模型落地提供新方案。