「非Transformer架构」共找到 2520 篇相关文章
大模型的第一性原理：（二）信号处理篇
本文从信号处理角度解读大模型原论文，探讨语义向量化原理，分析 Transformer 与 Granger 因果关系。指出大模型输入 Token 语义嵌入是将自然语言处理转化为信号处理问题，向量化与信号处理、信息论联系紧密。
智能体如何学会「想象」？深度解析世界模型嵌入具身系统的三大技术范式
长期以来具身智能系统缺预测力，世界模型让智能体有了‘想象’未来的能力。中科大等机构团队综述将现有研究划分为模块化、顺序、统一三大架构集成范式，并指出未来研究方向。
CuteDSL-1: Introduction
文章介绍CuteDSL，它因Cutlass编译慢、调试难等痛点而生，可在Python构建DSL，编译快、调试易且性能无损。文中阐述其架构、使用方法、与PyTorch集成优势等，还提及基于CuTe的开发及性能对比。
Chrome已死，Agent当立。 AI Chrome正式发布~
谷歌官宣为Chrome浏览器植入Gemini AI，发布10项更新，如智能体助理上线、跨标签页整合等。但用户体验不稳定，其AI能力是嫁接非原生。创业公司可放弃浏览器，拥抱智能体，利用自身优势发展。
我去，Github 51k star，没看错，他是开源的，“用 Docker 运行 macOS”？你绝对没看错!
这是一个运行于 Docker 中的 macOS 虚拟环境项目。开发者或安全研究者在非 macOS 平台运行 macOS 常遇性能差等痛点，而 Docker - OSX 利用容器化轻量部署，接近原生性能，功能亮点多，应用场景丰富。
传言：中国AI 公司人肉运硬盘到马来西亚训练模型，美国芯片禁令形同虚设？
《华尔街日报》传言中国AI公司工程师人肉运硬盘到马来西亚训练模型。美国芯片禁令下，中国公司难进口先进硬件，采用复杂方式规避。任正非和黄仁勋都认为可集群补单芯片性能，美国制裁效果堪忧。
哈佛《Science》研究：大模型已碾压人类医生！
哈佛医学院等团队让OpenAI o1系列大模型与数百位医生在多项测试中较量，大模型在各项诊断和管理推理任务上全面超越人类专家，不过当下模型处理非文本信号有局限。
从多模态大模型中「拆」出音频向量模型
Google 发布原生多模态向量模型 Gemini Embedding 2，推动 Omni Embedding 发展。Jina AI 团队分享从多模态大模型中「拆」出音频向量模型的经验，介绍架构、训练数据，对比四种做法，还提及评测、应用场景及结论。
罗福莉携小米MiMo-V2-Flash首次亮相：一次在推理与Agent上的下注｜甲子光年
大模型进入新阶段，效率成能力一部分。小米MiMo团队12月16日晚发布并开源MiMo - V2 - Flash，负责人罗福莉首亮相。该模型在推理、编程和智能体场景表现出色，在架构、训练方法等有创新。
36年卷积猜想被解决，华人唯一作者，AI或受益
华人学者 Yuansi Chen 解决 36 年的 Talagrand 卷积猜想数学问题，论文证明布尔超立方体上热半群下非负函数有更好尾部界限，除额外 log log 因子，主要问题已解决，对多领域有基础意义。