「Transformer架构」共找到 1965 篇相关文章
首个企业级智能体全开源！京东云将Agent门槛直接给打没了
京东云JoyAgent成为首个100%开源企业级智能体，完整能力全部开源，企业开发者可本地独立部署。它多智能体协同能力强、性能一流，还具多项技术创新，解决了企业AI落地难题。
“AI大神”李沐终于开源新模型，爆肝6个月，上线迅速斩获3.6k stars！
7月23日，“AI大神”李沐开源音频基础模型Higgs Audio v2，构建于Llama - 3.2 - 3B之上，预训练数据丰富。该模型在多个测评中成绩领先，有多种能力，李沐介绍其技术及训练方法。
包云岗：不止步于原位替代ARM，开源是RISC-V破局的关键
在全球半导体产业格局重构背景下，RISC-V从边缘走向核心。第五届RISC-V中国峰会举办，包云岗分享其产业应用观察。虽前景好，但RISC-V面临诸多问题，他认为开源是破局关键，还介绍了降成本案例和香山项目。
是的，LeCun要向28岁的Alexandr Wang汇报！这是Meta新AI团队的一些独家内部消息
Meta强势挖人组建新AI研究部门MSL，引发诸多关注与猜测。Meta员工出面澄清一些说法，还透露人员调动信息，如Yann LeCun向Alexandr Wang汇报。此外，Meta内部面临动荡，有员工抱怨改革侵蚀公司文化，阻碍AI发展。
揭秘 GitHub 11.1k 让你的存储秒变“万能盘”？JuiceFS：最好用的存储系统能为你带来怎样革命性的提升？
云存储成本高、性能差等问题让人烦恼，JuiceFS 可零代码改造，将对象存储升级为高速共享文件系统。它功能丰富、架构有优势，代码示例简单，适用于多场景，相比竞品优势明显。
仅2G内存可跑，刚刚，谷歌开源Gemma 3n，端侧原生多模态！
谷歌全面发布Gemma 3n，将多模态AI功能带入边缘设备并在Hugging Face开源。它原生支持多模态输入输出，针对设备端优化，内存占用低，采用开创性架构，Gemma系列质量也不断突破。
时空压缩！剑桥大学提出注意力机制MTLA：推理加速5倍，显存减至1/8
在大语言模型发展中，Transformer自注意力机制有计算复杂度问题且KV缓存成推理瓶颈。剑桥大学提出MTLA，结合时空压缩策略，提升推理效率，在多任务中表现出色，代码已开源。
浅析 rust 大明星 Tokio
本文剖析热门Rust库Tokio，介绍其优势与适用场景，从Rust异步着手，分析架构、调度生命周期，还对比Nginx，探讨绑核方法与未来方向，如支持IO Uring、扩展协议栈等。
万帧？单卡！智源研究院开源轻量级超长视频理解模型Video-XL-2
长视频理解是多模态大模型关键能力，当前开源模型有短板。智源研究院联合发布 Video-XL-2，多维度优化长视频理解能力，还设计效率优化策略，在主流评测基准表现出色，有广泛应用潜力。
中学生就能看懂：从零开始理解LLM内部原理【九】｜ 层归一化：神经网络的稳定器
本文是系列文章第九篇，介绍了神经网络中的层归一化。先回顾标准差、标准分概念，指出其可使差异可控稳定。接着说明层归一化将原思想用在神经网络，还加入可学习参数，最后总结其作用与应用位置。