「旋转位置编码」共找到 445 篇相关文章
机械手真正「活」了,银河通用&清华推出DexNDM,用神经动力学重塑灵巧操作
银河通用与清华推出DexNDM,旨在解决灵巧操作技能sim - to - real难题。它能让灵巧手掌握多种转轴、多样手腕朝向下旋转物体的技能,构建的半自主遥操系统可完成复杂工具操作和长程装配任务,在sim - to - real方法上有创新。
200行python代码实现从Bigram模型到LLM
本文从`babygpt_v1.py`出发,逐步加入self-attention机制、position嵌入等,实现完整GPT。介绍Transformer结构,讲解位置编码、单头自注意力等机制的代码实现,还阐述后续层的用途、参数调整及训练效果,最后提及模型优化方向。
Claude 小升级就赢了OpenAI 9年“开源神作”?高强度推理直接歇菜、幻觉率高达50%,写作还被Kimi 2吊锤?
OpenAI发布首个开源语言模型系列gpt - oss,包括gpt - oss - 120b和gpt - oss - 20b,可在Hugging Face下载。同期谷歌Deepmind推Genie 3,Anthropic放出Claude Opus 4.1。Claude Opus 4.1编程性能提升,实测编码能力强于gpt - oss。gpt - oss虽有亮点,但幻觉率高、实测效果不佳。
治好多模态近视和走神!上海大学去偏干预显著提升模型性能
多模态大模型存在“近视”和“走神”问题,总是过度关注图像底部而忽略核心内容。上海大学与南开大学研究团队用两条数学公式去偏干预,无需增加计算成本,却能显著提升主流模型视觉理解能力。
The Batch: 968 | Muse Code 想获取你的数据
Meta推出Muse Code编码框架及Muse Spark 1.2模型,有不同输入输出、功能和性能表现。提供不同档位价格,贡献者档位低价但数据用于训练。测试显示其单任务成本低,Meta此举或为获取编码训练数据。
豪掷30亿美元,OpenAI史上最大收购案!
彭博爆料OpenAI将豪掷30亿美元吞并AI编程工具Windsurf,这是其史上最大规模收购。Windsurf因模型无关性设计等优势脱颖而出,此次收购或重塑AI编程市场格局。
ICLR最佳论文:Transformer天生简洁
2026年ICLR最佳论文对Transformer做深度思维体检,指出其架构真正威力在于描述概念时比RNN等简洁指数级甚至双重指数级,但验证其内部逻辑计算成本高昂,为解释其能力开新窗。
这款 Rust 文件搜索项目,让 AI 和 neovim 飞起来!
开发时项目大文件多,找文件成本高。Github上的`fff.nvim`项目专注‘极致速度 + 智能体验’,采用Lua + Rust架构,性能好、排序智能。有多项功能特性,还能与AI助手集成,提升效率。
AI 还在装失忆?1 万 Star 开源 EverOS 有点东西,把 Agent 记忆塞进 Markdown
EverOS 是 EverMind - AI 开源的项目,有 10325 Star。它给 AI Agent 等提供 local - first 长期记忆运行时,把记忆源头放 Markdown 里,以 SQLite 和 LanceDB 管理和检索。介绍了其优势、链路、适用场景等。
毛利率53%!光刻机之王的AI红利
4月15日阿斯麦发布2026年第一季度财报,净销售额、毛利率、净利润均超预期。管理层上调全年业绩指引,其因订单饱满、AI驱动、技术独供等持续领先,还计划提升产量。