「线性注意力架构」共找到 2045 篇相关文章
从零开始200行python代码实现LLM
文章从传统思路出发，用Python实现极简大语言模型，介绍从零基础到Bigram模型的过程，包括词汇表、模型训练推理等内容，还讲解了PyTorch基础，最后实现pytorch版Bigram模型，后续将实现完整GPT。
MiniMax开源首个视觉RL统一框架，闫俊杰领衔！推理感知两手抓，性能横扫MEGA-Bench
MiniMax开源首个视觉RL统一框架V-Triune，由闫俊杰领衔。该框架通过三层组件设计和动态IoU奖励机制，让VLM能联合学习推理和感知任务。还开发Orsta模型系列，在MEGA - Bench表现出色，且MiniMax多模态布局动作多。
视频生成比播放还快：开源VDN-H3，14秒视频11秒搞定
近期，网络出现“无限流”视频，源于MiniMax H3。OpenVDN团队开源Video Delta Net（VDN），基于MiniMax H3使视频生成速度提升75到90倍，14.4秒的768p视频11.23秒就能生成。它采用混合思路，性能提升显著。
押注Agent，林俊旸带着新公司杀回来了
前阿里Qwen负责人林俊旸创办Pragmatik Labs/语用科技，研究跨数字与物理世界的下一代agent。红杉中国、高榕创投领投，腾讯等跟投。其目标是用agent实现终极生产力，有独特技术底色与愿景。
4·18 北京 Elastic AI Tech Day｜搜索基座模型议程（含 Jina 模型与 Reader）
Jina AI 模型迭代加速，Jina Embeddings 到五代目，Reranker v3获最佳论文。4月18日 Elastic AI Tech Day 将举办，Jina 团队将做系统公开技术分享，涵盖搜索AI等多方面内容。
ClawdBot传疯了！视频教程来了
外网疯传的ClawdBot由开发者Peter Steinberger开发，能通过多平台交互干活。介绍其技术架构、两种设置方式、成本，还有安全设置、测试方法、进阶功能、使用场景及硬件选择等。
R1一周年，DeepSeek Model 1悄然现身
2025年1月20日，DeepSeek发布DeepSeek - R1开启新开源LLM时代，其在Hugging Face获赞最多。一年后，DeepSeek新模型Model1在GitHub现身，经Gemini分析或为DeepSeek - V4，还给出相关技术细节。
前谷歌研究员发文：算力崇拜时代该结束了
前谷歌大脑研究员 Sara Hooker 发文指出，过去十年 AI 创新依赖算力，但如今持续扩展训练计算资源效率极低，收益递减。她探讨了影响算力回报率的因素，批判 Scaling Law，并提出未来创新方向。
多人会话视频生成新突破：香港科技大学，浙江大学用单人数据实现多人交互视频生成
香港科技大学、浙江大学等开源 AnyTalker，提出音频驱动多人交互生成新范式。它用创新机制和两阶段训练策略，以少量数据实现多人视频生成，还构建评估指标，性能超现有方法。
宇树：开源机器人世界大模型！
宇树开源世界模型 - 动作架构UnifoLM - WMA - 0，它属UnifoLM系列，适配多机器人本体。真机部署表现出色，预测与实际操作吻合。官方介绍训练策略，代码开源后GitHub获100 + Star。