「模型架构创新」共找到 8869 篇相关文章
自回归因果注意力也能并行解码？上交联合UCSD突破LLM推理瓶颈，模型代码全开源
大语言模型推理速度是应用瓶颈，传统方法各有弊端。上交和UCSD团队提出Jacobi Forcing方案，无需重构架构，将AR模型转为并行解码器，提速显著且质量损失小，核心优势多，技术路线全链路优化，实测表现优。
TACL 综述 | 别只卷架构了——长文本模型的能力天花板，其实是数据决定的
该 TACL 综述首次从数据视角审视长上下文语言模型，指出长上下文能力本质是数据驱动。它建立分类体系，明确高质量长文数据条件，给出核心能力的数据配方与评估法，还整理数据集和基准，提出待解问题。
超越免训练剪枝：LightVLA引入可微分token剪枝，首次实现VLA模型性能和效率的双重突破
文章介绍LightVLA框架，它是用于提升VLA推理效率和性能的视觉token剪枝框架。针对VLA模型计算开销大、推理延迟高问题，提出两大创新，在LIBERO实验中性能超经典模型，还实现推理加速。
顶级视频模型半衰期只有 30 天，但生成式媒体 infra 公司的收入却在一年增长了 60 倍
文章聚焦生成式媒体 infra 公司 fal.ai，其借统一 API 和云端平台让开发者高效调用多模态模型。深入分析其成功因素，如早期押注生成式视频、优化算力和成本、构建生态等，还探讨用户使用模式与行业发展趋势。
一图看透全球大模型！新智元十周年钜献，2025 ASI前沿趋势报告37页首发
新智元十周年峰会发布《2025新智元ASI前沿趋势报告》与《2025新智元ASI产业图谱》，预测2027达ASI临界，智能体全面爆发。报告展示全球大模型格局，中国开源模型表现亮眼，还揭晓了创新大奖。
LeCun预言成真！790年长视频，炼出最强开源「世界模型」
2025年‘世界模型’成AI巨头战场，谷歌、李飞飞团队等纷纷布局。上周北京智源研究院发布Emu3.5，340亿参数，基于790年长视频数据训练，其架构优越，推理快，能力强，还公开技术报告邀全球探索。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi-4-mini版本，针对特定推理任务微调出Phi-4-mini-Flash-Reasoning 3B模型，将其扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行快10倍，有诸多优点。
JoyInside 创新大赛现场，我看到 AI 硬件长出了灵魂
作者曾对多数AI硬件失望，认为其有硬件没灵魂。但在观猹和京东联合举办的JoyInside创新大赛上，20强产品让其改观。大赛基于京东JoyAI大模型，缩短产品上市周期，前三名产品各有亮点，还呈现场景垂直化和交互方式改变趋势。
BigBang-Proton: 自回归基座模型统一语言、科学和物质世界
超对称公司发布新版基座模型 BigBang - Proton，实现多学科问题与 LLM 统一预训练和推理，挑战主流 AGI 技术路线。它有三项创新，在多专业学科任务表现出色，还提出宇宙尺度压缩构想。
开源音视频同步SOTA基座：极简的单流架构，2秒出片
AI视频生成迈入音视频同步新纪元，闭源巨头已展实力，而上海创智学院与Sand.ai联合发布的开源音视频生成基础模型daVinci - MagiHuman，以极简单流架构，2秒就能在1张H100显卡上生成精准音视频同步画面。