搜索：多阶段统一建模

「多阶段统一建模」共找到 1361 篇相关文章

不用额外缓存！英伟达开源大模型记忆压缩方案，128K上下文提速2.7倍

英伟达联合多机构推出TTT - E2E方法，在长文本处理上提速显著且性能不打折。它基于标准Transformer，将长文本建模转为「持续学习」任务，核心是上下文压缩，避免额外缓存，代码和论文已开源。

中科院自动化所提出BridgeVLA模型，将3D输入投影为2D图像并利用2D热图进行动作预测。它训练分两阶段，在多仿真基准和真机实验表现卓越，仅3条轨迹基础任务成功率达96.8%，真机性能提升32%。

文章围绕将思维链（CoT）引入具身智能领域展开。介绍CoT从语言层面到成为机器人行为核心认知机制的转变，分析分层架构与端到端模型两种技术路径，还阐述自变量机器人统一架构的优势和能力。

今日摩尔线程在科创板上市，发行价114.28元，截至发稿股价涨至620元/股，市值破2800亿。它成立于2020年，核心团队多有英伟达背景，研发投入高，已推出四代GPU架构和产品，专家称国产GPU进入商业化验证阶段。

腾讯全新开源Hunyuan3D - Part和Omni。Hunyuan3D - Omni支持多模态输入，统一信号到跨模态架构提升融合鲁棒性。Hunyuan3D - Part含P3 - SAM和X - Part，分别用于部件分割与生成，在对应领域达先进水平。

本文从信息论角度解读大模型第一性原理。介绍Shannon信息论，提出将其从以BIT为中心转换为以TOKEN为中心解释大模型底层原理，还阐述大模型各阶段信息论原理、定向信息计算方法，对比Granger与Pearl因果。

字节、北大等联合发布Ouro模型，用14亿参数实现百亿级模型推理能力。它在预训练阶段学会循环思考，通过三大创新构建推理能力，在基准测试中表现优异，实现参数效率提升，是潜在推理范式的胜利。

文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。

随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。

吉林大学、台湾大学和微软亚洲研究院联合提出MindPower Benchmark，构建以机器人为中心的ToM推理框架，统一建模环境感知、心智推理等，还构建数据集和评估指标。引入Mind - Reward强化优化，提升ToM决策与动作生成性能。