「占用预测」共找到 485 篇相关文章
推理速度飙升5倍，苹果提出全新Multi-Token生成框架！
自回归语言模型逐词生成文本拖慢推理速度、限制并行能力。Apple提出全新框架，挖掘其对未来词元“先验知识”，通过多项技术并行预测多词元，微调预训练模型可显著提速且不损输出质量。
ICML 2025 | M+框架来了，增加LLM隐空间记忆，不再受上下文窗口限制
本文提出M+长期隐空间记忆扩展框架，在MemoryLLM之上，将8B级模型有效记忆跨度从不到20k提升到160k+，显存占用不变。它解决了现有记忆模型冗余、冲突难解等问题，为下一代语言模型提供支撑。
新范式来了！新能量模型打破Transformer++扩展上限，训练扩展率快35%
研究训练新能量模型 EBT，为输入和预测分配能量值，模拟思考过程。它有跨模态、跨任务通用性，训练扩展率比 Transformer++ 高 35%，推理性能提升 29%，还在多任务中表现出色，是扩展模型能力新范式。
万字长文！大模型LLM推理优化技术总结
文章围绕大模型LLM推理优化技术展开，先介绍LLM推理各阶段、批处理、KV缓存等概念及内存需求，再阐述模型并行、注意力机制优化、模型优化和模型服务等技术，如Pipeline并行、MQA、量化、动态批处理等。
PRF | 宾州州立、南科大杨翔、张雯等：粗糙壁湍流的低维建模新范式
传统粗糙壁湍流低维建模依赖经验参数，泛化与精度不足。该研究提出新思路，将粗糙面形貌压缩到低维流形，用自动编码器和前馈神经网络建模，重构效果好、预测准，有生成与泛化性。
网页智能体新突破！引入协同进化世界模型，腾讯AI Lab提出新框架
腾讯AI Lab提出WebEvolver框架，引入协同进化的世界模型，让智能体在真实网页环境中性能提升10%，突破现有基于LLM的网页智能体瓶颈，还通过实验验证了其有效性和对网页状态变化的预测能力。
机器人看29s视频学会一个新技能，自变量开源HOST框架
自变量机器人开源的HOST框架，让机器人看29s人类示范视频就能学会新技能，原技能不受影响。它通过自定位级联预测，解决了人和机器人动作节奏、身体结构不同的问题，效率远超主流微调方案，推动机器人进家庭。
小白必读：到底什么是FP32、FP16、INT8？
文章介绍FP32、FP16、INT8等数字存储格式类型。指出它们是评估算力前提，不同格式在精度、范围、内存占用和计算速度上有差异，还提及多精度与混合精度计算，以及不同硬件对格式的支持情况。
IEEE TAP|上海交通大学曹慧琳、南京大学任宇翔等：AI赋能电磁仿真：物理–数据混合驱动的PdEgatSCL模型实现高效建模
为实现电大尺寸目标快速精确建模，本文提出物理 - 数据混合驱动的PdEgatSCL方法，学习CFIE做端到端预测。用EGAT架构，编码格林函数等特征。测试显示它精度高、速度快、省内存，可加速电磁建模与逆向设计。
o3-pro正式推出！说声“嗨”就花了80美元，思考1+1用时16分钟
OpenAI推出推理模型o3 - pro，同时o3降价80%。官方测评o3 - pro表现佳，但价格贵、响应慢。o3‘是否降智’引争议，奥特曼发小作文探讨AI对人类社会影响，还透露公开权重模型推迟。