「FP4量化」共找到 1674 篇相关文章
直播预约 | LightMem：面向大模型的轻量化可插拔记忆系统
本报告聚焦大语言模型长期记忆构建与轻量化机制。现有外部记忆系统有记忆臃肿、组织低效、更新代价高问题。为此提出LightMem架构，能为大模型提供轻量、高效、可扩展记忆组件。
大模型推理加速全链路：内存管理、编译优化、量化与并行策略
本文整理自金煜阳博士在QCon大会分享。介绍大模型推理挑战，如规模增大、架构复杂。阐述算子优化、内存管理、量化、异构调度和并行优化方法，还介绍开源推理引擎赤兔在国产芯片的实践成果。
Anthropic承认模型降智后仍放任其偷懒？Claude Code用户信任崩塌中
此前大模型厂商未正面承认‘降智’，OpenAI 研究科学家称是心理错觉。但 Anthropic 公开承认旗下 Claude Opus 4.1 和 Opus 4 质量降级，然而问题未解决，Claude Code 用户信任崩塌，纷纷转向 GPT - 5。
生成式推理再排序，可能会是LLM4RecSys的新突破口吗？
Meta AI研究者尝试把推理模型引入推荐系统再排序阶段。论文通过监督微调等赋予模型推理能力，超LLM4Recsys标杆。中期内化物品语意ID，生成推理路径，推理赋能再排序，披露重排序提升空间。
斯坦福7B智能体全面超越GPT-4o，推理流登顶HF
传统智能体系统难兼顾稳定性和学习能力，斯坦福等团队提出AgentFlow框架，通过模块化和实时强化学习优化策略，使7B参数模型在多任务上超越GPT - 4o等大模型，为AI发展提供新思路。
李飞飞又被超越了？百万「普通视频」打造通用4D世界模型！
全行业为昂贵多视角数据发愁时，中科院和CreateAI推出NeoVerse，用百万单目视频打开4D世界模型大门。它抛弃多视角数据和离线预处理，解决扩展性瓶颈，在重建速度、生成质量等方面表现出色，有丰富下游应用。
小红书最新开源TTS力作！4人对话自然无缝，毫秒极速响应！
近年来TTS技术爆发，但多人对话的自然流畅性和长序列稳定性一直是难点。小红书团队开源的FireRedTTS - 2是面向多人对话场景的TTS模型，实现自然切换和低延迟，支持多语言，适用于多种场景。
确认！DeepSeek多模态AI已经开测
DeepSeek研究员陈小康、陈德里确认其V4视觉模式开始灰度测试。更新后出现识图模式，具备真实图像理解能力。陈小康是多模态研究组负责人，陈德里负责语言模型等核心方向，V4可谓满血归来。
破解遥感目标的形状与尺度难题，PKINet二代推理提速近4倍！
PKINet - v2是改进的遥感目标检测模型，能处理复杂形状和尺度变化问题。它在PKINet基础上升级，统一条带与方形卷积，部署时折叠为单大核。在多数据集上精度和速度提升，可服务多领域，但对特殊目标仍有检测问题。
DeepSeek V4永久降价！缓存命中再打1折，实测编程成本骤降83%
DeepSeek两天连续两次降价，输入输出2.5折，命中缓存输入折上再1折且无时限。实测编程成本骤降83%，此前31.73元，打折后只需5.34元。其曾引发价格战，此次对海外用户冲击更大。