「FP4训练」共找到 3412 篇相关文章
微软×UIUC：给每个学生造一个「数字分身」，AI教师终于有了陪练
微软和 UIUC 合作研究 StudentSim，基于真实学生数据训练个性化学生模拟器框架，解决了过去学生建模方法的问题。它经两阶段训练，在多领域实验中表现出色，还能为 AI 教师优化提供反馈。
无需训练，即插即用，2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中，扩散模型成主流，但DiT模型注意力机制计算量大，成推理瓶颈。现有加速法效果不佳，为此美国东北大学等团队提出DraftAttention，可2倍加速推理且不损画质。
北大腾讯突破奖励模型瓶颈！让AI理解人类偏好，泛化能力比肩GPT-4.1
北京大学知识计算实验室联合腾讯等机构提出RewardAnything，突破奖励模型瓶颈。它让奖励模型理解自然语言评判原则，降低成本，泛化能力比肩GPT - 4.1，还能用于定制AI行为模式。
具身智能稀缺的数据，可能藏在这个游戏手柄里？
游戏录屏平台Medal掌握的玩家操作记录成机器人模型训练核心数据。其创始人皮姆创办General Intuition获高额融资，该公司用游戏录像预训练动作模型，但也面临数据多元性、任务表现及合作模式等问题。
30 年 FAANG 大神被 C++ Bug “虐”4年，竟被Claude Opus 4一招解决！
上周 Anthropic 发布 Claude Opus 4，称其为“全球最强编程模型”。本周，有 30 多年 C++ 开发经验的 ShelZuuz 用它解决了困扰 4 年的“白鲸 Bug”，此前用 GPT - 4.1 等模型均无果。不过他认为它像“初级开发者”。
Vercel 开源 json-render！短短 4 天狂揽 7500 Star，这才是 AI 生成 UI 的终极解法！
Vercel 开源的 json - render 4 天获 7500 Star，解决生成式 UI 不可控问题。采用‘AI → JSON → UI’公式，结合‘约束’与‘流式’机制，还有反向生成源码功能，介绍了快速入手办法与适用场景。
5.3 万人收藏的开源版 Claude Code 彻底起飞了，GLM-4.7直接免费用。
近期AI编程界，Claude Code虽好用但对小白不友好。而开源神作OpenCode爆火，Star数达53K。它把‘选模型’进化成‘选员工’，有图形化界面，还集成可靠模型，支持并行运行，社区有强大插件。
吴恩达新作：87%推理token用不着，丢掉反而快3倍
吴恩达新作Prefix Sliding指出，模型推理时丢弃中间已贬值token，只保留前缀+滑动窗口，无需训练可提速3倍，配合RL训练能将推理轨迹扩展到10万token以上。该方法为Agent场景提供新思路。
为什么大模型会产生幻觉？OpenAI最新研究终于搞清楚了
OpenAI发布研究论文剖析LLM幻觉根源，指出当前主流训练与评估体系是核心驱动因素之一。现行评估奖励猜测行为，幻觉起源于预训练的‘下一词预测’，论文还澄清五大误区，建议改革评估体系。
如何利用pytorch memory snapshot进行显存分析
文章聚焦于用pytorch memory snapshot分析模型训推显存消耗，不讨论工具使用，侧重解读记录内容。以混合精度训练为例，介绍各步骤显存管理细节，还给出单层、双层模型及zero1训练的显存分析。