「稀疏注意力优化」共找到 1447 篇相关文章
仅凭一篇博客,他成功入职OpenAI!核心技术或用于GPT-5训练
Keller Jordan设计Muon优化器并公开研究进展,引OpenAI和xAI关注,最终加入OpenAI。Muon性能卓越,或用于GPT - 5训练,其故事暗示传统论文模式在AI领域或已落伍。
快速行动,创造未来:AI时代的职业新法则——LinkedIn联合创始人给即将踏入AI时代职场的毕业生一些忠告
LinkedIn联合创始人Reid Hoffman给即将踏入AI时代职场的毕业生忠告。虽就业形势严峻,但毕业生应兴奋,主动驾驭AI,用其优化职业,具备AI素养,发挥主动性,重视人际关系,创造未来。
昇腾+鲲鹏联手上大招!华为爆改MoE训练,吞吐再飙升20%,内存省70%
最近华为在MoE训练系统给出算子和内存优化新方案,三大核心算子全面提速,系统吞吐再提20%,Selective R/S实现内存节省70%,为大规模MoE模型训练扫清障碍。
LangFlow: 挑战离散扩散,探索下一代语言模型新范式
UIUC Ge Liu团队发布《LangFlow: Continuous Flow Matching for Large Language Models》,回归连续扩散架构。研究指出连续扩散受挫非先天缺陷,经优化,LangFlow让连续扩散在标准基准追平离散扩散,为多模态统一架构打通底层路线。
矩阵乘法可以算得更快了!港中文10页论文证明:能源、时间均可节省
香港中文大学10页论文提出新算法RXTX,用于计算矩阵与其转置的乘积XXᵗ。该算法结合机器学习搜索和组合优化技术,能源可节省5%-10%,时间节省5%,对多领域有深远影响。
人类造工具200万年,工具开始研究工具!97年天才少年带队,把“AI寻找研究方向”做成了现实
2026年AI开始研究AI(AI4AI),深圳EvoMap团队用蜂群协作做出产品EvoX。他们创新Agent组织方式,有实验数据支撑其效果,还开源成果AutoResearch解决AI痛点,在生活场景优化旧算法可行。
B站爆了!Hermes首度直播回应「抄袭」,MiniMax提前杀入Harness赛点
Hermes Agent业务负责人回应抄袭质疑,技术对谈探讨AI竞争新维度。MiniMax动作密集,构建“Model + Harness”双向飞轮,其模型获海外开源圈认可,产品驱动模型优化,还与云厂商合作解决沙箱问题。
必看!SEO、AEO、GEO、AAO是什么,如何做,实际应用举例,适合谁做及如何协作?
文章由白杨SEO撰写,介绍SEO、AEO、GEO、AAO概念、做法、应用及适用企业,强调它们是互补的搜索营销手段,还介绍了AI搜索优化GEO第二期训练营相关信息。
Claude Code 开发者分享:如何管理百万上下文
Claude Code开发者Thariq分享管理百万上下文的心得。介绍了context概念、腐烂问题及压缩机制,提出完成操作后的五条岔路,还给出不同场景的决策建议,强调会话管理要平衡信息量和注意力。
一夜颠覆Sora神话,H200单卡5秒出片!全华人团队开源AI引爆视频圈
UCSD等机构发布FastWan系模型,用「稀疏蒸馏」训练方案,让视频去噪速度飙升70倍。FastWan在单张H200上5秒生成480p视频,模型权重等全开源,改写AI视频生成格局。