「低内存」共找到 1179 篇相关文章
FlashAttention-4震撼来袭，原生支持Blackwell GPU，英伟达的护城河更深了？
在 Hot Chips 2025 上，TogetherAI 首席科学家 Tri Dao 公布 FlashAttention-4，其在 Backwell 上比英伟达 cuDNN 库中的注意力核实现快 22%，还实现两项算法改进。该技术一直迭代升级，提升了注意力计算效率。
SGLang 2025-8月性能优化技巧记录
本笔记记录2025年8月SGLang框架性能优化实践，涉及GPT - OSS、DeepSeek - V3等模型，采用allreduce_add_rmsnorm、量化、通信、内核融合等优化技术，在性能提升、减少延迟等方面效果显著。
40年首次突破！清华大学发布全新最短路径算法，打破理论瓶颈:数据中心有望节省大量计算资源
清华大学Ran Duan、Longhui Yin团队发表论文，提出确定性新算法，在稀疏图上表现超经典Dijkstra算法。新算法时间复杂度为`O(m log²/³ n)`，不维护全局有序顶点队列，应用前景广，可节省计算资源。
OpenAI深夜放出GPT-5狙击谷歌！基准测试碾压前代模型，价格比Claude更便宜
北京时间8月8日凌晨，OpenAI推出GPT - 5，宣称其更智能、准确，幻觉率低。还推两款新模型，介绍了不同用户套餐。它在编程基准测试表现佳，健康领域能力突出，引发各界热议。
Meta华人新秀毕树超，重磅爆料下一代LLM路线！RL+预训练直通AGI
OpenAI前研究员、Meta成员毕树超在哥大演讲指出，AGI需高质数据、好奇驱动探索与高效算法，Scaling Law有效，规模决定智能，终身学习是重点，还探讨了AGI面临的诸多问题与挑战。
从工业革命看AI对就业的冲击：脑力劳动贬值、结构性失业、生产力提升、财富再分配
文章从短期、中期、长期分析AI对就业的影响，指出短期部分白领岗位受冲击，中期职业结构重构，长期会面临财富分配难题。还提到AI会造成结构性失业，解决分配问题很关键。
OpenAI新Agent遭中国24人初创团队碾压！实测成本、质量全输惨，海外用户：中国Agent代差领先
今日凌晨，OpenAI 推出 ChatGPT Agent 新功能，能让 AI 助手完成多步骤任务。虽官方称其性能先进，但实际效果有局限。海外用户将其与中国团队产品对比，发现中国 24 人初创团队产品成本、质量更优。
阿里深夜开源王炸Agent！硬刚OpenAI，性能全面SOTA！
过去半年，开源Agent在解决复杂难题时难敌OpenAI。昨天阿里通义开源WebSailor模型，用完整可复现方法论挑战闭源霸权，通过构造L3合成数据、取精华训练轨迹、两步走训练策略提升性能。
ACL 2025 | AI字幕慢半拍，不知道大家在笑什么？新方法让同传性能直逼离线翻译
香港中文大学、字节跳动Seed和斯坦福大学团队提出SeqPO - SiMT框架解决同声传译“质量 - 延迟”权衡问题。该方法将同传建模为序贯决策过程，优化决策序列，实验显示其性能直逼离线翻译。
3D VLA新范式！CVPR冠军方案BridgeVLA，真机性能提升32%
中科院自动化所提出BridgeVLA模型，将3D输入投影为2D图像并利用2D热图进行动作预测。它训练分两阶段，在多仿真基准和真机实验表现卓越，仅3条轨迹基础任务成功率达96.8%，真机性能提升32%。