「Energy-Based Transformer」共找到 274 篇相关文章
【DeepSeek-OCR系列第一篇】Language Modelling with Pixels【ICLR23】
当前主流语言模型依赖固定词表，扩展到多语言、多脚本时面临覆盖受限、计算昂贵、鲁棒性差等问题。ICLR 2023论文提出不依赖词表的PIXEL模型，通过将文本变成图像用视觉Transformer理解，实验验证其有跨语言、抗噪声等优势。
180 天狠赚 5.7 亿，8 人团队全员财富自由，最大功臣是 Claude 和 Gemini
海外巨头 Wix 8000 万美元买下成立仅 6 个月的 AI 公司 Base44。其创始人 90 后 Shlomo 从两个现实需求出发，打造“全栈原生”AI 开发平台，用独特策略获 40 万用户，揭示团队规模和资金非竞争决定因素。
中科院类脑大模型SpikingBrain，2%数据，百倍速度
中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。
Qwen3 变身扩散语言模型？不从零训练也能跑，30B参数创纪录
扩散语言模型（DLM）潜力大但训练难，Radical Numerics团队改造Qwen3-30BA3B，推出30B参数的开源扩散语言模型RND1-Base。该研究系统性研究A2D转换关键因素，成果超现有部分模型，还提出简单方法及训练策略。
王云鹤眼中的Harness：复杂优化问题，AGI灵魂争夺之战
王云鹤在知乎文章中探讨Harness Engineering，指出Agent=Model+Harness，多模型配合能提升Agent能力。还分析Harness存在的必要性，认为它是复杂优化问题，关乎AI“灵魂”之争。
加速200倍，单显卡1.8秒生成5秒高清视频！清华与Vidu解开了视频扩散模型的速度枷锁
清华、生数科技与伯克利联手用TurboDiffusion解开视频扩散模型速度枷锁。它改造注意力机制、引入步数蒸馏和量化策略，在多模型测试中加速100 - 205倍，且画质几乎无损。
他给谷歌做出了最火CLI工具，结果被开了
谷歌老兵Poehnelt做的Google Workspace CLI工具获2.8万星，因仓库用谷歌Logo被开除，谷歌随后推出官方版。同时，谷歌人才出走严重，两天走两个诺奖级人物，Gemini核心开发者也跳槽，致股价大跌。
新手入门 | 搭建 AI 模型开发环境
文章为新手提供AI模型开发环境搭建方法，涵盖安装显卡驱动、CUDA、cuDNN、Miniconda、PyTorch、Transformers等，还介绍用Modelscope下载加载模型、PyCharm配置及解决常见问题。
Feed-Forward 3D综述：三维视觉如何「一步到位」
这篇由12所机构联合撰写的综述论文，总结2021 - 2025年间数百项创新工作，建立Feed - Forward 3D方法谱系与时间线，介绍五大技术分支、应用场景、评测指标与结果，还指出未来挑战与方向。
AI大牛刘威创立的Video Rebirth，刚刚又完成8000万美元融资
AI视频生成企业Video Rebirth完成8000万美元融资，由AMD Ventures、现代汽车等跨界投资。其由刘威创立，首创Dual Diffusion Transformer架构，新资金用于Bach模型商业化与全球扩张。