「transformers」共找到 234 篇相关文章
我用 GLM-5.2 读 148 万字资料：一天读懂一个知识
作者用 GLM-5.2 处理 148 万字 Transformer 资料，它生成可打开的 HTML 阅读页，将内容排成理解路线。GLM-5.2 在评测榜单中进入第一梯队，主打 1M 上下文，还分享了使用该模型处理资料的具体做法。
【DeepSeek-OCR系列第一篇】Language Modelling with Pixels【ICLR23】
当前主流语言模型依赖固定词表，扩展到多语言、多脚本时面临覆盖受限、计算昂贵、鲁棒性差等问题。ICLR 2023论文提出不依赖词表的PIXEL模型，通过将文本变成图像用视觉Transformer理解，实验验证其有跨语言、抗噪声等优势。
中科院类脑大模型SpikingBrain，2%数据，百倍速度
中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。
加速200倍，单显卡1.8秒生成5秒高清视频！清华与Vidu解开了视频扩散模型的速度枷锁
清华、生数科技与伯克利联手用TurboDiffusion解开视频扩散模型速度枷锁。它改造注意力机制、引入步数蒸馏和量化策略，在多模型测试中加速100 - 205倍，且画质几乎无损。
他给谷歌做出了最火CLI工具，结果被开了
谷歌老兵Poehnelt做的Google Workspace CLI工具获2.8万星，因仓库用谷歌Logo被开除，谷歌随后推出官方版。同时，谷歌人才出走严重，两天走两个诺奖级人物，Gemini核心开发者也跳槽，致股价大跌。
新手入门 | 搭建 AI 模型开发环境
文章为新手提供AI模型开发环境搭建方法，涵盖安装显卡驱动、CUDA、cuDNN、Miniconda、PyTorch、Transformers等，还介绍用Modelscope下载加载模型、PyCharm配置及解决常见问题。
Feed-Forward 3D综述：三维视觉如何「一步到位」
这篇由12所机构联合撰写的综述论文，总结2021 - 2025年间数百项创新工作，建立Feed - Forward 3D方法谱系与时间线，介绍五大技术分支、应用场景、评测指标与结果，还指出未来挑战与方向。
AI大牛刘威创立的Video Rebirth，刚刚又完成8000万美元融资
AI视频生成企业Video Rebirth完成8000万美元融资，由AMD Ventures、现代汽车等跨界投资。其由刘威创立，首创Dual Diffusion Transformer架构，新资金用于Bach模型商业化与全球扩张。
前谷歌研究员发文：算力崇拜时代该结束了
前谷歌大脑研究员 Sara Hooker 发文指出，过去十年 AI 创新依赖算力，但如今持续扩展训练计算资源效率极低，收益递减。她探讨了影响算力回报率的因素，批判 Scaling Law，并提出未来创新方向。
CEO们的AI焦虑：一张黑白漫画在硅谷疯传
一张CEO喊着‘要AI’的黑白漫画在硅谷疯传。风投出身的Trace Cohen指出高管与基层对AI转型认知有差距，中层被董事会和技术团队拉扯，危险循环正在形成，真正革命或要从高管学习开始。