「Transformers v5」共找到 2566 篇相关文章
蚂蚁C2LLM：基于注意力池化的代码检索新范式
在Code RAG场景中，传统文本Embedding模型处理代码表现欠佳。蚂蚁集团与上海交通大学联合发布C2LLM系列模型，引入注意池化模块，在MTEB - Code榜单表现出色，还得益于优质训练流程，成果已回馈社区。
完成20亿的融资，这家AI芯片公司也要冲击IPO
近日，AI芯片企业清微智能完成超20亿人民币C轮融资，已启动上市筹备。该公司是可重构计算领导企业，量产多款芯片，与智源研究院合作打造国产AI芯片软件生态，市场表现佳。
从检测到通用感知：构建空间智能的基础
本文整理自张磊在AICon 2025北京的分享，分析语言与视觉原生模型架构区别，介绍基于Transformer的物体检测算法及开集检测技术进展，如Grounding DINO和DINO - X，还探讨其在多领域的应用和潜力。
国产先进封装的协同进程，究竟走到了哪一步？
AI算力浪潮下，产业焦点从‘制程竞速’转向‘系统协同’，Chiplet与2.5D/3D先进封装成关键路径。湾芯展上，硅芯科技牵头的‘Chiplet与先进封装生态专区’让国产先进封装协同具象化，展现产业链闭环能力。
训练成本暴降99%，35秒出1分钟高清视频！英伟达MIT等引爆视频AI革命
英伟达联合MIT、港大团队提出SANA - Video架构，其核心是创新的全局线性注意力Diffusion Transformer训练框架和全局显存恒定的KV缓存机制。它训练成本低、速度快、可部署，重新定义AI视频生成效率极限。
Gemini 3.0 Pro内测流出，编程实力惊人！下周上线
十月AI战场热闹非凡，Sora 2刚亮相，谷歌下一代Gemini旗舰模型Gemini 3.0蓄势待发，最晚下周上线。内部代码流出其有Pro和Flash两版本，实测在编程等方面表现惊艳，虽未发布却暗示编码时代将变。
文心X1.1三大能力狂飙，海内外实测还挺惊艳！
9日WAVE SUMMIT深度学习开发者2025大会上，文心大模型X1.1发布，事实性、指令遵循、智能体能力显著提升，多项测试表现佳。它能做到知识一致，精准遵循指令，智能体解决问题出色，代码、数学、多模态能力也有进化，得益于迭代式混合强化学习训练框架。
高效大规模创新3D重建模型iLRM
多数基于Transformer架构的模型处理多视图输入有可扩展性问题，成均馆大学、延世大学研究人员提出创新3D重建模型iLRM。它通过迭代细化机制生成3D高斯表示，有独特架构设计和高效注意力机制。
上线8个月、ARR破亿美元，45人团队每天支持用户构建 10 万个项目！CEO分享用人秘籍：高薪员工不一定是万金油
Lovable上线8个月ARR破亿美元，预计年底达2.5亿，未来12个月达10亿。CEO Anton Osika认为关键是打造最佳团队、品牌，行动要快。还分享用人、应对竞争等看法，如高薪员工非万能，更怕OpenAI。
一篇400+文献最新RAG技术系统性综述
本文对RAG技术进行系统性综述，通过筛选5大数据库、128篇高被引文献、343个数据集，给出技术地图、评估框架与未来路线，梳理技术全景、评估指标，还介绍主流数据集，指出RAG已演变为复杂系统。