「双预训练架构」共找到 3616 篇相关文章
AI 编程越来越厉害了，我要怎么提升自己的系统架构能力？
文章指出 AI 写代码能力提升，对程序员系统架构能力要求更高且难被替代。介绍系统设计概念，分析做系统设计的难点，给出新人提升系统设计能力的方法，还说明 AI 可辅助提升该能力。
Transformer终结者！谷歌DeepMind全新MoR架构问世，新一代魔王来了
KAIST、谷歌DeepMind等机构发布的MoR架构，推理速度翻倍、内存减半，重塑LLM性能边界，碾压传统Transformer。它融合参数共享与按需计算，有路由和KV缓存策略，实验显示其性能优越、可扩展性好。
AI是否足够的中立？宾夕法尼亚大学发现AI训练数据中的隐形偏见
宾夕法尼亚州立大学和俄勒冈州立大学研究发现，普通用户难察觉AI训练数据中种族与情绪绑定的偏见，直到AI性能表现出明显偏见才会警觉。不同族裔对偏见感知有差异，黑人更易识别。
SOTA级视频编辑新方法：无需训练一句话编辑视频，背景保持100%
传统视频编辑工作流被AI重塑，但现有AI方法存在问题，多源于反演 - 编辑范式。西湖大学AGILab提出无需反演和训练的FlowDirector，开销低、支持广且能100%保持背景，还采用新策略优化。
舍弃 VAE，预训练语义编码器能让 Diffusion 走得更远吗？
纽约大学谢赛宁团队、清华&快手 Kling 团队的研究者指出 VAE 制约当前 Diffusion 范式，提出用预训练视觉模型作语义编码器改进。介绍了 VAE 不足及 RAE、SVG 工作如何解决问题，将扩散模型从‘压缩优先’转为‘语义优先’。
「有望成为Transformer杀手」，谷歌DeepMind新架构MoR实现两倍推理速度
谷歌DeepMind发布新架构MoR，有望成Transformer杀手。它统一实现参数共享、自适应计算，兼顾性能与效率。实验显示其推理吞吐量提升，降低计算需求，但能否取代Transformer存疑。
直播预约 | 强化学习训练能否不依赖外部知识优化模型的弱点？
论文提出 SwS 框架，针对强化学习场景，利用模型自我感知弱点驱动自动化问题生成，合成针对性训练数据。还对其进行多项扩展，在多个基准测试集和模型上验证有效，性能提升显著。
Kimi新架构让马斯克叹服！17岁高中生作者一战成名
17岁高中生陈广宇作为共同一作的论文提出Attention Residuals技术，将注意力机制“旋转90度”。该技术可让模型“回头看”，经Kimi Linear 48B大模型验证，训练效率提升25%，推理延迟增加不到2%。
彻底告别VE与VAE！商汤硬核重构多模态：砍掉所有中间编码器
商汤科技联合南洋理工大学发布NEO - unify，这是“原生、统一、端到端”多模态模型架构，砍掉VE和VAE，用混合变换器架构打通视觉与语言能力，提升数据与算力利用效率，为跨模态智能系统奠基。
Slack 淘汰 SSH：700+ EMR 作业迁移至基于 REST 的调度架构
Slack 完成大规模数据平台改造，将 Amazon EMR 数据处理流程中 SSH 作业执行模式替换为基于 REST API 的统一调度架构，移除对生产集群的直接 SSH 访问，迁移 700 多个 Airflow Operator，解决了安全、运维等问题。