「长文本生成」共找到 2977 篇相关文章
清华SageAttention3，FP4量化5倍加速！且首次支持8比特训练
清华大学陈键飞团队提出针对BlackWell架构的SageAttention3，实现5倍于FlashAttention的推理加速，首次支持8比特训练。在多种大模型上保持端到端精度，代码将分别于6、7月开源。
揭秘千卡 GPU 集群如何高效训练多模态大模型：vivo AI 团队实战经验分享｜AICon
在 InfoQ 举办的 AICon 大会上，vivo AI 架构师王兆雄分享多模态大模型训练经验。介绍了 LLaVA 和 DiT 模型训练挑战，从数据处理、模型计算等方面提出优化策略，还展望 AI Infra 未来发展方向。
何恺明改进了谢赛宁的REPA：极大简化但性能依旧强悍
扩散生成模型在建模复杂数据分布表现出色，但与表征学习领域关联不大。谢赛宁团队提出REPA，不过较麻烦。何恺明团队提出Dispersive Loss，简化且性能强，无需预训练等，适用于多种模型。
The Batch：831 | 机器翻译正在实践中发挥作用
人工智能为语言学习应用巨头 Duolingo 带来生产力提升，借助生成式 AI 构建 148 门课程，总量翻倍。其 AI 辅助课程构建法能快速转化多语种版本，还在评估多模型，不过此举也引发批评。
AI时代UI已死？Karpathy称产品要给AI开后门，还分享了自己的AI编程心法
Andrej Karpathy指出，只有复杂UI、无脚本支持、基于不透明二进制格式的软件产品，在AI时代会被淘汰。他给出风险评估清单，还分享AI编程心法，探讨编程中‘验证鸿沟’问题。
1/15成本，实现AI水印新SOTA | 南洋理工大学&A*STAR
给AI生成作品打水印成行业共识，但传统方法有短板。南洋理工大学等机构研究人员提出局部鲁棒图像水印方法MaskMark，成本仅为Meta模型WAM的1/15，在多任务中表现优异。
一张图片+ 一条音频，照片开口说话唱歌，多角色、情绪控制都拿捏了。
腾讯混元联合腾讯音乐推出 HunyuanVideo - Avatar 模型，上传照片配音频就能生成动态视频。支持多风格角色、情绪控制和多角色对话，单角色模式已开源，技术有创新，在多数据集表现优。
2天1k多星！BAGEL横空出世：字节跳动发布全球首个多模态全能AI，开启智能新纪元！
字节跳动推出开源多模态基础模型BAGEL，有70亿活跃参数。它在多模态理解排行榜超顶尖开源模型，文本到图像质量与SD3媲美，还具备世界建模等能力，文中介绍其方法、特性及使用说明。
全球最强编码模型 Claude 4 震撼发布：自主编码7小时、给出一句指令30秒内搞定任务，丝滑无Bug
Anthropic 首届开发者大会发布 Claude 4 系列，含 Opus 4 和 Sonnet 4 两型号，编码、推理能力强。Opus 4 处理长任务出色，是最佳编码模型；Sonnet 4 经济高效，被 GitHub 等采用。Claude Code 工具也正式发布。
谷歌AlphaEvolve引发OpenAI关注：AI原创算法，正挑战人类专家界限
谷歌DeepMind推出的AlphaEvolve系统，结合Gemini模型与进化算法，能自主探索、生成并迭代优化算法代码。它优化经典算法，在多领域取得突破，其原创能力引业界关注，OpenAI研究员对此表示震撼。