「长文本训练」共找到 2941 篇相关文章
Kimi开源新线性注意力架构，首次超越全注意力模型，推理速度暴涨6倍
月之暗面发布开源Kimi Linear架构，用新注意力机制首次超越全注意力模型。长上下文任务中，它减少75%的KV缓存需求，推理加速达6倍。核心创新Kimi Delta Attention有细粒度遗忘门控等特点。
3B Image Captioning小钢炮重磅来袭，性能比肩Qwen2.5-VL-72B
文章推荐Dense Image Captioning新技术CapRL，它首次将DeepSeek - R1强化学习法用于image captioning，创新定义reward。训练的CapRL - 3B模型性能比肩Qwen2.5 - VL - 72B，解决了reward设计难题，已开源相关内容。
小说一键转有声剧！豆包语音团队提出「AI多人有声剧」方案，沉浸感拉满了
豆包语音团队发布「AI 多人有声剧」自动化方案，基于多角色 Seed - TTS - 2.0 模型，实现从小说文本到有声剧成品端到端 AI 制作，成本和周期大降，首批有声剧已在番茄小说 App 上线。
ACL 2025 | GALLa：给代码大模型装上“透视眼”，看懂程序的“骨架”！
蚂蚁集团与上海交大合作的 GALLa 研究被 ACL 2025 主会录用。它利用图神经网络将代码图结构信息注入大模型，在 7 个模型和 5 个任务上提升性能，推理与普通 LLM 一致，不增成本。
西湖大学打造了一个AI科学家，突破人类SOTA，还能自己发论文
西湖大学文本智能实验室推出能自主探索的AI科学家DeepScientist，两周完成人类三年科研量。它在三个前沿AI任务刷新SOTA纪录，还能写论文。文中介绍其科研历史、工作方式、成果及面临的伦理问题。
数据蒸馏的双重突破：从几何保真到对抗鲁棒
深度学习中，数据集蒸馏可用精简合成样本替代庞大训练集且不牺牲模型性能，但面临精度和可靠性两大难题。两篇发表于 ICCV 2025 和 AAAI 2025 的论文分别给出解决方案，且代码已开源。
OpenAI和DeepMind大佬离职联手，誓用AI科学家实现室温超导！已融3亿美元
OpenAI后训练负责人和DeepMind的AI4S大佬离职成立Periodic Labs，专注用AI Agent改造科研，攻克室温超导等难题，已获3亿美元融资。团队目标是培养AI科学家，构建自主实验室，还将应用于产业。
AI视频生成走向“演技生成”时代，生数科技Vidu全球发布Vidu Q2 | 甲子光年
9月25日，生数科技全球上线新一代图生视频大模型Vidu Q2，实现从“视频生成”到“演技生成”跨越。它在表情生成、运镜、语义理解、时长选择等方面有提升，分闪电和大片模式，已在多端上线。
时隔多年，AI芯片又是华为发布会主角了
华为全联接大会上，轮值董事长徐直军带来全球最强算力超节点和集群。公布昇腾、鲲鹏芯片未来2年演进规划，还开创灵衢互联协议。虽单芯片受限，但集群层面有望实现超越。
Shopify 经验贴：如何搞出一个生产级别可用的 AI Agent 系统？
Shopify 以 AI 助手 Sidekick 为例，分享从简单工具调用系统演变为复杂 AI Agent 平台的经验，包括架构设计、评估方法和训练技术等方面，还给出构建生产级别可用的 AI Agent 系统的四条核心建议。