搜索：不对称训练 - AI Reading Hub

「不对称训练」共找到 3320 篇相关文章

清华刘知远团队论文：最小化结构改动，短文本到长文本丝滑升级 | ICLR 2026

大语言模型发展中，上下文长度成关键瓶颈，主流架构计算开销大。清华刘知远团队提出《InfLLM-V2: Dense-Sparse Switchable Attention for Seamless Short-to-Long Adaptation》，提出可切换注意力框架，为长上下文研究提供新思路。

今日凌晨，Kimi团队在Reddit社区开展AMA交流，解答大家疑问。期间回应Claude蒸馏争议，探讨编程写作侧重、小参数模型需求、缩放定律等问题。K2.5表现出色，K3值得期待。

美国顶尖AI实验室大多失去联创，如OpenAI 11位联创只剩3人。而Anthropic的7位联创无人离队，普通员工留存率达80%，在吸引人才上对OpenAI和DeepMind呈单向优势，虽也有员工被Meta挖走，但也有人拒绝Meta。

美团龙猫团队开源智能体推理模型LongCat - Flash - Thinking - 2601，总参数5600亿。该模型在多方面有卓越表现，团队通过构建数据、模拟环境、采用强化学习策略及设计高效架构等，使其比肩闭源模型。

BiCo是创新AI视觉内容生成方法，能灵活组合图像和视频视觉概念实现可控编辑。它解决现有方法在概念提取和组合上的问题，在多方面表现优异，可用于视频制作、艺术创作等领域。

12月17日，在SIGGRAPH Asia 2025上，摩尔线程凭借自研技术LiteGS在3DGS重建挑战赛中获银奖。3DGS是革命性3D场景表示与渲染技术，摩尔线程开源3DGS基础库LiteGS，实现全链路协同优化。

现在只需一行代码，就能通过 `load_dataset('dataset', streaming=True)` 以流式方式加载数据集，无需下载。Hugging Face 优化后端，提升流式数据集速度与效率，减少请求、提升解析速度，还优化启动和流式加载阶段。

未来迈向AGI需多模态AI系统。南大等联合发表综述，涵盖754篇文献。分析传统路线痛点，介绍统一多模态模型定义、技术路线、训练方法等，还提及应用场景及未来方向。

在AI发展中，商业研究Agent是“黑箱”，开源研究Agent性能有差距。MiroMind团队推出MiroThinker v1.0，提出“交互扩展”提升性能，在多基准测试表现出色，也指出了当前版本的局限。

CUDA代码性能对模型训练与推理重要，但手动优化门槛高。明尼苏达大学团队提出CudaForge，是低成本多智能体CUDA Kernel生成与优化工作流，实验效果好，成本低且具通用性。