「小样本学习」共找到 2422 篇相关文章
Sglang 源码学习笔记（三）- 分布式和并行（以deepseek 为例）（WIP）
文章是 sglang 源码学习笔记，聚焦分布式和并行，以 deepseek 为例。介绍通信域类型，分析 ZMQ 和 torch.dist 通信，阐述 TP、DP、EP 实现，包括初始化、使用等，还涉及不同 Linear 层 TP 及 MoE 不同实现情况。
投奔小扎，Jason Wei连发两篇博文公布“屠龙术”：一个公式看透AI，一条心法指引人生
OpenAI研究科学家Jason Wei被小扎挖走后连发两篇文章。一篇提出“验证者定律”，指出训练AI解决任务难易与可验证性成正比；另一篇从强化学习悟到人生要走On - Policy路线，发挥自身优势。
机器学习先驱Daphne Koller警告：AI制药不是魔法棒，下一代药物发现还缺1000倍数据
知名学者 Daphne Koller 在 a16z News 发文指出，AI 制药当前最受关注的进展多在分子设计，但新药研发难题在上游，疾病机制的靶点选择错误导致大量临床试验失败，且当前数据距构建完整生物学因果模型差约 1000 倍。
阿里通义的视觉RAG革命！VRAG-RL：基于强化学习的视觉感知RAG框架，性能飙升30%
阿里巴巴通义实验室推出VRAG - RL，融合视觉感知、多模态推理与强化学习，已在GitHub开源。它破解传统RAG处理视觉数据难题，通过创新机制提升性能，在多数据集表现出色，还将向更拟人化和低幻觉方向发展。
这可能是，全球最强开源Agent模型，走了一条反Scaling Law的全新范式！
MiroThinker v1.5开源，其30B小模型在Agent benchmark上击败万亿参数的Kimi K2T。它以交互深度为新Scaling维度，训练有严格时间管控，实测表现超Search Agent，“小模型+强交互”或成新方向。
字节Seed新作：模型合并如何改变大模型预训练范式
字节跳动Seed团队在arXiv发表论文，提出预训练模型平均（PMA）技术。该技术将模型合并引入预训练阶段，可提升性能、预测衰减阶段表现，还能解决训练问题。不过，高学习率影响和强化学习应用待研究。
Dario “破防小作文”超千万人围观！LeCun 开炮：信任危机是因为你搞权力集中
Anthropic 联合创始人兼 CEO Dario 发“小作文”探讨 AI 信任危机，认为是行业未兑现承诺所致。他主张用监管约束前沿公司权力，还表示 Anthropic 会加大生物和医学投入。Yann LeCun 则反驳，认为应让 AI 开放分散。
突破高分辨率图像推理瓶颈，复旦联合南洋理工提出基于视觉Grounding的多轮强化学习框架MGPO
先进多模态大模型处理高分辨率图像有瓶颈，复旦和南洋理工研究者提出基于视觉Grounding的多轮强化学习方法MGPO，能让模型精准推理，还可使模型从答案反馈中涌现视觉定位能力，避免依赖昂贵标注。
蚂蚁抛弃向量推荐！用8B小模型构建「用户“话”像」，实现跨模型通用并拿下SOTA
2026年AI开发者关注爆款大模型应用，个性化是关键。蚂蚁集团和东北大学团队推出AlignXplore+，实现文本化用户建模新范式，有全域通用、极致迁移、实战适配特性，小参数超越基线，未来将继续探索。
阿里开源长文本深度思考模型！渐进式强化学习破解长文本训练难题，登HuggingFace热榜
阿里开源长文本深度思考模型QwenLong - L1，登上HuggingFace热门论文第二。它解决了长文本强化学习训练难题，通过渐进式上下文扩展训练，在多基准测试中表现出色，还探讨了SFT和RL作用。