【博客翻译】使用PyTorch加速生成式AI第四部分：Seamless M4T，快速优化

这是使用纯原生PyTorch加速生成式AI模型系列博客的第四部分，专注加速FAIR的Seamless M4T - v2模型。通过torch.compile + CUDA Graph，在不损失精度下实现text decoder模块2倍、vocoder模块30倍加速，端到端推理2.7倍加速。

1.5B刷新数学代码SOTA！快手&清华精细化Token管理，LLM推理能力飙升

快手与清华团队用1.5B参数小模型在推理基准上超越同量级SOTA。其Archer方法通过精细化Token管理，对知识型和推理型Token差异化训练，让知识和推理同步更新且互不干扰，在数学和代码任务表现出色。

LLM长文本内卷，谁是真英雄？告别跑分玄学，我们需要一把“公道秤”

OpenNLG Group做了统一长上下文评估框架LOOM - Scope，兼容主流benchmark、model和长上下文加速方法。该框架围绕BENCHMARK、DEPLOYMENT和EVALUATOR三大核心模块，还提出LOOM - Bench应对评估成本制约。

AI 时代最大的“幻觉”：我们有了最强工具，却正在失去定义真问题的能力

BAT增长顾问、前快手产品总监杨一溪在全球产品经理大会指出，AI时代人们易迷失在‘可能性’中，失去定义‘真问题’的耐心。他结合案例，从多方面分享增长方法论，强调用户需求洞察的重要性。

AI记忆系统首获统一框架！6大操作让大模型拥有人类记忆能力

香港中文大学等团队发布AI记忆机制综述，首次构建统一框架，划分记忆类型，提出六种操作，探讨关键主题，还对比人类与AI记忆，指明未来AI记忆系统需突破瓶颈，迈向认知跃迁。

Claude 4发布！AI编程新基准、连续编码7小时，混合模型、上下文能力大突破

今天凌晨Anthropic开发者大会发布Claude 4，含Claude Opus 4和Claude Sonnet 4。前者是顶尖编码模型，后者是Sonnet 3.7重大升级。还发布系列产品，定价不变，已上线Amazon Bedrock。

AI圈惊天丑闻，Meta作弊刷分实锤？顶级榜单曝黑幕，斯坦福MIT痛斥

Agentic RL 后训练资源怎么分？港中文、恒生大学提出 Libra，吞吐最高提升 3 倍

大语言模型走向“完成任务”，Agentic RL 后训练让系统工作负载不稳定。港中文和恒生大学团队提出 Libra 资源管理系统，统一优化训练与 rollout，在多任务中提升吞吐，论文与代码已公开。

首发限时免费两周！实测腾讯混元Hy3：Agent能力飞升，日常主力毫无压力

腾讯混元Hy3正式版发布，尺寸300B，在多领域表现亮眼，追平甚至超越大参数模型。作者用三个刁钻场景实测，Hy3在全栈开发、3D游戏开发、办公任务中表现出色，幻觉率低，达生产级标准。

以小博大！Nanbeige4-3B重磅开源：硬刚Qwen3，挑战小模型能力新高度

近年来大语言模型参数膨胀，成本升高，业界重注小语言模型。近日，Boss直聘南北阁大模型实验室发布仅30亿参数的Nanbeige4 - 3B，在多方面媲美甚至超越通义千问Qwen3系列模型，开源印证小模型潜力。