「梯度保留策略」共找到 1039 篇相关文章
独家对话比尔·盖茨：AI已跨过临界点，社会却几乎没有讨论
比尔·盖茨在与《麻省理工科技评论》的采访中表示，AI在多方面已跨过临界点，但行业外缺乏讨论。他警告生物恐怖主义风险，提出‘人类保留岗位’、征税等政策设想，也看好AI在部分领域价值。
如何实现RAG与MCP集成
文章聚焦RAG与MCP集成，介绍RAG突破传统模型局限及不足，引出Agentic RAG。阐述MCP革新AI工具连接方式，结合二者构建集成架构，还给出实现步骤、优化策略与代码实践，为释放AI系统潜力提供方案。
快手Klear-Reasoner登顶8B模型榜首，GPPO算法双效强化稳定性与探索能力！
快手Klear团队推出Klear-Reasoner模型，基于Qwen3 - 8B - Base打造，在多基准测试达同规模SOTA。其核心GPPO算法能强化稳定性与探索能力，团队还对训练流程多环节深入分析，给出优化策略。
成立7个月首发声！百亿美金独角兽万字雄文：攻克LLM推理非确定性难题
估值120亿美元的Thinking Machines Lab成立7个月首次公开研究成果，揭示LLM推理非确定性的真凶是kernel缺乏批处理不变性。介绍了实现批处理不变性的方法，还通过实验展示其效果及对同策略强化学习的意义。
AI × 老旧系统：Vibe Coding 构建 AI 迁移工具，实现 10x 端到端智能迁移
文章指出老旧系统现代化复杂且需大量人工，AI 编程工具和 Vibe Coding 带来新可能。介绍 6R 策略、绞杀模式等迁移方法，还阐述 AI 在系统分析评估、代码转换等方面的应用，最终目标是打造闭环 AI 迁移 Agent。
LLM应用测试范式的进化
文章指出传统软件测试方法在LLM应用中存局限，探讨将其与AI评估结合应对挑战。抽象出LLM应用三层架构模型，分析传统测试范式适用性，介绍AI安全分析方法，阐述测试挑战、范式转变及协同测试策略。
无损减少80%激活值内存，提升5倍训练序列长度，仅需两行代码
港中文（深圳）和上海交通大学团队提出 StreamBP 算法，通过线性分解和分步计算，将大语言模型训练激活值内存降至梯度检查点的 20%，在相同内存下最大序列长度为其 2.8 - 5.5 倍，代码已开源。
美团开源全模态，比肩顶级闭源模型，开源新SOTA
美团LongCat团队发布5600亿参数开源全模态模型LongCat - Flash - Omni，它有端到端全模态架构，能实现毫秒级实时音频 - 视觉交互。该模型训练采用渐进式策略，工程上有高效技术支撑，在多基准测试表现出色。
奖励模型终于迎来预训练新时代！上海AI Lab、复旦POLAR，开启Scaling新范式
在大语言模型后训练阶段，奖励模型设计与训练是关键瓶颈。上海AI Lab、复旦推出预训练奖励模型POLAR，采用策略判别学习新范式，适配强化微调，性能和泛化能力强，为LLM后训练带来新可能。
深度剖析将 Kafka 构建在 S3 上的技术挑战与最佳实践
文章基于AutoMQ深入剖析将Kafka构建在S3上的挑战与解法。探讨延迟、IOPS、缓存管理等问题，介绍AutoMQ应对策略，如用WAL+S3架构降低延迟、批处理数据减少请求等，还提及Kafka兼容性及跨区流量成本处理。