双预训练架构」共找到 3616 篇相关文章

算法论文8

VerlTool重塑Agentic RL的训练生态

当前LLM像‘缸中的大脑’,缺乏与外界互动能力。新范式ARLT兴起,但构建训练框架面临诸多挑战。VerlTool作为统一、模块化、高效的开源框架应运而生,解决难题,在多任务实验表现出色,推动LLM向智能体转变。

深度学习自然语言处理
推荐文章7

团队授权:分散化的架构决策

文章以黏菌创建网络为隐喻,探讨软件团队去中心化架构决策。介绍转型历程,包括重组团队、建立建议流程、创建上下文图等,阐述各环节作用、挑战与收益,强调其能提升决策质量与团队参与度。

InfoQ
新闻资讯7

作为软件架构师使用 AI 的经验

Avraham Poupko 在 OOP 大会分享软件架构师用 AI 经验,认为软件架构师不会被 AI 取代,AI 适合探索权衡、提炼语言,但缺乏情境推理和情感智能,人类在这方面更有优势。

InfoQ
开源动态7

DeepSeek之后:中国开源人工智能生态的架构选择

自2025年1月“DeepSeek时刻”,中国开源社区有历史性进展,讨论焦点从模型转向架构与硬件选择。技术架构多元,多模态能力扩展,开源许可宽松,小模型走红,本土硬件采用加快。

Hugging Face
新闻资讯7

Meta全新AI组织架构曝光,这范儿有点字节

Meta内部组织调整后,全新架构浮出水面,围绕‘超级智能实验室’整合出3400多人的新组织,负责人是亚历山大·王。其分工类似字节AI架构,还在挖人,有反噬风险。

量子位
推荐文章8

为什么算力追赶这么难?前谷歌架构师现场黑板推演底层架构,看懂芯片底层逻辑里被忽视的“空间博弈”

前谷歌架构师、MatX CEO Reiner Pope在访谈中从基础逻辑门讲起,推导芯片架构,指出芯片大部分成本花在搬运数据上,还探讨乘加运算、脉动阵列等原理,以及时钟周期、FPGA与ASIC差异等内容。

AI科技大本营
新闻资讯7

AI书籍训练诉案,Anthropic与作者达成和解

Techcrunch消息,大模型平台Anthropic就Bartz诉Anthropic案与多名作者达成和解并提交文件。此前下级法院裁定其用书籍训练模型属合理使用,但涉盗版或面临高额处罚,Anthropic曾上诉,和解细节未公开。

AIGC开放社区
算法论文7

Thinking Machines再发文:模块化流形让训练更稳定

Mira Murati团队分享神经网络训练推理新研究,提出“模块化流形”让训练更稳定。将权重约束在Stiefel流形,设计Manifold Muon优化器,实验显示效果好,但计算开销和理论问题待解决,代码已开源。

AI工程化
开源动态8

The Batch: 849 | 用于训练网页智能体的生成数据

开发网页智能体常需大量人力标注训练样本,卡内基梅隆大学与亚马逊团队实现训练数据生成自动化。他们构建数据集,通过智能体工作流程生成数据,微调后 Qwen3 - 1.7B 表现出色,还公开数据与方法。

DeeplearningAI
推荐文章7

Java 世界的 MCP:将架构策略应用于 LLM 集成

文章指出大语言模型成企业架构组件,但当前集成脆弱。MCP 引入标准化方法,Java MCP SDK 能将其与企业架构融合。文中探讨 MCP 及其 SDK,分析其设计、应用、权衡等,还给出企业运营助手案例。

InfoQ