「双预训练架构」共找到 3627 篇相关文章
AI 驱动云上运维革命：腾讯云如何用“云顾问”重塑 SRE
在 AICon 大会上，腾讯云许小川介绍，面对云 IT 服务挑战，腾讯云推出「腾讯云顾问」可视化平台，涵盖架构梳理等功能。还分享多方面经验，用 AI 重塑 SRE，助力工作数智化升级。
智源技术分享：大模型行业应用新模式和关键实现路径
在 AICon 大会上，智源研究院周华分享大模型行业应用。分析落地问题，提出以大模型为核心的技术路径，涵盖数据、训练等环节，还给出数据生产流程建议，分享最新开源成果。
她拒了贝索斯，离开黄仁勋，只为回答一个问题：AI能学会物理世界吗？
近日，AI初创公司Accelerated Understanding亮相，由Anima Anandkumar夫妇创立。它未随主流，目标是训练模拟物理现象的通用AI模型。该模型处理数据规模大，公司想解决AI验证瓶颈，产品面向科研工程机构。
全球第一位AI哲学家，在谷歌DeepMind的9年：为AGI安全奔走
谷歌DeepMind的政治哲学家Iason Gabriel入职9年，发明的对齐框架影响Gemini训练决策。在AGI承诺与AI现实伤害间，他追问AI伦理。但技术部署快，6700亿美元涌入赛道，伦理红线被踩。
港大nanobot4,000行代码复刻Clawdbot
港大nanobot用4000行代码复刻Clawdbot，解决AI从‘被动回答’到‘主动服务’问题。它有核心架构Agent Loop，三大主动触发机制，模块化设计，还坚持少即是多原则，让AI成自动化助手。
语音界Sora！微软刚开源新模型，一次生成90分钟语音、3200倍压缩率
今天凌晨微软研究院开源创新音频模型VibeVoice - 1.5B，有诸多技术突破，如可合成90分钟语音、支持4名发言人、3200倍音频压缩等，还首创双tokenizer协同架构。未来微软还会开源更大参数模型。
Hugging Face开源顶级模型：双模式推理+128K上下文，最强3B
今天凌晨，Hugging Face开源顶级小参数模型SmolLM3，参数30亿，性能超同类。它有128k上下文窗口，支持6种语言、双推理模式。架构细节等全开放，联合创始人强烈推荐，称是3B领域SOTA。
图解Vllm V1系列4：加载模型权重(load_model)
文章聚焦vllm加载模型权重的流程。从入口函数切入，详细分析DefaultModelLoader的工作步骤，包括初始化模型架构和实际加载权重，还给出各步骤代码及作用，为想操作load_model的人提供框架。
告别纯奖励试错！二次尝试+反思蒸馏，复杂任务提升81%
美国南加州大学和宾夕法尼亚大学团队提出新训练范式ERL，将「经验学习」引入强化学习，通过二次尝试和反思蒸馏，在复杂任务中性能显著提升，为构建长期自主智能体提供新思路。
微软：DeepSeek-R1等推理模型循环的原因找到了
前几天，DeepSeek - R1论文更新，披露诸多细节。重点是推理模型在低温/贪心解码下易循环，根源是学得不对，如风险规避式复读、时序相关错误复读，还给出解决方案。