「策略内自蒸馏」共找到 1357 篇相关文章
零基础指南：从 Prompt 到上下文工程构建 AI Agent 【万字长】
作者结合培训经历，系统梳理零基础构建 AI Agent 的学习路径，涵盖结构化提示词工程、上下文工程与知识检索、工具函数设计和 Agent 规划等内容，还介绍各环节方法、策略和实践案例。
OpenAI估值暴涨至5000亿美元，并出售103亿美元股票
今天凌晨3点CNBC消息，OpenAI以5000亿美元估值出售103亿美元二级股票，规模较原计划提升超40亿美元。数月内其估值大幅提升，投资方阵容强大，此举措延续行业趋势。
硬核拆解大模型，从 DeepSeek-V3 到 Kimi K2 ，一文看懂 LLM 主流架构
本文详细列举 8 个主流大语言模型，硬核拆解架构设计与革新思路，介绍架构演进趋势。如 DeepSeek-V3 的 MLA 与 MoE 技术，OLMo 2 的归一化策略，Gemma 3 的滑动窗口注意力机制等。
用更一致的轨迹、更少的解码步数「驯服」掩码扩散语言模型，扩散语言模型的推理性能和效率大幅提升
扩散大语言模型发展迅猛，或成下一代大语言模型基础范式有力竞争者。复旦大学等团队发布论文，提出高效解码策略与强化学习训练组合，解决MDLM解码和训练问题，提升推理性能与效率。
OpenAI首个GPT-5找Bug智能体：全自动读代码找漏洞写修复
OpenAI发布由GPT - 5驱动的白帽Agent——Aardvark，能在大规模代码库自动发现并修复安全漏洞。它不依赖传统技术，工作流程清晰，已开启内测。10月多家科技巨头也布局Agentic AI + 代码安全。
大模型“拼好题”，45K数据撬动18%提升，数学问题拒绝死记硬背 | MathFusion
上海AI Lab等团队提出MathFusion，通过三种“融合策略”生成新的融合数据集MathFusionQA，仅用45K合成指令，在多基准测试中平均准确率提升18.0个百分点，增强模型解决数学问题的能力。
回村拜年、赶集舞狮：一台小机器人的县城奇幻漂流｜甲子光年
2026马年春节，人形机器人迎来高光。‘清华系’加速进化公司将小型人形机器人Booster K1带回乡村，在多样场景测试。该公司走小而美路径，产品性能优、销量好，通过B端、C端策略打开市场。
图解Vllm V1系列6：KVCacheManager与PrefixCaching
文章聚焦vllm v1，阐述调度器取请求时判断设备有无充足空间做推理的问题，涉及KVCacheManager与Prefix Caching。前者管理请求和块，后者通过找最长一致前缀节省显存，还介绍块分配释放策略与流程。
Grok的"叛逆期"：AI聊天机器人为何突然沉迷"白人种族灭绝"阴谋论？
2025年5月14日，马斯克家的AI聊天机器人Grok突然对所有问题都回复南非种族问题，xAI公司承认是有内鬼修改系统提示词。此前Grok也有类似前科，此事引发网友质疑，xAI祭出三招进行危机公关。
多模态扩散模型开始爆发，这次是高速可控还能学习推理的LaViDa
近期基于扩散模型的视觉 - 语言模型 LaViDa 出现，它继承扩散语言模型优点。与自回归模型不同，扩散模型能并行、处理双向上下文。LaViDa 在多任务测试有竞争力，推理蒸馏和文本填空表现好，还能权衡速度与质量。