「安全训练」共找到 2967 篇相关文章
首篇WebAgents综述：大模型赋能AI Agent，实现下一代Web自动化
互联网任务重复繁琐，香港理工大学研究人员从架构、训练和可信性等角度，总结WebAgents代表性方法，梳理研究进展。WebAgents能根据用户指令完成网页任务，其发展预示人机关系新纪元。
你天天用的Claude和Codex，Meta内部不让随便用了
今年5月Meta给工程师划红线，限制用Claude Code和Codex，因其太好用。Meta组建团队自研编程助手MetaCode，担心外部模型输出渗进训练数据，出现“蒸馏陷阱”，且能省钱。
超 10 万人都在看！Qwen3重塑文本嵌入与重排序技术版图
文本嵌入和重排序是NLP和信息检索关键组件。Qwen3 Embedding、Qwen3 Rerank模型基于Qwen3基础模型构建，有三种参数尺寸。文章介绍其架构、训练方案，还给出实战代码。
姚顺雨提到的「AI下半场」，产品评估仍被误解
OpenAI研究员姚顺雨提出「AI下半场」重点转向定义问题，评估重要性超训练。亚马逊Eugene Yan发文补充，指出产品评估常被误解，应运用科学方法，践行评估驱动开发，自动化工具也需人工监督。
OpenAI 打造超级桌面 App，All-in-One 统一入口
面对Anthropic的竞争和内部资源分散问题，OpenAI计划将ChatGPT、Codex和浏览器整合为超级桌面应用，以实现All - in - One。转型有“Agentic”能力亮点，但面临组织、商业、安全挑战，还收购Astral等公司助力。
DeepSeek开源的文件系统，是如何提升大模型效率的？
2月28日，DeepSeek开源高性能分布式文件系统3FS以解决人工智能训练和推理挑战。介绍了分布式文件系统优势，深入解读3FS的组件、CRAQ协议等，还探讨其与其他系统差异及性能相关问题。
蒸馏效果起飞！DOPD破解「特权幻觉」，让在线策略蒸馏更有效
近期，新加坡国立大学等团队提出 DOPD 法解「特权幻觉」难题。该法依 token 情况动态蒸馏，实验表明其在 LLM、VLM 蒸馏效果好，鲁棒性强，训练稳定，为在线策略蒸馏提供新思路。
Agent = Model + Harness，一个可能成为2026年出圈的新概念
文章提出新概念Harnesses Engineering，认为Agent = Model + Harness，阐述了Harness的作用、核心组件，还提及模型训练与Harness设计的耦合及Harness工程未来，指出需‘Harness思维’让AI驱动工业革命。
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
开源一周狂揽 35K 标星！Karpathy 开源 autoresearch：630 行代码让 AI 自动“炼丹”！
前OpenAI、特斯拉前AI总监Andrej Karpathy发布新项目autoresearch，一周揽35.6k Star。它是极简版LLM训练环境，630行代码让AI自动做研究，人类通过Prompt指导，AI自行实验。