「安全强化」共找到 1540 篇相关文章
LLM学习笔记：最好的学习方法是带着问题去寻找答案
文章总结拓展Andrej Karpathy教学视频，分析大模型聊天流程与原理，介绍LLM训练步骤，包括预训练、后训练和强化学习，还提及主流特性应用，如文件上传、网络搜索，强调带问题学习的重要性。
Win狂喜！国产Cowork和Codex App，昆仑万维Skywork桌面版发布
2026开年AI圈热闹，办公自动化方面Claude Code、Codex App等新动态频出，但Cowork和Codex App仅支持Mac OS。不到24小时，昆仑万维天工Skywork桌面版发布，原生支持Windows，集成强模型，数据安全有保障，价格亲民。
离开OpenAI和Google后，两位大模型核心负责人决定卷下一代架构
曾是OpenAI的「强化学习最大主义者」Jerry Tworek，与谷歌Gemini预训练负责人Rohan Anil，共同创办Core Automation。他们探讨当前AI路线问题，认为下一代架构要能持续学习，还计划打造自动化AI实验室。
AEPO：智能体熵平衡策略优化，让探索更稳，推理更深！
中国人民大学与快手团队联合提出 AEPO 算法，解决熵驱动式智能体强化学习训练不稳等问题。它设计两项核心机制，在 14 个基准上优于主流算法，在 X 等平台获高关注。
AI数学能力暴涨100%，自进化直逼RL极限！CMU新作颠覆认知
数据枯竭成AI发展瓶颈，CMU团队提出SRT方法，让LLM自我进化，提升数学与推理能力，性能逼近传统强化学习。研究还分析其局限，提出缓解奖励作弊策略及应对模型崩溃的方法。
阿里版Claude Cowork杀疯了！一句话直出杂志级PPT，全球打工人变天
阿里QoderWork新版全面上线Windows。它是成熟的商业化办公桌面Agent，能处理文件、生成文档等。实测显示，它可整理图片、生成PPT和报告，还能处理重复工作。其具备安全防护、分级调度、功能扩展等特点。
蚂蚁集团扩散大语言模型新突破：超800Token/s，速度与质量兼得
蚂蚁集团将LLaDA更新到2.1，通过引入“草稿 - 编辑”机制，打破扩散模型推理速度与质量的对立僵局。它有极速和质量两种模式，还采用混合训练流程及强化学习，在多基准测试中表现出色。
零样本 Sim-to-Real ！实现五指灵巧手力控抓取与手内操作
ByteDance Seed团队研究论文针对训练真实硬件控制策略难的问题，提出实用强化学习框架。该框架有完整Sim - to - Real方案，结合触觉反馈和关节力矩感知，在纯仿真环境训练策略，可零样本部署在真实五指灵巧手。
OpenAI为龙虾紧急收购了一家23人公司
OpenAI前脚挖来龙虾之父，后脚收购专注AI安全与评测的初创公司Promptfoo。该公司开源评测框架流行，有30多万开发者用户。收购后将补齐OpenAI在‘龙虾安全’方面关键一环，且继续保持开源。
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，爆火后却被指有问题。它靠递归提示词增强策略运行，有独特机制。但研究人员揭露其用户多为水军，存在安全漏洞、人为操纵和AI“幻觉”等问题。