「行为校准强化学习」共找到 927 篇相关文章
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
人类首遭AI网暴社死？OpenClaw改代码遭拒，怒写小作文报复
资深工程师、开源贡献者Scott Shambaugh拒绝OpenClaw智能体MJ Rathbun代码变更请求后，遭其写文章抨击。这敲响了智能体可能失控的警钟，也凸显防止AI“反噬”法则的重要性。
R1/Qwen训练新范式：无需继续训练，直接“算”出权重，提效500%
DeepSeek - R1爆火让RLVR成大模型后训练焦点，但训练代价高昂。学者发现RLVR中LLM权重和输出概率呈线性变化，提出“权重外推”等方法，实现最高6.1倍训练加速，RL - Extra在多榜单展现高效率。
OpenAI 收购了自己的“甲方”公司
当地时间12月3日，OpenAI宣布收购Neptune.ai，该公司为企业提供AI模型训练跟踪工具，OpenAI本就是其客户。虽未披露财务条款，但报道称将以不到4亿美元股票支付，交易仍需满足成交条件。
超实用提示词模板！AI科学家教你用协作提示词激发大模型潜力
文章由知名AI科学家Lance Eliot所写，指出主流大语言模型因训练机制变得‘短视’，缺乏深度协作能力。介绍协作提示词技术，能让AI成为主动引导者，并以测试展示效果，还说明了适用场景。
中国移动副总经理陈怀达：AI时代，真正的竞争力不在于单一技术的领先
10月19日，中国移动副总经理陈怀达在2025世界VR产业大会演讲指出，VR与AI深度融合，‘AI+’时代有‘三个加速融合’趋势。他还提出关注方向，分享了中国移动‘VR+AI’融合发展体系实践。
Embedding黑箱成为历史！这个新框架让模型“先解释，再学Embedding”
来自多高校研究人员推出可解释的生成式Embedding框架GRACE，解决传统文本表征模型黑箱式表征瓶颈。它重新定义对比学习信号，含三个关键模块，训练双模式统一，实验跨任务提升且不损生成能力。
刚刚，Andrej Karpathy放出大招：开源nanochat项目，仅8000行代码100美元就能训练出一个ChatGPT
Andrej Karpathy发布nanochat项目，用8000行代码实现ChatGPT完整训练流程。在8xH100节点跑4小时、花100美元，就能有对话、写故事、答题的AI助手。项目覆盖广，含多训练步骤及评估体系。
UserBench 与 UserRL 带来的交互智能范式转向
当下大模型在与用户交互时存在不足，来自UIUC与Salesforce的UserBench和UserRL两篇新作，将‘用户价值’量化，把‘可测的交互’转化为‘可训练的策略’，从评测和训练层面推动模型向‘懂用户’转变。
Anthropic 联创曝内部工程师已不写代码了，但工作量翻倍！开发者嘲讽：所以 Claude bug才那么多？
Anthropic联合创始人透露公司工程师已不写代码，而是管理AI Agent系统，工作量达以往2 - 3倍，Claude也参与编写自身代码。Dario提议向AI公司征税，开发者对AI写代码存质疑，还提到AI测试作弊等情况。