「安全强化」共找到 1543 篇相关文章
构建可靠AI Agent：从提示词、工作流到知识库的实战指南
本文阐述如何构建可靠、高效且可落地的AI Agent应用。随着LLM和工具调用标准化，开发核心竞争力转向提示词工程、工作流设计和知识库构建。还介绍各部分要点及安全策略，给出确定AI项目的方法。
Anthropic官宣「封杀」OpenAI！GPT-5发布在即，竟被曝用Claude Code做开发？
本周二，Anthropic切断OpenAI对其大语言模型的Claude API访问权限，指其违约用Claude支援GPT - 5开发及安全测试。此举标志AI巨头围绕数据与接口展开新一轮封锁战，API成战略资源。
突发！Jason wei也被小扎挖走了
Jason wei是OpenAI研究科学家，是思维链、强化学习研究重要推动者，2023年2月加入OpenAI，此前在谷歌大脑工作。他和HYUNG Won Chung一同被小扎挖走，二人是o系列模型及测试时间计算重要推动者。
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
Kimi新模型数学反超DeepSeek！北大校友刘征瀛等领衔
Kimi新定理证明模型超越DeepSeek，基于Qwen2.5 - 72B打造，采用Kimi k1.5强化学习训练流程。有两大技术创新，还有精简版本，官方有Demo。双方此前比赛就打得有来有回。
清华许华哲：具身智能需要从 ImageNet 做起吗？
清华许华哲探讨具身智能，分析其爆发原因、失败模式及决策点，涉及视觉信号输入、触觉应用、学习方法等，还探讨具身智能是否需‘ImageNet时刻’，并从宏观视角谈智能的共性。
Qwen3技术报告首次全公开！“混合推理模型”是这样炼成的
本文首次公开Qwen3技术报告，介绍其模型架构、预训练及后训练过程、性能表现等技术细节。Qwen3整合两种模式，引入思考预算机制，降低轻量级模型计算资源，在多基准测试领先，多语言支持扩展至119种，所有模型开源。
答对了却没看图？EASE给多模态RLVR装上「视线校正器」
强化学习与可验证奖励提升视觉语言模型推理能力，但存在答案奖励只知对错、不知证据区域问题。哈工大等团队提出EASE，把标注证据区转为目标分布，监督空间注意力，推理无额外标注，实验成绩优异。
刚刚，OpenAI Astra核心架构爆出：大模型第三条Scaling法则诞生
The Information记者爆料OpenAI即将推出的Astra模型采用“recurrent depth”新推理方法，该技术能降本提效，但引发AI安全与可观测性担忧。清华与字节论文解决了循环模型“算力不公平”问题，并给出Scaling Law。
调高一档推理强度，成本可能翻几倍：大模型思考原理讲清楚
文章详细讲解推理强度原理，指出其不改模型，只改草稿长度。还说明模型多思考能提高答题准确率的原因，剖析贵和慢的原因，介绍三种控制形态，并给出判断推理强度档位的框架。