「安全关键场景」共找到 3636 篇相关文章
ICML 2025 | 大模型能在信息不完备的情况下问出正确的问题吗？
当前大语言模型推理研究多聚焦被动推理，主动推理研究少，制约其在现实场景应用。为此提出 AR - Bench 基准评估大模型主动推理能力，实验显示大模型主动推理能力严重不足，并指出后续拓展方向。
4个月11万用户、Claude Code成了，Dogfooding该被AI公司重视起来了
Dogfooding（内部试用）应被AI创业公司重视。Anthropic推出的Claude Code源于内部工具孵化，经内部使用和场景验证后发布，四个多月获11万开发者用户，其成功说明深度内部试用是竞争优势。
吴恩达来信：如何突破产品管理瓶颈
吴恩达指出编程助手带来“产品管理瓶颈”，即决定构建什么成难题。具备用户同理心的产品经理很关键，可凭直觉决策。还介绍通过多种策略获取用户反馈，强调用数据构建用户心理模型做决策。
一步步实战 CopilotKit（AG-UI协议）：生成式 UI 与集成 Human-in-the-Loop【下】
文章延续上篇Demo，探索CopilotKit在重要场景的应用，如基于Agent的生成式UI、HITL人类参与流程等。展示了相关实例操作步骤与前端效果，指出其为构建智能应用奠定基础，降低AI融合门槛。
打造全球首个强化学习云平台，九章云极是如何做到的？
AI正从语言模型走向智能体，强化学习成关键技术，但训练面临困难。2025年6月九章云极发布全球首个工业级强化学习云平台AgentiCTRL，实现系统级重构，其智能基础设施战略布局领先，具产业赋能优势。
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
综述：LLM 驱动AI Agent通信协议与策略
文章指出传统互联网用户完成行程繁琐，而代理互联网可让代理自动完成。随着LLM驱动智能体应用深入，其发展专业化，需多智能体协同，有效通信成关键。介绍了智能体通信定义、分类及多种通信协议。
NVIDIA提出小型LLM才是未来，并将重塑Agentic AI
人工智能代理快速渗透企业场景，但当前系统依赖大型语言模型，存在经济成本和效率错配痛点。NVIDIA团队提出小型语言模型才是代理AI未来，论证其能力、经济性和操作适配性优势，并给出迁移路径。
AI 编程冲击来袭，程序员怎么办？IDEA研究院张磊：底层系统能力才是护城河
在AICon全球人工智能开发与应用大会上，IDEA研究院张磊接受专访，剖析多模态智能体落地路径，分享工业界平衡研究与产品的见解，还为年轻人在AI浪潮中发展给出建议，指出底层系统能力是关键。
阿里云客服Agent业务提效实践：灵活可控的落地方法论
阿里云算法专家姜剑介绍了“阿里云服务领域 Agent 平台”及业务提效方法论。阐述 Agent 技术本质、模式，分析其给客服领域带来的价值，指出阿里云客服痛点，提出解决设计问题的方法，展示平台设计与落地成果。