「自我反思词」共找到 792 篇相关文章
OpenAI这招太狠！AI从「躲猫猫」到「自爆黑料」，主打一个坦白
随着AI进入高风险场景，透明、安全变得重要。OpenAI提出「忏悔机制」，让模型回答后产出自我坦白报告，不影响主回答评分，只考察诚实，能提升不良行为可见性，目前仍处概念验证阶段。
智源新出OmniGen2开源神器，一键解锁AI绘图「哆啦 A 梦」任意门
2024年9月智源研究院发布统一图像生成模型OmniGen，获社区好评。近期OmniGen升级为OmniGen2，增强多方面能力且全面开源。它采用新架构与策略，有反思机制，玩法丰富，还推出新基准优化部署。
史诗时刻！AlphaGo神之一手突现，谷歌AI颠覆科研极限？
谷歌DeepMind推出AlphaEvolve，它取得多项数学成果，如改进4x4矩阵乘法、推进六边形填充问题研究等。它能自我进化，还可优化谷歌计算基础设施，预示人类与AI强大协作循环的未来。
claude code也过气了？opencode+插件彻底火了~
opencode是开源CLI coding Agent，其与oh - my - opencode组合能让订阅的多个模型组队干活。还兼容claudecode，后台agent并行，lsp工具全开，有“ultrawork”魔法词，适合常切换用模型的人。
拒绝OpenAI和Anthropic邀约，DeepMind安全研究员离职转向独立测评
本文报道，多名头部AI机构研究员因AI安全顾虑离职，DeepMind AGI安全研究员Engels拒绝OpenAI、Anthropic邀约，加入独立评测机构METR，围绕AI递归自我改进失控风险展开讨论。
Claude Code 用户早晚要找的东西：完整的聊天记录
Claude Code回看聊天记录不便，但回看提示词很有价值。作者研究了相关管理器，推荐claude - code - history - viewer和Claude Code Sessions，前者可完整查看本地记录，后者有重命名、删除会话等特色功能。
2027年，人类最后一次抉择
Anthropic首席科学家Jared Kaplan预警，2027 - 2030年人类要抉择是否让AI递归自我进化。还介绍了AI进化三阶段，以及2027年关键的技术和硬件因素，同时Anthropic报告揭示AI对工程师工作的重塑。
智能体的致命三要素及六种安全设计模式
智能体发展带来诸多安全问题，仅靠外部防护不合理。Simon Willison总结其致命三要素，指出间接提示词注入攻击难防。Invariant Labs等提出六种安全设计模式，可综合使用，多LLM方法值得关注。
为AI打造的知识图谱服务器MemoryMesh
MemoryMesh是专为AI模型设计的知识图谱服务器，适用于多种结构化数据场景。它有动态模式驱动工具等特性，可自动生成管理工具，还配备记忆查看器，提供安装指南和提示词建议。
DeepMind华人研究员Lun Wang离职，「评估」成制约模型能力飞跃的瓶颈
谷歌DeepMind研究员Lun Wang离职后发文指出，当下评估体系难以应对新模型，制约模型能力飞跃。现有评估多针对当前模型，新能力出现时往往无法预测，需构建能自我进化的评估系统。