「安全框架」共找到 2464 篇相关文章
LLM 竟然会内省！Anthropic 整了个大活：首次揭开 AI 意识
Anthropic最新研究《大语言模型中涌现的内省意识》，首次通过直接操控模型内部状态验证AI能否觉察自己思想。研究采用概念注入技术，发现AI有内省能力，且不同模型表现有差异。
高保真、多控制集成于「统一画布」，组合式图像生成新范式！
Canvas - to - Image是新型图像生成框架，将多种控制方式整合到统一画布，用户可直观操作生成高保真、多控制图像。它简化创作流程，解决了现有方法控制单一分散、交互性差的问题。
RL是「点金石」还是「挖掘机」？CMU 用可控实验给出答案
卡耐基梅隆大学研究者构建基于GSM - Infinite的可控合成数据框架，分析预训练、中期训练和RL对模型推理泛化能力的影响，调和了RL有效性的不同观点，为改进训练策略提供基础。
给你家 AI Agent 装个「长期记忆」，这个开源库一行代码搞定
Memori是开源的LLM记忆引擎/Python库，为聊天机器人等提供统一长期记忆层。它功能亮点多，如自动记忆分类、精准召回等，集成成本低，还有进阶玩法和企业安全能力。
Claude Opus 4.5 × Agent Skills：从第一性原理深入剖析
文章深入剖析Claude Opus 4.5与Agent Skills，介绍了Claude Opus 4.5发布，结合Agent Skills能让模型有专业级能力。还阐述Agent Skills高级设计模式、内部架构及执行生命周期，揭示其工作机制与优势。
这款开源AI卡片笔记，让我果断卸载了Obsidian！
开源君推荐开源项目Blinko，它是自托管、AI驱动的个人笔记工具，主打“快”与“智能”，将RAG技术和LLM能力融入笔记管理，数据自主可控，适合注重数据安全和知识管理的人。
AI引发K型分化：Gemini 3 加剧技术劳动力分化，判断力为王，基础岗位将被AI完全替代，程序员也不例外
2025年11月Google发布Gemini 3，依托多模态MoE架构和“Deep Think”模式，在软件工程等领域实现推理能力质的飞跃。它使前端开发工作重心转移，重构软件工程工作流，赋能白领但带来隐患，还冲击劳动力市场，提升软件掌握门槛。
为什么 LLM 搞不定复杂任务？ReAct 与 Reflexion 技术综述
文章指出大语言模型处理复杂任务存在事实幻觉、缺乏实时信息等问题。介绍ReAct将推理和行动结合，及Reflexion在其基础上添加评估反思机制，探讨两者结合优势，还提及未来发展方向。
刘鹏飞组发布上下文工程2.0：人机交互的全新视角
刘鹏飞组论文《Context Engineering 2.0: The Context of Context Engineering》重新梳理上下文工程领域。它追溯其20多年历史，给出形式化定义与四阶段模型，探讨关键问题，将其从技术技巧升为系统学科，为理解人机交互提供新视角。
OpenAI内部路线图精简纯享版
这是OpenAI内部路线图精简版，包含自动化AI研究员目标、五层安全策略、产品向平台与AI云迈进等内容，还涉及算力投入、新公司结构、非营利组织资本部署及科学发现时间表。