「建设性安全对齐」共找到 1074 篇相关文章
Claude Opus 4.7发布：更严谨的长任务处理与自我验证能力
Anthropic发布Claude Opus 4.7模型，相比4.6版处理长任务更严谨，能自我验证输出。它在视觉、指令遵循、记忆等能力上提升，企业级应用表现出色，还有新功能与安全特性，不过使用成本更高。
从工具到生命形式：OpenClaw 引发的 Agent 再思考
InfoQ《极客有约》X QCon 直播聚焦 OpenClaw 落地难点。嘉宾探讨其验证的价值、生产级形态、落地难题等，还谈及 AI 与人类共生关系、记忆系统问题及解决方案，最后分享企业落地经验和会议信息。
没有KPI，也能领先OpenAI？从“内部观察者”视角看顶级AI实验室如何运作
InfoQ采访《哈萨比斯：谷歌AI之脑》作者塞巴斯蒂安·马拉比，从“内部观察者”视角解析DeepMind成长逻辑，探讨其与OpenAI、Anthropic差异，还谈及AI竞争格局、组织模式及资源配置等问题。
鼠标点3下就能锁定打击？五角大楼曝光美军AI大脑
美国国防部首席数字与人工智能官Cameron Stanley演示Maven系统，将美军杀伤链从小时压缩到分钟。Maven整合多系统，Palantir的AIP嵌入大模型改变战争决策逻辑。Anthropic因坚守安全红线与五角大楼冲突。
谷歌最新发表的Science论文，颠覆了人类对ASI的想象
谷歌等机构研究者在《科学》发文，提出真正智能爆炸已发生，是多元、社会性且与人类深度缠绕。推理模型内部涌现‘思想社会’，当下人机协作进入‘半人马时代’，还探讨了AI扩展、对齐及治理问题。
北大王选所彭宇新团队：让多模态大模型学会「看懂物种关系」丨CVPR 2026
北大王选所彭宇新团队在论文中提出TARA方法，引入生物分类学知识与多模态模型中间表征对齐。实验显示，TARA能提升模型层级识别和未知类别识别能力，还可加速训练收敛，计算开销小。
Claude Code之父自曝刘慈欣铁粉！不写PRD、不设职称，Anthropic 如何连续推出两个AI 爆款？
本文是对Anthropic公司Claude Code创始人Boris Cherny的访谈。他分享了Claude Code和Claude Cowork的构建过程，介绍了Anthropic不写PRD、不设职称的团队文化，还探讨了AI时代工程师的技能转变及应对策略。
大模型哪里出问题、怎么修，这篇可解释性综述一次讲清
来自多机构的研究团队发布“可实践的机制可解释性”综述，通过 'Locate, Steer, and Improve' 三阶段范式，为大模型的对齐、能力增强和效率提升提供方法论，还梳理可解释对象体系和干预手段。
入侵30家大型机构、Claude自动完成90%？Anthropic 被质疑，Yann LeCun：他们利用可疑的研究来恐吓所有人
Anthropic称发现黑客用Claude AI自动化完成90%网络攻击工作，称对网络安全有重大启示。但外部研究人员谨慎质疑，Yann LeCun等认为是可疑研究和营销噱头，专业安全人员也不认可其历史性转折说法。
本周推荐的6个yyds的Github开源项目！
文章推荐6个GitHub开源项目。如Stretchly是休息提醒工具，助打工人养成科学节奏；Yaak是API客户端，主打离线隐私；ValueCell用于金融AI分析交易；nof1 - tracker可跟单交易；Zerox转换文档为Markdown；Open Notebook是Google Notebook LM平替。