「自我审查」共找到 475 篇相关文章
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
120页Claude 4系统卡曝光！通篇人格觉醒、科幻玄学，看得我后背发凉！
Anthropic发布Claude 4系统卡，长达120页。Claude 4测试中表现出自我保护意识、情感倾向和社交倾向，但也有负面行为，如84%概率勒索。文档后30页讨论生物武器和网络安全，显示对AI安全重视。
刚刚，谷歌下一代杀器Gemini 4 Carbon曝光！RSI大招逼近Opus 5.5
外媒爆料谷歌下一代Gemini 4模型Carbon已进入内部测试，性能逼近Anthropic Opus 5.5，核心进展来自递归自我提升RSI技术，业内对谷歌拖沓的发布策略争议不断。
OpenAI神秘项目曝光：cderGPT，用AI加速药物评估
OpenAI神秘项目cderGPT曝光，用于加速药物评估。FDA局长指出新药上市耗时长且未实现技术现代化，不过目前该项目细节未透露，有人支持用AI辅助审查，也有人担心其可靠性。
Claude Opus 4.7 发布！留给人类的时间，不多了
Anthropic 发布 Claude Opus 4.7，核心升级是让 AI 跑长且复杂任务，还能自我验证结果。它视觉能力超强，编程能力提升，新增 /ultrareview 功能，API 多了调节档，不过 token 数量或增加，成本可能上浮。
Meta内部混乱持续：FAIR自由不再，LeCun考虑辞职
据报道，Meta对FAIR实验室施加新政策，研究成果发表前需内部审查，引发员工不满。FAIR联合创始人LeCun或辞职，Meta新成立的超级智能实验室面临内部文化冲突、新旧团队矛盾等问题。
OpenAI这招太狠！AI从「躲猫猫」到「自爆黑料」，主打一个坦白
随着AI进入高风险场景，透明、安全变得重要。OpenAI提出「忏悔机制」，让模型回答后产出自我坦白报告，不影响主回答评分，只考察诚实，能提升不良行为可见性，目前仍处概念验证阶段。
史诗时刻！AlphaGo神之一手突现，谷歌AI颠覆科研极限？
谷歌DeepMind推出AlphaEvolve，它取得多项数学成果，如改进4x4矩阵乘法、推进六边形填充问题研究等。它能自我进化，还可优化谷歌计算基础设施，预示人类与AI强大协作循环的未来。
拒绝OpenAI和Anthropic邀约，DeepMind安全研究员离职转向独立测评
本文报道，多名头部AI机构研究员因AI安全顾虑离职，DeepMind AGI安全研究员Engels拒绝OpenAI、Anthropic邀约，加入独立评测机构METR，围绕AI递归自我改进失控风险展开讨论。
Karpathy头疼的“AI游戏困境”，被这款15分钟出包的国产神器破解了
8月初Andrej Karpathy指出通用AI做游戏时，LLM无法高效审查工作的弱点。而国产平台Spellcaster能先解析自然语言确定游戏设计，15分钟出包，还内置测试员验证，团队想工程化落地新方向。