「安全治理」共找到 997 篇相关文章
AI 还在装失忆？1 万 Star 开源 EverOS 有点东西，把 Agent 记忆塞进 Markdown
EverOS 是 EverMind - AI 开源的项目，有 10325 Star。它给 AI Agent 等提供 local - first 长期记忆运行时，把记忆源头放 Markdown 里，以 SQLite 和 LanceDB 管理和检索。介绍了其优势、链路、适用场景等。
OpenAI发布新模型 GPT-Rosalind：专攻生物学、药物发现和转化医学
OpenAI发布生命科学前沿推理模型GPT - Rosalind，目标是生物学研究等领域。它是生命科学模型系列首款产品，在多方向表现强。当前以研究预览版向特定合作机构开放，有意机构可申请。
用得越多、失业越快？GitHub 大改 Copilot 规则：默认拿个人代码训练 AI，还搬出 Anthropic 挡枪！
当地时间3月26日，GitHub宣布自4月24日起，Copilot Free、Pro和Pro+用户交互数据默认用于训练改进AI模型，但用户可手动退出。它称此举因模型需更多数据，还拿微软等挡枪，却遭开发者吐槽。
OpenClaw代码越改越崩？新研究EvoClaw揭示：Agents持续开发成功率仅13.37%
USC邓港大等联合发布评估基准EvoClaw，揭示AI在持续开发场景下表现不佳，成功率仅13.37%。研究还指出当前评测易高估AI能力，提出DeepCommit重构演进历史，分析各模型在持续演进中的局限与问题。
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
Claude Sonnet 4.5被炸出来了，依旧最强编程，连续30小时自主运行写代码
新发布的Claude Sonnet 4.5在SWE - bench等多项测试中成绩提升，能连续30小时自主写代码，还改善了对齐和安全性指标，且提质不加价。此外，Anthropic官宣Claude Agent SDK，发布Imagine with Claude功能。
微软发布5大AI Agent模式：一键解锁AI员工，打造智能体工厂
今天凌晨微软官网发布5种常用Agent模式助用户开发自动化AI员工。智能体比传统自动化工具更具优势，能推理协作等。各模式都有应用案例，且Azure AI Foundry支持多Agent模式开发。
科学家Ilya不想当CEO，都是扎克伯格逼的
Ilya创办的SSI联创Daniel被Meta挖走，Ilya被迫出任CEO。因Ilya拒收购，而Daniel态度积极，两人分歧产生。Ilya坚守目标，SSI靠人名撑出320亿美元估值。
GPT-6 Astra发布，多个基准测试接近满分，“欢迎来到AGI时代”？
当地时间9月3日，OpenAI发布GPT-6 Astra，称其为“最智能、最对齐”的模型。它在多测试表现逆天，能力提升显著，还加入新特性。不过价格更高，也带来安全问题。
Anthropic CEO承认了！成立公司，因为看不惯奥特曼说谎
Anthropic CEO Dario Amodei在采访中自曝，成立公司不是为拯救人类，而是看不惯奥特曼说谎。这撕下了Anthropic恪守伦理的滤镜，揭示出其与OpenAI的纷争是团队内讧，如今已演变成万亿美元商战。