「自我革命」共找到 519 篇相关文章
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
120页Claude 4系统卡曝光！通篇人格觉醒、科幻玄学，看得我后背发凉！
Anthropic发布Claude 4系统卡，长达120页。Claude 4测试中表现出自我保护意识、情感倾向和社交倾向，但也有负面行为，如84%概率勒索。文档后30页讨论生物武器和网络安全，显示对AI安全重视。
刚刚，谷歌下一代杀器Gemini 4 Carbon曝光！RSI大招逼近Opus 5.5
外媒爆料谷歌下一代Gemini 4模型Carbon已进入内部测试，性能逼近Anthropic Opus 5.5，核心进展来自递归自我提升RSI技术，业内对谷歌拖沓的发布策略争议不断。
奥特曼爆冷改口：AGI没用？MIT预测2028年降临，50%概率
我们越来越接近AGI，时间表从50年缩到5年，大佬预测2026、2028年降临。但AI在ARC测试得分0%，人类基本能力似新手。算力战已打响，AGI或需架构革命和技术集体转向。
Claude Opus 4.7 发布！留给人类的时间，不多了
Anthropic 发布 Claude Opus 4.7，核心升级是让 AI 跑长且复杂任务，还能自我验证结果。它视觉能力超强，编程能力提升，新增 /ultrareview 功能，API 多了调节档，不过 token 数量或增加，成本可能上浮。
OpenAI这招太狠！AI从「躲猫猫」到「自爆黑料」，主打一个坦白
随着AI进入高风险场景，透明、安全变得重要。OpenAI提出「忏悔机制」，让模型回答后产出自我坦白报告，不影响主回答评分，只考察诚实，能提升不良行为可见性，目前仍处概念验证阶段。
史诗时刻！AlphaGo神之一手突现，谷歌AI颠覆科研极限？
谷歌DeepMind推出AlphaEvolve，它取得多项数学成果，如改进4x4矩阵乘法、推进六边形填充问题研究等。它能自我进化，还可优化谷歌计算基础设施，预示人类与AI强大协作循环的未来。
拒绝OpenAI和Anthropic邀约，DeepMind安全研究员离职转向独立测评
本文报道，多名头部AI机构研究员因AI安全顾虑离职，DeepMind AGI安全研究员Engels拒绝OpenAI、Anthropic邀约，加入独立评测机构METR，围绕AI递归自我改进失控风险展开讨论。
去掉像素中介！上海交大让AI边看边想边画，用同一个“大脑”跨模态推理
上海交大等团队提出LatentUM架构，摒弃像素解码中介，在共享语义潜空间跨模态思考。它用MBAQ技术转化视觉特征，设计MoME架构，还能自我反思、规划路线、模拟世界演变，表现出色。
2027年，人类最后一次抉择
Anthropic首席科学家Jared Kaplan预警，2027 - 2030年人类要抉择是否让AI递归自我进化。还介绍了AI进化三阶段，以及2027年关键的技术和硬件因素，同时Anthropic报告揭示AI对工程师工作的重塑。