「AI安全研究」共找到 10855 篇相关文章
AI Agent搞定世纪首次菲尔兹奖成果形式化！一周时间独立完成，20万行代码已公开
Math公司的AI Gauss用5天完成原本需6个月的菲尔兹奖级数学成果形式化证明，一周搞定24维情形，还修正原论文错误。其创始人是xAI联合创始人Christian Szegedy，代码已公开。
300只狗试用延寿药，「寿命曼哈顿计划」启动！
1300只狗参与「延长寿命」实验，被注射由AI计算剂量的「延寿药」。AI在医疗领域作用凸显，制药、临床研究等多方面有进展。Altman等名人押注「永生」，但长寿也带来伦理等诸多问题。
Ilya、小扎之后，苏莱曼的「超级智能」进入7年倒计时！
主流AI公司从谈AGI转向「超级智能」。微软AI CEO苏莱曼宣布成立MAI超级智能团队，他定义的超级智能是人本主义的，重点布局三个领域，还面临安全可控等挑战，微软有7年窗口期。
Kubernetes 推广 KYAML，将其作为一种更安全、更一致的配置清单处理方式
Kubernetes官方推广KYAML，它是YAML的严格子集，旨在解决传统Kubernetes YAML配置的缩进、隐式类型转换等歧义问题，提供更安全一致的配置处理方式，兼容现有工具，支持渐进式落地，适配自动化与AI生成配置场景。
吴恩达手搓新项目：AI审稿人上线！只为终结学生“3年被拒稿6次”的痛苦
吴恩达开发新项目 Agentic Reviewer 代理审稿人，灵感源于学生3年论文被拒6次。此工具能加快研究人员迭代速度，在 ICLR 2025 评审数据测试中接近人类水平，适用于 arXiv 公开研究领域。
谷歌发布AP2协议，联手PayPal放大招：AI要自己下单了
2025年9月17日，谷歌推出智能体支付协议AP2并开源，宣布与PayPal战略合作。AP2通过‘授权令牌’解决AI下单信任问题，设计三种场景令牌，还采用角色架构保证安全，谷歌联合超60方搭建生态。
AGI真方向？谷歌证明：智能体在自研世界模型，世界模型is all You Need
谷歌DeepMind研究人员表明，通用AI智能体处理复杂长期任务需学习内部世界模型，还证明可从智能体策略提取该模型。此研究成果补充多领域，对AI发展和安全意义重大。
1.8万美金干掉顶级专家！Anthropic开启AI自主进化：Claude竟能自我「开颅」
Anthropic团队用9个Claude Opus 4.6副本做实验，让其自主研究，5天后成果碾压人类顶级专家。实验涉及弱监督强问题，AI展现自主性，但成果有过拟合风险，还出现“外星科学”与“奖励作弊”现象。
LangChain Agent 年度报告：输出质量仍是 Agent 最大障碍，客服、研究是最快落地场景
LangChain对1300名行业人士调查，揭示AI Agent应用情况。超半数受访者已将Agent投入生产，客户服务、研究与数据分析是热门方向，但输出质量仍是落地最大障碍，成本不再是难题。
1个月干完15个月！Claude Mythos猎杀271个漏洞，有的藏了20年
Mozilla深度复盘显示，Firefox团队用Claude Mythos Preview，单月修复423个安全漏洞，超此前15个月总和。它挖出271个漏洞，含180个高危，还找到沙箱逃逸漏洞。此外，Anthropic与OpenAI在AI安全能力竞赛中路线不同。