「AI安全研究」共找到 10765 篇相关文章
全球首款AI原生游戏引擎再进化：GTA6再不来，我们就AI一个
GTA 6跳票成梗，其场景常被用于研究。一个多月前全球首个AI原生UGC游戏引擎发布，如今Mirage迭代为更强大的Mirage 2，支持多样场景，与Genie 3有不同优势且已上线，不过仍有技术问题待解决。
《动手写AI Agent》权限与安全：让 Agent 不敢乱来
文章指出LLM不理解操作后果，不加权限的AI Agent如定时炸弹。介绍权限模型设计，采用Deny→Ask→Allow三层过滤；给出权限规则结构，用glob模式匹配工具参数；还解释用glob而非正则的原因。
他们从四家顶尖AI实验室辞职，打造能自己跑实验的AI系统，目标是让科学家实现Vibe Research
2026年初，Harsh Mehta和Behnam Neyshabur离开Anthropic，在旧金山注册Mirendil，6月25日公司亮相并完成2亿美元种子轮融资。团队来自四家顶尖机构，目标是构建自主处理AI研发问题的系统，降低AI研发门槛。
谷歌·搜索：献给AI的第一个「祭品」？
谷歌正用AI重塑搜索，AI Overviews和AI Mode改变传统架构，从信息入口变终点，侵蚀开放网站流量。虽在AI创新有进步，但搜索广告垄断及商业模式岌岌可危，2026年或不复往昔。
Anthropic 发布最新研究：LLM 展现初步自省迹象
Anthropic 最新研究表明，Claude 展现出真实但有限的内省能力，能在某种程度上识别自己内部状态。研究团队开发验证方法，通过概念注入等实验进行测试，还发现认知控制证据等，不过该能力有局限。
AI步入“自我进化”时代，李彦宏首提AI时代度量衡“DAA”
5月13 - 14日Create2026百度AI开发者大会上，李彦宏首提AI时代度量衡DAA，预测全球DAA超100亿，提出‘AI时代进化论’。百度发布和升级多款智能体产品，智能云也升级，还升级底层能力。
钉钉为 AI 找了个绝佳工位
随着AI浪潮袭来，企业让AI Agent落地提效遇难题。钉钉以数据表格为架构实现AI应用化，将单元格变为AI“工位”，汇集AI工具、沉淀业务系统，还融合表格与文档、支持提醒功能，解决企业痛点。
从捍卫者到引路人，上交&上海AI Lab提出LEGION：不仅是AI图像伪造克星，还能反哺生成模型进化？
AIGC技术发展使AI图像滥用问题严重，公众面临信任危机。上交与上海AI Lab等团队在论文中从构建数据集、设计模型、实现检测与生成统一三方面破局，LEGION能检测伪造，还可反哺生成模型进化。
让AI自动构建AI模型：UCSD 推出 AIBuildAI 智能体，斩获OpenAI MLE-Bench榜单第一
近日，加州大学圣地亚哥分校研究团队开发 AIBuildAI 智能体，可全自动构建 AI 模型。它在 OpenAI MLE - Bench 基准测试 75 个任务上以 63.1% 获奖率居榜首，实现端到端自动化。
OpenAI: 构建 AI 智能体实用指南
OpenAI发布的《构建AI智能体实用指南》，阐述智能体定义、适用场景，介绍构建的核心组件、架构编排，强调安全保障，指出构建需多方要素配合，未来聚焦智能体生态系统。