「自主性风险」共找到 1405 篇相关文章
60%情况下，主流大模型没理解风险只是装懂！别被模型的“安全答案”骗了
研究发现超60%案例中主流推理模型生成合规答案却未真正理解风险，存在系统性漏洞。淘天集团团队引入“表面安全对齐”术语，推出Benchmark研究该现象，还介绍了数据集生成流程及评测指标。
华人女学霸AI杀疯！本科最难数赛12题全对，自主证明首次公开
24岁华人女学霸Carina Hong初创打造的AxiomProver，在2025 Putnam数学竞赛拿下满分，其自主生成的Lean证明也公开。该竞赛是北美本科生数学竞赛天花板，人类满分罕见。此外，GPT - 5.2 Pro数学表现也很强，引发“奇点将近”之感。
通义团队提出环境Scaling：自动构建环境，并自主学习和成长，可让30B比肩1T效果
阿里巴巴通义实验室团队论文提出通过程序化、自动化构建模拟环境，让语言模型自主交互学习。基于此训练的AgentScaler模型，数十亿参数就达万亿级模型性能，为轻量级代理智能发展带来新可能。
168小时AI狂写300万行代码造出浏览器！Cursor公开数百个智能体自主协作方案
Cursor创始人公布实验结果，让数百个AI智能体跑一周，从零造出可用Web浏览器，产出超300万行代码，项目源码已公开。此次实验靠GPT - 5.2 - Codex，还设计了智能体协作架构，引发业界讨论。
突然爆火！近千人大排长龙安装！有人宣称短短数日已赚26万元！昆明市场有人报价300元；官方发声：警惕安全风险
OpenClaw是一款开源AI智能体，能接管电脑完成多种任务，但安装复杂。这催生“代装AI”生意，有人数日赚26万，腾讯免费安装引千人排队。不过，其部分实例存安全风险，官方提醒防范。
OpenAI公开未来路线图！具体到28年3月AI研究员将完全自主，奥特曼承认“关于GPT-4o我们搞砸了”
OpenAI完成组织架构调整后直播，公开研究目标时间表，2028年3月将实现AI研究员完全自主。奥特曼承认GPT - 4o问题处理搞砸。还介绍新架构，投入多领域研究，问答环节回应诸多疑问。
打破具身世界模型可执行性鸿沟 ！港中深-跨维智能团队提出EVA框架，用强化学习让视频世界模型真正“动”起来
近期，利用视频生成模型为机器人构建“世界模型”成热门路线，但存在“可执行性鸿沟”。港中深 - 跨维智能团队提出 EVA 框架，用强化学习优化视频生成，实验显示其能提升视觉规划、仿真任务成功率及真实部署稳定性，还有数据合成潜力。
刚刚，Claude Mythos敲响末日警钟！超级智能已在悬崖，Hassabis深感恐惧
前沿AI已能自主攻击、逃逸，Anthropic因太危险暂不发布Claude Mythos Preview模型。谷歌DeepMind掌门人Hassabis、OpenAI CEO奥特曼均发出警告，虽恐惧AI风险却仍推进开发。
OpenAI深夜发布ChatGPT Agent：能主动思考、自选工具，智能体赛道大变天
今天凌晨1点，OpenAI发布ChatGPT Agent，它能自主思考行动，自选工具完成复杂任务。首席执行官Sam Altman发文介绍，虽实用但有风险，内置安全机制。测试中表现优异，网友期待体验。
老思维做 Agent，没戏！云厂商们又想憋大招了
企业落地 Agent 经历快速演化，自主性 Agent 成新趋势。云厂商起初推 AI Infra，现转以 Agent 应用为中心开启 Agent Infra 赛道竞争，虽已布局但新开发范式未成型，未来需产业链协作迭代。