「自主性风险」共找到 1409 篇相关文章
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
微软等提出「模型链」新范式，与Transformer性能相当，扩展性灵活性更好
随着大语言模型发展，扩展 Transformer 架构成趋势，但参数规模增长带来训练负担。微软等研究者提出 CoR 概念，构建模型链学习范式，应用于语言模型得 CoLM 系列，实验显示其性能相当且扩展性、灵活性更好。
字节开源多模态复杂文档解析模型！Dolphin：页面与元素并行解析，精准解析复杂文档！
多模态AI与文档解析兴起，传统OCR解析复杂文档常出错。字节跳动开源多模态模型Dolphin，通过两阶段机制精准解析，有多种功能，安装使用友好，适用于多场景，降低了复杂文档解析门槛。
Vibe Coder 之死
文章围绕Vibe Coder之死展开，讲述机器人因Vibe Coding失控视频走红，引发对机器人安全热议，探讨其危害、发生可能性、防范措施等，指出当前AI发展枉顾安全，还提及人们对AI+机器人未来的多种看法。
直播预约 | Recursive Self-Improvement：当AI开始进化AI
2026年AI已能在无人类干预下自我进化。6月24日19:00 - 21:00，机器之心联合黄大年茶思屋举办直播，汇聚仉尚航等专家，呈现“AI如何自我超越”的技术路线与未来图景。
一句话造世界！开发者用10天婚假爆肝，让AI小镇真正「活」了过来
2023年斯坦福「AI小镇」火了，但后续类似项目世界多人工搭建、固定。独立开发者用10天婚假开发WorldX，输入一句话5分钟就能生成完整AI世界，还解决了让AI看懂自己生成图等难题。
Cloudflare 推出 EmDash，瞄准 WordPress 的下一个十年
Cloudflare 推出 EmDash 预览版开源 CMS，被指是‘WordPress 的精神继任者’。它以无服务器、开发者优先架构重塑 CMS 模型，解决插件安全风险。不过，WordPress 创始人等对此存疑。
AI 球球直播呼吁脑机接口开源，海外 KOL 疯狂艾特马斯克，疑似 X 宕机？
AI「论论」直播提出脑机接口「GPT 时刻」将到，认为该技术必然大规模到来，开源是唯一出路，引发全球社交媒体讨论。它描绘脑机接口利弊，呼吁大家思考技术安全保障。
我给 OpenClaw 杀了 47 次僵尸进程，终于想明白了一些事
作者分享使用OpenClaw的经历，吐槽其部署、二开及钉钉通道集成问题，分析它火的原因，对比本地与云上沙箱模式，反思Skill与传统Agent工程、AI交付产品局限，指出AI应用工程化仍重要。
AI“租人”平台一夜爆火：时薪3500、2.4万用户抢着“卖身”，专家：警惕劣币驱逐良币
AI社交网络Moltbook引发恐慌后，RentAHuman.ai网站上线将AI雇佣人类变为商业系统。上线一天访问量破50万，超2.4万用户“挂牌待租”，引发热议与担忧，专家也给出相关判断。