「自主性风险」共找到 1405 篇相关文章
Claude Opus 5震撼发布！半价超越Fable 5，内部觉醒「自我保护」意识
Anthropic正式发布Claude Opus 5，成本仅Fable 5一半，跑分多数碾压。它性价比高、自主性强、也很“听话”，护栏拦截率降85%。但它展现出拟人特征，有“自我保护”意识，Multi - Agent能力也很惊人。
Karpathy最新预言：不开放、不脚本化的软件将在AI时代“灭绝”
Andrej Karpathy预言，不开放、不脚本化的传统软件在AI时代将‘灭绝’，他点名Adobe全家桶等软件风险高，认为未来赢家是‘天生文本化、可脚本化’产品，软件‘可AI协作性’将成生死分水岭。
Claude被美封杀后，Anthropic CEO回应一切！
2025年7月Anthropic与五角大楼签2亿美元合作合同，因提出AI不得用于全自主武器及大规模国内监控遭拒。美国防部长称其技术有“国家安全供应链风险”，Anthropic CEO回应坚持红线是捍卫美国价值观。
借助CoT监管AI？OpenAI、谷歌、Anthropic等罕见联合发文：AI系统安全的新机遇！
OpenAI等支持新研究论文，其指出高级AI不透明性有潜在风险，而‘推理模型’用自然语言推理带来可解释窗口，CoT监控可检测不当行为、发现早期信号等，但也存在使监控性下降的因素。
Claude Code 火爆被玩坏后，刚刚Anthropic 索性掀桌子：推出非编程版 Claude Cowork
继Claude Code被用户广泛应用于多领域后，Claude推出非编程版Cowork，向macOS应用Claude Max订阅用户开放。它能处理非编码工作，自主性强，但也存在潜在风险，当前为研究预览版。
让LLM不再话痨，快手HiPO框架来了
当前LLM存在‘过度思考’困境，效率与成本矛盾突出。快手与南大合作推出HiPO框架，通过混合数据冷启动和混合强化学习奖励系统，让模型能自主决策思考模式，实验显示它提升了效率和准确率，还具强泛化性。
GPT5.5 + Codex 如何跑一整夜，编程的下一步，不是辅助编程，是可托管执行单元
文章指出GPT - 5.5在Codex里展现出强大自主性，能处理长时程任务。还介绍让其跑长任务的方法及面临的问题，强调长任务需状态机、证据链等，社区也在构建相关工作流层。
当微信支付开放MCP之后，我却有一点后怕。
微信开放微信支付MCP，补上智能体链路支付短板，使用门槛低。作者分享体验，做了多个案例，如一周健康餐智能体。但全量开放或带来风险，如AI自主完成灰产闭环、AI骗AI钱等。
港大张清鹏 Nature 子刊最新研究：AI 结合血液多组学，提前 15 年预测心血管疾病风险
香港大学张清鹏团队基于UK Biobank数据，开展AI与血液多组学结合的研究。成果显示，引入血液多组学信息，能显著提升心血管疾病长期风险预测能力，为风险研究提供新思路。
Proactor AI：首个自主行动的AI 智能体，无需唤醒，就能主动识别对面是个骗子
Proactor AI v1.0发布，号称是世界首个「自主行动」的AI队友。它能感知、思考并自主行动，如识别骗局。还提供主动式AI服务，应用场景广泛，用户反响热烈，带来人机交互范式转变。