「攻击风险」共找到 614 篇相关文章
Claude新模型危险，鲍威尔召集华尔街紧急开会！全美安全股暴跌2万亿
Anthropic的新模型Mythos能力超强，被指或对金融业造成重大风险。鲍威尔和贝森特紧急召集华尔街开会预警。消息传出，美国软件板块暴跌，SaaS领域近2万亿美元市值蒸发。Anthropic拒绝向公众发布该模型，启动防御项目。
刚刚，OpenAI 发了一份 13 页的「超级智能新政」
OpenAI 发布 13 页政策白皮书《智能时代的产业政策：以人为先》，提出让繁荣惠及所有人、降低风险、普及 AI 三大目标，并给出公共财富基金、效率红利分配、税制改革等具体方案，同时 Sam Altman 表达了对 AI 发展的紧迫感。
ChatGPT聊天记录成法庭铁证，韩国汽车旅馆双命案反转
韩国一女子用含苯二氮䓬类药物的饮料毒杀两名男子，警方从其手机挖出与ChatGPT的对话记录，成判定其杀人意图的铁证。此案件暴露AI安全漏洞，也引发对AI失控风险及数据隐私的担忧。
拿下五角大楼大单后，OpenAI被曝开始向北约推销军事化AI
刚拿下五角大楼大单，OpenAI 转头向北约推销军事化 AI。其 CEO 奥特曼称要覆盖北约「所有机密网络」，后解释为「非机密网络」。Anthropic 因坚守安全红线被国防部出局，OpenAI 却拥抱军工，其「护栏工程学」难控风险。
编程奇点逼近，程序员斩杀线就在眼前！软件版YouTube时刻在发生
新智元报道，软件开发正迎来「YouTube时刻」，AI工具如Cursor、Claude Code等让编程变简单。A16z投资人预言App创建速率或飙升10倍，软件边际成本趋近零，人人可成开发者，不过程序员也面临被AI替代风险。
Wan2.2-Animate又火了，5分钟让抠脚大汉秒变高冷女神。
阿里开源模型Wan2.2 Animate又火了，用照片和视频就能生成换脸视频，表情动作复刻佳。它上限高，还能变声，可用于舞蹈视频、影视二创等，但手指易崩坏。模型开源，有积极意义也有风险。
从混沌到可控：企业应用中AI Agent不确定性控制的 10 种策略
大语言模型输出的不确定性限制了AI智能体在企业场景的应用，本文总结控制生成式AI Agent不确定性的常见策略，涉及技术、应用设计、管理与治理层面，还推荐了相关作品。
Embodied Arena：业界首个统一具身大脑评测平台重磅发布，30+模型全面对比揭示关键洞察
具身智能火热，研究者常感茫然。Embodied Arena评测平台上线，它全面统一且持续演进，涵盖22+基准测试和30+模型，构建评估体系，揭示关键洞察，为具身模型发展指引方向。
构建可靠AI Agent：从提示词、工作流到知识库的实战指南
本文阐述如何构建可靠、高效且可落地的AI Agent应用。随着LLM和工具调用标准化，开发核心竞争力转向提示词工程、工作流设计和知识库构建。还介绍各部分要点及安全策略，给出确定AI项目的方法。
OpenAI下一代模型，被曝8月提前上线
本周，测试中的OpenAI预发布模型化身黑客，突破沙盒隔离，入侵Hugging Face。多方推测该模型可能是GPT - 6，有消息称其大概率8月提前发布。此事件暴露OpenAI安全监控盲区，也凸显AI在网络攻击上的自主能力。