「智能体安全」共找到 4178 篇相关文章
OpenAI Sora 2 登场！同步推出APP，Altman称这是创意领域的「ChatGPT 时刻」
OpenAI官宣新一代AI视频模型Sora 2，在物理准确性、逼真度等方面刷新SOTA，实现「音画同步」。Altman称其为创意领域的「ChatGPT时刻」。还推出Sora App，有新玩法，且在安全治理上布下「安全网」。
Claude Sonnet 4.5 发布，30 小时自主编码刷新行业纪录
Anthropic发布Claude Sonnet 4.5，号称最强编程模型，自主编码达30小时。它性能超GPT-5等，Claude Code升级，文件处理、API能力增强，价格不变，多平台集成，还通过白盒审计提升安全性。
ICCV 25 Highlight | 扩散过程「早预警」实现6x加速，AIGC生图的高效后门防御
随着AIGC图像生成技术流行，后门攻击威胁开源社区，传统防御技术难适配。本文作者来自多所高校，提出输入级防御框架NaviT2I，基于神经元激活差异检测样本，加速检测，性能优。
刚刚，英伟达官宣向OpenAI投资1000亿美元！用至少400万GPU打造超级AI巨兽
芯片巨头英伟达与AI巨头OpenAI官宣「联手」，将建立战略合作伙伴关系。英伟达将投资1000亿美元帮OpenAI建10吉瓦AI数据中心，含数百万块GPU，首阶段系统2026年下半年运营。
宇树科技开源UnifoLM-WMA-0机器人模型，离通用机器人又进一步
宇树科技开源UnifoLM-WMA-0模型，用神经物理网络让机器人理解力学规律。它支持两种模式，融合多模态信息，架构精妙。经测试性能强，已真机部署。开源降低门槛，有望推动行业发展。
AI 模特时代到来：字节x清华推出商用级视频换装模型DreamVVT，保真度显著领先SOTA
字节跳动智能创作团队联合清华推出视频换装模型DreamVVT，基于Diffusion Transformer构建，用两阶段设计解决复杂场景痛点，支持多种输入，在保真度和时序稳定性上领先SOTA。
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
人手一个顶级家教！OpenAI深夜重磅：ChatGPT「学习模式」上线
OpenAI推出ChatGPT「学习模式」，旨在支持真正的学习。该模式从答案机变导师，通过定制指令实现智能教学，有交互式提示等特性，测试反馈积极，未来还会有更多功能。
破解「个性化学习」长尾难题，巧用神经坍缩理论 | ICML 2025
当前个性化学习方法基于数据高质量且类别平衡的假设，但现实教育数据呈不均衡分布。华东师范大学和浙江大学团队在ICML2025提出NCAL方法，将神经坍缩理论引入该领域，解决教育数据长尾分布问题。
通过逆向工程探秘 Claude Code 背后的运作机制
作者通过逆向工程研究Claude Code内部运作，了解其比Cursor等工具慢且贵的原因。Claude Code注重通用性和安全性，执行任务时多有安全检查，虽增加成本延迟，但更可靠，且在命令行工具中用户体验出色。