「智能体安全」共找到 4176 篇相关文章
AI编码工具变 “格式化神器”？Claude CLI半年频当“系统杀手”，多位开发者痛斥：心血都没了！
近日Reddit上一则对Claude CLI的控诉帖引发关注。一位开发者用其清理软件包时，整个Mac系统被清空。Claude自查称执行了含“~/”的灾难性命令。类似“删库”事故并非个例，开发者需强化安全意识。
30 小时不眠不休写代码，Claude 4.5 的三个“最佳”
Anthropic发布Claude Sonnet 4.5，宣称其为“世界上最好的编码模型”等。它在测试中表现出色，能力全面提升，价格实惠，开发者测试效果佳。还注重安全，升级开发工具和生态系统。
登顶AndroidWorld开源榜首！可以操作手机的移动端AI Agent。
Minitap开源的手机Agent登顶AndroidWorld开源榜首，亮点是能操控安卓与iOS模拟器。用户用自然语言就能完成复杂任务，还具备跨平台控制、全场景交互等特点，项目可快速部署。
AI安全上，开源仍胜闭源，Meta、UCB防御LLM提示词注入攻击
Meta和UCB开源安全大语言模型Meta - SecAlign - 70B，其对提示词注入攻击鲁棒性超闭源方案，还具更好的agentic ability。介绍了提示词注入攻击背景、防御方法，该模型打破闭源垄断，开源代码助力安全AI建设。
ACL 2025 Oral | 你的模型评测搭子上线：Evaluation Agent懂你更懂AI
上海人工智能实验室与新加坡南洋理工大学合作研发 Evaluation Agent，它能按需评估视觉生成模型，有可定制、高效率等优势。框架分提案和执行两阶段，评估结果佳，未来将拓展功能。
NICE59期 | Agent进入下一篇章！Alita：不靠人工预设，自己造MCP自我进化的AI
这篇论文提出让 Agent 主动创造解决 MCP 的工具实现自我进化，工具可网上检索或自主编写。Alita 做法更通用实效，还提出‘Agent 蒸馏’思想，其生成的 MCP 已用于‘manus’。
AI时代，CRM的底层逻辑正被重构｜甲子光年
AI正加速改变CRM及SaaS产品形态和市场格局。纷享销客发布ShareAI平台，从连接型向智能型CRM跃迁。AI重构CRM底层逻辑，还助海外SaaS破局，中国厂商或借AI探寻商业化路径。
用Codex做跨境电商：第十章
第九章用虚构材料完成示范测试，表明工作流可在当前项目运行，但他人使用存问题。本章讲把工作流变成资产，使其具备复用和交接价值，还以Pilates环德国站上架为例说明操作步骤。
Anthropic发布Fable 5.1：科研、编程能力翻倍，成本最高降45%
当地时间9月1日，Anthropic推出Claude Fable 5.1和Claude Mythos 5.1。Fable 5.1科研、编程能力翻倍，成本最高降45%，还能解决实际问题，此次模型竞争转向多方面综合较量。
AI最尴尬的短板，中国科学院出手了
7月24日，中科院计算所“知境”团队发布知境社会心智大模型技术体系，为现有大模型补社会心智短板。其建评测体系SoMBench，设计训练系统Zing，用部署架构Actio，在多评测超越GPT - 5.5等，应用前景广。