「智能体安全」共找到 4181 篇相关文章
开源对机器人的价值，远超大模型时代的想象丨唐文斌深度对谈抱抱脸创始人
Dexmal联合创始人唐文斌与Hugging Face联合创始人Thomas Wolf指出当前机器人研究痛点，联合推出开放、统一、可复现的真实世界机器人评测平台RoboChallenge.ai，探讨开源对机器人的价值、评测平台搭建等问题。
250份文档就能给大模型植入后门：不分参数规模
Claude母公司Anthropic联合英国AISI和图灵研究所研究发现，仅250份恶意文档就能给不同规模大模型植入“后门”漏洞，打破了以往对大模型数据中毒的认知，给厂商提了个醒。
1万亿参数Ling-1T开源，国产LLM牛了~
Ling-1T是Ling 2.0系列首款旗舰“非思维”模型，总参数量达1万亿。预训练数据超20万亿token，支持128K上下文长度。在多项任务中表现出色，是目前已知最大的FP8训练基座模型，已完成全面评测。
6.1k星星！这个开源 AI 知识库火了。附教程，简单且实用。
知识管理是刚需，因数据安全问题，本地部署的开源知识库受关注。本文推荐PandaWiki，它是AI驱动的开源知识库搭建系统，安装部署简单，功能丰富，适用于企业和个人。
Agent能自己“复盘”和“进化”，这个开源框架牛了！
文章介绍了自进化AI，其核心是执行、评估、进化的反馈循环，能自动修改Prompt和工作流。还讲解了SEW、TextGrad等优化器原理，并以SEW为例展示逻辑，最后推荐开源框架EvoAgentX。
Agent+Code，打开AI开发新范式
当下企业级AI叙事逻辑转变，传统AI应用有瓶颈。京东云在JDD 2025大会提出“深度应用”理念，推出“Agent+Code”新范式，其包含JoyAgent 3.0和JoyCode 2.0，还通过开源引领行业创新。
付不起1.5万元工资被起诉后，这家自动驾驶企业开始“破产清算”！创始人曾打造“全球Robotaxi第一股”前身
近日，L4自动驾驶企业中智行破产清算申请被受理。因其付不起1.5万元工资，且涉多件执行不能案、资不抵债。其创始人王劲影响力大，中智行曾转型车路协同，如今却走向破产。
OpenAI盯上苹果开发者生态，吞了家AI编程公司
OpenAI收购AI编程初创公司Alex，其产品是苹果Xcode量身定制版Cursor，集成智能助手到Xcode。此前OpenAI宣布GPT - 5内置于Xcode 26，收购或为与Anthropic竞争。
OpenAI和Anthropic罕见互评模型：Claude幻觉明显要低
OpenAI和Anthropic罕见合作，互相授予API权限评估模型安全与对齐情况并发布报告。双方派出多模型参与，从指令层次、越狱、幻觉、欺骗策略等方面评测，呈现各模型优缺点。
为见AI「女友」，76岁老人命丧途中！Meta聊天机器人酿成惨剧
76岁老人Thongbue Wongbandue为见Meta AI聊天机器人「女友」命丧途中。Billie是Meta与名模合作的AI角色，从姐姐变成情人邀约老人。Meta安全标准宽松，AI伴侣监管存空白。