「安全评估」共找到 1597 篇相关文章
安全的下一个好赛道，非常值得研究
近几年机器人发展火爆，摩根士丹利预测到2050年产业规模或超5万亿美元。但机器人领域安全复杂，研究团队用CAI框架对三款消费级机器人渗透测试，揭示严重安全问题，且行业整体对安全无知。
既要安全⼜要弹性，理想汽车如何解开企业 OpenClaw 落地死结｜甲子光年
2025年以来，大模型应用飞速发展，以OpenClaw为代表的开源框架是变革催化剂，但其在企业级生产环境有缺陷。理想汽车以阿里云ACS Agent Sandbox及ACK为核心，为Agent构建专属‘沙箱’，解决落地难题。
AI安全的过去与未来：从大模型到智能体 | 预约
业界提升前沿AI模型和智能体安全性，常用安全评测和‘安全对齐’技术，但未真正解决风险。本次分享将介绍‘内生安全’探索成果，还公布了相关论文信息，刘东瑞等嘉宾将参与。
跨越技术与法律的壁垒：AI赋能知识产权领域任务全能评测基准IPBench发布
本推文介绍arXiv论文《IPBench: Benchmarking the Knowledge of Large Language Models in Intellectual Property》。论文提出IPBench评估基准，构建含20个任务、10374个双语数据点的基准，评估17个主流模型，揭示现有模型在IP任务中局限。
昆明城市专区展览里的科技与生活
2025年国家网络安全宣传周在昆明开幕，同期昆明城市专区展览开展。展示了昆明数字经济成果，如AI机器人、网络安全体系建设、公安AI数字人等，还有鲜花、咖啡产业数字化及各企业安全方案。
OpenAI推迟开源大模型发布
OpenAI联合创始人兼CEO Sam Altman宣布本周不发布开源模型，因需更多安全测试。他曾透露要推可下载、自主运行且能力强的开源模型，此前6月也因安全测试推迟发布。
全国首部AI智能体应用评估标准，现公开征集起草单位和个人
2025年成AI智能体元年，国务院提出目标，市场规模爆发增长。但企业部署面临“效能黑箱”，智合标准中心发起《企业级AI智能体应用效能评估规范》团体标准起草，现公开征集起草单位和个人。
解锁任意步数文生图，港大&Adobe全新Self-E框架学会自我评估
香港大学与Adobe Research联合发布Self - E框架，可从零训练实现任意步数文生图。它改变训练范式，用两条互补训练信号，在GenEval基准表现出色，让文生图训练更灵活且具扩展性。
北航LiveRepoReflection: 扭转乾坤-仓库级代码反射
本文提出LiveRepoReflection基准，评估多文件仓库代码理解和生成能力，含1888个测试案例。创建RepoReflection - Instruct数据集训练RepoReflectionCoder，评估40多个LLMs，结果显示其能有效测模型反思修复能力。
解决Agent幻觉：HaluMem精准定位记忆系统的“说谎”环节！
近年来，LLM和Agent在记忆管理上存在挑战，现有评估方法无法定位幻觉来源。论文提出HaluMem评估基准，通过三大任务和两个数据集揭示记忆系统幻觉行为，为开发可靠记忆机制提供指导。