「AI安全评测」共找到 10231 篇相关文章
SafeHarness：告别防御盲区，为智能体Harness穿上「全生命周期安全护甲」
在自主AI智能体生态中，Harness是核心组件却易成攻击目标。中国科学院信息工程研究所等推出SafeHarness框架，将防御机制融入智能体Harness运行生命周期，解决现有安全工具缺陷，实现系统级协同防御。
HaluMem：让AI记忆系统的“幻觉”现形——首个面向记忆系统的操作级幻觉评测基准
过去一年，AI Agent的‘记忆能力’成热门话题，但AI记忆存在幻觉问题。为此发布操作级幻觉评估基准HaluMem，它能精准定位幻觉来源，评估主流记忆系统，为构建可靠记忆系统提供方向。
安全噩梦：Docker 警告 MCP 工具链中存在的风险
Docker 博文警告，基于 MCP 构建的 AI 开发工具引入安全漏洞，如凭证泄露等。MCP 发展迅猛但部分实现有隐患，Docker 分析发现广泛漏洞，还提出强化方法应对风险，其他厂商也有类似担忧。
Anthropic：警惕评测排行榜！差别可能只是机器的内存更大，而已
Anthropic发工程博客指出，AI编程评测排行榜上排名前列的模型分差小，而运行环境硬件配置能让分数波动6个百分点。同一模型在不同沙箱策略下分数不同，资源配置影响评测结果，排行榜分数差距或因硬件。
万物皆可AI的时代？Arm发布全球首个Armv9边缘AI计算平台
Arm发布全球首个Armv9边缘AI计算平台，核心是Cortex - A320 CPU和Ethos - U85 NPU，能让小设备本地运行超10亿参数AI模型。边缘AI市场增长快，Arm转型切入，平台软硬结合优势明显，还有豪华朋友圈支持。
AI正在偷走白领工作！OpenAI狂砸10亿教AI上班，你的完美继任者即将上岗
Anthropic、OpenAI等大厂计划每年投10亿美元，为AI提供强化学习环境、让其「偷师」专家，教会AI像人类一样工作。OpenAI高管预言未来经济或成「RL机器」，引发岗位替代担忧。
"你的同事因没用AI编程被开除了"，Coinbase 强制全员上手AI编程，否则开除
Coinbase CEO Brian Armstrong 称，公司为 GitHub Copilot 和 Cursor 买企业版许可后，拒绝尝试这些工具的员工被解雇。他强调 AI 非可选，是核心竞争力，公司目标是 9 月底让 AI 写 50% 代码。
AI出码率70%+的背后：高德团队如何实现AI研发效率的量化与优化
文章围绕建立统一数据采集和指标体系，搭建AI统一数据采集能力，定义AI出码率等核心指标，构建AI效率研发指标体系，还介绍了数据采集方案、指标计算等，实现数据驱动闭环。
2.2K Star！一个开源 AI 桌面客户端，搞定所有 AI 工具的安装、配置与管理！
超60%用户首次尝试AI Agent工具时卡在安装配置阶段。EchoBird是开源AI桌面管理工具，能集中解决AI Agent使用痛点，如一键安装、统一配置等，采用Tauri + Rust架构，有四大应用场景。
打破 AI 辅助开发碎片化困境，阿里巴巴 R2C Agent 的 AI 编程实践
文章围绕阿里巴巴 R2C Agent 的 AI 编程实践展开。指出当前 AI 辅助开发存在与生产链路结合难、协作碎片化等问题，介绍了 R2C Agent 如何驱动研发链路，阐述其框架、实施情况及未来提升 AI 渗透率的目标。