搜索：人工智能安全

「人工智能安全」共找到 1357 篇相关文章

Tair 短期记忆架构实践：淘宝闪购 AI Agent 的秒级响应记忆系统

本文从淘宝闪购与千问合作的‘一句话点外卖’项目出发，介绍 Tair 在 AI Agent 记忆管理中的数据模型设计、压缩策略与并发控制等关键实践，展示其在低延迟、数据建模、并发安全和弹性抗压等方面的能力。

文章介绍了A2A协议，它是多智能体系统的“协作总线”，能让不同智能体安全高效协作。阐述其核心使命、与MCP区别、核心概念、工作流实例，还描绘了“智能体社会”愿景，并给出基于官方文档的实现示例。

人类最后的考试（HLE）登上Nature，这一测试集由全球50个国家近千名顶尖学者打造，含2500道高难度试题。现有的人工智能评估工具已跟不上技术演进，HLE能测出AI极限，让顶尖机器暴露短板。

个人 AI 助手 ClawdBot 席卷硅谷，网友评价高，项目已开源获 20.8k stars。它几乎 100% 用 AI 写代码，协作方式激进，创始人还留 0.00001% 作为“安全靶子”。其功能强大但有安全隐患，还带火了 Mac Mini。

中电信人工智能科技（北京）有限公司成为央企首家AI独角兽，完成首轮增资，引入四家国家级战略投资方。其靠自研“星辰”系列大模型，在多领域突破，实现技术与市场认可闭环，有望推动AI产业落地。

1月5日，'2026北京人工智能创新高地建设推进会'召开，透露北京要在AI上搞大动作。2025年北京AI核心产业规模预计突破4500亿，还将建AI创新街区，发布多项补贴政策，多家机构和企业有新成果。

人工智能笔记创业公司Fireflies如今估值达10亿美元，但其早期是创始人手工敲击键盘提供服务。其CEO反内卷，让员工远程自由工作。不过早期人工假扮AI参会做法引争议，也有人认为是MVP验证。

国产自研开源操作系统星绽的学术论文获顶会SOSP'25最佳论文。它专注高可扩展内存管理研究，兼顾性能与安全。星绽由多单位联合研发，用Rust语言，解决传统系统难题，已有多篇论文被国际顶级学术会议录用。

上海人工智能实验室推出深度科研智能体FlowSearch，它由动态结构化知识流驱动，有三大核心模块。在多个科研基准上性能领先，能让科研更高效，标志科研智能体迈向新阶段，还为未来系统奠定基础。

文章指出传统软件测试方法在LLM应用中存局限，探讨将其与AI评估结合应对挑战。抽象出LLM应用三层架构模型，分析传统测试范式适用性，介绍AI安全分析方法，阐述测试挑战、范式转变及协同测试策略。