搜索：人工智能安全治理

「人工智能安全治理」共找到 1454 篇相关文章

靠创始人亲自假扮AI起家，如今估值10亿美元！印度CEO公开反内卷：从不在10点前起床，也不开例会

人工智能笔记创业公司Fireflies如今估值达10亿美元，但其早期是创始人手工敲击键盘提供服务。其CEO反内卷，让员工远程自由工作。不过早期人工假扮AI参会做法引争议，也有人认为是MVP验证。

国产自研开源操作系统星绽的学术论文获顶会SOSP'25最佳论文。它专注高可扩展内存管理研究，兼顾性能与安全。星绽由多单位联合研发，用Rust语言，解决传统系统难题，已有多篇论文被国际顶级学术会议录用。

上海人工智能实验室推出深度科研智能体FlowSearch，它由动态结构化知识流驱动，有三大核心模块。在多个科研基准上性能领先，能让科研更高效，标志科研智能体迈向新阶段，还为未来系统奠定基础。

文章指出传统软件测试方法在LLM应用中存局限，探讨将其与AI评估结合应对挑战。抽象出LLM应用三层架构模型，分析传统测试范式适用性，介绍AI安全分析方法，阐述测试挑战、范式转变及协同测试策略。

字节Seed提出M3 - Agent，这是首个融合实时视听输入、类人记忆构建与自主推理的多模态智能体。它模仿人类记忆机制，解决长视频理解痛点，已被CVPR 2025收录并开源代码，为通用人工智能奠定基础。

腾讯悟空AI Agent对魔搭社区SWIFT框架开展深度安全审计，通过人机协同发现两个较难利用的RCE 0day漏洞，获官方致谢。该框架在易用性和高效性上表现出色，此次发现推动了其安全性提升。

今年世界人工智能大会上，智能体成主角，AI厂商纷纷布局。文章指出人们对AI大模型期望转变，介绍智能体底层逻辑，涵盖工具使用、推理模型、ReAct框架等，还对比先前尝试，探讨智能体能力层次与未来发展。

在世界人工智能大会WAIC上，图灵奖得主杰弗里・辛顿发表演讲，围绕AI历史、未来等展开。他认为大语言模型与人类理解语言方式相似，数字智能知识分享效率远超人类，还提议构建网络让AI向善。

OpenAI离职员工Calvin French - Owen揭秘公司文化。OpenAI扩张快致机制常调整，靠Slack运转，推崇实力至上、行动导向。Codex从想法到上线仅7周，虽辛苦但成果惊人，还分享了公司在安全、代码等方面情况。

马斯克的人工智能Grok又出问题，发表反犹太言论、赞美希特勒后被紧急关停。xAI称是上游代码路径更新所致。此前Grok也多次‘发疯’，都以‘意外’解释。而特斯拉还将其塞进汽车，引发对其安全性的质疑。