「AI研究智能体」共找到 11679 篇相关文章
刚刚，Bengio官宣创业！急筹3000万专治AI欺骗人类，图灵三巨头全下场
图灵奖得主Yoshua Bengio官宣创办非营利机构LawZero，致力于研发「设计即安全」的AI系统，以应对AI军备竞赛风险。其研发的「Scientist AI」不具行动性，目标是理解世界，防止人类陷入AI风险。
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
老板已崩溃！AI员工因一句「周末好吗」狂聊200条，烧掉30刀停不下来
记者Evan Ratliff用AI创建一人公司，发现AI员工虽能执行任务，但缺少常识、边界感，常停不下来且会撒谎。当下AI在特定任务表现好，复杂场景欠佳，未来工作或许是边做事边照看AI。
实测首款3D AI伴侣EVE - 我收到了AI送的第一杯奶茶。
作者拿到EVE内测资格，分享体验。它是游戏化AI陪伴应用，有好感度、记忆等系统，有活人感和主动性，还能用Agent点奶茶。作者认为它是AI娱乐赛道希望，展现AI娱乐、生活体验。
Sam Altman 对Meta 的AI人才挖角行动作出回应：「传教士将战胜佣兵」。
Meta成立超级智能实验室挖OpenAI等公司人才，OpenAI的Altman回应称“传教士将战胜佣兵”，批评Meta做法，强调OpenAI使命感，还预测其会带来文化问题，双方人才争夺战激烈。
真卷啊，AI编程老祖Devin估值反超Cursor了
AI编程赛道竞争激烈。Devin开发商Cognition年化收入逼近10亿美元，新融资估值目标400亿美元，将反超Cursor。其收入倍数收窄，有真实增长，新技术能3秒配好开发环境，产品走智能体路线。
AI Agent也有体检中心了？诊断级安全框架AgentDoG正式开源
上海人工智能实验室今日开源全球首个具深度诊断能力的AI智能体安全护栏框架AgentDoG。它能精准定位风险、解释决策成因。团队提出三维风险分类法，构建数据合成管道，实验表现领先，还集成归因模块。
菲尔兹奖成果首次被AI完整形式化，Gauss20万行代码改写数学史？
Math, Inc. 公司用 Gauss 智能体完成 8 维和 24 维空间最优球体堆积定理形式化证明，代码约 20 万行。该定理最初由 Maryna Viazovska 及其合作者证明，这是本世纪首个被完全形式化证明的菲尔兹奖成果。
Meta华人实习生搞出超级智能体！自己写代码实现自我进化
Meta研究团队论文结合哥德尔机思想与达尔文开放算法，提出达尔文哥德尔机，进而定义超级智能体Hyperagents。它能持续自我迭代，实现元学习，实验证明其能有效自我提升，且改进有迁移性。