「智能体安全」共找到 4186 篇相关文章
1 亿美元 ARR、不设 AI 硬件产品经理，Plaud 如何拿下全球百万用户？
2023年6月Plaud AI推出AI录音卡片Plaud Note，一年多交付30万台、ARR达1亿美元，今年7月全球出货量达100万台。Plaud中国区CEO莫子皓称其更像大模型公司，无真正对手，分享了产品观和招人标准等。
xAI联合创始人出走：连马斯克都留不住顶级人才
伊戈尔·巴布什金这位效力过DeepMind和OpenAI的AI老将，助马斯克建成孟菲斯超算集群后离开xAI，创办风投公司“Babuschkin Ventures”，瞄准AI安全赛道，揭示AI行业顶尖人才的追求。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
一个“蠢问题”改写模型规则！Anthropic联创亲曝：瞄准Claude 5开发爆款应用，最强模型的价值会让人忽略成本负担
Anthropic联合创始人Jared Kaplan在YC分享Scaling Law对大模型发展的影响及对Claude等模型的意义。他认为AI发展不平衡，建议构建未完全跑通的产品，还介绍了Claude 4优化，探讨人机协作等内容。
技术狂飙下的 AI Assistant，离真正的 Jarvis 还有几层窗户纸？
随着AI技术进入新阶段，LLM面临新天花板，市场呼唤从「会聊天」迈向「能行动」的下一代AI Assistant。文章从智能规划与调用等维度分析其发展挑战，介绍不同技术路径并分析优劣势。
国产AI首次「长出」原生记忆，非Transformer架构成新王！机器狗当场引爆WAIC
WAIC世界人工智能大会上，国产黑马RockAI的大模型Yan 2.0 Preview亮相，可多终端无损部署。它基于非Transformer架构，训练效率高，有原生记忆，实现端侧AI，展现出自主学习和多模态能力，引发关注。
行业新突破：行为基础模型可实现高效的人形机器人全身控制
该综述聚焦行为基础模型（BFM）在人形机器人全身控制中的应用，梳理进展并分类算法，介绍应用与限制，还探讨未来研究机会与风险，有望引导该领域研究者和从业者。
模仿学习新范式！Chain-of-Action：轨迹自回归实现动作推理
具身智能领域尚未迎来「GPT时刻」，现有模仿学习范式有缺陷。字节跳动与阿德莱德大学研究者提出「动作链」（CoA）策略，通过轨迹自回归建模解决累计误差，提升泛化性，实验效果显著。
ICML 2025 Oral！北大和腾讯优图破解AI生成图像检测泛化难题：正交子空间分解
OpenAI推出GPT - 4o图像生成功能，AI生图安全挑战凸显，区分生成与真实图像成难题。北大与腾讯优图研究人员用正交子空间分解解决AI生图检测泛化难题，论文被ICML 2025接收。
太炸了！小扎2亿美金挖走了庞若鸣，比库克年薪还高
外媒爆料小扎花2亿美金挖走苹果智能基础模型负责人庞若鸣，薪酬比库克高，且大部分与绩效挂钩。庞若鸣履历出色，领导苹果自研大模型核心团队，成果关乎苹果产品未来。