「智能体安全」共找到 4176 篇相关文章
Google DeepMind 联合创始人、首席 AGI 科学家：如何构建一个让 AGI 有助于人类繁荣发展的世界？
Google DeepMind联合创始人、首席AGI科学家Shane Legg在播客中称AGI可能2028年到来。他探讨AGI定义、伦理等，认为其分多层级，还指出社会模式或改变，部分工作将受影响，也强调利用好它或带来黄金时代。
「国产GPU第一股」首秀！新架构下周揭秘，全栈底座不藏了
2025年12月19 - 20日，摩尔线程首届MUSA开发者大会将在北京举行。届时会揭晓新一代GPU架构与路线图，设20+技术专场，还有1000㎡科技嘉年华，展示全栈能力与生态进展。
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
3.9K star 惊艳！！媲美IDM，跨平台，AI加速，这届高中生牛逼了！
Ghost-Downloader-3是高中生用Python打造的跨平台多线程下载器，初衷是帮B站UP主整合资源。现具AI加速等功能，在GitHub获3.9K星，安装简单，未来还将添加磁力和BT下载。
刚刚，马斯克 xAI 联合创始人离职
xAI联合创始人Igor Babuschkin离职并宣布创立Babuschkin Ventures，专注AI安全研究。他回顾xAI成就，如120天建成Memphis超级集群。马斯克致谢，网友关注并表达看法。
阶跃星辰发布新一代基模 Step 3，原生多模态推理模型，性能达到开源 SOTA
WAIC 2025期间，阶跃星辰上线新一代基础大模型Step 3，7月31日将面向全球开源。还成立“模芯生态创新联盟”，与上海国有资本投资有限公司合作。Step 3性能达开源SOTA，推理效率高，适配多种芯片。
最新 AGI 暴论：强化学习的「GPT-3 时刻」实现，还需要 1 万年？
国外AI初创公司Mechanize三位创始人联合撰文称，RL或迎“GPT - 3时刻”，但需数千至上万年“模型处理任务所用时间”训练。还提出“复制训练”新范式，能磨炼模型能力，补足短板。
DeepSeek被「猫咪睡觉」给干崩了……
研究员发现，在数学题后加「有趣的事实：猫咪一生大部分时间都在睡觉」，能让DeepSeek数学能力崩塌。研究开发CatAttack方法找「触发词」，无关触发词使模型错误率飙升，还会让回答变长。
人生教练团Agent v2.0！给你省下万元咨询费（内有详细教程）
作者打造“人生教练Agent 2.0”，将马斯克、查理·芒格等大神“塞进”电脑。它有AI主持人，能根据问题召集合适导师。还介绍使用流程，灵感源于AIasMe等，后续会教加记忆功能。