「不当行为检测」共找到 439 篇相关文章
刚刚，Anthropic 成立了个 AI精神病学团队，正在招人
Anthropic宣布成立「AI精神病学」团队，作为可解释性研究一部分，将研究模型人格、动机等致其行为异常的因素。团队现正招聘研究科学家，不过此举措也引发争议。
刚刚，Anthropic发现Claude「类意识工作台」！神秘J空间藏着没说出口的想法
Anthropic新研究发现Claude内部存在特殊“J空间”，像静默心理工作区，浮现模型思考概念，不一定在回答里。此研究受关注，还揭示其特性、发现方式及应用，改变对Claude“心智”理解。
EchoLeak-首个导致 M365 Copilot 数据泄露的零点击 AI 漏洞
Aim Security发现“EchoLeak”漏洞，利用RAG Copilot设计缺陷，攻击者无需特定用户行为就能窃取M365 Copilot上下文数据。文章详述攻击流程、利用方法，此研究在AI安全领域有多项突破。
AI让文科彻底灭绝？算法猜不透人心，人类终将反杀！
著名科技记者Steven Levy给文科生打强心剂，认为无论AI多强大，它没人性，人文学科涉及对人类行为与创造力的理解，是计算机无法获得的，文科生仍有广阔未来。
《西部世界》开始加载，「斯坦福小镇」团队创业，李飞飞、Karpathy都投了
2023 年爆火的「斯坦福小镇」研究将设想拉进现实。如今其创始团队创立新公司 Simile，获 1 亿美元融资，李飞飞、Andrej Karpathy 等投资。它用 Agent 技术模拟人类行为，探索 LLM 新维度。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
Claude Code开源了代码简化Agent，千年“屎山”代码终于有救了！
Claude Code开源代码简化Agent，可在不改变程序行为下降低代码复杂度。它能自动简化结构、减少冗余，提高可读性。该功能可通过官方插件试用，网友认为其实用，还呼吁更多内部技能开源。
ICML暴力清场，497篇论文一夜作废！审稿人偷用AI惨遭全拒
ICML 2026爆出大消息，497篇论文因审稿人动用AI未标注被“桌拒”，占总投稿量2%。ICML祭出“连坐”惩罚，引发争议，有人质疑检测不靠谱，也有人支持维护学术规则。
The Batch：833 | 针对智能体的钓鱼攻击
研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。
谷歌发布 Angular 21：Signal Forms、Zoneless 迁移和 AI 优先工具
谷歌发布 Angular 21 版本，引入 Signal Forms 提高表单响应性，推进 zoneless 变更检测，还提供 AI 驱动开发工具，有打包配置、组件库等更新，虽引不同看法，但提供清晰迁移路径。