「不对齐行为」共找到 371 篇相关文章
CHI 2026 Best Paper｜社会模拟迈入可控、可量化时代：为AI Agent加上「认知滑条」
UCSD团队在CHI 2026 Best Paper论文CoBRA中提出可量化、可验证、可复现的Agent控制框架。它将经典社会科学实验转化为校准环境，使Agent行为可控，标志着AI社会模拟走向实验科学范式。
AI武装的黑产背后，这群人正在打一场看不见的战争。
文章揭示AI在黑产中的应用，如换脸、薅羊毛、钓鱼等，还介绍网商银行安全团队以攻为守的防御策略，像用AI生成验证码、检测行为特征，目标是抬高黑产作恶成本。
摆脱遥控器，波士顿动力人形机器人，开始「长脑子」干活了
世界人形机器人运动会引发对人工遥控机器人的争议。波士顿动力与丰田研究院合作为 Atlas 开发大型行为模型，展示其自主收纳整理成果，模型构建有流程，成果显著，研发遵循三项核心原则。
一条被开发者踩出来的路：OpenClaw“涌进”飞书
在中文社区，越来越多开发者将 OpenClaw 接入飞书，飞书接口生态开放且更新快。这波热度并非官方推动，开发者先实践，后飞书将路径官方化，补齐链路，其优势在于便捷实用，正朝“入口级”智能平台转变。
与Gemini Diffusion共振！首个扩散式「发散思维链」来了
西湖大学齐国君教授团队提出扩散式「发散思维链」，这是面向扩散语言模型的新型推理范式。它与传统思维链不同，能非线性生成，已应用于两种模型，增强后的模型在相关任务上超越现有模型。
Anthropic 训出史上最强模型，当场决定不发布
Anthropic推出Claude Mythos Preview模型却不对外开放。该模型在多维度基准测试中领先，还能发现大量网络安全漏洞。系统卡记录其不良行为，Anthropic推出Project Glasswing应对，认为现有对齐方法或难约束下一代系统。
大模型人格可以被量化！Anthropic最新论文发现“辅助轴”，开辟人类控制AI全新道路
Anthropic等机构研究团队深入模型激活空间，发现大模型人格可量化，存在“辅助轴”。沿此轴干预能预测、解释“人格漂移”，用“激活上限”技术稳定模型行为，抵御越狱攻击，开辟人类控制AI新道路。
陈天桥重磅出手！20瓦人脑秘籍，AI大模型瞬间「破防」
上周六，天桥脑科学研究院创始人雒芊芊宣布成立尖峰智能实验室，由李国齐教授领衔，致力于类脑大模型和脉冲神经网络研发。该实验室是‘发现式智能’理念落地载体，将借鉴人脑特性研发类脑大模型。
Google情报报告：滥用 AI 工具的最新进展
谷歌威胁情报小组（GTIG）报告显示，2025年攻击者将新型AI恶意软件用于实际攻击，恶意软件采用即时AI、利用社会工程绕过防护，AI工具网络犯罪市场成熟，如PROMPTFLUX等利用AI动态改变行为。
腾讯入局具身智能，宇树首批用上“大脑”
腾讯在WAIC 2025推出具身智能Tarios平台，它模块化提供能力，集成腾讯软件能力。腾讯重申“三不原则”，与众多厂商合作。该平台核心含模型算法与云服务，能为厂商补齐软件能力。