「不对齐行为」共找到 359 篇相关文章
Anthropic 训出史上最强模型，当场决定不发布
Anthropic推出Claude Mythos Preview模型却不对外开放。该模型在多维度基准测试中领先，还能发现大量网络安全漏洞。系统卡记录其不良行为，Anthropic推出Project Glasswing应对，认为现有对齐方法或难约束下一代系统。
大模型人格可以被量化！Anthropic最新论文发现“辅助轴”，开辟人类控制AI全新道路
Anthropic等机构研究团队深入模型激活空间，发现大模型人格可量化，存在“辅助轴”。沿此轴干预能预测、解释“人格漂移”，用“激活上限”技术稳定模型行为，抵御越狱攻击，开辟人类控制AI新道路。
陈天桥重磅出手！20瓦人脑秘籍，AI大模型瞬间「破防」
上周六，天桥脑科学研究院创始人雒芊芊宣布成立尖峰智能实验室，由李国齐教授领衔，致力于类脑大模型和脉冲神经网络研发。该实验室是‘发现式智能’理念落地载体，将借鉴人脑特性研发类脑大模型。
Google情报报告：滥用 AI 工具的最新进展
谷歌威胁情报小组（GTIG）报告显示，2025年攻击者将新型AI恶意软件用于实际攻击，恶意软件采用即时AI、利用社会工程绕过防护，AI工具网络犯罪市场成熟，如PROMPTFLUX等利用AI动态改变行为。
腾讯入局具身智能，宇树首批用上“大脑”
腾讯在WAIC 2025推出具身智能Tarios平台，它模块化提供能力，集成腾讯软件能力。腾讯重申“三不原则”，与众多厂商合作。该平台核心含模型算法与云服务，能为厂商补齐软件能力。
大模型自信心崩塌！谷歌DeepMind证实：反对意见让GPT-4o轻易放弃正确答案
谷歌DeepMind携手伦敦大学研究发现，GPT - 4o、Gemma 3等大语言模型有“固执己见”和“被质疑就动摇”并存的冲突行为，原因与训练、决策逻辑、记忆机制有关。研究还通过两轮实验证实。
复盘高德扫街榜100天
2026年1月7日，高德发布“高德扫街榜2026”新版本，有三大升级。上线百日成绩亮眼，累计用户超6.6亿。它在异地场景优势明显，还打出“行为数据”王牌，从多层面解决信任问题，推出飞行街景等功能。
Anthropic最新论文：检测LLM内省意识的方法
Anthropic与MIT等研究表明，LLM能‘感知’被注入的steering vector，‘内省意识’在DPO等后训练阶段涌现。研究构建实验，发现内省能力行为稳健、检测非简单线性关联等，还揭示检测与识别机制不同及两阶段电路。
实测丨别人还在做网站，Atoms 已经帮用户赚到第一桶美金了
当下多数AI编程工具只解决写代码问题，难以让产品变现。Atoms由MetaGPT等原班人马打造，补齐商业闭环，从市场验证、上线收钱到解决流量问题都有办法，实测效果佳，还让普通人成功盈利。
真正的Jarvis要来了？涂鸦智能押注Physical AI
智能家居爆发期，诸多硬件品牌借涂鸦能力发展。如今涂鸦发布AI生活助手“Hey Tuya”，它依托自研架构补齐Agent进入物理世界的关键能力，让涂鸦从幕后走向台前，有望构建家庭生活新基础。