「对齐风险」共找到 732 篇相关文章
InfoQ 2026 年趋势报告：AI 重写工程师角色，但一切仍然关乎人
InfoQ 2026 年趋势报告探讨了 AI 对软件开发的影响，包括重写工程师角色、团队演变等。嘉宾指出 AI 采用应结合风险和业务场景，巩固基础，重新设计审查流程，关注质量和人的因素。
具身智能威胁分析的分层方法和全景图
文章指出具身人工智能应用广泛，安全需求迫切，但现有研究鲜少涉及具身化场景。复旦大学等组织分析400多篇论文，提出具身智能威胁分析全景，介绍各层攻击方法、危害及防护措施。
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
马斯克祭出「霸王条款」！Cursor焊死SpaceX战车，600亿砸穿OpenAI
SpaceX筹备1.75万亿美元IPO之际，马斯克抛出600亿美元收购Cursor的期权，不买就付100亿美元。此前xAI已为Cursor提供算力，还挖走其骨干。二者各有短板，交易引发质疑，但反映编程是通往AGI重要阵地。
Nature子刊封面：牛津提出首个百万级多模态心脏基础模型CSFM
牛津大学团队推出全球首个心脏传感基础模型CSFM，能统一分析多源数据，精准诊断房颤、预测死亡风险等。它打破设备壁垒，让偏远地区也能享用顶级心脏监护，推动全球医疗平权。
谨慎用OpenClaw：上海科技大学发布其全面安全体检报告
上海科技大学联合上海人工智能实验室对爆火的智能体OpenClaw做安全审计，在34个测试场景中，整体安全通过率58.9%，暴露出多方面问题，研究据此给出纵深防御策略。
AI海啸将至，全人类还没准备好！Anthropic CEO警告
Anthropic CEO Dario Amodei从百度时就隐约发现Scaling Law，推动OpenAI接受。他不满OpenAI发展方向，离开创立Anthropic。他认为智能爆炸后影响巨大，要做对AI，还警告人类要重视AI风险。
Seedance 2.0，凭什么刷屏？
2026年2月7日，字节跳动旗下AI视频生成大模型Seedance 2.0开启内测后刷屏。它解决AI视频可用率低、成本高的痛点，引发资本市场关注，虽面临挑战，但也让AI视频成可用生产力工具。
3万员工+亲儿子全卖！甲骨文血色梭哈，全押OpenAI
为给OpenAI凑3000亿美金算力投名状，甲骨文裁员3万、卖医疗巨头Cerner抵债。其陷入信用危机，还改结算规则转嫁风险，订单交付迟，OpenAI或转单。甲骨文这场豪赌输赢未知。
字节跳动李航博士新作：AI智能体的通用框架
字节跳动李航博士在JCST发表观点论文，提出涵盖软件和硬件智能体的通用框架。该框架以完成任务为目标，依赖LLM，用强化学习构建。文章还探讨了与大脑机制关联、未来研究方向等。