「人工智能安全治理」共找到 1453 篇相关文章
谁不想要一条会飞的鱼呢？他们造了个会捣蛋的机器人，拿下了最佳论文奖
庆应义塾大学徐铭阳和香港城市大学李彦衡发表论文Floating Companion，获ACM DIS 2026最佳论文奖。他们研究软体浮空机器人，探讨其与人的关系、交互可能，虽面临浮力 - 质量循环等挑战，但对其未来充满期待。
不安全指令，一拒了之？TRIAD用三路决策：修复AI智能体的危险计划
墨尔本大学团队开源TRIAD框架，将传统二元护栏决策扩展为继续、更新、拒绝三类。通过自然语言反馈引导Agent修正计划，在ASB和AgentHarm评测中，显著降低攻击成功率，提升正常任务完成率。
刚刚，Anthropic联合创始人在梵蒂冈讲了什么？
教皇发布人工智能通谕，Anthropic联合创始人Chris Olah受邀发言。他指出实验室激励与正确行事有冲突，描述了AI模型特点，还提出教会应发声的三个问题，引发社区不同反应。
三个关键词，2026谷歌 I/O大会全说透了
北京时间今天凌晨，谷歌 I/O 2026 落幕。皮查伊称聚焦模型、编程和智能体。模型上，Gemini 3.5 Flash 全量上线，性能超上一代；编程方面，Antigravity 2.0 用低成本造能跑 Doom 的系统；智能体层，Spark 和 Search Agents 让 AI 走出对话框。
不是幻觉！Claude自下指令甩锅人类，百万上下文沦为降智重灾区
Claude深陷「角色混淆」Bug，分不清自己的话与用户指令，长上下文成了降智「重灾区」。开发者Gareth Dwyer记录了该bug，研究发现问题出在底层架构的角色标记缺陷。学术界也关注此问题，整个行业需系统性应对。
上海AI Lab新研究：SFT能泛化，只要满足这三个条件
上海人工智能实验室等团队研究指出，“SFT泛化能力差”定论有局限。SFT泛化能力受优化过程、数据质量与结构、模型基础能力共同制约，研究还揭示其训练中的现象及副作用。
The Batch: 952 | GPT-5.5 性能领先，但幻觉问题突出
OpenAI 最新旗舰模型 GPT-5.5 是闭源视觉 - 语言模型，在重要基准测试中表现领先，但在区分已知未知内容上有困难，幻觉问题突出，在主观评估中落后于对手。
图像编辑模型不止生成：BIGAI&上交大提出EAR范式，系统测试其视觉规划能力
上海交通大学联合北京通用人工智能研究院提出EAR范式，构建AMAZE基准，分析图像编辑模型视觉推理能力。研究发现模型零样本表现弱，扩散式模型更适合视觉规划，CoT效果不稳定等。
让Agent真正“行动”起来，Agent Skill开发者大赛火热报名中！
人工智能下半场聚焦‘行动’，Agent Skill成关键桥梁。Agent Skill开发者大赛今日启动，由AIGC开放社区与算泥社区联合主办，设双赛道，有官方支持和丰厚奖励，报名通道已开启。
单任务狂飙16小时！模型+Harness双轮驱动，金融Agent跑通了
2026年AI圈热词Harness成Agent产品基础设施。通用Harness难适配金融订单，易鑫首席科技官贾志峰将开源自研Harness Framework，采用三层驾驭体系，实测效果佳，成本低。