「AI安全研究」共找到 10992 篇相关文章
什么都不做就能得分？智能体基准测试出现大问题
随着AI智能体走向实际应用，其基准测试变得至关重要。但现有基准测试问题多，如WebArena判错答案、τ - bench给无操作智能体高正确率。文章提出有效性判据和ABC清单，还揭示主流基准测试诸多问题。
改写纳米光学底层逻辑！MIT学者搭建通用可重构光子平台
MIT助理教授唐皓凝构建可相对运动的双层纳米光子系统，将机械运动变为可定量科学变量。2024年，她和合作者集成光谱仪和偏振仪功能。她想发展可编程光子架构，还把AI作工具。
比思维链准43%！逻辑脑+大模型直觉，推理可靠性大幅提升
中德研究团队发布成果，给大模型外挂「逻辑脑」，结合答案集编程与LLM，构建神经 - 符号框架，提升空间推理准确率，让AI能说清逻辑、跨任务迁移，迈向更可靠的通用推理。
xAI元老离职干风投，传奇人物Babuschkin长文追忆与马斯克创业战友情
xAI联合创始人Igor Babuschkin离职，计划创办Babuschkin Ventures。他回顾与马斯克创业经历，分享从其身上学到的经验。此前他在DeepMind、OpenAI任职，在xAI构建基础工具，领导建成超级计算集群。
安卓党狂喜！Open-AutoGLM让手机自己订外卖、抢票、刷小红书
Open - AutoGLM是能让手机自己干活的黑科技，给手机装了「AI打工人」。它整合视觉语言模型与ADB远程操控技术，适配50 + 款主流应用，自带安全边界，普通人易安装，开发者可自定义流程。
看屏幕、用键鼠，我的 OpenClaw「睁眼」了
2026年5月11日，OpenClaw上线macOS桌面操控工具Peekaboo，提供像素级截图、UI元素识别和GUI自动化能力。它打破Agent局限，可接管桌面操作，部署简单，普通人也能用，还有安全保障，但也存在坐标偏移等问题。
改变强化学习范式，Meta新作呼应Sutton「经验时代」预言
图灵奖得主等提出AI智能体将迎「经验时代」，但训练面临挑战。Meta研究用「早期经验」范式解决问题，包含隐式世界建模和自我反思，提升了智能体任务成功率和泛化能力。
不是幻觉！Claude自下指令甩锅人类，百万上下文沦为降智重灾区
Claude深陷「角色混淆」Bug，分不清自己的话与用户指令，长上下文成了降智「重灾区」。开发者Gareth Dwyer记录了该bug，研究发现问题出在底层架构的角色标记缺陷。学术界也关注此问题，整个行业需系统性应对。
Anthropic 最新播客：如何打造下一代 Claude
Anthropic的Alex Albert上播客揭秘Claude产研流程，涵盖模型规划、用Claude处理反馈、记忆“做梦”机制、性格训练等，还谈及AI对PM工作方式的重塑，以及单向门决策框架等内容。
数据邪修大法好：仅用文本数据就能预训练多模态大模型
多模态大模型研发中，行业认为无图文对就无多模态能力。但ReVision研究表明，预训练阶段昂贵配对关系非必需，利用非配对数据统计信息修正文本表征，能实现跨模态互换，降低成本。