「表面安全对齐」共找到 1090 篇相关文章
ACL2025 | 代码助手火了，但安全吗？所有模型评估结果都很扎心
近期，GitHub Copilot、ChatGPT等AI代码生成工具爆火，效率显著提升，但代码安全性存疑。北大团队用CoV-Eval评测20款主流大模型，结果不佳，论文还给出优化方向，呼吁代码上线前严格测试。
这一次，真不是狼来了，旧时代一夜终结「GPT-6 Astra与特斯拉Cybercab同日上线」
OpenAI总裁称迎来AGI时代。GPT - 6 Astra实现前所未有的对齐，理解意图大幅提升，能快速完成电脑上的事。投资人实验中，它用一句话构建微型文明。同日特斯拉Cybercab提供出行服务，旧时代或终结。
GPT-6 Astra：欢迎来到 AGI 时代。
OpenAI 发布 GPT - 6 Astra，总裁称开启 AGI 时代。演示视频展示其强大并行处理能力，跑分有争议，成绩不一。它有诸多成果和安全表现，也有可监控性降低问题，发布过程却状况百出。
奥特曼最新深度访谈：AI至今没有iPhone时刻！
OpenAI首席执行官山姆·奥特曼在深度对谈中复盘大模型发展，谈及砍掉Sora和自研浏览器聚焦平台，认为AI缺iPhone时刻，还分享ChatGPT决策过程、创业经历，提出从成功学经验等观点，反驳末日论。
从亚百毫秒级启动到生产级部署，腾讯云为何重构 Agent 沙箱？
2026 年初，OpenClaw 掀起本地终端 Agent 热潮，但也带来安全风险，让 Agent 沙箱受关注。腾讯云 4 月开源 Cube Sandbox，InfoQ 采访金峰，了解其从 Serverless 到 Agent 沙箱过程及团队对下一代 Agent Infra 的判断。
大厂的AI不限量补贴终会结束！Hermes Agent作者：开源框架真正的狠招是把Claude对Anthropic的忠诚抢过来
科技创作者 Peter Yang 对话 Hermes Agent 作者之一 Karan Malhotra，探讨 Hermes Agent 与其他产品的差异、模型谄媚问题、开源意义等。Karan 指出其独特自我改进系统与专注用户需求特点，还提及让模型更贴合用户的方法。
Claude杀入全美教室：一周干49小时的老师，终于等来免费AI助教
7月14日，Anthropic推出Claude for Teachers，向全美K - 12教师免费开放高级能力与教学技能库，接入50州课标。它能完成备课对齐、差异化分层、数据分析等工作，不碰学生端，定位是帮老师减负。
翁荔最新博客：我们可能高估了模型，却严重低估了那层“脚手架”
前OpenAI安全研究副总裁翁荔在新博客聚焦AI领域Harness Engineering。她认为Harness是决定模型在现实任务中走多稳、多远的‘脚手架’，并梳理其演进路线，也指出研究面临评估、安全等瓶颈。
ICML 2026前瞻：投稿翻倍背后，机器学习正在换挡
第43届国际机器学习大会（ICML 2026）7月6 - 11日将在韩国首尔举行，主题为‘Machine Learning for the Real World’。今年投稿量翻倍，接收率26.6%，还做了两项制度调整。论文反映出LLM推理、AI安全、模型压缩等趋势，中国研究者表现亮眼。
去了一趟中国AI实验室，Linux基金会CTO感叹：西方那两套偏见全破产了
Linux 基金会全球 AI 技术官 Matt White 访华后称，西方对中国 AI 的偏见破产。中国实验室文化黏性强、人才回流，工具反向输出美国。他指出西方出口管制未卡死中国，还让其成自研芯片‘卷王’，开源模型也更受青睐。