算法论文8
团队提出规范对齐，助力大模型安全实用
深度学习自然语言处理
AI 摘要
上海交大等团队提出规范对齐概念，要求大模型兼顾安全与行为规范。构建SpecBench评测，发现多数模型有差距，GPT - 5领先。Align3等测试时深思方法能提升规范遵循度，项目已开源。
阅读原文 · 深度学习自然语言处理
规范对齐：回答前的深思，让安全与行为边界更清晰
OpenAI等厂商将规范融入大模型。上海交大等团队提出规范对齐概念，构建评测基准SpecBench，揭示主流模型不足。探索测试时深思方法，如Align3，能提升模型规范遵循度，项目已开源。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯8
发布9天，Jev估值破百亿美元
本文报道AI初创公司TypeSafe AI发布的模型Jev上线仅9天，就传出投资者给出超百亿美元估值，剖析资本追捧低价薄利模式的原因，同时梳理业内对其护城河的质疑，探讨大模型赛道资本动向。
DeepTech深科技
新闻资讯8
机器人的GPT时刻就是GPT本身？
本文围绕GPT-6 Astra发布后的行业测试展开，讨论通用大模型能否成为机器人的通用大脑，分析了通用大模型参与机器人控制的原理与优势，点明当前能力边界，提出了分工协作的落地方案。
DeepTech深科技
新闻资讯8
谷歌AI踩油门：Gemini冲刺TPU上天
本文报道谷歌近期AI业务最新动态，涵盖Gemini 4大模型研发进展、TPU上太空测试计划，以及工程师因AI发展太快辞职事件，展现谷歌AI全面加速的现状。
量子位
新闻资讯8
AI时代，计算机科学界死了吗？
本文整理了德克萨斯大学奥斯汀分校AI博士生曹晋的公开发帖，围绕大模型冲击下AI学术界灌水严重、研究范式过时的观点展开，探讨AI研究者与博士生的未来出路，引发业内广泛讨论。
机器之心