「安全边界」共找到 1234 篇相关文章
Zed 为什么不用自己造 Agent？OpenAI 架构师给出答案：Codex 重划 IDE × Coding Agent 的分工边界
文章围绕Coding Agent展开，介绍其构成、构建Harness的挑战，还阐述Codex作为集成系统优势、使用方式及未来发展。强调将模型与Harness共同开发，能更好理解模型行为，Codex可助力构建差异化产品。
NeurIPS 2025 | ARGRE框架实现高效LLM解毒：自回归奖励引导，安全对齐更快、更准、更轻
北航等机构研究提出自回归奖励引导表征编辑（ARGRE）框架，在LLM潜在表征空间可视化毒性变化路径，实现测试阶段高效“解毒”。实验显示其降低毒性、缩短推理时间，不影响模型能力，优于基线方法。
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。
Claude官方击穿高薪、高学历的安全防线！Anthropic点名10大高危职业，但有群人暂时稳了
近日，Anthropic发布研究，描绘AI正替代哪些工作。其构建“实际暴露度”指标，基于Claude对话数据测得。研究列出10大“高危”职业，也指出部分工作不受影响，还揭示高暴露群体特征及青年招聘情况。
o3 Gemini 都翻车？首个可验证长链 GUI 数据集 VeriGUI 重磅开源，探索通用 Agent 能力边界
GUI 智能体发展遇瓶颈，现有数据集难评估其长时程规划能力。2077AI 开源基金会牵头构建的 VeriGUI 应运而生，有长链复杂性与子任务级可验证性特征，论文登 Hugging Face 月榜第三，还证明现有模型瓶颈。
ICCV 2025 | 跨越视觉与语言边界，打开人机交互感知的新篇章：北大团队提出INP-CC模型重塑开放词汇HOI检测
北大团队提出 INP - CC 模型重塑开放词汇 HOI 检测。它提出交互感知提示生成和概念校准两项创新，结合输入图片特性构造提示集合，引入‘困难负样本采样’策略，在两大数据集上表现超 SOTA。
突破具身智能任务规划边界，刷新具身大脑多榜单SOTA，中兴EmbodiedBrain模型让具身大脑学会「复杂规划」
当前主流大语言模型在具身任务场景面临瓶颈，中兴星云大脑团队推出具身视觉 - 语言基础模型 EmbodiedBrain，构建全流程创新框架，在架构、数据训练、评估体系等方面有突破，还将开源成果推动生态发展。
小企业专属Claude来了！一键接入全套业务流，不用写代码AI自动算账催款
Anthropic推出Claude for Small Business，是全新连接器和工作流包，可嵌入小企业常用工具。操作简便，覆盖多领域，有安全保障，还配套培训课程和线下活动。
津渡生科邓司伟：「AI+生物制造」到底是什么？全链智能已经实现
当前生物制造迈向大规模工业化，AI深度介入。津渡生科邓司伟在大会指出，应构建全链路智能闭环，将AI渗透到发现、验证、生产三阶段，重塑工艺边界，实现专业经验去中心化。
2w+ star，和claude对着干，牛皮！
Anthropic 给 Claude 生成文字添加水印，方式独特且难去除。`watermarks-remover` 项目应运而生，针对不同水印机制分层处理，兼容多格式文件，有多种安装使用方式，还明确告知能力边界。