「语言模型安全」共找到 8380 篇相关文章
加一个字母就可以绕过AI围栏，新的漏洞：TokenBreak
提示词注入攻击威胁大模型及应用，当前主要防护方法是用BERT模型检测。HiddenLayer团队发现TokenBreak漏洞，通过加字母绕过检测。研究表明BPE和WordPiece分词策略易受攻击，Unigram不易，建议优先选Unigram类模型。
LLM「拒绝回答」难题有救了！最新研究让AI学会人情世故 | COLM'25
最新研究发现模型规模和通用语言能力与处理敏感内容判断能力无直接关联，开源模型表现不错。通过提出的训练方法，在非推理和推理型模型上缓解过度拒绝问题，提升AI实用性和可靠性。
波士顿动力Atlas人形机器人再现逆天进化：通用AI机器人真的要来了
波士顿动力为Atlas人形机器人训练全新大型行为模型LBMs，它是语言指令驱动的策略模型，能完成复杂操作任务。构建模型有四步骤，实践遵循三大原则，还展示了其多方面操作能力与特点。
你的AI“体检”了吗？开源AI红队测试平台，一键自查三大风险
AI圈一边是顶尖模型发布，一边是大模型被“越狱”输出有害内容。腾讯朱雀实验室开源A.I.G平台，能模拟真实攻击对AI产品全方位风险扫描，有大模型体检、基础设施漏洞扫描、MCP Server风险检测三大核心能力。
Learn to Reason _ The way of Baichuan-M1-ClinicReasoning
前百川智能研究小组负责人阎栋分享大语言模型临床推理。回顾推理技术发展，以Deepseek为例；介绍百川在医疗推理实践，模型达三甲主治水平；还谈及大模型训练困境及与人类智能差异。
编程智能体的核心组件【译】（重发，补图）
文章围绕编程智能体展开，先厘清大语言模型、推理模型与智能体关系，指出智能体是含‘模型 + 工具 + 记忆 + 环境反馈’的循环系统，后介绍编程智能体六大核心组件，还对比了与 OpenClaw 的区别。
The Batch: 864 | GLM-4.5：一款开放的智能体竞争者
大型语言模型推动智能体能力交互竞赛正酣，中国 Z.ai 推出 GLM - 4.5 系列开源权重模型，在推理、编程等基准测试中表现出色，还介绍了其工作原理、研究和测试结果等。
AI圈水太深：OpenAI保密、Meta作弊！国产MoE却异军突起
文章梳理大语言模型发展，从传统稠密架构到稀疏MoE架构，参数从百亿到万亿。介绍OpenAI、Meta等厂商模型，如GPT系列、Llama系列，还提及Mixtral、DeepSeek V3等。指出Meta作弊丑闻，国产MoE模型异军突起。
挑战Claude4的8B Agent！NUS提出AgenTracer：面向多智能体系统的失败归因
随着大语言模型发展，多智能体系统潜力大但有系统脆弱性问题。NUS研究者在论文中提出AgenTracer框架，构建标注管线，设计AgenTracer - 8B模型，在失败归因任务上超大型闭源模型，还能助力系统自我提升。
谷歌神秘模型Kingfall泄漏！
近日，谷歌AI模型Kingfall在AI Studio平台短暂开放后意外曝光。它具备多模态处理能力，上下文窗口6.5万个token，有两种模式。生成SVG矢量图能力超Claude 4，身份猜测不断。