「大模型安全」共找到 9746 篇相关文章
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
触觉具身来了个梦之队：天使轮近亿
5月27日，上海新智具身智能科技有限公司宣布完成近亿元天使轮融资。该公司源自复旦大学，核心团队实力强。它聚焦触觉具身智能，构建技术闭环，在数据采集、模型训练等方面有进展，已在工厂落地POC验证订单。
OpenAI总裁透露GPT-5改了推理范式，AGI实现要靠现实反馈
OpenAI总裁Greg Brockman在访谈中透露AGI之路，包括技术上转向强化学习推理范式，资源上持续投入计算资源，落地时封装成Agent。还提到GPT - 5改变推理范式，强调计算对AGI的重要性及模型落地等内容。
高效Agents的尽头是，Harness
文章指出玩Agent久了会出现问题，很多人简单将其视为“模型+工具”组合远远不够。以OpenDev为例，介绍了Harness架构，包括核心理念、扩展ReAct循环、上下文工程等，还提及安全架构、多模型路由等内容。
当 Agent 尝试接管浏览器，连“我是人类”都证明不了？上海交大开源发布交互评测基准 HLL
随着多模态大模型发展，Web Agent 面临验证码挑战。上海交通大学等团队发布 HLL 评测基准，解耦真实度为三维度，对 8 款前沿模型测试，揭示 Agent 在多步交互微操上的短板。
Pulsar特性在AI场景中的使用
随着AI发展，架构从单体到分布式演进，消息中间件成关键。Pulsar以存算分离等特性价值凸显，在多模态训练、模型训练、智能体等AI场景有独特优势，如处理超大消息、实现断点续训等。
GPT-5.6现身后，下一个Claude Sonnet 4.8又曝光了！
GPT-5.5发布不久，开发者在Codex内部日志发现GPT-5.6，几乎同时，Anthropic的Claude Code源码泄露，炸出Sonnet 4.8、Jupiter等型号。两家公司下一代模型几乎同时曝光，模型迭代节奏在加速。
挑战 Claude Code，9.5 万星！又一款开源 AI 编程神器火了
开源AI编程工具OpenCode亮相，具备原生终端界面、多会话支持，兼容75种以上模型，提供桌面版和IDE插件。它允许沿用付费订阅，内置免费模型，与多种LSP服务器整合，适配多种编辑器，采用‘隐私优先’架构设计。
从“被 AI 取代”到“用 AI 重构组织”，奇点智能产品大会聚焦产品、组织与商业重塑这些真问题
7月17 - 18日，CSDN与奇点智能研究院联合举办「2026奇点智能产品大会」，围绕十二大专题展开。主会场跳出模型竞赛，多位行业大咖将分享见解、深度讨论，还准备了AI产品落地资料包。
初稿出炉：首部AI数据标注合规标准，欢迎参与起草与研讨
数据标注影响大模型性能，国家正推进数据标注产业发展，但行业合规问题突出。智合标准中心启动《面向人工智能的数据标注合规指南》团体标准研制，初稿已出，邀多方参与起草，标准将助AI企业解决合规难题。