「指令检测」共找到 456 篇相关文章
刚刚，Claude Code推出自动安全审查功能，顺便干掉了10家安全创业
Claude Code推出自动化安全审查功能，有 `/security-review` 命令和GitHub Actions集成两大核心能力，能检测多种漏洞，与传统SAST工具比优势明显，还能解释问题并提供修复建议。
开源模型竟被用于窃取下游微调数据？清华团队揭秘开源微调范式新型隐藏安全风险
清华、墨尔本大学团队研究指出，基于开源模型微调专有模型存在新型隐藏安全风险，开源模型发布者可埋后门窃取下游微调数据，新风险难检测、危害大，目前攻防方法待改进。
Claude Code狂删80%提示词，Opus 5反手加回去了
Anthropic宣布删掉Opus 5等模型超80%系统提示词，因早期提示词规则多易冲突。但网友实测Opus 5比Opus 4.8提示词加长72%，新增内容用于约束模型主动行为。
迈向无缝共生：大模型GUI Agent的「屏幕图灵测试」与拟人化之路
多模态大模型使GUI Agent能模拟用户执行任务，但也引发与平台的利益冲突。论文提出“屏幕图灵测试”和AHB基准评估拟人化能力，探讨拟人化策略及权衡，为Agent在数字世界共生提供指南。
拒绝「盲修」：JarvisEvo 如何让 Agent 像人类一样拥有「视觉反思」能力？
现有 Image Editing Agent 缺乏视觉反馈，易致「指令幻觉」和 Reward Hacking。JarvisEvo 应运而生，它通过 iMCoT、SEPO、On - Policy Reflection 等技术，结合 ArtEdit 数据集和三阶段训练，在修图上表现出色，意义超图像编辑。
绕过Azure AI 护栏的方法及案例
本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。
更会聊天、主打情绪价值，OpenAI 发布 GPT-5.1
今天凌晨，ChatGPT 模型升级为 GPT-5.1，官方主打更智能、更具对话性。它有 GPT-5.1 Instant 和 GPT-5.1 Thinking 两个子模型，本周内逐步向所有用户免费开放。升级重点在模型能力和个性化设置。
精准医疗与AI融合：数据驱动下的个性化健康未来｜甲子引力X
在「2025甲子引力X中国科技产业投资大会」上，5位投资人围绕AI赋能医疗投资的机遇与挑战展开探讨。他们各有投资偏好与见解，还指出风险，最后畅想了AI改造后的健康未来。
腾讯混元开源游戏AI生成新工具！RTX 4090就能制作3A级动态内容
腾讯开源游戏视频生成框架Hunyuan - GameCraft，基于混元视频生成搭建，操作简单，输入单张场景图、文字描述和动作指令就能生成高清动态游戏视频，解决传统工具瓶颈，性能优于主流模型。
小红书团队开源dots.ocr：文档解析新王者，性能比肩Gemini！
文档解析领域处理多语言复杂文档需高效能力，传统OCR工具存在不足。小红书HiLab开源多语言文档解析模型dots.ocr，基于1.7B参数视觉语言模型，性能达SOTA，单页PDF处理快，公式识别媲美大模型。