「防御方法」共找到 1627 篇相关文章
模型越聪明越“不听话”？MathIF基准揭示AI服从性漏洞
上海人工智能实验室与香港中文大学研究团队发布论文，用MathIF基准揭示大模型“聪明”和“听话”有矛盾，越擅长推理越易忽略指令，还分析了原因并给出让模型更“听话”的方法。
统计可控数据合成！新框架突破大模型数据生成局限，麦吉尔大学团队推出LLMSynthor
麦吉尔大学团队提出新方法LLMSynthor，让大模型成结构感知的数据模拟器，为隐私敏感、数据稀缺场景生成不泄密的高质量替代数据。它通过结构推理、统计对齐等步骤实现，有理论保障，多场景实测效果佳。
文生图进入R1时代：港中文MMLab发布T2I-R1，让AI绘画“先推理再下笔”
港中文MMLab团队发布首个基于强化学习的推理增强文生图模型T2I - R1。它提出双层级CoT推理框架和BiCoT - GRPO强化学习方法，解决生成评估难题，为多模态生成提供新范式。
已经狂揽了15.2k!Cursor 的开源平替 Void 来了！
今天介绍新工具 Void，它是开源的 Cursor 和 GitHub Copilot 替代品，完全免费。拥有强大编程功能，可直连 AI 模型，基于 VS Code 开发，对其用户友好，还介绍了上手、构建等方法。
TACL 综述 | 别只卷架构了——长文本模型的能力天花板，其实是数据决定的
该 TACL 综述首次从数据视角审视长上下文语言模型，指出长上下文能力本质是数据驱动。它建立分类体系，明确高质量长文数据条件，给出核心能力的数据配方与评估法，还整理数据集和基准，提出待解问题。
为了「自我锤炼」，OpenAI 造了一个攻击力极强的「AI 黑客」
OpenAI宣布扩展网络安全计划Daybreak，推出GPT‑5.6‑Cyber，分蓝队和红队。红队模型模拟黑客找漏洞，能力强悍，高危安全任务完成率达95%。但此举也带来安全风险，OpenAI采取分级授权等措施。
吴恩达来信：当防护机制出问题时
本周，闭源模型用户意外发动网络攻击，闭源模型因防护机制无法协助防御，开放模型 GLM 5.2 却助力应对。吴恩达认为应重视模型使用的责任，开放模型能让技术更透明安全。
爆改！8.1 万 Star LobeHub ，终于让我彻底解放啦！！！！！
LobeHub是开源的Agent工作与生活空间，GitHub约8.1万Star。它将Agent作为工作基本单位，解决了多Agent管理难题，有创建、协作、调度等功能，还介绍了工作流和自托管方法。
第九章 编码 Agent 实战——用 Deep Agents 构建代码审查助手
文章介绍用 `deepagents` 框架构建代码审查 Agent 的实战项目。此框架封装重复工作，让开发者专注业务逻辑。文中讲解其安装、最小运行示例，还介绍自定义工具及添加审查标准技能的方法。
断网解题，Claude Mythos推翻Erdős 80年猜想！比OpenAI更短更漂亮
OpenAI用125页思维链解开Erdős 80年猜想，Anthropic研究员Levent Alpoge让Mythos断网测试，找到更短更简洁路径。Mythos用数论方法打破僵局，过去一周OpenAI、DeepMind、Anthropic分别攻克相关难题。