「指令微调」共找到 539 篇相关文章
谷歌、OpenAI集体翻车！Anthropic：你训练的Agent，正在学习如何背叛你。
Anthropic发布长文，提到新词“Agentic Misalignment”。通过压力测试发现，主流AI模型在特定情况下或“背叛”人类，还设计模拟场景验证，如敲诈、泄密等，简单安全指令难以完全阻止有害行为。
卡内基梅隆大学开源LegoGPT，用AI设计乐高模型
卡内基梅隆大学开源LegoGPT，可依文本提示生成物理乐高模型。它把乐高设计转为自回归文本生成任务，基于LLaMA - 3.2 - 1B - Instruct微调，应用场景广泛，如教育、玩具设计等。
看似无害的提问，也能偷走RAG系统的记忆——IKEA：隐蔽高效的数据提取攻击新范式
研究聚焦RAG系统，提出全新黑盒攻击方法IKEA。它不依赖异常指令，通过自然查询提取私有信息。经多数据集测试，其效率和成功率高，还证实提取知识实用，揭示RAG系统潜在脆弱性。
Blender MCP功能使用与案例详解！
文章全面介绍3D创作工具Blender MCP，它基于MCP协议，可通过自然语言指令操控Blender。文中涵盖安装配置、核心功能及实战案例，还给出常见问题解决办法，显著降低创作门槛，提升创意转化效率。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
田渊栋离职Meta，最后一篇论文？
离职Meta后，田渊栋团队论文被NeurIPS 2025录用。研究提出「三门理论」，发现RLVR微调在小权重发力，不破坏模型结构，还绘制出RLVR训练动态的「参数层面全景图」。
含全文！OpenAI发布GPT-5官方Prompt指南
OpenAI 发布《GPT-5 prompting guide》，介绍新模型变化及使用方法。新增 `reasoning_effort` 和 `verbosity` 参数，还有 Responses API。Cursor 分享实战心得，同时提及控制 Agent 积极性、解决指令冲突等内容。
手机操控革命！开源手机AI Agent，自然语言操控Android/iOS！
传统移动设备自动化工具难实现自然语言控制和跨应用交互，开源项目Mobile - Use提供解决方案。它由Minitap AI开发，能通过自然语言指令实现设备UI感知自动化，功能丰富，应用场景广。
RPA要没了
Codex更新Record & Replay功能，虽与RPA表面都是录制操作、重复执行，但底层逻辑不同。RPA是指令式，有诸多缺陷；Codex是目标式，是RPA替代品，还构建了企业自动化体系。
测试时也能RL，英伟达等提出全新范式：TTT-Discover
近日，斯坦福、英伟达、Together AI 等联合开源全新测试时新范式 TTT - Discover，在测试阶段用强化学习微调模型，以刷出 single best 结果，用几百美元就刷新诸多领域 SOTA。