「提示词攻击」共找到 672 篇相关文章
藏师傅教你用 Nano Banana 编辑图片做手办
前几天发 Nano Banana 测评后，很多人不知怎么用。刚好做手办图玩法火了，作者教大家在 LM Arena 用 Nano Banana 编辑图片、做手办图，还介绍把图片变视频及剪辑的方法。
突破视频时长限制！Manus上架视频生成功能，网友：比Sora更好
Manus上架视频生成功能，可通过连续拼接突破时长限制。它按“拍电影”方式，根据提示词生成片段再合成故事。网友评价是新创作方式，但效果有提升空间，部分人认为比Sora好。
33岁稚晖君，上市公司董事长！
11月25日，上纬新材公告选举彭志辉（稚晖君）为董事长。智元机器人于2025年7 - 11月完成对上纬新材收购，成本约21亿。上纬提示股价风险，业务仍在开发未量产盈利，主营未变。
小红书发布 SWE-Bench Mobile：当 AI Agent 面对亿级用户 App 代码库，最高通过率仅12%？
小红书联合多科研机构发布 SWE-Bench Mobile，它是首个还原‘端到端’开发流程的基准，以小红书 App 实际任务为核心。评测显示，AI Agent 在移动端开发能力上限低，架构设计比模型本身重要，简单提示策略效果更好。
Anthropic：我们如何构建多智能体研究系统
Anthropic分享构建多智能体研究系统的经验，该系统用多个Claude智能体探索复杂主题。介绍了多智能体系统优势、架构、提示工程、评估方法，也提及生产环境的挑战，此系统处理开放式研究任务价值大。
重写手机AI安全边界！首个MoAI攻防SoK，系统梳理三大安全支柱
墨尔本大学等联合发布论文指出，移动端AI硬件和模型发展使MoAI成重要范式，但带来安全风险。论文给出统一框架，拆解系统为四层，定义三大安全支柱，梳理攻击、防御图谱等，还提出开放问题与未来方向。
1.5B推理模型新SOTA，RL训练新解法打破「简单题过拟合、难题学不动」的魔咒
QuestA通过在训练中注入解题提示，实现两项成果：在1.5B模型上实现Pass@1的SOTA性能，还提升了Pass@k性能。它解决了RL训练中简单与困难任务的权衡问题，为开发强推理模型打开大门。
智能体的记忆管理机制及其潜在风险 | 直播预约
大语言模型（LLM）智能体兴起，记忆机制是核心。本次报告将探讨记忆管理对其性能的影响及潜在风险，展示缓解关键挑战的策略，介绍新攻击范式，揭示安全漏洞，强调需重新审视与建模。
Anthropic CEO：模型可在一亿上下文窗口中学习，且不改变权重，未来AI将每月10万美元
Anthropic CEO Dario Amodei预测几年内将出现月费10万美元、支持1亿词上下文窗口的AI模型。Google Research论文揭示LLM能在不改变权重下，通过「临时便签」机制学习，还介绍了其原理与实验验证。
Karpathy刚刚敲响警钟：大模型的“终极之战”打响！Agent大军即将全面接管研发
Andrej Karpathy发布新项目autoresearch，人改提示词，AI改训练代码。经约2天微调，找到约20个降低验证损失的修改，提升排行榜成绩。Agent还发现多项重要改进点，未来前沿LLM实验室或走此路。