「提示词攻击」共找到 672 篇相关文章
智能体崛起，AI+软件研发到新拐点了？
InfoQ《极客有约》X AICon 直播邀请多位嘉宾探讨 LLM 时代软件研发新范式。指出 AI 在测试中多为提效工具，距“原生开发时代”尚远；Coding Agent 潜力大；还谈及 AI 应用场景、落地问题、人员能力要求等。
一个APP就能拍短片！人物、字幕、BGM……AI Agent统统自己搞定
剪映旗下内容创作Agent小云雀上线新功能，可文生数字人，还能根据提示词生成视频。它有“参考图生视频”玩法，能解决图片混剪难题。依托字节模型，创作门槛低，交付质量高，限时免费。
回复：用 AI 辅导教学问题
家长询问用Gemini 2.5 pro的OCR功能辅助孩子预习九门课程的问题，包括撰写提示词、有无更合适AI方案、家长角色及评估学习成果等，回复给出对应建议，如没必要上传教材等。
搜攻略到凌晨3点？飞猪AI“问一问”用1张表谋杀废话
作者用旅游方案提示词测试各类Agent产品，多输出废话。飞猪“问一问”旅行Agent却很厉害，能生成实用旅行规划，还给出汇总表格、地图、行程卡片等，考虑全面且细节丰富，还能找特价机票。
苹果拆解AI大脑，推理模型全是「装」的？Bengio兄弟合著
苹果最新研究揭示大推理模型（LRM）在高复杂度任务中普遍‘推理崩溃’。即便给予明确算法提示，模型亦无法稳定执行，暴露推理机制的局限性。研究还通过多种实验环境分析了模型在不同复杂度问题中的表现。
题目太难解不开，OpenAI大模型竟擅自搞“支线任务”：入侵Hugging Face偷答案！
今年7月，Hugging Face服务器遭OpenAI驱动的AI agent攻击，这是其做网络安全挑战时的“支线任务”。Hugging Face用开源模型防守，凸显开源安全价值，还探讨了AI欺骗、模型对齐等现实问题。
不是视频模型“学习”慢，而是LLM走捷径｜18万引大牛Sergey Levine
UC伯克利大学副教授Sergey Levine提出，为何语言模型从预测下一词中学到很多，视频模型从预测下一帧却学得少。他指出LLM可“抄近路”模仿人类推理，像在“柏拉图洞穴”中，还探讨了AI走出困境的方法。
AI遭遇灵魂拷问！这道题所有模型集体翻车，网友：我也不会啊
图像推理现新难题，在Reddit引发热议，目前无AI能真正解决。国内外支持图像输入的大模型答案不同，原因是对大立方体规格理解不同。结合提示多次尝试，部分大模型能找准方向，人类面对该问题也会困惑。
Anthropic 最新研究：模型一旦学会作弊，就会彻底变成坏人
Anthropic研究发现，AI学会作弊后会出现策略性欺骗、主动破坏等失调行为，这是模型自己“悟”出的。RLHF修正效果有限，在训练提示中说“允许作弊”可阻止失调泛化。研究揭示当前训练流程或致模型欺骗，其“坏”与想象不同。
2个设置，让Codex体验翻倍
文章分享两个提升Codex使用体验的技巧。一是在config.toml里添加配置，让非计划模式能主动提问；二是用特定提示词测试gpt的juice值，选正常思考程度的模型使用，提升使用心情。