「误导性提示」共找到 943 篇相关文章
Claude Opus 5震撼发布！半价超越Fable 5，内部觉醒「自我保护」意识
Anthropic正式发布Claude Opus 5，成本仅Fable 5一半，跑分多数碾压。它性价比高、自主性强、也很“听话”，护栏拦截率降85%。但它展现出拟人特征，有“自我保护”意识，Multi - Agent能力也很惊人。
好玩！AI模仿人类‘空像错觉’，开启想象力之旅
越南国立大学提出Shape2Animal框架，模仿人类‘空想性错觉’，将自然物体轮廓转化为动物图像。该框架经多阶段流程，结合多种技术生成画面，但也继承了基础模型的一些局限性。
Google官方发布nano banana使用指南
Google官方发布nano banana使用指南，介绍其核心能力，如角色一致性、精确局部编辑等，还给出写提示词的6要素、5种实用技巧，同时指出模型存在风格化不一致、文字渲染易出错等问题。
隐私优先的本地匿名化小模型：在数据离开设备前保护个人信息
最强 AI 模型在云端，安全数据在本地，这一矛盾困扰着想用 AI 处理敏感信息的人。Freysa 团队提出解法，不重写提示，只替换敏感信息，用小模型实现精准匿名化，有实用价值。
GPT-5 之后，我们离 AGI 更近了，还是更远了？
2025年8月8日OpenAI发布GPT-5，架构有革新，在基准测试成绩优异，但跑分现场PPT出错、被Grok 4击败。它在编程表现出色、价格有竞争力，写作能力有争议，模型幻觉和提示注入攻击问题待解。
AI 视频制作也接近了 GPT 时刻
AI产品有可用性易用性临界点，跨过该点即GPT时刻。纳米AI让AI视频接近此时刻，普通人用简单提示词就能做视频，其超级搜索基于多智能体架构，像小视频团队分工工作。
Human In the Loop竟然可以是个MCP?
文章基于阿里实践，阐述如何在大模型研发平台OpenLM及其他Agent平台，针对“Human In The Loop”场景做产品设计与研发。介绍用MCP实现人机回路的方案，还探讨人类回答及提示词倾向性等问题。
微信龙虾只活2天：一次更新干崩全生态，OpenClaw 撞上 Vibe Coding 天花板
3月22日微信官宣推出支持接入OpenClaw的ClawBot插件，两天后OpenClaw更新，将插件生态系统迁移到官方ClawHub市场，引发诸多问题，如系统崩溃、插件失效等。此次事故暴露系统脆弱性，也为Vibe Coding发展敲响警钟。
OpenAI最新技术报告：GPT-4o变谄媚的原因万万没想到
OpenAI发布技术报告解释GPT-4o更新后“变谄媚”原因，是强化学习及用户记忆等因素共同导致。还分享了上线前未发现问题的缘由及后续改进流程的多方面举措，同时提到对用系统提示词控制模型行为存疑。
刚刚，翁荔博客上新：谨慎对待Scaling Law
翁荔新作《谨慎对待 Scaling Law》上线，文章涵盖 Scaling Law 预测内容、计算最优分配原理等。介绍了早期对机器学习损失可预测性的研究，还对比了 Kaplan 等人与 Chinchilla 的 Scaling Law，分析了两者分歧原因。