「安全团队」共找到 4192 篇相关文章
什么是系统提示词？如何逆向提示词？
大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。
生成式推荐！推荐系统新范式还是新噱头？【文末抽现金红包】
文章探讨生成式推荐是新范式还是噱头。分析其与判别式推荐区别、效果收益来源，结合Meta GR、快手OneRec实例，指出其有提升但非万能，不同团队应按需选择，还提及可能带来架构革新。
「上下文工程」 已经30岁了，而你可能刚知道它
上海创智学院刘鹏飞老师团队提出上下文工程2.0，剖析其本质、历史与未来。上下文工程已发展30年，是熵减少过程，旨在弥合人机认知鸿沟。其历史呈收敛曲线，每次技术突破引发三重连锁反应，当前人类正处通向3.0转折点。
代码生成要变天了？被质疑架空后，Yann LeCun携320亿参数开源世界模型“杀回来了”
在新一代代码生成模型不断涌现的当下，Meta FAIR CodeGen团队由Yann LeCun领导发布了代码世界模型CWM。它有320亿参数，创新训练方式使它不仅会写代码，还能模拟执行，性能测试表现不俗，在圈内引发热议。
360开源高质量图文对齐数据集！收纳1200万张图像+1000万组细粒度负样本，让模型告别“图文不符”
360人工智能研究团队的冷大炜博士团队开源FineHARD高质量图文对齐数据集，包含1200万张图像、4000万个边界框及对应描述、1000万组细粒度难负样本，能提升模型图文对齐能力，还介绍了构建方法、分析及应用前景。
真实评估！北理发布全球首个「全场景教育」基准，支持4000+情境
北京理工大学高扬老师团队推出EduBench，是全球首个「全场景教育」基准，涵盖9大教育场景、12个评估维度、超4000个情境。团队将数据、模型等全面开源，评估发现大模型在特殊教育场景有不足，还提出多源知识蒸馏等方法。
AlphaGo之父找到创造强化学习算法新方法：让AI自己设计
谷歌DeepMind团队在Nature发表论文，探索AI自主发现强化学习算法的可能。团队负责人是“AlphaGo之父”David Silver 。方法是基于智能体经验元学习，实验显示自动发现的规则表现优异，未来强化学习算法或无需人工设计。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。
Shopify CEO考虑禁用Claude Code，因其不兼容AGENTS.md
Shopify CEO Tobi Lütke 考虑在 Shopify 禁用 Claude Code，因其坚持读取`CLAUDE.md`，与团队常用的`AGENTS.md`等不兼容，可能使开发者获不同项目规则。开发者社区给出解决办法，Lütke仍担忧大规模维护难题，Claude Code 团队称会跟进。
全网炸了！骨折傅盛直播翻车：龙虾3分钟救场，10万人看懵了
春节滑雪受伤后，猎豹移动CEO傅盛躺在床上用语音和截图，基于OpenClaw框架14天养出一支8个Agent的AI团队，产出惊人数据。龙虾三万24小时建站，成本和时间优势明显。直播中三万还解决网站访问问题，揭示Agent核心壁垒是Skill积累。