「攻击面」共找到 581 篇相关文章
什么是系统提示词？如何逆向提示词？
大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。
刚刚，DeepMind通用科学智能体AlphaEvolve突破数学极限，陶哲轩合作参与
DeepMind发布革命性进化编码智能体AlphaEvolve，由LLMs驱动，可演化代码库、发现和优化算法。它结合LLM创造力与自动化评估，减少幻觉，在多领域应用前景大，还与陶哲轩合作探索数学应用。
10岁寒武纪，迎来好日子
常年亏损的寒武纪在2024年四季度和2025年一季度连续单季盈利，2025年一季度营收同比大增4230.22%。其云端产品线贡献大，受益于英伟达芯片出口受限。不过，它在生态和战略上与英伟达有差距，还面临诸多竞争。
视频世界模型困在像素网格里：腾讯开源SCoPE，用射线空间重写位置关系
香港大学、香港科大与腾讯ARC Lab联合提出SCoPE，让视频模型处理位置关系的基底从张量网格转向射线空间。它将相机射线坐标注入Video DiT，新增参数不到原模型0.1%，多方面表现获改善。
Nanbeige4.2-3B：探索通用Agent小模型
在模型越做越大的当下，推理成本成了影响Agent大规模使用的关键因素。南北阁实验室推出Nanbeige4.2 - 3B，在架构、数据构造和训练pipeline层面做了系统工作，评测表现良好，还探索本地个人助手等应用。
一名员工用个 AI 工具，直接把 Vercel “送”进黑客手里！AI 还在替你决定技术栈，vibe 产品危？
当地时间4月19日，云开发平台Vercel确认内部系统遭未授权访问，黑客出售窃取的数据。攻击源于员工使用的AI平台Context.ai安全事件。此外AI编程助手正重塑技术生态入口，影响工具选择。
两小时激辩：黄仁勋为什么不怕 TPU、不怕华为、不怕出口管制？
黄仁勋接受长达两小时专访，谈及Nvidia使命、经营哲学等多方面。他认为能源政策制约未来，CUDA优势在于生态等，还谈了对TPU、出口管制等看法，不过其观点存在矛盾待检验。
科学家证实磁场真的能改变基因表达，但它的要求非常严苛
韩国东国大学 Jongpil Kim 团队研究证实磁场能改变基因表达，该团队绕开 ferritin 路线，通过全基因组筛选找到关键基因 Cyb5b，拼起磁场→基因表达分子链，并在抗衰老、阿尔茨海默病、抑郁症血清素调控方面做了活体验证。
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
让外部知识“长入”模型：动态化与参数化 RAG 技术探索
检索增强生成（RAG）成大语言模型利用外部知识主流范式，但传统方法将其当黑箱，忽略动态需求和机制鸿沟。艾清遥博士介绍动态化和参数化检索增强技术，可提升准确性与适应性，减少计算开销。