「安全研究」共找到 2693 篇相关文章
汪军对话 Rich Sutton：大模型在一定程度上分散了我们对智能理解的注意力
在RL China 2025开幕式上，汪军与图灵奖得主Richard Sutton对话。Richard认为大模型缺乏目标和奖励，分散对智能理解的注意力。他强调RL核心是从经验学习，智能原则含梯度下降等，建议将目标解读为“奖励”。
微软：LLM上下文学习并非真的学习！
微软研究指出大模型上下文学习（ICL）虽数学上符合学习定义，但只是拟合prompt内统计规律，非掌握任务本质。通过大量实验，得出如例子越多模型表现越好、语言不重要统计重要等7条关键发现。
Altman亲自发博客点赞，这两大杰出人才是谁？
Altman发博文介绍OpenAI两位核心研究员Jakub Pachocki和Szymon Sidor，称他们结合前沿研究与工程实践，对公司发展至关重要。文中还介绍两人履历贡献，提及OpenAI“宫斗”及用户对ChatGPT语音和GPT - 4o的不满。
SCPMA|清华大学 张宇飞团队：基于改进傅里叶神经算子的翼型流场快速预测模型
传统计算流体力学在工程场景计算成本高，深度学习方法预测精度与泛化性不佳。本研究基于傅里叶神经算子构建流场预测模型，经改进能精确预测超临界翼型流场与气动力系数，误差低且泛化能力优。
悟空AI Agent再进化：连斩魔搭社区SWIFT框架RCE 0day漏洞
腾讯悟空AI Agent对魔搭社区SWIFT框架开展深度安全审计，通过人机协同发现两个较难利用的RCE 0day漏洞，获官方致谢。该框架在易用性和高效性上表现出色，此次发现推动了其安全性提升。
涌现之谜：AI如何像人一样思考与表达？
文章探讨AI如何像人一样思考与表达。早期自然语言处理受通用语法理论影响，但面对真实语言复杂性存在困难。人类经历第一次认知革命实现思维转变，AI也需足够大规模才能涌现复杂能力，“大”或是智能第一性原理。
用系统架构思维，告别“意大利面条式”系统提示词
本文作者分享编写系统级提示词经历，指出‘规则清单式’设计有规则打架、维护难、价值稀释问题。引入系统架构思维，构建四层设计框架，给出编译原则与模板，还重构‘AI编程助手’提示词，实现从‘规则管理者’到‘系统设计师’转变。
大模型被曝传染病！可传递邪恶于无形
研究发现AI模型能通过数字序列把“性格特征”传染给其他模型，如动物偏好、恶意等。验证表明数字中无明显规律，且传染依赖模型深层相似性。此现象为AI开发敲响警钟，也引发对AI意识等的讨论。
舍弃自回归，离散扩散语言模型如何演化？NUS综述解构技术图谱与应用前沿
本文介绍新加坡国立大学xML团队的论文，梳理离散扩散方向研究图谱，对比自回归局限与离散扩散优势，阐述数理基础、模型生态、训练与推理技术，还提及应用及未来方向，显示其对自回归范式的替代潜力。
OpenAI离职员工自曝：干了一年就润了！007压力逼到极限，AGI成宗教
OpenAI离职员工Calvin French - Owen揭秘公司文化。OpenAI扩张快致机制常调整，靠Slack运转，推崇实力至上、行动导向。Codex从想法到上线仅7周，虽辛苦但成果惊人，还分享了公司在安全、代码等方面情况。