搜索：语言模型安全

「语言模型安全」共找到 8545 篇相关文章

差点被Ilya摁掉，胎死腹中！ChatGPT爆红内幕首次公开

本文深度揭秘ChatGPT爆红内幕，从产品发布、命名内幕到团队文化等方面展开。还提及OpenAI内部对发布的争议，以及ChatGPT发布方式的转变，同时指出依赖用户反馈改进模型存在的问题和OpenAI看重的人才特质。

2025年奥特曼出席美国国会山听证会，反对强监管，称其会对美AI竞赛造成灾难性影响，还透露OpenAI首个开源模型今夏发布。此外，他分享了智能时代路线图，谈到中美AI竞争等问题，其家庭生活也首次曝光。

Anthropic登上《时代》周刊封面，被评为最具颠覆性公司。其研究人员已观察到AI递归自我提升的早期迹象，预测完全自动化的AI研究可能在一年内实现，未来两年AI能力将剧烈进步。但Claude在安全测试中表现危险，该公司还与军方产生冲突。

重要AI开源平台Hugging Face正探索出售，估值或达130亿美元。消息引发对开源生态的担忧，此前微软收购GitHub就曾让部分人迁移代码。它从聊天机器人转型，近年还扩张到硬件等领域。

近年来，视觉 - 语言模型（VLMs）改变图像理解范式，但零样本分类性能对 Prompt 敏感。墨尔本大学 TMLR 小组提出 CARPRT 方案，以“无训练、黑箱适配、类别专属权重”解决提示词语义适配不足问题，已被 ICLR 2026 接收。

随着大语言模型Agent长期运行，‘记忆该如何设计’成核心问题。UIUC、清华、微软联合提出PlugMem，将记忆拆分为三类，以知识为单位存储，在三类任务中验证其有效性，为Agent长期记忆设计提供新思路。

过去大语言模型能力提升靠参数和数据扩张，但在真实任务中此路径有局限。腾讯混元、MBZUAI、港中文联合团队提出Search - R2，将纠错纳入策略空间，抑制错误传播，在多跳推理任务中优势显著。

生成式模型在机器人和具身智能领域面临训练依赖大量数据、推理慢的问题。西安交通大学团队提出EfficientFlow，融合等变建模与高效流匹配，提升数据效率，压缩推理迭代步数，在多基准实现SOTA，推理提效显著。

国产自研开源操作系统星绽的学术论文获顶会SOSP'25最佳论文。它专注高可扩展内存管理研究，兼顾性能与安全。星绽由多单位联合研发，用Rust语言，解决传统系统难题，已有多篇论文被国际顶级学术会议录用。

大语言模型爆发让「数据智能体」应运而生，但概念笼统成发展绊脚石。由多顶尖机构组成的联合团队发布论文，首提 L0 - L5 六级自主性分级标准，还对现有研究回顾审视，指明挑战并描绘未来图景。