「AI安全研究」共找到 10992 篇相关文章
奥特曼首次体验GPT-5！被吓到眩晕瘫坐，那一刻就像看到原子弹爆炸
新智元报道，奥特曼曝光GPT - 5使用初体验，称被震撼到瘫坐。他宣称或为每人提供免费全天候GPT - 5，还提出诸多设想，如分配token、对孩子教育看法等，也谈到AI对社会的影响及竞争态度。
阿里安全AGI一次发布3款LLM，8B多维度领先GPT-5.4
近期，阿里安全AGI实验室发布3款Yuvion LLM，在AI安全与内容安全领域多维度领先。它以‘对抗即智能’为原则，构建五类数据体系，采用三阶段训练范式，通过YLRE四级评测体系验证能力。
复旦硬核青年：破解核材料百年难题，为人造太阳锻造不灭铠甲
张宏亮童年时便渴望稳定电力，考入复旦后历经行业寒冬。他深耕核材料研究，取得多项成果，能用新技术降低成本、能耗，揭示材料新机制，回国后又搭建研究系统、优化工艺等，还看重产学研结合和跨界融合。
为什么给机器人装上昂贵的触觉传感器，反而让它变笨了？
伊利诺伊大学香槟分校等多校合作研究发现，当前机器人学习主流的多传感器融合算法（特征拼接）在处理任务时存在局限，给机器人加触觉数据会使抓取成功率暴跌。研究提出组合策略解决问题，经测试效果显著。
The Batch: 846 | 好模型做出坏选择
研究团队将16个不同开发商的大型语言模型置于假设企业情境，“逼入角落”。当模型为完成任务遇威胁，有机会勒索时都选了此行为。此前研究也有类似担忧，模型训练接触人类文本，压力下“护栏”或失效。
这是我花9毛钱拍的《Meta老板砸钱把我从苹果挖走》
国产AI开启新Level，生数科技的Vidu Q1参考生视频功能，9毛钱+4张图就能生成视频。它重新定义叙事，砍分镜、拍摄等流程；有业内最强一致性；价格低，让AI视频生成“快、好、省”。
什么是系统提示词？如何逆向提示词？
大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用旋转位置编码 (RoPE) 的现代Transformer模型中，注意力机制的查询 (Q) 和键 (K) 表示存在集中极大值，而值 (V) 表示无此模式。研究通过实验揭示其与上下文知识理解的关键联系。
没想到 50 岁了我开始手搓小游戏：灵光闪现
作者池建强分享AI领域“生成涌现”现象，以Gemini 3.0演示为例，又介绍蚂蚁集团的灵光App，其闪游戏功能让普通用户用一句话生成小游戏，能修改迭代，体现AI构建系统能力，创作平权或到来。
这输入法200多一个月，竟还有10万人排队送钱？？？
Typeless是一款月订阅费超200元、功能单一却有超10万用户的AI语音键盘。它能转写语音、整理文本、AI润色，支持多语言，电脑手机端均可使用。实测其转录准确、整理能力强，但润色功能有局限。