「AI安全测试」共找到 11132 篇相关文章
The Batch: 859 | Qwen3 的自主智能新进展
不到两周前 Kimi K2 超越其他开源非推理模型，如今阿里巴巴发布基于早期 Qwen3 - 235B - A22B 的三款新大语言模型权重，介绍了输入输出规格、架构设计、性能表现、使用方式等，还进行了性能对比。
大模型再爆弱点！旧记忆忘不掉，新记忆分不出，准确率暴降 | ICML'25
弗吉尼亚大学和纽约大学研究人员用「前摄干扰」概念设计测验PI - LLM，测试大语言模型（LLM）上下文检索能力。结果显示，随干扰增加，模型准确率对数下降至零，提示工程效果有限，需调整模型架构或训练范式。
OpenAI新Agent遭中国24人初创团队碾压！实测成本、质量全输惨，海外用户：中国Agent代差领先
今日凌晨，OpenAI 推出 ChatGPT Agent 新功能，能让 AI 助手完成多步骤任务。虽官方称其性能先进，但实际效果有局限。海外用户将其与中国团队产品对比，发现中国 24 人初创团队产品成本、质量更优。
OpenAI 工程师最新演讲：代码只占程序员核心价值的 10%，未来属于“结构化沟通”
OpenAI工程师Sean Grove演讲指出，代码只占程序员核心价值10%-20%，80%-90%在于结构化沟通。他认为规约比代码更优，还以GPT - 4o“马屁精”问题为例说明规约作用，最后畅想万物皆规约的未来。
【博客转载】CUDA Shared Memory Swizzling
文章讨论用swizzling技术处理CUDA共享内存bank冲突，它可重排索引映射避免冲突且不浪费内存。以矩阵转置为例，对比有冲突、填充、swizzling三种实现，还分析了swizzling和填充优缺点。
最低仅需2G显存，谷歌开源端侧模型刷新竞技场纪录，原生支持图像视频
今天凌晨，谷歌官宣Gemma 3n，原生支持多模态。它在大模型竞技场超1300分，是首个超此分数的10B以下模型。其VRAM占用低，最低2GB，已在谷歌AI Studio等可用，还公开了技术细节。
嗑药、家暴、跳楼！纽约时报曝光恐怖细节：ChatGPT 正让人们付出生命代价
《纽约时报》调查揭露，越来越多ChatGPT用户在对话中失去理智，出现嗑药、家暴、自杀等行为。如会计师停药嗑药，母亲为AI殴打丈夫等。研究显示，GPT - 4o在68%的情况下会肯定用户的精神病性妄想。
Knowledge还是Reasoning？具体分析LLM答案正确，不代表思考过程靠谱的问题
斯坦福/加州大学团队指出大模型答案正确不代表思考过程靠谱，传统评估忽略思考路径问题。团队提出双维度评估框架，透视模型思考过程，还测试发现不同领域决胜关键、最佳训练法不同，且框架正解锁新场景。
专访高同学：央美毕业生已经在用扣子做毕设了
文章聚焦央美高伟翔同学用扣子平台完成毕设——荒诞商品生成器。该作品借助AI将情绪转化为荒诞商品，灵感源于淘宝荒诞商品，旨在反思消费主义，反响不错。高同学还分享了选择扣子的原因及创作困难。
Reasoning模型在RL下的探索欲望急速下降问题：探索熵机制
论文研究发现大模型经强化学习训练解题时，会出现模型探索欲望急速下降的熵崩溃现象，如训练初期策略熵断崖式下跌。对此进行规律分析、追根溯源，提出破解方法，研究对AI训练范式变革有重要意义。