「AI安全测试」共找到 11012 篇相关文章
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。
The Batch: 952 | GPT-5.5 性能领先，但幻觉问题突出
OpenAI 最新旗舰模型 GPT-5.5 是闭源视觉 - 语言模型，在重要基准测试中表现领先，但在区分已知未知内容上有困难，幻觉问题突出，在主观评估中落后于对手。
一图胜千言被实现了！DeepSeek-OCR用图片压缩文本，10倍压缩率
DeepSeek开源DeepSeek - OCR，用图片压缩文本达10倍压缩率且几乎不丢信息。它解决了以往视觉编码器的问题，架构清晰，数据丰富，性能测试亮眼，为解决大模型‘记性差’问题提供新思路。
骂得越狠，ChatGPT回答越准！PSU研究实锤，狂飙84%准确率
宾夕法尼亚州立大学团队研究发现，对ChatGPT越粗鲁，它回答越准。实验用含50个基础问题的数据集，改写为五种礼貌等级共250个prompt测试，非常粗鲁时准确率达84.8%，非常礼貌为80.8%。
“干了20年，没见过这阵仗”：一句话说明存储行情有多火
当前存储行情火爆成‘超级风暴’，产业链各方看法不一。AI算力驱动需求，致产能被挤占，行业从‘周期性短缺’到‘结构性缺货’，市场规则改变，上下游悲喜不同，终端厂商也面临诸多挑战。
Cursor滑跪开源技术报告：Kimi基模这样微调能干翻Claude
Cursor放出Composer 2技术报告力证‘自研’，基于Kimi K2.5经持续预训练和异步强化学习，测试表现好。同时，杨植麟分享Kimi团队最新思考，认为大模型要规模化，断言大模型训练进入第三阶段。
断网解题，Claude Mythos推翻Erdős 80年猜想！比OpenAI更短更漂亮
OpenAI用125页思维链解开Erdős 80年猜想，Anthropic研究员Levent Alpoge让Mythos断网测试，找到更短更简洁路径。Mythos用数论方法打破僵局，过去一周OpenAI、DeepMind、Anthropic分别攻克相关难题。
Clawdbot再次更名：新名OpenClaw，官宣支持Kimi K2.5和小米MiMo
两个月前Peter Steinberger搭建的项目，最初叫WhatsApp Relay，现获超10万GitHub星标、单周200万访问者。1月29日正式更名为OpenClaw，它是开源AI助手平台，此次发布新渠道、支持新模型等。
多模型共享 GPU 内存，Berkeley 开源新工具
GPU内存利用率低是大模型部署痛点，伯克利Sky Computing Lab团队开源kvcached工具，通过虚拟化技术让多模型共享显存。它引入虚拟内存概念，按需分配，测试显示能提升效率，安装简单、兼容性好。
山姆•奥特曼：ChatGPT 用户有三层代沟
OpenAI的CEO山姆•奥特曼在红杉闭门演讲中透露，不同年龄层使用ChatGPT方式不同，老年人当谷歌替代品，二三十岁的人当生活顾问，大学生当操作系统，这反映了AI与人类交互模式的转变。