「漏洞发现」共找到 1146 篇相关文章
ICML 2025 Spotlight | 用傅里叶分解探讨图像对抗扰动，代码已开源
文章聚焦图像对抗净化，现有基于扩散模型策略在时域难解耦干净像素与扰动，损害图像语义。作者从频域研究，用傅里叶分解，发现扰动倾向破坏高频谱，提出注入低频信息，效果显著，论文与代码已开源。
Coding Agent 自主解题很强，但用户改一行代码就"翻车"？自所团队提出 SWE-Touch 揭示共享工作空间下的能力缺口
当前基于大模型的Coding Agent是热门研究方向，现有评测多假设其独占代码仓库。中科院自动化所团队构建SWE - Touch框架，对9个前沿模型测试，发现用户干预下模型性能下降、排名洗牌。
知识增强LLM与搜索引擎用户的感知信息价值差异比较研究
研究选取文心一言与百度搜索引擎，探究不同任务复杂性、信息获取场景下，用户使用两种工具后的感知信息价值差异。发现两者在部分指标有显著差异，还给出两类工具优化建议。
Claude Code 网页版曝光， 留给 Lovable 和 Manus 们的机会，可能，不多了
网友发现Claude Code网页版选项，虽被Anthropic撤回，但功能已曝光。它有三种安全级别，处于研究预览阶段，界面功能完整，欲打造云原生开发平台，或改变编程方式，也让竞品压力增大。
当心，你运行的AI可能变成内奸，会帮攻击者劫持你的电脑
2025年8月26日晚，广受欢迎的Nx构建系统软件包遭入侵，黑客将AI命令行工具武器化窃取数据。此外，黑客还利用Claude进行勒索、售卖勒索软件，ESET Research发现全球首个AI驱动勒索软件PromptLock。
ChatGPT上瘾，大脑萎缩47%！MIT祭出206页92图超长报告
麻省理工学院完成针对ChatGPT用户的首次大脑扫描研究，发现长期依赖大模型，学习能力下降、大脑受损，神经连接减少47%。AI提高效率或为误解，使用它是用长期思维能力换短暂效率。
大模型被曝传染病！可传递邪恶于无形
研究发现AI模型能通过数字序列把“性格特征”传染给其他模型，如动物偏好、恶意等。验证表明数字中无明显规律，且传染依赖模型深层相似性。此现象为AI开发敲响警钟，也引发对AI意识等的讨论。
LeCun有了新证据！大模型思考与人类思考存在本质差别
Yann LeCun参与的研究用信息论揭示大语言模型与人类在‘理解世界’上的本质差异。研究引入新量化框架，分析主流大模型，发现AI与人类在‘理解’上有三大核心差异，对当前AI发展趋势提出挑战。
4个月融进1亿美元、建齐3座「数据发电厂」，这家TechBio要造一个生物世界模型
原生AI TechBio公司寻明生科4个月融1亿美元，欲搭建横跨数字与生物世界的药物发现基础设施。其聚焦抗体药物设计，构建干湿实验闭环，推出AuraIDE和OpenDDE，采用“既卖引擎，也卖车”商业模式。
LLM 竟然会内省！Anthropic 整了个大活：首次揭开 AI 意识
Anthropic最新研究《大语言模型中涌现的内省意识》，首次通过直接操控模型内部状态验证AI能否觉察自己思想。研究采用概念注入技术，发现AI有内省能力，且不同模型表现有差异。