「自动安全审查」共找到 1529 篇相关文章
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
VLA统一架构新突破：自回归世界模型引领具身智能
北京智源研究院联合中科院自动化所提出 UniVLA 全新 VLA 模型架构，基于全离散、自回归机制建模多模态信号，后训练引入世界模型。它刷新多项基准纪录，在真机操控和自动驾驶有潜力，为多模态感知决策融合带来新思路。
2025 年 AI 编程趋势：智能体 10 倍生产率放大下的“粪围”蔓延
文章指出 2025 年是体系化跃迁起点，AI 编程工具不断升级。AI 代理能力超代码补全，编程从‘代码直生’转向‘计划先行’，自动验证增强，还有异步化、团队协作等趋势。但 AI 重构有问题，还会放大技术债。
无需标注和奖励模型！仅靠自信度RL，16个样本训练20步，效果飙升21%！
论文提出RLSC，让大语言模型用自身答案置信度作奖励信号，摆脱人类标注依赖。它以模型自信度内部信号替代多数投票外部信号，小成本提升模型数学能力，还让模型学会快推理，不过也存在安全隐忧。
Cursor迎来史诗级更新，关于Cursor 1.0.0版本，这里有你需要知道的一切！
2025年6月5日，上线2年的Cursor迎来首个正式版1.0.0。此次更新功能多且关键，如上线代码审查工具Bugbot、全面开放后台代理功能等，虽提升了开发效率，但部分功能有使用成本，对新手不太友好。
菲尔兹奖得主预警：AI可能杀死数学！
今年菲尔兹奖得主多伦多大学教授Jacob Tsimerman宣布加入OpenAI从事AI安全研究，因其认为2年内AI将在数学证明领域超越人类。陶哲轩、Timothy Gowers等也对此表示担忧。《莱顿宣言》发布，众多数学家签名抵制AI对数学的冲击。
从日志学习到风洞验证：构建 GPU 集群的 AI Native 稳定性闭环
文章介绍了面向新引入GPU芯片稳定性验证的AI Native治理体系“算力风洞”。其通过厂商环境自动复刻等手段，将新芯片适配效率提升10倍以上。体系分认知、验证、进化三层，形成完整闭环，推动智算集群稳定性建设升级。
ICML 2026 Oral | 为3D空间智能数据构建全自动数据飞轮，Holi-Spatial打造400万级空间多模态数据集
来自多机构的研究团队提出 Holi - Spatial，可从原始视频自动生成 3D 重建等数据，构建 400 万级空间标注数据集 Holi - Spatial - 4M，提升 VLM 空间能力，还形成自动化数据飞轮，但存在计算成本高、特定场景表现不佳等局限。
嘘，Claude正在「做梦」！睡一觉疯狂进化，一夜暴涨6倍战力
Anthropic在Code with Claude开发者大会上，给Claude托管智能体添加Dreaming功能，让其能自动回顾记忆、自我进化，还发布Outcomes和多智能体编排。法律AI公司Harvey用后任务完成率飙升约6倍。Anthropic还租下22万张GPU算力。