「AI安全研究」共找到 11025 篇相关文章
0.25秒识破未见攻击，这套检测方法没看过任何越狱样本 | EMNLP'26
大视觉语言模型带来隐蔽攻击面，现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect（LoD），不依赖攻击样本和手工规则，从模型内部激活学安全模式，实验效果好且代码开源。
OpenClaw、Agent 企业级落地……2026 奇点智能技术大会硬核议题发布
2026奇点智能技术大会4月17 - 18日将在上海召开。大会深入探讨12大前沿专题，邀请众多顶尖学者、技术专家等，涵盖大模型技术、Agent系统、OpenClaw实践等内容，为AI落地绘制认知地图。
Nature子刊：攻克医疗器械「看不清」难题，赋予自动驾驶视觉
MicroSyn-X首创无需真实数据的AI合成影像技术，让机器在无标注虚拟X光中学会追踪微型手术器械，突破医疗数据稀缺瓶颈，为自动化微创手术提供新路径，且代码和数据已开源。
重复一下提示词，Gemini准确率竟从21%飙升至97%！
Google Research团队研究发现，重复提示词可让Gemini准确率从21.33%升至97.33%。该策略能提升主流大模型非推理任务表现，在多模型多基准测试中优势明显，且不增加延迟。
CMU&NYU最新工作解释：存储在权重里的“智能”是从哪来的？
论文《From Entropy to Epiplexity》指出经典信息论在AI面前有三大悖论，提出用Epiplexity度量信息。它将数据信息拆为Time - bounded Entropy和Epiplexity，通过神经网络训练近似计算，实验验证其有效性，并给出启示。
智能体并非越多越好，45%准确率成关键拐点
Google研究《Towards a Science of Scaling Agent Systems》验证“智能体并非越多越好”。在GPT等上实验发现，单个智能体准确率超45%，增加数量会损性能，还揭示工具税、错误螺旋等问题，给出预测公式。
Kimi K2 Thinking，最强思考模型，附实测
Moonshot AI发布Kimi K2 Thinking模型，它能边思考边行动，是目前最强开源思考模型，多项指标超GPT - 5等闭源巨头。其具独特架构，有性能优势，还给出部署方式，实测表现佳。
谷歌AlphaEvolve太香了，陶哲轩甚至发了篇论文，启发数学新构造
著名数学家陶哲轩与 Google DeepMind 研究人员发表论文，展示谷歌 AlphaEvolve 作为工具可自主发现新数学构造，该系统结合 LLM 与进化计算，在多领域问题上表现出色，还能与其他 AI 工具结合。
综述238篇遥感微调！清华院士团队指出9大方向 | CVMJ
在大数据和大模型推动下，遥感微调技术从全参数微调发展到混合微调。清华等团队在CVMJ期刊梳理技术脉络，涵盖适配器、提示等微调方法，还指出9个潜在研究方向，助力遥感技术应用。
CAIR开源发布超声基座大模型EchoCare“聆音”，10余项医学任务性能登顶
2025年9月17日，CAIR开源发布超声基座大模型EchoCare“聆音”。它基于超450万张影像数据集训练，在10余项医学任务测试中表现卓越。首创结构化对比自监督学习框架，为AI医疗应用提供创新路径。