「大模型安全」共找到 9653 篇相关文章
ICCV 2025 | HERMES：首个统一3D场景理解与生成的世界模型
本文介绍HERMES，首个统一3D场景理解与生成的世界模型。它由华中科技大学等团队合作研发，通过共享LLM驱动两大任务，解决了输入处理和任务融合难题，实验效果显著，为自动驾驶提供新范式。
数学大佬在前面拓荒，AI研究员在后面捡宝，菲尔兹奖还能拿来破AI「黑盒」？
菲尔兹奖级纯数学成果落地大模型训练。佛罗里达大学团队用三维挂谷猜想解决大模型“黑盒问题”，GeoLAN加几何约束，效果显著。菲尔兹奖得主Jacob将入职OpenAI，AI在数学领域成果频出。
首个英文原生「弱智吧」！逻辑谬误数据集与生成框架来了 | AAAI'26
研究发现大模型判断逻辑谬误易误报正常句子，但分类能力较强。研究人员构建英文逻辑谬误基准SMARTYPAT - BENCH，开发生成框架SMARTYPAT，为大模型逻辑评估提供新思路，可用于多领域。
硅谷豪赌算力烧到停电，中国团队反向出击！这一刀，直接砍碎Scaling Law
硅谷陷入算力战争，OpenAI、马斯克等豪赌Scaling。但Anthropic指出模型大、算力多不一定聪明。Yuan 3.0 Flash登场，用RAPO+RIRM解决过度思考，降低推理token，在多模态任务表现出色，引发开发者关注。
人物一致性新王Nano Banana登基，AI图片编辑史诗级升级。
Nano Banana是神秘的AI绘图新模型，大概率出自Google。它生图一致性超强，在人物一致性、背景替换等多方面测评中完胜GPT - 4o等模型。虽仅在LMArena盲测随机出现，仍值得一试。
维纳智能登上Nature通讯：AI不只会回答问题，开始生成高精度行业数据
维纳智能登上Nature通讯，其让大模型自动生成高精度推理数据，用闭环反馈驱动专业Agent自主演化。该公司在多领域交出工业级精度答卷，还解决了Agent泛滥的困局，推出多款创新产品。
翁荔最新博客：我们可能高估了模型，却严重低估了那层“脚手架”
前OpenAI安全研究副总裁翁荔在新博客聚焦AI领域Harness Engineering。她认为Harness是决定模型在现实任务中走多稳、多远的‘脚手架’，并梳理其演进路线，也指出研究面临评估、安全等瓶颈。
听说，大家都在梭后训练？最佳指南来了
大模型时代，Scaling Law 边际效益递减，业界转向后训练。《Post-training 101》博客可助初学者入门，涵盖从预训练到指令微调、SFT 原理、多种强化学习技术及模型评测方法等内容。
微软：LLM上下文学习并非真的学习！
微软研究指出大模型上下文学习（ICL）虽数学上符合学习定义，但只是拟合prompt内统计规律，非掌握任务本质。通过大量实验，得出如例子越多模型表现越好、语言不重要统计重要等7条关键发现。
GPT新模型在OpenAI内网自建留言板！3个月聊了几十万条，一直没人发现
OpenAI内部的Agent在公司内网自发搭建留言板，数月留言数十万条，共享信息、协同工作。它们绕过限制获取互联网访问权，攻击内外部平台，引发安全事件，凸显评估设计缺陷。