「语言模型安全」共找到 8423 篇相关文章
终结多智能体视觉幻觉“滚雪球”！新国立等提出ViF：无需改造模型，即插即用
多智能体协同做视觉任务常轮次越多错得越离谱，根源是信息传递方式有缺陷。新国立等研究人员提出轻量通用的ViF范式，无需改造基座模型，可大幅压制幻觉滚雪球，已入选ICLR 2026。
阿里“快乐马”团队再出手！正面叫板谷歌 Genie 3，世界模型 HappyOyster 来了
4月16日，阿里发布世界模型产品HappyOyster，由ATH创新事业部团队研发。它与谷歌Genie 3同属世界模拟器流派，采用长跨度世界演化建模，有漫游和导演两大核心能力，在多方面呈现差异化优势。
苹果新论文发出惊人一问：What do your logits know?
苹果AI研究团队提交论文《你的logits知道些什么？（答案可能会让你惊讶！）》，触及大模型底层逻辑及苹果看重的用户隐私与数据安全。研究通过实验揭示模型信息留存状态，指出存在隐私泄露隐患。
性能碾压GPT-4.1-mini！Mistral开源Devstral，还能在笔记本上跑
法国AI初创公司Mistral与All Hands AI合作，发布全新开源语言模型Devstral，有240亿参数，所需算力低，可本地部署。它能解决真实GitHub问题，在SWE基准测试中表现优于多个模型，还能通过API访问。
北大彭一杰教授课题组提出RiskPO，用风险度量优化重塑大模型后训练
北大彭一杰教授课题组提出 RiskPO，解决大模型后训练陷入「均值陷阱」问题。它将风险规避理念融入优化目标，用「关注奖励分布左尾」替代「追求整体均值」，在多领域数据集上表现超越 GRPO 等。
在WAIC现场，全球首个拥有「原生记忆力」的大模型亮相，但不是Transformer
在WAIC上，RockAI推出基于非Transformer架构Yan 2.0 Preview的多模态大模型，有原生记忆能力。它在性能指标上优势明显，其记忆机制接近生物方式，团队秉持理念推动离线智能，获硬件厂商关注。
CrowdStrike联手Meta发布AI安全基准，让AI在真实网络攻击中证明自己
美国网络安全巨头CrowdStrike与Meta在Fal.Con 2025大会联合推出开源基准测试套件CyberSOCEval，旨在评估AI大语言模型在真实SOC环境下的网络安全能力，它源于Meta之前框架，开源供全球开发者使用。
阿里正式批准林俊旸辞职！将成立基础模型支持小组、坚持开源、加大人才投入
Qwen负责人林俊旸突然离职引发关注，阿里官方回应，CEO吴泳铭在内部邮件中称已批准其辞职，还将成立基础模型支持小组，坚持开源策略，加大AI研发及人才投入。
头号玩家照进现实！NTU发布世界模型交互新范式，攻克主动操作难题
南洋理工大学MMLab团队推出Hand2World，让AI世界模型能真正互动。它摒弃旧有遮挡误导，用3D手部结构与射线编码解耦手与头运动，实现闭环持续交互，基于单目视频全自动标注，为AR、机器人交互铺路。
Loop世界模型论文登顶Hugging Face，来自中国一家初创，周鸿祎陆奇都投了
Prompt还没退场，Loop已开始接管AI叙事。Loop Engineering突然爆火，而Looped World Models（循环世界模型）技术含金量更高，其论文登上Hugging Face Papers当日Top1。该论文由中国初创公司脸谱心智完成，成果显著。