「安全挑战」共找到 1905 篇相关文章
ICLR 2026 | ProSafePrune：一剪见效，告别大模型过度防御
合肥工业大学与科大讯飞联合团队提出全新低秩参数修剪框架 ProSafePrune，被 ICLR 2026 录用。它能精准定位模型认知偏差并修剪，降低过度拒绝率，不损安全防御能力，还提升通用任务性能，为 LLM 安全部署提供新思路。
比传统方法强7倍：Anthropic物理隔离危险知识，重塑大模型安全训练范式
Anthropic团队提出选择性梯度掩码技术（SGTM），在训练阶段将危险知识物理隔离到特定参数并剔除，实现安全性与通用能力更好平衡，抗恢复性是传统方法7倍，还能处理未标记危险数据。
医疗AI新标准来了！现公开征集起草单位和专家！
当前人工智能与医疗卫生融合机遇大，国家有相关规划，市场规模将大增。但医疗AI发展受数据安全与隐私保护制约。现智合标准中心等组织编制全国首部医疗AI数据安全团体标准，还公开征集起草单位和专家。
一份PPT 创 5000万美金ARR，挑战微软和Google，这家华人创业AI公司火了丨PMF 001
本文介绍华人团队创办的AI PPT企业Gamma，它获5000万用户，ARR破5000万美金且连续盈利15个月。其精准踩中AI节点，运用PLG模式打败Tome，从AI PPT升级为创意创作平台。
不写、不看、不审查：这家安全公司决定不再让人类碰代码，还把这套模式开源了
2026年2月，安全公司StrongDM公开“软件黑灯工厂”式生产线成果，人类不直接写代码和审查，由Agent自动生成。该模式开源，虽有开发者指出问题，但获学界认可，不过面临成本高的现实问题。
美团开源LongCat-Image，6B参数挑战80B效果，中英双语理解、图像逼真度及复杂指令编辑新突破
美团开源6B参数图像模型LongCat-Image，在双语文本理解、图像逼真度及复杂指令编辑任务中表现出色。它以轻量化设计超越大模型，还解决中文文本渲染难题，有精确图像编辑能力，且提供全链路开源方案。
模型砍掉一大半，准确率反升15%！华科&阿里安全新研究实现ViT近乎无损的类特定压缩｜ICLR'26
华中科技大学联合阿里安全部提出Vulcan方法，一改传统压缩策略，通过“先训练再剪枝”实现ViT近乎无损的类特定压缩，为大模型服务小场景提供新路径，论文已被ICLR 2026接收。
2026 AI Memory最新综述：从理论到实战，一文读懂AI记忆的进化全景
2026年北邮百家MemoryOS团队联合华为发表《Survey on AI Memory》，涵盖AI记忆理论基础、4W分类体系、单/多智能体架构、评估方法与前沿趋势，梳理详尽全景图，还剖析未来挑战与方向。
大规模工程支撑场景下的多智能体系统设计：Grab 实践案例
Grab分析数据仓库（ADW）团队推出多智能体AI系统，处理数据仓库故障排查等工程请求，减少重复性运维。团队搭建多智能体架构，整合工具生态，考虑安全治理，解决上下文管理挑战，提升工作效率。
2025最大AI赢家的凡尔赛年度总结，哈萨比斯Jeff Dean联手执笔
谷歌由Jeff Dean和哈萨比斯牵头完成2025年AI年度总结与趋势展望报告。报告梳理八大研究方向，展示谷歌在模型能力、产品集成、创造力赋能等多领域进展，强调安全责任与开放合作。