「大模型对齐」共找到 9183 篇相关文章
提示词压缩竟成大模型新漏洞？港科大提出黑盒攻击框架COMA | ASE 2026
香港科技大学研究发现，大模型的“提示词压缩”模块会重写系统安全边界，成为新攻击面。团队提出“对抗性信息损失”概念和COMA攻击框架，实验有效，还给出隔离压缩防御方案。
Karpathy：大模型交互的第三种范式来了？这是不是夸大其词
Anthropic 上线 Claude Tag，可让团队在 Slack 与 Claude 协作，能完成写 PR、数据分析等任务，有多人协作、积累上下文等特点。Karpathy 认为这是大模型 UI 第三次大改，但评论区有质疑，不过有大咖背书或成‘数字员工’。
超越O4-mini，多模态大模型终于学会回头「看」：中科院自动化所提出GThinker模型
现有多模态大模型在通用场景推理有瓶颈，缺乏对视觉线索校验与再思考能力。中科院自动化所提出GThinker模型，有创新的「线索引导式反思」模式，经两阶段训练，性能超O4 - mini，论文等已开源。
全国首部AI大模型私有化部署标准，公开征集起草单位和个人！
大模型浪潮下，企业对AI投入加大，私有化部署需求凸显，但缺乏成熟实施框架。全国首部AI大模型私有化部署标准《人工智能大模型私有化部署技术实施与评价指南》应运而生，已聚集30余家单位参编。
大模型能力，小模型成本！Google等 | 提出递归混合框架：MoR， 大幅提升LLM计算效率
Google提出递归混合框架（MoR），融合参数共享与自适应计算。它有轻量级路由和KV缓存策略，在不同路由机制各有优劣。实验显示，MoR在性能、计算和内存效率上表现出色，有望实现“大模型能力，小模型成本”。
中科院类脑大模型SpikingBrain，2%数据，百倍速度
中国科学院自动化研究所李国齐、徐波团队发布全球首款大规模类脑脉冲大模型SpikingBrain 1.0。它处理长文本比主流Transformer模型快超百倍，训练数据仅为2%。该模型采用新架构，降低计算复杂度，还可转换现有模型，且在国产GPU完成训练。
一夜之间，DeepSeek V4 Pro和Grok 4.6把全球大模型推入了新的斩杀线。
DeepSeek V4 Pro和Grok 4.6在两小时内发布，逼近Claude Fable 5体验。作者分享常用AI组合，分析两模型优缺点，指出它们撕开大模型不可能三角，形成新斩杀线，让夹在中间的模型难受。
AI真能搞钱了！这家公司把大模型玩成闭环赚钱机器
当全行业还在卷大模型参数、烧算力时，零犀科技走出不同路。其自研因果大模型，用AI智能体帮企业提升销售。2025年已实现规模盈利，成为最早跑通商业闭环的大模型应用公司。
AI根本守不住秘密！不依靠大模型的输出过滤才是铜墙铁壁
开发者常把秘密放系统提示词，以为安全。Swept AI和密西根大学团队测试发现，攻击者不断尝试，AI会泄露秘密。多种依赖大模型的防御方案失败，只有输出过滤能零泄露。
多模态“卷王”阶跃星辰：如何利用 JuiceFS 打造高效经济的大模型存储平台
有“多模态卷王”之称的阶跃星辰，自研多模态模型，早期商业存储系统难满足需求，后引入 JuiceFS。文章介绍大模型各环节存储需求，详述 JuiceFS 企业版与社区版优化实践，含模型分发、读性能等优化。