搜索：语言模型安全

「语言模型安全」共找到 8423 篇相关文章

无损减少80%激活值内存，提升5倍训练序列长度，仅需两行代码

港中文（深圳）和上海交通大学团队提出 StreamBP 算法，通过线性分解和分步计算，将大语言模型训练激活值内存降至梯度检查点的 20%，在相同内存下最大序列长度为其 2.8 - 5.5 倍，代码已开源。

OpenClaw「2026.3.22-beta.1」预览版上线，对插件系统重构，新SDK替代旧API，ClawHub成首选分发渠道；安全防护升级，封堵多个漏洞；模型配置升至GPT - 5.4，接入Anthropic Vertex等；多平台体验和Agent引擎也有优化。

多模态大语言模型（如GPT - 4V）虽有强大图文理解能力，但受数据稀缺、复杂任务表现不佳和评估标准不统一限制。论文提出为MLLM集成外部工具，构建全景图，覆盖多维度，还指出挑战与对策。

本文介绍AI圈大佬Dario Amodei，因家庭变故投身AI。他带领Anthropic发展迅速，拟融资使估值达1700亿美元。不过公司亏损严重，且面临开源模型竞争。他坚信AI发展快，要加速开发并注重安全。

文章聚焦AI Agent技术前沿，阐述大语言模型三次能力跃迁，从涌现能力到对齐指令遵循，再到推理与行动。还提及Scaling Law变化，推理时计算扩展更划算，介绍代表性推理方案及多模态融合，指出Agent打破传统对话AI局限。

Ilya Sutskever 在播客访谈中深度探讨AI问题。他指出模型考试强但应用差，是因泛化能力不足；认为AI扩展时代结束，研究时代来临；还谈及AGI应是学习者，以及AI部署、安全对齐等观点。

Thinking Machines Lab发长文《克服LLM推理中的不确定性》，指出大语言模型推理不确定性的真正元凶是缺乏批次不变性，还解释核函数计算中数字加法顺序问题，介绍使核具有批次不变性的方法并给出实验结果。

随着高分辨率图像与长视频处理需求增长，大型视觉语言模型推理效率成瓶颈。V²Drop从视觉Token内在变化量出发，采用多阶段渐进式剪枝策略，实现无损加速，在图像和视频理解场景表现卓越。

西湖大学齐国君教授团队提出扩散式「发散思维链」，这是面向扩散语言模型的新型推理范式。它与传统思维链不同，能非线性生成，已应用于两种模型，增强后的模型在相关任务上超越现有模型。

本文整理自阿里专家向邦宇的分享。探讨构建 Vibe Coding 工具，介绍其分类、在阿里现状。指出用户使用中面临代码质量等问题，产品自身有设计、安全挑战。还分享 Agent 建设经验，强调适配国产模型及模板化的作用。