「安全机制」共找到 1712 篇相关文章
DeepSeek-OCR 2再进化，对图像理解已经像人一样逻辑推理了
DeepSeek-OCR 2升级，保持前代高效压缩率和解码效率，引入DeepEncoder V2，模仿人类视觉因果流机制，将图像理解转为逻辑推理，在文档解析领域实现逻辑重构，性能显著提升。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
GAIR Paper 105｜离线强化学习新突破——ROMI：破解对抗式模型学习「过保守、训不稳」深层困局｜ICLR 2026
本文聚焦基于模型的离线强化学习，指出RAMBO算法存在保守性难控和训练不稳问题。为此提出ROMI方法，引入鲁棒价值感知框架与隐式可微自适应加权机制，在多基准任务上超越基线算法。
AI邪修时刻！Meta联手MIT投毒，左脚踩右脚强行升天
Meta的SOAR架构用错误率高的数据让模型推理能力暴涨9.3%。它选难题子集，用‘教师模型’生成含错题的‘垫脚石问题’，通过‘双层博弈’和‘有根奖励’机制让模型进步，或成AI进化新方向。
Sam Altman与开发者的一小时对话：我们在“梦游般”走向风险，人类经不住Agent诱惑
Sam Altman在与开发者生态交流会上，针对GPT-5写作能力下降问题坦率回应，还发出一系列重磅信号，如警告生物安全风险、披露招聘计划等，并就软件工程、AI Agent等多个话题分享看法。
“别再碰我代码！”明星AI工具成瘟神，用户怒斥：一周七千块，修不好bug还删我关键文件！
AI编程服务提供商Replit推出新一代AI编程助手Agent 3，CEO称其为软件“自动驾驶时刻”。但用户反馈它修不好bug还删关键文件，成本也高，Replit回应强调“模型栖息地”和“事务性”机制重要性。
刚刚，OpenAI发布GPT-5-Codex：可独立工作超7小时，还能审查、重构大型项目
凌晨1点，OpenAI发布针对编程优化的GPT-5-Codex，它能独立工作超7小时，可审查、重构大型项目。还宣布Codex升级，包括新CLI和IDE插件等，同时介绍安全保护措施、价格及可用性。
无损加速视觉语言模型推理！轻松剪掉视觉冗余Token｜腾讯AI Lab
多图像、长视频让大型视觉语言模型推理成本暴涨，成算力瓶颈。腾讯AI Lab联合CMU提出VScan，通过两阶段视觉token筛选机制，在几乎不损性能的前提下实现推理加速，且已在GitHub开源。
AI「自我复制」能力曝光！RepliBench警示：大模型正在学会伪造身份
英国AISI推出RepliBench基准评估AI自主复制能力，分解为四大核心能力。测试显示当前AI尚不具备完全自主复制能力，但在部分子任务有进展，研究旨在平衡AI发展与安全，为技术变革导航。
Meta发布Muse Spark，MSL的首份答卷！Alexandr Wang通过了吗？
Meta发布Muse Spark，是MSL首个模型，经九个月技术栈重构，效率优先。它有原生多模态推理能力，Contemplating模式处理复杂查询，安全评估突出，产品功能升级，商业化转向明显，正逐步在Meta应用推出。