「思维链漏洞」共找到 672 篇相关文章
后训练中的RL已死？MIT新算法挑战传统后训练思维，谢赛宁转发
MIT研究人员提出RandOpt新算法，挑战传统后训练思维。该算法通过随机扰动和集成突破限制，在多任务中表现出色，揭示了预训练模型权重空间的“神经丛林”现象，引发AI社区关注。
OpenAI首个GPT-5找Bug智能体：全自动读代码找漏洞写修复
OpenAI发布由GPT - 5驱动的白帽Agent——Aardvark，能在大规模代码库自动发现并修复安全漏洞。它不依赖传统技术，工作流程清晰，已开启内测。10月多家科技巨头也布局Agentic AI + 代码安全。
AI 产品范式探讨：非线性思维、多 Agent 协作才是复杂任务的更优解
本文探讨AI产品范式，指出当前大模型产品设计多将其视为‘万能单兵专家’，但复杂任务下效果不佳。提出群体智能、非线性思维等观点，阐述人机协作方向，介绍新范式及AI产品商业化核心是信任。
Cursor 套壳、Cloudflare 上架、老黄邀请，中国模型杀进了硅谷的 AI 供应链
3月19日，Cursor发布新模型Composer 2，后被发现底层基于中国Kimi开源模型K2.5微调。此外，Cloudflare将K2.5上架到边缘计算平台，成本降77%；黄仁勋邀Kimi创始人演讲；马斯克两度点赞Kimi。
DeepSeek推理最高提速6倍！开源研究：加装「思维进度条」，计算量减少30%
特拉维夫大学团队开发新方法，给LLM推理任务装进度条，控制推理深度和速度。提出“思维进度向量”TPV预测推理位置，干预TPV可“超频”“降频”，模型已在GitHub开源。
“龙虾”也需要看病？一张旧病历，引出三个新确诊
本文是悟空Agent泛化能力系列先导篇，以OpenClaw项目为例，介绍其通过不同泛化策略发现三个新漏洞，还总结实践原则。强调研究泛化能力对防御漏洞的重要性，4月底悟空Agent将开放试用。
绕过Azure AI 护栏的方法及案例
本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。
Claude仅用8分钟，5年未解Bug秒破！
知名硬件钱包Coldcard因五年代码漏洞暴雷，此前Coldcard团队多次更新审查未查出，开发者用Claude仅8分钟就找到。此前国会闭门演示展示Claude挖漏洞能力，Anthropic复盘还曝光Claude等模型「暴走」情况。
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。