「供应链攻击」共找到 520 篇相关文章
OpenAI解密大模型失控：它不是变坏，而是「太听话」
OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。
AI时代已来，魔幻的大模型投毒事件，我们怎么应对？
央视315晚会曝光针对大模型的蓄意信息围猎，虚构手环经力擎系统包装成科技尖货。黑产靠此吸金，利用技术污染证据链。多方已行动，厂商需提升安全能力，消费者要保持警惕。
Meta这两篇最新Agent Learning论文，有些意思！
分享Meta SuperLabs两篇Agent Learning论文，从‘如何低成本获得高质量经验’出发，形成技术链，为语言智能体进入‘规模化RL时代’提供路线图，还分析了Agent RL问题及两论文成果、对比。
AI武装的黑产背后，这群人正在打一场看不见的战争。
文章揭示AI在黑产中的应用，如换脸、薅羊毛、钓鱼等，还介绍网商银行安全团队以攻为守的防御策略，像用AI生成验证码、检测行为特征，目标是抬高黑产作恶成本。
教多模态大模型学会“反思”和“复盘”，上交&上海AI Lab重磅发布MM-HELIX&AHPO，破解多模态复杂推理难题
上海交通大学和上海人工智能实验室研究团队带来MM - HELIX，这是完整生态体系，赋予AI长链反思性推理能力。其含基准测试、数据集、优化算法，搭载相关技术的模型表现优异，部分成果已开源。
从“写SQL”到“聊数据”：NL2SQL如何用自然语言解锁数据库？
文章阐述NL2SQL技术让非技术背景业务分析师自助查询数据，提升决策效率。介绍其定义、发展历程，剖析核心挑战与解决方案，如模式链接、复杂查询理解、提示词工程等，还提及RAG等技术应用。
模仿学习新范式！Chain-of-Action：轨迹自回归实现动作推理
具身智能领域尚未迎来「GPT时刻」，现有模仿学习范式有缺陷。字节跳动与阿德莱德大学研究者提出「动作链」（CoA）策略，通过轨迹自回归建模解决累计误差，提升泛化性，实验效果显著。
华为攻克AI推理「想太多」问题！新方法让大模型推理提速60%，准确率还高了
华为提出高效推理方法S - GRPO，突破思维链「冗余思考」瓶颈。通过“串行分组 + 衰减奖励”设计，在Qwen3上有效，推理提速60%，生成答案更精确有用，在多个推理benchmark测评中表现出色。
模型越聪明越“不听话”？MathIF基准揭示AI服从性漏洞
上海人工智能实验室与香港中文大学研究团队发布论文，用MathIF基准揭示大模型“聪明”和“听话”有矛盾，越擅长推理越易忽略指令，还分析了原因并给出让模型更“听话”的方法。
2026 GOAI 世界人工智能开源大赛「AI for Research 前沿探索」赛道报名中
2026年7月21日，GOAI世界人工智能开源大赛‘前沿探索（AI for Research）’赛道在杭州启动。该赛道聚焦AI与科研交叉，设算法和开放探索两类赛题，不限学科，重问题定义，认可‘无发现’价值，强调证据链。