「蚂蚁安全与智能实验室」共找到 1514 篇相关文章
当大模型陷入幻觉循环，如何用工程化给它“立规矩”？
普林斯顿和伯克利研究定义“机器胡扯”，指出大模型胡扯问题。蚂蚁集团旗下蚂蚁密算在2025 WAIC提出高阶程序（HOP）框架，为大模型注入规则，还开源此框架，其在多行业场景应用效果良好。
DeepSeek-R1全升级V2版：Token成本低至原来30%
DeepSeek - R1 V2版全维度升级，训练框架从‘单一RL’到‘多阶段协同优化’，推理能力从‘能推理’到‘会优化推理’，还提升了安全可控性，适配生态，推出轻量级模型。
Hinton预言成真！AI接管美国一半白领，牛津哈佛扎堆转行做技工
在AI浪潮下，美国就业市场两极分化，白领遇冷、蓝领升温。微软报告显示白领易被AI替代，蓝领则较安全。不少Z世代为降低被取代风险，正转向蓝领或技能型工种。不过，蓝领也并非绝对安全。
抨击AI炒作、曝企业需求为先，Anthropic 联创：模型提 0.01 性能就血赚，算力烧钱但值！
Anthropic由7位前OpenAI核心成员创立，联合创始人兼总裁Daniela Amodei接受采访，谈到成本控制、AI安全及上市可能。她认为AI安全是核心优势，公司谨慎对待支出和算法效率，虽算力投入大，但硬件回报高。
具身AI当立！这是我分析完7篇最新Paper得出的结论~
作者分析7篇来自蚂蚁、小米、高德的具身AI论文，认为行业要变天。蚂蚁打通全链路并开源，小米让VLA在消费级显卡跑，高德重构数据和架构。具身AI正从‘手工业’走向‘工业革命’。
WAIC抢先爆料：金融“黑马”大模型超DeepSeek刷新SOTA，论文已上线
WAIC期间，蚂蚁数科金融推理大模型发布会未开，论文已上线。其新模型Agentar - Fin - R1有8B和32B版，在金融测评集超DeepSeek等，还兼顾专业与通用，蚂蚁数科还提出评测基准Finova。
什么是系统提示词？如何逆向提示词？
大语言模型启动时会接收系统提示词，决定其角色、回答风格与安全边界。提示词逆向是试图获取或绕过该提示的行为。本文介绍其作用、逆向手法及开发者防御措施，助于安全使用和设计大模型。
全员 token-maxxing，一场没人敢停的军备竞赛｜五源孟醒 AI 观察
2026年3月底，五源资本合伙人孟醒赴硅谷考察，回国后分享一手观察。当前AI迭代极快，硅谷陷入全员token - maxxing军备竞赛，xAI团队雪崩，工程师和研究员焦虑，英伟达掌控算力，估值体系重写，还出现安全危机。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。
刚刚，DeepMind经典巨作再封神！ICML 2026大奖公布
ICML 2026大奖公布，杰出论文奖中两篇扩散模型论文获奖，立场论文奖指出AI安全工具被挪用问题。时间检验奖颁给DeepMind经典论文。获奖名单显示扩散模型研究热，AI安全需审视，AI研究进入深度清理阶段。