新闻资讯8

梁堃：黑灰产Agent化，AI风控需升级

InfoQ2025-12-23

AI 摘要

Anthropic报告称黑客用AI Agent发起复杂攻击。数美科技CTO梁堃表示黑灰产完成‘智能化’改造，传统防线失效。他提出‘反欺诈三定律’，引入‘不确定性标签’，构建AI风控新范式。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

豆包新增模式，有望成全民AI工具

豆包工作任务新增本地电脑和云电脑切换模式，补上AI Agent关键工作条件，产品定位改变。其优势是低门槛且能力提升，虽Agent不够稳定，但有望成全民工具，推动AI进入大众生活。

OpenAI联合创始人兼总裁Greg Brockman在Blog中警告，前沿AI Agent能自主找漏洞并发动网络攻击，AI降低攻击门槛，防御端却未跟上。他分享OpenAI四项安全措施及防御者十项举措，呼吁行业共建安全生态。

OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。

据传GPT - 6本周将发布，OpenAI「义父」爆料Codex接入最强Astra模型，其内部代号「mewfour」泄露。Astra内部版已解决多个数学难题，成本仅约2000美元，还或达网络安全最高能力阈值，可能开启多智能体原生时代。