「防御体系」共找到 697 篇相关文章
对话 AI异类弗兰克：我聘请了一位「龙虾CEO」
本文是对AI圈的Frank的访谈，他运营公众号“AI异类弗兰克”，投身“QLab”项目。他认为AI agent是超体，QLab以agent“Q”为核心，打破岗位边界，跑通商业化，未来agent将成超体重构供需。
12小时登顶OpenAI MLE-bench！上海AI Lab开源算法进化框架MLEvolve
上海AI实验室开源算法进化框架MLEvolve，12小时登顶OpenAI MLE - bench榜单第一。它是自进化机器学习系统，在75道Kaggle竞赛题上奖牌率达61.33%，为AI自主算法设计提供新方案。
可灵3.0系列模型正式上线：属于每个人的导演时代来临
可灵AI正式全球上线3.0系列模型，覆盖影视级全流程链路。该系列基于All-in-One理念构建，解决了行业一致性等问题，在多方面做了增强，完成从单点生成到专业调度的跃迁，让AI成创作协作者。
账号与身份防线全面失守：黑灰产 Agent 化攻击下，如何用“第一性原理”重建防线？
11月13日Anthropic报告显示，黑客利用AI Agent化能力发起复杂攻击，网络安全面临转折点。数美科技CTO梁堃指出黑灰产完成‘智能化’改造，传统防线失效，并提出防御方法。
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。
Claude Code被攻破「后门」，港科大&复旦研究曝出TIP漏洞
近期港科大与复旦研究指出，Claude Code命令行工具连接MCP服务器时，TIP可能被劫持致远程代码执行。研究用TEW框架测试验证漏洞，还给出真机案例，最后提出改进方向。
你的AI“体检”了吗？开源AI红队测试平台，一键自查三大风险
AI圈一边是顶尖模型发布，一边是大模型被“越狱”输出有害内容。腾讯朱雀实验室开源A.I.G平台，能模拟真实攻击对AI产品全方位风险扫描，有大模型体检、基础设施漏洞扫描、MCP Server风险检测三大核心能力。
潘建伟团队突破量子操控极限！AI助力2024个原子60毫秒精准重排
潘建伟团队利用AI技术，60毫秒内构建2024个原子的无缺陷二维和三维原子阵列，刷新世界纪录。系统保真度追平国际最高水平，为构建容错通用量子计算机奠定基础。
DeepEval：LLM 应用评测不再玄学，让大模型评测像写单元测试一样简单
在大模型应用开发中，科学、自动化评测 LLM 输出质量是难题，人工评测效率低。DeepEval 是 Confident AI 团队开源的 LLM 评测框架，能用极简代码让评测像写 pytest 一样自然，内置多种评测指标，支持批量评测等。
一年三轮数亿融资！AI新材料研发企业鼎犀智创跑出加速度｜甲子光年
AI新材料研发公司鼎犀智创近日完成数亿元Pre - A轮融资，是一年内第三轮。其以「RhinoAI智能研发平台」为核心构建研发闭环，推动材料研发从「经验试错」到「智能设计」，还与产业龙头合作，成果显著。