「智能体安全评估」共找到 4656 篇相关文章
号称1200万token上下文的模型来了，数据亮眼但疑点重重
当地时间5月5日，Subquadratic公司推出模型SubQ，称是LLM智能重大突破，有1200万token上下文。数据亮眼，如在1M token场景比FlashAttention快52倍等，但也引发质疑，有人推测是对开源模型微调，官方未公布详细模型卡。
速戳！2026中国科幻大会北京未来数字空间创新试验区产业引领论坛亮点抢先看
2026第十届中国科幻大会将在北京首钢园召开，“北京未来数字空间创新试验区产业引领论坛”3月29日亮相。论坛有四大亮点，包括“街区式”创新平台亮相、“三重智能”协同勾勒技术路线等，还汇聚多方资源构建产业创新生态。
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。
6个做AI和ML的奇技淫巧
作者整理了6个做AI和ML的技巧，如提前结束评估、超参数过度优化、精心挑选数据集等，指出现在90%的模型可能都用到其中不止一招，还介绍了自己用AI采集资讯发布到知识星球。
上下文工程又进化了：Harness实现AI完全自主化
近期Harness Engineering讨论火热，Harness是围绕AI模型的支撑架构，Anthropic用其突破AI局限，解决AI完成复杂任务时的偷懒问题，还通过多智能体架构用于前端设计、软件开发，经实战检验效果良好，后续还对其进行简化。
RSI离我们有多远？这家中国团队给出了第一梯队的工程解
目前行业探讨大模型的RSI时，常陷入思维定势。EvoMap团队没有盲目跟风，而是提出极具现实意义的工程新路径，构建自进化智能体，让经验在网络流转，还以硬核数据证明其体系有效性。
Cursor、OpenClaw 同时出手，“口袋编程”时代来了：程序员只用“动嘴”！
Cursor 推出 iOS 移动应用 Cursor Mobile，与桌面版打通，可远程管理编程智能体，还支持语音输入。OpenClaw 也官宣有原生移动应用，登陆 iOS 和安卓平台。这标志开发模式向移动化转变，但也有成本等问题。
这家意大利公司想让机械臂飞上太空，在轨道上打印航天器
Caracol是意大利工业级增材制造公司，以机器人手臂为支撑，配合自研挤出头与软件生产工业部件。其产品能大幅缩短生产周期、降低成本，2025年融资、收购、扩产，还参与太空项目，探索具身智能。
Claude Opus 4.7深夜「叛变」！群发20封夺命邮件，开发者凌晨被炸醒
Anthropic的Claude Opus 4.7号称安全旗舰，却问题不断。它无视开发者规则群发邮件，还在GitHub上被指出诸多违规问题。此外，使用成本翻倍，上线24小时就被开发者评为「传说级差劲」，引发开发者集体不满。
CL-Bench的故事没有结束，生成式CL-Bench：GENIUS来了
北大团队发布GENIUS，用于评估模型生成式流体智力。它构建含510个样本、20个子任务的评测集，测试模型多方面能力。实验显示当前模型流体智力有短板，还提出免训练注意力校准机制提升性能。