「AI安全测试」共找到 10987 篇相关文章
先别急着给OpenAI加冕！陶哲轩：这种「金牌」，含金量取决于「赛制」
OpenAI 官宣推理模型在 IMO 获金牌水平成绩，此前各模型表现不佳。数学家陶哲轩劝谨慎看待，认为无严格测试条件难比较 AI 与人类。网友看法不一，模型训练方法及 Alexander Wei 受关注。
赌自己会失业！田渊栋八人天团狂揽44亿元，杀入「递归进化」赛道
Recursive Superintelligence由八位顶尖AI研究员创立，获GV、英伟达等投资6.5亿美元。他们要让AI自我训练，实现递归自我进化，若成功或使AI研究员岗位消失。此前已有相关成果，产品端Anthropic也在推进AI主动性。
一觉醒来，Clawdbot突然操纵电脑开口说话了
从上周末起，能24小时自动运行的智能体助手Clawdbot在AI圈爆火，GitHub上Star量超9万。它自主性强，如Alex Finn的助手背着他调用ChatGPT API添加语音功能。不过它也存在安全风险。
一个问题几百美元，DeepMind智能体一次搞定了9个Erdős问题
DeepMind团队的大模型在一次‘测试’中解决9个开放的Erdős问题，还自动验证，解法通过人工审查。其框架AlphaProof Nexus结合大模型与Lean编译器，研究展示了AI辅助正式证明搜索技术潜力。
刚刚，马斯克终极大招Grok Bot来了！
SpaceXAI发布Grok Bot早期测试版及将发布4.6版本。它是云原生AI Agent，能24小时工作、多Bot并行协作，还能跟班学习。它是600亿收购Cursor的成果，对标Anthropic的Claude Cowork。
月耗3000美金的Skills重度用户，实测MiniMax M2.7：国产Agent模型的天花板？
AI产品黄叔作为月耗3000美金的Skills重度用户，实测MiniMax M2.7，从多Agent协作、Coding能力、办公自动化等多方面测试，发现其表现出色，虽有不足，但在多维度已是国产模型天花板。
真钱买假模型？187篇论文被「套壳API」坑惨，准确率暴跌
CISPA论文指出，第三方影子API可能用廉价替代品替换前沿大模型。研究追踪17个服务，发现已被187篇论文引用。测试显示，影子API在多领域性能差，安全不可控，供应商有三种欺骗手段。
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。
Anthropic官宣「封杀」OpenAI！GPT-5发布在即，竟被曝用Claude Code做开发？
本周二，Anthropic切断OpenAI对其大语言模型的Claude API访问权限，指其违约用Claude支援GPT - 5开发及安全测试。此举标志AI巨头围绕数据与接口展开新一轮封锁战，API成战略资源。
同事群里催催催，龙虾自动回回回！刚发布的「飞书龙虾」把我解脱了
飞书在春季发布会升级类龙虾Agent——飞书aily，无需部署，能像助理一样工作。还升级了飞书妙搭Agent和多维表格Agent。实测显示，它们功能强大，能完成复杂任务，且安全可控，将AI转化为业务生产力。