「鲁棒性测试」共找到 1870 篇相关文章

算法论文8

Google让大模型学会睡觉!千万Token长文本实验,知识写进参数

Google Research提出持续学习框架Sleep,让大模型在离线睡眠阶段把短期记忆转化为长期参数。测试中,问答准确率从31.9%提高到48.9%。

DataFunTalk
算法论文7

Claude Opus 5拿到45.7分,25个大模型视频记忆大考

浙大、港中大等多校联合推出视频对话记忆评测基准 VideoMemBench。在围绕同一视频多轮追问的测试中,表现最好的 Claude Opus 5 综合得分仅 45.7 分。

机器学习算法与自然语言处理
推荐文章6

把代码全交给 AI 一年后,我开始数事故

一名在 Meta 把 100% 代码交给 AI 的工程师撰文称,AI 编程工具虽然提高了产出速度,但因测试太浅、过度复杂和工程师理解弱化,导致系统变脆且故障恢复变慢。

机器学习初学者
推荐文章7

Anthropoic:拒绝率是个会骗人的安全指标

Anthropic 发布安全评测指南,指出单纯统计拒绝率会误判安全性。例如面对自残危机生硬拒绝反而是失败,应改测多轮对话中的恰当回应率,并结合成对测试与人工校准。

AI工程化
算法论文8

Claude团队用Qwen测试全新训练方法

Anthropic最新研究提出中训练(MSM),在预训练后、后训练前给AI立规矩。实验显示,新增MSM能让通义千问两款32B大模型失准率大幅下降,还能精简微调数据。MSM与对齐微调结合,可提升模型泛化能力。

量子位
7

大模型如何赋能 Web 渗透测试?

文章指出传统Web安全检测有局限,而大语言模型(LLM)可提升漏洞发现覆盖率与准确性。以mcp server为基础介绍自动化漏洞检测方案,还分享实践操作、遇到的问题及解决办法,分析其优缺点并给出拓展思路。

阿里云开发者
开源动态8

The Batch: 929 | Qwen3.5 超越更大模型,领跑视觉基准测试

阿里巴巴发布 Qwen3.5 系列,含 8 个开源权重的视觉 - 语言模型。其小模型表现超大体量 OpenAI 开源权重模型,在视觉任务中整体出色,部分在语言任务也有竞争力。虽团队有人员离职,但阿里承诺加大 AI 投入。

DeeplearningAI
产品应用7

Claude Code 学习最佳实践:NotebookLM 生成全套学习视频+卡片+测试题

文章介绍用NotebookLM学习Claude Code的最佳实践。有人将36篇Claude Code资料“喂”给它,生成含音视频的学习资料库。NotebookLM能多种形式输出,支持多类型输入,值得纳入日常工作流。

AI进修生
开源动态8

高智商 ≠ 高财商?50天实盘测试:LMArena 高分王者也可能是「韭菜」

伊利诺伊大学厄巴纳 - 香槟分校团队开发 LiveTradeBench,让大模型在真实金融市场交易,检验其能力。它全面开源,有实时数据、组合决策等创新,50 天实测揭示模型财商差距。

机器之心
产品应用7

快手可灵也吃上了香蕉,一通离谱prompt测试,好好玩要爆了

ChatGPT发布三周年,快手可灵AI视频「O1模型」登场,号称“全球首个统一多模态视频模型”。实测显示它能一站式搞定视频修改、镜头延展等操作,还推出了图片O1模型,在图片生成方面表现出色。

量子位