「失败率」共找到 457 篇相关文章
OpenAI与Anthropic罕见合作：竞争对手联手测试AI安全
OpenAI和Anthropic完成联合评估，用内部工具测对方模型并公开结果。测试覆盖指令层级、越狱等四大领域，还发现不少细节和道德困境情况。此次合作意义重大，为行业树立安全合作先例。
利用大模型从开源情报中自动提取检测规则：LLMCloudHunter，有开源
随着网络攻击增加，威胁情报成主动安全关键。以色列本古里安大学发布LLMCloudHunter框架，用大模型从开源情报自动生成检测规则，评估显示其规则质量高，且大部分能编译成Splunk查询，软件已开源。
LLM「拒绝回答」难题有救了！最新研究让AI学会人情世故 | COLM'25
最新研究发现模型规模和通用语言能力与处理敏感内容判断能力无直接关联，开源模型表现不错。通过提出的训练方法，在非推理和推理型模型上缓解过度拒绝问题，提升AI实用性和可靠性。
无需训练，即插即用，2倍GPU端到端推理加速——视频扩散模型加速方法DraftAttention
高质量视频生成任务中，扩散模型成主流，但DiT模型注意力机制计算量大，成推理瓶颈。现有加速法效果不佳，为此美国东北大学等团队提出DraftAttention，可2倍加速推理且不损画质。
4万多名作者挤破头，CVPR 2025官方揭秘三大爆款主题， 你卷对方向了吗？
CVPR 2025 官方根据 4 万多名作者 13008 份投稿，总结出计算机视觉热门的三大方向，即基于多视角与传感器的 3D 技术、图像与视频合成、多模态学习（视觉、语言和推理），并介绍了各方向热门原因。
多模态模型具备“物理推理能力”了吗？新基准揭示：表现最好的GPT-o4 mini也远不及人类！
来自多机构研究人员构建PhyX基准测试，评估多模态模型物理推理能力。测试显示，即便表现最佳的GPT - o4 mini准确率仅45.8%，远不及人类的75.6%，且模型在多方面存在结构性缺陷。
Google搜索转型，Perplexity入不敷出，AI搜索还是个好赛道吗？
Google在I/O开发者大会宣布上线由Gemini驱动的高级AI搜索模式AI Mode，此前其因转型冲击收入而犹豫。Perplexity访问量增但亏损，AI搜索赛道融资减少，大厂抢占空间，产品转垂类，商业化待探索。
ICLR 2025 Oral | LLM也有从众心理！
浙江大学团队论文指出，多AI协作系统存在“群体思维”，多个AI共同决策时会盲目跟多数意见。研究者开发BenchForm测试平台验证LLM从众行为，还分析原因、给出让LLM更独立的方法，指出从众利弊及未来挑战。
Codex 负责人：「所有人都是 builder」是个很糟糕的主意
OpenAI Codex 团队负责人 Andrew Ambrosino 认为，AI 时代产品开发各环节发生变化，实现成本降低，品味变得更重要。他还谈到岗位角色融合但 PM 不会消失，以及 Codex 发布时机和工作模式等问题。
给机器人打工了一天，我们体验上了AI时代最魔幻的工作。
本文讲述作者公司小伙伴达达体验给具身智能做数据采集工作的经历。具身智能数据获取难，催生数据采集员岗位。达达面试顺利，工作时先觉新奇，后感手腕酸，日薪200 - 250元，凸显AI进步背后普通人的贡献。