「错误检测」共找到 335 篇相关文章
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
编程 Agent 可能是软件开发史上最昂贵的错误之一
George Hotz 试用多种 AI 编程 Agent 后，在博客称大规模采用将以灾难告终，认为 Agent 不是程序员，生成代码质量差。此外，OpenClaw 工程师、Uber 高管等也对 AI 编程提出担忧。
任何错误只犯一次：TencentDB Agent Memory 的团队记忆实践
文章聚焦 TencentDB Agent Memory 的团队记忆实践，从组织协作现状出发，阐述其原理、结构、构建方法，通过多方面测试验证其价值，提炼出设计原则，指出其核心是治理系统，目标是提升协作带宽。
最低 306KB，这款低延迟语音检测神器太绝了！
语音交互中，VAD至关重要。新开源的TEN VAD能精准识别语音起止，是替代WebRTC VAD和Silero VAD的优选。它低延迟、高准确率、极致轻量，已被Kaldi集成，还能跨平台部署，使用方便。
扩散模型+自进化：这篇论文让Deep Researcher错误率直降70%
论文提出测试时扩散深度研究代理（TTD-DR），将报告生成建模为扩散过程，有组件自进化机制和动态闭环设计。实验显示其在多领域研究任务超现有方案，为AI研究助手落地提供新范式。
Anthropic开始抢科学家了？周薪2.7万驻场，专治Claude专家级错误
Anthropic新推出STEM Fellow岗位，招募STEM领域专家驻场三个月，周薪3800美元，用其判断力校准Claude输出质量。其三年来科研路线不断加码，正构建科研生态。AI科研瓶颈是判断力而非算力。
Karpathy：别再问AI「你怎么看了」，这是错误的提示词策略！
Andrej Karpathy提出不要把大语言模型看作实体，应视作模拟器。他建议探索话题时避免用‘你怎么看’提问，给出‘什么样的一群人适合探索，他们会怎么说’的更优策略，还指出不同领域影响有别。
5 分钟上手「AI 版 Chrome」,小红书发帖全程零人工，反检测封神
自从Manus产品发布，Agent赛道火热，不少大厂和创业者涌入。如今有浏览器Agent开源方案opendia，它有智能页面理解等AI能力，能用于社交媒体互动等多方面。
从最优传输角度训练奖励模型：让 RLHF 学会「忽略错误偏好」丨ICML 2026
浙江大学、小红书、北京大学等团队提出SelectiveRM，基于最优传输训练奖励模型。它重构训练目标，通过选择性分布对齐排除噪声偏好，解决了奖励模型训练中监督信号不可靠的问题，实验验证其有效且泛化能力好。
爆火论文颠覆RL认知！「错误奖励」让LLM推理暴涨24.6%，学界惊了
最新爆火论文颠覆传统RL训练认知，华盛顿大学等团队证实「伪奖励」可让LLM推理性能提升。研究设置多种伪奖励形式实验，发现其对Qwen模型有效，但并非对所有模型都有效。