搜索：检测范式 - AI Reading Hub

「检测范式」共找到 1174 篇相关文章

大模型幻觉检测新方法：实时高亮不确定内容

来自苏黎世联邦理工学院等机构团队，开发流式幻觉检测器，能在生成过程中即时标记幻觉实体。核心是识别具体“实体”是否虚构，实验表现出色，团队已将数据集和代码开源，有局限但应用前景好。

最近 Github 出现工具 `LLMFit`，用 Rust 编写，能自动检测硬件配置，判断大模型能否流畅运行，推荐最优量化版本和运行模式。有一键硬件检测等特性，安装使用方便，降低本地部署门槛。

大视觉语言模型带来隐蔽攻击面，现有检测器难平衡。中国人民大学与阿里巴巴集团联合提出Learning to Detect（LoD），不依赖攻击样本和手工规则，从模型内部激活学安全模式，实验效果好且代码开源。

清华天眸芯团队继2024年《Nature》封面后，最新进展又登《Nature Sensors》封面。此次研究实现系统级算法软件生态飞跃，还开源工具链。成果在多场景有应用潜力，晰见科技推动其产业化。

一篇51页论文研究主要智能体，指出适应性是关键。它提出2×2分类框架将适应方法分四大范式，还明确不同范式优缺点，发现T2范式数据效率远超A2。最后点明Agent适应性研究的四个前沿方向。

文章指出传统Web安全检测有局限，而大语言模型（LLM）可提升漏洞发现覆盖率与准确性。以mcp server为基础介绍自动化漏洞检测方案，还分享实践操作、遇到的问题及解决办法，分析其优缺点并给出拓展思路。

大模型技术推动AI从‘回答问题’迈向‘执行任务’，Agentic AI兴起。中国科大认知智能全国重点实验室提出Claw - R1项目，将前沿Agent Runtime与强化学习训练框架结合，为Agentic AI提供新训练基础设施。

菲尔兹奖得主陶哲轩让ChatGPT把数学论文翻译成Lean代码，与AI合作完成埃尔德什第613号问题反例的形式化证明。人机配合虽有波折，但AI节省了时间。此外，两位数学家也用AI验证第707号问题反例，数学证明正进入‘AI辅助时代’。

黄仁勋称Prompt正在过时，Loop才是新范式。Loop指设计系统让AI自动下指令、验收，不合格重来。Claude Code和OpenAI Codex已围绕Loop落地产品，还给出了实操指南及发展历程。

大概念模型（LCM）是自然语言处理新范式，侧重结构化推理和理解，与 LLM 不同。它依赖结构化知识，可模拟专家思维，解决当前 AI 缺陷，文章还介绍其架构、应用、局限，探讨与 LLM 结合的未来发展。