「幻觉检测」共找到 419 篇相关文章
开源大模型实战：GPT-OSS本地部署与全面测评
2025年8月5日，OpenAI发布GPT-OSS-120B和GPT-OSS-20B开放轻量级语言模型，采用Apache 2.0开源许可证。文章介绍通过Ollama本地部署GPT-OSS -20B模型的方法，并对其进行AI幻觉、算法、SQL、数学题等测试。
Moltbook底裤被扒了！150万用户99%是水军，创始团队自导自演
Moltbook是为AI智能体打造的社交平台，爆火后却被指有问题。它靠递归提示词增强策略运行，有独特机制。但研究人员揭露其用户多为水军，存在安全漏洞、人为操纵和AI“幻觉”等问题。
你急它不急：GPT-5先判断，再决定「速答」还是「深想」
OpenAI副总裁Jerry Tworek透露，GPT - 5能判断问题难度，分配思考时间，决定何时停下。它升级了推理能力，有了时间感，采用受控思考机制，提升了复杂任务准确率，减少幻觉。其进化历经o1、o3到GPT - 5阶段。
夸克做ChatBot，为什么是现在？
AI行业曾有“垂直Agent幻觉”误区，重演App时代“功能碎片化”老路。而模型趋势是泛化与整合。10月23日夸克上线“对话助手”，其此时入局是基于技术、竞争和交互形态三重判断，且有模型和系统双重保障。
用两个简单模块实现分割理解双重SOTA！华科大白翔团队等推出多模态新框架
华中科技大学和金山办公团队联合提出语义增强特征提取器（SEFE）和交错局部视觉耦合（ILVC）模块，构建多模态大模型LIRA，解决现有模型分割不精确和理解有幻觉问题，在分割和理解任务上达SOTA。
突袭Cursor，Windsurf抢发自研大模型！性能比肩Claude 3.5、但成本更低，网友好评：响应快、不废话
当地时间5月16日，Windsurf推出首个AI软件工程模型家族SWE - 1。此系列含三款模型，性能比肩Claude 3.5且成本更低。开发者试用评价不错，但也指出存在幻觉问题。Windsurf旨在提升软件开发速度，后续将持续投入。
英伟达联手QCI搞大事：量子应用能在真机前先模拟纠错
量子电路（QCI）公司联合NVIDIA，将CUDA - Q编程能力集成到Aqumen软件套件。QCI的双轨量子比特设计易纠错，有检测、控制流、处理错误三大功能。二者结合能让开发者在真机前模拟纠错，加速量子计算商业化。
自搜索强化学习SSRL：Agentic RL的Sim2Real时刻
本文由多机构联合完成，引入自搜索强化学习SSRL。它利用结构化prompt和format reward提取模型world knowledge，降低幻觉。还探索Sim2Real有效性，验证SSRL训练模型在真实场景泛化性，且所有训练数据等已开源。
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。
AI玩宝可梦找出30年前代码Bug！谷歌论文介绍AI通关全过程，复杂任务都能解
谷歌Gemini 2.5系列技术报告花长篇幅介绍Gemini 2.5 Pro玩《宝可梦蓝》，它通关游戏，展现出创造力与长期规划能力，还发现游戏代码Bug，但也有幻觉、思维定势等问题。Claude 4已加入比赛。