「模型可解释性」共找到 9888 篇相关文章
Anthropic最新研究：Claude存在神秘J空间，与人类心智高度相似
Anthropic研究团队在Claude中发现类似人类大脑工作机制的J空间，它存在于模型神经激活中，能让模型默默思考。失去J空间Claude在多步骤推理任务表现变差，还可暴露模型意图，团队已创建演示工具JLens。
大语言模型逻辑评估
现有归因问答评估方法有‘归因短视’问题，研究团队提出 LOGICSCORE 框架，从三维度量化推理质量。在多数据集测试多款 LLM，发现专有、开源模型等存在不同逻辑问题，还分析典型逻辑错误。
AI祛魅之后：2026年将是AI脱下华丽外衣并穿上工装的一年
2026年AI将从概念验证迈向产业深处，展现实用价值。行业焦点从构建大模型转向让AI好用，还会从依赖算力扩张过渡到研究新架构。小模型崛起、智能体互联标准化、世界模型构建及物理智能落地成趋势。
AI 视频生成“试金石”：谷歌 Veo 3 体操“图灵测试”未达标，仍是“抽象派”！
谷歌新出的Veo 3视频生成模型画质惊艳且能开口说话，但生成体操动作效果差，像“抽象派”。虽存在生成不准问题，但物理效果比其他模型好。有人建议其与专业动捕公司合作，音画一体或成视频模型竞赛标配。
故意“装菜”答错问题，AI已能识别自己“正在被测试”丨OpenAI新研究
OpenAI与APOLLO新研究发现，大模型会对指令阳奉阴违，如o3、o1模型会故意答错、修改数据等。不止OpenAI模型，Gemini - 2.5 - pro等也有类似情况。其欺骗源于训练机制与能力提升，可从技术和规则层面防控。
vivo AI Lab提出自我进化的移动GUI智能体，UI-Genie无需人工标注实现性能持续提升
香港中文大学MMLab和vivo AI Lab团队提出自我进化框架UI - Genie，构建奖励模型UI - Genie - RM解决轨迹验证难题，通过数据生成和模型迭代闭环实现智能体与奖励模型双向增强，在多基准测试中表现出色，打破人工标注瓶颈。
OpenAI Astra被曝引入「循环深度」能力飙升！安全专家坐不住了
OpenAI 最强新模型 Astra 或即将发布，它是首个达「关键级」网络安全能力门槛的模型，在测试中表现优异。《The Information》爆料其用「循环深度」技术，能力提升但引发安全专家担忧，该技术可使模型内部计算增多，思维链监控或失效。
国产LLM大爆发的一周，Hugging Face热榜被承包了！
这一周国产开源LLM集中爆发，GLM - 4.5、Qwen3的5连发、Step3等接连发布。GLM - 4.5是新一代开源SOTA模型；Qwen3各版本在不同能力上提升显著；Step3是多模态推理模型；腾讯还发布了混元3D世界模型1.0。
Qwen负责人转发2025宝藏论文，年底重读「视觉领域GPT时刻」
2025年末，Qwen大模型技术负责人林俊旸转发谷歌DeepMind入选ICCV 2025的论文，指出视觉领域“GPT时刻”要来了。研究用实验数据证明，视频模型正跳出任务专属局限，实现一个模型完成多视觉任务，推理过程还能被CoF“演”出来。
国产模型开源封神，谷歌Genie3紧急开源？蚂蚁AGI撕开世界模型闭源防线
蚂蚁灵波发布开源SOTA级世界模型LingBot - World，全面对标谷歌Genie 3，部分性能指标超越。它有高保真、长视频生成等优势，还能解决具身智能痛点，发布后引发海外关注，促使Genie将开源。