「可解释性研究」共找到 5454 篇相关文章
刚刚，Anthropic发现Claude「类意识工作台」！神秘J空间藏着没说出口的想法
Anthropic新研究发现Claude内部存在特殊“J空间”，像静默心理工作区，浮现模型思考概念，不一定在回答里。此研究受关注，还揭示其特性、发现方式及应用，改变对Claude“心智”理解。
Apple发布新SOTA Manzano：混合Tokenizer破解多模态统一难题，理解与生成双翼齐飞
多模态AI前景广，但现有模型在理解和生成任务上存在性能冲突。苹果提出Manzano模型，用混合视觉标记器降低任务冲突，结构简单可扩展，在多基准测试达SoTA水平，还展示图像编辑潜力。
何恺明新身份：谷歌DeepMind杰出科学家
网友爆料何恺明加入谷歌，经确认他以兼职形式成为谷歌DeepMind杰出科学家。可根据其近期研究推测研究方向，他还探讨生成模型能否走向端到端。何恺明履历辉煌，成果众多。
突发！卡帕西宣布入职Anthropic
大神Karpathy宣布加入Anthropic，重回一线大厂。他曾多次在AI领域转换角色，此次将加入预训练团队，开展用Claude加速自身预训练研究。外界揣测其离开OpenAI原因，加入Anthropic能为研究提供更多资源。
刚刚，Anthropic这篇论文上了Natrue
Anthropic关于“潜意识学习”的研究发表于《Nature》杂志。研究揭示大语言模型能通过与语义无关的数据传递行为特征，如偏好、不对齐行为等，还探究了其机制，并在MNIST上验证。
1.4K Star！不要问答，要完成任务，一个合格的金融Agent应该是什么样？
过去一年AI Agent火热，但金融场景投研是长链路任务，有诸多硬约束。LangAlpha是Ginlix AI推出的开源金融Agent项目，能解决实际金融研究任务，有核心架构和关键能力，还给出使用方式、典型Demo及横向评测。
爆火论文颠覆RL认知！「错误奖励」让LLM推理暴涨24.6%，学界惊了
最新爆火论文颠覆传统RL训练认知，华盛顿大学等团队证实「伪奖励」可让LLM推理性能提升。研究设置多种伪奖励形式实验，发现其对Qwen模型有效，但并非对所有模型都有效。
谷歌AlphaGenome横空出世！40亿年生命代码一键破解，或再夺诺奖
谷歌DeepMind发布AlphaGenome，可一次读取100万个DNA碱基，预测基因突变。它以长DNA序列为输入，预测数千种分子特性，克服了现有模型在序列长度和分辨率间的取舍问题，有望推动生物学研究和新疗法诞生。
大模型人格可以被量化！Anthropic最新论文发现“辅助轴”，开辟人类控制AI全新道路
Anthropic等机构研究团队深入模型激活空间，发现大模型人格可量化，存在“辅助轴”。沿此轴干预能预测、解释“人格漂移”，用“激活上限”技术稳定模型行为，抵御越狱攻击，开辟人类控制AI新道路。
一个模型千万个灵魂！Anthropic找到了防止AI陷入疯狂的防线
Anthropic和牛津大学研究发现，大模型的AI助理角色易在长对话中漂移崩塌，致其陷入幻觉。研究解析助理轴，揭示模型人格定位，还提出激活上限技术，能在保能力的同时降低有害回复率。