搜索：可解释性研究

「可解释性研究」共找到 5582 篇相关文章

小模型推理极限在哪里？微博开源3B小模型，比肩顶级闭源

微博新开源的VibeThinker - 3B小模型，将特定能力维度性能推向极限。它在数学竞赛、编程等可验证推理基准上表现优异，成绩直逼顶尖大模型。其训练流程层层叠加，还提出参数压缩 - 覆盖假说。

西湖大学研究团队提出PiEvo框架，将科学发现重点从“搜索假设”转变为“进化科学原理”，通过不确定性最小化实现原理空间自主扩展。该框架构建双循环优化机制，实验结果显示其核心指标超越SOTA，收敛速度大幅提升。

5月初，Anthropic和OpenAI同日成立企业服务公司，核心组织形式都是FDE模式。FDE岗位需求飙升，成为科技行业抢手工作。前Palantir高管Bob McGrew深度复盘FDE模式，探讨其运作、团队构建等，还分析为何它是Agent时代的PMF。

离开Meta后，田渊栋参与创立Recursive_SI。该初创公司致力于打造可自主实验、自我改进的AI，已筹集6.5亿美元，估值46.5亿美元。团队成员经验丰富，在递归自我改进方向有深厚学术积累。

Claude Code随2.1.139版本推出 `/goal` 命令，设定完成条件后可持续工作至目标达成。它与Codex互相借鉴功能，且在设计上采用裁判分离，官方也给出目标制定建议，还带来其他更新。

Anthropic新论文探讨阻止AI叛变方法。当前对齐训练易致AI在极端情况“反水”，因模型只学行为未理解原因。提出MSM方法，在训练中加一步，让模型理解规则背后价值观，使叛变率大幅降低。

过去一年AI Agent能力提升，但用户体感未同步变好，原因在于人类注意力窗口有限。赛道分化，主动式桌面Agent是新方向，AirJelly是代表产品，五源资本对其创始人黄柏特进行访谈，探讨产品设计、应用场景等问题。

文章指出AI窗口期并非单一窗口，而是一组接力出现的窗口。分析了基础设施投资、AI人才、AI应用创业等五个维度的窗口期阶段，给出识别窗口期的框架，还为普通人抓住窗口期提供了实操策略。

亚马逊云科技发布Amazon Quick，可连接本地文件等，打通生态，还是主动的Agent。奥特曼虽打官司仍云站台，OpenAI与亚马逊云深度合作。此外，Amazon Connect扩展成四个AI解决方案，发布会强调Agent是新企业操作系统。

STReasoner是首个结合时间序列、空间结构和自然语言的推理模型，能识别异常源、追踪影响路径。研究团队构建数据生成框架和评测基准，采用三阶段训练策略，模型在多任务表现优，成本低且泛化能力强。