「CoT监控」共找到 163 篇相关文章
大模型幻觉检测新方法：实时高亮不确定内容
来自苏黎世联邦理工学院等机构团队，开发流式幻觉检测器，能在生成过程中即时标记幻觉实体。核心是识别具体“实体”是否虚构，实验表现出色，团队已将数据集和代码开源，有局限但应用前景好。
近5w颗星！一个能同时指挥多个AI写代码的开源工具来了
现在写代码，很多人想开多个AI助手。Orca是支持多AI Agent的编程开发环境，各Agent在独立git worktree里运行，互不干扰。它功能丰富，还支持多系统安装。
谷歌发布 Gemma Scope 2，深化对 LLM 行为的理解
Gemma Scope 2 是谷歌推出的解释 Gemini 3 模型行为的工具，结合稀疏自编码器和转码器，能让研究人员检查模型内部表示。它从多方面扩展了原先的 Gemma Scope，还引入针对聊天机器人的分析工具，已发布权重。
浙大校友打造AI代码测试神器，零代码零bug，30分钟创建网站
浙大校友打造的智能测试平台TestSprite 2.0，零代码零bug，30分钟创建网站，能让AI写代码准确率从42%跃升至93%，还可自动生成测试报告、调试修复错误，全程无需人工干预。
只用2700万参数，这个推理模型超越了DeepSeek和Claude
Sapient Intelligence研究者受大脑机制启发提出分层推理模型（HRM），该模型仅2700万参数、1000个训练样本，就在复杂推理任务上超越DeepSeek和Claude等模型，还引入近似梯度等创新设计。
本周推荐的5个超级6的Github开源项目！
本周推荐5个超棒的Github开源项目，有基于Nginx的可视化管理面板、全能型浏览器自动化框架、容器命令行版“任务管理器”、命令行知识管理工具，还有GitHub汉化浏览器插件，各有强大功能和特色。
奥特曼深夜长文警告：AI巨头必须集体「踩刹车」！
本文报道OpenAI创始人奥特曼发布深夜长文，警告AI狂飙已远超安全对齐与监控能力，存在两大致命生存威胁，呼吁全球AI巨头集体降速，推行前置安全管控机制。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
Cloudflare 发现了 hyper HTTP/1 实现中的竞态条件问题并进行了修复
Cloudflare记录开发团队发现并修复Rust常用HTTP库hyper中的罕见漏洞，该漏洞可能截断大型HTTP响应，已在上游修复，引发Rust从业者对事件及处理方式的讨论。
DeepSeek推理最高提速6倍！开源研究：加装「思维进度条」，计算量减少30%
特拉维夫大学团队开发新方法，给LLM推理任务装进度条，控制推理深度和速度。提出“思维进度向量”TPV预测推理位置，干预TPV可“超频”“降频”，模型已在GitHub开源。