「隐藏思维链」共找到 556 篇相关文章
后训练中的RL已死？MIT新算法挑战传统后训练思维，谢赛宁转发
MIT研究人员提出RandOpt新算法，挑战传统后训练思维。该算法通过随机扰动和集成突破限制，在多任务中表现出色，揭示了预训练模型权重空间的“神经丛林”现象，引发AI社区关注。
AI 产品范式探讨：非线性思维、多 Agent 协作才是复杂任务的更优解
本文探讨AI产品范式，指出当前大模型产品设计多将其视为‘万能单兵专家’，但复杂任务下效果不佳。提出群体智能、非线性思维等观点，阐述人机协作方向，介绍新范式及AI产品商业化核心是信任。
Cursor 套壳、Cloudflare 上架、老黄邀请，中国模型杀进了硅谷的 AI 供应链
3月19日，Cursor发布新模型Composer 2，后被发现底层基于中国Kimi开源模型K2.5微调。此外，Cloudflare将K2.5上架到边缘计算平台，成本降77%；黄仁勋邀Kimi创始人演讲；马斯克两度点赞Kimi。
DeepSeek推理最高提速6倍！开源研究：加装「思维进度条」，计算量减少30%
特拉维夫大学团队开发新方法，给LLM推理任务装进度条，控制推理深度和速度。提出“思维进度向量”TPV预测推理位置，干预TPV可“超频”“降频”，模型已在GitHub开源。
用隐藏指令诱导AI给论文打高分，谢赛宁合著论文被点名：认错，绝不鼓励
最近，一些简单提示词在AI学术圈掀起风波，操作者将其隐秘嵌入论文诱导AI给高分。谢赛宁合著论文也涉此事，他紧急回应，承认过失，解释缘由并采取补救措施，还呼吁探讨AI时代科研伦理。
一段 signature，不仅撬开了 Opus 的隐藏推理，还让 Kimi、GLM 露出了"熟悉感"
研究者发现，将 Opus 等强模型返回的加密推理块交给同家族弱模型，弱模型可能转写出隐藏内容。如用 Haiku 读取 Opus 的加密信息。此外，公开的 Agent 轨迹存在隐私泄露风险，部分开源模型易受 Opus 风格影响。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
刚刚，OpenAI发布CoT监控，增强AI Agent自主能力
今天凌晨，OpenAI发布思维链（CoT）监控技术论文，用于监督AI Agent，增强其自主性。思维链监控可调试故障、合规审计，是构建安全透明AI的蓝图，文中还提及CoT监控必要性及有效方法。
开源模型竟被用于窃取下游微调数据？清华团队揭秘开源微调范式新型隐藏安全风险
清华、墨尔本大学团队研究指出，基于开源模型微调专有模型存在新型隐藏安全风险，开源模型发布者可埋后门窃取下游微调数据，新风险难检测、危害大，目前攻防方法待改进。
AI 终于学会 「自我坦白」！Anthropic最新论文震撼来袭，「内省适配器」让黑盒模型自己说出隐藏行为
2026年4月28日，Anthropic联合剑桥大学发布论文，提出“内省适配器”技术，可让大模型用自然语言“坦白”微调中学到的行为。该技术在AuditBench基准测试等实战中表现出色，但也存在高误报率等局限。