思维链(CoT)」共找到 548 篇相关文章

新闻资讯8

刚刚,OpenAI发布CoT监控,增强AI Agent自主能力

今天凌晨,OpenAI发布思维链(CoT)监控技术论文,用于监督AI Agent,增强其自主性。思维监控可调试故障、合规审计,是构建安全透明AI的蓝图,文中还提及CoT监控必要性及有效方法。

AIGC开放社区
算法论文8

年度AI论文!全球三大顶尖模型的防蒸馏机制全面告破:小模型“套出”大模型隐藏思维,Kimi-K3重现概率异常

这篇论文指出三大前沿AI模型厂商API有密码学旁路漏洞,攻击者用轻量级模型就能恢复大模型隐藏思维数据。还揭示部分模型训练或借鉴大模型思维,此漏洞也致企业数据隐私安全问题。

AI前线
算法论文8

DeepMind:Transformer存在拓扑缺陷,思维治标不治本

谷歌DeepMind论文指出,Transformer架构不擅长追踪状态,思维只是给结构性缺陷打补丁,成本高。论文主张用循环架构替代或补充纯前馈结构,还提出多个研究方向,认为下一代模型需构建‘流动的现实表示’。

机器之心
开源动态8

多模态思维如何重塑 AI 与短视频的未来

传统多模态模型在动态视频理解与复杂推理场景面临挑战,快手开源的 Keye-VL 模型在多模态思维技术实现突破。文章解析其核心技术,分享在快手短视频社区的落地应用,还探讨了未来“Think with Video”的技术方向。

AI前线
产品应用7

Kimi K3设计榜登顶焚诀公开:就藏在思维

Kimi K3在Design Arena单次生成前端榜单中夺冠。它做前端设计审美一流,靠独特思维反复迭代优化方案,还具备强大数据索引能力。不过上线48小时因算力不足叫停新订阅。

量子位
算法论文8

多模态后训练反常识:长思维SFT和RL的协同困境

华为与香港科大研究发现,多模态视觉语言模型中,长思维SFT与RL组合难协同增益。研究引入难度分类方法构建数据集,分析各方法表现及组合策略困境,还给出实验发现与未来研究方向。

机器之心
新闻资讯7

思维之父跳槽Meta,不只因为1亿美元!离开OpenAI前泄天机

硅谷人才争夺战升级,Meta砸钱抢人,思维之父Jason Wei从OpenAI跳槽到Meta。他离职前发博客,谈及从强化学习获得的人生启示,还阐述AI领域验证非对称性概念及重要性。

新智元
算法论文8

仅需10%思维标注,等同全量性能!中科院发布推理监督新范式

中科院计算所团队提出新框架PARO,让模型学习固定推理模式自动生成思维,只需标注1/10数据就能达全量人工标注性能,适合规则清晰领域,为推理监督提供新思路。

新智元
算法论文8

思维里的推理步骤,哪些最关键?三招锁定LLM的「命门句子」

杜克大学和 Alphabet 研究者提出在句子层面分析推理痕迹,找出长思维中关键步骤,提高 LLM 可解释性等。提出三种互补方法,还提供开源工具,研究为调试推理失败等提供可能。

机器之心
新闻资讯8

前沿模型被曝年度重大漏洞:加密思维可被轻松提取,GPT,Claude,Gemini 无一幸免

一篇 116 页论文揭示前沿模型思维重大安全漏洞,Anthropic、OpenAI、Google 的 API 因架构问题,模型隐藏推理过程可通过两次 API 调用被大规模提取,还会带来多种安全威胁。

AGI Hunt