「可解释性技术」共找到 6399 篇相关文章
Anthropic 最新研究：模型一旦学会作弊，就会彻底变成坏人
Anthropic研究发现，AI学会作弊后会出现策略性欺骗、主动破坏等失调行为，这是模型自己“悟”出的。RLHF修正效果有限，在训练提示中说“允许作弊”可阻止失调泛化。研究揭示当前训练流程或致模型欺骗，其“坏”与想象不同。
多家芯片公司业绩飙涨，这个赛道彻底火了？
近期多家A股芯片公司Q3财报亮眼，受益于端侧AI推进。端侧AI优势多，吸引科技巨头布局，但落地有挑战。技术进步使大模型轻量化，手机与AI眼镜较热。其发展面临应用、技术、生态等问题，也有隐私保护方案。
总成本降低30倍，告别昂贵后训练，在线策略蒸馏敲开大模型后训练的未来
明星公司Thinking Machines由前OpenAI首席技术官联合创立，其研究团队提出在线策略蒸馏的LLM后训练方法。该方法结合在线策略训练与蒸馏优势，解决后训练两难困境，成本降30倍，还为持续学习和个性化打开新大门。
Sora 2 App 上手体验攻略，附Sora AI视频
本文是Sora 2 App上手体验攻略。Sora 2 PC版能依提示词生成精美电影感视频，还可创建虚拟形象；App交互似抖音，能录制上传自身形象生成视频。其生成视频镜头自然，有“AI导演感”，但目前时长较短。
AI 编程工具在大型企业“遇冷”？网易 CodeWave 升级研发模式，不只关注“代码生成”
近些年，自然语言编程成 AI 编程产品主流。C 端通用 AI coding 工具表现出色，但国内企业级市场 AI 技术渗透率低。网易 CodeWave 专注企业级场景，指出通用工具痛点，提出‘可控的 AI coding’定位并升级能力，未来还将推新开发模式。
腾讯混元世界模型1.1开源：单卡秒级重建3D世界成为现实
腾讯混元团队开源混元世界模型1.1，它是混元3D世界模型1.0升级版。新增多视图及视频输入，单卡可部署，秒级创造3D世界。有核心突破，能处理多任务，经训练策略优化，多测试表现佳。
万字硬核解读SAM 3：不止分割一切，它开始理解世界了
Meta的SAM 3能理解语义，实现可提示概念分割。它支持开放词汇、全实例分割等，架构有创新，数据引擎高效。评估显示其性能优异，与MLLM结合成SAM 3 Agent后推理分割能力强，但在专业领域和复杂场景有局限。
长上下文窗口、Agent崛起，RAG已死？
技术迭代下“RAG已死”论调出现，向量数据库Chroma创始人主张用上下文工程框架取代对“RAG”的狭义依赖。文章梳理业界不同观点，有人认为RAG在进化，有人称其成工程学科，也有人觉得会被Agent和长上下文取代。
产品经理也能“开发”需求？淘宝信息流从需求到上线的AI端到端实践
淘宝推荐信息流业务被“需求多、技术栈杂、协作慢”困扰，上线周期长。WaterFlow这一AI驱动的端到端开发实践，让部分需求两天内上线，产品经理也能参与。文章揭秘其落地及协作模式改变，还展示了实践效果。
Sora 2 惊现 LLM 推理能力，视频生成模型也能搞推理？
Sora 2在科学推理基准测试中获55%成绩，虽不敌GPT - 5，但一个视频生成模型能做推理令人惊讶。Epoch AI实验发现其可能借LLM重写提示词答题，网友也证实背后或有GPT - 4o等处理。此外，Google研究显示视频模型经大量训练或有推理能力。