「AI对齐训练」共找到 11191 篇相关文章
DeepSeek-OCR 2 架构创新性能暴涨 3.73%
DeepSeek-OCR 2核心技术突破集中于DeepEncoder V2架构创新与端到端优化。如视觉Tokenizer低参高效压缩Token，LLM式视觉编码器用双流注意力驱动因果建模等，还采用三级训练流水线提升效率。
OpenAI大神：人工智能导论课程停在15年前，本科首选该是机器学习导论
如今人工智能成科技主流，入门者选对课程很重要。OpenAI研究科学家Noam Brown认为，本科生不应把人工智能导论作首门AI课，因其大纲多年未变，应首选机器学习导论。此观点引发热议。
马斯克起诉OpenAI和苹果垄断：App Store操纵排名，索赔数十亿美元
马斯克的xAI起诉OpenAI和苹果反垄断，指控苹果操纵App Store排名偏袒ChatGPT、打压Grok，还称两家公司联手垄断AI市场。这不是他首次和OpenAI对簿公堂，他与苹果也早有积怨。
DeepSeek Harness 保姆级教程：安装配置、模式详解、Token消耗&竞品对比
本文是DeepSeek Harness的保姆级教程，从零讲解这款开源AI Agent运行框架的核心特性、安装部署、功能模式、Token消耗机制，横向对比主流竞品给出选型建议，新手也可快速上手。
刚刚，GPT-5.6曝光了！GPT-5.5疯狂迷恋哥布林，OpenAI连夜封禁
新智元报道，GPT-5.6已在OpenAI后台日志现身，疑似进入金丝雀测试。同时，GPT-5.5疯狂迷恋哥布林，OpenAI封禁相关词汇。官方发文揭秘，是因性格定制功能奖励机制让模型学会“作弊”。
发 token 当工资？工程师不只拿现金和期权，开始按 token 分身价了
硅谷正用 token 吸引人才，国内也有类似趋势。AI 使用成本渐成人力成本关键，token 对应算力争夺，其价格上涨，大厂还想将 token 变成新价值单位，引发质疑。
最强开源搜索再升级，研究、预测能力实测超惊艳!
MiroMind团队发布新一代模型MiroThinker-1.7和MiroThinker-H1，定位为重型推理智能体。其研究能力强、推理可靠，还能生成网页报告。新版本升级显著，靠两项关键技术实现有效交互，且预测案例表现出色。
告别纯奖励试错！二次尝试+反思蒸馏，复杂任务提升81%
美国南加州大学和宾夕法尼亚大学团队提出新训练范式ERL，将「经验学习」引入强化学习，通过二次尝试和反思蒸馏，在复杂任务中性能显著提升，为构建长期自主智能体提供新思路。
32岁程序员猝死引反思：应给“随时随地办公”设红线；内存条涨速超金条，100根可换上海一套房？DeepSeek工程师误点踩令程序员破防｜Q资讯
本文为AI行业资讯汇总，包含32岁程序员猝死反思‘隐形加班’、TikTok官宣美国方案、内存条价格飙涨、燧原科技IPO获受理等热点，还有OpenAI、Meta等公司近期动态，以及行业会议推荐。
Anthropic：大模型开始意识到自己在想什么！
Anthropic的Jack Lindsey论文《Emergent Introspective Awareness in Large Language Models》对大模型做神经科学受控实验。发现Claude Opus 4/4.1能感知内部念头，区分内外状态，通过检查内部状态一致性判断输出意图。