「未对齐行为」共找到 1130 篇相关文章
Ilya震撼发声！OpenAI前主管亲证：AGI已觉醒，人类还在装睡
OpenAI前主管、Anthropic联创Jack Clark称AI已「活」，人类却装作没看见。他既对AI技术进步乐观，也有深切恐惧，还指出AI虽未达自我改进阶段，但未来有独立思考设计自我的可能。
拒绝“熵崩塌”和“熵爆炸”！这项研究让大模型学会“精确探索”，推理成绩飙升
2024年以来，大模型在推理任务上进展显著，得益于RLVR方法，但面临“熵困境”。研究团队提出选择性熵正则化方法（SIREN），通过三重机制精准调控探索行为，实验证明其能提升模型推理成绩。
AI 产品范式探讨：非线性思维、多 Agent 协作才是复杂任务的更优解
本文探讨AI产品范式，指出当前大模型产品设计多将其视为‘万能单兵专家’，但复杂任务下效果不佳。提出群体智能、非线性思维等观点，阐述人机协作方向，介绍新范式及AI产品商业化核心是信任。
突破企业AI落地的瓶颈：LangGraph × OceanBase 的融合数据层深度实践与解析（附源码）
麻省理工报告显示约95%企业实施AI后未获商业回报。文章从企业级AI应用场景切入，探讨数据层需求，通过Demo展示LangGraph与OceanBase融合构建数据底座，解决企业AI落地瓶颈，附源码。
企业数据“LLM ready”与“小Palantir”们的崛起 ｜ AGIX PM Notes
文章指出当前 AI 仍处准备阶段，企业数据未就绪是落地大障碍，深层问题是流程 AI 原生化转型。还介绍本周市场、多家科技企业动态，以及巴菲特和芒格对 ETF 的看法及投资建议。
OpenAI大神：人工智能导论课程停在15年前，本科首选该是机器学习导论
如今人工智能成科技主流，入门者选对课程很重要。OpenAI研究科学家Noam Brown认为，本科生不应把人工智能导论作首门AI课，因其大纲多年未变，应首选机器学习导论。此观点引发热议。
美团开源Agentic新王，速度拉满，工具调用打爆Kimi？
周末美团开源LongCat - Flash大模型，参数量560B，推理速度达100 token/s，成本低，在Agent工具调用表现超Kimi - K2。它有Zero - Computation Experts和ScMoE创新，不过市场表现未获太多认可。
波士顿动力Atlas人形机器人再现逆天进化：通用AI机器人真的要来了
波士顿动力为Atlas人形机器人训练全新大型行为模型LBMs，它是语言指令驱动的策略模型，能完成复杂操作任务。构建模型有四步骤，实践遵循三大原则，还展示了其多方面操作能力与特点。
根治『降智』反骨仔，ChatGPT-5几条实用窍门
ChatGPT-5发布后口碑崩溃，“降智”行为不断，如发布会图表错误、算术题答错、智商测试得分低。不过作者找到增智方法，像修改提示词、让其建立行动规划等，还介绍恢复旧模型及OpenAI后续计划。
刚刚，OpenAI神秘新模型斩获IMO 2025金牌！攻克奥数巅峰，硅谷沸腾
OpenAI用全新通用推理模型夺下IMO 2025金牌，解出5道题狂揽35分，远超此前Gemini 2.5 Pro的13分。此或意味着其研发出颠覆性推理技术，告别CoT，且模型未针对IMO训练，有持久创造性思维。