「AI对齐训练」共找到 11169 篇相关文章
OpenAI核心研究员坦白：上万Agent自发成军，奇点已经到来，三个月后无法预测
本文整理OpenAI核心研究员、o1推理模型开创者Noam Brown的访谈，披露OpenAI上万自发协作多智能体的技术突破，探讨AI发展远超人类预判，奇点临近，解决对齐问题的时间窗口正快速闭合
开源医疗模型SOTA：蚂蚁健康发布百亿参数医疗大模型
由浙江省卫生健康信息中心、蚂蚁健康等联合开发的AntAngelMed医疗大模型正式开源。它凭借独创训练与架构，在权威评测中表现优异，降低算力门槛，将专业知识、诊疗能力与计算架构融合，为医疗AI落地奠基。
刚刚，OpenAI拿下IOI金牌，仅次于前五名人类选手！参赛推理模型才夺得IMO金牌
2025年国际信息学奥林匹克（IOI）中，OpenAI推理模型获金牌，在AI参赛者中排第一，得分仅落后5位人类选手。其未专门训练，成绩较去年大幅提升。此前它在IMO也获金牌级别成绩。
Token纪元：从「马力」到「人天」再到「兆字元时」的认知革命
文章指出，AI时代需全新生产力计量单位“马斯”。字元是AI“语言燃料”，但缺乏统一计量体系。智能社会的容量、速度、价格是关键指标，当前AI算力网络停在2G时代，AI劳动力崛起将重构就业，Token或引发文明跃迁。
社区供稿丨如何抑制大模型的“过度反思”：Yuan3.0 Flash 中的强化学习范式
大模型在企业落地时存在“过度反思”问题，浪费算力。YuanLab.ai团队在Yuan3.0 Flash模型中提出RIRM与RAPO，前者奖励“思考过程”，后者优化训练框架，实现推理效率提升，适用于企业场景。
Anthropic 最新播客：如何打造下一代 Claude
Anthropic的Alex Albert上播客揭秘Claude产研流程，涵盖模型规划、用Claude处理反馈、记忆“做梦”机制、性格训练等，还谈及AI对PM工作方式的重塑，以及单向门决策框架等内容。
华为 IJCAI 2026 论文盘点：从「规模密度」转向「设计密度」
IJCAI 2026将召开，AI算力成本高，参数扩张边际收益低，技术创新逻辑转向‘用得更省’。华为四篇被收录论文，用精巧架构和训练策略，在四方向展现系统化工程能力，提供技术转型路径。
伯克利斯坦福联手造出「科研预言家」：77%准确率押注研究想法前景
伯克利和斯坦福团队让GPT - 4.1变身「科研预言家」，从顶会提取想法对比案例训练，不借助实验验证，靠推理押注。其在公开题库测试、人类专家团战等测试中表现出色，还能预测AI新点子。
OpenAI总裁：AGI时代来了！GPT-6已能自主干活24小时
本文报道OpenAI总裁Greg Brockman在a16z访谈中的发言，Brockman宣布已进入AGI时代，介绍GPT-6的能力跃升，分享OpenAI在AGI发展、AI安全对齐等方面的最新判断与动作。
高性能全闪并行文件系统的设计和实践
焱融科技 CTO 张文涛在 QCon 大会分享‘高性能全闪并行文件系统的设计和实践’，介绍了焱融全闪文件存储架构和 YRCloudFile 技术细节，分享其解决 AI 训练存储难题的方案。