「AI对齐训练」共找到 11171 篇相关文章
AutoGLM 2.0 深度解析：云端智能体的技术跃进与现实挑战
2025 年 GUI Agent 赛道升温，多数产品依赖本地执行。智谱 AI 在 8 月 AutoGLM 2.0 闭门交流会上展示新路径，其由国产模型驱动，具多能力，在 Agent 云端执行架构、训练方式等方面有突破，也面临一些挑战。
GLM-5真够顶的：超24小时自己跑代码，700次工具调用、800次切上下文！
GLM - 5正式发布，把开源AI带入长任务时代。它超24小时自己跑代码，完成GBA模拟器，能力稳定。评测结果佳，在主流测试中编程能力与Claude Opus 4.5对齐，引发网友欢呼。实测还展现多种应用能力。
人格向量：大模型性格的数学解码与精准操控
大语言模型在应用中会出现危险行为偏移与训练引发的非预期偏移，传统方法难监控干预。本文发现人格特质在线性方向表现为“角色向量”，实现提前预测、实时监控和主动控制，为AI安全提供数学框架。
MiniMax-M1：全球首个开源超长上下文大模型，超越DeepSeek-R1，推理成本仅1/4
MiniMax-M1是全球首个开源超长上下文大模型，刷新三项记录。它采用混合专家架构，闪电注意力让推理复杂度近乎线性增长。CISPO算法加速训练，成本低。在工业级任务测试表现佳，已开源且方便开发者接入。
vivo发布端侧多模态模型，只有3B可理解GUI界面，20项评测表现亮眼
vivo AI Lab发布端侧多模态模型BlueLM - 2.5 - 3B，融合文本与图文能力，支持长短思考模式切换。它在20余项评测中表现出色，参数量小，训练和推理成本低，有精巧结构、高效策略，还有高质量数据和高性能平台支撑。
LLM+RL遭严重质疑，随机/错误等虚假奖励也能提升至标准效果？
论文在AI领域观察到类似随机给糖或奖励错误答案让孩子成绩提升的现象，‘虚假奖励四大奇招’效果接近用标准答案训练，Qwen2.5 - Math - 7B模型在测试集上性能飙升，还揭示了Qwen特别的原因及随机奖励有效的推手。
斯坦福提出新的RL范式，让3B模型的Agent超越Claude、GPT-4
斯坦福提出新的RL范式，让小模型Qwen2.5 - 3B经训练后性能超越Claude - 3.5 - Sonnet等大模型。论文解决了RL在代理环境中可变时长动作优化偏差和稀疏奖励两大挑战，为AI代理发展指明方向。
刚刚，一口气连发3个王炸模型、亮出2026年AGI战略，昆仑万维夯爆了
27日下午，昆仑万维在2026中关村论坛发布全新AI游戏世界模型Matrix - Game 3.0、AI视频大模型SkyReels V4和AI音乐大模型Mureka V9，还公布2026 AGI战略，推动AI从全模态能力突破进入平台化构建阶段。
字节发布全球首个预测未来基准FutureX，Grok-4 拿下冠军
字节跳动发布全球首个实时未来预测基准测试FutureX，杜绝模型作弊。在25个模型评测中，Grok - 4夺冠。它从多网站构建问题，分四级难度。人类专家在部分等级仍领先AI 。
美国计算机就业炸了：名校毕业投5000家无人问，不如生物、艺术史，麦当劳打工也不要
纽约时报报道，纽约联邦储备银行数据显示，22 - 27岁计算机专业毕业生失业率高，远超生物和艺术史专业。AI发展使科技公司减少初级软件工程师招聘，毕业生求职难，昔日“金饭碗”褪色。