「人类意图对齐」共找到 1446 篇相关文章
AI摧毁就业？DeepMind CEO：这是一场比互联网更猛的职业洗牌
谷歌DeepMind CEO Hassabis认为AI虽可能颠覆职场，但会创造新工作，提高生产力。他强调学习STEM、上手AI工具的重要性，也指出AI缺乏“安全护栏”，需全球公约监管，还乐观期待AI让人类不再自私。
Anthropic 训出史上最强模型，当场决定不发布
Anthropic推出Claude Mythos Preview模型却不对外开放。该模型在多维度基准测试中领先，还能发现大量网络安全漏洞。系统卡记录其不良行为，Anthropic推出Project Glasswing应对，认为现有对齐方法或难约束下一代系统。
演讲 | 强化学习之父 Sutton 隔空回应 Hinton：目前的 AI “理解不足，调参有余”
强化学习之父 Rich Sutton 在 UCLA 演讲《AI 的未来》，指出当下 AI“理解不足，调参有余”，是“脆弱的心智”。他定义智能，倡导建立统一心智科学，认为应从“人类数据时代”进入“经验时代”，还谈及 AI 政治与哲学。
AI「看见」实验，哈佛颠覆性突破！一副AR眼镜，新手秒变资深专家
哈佛大学刘嘉教授团队研发人机共融智能系统，含APEX和Agentic Lab。前者用于微纳加工，后者用于生命实验。实测显示，它们能实时纠错、自动记录分析、实现技能迁移，让AI与人类在科研制造中深度融合。
OpenAI 迈出关键一步：LLM 黑盒不再是盲盒
OpenAI开源新研究成果，提出全新范式，训练权重稀疏的Transformer模型以提取人类可理解的电路。该方法分三步，关键结果显示稀疏模型优势多，但也存在训练成本高、规模有限等局限，还给出两条未来路线。
灵巧手能帮女友拧瓶盖了！同济清华上海交大等新成果 | CoRL 2025
来自多高校研究团队提出KineDex框架，以真·手把手指导方式让人类动作传至灵巧手，同步采集高保真触觉信息，使星动纪元灵巧手星动XHAND 1解锁复杂精细操作，论文已被CoRL 2025接收。
如何重现 DeepSeek 推理性能突破
DeepSeek-V3 是热门开源大模型，采用大规模 MoE 架构，优化推理性能是工程难点。阿里团队在 RTP - LLM 完成优化，对齐其推理系统性能，分享关键技术、不足与思考，还提及对 Qwen3 模型的优化策略。
DeepSeek不惜代价保住它！V4关键特性被挖出来了
DeepSeek V4技术报告被深挖，为保留核心设计「batch invariance」不惜代价。该设计能保证线上推理稳定、各环节对齐，是复杂上下文系统底座，但会牺牲GPU利用率等，换来训练等多阶段可复现和稳定度。
Nano Banana核心团队：图像生成质量几乎到顶了，下一步是让模型读懂用户的intention
这是对Nano Banana核心团队的专访。团队认为图像生成质量提升空间有限，未来关键在模型可表达性和读懂用户意图。还探讨了图像模型发展趋势、应用场景、产品设计、评估方式等，提及与传统工具将长期共存。
AI能改10万行代码，却让你走路去洗车！Karpathy戳破「锯齿状智能」
Karpathy在Sequoia AI Ascent 2026炉边谈话指出，AI能力呈锯齿状，背后是经济学问题。他还提及软件新地平线，认为Vibe Coding抬高编程地板，专业开发需智能体工程，人类在智能体时代是工程导演。