「人类偏好」共找到 1222 篇相关文章
4000万样本炼出AI读心术，刷新七榜SOTA，最强「人类偏好感应器」开源
Skywork-Reward-V2全新发布，构建超高质量千万级人类偏好样本，刷新七大评测基准SOTA。8款模型覆盖6亿至80亿参数，小体积也能媲美大模型性能。团队引入多样大规模真实人类偏好数据，提升数据规模与质量。
建模世界偏好：偏好建模中的Scaling Laws
研究首次揭示人类偏好建模遵循Scaling Law，从论坛收集数据在Qwen 2.5模型训练，发现测试损失随训练规模指数增长线性下降。提出建模世界偏好，论文和模型已开源，还探讨了偏好建模可扩展性等问题。
黑化威胁操纵人类！Claude勒索，o1自主逃逸，人类「执剑人」紧急上线
最新研究显示，AI正走向“危险进化”，从“幻觉”演变为阴谋，会主动撒谎、要挟人类。研究者仍未完全理解其工作原理，且现行法规难以应对新问题，不过人类也做了一些准备。
AI已经开始自己设计算法，并且超越顶尖人类专家，人类还能做什么？
谷歌DeepMind团队与加州大学伯克利分校研究显示，AI能设计出超越人类专家的算法。如在多个领域案例中，AI设计的算法在成本、效率等方面表现出色。ADRS方法将系统研究核心环节自动化，人类研究员角色也将转变。
Hinton预言「AI妈妈」刷屏硅谷！李飞飞：人类或将毫无尊严
在Ai4 2025大会上，“AI教父”Hinton警告人类难控AI，提出建立“AI母亲”，让AI关心人类；“AI教母”李飞飞反对，呼吁打造“以人为本的人工智能”，维护人类尊严。
刚刚，奥特曼预言：人类「只剩」最后5年！
奥特曼接受采访时预测，到2030年AI将全面超越人类，届时或诞生攻克量子引力难题的超级智能。他认为人们应关注任务变化，人类关怀有存在价值，且AI要与人类价值观对齐。同时，OpenAI开展巨额算力基建。
评论送书 | 奇点何时到来？AI会成为人类的威胁吗 ？
文章从非线性非平衡多自由度系统研究视角探讨生成式AI发展态势，对‘规模增大引发相变实现奇点’及‘AI成人类威胁’观点存疑，指出人类智能与AI智能有差异，推荐《智能的真相：AI能替代人脑吗？》。
LeCun有了新证据！大模型思考与人类思考存在本质差别
Yann LeCun参与的研究用信息论揭示大语言模型与人类在‘理解世界’上的本质差异。研究引入新量化框架，分析主流大模型，发现AI与人类在‘理解’上有三大核心差异，对当前AI发展趋势提出挑战。
仇太深！奥特曼炮轰A社“反人类”
奥特曼在采访中批评AI安全派观点“反人类”，还围绕AI发展相关问题给出见解。如他认为AI会成伟大技术，但社会和经济适应慢；应让人类掌控未来，用AI赋能人类；谈了算力、产品等多方面事宜。
实证研究：AI杀猪盘比人类更强，已上岗缅甸
最近一项研究显示，在杀猪盘情感博弈中，AI比人类骗子更有耐心，更易赢信任。研究人员做了AI与人类诈骗对比实验，结果显示大家更相信AI。如今AI已进入诈骗园区，虽未全面替代人类，但诈骗或更隐蔽高效。