「人机对齐」共找到 454 篇相关文章

算法论文8

名师一定出高徒?清华团队最新揭秘:别再迷信大模型蒸馏的「免费午餐」

当下大模型后训练中,On-Policy Distillation(OPD)成明星技术,业界采用后报告性能提升。但清华团队研究发现,换更强Teacher,Student性能可能无提升甚至倒退。研究揭示蒸馏成败条件,深挖对齐机制,还给出拯救失败蒸馏的方法。

机器之心
8

Scaling时代终结了,Ilya Sutskever刚刚宣布

Ilya Sutskever 在访谈中称「Scaling 时代已终结」,指出当前模型存在能力参差不齐、泛化不足的问题。他认为人类情绪类似价值函数,人类学习效率高。未来 AI 发展将进入研究时代,他还分享了 SSI 战略及对 AI 对齐等问题的看法。

机器之心
新闻资讯8

陶哲轩,用AI爆改科研范式

菲尔兹奖得主陶哲轩让ChatGPT把数学论文翻译成Lean代码,与AI合作完成埃尔德什第613号问题反例的形式化证明。人机配合虽有波折,但AI节省了时间。此外,两位数学家也用AI验证第707号问题反例,数学证明正进入‘AI辅助时代’。

新智元
新闻资讯8

上海外滩大会官方艺术展《纠缠,而后日以作夜》

本文介绍2026 Inclusion·外滩大会首届官方AI概念艺术展《纠缠,而后日以作夜》,是外滩大会创办以来首个AI艺术节板块,也是国内首个Agent导览的AI概念艺术展,梳理AI艺术发展脉络,探讨人机共生关系,呼吁保留人类决策能力。

MANA新媒体艺术站
新闻资讯8

李想重画具身智能

理想汽车在成立的十一年里,擅长将复杂技术与家庭出行需求对齐。2026年,理想不再满足于打造更好的家庭车,提出造能感知、思考、行动、反馈的硅基生命体。李想提出具身智能上下半场论,理想重构研发体系,以造人方式造车。

远川科技评论
产品应用8

Anthropic新模型杀疯了!成本直降 2/3、性能直逼GPT-5,用户实测:比“吹”的还强,速度超 Sonnet 3.5 倍

Anthropic发布Claude Haiku 4.5版本,成本降2/3、性能逼近GPT - 5,速度超Sonnet 3.5倍。该模型已全平台上线,可处理大文件,安全对齐性佳。它能与Sonnet协同,适用于企业与软件开发,Anthropic业务也在爆发式增长。

InfoQ
开源动态7

香港科技大学、Manycor开源空间大模型,超3000颗星

香港科技大学、Manycore联合开源空间大模型SpatialLM,用于处理3D点云数据。它结合点云特征提取、对齐和语言生成,实现高效转换。研究团队经多种尝试选定基于点的方法及Sonata编码器,还选Qwen2.5 - 0.5B为基础模型。

AIGC开放社区
新闻资讯8

李建忠对话 KK 凯文.凯利:通用智能是个伪命题,AI 不应该模仿人类 | AI 进化论

CSDN策划的“AI进化论”直播栏目,超50万人观看。李建忠与凯文·凯利跨洋对谈,涉及人机交互、智能路线等十大话题。凯利观点犀利,如认为通用智能是伪命题,AI创造力是“异人”的,科技巨头难在AI时代保持主导等。

AI科技大本营
新闻资讯9

Claude有意识了?科学家首次挖出关键拼图,还能伸手改它的念头

本文报道Anthropic最新研究,团队在Claude大模型中发现自发形成的J-space区域,匹配意识研究的全局工作空间理论,人类可直接读取、修改AI未输出的内部想法,揭示了现有AI对齐评测的重大漏洞,为AI意识研究提供了工程化路径。

新智元
新闻资讯9

自进化AI「杀」进物理世界!王者峡谷屠神,从0打到全胜

本文报道爱思科技在南京物理AI与世界模型大会上,展示自研双进化自进化AI系统:王者荣耀AI战队从零胜率打到人机100%全胜,还实现机械臂边干活边迭代进化,打通AI进入物理世界的路径,开源了Agent基础设施Agnes Harness。

新智元