搜索：智能体安全评估

「智能体安全评估」共找到 4656 篇相关文章

图灵奖得主Hinton国内首次现身演讲：AI超越人类后，我们该怎么做

在世界人工智能大会WAIC上，图灵奖得主杰弗里・辛顿发表演讲，围绕AI历史、未来等展开。他认为大语言模型与人类理解语言方式相似，数字智能知识分享效率远超人类，还提议构建网络让AI向善。

著名数学家陶哲轩在与播客主持人Dwarkesh Patel的对谈中分享使用AI一年后的观点，认为AI已将想法生成成本降至几乎为零，但验证和评估成新瓶颈，还探讨其对数学研究的影响及未来发展。

理想推出首款AI眼镜Livis，售价1699元起，整备重仅36g，续航18小时。它能控车、有头枕音响，还可拍照录像。采用流式智能语音框架，核心亮点是理想同学语音助手，意在构建以车为核心的AI生态。

OpenAI研究员姚顺雨在播客访谈中分享诸多新颖观点。他认为创业公司机会在设计新交互方式，未来或产生超越ChatGPT的超级应用；还指出语言是实现泛化的工具，强化学习有泛化趋势，智能边界由不同超级应用共同定义。

今天凌晨Anthropic召开开发者大会，发布Claude 4，含Opus 4和Sonnet 4。Opus 4编程智能体连续工作7小时破纪录，Sonnet 4在SWE - bench表现超前沿模型。还新增功能，Claude Code开放，API也有新特性，Sonnet 4免费但有限制。

Hinton在演讲中提出“凡人计算”概念，指出生物智能会随肉体消亡，而AI软件与硬件解耦可“不朽”，还怒怼乔姆斯基，认为大语言模型理解语言方式与人类相似，且数字计算在知识共享上远超生物计算。

Ilya Sutskever 在播客访谈中深度探讨AI问题。他指出模型考试强但应用差，是因泛化能力不足；认为AI扩展时代结束，研究时代来临；还谈及AGI应是学习者，以及AI部署、安全对齐等观点。

本文分析1.8亿份全球招聘信息，发现AI不是造成大规模失业主因，影响因岗位而异。创意执行类岗位下降多，AI基建岗位增长，程序员、客服、销售较稳定，高层受冲击小，还给出评估岗位安全的建议。

上海AI Lab的OpenDataLab团队通过大规模实验剖析RLVR在多领域推理机制。构建多领域评估框架与定制奖励策略，基于Qwen2.5 - 7B系列模型联合训练，有多项关键发现，为构建AI推理模型提供参考。

一条10分钟一镜到底的Demo视频引发关注，视频中宇树和智元的机器人同用一个“大脑”，完成多种任务，如擦窗、收纳等，还展现出跨本体协作等能力。该模型跳出主流具身模型固有框架，或改写具身智能行业认知。