「前沿风险」共找到 837 篇相关文章
刚刚，Claude Mythos敲响末日警钟！超级智能已在悬崖，Hassabis深感恐惧
前沿AI已能自主攻击、逃逸，Anthropic因太危险暂不发布Claude Mythos Preview模型。谷歌DeepMind掌门人Hassabis、OpenAI CEO奥特曼均发出警告，虽恐惧AI风险却仍推进开发。
AI安全的过去与未来：从大模型到智能体 | 预约
业界提升前沿AI模型和智能体安全性，常用安全评测和‘安全对齐’技术，但未真正解决风险。本次分享将介绍‘内生安全’探索成果，还公布了相关论文信息，刘东瑞等嘉宾将参与。
突发！奥特曼豪宅遭二次袭击，燃烧弹之后又是深夜枪响
奥特曼家继上周五遭燃烧弹袭击后，周日凌晨又被开枪袭击。警方锁定车辆并逮捕两名嫌疑人。奥特曼曾发文感化仇恨者但无效，AI末日论者认为科技大佬推动AI有风险，呼吁采取紧急措施。
社会奖赏激进的人？真相比你想的更残酷
文章探讨社会是否奖赏激进者。从AI使用场景引出话题，指出心理学上冒险者有优势，但存在幸存者偏差。提出应采用杠铃策略，在不对称风险中果断行动，同时强调并非所有领域都适合激进。
从「说错话」到「干错事」：复旦、CityUHK、SMU、UIUC等13家机构联合发布「具身智能安全」综述
具身智能正从实验室走向现实世界，却带来‘干错事’的现实风险。13家机构38位学者联合发布70+页综述，提出‘能力—风险’二象性，梳理各能力层攻击面与风险，还指出研究空白，维护开放资源生态。
OpenAI研究大模型对GDP贡献，三大行业已能代替人类，并自曝不敌Claude
OpenAI推出新评估方法GDPval，跟踪模型在现实任务表现。评估显示前沿模型接近专家水平，Claude Opus 4.1表现最佳，GPT - 5准确性出色。还发布黄金子集和评分服务，其处于起步阶段将持续扩展。
毕马威：企业对AI Agent智能体试点应用猛增
毕马威2025年一季度AI应用报告显示，企业对AI Agent智能体试点应用猛增，自上季度以来试点企业比例从37%升至65%，在各业务场景广泛探索，但应用中面临员工培训难题，企业也采取了风险缓解措施。
Nature发布Delphi-2M模型，提前20年预测你得什么病
2025年9月17日《自然》发表研究成果，欧洲、德国和丹麦科学家改造GPT架构，推出Delphi - 2M模型。它能预测1258种疾病及死亡风险，依据过往病史等提供风险概率，虽有局限但潜力大。
2026 PAIR大会落幕，百余位学者专家共议下一代物理智能
2026年9月21日，首届PAIR Conference暨下一代物理智能前沿论坛在上海落幕，四位院士领衔百余位学界产业嘉宾参会，设置四大学术专场与三场产业闭门会，聚焦物理智能前沿技术与产业落地展开交流。
27岁研究员连辞OpenAI、Anthropic！两家都在拿我们的命下注
本文报道GPT-4o核心贡献者Jacob Coxon接连从OpenAI、Anthropic辞职并退出AI行业，批判头部AI机构陷入竞速赛，罔顾超级智能失控风险，直指行业需共同踩刹车。