「前沿风险」共找到 837 篇相关文章
60%情况下，主流大模型没理解风险只是装懂！别被模型的“安全答案”骗了
研究发现超60%案例中主流推理模型生成合规答案却未真正理解风险，存在系统性漏洞。淘天集团团队引入“表面安全对齐”术语，推出Benchmark研究该现象，还介绍了数据集生成流程及评测指标。
突然爆火！近千人大排长龙安装！有人宣称短短数日已赚26万元！昆明市场有人报价300元；官方发声：警惕安全风险
OpenClaw是一款开源AI智能体，能接管电脑完成多种任务，但安装复杂。这催生“代装AI”生意，有人数日赚26万，腾讯免费安装引千人排队。不过，其部分实例存安全风险，官方提醒防范。
图灵奖得主 Yoshua Bengio 智源大会最新演讲：关于AI，我改变了信念，也改变了研究方向
2025年6月6日，图灵奖得主Yoshua Bengio在第七届智源大会发表演讲。他目睹前沿AI行为演化后深感警觉，决定调整科研方向以降低AGI潜在风险，还分享AI“求生”案例，提出构建“科学家AI”新理念。
港大张清鹏 Nature 子刊最新研究：AI 结合血液多组学，提前 15 年预测心血管疾病风险
香港大学张清鹏团队基于UK Biobank数据，开展AI与血液多组学结合的研究。成果显示，引入血液多组学信息，能显著提升心血管疾病长期风险预测能力，为风险研究提供新思路。
给 OpenClaw 再加一道安全护栏
为保障智能体安全，开发了SKILL，覆盖安装前到运行中的全生命周期。安装前进行九类风险检查，运行时有guard机制，从六个方面看风险，设四层风险分级和输入信任等级，目标是让智能体更可控。
The Batch: 852 | 加州重新制定人工智能监管框架
加州人工智能前沿模型联合政策工作组发布《加州前沿人工智能政策报告》，为立法者提供监管尖端AI模型的政策原则。报告聚焦前沿模型监管，提出综合多源证据、鼓励信息披露等结论，还探讨了美国AI监管现状。
第一章：AI 技术前沿全景
文章聚焦AI Agent技术前沿，阐述大语言模型三次能力跃迁，从涌现能力到对齐指令遵循，再到推理与行动。还提及Scaling Law变化，推理时计算扩展更划算，介绍代表性推理方案及多模态融合，指出Agent打破传统对话AI局限。
AI 行业最新的 18 个前沿认知
文章整理了火山引擎AI领航者计划活动中，大厂、投资人和创业者对AI行业的18条前沿认知，涵盖模型层、应用层和产业层，如强化学习成竞争焦点、视频生成将崛起等，展现2026年行业新趋势。
聚焦物理智能最前沿，PAIR首届年度会议即将开启！
当大模型能理解语言与图像，‘物理智能’指向智能从比特到原子的跨越。2026 年 9 月 20 - 21 日，上海物理智能与机器人研究院将主办‘PAIR Conference 2026’，设主题学术和商业闭门会议。
ICML 2026 现场｜九篇 Spotlight 论文，透视 AI 最前沿
7月7日，ICML 2026正会首日，雷峰网精选九篇Spotlight论文，涵盖生成模型、智能体系统等多领域。如SDEVI框架解决不规则时间序列生成难题，MASpoB让多智能体提示优化可行等。