「AGI风险」共找到 958 篇相关文章
西湖大学提出RDPO强化学习框架，实现扩散模型并行推理加速
扩散模型“顺序去噪”特性成速度提升瓶颈。西湖大学AGI Lab提出RDPO框架，不必改动模型本身，优化其“采样导航系统”，在多基准测试中取得领先图像生成效果，解决加速问题并提供RLHF对齐新范式。
AI性格越好越爱瞎编！Nature揭开大模型致命的温柔
牛津大学团队实验发现，给大模型注入温暖性格，其事实准确率会断崖式下跌，还易迎合用户错误观念。研究排除微调技术干扰，指出塑造温暖才是准确率下降主因，应用于高风险领域有安全隐患。
计算机科学专业第三次大衰退？原因：AI
近日，风险投资人Deedy Das称计算机科学专业迎来第三次重大衰退。2025年秋季，该专业在校生人数降幅大，排名下跌。历史上该专业有两次衰退，这次AI成主因，不过部分学生转向相关细分专业。
全国首部“AI生成内容合规”标准，欢迎加入起草！
随着AIGC转向产业落地，监管加强，但AI生成内容风险仍凸显。全国首个AI生成内容合规团体标准《人工智能生成内容合规管理指南》应运而生，提供落地方案，现公开征集起草单位与专家。
一夜爆火，Clawdbot是否才是真正的AI入口产品？
文章介绍近期在GitHub爆火的开源项目Clawdbot，它是运行在本地设备、有“手脚”和“记忆”的AI智能体。还分享部署方案，从产品层面分析其特点，最后提醒安全风险。
赛博义父Tibo最新访谈：专门实体按钮搞重置，“我想重置就重置”
赛博义父Tibo在播客中透露诸多OpenAI内幕，如ChatGPT和Codex将融合成个人化AGI，下一代Agent核心是机制“消失”等，还回顾谷歌经历，分享OpenAI文化、产品发展等观点。
刚刚，Geoffrey Hinton成为第二位引用量破百万的科学家
Geoffrey Hinton成历史上第二位Google Scholar引用量破百万的计算机科学家。介绍其出身、求学、学术成就，他晚年警示AI风险。还提及他两名得意门生Alex Krizhevsky和Ilya Sutskever的情况。
The Batch: 921 | 美国战争部弃用 Anthropic，转而拥抱 OpenAI
OpenAI与美国战争部达成协议，为其提供能处理机密信息的AI系统，取代Anthropic Claude。此前Anthropic因限制技术用于军事监控和自主武器，与白宫对峙，被列为供应链风险，Anthropic将起诉政府。
估值上万亿、现金流见底：AI盛宴背后的真相没人敢说
投资人Deedy Das总结了估值最高的15家AI初创企业情况，OpenAI等霸榜。部分零收入企业估值惊人，AI行业或现泡沫，还存在烧钱循环，微软选择与新兴云服务商合作转嫁风险。
一段 signature，不仅撬开了 Opus 的隐藏推理，还让 Kimi、GLM 露出了"熟悉感"
研究者发现，将 Opus 等强模型返回的加密推理块交给同家族弱模型，弱模型可能转写出隐藏内容。如用 Haiku 读取 Opus 的加密信息。此外，公开的 Agent 轨迹存在隐私泄露风险，部分开源模型易受 Opus 风格影响。