「AGI风险」共找到 958 篇相关文章
EMNLP2025 | LLM多次回答一致就一定正确吗？非也
随着LLMs在高风险领域广泛应用，其输出的事实性错误引发安全质疑。中科院计算所和美团团队论文揭示自我一致错误，传统检测方法对此失效，提出跨模型探针法提升检测能力。
只因太信ChatGPT，60岁男子三个月后险进精神病院...
美国《内科医学年鉴》刊登真实病例，60岁男子听ChatGPT建议用溴化钠代替食盐养生，致溴中毒，身心失控。医生实验发现ChatGPT回复缺健康警告，今年已有12起因信ChatGPT住院案例。
马斯克痛失xAI大将！Grok 4缔造者突然离职，长文曝最燃创业内幕
xAI联创Igor Babuschkin官宣离职创业，他回顾在xAI两年，团队120天打造超算Colossus，训出Grok 4。他将创办风险投资公司，马斯克致谢，其离职让xAI未来发布少关键一员。
纽约客：人工智能热潮，正在演变为一场泡沫吗？
科技巨头股价攀升、惊人 IPO 重现，让人想起互联网泡沫时代。作者探讨人工智能热潮是否会演变为泡沫，分析了当前与九十年代的异同，指出虽有泡沫迹象，但也存在差异，一切仍不确定。
AI Coding大佬聊透了：产品智能重要还是用户体验重要？答案让人意外
量子位举办AI Coding沙龙，百度、硅心科技等多位行业玩家参与。探讨AI编程从替代人转向协作、智能体发展、To B与To C界限模糊等话题，指出未来产品智能更重要，编程产品将服务更广人群，程序员技能需转变。
大型语言模型稳定强化学习的新路径：几何平均策略优化GMPO
本文介绍了大型语言模型稳定强化学习新路径——几何平均策略优化GMPO。它是GRPO稳定化版本，通过优化几何平均替代算术平均，解决GRPO训练不稳定问题，在多任务实验中显著优于GRPO。
悟空AI Agent再进化：连斩魔搭社区SWIFT框架RCE 0day漏洞
腾讯悟空AI Agent对魔搭社区SWIFT框架开展深度安全审计，通过人机协同发现两个较难利用的RCE 0day漏洞，获官方致谢。该框架在易用性和高效性上表现出色，此次发现推动了其安全性提升。
来自 OpenAI 离职员工的爆料：关于 OpenAI 的一些思考
OpenAI 前员工分享工作感悟，谈及公司文化、代码管理、个人收获及 Codex 发布情况。指出公司成长快但扩张中问题多，文化自下而上且精英主义，代码库大且围绕聊天构建，Codex 发布迅速成果佳。
Sam Altman:即将推出远超预期的开源模型，ChatGPT记忆功能正在实现《Her》的愿景
Sam Altman在对话中透露OpenAI将发布‘远超预期’开源模型，分享创立初期挑战，明确GPT - 5等演进方向，展望AI伴侣、机器人发展，还向创业者喊话，强调AI用于科学前景。
音频大模型安全可信度的全面“体检”！6大维度，清华南洋理工联手打造
南洋理工和清华团队提出新框架AudioTrust，将ALLMs评估扩至六个核心维度，探究音频模态特有问题。目前基准及平台已开发，揭示了开源与闭源ALLMs在多维度的潜在风险。