「风险提醒」共找到 624 篇相关文章
EMNLP2025 | LLM多次回答一致就一定正确吗？非也
随着LLMs在高风险领域广泛应用，其输出的事实性错误引发安全质疑。中科院计算所和美团团队论文揭示自我一致错误，传统检测方法对此失效，提出跨模型探针法提升检测能力。
只因太信ChatGPT，60岁男子三个月后险进精神病院...
美国《内科医学年鉴》刊登真实病例，60岁男子听ChatGPT建议用溴化钠代替食盐养生，致溴中毒，身心失控。医生实验发现ChatGPT回复缺健康警告，今年已有12起因信ChatGPT住院案例。
马斯克痛失xAI大将！Grok 4缔造者突然离职，长文曝最燃创业内幕
xAI联创Igor Babuschkin官宣离职创业，他回顾在xAI两年，团队120天打造超算Colossus，训出Grok 4。他将创办风险投资公司，马斯克致谢，其离职让xAI未来发布少关键一员。
纽约客：人工智能热潮，正在演变为一场泡沫吗？
科技巨头股价攀升、惊人 IPO 重现，让人想起互联网泡沫时代。作者探讨人工智能热潮是否会演变为泡沫，分析了当前与九十年代的异同，指出虽有泡沫迹象，但也存在差异，一切仍不确定。
大型语言模型稳定强化学习的新路径：几何平均策略优化GMPO
本文介绍了大型语言模型稳定强化学习新路径——几何平均策略优化GMPO。它是GRPO稳定化版本，通过优化几何平均替代算术平均，解决GRPO训练不稳定问题，在多任务实验中显著优于GRPO。
Default Alive：警惕 AI 公司“亏损死亡螺旋”｜ AGIX PM Notes
文章围绕AI公司发展展开，指出要警惕“亏损死亡螺旋”，真正存活的公司需平衡创新与盈利。还总结本周市场，如对冲基金加仓全球股票，同时介绍多起AI动态，像OpenAI发布GPT - 5等。
悟空AI Agent再进化：连斩魔搭社区SWIFT框架RCE 0day漏洞
腾讯悟空AI Agent对魔搭社区SWIFT框架开展深度安全审计，通过人机协同发现两个较难利用的RCE 0day漏洞，获官方致谢。该框架在易用性和高效性上表现出色，此次发现推动了其安全性提升。
AI幻觉成WAIC首个关键词，Hinton敲响警钟，讯飞星火X1升级展示治理新突破
今年WAIC上，‘幻觉’成热议词。诺奖得主Hinton、郑南宁院士等指出AI幻觉问题制约其可靠性与实用性。OpenAI等联手研究CoT监测保障安全。讯飞星火X1升级版在幻觉治理等方面取得进步，为可信AI提供佐证。
一盘大棋！OpenAI「截胡」IMO金牌，奥特曼为GPT-5献上「核弹级」预热
OpenAI用全新通用推理模型拿下IMO金牌，抢了谷歌DeepMind的风头。此模型是融合新通用技术的推理LLM，在推理时间跨度和效率上有进步。奥特曼借此为GPT - 5预热，陶哲轩指出缺乏统一标准时对比AI表现无意义。
Cursor 0.50 版本升级后如何省钱又高效？一份给开发者的避坑指南
本文围绕Cursor编程助手日常应用展开，讲解计费机制、工具调用等核心要点，结合实践给出高效使用方法论与避坑指南，如合理选模型、巧用工具、设置规则等。