算法论文7

OpenAI：揭秘大模型幻觉根源与解决之道

探索AGI2025-09-08

AI 摘要

OpenAI指出，多数AI评测非对即错，致模型为得分瞎猜。预训练阶段模型因统计规律会对冷知识猜错，后训练阶段评测缺陷放大问题。建议改造评测，设置信度阈值和错误惩罚。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

OpenAI Astra核心架构：循环深度引争议

The Information记者爆料OpenAI即将推出的Astra模型采用“recurrent depth”新推理方法，该技术能降本提效，但引发AI安全与可观测性担忧。清华与字节论文解决了循环模型“算力不公平”问题，并给出Scaling Law。

最新爆料，Gemini 3.8 Flash明日登场，谷歌已放弃Gemini 3.5 Pro。其编程实力强悍，之前还为Gemini植入智能体视频理解功能，降本提效，可应对多种高难度场景。近期多家AI发布计划撞车，混战升级。

OpenAI将推旗舰模型GPT - 6（内部代号Astra），采用“循环深度”新技术，能榨出14倍参数潜能，降低成本，但会使AI推理过程不可读，加重安全担忧。OpenAI已因该模型“能力过强”踩刹车。

文章邀请鹅厂同事分享被AI“糊弄”的离谱事件，如AI在发票报销、数学计算、编程问题等方面出错，还会编造不存在的信息，其“系统性可信”假象比单纯答错更危险。