「未对齐行为」共找到 1124 篇相关文章
Anthropic 发布最新劳动市场影响报告：AI 已拿下 75% 的程序员工作、且能做的还有很多
Anthropic发布报告，用Claude真实使用数据度量AI对劳动市场的影响。提出‘观测暴露度’指标，显示AI远未达理论上限，高暴露职业集中在白领，目前失业率未升，但年轻人入职放缓。
13 年苦熬到 170 亿市值，一夜间被用户抛弃！一封“AI吹”全员信让网友“不喷不行”
Duolingo是热门教育应用，市值约170亿美元。其CEO发“AI优先”全员信引发网友不满，公司曾依赖人类创作者，后用AI生成内容问题频出，还试图用搞笑视频化解危机，却未奏效。
GPT-6 Astra全面解析 - “欢迎来到AGI时代。”
GPT - 6 Astra在全球AI大宕机后正式亮相，是全球最智能且最对齐的模型。它有诸多新特性，如操作电脑能力强、ARC - AGI - 3跑分高、审美提升等，但也带来思维链难监控等新问题。
代码生成要变天了？被质疑架空后，Yann LeCun携320亿参数开源世界模型“杀回来了”
美国当地时间9月24日，Yann LeCun团队发布320亿参数代码世界模型CWM。它创新训练方式，能模拟代码执行。性能测试表现出色，还开放检查点。Meta AI业务重组，CWM发布或表明未彻底放弃开源。
刚刚，Anthropic开源Claude挑战黎曼猜想的4篇论文
Anthropic开源未公开版本Claude挑战黎曼猜想的4篇论文。Claude虽未证出猜想，但将零点在临界线上的比例下界从41.6%推到67.2%。整个过程由多智能体自主完成，还建立严格验证体系。
3大AI服务接连故障：换模型为什么未必能救你？
昨晚，ChatGPT、Claude、Grok 三大 AI 服务接连故障，公开信息未明确共同根因。文章指出，很多人把换模型当容灾，却未检查备用方案独立性。还介绍故障时间线、可能原因及应对措施，强调可靠性重要性。
Hermes推出Curator功能：自动清理Skill 仓库
Hermes推出Curator功能解决技能仓库膨胀问题。它每7天（可配置）自动运行，检查技能使用频率等数据，将30天未用技能标记为‘stale’，90天未用的移至归档目录，还能建议技能合并方案。
吴恩达：一边是CS毕业生“过剩”，一边是AI人才抢破头，问题出在哪？「cs专业依然是王牌」
吴恩达分享对CS专业人才市场的观察，指出市场对AI开发者需求未满足，而新毕业CS学生失业率上升。根源是高校课程未跟上AI提升编程生产力的步伐，还阐述了AI工程师核心能力及人才短缺趋势等。
Replit 怒锤“欧洲版 Cursor”：造出百款“高危”应用，普通开发者一小时内黑入，氛围编码成了黑客“天堂”？
近日，Replit员工报告“欧洲版Cursor”Lovable有安全漏洞，虽早收到通报却未修复。员工扫描其1645款应用，170款可让人访问用户信息。多位工程师成功“黑入”，Lovable虽有改进但仍未解决底层问题。
硅谷VC新玩法"Kingmaking"：还没写代码也能拿到上千万投资
过去半年，三家未成型AI公司各获超5000万美元投资。如今VC采用“造王术”，在代码未写时就砸钱。因大模型烧钱、头部效应强，投资人想用钱堆出“冠军”，这也给小团队带来机会。