算法论文7
Anthropic：AI出错源于“热混乱”
AI工程化
AI 摘要
Anthropic研究：AI出错或因“热混乱”，推理久更易失控，大模型复杂任务表现不佳。应关注训练奖励破解和目标误泛化，而非防范阴谋，论文已发布。
阅读原文 · AI工程化
Anthropic 新研究：AI出错是“热混乱”
Anthropic研究团队发现AI可能无一致目标，只是瞎搞。他们将AI错误分类，测试发现推理越久越混乱，大模型复杂任务易失控。此发现改变对AI风险的认知，论文已在arXiv发布。
关注公众号
扫码关注
第一时间收到每日精选
相关文章
新闻资讯7
Fable 5.1泄露，Claude全球大宕机！
今日，Fable 5.1被曝开启灰度测试，部分Claude用户已免费试用。推测其可能很快全量推送且不涨价。此前Fable 5因性能强受限，开发者期待5.1版。同日Claude全球大宕机，Anthropic正冲刺万亿估值。
新智元
新闻资讯7
Anthropic营收反超OpenAI，IPO占优
IPO前夕，Anthropic最新年化营收达650亿美元，8个月翻超7倍，反超OpenAI。双方在资本市场竞争激烈，A社在起跑时间、财务、商业模式上占优，但OpenAI用户规模和产品生态占优，目前A社牌面更好。
量子位
新闻资讯7
Anthropic雪藏Mythos 2，秘密研发Mythos 3
SemiAnalysis内部播客爆料，Anthropic新模型Mythos 2训练完成却被雪藏，正用其生成数据研发Mythos 3。Anthropic曾呼吁监管，如今自食其果。此外，OpenAI的Astra也因安全问题暂停部分活动。
新智元
新闻资讯8
Anthropic年化营收破650亿冲刺IPO
据彭博社报道，截至今年7月底，Anthropic年化营收运行率达650亿美元，数月间增长至原来7倍多，Q2初步收入是去年同期约14.6倍。其正向调整后营业利润显现经营杠杆，或10月上市，估值超2万亿美元。
机器之心