「未对齐行为」共找到 1130 篇相关文章
20岁了！劈柴哥发帖庆生：谷歌翻译换了4代AI，第一次有了「呼吸感」
4月28日，Google Translate满20岁，Pichai发帖纪念，回顾其技术发展，从统计模型到神经网络，再到Gemini原生语音模型，Translate不断进化，能保留语调和节奏，虽被大模型抢风头，但仍在持续进步。
第 3 章 Agent 核心功能技术详解
本章以Claude Code及其生态为主参照，介绍现代Agent平台提供类似‘操作系统’机制，包括命令、记忆等。面向熟悉Python与LLM的开发者，按是什么、解决什么问题等展开，还分析了Agent工程核心挑战。
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
苹果与Anthropic合作，开发AI编程助手
彭博消息，苹果与Anthropic合作，为Xcode打造AI编程助手，集成ClaudeSonnet大模型，可自动完成代码编写等工作。现处内部测试，若顺利将向第三方开发者发布，有望改变苹果平台应用开发方式。
Claude一天3崩！API、App、Cowork全挂，打工人集体抓瞎
8月24日Claude一天崩三次，Anthropic状态页三次变红又宣布恢复，但用户仍打不开。故障从中午持续到下午，波及多个产品。8月故障频发，还存在算力枯竭、模型变笨等问题。
重磅！Anthropic内部神秘模型在黎曼猜想上取得突破：关键下界从41.6%推到67.2%
A厂宣布Claude在黎曼猜想相关问题取得进展，其内部研究版Claude将黎曼ζ函数零点满足猜想比例的已知下界从41.6%提升到67.2%，经数学家验证，结果意外且有新方法。
优步通过实时信号与 Listwise 排序改进餐厅推荐
优步在Uber Eats推荐系统引入实时用户信号与Listwise排序法，用实时信号处理层替换早期特征流水线，还引入Listwise排序优化候选餐厅排序，降低特征漂移，保障系统性能。
突发！奥特曼家被扔燃烧弹，OpenAI星际之门也出问题了
OpenAI掌门人Sam Altman住所遭燃烧弹袭击，他反思AI行业乱象，认为AI权力须民主化。同时，OpenAI核心项目星际之门经历人事震荡，战略转向依赖合作，海外英国项目因成本和监管搁置。
Sora 关停背后：为啥它没跑成“视频版 ChatGPT”？
OpenAI Sora 宣布关停，其评论区评价两极分化。它没跑成“视频版 ChatGPT”，问题在于使用频率、成本结构和产品形态。关停或与 OpenAI 筹备 IPO 有关，未来 Sora 团队将推进相关研究。
Anthropic 最新的研究：AI 并未造成失业？
2026年3月5日，Anthropic发布经济研究文章，指出无明显证据证明AI已造成大规模失业。研究提出‘观测的暴露度’衡量维度，发现AI实际使用远低于理论能力，其替代工作进展比预期慢。