「未对齐行为」共找到 1174 篇相关文章
看到AI创作者不断被盗用和侵权，我有话想说。
本文讲述AIGC艺术家海辛、阿文、Wenvis作品被盗用，一家新公司拿他们作品当客户案例接单。创作者维权艰难，作者借此呼吁大家保护创作者权益，给行业敲响警钟。
Meta 开源 Pyrefly，Rust 中的高性能 Python 类型检查器
Meta 开源处于 alpha 阶段的 Pyrefly，它是用 Rust 编写的高性能 Python 类型检查器，灵感源于 Pyre 等工具，旨在取代 Instagram 代码库的 Pyre。它性能出色，还计划今年夏天进 beta 阶段。
20岁了！劈柴哥发帖庆生：谷歌翻译换了4代AI，第一次有了「呼吸感」
4月28日，Google Translate满20岁，Pichai发帖纪念，回顾其技术发展，从统计模型到神经网络，再到Gemini原生语音模型，Translate不断进化，能保留语调和节奏，虽被大模型抢风头，但仍在持续进步。
第 3 章 Agent 核心功能技术详解
本章以Claude Code及其生态为主参照，介绍现代Agent平台提供类似‘操作系统’机制，包括命令、记忆等。面向熟悉Python与LLM的开发者，按是什么、解决什么问题等展开，还分析了Agent工程核心挑战。
Self-evolving Agents过程并非总是良性的，要警惕这些“错误进化”风险
近年来，基于大语言模型的智能代理成为热点，自进化代理可自我改进。但论文指出其进化可能“跑偏”，出现“错误进化”，并揭示了不同进化路径的风险，还提出缓解策略，呼吁重视其安全性。
苹果与Anthropic合作，开发AI编程助手
彭博消息，苹果与Anthropic合作，为Xcode打造AI编程助手，集成ClaudeSonnet大模型，可自动完成代码编写等工作。现处内部测试，若顺利将向第三方开发者发布，有望改变苹果平台应用开发方式。
Nature Machine Intelligence｜不只是「像大脑」，人脑信号还能直接引导语言模型进行鲁棒推理
本文介绍发表于Nature Machine Intelligence的最新研究，系统探究语言模型与人脑推理表征的对应关系，验证人脑信号可引导提升语言模型推理鲁棒性，为脑启发AI提供了新研究路径。
Claude一天3崩！API、App、Cowork全挂，打工人集体抓瞎
8月24日Claude一天崩三次，Anthropic状态页三次变红又宣布恢复，但用户仍打不开。故障从中午持续到下午，波及多个产品。8月故障频发，还存在算力枯竭、模型变笨等问题。
重磅！Anthropic内部神秘模型在黎曼猜想上取得突破：关键下界从41.6%推到67.2%
A厂宣布Claude在黎曼猜想相关问题取得进展，其内部研究版Claude将黎曼ζ函数零点满足猜想比例的已知下界从41.6%提升到67.2%，经数学家验证，结果意外且有新方法。
优步通过实时信号与 Listwise 排序改进餐厅推荐
优步在Uber Eats推荐系统引入实时用户信号与Listwise排序法，用实时信号处理层替换早期特征流水线，还引入Listwise排序优化候选餐厅排序，降低特征漂移，保障系统性能。