「未对齐行为」共找到 1131 篇相关文章
一个“蠢问题”改写模型规则！Anthropic联创亲曝：瞄准Claude 5开发爆款应用，最强模型的价值会让人忽略成本负担
Anthropic联合创始人Jared Kaplan在YC分享Scaling Law对大模型发展的影响及对Claude等模型的意义。他认为AI发展不平衡，建议构建未完全跑通的产品，还介绍了Claude 4优化，探讨人机协作等内容。
美国版梁文锋来了
美国互联网券商巨头Robinhood的CEO Vlad Tenev投身AI创业，与Tudor Achim联合创立Harmonic AI，从数学突破开始，目前已完成B轮融资，估值达8.75亿美元，目标是构建数学超人类的AI系统。
苹果或搁置自研模型，转向依赖OpenAI或Anthropic
苹果正考虑用第三方AI模型驱动Siri，这是其在AI竞赛中的重大转向。目前苹果多为自研技术，评估外部模型项目已启动，虽未做最终决定，但或借此摆脱AI落后声誉。网友对此看法不一。
AI一眼认出95万物种，还能分辨雄雌老幼，2亿生物图像炼成“生命视觉”大模型
俄亥俄州立大学团队用2亿生物图像训练BioCLIP 2模型，取得最优物种识别性能。它在无相应监督信号的非物种任务中，准确率远超DINOv2，还涌现出物种间生态对齐、物种内差异分离等生物学理解。
从后训练回到预训练，LLM+RL 的潜力兑现有有机会走更远吗？
RL与LLM结合是重要技术方向，应用从后训练延伸至预训练。虽看似为LLM+RL带来希望，但RL本身有局限。微软等提出的RPT有潜力，不过训练语料等未广泛验证，且需大量计算资源。
两个浙大学生决定只用AI生存72小时｜甲子光年
五源资本发起“72小时AI生存挑战”，浙大学生区瀚楠、陈睿轩参与。他们在封闭房间用AI工具生存72小时，先搭建Agent购得物资，后尝试用AI赚钱未成功。此活动灵感源于99年“72小时网络生存测试”。
阿里的 AI IDE 登场了，这事绝对有戏
阿里云正式发布通义灵码的AI原生IDE：Lingma IDE，免费开放，核心功能和Cursor对齐且速度更快。其整合Qwen、DeepSeek系列模型，有感知引擎等亮点，还有企业版适合国内公司。AI编程竞争激烈，阿里有机会做成。
超越 GoF：现代 AI 系统实用设计模式
文章指出AI系统需要设计模式，如GoF塑造软件设计，云计算引入新模式，机器学习社区也有相关模式。文中介绍现代AI系统的5类实用设计模式，含提示和上下文、负责任的AI、用户体验、AI - Ops和优化模式等，并举例说明。
SEO是什么？SEO一般指搜索引擎优化
搜索引擎优化（SEO）是网站经营者利用搜索引擎规则提升网站排名的商业行为，目的是在行业内占据领先地位，获取品牌收益。但SEO技术手段多样，黑帽与白帽方法的选择直接影响网站的长期发展。
机器人也有“Aha Moment”！Zetta ζ 闭环物理智能体在线学习
端到端策略模型在物理世界失灵，现有在线学习路径未走通。清华 AIR 与域变换联合推出 Zetta ζ，通过三个闭环实现闭环物理智能体在线学习，实验显示其任务成功率高，还让机器人出现‘Aha Moment’。