「AI对齐」共找到 9745 篇相关文章
死掉的创业公司，成了AI最抢手的训练数据
过去一年，硅谷倒闭创业公司用数字履历重新估价，卖给AI实验室训练agent。产业链迅速形成，中游有SimpleClosure和Sunset等，下游有多家做RL gym的创业公司，不过该产业链面临隐私等敏感问题。
410份Demo，00后把AI应用推进了"深水区"
魔搭社区与Datawhale携手，11所高校、5600+开发者参与AI应用实验。410份初赛Demo中224支战队入围复赛。作品呈现从通用助手到深水区工具等趋势，还有陪跑环节助力从Demo到真产品。
苹果AI自研不动，库克外包给谷歌Gemini了
今天凌晨，苹果与谷歌官宣达成深度合作协议，基于Gemini模型和谷歌云技术构建下一代苹果基础模型，成果之一是今年内上线“更个性化的Siri”。此前苹果自研AI推进不顺，人才流失严重。
谷歌发布 Firebase Studio 重大更新，用于代理式 AI 开发
7月初谷歌伦敦云峰会上，Firebase Studio展示重要新功能，包括自主代理模式、对MCP原生支持及Gemini CLI集成，旨在简化代理式AI开发，让其更自主、信息丰富且融入开发流程。
让 AI 像真人一样操控手机完成各种复杂任务
MobiAgent是强大的移动端智能体系统，含智能体模型家族、加速框架、评测基准。能让AI像真人操控手机完成复杂任务，提供开箱即用App，内置经验检索模块可自动优化规划。
医疗AI智能体全面综述：行业爆发，年增长130%！
研究人员发布医疗健康AI智能体全面综述，梳理其全生命周期。数据显示截至2025年相关论文较2024年增超130%。研究前沿在数据、技术、应用上扩展，同时指出面临的挑战与未来方向。
《动手写AI Agent》权限与安全：让 Agent 不敢乱来
文章指出LLM不理解操作后果，不加权限的AI Agent如定时炸弹。介绍权限模型设计，采用Deny→Ask→Allow三层过滤；给出权限规则结构，用glob模式匹配工具参数；还解释用glob而非正则的原因。
OpenAI 首款AI浏览器发布 —— ChatGPT Atlas ｜附实测
OpenAI发布首款AI原生浏览器ChatGPT Atlas，自带记忆和Agent能力，有chatgpt侧边栏、光标一选就改写等功能，目前仅发布macOS版，后续将推多版本，Agent模式付费且为预览版。
10 分钟 CLI 化任何网站，AI全网一键调用！
AI Agent上网难，传统爬虫易遇反爬问题。开源项目`bb-browser`通过模拟真实浏览器登录态操作，支持36个平台、103个命令，能绕过反爬，还可在浏览器内运行JS等，在GitHub获4.5k+ star。
天翼云息壤筑底AI：夯实基建，驱动智变｜甲子光年
文章指出AI普及需强大平台架构等作为底座，而当前基础设施迭代难满足需求。天翼云在峰会宣布全面升级息壤，聚焦三领域，从夯实技术、提升自主可控、培育生态三方面支撑千行百业转型。