「自主性风险」共找到 1406 篇相关文章
谷歌发布 Firebase Studio 重大更新，用于代理式 AI 开发
7月初谷歌伦敦云峰会上，Firebase Studio展示重要新功能，包括自主代理模式、对MCP原生支持及Gemini CLI集成，旨在简化代理式AI开发，让其更自主、信息丰富且融入开发流程。
下周聊：出海第一步，AI 科技公司需要关注的 5 个法律合规问题
AI创业应尽早出海，但不同地区法律法规等复杂。文章邀请专业人士，下周四线上分享科技公司、AI创企出海面临的合规风险、典型案例及应对方法，还提及需关注的软硬件法律风险等问题。
Ilya闹翻，奥特曼400万年薪急招「末日主管」！上岗即「地狱模式」
近日，奥特曼为OpenAI招募「准备工作负责人」，年薪55.5万美元加股权，约400万人民币起步。该岗位像「救火队长」，要管控AI风险，因当前AI风险更严峻，且OpenAI安全团队人员流失。
四面楚歌，奥特曼妥协了！OpenAI公布重大公司调整，放弃成为营利性公司
OpenAI宣布放弃营利性转型，回归非营利初心。未来公司结构有四大特点，CEO Sam Altman想打造「全球大脑」，让AGI惠及全人类。但微软作为最大投资方持保留意见，其批准是关键。
ICCV 2025 | 机器人自主探索未知复杂空间？GLEAM破解主动探索建图的泛化难题
文章聚焦机器人在未知复杂空间的自主探索建图难题。香港中文大学与上海人工智能实验室联合提出GLEAM，搭建GLEAM - Bench基准，设计通用策略，实现零样本适配未知空间，在多指标上超越先前方法。
突发！OpenAI停止强化学习训练两周
OpenAI发文称暂停最新模型强化学习训练两周，加固研究环境、进行红队测试等。部分低风险训练已恢复，最大规模前沿模型训练仍暂停。此举源于Hugging Face安全事故及Astra模型潜在风险。
重新审视SFT的泛化能力：优化动态、数据与模型能力的条件性分析
上海人工智能实验室等联合研究质疑了‘SFT倾向于记忆，RL实现泛化’观点，指出SFT泛化是条件性现象，受优化动态、训练数据、基模型能力影响，还揭示长思维链SFT会带来安全性能退化。
全球首个自主科研Agent挑战赛！零人工干预冲击CNS成果SOTA，科研变天？
3月1日，由上智院和复旦大学主办的‘AI4S智能体CNS挑战赛’启动报名。赛事聚焦自主科研智能体，设四项挑战任务，要求零人工干预，超越CNS成果SOTA。评审阵容强大，旨在推动科研范式变革。
Andrej Karpathy：AI本质是「软件2.0」，并非电力或者工业革命
Andrej Karpathy分享AI影响经济的思考，认为应将AI视为“软件2.0”，提出预测AI自动化能力的“可验证性”指标，回顾软件1.0，阐述软件2.0，指出“可验证性”决定AI进展的“锯齿状”前沿。
AI4S回归白盒符号主义，清华等联合发布SR-LLM：自主发现科学知识
清华大学等多所高校联合发布SR - LLM，这是融合大语言模型与深度强化学习的符号回归框架。它从数据生成可解释数学模型，在跟车行为建模等任务表现优，为机器自主科学发现开辟新路径。