搜索：超级智能对齐

「超级智能对齐」共找到 3743 篇相关文章

创智突破：AI首次自主发现106个超越人类设计的神经网络架构

创智学院团队发布的AI超智能系统ASI - ARCH，自主发现106个超越人类设计的神经网络架构，建立“科学发现缩放定律”，实现从“自动化优化”到“自动化创新”转变，还将成果开源推动研究发展。

谷歌开源面向数据库的MCP Toolbox，位于应用编排框架和数据库间，处理连接池等复杂问题，简化工具管理。它能助开发者构建让智能体访问数据库的Gen AI工具，有开发简便等优势。

加州大学旧金山分校团队提出CellTransformer算法，几小时完成5只小鼠脑图谱绘制，还绘出新脑区。该算法能准确对齐已知脑区，可扩展到多动物数据集，未来有望用于人类大脑及其他器官研究。

OpenAI发布全新网页浏览器ChatGPT Atlas，战略上欲让浏览器成操作系统演进形态。它整合ChatGPT，有诸多创新功能，虽对谷歌构成威胁，但实测被吐槽，且智能代理浏览器带来新安全风险。

OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。

谷歌DeepMind的政治哲学家Iason Gabriel入职9年，发明的对齐框架影响Gemini训练决策。在AGI承诺与AI现实伤害间，他追问AI伦理。但技术部署快，6700亿美元涌入赛道，伦理红线被踩。

3月27 - 28日上海全球开发者先锋大会现场举办「OPC极限挑战赛」，要验证一人加AI能否从零跑出真实业务，需回答OPC养龙虾赚钱、环节跑通及项目存活进化等问题，欢迎超级个体报名。

今日字节发布豆包大模型2.0系列，围绕大规模生产环境需求优化，有Pro、Lite、Mini和Code四款模型。其Token单价低一个数量级，多模态理解能力升级，未来将围绕长链路智能系统构建发展。

腾讯实习生分享鹅厂项目实战经验，介绍Agent/RAG黑科技。先讲RAG原理、优化方法及评估流程，还提及文档解析；再阐述智能体定义、历史、原理、分类、评估框架与实践案例，助读者快速入门。

美国南加州大学和宾夕法尼亚大学团队提出新训练范式ERL，将「经验学习」引入强化学习，通过二次尝试和反思蒸馏，在复杂任务中性能显著提升，为构建长期自主智能体提供新思路。