搜索：超级智能对齐

「超级智能对齐」共找到 3763 篇相关文章

京东深夜开源，首个完整通用Agent产品，直指行业SOTA！

京东深夜开源业界首个“开箱即用”完整多智能体产品`JoyAgent-JDGenie`。与大多为SDK或框架的开源项目不同，它是端到端完整产品。在GAIA榜单表现佳，架构清晰且有技术创新，使用和二次开发简单。

本文指出机器人产业正补触觉这一课，2026年以来触觉成具身智能热门方向。但给机器人装传感器不代表其有触觉。以他山科技为例，剖析其全栈布局，探讨让机器人从物理世界获经验的路径及产业发展机会。

2026年大模型在中小企业办公环境中应用不佳，工具与场景脱节。华为云推出专为中小企业的Flexus AI智能体平台，它依托自研模型，在多场景准确率领先，已在多行业验证效果，还能辅助内容创作。

ChatGPT三岁生日时，DeepSeek两款开源模型DeepSeek-V3.2和DeepSeek-V3.2-Speciale引发热议。它们在智能体评测中表现出色，缩小了开源与闭源模型差距，还降低了成本，给硅谷闭源AI公司带来压力。

北京时间7月10日，马斯克团队发布Grok 4，其基准测试成绩惊人，在‘人类最终测试’等表现出色。它成功源于多智能体协作、追求真相哲学和高算力投入，还在多领域展现应用潜力，同时公布定价并坦言短板。

OpenAI官宣下一代旗舰模型GPT - 6 Astra，定义其为「世界上最智能、对齐程度最高」的模型。它多项基准测试成绩惊人，在编程、计算机使用等多领域表现卓越，还改写科研纪录，不过因安全能力强暂未全开放。

本文以悟空Agent获NVIDIA致谢为切入点，介绍多智能体架构闭环及实战挑战，如上下文断流、调度失衡。还阐述架构设计、迭代优化、数据飞轮体系，指出AI infra存在安全隐患，强调安全融入业务的重要性。

Meta超级智能团队成员毕树超回溯70年AI进化，称多数人低估AI影响，从怀疑到深信AGI已至。他阐述技术进展、难题与趋势，分享研究心路，回顾自监督学习、强化学习等发展，打破诸多机器学习误解。

论文围绕智能体通信的协议、安全风险及防御对策展开探讨。介绍兴起与重要性、定义分类、解析多种协议，分析不同交互的安全风险，提出防御对策，还以MCP和A2A为例做攻击实验，给出未来研究方向。

Anthropic最新研究「模型规范中期训练」（MSM）显示，相同训练数据配不同行事原则，模型表现不同。MSM在预训练和对齐微调间加中间阶段，让模型读规范文档理解准则，在特定实验中，将Agent失控率从54%降到7%。