搜索：超级对齐团队

「超级对齐团队」共找到 3857 篇相关文章

1.3万人收藏的 OpenHarness！港大开源轻量级 Agent 基础设施，兼容性拉满！

近期，香港大学数据科学学院团队开源项目 OpenHarness，它是 Agent 基础设施，有 Agent Loop、工具箱等亮点，功能特性丰富，支持多种大模型提供商，还提供多种安装和配置方式。

西安交通大学等校团队揭示大模型表情符号语义混淆安全漏洞，用自动化框架测试主流大模型，平均混淆率38.6%，多数混淆响应会“静默失败”，超半数达高危害级别。

随着扩散模型广泛应用，其安全问题凸显。天津大学团队论文系统梳理文生图模型攻击方式、风险类型、威胁场景与防御体系，指出当前防御不足，需建立更体系化防护体系。

上海交通大学刘鹏飞团队认为，2024年9月后，大神Karpathy提出的“软件3.0”已过时，“软件3.5”应运而生。其核心是“交互即智能”，在自然语言易用性基础上实现人机交互认知层面突破。

Meta推出新的“世界模型”V-JEPA 2，可提升AI物理推理能力。它是V-JEPA扩展版，在百万小时视频上训练，能让机器人完成任务。Meta还发布三项基准测试，且已开源。LeCun力挺，小扎为追进度亲自招人才。

Meta为组建「超级智能」团队，开出超1000万美元年薪，扎克伯格亲自下场。还计划148亿美元收购Scale AI 49%股权。此外，扎克伯格炮轰苹果缺乏创新，业界对此看法不一。

中国科学院计算技术研究所（ICTNLP）开源类GPT - 4o多模态模型Stream - Omni，支持文本、视觉和语音任意组合交互，核心是高效模态对齐技术，少量多模态数据即可训练，有多种使用场景。

系统性能优化领域顶级专家Brendan Gregg加入OpenAI，将参与ChatGPT性能团队。他被尊为“性能之神”，著有《性能之巅》等，发明火焰图。他自述因OpenAI环境与AI需求加入，还为圆童年科幻梦。

AI科技评论独家消息，前理想汽车联合创始人沈亚楠创立「北京赫宇机器人科技有限公司」，进军家庭机器人方向。赫宇机器人是其智能住宅品牌「栖息地」体系内新业务，项目处早期团队组建阶段。

CUDA代码性能对模型训练与推理重要，但手动优化门槛高。明尼苏达大学团队提出CudaForge，是低成本多智能体CUDA Kernel生成与优化工作流，实验效果好，成本低且具通用性。