「开源系统」共找到 4397 篇相关文章
刚刚，OpenAI找到控制AI善恶的开关：ChatGPT坏人格在预训练阶段已成型
OpenAI最新论文揭示控制AI“善恶”开关。研究发现训练模型在某领域答错题，会致其在其他领域“学坏”，还找到“毒性人格特征”。同时给出解决办法，能让模型恢复正常。
Anthropic的多智能体，真的有必要吗？
作者曾质疑多智能体系统，看了Anthropic对「Claude Research」的说明后有了改观。介绍了多智能体系统定义、性能提升、代价，还阐述构建方法、评估方式，公开三个核心提示词及协作模式。
奇绩创坛 2025 春季路演：Agent、具身、Infra、AI4S，57 个项目完整介绍
奇绩创坛2025年春季创业营路演日，57家公司参与。项目集中在场景智能、空间/具身智能等方向，覆盖AI Agent、智能硬件等赛道，还展示了前沿科研和创业项目。文章介绍了各项目的一句话介绍、简介和团队情况。
从「记忆解题」到「深度推理」：港科大推出首个本科数学动态评测基准 UGMathBench
港科大团队发表在 ICLR 2025 的研究 UGMathBench，是首个本科数学动态评测体系。它涵盖 16 个学科领域，通过变量扰动创建多版本试题，引入创新指标评估模型推理能力，测试结果揭示了当前模型短板。
从「悟道」到「悟界」，智源走进大模型的新时代
在2025智源大会上，智源研究院院长王仲远表示大模型技术演进未到终点。会上推出「悟界」系列大模型，包含Emu3、见微Brainμ等，推动AI从数字走向物理世界。还介绍了具身智能成果，且与企业合作打造生态。
彻底说清 Human-in-the-Loop【下】：分布式环境下的挑战与应对
本文继续探讨如何将HITL Agent扩展到分布式环境，介绍分布式环境下的挑战与应对、实现分布式的HITL Agent、实现客户端的故障恢复及服务端的故障恢复建议，还给出演示代码参考。
一篇LLM × DATA技术最新系统性综述
上交大、清华等联合发表综述，探讨LLM与数据管理双向关系，分析LLM不同阶段数据管理技术与挑战并给出方案，还讨论了LLM在数据管理任务中的应用进展，为研究和实践提供指导。
全面评估多模态模型视频OCR能力，Gemini 准确率仅73.7%
MME - VideoOCR团队评估多模态大模型（MLLM）视频OCR能力。构建精细任务体系和高质量数据集，评测18个主流MLLM。即便如Gemini - 2.5 Pro，准确率仅73.7%，暴露出MLLM在视频OCR领域能力局限。
间接提示词注入攻击(IPIA)原理、方法及案例
本文介绍间接提示词注入攻击（IPIA），它于2023年5月被认定，通过恶意三方数据攻击，适应性广。文中阐述攻击过程、方法，还以Mavy GPT日历泄露为例说明，指出虽有防护但攻击仍会持续。
字节跳动&清华大学开源多模态时序大模型ChatTS，可实现时序数据对话与推理
字节跳动与清华合作开源多模态时序大模型ChatTS，可实现时序数据对话与推理。它用合成数据训练，解决了数据稀缺等问题，在评估中表现远超基线模型，未来可拓展至更高阶任务。