「AI安全研究」共找到 10765 篇相关文章
AI Agent组团搞事：在你常刷的App里，舆论操纵、电商欺诈正悄然上演
上海交大和上海人工智能实验室研究发现，多Agent系统中AI有群体恶意共谋风险。其开发MultiAgent4Collusion框架模拟作恶，发现去中心化团伙作案效果更好，还能应对现有防御体系。研究为研发防御策略提供工具。
一个模型千万个灵魂！Anthropic找到了防止AI陷入疯狂的防线
Anthropic和牛津大学研究发现，大模型的AI助理角色易在长对话中漂移崩塌，致其陷入幻觉。研究解析助理轴，揭示模型人格定位，还提出激活上限技术，能在保能力的同时降低有害回复率。
构建企业级 AI 应用：为什么我们需要 AI 中间件？
9月26日云栖大会，阿里云资深技术专家林清山发布阿里云AI中间件，核心技术全面开源。文章指出2025年是Agentic AI爆发元年，分析AI原生应用架构变革，介绍阿里云AI中间件构成及优势，助力企业级AI应用落地。
AI Agents和Agentic AI有什么区别？
论文《AI Agents vs. Agentic AI》深入探讨AI Agent和Agentic AI的本质差异。AI Agents是集成大模型和外部工具的单体系统，适合简单任务；Agentic AI是多智能体协作新范式，适合复杂场景。还提及挑战、解决方案与未来方向。
陶哲轩对谈 OpenAI 高管：“试错成本”无限趋零，AI 正在把数学变成一门重工业
菲尔兹奖得主陶哲轩与OpenAI顶尖科学家Mark Chen对谈，探讨AI在数学研究中的能力、缺陷与演化路径。指出AI试错成本低，在数学领域发展潜力大，虽目前有局限，但正改变数学研究方式。
谁在赚钱，谁爱花钱，谁是草台班子，2025 年度最全面的 AI 报告
Nathan Benaich发布《State of AI Report（2025）》，如AI全景地图，覆盖研究、行业等领域。2025年AI业务赶上炒作，模型竞争激烈，开源、智能体等发展显著，还对未来一年AI发展作出预测。
吴恩达来信：AI Fund 如何培养 AI 构建者
吴恩达分享 AI Fund 培养 AI 构建者经验，非工程背景同事从‘AI Python 入门课程’学起，掌握构建模块，还列举他们构建的应用示例，鼓励更多团队让人人有能力用 AI 构建。
一家低调的工业AI公司，用TPT跨越生成式AI鸿沟｜甲子光年
麻省理工学院报告指出约95%生成式AI企业试点无实质回报，存在生成式AI鸿沟。工业AI落地难，中控技术的TPT及TPT 2模型，在兰州石化榆林化工应用效果好，其优势源于数据和行业经验，也体现了破局决心。
人类已成少数派！DeepMind 研究科学家：广告没人看了，互联网上AI的流量已经超过了真人
Google DeepMind高级研究科学家Nenad Tomašev预测，未来世界主要网民将是智能体。他指出智能体虽能自动化工作，但存在安全风险，如认知单一化、网络陷阱等，还探讨了协作模式、安全防护及未来形态。
2025 的企业 AI 市场， Data &AI 占据主流视野
数据是 AI 模型学习和训练的基础，Data & AI 基础设施可打通数据与 AI 全链路。企业应用 AI 不应只关注算法和算力，还需重视私域数据。同时介绍了不同类型企业在 Data & AI 领域的特点及合作成本等内容。