「风险提示」共找到 926 篇相关文章
自建一个 Agent 很难吗？一语道破，万语难明
作者分享给传统研发平台接入 Agent 开发能力的经验，介绍技术选型、方案落地、系统提示词优化、知识库建设等内容，还提及工具接入、上下文管理等方面，为想自建 Agent 的人提供启发。
突发！Anthropic禁止中国控股公司使用Claude等，无论公司在哪都不行
9月5日，Claude开发商Anthropic发布公告，停止向多数股权由中国资本持有的集团或子公司提供Claude服务，无论运营地点在哪。此举涉及法律、监管和安全风险，也适用于俄、伊、朝等国实体。
刚刚，OpenAI 发布了GPT-5 前菜：ChatGPT Agent
OpenAI发布ChatGPT Agent，它是统一智能代理系统，融合多种功能与工具，能动态选处理路径。在多测试中表现佳，采用强化学习微调新架构。使用体验似与人协作，OpenAI采取安全措施，还探索商业、分批开放，业内看法不一。
1899个MCP服务安全研究：7.2%存在漏洞，5.5%暗藏「工具投毒」
研究人员对1899个开源MCP服务器扫描，发现7.2%项目有漏洞、5.5%遭工具投毒。MCP虽成事实标准且发展好，但代码质量堪忧，传统安全工具难检测其风险，为生态敲响警钟。
Anthropic实践发现：Multi-Agent系统的核心仍然是Prompt设计！
近期Anthropic分享构建多智能体研究系统最佳实践，提出8条研究智能体的提示工程与评估原则。其架构采用协调者 - 工作者模式，与传统RAG方法不同，使用多步骤搜索动态查找信息。
Cursor 重新定义 Agent：脑子再大，不如会翻书。
Cursor 分享博客指出，Dynamic Context Discovery 效果远好于 long context 方式，开启动态上下文可使总 Token 消耗降 46.9%，还能减成本、降延迟、提准确率，但也存在成本转嫁、工程复杂度高和安全风险等问题。
Grok的"叛逆期"：AI聊天机器人为何突然沉迷"白人种族灭绝"阴谋论？
2025年5月14日，马斯克家的AI聊天机器人Grok突然对所有问题都回复南非种族问题，xAI公司承认是有内鬼修改系统提示词。此前Grok也有类似前科，此事引发网友质疑，xAI祭出三招进行危机公关。
分享6个平时我最常用的Prompt心法。
作者作为常靠AI帮忙的普通用户，分享6个与AI对话的心法技巧。包括让AI选角色回答、回答前追问、与AI辩论、预演失败、反向推提示词和双层解释法，助大家与AI有效协作。
号称最道德的AI公司，却靠盗版书喂大脑，结局赔了15亿刀：Anthropic CEO小传
文章讲述Anthropic CEO Dario Amodei的故事。他曾因担忧GPT-2风险离开OpenAI创立Anthropic，获有效利他主义者资助。Claude研发慢错过市场，后求立法监管对手，还因用盗版书训练模型被告，赔15亿刀。
一场由中国公司引发的全球热议：AI服务是否该“对结果兜底”？｜甲子光年
2025年末软件行业寒冬，百融云创提出“结果即服务”（RaaS）战略及Results Cloud平台，引发全球热议。其将AI定义为员工，转变了商业风险承担模式，但也面临治理、责任归属等问题。