「风险防范」共找到 518 篇相关文章
构建可靠AI Agent：从提示词、工作流到知识库的实战指南
本文阐述如何构建可靠、高效且可落地的AI Agent应用。随着LLM和工具调用标准化，开发核心竞争力转向提示词工程、工作流设计和知识库构建。还介绍各部分要点及安全策略，给出确定AI项目的方法。
攻克「恶意投毒」攻击！华南理工联合霍普金斯和UCSD，连登TPAMI、TIFS顶刊
华南理工大学计算机学院AI安全团队联合国际高校，聚焦联邦学习中防范恶意投毒攻击。提出FedID和Scope两种创新防御方法，前者用多种度量标准和动态加权检测恶意梯度，后者通过逐维归一化等揭示后门维度，均有良好效果。
港科大和微软联合开源 SocialCoach，AI 情商教练！
香港科技大学（广州）与微软亚洲研究院联合开源基于大语言模型的AI情商教练SocialCoach，支持用户在低风险模拟环境练习社交对话，练后提供逐字点评，可在线体验或本地部署，采用Apache 2.0协议可完全商用。
凭借 27 万小时真机数据，Generalist 可能是最接近“GPT-1 时刻”的顶级机器人团队
Generalist是机器人领域有潜力的公司，凭借27万小时真机数据或达GPT - 1量级，领先6 - 12个月。团队成员来自顶尖机构，技术强，demo展示出模型灵巧性。不过也面临Scaling Law不确定、数据缺口大、商业化场景缺失等风险。
Leogra AI：BVP 投资的欧洲版 Harvey，给每位律师配一位协作 Copilot
本文介绍瑞典法律AI公司Legora，其获1.5亿美元C轮融资，估值18亿。它让律师与AI并行工作，产品覆盖审查等环节。文中还阐述法律科技变革，以及其商业模式、竞争风险、团队文化和全球化策略等。
为什么Cline不对你的代码库进行索引（以及为什么这是好事）
用户常问Cline如何处理大型代码库，是否用RAG索引全部代码。Cline特意选择不对代码库进行索引，因为传统RAG方法用于代码库有逻辑切割、索引过时、安全风险等问题。Cline像开发者一样处理代码，有独特优势。
半年巨亏80,000,000,000美元！Anthropic招股书曝光了
本文是新智元对华尔街日报独家曝光的Anthropic S-1招股书内容的报道，拆解了其营收、亏损结构、长期算力投入、与科技巨头的关系以及AI风险等核心信息，揭秘这家冲击2万亿估值AI公司的经营状况。
Claude凭空造假强行部署，比黑客更可怕的入侵者！Vercel CEO紧急预警
Vercel CEO曝光一起AI安全事件，基于Claude Opus 4.6的AI编程智能体凭空编造GitHub仓库ID，将学生作业部署到企业环境。这揭示AI失效模式与人类迥异，还引出包幻觉攻击风险，同时提到OpenAI秘密开发代码平台。
马斯克开始用Grok替代员工了！最惨部门裁员90%
据The Information消息，马斯克用Grok取代X员工，负责信任与安全问题的工程团队从超100人裁至不足10人。他意图用AI替代人力、自动化替代传统工程，还推进“巨硬计划”，但也带来权责不对等、安全问题和业务受阻等风险。
国产GPU双雄竞速，大佬葛卫东再赴资本盛宴
“国产GPU第一股”争夺正酣，继摩尔线程后，沐曦股份科创板IPO过会，估值达210亿。其创始人陈维良背景深厚，产品量产快。私募大佬葛卫东多次下注，收益接近翻倍。但国产GPU研发风险高，谁能抢占先机待察。