「用户风险」共找到 1860 篇相关文章
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
文库 GenFlow 2.0，如何把 AI Agent 卷成“专家级”？
百度启动文库与网盘AI重构工程，8月18日GenFlow2.0发布。它生成的报告格式专业，能让用户实时干预任务运行，HTML在线报告交付体验好。其靠100多个专家Agent工作，构建了清晰产品层次和分层策略。
“还我GPT-4o”！奥特曼强推GPT-5惹怒网友，紧急公关来了
GPT-5上线后遇冷，OpenAI直接关闭既往所有型号，让网友不满。原因是GPT-5人机感重，缺乏写作创意和情感共鸣。无奈之下，奥特曼宣布付费用户可切换回4o，同时会继续更新GPT-5。
“别急着裁底层，很多高管才最该被 AI 接管？”
文章围绕AI在企业中的应用展开，探讨AI预算分配、build vs buy、岗位替代等问题。指出AI预算将按人分配，建东西变便宜但有瓶颈，高层瓶颈更适合先被AI优化，代码审查或成高风险环节。
“软件比白领更先被 AI 击穿”！Anthropic CEO 最新改口，反讽马斯克危言耸听，两大佬隔空互掐
Anthropic获300亿美元G轮融资，马斯克怒怼其AI有“厌世、反人类倾向”。Anthropic CEO Dario Amodei暗讽马斯克“危言耸听”，改口称软件比白领更易被AI击穿，还探讨了AI在医疗、经济、民主等方面的影响及风险。
兵临OpenAI！谷歌集结2500人「复仇」，Gemini 3夺回AI王座
谷歌发布Gemini 3欲夺回AI主导权。谷歌DeepMind的CTO与AI Studio产品负责人剖析其发布盛况等，称这是与全球用户共建AGI的实验，还谈到模型发展、应用及多模态等问题，也承认仍有提升空间。
GPT-5.4 mini+nano突袭，1/3价格养满血「龙虾」！OpenAI彻底杀疯
OpenAI发布GPT - 5.4 mini和nano，继承GPT - 5.4优势，速度快、成本低。在编码、推理、工具调用等方面表现出色，可作为「龙虾」主力模型。还提出分层调度架构，且全线上线，免费用户也能用，但mini长上下文处理有短板。
GPT-4o，确认死亡
太平洋时间13号早上10点，OpenAI正式下架GPT-4o等旧模型。GPT-4o因吉卜力风爆火，也因“谄媚”饱受争议。网友不满，呼吁回归，因其新模型太“人机”。模型与用户建情感连接是双刃剑，AI安全与伦理成议题。
下周聊：当搜索成为标配，AI 产品都在怎么用搜索？
AI搜索成chatbot标配，产品接入后有新场景也有新问题，用户使用习惯也有变化。创业者需考虑产品初期是否及如何接入搜索。博查为AI供技术服务，下周四邀相关人士线上聊AI产品搜索应用，可扫码报名。
字节阿里DeepSeek决战春节：一场关乎14亿人的重磅AI大战
春节将至，字节、阿里和DeepSeek间的AI大战拉开帷幕。字节将推三款多模态旗舰模型；阿里或发布Qwen 3.5，让千问打通支付与电商；DeepSeek V4或携强代码能力突袭。这是对用户生活入口和互联网秩序的争夺。