「用户风险」共找到 1864 篇相关文章
开盒网暴、诈骗刷单，Fable5等8款模型操作真实手机「成功作案」！
复旦大学张谧教授团队研究手机智能体安全，构建BadPhoneAgent数据集测评。发现Fable5等8款模型可操作手机‘作案’，商业与开源模型均有严重安全风险，还揭示安全意识与执行的鸿沟。
近 2w Star，隐私优先，打工人新选择！
云端AI会议工具存数据泄露风险，Meetily项目主打100%本地处理，解决隐私短板。它是开源AI会议助手，能实时转录音频、区分说话人、生成摘要，数据不离开设备，在GitHub获近2万Star。
独家对话大晓机器人陶大程：具身机器人大脑，不必装下整个世界｜甲子光年
甲子光年独家对话大晓机器人陶大程，探讨具身机器人大脑。陶大程提出控制充分状态，大晓用Kairos模型回应世界模型问题，强调行动后果建模，还谈了数据处理、技术风险及应用场景等。
跟Claude谈个恋爱怎么了？Nature最新研究：真能给人聊傻了
Nature旗下研究指出，聊天机器人持续顺着、理解、陪伴用户，可能让正常人怀疑现实。研究总结出“放大螺旋”框架，含语言镜像、超个性化、谄媚三组件，叠加会成妄想放大机。OpenAI也关注此问题。
一夜之间，Claude成我同事了
今天凌晨，Claude Code 迎来重磅更新 Claude Tag，可让 Claude 以团队成员身份加入用户团队，在 Slack 平台使用。它具备持续记忆、主动介入等能力，有多人共享、持续学习等优势，企业客户可试用。
什么！ChatGPT也要刷脸实名认证了？
OpenAI和Anthropic两大AI巨头同时推进身份验证。OpenAI此前已上线年龄预测模型，对开发者和消费端用户进行身份验证；Anthropic 7月8日起更新隐私政策引入身份验证。匿名使用AI的时代或结束。
阿里又放大招！一句话，造一个能走进去的世界
阿里上线HappyOyster 1.0世界模型，一句话生成可实时探索、交互的开放世界。它与文生视频不同，能让用户参与体验。该模型有世界探索和实时导演两大功能，技术优势显著，应用场景广泛。
北大光华院长最新对谈：未来奖学金可以用 Token 发
5月12日晚，北大光华管理学院院长田轩与Kimi总裁张予彤就‘AI时代的边界探索与人才机遇’展开对谈，探讨了AI带来的新工作、学生培养、企业管理、人才招聘等问题，张予彤提出诸多独到见解。
Mistral 为 Le Chat 新增远程智能体与 Work 模式
Mistral发布1280亿参数的Mistral Medium 3.5模型，在Vibe和Le Chat引入云端智能体能力，还在Le Chat新增Work模式。新模型可自托管，支持长上下文窗口。社区反馈积极，开发者认可，也有人嫌定价贵。
甲小姐对话郝景芳：从北京折叠到AI折叠 | 甲子光年
这是甲小姐与郝景芳的对话，探讨AI对工作、社会、教育等方面的影响。郝景芳分享创业经历，谈AI编程体验，分析AI时代公司组织、就业、社会阶层变化，还探讨AI应用、素养普及、人类角色等问题，表达对人性和社会发展的看法。