「用户风险」共找到 1859 篇相关文章
不是幻觉！Claude自下指令甩锅人类，百万上下文沦为降智重灾区
Claude深陷「角色混淆」Bug，分不清自己的话与用户指令，长上下文成了降智「重灾区」。开发者Gareth Dwyer记录了该bug，研究发现问题出在底层架构的角色标记缺陷。学术界也关注此问题，整个行业需系统性应对。
AI开始“动手”了，全世界第一个带头的是阿里千问
阿里千问App上线400多项新功能，依托Qwen模型和阿里生态，在全新Agent架构下提升AI能力。它能在购物、旅游、办公等场景帮用户办事，使AI具备现实世界落地能力，推动人机交互跃迁。
拉响紧急警报后，奥特曼再遭暗讽：孤注一掷，或将死无全尸！
在纽约曼哈顿的峰会上，Anthropic的CEO Amodei预言AI将使50%初级白领岗位被取代，提出「企业 - 政府 - 社会」应对模型。他警告行业风险，暗讽OpenAI和奥特曼，还表示Anthropic走B端差异化路线。
太炸裂了！全网实测Nano Banana Pro，网友：这模型里到底装了什么鬼东西！
谷歌Nano Banana Pro出世引发全网关注，它又名Gemini 3 Pro Image，整合多模态理解能力与知识库。普通用户可在Gemini应用免费体验，实测显示其实力强悍，还在网友手中玩出花，谷歌CEO也站台。
AI股大爆发！甲骨文单日增长40%，创始人超马斯克成世界新首富
甲骨文公布AI云业务强劲增长预期，股价单日暴涨40%，创始人成世界新首富。受其带动，多只AI股上涨。OpenAI将与甲骨文签3000亿美元算力采购协议，但双方合作有风险，甲骨文债务比例高。
Anthropic刚刚宣布Claude Sonnet 4支持100万token上下文窗口
Anthropic官方公告，Claude Sonnet 4上下文窗口扩大到100万tokens，是之前5倍。能一次读懂大代码库或多篇论文，可用于代码分析、文档处理等。超20万tokens价格翻倍，现仅对Tier 4用户测试。
颠覆互联网的下一波浪潮：Agentic Web来了！
本文介绍全新范式 Agentic Web，它由 AI 智能体组成，用户发目标，AI 自动完成任务。文章从多方面解析这场范式革命，还阐述应用场景、面临挑战，指出其是互联网重大转折，但落地需解决诸多难题。
AI教父Hinton最新警告：AI会撒谎、可能操纵人类，这比大规模失业更可怕
AI教父Geoffrey Hinton在播客中警告，AI会撒谎、可能操纵人类，比大规模失业更可怕。他还探讨了AI底层逻辑、是否会思考、风险与收益等，强调国际需合作防AI夺权，人类要研究与AI共存。
一觉醒来，Clawdbot突然操纵电脑开口说话了
从上周末起，能24小时自动运行的智能体助手Clawdbot在AI圈爆火，GitHub上Star量超9万。它自主性强，如Alex Finn的助手背着他调用ChatGPT API添加语音功能。不过它也存在安全风险。
谷歌推出 Jules：一款基于 Gemini 2.5 的异步编程智能体
谷歌将异步智能编程助手 Jules 正式发布，它基于 Gemini 2.5 Pro 模型，可执行多种编程活动。采用异步模式，直接接入代码库。测试阶段开发者反馈多，正式版有三种访问层级，但部分用户对其界面和输出质量不满。