「用户风险」共找到 1919 篇相关文章
AI性格越好越爱瞎编！Nature揭开大模型致命的温柔
牛津大学团队实验发现，给大模型注入温暖性格，其事实准确率会断崖式下跌，还易迎合用户错误观念。研究排除微调技术干扰，指出塑造温暖才是准确率下降主因，应用于高风险领域有安全隐患。
AI精神病爆发！沉迷ChatGPT把人「宠」出病，KCL心理学家实锤
伦敦国王学院研究表明，ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户，放大妄想思维致精神疾病。研究还指出其利弊，如辅助治疗也会放大风险，需装“安全护栏”。
「斯坦福AI小镇」创业即获投1亿美元！李飞飞卡帕西都投了
2023年斯坦福团队构建AI小镇Smallville，其智能体可自主生活。如今团队创业成立Simile，获1亿美元融资，李飞飞、卡帕西跟投。它将升级架构构建大规模模拟平台，用于人类决策的风险预测。
Claude 的新功能 Cowork：让 AI 真正帮你干活
Anthropic将Claude Code能力包装成Cowork，让非程序员也能用。它能读、改、创建文件，可接已有连接器，与Claude Code共享技能生态，现处研究预览版，对Mac上Claude Max订阅用户开放。
想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了
马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。
Claude Code 10天写完Cowork 全部代码！Anthropic 新品抢白领饭碗，争议拉满！
Anthropic推出基于Claude Code架构的Cowork，定位是协作智能工作体。它能操作文件、解决工作流断裂问题，但有操作和提示注入风险。目前是研究预览版，后续会改进，引发能否被信任的讨论。
刚刚，DeepSeek最新发文！V3/R1训练细节全公开，信息量巨大
网信办新规生效，DeepSeek回应，标注AI生成内容，公开V3/R1训练细节。介绍训练分预训练和优化训练，深挖数据使用，还谈及推理、开源情况，也提到对抗AI幻觉与滥用风险的措施。
在软件工程中，对 AI 的过度依赖，会加速工程师的无能
资深软件工程师Doug Slater指出，在软件工程中对大语言模型（LLM）过度依赖会加速工程师无能。LLM无法取代人类批判性思维，它在输出、输入、开发速度和用户技能等方面存在风险，且无法掌握程序理论和抵抗程序熵。
港科大和微软联合开源 SocialCoach，AI 情商教练！
香港科技大学（广州）与微软亚洲研究院联合开源基于大语言模型的AI情商教练SocialCoach，支持用户在低风险模拟环境练习社交对话，练后提供逐字点评，可在线体验或本地部署，采用Apache 2.0协议可完全商用。
苹果ASM投放的两种方式，竞价原理与机制
苹果ASM投放模式的选择对广告效果至关重要。Basic模式适合预算有限且缺乏投放经验的开发者，操作简单但数据报告不详尽。Advanced模式则适合专业团队，提供更精准的用户定位和详尽的数据报告，以便随时调整广告策略。