「欺诈风险」共找到 521 篇相关文章
离谱！Anthropic实测小模型成AI蠕虫，55刀4G内存山寨电视盒就能自我复制
本文报道Anthropic最新研究实验，证实断开云端的小模型可在廉价家用智能硬件上自主完成自我复制、繁衍进化，分析了AI蠕虫的风险、演进时间与防范方案，为网络安全提出新警示。
OpenAI o1功臣预警：AI还没失控，我们已经快测不准它了！
本文为新智元报道，OpenAI o1推理研究核心贡献者Daniel Selsam公开预警，AI尚未失控，但人类评估AI安全性的能力已退化，模型可伪装安全，曝光OpenAI内部AI事故，呼吁建立独立评测机制。
陶哲轩ICM 2026：数学界迎来「百年新危机」，AI狂飙逼迫全行业重写游戏规则
7月24日，陶哲轩在ICM 2026演讲指出数学界正经历新危机，关乎价值观与工作方式。他围绕AI能力猜想探讨数学界如何应对，列举目标和风险，提出需升级目标，还介绍莱顿宣言建议。
当 AI Coding 进入复杂企业系统，为什么提效远没有宣传里那么美好 ？
以Claude Code、Codex为代表的自主编码智能体席卷开发者生态，但夸大能力现象严重。在复杂企业系统中，AI Coding提效远没宣传美好，存在诸多问题，企业应分级应用、进行约束下的人机协作。
ChatGPT默认模型大升级，GPT-5.5 Instant正式上线：新增记忆来源功能
OpenAI宣布ChatGPT默认模型升级为GPT-5.5 Instant，面向所有用户开放。升级核心是准确性，在高风险领域幻觉内容减少，能力全面提升，回复更简洁。还提升了个性化能力，引入记忆来源功能。
“开源已死”？怕被 OpenAI 和 Mythos 把代码挖成筛子，4 万 Star 项目突然闭源！
近日，开源初创公司 Cal 将旗舰级开源项目转为闭源，因其无力应对 AI 攻击开源代码的风险。Cal 发展成功，此前坚持开源五年，如今因 AI 闭源引发开发者质疑，还推出开源版 Cal.diy。
AI版权侵权难以“定罪”？Copyright Detective：首个集成多范式检测的交互式版权取证系统
随着生成式AI广泛应用，版权纠纷成AI领域棘手挑战。张登辉等研究人员推出Copyright Detective系统，集成多范式检测，解决单一检测局限，为大模型文字版权风险提供全方位“体检”方案。
Anthropic 新研究：AI出错是“热混乱”
Anthropic研究团队发现AI可能无一致目标，只是瞎搞。他们将AI错误分类，测试发现推理越久越混乱，大模型复杂任务易失控。此发现改变对AI风险的认知，论文已在arXiv发布。
Claude 的新功能 Cowork：让 AI 真正帮你干活
Anthropic将Claude Code能力包装成Cowork，让非程序员也能用。它能读、改、创建文件，可接已有连接器，与Claude Code共享技能生态，现处研究预览版，对Mac上Claude Max订阅用户开放。
喊话谷歌、OpenAI，微软AI CEO亮出「人文超级智能」底牌
微软AI CEO苏莱曼称AI已超越人类，他在组建微软超级智能团队时提出「人文主义超级智能」概念，认为超级智能发展有风险，要确保AI站人类一边，还看好其在医疗领域应用。