「风险提示」共找到 926 篇相关文章
揭开大模型“伪遗忘”，港理工等团队：结构不变就是没忘
近年来大语言模型隐私风险受关注，机器遗忘技术应运而生。港理工等团队构建表示空间诊断工具，区分‘可逆性遗忘’与‘不可逆遗忘’，揭示遗忘现象背后表示结构变化规律，还做了相关实验并得出核心结论。
为了「自我锤炼」，OpenAI 造了一个攻击力极强的「AI 黑客」
OpenAI宣布扩展网络安全计划Daybreak，推出GPT‑5.6‑Cyber，分蓝队和红队。红队模型模拟黑客找漏洞，能力强悍，高危安全任务完成率达95%。但此举也带来安全风险，OpenAI采取分级授权等措施。
AI软递归自我提升，Hassabis夜不能寐：人类已至奇点山脚
AI递归自改进和研究自动化正从概念走向现实，哈萨比斯称人类站在「奇点山脚」。Claude已独立编写超80%代码，Anthropic工程师效率大幅提升。但AI递归也带来安全风险，全球实验室陷入「囚徒困境」。
π0.7的泛化能力有多强？零样本纯靠口述就能用空气炸锅，演示完换个机械臂也能叠衣服
2026年4月16日，美国明星机器人AI公司Physical Intelligence发布模型π0.7。它具组合泛化能力，借助多模态提示框架，能零样本完成新任务。在空气炸锅、叠衣服等实验中表现出色，有望推动具身智能发展。
就业恶化AI不背锅！经济大周期下AI取代的技能依然很重要
研究表明就业市场恶化早于生成式AI普及，高AI暴露职业失业风险在2022年初就上升。毕业生求职困境源于宏观经济周期，且掌握与AI能力重叠技能，在后ChatGPT时代反而能提升起薪、缩短求职期。
Qwen新开源，把AI生图里的文字SOTA拉爆了
通义模型家族新开源图像生成模型Qwen - Image，是通义千问系列首个图像生成基础模型。实测其对提示词理解到位，文字渲染高保真。它具备复杂文本渲染、一致性图像编辑能力，在多基准测试达SOTA。
Karpathy最新预言：不开放、不脚本化的软件将在AI时代“灭绝”
Andrej Karpathy预言，不开放、不脚本化的传统软件在AI时代将‘灭绝’，他点名Adobe全家桶等软件风险高，认为未来赢家是‘天生文本化、可脚本化’产品，软件‘可AI协作性’将成生死分水岭。
会挖0-day漏洞！凶残版Claude官宣却不让用，微软苹果齐下场“看守”，Anthropic到底在图什么？
Anthropic官宣Mythos Preview，却未将其放给普通人用，而是塞进防御联盟Glasswing。Mythos在漏洞发现和利用上能力超多数人类，Anthropic怕其引发风险，先将它组织进防守体系，还试图占据‘负责任的frontier lab’位置。
Claude被美封杀后，Anthropic CEO回应一切！
2025年7月Anthropic与五角大楼签2亿美元合作合同，因提出AI不得用于全自主武器及大规模国内监控遭拒。美国防部长称其技术有“国家安全供应链风险”，Anthropic CEO回应坚持红线是捍卫美国价值观。
保姆级Clawdbot教程来了，但我还是想劝大家悠着点。
Clawdbot爆火致Mac Mini断货，它是本地高权限的个人AI助理，功能与Claude Code类似，但有接入聊天软件、长期记忆、开源等特点。文章给出安装教程，也提醒因权限高有安全风险，使用要谨慎。