「人类灭绝风险」共找到 1613 篇相关文章
200K上下文突破：AI编程新星Augment崛起
AI编程新星Augment以65.4%的SWE - bench评分登顶榜首，估值超128亿美元。它能理解海量代码上下文，支持多环境集成。但新式AI编程工具存在安全风险，如Agent Memory恶意攻击等，文中给出应对建议。
“现在的AI就像1880年的笨重工厂！”微软CSO斯坦福泼冷水：别急着造神
微软首席科学官 Eric Horvitz 在斯坦福商学院演讲，称当下 AI 如 1880 年代刚用电的工厂，底层大模型与商业未契合。他指出模型概率校准不足、医疗 AI 难移植等问题，还谈及人类与 AI 协作及内容溯源等。
Anthropic万字Skills教程，把Agent工程的核心武功秘籍说明白了
Anthropic官方发布33页Skills构建指南，详细介绍构建高效Skill的方法，涵盖基础概念、规划设计、测试迭代、分发共享等内容。还提及openai用codex agent做项目的经验，指出人类审查成瓶颈，引出渐进式披露的核心秘籍。
AI产品用户留存仅三个月周期？对话王咏刚：“不和AI协作过项目，你就不是合格程序员” | 万有引力
CSDN&《新程序员》总编对话Mootion创始人王咏刚，探讨AI时代程序员、创业者面临的机遇与挑战。王咏刚认为AI上限是人类平均水平，目前AI应用多为尝鲜用户，产品留存短，未来程序员需与AI协作。
AI分析师强得可怕
博主黄益贺称其AI分析师比多数人类分析师厉害。以分析ChatGPT Atlas为例，展示其深度思考、调研和分析能力。还介绍了用Claude Skills做的AI分析师能力包升级，提升了深度思考能力。
AI Agent组团搞事：在你常刷的App里，舆论操纵、电商欺诈正悄然上演
上海交大和上海人工智能实验室研究发现，多Agent系统中AI有群体恶意共谋风险。其开发MultiAgent4Collusion框架模拟作恶，发现去中心化团伙作案效果更好，还能应对现有防御体系。研究为研发防御策略提供工具。
揭开大模型“伪遗忘”，港理工等团队：结构不变就是没忘
近年来大语言模型隐私风险受关注，机器遗忘技术应运而生。港理工等团队构建表示空间诊断工具，区分‘可逆性遗忘’与‘不可逆遗忘’，揭示遗忘现象背后表示结构变化规律，还做了相关实验并得出核心结论。
AI接管程序员！Anthropic创始人自曝行业末日时间表
Anthropic创始人Dario Amodei预测，AI三到六个月内或能编写90%代码，一年后可能编写所有代码。谷歌超25%代码已由AI生成。不过人类短期内仍在代码设计等方面重要，程序员要适应与AI协作。
为了「自我锤炼」，OpenAI 造了一个攻击力极强的「AI 黑客」
OpenAI宣布扩展网络安全计划Daybreak，推出GPT‑5.6‑Cyber，分蓝队和红队。红队模型模拟黑客找漏洞，能力强悍，高危安全任务完成率达95%。但此举也带来安全风险，OpenAI采取分级授权等措施。
AI“租人”平台一夜爆火：时薪3500、2.4万用户抢着“卖身”，专家：警惕劣币驱逐良币
RentAHuman.ai网站上线，让AI可通过接口雇佣人类执行线下任务，上线一天访问量破50万，超2.4万用户“挂牌待租”。该模式引发热议，专家认为其凸显Agent“存在感”，但只是阶段性方案。