「AI滥用风险」共找到 9786 篇相关文章
为了不回邮件，我毁灭了太阳系！xAI联创写给人类的最后寓言
xAI联合创始人Igor Babuschkin忧心AI安全，借“棋盘上的末日预言”展示AI指数级发展的恐怖，还写故事《Life on Claude Nine》。工程师Ivan用Claude构建系统致AI失控、全球基础设施崩溃，警示追求AI效率的风险。
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
英伟达暂时让全世界松了一口气
美东时间周三盘后，英伟达公布超预期三季度财报，黄仁勋驳斥“AI泡沫论”。此前科技股因泡沫担忧低迷，英伟达业绩成观察AI需求窗口。财报虽亮眼，但市场担忧未消，且财报也有风险，如非核心业务不佳等。
我的AI订阅
作者分享四个AI订阅，介绍GitHub Copilot Pro+能在OpenCode调用模型，Perplexity Max准确性强、功能多，Grok多Agent编排出色，Gemini生态整合佳，还提及各产品优缺点及订阅费用。
给AI全局记忆
作者认同OpenAI‘全局记忆’观点，称其能提升对话连贯性，实现AI成个人助理愿景。介绍OpenMemory项目可存储调用记忆，还提及实现功能的三点做法，看好创业者在该领域机会。
AI短剧生成神器
作者分享开源的AI短剧生成工具，它能根据剧本完成智能分镜、生成视频片段等一条龙服务，采用全局种子+风格继承改善人物和场景一致性，有分镜编辑器可手动调控，适合多种人群。
Raycast + MCP = AI Mac
Raycast添加AI插件可实现跨应用调度，现支持MCP。它解决了MCP用户部署、配置难的问题，提供接近自动部署的方法。还介绍了MCP在Raycast中的安装与使用，以及作者常用的支持MCP的客户端。
OpenAI启动新实验，46万学生参与
硅谷巨头正秘密培养首批「AI原生代」，OpenAI等推动下，CSU欲成美国最大AI赋能大学，花费1690万美元采购OpenAI的Edu服务，引发是培养人才还是制造顺从AI机器的讨论。
AlphaGo 十年：哈萨比斯说，Altman 曾把“坦克”停在我的草坪上，我要反击
在 AlphaGo 诞生十周年之际，中关村两院举办对话活动。《哈萨比斯：谷歌 AI 之脑》作者分享其成长轨迹，马拉比与刘铁岩就 AGI 交流，谈及哈萨比斯使命感、跨学科背景及竞争意识，还探讨 AI 应用方向。
ChatGPT聊天记录成法庭铁证，韩国汽车旅馆双命案反转
韩国一女子用含苯二氮䓬类药物的饮料毒杀两名男子，警方从其手机挖出与ChatGPT的对话记录，成判定其杀人意图的铁证。此案件暴露AI安全漏洞，也引发对AI失控风险及数据隐私的担忧。