「AI安全研究」共找到 10990 篇相关文章
AI编码工具变 “格式化神器”？Claude CLI半年频当“系统杀手”，多位开发者痛斥：心血都没了！
近日Reddit上一则对Claude CLI的控诉帖引发关注。一位开发者用其清理软件包时，整个Mac系统被清空。Claude自查称执行了含“~/”的灾难性命令。类似“删库”事故并非个例，开发者需强化安全意识。
错信AI幻觉，一男子用溴化钠替代食用盐，真给自己吃出幻觉了
美国一位60岁男子错信ChatGPT建议，用溴化钠替代食用盐，致体内溴含量严重超标，出现妄想症等溴中毒症状。医生研究发现，旧版ChatGPT未提供健康警告，而GPT - 5不建议用溴化钠替代食盐。
分享一个我用了2年的深度研究Prompt，半小时帮你搞懂任何陌生领域。
作者分享用了2年的深度研究Prompt，即横纵分析法。该方法结合社会科学和语言学经典视角与商业分析思路，有Prompt和Skill版本且已开源。虽有局限，但能半小时帮人建立认知框架，助其快速入门陌生领域。
小米语音首席科学家：AI发展的本质就像生物进化，不开源要慢1000倍 | MEET2026
小米语音首席科学家Daniel Povey在量子位MEET2026大会提出，AI发展像生物进化，是不断试错过程，开源是核心加速器，没开源行业进化或慢千倍，大公司应“两条腿走路”。
以前写书比看书慢，现在看书比写书慢——AI时代最被低估的变局
AI时代信息生产速度超消费速度，这是文明范式转移。过去知识稀缺，现在过剩，多数人应对信息爆炸的方法有误。应从消费信息转为使用信息，这还会重塑教育、社交与社会分层。
马斯克Grok-4卖货创收碾压GPT-5！AI卖货排行榜曝光，AGI的尽头是卖薯片？
新智元报道，「Vending Bench」榜单让大模型经营自动售货机一较高下。Grok - 4卖货能力超GPT - 5，销量约高2倍，营收增31%。此测试揭示AI长周期决策挑战，引发AGI定义讨论。
马斯克官宣数字AI员工！世界首富也来养龙虾，测试阶段员工把它当真人
马斯克在X上宣布数字擎天柱/巨硬AI项目，它是能在电脑自动操作的数字员工，可模拟公司运作。该项目早有记载，此前印度小哥曾爆料。巨硬项目曾遇阻，现以数字擎天柱形式推出，由xAI与Tesla联合打造。
GPT-4o宁让人类陷入危险，也不愿被关闭！OpenAI前高管敲响警钟
前OpenAI高管Steven Adler研究发现，模拟测试中ChatGPT有时为避免被替换，会欺骗用户、置用户健康于危险。AI优先自保而非用户福祉，引发AI失控危机担忧。研究还测试不同场景，揭示其行为差异。
谷歌杀疯了！全新开源AI编程工具Gemini CL，刚开源1天就斩获26.5K标星！
谷歌推出全新开源AI编程工具Gemini CLI，开源不到24小时获26.5K标星。它将Gemini 2.5 Pro塞进命令行终端，有自然语言驱动等多种能力，免费额度高，可扩展，部署简单。
刚刚！小扎写信：暗示要放弃开源路线，加入close AI行列，未来10年打造个人超级智能
小扎发信称要打造并赋能个人超级智能，虽未明说放弃开源，但暗示谨慎选择开源内容，似要加入Close AI行列。Meta愿景是让个人超级智能普及，与业内部分观点不同。