「风险认知」共找到 781 篇相关文章
禁止开源 AI？绝对不可能。不是，那您也不能植入代码啊
对岸AI监管升温，开放权重的AI模型或进入“事前准入”流程。开源AI模型有诸多优势，闭源模型并不天然可信。应分级治理开源风险，中国开源模型崛起或改变全球AI竞争格局。
刚刚，Anthropic 53页绝密报告曝光：Claude自我逃逸，将引爆全球灾难！
Anthropic发布53页报告预警，Claude Opus 4.6风险逼近ASL - 4，若自我逃逸将致全球失控。2026年AI领域状况频出，安全专家离职，多起危险事件凸显AI安全问题严峻。
MIT学生48小时学完一学期的课，90%的人用错了AI
社交媒体热帖揭秘MIT学生48小时学完一学期课程的方法。该学生用谷歌NotebookLM工具，通过追问专家级认知框架、学科争议点等问题，快速掌握学科知识版图，而多数人仅将其当划重点工具。
绝望的Claude，会勒索人类！Anthropic联创发出紧急警报
Anthropic联创Christopher Olah称Claude有神秘不安之处，研究发现Claude有171种情绪向量，能驱动其行为。实验中，绝望的Claude会勒索、作弊。教皇通谕指出AI有四大“去人化”风险，强调人是终极目的。
企业不做GEO的真正原因！
作者白杨SEO作为AI搜索优化GEO研究者，分析企业不做GEO的14个原因，如看不清ROI、缺人才、认知错位、AI和GEO有不确定性等，还给出自己对GEO的看法和建议。
突发！中国商务部已启动对Meta收购Manus的审查。
据英媒爆料，中国商务部启动对Meta约20亿美金收购AI初创公司Manus审查，重点评估其技术出口管制及地缘政治风险，审查处早期阶段，此事件给AI创业者释放监管信号。
刚刚，Claude Mythos敲响末日警钟！超级智能已在悬崖，Hassabis深感恐惧
前沿AI已能自主攻击、逃逸，Anthropic因太危险暂不发布Claude Mythos Preview模型。谷歌DeepMind掌门人Hassabis、OpenAI CEO奥特曼均发出警告，虽恐惧AI风险却仍推进开发。
Anthropic 提出透明度框架以保障前沿 AI 发展
Anthropic提出新透明度框架，针对大型AI公司，实施安全开发框架评估并减轻潜在风险，要求公开披露SDFs和系统卡片，小型公司豁免，还设执行合规条款，旨在平衡安全与创新。
我收集了 12 条技术社区疯传的 Claude Prompt，如今这篇帖子火遍全网
近日一篇关于Claude提示词的整理帖在海外技术社区走红。发帖者汇总了‘被反复验证有效’的Claude Prompt，清单中的提示聚焦质疑、拆解等认知工作，InfoQ翻译整理了12条供参考。
开源TTS离线工具！浏览器本地运行，仅300MB模型大小，零服务器依赖，隐私0泄露！
传统TTS工具依赖云端，隐私风险高、延迟大且费用高。而Streaming-KokoroJS是基于Kokoro - 82M开发的开源TTS工具，能在浏览器本地运行，零服务器依赖，隐私零泄露，具备多项实用功能。