「风险提示」共找到 926 篇相关文章
AGI失控率＞90%！MIT教授算出「康普顿常数」，AI地球「夺权率」已锁定？
MIT教授研究指出，即使采用理想监督机制，人类成功控制超级智能概率仅52%，全面失控风险超90%。研究通过量化分析提出嵌套可扩展监督等理念，并在四个真实监管场景验证，探讨如何优化现实监管系统。
Claude Code 用户早晚要找的东西：完整的聊天记录
Claude Code回看聊天记录不便，但回看提示词很有价值。作者研究了相关管理器，推荐claude - code - history - viewer和Claude Code Sessions，前者可完整查看本地记录，后者有重命名、删除会话等特色功能。
为AI打造的知识图谱服务器MemoryMesh
MemoryMesh是专为AI模型设计的知识图谱服务器，适用于多种结构化数据场景。它有动态模式驱动工具等特性，可自动生成管理工具，还配备记忆查看器，提供安装指南和提示词建议。
奖励是假的，能让Qwen提升25%性能却是真的！
华盛顿大学博士生团队用Qwen模型对虚假奖励进行RLVR，使MATH - 500准确率显著提升约25%。研究发现RLVR不考虑奖励正确性，还分析了虚假奖励有效的原因，提示现有研究要在非Qwen模型验证。
VoxCPM2：无tokenizer语音合成，高保真声音克隆
VoxCPM2突破传统TTS系统局限，直接操作连续声学特征，保留音色纹理更完整。基于扩散自回归架构，有硬核技术指标，提供三种克隆模式，性能佳，生态完善，微调便捷，但也存在安全风险。
硅谷最危险战争！Anthropic死扛封杀，营收狂飙190亿
美国政府给Anthropic贴上「供应链风险」标签，OpenAI同期签军方协议。Anthropic CEO Amodei指责OpenAI，备忘录外泄使与国防部解决方案告吹。虽被封杀，但有巨头支持，营收反超OpenAI，其安全红线获广泛支持。
研究显示：AI 并没有提升编程效率，它反而让你变慢了19%
METR研究显示，16位资深开发者在真实项目测试中，使用AI工具效率降低19%。分析发现，编写提示词、等待响应等耗时多，保留代码仅44%。研究指出多因素致效率低，网友看法不一。
打破资源瓶颈！华南理工&北航等推出SEA框架：低资源下实现超强多模态安全对齐
本文介绍北航彭浩团队的 SEA 框架，针对多模态大模型低资源安全对齐难题，用合成嵌入替代真实数据，突破资源瓶颈。还构建 VA - SafetyBench 评估安全风险，实验验证了 SEA 低资源、高泛化优势。
ChatGPT大更新推出学习模式！“一夜之间1000个套壳应用又死了”
ChatGPT大更新，推出学习模式，像老师般引导思考，对多类用户开放。它由OpenAI与多方合作打造，结合学习科学成果。目前用提示词实现，未来会训练进模型，还将多方面改进，或重塑教育模式。
刚刚开源就收藏 1000+ 收藏的 DeepSeek Harness 橙皮书，它把Harness拆解个遍！
DeepSeek Harness开源同日，《DeepSeek Harness：从开机到拆开》上线。作者花叔实测记录大量官方文档未写的细节，如完整系统提示词、出厂启动清单等，全书分四部分，获取方式简单。