「风险提醒」共找到 596 篇相关文章
用了60天Claude Code，我的Vibe Coding终极指南：从0到1的正确打开方式
作者分享使用Claude Code 60天的经验，用多个案例展示其将AI编程从辅助推向自主的能力，还给出Vibe Coding方法论、工作流等，提醒别被工具束缚，技术为人服务。
Copilot 创始工程师：大多数 AI 编码“就像开着法拉利去买牛奶一样”
GitHub Copilot 创始工程师 Neel Sundaresan 正构建智能编码工具 IBM Bob，已有 8 万 IBM 开发者使用。他认为多数 AI 编码像开法拉利买牛奶，Bob 会按需调度模型，他还谈及智能体市场变化与风险。
革了程序员再革打工人：Anthropic发布Cowork，Claude Code走进数字办公自动化
Anthropic发布Cowork，让Claude Code走进数字办公自动化。Cowork是Claude Code理念延伸，能让普通用户驾驭强大代理能力，还能跨应用协作。不过使用时要警惕赋予权限、提示注入等风险。
被喷了……我索性扔出价值过万的 AI 编程 prompt
作者因招聘要求被喷，索性分享价值过万的 AI 编程 prompt。介绍招聘需把控 AI 产出质量，还讲了完整表达需求、完善文档、过程监督等编程要点，最后给出杀手级 prompt 并预告下文。
Yoshua Bengio，刚刚成为全球首个百万引用学者！
计算机科学家Yoshua Bengio成Google Scholar上首个引用超百万的人。他是深度学习“三巨头”之一，在“AI寒冬”坚守研究，成果显著。如今他担忧AI风险，积极推动伦理准则和监管。
链式思维是幻象吗？从数据分布视角重新审视大模型推理，马斯克回复，Grok破防
亚利桑那州立大学研究发现，思维链（CoT）推理可能只是对训练数据分布内模式的复现，输入与训练数据分布有差异时，推理链条会失效。研究探究了CoT泛化性等问题，对实际应用提出警示。
AGI失控率＞90%！MIT教授算出「康普顿常数」，AI地球「夺权率」已锁定？
MIT教授研究指出，即使采用理想监督机制，人类成功控制超级智能概率仅52%，全面失控风险超90%。研究通过量化分析提出嵌套可扩展监督等理念，并在四个真实监管场景验证，探讨如何优化现实监管系统。
VoxCPM2：无tokenizer语音合成，高保真声音克隆
VoxCPM2突破传统TTS系统局限，直接操作连续声学特征，保留音色纹理更完整。基于扩散自回归架构，有硬核技术指标，提供三种克隆模式，性能佳，生态完善，微调便捷，但也存在安全风险。
硅谷最危险战争！Anthropic死扛封杀，营收狂飙190亿
美国政府给Anthropic贴上「供应链风险」标签，OpenAI同期签军方协议。Anthropic CEO Amodei指责OpenAI，备忘录外泄使与国防部解决方案告吹。虽被封杀，但有巨头支持，营收反超OpenAI，其安全红线获广泛支持。
打破资源瓶颈！华南理工&北航等推出SEA框架：低资源下实现超强多模态安全对齐
本文介绍北航彭浩团队的 SEA 框架，针对多模态大模型低资源安全对齐难题，用合成嵌入替代真实数据，突破资源瓶颈。还构建 VA - SafetyBench 评估安全风险，实验验证了 SEA 低资源、高泛化优势。