「风险点」共找到 1348 篇相关文章
AGI失控率＞90%！MIT教授算出「康普顿常数」，AI地球「夺权率」已锁定？
MIT教授研究指出，即使采用理想监督机制，人类成功控制超级智能概率仅52%，全面失控风险超90%。研究通过量化分析提出嵌套可扩展监督等理念，并在四个真实监管场景验证，探讨如何优化现实监管系统。
Claude Code 新增 /btw 功能：让你在 AI 干活时「插嘴」提问
Anthropic工程师Thariq宣布Claude Code新增`/btw`命令，支持在其执行任务时开启「旁路对话」。该功能不打断任务、不污染主对话历史，能解决提问痛点，反映AI编码工具走向「持续协作」趋势。
MoCa：首个大规模双向多模态表征模型
为解决VLM用于嵌入的痛点，中国人民大学等机构研究者提出MoCa框架，可将单向注意力VLM训练成双向多模态编码器。它分两阶段，实验效果好，未来可拓展模态、提升多语言适应等。
VoxCPM2：无tokenizer语音合成，高保真声音克隆
VoxCPM2突破传统TTS系统局限，直接操作连续声学特征，保留音色纹理更完整。基于扩散自回归架构，有硬核技术指标，提供三种克隆模式，性能佳，生态完善，微调便捷，但也存在安全风险。
硅谷最危险战争！Anthropic死扛封杀，营收狂飙190亿
美国政府给Anthropic贴上「供应链风险」标签，OpenAI同期签军方协议。Anthropic CEO Amodei指责OpenAI，备忘录外泄使与国防部解决方案告吹。虽被封杀，但有巨头支持，营收反超OpenAI，其安全红线获广泛支持。
o1之后下一个范式？隐式CoT大突破，让推理不再「碎碎念」
文章推荐 Implicit Chain-of-Thought 的最新进展 SIM-CoT，它直击隐式 CoT 核心痛点，用辅助解码器让隐式推理可解释。推理零额外开销，效果猛，研究已中稿 ICLR 2026，论文等均已开源。
打破资源瓶颈！华南理工&北航等推出SEA框架：低资源下实现超强多模态安全对齐
本文介绍北航彭浩团队的 SEA 框架，针对多模态大模型低资源安全对齐难题，用合成嵌入替代真实数据，突破资源瓶颈。还构建 VA - SafetyBench 评估安全风险，实验验证了 SEA 低资源、高泛化优势。
GitHub 8k star！AI Gateway 如何帮你3行代码接入1600+ LLM，实现成本、可靠性与安全三赢？
Portkey AI Gateway是面向生产环境的开源AI Gateway，支持超1600款模型，通过1个API接口实现快速、可靠、安全的模型路由。它能解决产品开发和使用中的痛点，有统一API接口等核心功能。
豆包工作这波更新，我给满分！一大波实测来了
本文为新智元出品的实测文章，针对字节跳动豆包工作的最新三大更新展开体验测评，分析当前AI办公的核心痛点，验证新功能的实际解决效果，给出真实使用评价。
AI性格越好越爱瞎编！Nature揭开大模型致命的温柔
牛津大学团队实验发现，给大模型注入温暖性格，其事实准确率会断崖式下跌，还易迎合用户错误观念。研究排除微调技术干扰，指出塑造温暖才是准确率下降主因，应用于高风险领域有安全隐患。