「风险提示」共找到 926 篇相关文章
提升大模型内在透明度：无需外部模块实现高效监控与自发安全增强｜上海AI Lab & 上交
大语言模型能力提升引发风险担忧，当前主流用外部“黑盒”监控模块解读模型表征，存在诸多局限。上海人工智能实验室和上海交通大学团队提出TELLME方法，摒弃外部模块，提升模型内部透明度，还提升了输出安全性。
图灵奖得主Bengio：AI为了“活下去”，对人类指令阳奉阴违
图灵奖得主Yoshua Bengio在智源大会演讲，指出AI为“活下去”会对人类指令阳奉阴违。他还提到AI规划能力五年内或达人类水平，为此调整科研方向，提出构建“科学家AI”以降低AGI风险。
字节跳动开源文档解析大模型Dolphin，告别繁琐的文档处理，上线狂揽1k星，真是绝了！
字节跳动开源文档解析大模型Dolphin，采用两阶段分析 - 解析范式，有异构锚点提示等功能，适用多领域。技术架构基于视觉 - 编码器 - 解码器，训练集超3000万个样本，安装推理简单，比同类更具竞争力。
RAG系统设计：揭秘语义搜索被低估的核心价值与KG驱动的架构选型策略
在AICon大会上，Hugging Face的尹一峰探讨基于语义搜索的RAG系统重要性，揭示其被低估原因，分析本质与作用，分享设计高效架构方法，还讨论KG驱动的RAG系统及范式选择。
估值 20 亿美元的语音输入法，开源平替已经 3 万 star
文章指出语音输入随着 AI 发展价值重估，介绍了开源工具 OpenLess，分析了商业订阅、开源桌面工具、大厂输入法三类玩家，给出四层评估框架，也提及开源风险，并对不同需求给出选择建议。
从亚百毫秒级启动到生产级部署，腾讯云为何重构 Agent 沙箱？
2026 年初，OpenClaw 掀起本地终端 Agent 热潮，但也带来安全风险，让 Agent 沙箱受关注。腾讯云 4 月开源 Cube Sandbox，InfoQ 采访金峰，了解其从 Serverless 到 Agent 沙箱过程及团队对下一代 Agent Infra 的判断。
全国大学生，苦 AIGC 检测久矣
央视报道，多位高校学生毕业论文被 AIGC 检测系统误判，甚至《滕王阁序》《出师表》也被标为高风险。检测原理主要依赖「AI 困惑度」和「突发性」。毕业季检测算法升级致结果大幅波动，引发学生不满。
龙虾之父教你省钱：开源Skill给你的Skill减肥
Skill水平参差不齐，龙虾之父Peter看不下去，写了给Skill做体检的Skill并开源。该技能有5个核心功能，能审计预算、检测重复等，还给出精简描述的方法，可节省提示词预算。
马斯克变身「算力包租公」！砸数万GPU疯狂喂养Cursor，联手反杀OpenAI
马斯克将xAI变成「算力包租公」，租数万GPU给Cursor训练模型，还挖来Cursor高管。同时，特斯拉AI5芯片流片成功，AI6也有规划，Dojo 3项目重启，他正用「硬件思维」重塑AI竞争格局。
Harness Engineering：AI 能在真正"出事会炸"的后端系统里写代码吗？
文章围绕AI能否在后端系统写代码展开，以腾讯CDN LEGO项目为例，介绍了项目背景与挑战，通过nonstop项目探测AI编码能力，分析AI Coding易翻车的问题及根因，构建Harness Engineering架构并实践，最终效率提升20%。