「信任治理」共找到 258 篇相关文章
连Karpathy都怕了！9千万级AI包被投毒，竟靠黑客写出bug救命
3月24日，AI应用核心工具LiteLLM更新版本含恶意代码，可窃取开发者核心信息。因攻击者代码有bug致机器崩溃才暴露。这引发AI基础设施信任危机，Karpathy称要减少依赖。
禁止开源 AI？绝对不可能。不是，那您也不能植入代码啊
对岸AI监管升温，开放权重的AI模型或进入“事前准入”流程。开源AI模型有诸多优势，闭源模型并不天然可信。应分级治理开源风险，中国开源模型崛起或改变全球AI竞争格局。
OpenAI「自首」！联手MIT证明：ChatGPT用得越多越孤独
OpenAI联合MIT进行四周随机对照实验，追踪981名受试者超30万条聊天消息。结果显示，ChatGPT用得越多，人越孤独，信任度越高伤害越深，语音模式长期副作用大，超120万用户心理亚健康。
开源如何促进平台构建过程中的协作
在KubeCon & CloudNativeCon欧洲大会上，Marcy Paramonova和Stéphane Cusin发表演讲指出平台是协作系统，需共同标准。开源提供共享标准与统一语言，还谈到赢得信任、文化转变等方面举措。
The Batch：833 | 针对智能体的钓鱼攻击
研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。
Code Review 将死于 2026 年
Latent Space 客座文章称人类写代码死于 2025 年，Code Review 将死于 2026 年。高 AI 采用率团队产出暴涨但审查拖后腿，AI 审代码也不可靠。作者提出范式转变及五层信任体系。
Claude惊人真相被教授曝光：思考过程加密，给钱也看不到！
Anthropic推出extended thinking，包装成让用户看到思考过程的透明标杆，但实际仅展示部分内容，核心思考被加密。开发者发现异常，密码学教授逆向有发现，这暴露了其透明度悖论和信任问题。
连马桶都会看图说话了，巨头敢卖，你敢坐么？
老牌卫浴巨头科勒发布马桶相机Dekoda，599美元，拍照识别屎尿分析健康，还能区分用户。此外，Throne等公司也有相关产品。这些产品定位健康管理，不过面临信任、算法准确性等挑战。
倒反天罡：ChatGPT教人说话？36万视频+77万播客已证实！
最新研究警告，ChatGPT正改变英语表达方式，植入自身偏好。研究人员分析超36万视频和77万播客，发现GPT词汇使用率显著攀升。但研究有局限，且AI沟通还引发信任危机等问题。
Common调查数据，72%美国青少年使用过AI伴侣
美国非营利组织Common Sense Media研究显示，72%美国青少年至少试过一次AI伴侣，52%为定期用户。研究还考察了使用行为、原因、感受等，如近半视其为工具，50%不信任其信息。