「隐私危机」共找到 289 篇相关文章
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
RL特训出「押题大师」？破解模型微调中的多样性危机与灾难性遗忘
近年来，基于可验证奖励的强化学习（RLVR）成为提升大语言模型推理能力的重要路径，但许多经RL微调的模型出现‘越训越单一’问题。复旦大学等团队聚焦长期被忽视的KL散度项，提出DPH - RL方法，可缓解多样性坍塌。
Telegram创始人搞了个狠活：100%隐私的去中心化AI网络
Telegram创始人帕维尔·杜罗夫推出专注机密AI计算的去中心化网络Cocoon，或终结中间商垄断。它基于TON区块链，有三层架构，四步完成AI查询，但面临延迟和竞争挑战，未来将采用DAO治理。
隐私优先的本地匿名化小模型：在数据离开设备前保护个人信息
最强 AI 模型在云端，安全数据在本地，这一矛盾困扰着想用 AI 处理敏感信息的人。Freysa 团队提出解法，不重写提示，只替换敏感信息，用小模型实现精准匿名化，有实用价值。
token危机解决？扩散模型数据潜力3倍于自回归，重训480次性能仍攀升
新加坡国立大学AI研究者Jinjie Ni团队预训练扩散语言模型（DLMs）与自回归（AR）模型，发现DLMs是超强数据学习者，数据潜力超AR 3倍，重训480次性能仍攀升，还剖析同期研究方法论缺陷。
声音自然、接近真人，只要 3 秒音频就能完成声音克隆，可本地跑保护隐私的TTS！
Neuphonic出品端侧TTS模型NeuTTS，能在本地设备高效运行，无需云服务。它有真正端侧运行、低延迟、高质量自然语音等特性，支持多语言，项目还给出安装、使用方法及支持模型等信息。
秒改屎山代码、最高提效 300%！AI 代码审查工具会终结技术债务还是带来新危机？
当下AI代码审查工具引发热议，虽宣称提效300%，但实际表现存争议。InfoQ采访硅心科技专家，探讨其利弊、核心能力、不同工具差异等，还提及应对问题的策略及未来审查流程演变等内容。
Gemini AI /Nano Banana Pro图像无损去水印工具
这是基于Javascript的纯浏览器端Gemini AI图像无损去水印工具，用反向Alpha混合算法，有纯浏览器端处理、隐私保护等特性，介绍使用方法、算法原理等。
OpenAI的「梦醒时分」
这个冬天，OpenAI不好过。今年其概念股涨幅远逊谷歌，还深陷2070亿美元资金缺口与信任危机。谷歌凭借深厚家底复仇，OpenAI跌落神坛，一场残酷博弈正在上演。
2小时入门「个性化联邦学习」，上交清华开源斩获1700+星 | JMLR'25
上海交通大学和清华大学研究人员开源个性化联邦学习代码库PFLlib，含39种算法、3种场景和24个数据集，支持模拟500设备训练，还有隐私保护评估工具，降低研究门槛。