「信任危机」共找到 236 篇相关文章
1400亿Agent入场，“流量”这条护城河要塌了
在支付宝AI生态大会上，蚂蚁集团CEO韩歆毅提出Agent时代流量逻辑失效、信任逻辑崛起。他还指出人的流量让位于智能体生态，Agent重构商业决策权，AI支付将成全球新基建。
H100去哪儿了？
X 用户疑问引发关注，H100 供应下降成算力危机。超大规模云厂商和前沿实验室提前锁定产能，核心短缺在于内存与封装工艺。算力危机冲击 AI 生态，产业界有应对方法，但短缺问题短期内难解决。
AI“氛围编程”威胁开源，维护者面临危机
开源维护者正加速关闭外部贡献，因AI生成贡献量大质低。研究显示“氛围编程”会造成负反馈循环，降低软件可用性和质量。平台激励加剧问题，虽有应对策略但效果不佳。
让Agent系统更聪明之前，先让它能被信任
本文从系统工程视角剖析 Agent 系统问题与复杂度，指出开发中‘简单’是假象，复杂性只是被转移。介绍了 Agent 开发各阶段难点，通过案例说明其落地困境，提出将其视为系统组件，先求稳定可靠，还提及开发思路、模式及最新进展。
华人团队终结Token危机：扩散模型数据潜力超自回归三倍
最新研究发现，token数量受限下，扩散语言模型数据潜力超自回归模型三倍多。一个1B参数的扩散模型用1B tokens训练，在基准测试取得不错准确率，且未现性能饱和。
Sam Altman宣告软件开发即将进入"快时尚时代"！机遇还是危机
Sam Altman宣告SaaS将进入快时尚时代，新的GPT - 5编程能力或让开发SaaS像Zara出新款般轻松。但此概念最早由Patricio提出，他认为AI编程会带来‘代码污染’，与Sam态度不同。
谷歌预览Code Wiki：你能信任AI来记录你的代码库吗？
谷歌预览Code Wiki，为代码库生成并更新文档，预览版含数百开源项目文档，Gemini CLI扩展将支持内部代码库。它有聊天界面，但AI生成文档缺乏权威性，开发人员看法不一，且非真正维基。
智算浪潮下的专有云操作系统安全：范式跃迁与信任链重塑
云计算发展使专有云成企业平衡便利与安全之选，但 AI 冲击其安全范式。阿里云三位专家探讨 AI 时代专有云安全，涉及物理隔离价值、新技术重塑安全逻辑、国产 OS 与芯片协同挑战等，还介绍阿里云方案及未来趋势。
研究者警告：强化学习暗藏「策略悬崖」危机，AI对齐的根本性挑战浮现
强化学习是大模型推理与对齐的核心方法，但常带来模型行为脆弱等问题。上海人工智能实验室徐兴成博士论文揭示‘策略悬崖’挑战，分析其成因，解释多种对齐失败现象，并提出对AI研究的启示。
RL特训出「押题大师」？破解模型微调中的多样性危机与灾难性遗忘
近年来，基于可验证奖励的强化学习（RLVR）成为提升大语言模型推理能力的重要路径，但许多经RL微调的模型出现‘越训越单一’问题。复旦大学等团队聚焦长期被忽视的KL散度项，提出DPH - RL方法，可缓解多样性坍塌。