搜索：信任 - AI Reading Hub

「信任」共找到 137 篇相关文章

想知道你的LLM API被过度收费了吗？隐藏的Tokens终于可以被审计了

马里兰大学CASE Lab团队研究商业不透明大模型服务（COLS），定义其风险，提出三层审计蓝图。还推出验证框架CoIn，能高效识别token数量膨胀，有可定制性且审计开销低，为构建信任提供技术支撑。

很多开发者吐槽并弃用 Cursor，因其付费后砍功能、技术变差、营销像‘障眼法’，引发信任危机。部分用户转向 Claude Code，不过企业侧使用情况有差异。AI 编程工具竞争激烈，需多维度构建优势，市场未来趋势明显。

OpenAI公开IH - Challenge，解决大模型指令冲突难题。指出大模型问题多因听信错误指令，给出系统＞开发者＞用户＞工具的指令层级结构，设计数据集训练模型遵循高信任等级指令，提升安全可控性与抵御提示词注入能力。

据The Information消息，马斯克用Grok取代X员工，负责信任与安全问题的工程团队从超100人裁至不足10人。他意图用AI替代人力、自动化替代传统工程，还推进“巨硬计划”，但也带来权责不对等、安全问题和业务受阻等风险。

最近一项研究显示，在杀猪盘情感博弈中，AI比人类骗子更有耐心，更易赢信任。研究人员做了AI与人类诈骗对比实验，结果显示大家更相信AI。如今AI已进入诈骗园区，虽未全面替代人类，但诈骗或更隐蔽高效。

AI智能体成2025年十大战略技术趋势之首，到2028年至少15%日常工作决策将由其自主做出。但企业面临信任鸿沟，缺乏评估规范。首部聚焦AI智能体应用的团体标准公开征集起草单位与起草人，适用于多方，有核心内容与价值。

快手科技语言大模型团队提出熵比裁剪（ERC）方法，应对强化学习中信任域偏离问题。该方法从全局视角稳定策略分布，在多个数学推理基准实验中提升了模型性能，还与多种方法对比验证了泛化能力。