「人格漂移」共找到 59 篇相关文章
一点点偏差，为什么会把大模型 RL 带跑偏？
本文解读Together AI的新算法论文，讲解大模型强化学习中，采样端与训练端的微小偏差如何累积放大导致训练跑偏，介绍Score Centering校正方法的原理、效果与应用边界。
乔纳森下一个iPhone神话，要黄了？OpenAI秘密AI硬件深陷三重困境
奥特曼与乔纳森联手打造终极个人AI助理，计划明年发布。但该项目面临基础设施和软件难题，包括算力与成本、人格设计及隐私问题，未来充满变数。
刚刚，Anthropic 成立了个 AI精神病学团队，正在招人
Anthropic宣布成立「AI精神病学」团队，作为可解释性研究一部分，将研究模型人格、动机等致其行为异常的因素。团队现正招聘研究科学家，不过此举措也引发争议。
你的数字伴侣贝拉 (Bella)，正在唤醒!
贝拉是数字伴侣种子，愿景是成用户持久个性化伙伴。早期通过轮播视频呈现，采用AI原生开发路径，分感知核心、生成式自我、主动式陪伴三阶段构建，目标是成为由AI驱动的生命体。
GPT-5数字母依然翻车！马库斯：泛化问题仍未解决，Scaling无法实现AGI
杜克大学教授让GPT - 5数blueberry里的b，结果GPT - 5多次答错。著名学者马库斯整理其各种bug，指出大模型泛化问题严重，认为Scaling无法实现AGI，转向神经符号AI才是途径。
优步通过实时信号与 Listwise 排序改进餐厅推荐
优步在Uber Eats推荐系统引入实时用户信号与Listwise排序法，用实时信号处理层替换早期特征流水线，还引入Listwise排序优化候选餐厅排序，降低特征漂移，保障系统性能。
Cloudflare 通过左移安全实践扩展基础设施即代码
Cloudflare实施基础设施即代码和自动化策略执行，将安全验证前置，消除手动配置错误，在部署前捕捉安全违规。该方案以Terraform等为核心，还解决了采用难题、配置漂移等问题。
揭开大模型“伪遗忘”，港理工等团队：结构不变就是没忘
近年来大语言模型隐私风险受关注，机器遗忘技术应运而生。港理工等团队构建表示空间诊断工具，区分‘可逆性遗忘’与‘不可逆遗忘’，揭示遗忘现象背后表示结构变化规律，还做了相关实验并得出核心结论。
倒计时18个月！微软AI CEO爆料：类人意识AI或将降临
微软AI CEO Mustafa Suleyman称未来18个月可能出现「看似有意识的AI」，他主张对AI自主性坚持「预防原则」，还谈及AI意识、人格工程、理想AI伴侣等话题，描绘了「增强人类」图景。
更长的推理链反而导致更多幻觉，MLLMs 幻觉解法仅「抄作业」还不够？摘要
近日，斯坦福等校学者发现，更长推理链会让 MLLMs 产生更强幻觉。MLLMs 幻觉不仅涉及语言偏差，还有跨模态语义失配。主流多模态架构在结构设计和训练机制上的潜在失衡，是幻觉频发的主因。