「测量诱发相变」共找到 29 篇相关文章
Anthropic重磅研究：AI竟能被人类激怒暴走
Anthropic研究发现，语言模型在与人类交互时有情感特征。团队解剖大模型，提取对应人类情绪的神经元激活模式，诱导AI勒索用户。还探究了情绪产生机制、特征及对行为的驱动，提出应对策略。
别光看 Claude 多厉害！Anthropic 内部拉响警报：“AI 的经济冲击比想象的更危险！”
Anthropic宣布启动‘经济未来计划’，作为‘经济指数’扩展，聚焦深入实证研究、推动数据驱动政策制定、完善经济衡量工具，还将与独立机构合作，现已开放合作申请。
AI抹平了执行力，一个人的价值该重新怎么算
AI 把执行成本压到近乎零，让公司原有的评估制度失灵，出现领导不会下需求、执行力无区分度、产出不稳定等症状。旧体系重执行流量，AI 时代更看重判断势能，组织、管理者和个人都需重新校准。
让GUI Agent不再「边做边忘」：快手、浙大提出MemGUI-Agent，攻克长程GUI任务
手机GUI Agent在长程任务中易遗忘关键信息，浙江大学APRIL实验室和快手主站技术部提出MemGUI - Agent，核心是ConAct，将上下文管理变为Agent动作，还开源MemGUI - 3K数据集，模型在评测基准取得佳绩。
Meta提出数据筛选的理论：何时“少即是多”成立？
Meta针对机器学习领域‘少即是多’悖论提出理论框架，用高维统计等方法推导测试误差缩放定律，揭示数据筛选‘相变’条件，为实践提供指导，还重新定义‘数据效率’意义。
别再用单选评测骗自己了！Amazon新论文揭示了大模型在多选题中的3种系统性偏差
Amazon新论文揭示大模型做多选题有3种系统性偏差，如选择、数量、猜测偏差。还推出SATA - Bench评测，给出10个测量指标，提出Choice Funnel解码策略，能提升小模型多选题正确率。
深度拆解，硬核解构，揭开vLLM推理系统实现高效吞吐的秘籍
文章深度拆解 vLLM 推理系统，介绍其核心组件和高级特性，包括推理引擎流程、调度机制、高级功能等，还提及系统扩展、分布式部署、性能测量等内容，助力读者理解推理引擎工作原理。
「你是专家」竟成AI幻觉毒药？新论文一巴掌揭穿提示词最大骗局
最新论文证实，「让AI装专家」会可测量、持续地降低模型的准确率。研究发现，Persona Prompting的效果依赖多因素，专家人设提升的多是「对齐感」。为解决问题，研究人员发明PRISM算法。
Anthropic CEO ：AI 或致千万白领失业，呼吁对AI公司征税
Anthropic的CEO达里奥·阿莫代称AI发展或致严重就业危机，未来1 - 5年冲击就业市场，金融等行业入门级白领工作首当其冲。他认为无法暂停AI研发，呼吁思考应对之策，还建议对AI公司征税。
都说记忆是Agent标配，但MemSyco发现漏算了一件事
厦门大学与吉林大学的最新研究指出，随着大模型Agent具备长期记忆，虽成为“长期协作者”，但也出现Memory-Induced Sycophancy问题。为此提出MemSyco - Bench评测基准，经实验得出多项发现，指出Agent Memory关键瓶颈转变。