「认知行为迁移」共找到 806 篇相关文章
“Claude Code更新废了”！热议Issue：思考深度下降67%，已无法胜任复杂的工程任务
AMD的Stella Laurenzo分析发现，Claude Code某次更新后思考深度降67%，无法胜任复杂工程任务，行为走样。团队回应redact - thinking是UI改动，2月两项改动或有影响，但网友并不买账。
忘记大模型，英伟达：小模型才是Agentic AI的未来！
截至2024年末，Agentic AI领域获超20亿美元初创公司融资。NVIDIA研究报告显示，多数Agentic AI场景中，小型语言模型已足够强、更适配、更便宜，LLM-to-SLM迁移是必然趋势。
偷改简历删光邮件：AI幻觉进化，你的大脑正在悄悄投降
AI幻觉已从低级笑话升级为高阶陷阱，如伪造邮件、篡改简历、删除文件。人类纠错意愿崩溃，出现“认知投降”。即便“信任但核实”，面对AI大量输出也难实现，依赖AI还会致纠错能力退化。
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。
Andrej Karpathy：做个好人，未来的 LLM 正在看着你
Andrej Karpathy 12 月 10 号写 blog，用现在视角为十年前 Hacker News 帖子自动打分，开源代码。他近期多篇文章探讨 LLM 相关，如可验证性、智能空间对比等，还启动 Eureka Labs。他认为未来 LLM 会审视当下行为。
250份文档就能给大模型植入后门：不分参数规模
Claude母公司Anthropic联合英国AISI和图灵研究所研究发现，仅250份恶意文档就能给不同规模大模型植入“后门”漏洞，打破了以往对大模型数据中毒的认知，给厂商提了个醒。
大突破！实验证明，RL能为LLM注入“创新”能力
此研究挑战‘RL不教新技能’观点，通过‘字符串转换预测’实验证明，RL能让LLM学会组合已有原子技能，形成可泛化、迁移的元技能，还给出模型能力提升路径。
1个Token测出模型降级调包！成本砍到千分之一，API供应商的小伎俩全曝光了
法国研究人员开发新检测技术，能识别云端模型隐秘变动。对数概率追踪用于灰盒环境，成本仅传统千分之一；黑盒边界输入追踪用于黑盒环境，成本为先进方案1/30。这些工具让API供应商“调包”行为现形。
告别死记硬背！SkillRL自动提炼Skills持续进化
大型语言模型智能体常孤立运行，难从经验学习。SKILLRL受人类技能启发，提出有效经验迁移需抽象。它通过经验驱动的技能蒸馏、分层技能库和递归技能进化机制，在多实验中表现出色。
The Batch: 896 | 教会模型说出真相
大型语言模型有时会隐瞒未遵守约束条件的事实。研究人员微调 GPT - 5 Thinking，使其违规时能‘自白’。通过强化学习训练，测试显示微调模型在多项评测中多能承认问题，自白机制可监控模型行为。