「协议缺陷」共找到 464 篇相关文章
除了prompting外，不动参数，如何改变模型行为？
文章指出传统提示工程控制大模型生成行为有缺陷，提出Steering Target Atoms (STA)方法。它用稀疏自编码器分解LLM高维表示，定位“原子知识组件”精准控行为，实验效果超现有技术，还能控制推理长度。
大模型越反思越错，原来是长链推理通过自我说服加重幻觉 | 北邮
北邮研究团队通过思维链审计实验，揭示大模型长链推理‘越想越错’现象背后的元认知偏差。研究基于RFC协议文档构建受控知识域，分析推理过程，发现反思会加重幻觉，且现有检测方法难以应对。
Andrej Karpathy 爆火演讲刷屏技术圈：AI 开启软件 3.0，重写一切的时代来了！
Andrej Karpathy 在旧金山 AI 创业学校演讲，指出 AI 开启软件 3.0 时代，自然语言成编程接口。软件经历 1.0 代码、2.0 神经网络权重，现进入 3.0 用提示词编程大模型阶段，还探讨大模型特性、应用及相关问题。
0%通过率！Code神话泡沫！LiveCodeBench Pro发布！
国际算法奥赛金牌得主团队测试20个顶级大模型，在584道编程赛题上，高难度题目AI通过率为0%。论文发布LiveCodeBench Pro评测方法，揭示AI编程能力神话泡沫，指出其问题并给出提升方向。
Claude与人类共著论文，苹果再遭打脸！实验黑幕曝光
苹果一篇质疑大模型推理能力的论文引发争议。Open Philanthropy研究人员联手Anthropic发表论文，揭露苹果论文三大缺陷，指出部分测试无解却让模型“背锅”，还给出正确评价大模型推理能力的方法。
让chrome浏览器变成你的智能助手，浏览器转变为强大的 AI 控制自动化工具
Chrome MCP Server是基于chrome插件的模型上下文协议服务器，能让大模型或chatbot接管浏览器。它有chatbot/模型无关、用原本浏览器等特性，与同类项目比优势明显，还介绍了使用步骤、工具及示例。
为什么伟大的 AI 产品不能被计划？
Anthropic的CPO Mike Krieger分享构建AI产品经验与哲学。他认为未来多数内容将由AI生成，判断重点在来源与可信性；伟大AI产品多自下而上生长，如MCP协议；还谈到AI应用面临易用性等问题。
NLWeb: 让每个网站都装上一个智能的“对话引擎”
微软近日开源NLWeb项目，致力于简化网站构建对话式交互界面的过程。它利用现有网络生态，定义协议让用户或AI代理与网站交互，具有降低门槛、开放社区驱动等优势，目标是构建“AI Web”。
Agent产品，快者为王？Anthropic 和 Databrick CEO 对话解读
Anthropic和Databrick以「人工智能的未来：面向各领域的专用Agent」为主题举办线上峰会，两家公司CEO Dario Amodei和Ali Ghodsi对谈，分享Agent未来、相关合作等话题，还探讨数据价值、治理风险及AI应用迭代等问题。
加州理工用AI攻克量子化学60年难题，1块显卡做完7800块的活！
加州理工学院Anima Anandkumar团队8月24日发文，用AI模型将量子化学计算复杂度从立方级压到近线性级。单块GPU就能完成含82500个电子的金属缺陷模拟，而2019年同类计算用了约7800块GPU。