思维链劫持」共找到 516 篇相关文章

新闻资讯7

315曝光的“AI投毒”原理:GEO这样操控大模型推荐

央视3·15晚会揭开AI“投毒”灰色产业,利用GEO操控大模型推荐。介绍了训练数据污染、检索上下文劫持、提示注入诱导攻击三种“投毒”技术,还阐述了内容生产、渠道投放、效果强化的产业运转流程。

量子位
新闻资讯7

57.6万代码撕碎AI编程神话,20%「幽灵包」暗藏漏洞!苹果、微软已中招

最新研究用57.6万个代码样本揭示,超20%代码依赖的是不存在的软件包,为供应攻击创造机会。Meta和微软虽看好AI写代码,但AI生成代码或成安全灾难,开发者需仔细检查。

新智元
算法论文8

沉默的进化:LatentMAS 如何通过“潜意识通信”重塑多智能体协作?

这是对多智能体协作领域突破性研究的深度解读。论文提出LatentMAS框架,让智能体直接交换“思维向量”,实现“机器心灵感应”,在性能、速度和Token消耗上全方位碾压传统文本交互模式。

深度学习自然语言处理
开源动态8

SFT+RL双管齐下:ReasonGen-R1如何破解文生图「指令不遵」难题?

上海科技大学等机构提出 ReasonGen-R1 框架,结合式推理监督微调与强化学习,提升自回归图像生成模型推理和创作能力,已全面开源。介绍了其训练阶段、实验结果及推理模式。

机器之心
产品应用7

Cursor Origin 上线,GitHub 的老玩法还够用吗?

8月17日,GitHub服务异常,同日Cursor向付费计划开放Origin early beta。代码仓库接入更多Agent,现有设施适应人的节奏,而Agent工作节奏更快。Origin重写协作成本,与GitHub设计前提有差异,马斯克布局延伸到软件生产

AI科技评论
开源动态7

20刀月费秒变API!Hermes一行命令就能用上Claude、ChatGPT订阅

两大开源Agent框架有硬核更新。Hermes Agent v0.14用一行命令把模型订阅变API,零成本驱动开发工具,还接入Grok。OpenClaw 5.18修复问题,适配Grok。20美元月费可喂饱工具,打破生态闭环。

新智元
7

PyPI遭投毒!LiteLLM用户Python启动就中招,个人凭证秒泄露

PyPI被投毒,LiteLLM的1.82.7和1.82.8版本被植入信息窃取程序,安装后SSH密钥等数据会泄漏。该漏洞源于Trivy被篡改,攻击者借此发布恶意版本。已给出自检流程,供应攻击或常态化。

量子位
产品应用8

今天,被GLM-5的Agentic Coding能力惊艳到了

上月底Anthropic报告揭示编程趋势转变,月初Claude Opus 4.6与GPT - 5.3 Codex发布印证。作者深度测试GLM - 5,经两项实测挑战,发现其在复杂系统任务表现超预期,有‘系统架构师’思维

PaperAgent
算法论文7

穷人福音!MIT研究:不用堆显卡,抄顶级模型作业就成

MIT研究把59个不同模型凑一起,发现强大模型对物质理解趋同,且性能越强思维越接近。研究还指出性能不佳模型的问题,认为可通过模型蒸馏让小模型模仿大模型,实现算力自由。

新智元
新闻资讯7

打脸哲学无用!牛津博士教出Claude,自曝百万年薪提示词秘诀

Anthropic驻场哲学家Amanda Askell主导设计Claude的性格等机制,她分享制定有效AI提示词方法,认为需哲学思维。此外还提及不同人对提示词看法,以及大模型存在的「裂脑问题」。

新智元