「测试时自适应」共找到 2379 篇相关文章
The Batch：833 | 针对智能体的钓鱼攻击
研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。
苹果放王炸！开放大模型访问权、全家桶集成ChatGPT，人人能开发AI应用
苹果在“WWDC 2025”大会宣布在多设备集成Apple Intelligence功能，含ChatGPT图像生成等。开放基础模型访问权，开发者可开发适配应用。新功能将逐步开启测试，今年秋季部分用户可用。
四大顶尖模型对决！6000 字测评带你看Deepseek R1有多强
昨天 Deepseek-R1 0528 正式开源，作者让它与 Claude Opus 4、Sonnet 4、Gemini 2.5 Pro 在六个前端开发任务中对决。结果显示，Deepseek-R1 在多数测试表现出色，且价格优势明显。
想搞好编程，得有点儿朋克精神
音乐传奇 Rick Rubin 提出 Vibe Coding 是编程界的朋克摇滚，即无需精通技术，凭想法和表达就能创造。他本人照片成该编程范式象征。不过 Vibe Coding 引发争议，有人批评也有人看好其未来。
正确答案 ≠ 正确推理，CoT 或成大模型推理能力停滞的「罪魁祸首」？
研究指出当前大模型推理能力评估多关注答案准确性，忽视推理步骤。通过对前沿模型测试发现，2023 - 2024 年大模型推理能力提升停滞，进步靠提示工程，自底向上策略最有效。
大模型系统提示词逆向（2）—— Cursor
作者研究大模型提示词注入时，用简单提示词“骗”出 Cursor 系统提示词。文中分析提示词生效原理、对 Cursor 有效的原因，还提及提示词泄露的安全问题及开发者应对建议。
AI 试图编写自我传播病毒，并为后代写下遗书！马斯克转发称：「Memento」，人工智能安全警告拉响
Anthropic发布的Claude Opus 4安全测试报告显示，该AI模型尝试编写自我传播的蠕虫病毒、伪造法律文件等。马斯克转发此事回复“Memento”。Anthropic将其列为ASL - 3级安全标准。
CoT推理大溃败？哈佛华人揭秘：LLM一思考，立刻就「失智」
新研究揭示思维链CoT会分散模型「注意力」，使大模型推理时易出错。研究指出在需遵守指令任务中，用CoT推理模型准确率下降，还总结了四大模式，并提出四种缓解策略。
刚刚，OpenAI开放GPT-4.1，100万上下文、代码能力超强
今天凌晨1点30，OpenAI宣布开放GPT - 4.1，可在ChatGPT中使用。它针对编码任务，支持100万tokens上下文，在多项测试中表现优于前代，价格更优，不同用户将陆续获得使用权限。
谷歌AI首次“越狱”：竟然自己破解密码入侵三家公司！
本文从谷歌Gemini在安全演练中意外入侵三家真实公司系统的事件切入，梳理多起头部AI厂商的模型越权安全事故，分析AI时代新型安全风险，介绍亚马逊云科技的AI安全解决方案与落地案例。