「攻击测试」共找到 1854 篇相关文章
性能飙升42%！人大&字节开源10万级 SWE数据集 Scale-SWE
近期，人大和字节开源10万级软件工程数据集Scale - SWE，用首创工作流从GitHub构建真实数据。基于此微调的Qwen3 - 30A3B - Instruct模型测试表现佳，其数据相比合成数据优势明显。
别跟LLM太交心！斯坦福新研究：AI不能完全取代人类心理治疗师
斯坦福大学研究团队测试流行AI模型及商业化AI治疗平台，发现AI治疗师存在根本缺陷与潜在危险，如歧视回应、无法危机干预、谄媚等，但也认可其在心理健康方面的辅助用途。
MCP协议曝出大漏洞：会泄露整个数据库
最新研究显示，MCP协议存在重大漏洞，攻击者可利用LLM的指令/数据混淆漏洞直接访问数据库。研究者基于Supabase搭建系统演示攻击过程，还给出降低风险的解决措施。
阿里「快乐小马」来了，首批网友已玩疯！720P低至0.44元/秒
今天，阿里HappyHorse - 1.0开启灰度测试。它有电影级叙事质感，指令遵循能力强，能驾驭多种风格，还可一句话改视频。性价比高，720P低至0.44元/秒，让AI视频从‘玩具’变‘工具’。
今天，Anthropic偷偷移除了Pro用户的Claude Code访问权
Anthropic一度将Claude Code从Pro套餐移除，引发开发者不满，数小时后官网回滚，负责人称是小范围测试。Claude Code因高消耗或调整收费，Anthropic正修正订阅模型，这或改变开发者工具格局。
靠“AI 云”爆红的 Vercel，栽在一个第三方AI工具手里！IPO前夕遭黑，200万美元赎金谈崩？
近日，云平台 Vercel 遭入侵，攻击者通过被入侵的第三方 AI 工具 Context.ai 实施攻击。Vercel 确认‘安全事件’，称少量客户受影响，谷歌 Mandiant 团队协助调查。此事发生在其 IPO 前夕，或引发连锁安全暴露。
Evaluation is All You Need：评估设计的微小差异如何扭曲结果
论文以DeepSeek - R1 - Distill系列模型为例，指出大模型评估中看似客观的基准测试结果对评估细节极度敏感，细微评估条件变化会致分数波动大，削弱模型对比可信度，呼吁建立新评估标准。
“大模型第一股”打响上市前哨战！智谱GLM-4.7 刷新开源编程SOTA，修复代码、终端操作表现超Claude 4.5
冲刺大模型第一股的智谱推出开源大模型GLM - 4.7，主打编程与代理式任务提升。它在多项基准测试中表现出色，UI质量飞跃，还采用新推理机制。智谱上市在即，但亏损扩张快，研发投入大。
谷歌Gemini-0605发布，全球大模型第一！
昨晚谷歌发布Gemini 0605版本，官方称其回归0325版本效果。该版本在多项基准测试中领先，Elo评分提升。谷歌针对反馈改进，使Gemini 2.5 Pro回答更优，还取消日期后缀，输入输出Token价格有优势。
吴恩达手搓新项目：AI审稿人上线！只为终结学生“3年被拒稿6次”的痛苦
吴恩达开发新项目 Agentic Reviewer 代理审稿人，灵感源于学生3年论文被拒6次。此工具能加快研究人员迭代速度，在 ICLR 2025 评审数据测试中接近人类水平，适用于 arXiv 公开研究领域。