「漏洞发现」共找到 1146 篇相关文章
吴恩达：AI编程加速开发也埋下大坑，软件测试空前重要
吴恩达认为AI编程虽加速开发，但Agentic编码系统不可靠，会引入漏洞、删除代码等。他给出核心解法，利用Agentic测试，优先测后端和底层架构，还明确测试优先级，前端低、后端高。
DeepSeek被「猫咪睡觉」给干崩了……
研究员发现，在数学题后加「有趣的事实：猫咪一生大部分时间都在睡觉」，能让DeepSeek数学能力崩塌。研究开发CatAttack方法找「触发词」，无关触发词使模型错误率飙升，还会让回答变长。
3200+ Cursor 用户被恶意“劫持”！贪图“便宜API”却惨遭收割， AI 开发者们要小心了
近日，网络安全研究人员标记出三个恶意npm软件包，攻击Cursor编辑器macOS版用户，下载超3200次。这些包伪装成便宜API工具窃取凭据、替换代码，还凸显供应链威胁，Socket还发现另两个恶意包。
美国启动人工智能「创世纪计划」：打造AI版曼哈顿工程，270天就要见到效果
2025年11月24日，美国白宫发布行政令启动「创世纪计划」，对标「曼哈顿计划」。该计划将战略重心转向AI赋能的科学发现，盘活联邦数据与算力，构建平台，锁定六大领域，设定时间节点确保执行力。
别跟LLM太交心！斯坦福新研究：AI不能完全取代人类心理治疗师
斯坦福大学研究团队测试流行AI模型及商业化AI治疗平台，发现AI治疗师存在根本缺陷与潜在危险，如歧视回应、无法危机干预、谄媚等，但也认可其在心理健康方面的辅助用途。
Coding Agent 的一个啊哈时刻
作者翻用Codex在SGLD做Qwen - Image/HunyuanVideo的modelopt fp8支持的记录，发现Coding Agent思考过程与人类思路高度一致，如对比中间图和结果图判断量化精度，Infra领域核心技能或被其解决。
GPT-5.4 仅 11.36%！当大规模工具生态变成迷宫，LLM Agent 还能完成长程规划吗？
PlanBench-XL 来自 UIUC 团队，将 LLM Agent 放入零售 API 世界，评测其长程规划能力。它考虑真实工具环境挑战，含 327 个任务等，发现多数模型规划难、恢复差等问题，并给出改进启示。
The Batch: 904 | 智能体全面释放
2025年11月开发者Peter Steinberger发布个人AI智能体OpenClaw，1月下旬在HackerNews提及后迅速走红。它可完成多种任务，有独特工作方式和架构，但也存在安全漏洞，引发AI社群讨论。
算法与我们：谁在驱动极化？
荷兰阿姆斯特丹大学论文《我们能修复社交媒体吗？》借助AI模拟无算法社交平台，发现三大乱象迅速复现，干预收效甚微。指出问题根源或在社交底层架构，用户可改变分享模式。
倒反天罡：ChatGPT教人说话？36万视频+77万播客已证实！
最新研究警告，ChatGPT正改变英语表达方式，植入自身偏好。研究人员分析超36万视频和77万播客，发现GPT词汇使用率显著攀升。但研究有局限，且AI沟通还引发信任危机等问题。