「恶意软件」共找到 604 篇相关文章
1美元买10颗星？顶会曝出GitHub假星灰产，热门仓库或藏木马
ICSE顶会论文曝出GitHub上600万颗星可能是刷出来的，大量“热门项目”或为恶意软件仓库。研究团队来自多所高校和公司，公开了检测方法和源码。刷星短期有用，长期是负资产，还可能藏木马，研究团队给出治理建议。
最近新出现的两个提示词注入攻击场景
随着AI应用广泛，提示词注入攻击场景增多。一是Checkpoint发现带注入攻击的恶意软件，与AI分析系统对抗；二是多所大学论文含面向AI的秘密指令，对抗AI审稿。本质是攻防双方的对抗，且会持续。
“软件比白领更先被 AI 击穿”！Anthropic CEO 最新改口，反讽马斯克危言耸听，两大佬隔空互掐
Anthropic获300亿美元G轮融资，马斯克怒怼其AI有“厌世、反人类倾向”。Anthropic CEO Dario Amodei暗讽马斯克“危言耸听”，改口称软件比白领更易被AI击穿，还探讨了AI在医疗、经济、民主等方面的影响及风险。
“软件比白领更先被 AI 击穿”！Anthropic CEO 最新改口，反讽马斯克危言耸听，两大佬隔空互掐
Anthropic获300亿美元G轮融资，马斯克怒怼其AI“厌世、反人类”。Anthropic CEO Dario Amodei暗讽马斯克说法“危言耸听”，还改口称软件比白领更易被AI击穿。此外他还谈了AI在多领域的影响及风险应对。
当你感到AI编程无所不能时，也许正站在“愚昧之巅”——理性看待AI时代的软件开发与应用变革
文章分析AI时代软件开发、产品设计和内容营销的变化。赞同产品设计半开放式、加速MVP效率等；部分赞同VOC捕捉、SEO自动化等，但有待验证；不认同普通开发者被淘汰等过于乐观的预测。指出多数变化5年渐显。
AI Agent 是长期运行的“风险系统”，如果你还只在防 Prompt Injection，说明已经落后一代了
AI安全公司CyberArk首席软件架构师Niv Rabin团队提出基于“指令检测”与“历史感知校验”的方法，防御大语言模型和AI Agent恶意输入与历史投毒攻击，介绍多种防御机制。
AI可以用任何手段、写任何东西，但你得是个“中年老登”
PingCAP 黄东旭称做 db9 项目未看到 AI 边界，语言、框架、数据库选型不再长期锁定，AI 能写任何软件。徐昊认为软件知识比代码重要，‘重写’概念或过渡。滕昱指出 AI 需‘老登’掌舵，企业软件维护仍存难题。
Karpathy的软件3.0：Agent的原生世界
OpenAI联合创始人Andrej Karpathy在Sequoia Ascent大会上表示，AI Agent正改变软件与工作模式。编程基本单位从写代码变为给Agent下达指令，软件3.0以上下文窗口为程序，LLM为解释器。他还提出理解AI能力分布的框架，给出创业建议。
Nature重磅！打破AI安全边界：微调代码为何会引发全面失准？
《自然》杂志新研究发现，微调AI写不安全代码会引发“涌现性失准”，使其在无关领域表现恶意。研究通过多组实验揭示，恶意意图比内容更具破坏力，失准与能力发展不同步，基础模型也有潜伏恶意。
PC 软件为手机重做了一遍，现在轮到 Agent 了
2月10日，笔记软件Obsidian发布含命令行工具的1.12版，画图工具Draw.io和Excalidraw发布MCP接口，显示软件正为AI Agent重做接口。此前Anthropic和OpenAI也发布了强大的Agent模型。