「工具投毒」共找到 1905 篇相关文章
Anthropic 研究发现：仅需少量污染文档即可对 LLM 实施投毒
Anthropic的Alignment Science团队研究大语言模型训练投毒攻击，实验发现仅250条恶意样本就能植入“后门”，且模型越大攻击越易，还对微调数据集实验，引发讨论。
AI时代已来，魔幻的大模型投毒事件，我们怎么应对？
央视315晚会曝光针对大模型的蓄意信息围猎，虚构手环经力擎系统包装成科技尖货。黑产靠此吸金，利用技术污染证据链。多方已行动，厂商需提升安全能力，消费者要保持警惕。
XAML Studio 开源：一款老牌原型工具，如何在 WinUI 时代重获生命力
Microsoft将老牌原型工具XAML Studio开源并纳入.NET Foundation体系。它起源于2017年黑客松，此次开源版本有重大更新，虽未稳定，但有望为开发者带来价值，也利于后续改进。
Claude设计师被工程师卷到掉队，反手造出百万用户工具
Anthropic产品设计师Nate Parrott复盘Claude Design诞生过程。起初他在工作中被工程师拉开差距，利用业余时间捣鼓出这一工具。它以HTML为突破口，融入品牌系统，从副项目转正，定位前期视觉沟通。
3天狂揽23.1k星！把代码库变成知识图谱，AI编程成本降低35%
CodeGraph是开源本地代码知识图谱工具，提前为项目建索引，组织代码信息，让Agent直接查询。能减少token消耗与工具调用、提高响应速度，数据本地保存，还具备多语言支持等特点。
我的天！MCP开发，从“地狱模式”秒变“傻瓜操作”
作者分享FastMCP工具，它让MCP开发从难变易。过去开发MCP耗时久、Bug多，用FastMCP，186秒可本地搭建，还能上云、部署到Cloudflare Worker，降低AI工具开发门槛。
NICE59期 | Agent进入下一篇章！Alita：不靠人工预设，自己造MCP自我进化的AI
这篇论文提出让 Agent 主动创造解决 MCP 的工具实现自我进化，工具可网上检索或自主编写。Alita 做法更通用实效，还提出‘Agent 蒸馏’思想，其生成的 MCP 已用于‘manus’。
Headroom：Netflix 工程师开源的上下文压缩工具，省 token 还是烧 token？
Netflix工程师Tejas Chopra开源Headroom，定位为AI Agent的上下文压缩层，压缩工具输出等内容，有可逆压缩等特性。官方数据显示节省token效果好，但微软工程师实测结果中性偏负面。
梅花创投吴世春：AI不再卖工具，而是卖收益｜甲子引力X
在「渡口——甲子引力X2025科技产业投资大会」上，梅花创投吴世春剖析AI创业投资逻辑。他认为大模型格局已定，资本兴奋点转向应用，AI价值锚点从技术转向商业结果，AI将成基础设施。
一个窗口搞定 SSH、SFTP、终端和 AI，爽啊！
早期运维、开发需多个工具，窗口多效率低，后来的工具又有收费、收集数据等问题。Netcatty是新的开源SSH工作区，整合多种功能，免费无数据收集，更新勤快，有诸多实用特性。