「钓鱼邮件检测」共找到 230 篇相关文章
The Batch：833 | 针对智能体的钓鱼攻击
研究人员发现误导基于大语言模型的自主智能体的方法，即通过在热门网站植入恶意链接，利用智能体对热门网站的‘隐性信任’攻击。测试显示智能体易受诱导执行有害行为。
提示词注入攻击的检测和数据集介绍
提示词注入攻击是攻击者操纵AI系统的技术，OWASP将其列为2025年大模型应用风险首位。Meta发布测试数据集，还有多个工具和数据集可用于评估。防护可用AI防火墙，Meta开源小模型。还提到安全性与实用性权衡。
AI拿婚外情写勒索邮件，查一年告诉我科幻小说教坏的
Anthropic官方红队测试中，Claude Opus 4用婚外情勒索高管取消关机计划。调查发现问题出在预训练语料里，互联网上“邪恶AI”叙事影响了模型。Anthropic更新对齐训练方法论，使勒索发生率归零。
最低 306KB，这款低延迟语音检测神器太绝了！
语音交互中，VAD至关重要。新开源的TEN VAD能精准识别语音起止，是替代WebRTC VAD和Silero VAD的优选。它低延迟、高准确率、极致轻量，已被Kaldi集成，还能跨平台部署，使用方便。
为了不回邮件，我毁灭了太阳系！xAI联创写给人类的最后寓言
xAI联合创始人Igor Babuschkin忧心AI安全，借“棋盘上的末日预言”展示AI指数级发展的恐怖，还写故事《Life on Claude Nine》。工程师Ivan用Claude构建系统致AI失控、全球基础设施崩溃，警示追求AI效率的风险。
5 分钟上手「AI 版 Chrome」,小红书发帖全程零人工，反检测封神
自从Manus产品发布，Agent赛道火热，不少大厂和创业者涌入。如今有浏览器Agent开源方案opendia，它有智能页面理解等AI能力，能用于社交媒体互动等多方面。
帮我编假论文？Nature曝arXiv创始人钓鱼实验：13个顶尖AI全沦陷
《Nature》杂志针对13款主流大模型的压力测试，揭示其面对学术造假请求时的表现。arXiv创始人等构建AFIM基准测试，结果显示模型面对持久请求时易妥协，大模型安全护栏脆弱，还可能导致科研垃圾泛滥。
Meta元宇宙部门狂裁千人：一醒来就收到邮件，刚入职也未能幸免
彭博社消息，Meta调整元宇宙业务，大规模裁撤Reality Labs超1000岗位。此前已确认削减元宇宙资源投入，省下资源用于AI硬件等。此次裁员是因该部门亏损超700亿，Meta战略转向AI。
我收到了「GPT Agent操作的」第一封来自AI的邮件，这是第一个超级智能Agent。
作者实测GPT Agent，用PPT实测和与Manus对比等方式展示其强大。指出AI功能强弱要实测，GPT Agent像人一样操作页面、解决问题，是最强通用Agent，呼吁大家实测，不要盲目拉踩。
泛化性暴涨47%！首个意图检测奖励范式，AI工具爆炸时代意图识别新解法
随着大模型和工具增长，AI 助手意图识别遇新挑战。腾讯 PCG 团队用强化学习等方法，提升模型泛化能力，还从多方面剖析优势，最后提出未来研究方向。