「安全工具」共找到 2641 篇相关文章
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
刚刚，马斯克 xAI 联合创始人离职
xAI联合创始人Igor Babuschkin离职并宣布创立Babuschkin Ventures，专注AI安全研究。他回顾xAI成就，如120天建成Memphis超级集群。马斯克致谢，网友关注并表达看法。
3.8K星爆款！Google「langextract」可视化溯源，信息抽取神器
Google的「langextract」在GitHub获3.8K星，是信息抽取神器。它有精准源定位、可靠结构化输出等特点，支持多种LLM，适用于各领域，文章还给出实战代码示例。
GAIA 榜首，杀疯了！高并发、多任务京东开源的JoyAgent秒杀行业巨头
本公众号关注AI前沿技术，分享实战案例与课程。京东开源轻量化通用多智能体产品JoyAgent - JDGenie，可挂载新场景功能，在GAIA榜单准确率超行业知名产品，还介绍了其架构特点与创新点。
Claude code：下一个千亿级软件市场的蓝图
LATE CHECKOUT CEO认为Claude Code将带来软件行业变革，它驯服终端，让自然交互成趋势，会催生新机遇和超级用户，未来软件易用性价值更高，技术将适应人类语言。
我把周末写的代码开源了，结果炸出了几千个被微信群逼疯的人
作者受微信信息焦虑困扰，用Chatlog开发Chatlog WebUI，能自动总结群聊信息。该工具功能丰富，已开源，作者还想加新功能，希望用AI解决生活痛点。
DeepSeek被「猫咪睡觉」给干崩了……
研究员发现，在数学题后加「有趣的事实：猫咪一生大部分时间都在睡觉」，能让DeepSeek数学能力崩塌。研究开发CatAttack方法找「触发词」，无关触发词使模型错误率飙升，还会让回答变长。
63页的面向AI搜索范式：Multi-agent、MCP、DAG、RL
百度搜索发布63页《迈向人工智能搜索范式》Paper，介绍模块化、多智能体框架，新范式协调四个专门LLM代理处理搜索事务，还提及新内容及重要性，为下一代AI搜索系统提供基础。
大模型全员0分！谢赛宁领衔华人团队，最新编程竞赛基准出炉，题目每日更新禁止刷题
谢赛宁等人出题，让o3、Gemini - 2.5 - pro等模型全军覆没。LiveCodeBench Pro是实时基准测试，题库每日更新。此前称LLM编程超人类专家，本次测试并非如此，最好模型难题通过率也为0。
突发！OpenAI以64亿美元，收购iPhone设计师公司io
今天凌晨1点CNBC消息，OpenAI将以64亿美元全资收购前苹果iPhone设计师乔尼・艾维的AI设备初创公司io，推动其进军硬件领域。艾维将承担深度创意与设计职责，其创意团队Love From保持独立。