「智能体防御框架」共找到 4691 篇相关文章
Anthropic重磅研究：250份文档就能 “搞垮” 大模型？
Anthropic等团队发布研究，进行大规模投毒攻击模拟。结论是投毒大模型所需‘毒药’数量与模型大小和干净数据量无关，取决于投毒文档绝对数量，250份就能‘搞垮’模型，改变了对AI安全的认知。
阿里发布Qwen3-TTS：跨语言混合无缝切换，方言音色全面覆盖！
TTS技术从单一合成进化到多模态表达，但传统模型在跨语言/方言混合场景有不足，商业工具费用高且不开源，开源方案训练数据少。阿里推出Qwen3 - TTS，实现人类级自然度和表现力，功能强大，应用场景多。
万象入模 风起琶洲 | 甲子光年
9月23日下午，「第四届琶洲算法大赛大模型前沿技术分论坛暨琶洲模方孵化项目展示」将在广州琶洲举行。届时，亚洲科学院院士等将分享见解，知名投资机构将齐聚，还有企业展示成果、进行辩论，共探AI产业未来。
Claude封锁中国，腾讯带着国产AI编程工具CodeBuddy来了
Claude封锁中国背景下，国产代码模型加速发力。腾讯CodeBuddy上线，其IDE和CLI有新特性。InfoQ采访团队，探讨定位、技术等思考，国产模型与工具、生态形成“模型—工具—生态”链路。
你的AI“体检”了吗？开源AI红队测试平台，一键自查三大风险
AI圈一边是顶尖模型发布，一边是大模型被“越狱”输出有害内容。腾讯朱雀实验室开源A.I.G平台，能模拟真实攻击对AI产品全方位风险扫描，有大模型体检、基础设施漏洞扫描、MCP Server风险检测三大核心能力。
西工大张伟伟团队：大模型时代航空科技的蓝图畅想 | 航空学报CJA
随着国产开源大模型涌现，大语言模型走入生活，挑战传统航空教育，革新科研范式，与航空产业融合推动变革。西工大张伟伟团队探讨其在航空工程教育、科研、行业全链条的影响及挑战。
Sam Altman最新博文！温和的奇点
OpenAI CEO Sam Altman在新博客《The Gentle Singularity》中探讨AI进步远超想象时世界的变化，提及AI将在多方面做贡献，还给出未来几年AI发展预测，指出要解决安全和对齐问题。
Sam Altman 最新文章：悄然而至的奇点，一场温和的革命
Sam Altman在《The Gentle Singularity》中指出，人工智能的“技术奇点”正以温和方式开启，是渐进过程。越过临界点后社会将巨变，解决“对齐”问题、确保技术普惠，人类将迎美好未来。
2025 Google I/O 大会开发者主旨演讲干货盘点
今年 Google I/O 大会开发者主旨演讲亮点多。展示在 Google 平台应用构建，利用 Google DeepMind 的 AI 模型创新。如 Google AI Studio 集成 Gemini 2.5 Pro，还有 Jules 等工具，以及多款新模型发布。
字节跳动2步突破，复杂文档布局解析，为啥如此惊艳？
文章指出现有文档图像解析方案有局限，介绍字节跳动的Dolphin解决方案。它采用分析 - 解析范式分两阶段解析文档，避免传统方法弊端，运行效率高，还给出训练方案、实战代码和试用链接。