「AI模型安全」共找到 13600 篇相关文章
AI实践｜基于 Spring AI 从0到1构建 AI Agent
本文是基于Spring AI构建AI Agent的实践分享。该项目集成RAG、Function Calling等核心能力。文章从六个核心模块剖析其架构与实现，涵盖配置、访问方式，还介绍各模块工作机制、代码及应用场景。
AI圈“集体开大”！DeepSeek、Claude带头，智谱、阿里、蚂蚁、智源都“卷”起来了
双节前最后一天，AI圈“卷”疯了！智谱发布并开源GLM - 4.6，是国内最强Coding模型；阿里介绍视、听、说全模态同传大模型Qwen3 - LiveTranslate - Flash；蚂蚁开源万亿参数推理大模型Ring - 1T - preview；智源开源跨本体基座大模型RoboBrain - X0。
拐点出现，中国开源大模型下载量超越美国
Interconnects.ai报告显示，截至2025年8月，中国开源大模型在HuggingFace下载量快赶上美国，增长速度更快，派生模型数量增多。美国因结构、生态等问题落后，中国模型优势在于速度、迭代等。
AI教父Hinton：曾为了儿子卖身谷歌，如今担心AI 会毁灭人类
AI教父Hinton曾为给有学习障碍的儿子攒钱，将神经网络公司卖给谷歌。在谷歌他意识到AI可怕，离开后成AI风险大声疾呼者。他既担忧AI危害，也描绘了人类与AI共生的美好愿景。
绕过Azure AI 护栏的方法及案例
本文指出Azure AI有安全漏洞，攻击者可利用漏洞绕过内容安全机制。介绍了重现步骤，阐述字符注入与对抗性机器学习规避两种攻击技巧，展示攻击效果，还提及微软已部署缓解措施并给出安全建议。
微软这支神秘的华人AI团队加入腾讯混元，曝与裁员无关｜独家
WizardLM项目创建者徐灿发文称团队离开微软加入腾讯混元。混元此前发布多款AI模型，WizardLM也发布过混元模型。该团队专注高级大语言模型开发，曾成绩斐然，但也面临模型部署挑战。腾讯大力投入AI，网友对此看法不一。
一名员工用个 AI 工具，直接把 Vercel “送”进黑客手里！AI 还在替你决定技术栈，vibe 产品危？
当地时间4月19日，云开发平台Vercel确认内部系统遭未授权访问，黑客出售窃取的数据。攻击源于员工使用的AI平台Context.ai安全事件。此外AI编程助手正重塑技术生态入口，影响工具选择。
“光靠人盯不住了”！拆解上万张晶圆，这家公司靠AI将芯片良率提升数个百分点
喆塔科技创始人赵文政称国内跑通AI的半导体工厂少，工业AI尚处发展阶段。喆塔将DeepSeek接入自研大模型，提升训练效率。还分享了团队实例，强调工业AI决胜点在行业知识。此外，介绍了喆塔切入AI领域的过程、应用成果、面临挑战及未来策略等。
大模型训练新突破！“不对称”训练让AI学会自我反思，推理零开销
字节团队提出全新语言模型训练方法PCL，首次打破训练与推理对称约束，实现‘训练-推理不对称’。在训练时让模型反思评估结果，推理时仅输出答案，零额外开销，显著提升模型能力。
Duolingo 和 Shopify 纷纷宣布 AI 优先，围绕 AI 工作的时代已来
Duolingo和Shopify宣布AI优先政策，将用AI取代部分人类工作。Duolingo推出AI创建的新语言课程，转型为“AI优先”模式；Shopify要求全员高效用AI。此外，Genspark Super Agent ARR增速快，未来或属“小团队+AI”时代。