「AI模型安全」共找到 13781 篇相关文章
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
大模型IMO25数学竞赛成绩公布了
大模型挑战IMO 2025成绩出炉，Gemini 2.5 Pro以超30%总成绩断崖式领先，超出第二名89%。测试由MathArena组织，采用统一环境和双人匿名评估。还介绍了测试模型、题目及模型表现，人类版结果预计本周六发布。
腾讯打出「AI岗位薪酬不限」的底气来自哪？
毕业季AI专业毕业生择业有疑虑，AI下半场竞争重心转移。腾讯覆盖领域广、业务耦合强、有变现案例，契合AI下半场人才成长环境，其青云计划“薪酬上不封顶”，今年筛选标准升级。
AI Agents，年中总结！
文章梳理6月旧金山AI Engineering World's Fair重磅分享，指出AI Agent发展方向是成为自主处理复杂工作的助手，还介绍了Ambient Agents崛起、Agent UX设计两派观点、训练进入RL时代等关键趋势。
2025临界点：AI智商超越人类，经济规则即将改写
AI平均智商超110，2025年将参与经济全链条操作。AI经济浮现，具备全天候自动运行、无劳动力供给限制、或成非稀缺经济等特点，还能降低交易成本、减少非理性决策，或带来人类第三次理性化浪潮。
为什么你的"AI 优先"战略可能大错特错？
文章指出与其说AI First，不如说软件工程First。AI时代人成了瓶颈，应把人从链条拿掉。但实施AI First需满足自动化测试、CI/CD流程等条件，且只适合部分场景。还介绍了相关技术栈、功能开发和修复路径及成果。
三个关键词，2026谷歌 I/O大会全说透了
北京时间今天凌晨，谷歌 I/O 2026 落幕。皮查伊称聚焦模型、编程和智能体。模型上，Gemini 3.5 Flash 全量上线，性能超上一代；编程方面，Antigravity 2.0 用低成本造能跑 Doom 的系统；智能体层，Spark 和 Search Agents 让 AI 走出对话框。
奥特曼承认OpenAI路线走偏了，以及“写代码将变得不再重要”
奥特曼在直播中给出诸多实诚结论，如未来工程师人数或大幅增加，写代码时间将减少，OpenAI搞砸ChatGPT5系列模型，后续会回归通用模型，还探讨了AI对教育、经济、安全等方面的影响。
一块TFT“屏幕”，如何成为AI4S验证新标准？
Anthropic呼吁放缓AI研究，AI for Science领域上下游能力增长矛盾凸显。TFT天然具备阵列化、高密度等特点，与AI for Materials验证需求匹配。领挚科技基于TFT技术为行业提供验证标准，助力科研成果产业化。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。