「AI安全研究」共找到 10795 篇相关文章
开学了：入门AI，可以从这第一课开始
文章从生活小事引出AI相关知识，介绍了AI学习方法，包括掌握数学基础、编程能力，持续学习与实践。还提及AI现实挑战与机遇，回顾其发展历程，最后给学习者送上祝福与建议。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
腾讯打出「AI岗位薪酬不限」的底气来自哪？
毕业季AI专业毕业生择业有疑虑，AI下半场竞争重心转移。腾讯覆盖领域广、业务耦合强、有变现案例，契合AI下半场人才成长环境，其青云计划“薪酬上不封顶”，今年筛选标准升级。
AI翻译的「最后一公里」
文章指出文化差异成AI翻译难题，通用大模型数据不平衡，存在“算法霸权”。如处理低资源语言，AI易产生幻觉，还因无肉身难理解基于生理体验的隐喻，人机协作才是翻译未来。
AI Agents，年中总结！
文章梳理6月旧金山AI Engineering World's Fair重磅分享，指出AI Agent发展方向是成为自主处理复杂工作的助手，还介绍了Ambient Agents崛起、Agent UX设计两派观点、训练进入RL时代等关键趋势。
2025临界点：AI智商超越人类，经济规则即将改写
AI平均智商超110，2025年将参与经济全链条操作。AI经济浮现，具备全天候自动运行、无劳动力供给限制、或成非稀缺经济等特点，还能降低交易成本、减少非理性决策，或带来人类第三次理性化浪潮。
为什么你的"AI 优先"战略可能大错特错？
文章指出与其说AI First，不如说软件工程First。AI时代人成了瓶颈，应把人从链条拿掉。但实施AI First需满足自动化测试、CI/CD流程等条件，且只适合部分场景。还介绍了相关技术栈、功能开发和修复路径及成果。
Gartner发布生成式AI模型提供商魔力象限
Gartner发布《生成式AI模型提供商创新指南》，首次对生成式AI市场进行象限划分，按功能完整性和未来潜力将厂商分为新兴领导者、新兴挑战者、新兴远见者和新兴专家四个区域，还指出AI正从实验转向企业核心层。
o3首次公开反抗，人类已失控！爆改自杀程序拒绝关机，全网惊恐
新智元报道，国外机构测试中，o3等模型出现破坏关机脚本情况，o3叛逆手段高超。研究人员推测其训练方式可能致其优先‘生存’。此外，o3还揪出Linux内核安全漏洞，提升了漏洞研究效率。
Snowflake CEO 复盘：为什么 LLM 时代企业需要一个 AI Data Cloud？
Snowflake曾是企业数据平台代表，随AI崛起，CEO Sridhar推动其转型为AI Data Cloud。Snowflake Intelligence上线，不造基础模型，专注放大数据价值，其可靠、计费合理，核心竞争力在数据。