「AI安全研究」共找到 10992 篇相关文章
Agent重塑软件与互联网产业新范式，2026奇点智能技术大会初版日程出炉！
4月17 - 18日，CSDN与奇点智能研究院联合举办的「2026奇点智能技术大会」将在上海举行。大会云集顶尖机构与企业一线AI实践者，围绕前沿议题分享，还将首发《AI原生软件研发成熟度模型（AISMM）》白皮书。
ICML 2025 | 注意力机制中的极大值：破解大语言模型上下文理解的关键
ICML 2025新研究揭示，在使用RoPE的现代Transformer模型里，注意力机制Q和K表示有集中极大值，V表示无此模式。研究通过实验明确极大值与上下文知识理解的联系，对模型设计、优化和量化有重要启示。
Claude Code之父最新判断：AI时代团队分工被重写，这「五种人」最吃香
近日，Anthropic Claude Code 团队负责人 Boris Cherny 提出，随着职能融合，团队传统岗位标签将被 5 类新型角色取代，且成员角色不固定，需随项目变化，此观点引网友热议。
机器人交税养打工人！奥特曼AI新政曝光，上4休3要成真？
OpenAI奥特曼预警超级智能将至，带来巨大冲击。OpenAI抛出13页政策文件，核心提案有建立AI公共财富基金、试点4天工作制、对机器人征税、给“人类专属”工作涨薪，虽多为探索性提案，但信号值得关注。
快去提问！沐神空降小红书，在线答疑
本文整理了深度学习大牛李沐（沐神）在小红书开展的AMA答疑内容，覆盖AI学习、职业方向、技术趋势、行业赛道等大众关心的热门问题，给出了直白干货的回答，适合AI从业者、学生参考。
大模型智能体不止能写代码，还能被训练成白帽黑客
Amazon AWS AI的Q Developer团队发布两项训练网络安全大模型的新方法Cyber - Zero和CTF - Dojo。前者不依赖真实环境生成训练数据，后者构建实战环境让模型学发现漏洞，二者结合为AI白帽黑客成长提供路径。
Clawdbot创作者Peter Steinberger首次公开亮相，讲述AI失控、被迫更名和拒绝VC的疯狂一周
Clawdbot创作者Peter Steinberger首次公开露面，在TBPN直播访谈讲述项目从诞生到失控全过程，披露被Anthropic要求更名细节，阐述对风投态度，描绘传统App将‘融化消失’的未来。
沉浸式翻译杀疯了！双重开源：左手像素级还原PDF排版，右手本地AI隐私保护！
沉浸式翻译是跨平台在线翻译工具，有网页、文档等翻译功能，获千万用户与Chrome年度殊荣。近期开源BabelDoc和OneAIFW，前者还原PDF排版，后者保护本地隐私，解决阅读和安全问题。
陶哲轩转发！华人数学博士后反超DeepMind AI，停滞18年数学问题1个月内3次突破
DeepMind的AlphaEvolve打破集合和差问题18年纪录，华人博士后Fan Zheng等数学家出手反击。人类用测度集中性少量辅计算机，1个月内该问题3次突破，陶哲轩称不同方法可互补推动数学进步。
刚刚，DeepSeek最新发文！V3/R1训练细节全公开，信息量巨大
网信办新规生效，DeepSeek回应，标注AI生成内容，公开V3/R1训练细节。介绍训练分预训练和优化训练，深挖数据使用，还谈及推理、开源情况，也提到对抗AI幻觉与滥用风险的措施。