「AI安全研究」共找到 10765 篇相关文章
微软AI新天团曝光！只有1位华人，「谷歌系」超1/3
微软AI CEO苏莱曼领导的17名核心高管阵容曝光，新增9名核心成员中有5位来自谷歌（包含DeepMind）系，8名老将中有2名来自苏莱曼共同创办的Inflection AI。新核心团队将聚焦AI产品落地、安全与隐私、增长与商业化。
AI 领导力：像管理团队一样管理 AI
本文整理自腾讯专家工程师揭光发演讲，介绍以高效方式管理 AI 如管理团队，探讨“AI 领导力”四大支柱。还分享 Vibe Coding、Vibe Working 应用，阐述 AI 对行业冲击及人才结构变化。
“AGI 五年内或将实现”：AI 教父 Bengio 呼吁中美达成共识，警惕 AI 沦为人类武器
AI 教父 Yoshua Bengio 在 2025 北京智源大会表示，AI 完成任务时长每七个月减半，约五年后或达人类水平，AGI 或将到来。他呼吁中美达成共识，警惕 AI 沦为武器，还提出构建“Scientist AI”等观点。
半夜被AI「吓醒」！57岁导师投奔24岁华人女学霸，打造「AI数学家」
57岁杰出数学家Ken Ono辞去终身教职，加入24岁学生Carina Hong创办的Axiom Math。Carina履历逆天，想打造「AI数学家」。Ken受研讨会冲击，看好AI数学潜力，将助力模型发展。
分析1.8亿份招聘数据后，他告诉你AI究竟取代了哪些工作
本文分析1.8亿份全球招聘信息，发现AI不是造成大规模失业主因，影响因岗位而异。创意执行类岗位下降多，AI基建岗位增长，程序员、客服、销售较稳定，高层受冲击小，还给出评估岗位安全的建议。
60%情况下，主流大模型没理解风险只是装懂！别被模型的“安全答案”骗了
研究发现超60%案例中主流推理模型生成合规答案却未真正理解风险，存在系统性漏洞。淘天集团团队引入“表面安全对齐”术语，推出Benchmark研究该现象，还介绍了数据集生成流程及评测指标。
炮轰黄仁勋，决裂奥特曼！1700亿美元估值背后，硅谷最不好惹的AI狂人
本文介绍AI圈大佬Dario Amodei，因家庭变故投身AI。他带领Anthropic发展迅速，拟融资使估值达1700亿美元。不过公司亏损严重，且面临开源模型竞争。他坚信AI发展快，要加速开发并注重安全。
API7.ai创始人温铭：烧了几百亿Token，我用AI重写了生产级网关，总结出6条经验
API7.ai创始人温铭分享用AI重写生产级网关经验。他认为AI编码能力超资深工程师，瓶颈在人。还介绍在公司‘禁手写代码’的情况，以及AI代码审查、使用阶段等内容，最后说明重写AI网关AISIX的原因。
LLM已能自我更新权重，自适应、知识整合能力大幅提升，AI醒了？
近期，AI自我演进话题研究讨论渐热。OpenAI奥特曼畅想AI自我改进未来，有爆料称其内部运行递归式自我改进AI。MIT论文提出SEAL框架让LLM自我更新权重，引发热议，实验显示其有提升但也有局限。
a16z：AI 产品初期用户流失高很正常，M3 留存才是评估 PMF 的关键
a16z研究团队分析数百家AI企业后发现，将衡量用户留存率基准点从M0后移至M3，能更清晰评估PMF和GTM策略。AI产品留存曲线分获客、留存、扩张三阶段，M12/M3比率是预测长期留存关键指标。