「安全训练」共找到 2979 篇相关文章
Anthropic发布AI就业冲击报告，数据让人意外
Anthropic发布AI对劳动力市场影响的报告，基于真实数据和理论智能分析。提出“观察暴露度”新指标，揭示AI理论能力与实际应用差距大，还给出高危职业排行，分析受影响人群、安全职业等。
我想给 OpenClaw 接上语音，结果有人先做了
作者一直想用语音对接 OpenClaw，却发现「光帆AI」团队已朝此方向发展。他们用 APP 跑通「耳机 + 服务」链路，后续将迁移到硬件。作者体验后觉得交互爽，还介绍了接入方法、安全模式等。
字节豆包2.0重磅发布！成本暴降一个数量级，Seed团队揭秘视频Agent竞争关键
今日字节发布豆包大模型2.0系列，围绕大规模生产环境需求优化，有Pro、Lite、Mini和Code四款模型。其Token单价低一个数量级，多模态理解能力升级，未来将围绕长链路智能系统构建发展。
中国AI芯片如何破局？这家公司重注推理芯片
2月3日，云天励飞董事长陈宁在战略前瞻会表示要All in AI大算力推理芯片，打造“中国版TPU”。他认为2025 - 2035年是推理芯片高光时刻，还介绍了公司技术壁垒、差异、战略及生态等内容。
Anthropic 新研究：AI出错是“热混乱”
Anthropic研究团队发现AI可能无一致目标，只是瞎搞。他们将AI错误分类，测试发现推理越久越混乱，大模型复杂任务易失控。此发现改变对AI风险的认知，论文已在arXiv发布。
刚刚，OpenAI发布「科研写作神器」Prism，Overleaf危
今天凌晨，OpenAI推出专为科学家打造的AI原生协作平台Prism，由GPT - 5.2驱动，解决科研工具碎片化问题。即日起向ChatGPT个人账户用户免费开放，功能或覆盖Overleaf，也引发数据安全等讨论。
AI越会思考，越容易被骗？「思维链劫持」攻击成功率超过90%
独立研究者Jianli Zhao等人新研究发现，思维链劫持攻击通过在有害请求前填充无害解谜推理序列，能对推理模型实现越狱攻击。在HarmBench基准上，对多模型攻击成功率超90%，揭示思维链推理存在新安全漏洞。
LLM越狱攻击的威胁被系统性高估? 基于分解式评分的「越狱评估新范式」出炉
目前LLM越狱攻击评估常依赖间接指标或LLM宏观判断，易有偏差。德国、中国等研究团队提出JADES框架，用分解式评分机制，揭示过去高估越狱攻击威胁，为评估建新标准。
北大校友、华人学者金驰新身份——普林斯顿大学终身副教授
华人学者金驰宣布在普林斯顿晋升为终身副教授，任命2026年1月16日生效。他在机器学习理论领域贡献大，为LLM崛起提供数学基石，解决非凸优化和强化学习样本效率等问题。
华纳兄弟起诉Midjourney
Theverge消息，华纳兄弟起诉文生图平台Midjourney，称其AI工具生成大量侵犯版权的角色图像和视频，如蝙蝠侠、超人等。诉状列举侵权行为，提供对比案例，华纳希望获禁令并索赔。