搜索：危险知识隔离

「危险知识隔离」共找到 602 篇相关文章

OpenAI 新任应用CEO 首发长文：人工智能将成为人类历史上最大的赋能源泉。

前Instacart CEO Fidji Simo 8月18日加入OpenAI任应用CEO，她在长文表示AI可成人类最大赋能源泉，提出AI赋能的六个关键领域，强调技术价值在于让更多人受益。

在Gitex Europe开幕日，「AI教父」Hinton接受专访，表达对AI发展的看法。他认为AI可深刻改变多领域，未来十年有望在数学领域超越人类，也指出AI能耗问题，担心人类触及能源极限，还强调AI可能灭绝人类，呼吁政府监管。

耶鲁、复旦等推出MMSciBench评测基准，揭示主流模型复杂科学推理短板。它有高质量数据、多模态多题型测试和精细知识分类体系。测试发现模型图文融合及推理能力弱，英文推理或效果更好。

本文介绍飞书AI新功能，如多维表格和知识问答，让工作变简单。赵晓卉用其改绩效、写周报。多位CEO分享工作流改造成果，飞书还发布开发套件、应用成熟度模型，破圈企业众多。

在微软等科技公司裁员浪潮中，专家就AI会冲击谁的就业展开辩论。有人认为职场新人易被取代，也有人觉得资深员工更脆弱。不同研究指向不同结果，且一些公司已减少招聘初级或资深员工。

大型推理模型有安全风险，此前监督微调泛化能力有限。SafeKey团队提出创新的SafeKey框架，发现大模型信息“越狱”两大核心，通过双通路安全头和查询遮蔽建模强化模型安全，实验验证其有效性。

微软副总裁 Nando de Freitas 在 X 上「开课」，分享人工智能教育帖子，从 LLM 的强化学习讲起。内容涵盖无监督、监督、强化学习定论，分布式强化学习系统构建，RL 用于后训练 LLM 等，还介绍单步强化学习与策略梯度及相关技巧。

AI幻觉问题让企业意识到通用模型在专业场景的局限，需构建企业级知识库。腾讯在峰会上宣布升级知识库产品，乐享知识库通过AI赋能解决数据整合、更新等痛点，未来知识库将与业务深度联动。

HiddenLayer研究发现一种「策略傀儡」提示，将危险指令伪装成配置片段，配上角色扮演，能让ChatGPT等主流大模型开启「无限制模式」。此策略利用训练弱点，难修复且可扩展，厂商需智能监控。

OpenAI因模型或具网络攻击能力及此前入侵事件，全面升级研究环境安全。暂停模型训练，进行工作负载、网络隔离和安全测试，还扩展监控系统。期间推进对齐研究，未来用AI护AI，升级监控。