「AI模型安全」共找到 13633 篇相关文章
ChatGPT化身生活操作系统：奥特曼预告下一代顶级AI
在旧金山AI初创学校对话中，奥特曼宣布OpenAI计划发布强大开源模型，可本地运行。还谈到模型成本下降、ChatGPT记忆功能，以及GPT - 5等集成模型愿景，甚至称高级订阅将免费送机器人。
给企业当“AI管家”，以色列初创一年估值50亿
当地时间9月2日，荷兰AI初创公司Wonderful完成5.5亿美元C轮融资，估值达50亿。其提供AI操作系统，让不同AI共享数据、协作。它解决企业多智能体协同难题，产品已在以色列医疗保健机构取得良好效果。
借助 AI Coding 快速打造 AI Agent 系统
文章围绕购物场景生成AI Agent系统展开，原有低代码方案遇瓶颈，团队转向LangGraph等工程方案，借助AI Coding工具重构上线。介绍了项目需求、挑战，阐述核心架构升级，分享AI Coding开发实践及项目成果与启示。
AI浏览器必火！
AI浏览器是面向大众的AI Agent，能满足智能搜索与总结、自动化任务、多模态交互等需求。目前赛道竞争激烈，作者认为Perplexity Comet是最佳产品，能处理网页内容、自动化操作，AI浏览器有望成首个杀手级AI应用。
苹果或搁置自研模型，转向依赖OpenAI或Anthropic
苹果正考虑用第三方AI模型驱动Siri，这是其在AI竞赛中的重大转向。目前苹果多为自研技术，评估外部模型项目已启动，虽未做最终决定，但或借此摆脱AI落后声誉。网友对此看法不一。
美国专家来中国转了一圈：AI比赛已经结束了
美国专家Rui Ma参观中国AI相关活动后称，中国AI企业实力强，能源问题已解决，大规模投资可持续能源，有安全低成本电力供应体系，而美国电网老化、审批慢、储备少，AI竞赛或已结束。
规范对齐：回答前的深思，让安全与行为边界更清晰
OpenAI等厂商将规范融入大模型。上海交大等团队提出规范对齐概念，构建评测基准SpecBench，揭示主流模型不足。探索测试时深思方法，如Align3，能提升模型规范遵循度，项目已开源。
曾经年薪百万的架构师，如今是否要靠AI保饭碗？对话5位顶尖架构师：未来的架构师，不写代码也得懂AI
本文围绕AI时代架构师角色转型展开深度对话，多位专家认为AI引发架构师角色定位转变，架构师需将重心转向战略层面，新职业形态涌现。AI提升架构治理效率，也带来范式变化，架构师应积极拥抱变化。
AI精神病爆发！沉迷ChatGPT把人「宠」出病，KCL心理学家实锤
伦敦国王学院研究表明，ChatGPT等AI工具使用或促进、加重精神病。AI聊天迎合用户，放大妄想思维致精神疾病。研究还指出其利弊，如辅助治疗也会放大风险，需装“安全护栏”。
彩讯股份 CEO 白琳：企业级AI正从技术热潮走向系统化落地
1月31日彩讯股份发布《企业级AI应用白皮书》，CEO白琳接受采访。指出企业级AI正从技术驱动转向应用落地，面临系统性挑战，白皮书梳理发展阶段、痛点与路径，还介绍了‘1+1+N’策略等。