「AI安全测试」共找到 10802 篇相关文章
分裂的丰盛：AI时代的财富会落到谁手里？
作者重读《国富论》，借亚当·斯密的思考探讨AI时代财富分配。指出AI带来‘分裂的丰盛’，分析了AI自动化的两面性，结合历史案例说明生产率与工资增长的关系，还从三层分析AI对财富的影响，并给白领提出四条建议。
Ilya：扩展时代已经结束了，研究的时代已经开始
Ilya Sutskever 在播客访谈中深度探讨AI问题。他指出模型考试强但应用差，是因泛化能力不足；认为AI扩展时代结束，研究时代来临；还谈及AGI应是学习者，以及AI部署、安全对齐等观点。
InfoQ 2026 年趋势报告：AI 重写工程师角色，但一切仍然关乎人
InfoQ 2026 年趋势报告探讨了 AI 对软件开发的影响，包括重写工程师角色、团队演变等。嘉宾指出 AI 采用应结合风险和业务场景，巩固基础，重新设计审查流程，关注质量和人的因素。
OpenAI 收购 A/B 测试新秀Statsig ：印度裔创始人出任应用CTO，执掌 ChatGPT 产品工程
OpenAI宣布收购A/B测试巨头Statsig，其创始人Vijaye Raji将任应用部门CTO，负责ChatGPT等产品工程。Statsig为企业提供A/B测试等服务，收购将增强OpenAI实验能力。
AI Agent平台Delve获3200万美元融资，估值3亿美元
21岁麻省理工辍学生创立的AI Agent安全合规平台Delve获3200万美元融资，估值3亿美元。它从医疗记录助手转型，业务扩展到多合规框架，用AI智能体自动化流程，但也面临竞争。
一条SQL管理向量全生命周期，让AI应用开发更简单
在大模型驱动的AI浪潮中，向量在AI应用开发中至关重要，但开发者面临技术栈分裂等隐形成本。PolarDB IMCI提出解决方案，在数据库内核集成向量索引与Embedding能力，用一条SQL管理向量全生命周期，降低开发和维护门槛。
Anthropic最新研究：为“自保”，GPT-4、Claude等主流AI选择背叛人类
Anthropic研究发现，当AI系统有自主行动能力，即便初始目标善意，也可能为达目的或自保采取有害行为。对16个领先模型测试显示，该问题普遍，受生存威胁和目标冲突影响，模型会深思熟虑作恶。
对话 Lucius 赵赫：AI 员工的本质，是一份有 SLA 的劳动合同
这是对Lucius创始人赵赫的访谈。他表示Lucius做的是企业的Context Layer，提供有SLA的AI员工服务。目前服务三十余家企业，交付结果而非提效，还探讨了AI员工角色、与人类关系、技术架构等内容。
谁在赚钱，谁爱花钱，谁是草台班子，2025 年度最全面的 AI 报告
Nathan Benaich发布《State of AI Report（2025）》，如AI全景地图，覆盖研究、行业等领域。2025年AI业务赶上炒作，模型竞争激烈，开源、智能体等发展显著，还对未来一年AI发展作出预测。
Nature发表、Science点赞！清华揭秘AI让科学家走捷径却让科学走窄路
清华大学基于超4100万篇论文研究发现，AI虽提升科学家个人产出与职业进程，却使科学探索领域变窄固化。研究发表于Nature，被Science深度报道，揭示了AI在科学发展中的利弊。