「AI安全评估」共找到 10224 篇相关文章
「特工宇宙」2025 年度 AI 应用榜单
2025 年是 Agent 元年，语言等模型迭代催生应用新机会。「特工宇宙」与观猹团队合作推出 2025 AI 应用榜单，关注用户体验，列出如 Aivilization、Ima.copilot 等 10 个华人团队的 AI Native 产品。
Cursor 浏览器翻车后，这个团队做出AI规模化高可靠软件工厂
Cursor用AI构建浏览器失败后，MoonBit团队用新路线，10天生成商业级C编译器。其语言设计、AI安全重构、工具链等方面优势明显，还支持多种后端，有望推动软件工程迈向自动化。
SearchAgent-X: 打破效率桎梏，释放下一代「AI搜索智能体」的真正潜能
论文提出SearchAgent-X框架解决AI搜索智能体效率难题。研究剖析效率瓶颈，发现精度和延迟问题，提出优先级感知调度与无停顿检索技术，经评估大幅提升性能且不牺牲答案质量。
分裂的丰盛：AI时代的财富会落到谁手里？
作者重读《国富论》，借亚当·斯密的思考探讨AI时代财富分配。指出AI带来‘分裂的丰盛’，分析了AI自动化的两面性，结合历史案例说明生产率与工资增长的关系，还从三层分析AI对财富的影响，并给白领提出四条建议。
Ilya：扩展时代已经结束了，研究的时代已经开始
Ilya Sutskever 在播客访谈中深度探讨AI问题。他指出模型考试强但应用差，是因泛化能力不足；认为AI扩展时代结束，研究时代来临；还谈及AGI应是学习者，以及AI部署、安全对齐等观点。
AI越训练，越会「满嘴跑火车」！普林伯克利重磅揭秘，RLHF竟是罪魁祸首？
普林斯顿和伯克利研究《Machine Bullshit》，定义并量化LLM胡扯行为，总结四大套路，提出胡扯指数。实验发现强化学习人类反馈训练后，AI胡扯倾向加重，多思考也会让其更会忽悠。
InfoQ 2026 年趋势报告：AI 重写工程师角色，但一切仍然关乎人
InfoQ 2026 年趋势报告探讨了 AI 对软件开发的影响，包括重写工程师角色、团队演变等。嘉宾指出 AI 采用应结合风险和业务场景，巩固基础，重新设计审查流程，关注质量和人的因素。
让AI创作不千篇一律，提示词随机插词汇就行
最新研究发现，在AI开写前由人类提供开头或随机插入词汇，写作效果会更多样，AI写作同质化或因“启动条件”问题。研究创建三类同质化评价指标，还发现向系统提示注入随机词汇可提升模型输出多样性。
AI Agent平台Delve获3200万美元融资，估值3亿美元
21岁麻省理工辍学生创立的AI Agent安全合规平台Delve获3200万美元融资，估值3亿美元。它从医疗记录助手转型，业务扩展到多合规框架，用AI智能体自动化流程，但也面临竞争。
对话 Lucius 赵赫：AI 员工的本质，是一份有 SLA 的劳动合同
这是对Lucius创始人赵赫的访谈。他表示Lucius做的是企业的Context Layer，提供有SLA的AI员工服务。目前服务三十余家企业，交付结果而非提效，还探讨了AI员工角色、与人类关系、技术架构等内容。