「安全策略」共找到 1749 篇相关文章
硅谷一线创业者内部研讨：为什么只有 5%的 AI Agent 落地成功，他们做对了什么？
来自硅谷一线AI创业者数据显示，95%的AI Agent在生产环境部署失败，原因在于围绕模型搭建的脚手架不完善。文章基于研讨会内容，探讨AI Agent构建关键，如上下文工程、安全控制、记忆功能等，并指出待解决问题和未来方向。
250份文档投毒，一举攻陷万亿LLM！Anthropic新作紧急预警
Anthropic最新研究揭示，仅250篇恶意网页就能让大模型“中毒”，遇特定触发词会崩溃。研究还设计DoS型后门攻击，验证不同规模模型攻击效果。同时指出AI开放性易被操控，而Anthropic注重安全，有“防爆层思维”。
OneSearch，揭开快手电商搜索「一步到位」的秘技
本文介绍快手提出的电商搜索端到端生成式框架 OneSearch。它有三大创新，包括 KHQE 模块、用户行为序列注入策略、偏好感知奖励系统。实验显示它在多方面提升显著，已部署于快手电商搜索场景。
技术大神用纯Rust从零构建了LLM，在GitHub上大火
Python是AI界宠儿，Rust也因“内存安全、零成本抽象、无畏并发”受青睐。项目RustGPT用纯Rust从零构建LLM，在GitHub上火了。Rust弥补了C/C++和Python的不足，Rust社区LLM项目增多，巨头也在布局。
Mira Murati 创业公司首发长文，尝试解决 LLM 推理的不确定性难题
OpenAI前CTO Mira Murati创立的Thinking Machines Lab首发文章《克服LLM推理中的不确定性》，指出大语言模型推理难获可复现结果，深入探究其不确定性根源，提出使核函数具备批次不变性的方法并给出实现与实验。
CEO 上阵写代码，公司从被传濒临倒闭到千亿估值，最大功臣是Claude？
Airtable是先进无代码应用平台，曾被传濒临倒闭，如今估值达千亿。CEO Howie Liu分享围绕AI重组公司、亲自编程让公司实现正现金流的心路，还探讨推动团队用AI、岗位受影响情况及公司转型策略等。
支付宝 AI 出行助手高效研发指南：4 人团队的架构迁移与提效实战
本文介绍支付宝AI出行助手研发历程，其集成多种出行功能，基于xUI + KMP框架搭建。分享研发实践、挑战与策略，如迁移基础能力、卡片生态，适配标准框架，还提及KMP应用及数据度量体系，取得业务和研发效能成果。
刚刚，高盛发布26页深度 AI 报告：谁将为GPU的饥渴买单？
高盛发布26页《Powering the AI Era》报告指出，AI服务器农场吸电速度远超电网扩容，引发电力危机。报告分析电力供应来源、应对策略等，还提到数据中心供需缺口扩大，电力成AI最大瓶颈，中国公司或因电力等优势成劲敌。
智谱AI、清华开源新视觉大模型：刷新41项纪录，同级别最强
智谱AI与清华联合开源GLM - 4.5V视觉大模型，它基于GLM - 4.5 - Air开发，架构独特。在42项主流测试中创41项新纪录，多领域表现超Qwen2.5 - VL等模型，还采用新训练策略。
我们都错怪GPT-5了，路由统一算力，免费用户也能创造收益
GPT - 5发布后，其路由架构备受关注。开源社区的Arch - Router类似其路由系统，能结合任务领域和动作制定策略。GPT - 5路由框架可平衡成本与性能，还能转化免费流量，未来想掌控用户与模型交互路径。