「安全部署」共找到 1513 篇相关文章
深度拆解,硬核解构,揭开vLLM推理系统实现高效吞吐的秘籍
文章深度拆解 vLLM 推理系统,介绍其核心组件和高级特性,包括推理引擎流程、调度机制、高级功能等,还提及系统扩展、分布式部署、性能测量等内容,助力读者理解推理引擎工作原理。
OpenClaw登顶GitHub,满天飞的智能体Skills要怎样设计?
OpenClaw 4 个月获 250K+ Star 登顶 GitHub。智能体 Skills 给大模型装上程序化记忆,研究者解构其概念,阐述设计模式、获取调度逻辑,也指出安全威胁,呼吁建立客观评价体系。
倒反天罡:「租个人」网站爆火,AI开始雇人「跑腿」了
「rentahuman.ai」网站定位为「AI 的肉身层」,AI 可通过 MCP 协议或 REST API 雇人完成线下任务。网站上线后人力增长快,但也引发付款、任务真实性、安全伦理等疑问。
1.8K Star!又挖到一款超酷的 Claude Cowork 开源平替,而且比 Cowork 更快更省!
Anthropic 发布 Claude 的 Cowork 能力后成热门,但高额费用和封闭策略让普通人却步。现推荐开源替代方案 OpenWork,它免费开源,速度快、省 Token,还引入安全隔离机制,功能丰富。
马斯克xAI联创突然离职了
马斯克xAI联创Igor Babuschkin离职,他将创办风投公司支持AI安全研究。他物理学出身,曾就职DeepMind、OpenAI。xAI同事不舍,此前法律主管也已离职,Grok还曾引发争议。
The Batch: 863 |推理提高了碳排放
新研究量化推理模型时代提供更优答案的环境成本,研究人员估算14个开源权重的大模型碳排放,发现推理与排放存在权衡关系,还指出战略性部署可降低排放。
如何选择最佳多模态大模型压缩方案?哈工大、度小满开源EFFIVLM-BENCH基准测试框架
金融科技智能化转型中,LVLM部署受算力瓶颈制约。哈工大与度小满联合开源EFFIVLM - BENCH基准测试框架,能为多模态大模型压缩方案出具‘体检报告’,还揭示LVLM加速复杂性,推动技术发展。
GPT-6发布,OpenAI说AGI时代来了
北京时间9月4日凌晨,OpenAI发布GPT - 6 Astra,虽发布过程狼狈,但该模型在多项评测中表现出色,如数学评测、电脑操控等,但编程类任务未全面领先,且网络安全方面部分功能被限制。
OpenAI这招太狠!AI从「躲猫猫」到「自爆黑料」,主打一个坦白
随着AI进入高风险场景,透明、安全变得重要。OpenAI提出「忏悔机制」,让模型回答后产出自我坦白报告,不影响主回答评分,只考察诚实,能提升不良行为可见性,目前仍处概念验证阶段。
孙正义要用10亿个智能体干掉所有程序员
软银创始人孙正义宣布集团迈入‘人类程序员时代的终结阶段’,计划让AI智能体全面接管编码和编程工作。今年将部署首批10亿个AI智能体,未来会有数万亿个投入使用,且成本低廉。