「模型服务接口」共找到 8238 篇相关文章
1/8成本比肩Claude 3.7，Mistral Medium 3来了
“欧洲OpenAI”Mistral AI发布多模态新模型Mistral Medium 3，主打编程和多模态理解，成本仅Claude 3.7的1/8，性能达其90%，API已上线，还推出企业聊天机器人服务，引发网友不同看法。
准确率92.7%逼近Claude 3.5、成本降低86%，开源代码定位新神器LocAgent来了
OpenHands 等团队发布 LocAgent，这是用于代码定位的图索引 LLM Agent 框架，准确率达 92.7%。它把代码库解析成图，提供工具接口，经实验效果出色，开源微调模型降本增效，还能提升问题解决率。
Token 降价的尽头，是一度电的账
AI进入算账阶段，Token成本成系统工程。优刻得董事长季昕华认为Token终局是电力，降本需选好数据中心、用国内模型等。企业要解决AI投入产出衡量问题，Token需求会持续增长，优刻得定位中立服务平台。
vLLM 技巧： 在几秒钟内无需重启释放90%的 GPU 显存
EmbeddedLLM介绍vLLM新功能“休眠模式”，可在不重启服务时几秒内释放约90% GPU显存，实现模型热插拔与高效轮转，还介绍使用方法、不同休眠级别，提醒生产环境要确保安全。
Mem0,用LLM给智能体解决记忆问题，开源
大模型训练后知识和记忆不再增加，智能体记忆能力发展不理想。国外Mem0针对AI记忆技术发表论文并开源，提出Mem0和Mem0g两种方案，在不同场景表现出色，已获多应用，还提供SaaS服务。
Manus高溢价收购背后，是Agent开发落地困境
近期Meta 20亿美元收购Manus引发关注，暴露Agent开发落地难题。阿里云百炼升级“1+2+N”体系，“N”组件解决数据、安全等问题，“2”提供新开发范式，“1”深挖模型服务工程，还发布企业版助力落地。
从扫街榜到Robotaxi，空间智能彻底打开了高德的想象空间
这周一，一张神秘海报引发对高德的猜测。11月5日，高德宣布与小鹏合作提供Robotaxi服务。其空间智能形成闭环，比语言模型更接近AGI，还能为Robotaxi提供安全保证，且在多领域有落地应用。
无需训练，直接「算出」最强AI！理想汽车发现端侧Scaling Law
理想汽车基座模型MindVLA团队与国创决策智能技术研究所联合发布论文，提出面向端侧大语言模型的「硬件协同设计扩展定律」，解决大模型部署在端侧设备的难题，实现软硬协同设计，提升模型性能和研发效率。
明天上市，MiniMax上市额度已经被抢疯了
大模型公司MiniMax 1月9日将敲钟上市，创下港股IPO机构认购记录，超460家机构参与认购，超额认购70多倍。它受头部基金青睐，暗盘涨幅24.6%，收入源于AI产品与服务，部分投资者看好其收支平衡。
DeepSeek R2没来，Kimi K2来了，VLLM，SGLang首发支持
Moonshot AI发布Kimi K2大语言模型，采用混合专家架构，总参数量达1万亿。其有多项技术创新，在多个基准测试表现突出。发布两版本，用修改版MIT协议开源，vLLM、SGlang首发支持，已上线多服务。