「AI推理模型」共找到 13901 篇相关文章
图解Vllm V1系列4:加载模型权重(load_model)
文章聚焦vllm加载模型权重的流程。从入口函数切入,详细分析DefaultModelLoader的工作步骤,包括初始化模型架构和实际加载权重,还给出各步骤代码及作用,为想操作load_model的人提供框架。
谷歌悄咪咪上线了 10 款 AI 应用,下一个 NotebookLM 可能在里面
谷歌在Google Labs上线10款AI应用,如Whisk生图、Mixtape将名画变音乐、Food Mood定制食谱等。不少项目虽处实验阶段,但完成度和可玩性高,还展现了谷歌在AI领域的探索与创新。
「AI生成的内容全部加水印」OpenAI、Anthropic、Google都签了
OpenAI、Anthropic、Google等公司签署欧盟《AI生成内容透明度行为准则》,承诺推进AI生成内容标记与检测。Claude已公布落实方案,文本水印早有先例,但「水印」可信度遭质疑。
硅谷亲手砸掉自己饭碗?930万岗位正进入AI风险区
Tufts大学发布全美首个「AI就业风险指数」,显示未来2 - 5年,美国约930万个岗位面临被AI替代风险,硅谷等科技重镇首当其冲。高技能、知识密集型职业风险高,而低薪职业相对安全。
ACP 协议 + 多 AI 编程智能体:企业研发的新生产力平台
文章围绕 ACP 协议展开,介绍其概念、工作原理及在 AutoDev 的集成实践。还提及 ACP 生态、多 Agent 协作实践,如 Augment Intent、Google Antigravity。最后阐述企业级 AI 平台治理体系,包括 MCP、ACP、A2A 三层协议协同价值。
OpenClaw引爆的AI Agent浪潮中,终于有芯片给端侧“解渴”了
OpenClaw让AI Agent成产业竞赛焦点,但云端方案算力、成本和安全问题凸显。瑞芯微推出端云协同方案ClawChips,采用算力解耦架构,在成本与场景适配间找平衡,还开源并提供开发套件借用权益。
Cursor 内置三大文档工具,为AI 编程注入精准上下文
大模型编程易因知识陈旧致代码出错,为其提供实时上下文是关键。Cursor 有 @Docs、@Web、MCP 三大文档工具,能处理不同文档,还可协助创建和更新文档,弥合模型知识与项目需求的鸿沟。
StarRocks MCP Server 开源发布:为 AI 应用提供强大分析中枢
过去,开发者让大模型用数据库查询数据需开发插件等,费时费力且难复用。StarRocks MCP Server 提供通用接口,让 LLM 标准化访问 StarRocks,执行 SQL 查询。MCP 规范模型与上下文交互,其核心组件分工明确。
微软开源新版Phi-4:推理效率暴涨10倍,笔记本可运行
今天凌晨微软官网开源Phi - 4家族最新版Phi - 4 - mini - flash - reasoning,它参数小性能强,适合边缘设备。采用自研SambaY架构,推理效率涨10倍,延迟降2 - 3倍,多场景测试表现优异。
国行苹果与阿里的AI 合作,正遭遇美政府狙击!
据《纽约时报》5月17日报道,白宫和国会官员严格审查苹果与阿里巴巴的AI合作计划。苹果因在中国市场销量下滑、缺乏AI功能,急需本土伙伴;而美国政府担心交易助中企提升能力等。