推理加速技术」共找到 4942 篇相关文章

推荐文章8

Claude Code + GLM-4.5,最强性价比编程组合教程首发

7月国产开源大模型竞争激烈,智谱发布的GLM - 4.5刷新开源大模型编程和agent能力。它成本低、速度快,还能与Claude Code配合。文章介绍该模型特点,分享二者使用教程及原型设计、网站开发等实测案例。

花叔
新闻资讯8

OpenAI董事长Bret Taylor:2010 年的 SaaS 应用,就是 2030 年的智能体公司

OpenAI董事长Bret Taylor在对话中称,当下处于“加10倍速的互联网泡沫”时代,AI为初创公司带来挑战巨头的机会。他直言多数B2B公司“以客户为中心”是胡扯,还为AI创业者划红线,如应用公司预训练模型是烧钱。

AI科技大本营
新闻资讯7

稚晖君和王兴兴,打起了人形机器人关键一仗

科技圈风口聚焦人形机器人,宇树科技和智元机器人争夺“人形机器人”第一股。两者虽产品线和应用场景有共性,但商业化进程、战略打法和组织结构差异大,代表不同具身智能发展路径。

芯师爷
新闻资讯7

OpenAI 离职员工爆料公司压力巨大发展速度惊人

前OpenAI员工Calvin回顾工作经历,称其发展极快、压力大。公司依赖Slack沟通,自下而上创新,重能力而非政治。还提到技术栈、安全关注重点等,认为OpenAI、Anthropic和Google是AGI赛道主力。

MacTalk
推荐文章7

上海交大/上海AI Lab翟广涛:当评测不再重要,AGI就实现了

上海交通大学教授翟广涛认为完美的AI评测体系等同于通用人工智能。当下评测体系存在数据污染、原子化能力评测局限等问题,他主张回归‘以人为本’,团队提出相关框架和技术路径,目标是训评一体。

机器之心
算法论文8

首次综述「边-云协同计算」,分布式智能与模型优化的最新进展

边缘 - 云协同计算整合边缘节点和云端资源,解决传统云计算问题。最新综述论文系统梳理其架构设计、模型优化等方面,提出统一框架,还指明未来研究方向,如大语言模型部署、6G整合等。

新智元
开源动态8

DeepSeek R2没来,Kimi K2来了,VLLM,SGLang首发支持

Moonshot AI发布Kimi K2大语言模型,采用混合专家架构,总参数量达1万亿。其有多项技术创新,在多个基准测试表现突出。发布两版本,用修改版MIT协议开源,vLLM、SGlang首发支持,已上线多服务。

AI工程化
新闻资讯7

OpenAI最强对手出现!马斯克发布Grok-4,性能碾压Claude 4两倍!

半小时前马斯克发布Grok - 4,虽Grok3.5跳票、直播迟到被吐槽,但它训练量和算力投入大。在多项基准测试中碾压Claude Opus 4,还具备原生工具调用等能力,xAI目标是让其更快更智能。

探索AGI
产品应用7

Jina Embeddings v4 的量化感知训练

文章聚焦Jina Embeddings v4的量化感知训练。介绍量化技术可压缩向量体积、提升检索效率,对比四种主流量化方法,重点实验PTQ和Output QAT,还测试非对称量化,给出实验结果与结论。

Jina AI
新闻资讯7

马斯克Grok 4逆天跑分泄露,「人类最后考试」豪取45%全场第一!

Grok 4跑分提前泄露,在「人类最后考试」中得分高达45%,远超Gemini与Claude,成为当前测试中最强模型之一。马斯克表示Grok 4以「第一性原理」构建推理机制,有望改写LLM格局。

新智元