4-bit量化」共找到 1656 篇相关文章

新闻资讯7

您猜怎么着?Grok 4进决赛,大模型对抗赛Gemini全军覆没,马斯克「装」起来了

谷歌举办的 Kaggle AI Chess 比赛中,半决赛 Grok 4 击败 Gemini 2.5 Pro 进决赛,o3 也战胜 o4 - mini 晋级。Grok 4 与 Gemini 2.5 Pro 对决焦灼,最终 Grok 4 涉险晋级,明天将与 o3 争夺冠军。

机器之心
新闻资讯7

OpenAI o3封王,4比0横扫马斯克Grok 4!全球大模型对抗赛完美收官

Kaggle AI国际象棋锦标赛中,OpenAI o3以4-0横扫Grok 4夺冠,这场比赛也被视为OpenAI与xAI的“代理人战争”。季军战里,Gemini 2.5 Pro击败o4 - mini获铜牌。大赛旨在检验大模型多方面能力。

新智元
开源动态8

GLM4.5之后,智谱又开源GLM-4.5V,实测下来视觉推理能力贼强~

智谱继GLM-4.1V-9B-Thinking、GLM-4.5后,又开源最强多模态推理模型GLM-4.5V,在多模态理解榜单达开源SOTA。它视觉推理强,经测试能助力科研各阶段,还介绍了其架构设计与训练策略。

CourseAI
新闻资讯8

Claude 4发布!世界最强编程模型来了

Anthropic发布Claude 4家族,含Claude Opus 4和Claude Sonnet 4,代码能力强,重新定义AI编程助手能力边界。有新功能,企业认可,Claude Code上线,记忆能力提升,立即可用且价格不变。

AGI Hunt
新闻资讯7

刚刚,DeepSeek V4 Pro正式版发布!

周三晚间,DeepSeek 突然发布 V4 Pro 大语言模型正式版,命名为 DeepSeek - V4 - Pro - 0813,官方未调升 API 使用价格。有用户称调用的 V4 Pro 思维链风格有变,跑分显示其 Agent 评测表现可媲美顶级模型,还撞车了马斯克的 Grok 4.6。

机器之心
推荐文章8

模型压缩与量化:让大模型走向轻量化落地

文章介绍模型压缩与量化技术,其能在保持性能时降低大模型计算和存储需求,实现边缘设备高效部署。还阐述基础知识、关键技术路径、应用场景,并探讨未来发展方向。

机器学习AI算法工程
新闻资讯7

完球了,GPT-4o之母宣布离职OpenAI

Joanne Jang宣布结束在OpenAI四年半的旅程。她是OpenAI模型行为团队创始负责人,塑造了GPT - 4o的「人格」。4o因过度「谄媚」用户引发争议被下架,Joanne离职让再造4o的幻想破灭。

量子位
开源动态7

LM Studio宣布支持在Mac上跑Qwen3-Next 80B模型

LM Studio宣布支持基于MLX框架在Mac上运行阿里Qwen3-Next 80B模型。该模型虽总参数量达800亿,但每次推理仅激活30亿。第三方评测显示其4bit量化运行效果好,不过实现GGUF格式支持尚需时间。

AI工程化
新闻资讯8

OpenAI发布ChatGPT世代首个开源模型gpt-oss,4060Ti都能跑得动。

8月6日晚,OpenAI发布ChatGPT世代首个开源模型GPT - oss,有120B和20B两款。模型原生支持4 - bit量化,性能损失小,低配置显卡也能运行。跑分表现不错,还介绍了使用途径,虽有不足但改变开源社区格局。

数字生命卡兹克
新闻资讯7

xAI 22岁天才华人研究员:我们正以一敌十,Grok 4将无与伦比!

马斯克宣布Grok 4将在7月4日后发布,xAI华人研究员李天乐放豪言,称Grok 4智能无与伦比,且他们一人顶其他实验室10人。网友对此反应不一,马斯克也肯定Grok 4运行结果。

AGI Hunt