「大模型优化」共找到 10066 篇相关文章

产品应用8

英伟达再破世界纪录,每秒1000 token!刚刚,全球最快Llama 4诞生

英伟达用Blackwell创下AI推理新纪录,单节点8颗GPU实现Llama 4 Maverick模型每秒单用户生成1000个token。这得益于技术组合拳,如用TensorRT - LLM优化、应用FP8格式等,满足了低延迟需求。

新智元
算法论文8

强化学习没作用?人大DelTA精准识别关键token,推理正确率大幅上升

人大高瓴研究团队提出DelTA算法,不依赖经验为强化学习目标中每个token算最优权重。实验显示它适配主流强化框架,在多任务上提升base模型效果,还能让训练更稳定。

量子位
新闻资讯7

奥特曼砍掉GPT-4o引爆AI「戒断反应」,马斯克官宣Grok 4全球免费!

奥特曼在发布GPT - 5时砍掉旧模型引网友不满,他认为要防止用户对AI成瘾,让产品利大于弊;马斯克则官宣Grok 4全球免费,用热辣模式等吸引用户,形成上瘾曲线。

新智元
新闻资讯8

华为创造AI算力新纪录:万卡集群训练98%可用度,秒级恢复、分钟诊断

大模型落地需强大算力集群支撑,构建万卡级算力集群是顶尖挑战。华为昇腾万卡算力集群近乎‘永不罢工’,其公开技术秘密,提出‘3+3’双维度技术体系,多项指标表现优异。

量子位
新闻资讯7

AI逼疯七巨头,马斯克们深陷中年危机!

人工智能来势汹汹,科技巨头们陷入「AI焦虑」。谷歌搜索危机、苹果AI滞后、马斯克的特斯拉销量滑坡,巨头们面临挑战,谁会成AI时代「诺基亚」尚不明朗,新兴模型也带来新变数。

新智元
产品应用8

B站发布最强零样本TTS,IndexTTS2情感可控、时长精准

在大规模TTS系统中,自回归模型难精准控制语音时长。Bilibili推出IndexTTS2,支持两种生成模式,实现情感表达与音色解耦,引入GPT潜在表示,设计‘软指令’机制,降低情绪控制门槛。

带你学AI
开源动态8

智源新出OmniGen2开源神器,一键解锁AI绘图「哆啦 A 梦」任意门

2024年9月智源研究院发布统一图像生成模型OmniGen,获社区好评。近期OmniGen升级为OmniGen2,增强多方面能力且全面开源。它采用新架构与策略,有反思机制,玩法丰富,还推出新基准优化部署。

机器之心
开源动态8

7.2K Star 治愈系AI伴侣开源!开源AI虚拟伴侣,支持Live2D/VRM形象!

AI虚拟角色构建常面临技术和硬件难题,而Project AIRI开源项目可轻松构建能聊天、玩游戏的萌系AI虚拟伴侣。它功能丰富,支持多模型、跨平台,还能跨端运行,值得一试。

开源星探
新闻资讯8

一个大脑搞定所有模态,百度ERNIE 5.0技术报告公布

模型发布近3个月后,百度ERNIE 5.0技术报告公布。其底座用超级稀疏架构,参数量万亿但推理激活参数不到3%,实现四种模态原生自回归统一,还在路由调度、训练范式等多方面有创新。

量子位
新闻资讯7

重建安全,Kai种子轮拿了1.25亿美元,有点象龙虾

大模型用于网络攻击,传统安全跟不上节奏。初创公司Kai首笔融资1.25亿美元,它从根本上重建安全,用单一智能体AI平台自主完成安全工作,愿景是整合网络安全和IT功能。

AI与安全