「大模型推理加速」共找到 8554 篇相关文章

开源动态8

深度拆解 Muse Glimmer,24GB 显存跑 30B Agent,Meta 到底做了什么?

昨天,Meta发布约30B参数的多模态Agent模型Muse Glimmer,支持128K级上下文。它采用Apache 2.0许可证开放,有量化版本等。其技术设计围绕显存、上下文管理等问题展开,在多方面做了取舍。

AI科技评论
产品应用8

Claude Sonnet 4.5发布,多领域性能超越GPT-5和Gemini 2.5 Pro

Anthropic发布Claude Sonnet 4.5,是目前最强编程模型,在多领域性能超GPT - 5和Gemini 2.5 Pro。操作电脑、数学推理能力提升,产品更新功能丰富,安全性增强,价格不变,获多家公司认可。

AI工程化
新闻资讯8

生数科技按下B端商业化快进键:30天签约智谱、飞书等多家行业龙头|甲子光年

AI视频生成行业商业化加速,生数科技不到一周官宣与智谱、飞书等合作。其Vidu基座模型能力强,多领域开花,2025年Q1商业化增速快,还凭交付与服务能力获头部青睐。

甲子光年
算法论文7

Transformer与RNN合体,谷歌打下显存门槛,解锁超长上下文

谷歌论文提出 Memory Caching 技术,通过架构机制创新赋予 RNN「可生长的记忆容量」,兼顾 Transformer 与 RNN 优势,能处理更长文本、降低推理资源门槛,实验显示有良好效果。

机器之心
新闻资讯7

营收破亿,光轮智能完成数亿元 A 及 A+轮融资,揭秘机器人「数据荒」背后的生意经

近日,光轮智能完成数亿元 A 及 A+轮融资,已与全球头部企业合作,年营收破亿。其创始人谢晨博士指出机器人基础模型开发存在数据短缺问题,光轮通过仿真环境生成数据,是 NVIDIA 生态核心伙伴。

Founder Park
新闻资讯8

刚刚,马斯克发布Grok 4!全榜第一,年费飚到2万+

北京时间中午,马斯克现身 xAI 发布会发布 Grok 4,称其是世界最好的 AI。Grok 4 推理能力强,多类基准测试成绩领先,还在多方面能力获加强,已上线但付费昂贵。

机器之心
新闻资讯7

刚刚,Anthropic王炸Claude泄露!全面碾压Opus 4.6引爆全网

因「人为配置」错误,Anthropic最强模型Claude Mythos细节泄露。它编程、推理能力超Claude Opus 4.6,还具备网络攻防能力,但也带来安全风险,Anthropic因担心被黑客利用暂未发布。

新智元
新闻资讯7

Karpathy刚进Anthropic,转头又投了它

AI初创公司Engram成立8个月,估值达6亿美金,获9800万美元融资。它聚焦AI记忆,用Cartridges技术降内存、提速度,将推理和记忆层拆开,团队成员背景强大,押注AI范式新转向。

新智元
新闻资讯7

突发!腾讯AI Lab副主任、首席科学家俞栋传出离职

2025年AI竞争白热化,多方消息显示腾讯AI Lab首席科学家俞栋或已启动离职流程。他在腾讯任职8年,推动数百篇论文与百项专利落地。其离开折射AI顶级人才加速流动,腾讯AI将进入新阶段。

新智元
新闻资讯8

OpenAI深夜祭出GPT-5.4,暴击Claude!原生操控电脑,打工人悬了

OpenAI发布GPT - 5.4,全面反击Gemini 3.1 Pro和Claude Opus 4.6。它是首个有「原生电脑使用」能力的通用模型,各维度无短板,成绩炸裂,定价也创新高。

新智元