Llama 3.1」共找到 3428 篇相关文章

8

AI Infra入门干货总结:大模型是如何高效推理的

作者深入研读vLLM源码,以Llama 3为例,聚焦Decoder-Only架构LLM,介绍推理各环节及张量维度变化,讲解连续批处理和Paged Attention概念,还阐述推理流程、采样策略等,最后总结相关拓展内容。

腾讯技术工程
新闻资讯7

Google 亲手证明:GUI 已死,但尸体还在动

Google DeepMind发布Flash - Lite Browser,能用Gemini 3.1 Flash - Lite实时生成网站。它表明GUI连预先设计都不需要,界面正发生三层分化,虽有不足,但展现界面从预制到即时生成的趋势。

AGI Hunt
算法论文7

AI版盗梦空间?Claude竟能察觉到自己被注入概念了

Anthropic最新研究发现LLM有内省迹象,Claude能察觉概念注入。研究用概念注入测试,虽模型内省能力有限且不可靠,但能力强的Claude Opus 4和4.1表现好,未来内省或更复杂。

机器之心
算法论文7

大模型“记性差一点”反而更聪明!金鱼损失随机剔除token,让AI不再死记硬背

马里兰大学等团队提出金鱼损失法,训练时随机剔除部分token,让模型不逐字记内容,仍学语言规律。实验显示,LLaMA - 2用该方法后记忆内容减少,下游任务性能影响小。

量子位
开源动态8

GLM-5深夜登场,这是国产开源模型首次逼平Claude Opus 4.5。

GLM - 5深夜发布且开源,参数量从355B扩展到744B,跑分仅次于顶级模型,开源排第1。能力逼近Claude Opus 4.5,BrowseComp基准得分超普通GPT - 5.2。价格便宜,是国内可用且性价比高的大模型。

数字生命卡兹克
新闻资讯8

谷歌:全栈AI之王

随着Gemini 3模型与第七代TPU的发布,谷歌打破OpenAI与英伟达主导的市场叙事。其全栈AI战略从底层基础设施到用户产品全覆盖,TPU进化、软硬件契合,吸引大客户,C端产品成发展引擎。

新智元
新闻资讯7

GPT-5刚刚正式发布,首次面向免费用户开放

OpenAI正式发布GPT - 5,有架构统一、性能大幅提升、全用户开放三大核心变化。测试数据显示性能进步明显,采用新定价策略面向所有用户开放。但演示未带来突破感,编程能力还面临Claude Opus 4.1挑战。

AI工程化
开源动态8

2张4090竟能本地微调万亿参数Kimi K2!趋境联合清华北航把算力门槛击穿了

仅需2 - 4张消费级显卡(4090),就能在本地对DeepSeek 671B乃至Kimi K2 1TB这样的超大模型进行微调。这得益于KTransformers和LLaMA - Factory两个国产明星项目联动,大幅降低成本,开启AI个性化定制时代。

量子位
产品应用8

刚刚,蝉联Future X全球榜首的MiroMind发布全球最强搜索智能体模型

由陈天桥和代季峰联合发起的 MiroMind 团队,于 1 月 5 日发布自研旗舰搜索智能体模型 MiroThinker 1.5。该模型参数规模小但性能强,其核心是「发现式智能」理念,还采用了新训练技术,有 A 股涨停板预测等应用。

机器之心
新闻资讯7

FDE半年涨了321%,AI行业现在最缺的不是研究员

Forward Deployed Engineer(FDE)是当前AI招聘市场增速最快角色。2026年2月4日到7月22日,FDE岗位从28个涨到118个,增长321%,占比从2%升至3.6%。介绍了其市场趋势、雇主、职责、技能和经验要求等。

AI工程化