「Llama 3」共找到 2060 篇相关文章
AI Infra入门干货总结：大模型是如何高效推理的
作者深入研读vLLM源码，以Llama 3为例，聚焦Decoder-Only架构LLM，介绍推理各环节及张量维度变化，讲解连续批处理和Paged Attention概念，还阐述推理流程、采样策略等，最后总结相关拓展内容。
Distilabel DeepSeek-R1 模型蒸馏教程
文章介绍结合distilabel与QLoRA技术定制专属大模型的路径。先用distilabel框架利用DeepSeek - R1生成医疗指令数据集，再用QLoRA技术微调Qwen3 - 4B模型，还给出实战路线图和代码示例。
微软深夜发布SambaY架构，Phi-4min加速10倍推理
微软基于Phi-4-mini版本，针对特定推理任务微调出Phi-4-mini-Flash-Reasoning 3B模型，将其扩展到200064 tokens。采用新型SambaY架构，支持64K token上下文长度，运行快10倍，有诸多优点。
大模型“记性差一点”反而更聪明！金鱼损失随机剔除token，让AI不再死记硬背
马里兰大学等团队提出金鱼损失法，训练时随机剔除部分token，让模型不逐字记内容，仍学语言规律。实验显示，LLaMA - 2用该方法后记忆内容减少，下游任务性能影响小。
谷歌：全栈AI之王
随着Gemini 3模型与第七代TPU的发布，谷歌打破OpenAI与英伟达主导的市场叙事。其全栈AI战略从底层基础设施到用户产品全覆盖，TPU进化、软硬件契合，吸引大客户，C端产品成发展引擎。
实测美团 LongCat：快到极致，但是别说追平 DeepSeek
AI科技评论实测美团LongCat-Flash-Chat，它是中量级对话模型，主打“快”，几乎零延迟。但在推理、抗污染能力等测试中，相比DeepSeek-V3.1，逻辑链条松散，缺乏清晰判断。速度与逻辑哪个更重要，值得思考。
2张4090竟能本地微调万亿参数Kimi K2！趋境联合清华北航把算力门槛击穿了
仅需2 - 4张消费级显卡（4090），就能在本地对DeepSeek 671B乃至Kimi K2 1TB这样的超大模型进行微调。这得益于KTransformers和LLaMA - Factory两个国产明星项目联动，大幅降低成本，开启AI个性化定制时代。
最新！Karpathy：Vibe Coding只是抬高了地板，真正的战场在这里
Andrej Karpathy在AI Ascent 2026上与红杉合伙人对话，分享自提出“vibe coding”一年来的变化。谈到技术转变、Software 3.0、模型“锯齿状”特征等，还区分了vibe coding和agentic engineering，指出人类需保留品味、判断力等。
斩获近5w star！这个开源AI工具让你30 秒搞定“过去30天真相”！
信息碎片化时代，last30days开源AI工具聚合各平台“人群智慧”，按真实人群参与度打分合成摘要。它能搜索多平台，v3版有智能搜索等新功能，输出HTML摘要，优点多且易上手。
中国AIGC「全家桶」来了！三箭齐发杀入全球第一梯队
3月27日，2026中关村论坛上，天工AI发布游戏世界模型Matrix - Game 3.0、视频大模型SkyReels V4和音乐大模型Mureka V9，杀入世界第一梯队，解决行业顽疾，还发布2026 AGI战略。