「Llama 3.1」共找到 3404 篇相关文章
一个Dispatch Dtype引起的fp8 quant kernel性能问题
文章记录SGLang社区在sgl-kernel中解决的fp8 quant kernel性能问题，因错误使用`c10::Float8_e4m3fn`数据类型，未用硬件加速指令，通过软件调用致性能下降，现已修复，vLLM也应用此修复。
The Batch: 944 | Llama 之后的时代
Meta发布首个AI模型Muse Spark，是多模态推理模型，在部分健康和多模态测试领先，编程与智能体任务有不足。Meta披露技术细节少，该模型基准测试有竞争力，但其从开放转向封闭引开发者担忧。
1w颗星！本地化视频翻译配音工具！
KrillinAI是多功能音视频本地化与增强方案，面向人类用户和AI Agent。它功能全，覆盖视频处理完整链路；特点多，支持CLI调用等；还兼容多种语音识别、大语言模型和TTS服务，可Docker部署。
第 3 章 Agent 核心功能技术详解
本章以Claude Code及其生态为主参照，介绍现代Agent平台提供类似‘操作系统’机制，包括命令、记忆等。面向熟悉Python与LLM的开发者，按是什么、解决什么问题等展开，还分析了Agent工程核心挑战。
拆解机器人，分析其软硬件弱点（1)
国外公司对某款机器人做了深入拆解分析。介绍了机器人硬件关键信息，包括外形、各部分组件等。还指出硬件存在多种攻击途径及安全隐患，如物理访问点、JST 连接器等问题，RK3588 也有漏洞。
仅 3MB 大小，终端极速预览 word！
开发者等常需在服务器或命令行环境查看Word文档，传统方式低效。开源神器doxx基于Rust开发，无需Microsoft Word等软件，有保留格式渲染、全文搜索等功能，还提供多种安装渠道。
暴涨3倍！光模块背后大赢家
2025年源杰科技股价表现强劲，年初迄今涨幅达348%，反超下游大客户中际旭创。其前三季度业绩爆发，得益于数据中心市场产品放量。随着AI算力需求爆发，光互连技术向CPO架构演进，对光芯片要求提高，源杰科技高端产品突破助其获利。
Learn to Reason _ The way of Baichuan-M1-ClinicReasoning
前百川智能研究小组负责人阎栋分享大语言模型临床推理。回顾推理技术发展，以Deepseek为例；介绍百川在医疗推理实践，模型达三甲主治水平；还谈及大模型训练困境及与人类智能差异。
deepseek v4.1？ 梁圣的端午礼物突袭。
群里小伙伴称deepseek官方灰度新模型，手机和web端Flash模型思考模式大变，典型bug修复。测试发现幻觉严重，知识库截止大概25年6月。同时，deepseek获500亿首轮融资，梁文锋自掏200亿，投资方无投票权，五年锁定期。
1.8亿token，Clawdbot是这么吞掉的~
截止发文，开源AI Agent项目Clawdbot（已更名OpenClaw）超134k Star，其吞噬token特性引关注。文章从Code层面拆解高Token消耗根因，分析难以避免的问题，还给出控制Token账单的方法。