「轻量化」共找到 351 篇相关文章
后OpenClaw时代！国产Agent模型凭「高配低价」叫板Opus 4.6
昆仑万维旗下天工AI发布SkyClaw - v1.0智能体模型及轻量化版SkyClaw - v1.0 - lite。该模型在底层能力提升，适配主流框架，跑分和实际应用表现出色，还具有低门槛、高性价比优势，限时免费体验。
0.016%参数撬动18%性能：关键表征微调破解LLM推理瓶颈
大语言模型在推理任务依赖思维链技术，传统PEFT方法需修改大量参数，新兴ReFT虽只需调整少量参数，但存在不足。本文提出CRFT，仅用0.016%参数量就提升性能，为轻量化推理增强开辟新路径。
中文互联网“build in public”的新实验，为什么会是AMA？
文章探讨小红书上AMA形式爆火的原因。它与Reddit不同，得益于小红书平权分发、垂直推荐、轻量化设计等特点。AI圈因开源精神成首批用户，AMA为双边提供价值，还让小红书向专业领域拓展。
智源RoboBrain 2.0+RoboOS 2.0双发：问鼎评测基准最强具身大脑，刷新跨本体多机协作技术范式
近日，智源研究院发布具身大脑 RoboBrain 2.0 32B 版与跨本体大小脑协同框架 RoboOS 2.0 单机版。前者突破能力瓶颈，在多项基准测试表现优异；后者性能提升，实现轻量化部署。二者双擎联动推动机器人迈向群体智能，且已全面开源。
一张3090就能跑！全栈国产模型，把AI办公搬到企业本地
本文介绍中国电信AI推出的全栈国产化轻量级代码智能体大模型Xing4.0-29B-A4B，该模型适配国产算力，4bit量化后单张RTX 3090即可本地部署，瞄准企业数据不出域的AI办公需求，现已开源上线。
OpenAI发布ChatGPT世代首个开源模型gpt-oss，4060Ti都能跑得动。
8月6日晚，OpenAI发布ChatGPT世代首个开源模型GPT - oss，有120B和20B两款。模型原生支持4 - bit量化，性能损失小，低配置显卡也能运行。跑分表现不错，还介绍了使用途径，虽有不足但改变开源社区格局。
MoE RL 实战：统一 FP8 全流程训练
SGLang RL 团队等实现 RL 全流程 FP8 训练与采样，消除训推不一致性。介绍 FP8 硬件基础、格式等，分析训练难点，定位 KL Loss 异常源于量化原理，验证其在 MoE 模型 RL 场景优势，指出模型规模与训推不一致的关联。
硅谷祛眼袋，海淀求嫩肤：中外科技老哥都在偷偷卷颜值
加州整形外科医生爆料，过去五年科技圈男性做医美的多了五倍，对拉皮等开刀项目也趋之若鹜。国内科技大厂周边医美机构男性客户也增多，多以轻医美为主。科技从业者医美需求飙升，与年龄焦虑和找对象需求有关。
sgl-kernel MoE Align Block Size Kernel 优化过程解析
文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代，包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。
1.93bit版DeepSeek-R1编程超过Claude 4 Sonnet，不用GPU也能运行
1.93bit量化后的DeepSeek - R1（0528）编程能力超Claude 4 Sonnet，在aider榜单获60分。Unsloth工作室制作9个量化版本，小版本不用GPU也能跑。R1 - 0528在游戏评测中表现也佳。