「小模型性能」共找到 8697 篇相关文章
国产 AI 昇腾推理不再高门槛？开源技术栈推理性能对比解析
文章聚焦昇腾 NPU 大模型推理，对比 MindIE 和 vLLM Ascend 推理性能。因 MindIE 使用门槛高，昇腾联合 vLLM 社区推出插件。实验用 GPUStack 平台，结果显示二者在不同场景各有优势，呼吁构建国产 AI 基础设施体系。
0.016%参数撬动18%性能：关键表征微调破解LLM推理瓶颈
大语言模型在推理任务依赖思维链技术，传统PEFT方法需修改大量参数，新兴ReFT虽只需调整少量参数，但存在不足。本文提出CRFT，仅用0.016%参数量就提升性能，为轻量化推理增强开辟新路径。
4o-mini华人领队也离职了，这次不怪小扎
OpenAI的Kevin Lu离职，下一站是估值120亿美元的Thinking Machine Lab。他毕业于UC伯克利，在OpenAI领导完成4o - mini，擅长小模型和强化学习。他认为应关注互联网数据，停止强化学习研究转做产品开发。
Google 推出超小杯 AI：Gemma 3 270M！可进手机和浏览器
Google发布Gemma 3家族最小版本Gemma 3 270M，2.7亿参数，能耗低，在同规模模型中表现突出。设计理念是“够用就行”，适合特定任务，已在多平台发布，开源策略效果好。
大模型推理学习新范式！ExGRPO框架：从盲目刷题到聪明复盘
上海人工智能实验室等团队提出经验管理和学习框架ExGRPO，能科学管理经验。与传统RLVR方法比，它在不同基准提升性能，尤其复杂推理任务，还揭示滚雪球效应，为模型推理训练提供新思路。
击败GPT、Gemini，复旦×创智孵化创业团队「模思智能」，语音模型上新了
近日，由复旦邱锡鹏担任首席科学家的模思智能发布多说话人自动语音识别模型 MOSS - Transcribe - Diarize，性能超 GPT - 4o、Gemini 等。它解决语音领域落地痛点，跑分亮眼，还解决 SATS 方案不足，开放 API 限时免费。
刚刚，大模型装上「鹰眼」！首创高刷视频理解，谷歌Gemini 2.5完败
面壁智能开源MiniCPM-V 4.5多模态端侧模型，8B参数越级反超72B巨无霸，在多领域达SOTA。它首创高刷视频理解，性能强、效率高、适合端侧部署，还实现多技术创新，是开源端侧多模态AI的革命。
真钱买假模型？187篇论文被「套壳API」坑惨，准确率暴跌
CISPA论文指出，第三方影子API可能用廉价替代品替换前沿大模型。研究追踪17个服务，发现已被187篇论文引用。测试显示，影子API在多领域性能差，安全不可控，供应商有三种欺骗手段。
抨击AI炒作、曝企业需求为先，Anthropic 联创：模型提 0.01 性能就血赚，算力烧钱但值！
Anthropic由7位前OpenAI核心成员创立，联合创始人兼总裁Daniela Amodei接受采访，谈到成本控制、AI安全及上市可能。她认为AI安全是核心优势，公司谨慎对待支出和算法效率，虽算力投入大，但硬件回报高。
大模型能否为不同硬件平台生成高性能内核？南大、浙大提出跨平台内核生成评测框架MultiKernelBench
深度学习计算依赖底层内核，当前多由开发者手工编写。南大、浙大推出开源评测框架MultiKernelBench，打破现有评测基准局限，构建模块化评测体系，多模型实测，还指出LLM短板并明确未来方向。