「小模型推理能力」共找到 9209 篇相关文章
忘记大模型，英伟达：小模型才是Agentic AI的未来！
截至2024年末，Agentic AI领域获超20亿美元初创公司融资。NVIDIA研究报告显示，多数Agentic AI场景中，小型语言模型已足够强、更适配、更便宜，LLM-to-SLM迁移是必然趋势。
LeCun点赞：国产开源模型占领硅谷，性价比超10倍
硅谷被中国开源模型占领，Cursor、Cognition等公司模型被曝套壳或基于中国开源模型后训练。巨头如Meta也用Qwen做训练，爱彼迎等青睐Qwen。因性价比高，中国开源模型在硅谷走红。
字节开源了一个了不得的模型！
字节跳动开源统一多模态基础模型BAGEL，一个模型能同时理解和生成文本、图像、视频。部署测试有亮点但效果不稳定，还分享该模型体验Demo、地址及安装使用教程。
相信大模型成本会下降，才是业内最大的幻觉
很多AI创业者认为模型降价能降成本、改善营收。但文章指出，成本下降仅针对老旧模型，最好模型成本大致相同，且模型token消耗激增。还探讨了AI创业商业模式，如按使用量计费、建立高切换成本、垂直整合等。
内部爆料，OpenAI 将发布神秘「OS模型」，员工惊掉下巴
OpenAI研究员Aidan McLaughlin推文称试用新os模型后很震惊，引发猜测。有推测是GPT - 5，也有认为OS可能指开源模型、新的o4模型或操作系统。从代码看，OpenAI或把ChatGPT升级为AI操作系统。
DeepSeek 新模型曝光，即将发布
据彭博社消息，年初凭 R1 模型震动全球的 DeepSeek 正开发全新 AI Agent 模型，创始人推动团队在今年四季度发布。该模型能代表用户执行多步骤操作、基于过往行为学习改进，行业也在向 Agent 软件转型。
英伟达新研究：小模型才是智能体的未来
英伟达最新论文指出，大模型在Agent任务中消耗大量计算资源，成本高、效率低、灵活性差，而小模型能在性能够用前提下让任务执行更经济灵活。小模型通过优化硬件资源和任务设计高效执行任务，但落地面临挑战。
Cursor“自研”模型套壳国产开源？网友：毕竟好用又便宜
美国顶流AI产品Cursor和Windsurf发布新模型，被指“套壳”中国开源大模型。Cursor新模型干活时说中文，Windsurf或用智谱GLM。中国开源模型物美价廉，在榜单和下载量上表现出色。
DeepSeek推理最高提速6倍！开源研究：加装「思维进度条」，计算量减少30%
特拉维夫大学团队开发新方法，给LLM推理任务装进度条，控制推理深度和速度。提出“思维进度向量”TPV预测推理位置，干预TPV可“超频”“降频”，模型已在GitHub开源。
Meta超级智能实验室又发论文，模型混一混，性能直接SOTA
大语言模型训练依赖算力和时间，传统模型 Souping 多采用均匀平均。Meta 等研究者提出类专家 Soup（SoCE），利用基准测试类别构成选最优模型，非均匀加权平均，实验显示其提升了模型效果与稳健性，在排行榜获 SOTA 成绩。