「领域大模型」共找到 9894 篇相关文章
最受欢迎的开源大模型推理框架 vLLM、SGLang 是如何炼成的?
文章介绍了开源推理引擎 vLLM 和 SGLang,包括起源、创新、社区发展、版本迭代等。vLLM 借鉴分页缓存管理技术,SGLang 基于 RadixAttention 优化。二者竞争激烈,性能趋同,还获投资与基金会关注,受科技公司青睐。
Meta-Think ≠ 记套路,多智能体强化学习解锁大模型元思考泛化
上海交通大学等团队提出ReMA框架,将复杂推理解耦为元思维和推理智能体,通过迭代强化学习协作。在单轮实验中,ReMA在多基准测试表现优;多轮实验虽有提升但不稳定,需进一步探索。
大模型从“胡说八道”升级为“超级舔狗”,网友:再进化就该上班了
vLLM 新特性:批量大小不再影响模型输出
vLLM 推出批量不变推理功能,解决大模型推理中相同输入在不同批量大小下结果不同的问题。设置 `VLLM_BATCH_INVARIANT=1` 可保证输出一致,技术实现含三部分,虽有性能开销但换来了结果确定性。
给还在大厂工作的朋友 21 条忠告
Addy Osmani分享《在谷歌14年得到的21条教训》,涵盖工程师工作多方面,如解决用户问题、达成共识、偏向行动、清晰表达等,对大厂工作者有指导意义。
Pony Alpha新模型炸场!全球「猜爹大赛」开启
2月7日深夜,OpenRouter悄悄上线匿名模型Pony Alpha,其编程、推理等体验出色,外网瞬间疯传。全球开启‘猜爹大赛’,Claude、DeepSeek、Grok、GLM各派开吵,还凸显了‘匿名盲测式发布’新打法。
750篇论文,彻底把统一多模态模型摸清了
未来迈向AGI需多模态AI系统。南大等联合发表综述,涵盖754篇文献。分析传统路线痛点,介绍统一多模态模型定义、技术路线、训练方法等,还提及应用场景及未来方向。
大厂这波Agent混战,杀死10多个AI名品
2026年8月AI圈组织架构调整频繁,阿里、字节整合多款产品,腾讯、百度也有动作。办公Agent成大厂混战核心,虽有产品被整合,但各厂优势不同,终局难测。
搜索领域的下一个重大转变:从产品到基础设施
Lightspeed投资人称搜索正从人类产品转变为AI基础设施,像云计算支撑互联网,搜索将为AI提供信息。各公司集成搜索进展不同,还分析了搜索成基础设施带来的变化及新机会。
大型语言模型正在掏空和填满你的钱包
人工智能改变赚钱和花钱方式,生成式AI每年或为全球经济增2.6 - 4.4万亿美元。文章介绍LLM在多领域应用,如客服降成本、内容创作提效率等,企业应积极拥抱技术革命。