「FP4 MoE」共找到 1629 篇相关文章
小美Agent：当龙猫遇到美团外卖的灾难现场
作者体验美团AI助手“小美”后吐槽不断。美团称其用有5600亿参数的龙猫大模型，能力接近GPT - 4o，但它理解需求差、操作订单无效、定位混乱。美团做AI是为跟风，未解决用户真需求，是资源浪费。
曝GPT-5.5用上「全球最快芯片」，Claude慌了！
新智元报道，OpenAI的GPT - 5.3 - Codex - Spark用Cerebras的WSE - 3芯片达2000 token/秒。Cerebras CFO称在跑GPT - 5.4和GPT - 5.5，但SemiAnalysis报告指出其跑大模型有短板，且公开云模型小、上下文短。
不可思议！400B大模型在iPhone上跑起来了
一个跑在 iPhone 17 Pro 的 A19 Pro 芯片上的 400B 大模型 Qwen3.5 - 397B - A17B 引发关注。这源于 Flash - MoE 开源项目，它摒弃现代 AI 框架，回归底层开发，实现消费级硬件上大模型交互级速度运行。
6.1B激活，三榜开源第一！蚂蚁·安诊儿医疗大模型发布
由浙江省卫生健康信息中心等联合研发的开源医疗语言模型AntAngelMed发布。它基于Ling - flash - 2.0，100B总参数仅激活6.1B达约40B密集模型性能，在多个权威医疗基准测评中居前列，采用三阶段训练流程，高效MoE架构。
回归C++: 在GGUF上构建高效的向量模型
Jina AI分享将纯解码器向量模型适配到GGUF格式及在llama.cpp工具链的优化经验。经处理得到特定任务v4模型，还生成量化版本并上传。介绍使用方法、注意事项，经测试推荐IQ3_S或IQ3_M版配合定制工具。
MiniMax深夜开源首个推理模型M1，这次是真的卷到DeepSeek了。
MiniMax深夜开源首个推理模型M1，其上下文能力媲美Gemini 2.5 Pro。M1在部分评测中表现中规中矩，但在MRCR（4 - needle）测试中屠榜。它得益于MiniMax - 01基座模型，应用Lightning Attention机制，开源了40K和80K两个版本。
社区供稿丨Jina-VLM：可在笔记本上跑的多语言视觉小模型
Jina AI发布2.4B参数量的视觉语言模型Jina - VLM，在多语言视觉问答任务达SOTA。它引入注意力池化，连接视觉与语言基座，处理问答等任务，对硬件要求低，多项测试表现优，还介绍架构、训练策略和上手方式。
老罗数字人爆火背后，百度做对了什么？
6月15日，罗永浩数字人在百度电商直播超6小时，吸引超1300万人次观看，带货破5500万元。它动作、语调等生动，能与弹幕互动。百度基于文心4.5T，从形、音、神让数字人“神形音容”一致，还实现行业首次多数字人同场及头部主播数字人整场带货。
大基金或将领投DeepSeek？算力拐点将至
5月6日报道国家大基金正洽谈领投DeepSeek首轮融资，估值约450亿美元。大基金此前未公开投资大模型公司，此次若落地是从“半导体硬件”向“AI应用端”延伸。2025年是中国AI芯片出货量关键年份，DeepSeek-V4发布，多家国产芯片品牌完成适配，但国产芯片仍面临性能、软件生态等挑战。
Sora 2 惊现 LLM 推理能力，视频生成模型也能搞推理？
Sora 2在科学推理基准测试中获55%成绩，虽不敌GPT - 5，但一个视频生成模型能做推理令人惊讶。Epoch AI实验发现其可能借LLM重写提示词答题，网友也证实背后或有GPT - 4o等处理。此外，Google研究显示视频模型经大量训练或有推理能力。