「AI推理加速」共找到 10974 篇相关文章
面壁MiniCPM4端侧模型发布：长文本推理 5 倍提速，0.5B 模型拿下新SOTA
2025智源大会，面壁发布MiniCPM4.0端侧模型，含8B稀疏闪电版与0.5B款。其采用InfLLM架构，实现长文本推理5倍提速、最高220倍加速，还在性能、部署等方面优化，适配多芯片与框架。
Wabi 创始人的 7 个预测火了，给 AI 而非人类做的数据库ARR 一年涨了6 倍
Wabi创始人Eugenia Kuyda《Consumer AI predictions》总结7个消费端AI产品预测，如无屏幕和全时监听设备难成功、2030年AI机器人细分、效果营销将死等。还有一给AI的数据库产品，ARR一年涨6倍。
Sea AI Lab 揭秘：你费尽心力调的 LLM 一直在崩溃？罪魁祸首可能只是一个参数：BF16
Sea AI Lab 和新加坡国立大学研究指出，强化学习微调中训练不稳定和性能瓶颈，根源是数值精度 BF16。其低精度造成“训练 - 推理不匹配”，使训练易失败。将精度切换到 FP16 可解决问题，提升模型表现。
在参与OpenAI、Google、Amazon的50个AI项目后，他们总结出了大多数AI产品失败的原因
Aishwarya Naresh Reganti和Kiriti Badam参与超50个AI项目后，指出多数AI产品失败。他们认为构建成本降低，但设计和明确痛点才是关键，还分享开发陷阱、成功路径，介绍CC/CD框架及AI未来走向。
开源模型首次物理奥赛IPhO夺金！上海AI Lab 235B模型击败GPT-5和Grok-4
上海AI Lab的P1 - 235B - A22B在国际物理奥林匹克竞赛夺金，在HiPhO基准测试获12金1银，超越GPT - 5等闭源模型。团队构建HiPhO基准测试，用多阶段强化学习训练模型，开发PhysicsMinions系统提升推理能力。
Hinton最新警告：杀手机器人或将带来更多战争，最大担忧是AI接管人类
近日，「AI教父」Geoffrey Hinton在采访中预警，「杀手机器人」等致命自主武器让战争更易发动，降低了战争成本、改变了战争方式。他更担忧人类被AI接管，还指出AI公司在安全方面做得不够，同时也提到了AI在医疗等领域的应用。
为什么伟大的 AI 产品不能被计划？
Anthropic的CPO Mike Krieger分享构建AI产品经验与哲学。他认为未来多数内容将由AI生成，判断重点在来源与可信性；伟大AI产品多自下而上生长，如MCP协议；还谈到AI应用面临易用性等问题。
社区供稿 | 开源多模态大模型新突破，书生·万象3.5发布，通用能力、推理能力与部署效率全面升级
2025年8月26日上海AI实验室开源发布书生·万象InternVL3.5，通过创新技术实现推理、部署和通用能力全面升级。它有多种尺寸模型，多项性能领先，还加强了智能体核心能力，应用场景广泛。
MiniMax-M1：全球首个开源超长上下文大模型，超越DeepSeek-R1，推理成本仅1/4
MiniMax-M1是全球首个开源超长上下文大模型，刷新三项记录。它采用混合专家架构，闪电注意力让推理复杂度近乎线性增长。CISPO算法加速训练，成本低。在工业级任务测试表现佳，已开源且方便开发者接入。
“现在读AI博士已经太晚了”
谷歌生成式AI团队创始成员Jad Tarifi劝退AI博士，称等毕业AI或被解决。当下科技巨头天价抢人才，AI也成裁员推手，应届毕业生就业难。他建议发展社交技能和同理心应对。