超低延迟」共找到 3040 篇相关文章

开源动态8

租了8张H100,他成功复现了DeepSeek的mHC,结果比官方报告更炸裂

元旦期间,DeepSeek发布的mHC震撼AI社区。FlowMode工程师Taylor Kolasinski租8张H100复现mHC,结果比官方报告更优。文章介绍复现实验,对比mHC、HC和标准残差结构,揭示连接在规模化时的不稳定性及mHC的解决办法。

机器之心
新闻资讯7

独家对话 Looki 创始人孙洋:摸着自己过河

本文是对Looki创始人孙洋的独家专访。Looki L1发布后意外大火,但前期市场策略保守,未突出AI。用户使用时长预期,产品隐私设计消除担忧。团队在供货、软件迭代等方面不断探索,商业模式也在摸索中。

Founder Park
产品应用7

00后下场整顿Agent:啥都不学就能用好AI,这才是正确打开方式

AI圈模型变强但使用门槛变高,00后团队打造的胖鹅AI以提示词为卖点,实测在生成视频、数据看板网页等方面表现出色。其核心是SOP体系,让AI适应人的习惯,降使用门槛。

量子位
开源动态7

这可能是,全球最强开源Agent模型,走了一条反Scaling Law的全新范式!

MiroThinker v1.5开源,其30B小模型在Agent benchmark上击败万亿参数的Kimi K2T。它以交互深度为新Scaling维度,训练有严格时间管控,实测表现Search Agent,“小模型+强交互”或成新方向。

探索AGI
新闻资讯7

一周休4天!老黄、盖茨站台,网友炸锅:是AI福利,还是裁员信号?

Fortune报道引发网友对3 - 4天工作制热议。Zoom CEO袁征、黄仁勋、比尔·盖茨等大佬认为AI或带来此转变,袁征觉得AI会自动化价值工作,也有人认为是裁员信号。黄仁勋称未来更忙,且有岗位消失也有新机会。

新智元
产品应用8

斯坦福李飞飞团队,带你一句话进入无限3D世界

斯坦福李飞飞团队推出Marble平台,能将图片或文字变成3D世界。其有持久存在、可自由导航、可自定义操控等特性,技术或与3DGS有关,实测领先竞品,World Labs获巨额投资,估值10亿美元。

AIGC开放社区
开源动态7

GPU-MODE Leaderboards之vector_add histogram 以及一些有趣发现

文章介绍GPU-MODE Leaderboards中vector_add和histogram任务。分析vector_add实现、带宽利用率,rank1代码用cccl,带宽利用率80%;histogram算子瓶颈在atomic冲突等,rank1也多用cccl,还给出rank2代码,最后提及任务中Hack行为及代码提交方式。

GiantPandaLLM
产品应用7

Anthropic 突发 Sonnet 5,但大家更期待 Fable 5 和 Mythos 5 明天解禁

昨夜凌晨,Anthropic 突然推出 Claude Sonnet 5,自封“性价比之王”。它重点提升计划制定等能力,价格更,安全性能提升,但网络安全能力弱于 Opus 4.8 和 Mythos 5。不过用户反馈平淡,Anthropic 面临高端模型受阻和访问控制争议等问题。

InfoQ
推荐文章7

从 Langchain 到 Spring AI,我们究竟需要怎么样一个企业级 AI 开发基础设施?

文章指出AI Agent应用开发方式演变快,企业构建AI Agent体系面临挑战。介绍了AI Agent应用架构变化及趋势,如AI应用平台代码效应、框架与平台双轨并行等,还总结了四类AI Agent框架及企业级框架平台核心考量。

phodal
新闻资讯7

小米小爱同学:资源受限下,实现端侧大模型的高性能推理

InfoQ对话小米小爱同学端侧AI负责人杨永杰,了解其团队在资源受限的端侧设备实现大模型高性能推理的策略。目前端侧大模型商业化落地慢,团队提前布局,自研框架,实现180 tokens/s推理速度,还分享未来突破方向。

InfoQ