「大模型推理系统」共找到 9257 篇相关文章

推荐文章9

GPT-6数学封神,遭顶尖数学家公开质疑“算力截胡”?OpenAI内部研究员撕开Astra真相:人脑更容易被污染,而AI只看概率

OpenAI推出GPT-6 Astra,接连在埃尔德什单位距离猜想、纳维-斯托克斯方程等多个顶级数学难题上取得突破性进展,引发顶尖数学家对学术伦理与传统研究模式的争议,本文为OpenAI内部研究员的深度对谈编译,拆解AI数学推理的核心逻辑。

AI科技大本营
新闻资讯7

突发!Fable 5.1遭黑客破解,27万字提示词泄露

Fable 5.1和Mythos 5.1发布,Fable 5.1推理成本低32%。但发布几小时后被破解,27万字提示词泄露,曝光了其安全限制、隐私保护等秘密。它工具增加,还破解密码、能完成多种任务,不过也有用户抱怨耗token等问题。

新智元
新闻资讯8

刚刚,神话级Fable 5.1来了!

今天,Claude Fable 5.1全平台上线,Mythos 5.1专供特定团队。新模型跑分有断层式代差,还降低了算力门槛。通过重绘金星、设计蛋白等案例展示其科研能力,在编程上也表现出色,同时在安全上采取‘一松一紧’策略。

新智元
算法论文8

欲取代transformer的SSA(次平方稀疏注意力)解读

文章解读了欲取代Transformer的SSA(次平方稀疏注意力)算法。它支持12M tokens上下文,比fastAttention快52倍,训练和推理更快。SSA改变了注意力扩展特性,有计算和内存线性扩展等特性,经三阶段训练可可靠利用长上下文。

Agent的潜意识
新闻资讯7

特斯拉们,慌了?英伟达智能驾驶实测曝光:仅用一年追平马斯克八年心血

英伟达汽车业务虽仅占总收入1%,但十年积累已成气候。其与Uber合作、推广L2级城市功能,到2028年将实现L3高速公路驾驶,仅用1年几乎追上马斯克的FSD。实测中英伟达自动驾驶表现出色,新系统也有诸多亮点。

新智元
开源动态8

sgl-kernel MoE Align Block Size Kernel 优化过程解析

文章记录SGLang的sgl-kernel中优化 `moe_align_kernel.cu` 的过程。MoE模型的 `moe_align_block_size` kernel从最初的baseline版本经多次迭代,包括加向量化padding、用Blelloch Scan并行化前缀和、用Warp Scan减少同步开销等。

GiantPandaLLM
新闻资讯7

深度 |  不是黄仁勋要改变 PC,而是 PC 要革自己的命

6月初英伟达发布面向Windows系统个人电脑的全新超级芯片RTX Spark,宣告进军个人电脑核心处理器市场,微软站台,众多PC厂商支持。英特尔是AI PC概念提出者,但英伟达入局后其显得被动。此外,高通、AMD、苹果等也在布局,AI正走向个人计算设备。

芯师爷
产品应用8

GenAI 退烧后,这家企业正在用 “数据平台” 重构AI2B的底层逻辑

GenAI浪潮下,企业级AI落地难。矩阵起源举办新品发布会,其CEO王龙指出落地瓶颈已从大模型转向私域数据。该司推出MatrixOne和MatrixOne Intelligence,构建“数据智能飞轮”,MOI三层架构可打通数据到业务落地流程,还通过案例展现其解决实际痛点能力。

InfoQ
新闻资讯9

Claude独立攻克理论物理前沿难题,全程无人指导,花费不到两千美元

本文报道Anthropic旗下大模型Claude在几乎无人指导的情况下,独立完成理论物理前沿难题——平面N=4超杨-米尔斯理论九圈六胶子散射振幅计算,总成本不到两千美元,中科院团队也借助GPT-6得到结果,业内探讨了AI在科研中的能力边界。

DeepTech深科技
算法论文8

浙大&港理工等提出InfiGUI-R1:利用强化学习,让GUI智能体学会规划任务、反思错误

多模态大模型驱动的GUI智能体有潜力,但现有智能体面对复杂任务力不从心。浙大等机构提出InfiGUI-R1及Actor2Reasoner框架,通过两阶段训练提升智能体能力,InfiGUI-R1-3B在多基准测试中性能卓越,为GUI自动化工具开辟新道路。

机器之心