搜索：推理加速技术

「推理加速技术」共找到 4954 篇相关文章

大模型的第一性原理：（三）信息论篇

本文从信息论角度解读大模型第一性原理。介绍Shannon信息论，提出将其从以BIT为中心转换为以TOKEN为中心解释大模型底层原理，还阐述大模型各阶段信息论原理、定向信息计算方法，对比Granger与Pearl因果。

美以对伊朗军事行动或已运用AI，美军投入大量资金研发相关技术，并通过实战迭代提升AI定点清除成功率。AI在军事中有多方面应用，美国已启动相关计划，引发全球军备竞赛，中国应迎头赶上。

全球AI竞争从技术探索进入应用兑现期，中国凭场景、数据和硬件生态领跑。小米在MWC展示人车家全生态，用顶尖AI能力和10亿级生态让AI走出屏幕，实现空间智能，率先占位全球竞争。

文章指出本月AI质变式飞跃，能独立完成复杂工作，递归自我提升循环已启动。如GPT - 5.3 - Codex有判断力和品位，AI构建自身进程加速。多数人认知滞后，作者给出应对建议，也提及AI带来创造机遇。

蚂蚁集团将LLaDA更新到2.1，通过引入“草稿 - 编辑”机制，打破扩散模型推理速度与质量的对立僵局。它有极速和质量两种模式，还采用混合训练流程及强化学习，在多基准测试中表现出色。

AI加速代码编写，但也留下更多安全坑，传统扫描工具和人工渗透测试难以应对。新晋GitHub Trending榜首工具Shannon是全球首个开源全自动AI渗透测试员，多智能体架构，功能强大，适合AI编程团队。

ASIC发展超预期，成AI竞争胜负手。它适配大厂专属需求，成本与功耗低，出货量和市场规模将扩容。英伟达GPU虽难替代，但份额会被ASIC蚕食，谷歌TPU已撕开其垄断裂缝，大厂纷纷自研ASIC。

DeepSeek更新DeepSeek - OCR 2，引入DeepEncoder V2架构，实现视觉编码范式转变。模型和技术报告齐开源，在多项测试中表现出色，降低重复率，为全模态编码提供路径，但在报纸类文档识别有不足。

IDEA研究院张磊团队与香港科技大学谭平团队联合推出SceneMaker框架，以DINO - X与Triverse为基础，实现从任意开放世界图像到带Mesh的3D场景完整重建，解决遮挡难题，有多项创新，应用场景广泛。

在‘双碳’目标与数字中国建设蓝图下，电能管理机遇巨大。黄兴博士指出将供电架构优化为高压直流可降低能耗，关键在于碳化硅功率芯片。其创办的派恩杰半导体，自主研发芯片，从芯片到封装助力客户，迎来产业机遇。