「分布式推理系统」共找到 3622 篇相关文章
LightX2V fp4 quant kernel代码笔记
这是关于 LightX2V 里 `lightx2v_kernel` 做 FP4 量化 GEMM 的读码笔记，解释接口和约束、kernel 关键路径等问题，还介绍 NVFP4 和 MX-Formats 量化原理、代码实现，以及 LightX2V 项目中的实际使用。
清华孙茂松团队 × 深言科技：以解释作为训练信号，让 8B 模型在幻觉检测上反超闭源大模型
大语言模型幻觉问题待解，成本与算力需求攀升。清华孙茂松团队联合深言科技提出FaithLens模型，把幻觉检测提升为整体评估，以解释作为训练信号，8B模型在多任务上超闭源大模型。
Agentic UI：重新定义“好体验”——不是美化按钮，而是让认知负担归零
随着 AI 从“辅助者”变为“执行者”，前端架构需重新定义。传统 UI 以“人是执行主体”为假设，已成为释放 Agent 执行能力的障碍。文章提出 Agentic UI 应成为数字员工的执行工作台，介绍了构建方法及试验成果。
近期，谷歌发了两篇Agent Scaling论文，有点东西
2025年LLM社区有Test - Time Scaling和Agent化两条主线，但‘更多agent是否更好’无人能定量回答。谷歌两篇论文将agent scaling拆成可预测、可度量的科学问题，涉及预算感知和多agent盈亏平衡点。
从豆包手机谈起：端侧智能的愿景与路线图
近日，字节跳动发布豆包手机助手，标志大模型应用从‘Chat’迈向‘Action’。文章解析其关键技术，指出虽具实用价值，但端侧智能体面临安全、自主任务、个性化服务等挑战，还展望了手机助手与端侧智能体的未来发展。
拯救大模型的逻辑短板：Nature文章预测符号主义AI与神经网络的联姻将引爆下一场技术革命
结合逻辑系统与神经网络成AI热门趋势，神经符号AI崛起，旨在弥补神经网络短板。虽面临技术挑战，但已在多领域展现潜力，不过也有质疑声，其发展仍面临诸多难题。
GPT-5.2刚发布就要被网友玩坏了~
11月19日Gemini-3-pro发布，一周抢1200万用户，OpenAI市值受威胁，GPT-5.2提前上线，专注推理、速度和削减幻觉。文中介绍其技术要点，也展示网友实测情况，如被Gemini-3.0碾压等。
AI鸿沟正在拉大！OpenAI报告揭示：不用AI的企业将被淘汰
12月8日OpenAI发布2025年报告，基于百万级企业客户数据，揭示企业AI使用量爆发式增长，重塑全球商业流与组织架构。不同行业、地域加速渗透，同时企业和员工间AI鸿沟也在拉大。
AI如何成为企业的“数字员工”？中关村科金的超级连接答案 | 甲子光年
中关村科金在EVOLVE 2025峰会上，系统回答AI成企业“数字员工”问题。针对落地困境，提出多方案；发布得助智能客户平台5.0等，实现多方面连接；强调务实态度，助力企业智能化升级。
看完最新国产AI写的公众号文章，我慌了！
AI 快砸作者饭碗，智谱 GLM - 4.6V 能根据 NeurIPS 2025 最佳论文生成图文并茂的公众号文章。它还能助力学生看论文、分析财报等，可复刻网站、处理视频，在多模态评测中达同级别 SOTA。