算法论文8

CMU&NYU：用Epiplexity解释AI“智能”来源

深度学习自然语言处理2026-01-15

AI 摘要

CMU和NYU论文指出，经典信息论在AI有三大悖论，提出Epiplexity度量信息。实验显示困难任务让模型学到通用结构，启示我们重视合成数据、按Epiplexity选预训练数据，算力能将熵变价值。

关注公众号

扫码关注
第一时间收到每日精选

公众号专辑

Tibo 揭秘 OpenAI 额度重置及产品发展策略

围绕 Codex 与 Claude Code 使用额度问题，社区不满额度机制不透明不可预测。Codex 团队 Tibo 公开额度重置逻辑源于补偿，并非营销。此外，还谈及产品融合、技术创新、算力决策等多方面内容。

8月12日，张朝阳与刘若微教授围绕“复杂的世界：从沙子到智能”主题，从沙堆、泡沫切入软物质与非平衡统计物理前沿，探讨阻塞相变、低功耗类脑智能材料研究路径及未来潜力，还分享科研感悟。

具身智能进入数据scaling时代，VLA模型训练中数据并非越多越好。上海交大同济等校团队提出ATHENA框架，将影响函数扩展到十亿参数VLA模型，解决计算和筛选难题，实现313倍加速，实验证明其用更少数据获更好效果。

本文聚焦基于神经网络的偏微分方程优化求解方法，指出传统数值求解范式有局限，物理信息神经网络（PINNs）虽有潜力但面临瓶颈。作者从多方面研究，形成工程流动问题分析框架与改进方法。