从统计物理到机器学习

统计物理是现代人工智能的先驱，二者其实是殊途同归的，在更深的层面上，它提供了一套理解复杂系统与概率结构的语言，而这套语言正以不同的形式在当代机器学习中重现。在上周听到一个报告之后，我突然产生了一些灵感，于是决定在五一期间开个坑，记录一些我个人的理解，从玻尔兹曼机到扩散模型与流模型，从随机热力学到布朗运动、Langevin方程与Fokker-Planck方程，再从变分自由能到生成式模型乃至大语言模型。我试图沿着这些线索，去追问一个问题——统计物理与人工智能之间，是否存在一种更本质的统一图景，而所谓“殊途同归”，究竟归于何处。当然，在这之前我会先把之前没补完的随机热力学笔记给补完。很久没有写博客了，论文写多了反而感觉写文章的能力有点退化了，正好借此锻炼一下。